CN115120429A - 一种基于表面肌电信号的智能轮椅人体跟随控制系统 - Google Patents

一种基于表面肌电信号的智能轮椅人体跟随控制系统 Download PDF

Info

Publication number
CN115120429A
CN115120429A CN202210689065.6A CN202210689065A CN115120429A CN 115120429 A CN115120429 A CN 115120429A CN 202210689065 A CN202210689065 A CN 202210689065A CN 115120429 A CN115120429 A CN 115120429A
Authority
CN
China
Prior art keywords
wheelchair
human body
gesture
distance
polar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210689065.6A
Other languages
English (en)
Other versions
CN115120429B (zh
Inventor
袁旺
刘康维
刘勇华
黄纪杰
邹锦荣
苏春翌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong University of Technology
Original Assignee
Guangdong University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong University of Technology filed Critical Guangdong University of Technology
Priority to CN202210689065.6A priority Critical patent/CN115120429B/zh
Publication of CN115120429A publication Critical patent/CN115120429A/zh
Application granted granted Critical
Publication of CN115120429B publication Critical patent/CN115120429B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61GTRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
    • A61G5/00Chairs or personal conveyances specially adapted for patients or disabled persons, e.g. wheelchairs
    • A61G5/10Parts, details or accessories
    • A61G5/1051Arrangements for steering
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F4/00Methods or devices enabling patients or disabled persons to operate an apparatus or a device not forming part of the body 
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61GTRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
    • A61G2203/00General characteristics of devices
    • A61G2203/10General characteristics of devices characterised by specific control means, e.g. for adjustment or steering
    • A61G2203/18General characteristics of devices characterised by specific control means, e.g. for adjustment or steering by patient's head, eyes, facial muscles or voice

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Human Computer Interaction (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Vascular Medicine (AREA)
  • Prostheses (AREA)

Abstract

本发明公开了一种基于表面肌电信号的智能轮椅人体跟随控制系统,系统包括目标检测模块、肌电解码模块、运动控制模块和环境监测模块。目标检测模块识别目标人体并计算目标人体的位置;肌电解码模块采集肌电信号,并根据肌电信号识别操作者当前手势;手势用于指定轮椅跟随人体的期望距离和方位;运动控制模块根据期望的相对距离和方位驱动轮椅跟随目标人体;环境监测模块检测轮椅周围障碍物位置信息给与操作者安全提醒,并在紧急情况时通过运动模块制动轮椅。本发明针对运动功能障碍患者不能采用常规控制方式操纵轮椅的诉求提供的控制系统,可辅助运动功能障碍患者通过肌电信号操控调节轮椅跟随引领人员的队形,实现对引领人员安全、灵活的跟随。

Description

一种基于表面肌电信号的智能轮椅人体跟随控制系统
技术领域
本发明涉及智能轮椅控制系统技术领域,尤其涉及一种基于表面肌电信号的智能轮椅人体跟随控制系统。
背景技术
根据第二次全国残疾人抽样调查数据,我国肢体残疾人总数接近8296万人口,其中60岁及以上残疾人数约4416万。由于轮椅可为残疾患者或行动不便的老年人提供日常行动帮助,在社会助老助残角色中发挥了重要作用。而传统轮椅依赖与物理接触的手动操作,对于一些具有严重运动功能障碍的残障人士来说他们无法通过肢体操控传统的手动轮椅,而肌控智能轮椅可通过操作者肌电信号直接控制轮椅设备,从而,摆脱了通过传统物理接触方式操控轮椅的依赖。
发明内容
本发明的目的在于提出一种基于表面肌电信号的智能轮椅人体跟随控制系统,以解决严重运动功能障碍患者无法通过传统手动方式操控轮椅的技术问题。
为达此目的,本发明采用以下技术方案:一种基于表面肌电信号的智能轮椅人体跟随控制系统,包括目标检测模块、肌电解码模块、环境监测模块和运动控制模块;
所述目标检测模块用于识别目标人体并计算出目标人体的位置;
所述肌电解码模块用于采集操作者的肌电信号,并根据肌电信号识别操作者当前手势,生成手势信息,手势信息用于生成操作者期望轮椅跟随人体的相对距离和方位;
所述运动控制模块用于根据操作者期望轮椅跟随人体的相对距离和方位跟随目标对象;
所述环境监测模块用于获取轮椅周围障碍物的位置信息,判断轮椅与障碍物的距离是否安全,若处于非安全距离,则向操作者提供手环震动提醒,若处于危险距离,则紧急制动。
作为一种可选的实施例,所述肌电解码模块包括样本训练单元,所述样本训练单元用于采集每一种手势的肌电数据,并标记对应数据的手势标签,得到多个手势样本;建立起数据库存储所有手势样本;提取每一个手势样本的肌电信号,将提取出的肌电信号进行数据处理,筛选出有效的信号段,提取信号段的时域特征,获得训练样本的特征及样本模型;基于动态时间归整匹配算法训练出识别手势的K-近邻分类器。
作为一种可选的实施例,所述时域特征包括绝对值积分、过零点数、方差和Willison幅值,绝对值积分通过公式(1)计算;过零点数通过公式(2)计算;方差通过公式(3)计算;Willison幅值通过公式(4)计算;
Figure BDA0003700899030000021
Figure BDA0003700899030000022
Figure BDA0003700899030000023
Figure BDA0003700899030000024
其中N为样本数量,xi为第i个样本的肌肉电信号值,E(x)为平均值。
作为一种可选的实施例,所述肌电解码模块还包括未知手势识别单元,未知手势识别单元用于将新用户的手势作为未知手势输入,提取出其肌电信号,进行数据处理和特征提取,与训练得到的样本模型进行动态时间归整匹配,通过K-近邻分类器进行判断,以得到未知手势的具体手势类型。
作为一种可选的实施例,所述肌电解码模块采用极坐标的方式设置轮椅跟随目标人体的距离和方位,如图8所示,极坐标的原点是轮椅当前的方位,根据手势识别结果控制极角θs和极径rs,极坐标表示量分别被定义为:
rs=xs 2+ys 2 公式(5);
Figure BDA0003700899030000031
其中,θs为极角,即轮椅与目标人体的方位、rs为极径,即轮椅沿着θs方向的径向距离,xs表示目标人体在X轴上的坐标值,ys为目标人体在Y轴上的坐标值;
轮椅的方位控制由手势信号决定,方位控制模型如下:
θs(k+1)=θs(k)+α(k)K 公式(7);
其中,θs(k)表示第k步更新时的极角,K为常量表示旋转速度;α(k)是方位控制的输入信号,符号α(k)=[-1,0,1]。如图5所示,当手势识别结果对应于标号为“极角减”时(此时对应的手势为内旋),α(k)=1;当手势识别结果对应于标号为“极角加”时(此时对应的手势为外旋),α(k)=-1;当手势识别记过不对应于标号为“极角减”和“极角加”中的任何一个手势时,α(k)=0;
轮椅的径向距离也由手势信号决定,径向距离控制模型如下:
rs(k+1)=rs(k)+β(k)K 公式(8);
其中,rs(k)表示第k步更新时的极距,K表示径向运动的速度,β(k)是径向运动控制的输入信号。符号β(k)=[-1,0,1],当手势识别结果对应于标号为“极轴加”时(此时对应的手势为握拳),β(k)=1;当手势识别结果对应于标号为“极轴减”(此时对应的手势为伸张),β(k)=-1;当手势识别记过不对应于标号为“极轴加”和“极轴减”中的任何一个手势时,β(k)=0。
作为一种可选的实施例,运动控制模块的运动模型为领航者-跟随者模型,如图9所示,轮椅的位姿为(xF,yFF);xF为轮椅在全局坐标系的X轴坐标,yF为轮椅在全局坐标系的Y轴坐标;θF为轮椅的当前角度;目标人体的位姿为(xL,yLL);xL为目标人体在全局坐标系的X轴坐标;yL为目标人体在全局坐标系的Y轴坐标;θL为目标人体的当前朝向角,可通过骨骼识别算法检测人体关节点获得;
根据公式(9)、(10)计算出目标人体的位置:
xL=xF+lLFcos(θFK)+dcosθF 公式(9);
yL=yF+lLFsin(θFK)+dsinθF 公式(10);
其中,lLF为目标人体与摄像头的距离,
Figure BDA0003700899030000041
xc和yc可由目标检测模块的深度摄像头的深度信息获得,θK为目标人体在摄像头坐标系下的方位角,d为轮椅中心到摄像头的距离;
通过公式(11)、(12)计算轮椅的期望位姿
Figure BDA0003700899030000042
Figure BDA0003700899030000043
Figure BDA0003700899030000044
根据轮椅当前位置[xF,yF]T,令规划的理想轨迹为
Figure BDA0003700899030000045
则控制误差可以表示为:
Figure BDA0003700899030000046
对公式(14)求导得到公式(15):
Figure BDA0003700899030000047
其中取:
Figure BDA0003700899030000051
在外环收敛过程中,为保证闭环系统稳定,将理想角度
Figure BDA0003700899030000052
取值为:
Figure BDA0003700899030000053
且应满足
Figure BDA0003700899030000054
的值域为(-π/2,π/2);
针对式(17),利用双曲正弦函数将位置控制律u1、u2设计为:
Figure BDA0003700899030000055
其中k1、k2、l1、l2均为速度控制律可调参数,k1>0,l1>0,k2>0,l2>0;
根据公式(18)得到公式(19):
Figure BDA0003700899030000056
根据动态系统全局渐进稳定定理有:
Figure BDA0003700899030000057
其中η为位姿误差,a0、k0均为正的可调参数,可实现xe→0,ye→0;
由公式(18)可得实际的位置控制律为:
Figure BDA0003700899030000058
已知轮椅当前角度θF,设计姿态控制律使得θF跟踪上理想角度
Figure BDA0003700899030000059
控制误差表示为:
Figure BDA00037008990300000510
对公式(22)求导得到公式(23):
Figure BDA00037008990300000511
取滑膜函数为s=θe,则
Figure BDA00037008990300000512
设计姿态控制律为:
Figure BDA0003700899030000061
其中k3、η3为正可调系数。
根据式(24),
Figure BDA0003700899030000062
Figure BDA0003700899030000063
Figure BDA0003700899030000064
得到
Figure BDA0003700899030000065
实现θe→0。
作为一种可选的实施例,所述环境监测模块通过安装在轮椅正前方的激光传感器,以检测轮椅前进方向180度范围内的障碍物情况;
如图10所示,在2D检测平面内,定义第i处检测的信息为pi=[Rii]T,并且定义激光传感器实时检测到的障碍物距离为Ri(i=1,2,...,n),障碍物方向信息为θi(i=1,2,...,n),n为当前检测到的障碍物数量;定义向量R为轮椅的当前环境信息:R=[R1,...,Rn]T
与现有技术相比,本发明实施例具有以下有益效果:
本发明提供了一种基于表面肌电信号的智能轮椅人体跟随控制方案,针对运动功能障碍患者不能采用常规控制方式操纵轮椅的诉求,提供一种基于表面肌电信号的人机协作型智能轮椅人体跟随控制系统,目标检测模块识别目标人体并计算目标人体的位置;肌电解码模块采集肌电信号,并根据肌电信号识别操作者当前手势;手势用于指定轮椅跟随人体的期望距离和方位;运动控制模块根据期望跟随的距离和方位驱动轮椅跟随目标人体;环境监测模块检测轮椅周围障碍物位置信息给与操作者安全提醒,并在紧急情况时通过运动模块制动轮椅。本发明针对运动功能障碍患者不能采用常规控制方式操纵轮椅的诉求,提供一种基于表面肌电信号的人机协作型智能轮椅人体跟随控制系统,可辅助运动功能障碍患者通过肌电信号操控轮椅调节跟随引领人员的队形,实现对引领人员安全、灵活的跟随。
附图说明
图1是本发明的整体流程示意图;
图2是本发明的智能轮椅硬件框架图;
图3是本发明的智能轮椅模块结构示意图;
图4是本发明的智能轮椅关键硬件功能示意图;
图5是本发明的手势示意图;
图6是本发明的手势样本训练流程图;
图7是本发明的手势识别流程图;
图8是本发明的极坐标映射关系示意图;
图9是本发明的目标人体与轮椅的位姿关系示意图;
图10是本发明的障碍物与轮椅的位姿关系示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
下面结合图1至图10,描述本发明实施例的一种基于表面肌电信号的智能轮椅人体跟随控制系统,包括目标检测模块、肌电解码模块、环境监测模块、运动控制模块;所述目标检测模块用于识别目标人体并计算出目标人体的位置;所述肌电解码模块用于采集操作者的肌电信号,并根据肌电信号识别操作者当前手势,生成手势信息;手势用于指定目标点的方向和距离;所述运动控制模块用于根据期望跟随的距离和方位跟随目标人体;所述环境监测模块通过激光传感器检测轮椅周围障碍物给与操作者安全提醒,在紧急情况时通过运动模块制动轮椅。
本发明提供了一种基于表面肌电信号的智能轮椅人体跟随控制方案,针对运动功能障碍患者不能采用常规控制方式操纵轮椅的诉求,提供一种基于表面肌电信号的人机协作型智能轮椅人体跟随控制系统:目标检测模块识别目标人体并计算目标人体的位置;肌电解码模块采集肌电信号,并根据肌电信号识别操作者当前手势;手势用于指定轮椅跟随人体的期望距离和方位;运动控制模块根据期望跟随的距离和方位驱动轮椅跟随目标人体;环境监测模块检测轮椅周围障碍物位置信息给与操作者安全提醒,并在紧急情况时通过运动模块制动轮椅。整个系统可辅助运动功能障碍患者通过肌电信号操控调节轮椅跟随引领人员的队形,实现对引领人员安全、灵活的跟随。
具体的,如图2所示,本发明提供的智能轮椅主要由电源组件、主控组件、运动组件、感知组件、这四大组件组成。如图3所示,将轮椅的车轮连接上安装有编码器的直流电机,且连接上驱动器、紧急开关,组成移动轮椅的运动组件;加入工控机,作为轮椅的主控组件,搭配激光传感器、深度摄像头、肌电手环等感知设备作为智能轮椅的感知组件,最后为整个系统提供总电源,连接好线路即为本设计的整体硬件结构。
当智能轮椅工作时,感知组件检测到环境信息,发送到主控组件进行分析和处理之后,由主控组件对运动组件发送运动指令,控制车轮的速度和方向。
每个组件的器件组成与功能如下:
电源组件:将24V 20AH的电池连接到24V-12V变压器,给显示器提供12V直流电压,激光传感器、驱动器和工控机则直接由电源提供24V直流电压,除以上设备需要单独供电外,其他设备直接由工控机供电,如图3所示。
主控组件:由工控机组成,集中分析处理来自感知组件和运动组件的信息,并调整和发送控制指令,控制智能轮椅运动。与各组件之间的信息传输方式如图3所示,其中,激光传感器通过以太网口将信息传输至工控机,深度摄像头通过USB接口与工控机相连,运动组件中,驱动器、电机以及光电编码器组成一个闭环的整体结构,通过CAN总线与工控机进行数据传输。
感知组件:由肌电手环、激光传感器和深度摄像头组成,采集人体和周围环境的信息,再将所测数据发送到工控机,提供人体特征和环境特征,用于路径规划,保证行驶过程安全,实现用户需求。
运动组件:由驱动器、直流电机、光电编码器组成一个闭环的整体结构,由一个紧急开关控制整个组件的通断。整个组件的信息通过CAN总线设备传输到工控机中,通过CAN总线接收来自工控机发出的运动指令。
深度摄像头识别目标人体并在工控机应用程序中计算获取目标人体的位置信息。肌电采集手环进行手势识别,工控机接受不同的手势对应的指令信息,手势信息映射到极坐标系上,用来调节控制跟随目标人体的距离和方位,并在工控机应用程序的极坐标中显示出来。激光传感器获取轮椅周围环境信息,即获得障碍物位置信息并判断轮椅与最邻近的障碍物距离是否小于安全距离
Figure BDA0003700899030000091
是则肌电采集手环发出震动,提醒操作者修改跟随距离与跟随方位,否则继续前进。当轮椅与最邻近的障碍物距离小于安全距离
Figure BDA0003700899030000092
则轮椅制动。轮椅按照操作者通过肌电信号指定的相对距离和方位跟随引领者运动,始终与引领者保持期望的相对距离和方位。若中途想改变跟随距离与角度,用户也可在未到达目标点前用肌电手环设置新的跟随距离与角度。
值得说明的是,目标检测模块利用深度摄像头实时观测目标,获得目标点相对轮椅的距离和方位。深度摄像头发送红外线并接收反射回的红外线,计算往返红外线的时间差,采集3D深度图像;在工控机的应用程序中分割3D深度图像,剔除除人体之外的背景图像,将剩余图像转换成深度值作为训练样本;以身体部位作为标签对应分离训练样本并以此训练分类器直至分类器能够识别指定的3D深度图像对应身体部位的类别;确定身体部位的关节,追踪对应的关节点并生成骨骼,以此骨骼实现对目标人体的识别和跟踪。
本发明采用深度摄像头,该摄像头则采用了飞行时间法(Time of Flight,TOF)技术。红外发射器发射经过调制的近红外光线,红外光线照到视野中的对象上会发生反射,红外相机接收反射回来的红外光线,采用TOF技术,计算光线的时间差(通常是通过相位差来计算的),可得对象的深度(即对象到深度相机的距离)。
骨骼识别调用开放式的自然交互(Open Natural Interaction,OpenNI)库的应用接口函数控制Kinect摄像头获取图像流,并对每一帧图像进行处理。首先对采集到的3D深度图像进行图像分割,剔除除人体之外的背景图像,减轻计算量。将处理过后的3D深度图像转换成深度值作为训练样本,训练出一种含有许多深度特征的分类器,用来识别物体,来确定身体的部位。将身体的部位作为标签分离出训练样本对应的深度图像,然后训练一个决策树分类器,直到决策树能给特定身体部位上的测试集图像作出准确的分类。这些训练过的分类器指定每个像素在各个身体部位的可能性。接下来设计一个算法为每个身体部位选择几率最大的区域,则这个区域被分配为对应的身体部位类别。深度摄像头会追踪接近人体比例的大字形的物体。最后使用之前判断的所有结果,确定对应身体部位的关节,追踪对应的关节点来生成一副骨骼,并实现骨骼跟踪。
值得说明的是,肌电解码模块用于采集操作者表面肌电信号识别操作者的手势,识别的手势用于调节跟随引领者期望的相对位置,所得的轮椅目标点跟随的距离和方位信息作为轮椅运动规划模块的输入参数之一,目标点跟随的距离和方位是用极坐标的形式表现的。
肌电采集手环检测手臂肌电信号,精确检测出如图5所示5种手势,包括:握拳、伸张、内旋、外旋和双击。双击是指手按照图中所示姿势,快速动作两次。图5中手势下方文字为对应的控制指令,包括:极轴减(握拳)、极轴加(伸张)、极角加(内旋)、极角减(外旋)以及模式转换(双击)。
由于人体的灵活多变性与个体的特征多样性,同一个手势在不同的个体中实现时,动作的轨迹、速度和运动节奏存在差异,甚至同种动作由同个个体在不同时刻做出的手势细节也存在差别。这使得肌电设备传入的序列在时间轴上无法完全对齐,同时也无法通过线性缩放的方法使两个序列对齐。针对这种问题,可以使用动态时间归整(Dynamic TimeWarping,DTW)算法对时间序列进行局部非线性缩放,使两个序列形态尽可能对齐。
K-近邻(KNearest Neighbors,KNN)分类器的基本思想是:输入无标签(标注数据的类别)的数据,即未经分类的新数据,首先提取新数据的特征并与测试集中的每个数据特征比较,然后在测试集中提取K个最相似的数据特征标签,统计这K个最相似数据特征标签中出现最频繁的分类,将其作为新的数据类别。
在KNN学习中,首先计算未分类数据特征与训练集数据特征之间的距离并排序。取出距离最近的K个训练集数据特征。然后根据这K个相近特征所属类别来判定新数据类别:若它们都属于一类,则新样本也属于该类;否则,对每个候选类别进行评分,按照某种规则确定新样本的类别。这里的KNN分类器之间的差别就在于用的算法之间的差别,此处使用的是DTW算法。
特征提取是目标识别中的一个重要环节。识别系统的识别能力与特征矢量的选取有关。对于肌控系统来说,如何寻找有效的特征来表征肌电信号是动作肌电模式识别的根本问题。需要分别用公式处理原始的肌电信号,才能够进一步获取到肌电信号的特征。
肌电解码模块由两部分组成:样本训练和未知手势识别,对应的结构框图分别如图6和图7所示。
其中,关于手势样本训练的过程,首先对每一种手势的肌电数据进行采集,并且标好对应数据的手势标签,然后建立数据库保存所有的样本。提取出每一个样本的EMG信号,进行数据处理,筛选出有效的信号段,提取该信号段的特征,作为训练样本的特征,借助DTW匹配算法训练出能够有效识别手势的KNN分类器。
手势识别的过程是针对新用户的手势,作为未知手势输入,获取其EMG信号,对其进行数据处理和特征提取,然后和已训练过的样本模型进行DTW匹配,最后通过KNN分类器进行判断,得到未知手势的具体手势类型。其中,在识别过程中所使用的特征是时域特征,主要包括绝对值积分、过零点数、方差和Willison幅值等。绝对值积分通过公式(1)计算;过零点数通过公式(2)计算;方差通过公式(3)计算;Willison幅值通过公式(4)计算;
Figure BDA0003700899030000121
Figure BDA0003700899030000122
Figure BDA0003700899030000123
Figure BDA0003700899030000124
其中N为样本数量,xi为第i个样本的肌肉电信号值,E(x)为平均值。
目标点跟随的距离和方位是用极坐标的形式表现的。如图8所示,这里需要将手势识别模块获取的手势信息用于在极坐标中控制跟随目标的距离和方位。用肌电采集手环的手势识别来设置跟随的方向和距离,然后把跟随信息实时显示到极坐标系中。
本发明采用极坐标的方式控制轮椅运动目标点的距离和方位,极坐标的原点是轮椅当前的方位,肌电采集手环识别手势来控制极角和极径,极坐标表示量分别被定义为:
rs=xs 2+ys 2 公式(5);
Figure BDA0003700899030000131
其中,θs为极角,即轮椅与目标人体的方位,rs为极径,即轮椅沿着θs方向的径向距离,xs表示目标人体在X轴上的坐标值,ys为目标人体在Y轴上的坐标值;
轮椅的方位控制由手势信号决定,方位控制模型如下:
θs(k+1)=θs(k)+α(k)k 公式(7);
其中,θs(k)表示第k步更新时的极角,K为常量表示旋转速度;α(k)是方位控制的输入信号,符号α(k)=[-1,0,1]。如图5所示,当手势识别结果对应于标号为“极角加”时(此时对应的手势为内旋),α(k)=1;当手势识别结果对应于标号为“极角减”时(此时对应的手势为外旋),α(k)=-1;当手势识别记过不对应于标号为“极角加”和“极角减”中的任何一个手势时,α(k)=0;
轮椅的径向距离也由手势信号决定,径向距离控制模型如下:
rs(k+1)=rs(k)+β(k)K 公式(8);
其中,rs(k)表示第k步更新时的极距,K表示径向运动的速度,β(k)是径向运动控制的输入信号。符号β(k)=[-1,0,1],当手势识别结果对应于标号为“极轴加”时(此时对应的手势为握拳),β(k)=1;当手势识别结果对应于标号为“极轴减”(此时对应的手势为伸张),β(k)=-1;当手势识别记过不对应于标号为“极轴加”和“极轴减”中的任何一个手势时,β(k)=0。
程序的状态一共分为“空闲”、“就绪”、“已设置”。进入程序后处于“空闲”状态,“空闲”状态下无法进行调节操作;“空闲”状态下接收到“模式切换”指令时(此时对应的手势为双击),切换为“就绪”状态,此时可以进行调节;“就绪”状态下接收到“模式切换”指令时(此时对应的手势为双击),切换为“已设置”状态,此时可以将调节完毕的跟随人体的相对位置和距离传送给运动控制模块;“已设置”状态下接收到除“模式切换”指令外的其它指令时(此时对应的手势为外旋、内旋、握拳、伸张),切换为“就绪”状态,此时可以继续进行调节;
通过这样简单的5个手势即可实现将肌电手势信号映射到极坐标系中极径和极角的增减,非常简单方便。
值得说明的是,运动控制模块接收轮椅运动规划模块规划得到的输入参数,使用双闭环控制器得到输出的速度和角速度,将其输出到电机端使得电机运动,控制器的描述如下:如图9所示,轮椅的运动学模型与两轮驱动移动机器人相同,(xF,yFF)分别表示轮椅的位姿:轮椅全局坐标系X轴坐标、Y轴坐标以及航向角;(vF,wF)代表轮椅移动时线速度以及角速度。该控制器的目标是控制智能轮椅跟随运动的目标对象同时保持一定的距离lLF以及方位θF
本发明使用的位姿保持算法基于领航者-跟随者模型,并且根据此模型描述轮椅与目标人体之间的位置关系。轮椅的位姿为(xF,yFF);xF为轮椅在全局坐标系的X轴坐标,yF为轮椅在全局坐标系的Y轴坐标;θF为轮椅的当前角度;目标人体的位姿为(xL,yLL);xL为目标人体在全局坐标系的X轴坐标;yL为目标人体在全局坐标系的Y轴坐标;θL为目标人体的当前朝向角,可通过骨骼识别算法检测人体关节点获得;
根据公式(9)、(10)计算出目标人体的位置:
xL=xF+lLFcos(θFK)+dcosθF 公式(9);
yL=yF+lLFsin(θFK)+dsinθF 公式(10);
其中,lLF为目标人体与摄像头的水平位置距离,
Figure BDA0003700899030000151
xc和yc可由目标检测模块的深度摄像头的深度信息获得,θK为目标人体在摄像头坐标系下的方位角,d为轮椅中心到摄像头的距离;
通过公式(11)、(12)计算轮椅的期望位姿
Figure BDA0003700899030000152
Figure BDA0003700899030000153
Figure BDA0003700899030000154
根据轮椅当前位置[xF,yF]T,令规划的理想轨迹为
Figure BDA0003700899030000155
则控制误差可以表示为:
Figure BDA0003700899030000156
对公式(14)求导得到公式(15):
Figure BDA0003700899030000157
其中取:
Figure BDA0003700899030000158
因此,在外环收敛过程中,为保证闭环系统稳定,将理想角度
Figure BDA0003700899030000159
取值为:
Figure BDA00037008990300001510
且应满足
Figure BDA00037008990300001511
的值域为(-π/2,π/2);
针对式(17),利用双曲正弦函数将位置控制律u1、u2设计为:
Figure BDA00037008990300001512
其中k1、k2、l1、l2均为速度控制律可调参数,k1>0,l1>0,k2>0,l2>0;
根据公式(18)得到公式(19):
Figure BDA0003700899030000161
根据动态系统全局渐进稳定定理有:
Figure BDA0003700899030000162
其中η为位姿误差,a0、k0均为正的可调参数,可实现xe→0,ye→0;
由公式(18)可得实际的位置控制律为:
Figure BDA0003700899030000163
已知轮椅当前角度θF,设计姿态控制律使得θF跟踪上理想角度
Figure BDA0003700899030000164
控制误差表示为:
Figure BDA0003700899030000165
对公式(22)求导得到公式(23):
Figure BDA0003700899030000166
取滑膜函数为s=θe,则
Figure BDA0003700899030000167
设计姿态控制律为:
Figure BDA0003700899030000168
其中k3、η3为正的可调系数。
根据式(24),
Figure BDA0003700899030000169
Figure BDA00037008990300001610
Figure BDA00037008990300001611
得到
Figure BDA00037008990300001612
实现θe→0。
值得说明的是,环境监测模块是通过安装在轮椅正前方的激光传感器,检测轮椅前进方向180度范围内的障碍物信息,该信息以轮椅X轴正方向为起点,逆时针方向旋转180度的范围。如图10所示在2D检测平面内,定义第i处检测的信息为pi=[Rii]T,并且定义激光传感器实时检测到的障碍物距离为Ri(i=1,2,...,n),n为当前检测到的障碍物数量,故可以定义向量R,其代表了轮椅当前环境信息。有:R=[R1,...,Rn]T.以判断轮椅与最邻近的障碍物距离是否小于安全距离
Figure BDA0003700899030000171
是则肌电采集手环发出震动,提醒操作者修改跟随距离与跟随方位,否则继续前进。当轮椅与最邻近的障碍物距离小于安全距离
Figure BDA0003700899030000172
则轮椅制动。
根据本发明实施例的一种基于表面肌电信号的智能轮椅人体跟随控制系统的其他构成等以及操作对于本领域普通技术人员而言都是已知的,这里不再详细描述。
在本说明书的描述中,参考术语“实施例”、“示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。

Claims (7)

1.一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:包括目标检测模块、肌电解码模块、环境监测模块和运动控制模块;
所述目标检测模块用于识别目标人体并计算出目标人体的位置;
所述肌电解码模块用于采集操作者的肌电信号,并根据肌电信号识别操作者当前手势,生成手势信息,手势信息用于生成操作者期望轮椅跟随人体的相对距离和方位;
所述运动控制模块用于根据操作者期望轮椅跟随人体的相对距离和方位跟随目标对象;
所述环境监测模块用于获取轮椅周围障碍物的位置信息,判断轮椅与障碍物的距离是否安全,若处于非安全距离,则向操作者提供手环震动提醒,若处于危险距离,则紧急制动。
2.根据权利要求1所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:所述肌电解码模块包括样本训练单元,所述样本训练单元用于采集每一种手势的肌电数据,并标记对应数据的手势标签,得到多个手势样本;建立起数据库存储所有手势样本;提取每一个手势样本的肌电信号,将提取出的肌电信号进行数据处理,筛选出有效的信号段,提取信号段的时域特征,获得训练样本的特征及样本模型;基于动态时间归整匹配算法训练出识别手势的K-近邻分类器。
3.根据权利要求2所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:所述时域特征包括绝对值积分、过零点数、方差和Willison幅值,绝对值积分通过公式(1)计算;过零点数通过公式(2)计算;方差通过公式(3)计算;Willison幅值通过公式(4)计算;
Figure FDA0003700899020000021
Figure FDA0003700899020000022
Figure FDA0003700899020000023
Figure FDA0003700899020000024
其中N为样本数量,xi为第i个样本的肌肉电信号值,E(x)为平均值。
4.根据权利要求2所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:所述肌电解码模块还包括未知手势识别单元,未知手势识别单元用于将新用户的手势作为未知手势输入,提取出其肌电信号,进行数据处理和特征提取,与训练得到的样本模型进行动态时间归整匹配,通过K-近邻分类器进行判断,以得到未知手势的具体手势类型。
5.根据权利要求1所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:所述肌电解码模块采用极坐标的方式设置轮椅跟随目标人体的距离和方位,极坐标的原点是轮椅当前的方位,根据手势识别结果控制极角θs和极径rs,分别被定义为:
Figure FDA0003700899020000025
Figure FDA0003700899020000026
其中,θs为极角,即轮椅与目标人体的方位;rs为极径,即轮椅沿着θs方向的径向距离,xs表示目标人体在X轴上的坐标值,ys为目标人体在Y轴上的坐标值;
轮椅的方位控制由手势信号决定,方位控制模型如下:
θs(k+1)=θs(k)+α(k)K 公式(7);
其中,θs(k)表示第k步更新时的极角,K为常量表示旋转速度;α(k)是方位控制的输入信号,符号α(k)=[-1,0,1];当手势识别结果对应于标号为“极角减”时(此时对应的手势为内旋),α(k)=1;当手势识别结果对应于标号为“极角加”时(此时对应的手势为外旋),α(k)=-1;当手势识别记过不对应于标号为“极角减”和“极角加”中的任何一个手势时,α(k)=0;
轮椅的径向距离也由手势信号决定,径向距离控制模型如下:
rs(k+1)=rs(k)+β(k)K 公式(8);
其中,rs(k)表示第k步更新时的极距,K表示径向运动的速度,β(k)是径向运动控制的输入信号;符号β(k)=[-1,0,1],当手势识别结果对应于标号为“极轴加”时(此时对应的手势为握拳),β(k)=1;当手势识别结果对应于标号为“极轴减”(此时对应的手势为伸张),β(k)=-1;当手势识别记过不对应于标号为“极轴加”和“极轴减”中的任何一个手势时,β(k)=0。
6.根据权利要求1所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:运动控制模块的运动模型为领航者-跟随者模型,轮椅的位姿为(xF,yF,θF);xF为轮椅在全局坐标系的X轴坐标,yF为轮椅在全局坐标系的Y轴坐标;θF为轮椅的当前角度;目标人体的位姿为(xL,yL,θL);xL为目标人体在全局坐标系的X轴坐标;yL为目标人体在全局坐标系的Y轴坐标;θL为目标人体的当前朝向角,可通过骨骼识别算法检测人体关节点获得;
根据公式(9)、(10)计算出目标人体的位置:
xL=xF+lLFcos(θFK)+d cosθF 公式(9);
yL=yF+lLFsin(θFK)+d sinθF 公式(10);
其中,lLF为目标人体与摄像头的水平位置距离,
Figure FDA0003700899020000031
xc和yc可由目标检测模块的深度摄像头的深度信息获得,θK为目标人体在摄像头坐标系下的方位角,d为轮椅中心到摄像头的距离;
通过公式(11)、(12)计算轮椅的期望位姿
Figure FDA0003700899020000032
Figure FDA0003700899020000033
Figure FDA0003700899020000041
根据轮椅当前位置[xF,yF]T,规划理想轨迹
Figure FDA0003700899020000042
控制误差可以表示为:
Figure FDA0003700899020000043
对公式(14)求导得到公式(15):
Figure FDA0003700899020000044
其中取:
Figure FDA0003700899020000045
在外环收敛过程中,为保证闭环系统稳定,将理想角度
Figure FDA0003700899020000046
取值为:
Figure FDA0003700899020000047
且应满足
Figure FDA0003700899020000048
的值域为(-π/2,π/2);
针对式(17),利用双曲正弦函数将位置控制律u1、u2设计为:
Figure FDA0003700899020000049
其中k1、k2、l1、l2均为正的可调参数;根据公式(18)得到公式(19):
Figure FDA00037008990200000410
根据动态系统全局渐进稳定定理有:
Figure FDA00037008990200000411
其中η为位姿误差,a0、k0均为正的可调参数,可实现xe→0,ye→0;
由公式(18)可得实际的位置控制律为:
Figure FDA00037008990200000412
已知轮椅当前角度θF,设计姿态控制律使得θF跟踪上理想角度
Figure FDA0003700899020000051
控制误差表示为:
Figure FDA0003700899020000052
对公式(22)求导得到公式(23):
Figure FDA0003700899020000053
取滑膜函数为s=θe,则
Figure FDA0003700899020000054
设计姿态控制律为:
Figure FDA0003700899020000055
其中k3、η3为正的可调系数;
根据式(24),
Figure FDA0003700899020000056
Figure FDA0003700899020000057
Figure FDA0003700899020000058
得到
Figure FDA0003700899020000059
实现θe→0。
7.根据权利要求1所述的一种基于表面肌电信号的智能轮椅人体跟随控制系统,其特征在于:所述环境监测模块通过安装在轮椅正前方的激光传感器,以检测轮椅前进方向180度范围内的障碍物情况;
在2D检测平面内,定义第i处检测的信息为pi=[Ri,θi]T,并且定义激光传感器实时检测到的障碍物距离为Ri(i=1,2,...,n),障碍物方向信息为θi(i=1,2,...,n),n为当前检测到的障碍物数量;定义向量R为轮椅的当前环境信息:R=[R1,...,Rn]T
CN202210689065.6A 2022-06-17 2022-06-17 一种基于表面肌电信号的智能轮椅人体跟随控制系统 Active CN115120429B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210689065.6A CN115120429B (zh) 2022-06-17 2022-06-17 一种基于表面肌电信号的智能轮椅人体跟随控制系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210689065.6A CN115120429B (zh) 2022-06-17 2022-06-17 一种基于表面肌电信号的智能轮椅人体跟随控制系统

Publications (2)

Publication Number Publication Date
CN115120429A true CN115120429A (zh) 2022-09-30
CN115120429B CN115120429B (zh) 2023-03-10

Family

ID=83377316

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210689065.6A Active CN115120429B (zh) 2022-06-17 2022-06-17 一种基于表面肌电信号的智能轮椅人体跟随控制系统

Country Status (1)

Country Link
CN (1) CN115120429B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117084872A (zh) * 2023-09-07 2023-11-21 中国科学院苏州生物医学工程技术研究所 基于颈部肌电的助行器控制方法、系统、介质及助行器

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108606882A (zh) * 2018-03-23 2018-10-02 合肥工业大学 基于肌电和加速度自适应控制的智能轮椅控制系统
CN109062401A (zh) * 2018-07-11 2018-12-21 北京理工大学 一种基于肌电信号的实时手势识别系统
CN109044651A (zh) * 2018-06-09 2018-12-21 苏州大学 未知环境中基于自然手势指令的智能轮椅控制方法及系统
US20190192361A1 (en) * 2016-09-06 2019-06-27 Cyberdyne Inc. Mobility and mobility system
CN110298286A (zh) * 2019-06-24 2019-10-01 中国科学院深圳先进技术研究院 基于表面肌电与深度图像的虚拟现实康复训练方法及系统
CN110362093A (zh) * 2019-08-06 2019-10-22 苏州红树林智能科技有限公司 基于视觉和三点定位的智能轮椅及其控制系统的跟随方法
CN110639169A (zh) * 2019-09-25 2020-01-03 燕山大学 基于游戏和肌电信号的cpm下肢康复训练方法及系统
CN110710970A (zh) * 2019-09-17 2020-01-21 北京海益同展信息科技有限公司 肢体动作的识别方法、装置、计算机设备及存储介质
CN111134974A (zh) * 2019-12-09 2020-05-12 西安交通大学 一种基于增强现实和多模态生物信号的轮椅机器人系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190192361A1 (en) * 2016-09-06 2019-06-27 Cyberdyne Inc. Mobility and mobility system
CN108606882A (zh) * 2018-03-23 2018-10-02 合肥工业大学 基于肌电和加速度自适应控制的智能轮椅控制系统
CN109044651A (zh) * 2018-06-09 2018-12-21 苏州大学 未知环境中基于自然手势指令的智能轮椅控制方法及系统
CN109062401A (zh) * 2018-07-11 2018-12-21 北京理工大学 一种基于肌电信号的实时手势识别系统
CN110298286A (zh) * 2019-06-24 2019-10-01 中国科学院深圳先进技术研究院 基于表面肌电与深度图像的虚拟现实康复训练方法及系统
CN110362093A (zh) * 2019-08-06 2019-10-22 苏州红树林智能科技有限公司 基于视觉和三点定位的智能轮椅及其控制系统的跟随方法
CN110710970A (zh) * 2019-09-17 2020-01-21 北京海益同展信息科技有限公司 肢体动作的识别方法、装置、计算机设备及存储介质
CN110639169A (zh) * 2019-09-25 2020-01-03 燕山大学 基于游戏和肌电信号的cpm下肢康复训练方法及系统
CN111134974A (zh) * 2019-12-09 2020-05-12 西安交通大学 一种基于增强现实和多模态生物信号的轮椅机器人系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117084872A (zh) * 2023-09-07 2023-11-21 中国科学院苏州生物医学工程技术研究所 基于颈部肌电的助行器控制方法、系统、介质及助行器
CN117084872B (zh) * 2023-09-07 2024-05-03 中国科学院苏州生物医学工程技术研究所 基于颈部肌电的助行器控制方法、系统、介质及助行器

Also Published As

Publication number Publication date
CN115120429B (zh) 2023-03-10

Similar Documents

Publication Publication Date Title
WO2018120964A1 (zh) 一种基于深度信息和骨骼信息的姿势矫正方法
Qi et al. Multi-sensor guided hand gesture recognition for a teleoperated robot using a recurrent neural network
CN105739702B (zh) 用于自然人机交互的多姿态指尖跟踪方法
Gu et al. Human gesture recognition through a kinect sensor
Droeschel et al. Learning to interpret pointing gestures with a time-of-flight camera
CN103679203B (zh) 机器人的人脸检测与情感识别系统及方法
CN109044651B (zh) 未知环境中基于自然手势指令的智能轮椅控制方法及系统
JP2010112927A (ja) 触行動認識装置及び触行動認識方法、情報処理装置、並びにコンピューター・プログラム
CN111531537B (zh) 基于多传感器的机械臂控制方法
Wu et al. A Visual-Based Gesture Prediction Framework Applied in Social Robots.
CN106625658A (zh) 一种实时模仿人体上半身动作的人形机器人控制方法
CN115120429B (zh) 一种基于表面肌电信号的智能轮椅人体跟随控制系统
CN114265498B (zh) 一种多模态手势识别和视觉反馈机制结合的方法
CN114848315B (zh) 一种基于表面肌电信号的智能轮椅人机协同控制系统
CN113849068A (zh) 一种手势多模态信息融合的理解与交互方法及其系统
Chen et al. Unsupervised sim-to-real adaptation for environmental recognition in assistive walking
CN102156994B (zh) 一种单视角无标记人体运动跟踪的关节定位方法
Wang et al. Wearable sensors-based hand gesture recognition for human–robot collaboration in construction
CN116236328A (zh) 基于视觉的可实现自然抓取的智能假肢系统
CN113423341A (zh) 用于可穿戴电极传感器系统的自动校准的方法和装置
Rahmaniar et al. Touchless head-control (thc): Head gesture recognition for cursor and orientation control
CN115723152B (zh) 一种智能护理机器人
Veerapalli Sign language recognition through fusion of 5DT data glove and camera based information
CN111230872B (zh) 一种基于多传感器的物体递交意图识别系统及方法
Jin et al. Human-robot interaction for assisted object grasping by a wearable robotic object manipulation aid for the blind

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant