CN107766773A - 基于手势的多维度控制方法和控制装置 - Google Patents

基于手势的多维度控制方法和控制装置 Download PDF

Info

Publication number
CN107766773A
CN107766773A CN201610676634.8A CN201610676634A CN107766773A CN 107766773 A CN107766773 A CN 107766773A CN 201610676634 A CN201610676634 A CN 201610676634A CN 107766773 A CN107766773 A CN 107766773A
Authority
CN
China
Prior art keywords
gesture
degree
freedom
signal
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610676634.8A
Other languages
English (en)
Inventor
林闯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ningbo Atom Intelligent Tech Co Ltd
Original Assignee
Ningbo Atom Intelligent Tech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ningbo Atom Intelligent Tech Co Ltd filed Critical Ningbo Atom Intelligent Tech Co Ltd
Priority to CN201610676634.8A priority Critical patent/CN107766773A/zh
Publication of CN107766773A publication Critical patent/CN107766773A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/01Indexing scheme relating to G06F3/01
    • G06F2203/011Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns

Abstract

本发明实施例提供了基于手势的多维度控制方法和控制装置。该控制方法包括:检测用户的手势动作以获取与该手势动作对应的肌电信号Z,该手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;依据以下方程式对所获取的肌电信号Z进行处理;Z’=W’·F,Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。通过根据本发明实施例的基于手势的多维度控制方法和控制装置,可以基于稀疏非负矩阵因数分解来将代表手势动作的肌电信号转换为控制信号,以进行基于手势的同步和正比例控制。

Description

基于手势的多维度控制方法和控制装置
技术领域
本发明涉及手势控制领域,特别涉及基于手势的多维度控制方法和控制装置。
背景技术
随着电子设备的广泛普及,希望开发出更加丰富的人机交互技术,从而促进电子设备的使用便利度。
例如,电子设备可以包括传感器来检测用户的输入,并且基于用户的输入来产生各种各样的控制信号以控制电子设备执行各种功能。传感器类型和输入类型都可以具有多种形式,包括但是不限于:提供手动控制的触摸传感器(例如,按钮、开关、触摸板、按键等),提供语音控制的声学传感器,和/或提供姿态控制的加速度传感器。
手势识别系统是用于实现一种类型的姿态控制的系统,其检测用户执行的手势,并且对手势进行识别和分类。但是目前,这种手势识别系统通常仅能够实现有限的手势识别性能,并且精度难以到达实际应用要求。
在现有的基于手势控制的人机交互系统中,通常采用摄像头来捕捉人的手势,并且在算法层面对捕捉到的手势图像进行处理,以识别出人的手势。但是,这种方式通常更适合于识别静态的手势,即所谓的“手型”,而并不适合于动态的手势动作。此外,这种方式的实际应用范围常常会受到限制,例如场地限制、活动范围限制、环境因素限制(亮度等),等等。
如果要识别动态的手势动作,现有的手势识别系统需要配备多个摄像头,例如微软XBOX 360的Kinect手势识别系统,显然其对于摄像头性能和算法处理方面都要求很高。
因此,期望提供改进的基于手势进行控制的方法和装置。
发明内容
本发明的目的在于针对上述现有技术的缺陷和不足,提供能够基于手势实现多维度的同步和正比例控制的控制方法和控制装置。
根据本发明的一方面,提供了一基于手势的多维度控制方法,包括:
检测用户的手势动作以获取与所述手势动作对应的肌电信号Z,所述手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;
依据以下方程式对所获取的肌电信号Z进行处理;
Z’=W’·F (1)
Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;
其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。
在上述基于手势的多维度控制方法中,所述第一单自由度动作是手腕翻转,且所述第二单自由度动作是手腕旋转。
在上述基于手势的多维度控制方法中,所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,且F2是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制方法中,进一步包括:
根据以下方程式由缩放校正因数缩放所述控制信号:
其中,所述缩放校正因数τij被确定为使得所述控制信号F被映射到手腕的整个关节角度范围。
在上述基于手势的多维度控制方法中,所述手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和,所述第一单自由度动作是手腕翻转,所述第二单自由度动作是手腕旋转,且所述第三单自由度动作是手掌张握。
在上述基于手势的多维度控制方法中,所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,F2是用于所述第二单自由度的控制信号,且F3是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制方法中,每一单自由度动作用于控制包括运动方向和运动速度的至少其中之一的运动参数。
在上述基于手势的多维度控制方法中,所述特征Z’是以下的至少一个:所述肌电信号Z的均方根:Z’=√Z;或者所述肌电信号Z的时域特征或自回归参数。
在上述基于手势的多维度控制方法中,以包括如下步骤的训练过程获得所述系统转移矩阵W:
使得训练对象进行包括多个单自由度动作的多个训练用手势动作;
将从每个训练用手势动作检测到的肌电信号组合记为肌电信号矩阵Z1;
应用稀疏非负整数因数分解算法将所述肌电信号矩阵Z1分解为非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,i表示迭代次数;
通过迭代来更新非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,其中所述非负控制信号矩阵Fi的每个行向量表示所述手势动作的其中一个单自由度动作;和
获得更新后的非负系统转移矩阵Wi作为系统转移矩阵W。
在上述基于手势的多维度控制方法中,所述稀疏非负整数因数分解算法向非负整数因数分解的解添加约束且要求所述解最大化结果控制函数的稀疏性。
在上述基于手势的多维度控制方法中,应用所述稀疏非负整数因数分解算法分解所述肌电信号矩阵Z1具体包括:
基于l1范数来控制非负控制信号矩阵F的稀疏性程度,由以下方程式表示:
s.t.Wij,Fij≥0 (5)
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,m是检测肌电信号的信道数,T是时间长度,λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数,上标“+”和“-”表示每个自由度的正向和负向。
在上述基于手势的多维度控制方法中,所述方程式(5)重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。
在上述基于手势的多维度控制方法中,通过交替非负最小二乘方法来求解方程式(6),并通过固定所述系统转移矩阵W和所述信号矩阵F中的一个来迭代的更新另一个,如以下方程式所示:
其中所述F(k+1)和W(k+1)具有闭合形式的解。
在上述基于手势的多维度控制方法中,通过交叉验证来选择最优λ,所述最优λ是获得最小的平均信噪比的正则参数。
根据本发明的一方面,提供了一基于手势的多维度控制装置,包括:
检测单元,用于检测用户的手势动作以获取与所述手势动作对应的肌电信号Z,所述手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;
控制单元,用于依据以下方程式对所获取的肌电信号Z进行处理;
Z’=W’·F (1)
Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;
其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步成正比例。
在上述基于手势的多维度控制装置中,所述第一单自由度动作是手腕翻转,且所述第二单自由度动作是手腕旋转。
在上述基于手势的多维度控制装置中,所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,且F2是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制装置中,进一步包括:
根据以下方程式由缩放校正因数缩放所述控制信号:
其中,所述缩放校正因数τij被确定为使得所述控制信号F被映射到手腕的整个关节角度范围。
在上述基于手势的多维度控制装置中,所述手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和,所述第一单自由度动作是手腕翻转,所述第二单自由度动作是手腕旋转,且所述第三单自由度动作是手掌张握。
在上述基于手势的多维度控制装置中,所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,F2是用于所述第二单自由度的控制信号,且F3是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制装置中,每一单自由度动作用于控制包括运动方向和运动速度的至少其中之一的运动参数。
在上述基于手势的多维度控制装置中,所述特征Z’是以下的至少一个:所述肌电信号Z的均方根:Z’=√Z;或者所述肌电信号Z的时域特征或自回归参数。
在上述基于手势的多维度控制装置中,以包括如下步骤的训练过程获得所述系统转移矩阵W:
使得训练对象进行包括多个单自由度动作的多个训练用手势动作;
将从每个训练用手势动作检测到的肌电信号组合记为肌电信号矩阵Z1;
应用稀疏非负整数因数分解算法将所述肌电信号矩阵Z1分解为非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,i表示迭代次数;
通过迭代来更新非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,其中所述非负控制信号矩阵Fi的每个行向量表示所述手势动作的其中一个单自由度动作;和
获得更新后的非负系统转移矩阵Wi作为系统转移矩阵W。
在上述基于手势的多维度控制装置中,所述稀疏非负整数因数分解算法向非负整数因数分解的解添加约束且要求所述解最大化结果控制函数的稀疏性。
在上述基于手势的多维度控制方法中,应用所述稀疏非负整数因数分解算法分解所述肌电信号矩阵Z1具体包括:
基于l1范数来控制非负控制信号矩阵F的稀疏性程度,由以下方程式表示:
s.t.Wij,Fij≥0 (5)
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,m是检测肌电信号的信道数,T是时间长度,λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数,上标“+”和“-”表示每个自由度的正向和负向。
在上述基于手势的多维度控制装置中,所述方程式(5)重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。
在上述基于手势的多维度控制装置中,通过交替非负最小二乘方法来求解方程式(6),并通过固定所述系统转移矩阵W和所述信号矩阵F中的一个来迭代的更新另一个,如以下方程式所示:
其中所述F(k+1)和W(k+1)具有闭合形式的解。
在上述基于手势的多维度控制方法中,通过交叉验证来选择最优λ,所述最优λ是获得最小的平均信噪比的正则参数。
根据本发明另一实施例,提供了一种基于手势的多维度控制方法,包括:检测用户的手势动作,该手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;根据该手势动作生成控制信号,该控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,以该第一信号分量控制受控对象在第一维度上的运动,并以该第二信号分量控制受控对象在第二维度上的运动,以使得基于该用户的手势动作同步和正比例地控制该受控对象在该第一维度和第二维度上的运动。
根据本发明另一实施例,提供了一种基于手势的多维度控制装置,包括:检测单元,用于检测用户的手势动作,该手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;处理单元,用于根据该手势动作生成控制信号,该控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,控制单元,用于以该第一信号分量控制受控对象在第一维度上的运动,并以该第二信号分量控制受控对象在第二维度上的运动,以使得基于该用户的手势动作同步和正比例地控制该受控对象在该第一维度和第二维度上的运动。
通过根据本发明的基于手势的多维度控制方法和控制装置,可以基于稀疏非负矩阵因数分解来将代表手势动作的肌电信号转换为控制信号,以进行基于手势的同步和正比例控制,从而实现高精度的手势控制。
并且,在根据本发明的基于手势的多维度控制方法和控制装置中,通过采用稀疏非负矩阵因数分解方案来对检测到的肌电信号进行稀疏非负矩阵因数分解,可以以一个步骤直接得到能够精确地体现手势动作的幅度和方向的控制信号,从而实现便捷和高效的手势控制,并具有广泛的应用范围。
另外,通过根据本发明的基于手势的多维度控制方法和控制装置,可以以最具有运动代表性的手势来控制受控对象在多个维度上的运动,从而提升用户的操控感受。
附图说明
图1是单自由度动作和多自由度动作的示意图;
图2是以肌电信号来实现多自由度动作的控制的示意性框图;
图3是模拟前臂横截面佩戴肌电图传感器的示意图;
图4是根据本发明实施例的基于手势的多维度控制方法的示意性流程图;
图5是根据本发明实施例的代表性手势的示意图;
图6是根据本发明实施例的基于手势的多维度控制装置的示意性框图。
具体实施方式
以下描述用于公开本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是,在本发明的公开中,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系,其仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本发明的限制。
可以理解的是,术语“一”应理解为“至少一”或“一个或多个”,即在一个实施例中,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个,术语“一”不能理解为对数量的限制。
以下说明书和权利要求中使用的术语和词不限于字面的含义,而是仅由本发明人使用以使得能够清楚和一致地理解本发明。因此,对本领域技术人员很明显仅为了说明的目的而不是为了如所附权利要求和它们的等效物所定义的限制本发明的目的而提供本发明的各种实施例的以下描述。
虽然比如“第一”、“第二”等的序数将用于描述各种组件,但是在这里不限制那些组件。该术语仅用于区分一个组件与另一组件。例如,第一组件可以被称为第二组件,且同样地,第二组件也可以被称为第一组件,而不脱离发明构思的教导。在此使用的术语“和/或”包括一个或多个关联的列出的项目的任何和全部组合。
在这里使用的术语仅用于描述各种实施例的目的且不意在限制。如在此使用的,单数形式意在也包括复数形式,除非上下文清楚地指示例外。另外将理解术语“包括”和/或“具有”当在该说明书中使用时指定所述的特征、数目、步骤、操作、组件、元件或其组合的存在,而不排除一个或多个其它特征、数目、步骤、操作、组件、元件或其组的存在或者附加。
包括技术和科学术语的在这里使用的术语具有与本领域技术人员通常理解的术语相同的含义,只要不是不同地限定该术语。应当理解在通常使用的词典中限定的术语具有与现有技术中的术语的含义一致的含义。
下面结合附图和具体实施方式对本发明作进一步详细的说明:
通过肌电信号,例如,肌电信号、脑电信号等对设备进行操作是一种新兴的操作方式。以肌电信号为例,现在通过肌电信号对设备的操作方式是采集肌电信号,然后对肌电信号进行处理,最后输出操作信号。操作对象接收到操作信号后根据操作信号进行对应的操作。
神经生理学的研究表明,在脊神经层面(Spinal Cord level),神经信号可以通过线性组合的方式控制多个肌肉群的联合运动。例如,可以通过模拟该过程来利用肌电信号控制操作对象,这一般被称为肌电控制。
在肌电控制中,在肌肉空间中多于一个自由度(DOF)的动作可以被分解为单DOF动作(又称为基本DOF动作)的线性组合,例如,手腕翻转是一个单DOF动作,定义为DOF1,且手腕旋转定义为DOF2。且进一步地,以上标“+”“-”来表示DOF的方向。具体来说,DOF1+表示手腕内翻的动作,而DOF1-表示手腕外翻的动作,DOF2+表示逆时针翻转手腕的动作,而DOF2-表示顺时针翻转手腕的动作。图1是单自由度动作和多自由度动作的示意图。如图1所示,其示出了三个对象,深色圈表示的两个动作是单DOF动作,而浅色圈表示的动作是两个单DOF动作的组合,也就是说,需要同时激活深色圈表示的两个DOF动作来实现浅色圈表示的动作。
图2是以肌电信号来实现多自由度动作的控制的示意性框图。神经生理学的研究表明,在脊神经层面(Spinal level),神经信号可以通过线性组合的方式控制多个肌肉群的联合运动。因此,如果同时以线性组合的方式刺激神经,则肌肉以线性组合的方式动作。如图2所示,用于直接控制肌肉群的表面肌电图(sEMG)信号Z(t)不同于控制基本自由度的信号F(t)。具体来说,图2中的各个变量的含义如下:
F(t):控制信号,F(t)=[f1(t),…,fi(t),…,fN(t)]T,每个fi(t)控制着一个基本自由度动作的激活,这样,可以通过控制基本自由度动作的控制信号的线性组合来获得用于控制多自由度动作的控制信号;
S:肌肉协同矩阵,每个自由度由S转换成一组肌肉的活动,S模拟着脊神经的机理;
D(t):D(t)=[d1(t),…,di(t),…,dM(t)]T,di(t)为下行到各肌肉的神经驱动(最终运动神经码);
Y(t):Y(t)=[y1(t),…,yi(t),…,yM(t)]T,yi(t)为肌肉的活动信号(iEMG);
G(t):组织等效滤波器阵列;
Z(t):Z(t)=[z1(t),…zi(t),…,zL(t)]T,zi(t)为一个通道的sEMG信号。
通过建立肌肉协同矩阵的模型并根据一定条件下的近似,可以得出以下两个公式:
WL×N是系统转移矩阵,为Z(t)的均方根(Root Mean Square:RMS)。
在基于肌电信号对操作对象的控制系统中,这是两个最基本的公式,分别表示控制信号到肌电信号的转换和肌电信号到控制信号的转换。
在具体的操作过程中,使用肌电图传感器采集多信道的sEMG信号,并求每个信道的sEMG信号的特征,例如公式(2)中的sEMG信号的均方根,再利用公式(2)将sEMG信号转换为控制信号。
图3是模拟前臂横截面佩戴肌电图传感器的示意图。如图3所示,假定控制手腕翻转(DOF1)和手腕旋转(DOF2)的肌肉是4条,即:肌肉A到肌肉D,则可以在前臂表面配戴8个对称的EMG信号传感器以得到8个信道的sEMG信号Z(t)。
因此,由于sEMG信号能够精确地表示手势动作,在根据本发明实施例的基于手势的多维度控制方法中,期望通过对手势动作所对应的sEMG信号进行检测,来生成能够与该手势动作确切对应的控制信号。
根据本发明实施例的一方面,提供了一基于手势的多维度控制方法,包括:检测用户的手势动作以获取与该手势动作对应的肌电信号Z,该手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;依据以下方程式对所获取的肌电信号Z进行处理;Z’=W’·F,Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。
通过根据本发明实施例的基于手势的多维度控制方法,可以基于稀疏非负矩阵因数分解来将代表手势动作的肌电信号转换为控制信号,以进行基于手势的同步和正比例控制。
图4是根据本发明实施例的基于手势的多维度控制方法的示意性流程图。如图4所示,根据本发明实施例的基于手势的多维度控制方法包括以下步骤:S1,检测用户的手势动作以获取与该手势动作对应的肌电信号Z,该手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;S2,依据以下方程式对所获取的肌电信号Z进行处理;Z’=W’·F,Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。
在上述基于手势的多维度控制方法中,该第一单自由度动作是手腕翻转,且该第二单自由度动作是手腕旋转。
在根据本发明实施例的基于手势的多维度控制方法中,定义了典型的控制手势类型,且该典型的控制手势类型适于控制受控对象的运动。本领域技术人员可以理解,当用户执行了包含手腕翻转和手腕旋转两者的手势时,可以代表指向二维空间中任一方向的运动。其中,手腕翻转定义了第一维度,而手腕旋转定义了第二维度。通过手腕翻转的角度和手腕旋转的角度的结合,可以指向由第一维度和第二维度定义的二维空间中的任一方向。另外,更进一步地,除了手腕翻转和手腕旋转的幅度定义运动方向之外,翻转和旋转的速度又可以进一步定义出在第一维度和第二维度上的运动速度,从而非常适于以手势来控制受控对象的运动的控制方案。
并且,如上所述,手腕翻转和手腕旋转这两种手势都是基本自由度动作,从而适于肌电检测和肌电控制。
此外,手腕翻转和手腕旋转的手势还可以定义其他类型的运动参数,比如,通过手腕旋转来定义相对于某个预定方向的角度从而确定运动方向,并通过手腕翻转来定义在该运动方向上的速度,这也非常适于以手势来控制受控对象的运动的控制方案。
在上述基于手势的多维度控制方法中,该控制信号由以下方程式表示:
其中,F1是用于第一单自由度的控制信号,且F2是用于第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
由于对于用户的手腕来说,通过情况下翻转和旋转的幅度都在正负90度的范围之内,因此为了尽可能地覆盖整个二维空间,对于每一单自由度定义正向和负向的控制信号的两个行向量,从而改进控制性能。
这样,所产生的控制信号的每一个行向量可以精确地表示用户的手势中的一个单自由度动作在某个方向上的动作,从而使得控制信号整体精确地表示用户的手势动作。一方面,这依赖于在肌肉空间中多自由度动作可以被分解为基本自由度动作的线性组合,另一方面,也依赖于手势的选取能够使得手势动作被精确地分解为两个或更多表示单自由度的手势动作的组合。
如上所述,由于选取的手势动作能够精确地反应在二维空间中的运动,所以对应于该手势动作的控制信号也能够精确地控制受控对象在二维空间中的运动。并且,通过手势动作→控制信号→受控对象的运动这一控制链条,可以实现受控对象的同步控制。另外,如上所述,由于手势动作的动作速度可以对应于运动的速度特性,同样实现了受控对象的正比例控制。
当然,本领域技术人员可以理解,除了手势动作的动作速度之外,手势动作的动作幅度同样可以用来控制受控对象的运动速度,这时就需要除了手势动作的动作类型,即手腕翻转和手腕旋转外的其他参数来精确地控制二维空间中的方向,例如,可以采用手势动作的动作速度。因此,在根据本发明实施例的基于手势的多维度控制方法中,可以保证通过手势动作来同步和成正比例地控制受控对象在二维空间中的运动,而并不限制手势动作的具体动作参数和受控对象的运动参数之间的对应关系。
在上述基于手势的多维度控制方法中,进一步包括根据以下方程式由缩放校正因数缩放控制信号:
该缩放校正因数τij被确定为使得控制信号F被映射到手腕的整个关节角度范围。这样,可以通过对控制信号进行校正来确保控制信号可以反映用户的手腕在整个手腕关节角度范围的动作,从而提高了控制精度。
在上述基于手势的多维度控制方法中,该手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和,该第一单自由度动作是手腕翻转,该第二单自由度动作是手腕旋转,且该第三单自由度动作是手掌张握。
如上所述,通过增加定义手掌张握这一特定手势,可以进一步增加一个维度,从而控制受控对象在三维空间中的运动。并且,类似地,手掌张握的速度也可以控制受控对象在这一维度上的运动速度。
图5是根据本发明实施例的代表性手势的示意图。其中,图5的(a)示出了手腕外翻,图5的(b)示出了手腕内翻,图5的(c)示出了手腕顺时针旋转,图5的(d)示出了手腕逆时针旋转,图5的(e)示出了手掌张开,且图5的(f)示出了手掌闭合。
当然,本领域技术人员可以理解,手腕翻转、手腕旋转和手掌张握这三个基本手势动作并不必须对应于受控对象在三维空间中的三个维度上的动作,而是可以根据需要表示其他运动参数。例如,手腕翻转和手腕旋转用于定义受控对象在二维空间中的运动方向,而手掌张握用于定义在该运动方向上受控对象的前进或者后退,例如手掌张开表示前进,而手掌闭合表示后退。又或者,以手掌张握的幅度表示运动速度,手掌张开的幅度越大,表示受控对象的运动速度越大。因此,在根据本发明实施例的基于手势的多维度控制方法中,仅需要保证通过手势动作来同步和成正比例地控制受控对象在三维空间中的运动,而并不限制手势动作的具体动作参数和受控对象的运动参数之间的对应关系。
在上述基于手势的多维度控制方法中,控制信号由以下方程式表示:
其中,F1是用于第一单自由度的控制信号,F2是用于第二单自由度的控制信号,且F3是用于第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
与上述公式(3)类似,该控制信号可以用于同步和成正比例地控制受控对象在三维空间中的运动。
下面,将对如何根据检测到的用户的手势动作生成上述的控制信号进行具体说明。
这里,本领域技术人员可以理解,当以多信道连续采集sEMG信号时,Z可以为m×n矩阵,其中m表示信道数,而n表示n个时间。相应地,F为2a×n矩阵,其中a表示单DOF的数目,如上所述,每个单DOF可以认为正向和负向,且n同样表示n个时间。这样,系统转移矩阵是m×2a矩阵。以下,为了描述的方便,在不需要特别表示矩阵行列数目的情况下,将sEMG信号矩阵、系统转移矩阵和控制信号矩阵统一简写为Z、W和F。
具体来说,以上公式(1)和(2)可以改写为:
Z’=W·F (6)
F=W’·Z’ (7)
其中,Z是通过EMG信号传感器得到的sEMG信号,Z’是sEMG信号的特征信号,W是系统转移矩阵,W’是W的伪逆矩阵,且F是用于控制操作对象的运动的控制信号。
因此,为了能够得到控制操作对象的同步和成正比例运动的控制信号,核心在于得到用于表示sEMG信号和控制信号之间的关系的系统转移矩阵W,这将在下面进行详细描述。
其中,Z’是通过EMG信号传感器得到的sEMG信号的特征,且F是用于控制多自由度动作的控制信号,W是系统转移矩阵。
在根据本发明实施例的基于手势的多维度控制方法中,可以使用sEMG信号的均方根作为EMG信号的特征,即Z’=√Z。
当然,本领域技术人员可以理解,也可以使用sEMG信号的其他特征,例如,sEMG信号的时域特征或者自回归参数。其中,自回归参数是一自回归模型进行建模得到的参数,可以起到白化作用,在用sEMG信号逼近系统转移矩阵时具有改善的效果。
在对操作对象的多自由度动作进行控制之前,可以通过稀疏非负矩阵因数分解(sparse non-negative matrix factorization:sNMF)来解决提供连续控制信号F的sEMG信号的因数分解问题,因此,又可以被称为sNMF方案。
在根据本发明实施例的控制方法中,通过预先进行的训练过程来获得系统转移矩阵W。具体来说,在训练过程中,例如,由生物信号放大器(EMGUSB2,OT Bioelettronica,Italy)以2048Hz的采样速率记录sEMG信号。指导训练对象进行一系列的腕部动作,即手腕的翻转(DOF1)或者手腕的旋转(DOF2),以及两者的组合。随机地选择这些动作的顺序。这样,单自由度动作和多自由度动作的组合提供了一组sEMG信号。该训练过程中记录的sEMG信号用于训练sNMF算法,以通过对sENG信号的非负矩阵因数分解来获得尽量近似sENG信号矩阵的两个非负矩阵:系统转移矩阵W和控制信号矩阵F。通过迭代来更新系统转移矩阵W和控制信号矩阵F,其中,使得控制信号矩阵F满足矩阵的行向量对应于基本自由度动作的激活,以便控制操作对象。以上述手腕的翻转和旋转的运动为例,控制信号F=[F1 +;F1 -;F2 +;F2 -;]T,F1 +表示手腕外翻的运动,F1 -表示手腕内翻的运动,F2 +表示手腕顺时针旋转的运动,且F2 -表示手腕逆时针旋转的运动。这样,得到表示sEMG信号矩阵Z和控制信号矩阵F之间的转换关系的系统转移矩阵W。
另外,系统转移矩阵还可以通过线性递归(LR)方法获得。具体来说,将对应于每个自由度的控制信号组合记为矩阵F,并将从每个自由度检测的sEMG信号组合记为矩阵Z,则可以通过矩阵F和Z来估计系统转移矩阵W,如以下方程式所示:
W=(FFT+λI)-1FTZ (5)
其中I是单位矩阵,且λ是正则参数。可以通过交叉验证来选择最优λ,最优λ是获得最小的平均信噪比的参数。
也就是说,通过采用sNMF方案,通过多信道sEMG信号的sNMF来估计控制信号F,以找到其积是所记录的多信道sEMG信号矩阵的良好近似的两个非负矩阵W和F。
对于N-信道T-长度的sEMG信号,其均方根值表示为Z,其中第t列是在时间t的sEMG信号,且以m表示DOF的数目。如上所述,因为每个自由度可以进一步分解为正向和负向,所以可以通过N×2m非负系统转移矩阵W和2m×T非负控制信号矩阵F的积来表示Z,如以下方程式所述:
ZN×T≈WN×2mF2m×T (4)
在根据本发明实施例的sNMF方案中,能够以准无监督方式鲁棒地和同时识别分离生成的基本函数的因数分解。通过采用该方案,在训练和校准阶段中,对象并不需要遵循预定义的次序来激活单自由度动作,且甚至可以同时激活多于一个自由度的动作。另外,该方案也可以以一个步骤来提取系统转移矩阵。
在sNMF方案中,向因数分解的解添加约束且特别需要该解最大化结果控制函数的稀疏性。稀疏性约束限制可能的NMF解的空间。特别地,具有基本函数的解对应于单自由度,其是目标解,且在其他无穷解中最稀疏的。这样,具有约束的因数分解不需要预设的校准阶段或者单自由度的激活,且可以应用于用户执行的具有多自由度的任意任务。
因此,通过生成稀疏解的sNMF方案,可以不需要由单自由度激活生成的特定集合的校准数据。如上所述,由于在肌肉空间中,多自由度动作可以被分解为单自由度动作的线性组合。这样,控制多自由度动作的控制信号也可以被分解为控制单自由度动作的控制信号的线性组合。所以,通过将稀疏性约束施加到控制信号,可以使用稀疏性约束来确定稀疏的解。
数学上通常通过l1范数和l0范数来控制稀疏性程度。为了计算方便,选择了基于l1范数的SNMF方法,该sNMF方法的目标函数由以下方程式表示:
s.t.Wij,Fij≥0 (5)
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,且λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数。如上所述,通过交叉验证选择最优λ。如上所述,上标“+”和“-”表示每个DOF的正向和负向。以上方程式可以重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。可以通过交替非负最小二乘(ANLS)方法来有效地求解方程式(6),并通过固定W和F中的一个来迭代的更新W和F中的另一个,如以下方程式所示:
上述F(k+1)和W(k+1)的求解是经典的最小二乘问题,且每个具有闭合形式的解。所以,可以理解sNMF方案可以会聚到静止的点。
通过sNMF方案,可以从由用户的任意自由度的组合生成的记录一个步骤地提取所有基本函数。
尽管上面以l1范数为例来描述了对控制信号矩阵的稀疏性程度进行控制,但根据本发明实施例的基于手势的多维度控制方法同样可以应用l0范数来对控制信号矩阵的稀疏性程度进行控制。同样,本领域技术人员可以理解,根据本发明实施例的基于手势的多维度控制方法也可以使用其他的稀疏性约束来控制该控制信号矩阵的稀疏性程度,从而使得控制信号矩阵的行向量对应于控制基本自由度的控制信号,以将控制多自由度动作的控制信号分解为控制基本自由度动作的控制信号的线性组合。
这样,由于直接从采集的表面肌电图信号得到了表示控制单自由度动作的控制信号的线性组合的控制信号矩阵,该控制方式与执行相应任务的多自由度动作所对应的生理肌肉活动相关联,从而以精确模拟人体肌肉活动的方式来对操作对象进行了直观的控制。这样,根据本发明实施例的基于手势的多维度控制方法通过检测用户的手势,并将表示多自由度动作的用户的手势分解为表示单自由度动作的用户手势的线性组合,来对操作对象进行控制,从而改进了系统开发的可实现度。
通过如上所述的sNMF方案,在在从一组sEMG信号获得系统转移矩阵W之后,为了估计关于DOF的意向动作的控制信号,求W的伪逆矩阵,并将其乘以新纪录的sEMG信号的特征,这样,估计的控制信号为:
F(t)=W’·Z’(t)
以上述DOF1和DOF2这两个自由度的联合控制为例来进行描述,则F(t)表示为:
为了保证没有分量被其他分量掩盖,将F中的每个分量相对于其最大值归一化。估计的控制信号进一步由缩放校正因数缩放,这用于解释因数分解处理中信号功率(控制信号的范围)的不确定性。
其中,将F1,F2分别作为DOF1和DOF2的控制信号。对于每个对象确定乘法因数τij以使得训练阶段的最终控制信号可以被映射到各个DOF中的整个关节角度范围。这样,可以确保获得的控制信号能够精确模拟人体的肌肉控制多DOF动作的过程,来对操作对象进行直观的控制。然后,获得的控制信号在6Hz(运动带宽)低通滤波,然后可以应用于操纵对象以使得操作对象控制DOF动作。
在肌肉信号域中,可以作为基本函数的线性组合来获得动作。最好的基本函数是对应于单DOF的,因为它们与确定相应任务的生理肌肉活动相关联。实际上,肌肉信号域中的活动空间可以由对应于单DOF的活动信号的任意线性组合覆盖。sNMF方案可以从任意任务产生的一组sEMG信号选择具有最大稀疏性的因数分解,而这直接对应于与单DOF相关联的基本函数。
除了即使使用的信号来自单DOF动作也很好地设置基本函数的优点,sNMF方案可以用于因数分解不具有从单DOF动作生成的约束的信号。因此,可以对于更大类的信号以无监督的方式实现相同的解决方案,以得到系统转移矩阵W。因此,该方案可以用于在控制算法的使用期间基本函数的连续估计,作为随时间适配基本函数的方式。
本领域技术人员可以理解,根据本发明实施例的基于手势的多维度控制方法并没有限定具体的控制对象,即,该方法可以应用于控制任意操作对象。具体来说,在接收到肌电信号并将肌电信号处理为对操作对象进行多自由度同步和正比例控制的控制信号之后,根据操作对象的属性创建至少一神经元模块,并通过管理各神经元模块来形成操作对象的具体操作信号。
各神经元模块分别对应控制操作对象的一个基本功能。例如,在操作对象为遥控汽车的情况下,神经元管理模块创建一关于提供动力的第一神经元模块、一关于停止提供动力的第二神经元模块、一关于方向前的第三神经元模块、一关于方向后的第四神经元模块、一关于方向左的第五神经元模块和一关于方向右的第六神经元模块。连接管理模块管理各神经元模块之间的连接件,以管理各神经元模块之间的通信。也就是说,以连接神经元模块的方式,对操作对象进行复杂的操作。例如,如果以表示方向向左的DOF动作的控制信号通过关于方向左的第五神经元模块操作该遥控汽车,则该遥控汽车的车轮向左转动。如果以表示方向向左的DOF动作的控制信号关于方向左的第五神经元模块与以表示方向向前的DOF动作的控制信号关于提供动力的第一神经元模块3111通信地连接并操作该遥控汽车,则该遥控汽车可被控制进行左转弯。
结合用户的手势来进行说明的话,假定用户的手腕顺时针旋转对应于方向向左的DOF动作,而用户的手腕逆时针旋转对应于方向向左的DOF动作,则用户可以通过手腕旋转的手势来控制遥控汽车的左转和右转,并可以通过手腕旋转的幅度来控制遥控汽车的左转和右转的角度。
进一步地,如果用户的手势为多DOF动作,则以对应于单DOF动作的控制信号的线性组合的方式生成对应于多DOF动作的控制信号来对操作对象进行控制。在以上控制遥控汽车进行左转弯的示例中,用户可以直接做出包含表示方向向前的DOF动作和表示方向向左的DOF动作的手势,例如顺时针旋转手腕并将手腕外翻的手势。这样,根据本发明实施例的基于手势的多维度控制方法直接从该手势生成控制汽车左转弯的控制信号。并且,基于用户的手势的幅度,即手腕顺时针旋转和外翻的幅度,可以控制遥控汽车的左转弯的运动参数,例如,转弯角度和转弯速度等。
因此,根据本发明实施例的基于手势的多维度控制方法的实质是,通过选取有代表性的手势动作,来实现多维度的运动控制。其中,该代表性手势除了需要是用户的习惯动作之外,还需要是在肌肉空间中的单自由度动作,从而满足控制的精确性和便利度这两者的要求。上述内容中提到的手腕翻转、手腕旋转和手掌张握这三种基本手势能够很好地满足上述需要。另外,用户可以方便地以一个动作做出包含这三种基本手势的手势动作,从而在三个维度上控制受控对象的运动。当然,本领域技术人员可以理解,这里的维度并不仅仅指的是三维空间上的维度,也可以包含其他运动参数的维度,比如运动速度、运动加速度等。并且,这三种基本手势具有一定的直观性,使得用户能够获得很自然的操控感,就好像受控对象直接跟随用户的指尖运动一样。
根据本发明实施例的另一方面,提供了一基于手势的多维度控制装置,包括:
检测单元,用于检测用户的手势动作以获取与该手势动作对应的肌电信号Z,该手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;
控制单元,用于依据以下方程式对所获取的肌电信号Z进行处理;
Z’=W’·F (1)
Z’是该肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;
其中,该系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且该非负控制信号矩阵的行向量与相应的单自由度动作同步成正比例。
图6是根据本发明实施例的基于手势的多维度控制装置的示意性框图。如图6所示,根据本发明实施例的基于手势的多维度控制装置100包括:检测单元101,用于检测用户的手势动作以获取与该手势动作对应的肌电信号Z,该手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;控制单元102,用于依据以下方程式对所获取的肌电信号Z进行处理;Z’=W’·F,Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;其中,所述系统转移矩阵通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。
在上述基于手势的多维度控制装置中,该第一单自由度动作是手腕翻转,且该第二单自由度动作是手腕旋转。
在上述基于手势的多维度控制装置中,该控制信号由以下方程式表示:
其中,F1是用于该第一单自由度的控制信号,且F2是用于该第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制装置中,进一步包括:
根据以下方程式由缩放校正因数缩放该控制信号:
其中,该缩放校正因数τij被确定为使得该控制信号F被映射到手腕的整个关节角度范围。
在上述基于手势的多维度控制装置中,该手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和,该第一单自由度动作是手腕翻转,该第二单自由度动作是手腕旋转,且该第三单自由度动作是手掌张握。
在上述基于手势的多维度控制装置中,该控制信号由以下方程式表示:
其中,F1是用于该第一单自由度的控制信号,F2是用于该第二单自由度的控制信号,且F3是用于该第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
在上述基于手势的多维度控制装置中,每一单自由度动作用于控制包括运动方向和运动速度的至少其中之一的运动参数。
在上述基于手势的多维度控制装置中,该特征Z’是以下的至少一个:该肌电信号Z的均方根:Z’=√Z;或者该肌电信号Z的时域特征或自回归参数。
在上述基于手势的多维度控制装置中,以包括如下步骤的训练过程获得该系统转移矩阵W:
使得训练对象进行包括多个单自由度动作的多个训练用手势动作;
将从每个训练用手势动作检测到的肌电信号组合记为肌电信号矩阵Z1;
应用稀疏非负整数因数分解算法将该肌电信号矩阵Z1分解为非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,i表示迭代次数;
通过迭代来更新非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,其中该非负控制信号矩阵Fi的每个行向量表示该手势动作的其中一个单自由度动作;和
获得更新后的非负系统转移矩阵Wi作为系统转移矩阵W。
在上述基于手势的多维度控制装置中,该稀疏非负整数因数分解算法向非负整数因数分解的解添加约束且要求该解最大化结果控制函数的稀疏性。
在上述基于手势的多维度控制方法中,应用该稀疏非负整数因数分解算法分解该肌电信号矩阵Z1具体包括:
基于l1范数来控制非负控制信号矩阵F的稀疏性程度,由以下方程式表示:
s.t.Wij,Fij≥0 (5)
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,m是检测肌电信号的信道数,T是时间长度,λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数,上标“+”和“-”表示每个自由度的正向和负向。
在上述基于手势的多维度控制装置中,该方程式(5)重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。
在上述基于手势的多维度控制装置中,通过交替非负最小二乘方法来求解方程式(6),并通过固定该系统转移矩阵W和该信号矩阵F中的一个来迭代的更新另一个,如以下方程式所示:
其中该F(k+1)和W(k+1)具有闭合形式的解。
在上述基于手势的多维度控制方法中,通过交叉验证来选择最优λ,该最优λ是获得最小的平均信噪比的正则参数。
通过根据本发明的基于手势的多维度控制方法和控制装置,可以基于稀疏非负矩阵因数分解来将代表手势动作的肌电信号转换为控制信号,以进行基于手势的同步和正比例控制,从而实现高精度的手势控制。
并且,在根据本发明的基于手势的多维度控制方法和控制装置中,通过采用稀疏非负矩阵因数分解方案来对检测到的肌电信号进行稀疏非负矩阵因数分解,可以以一个步骤直接得到能够精确地体现手势动作的幅度和方向的控制信号,从而实现便捷和高效的手势控制,并具有广泛的应用范围。
根据本发明另一实施例,提供了一种基于手势的多维度控制方法,包括:检测用户的手势动作,该手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;根据该手势动作生成控制信号,该控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,以该第一信号分量控制受控对象在第一维度上的运动,并以该第二信号分量控制受控对象在第二维度上的运动,以使得基于该用户的手势动作同步和正比例地控制该受控对象在该第一维度和第二维度上的运动。
根据本发明另一实施例,提供了一种基于手势的多维度控制装置,包括:检测单元,用于检测用户的手势动作,该手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;处理单元,用于根据该手势动作生成控制信号,该控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,控制单元,用于以该第一信号分量控制受控对象在第一维度上的运动,并以该第二信号分量控制受控对象在第二维度上的运动,以使得基于该用户的手势动作同步和正比例地控制该受控对象在该第一维度和第二维度上的运动。
这里,根据本发明另一实施例的基于手势的多维度控制方法和控制装置的其他细节与上述相同,为了避免冗余便不再追溯。
也就是说,根据本发明实施例的基于手势的多维度控制方法和控制装置的实质在于,定义作为基本自由度动作的线性组合的手势动作,并通过稀疏非负矩阵因数分解的方式直接从该手势动作的肌电信号,比如肌电信号来生成用于控制受控对象的控制信号,这样,所生成的控制信号实质上包含了对应于每个基本自由度动作的信号分量,使得受控对象根据控制信号所进行的运动可以精确地对应于基本自由度动作的线性组合,从而与每个基本自由度动作对应的运动参数可以与该基本自由度动作同步且成正比例。
这样,通过根据本发明另一实施例的基于手势的多维度控制方法和控制装置,可以以最具有运动代表性的手势来控制受控对象在多个维度上的运动,从而提升用户的操控感受。
在这里描述的实现例如可以以方法或者处理、设备、软件程序、数据流或者信号实现。即使仅以单一形式的实现的上下文讨论(例如,仅讨论为方法或者装置),讨论的特征的实现也可以以其他形式实现(例如,程序)。设备例如可以以适当的硬件、软件和固件实现。方法例如可以以设备实现,设备例如是处理器,其总的来说指的是处理装置,例如包括计算机、微处理器、集成电路或者可编程逻辑器件。处理器也包括通信装置,例如,智能电话、平板、计算机、移动电话、便携式/个人数字助理(“PDA”),和促进终端用户之间信息的通信的其他装置。
另外,该方法可以通过由处理器执行的指令实现,且这种指令(和/或由实现产生的数据值)可以存储在(非瞬时)处理器可读介质上,例如集成电路、软件载体或者其他存储装置,例如硬盘、致密盘(“CD”)、光盘(例如DVD,通常称为数字多用途盘或者数字视频盘)、随机存取存储器(“RAM”)或者只读存储器(“ROM”)。该指令可以形成在处理器可读介质上可触摸地具体表现的应用程序。指令例如可以以硬件、固件、软件或者组合。指令例如可以在操作系统、单独应用或者两者的组合中找到。因此,例如,处理器可以特征化为配置为进行处理的装置和包括具有用于进行处理的指令的处理器可读介质(比如存储装置)的装置两者。另外,除指令之外或者代替指令,处理器可读介质可以存储由实现产生的数据值。
对本领域技术人员很明显,实现可以产生格式化以携带例如可以存储或者发送的信息的各种信号。信息例如可以包括用于执行由描述的实现之一产生的方法或者数据的指令。例如,信号可以被格式化以作为数据携带用于写入或者读取描述的实施例的语法的规则,或者作为数据携带由描述的实施例写入的实际的语法值。例如,这种信号可以格式化为电磁波(例如,使用频谱的射频部分)或者基带信号。格式化例如可以包括编码数据流和以编码的数据流调制载波。信号携带的信息例如可以是模拟或者数字信息。可以经已知的的各种不同有线或者无线链路发送信号。信号可以存储在处理器可读介质上。
将理解本发明可以以各种形式的硬件、软件、固件、专用处理器或者其组合实现。特别地,本发明可以以包括配置为执行本发明的实施例中描述的方法的步骤的处理器的电子装置实现。此外,软件优选地实现为在程序存储装置上可触知地具体体现的应用程序。应用程序可以上载到包括任何适当的架构的机器和由该机器执行。优选地,该机器在具有比如一个或多个中央处理单元(CPU)、随机存取存储器(RAM)和一个或多个输入/输出(I/O)接口的硬件的计算机平台上实现。计算机平台还包括操作系统和微指令代码。在这里描述的各种处理和功能可以是微指令代码的一部分或者经由操作系统执行的应用程序的一部分(或者其组合)。另外,各种其他外部装置可以连接到计算机平台,比如附加的数据存储装置和打印装置。
另外要理解,因为附图中示出的某些构成系统部件和方法步骤优选地以软件实现,系统部件(或者处理步骤)之间的实际连接可以取决于本发明编程的方式而不同。
本领域的技术人员应理解,上述描述及附图中所示的本发明的实施例只作为举例而并不限制本发明。本发明的目的已经完整并有效地实现。本发明的功能及结构原理已在实施例中展示和说明,在没有背离所述原理下,本发明的实施方式可以有任何变形或修改。

Claims (30)

1.一基于手势的多维度控制方法,其特征在于,包括:
检测用户的手势动作以获取与所述手势动作对应的肌电信号Z,所述手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;
依据以下方程式对所获取的肌电信号Z进行处理;
Z'=W'·F (1)
Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;
其中,所述系统转移矩阵W通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步且成正比例。
2.根据权利要求1所述的基于手势的多维度控制方法,其特征在于,
所述第一单自由度动作是手腕翻转,且所述第二单自由度动作是手腕旋转。
3.根据权利要求2所述的基于手势的多维度控制方法,其特征在于,
所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,且F2是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
4.根据权利要求3所述的基于手势的多维度控制方法,其特征在于,进一步包括:
根据以下方程式由缩放校正因数缩放所述控制信号:
其中,所述缩放校正因数τij被确定为使得所述控制信号F被映射到手腕的整个关节角度范围。
5.根据权利要求1所述的基于手势的多维度控制方法,其特征在于,
所述手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和
所述第一单自由度动作是手腕翻转,所述第二单自由度动作是手腕旋转,且所述第三单自由度动作是手掌张握。
6.根据权利要求5所述的基于手势的多维度控制方法,其特征在于,
所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,F2是用于所述第二单自由度的控制信号,且F3是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
7.根据权利要求1到6中任意一个所述的基于手势的多维度控制方法,其特征在于,每一单自由度动作用于控制包括运动方向和运动速度的至少其中之一的运动参数。
8.根据权利要求1所述的基于手势的多维度控制方法,其特征在于,
所述特征Z’是以下的至少一个:
所述肌电信号Z的均方根,即或者
所述肌电信号Z的时域特征或自回归参数。
9.根据权利要求1所述的基于手势的多维度控制方法,其特征在于,以包括如下步骤的训练过程获得所述系统转移矩阵W:
使得训练对象进行包括多个单自由度动作的多个训练用手势动作;
将从每个训练用手势动作检测到的肌电信号组合记为肌电信号矩阵Z1;
应用稀疏非负整数因数分解算法将所述肌电信号矩阵Z1分解为非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,i表示迭代次数;
通过迭代来更新非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,其中所述非负控制信号矩阵Fi的每个行向量表示所述手势动作的其中一个单自由度动作;和
获得更新后的非负系统转移矩阵Wi作为系统转移矩阵W。
10.根据权利要求9所述的基于手势的多维度控制方法,其特征在于,
所述稀疏非负整数因数分解算法向非负整数因数分解的解添加约束且要求所述解最大化结果控制函数的稀疏性。
11.根据权利要求9所述的基于手势的多维度控制方法,其特征在于,应用所述稀疏非负整数因数分解算法分解所述肌电信号矩阵Z1具体包括:
基于l1范数来控制非负控制信号矩阵F的稀疏性程度,由以下方程式表示:
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,m是检测肌电信号的信道数,T是时间长度,λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数,上标“+”和“-”表示每个自由度的正向和负向。
12.根据权利要求11所述的基于手势的多维度控制方法,其特征在于,所述方程式(5)重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。
13.根据权利要求12所述的基于手势的多维度控制方法,其特征在于,通过交替非负最小二乘方法来求解方程式(6),并通过固定所述系统转移矩阵W和所述信号矩阵F中的一个来迭代的更新另一个,如以下方程式所示:
其中所述F(k+1)和W(k+1)具有闭合形式的解。
14.根据权利要求11到13中任意一项所述的基于手势的多维度控制方法,其特征在于,
通过交叉验证来选择最优λ,所述最优λ是获得最小的平均信噪比的正则参数。
15.一基于手势的多维度控制方法,包括:
检测用户的手势动作,所述手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;
根据所述手势动作生成控制信号,所述控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,
以所述第一信号分量控制受控对象在第一维度上的运动,并以所述第二信号分量控制所述受控对象在第二维度上的运动,以使得基于所述手势动作同步和正比例地控制所述受控对象在第一维度和第二维度上的运动。
16.一基于手势的多维度控制装置,其特征在于,包括:
检测单元,用于检测用户的手势动作以获取与所述手势动作对应的肌电信号Z,所述手势动作至少是第一单自由度动作和第二单自由度动作的线性组合;
控制单元,用于依据以下方程式对所获取的肌电信号Z进行处理;
Z'=W'·F (1)
Z’是所述肌电信号Z的特征信号,W’是系统转移矩阵W的伪逆矩阵,且F是非负控制信号矩阵;
其中,所述系统转移矩阵W通过训练过程中的稀疏非负整数因数分解算法获得,且所述非负控制信号矩阵的行向量与相应的单自由度动作同步成正比例。
17.根据权利要求16所述的基于手势的多维度控制装置,其特征在于,
所述第一单自由度动作是手腕翻转,且所述第二单自由度动作是手腕旋转。
18.根据权利要求17所述的基于手势的多维度控制装置,其特征在于,
所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,且F2是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
19.根据权利要求18所述的基于手势的多维度控制装置,其特征在于,进一步包括:
根据以下方程式由缩放校正因数缩放所述控制信号:
其中,所述缩放校正因数τij被确定为使得所述控制信号F被映射到手腕的整个关节角度范围。
20.根据权利要求16所述的基于手势的多维度控制装置,其特征在于,所述手势动作是第一单自由度动作、第二单自由度动作和第三单自由度动作的线性组合;和
所述第一单自由度动作是手腕翻转,所述第二单自由度动作是手腕旋转,且所述第三单自由度动作是手掌张握。
21.根据权利要求20所述的基于手势的多维度控制装置,其特征在于,所述控制信号由以下方程式表示:
其中,F1是用于所述第一单自由度的控制信号,F2是用于所述第二单自由度的控制信号,且F3是用于所述第二单自由度的控制信号,上标“+”和“-”表示每一自由度的正向和负向。
22.根据权利要求16到21中任意一个所述的基于手势的多维度控制方法,其特征在于,每一单自由度动作用于控制包括运动方向和运动速度的至少其中之一的运动参数。
23.根据权利要求22所述的基于手势的多维度控制方法,其特征在于,所述特征Z’是以下的至少一个:
所述肌电信号Z的均方根,即或者
所述肌电信号Z的时域特征或自回归参数。
24.根据权利要求16所述的基于手势的多维度控制装置,其特征在于,以包括如下步骤的训练过程获得所述系统转移矩阵W:
使得训练对象进行包括多个单自由度动作的多个训练用手势动作;
将从每个训练用手势动作检测到的肌电信号组合记为肌电信号矩阵Z1;
应用稀疏非负整数因数分解算法将所述肌电信号矩阵Z1分解为非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,i表示迭代次数;
通过迭代来更新非负系统转移矩阵Wi和稀疏的非负控制信号矩阵Fi,其中所述非负控制信号矩阵Fi的每个行向量表示所述手势动作的其中一个单自由度动作;和
获得更新后的非负系统转移矩阵Wi作为系统转移矩阵W。
25.根据权利要求24所述的基于手势的多维度控制装置,其特征在于,
所述稀疏非负整数因数分解算法向非负整数因数分解的解添加约束且要求所述解最大化结果控制函数的稀疏性。
26.根据权利要求24所述的基于手势的多维度控制装置,其特征在于,应用所述稀疏非负整数因数分解算法分解所述肌电信号矩阵Z1具体包括:
基于l1范数来控制非负控制信号矩阵F的稀疏性程度,由以下方程式表示:
其中,F(:,t)是控制信号矩阵F的第t列矢量,’Fro’是尼乌斯范数,m是检测肌电信号的信道数,T是时间长度,λ>0是平衡因数分解的精确性和F的稀疏性程度的正则参数,上标“+”和“-”表示每个自由度的正向和负向。
27.根据权利要求26所述的基于手势的多维度控制装置,其特征在于,所述方程式(5)重写为:
其中e1×2m是所有项等于1的行矢量,且01×T等于0。
28.根据权利要求27所述的基于手势的多维度控制装置,其特征在于,通过交替非负最小二乘方法来求解方程式(6),并通过固定所述系统转移矩阵W和所述信号矩阵F中的一个来迭代的更新另一个,如以下方程式所示:
其中所述F(k+1)和W(k+1)具有闭合形式的解。
29.根据权利要求26到28中任意一项所述的基于手势的多维度控制装置,其特征在于,
通过交叉验证来选择最优λ,所述最优λ是获得最小的平均信噪比的正则参数。
30.一基于手势的多维度控制装置,包括:
检测单元,用于检测用户的手势动作,所述手势动作至少包括手腕翻转、手腕旋转和手掌张握中的至少两个的组合;
处理单元,用于根据所述手势动作生成控制信号,所述控制信号包括对应于手腕翻转、手腕旋转和手掌张握的其中一个的第一信号分量和对应于手腕翻转、手腕旋转和手掌张握中另外一个的第二信号分量;和,
控制单元,用于以所述第一信号分量控制受控对象在第一维度上的运动,并以所述第二信号分量控制所述受控对象在第二维度上的运动,以使得基于所述手势动作同步和正比例地控制所述受控对象在所述第一维度和第二维度上的运动。
CN201610676634.8A 2016-08-17 2016-08-17 基于手势的多维度控制方法和控制装置 Pending CN107766773A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610676634.8A CN107766773A (zh) 2016-08-17 2016-08-17 基于手势的多维度控制方法和控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610676634.8A CN107766773A (zh) 2016-08-17 2016-08-17 基于手势的多维度控制方法和控制装置

Publications (1)

Publication Number Publication Date
CN107766773A true CN107766773A (zh) 2018-03-06

Family

ID=61260996

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610676634.8A Pending CN107766773A (zh) 2016-08-17 2016-08-17 基于手势的多维度控制方法和控制装置

Country Status (1)

Country Link
CN (1) CN107766773A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108491077A (zh) * 2018-03-19 2018-09-04 浙江大学 一种基于多流分治卷积神经网络的表面肌电信号手势识别方法
CN109947183A (zh) * 2019-03-27 2019-06-28 联想(北京)有限公司 一种控制方法及电子设备
CN111640206A (zh) * 2020-06-08 2020-09-08 上海商汤智能科技有限公司 一种动态控制方法及装置
CN112732090A (zh) * 2021-01-20 2021-04-30 福州大学 基于肌肉协同的用户无关实时手势识别方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108491077A (zh) * 2018-03-19 2018-09-04 浙江大学 一种基于多流分治卷积神经网络的表面肌电信号手势识别方法
CN108491077B (zh) * 2018-03-19 2020-06-16 浙江大学 一种基于多流分治卷积神经网络的表面肌电信号手势识别方法
CN109947183A (zh) * 2019-03-27 2019-06-28 联想(北京)有限公司 一种控制方法及电子设备
CN109947183B (zh) * 2019-03-27 2021-12-24 联想(北京)有限公司 一种控制方法及电子设备
CN111640206A (zh) * 2020-06-08 2020-09-08 上海商汤智能科技有限公司 一种动态控制方法及装置
CN112732090A (zh) * 2021-01-20 2021-04-30 福州大学 基于肌肉协同的用户无关实时手势识别方法

Similar Documents

Publication Publication Date Title
Geethanjali Myoelectric control of prosthetic hands: state-of-the-art review
US9720515B2 (en) Method and apparatus for a gesture controlled interface for wearable devices
Mane et al. Hand motion recognition from single channel surface EMG using wavelet & artificial neural network
CN109074166A (zh) 使用神经数据改变应用状态
CN117687477A (zh) 用于可穿戴设备的姿势控制接口的方法和装置
Zhang et al. Wearing-independent hand gesture recognition method based on EMG armband
CN107766773A (zh) 基于手势的多维度控制方法和控制装置
Jingqiu et al. An ARM-based embedded gesture recognition system using a data glove
CN110443113A (zh) 一种虚拟现实书写方法、系统和存储介质
Martinez-Hernandez et al. An integrated probabilistic framework for robot perception, learning and memory
CN114998983A (zh) 一种基于增强现实技术和姿态识别技术的肢体康复方法
Zea et al. Real-time hand gesture recognition: a long short-term memory approach with electromyography
Qureshi et al. E2cnn: An efficient concatenated CNN for classification of surface EMG extracted from upper limb
CN106484082A (zh) 一种基于生物电的控制方法、装置及控制器
Kim et al. Robot hand synergy mapping using multi-factor model and emg signal
CN112884062B (zh) 一种基于cnn分类模型和生成对抗网络的运动想象分类方法及系统
CN107471219A (zh) 基于生物电信号的控制方法和控制装置
Sandberg Gesture recognition using neural networks
US20230280835A1 (en) System including a device for personalized hand gesture monitoring
Chau Machine learning for gesture recognition with electromyography
Gieser et al. Evaluation of a low cost emg sensor as a modality for use in virtual reality applications
Zhou et al. Time–frequency feature transform suite for deep learning-based gesture recognition using sEMG signals
Eddy et al. LibEMG: An Open Source Library to Facilitate the Exploration of Myoelectric Control
CN107765702A (zh) 遥控飞行器及其控制方法
Li et al. DeepTPA-Net: A Deep Triple Attention Network for sEMG-Based Hand Gesture Recognition

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180306

WD01 Invention patent application deemed withdrawn after publication