CN114661161A - 手势交互方法、装置、系统、可穿戴设备及存储介质 - Google Patents

手势交互方法、装置、系统、可穿戴设备及存储介质 Download PDF

Info

Publication number
CN114661161A
CN114661161A CN202210326769.7A CN202210326769A CN114661161A CN 114661161 A CN114661161 A CN 114661161A CN 202210326769 A CN202210326769 A CN 202210326769A CN 114661161 A CN114661161 A CN 114661161A
Authority
CN
China
Prior art keywords
signal
gesture
limb
wearable device
gesture interaction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210326769.7A
Other languages
English (en)
Inventor
戴宗龙
于新亮
李玲玲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Goertek Inc
Original Assignee
Goertek Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Goertek Inc filed Critical Goertek Inc
Priority to CN202210326769.7A priority Critical patent/CN114661161A/zh
Publication of CN114661161A publication Critical patent/CN114661161A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/015Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • G06F2218/10Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Dermatology (AREA)
  • General Health & Medical Sciences (AREA)
  • Neurology (AREA)
  • Neurosurgery (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明公开了一种手势交互方法、装置、系统、可穿戴设备及存储介质,属于手势控制技术领域,所述方法包括:在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;根据所述生物电信号确定对应的目标手势动作;将所述目标手势动作发送至智能头戴设备。从而结合第一可穿戴设备和第二可穿戴设备,通过用户皮肤上变化的生物电信号来确定目标手势动作,可以替代肌电手环交互方式进行手势交互,降低了成本,并且信号干扰可控,能够达到更好的手势交互效果。

Description

手势交互方法、装置、系统、可穿戴设备及存储介质
技术领域
本发明涉及手势控制技术领域,尤其涉及一种手势交互方法、装置、系统、可穿戴设备及存储介质。
背景技术
裸手交互正越发成为VR/AR的一个重要交互方式,尤其是基于腕带的裸手交互,众多科技巨头都投入了大量的资源来探索所述领域。其中,各大厂商认为能够根据肌电图信号(electromyogram,EMG)来实现裸手输入的腕带式设备是AR的未来,都在积极布局EMG相关技术。
严格来说,肌电手环只是使用肌电信号控制设备的仪器。所谓肌电信号,是当肌肉细胞被生物电或者神经激活时产生的电能。而将单个或者多个肌肉细胞或者部分肌肉组织活动时产生的生物电变化,经电极引导,放大、记录和显示所获得的电压变化的一维时间序列信号图形,该图形就是肌电图,也就是我们今天能看到的肌电手环等使用的关键概念。EMG展示了人体肌肉活动时神经细胞的变化图形,用通俗的理解就是,把人比作巨大的电池,在肌肉活动时会释放出一些电量,记录并显示这电量变化的图形就是肌电图。
而应用在商业化落地、改变交互方式上,步骤则要更复杂。通常的肌电手环从获取信号到变成功能,需要经历获取肌电信息——处理信息——翻译处理器能够识别的信息——传输到终端——翻译成具体操作——输出等复杂流程,不仅每一步都需要大量运算,跨平台数据传输,而且在过程中还可能产生误差。
这其中,信号识别是肌电传感器面临的挑战之一,由于人体之间有差异性,而且这个差异性有时会较大,皮肤的干燥程度、毛发、机械设计所带来的传感器脱落等等问题都会对肌电传感信号造成干扰,这些干扰会降低肌电传感器对信号进行准确识别的稳定性。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提出一种手势交互方法、装置、系统、可穿戴设备及存储介质,旨在解决如何替代肌电手环交互方式进行手势交互,降低成本,信号干扰可控的技术问题。
为实现上述目的,本发明提供一种手势交互方法,所述手势交互方法应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互方法包括:
在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;
根据所述生物电信号确定对应的目标手势动作;
将所述目标手势动作发送至智能头戴设备。
可选地,所述根据所述生物电信号确定对应的目标手势动作,包括:
根据所述生物电信号确定当前信号变化波形;
根据所述当前信号变化波形确定对应的目标手势动作。
可选地,所述根据所述当前信号变化波形确定对应的目标手势动作,包括:
将所述当前信号变化波形与预设数据库中的待选信号变化波形进行匹配;
将与所述当前信号变化波形相匹配的待选信号变化波形对应的待选手势动作作为目标手势动作。
可选地,所述将所述当前信号变化波形与预设数据库中的待选信号变化波形进行匹配之前,还包括:
在接收到手势定义信号时,检测所述第一肢体的人体皮肤上变化的待选生物电信号;
根据所述待选生物电信号确定待选信号变化波形,并获取当前动作对应的待选手势动作;
将所述待选信号变化波形与所述待选手势动作进行关联;
将关联后的待选信号变化波形和待选手势动作存储至预设数据库中。
此外,为实现上述目的,本发明还提出一种手势交互装置,所述手势交互装置应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互装置包括:
电流检测模块,用于在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;
手势查找模块,用于根据所述生物电信号确定对应的目标手势动作;
信息发送模块,用于将所述目标手势动作发送至智能头戴设备。
此外,为实现上述目的,本发明还提出一种可穿戴设备,所述可穿戴设备为佩戴于第一肢体的第一可穿戴设备,所述第一可穿戴设备上设置有多个检测电极,所述检测电极用于检测所述第一肢体的人体皮肤上变化的生物电信号;所述第一可穿戴设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的手势交互程序,所述手势交互程序被处理器执行时实现如上所述的手势交互方法。
此外,为实现上述目的,本发明还提出一种存储介质,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如上所述的手势交互方法。
此外,为实现上述目的,本发明还提出一种手势交互方法,所述手势交互方法应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互方法包括:
在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;
在接收到停止释放信号时,停止释放所述激励信号。
可选地,所述在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号之前,还包括:
根据待选激励信号进行交流测量,得到交流测量值;
根据交流测量值确定信号幅度以及所述待选激励信号对应的相位延迟;
根据所述信号幅度和所述相位延迟确定激励频率;
根据所述激励频率生成预设信号信息。
此外,为实现上述目的,本发明还提出一种手势交互装置,所述手势交互装置应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互装置包括:
释放电流模块,用于在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;
停止释放电流模块,用于在接收到停止释放信号时,停止释放所述激励信号。
此外,为实现上述目的,本发明还提出一种一种可穿戴设备,所述可穿戴设备为佩戴于第二肢体的第二可穿戴设备,所述第二可穿戴设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的手势交互程序,所述手势交互程序被处理器执行时实现如上所述的手势交互方法。
此外,为实现上述目的,本发明还提出一种存储介质,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如上所述的手势交互方法。
此外,为实现上述目的,本发明还提出一种手势交互系统,所述手势交互系统包括如上所述的第一可穿戴设备以及如上所述的第二可穿戴设备。
此外,为实现上述目的,本发明还提出一种智能设备控制系统,所述智能设备控制系统包括智能头戴设备以及如上所述的手势交互系统。
本发明提出的手势交互方法中,在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;根据所述生物电信号确定对应的目标手势动作;将所述目标手势动作发送至智能头戴设备。从而结合第一可穿戴设备和第二可穿戴设备,通过用户皮肤上变化的生物电信号来确定目标手势动作,可以替代肌电手环交互方式进行手势交互,降低了成本,并且信号干扰可控,能够达到更好的手势交互效果。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的第一可穿戴设备结构示意图;
图2为本发明手势交互方法第一实施例的流程示意图;
图3为本发明手势交互装置第一实施例的功能模块示意图;
图4是本发明实施例方案涉及的硬件运行环境的第二可穿戴设备结构示意图;
图5为本发明手势交互方法第二实施例的流程示意图;
图6为本发明手势交互装置第二实施例的功能模块示意图;
图7为本发明手势交互系统第一实施例的框架示意图;
图8为本发明手势交互系统一实施例的机器学习阶段的手势定义流程示意图;
图9为本发明手势交互系统一实施例的用户操作阶段的手势识别流程示意图;
图10为本发明手势交互系统一实施例的第一可穿戴设备和第二可穿戴设备佩戴示意图;
图11为本发明手势交互系统一实施例的手势动作示意图;
图12为本发明智能设备控制系统第一实施例的框架示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
参照图1,图1为本发明实施例方案涉及的硬件运行环境的第一可穿戴设备结构示意图。
如图1所示,所述第一可穿戴设备上设置有多个检测电极,所述检测电极用于检测所述第一肢体的人体皮肤上变化的生物电信号;该第一可穿戴设备可以包括:处理器1001,例如中央处理器(Central Processing Unit,CPU),通信总线1002、用户接口1003,网络接口1004,存储器1005。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display)、输入单元比如按键,可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如Wi-Fi接口)。存储器1005可以是高速随机存取存储器(Random Access Memory,RAM),也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的设备结构并不构成对第一可穿戴设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及手势交互程序。
在图1所示的第一可穿戴设备中,网络接口1004主要用于连接外网,与其他网络设备进行数据通信;用户接口1003主要用于连接用户设备,与所述用户设备进行数据通信;本发明设备通过处理器1001调用存储器1005中存储的手势交互程序,并执行本发明实施例提供的手势交互方法。
基于上述硬件结构,提出本发明手势交互方法实施例。
参照图2,图2为本发明手势交互方法第一实施例的流程示意图。
在第一实施例中,所述手势交互方法应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互方法包括:
步骤S10,在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的。
需要说明的是,本方案中涉及第一可穿戴设备和第二可穿戴设备,第一可穿戴设备佩戴于用户的第一肢体,第二可穿戴设备佩戴于用户的第二肢体,其中,第一肢体和第二肢体可为用户的左手和右手,并且,第一可穿戴设备与第二可穿戴设备的佩戴位置可以相互替换,本实施例对此不作限制。
需要说明的是,本实施例中的第一可穿戴设备具体可为检测设备,第二可穿戴设备具体可为激励设备,本实施例对此不作限制。
需要说明的是,本实施例的执行主体可为第一可穿戴设备,第一可穿戴设备可以包括但不限于设置有多个检测电极的手表或者手环,通过这些检测电极来检测第一肢体的人体皮肤上变化的生物电信号,还可为其他可实现相同或相似功能的设备,本实施例对此不作限制。
需要说明的是,本方案可以应用于手势交互系统,在手势交互系统中可以包括但不限于上述第一可穿戴设备和第二可穿戴设备,本实施例对此不作限制。
应当理解的是,用户在使用智能头戴设备时,如果在使用应用的场景中需要进行手势识别,智能头戴设备就会发送手势识别信号给第一可穿戴设备和第二可穿戴设备,第二可穿戴设备会根据手势识别信号释放激励信号,用户可以使用佩戴第二可穿戴设备的第二肢体,在佩戴第一可穿戴设备的第一肢体的手背或者手掌上做出手势动作。其中,本实施例中的激励信号可以包括但不限于电流信号,本实施例对此不作限制。
应当理解的是,由于第二可穿戴设备释放的激励信号可以随第二肢体进行传播,因此,用户在使用第二肢体在第一肢体上进行动作时,会导致第一肢体的皮肤电阻发生改变,引起皮肤电反应,导致第一肢体的人体皮肤上出现变化的生物电信号。所以,可以通过第一可穿戴设备检测第一肢体的人体皮肤上变化的生物电信号,通过变化的生物电信号来识别用户当前使用第二肢体在第一肢体上进行的目标手势动作。其中,本实施例中的生物电信号可以包括但不限于电压信号或者电流信号,本实施例对此不作限制。
需要说明的是,本实施例中的动作可以包括但不限于单指双击、单击、滑动、捏、双指点击以及画图形等,本实施例对此不作限制。其中,上述动作都可以是用户使用第二肢体的手指在第一肢体的手背或者手掌上进行的,例如,单指双击可为用户使用第二肢体的单个手指在第一肢体的手背上进行双击,滑动可为用户使用第二肢体的手指在第一肢体的手背上进行滑动,本实施例对此不作限制。
需要说明的是,第二肢体在第一肢体上做不同动作时,第一可穿戴设备检测皮肤电反应确定的变化的生物电信号会有不同的波形,因此,可以通过检测皮肤电反应来识别用户的手势。
步骤S20,根据所述生物电信号确定对应的目标手势动作。
需要说明的是,由于上述生物电信号是变化的,所以该生物电信号具有对应的信号变化波形,而用户在使用第二肢体在第一肢体上进行不同动作时,会出现不同的信号变化波形。因此,可以根据当前的生物电信号确定当前信号变化波形,进而根据当前信号变化波形来确定对应的目标手势动作。
需要说明的是,除了上述手势识别阶段之外,本方案还可以包括手势定义阶段,即在手势识别之前,预先进行手势定义。
应当理解的是,第二可穿戴设备在接收到手势定义信号时,会根据手势识别信号释放激励信号,用户可以使用佩戴第二可穿戴设备的第二肢体,在佩戴第一可穿戴设备的第一肢体的手背或者手掌上做出预先设置的一些手势动作,在进行上述手势动作时,可以使第二可穿戴设备释放的激励信号通过第二肢体进行传播,导致第一肢体的人体皮肤上出现变化的生物电信号。
应当理解的是,第一可穿戴设备可以根据接收到的手势定义信号,检测第一肢体的人体皮肤上由可传播激励信号的第二肢体在第一肢体上进行动作时导致的变化的待选生物电信号,根据待选生物电信号确定待选信号变化波形,并获取用户的当前动作对应的待选手势动作,将待选信号变化波形与待选手势动作进行关联,并将关联后的待选信号变化波形和待选手势动作存储至预设数据库中。因此,预设数据库中存储有待选信号变化波形和待选手势动作之间的对应关系。
可以理解的是,在进行手势识别的过程中,确定当前的变化的生物电信号之后,可以根据生物电信号确定当前信号变化波形,然后,可以将当前信号变化波形与预设数据库中的待选信号变化波形进行匹配,以确定与当前信号变化波形相匹配的待选信号变化波形,并根据上述对应关系,将该待选信号变化波形对应的待选手势动作作为目标手势动作。
在具体实现中,假如预设数据库中存储有滑动动作和对应的信号变化波形以及点击动作和对应的信号变化波形,如果用户的当前动作对应的信号变化波形与滑动动作对应的信号变化波形相匹配,则可以将滑动动作作为目标手势动作。
步骤S30,将所述目标手势动作发送至智能头戴设备。
应当理解的是,在通过手势交互系统中的第一可穿戴设备和第二可穿戴设备进行上述手势交互步骤确定用户的目标手势动作之后,可以将目标手势动作发送至智能头戴设备,由智能头戴设备根据目标手势动作对当前运行的应用进行控制。例如,如果用户使用智能头戴设备在拨打电话,用户的手势动作为点击动作,并且点击在挂断按钮上,则可以控制智能头戴设备挂断电话。
在本实施例中,在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;根据所述生物电信号确定对应的目标手势动作;将所述目标手势动作发送至智能头戴设备。从而结合第一可穿戴设备和第二可穿戴设备,通过用户皮肤上变化的生物电信号来确定目标手势动作,可以替代肌电手环交互方式进行手势交互,降低了成本,并且信号干扰可控,能够达到更好的手势交互效果。
此外,本发明实施例还提出一种存储介质,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如上文所述的手势交互方法的步骤。
由于本存储介质采用了上述所有实施例的全部技术方案,因此至少具有上述实施例的技术方案所带来的所有有益效果,在此不再一一赘述。
此外,参照图3,本发明实施例还提出一种手势交互装置,所述手势交互装置应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互装置包括:
电流检测模块10,用于在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的。
手势查找模块20,用于根据所述生物电信号确定对应的目标手势动作。
信息发送模块30,用于将所述目标手势动作发送至智能头戴设备。
在本实施例中,在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;根据所述生物电信号确定对应的目标手势动作;将所述目标手势动作发送至智能头戴设备。从而结合第一可穿戴设备和第二可穿戴设备,通过用户皮肤上变化的生物电信号来确定目标手势动作,可以替代肌电手环交互方式进行手势交互,降低了成本,并且信号干扰可控,能够达到更好的手势交互效果。
在本发明所述手势交互装置的其他实施例或具体实现方法可参照上述各方法实施例,此处不再赘述。
参照图4,图4为本发明实施例方案涉及的硬件运行环境的第二可穿戴设备结构示意图。
如图4所示,该第二可穿戴设备可以包括:处理器2001,例如中央处理器(CentralProcessing Unit,CPU),通信总线2002、用户接口2003,网络接口2004,存储器2005。其中,通信总线2002用于实现这些组件之间的连接通信。用户接口2003可以包括显示屏(Display)、输入单元比如按键,可选用户接口2003还可以包括标准的有线接口、无线接口。网络接口2004可选的可以包括标准的有线接口、无线接口(如Wi-Fi接口)。存储器2005可以是高速随机存取存储器(Random Access Memory,RAM),也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器2005可选的还可以是独立于前述处理器2001的存储装置。
本领域技术人员可以理解,图4中示出的设备结构并不构成对第二可穿戴设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图4所示,作为一种存储介质的存储器2005中可以包括操作系统、网络通信模块、用户接口模块以及手势交互程序。
在图4所示的第二可穿戴设备中,网络接口2004主要用于连接外网,与其他网络设备进行数据通信;用户接口2003主要用于连接用户设备,与所述用户设备进行数据通信;本发明设备通过处理器2001调用存储器2005中存储的手势交互程序,并执行本发明实施例提供的手势交互方法。
基于上述硬件结构,提出本发明手势交互方法实施例。
参照图5,图5为本发明手势交互方法第二实施例的流程示意图。
在第二实施例中,所述手势交互方法应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互方法包括:
步骤S01,在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号。
需要说明的是,本实施例的执行主体可为第二可穿戴设备,第二可穿戴设备可为包括但不限于能够释放电流的手表或者手环,还可为其他可实现相同或相似功能的设备,本实施例对此不作限制。
需要说明的是,本方案可以应用于手势交互系统,在手势交互系统中可以包括第一可穿戴设备和第二可穿戴设备,本实施例对此不作限制。
应当理解的是,本方案在手势定义阶段和手势识别阶段都可以由第二可穿戴设备释放激励信号,通过第二肢体传播释放的激励信号,从而可以在用户通过第二肢体在第一肢体上进行动作时,在第一肢体的人体皮肤上产生变化的生物电信号,并且不会对人体造成伤害。因此,第二可穿戴设备在接收到智能头戴设备发送的手势识别信号或者手势定义信号时,可以根据预设信号信息释放激励信号。
应当理解的是,为了确定符合当前使用场景的预设信号信息,可以根据待选激励信号进行交流测量,得到交流测量值,根据交流测量值确定信号幅度以及所述待选激励信号对应的相位延迟,根据信号幅度和相位延迟确定激励频率,进而根据所述激励频率生成预设信号信息。
在具体实现中,可以生成一个待选激励信号,用于测量皮肤的电导率。该待选激励信号是一个交流信号,从交流测量值抽取的两个参数是信号幅度和激励信号与获取的信号之间的相位延迟。最重要的参数是幅度,可以通过多种方式从交流信号中获取该参数。在本系统中,获取幅度的最佳方法是实现DFT,也可以将DFT视为滤波器组,其衰减水平与样本数成正比,最大值的位置取决于待选激励信号。然而,DFT的功耗与样本数成比例,采集的样本越多,功耗越大。这意味着在样本数与功耗之间存在一个重要的折衷点,激励频率必须尽可能低,以确保电流会流过患者的皮肤,但不会渗入身体,因此,激励频率必须小于1kHz。同时需要指出的是,主要噪声源是市电产生的50Hz/60Hz噪声。通过正确定义激励频率,我们可以抵消50Hz噪声源。然而,不能使用高频率的原因如前所述。所以,本方案可设置折衷点为100Hz,电流控制在300-500微安的安全范围之内。
步骤S02,在接收到停止释放信号时,停止释放所述激励信号。
应当理解的是,由于只需要在手势定义阶段和手势识别阶段才需要对第一肢体的人体皮肤上变化的生物电信号进行检测,因此,只有在这两个阶段需要控制第二可穿戴设备释放激励信号。所以,为了避免能源浪费,可以在手势定义或者手势识别完成之后,由智能头戴设备向第二可穿戴设备发送停止释放信号,第二可穿戴设备在接收到停止释放信号时,可以停止释放激励信号,进入待机或者关机状态,直至下一次接收到手势定义信号或者手势识别信号时,再进行释放激励信号的操作。
在本实施例中,在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;在接收到停止释放信号时,停止释放所述激励信号。从而可以通过控制第二可穿戴设备释放激励信号的方式,结合用户的手势动作在第一肢体的人体皮肤表面产生变化的生物电信号,以进行手势定义和手势识别,提高了手势交互的效果,并且,还可以根据不同的控制信号来控制第二可穿戴设备释放激励信号或者停止释放激励信号,可以起到节省能源的效果。
此外,本发明实施例还提出一种存储介质,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如上文所述的手势交互方法的步骤。
由于本存储介质采用了上述所有实施例的全部技术方案,因此至少具有上述实施例的技术方案所带来的所有有益效果,在此不再一一赘述。
此外,参照图6,本发明实施例还提出一种手势交互装置,所述手势交互装置应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互装置包括:
释放电流模块40,用于在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;
停止释放电流模块50,用于在接收到停止释放信号时,停止释放所述激励信号。
在本实施例中,在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;在接收到停止释放信号时,停止释放所述激励信号。从而可以通过控制第二可穿戴设备释放激励信号的方式,结合用户的手势动作在第一肢体的人体皮肤表面产生变化的生物电信号,以进行手势定义和手势识别,提高了手势交互的效果,并且,还可以根据不同的控制信号来控制第二可穿戴设备释放激励信号或者停止释放激励信号,可以起到节省能源的效果。
在本发明所述手势交互装置的其他实施例或具体实现方法可参照上述各方法实施例,此处不再赘述。
此外,参照图7,本发明实施例还提出一种手势交互系统,所述手势交互系统包括如上所述的第一可穿戴设备以及如上所述的第二可穿戴设备,所述第一可穿戴设备佩戴于用户的第一肢体,所述第二可穿戴设备佩戴于用户的第二肢体。其中,第一可穿戴设备具体可为检测设备,第二可穿戴设备具体可为激励设备,本实施例对此不作限制。
应当理解的是,所述第二可穿戴设备,用于在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号。所述检测设备,用于在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;根据所述生物电信号确定对应的目标手势动作;将所述目标手势动作发送至智能头戴设备。
应当理解的是,所述第一可穿戴设备,还用于根据所述生物电信号确定当前信号变化波形;根据所述当前信号变化波形确定对应的目标手势动作。所述第一可穿戴设备,还用于将所述当前信号变化波形与预设数据库中的待选信号变化波形进行匹配;将与所述当前信号变化波形相匹配的待选信号变化波形对应的待选手势动作作为目标手势动作。所述第一可穿戴设备,还用于在接收到手势定义信号时,检测所述第一肢体的人体皮肤上变化的待选生物电信号;根据所述待选生物电信号确定待选信号变化波形,并获取当前动作对应的待选手势动作;将所述待选信号变化波形与所述待选手势动作进行关联;将关联后的待选信号变化波形和待选手势动作存储至预设数据库中。
需要说明的是,由于现有的肌电手环存在上述那些问题,本方法另辟蹊径,利用皮电反应(GSR)的信号变化来定义滑动,点击,捏压等动作来实现与肌电控制类似的交互功能,结合VR/AR场景下的视觉渲染,可实现多种交互,如虚拟键盘拨号、双击确定以及菜单切换等,本实施例对此不作限制。
可以理解的是,本方案的目的及亮点如下:1、肌电手环交互方式的平替,成本低可实现性强,信号干扰可控。2、更容易与手环产品结合。3、增加触摸反馈让虚拟世界的操控更准确更新颖。4、因接收端检测设备用的是具有双电极可检测心电图(ECG)的产品方案,可涵盖产品线中上代的产品,仅需搭配一个激励设备然后更新下APP即可让具有检测压力指数(EDA)或者ECG功能的手表具备操作VR/AR的功能体验。
需要说明的是,本方案的技术原理如下:对于直流电压来说,它表述为通过导体两点之间的电流与这两点之间的电压成正比。换言之,导体的电阻是恒定的,与电流无关。对于交流电压来说,情况则完全改变了,而且变得更加复杂。电阻变为阻抗,其定义为电压与电流在频域中的比率。幅度(或实部)代表电压和电流之间的比率,而相位(或虚部)则是电压与电流之间的相移值。通过在双手间的电接触,如一只手佩戴激励设备、一只手佩戴检测装备,皮肤阻抗监测采用伏安法测量。在未知阻抗上施加激励信号,并测量阻抗两端的电压,其中未知阻抗可为皮肤。然后测量通过未知阻抗的电流。对模数转换器(ADC)结果执行离散傅里叶变换(Discrete Fourier Transform,DFT)计算以得到阻抗的变化,通过因接触时皮肤电阻抗产生变化而引起的电压或电流信号波动产生的峰值阈差进行打点定义手势。
需要说明的是,本实施例的检测设备定义如下:检测设备可包括固有的硬件配置,例如,很多智能手表上已经有的电极和信号放大器,一般地,皮肤电导设备必须覆盖的范围为0μS至100μS,还要能检测0.05μS的波动。分辨率可以通过12位分辨率以上的ADC实现。对于分辨率,本系统的目标是0.01μS,因此需要采用14位或16位分辨率的ADC。
需要说明的是,本实施例中的激励设备定义如下:如前所述,系统需要生成一个激励信号,用于测量皮肤的电导率。该激励信号是一个交流信号,从交流测量值抽取的两个参数是信号幅度和激励信号与获取的信号之间的相位延迟。最重要的参数是幅度,可以通过多种方式从交流信号中获取该参数。在本系统中,获取幅度的最佳方法是实现DFT,也可以将DFT视为滤波器组,其衰减水平与样本数成正比,最大值的位置取决于激励信号。然而,DFT的功耗与样本数成比例,采集的样本越多,功耗越大。这意味着在样本数与功耗之间存在一个重要的折衷点,激励频率必须尽可能低,以确保电流会流过患者的皮肤,但不会渗入身体,因此,激励频率必须小于1kHz。同时需要指出的是,主要噪声源是市电产生的50Hz/60Hz噪声。
Figure BDA0003573819770000151
在上式中,fzero表示激励频率,Fs表示功率,N表示试验次数,k为常数,fexc表示傅里叶变换。根据上述公式可知,DFT的各个组分X(k)抵消了n×FS/N形式的频谱组分的贡献,其中,n=0,1,2...N–1,N=k时除外。通过正确定义激励频率,我们可以抵消50Hz噪声源。然而,不能使用高频率的原因如前所述。所以,本方案可设置折衷点为100Hz,电流控制在300-500微安的安全范围之内。
在具体实现中,可以参照图8和图9,图8为机器学习阶段的手势定义流程示意图,图9为用户操作阶段的手势识别流程示意图。
应当理解的是,可如图10所示,图10中示出的是用户的两只手,其中,1.1为检测设备,1.2为激励设备,其中,检测设备可以为具有多个电极的智能手表或手环。
可以理解的是,在进行机器学习时,激励设备激活后,用户通过佩戴激励设备的那只手的手指,触碰佩戴检测设备的那只手的手背不同位置会有不同的信号发生,借由信号差异打点附加释义,如单指双击、单击、滑动、捏、双指点击以及画图形等,本实施例对此不作限制。
在具体实现中,可定义的动作有且不局限于上边提到的这些动作实现对应的信号关联,完成记忆,本实施例对此不作限制。可以如图11所示,图11中的(1)表示滑动手势,图11中的(2)表示点击手势,图11中的(3)表示滑动手势。
需要说明的是,在用户使用的过程中,还可以结合智能头戴设备上的深度摄像头拾取画面并交由处理器渲染,并输出给检测设备,检测设备在完成信号分析后传给智能头戴设备,以完成对应的人机交互。其中,本方案侧重于视觉手势识别的二次确认和物理反馈,因为从交互层面来说,有触感的实体操作比完全腾空的手势操作,准确率更高,交互行为更合理。
可以理解的是,在手势定义阶段,可以根据不同按压位置的数据记录学习,按压手掌不同区域并作为位置按压数据进行存储;也可以根据手掌滑动的数据记录学习,在手掌上做出滑动动作并做出记录;还可以根据敲击的数据记录学习,在手掌上做出敲击动作并做出记录,本实施例对此不作限制。
可以理解的是,在手势应用操作阶段,完成机器学习后,在佩戴XR眼镜的情况下,利用手势来完成识别操控交由手表的外挂MCU传输到XR眼镜的运算处理中心,即可完成对应功能。例如,上述功能可以包括但不限于拨打电话功能、快速接听电话功能、视频拖拽功能以及游戏功能等,本实施例对此不作限制。
此外,参照图12,本发明实施例还提出一种智能设备控制系统,所述智能设备控制系统包括智能头戴设备以及如上所述的手势交互系统。
需要说明的是,本实施例中的智能头戴设备可以包括但不限于智能XR眼镜,其中,上述智能XR眼镜可以包括但不限于VR眼镜和AR眼镜,本实施例对此不作限制。
可以理解的是,本方案通过将智能头戴设备的图像识别和手势交互系统的信号识别相结合,可以进行二次确认,通过这种手势交互方式来实现各项应用功能的控制,提高了用户使用智能头戴设备的体验感,丰富了用户的使用场景。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该估算机软件产品存储在如上所述的一个估算机可读存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台智能设备(可以是手机,估算机,手势交互设备,或者网络手势交互设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (14)

1.一种手势交互方法,其特征在于,所述手势交互方法应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互方法包括:
在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;
根据所述生物电信号确定对应的目标手势动作;
将所述目标手势动作发送至智能头戴设备。
2.如权利要求1所述的手势交互方法,其特征在于,所述根据所述生物电信号确定对应的目标手势动作,包括:
根据所述生物电信号确定当前信号变化波形;
根据所述当前信号变化波形确定对应的目标手势动作。
3.如权利要求2所述的手势交互方法,其特征在于,所述根据所述当前信号变化波形确定对应的目标手势动作,包括:
将所述当前信号变化波形与预设数据库中的待选信号变化波形进行匹配;
将与所述当前信号变化波形相匹配的待选信号变化波形对应的待选手势动作作为目标手势动作。
4.如权利要求3所述的手势交互方法,其特征在于,所述将所述当前信号变化波形与预设数据库中的待选信号变化波形进行匹配之前,还包括:
在接收到手势定义信号时,检测所述第一肢体的人体皮肤上变化的待选生物电信号;
根据所述待选生物电信号确定待选信号变化波形,并获取当前动作对应的待选手势动作;
将所述待选信号变化波形与所述待选手势动作进行关联;
将关联后的待选信号变化波形和待选手势动作存储至预设数据库中。
5.一种手势交互装置,其特征在于,所述手势交互装置应用于佩戴于第一肢体的第一可穿戴设备,所述手势交互装置包括:
电流检测模块,用于在接收到手势识别信号时,检测所述第一肢体的人体皮肤上变化的生物电信号,所述生物电信号的变化为响应于佩戴有释放激励信号的第二穿戴设备的第二肢体在所述第一肢体上进行动作时产生的;
手势查找模块,用于根据所述生物电信号确定对应的目标手势动作;
信息发送模块,用于将所述目标手势动作发送至智能头戴设备。
6.一种可穿戴设备,其特征在于,所述可穿戴设备为佩戴于第一肢体的第一可穿戴设备,所述第一可穿戴设备上设置有多个检测电极,所述检测电极用于检测所述第一肢体的人体皮肤上变化的生物电信号;所述第一可穿戴设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的手势交互程序,所述手势交互程序被处理器执行时实现如权利要求1至4中任一项所述的手势交互方法。
7.一种存储介质,其特征在于,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如权利要求1至4中任一项所述的手势交互方法。
8.一种手势交互方法,其特征在于,所述手势交互方法应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互方法包括:
在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;
在接收到停止释放信号时,停止释放所述激励信号。
9.如权利要求8所述的手势交互方法,其特征在于,所述在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号之前,还包括:
根据待选激励信号进行交流测量,得到交流测量值;
根据交流测量值确定信号幅度以及所述待选激励信号对应的相位延迟;
根据所述信号幅度和所述相位延迟确定激励频率;
根据所述激励频率生成预设信号信息。
10.一种手势交互装置,其特征在于,所述手势交互装置应用于佩戴于第二肢体的第二可穿戴设备,所述手势交互装置包括:
释放电流模块,用于在接收到手势识别信号或手势定义信号时,根据预设信号信息释放通过所述第二肢体进行传播的激励信号;
停止释放电流模块,用于在接收到停止释放信号时,停止释放所述激励信号。
11.一种可穿戴设备,其特征在于,所述可穿戴设备为佩戴于第二肢体的第二可穿戴设备,所述第二可穿戴设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的手势交互程序,所述手势交互程序被处理器执行时实现如权利要求8至9中任一项所述的手势交互方法。
12.一种存储介质,其特征在于,所述存储介质上存储有手势交互程序,所述手势交互程序被处理器执行时实现如权利要求8至9中任一项所述的手势交互方法。
13.一种手势交互系统,其特征在于,所述手势交互系统包括如权利要求6所述的第一可穿戴设备以及如权利要求11所述的第二可穿戴设备。
14.一种智能设备控制系统,其特征在于,所述智能设备控制系统包括智能头戴设备以及如权利要求13所述的手势交互系统。
CN202210326769.7A 2022-03-30 2022-03-30 手势交互方法、装置、系统、可穿戴设备及存储介质 Pending CN114661161A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210326769.7A CN114661161A (zh) 2022-03-30 2022-03-30 手势交互方法、装置、系统、可穿戴设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210326769.7A CN114661161A (zh) 2022-03-30 2022-03-30 手势交互方法、装置、系统、可穿戴设备及存储介质

Publications (1)

Publication Number Publication Date
CN114661161A true CN114661161A (zh) 2022-06-24

Family

ID=82032977

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210326769.7A Pending CN114661161A (zh) 2022-03-30 2022-03-30 手势交互方法、装置、系统、可穿戴设备及存储介质

Country Status (1)

Country Link
CN (1) CN114661161A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115114962A (zh) * 2022-07-19 2022-09-27 歌尔股份有限公司 基于表面肌电信号的控制方法、装置及可穿戴设备
WO2024022081A1 (zh) * 2022-07-28 2024-02-01 歌尔股份有限公司 可穿戴设备、信号处理方法和穿戴系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100106044A1 (en) * 2008-10-27 2010-04-29 Michael Linderman EMG measured during controlled hand movement for biometric analysis, medical diagnosis and related analysis
CN103777752A (zh) * 2013-11-02 2014-05-07 上海威璞电子科技有限公司 基于手臂肌肉电流检测和运动传感器的手势识别设备
US20150149924A1 (en) * 2013-11-22 2015-05-28 Inventec Appliances Corp. Interaction method between wearable devices and wearable device thereof
CN108417009A (zh) * 2018-02-08 2018-08-17 青岛真时科技有限公司 一种终端设备控制方法以及电子设备
KR20180112308A (ko) * 2017-04-03 2018-10-12 김정모 손동작을 기반으로 전자 장치를 제어하는 웨어러블 디바이스 및 이의 제어 방법
US10877558B1 (en) * 2018-02-28 2020-12-29 Facebook Technologies, Llc Wearable gesture input device using electric impedance measurement
US20210294881A1 (en) * 2020-03-23 2021-09-23 Capital One Services, Llc WEARABLE DEVICES AND RELATED SYSTEMS FOR AUTHENTICATING A USER WITH SURFACE ELECTROMYOGRAM (sEMG)-SIGNALS

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100106044A1 (en) * 2008-10-27 2010-04-29 Michael Linderman EMG measured during controlled hand movement for biometric analysis, medical diagnosis and related analysis
CN103777752A (zh) * 2013-11-02 2014-05-07 上海威璞电子科技有限公司 基于手臂肌肉电流检测和运动传感器的手势识别设备
US20150149924A1 (en) * 2013-11-22 2015-05-28 Inventec Appliances Corp. Interaction method between wearable devices and wearable device thereof
KR20180112308A (ko) * 2017-04-03 2018-10-12 김정모 손동작을 기반으로 전자 장치를 제어하는 웨어러블 디바이스 및 이의 제어 방법
CN108417009A (zh) * 2018-02-08 2018-08-17 青岛真时科技有限公司 一种终端设备控制方法以及电子设备
US10877558B1 (en) * 2018-02-28 2020-12-29 Facebook Technologies, Llc Wearable gesture input device using electric impedance measurement
US20210294881A1 (en) * 2020-03-23 2021-09-23 Capital One Services, Llc WEARABLE DEVICES AND RELATED SYSTEMS FOR AUTHENTICATING A USER WITH SURFACE ELECTROMYOGRAM (sEMG)-SIGNALS

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115114962A (zh) * 2022-07-19 2022-09-27 歌尔股份有限公司 基于表面肌电信号的控制方法、装置及可穿戴设备
WO2024022081A1 (zh) * 2022-07-28 2024-02-01 歌尔股份有限公司 可穿戴设备、信号处理方法和穿戴系统

Similar Documents

Publication Publication Date Title
US20230088533A1 (en) Detecting and Using Body Tissue Electrical Signals
CN114661161A (zh) 手势交互方法、装置、系统、可穿戴设备及存储介质
Costanza et al. Toward subtle intimate interfaces for mobile devices using an EMG controller
US8082025B2 (en) ECG data acquisition device
Chen et al. Multiple hand gesture recognition based on surface EMG signal
US9585591B2 (en) Electronic device, information processing apparatus, information processing method and program
CN107148305A (zh) 移动终端、辅助设备、血压测量系统及方法
Phinyomark et al. A feasibility study on the use of anthropometric variables to make muscle–computer interface more practical
CN104346074A (zh) 一种终端
Ryait et al. Interpretations of wrist/grip operations from SEMG signals at different locations on arm
US11705748B2 (en) Wearable gesture recognition device for medical screening and associated operation method and system
CN106255456A (zh) 移动终端及脂肪数据测量方法
CN105487661A (zh) 一种终端控制方法及装置
CN104360800A (zh) 一种解锁模式调整方法
Carrino et al. Gesture segmentation and recognition with an EMG-based intimate approach-an accuracy and usability study
CN207412163U (zh) 肌肉训练评估装置
Chen et al. A novel hybrid model for drawing trace reconstruction from multichannel surface electromyographic activity
CN212067683U (zh) 投篮手势分析手环
Talukder et al. EOG based home automation system by cursor movement using a graphical user interface (GUI)
Conchell et al. Design Development and Evaluation of a System to Obtain Electrodermal Activity
CN203898296U (zh) 新型心电检测装置
Zhang et al. Research on gesture definition and electrode placement in pattern recognition of hand gesture action SEMG
JP6675760B2 (ja) 心電測定方法及び心電測定器具
Hiyama et al. Motion estimation of five fingers using small concentric ring electrodes for measuring surface electromyography
JP3747146B2 (ja) 生体電気インピーダンス測定装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination