CN113589923B - 一种面向手势控制的人机交互系统和方法 - Google Patents

一种面向手势控制的人机交互系统和方法 Download PDF

Info

Publication number
CN113589923B
CN113589923B CN202110722929.5A CN202110722929A CN113589923B CN 113589923 B CN113589923 B CN 113589923B CN 202110722929 A CN202110722929 A CN 202110722929A CN 113589923 B CN113589923 B CN 113589923B
Authority
CN
China
Prior art keywords
manipulator
gesture control
electrode
contact
data processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110722929.5A
Other languages
English (en)
Other versions
CN113589923A (zh
Inventor
方鹏
王迎英
汤熙
田岚
李向新
郑悦
张浩诗
李光林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN202110722929.5A priority Critical patent/CN113589923B/zh
Publication of CN113589923A publication Critical patent/CN113589923A/zh
Priority to PCT/CN2021/137766 priority patent/WO2023273191A1/zh
Application granted granted Critical
Publication of CN113589923B publication Critical patent/CN113589923B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明公开了一种面向手势控制的人机交互系统,包括:腕带本体设置有微针阵列电极;在机械手的每个手指位置均安装压力传感器,用于检测机械手与物体之间的接触信号,经过无线通信方式将所检测到的接触信号传输至所述腕带本体内设置的数据处理与发送模块;数据处理与发送模块,与腕带本体内设置的微针阵列电极电连接,用于对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体上的微针阵列电极施加于使用者手部来刺激诱发和传导手部感觉信息。能够实现手势控制过程的真实自然的感觉反馈功能,将操作者的手从传统的力反馈数据手套中解放出来,可以进行更加灵活的手势操作。

Description

一种面向手势控制的人机交互系统和方法
技术领域
本发明涉及可穿戴设备技术领域,具体涉及一种面向手势控制的人机交互系统和方法。
背景技术
针对目前的手势控制方法缺乏直觉的感觉反馈功能,使用者无法真实地感受到手势控制的效果,从而无法实现精准控制的问题。
手势控制指人手无需直接接触机器,只是在空中做出相应的姿势变化,就能控制机器完成相应的动作。手势控制是近年发展起来的全新的交互方式,与一般的按键、语音等交互方式不同,手势控制更容易掌握和使用。手势控制在很多领域有重要的应用价值,尤其在危险环境下可实现远程操控,无需操作者亲临现场,可保证操作者的人身安全。
手势控制离不开感应设备、处理芯片和算法这些基本要素。预先定义包含多种功能的控制指令库,然后实时获取手势信息,通过各种手势识别方法来识别并判断操作者正在进行的手势动作,最后将动作判断的结果对应到指令库中相应的控制命令,从而实现手势控制。目前主要有以下几种实现手势识别的方法:
①飞行时间技术。该技术需要配备具有发射和接收脉冲光的3D相机模块。首先相机模块发射脉冲光线,由于不同距离处的手指接受到光线照射的时间不同,从而光线返回到接收模块的时间也不同。根据不同的返回时间,处理芯片可计算出不同手指的具体位置,从而识别手势。
②结构光技术。首先利用激光发射器将结构光投射至前方的人体表面,再使用红外传感器接收人体反射的结构光图案。处理芯片根据接收图案的位置和形变程度计算人体的空间信息,再结合一定的算法进行深度计算,即可识别手势。
③毫米波雷达。其基本原理与飞行时间技术相似,只是用于测量的介质由光变成了电磁波。首先发射无线电波,然后接收回波,处理芯片根据收发时间差实时计算目标位置数据。比较不同时间段手指位置,并与内置数据比较,从而识别手势。
④数据手套。数据手套是一种多模虚拟现实硬件,通过软件编程,可进行虚拟或现实场景中物体的抓取、移动、旋转等动作。数据手套设有弯曲传感器,能够检测手指弯曲,并利用磁定位传感器定位手在三维空间中的位置。这种结合手指弯曲度和空间定位的数据手套被称为“真实手套”,可为用户提供一种真实自然的三维交互手段。
总体来说,目前的技术可以实时准确地识别用户手势,并传递至虚拟或现实控制系统,实现控制应用。但是,尚缺乏有效的反馈手段,无法把控制效果(如虚拟手或现实机器手的接触信息)反馈给操作者。
现有手势控制技术,主要实现了“运动控制功能”,通过手势识别实现远程控制,但缺乏“感觉反馈功能”,导致操控效果不佳,使用体验差。只有从人到机器的单向信息传递,缺乏从机器到人的反馈,没有实现信息的双向传递,不是真正的人机交互。例如,使用者通过手势控制技术远程操控机械手抓握物体时,由于缺少直觉的感觉信息反馈功能,使用者无法像真实人手一样在抓握时获取各种信息或者仅能通过视觉等间接反馈方式了解抓握的基本状况,无法通过判断物体是否被抓紧来决定是否增加或减小抓握力,无法感知抓握物体的材质、形状和温度等信息,因此无法及时地对机械手所处环境的外界刺激做出响应。
如上所述,目前已存在一些间接的反馈技术,例如在机械手抓握到物体时,提供灯光或声音的强弱来提示抓握力度的大小。但这种非直觉的反馈信息无法被使用者直观的感受到,而且反馈的信息有限,还容易受到各种环境的限制。此外,人们还开发了力反馈手套技术,在数据手套内部增加振动片等器件,使用机械刺激使用者的手指的方法来传递感觉信息,从而达到反馈的效果,但这种技术只能实现简单的力反馈,包含的信息量有限,且配置了各类传感器的数据手套一般体积较大,不利于机械手的精细化动作的完成以及对手部动作的准确识别。
发明内容
本发明的目的在于提供一种面向手势控制的人机交互系统,以解决上述背景技术中提出的问题。
为实现上述目的,本发明实施例提供了一种面向手势控制的人机交互系统,包括:
腕带本体,所述腕带本体内设置有微针阵列电极;
在机械手的每个手指位置均安装压力传感器,所述压力传感器用于检测机械手与物体之间的接触信号,经过无线通信方式将所检测到的接触信号传输至所述腕带本体内设置的数据处理与发送模块;
数据处理与发送模块,与腕带本体内设置的微针阵列电极电连接,用于对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体上的微针阵列电极施加于使用者手部来刺激诱发和传导手部感觉信息。
优选地,所述腕带本体分为三层,最外侧为无纺布层;中间层为基底层,中间的基底层设置有微针阵列电极;最内侧与皮肤直接接触的这一层为硅胶层,硅胶层在对应基底层中微针的位置都已预先打好孔。
优选地,在所述腕带本体上分别设置有与机械手的每个手指位置安装能够分别诱发真实手指感觉的对应的微针阵列电极。
优选地,所述微针阵列电极包括电极基底和形成在所述电极基底之上的微针阵列。
优选地,所述电极包括凝胶湿电极和微针阵列电极各类电极及其组合。
优选地,所述压力传感器包括压敏传感器、压电传感器中的至少一种。
优选地,所述数据处理与发送模块包括信号处理模块和与其连接的低功耗蓝牙模块,信号处理模块通过低功耗蓝牙模块接收从机械手上压力传感器传出的传感器输出信号值,设定不同阈值来判断接触状态。
优选地,所述接触状态包括接触感觉的类型、接触的位置以及接触的紧密程度。
优选地,所述信号处理模块首先对压力传感器传入的信号进行滤波、去噪预处理,获得清晰的压力信号,然后对信号进行加窗、特征提取、模式识别处理,将计算的结果与上一部分设定的阈值进行比较,最后判断识别结果、确定感觉信息的类型、并将所判断的感觉强度与设定的阈值对比来对感觉强度进行分级,根据识别和分级的结果来编码刺激参数和刺激位置,再将电信号传递至对应的电极来将电刺激施加于电极下方的皮肤和神经,从而诱发手部不同位置的不同强度的感觉。
本发明实施例还提供一种面向手势控制的人机交互方法,包括如下步骤:
提供一种面向手势控制的人机交互系统;面向手势控制的人机交互系统包括:腕带本体、所述腕带本体内设置有微针阵列电极、安装在机械手的每个手指位置均安装压力传感器和与腕带本体内设置的微针阵列电极电连接的数据处理与发送模块;
通过所述压力传感器检测机械手与物体之间的接触信号,经过无线通信方式将所检测到的接触信号传输至所述腕带本体内设置的数据处理与发送模块;
通过数据处理与发送模块对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体上的微针阵列电极施加于使用者手部来刺激诱发和传导手部感觉信息。
本发明方法具有如下优点:
(1)本发明能够实现手势控制过程的真实自然的感觉反馈功能,相比无感觉反馈或依靠视觉等间接反馈的控制过程,更有沉浸感,能够更加直观的体验控制过程,且将操作者的手从传统的力反馈数据手套中解放出来,可以进行更加灵活的手势操作,有利于优化使用体验,实现更加灵活且精细的控制。
(2)本发明所提出的方法计算量小,易于单片机实现,相关的计算方法可集成到可穿戴设备中,相较于力反馈手套,本发明的硬件部分主要采用集成电路制成,没有移动的机械元件,故功耗更低、响应更快。
(3)通过自然感觉反馈功能,使用者能够直观了解控制结果后做出自主判断,不断修正自己的手势和抓握力,实施更为精准的控制。
(4)本发明所使用的微针阵列电极,采用柔性基板制作,安装在弹性腕带上。可以保证其很好地附着在皮肤上,且在长期佩戴和使用过程中,相较于湿电极和其他类型的干电极有更低且更稳定的电极-皮肤接触面阻抗和更强的抗干扰性,使得操作者可以长时间穿戴腕带。
(5)本发明腕带采用的微针阵列电极与弹性绑带等制作流程和工艺简单,适合机器流水线生产。
附图说明
图1为本发明提供的面向手势控制的人机交互系统的传感器空间结构示意图。
图2为本发明提供的面向手势控制的人机交互系统的电刺激位置和接触位置对应关系图。
图3为图2中的面向手势控制的人机交互系统的腕带本体结构图。
图4为本发明提供的面向手势控制的人机交互系统的原理图。
图5为本发明提供的面向手势控制的人机交互方法流程图。
具体实施方式
以下实施例用于说明本发明,但不用来限制本发明的范围。为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例的附图,对本发明实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于所描述的本发明的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供了一种面向手势控制的人机交互系统,包括:腕带本体203、所述腕带本体203内设置有微针阵列电极204、安装在机械手201的每个手指位置均安装压力传感器202和与腕带本体203内设置的微针阵列电极204电连接的数据处理与发送模块205。所述腕带本体203内设置有微针阵列电极204;所述压力传感器202用于检测机械手201与物体之间的接触信号,经过无线通信方式将所检测到的接触信号传输至所述腕带本体203内设置的数据处理与发送模块205;与腕带本体203内设置的微针阵列电极204电连接,用于对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体203上的微针阵列电极204施加于使用者手部来刺激诱发和传导手部感觉信息。
当机械手201或虚拟手接触到物体时,对于机械手201,根据从手指表面传感器接收到的感觉信息来编码电刺激参数(对于虚拟手,通过程序模拟手抓握物体时接触面的形变等来表示是否接触以及接触的紧密程度等感觉信息),然后在佩戴者的手腕进行表面电刺激来实现感觉信息向大脑的传递,从而使操作者可以根据所感受到的接触信息来调整自己的抓握姿势和抓握力,使得操作者可以通过更加直接、自然、有效的方式与虚拟世界进行交互,这大大增强了互动性和沉浸感,提升了人机交互体验。此外,还为操作者提供了一种通用的人机交互方式,特别适用于需要多自由度手模型对虚拟物体进行复杂操作的虚拟现实系统。
本发明实施例提供了一种面向手势控制的人机交互系统包括两个部分,第一部分是感觉信息获取,由信号采集、传输和处理几个模块,在机械手201安装压力传感器202(虚拟手则用程序模拟),用于在抓握过程中检测机械手201与物体接触或握紧的状态,将所采集的信号传送至感觉腕带本体203,在腕带中的数据处理模块对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,用于诱发使用者手部真实的感觉;第二部分是感觉信息反馈,根据第一部分中所获得的感觉信息分析的结果对电刺激参数进行编码和设置,并将编码好的电流脉冲通过腕带上的电极施加于使用者手部来刺激诱发和传导手部感觉信息。
(1)感觉信息获取
对于机械手201,传感器空间结构示意图如图1所示,101为机械手201手指表面。102为压力传感器202层,根据需要可制作成数十微米厚度,不影响机械手201日常使用。103为覆盖在压力传感器202表面的保护层,可用塑封工艺,保护压力传感器202,延长使用寿命。可以根据使用需求,在机械手201的每个手指位置均安装压力传感器202,以识别不同位点接触物体的状态。如果交互控制的是虚拟手,则通过在软件中判断接触状态。
信号处理方面,使用高灵敏度的压力传感器202,通过实时监测传感器输出信号值,设定不同阈值来判断接触状态(包括接触感觉的类型、接触的位置、以及接触的紧密程度:分为轻、中、重等不同等级,每种感觉类型的每个等级设为一个感觉类别),将传感器采集到的数据传输至下一部分用于感觉反馈的腕带。
(2)感觉信息反馈
如前面所述,将所检测到的压力与设定的阈值进行比较和归类之后,用于编码电刺激参数并通过腕带进行感觉反馈,本发明中使用腕部的经皮电刺激方法来诱发感觉,实现感觉反馈。
电刺激诱发感觉信息传入:通过微针电极施加一个短时间(50ms-200ms)的电流脉冲到皮肤表面。根据机械手201产生接触的不同位置,选择腕带中对应于控制不同手指活动的神经(主要包括正中神经、尺神经和桡神经及其分支等)的正上方的手腕皮肤位置的电极作为目标刺激电极,激活相应神经,诱发感觉信息并将所诱发的感觉信息传递至大脑,使得使用者产生对所接触物体的直观感受,从而来调整抓握物体的力度等,实现感觉反馈。电刺激电极位置与机械手201的手指与物体接触位置的对应关系如图2所示。
图中,在机械手201的手指上对应于数字1、2、3、4和5的位置分别安装柔性压力传感器202,在腕带上与数字1、2、3、4和5的位置安装能够分别诱发对应的真实手指感觉的微针阵列电极204。微针阵列由可固化的磁性液滴在柔性基底上经过按压、拉伸、破裂,在磁场力、表面张力、重力的共同作用下制作而成,并在微针表面喷涂具有生物安全性的导电金属膜,从而完成微针阵列电极204的制作。制作完成的电极被安装在具有生物安全性且可拉伸的柔性腕带上,因此手臂粗细不同的操作者都可以使用。
信号处理模块CPU206与低功耗蓝牙模块BLE207被封装在面向手势控制的人机交互系统的外表面,低功耗蓝牙模块207能够接收从机械手201柔性压力传感器202传出的感官信息并能提高反馈系统的续航能力;在信号处理模块206中,首先对压力传感器202传入的信号进行滤波、去噪等预处理,获得清晰的压力信号,然后对信号进行加窗、特征提取(峰值和能量相关的时域特征)、模式识别等处理,将计算的结果与上一部分设定的阈值进行比较,最后判断识别结果、确定感觉信息的类型、并将所判断的感觉强度与设定的阈值对比来对感觉强度进行分级,根据识别和分级的结果来编码刺激参数(频率、脉宽和幅度)和刺激位置,再通过导线将电信号传递至对应的电极来将电刺激施加于电极下方的皮肤和神经等,从而诱发手部不同位置的不同强度的感觉。
此外,因为经皮电刺激的电流脉宽、幅度、频率等参数都可调,可不同程度地刺激到皮肤中的多种感受器及神经末梢,从而能够诱发不同类型的感觉,如轻触、按压、嗡鸣,震动、麻木、疼痛等。因此,可以极大程度地将机械手201与所抓握物体的接触面的压力、温度等一系列感官信息经过信号处理后通过电刺激电极传递到皮肤、神经以及大脑,使得操作者能够直观的感受到机械手201的抓握感觉,并根据所感受到的感觉类型和强度对抓握的姿势和力度等进行调整,从而可以实现基于自然感觉反馈的闭环控制,提高控制机械手201完成精细动作任务的性能。
感觉腕带本体203结构如图3所示,总体分为三层,最外侧为无纺布层,与具有弹性的腕带相连;中间层为基底层,微针阵列电极204就安装在这层,且外接信号处理模块206和蓝牙通信模块;最内侧与皮肤直接接触的这一层为硅胶层,硅胶层在对应基底层中电极的位置都已预先打好孔,为电极与皮肤接触做好准备。
如图4所示,本发明工作原理如下:
操作者使用手势去控制机械手201或虚拟手;
通过安装在机械手201上的柔性压力传感器202检测压力等接触信号;
经过无线通信方式将所检测到的压力等接触信号传输至面向手势控制的人机交互系统;
在腕带中经过信号处理、模式识别后用于编码对应感觉的电刺激参数,并将相应的刺激电流传递至特定位置微针阵列电极204,实施电刺激;
诱发操作者真实的手部感觉并将其传递至大脑;
使操作者可以根据感受到的感觉信息来自行调整手势与握力。
该系统是一个闭环控制系统,相比于传统的手势控制,操作者因为没有了手套的束缚,可以控制机械手201做出更多手势,实现多种模式的灵活控制;而自然的感觉反馈功能的加入,使得操作者能够不断凭着自己的感觉去修正手势与握力,实现更为精准的机械手201控制。
(1)本发明包括一种人机交互腕带,用于实现机械手201或虚拟手控制的感觉反馈功能。根据机械手201或虚拟手抓握物体(或虚拟物体)时与物体的接触的程度,通过交互腕带将接触信息反馈到真实人手。
(2)基于电刺激的感觉腕带包括电极层、保护层、数据处理与发送模块205。
(3)在机械手201上安装压力传感器202检测机械手201和物体的接触情况,压力传感器202包括但不限于压敏传感器、压电传感器等。
(4)处理和发送模块由柔性线路板制成,封装在一起,固定于腕带外表面处。
(5)用于电刺激的电极包括但不限于凝胶湿电极和微针阵列电极204等各类电极及其组合。
(6)通过电极层来实施电刺激。
(7)通过保护层防止磨损。
(8)通过数据处理和发送模块来处理信号和编码刺激参数并将刺激电流发送到电极层。
(9)通过包括但不限于热熔胶,双面胶等粘合剂固定各层,粘合剂干结后不影响压力信号和电信号的传输。
(10)电刺激电极手环可固定于弹性绑带上以满足手腕粗细不同的操作者使用。
(11)该人机交互设备可以取下并移动到另外一只手臂上使用。
本发明经过论证和预实验,证明是可行的。一方面,本发明所提出的表面电刺激诱发并传导手部感觉信息的方法,已经在大于5名受试者身上完成了验证实验,确定了合适的刺激参数,诱发了受试者不同手指和手掌区域的多种感觉。另一方面,本发明所提出的微针阵列电极204,已经被设计和制作完成,并在人体手腕完成了电刺激诱发感觉信息的实验验证,仅使用微小电流可以诱发受试者的手部感觉。
此外,本发明所提出的数据分析方法,计算量小,易于集成于系统,额外添加成本小,在技术上容易实现。
本发明中所提出的基于感觉反馈的人机交互方法不仅限于机械手201或虚拟手的控制,还可用于生活、工作、实验等多种控制场景中的感觉反馈。如利用手势控制温度,根据温度不同进行感觉反馈;利用手势控制飞行器,根据飞行器速度进行感觉反馈等;生物实验中对不同材料、装有不同溶剂等的试管拿取、转移时,根据试管的位置和形变等进行感觉反馈等;在游戏训练中,通过手势控制虚拟物体的移动根据程序模拟的接触感觉进行反馈;以及各种需要用到手势控制的日常情境中都可以使用本发明中所提出的感觉反馈方法。
本发明中的腕带材料可以用各种对人体皮肤没有危险的柔性材料,例如柔性硅胶材料等替代,且腕带的形状可以根据使用者的需求设计。腕带中刺激电极的大小、形状、数量、排列方式等可以根据使用者的需求以及不同使用者手腕神经分布不同来做出调整。
使用到的微针阵列电极204,其微针的数量、形状、高度、直径、排列方式等都可以根据实际需求进行调整。
这里的电极包括但不仅限于湿电极或接触式干电极及微针阵列电极204,微针阵列电极204是一种特殊的干电极,主要以可固化的磁性液滴为原材料,通过操作杆在柔性基板上经过按压、拉伸和破裂,在磁场力、表面张力和重力的共同作用下,形成微针阵列,之后在其表面镀上一层导电膜,导电膜包括但不限于金、银、钛、氯化银等材料。这种柔性微针阵列电极204具有以下一些特点:
1、体积小,厚度薄;
2、加工步骤简单、可复现性强,适合大批量生产;
3、阻抗特性优异,易于电刺激信号的传输;
4、跟皮肤接触稳固,不易产生运动伪影;
5、对比凝胶湿电极,长时间使用阻抗特性稳定。
因此,这种电极能在一定程度上弥补导电凝胶湿电极用作电刺激电极的缺陷,可以最大限度的发挥感觉腕带本体203的潜力,本发明方案可达到以下目的:
1、更精准、更灵活的手势控制;
2、更优异的感觉反馈,增强操作者的沉浸感;
3、更紧密贴合皮肤的电极,具有可调节性的腕带;
4、更低的接触面阻抗、更快的刺激响应;
5、更强的抗干扰性能;
6、更低的成本。
利用手势对虚拟手或机械手201控制时,如果是虚拟手,从软件程序中加入判断虚拟手是否触碰到物体,以及与物体接触紧密程度;如果是用手势控制机械手201,则在机械手201上安装力学传感器,用于判断是否接触以及接触紧密程度。使用者穿戴腕带,腕带内嵌电极且集成有信号处理和信号收发模块。当虚拟手或者机械手201发生接触时,通过感觉信号分析的结果来编码电刺激参数,然后将电流脉冲发送给刺激电极,电极释放微电流来刺激使用者的手腕,从而诱发手掌和手指的接触感觉并通过上行神经传导通路传送至使用者大脑,大脑会根据接收到的信息发出运动控制指令并通过下行神经通路传送至该使用者用于控制虚拟手或机械手201的肌肉,从而实现感觉反馈。在人机交互过程中,可以通过相应的不同位点电刺激来实现对虚拟手或机械手201的不同手指接触物体时的准确的感觉反馈功能。
本发明提出了一种面向手势控制的人机交互系统和系统,通过神经反馈技术实现手势控制中的实时信息反馈,达到闭环控制和人机交互的目的。感觉是人手精准运动控制中不可或缺的部分,即使在没有视觉的情况下,人手依然可能实现抓握和精确操作。对于健康的人手,在运动和抓取物体过程中,手部皮肤上的机械感受器会响应交互环境给予的刺激,获取手的位置和姿势等状态信息以及与物体的接触时间、位置和压力等交互信息,传入纤维将这些感官信息通过上行神经传导通路传递至大脑,大脑经过信息整合、分析,然后产生运动控制指令,通过下行神经传导通路将指令传至手的运动神经,从而控制和调整手的肌肉和关节活动。本发明中,我们首先采集系统中装有柔性薄膜压力传感器202的机械手201在抓取物体时所接触物体对手指接触面的压力分布信号,然后通过无线传输、信号处理和模式分类技术识别当前的接触信息类别,并使用分类识别的结果对电刺激参数进行编码,设置刺激电流参数并将其输送至腕带中的刺激电极,最后使用本发明所制备的基于微针阵列式电极的感觉腕带本体203在皮肤表面进行电刺激,达到刺激神经末梢的目的,从而实现感觉信号的神经传入,为人机交互的感觉反馈和机械手201的精准控制提供了一种可实行的方案。
本发明提供一种面向手势控制的人机交互方法,包括如下步骤:
提供一种面向手势控制的人机交互系统;面向手势控制的人机交互系统包括:腕带本体203、所述腕带本体203内设置有微针阵列电极204、安装在机械手201的每个手指位置均安装压力传感器202和与腕带本体203内设置的微针阵列电极204电连接的数据处理与发送模块205;
通过所述压力传感器202检测机械手201与物体之间的接触信号,经过无线通信方式将所检测到的接触信号传输至所述腕带本体203内设置的数据处理与发送模块205;
通过数据处理与发送模块205对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体203上的微针阵列电极204施加于使用者手部来刺激诱发和传导手部感觉信息。
虽然,上文中已经用一般性说明及具体实施例对本发明作了详尽的描述,但在本发明基础上,可以对之作一些修改或改进,这对本领域技术人员而言是显而易见的。因此,在不偏离本发明精神的基础上所做的这些修改或改进,均属于本发明要求保护的范围。

Claims (9)

1.一种面向手势控制的人机交互系统,所述系统包括机械手,腕带本体;在机械手的每个手指位置均安装压力传感器,所述压力传感器用于检测机械手与物体之间的接触信号;其特征在于:
所述腕带本体内设置有微针阵列电极和数据处理与发送模块,数据处理与发送模块、微针阵列电极两者电连接,且每个微针阵列电极与一个压力传感器对应;
所述压力传感器通过无线通信方式将所检测到的接触信号传输至数据处理与发送模块;
所述数据处理与发送模块对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体上的微针阵列电极施加于使用者手部来刺激诱发和传导手部感觉信息;
所述利用判断结果来编码电刺激参数,为根据机械手产生接触的不同位置,选择腕带中对应于控制不同手指活动的神经的正上方的手腕皮肤位置的电极作为目标刺激电极。
2.根据权利要求1所述的一种面向手势控制的人机交互系统,其特征在于:所述腕带本体分为三层,最外侧为无纺布层;中间层为基底层,中间的基底层设置有微针阵列电极;最内侧与皮肤直接接触的这一层为硅胶层,硅胶层在对应基底层中微针的位置都已预先打好孔。
3.根据权利要求1所述的一种面向手势控制的人机交互系统,其特征在于:在所述腕带本体上分别设置有与机械手的每个手指位置安装能够分别诱发真实手指感觉的对应的微针阵列电极。
4.根据权利要求3所述的一种面向手势控制的人机交互系统,其特征在于:所述微针阵列电极包括电极基底和形成在所述电极基底之上的微针阵列。
5.根据权利要求1所述的一种面向手势控制的人机交互系统,其特征在于:所述压力传感器包括压敏传感器、压电传感器中的至少一种。
6.根据权利要求1所述的一种面向手势控制的人机交互系统,其特征在于:所述数据处理与发送模块包括信号处理模块和与其连接的低功耗蓝牙模块,信号处理模块通过低功耗蓝牙模块接收从机械手上压力传感器传出的传感器输出信号值,设定不同阈值来判断接触状态。
7.根据权利要求6所述的一种面向手势控制的人机交互系统,其特征在于:所述接触状态包括接触感觉的类型、接触的位置、以及接触的紧密程度。
8.根据权利要求6所述的一种面向手势控制的人机交互系统,其特征在于:所述信号处理模块首先对压力传感器传入的信号进行滤波、去噪预处理,获得清晰的压力信号,然后对信号进行加窗、特征提取、模式识别处理,将计算的结果与上一部分设定的阈值进行比较,最后判断识别结果、确定感觉信息的类型、并将所判断的感觉强度与设定的阈值对比来对感觉强度进行分级,根据识别和分级的结果来编码刺激参数和刺激位置,再将电信号传递至对应的电极来将电刺激施加于电极下方的皮肤和神经,从而诱发手部不同位置的不同强度的感觉。
9.一种面向手势控制的人机交互方法,用于提供一种面向手势控制的人机交互系统;在机械手的每个手指位置均安装压力传感器,所述压力传感器用于检测机械手与物体之间的接触信号;其特征在于:包括如下步骤:
在腕带本体内设置微针阵列电极、数据处理与发送模块,使数据处理与发送模块与微针阵列电极电连接,且每个微针阵列电极与一个压力传感器对应;
将压力传感器检测的接触信号以无线通信方式传输至数据处理与发送模块;
使用数据处理与发送模块对所接收到的信号进行分析并判断感觉信息所属的类型,最后利用判断结果来编码电刺激参数,并将编码好的电流脉冲通过腕带本体上的微针阵列电极施加于使用者手部来刺激诱发和传导手部感觉信息;
所述利用判断结果来编码电刺激参数,为根据机械手产生接触的不同位置,选择腕带中对应于控制不同手指活动的神经的正上方的手腕皮肤位置的电极作为目标刺激电极。
CN202110722929.5A 2021-06-28 2021-06-28 一种面向手势控制的人机交互系统和方法 Active CN113589923B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110722929.5A CN113589923B (zh) 2021-06-28 2021-06-28 一种面向手势控制的人机交互系统和方法
PCT/CN2021/137766 WO2023273191A1 (zh) 2021-06-28 2021-12-14 一种面向手势控制的人机交互系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110722929.5A CN113589923B (zh) 2021-06-28 2021-06-28 一种面向手势控制的人机交互系统和方法

Publications (2)

Publication Number Publication Date
CN113589923A CN113589923A (zh) 2021-11-02
CN113589923B true CN113589923B (zh) 2023-04-07

Family

ID=78245047

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110722929.5A Active CN113589923B (zh) 2021-06-28 2021-06-28 一种面向手势控制的人机交互系统和方法

Country Status (2)

Country Link
CN (1) CN113589923B (zh)
WO (1) WO2023273191A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106648114B (zh) * 2017-01-12 2023-11-14 长春大学 舌机交互模型及装置
CN113589923B (zh) * 2021-06-28 2023-04-07 深圳先进技术研究院 一种面向手势控制的人机交互系统和方法
CN114997227A (zh) * 2022-05-30 2022-09-02 中国科学院长春应用化学研究所 一种基于肌肉应力的手势识别系统
WO2024130221A1 (en) * 2022-12-16 2024-06-20 University Of Utah Research Foundation Wearable device for anatomically congruent sensory feedback in extended reality environments
CN116269956B (zh) * 2023-02-23 2024-05-31 重庆大学 一种用于肌电假肢手动作反馈的高普适性可穿戴多通道电刺激手环
TWI834570B (zh) * 2023-06-16 2024-03-01 國立虎尾科技大學 具壓力感測之機械手
CN117577266B (zh) * 2024-01-15 2024-04-30 南京信息工程大学 基于力触觉手套的手部康复训练监测系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1991011775A1 (en) * 1990-02-02 1991-08-08 Kramer James F A force feedback and texture simulating interface device
CN107822830A (zh) * 2017-10-27 2018-03-23 邢云龙 一种大脑细胞生物功能唤醒装置和方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101390789B (zh) * 2008-09-25 2010-09-29 上海交通大学 基于电刺激的触觉-视觉替代系统
CN102729254A (zh) * 2012-07-04 2012-10-17 杭州电子科技大学 基于触觉临场感的遥操作机器人肌电控制方法
US10048703B1 (en) * 2014-06-06 2018-08-14 The United States Of America As Represented By The Secretary Of The Navy Force feedback pressure cuff systems and methods
WO2016097841A2 (en) * 2014-12-16 2016-06-23 Quan Xiao Methods and apparatus for high intuitive human-computer interface and human centric wearable "hyper" user interface that could be cross-platform / cross-device and possibly with local feel-able/tangible feedback
US20210117001A1 (en) * 2019-10-16 2021-04-22 Zensar Technologies Limited Haptic feedback capturing device and a method thereof
CN110811598A (zh) * 2019-11-14 2020-02-21 深圳先进技术研究院 腕带式生物信号采集设备及其制作方法
CN112223242B (zh) * 2020-10-09 2022-03-01 河南理工大学 一种基于皮肤刺激的用于遥操作系统的力反馈装置
CN113589923B (zh) * 2021-06-28 2023-04-07 深圳先进技术研究院 一种面向手势控制的人机交互系统和方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1991011775A1 (en) * 1990-02-02 1991-08-08 Kramer James F A force feedback and texture simulating interface device
CN107822830A (zh) * 2017-10-27 2018-03-23 邢云龙 一种大脑细胞生物功能唤醒装置和方法

Also Published As

Publication number Publication date
WO2023273191A1 (zh) 2023-01-05
CN113589923A (zh) 2021-11-02

Similar Documents

Publication Publication Date Title
CN113589923B (zh) 一种面向手势控制的人机交互系统和方法
CN208861246U (zh) 具有传感器和触觉的指戴式设备
US9293015B2 (en) Electrical stimulation haptic feedback interface
KR101485591B1 (ko) 초음파를 이용한 비침습적 뇌 자극을 통한 촉감 생성 장치, 방법 그리고 이를 이용한 컴퓨터 판독 가능한 기록 매체
US6839594B2 (en) Actuation and control of limbs through motor nerve stimulation
CN103777752A (zh) 基于手臂肌肉电流检测和运动传感器的手势识别设备
CN105653038A (zh) 一种智能手套
Hummel et al. A lightweight electrotactile feedback device for grasp improvement in immersive virtual environments
CN107943285B (zh) 一种基于生物肌电的人机交互腕环、系统及方法
CN102729254A (zh) 基于触觉临场感的遥操作机器人肌电控制方法
CN111164541A (zh) 用于模拟和传送接触性外源感受的设备和方法
CN103720528B (zh) 实用有感觉的假手
CN103246348B (zh) 用于电触觉的量化分析系统及其分析方法
Shull et al. Resonant frequency skin stretch for wearable haptics
CN115414057A (zh) 康复训练方法、装置、训练仪及介质
CN109739357A (zh) 机械手的控制方法及装置
US20210322870A1 (en) System and method for recognizing sense in virtual reality space
Franco Study and development of sensorimotor interfaces for robotic human augmentation
US20230341942A1 (en) Virtual tactile stimulation device and method for matching nerve stimulation pattern and virtual space object having impedance
KR20230159974A (ko) 중주파 ema를 이용한 손가락 재활장치
CN117426948A (zh) 一种多感觉协同刺激的手部康复外骨骼控制系统
CN206380808U (zh) 脉冲反馈指纹识别智能手环
CN117666772A (zh) 一种虚拟环境与现实环境实现触感真实交互的系统和方法
Wang et al. Recent advances in hand movement rehabilitation system and related strategies
Franco et al. On the Somatotopic Mapping of Haptic Feedback from Robotic Supernumerary Limbs

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant