CN115220571A - 一种基于人机交互的沉浸式训练系统 - Google Patents
一种基于人机交互的沉浸式训练系统 Download PDFInfo
- Publication number
- CN115220571A CN115220571A CN202210660377.4A CN202210660377A CN115220571A CN 115220571 A CN115220571 A CN 115220571A CN 202210660377 A CN202210660377 A CN 202210660377A CN 115220571 A CN115220571 A CN 115220571A
- Authority
- CN
- China
- Prior art keywords
- training
- feedback
- action
- execution subsystem
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/218—Input arrangements for video game devices characterised by their sensors, purposes or types using pressure sensors, e.g. generating a signal proportional to the pressure applied by the player
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/011—Emotion or mood input determined on the basis of sensed human body parameters such as pulse, heart rate or beat, temperature of skin, facial expressions, iris, voice pitch, brain activity patterns
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/30—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Dermatology (AREA)
- Neurosurgery (AREA)
- Neurology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开一种基于人机交互的沉浸式训练系统。该系统包括第一反馈与执行子系统、第一信息处理单元、数据传输单元、第二信息处理单元和第二反馈与执行子系统。第一反馈与执行子系统执行:基于接收的动作数据生成对应的电刺激信号并以非侵入方式作用于训练对象的刺激部位,以诱发训练对象大脑对刺激部位和非刺激部位不同类型、强度的自然直觉感受;训练对象基于产生的自然直觉感受执行回击动作,将该回击动作对应的电刺激信号以自然直觉感受的方式反馈给训练对象自身以及对练者。第二反馈与执行子系统根据来自于训练对象的动作数据做出回击决策。本发明通过诱发使用者大脑对外界刺激的自然直觉感受来实现沉浸式交互,且不受物理空间限制。
Description
技术领域
本发明涉及虚拟现实技术领域,更具体地,涉及一种基于人机交互的沉浸式训练系统。
背景技术
在现有技术中,沉浸式训练系统一般通过头盔式显示装置将使用者的视觉和听觉封闭起来,以产生沉浸式的视听效果,同时借助数据手套等装置,让使用者获得虚拟的触觉感官。然而,虚拟的触觉感知无法让该类训练系统的使用者获得真实的交互体验,从而影响了训练系统的沉浸效果。
随着云计算、大数据、人工智能等技术的发展,基于虚拟现实、增强现实等技术的训练系统可以为使用者提供模拟真实环境的虚拟训练场景。专利申请“一种空间在轨服务航天员沉浸式训练系统”(申请号201810835779.7)的具体方案为:包括地面微重力系统、VR虚拟现实模拟系统、航天员机动操控背包、用于采集航天员视频信息的在轨操作训练视觉监控系统以及用于提供电能的电源系统,其中地面微重力系统包括中性浮力水池及可穿戴模拟衣服。在使用时,航天员穿戴可穿戴模拟衣服及航天员机动操控背包,并处于中性浮力水池中,通过中性浮力水池中水的浮力及可穿戴模拟衣服的浮力与航天员的重力进行抵消,使得航天员处于失重环境中,VR虚拟现实模拟系统与航天员机动操控背包相连接。这种系统成本较低,能够实现微重力效应环境的模拟,然而所使用的VR手套只能用于操作航天员机动操控背包,没有感觉反馈系统。
专利申请“一种基于5G技术的模拟训练系统”(申请号202111421915.6)的具体方案为:包括模拟训练终端平台、模拟训练展示平台、5G系统平台和模拟训练设备。模拟训练终端平台由教学管理模块、模拟训练监控模块、特征参数及任务序列管理模块、穿戴设备集成、数据采集及通讯模块、仿真模拟数据处理及实操训练模块、仿真模拟可视化及模型驱动模块组成。模拟训练设备由VR训练头盔、数据手套、追踪器、定位器组成。该技术方案利用5G技术,实现视频及相关数据的高速传输,提高了学员的操作流畅度。然而,这种方案主要通过视频实现反馈,无法达到沉浸式人机交互。
专利申请“基于体感传感器的拳击训练虚拟现实系统及其实现方法”(申请号201710404011.X)的具体方案为:虚拟现实系统由全能体感设备和终端计算机模块组成;全能体感设备主要包括体感传感器和适配器,终端计算机模块包含加载了虚拟场景的基于VS2013的虚拟训练系统;全能体感设备与终端计算机模块相连。该技术方案采用体感交互技术实现用户使用肢体实时控制虚拟拳击手套击打沙袋,并给出出拳速度和击打力度等训练数据,给用户全新体验的同时帮助用户提高竞技水平。然而,该方法只采集人体动作、面部表情、语音等作为输入,没有使用基于感觉反馈的交互系统。
专利申请“一种运动训练评估方法及装置”(申请号201710089034.6)的具体方案为:脑-机接口系统利用虚拟现实中的触觉仿真与交互反馈的方式,建立三维运动训练场景;通过检测和分析受试者在三维运动训练场景中进行运动训练时的脑电信号变化,从而对交互系统中的触觉反馈进行定量化评估。该技术方案能方便地应用于融合视/触觉反馈的三维虚拟训练系统中,弥补了诸如问卷调查或行为测量等现有评估手段的不足,提高了触觉反馈评估的智能程度,然而同样没有通过对触觉反馈的评估来实现沉浸式人机交互。
综上,目前的沉浸式训练系统,一般通过头盔式显示装置将使用者的视觉和听觉封闭起来,以产生沉浸式的视听效果,同时借助数据手套等装置,让使用者获得虚拟的触觉感官。这类训练系统多是借助振动、温度等信息反馈来实现虚拟环境中的触觉感知,只有视听觉上的沉浸效果,没有虚拟环境和自然直觉的交互,并且这类训练系统一般需要穿戴复杂的装置,导致沉浸效果和使用体验较差。
发明内容
本发明的目的是克服上述现有技术的缺陷,提供一种基于人机交互的沉浸式训练系统。该系统包括依次连接的第一反馈与执行子系统、第一信息处理单元、数据传输单元、第二信息处理单元和第二反馈与执行子系统,其中,第一信息处理单元和第二信息处理单元用于接收经由信息传输单元传递的动作数据,第一反馈与执行子系统和第一信息处理单元用于训练对象,第二信息处理单元和第二反馈与执行子系统用于对练者。
第一反馈与执行子系统执行以下过程:对接收到的动作数据进行解析,以提取动作参数并将动作参数转换成电刺激信号的表征参数;基于所述表征参数生成与动作对应的电刺激信号并以非侵入方式作用于训练对象的刺激部位,以诱发训练对象大脑对刺激部位和非刺激部位不同类型、强度的自然直觉感受;训练对象基于产生的自然直觉感受执行回击动作,将该回击动作对应的电刺激信号以自然直觉感受的方式反馈给训练对象自身以及对练者。第二反馈与执行子系统根据来自于训练对象的动作数据做出回击决策。
与现有技术相比,本发明的优点在于,提出一种基于人机交互的沉浸式训练系统,无需使用数据手套等复杂装置,通过诱发使用者大脑对外界刺激的自然直觉感受来实现训练中的沉浸式交互,同时结合视听觉及振动效果,可以不受物理空间限制,实现训练对象与真实环境中的对练者或设备、虚拟环境中的对练者或设备之间的沉浸式交互。
通过以下参照附图对本发明的示例性实施例的详细描述,本发明的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本发明的实施例,并且连同其说明一起用于解释本发明的原理。
图1是根据本发明一个实施例的基于人机交互的沉浸式训练系统的框图;
图2是根据本发明一个实施例的训练对象与真实环境中的对练者进行沉浸式训练的流程图;
图3是根据本发明一个实施例的训练对象与真实环境中的设备、虚拟环境中的对练者或设备进行沉浸式训练的流程图。
具体实施方式
现在将参照附图来详细描述本发明的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
本发明提出一种基于人机交互的沉浸式训练系统,通过诱发使用者大脑对外界刺激的自然直觉感受来实现训练中的沉浸式交互,同时结合视听觉及振动效果,可以不受物理空间限制,实现训练对象与真实环境中的对练者或设备、虚拟环境中的对练者或设备之间的沉浸式交互,使得使用者在训练过程中能实时感受到击打、刀伤、子弹或炮弹击伤等引起的触碰感、击打感、振动感、痛感、灼烧感等自然直觉。例如,与真实环境中的对练者进行远程拳击训练,训练对象能感受到对方攻击自己时的击打感、痛感等自然直觉,从而及时做出回击动作。又如,与虚拟环境中的虚拟人进行模拟射击训练,训练对象能感受到虚拟人操作虚拟枪械击中自己时的痛感、灼烧感等自然直觉,从而提高训练的真实程度。
具体地,参见图1所示,所提供的基于人机交互的沉浸式训练系统包括依次连接的反馈与执行子系统A、信息处理单元A、数据传输单元、信息处理单元B、反馈与执行子系统B等。在下文中,如没有特别说明,当描述“反馈与执行子系统”时涵盖A和B,“信息处理单元”也涵盖A和B,并且以训练对象使用反馈与执行子系统A和信息处理单元A为例进行说明。
在一个实施例中,反馈与执行子系统包括电刺激单元、视听觉与振动反馈单元、执行单元等。
电刺激单元根据接收到的动作/操作数据(或统称为动作数据)生成电刺激信号,然后使用该电刺激信号对手臂、腹部、大腿等主要部位进行非侵入式电刺激,通过改变刺激参数诱发不同类别、强度感觉,诱发训练对象大脑对刺激部位或非刺激部位的触碰感、击打感、振动感、痛感、灼烧感等自然直觉的感受。
视听觉与振动反馈单元根据接收到的动作/操作数据生成对应的图像、声音等视听觉信息和振动信息。
执行单元综合上述电刺激单元、视听觉与振动反馈单元的电刺激与声光电、振动等信息生成多模态反馈信息,以此让训练对象执行相应的动作/操作,并且将执行动作/操作后的信息发送给反馈与执行子系统A中的电刺激单元以及信息处理单元A,以使训练系统的使用者或设备均能收到训练对象执行动作/操作后的电刺激信息。
需要说明的是,当训练对象与真实环境中的对练者进行沉浸式训练时,用于真实环境中对练者的反馈与执行子系统B组成和作用与上述反馈与执行子系统A一致。当训练对象与真实环境中的设备、虚拟环境中的对练者或设备进行沉浸式训练时,用于真实环境中设备、虚拟环境中对练者或设备的反馈与执行子系统B进一步包含动作/操作识别单元等,其作用为对接收到的动作/操作数据进行识别与分类处理,并做出回应决策。
在所提供的沉浸式训练系统中,用于训练对象的信息处理单元A或用于真实环境中对练者或设备、虚拟环境中对练者或设备的信息处理单元B可包括信息接收模块、信息发送模块等。其中信息接收模块用于接收数据传输单元发送过来的动作/操作数据,并进行滤波、数模转换等处理。信息发送模块用于发送动作/操作数据到数据传输单元。
在所提供的沉浸式训练系统中,数据传输单元可以是数据线缆、蓝牙、Wi-Fi等模块中的一种或多种,用于信息处理单元A与信息处理单元B之间的数据传输。
利用本发明提供的沉浸式训练系统,当训练对象与真实环境中的对练者进行沉浸式训练时,双方不受空间距离的限制,可以诱发双方大脑对触碰感、击打感、振动感、痛感、灼烧感等自然直觉的感受,由此使双方根据包括电刺激与声光电、振动等信息在内的多模态反馈信息做出反击的动作/操作,这样可以在训练中使双方获得模拟击打、刀伤、子弹或炮弹击伤等场景的真实效果。
图2是训练对象与真实环境中的对练者进行训练的流程图。
首先,用于训练对象的信息处理单元A接收和处理经由数据传输单元发送过来的动作/操作(1)数据,并发送到反馈与执行子系统A。
接下来,用于训练对象的反馈与执行子系统A中的电刺激单元,首先将动作/操作(1)数据进行解析,并提取加速度、动作姿态变化等动作/操作参数;并将动作/操作参数转换成电刺激信号的表征参数,进而生成动作/操作(1)对应的电刺激信号,其中该表征参数包括但不限于波形、幅值、宽度、滤波、间隔等参数;然后,电刺激信号通过电极作用于训练对象的刺激部位,并通过改变刺激参数诱发训练对象大脑对刺激部位和非刺激部位不同类型、强度的自然直觉感受,其中电极包括凝胶电极、金属干电极、微针电极、织物电极等多种类型(电极结构可以是单一结构或阵列结构等),刺激部位包括训练对象的手臂、腹部、大腿等刺激部位,自然直觉感受包括但不限于触碰感、击打感、振动感、痛感、灼烧感等;同时,反馈与执行子系统A中的视听觉与振动反馈单元将动作/操作(1)数据中的图像、声音等视听觉信息和振动信息反馈给执行单元;随后,反馈与执行子系统A中的执行单元综合电刺激与声光电、振动等信息生成多模态反馈信息,以此使训练对象做出动作/操作(1)的回击,标记为动作/操作(2),并将动作/操作(2)对应的电刺激信号以自然直觉感受的方式反馈给使用训练系统的双方;
最后,用于训练对象的信息处理单元A将动作/操作(2)数据经数据传输单元发送给真实环境中的对练者。
需要说明的是,用于真实环境中对练者的信息处理单元B接收到动作/操作(2)数据之后的反馈、处理、执行等流程与上述训练对象的一致,并且上述训练对象与真实环境中的对练者进行沉浸式训练时,可采用多种对练模式,包括双方均不使用器具、一方使用器具而另一方不使用器具、双方均使用器具等模式,其中器具包括但不限于棍棒、刀具、枪械等。
同样地,利用本发明所提供的沉浸式训练系统,当训练对象与真实环境中的设备、虚拟环境中的对练者或设备进行沉浸式训练时,可以诱发训练对象大脑对触碰感、击打感、振动感、痛感、灼烧感等自然直觉的感受,由此使训练对象根据包括电刺激与声光电、振动等信息在内的多模态反馈信息做出反击的动作/操作,这样可以在训练中使训练对象获得模拟击打、刀伤、子弹或炮弹击伤等场景的真实效果。
图3是训练对象与真实环境中的设备、虚拟环境中的对练者或设备进行训练的流程图。
首先,用于训练对象的信息处理单元A接收和处理经由数据传输单元发送过来的动作/操作(1)数据,并发送到反馈与执行子系统A。
接下来,用于训练对象的反馈与执行子系统A中的电刺激单元,首先将动作/操作(1)数据进行解析,并提取加速度、动作姿态变化等动作/操作参数;然后,将动作/操作参数转换成电刺激信号的表征参数,进而根据表征参数生成动作/操作(1)对应的电刺激信号;接下来,电刺激信号经由一种或多种电极作用于训练对象手臂、腹部、大腿等刺激部位,并通过改变刺激参数诱发训练对象大脑对刺激部位和非刺激部位不同类型、强度的自然直觉感受;同时,反馈与执行子系统A中的视听觉与振动反馈单元将动作/操作(1)数据中的图像、声音等视听觉信息和振动信息反馈给执行单元;随后,执行单元综合电刺激与声光电、振动等信息生成多模态反馈信息,以此使训练对象做出动作/操作(1)的回击,标记为动作/操作(2),并将动作/操作(2)对应的电刺激信号以自然直觉感受的方式反馈给训练对象。
然后,用于训练对象的信息处理单元A将动作/操作(2)数据经数据传输单元发送给真实环境中的设备、虚拟环境中的对练者或设备。
然后,用于真实环境中设备、虚拟环境中对练者或设备的信息处理单元B接收并处理动作/操作(2)数据,随后将处理后的动作/操作(2)数据发送到反馈与执行子系统B的动作/操作识别单元;进而,动作/操作识别单元对动作/操作(2)数据通过人工神经网络、关联规则学习等算法处理,做出动作/操作(2)的应对决策,生成动作/操作(1);
最后,信息处理单元B将动作/操作(1)数据经数据传输单元发送给训练对象,以此完成沉浸式交互。
在一个实施例中,动作/操作识别单元利用经训练的人工神经网络(如卷积神经网络)实现,该人工神经网络反映训练对象的动作类型(如击打)、动作特征(如击打力度、姿态、加速度等)与回击决策之间的对应关系(如回击的动作类型、力度、加速度等)。
应理解的是,训练对象与虚拟环境中的对练者进行沉浸式训练时,也可以采用多种对练模式,或采用多种类型的器具等,并且反馈与执行子系统、信息处理单元、数据传输单元等可采用软件、硬件或软、硬件结合实现,只要能实现本发明的功能即可。例如,采用中央处理器、传感器、信号处理模块、通信模块、电源模块等实现。
本发明提供的沉浸式训练系统可应用于多种场景,例如体育训练、军事训练、警务训练、健身活动、游戏娱乐、元宇宙等场景。
为更清楚的理解本发明,下文以拳击训练为例进一步说明。
训练者A和训练者B通过训练系统进行沉浸式远程拳击训练,其中训练者A为训练对象,训练者B为真实环境中对练者,双方分别在不同的拳击训练室。训练前,训练者A和训练者B分别在手臂、腹部、大腿等部位佩戴织物电极,以使电刺激信号作用于手臂、腹部、大腿等刺激部位,从而诱发训练者A或训练者B大脑对刺激部位或非刺激部位触碰感、击打感、振动感、痛感等自然直觉的感受。同时,在训练者A和训练者B的反馈与执行子系统中,视听觉与振动反馈单元通过相应的图像、声音等视听觉信息和振动信息来检测双方在训练过程中动作加速度以及姿态与位置的变化,以此使执行单元综合电刺激与声光电、振动等信息生成多模态反馈信息,给双方在训练动作中的接触和回击提供沉浸式交互的数据支持。通知这种方式,训练者A或训练者B在训练过程中能感受到对方的拳击动作作用在自己身体上的自然直觉,从而回击该拳击动作。
例如,训练过程中,训练者A做出冲拳动作时,反馈与执行子系统A实时采集训练者A冲拳动作的加速度、姿态及位置变化等动作动态信息以及音视频信息,生成多模态反馈信息,并通过信息处理单元A经数据传输单元发送给训练者B;信息处理单元B将接收到训练者A冲拳动作的多模态反馈信息发送给反馈与执行子系统B。
当训练者B做出挥拳格挡动作时,反馈与执行子系统B根据训练者A冲拳动作和训练者B挥拳格挡动作的分类与识别处理结果,及时让训练者A和训练者B的电刺激单元生成对应的电刺激信号,以诱发训练者A大脑对其拳面或手臂小臂部位触碰感、击打感、振动感、痛感等自然直觉的感受,同时诱发训练者B大脑对其手臂小臂部位触碰感、击打感、振动感、痛感等自然直觉的感受,使得冲拳-格挡过程中训练者A和训练者B感受到面对面拳击时拳面与手臂小臂、手臂小臂与手臂小臂的触碰感、击打感、振动感、痛感等自然直觉。
当训练者B做出无挥拳格挡动作时,反馈与执行子系统B根据训练者A冲拳动作和训练者B无挥拳格挡动作的分类与识别处理结果,及时让训练者A和训练者B的电刺激单元生成对应的电刺激信号,以诱发训练者A大脑对其拳面部位触碰感、击打感、振动感、痛感等自然直觉的感受,同时以诱发训练者B大脑对其腹部部位触碰感、击打感、振动感、痛感等自然直觉的感受,使得冲拳-无格挡过程中训练者A和训练者B感受到面对面拳击时拳面与腹部的触碰感、击打感、振动感、痛感、灼烧感等自然直觉。
综上所述,本发明提供的基于人机交互的沉浸式训练系统,无需使用数据手套等复杂装置,通过诱发使用者大脑对外界刺激的自然直觉感受来实现远程训练中的沉浸式交互,同时结合视听觉及振动效果,使训练不受物理空间限制,实现训练对象与真实环境中的对练者或设备、虚拟环境中的训练者或设备之间的沉浸式交互。经验证,本发明可应用于多种场景的沉浸式训练,提升了训练效率和效果,并改善了用户体验。
本发明可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本发明的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本发明操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++、Python等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本发明的各个方面。
这里参照根据本发明实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本发明的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本发明的范围由所附权利要求来限定。
Claims (10)
1.一种基于人机交互的沉浸式训练系统,包括依次连接的第一反馈与执行子系统、第一信息处理单元、数据传输单元、第二信息处理单元和第二反馈与执行子系统,其中,第一信息处理单元和第二信息处理单元用于接收经由信息传输单元传递的动作数据,第一反馈与执行子系统和第一信息处理单元用于训练对象,第二信息处理单元和第二反馈与执行子系统用于对练者;
其中,第一反馈与执行子系统执行以下过程:
对接收到的动作数据进行解析,以提取动作参数并将动作参数转换成电刺激信号的表征参数;
基于所述表征参数生成与动作对应的电刺激信号并以非侵入方式作用于训练对象的刺激部位,以诱发训练对象大脑对刺激部位和非刺激部位不同类型、强度的自然直觉感受;
训练对象基于产生的自然直觉感受执行回击动作,将该回击动作对应的电刺激信号以自然直觉感受的方式反馈给训练对象自身以及对练者;
其中,第二反馈与执行子系统根据来自于训练对象的动作数据做出回击决策。
2.根据权利要求1所述的系统,其特征在于,第一反馈与执行子系统和第二反馈与执行子系统具有相同的结构,各包括电刺激单元、视听觉与振动反馈单元和执行单元,其中,电刺激单元用于将对接收到的动作数据进行解析,以提取动作参数并将动作参数转换成电刺激信号的表征参数,进而基于所述表征参数生成与动作对应的电刺激信号并经由电极作用于训练对象的刺激部位;视听觉与振动反馈单元用于将动作数据中的视听觉信息和振动信息反馈给执行单元;执行单元用于综合电刺激信号、视听觉信息和振动信息生成多模态反馈信息,以使训练对象做出回击动作,并且该回击动作对应的电刺激信号以自然直觉感受的方式反馈给训练对象自身以及对练者。
3.根据权利要求1所述的系统,其特征在于,所述训练对象是真实环境的训练者,所述对练者是真实环境中的对练者或设备,或者是虚拟环境中的对练者或设备。
4.根据权利要求1所述的系统,其特征在于,所述动作参数包括加速度、动作姿态,所述表征参数包括波形、幅值、宽度、滤波、间隔。
5.根据权利要求2所述的系统,其特征在于,所述电极包括凝胶电极、金属干电极、微针电极或织物电极,且电极结构包括单一结构或阵列结构。
6.根据权利要求1所述的系统,其特征在于,所述刺激部位包括手臂、腹部、大腿,所述非刺激部位包括手指、手掌、脚趾或脚掌。
7.根据权利要求1所述的系统,其特征在于,所述自然直觉感受包括触碰感、击打感、振动感、痛感或灼烧感。
8.根据权利要求1所述的系统,其特征在于,当对练者是真实环境中的设备、虚拟环境中的对练者或设备的情况下,该对练者对应的第二反馈与执行子系统还包括动作识别单元,用于根据输入的动作信息获得回击决策。
9.根据权利要求8所述的系统,其特征在于,所述动作识别单元采用人工神经网络或关联规则学习获得所述回击决策。
10.根据权利要求1所述的系统,其特征在于,所述训练对象与所述对练者的训练模式包括双方均不使用器具、一方使用器具且另一方不使用器具、双方均使用器具,并且所使用的器具包括棍棒、刀具或枪械。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210660377.4A CN115220571A (zh) | 2022-06-13 | 2022-06-13 | 一种基于人机交互的沉浸式训练系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210660377.4A CN115220571A (zh) | 2022-06-13 | 2022-06-13 | 一种基于人机交互的沉浸式训练系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115220571A true CN115220571A (zh) | 2022-10-21 |
Family
ID=83607900
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210660377.4A Pending CN115220571A (zh) | 2022-06-13 | 2022-06-13 | 一种基于人机交互的沉浸式训练系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115220571A (zh) |
-
2022
- 2022-06-13 CN CN202210660377.4A patent/CN115220571A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11592902B2 (en) | Wearable electronic haptic feedback system for VR/AR and gaming | |
JP7089846B2 (ja) | 触覚対応ニューラルインターフェースのためのシステム及び方法 | |
US10437335B2 (en) | Wearable electronic, multi-sensory, human/machine, human/human interfaces | |
Pamungkas et al. | Electro-tactile feedback system to enhance virtual reality experience | |
US20170259167A1 (en) | Brainwave virtual reality apparatus and method | |
US9390630B2 (en) | Accelerated learning, entertainment and cognitive therapy using augmented reality comprising combined haptic, auditory, and visual stimulation | |
US20220065580A1 (en) | Accelerated Learning, Entertainment and Cognitive Therapy Using Augmented Reality Comprising Combined Haptic, Auditory, and Visual Stimulation | |
Sadihov et al. | Prototype of a VR upper-limb rehabilitation system enhanced with motion-based tactile feedback | |
US9755848B2 (en) | System and method for simulating a user presence | |
CN107092353B (zh) | 一种手部触感参数的采集及模拟还原系统和方法 | |
Wang et al. | Feature evaluation of upper limb exercise rehabilitation interactive system based on kinect | |
US11850508B2 (en) | System for simulating an output in a virtual reality environment | |
CN104470593A (zh) | 社交舞用的系统和方法 | |
Lorenčík et al. | Influence of sci-fi films on artificial intelligence and vice-versa | |
US20220364829A1 (en) | Equipment detection using a wearable device | |
CN105630168A (zh) | 一种信息处理方法、第一电子设备及第二电子设备 | |
Petri et al. | Development of an autonomous character in karate kumite | |
Echeverria et al. | KUMITRON: Artificial intelligence system to monitor karate fights that synchronize aerial images with physiological and inertial signals | |
Jain et al. | Star-force: A playful implementation of the jedi-force | |
WO2017059618A1 (zh) | 模拟场景的方法及装置 | |
CN109407826A (zh) | 球类运动模拟方法、装置、存储介质及电子设备 | |
CN115220571A (zh) | 一种基于人机交互的沉浸式训练系统 | |
McGregor et al. | New approaches for integration: Integration of haptic garments, big data analytics, and serious games for extreme environments | |
Groenegress et al. | Effects of P300-based BCI use on reported presence in a virtual environment | |
Kang et al. | Personal sensory VR interface utilizing wearable technology |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |