CN115061575B - 一种基于虚拟人技术的人机交互系统 - Google Patents
一种基于虚拟人技术的人机交互系统 Download PDFInfo
- Publication number
- CN115061575B CN115061575B CN202210894618.1A CN202210894618A CN115061575B CN 115061575 B CN115061575 B CN 115061575B CN 202210894618 A CN202210894618 A CN 202210894618A CN 115061575 B CN115061575 B CN 115061575B
- Authority
- CN
- China
- Prior art keywords
- base
- virtual
- model
- model base
- interaction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
Abstract
本发明提供了一种基于虚拟人技术的人机交互系统,包括动作检测模块、虚拟交互模块、虚拟映射模块、交互检测模块和实施模块,所述动作检测模块用于检测操作人员的肢体动作,所述虚拟交互模块用于搭建一个虚拟互动场景,所述虚拟互动场景内设有虚拟人和互动单元,所述虚拟映射模块根据所述动作检测模块检测到的数据对所述虚拟人进行控制,所述交互检测模块用于检测虚拟人和所述互动单元之间的触碰情况,所述实施模块根据所述交互检测模块检测到的结果执行对应的操作。本系统将虚拟人分解成若干个模型基件,通过合理安排模型基件的调整顺序来提高虚拟人的响应速度,提高交互的即时性。
Description
技术领域
本发明涉及用户与计算机之间交互的输入系统领域,具体涉及一种基于虚拟人技术的人机交互系统。
背景技术
元宇宙是利用科技手段进行链接与创造的,与现实世界映射与交互的虚拟世界,具备新型社会体系的数字生活空间,元宇宙本质上是对现实世界的虚拟化、数字化过程,需要对内容生产、经济系统、用户体验以及实体世界内容等进行大量改造。但元宇宙的发展是循序渐进的,是在共享的基础设施、标准及协议的支撑下,由众多工具、平台不断融合、进化而最终成形。它基于扩展现实技术提供沉浸式体验,基于数字孪生技术生成现实世界的镜像,基于区块链技术搭建经济体系,将虚拟世界与现实世界在经济系统、社交系统、身份系统上密切融合,并且允许每个用户进行内容生产和世界编辑,而虚拟人是个体参与到元宇宙中的一个桥梁,个体在现实中的动作会映射到虚拟人上,而这种映射的延迟会影响到个体对元宇宙的体验,如何降低虚拟人动作的延迟,提高交互的即时性是虚拟人技术中需要解决的问题。
背景技术的前述论述仅意图便于理解本发明。此论述并不认可或承认提及的材料中的任一种公共常识的一部分。
现在已经开发出了很多交互系统,经过我们大量的检索与参考,发现现有的交互系统有如公开号为CN110688000A所公开的系统,这些系统一般包括虚拟现实操作输入设备、虚拟现实显示输出设备、输入管理软件、虚拟场景渲染软件、交互过程管理软件组成,交互过程管理软件从功能结构上分为交互请求模块、交互响应模块和交互逻辑控制模块;交互请求模块统一管理虚拟场景内主动交互物体,并根据用户操作输入条件发出交互请求;主动交互物体主要包含人体躯干、四肢关节和具有空间定位功能的操作手柄;交互响应模块统一管理虚拟场景内被动交互物体。但是该系统并没有在提高虚拟人的响应速度上进行优化,存在的延迟会影响交互的即时性,不适合应用在对延迟性要求较高的场合。
发明内容
本发明的目的在于,针对所存在的不足,提出了一种基于虚拟人技术的人机交互系统。
本发明采用如下技术方案:
一种基于虚拟人技术的人机交互系统,包括动作检测模块、虚拟交互模块、虚拟映射模块、交互检测模块和实施模块,所述动作检测模块用于检测操作人员的肢体动作,所述虚拟交互模块用于搭建一个虚拟互动场景,所述虚拟互动场景内设有虚拟人和互动单元,所述虚拟映射模块根据所述动作检测模块检测到的数据对所述虚拟人进行控制,所述交互检测模块用于检测虚拟人和所述互动单元之间的触碰情况,所述实施模块根据所述交互检测模块检测到的结果执行对应的操作;
所述虚拟映射模块内设有若干个第二模型基件,所述虚拟人由若干个第一模型基件构成,所述第一模型基件与所述第二模型基件一一对应,每个模型基件包括4个基点,所述动作检测模块包括若干个检测组,每个检测组测量6个距离值发送给所述虚拟映射模块,所述虚拟映射模块基于收到的距离值对第二模型基件进行调整,称为一次映射,所述虚拟映射模块基于第一模型基件与第二模型基件之间的差异对所述第一模型基件进行调整,称为二次映射;
所述虚拟映射模块根据所述牵动指数从大到小的顺序将对应的第二模型基件进行排序,称为目标基件序列,所述虚拟映射模块按照顺序从所述目标基件序列获取一个第二模型基件,并对对应的第一模型基件执行同步操作,然后将该第二模型基件放入完成池中,当所有第二模型基件从所述目标基件序列中放入到完成池后,完成二次映射;
进一步的,所述第一模型基件分为零级变化基件、一级变化基件、二级变化基件和三级变化基件,其中,零级变化基件表示该第一模型基件与对应的第二模型基件完全一致,一级变化基件表示该第一模型基件与对应的第二模型基件之间只存在一个基点位置不一致,二级变化基件表示该第一模型基件与对应的第二模型基件之间只存在两个基点位置不一致,三级变化基件表示该第一模型基件与对应的第二模型基件之间只存在三个基点位置不一致;
进一步的,在对第一模型基件执行同步操作时,处于完成池中的第二模型基件对应的第一模型基件处于静止状态,从目标基件序列中获取的第二模型基件对应的第一模型基件的基点改变位置,使得该第一模型基件与对应的第二模型基件保持一致,发生位置变化的基点称为目标基点,仍处于目标基件序列中的第二模型基件对应的第一模型基件随目标基点的位置变化而进行平移;
进一步的,所述第一模型基件中包含十个指基件,所述指基件中的一个基点为指尖基点,所述交互检测模块通过检测所述指尖基点是否在互动单元的生效空间内来触发互动单元。
本发明所取得的有益效果是:
本系统设计了第一模型基件和第二模型基件,第一模型基件构成完整的虚拟人,第二模型基件为离散独立的,通过检测的数据对第二模型基件进行一次映射,在根据第二模型基件与第一模型基件的差异对第一模型基件进行二次映射,一次映射中由于第二模型基件的独立性,能够低延迟地对第二模型基件进行调整,而在二次映射中,通过对比对第一模型基件进行调整,也具有低延迟性,在二次映射中,通过计算出第一模型基件的牵动指数,合理地安排第一模型基件的调整顺序,能够进一步地降低延。
为使能更进一步了解本发明的特征及技术内容,请参阅以下有关本发明的详细说明与附图,然而所提供的附图仅用于提供参考与说明,并非用来对本发明加以限制。
附图说明
图1为本发明整体结构框架示意图;
图2为本发明模型基件示意图;
图3为本发明二次映射流程示意图;
图4为本发明同步操作步骤构成示意图;
图5为本发明一次映射流程示意图。
具体实施方式
以下是通过特定的具体实施例来说明本发明的实施方式,本领域技术人员可由本说明书所公开的内容了解本发明的优点与效果。本发明可通过其他不同的具体实施例加以施行或应用,本说明书中的各项细节也可基于不同观点与应用,在不悖离本发明的精神下进行各种修饰与变更。另外,本发明的附图仅为简单示意说明,并非依实际尺寸的描绘,事先声明。以下的实施方式将进一步详细说明本发明的相关技术内容,但所公开的内容并非用以限制本发明的保护范围。
实施例一。
本实施例提供了一种基于虚拟人技术的人机交互系统,结合图1,包括动作检测模块、虚拟交互模块、虚拟映射模块、交互检测模块和实施模块,所述动作检测模块用于检测操作人员的肢体动作,所述虚拟交互模块用于搭建一个虚拟互动场景,所述虚拟互动场景内设有虚拟人和互动单元,所述虚拟映射模块根据所述动作检测模块检测到的数据对所述虚拟人进行控制,所述交互检测模块用于检测虚拟人和所述互动单元之间的触碰情况,所述实施模块根据所述交互检测模块检测到的结果执行对应的操作;
所述虚拟映射模块内设有若干个第二模型基件,所述虚拟人由若干个第一模型基件构成,所述第一模型基件与所述第二模型基件一一对应,每个模型基件包括4个基点,所述动作检测模块包括若干个检测组,每个检测组测量6个距离值发送给所述虚拟映射模块,所述虚拟映射模块基于收到的距离值对第二模型基件进行调整,称为一次映射,所述虚拟映射模块基于第一模型基件与第二模型基件之间的差异对所述第一模型基件进行调整,称为二次映射;
所述虚拟映射模块根据所述牵动指数从大到小的顺序将对应的第二模型基件进行排序,称为目标基件序列,所述虚拟映射模块按照顺序从所述目标基件序列获取一个第二模型基件,并对对应的第一模型基件执行同步操作,然后将该第二模型基件放入完成池中,当所有第二模型基件从所述目标基件序列中放入到完成池后,完成二次映射;
所述第一模型基件分为零级变化基件、一级变化基件、二级变化基件和三级变化基件,其中,零级变化基件表示该第一模型基件与对应的第二模型基件完全一致,一级变化基件表示该第一模型基件与对应的第二模型基件之间只存在一个基点位置不一致,二级变化基件表示该第一模型基件与对应的第二模型基件之间只存在两个基点位置不一致,三级变化基件表示该第一模型基件与对应的第二模型基件之间只存在三个基点位置不一致;
在对第一模型基件执行同步操作时,处于完成池中的第二模型基件对应的第一模型基件处于静止状态,从目标基件序列中获取的第二模型基件对应的第一模型基件的基点改变位置,使得该第一模型基件与对应的第二模型基件保持一致,发生位置变化的基点称为目标基点,仍处于目标基件序列中的第二模型基件对应的第一模型基件随目标基点的位置变化而进行平移;
所述第一模型基件中包含十个指基件,所述指基件中的一个基点为指尖基点,所述交互检测模块通过检测所述指尖基点是否在互动单元的生效空间内来触发互动单元。
实施例二。
本实施例包含了实施例一中的全部内容,提供了一种基于虚拟人技术的人机交互系统,包括动作检测模块、虚拟交互模块、虚拟映射模块、交互检测模块和实施模块,所述动作检测模块用于检测操作人员的肢体动作,所述虚拟交互模块用于搭建一个虚拟互动场景,所述虚拟互动场景内设有虚拟人和互动单元,所述虚拟映射模块根据所述动作检测模块检测到的数据对所述虚拟人进行控制,所述交互检测模块用于检测虚拟人和所述互动单元之间的触碰情况,所述实施模块根据所述交互检测模块检测到的结果执行对应的操作;
所述动作检测模块包括若干个位置检测单元,所述位置检测单元安装于可穿戴设备上,所述可穿戴设备包括手套、头套、护腕等,每四个位置检测单元构成一个检测组,同一个检测组内的任意两个位置检测单元能够测量相互之间的距离,所述动作检测模块将每个检测组内的六个距离值发送给所述虚拟映射模块,所述虚拟映射模块根据这六个距离值确定一个模型基件,结合图2,所述模型基件由四个基点构成,所述虚拟映射模块根据六个距离值对基点的位置进行调整,从而使模型基件产生变化;
所述虚拟人由若干个模型基件构成,需要注意的,存在两个模型基件共用一个基点的情况,所述虚拟映射模块处的模型基件是离散独立的,所述虚拟人的模型基件是整体关联的,为区分表示,虚拟人的模型基件称为第一模型基件,虚拟映射模块的模型基件称为第二模型基件,所述第一模型基件和所述第二模型基件一一对应,当所述虚拟映射模块接收到所述动作检测模块的检测数据时,第二模型基件先发生变化,使第二模型基件中基点之间的距离与检测数据相吻合,所述第二模型基件发生的变化称为一次映射,所述虚拟映射模块根据所述第一模型基件与所述第二模型基件之间的差异控制所述第一模型基件产生变化,使对应的第一模型基件和第二模型基件保持一致的同时第一模型基件之间仍然保持整体关联,所述第一模型基件发生的变化称为二次映射;
一次映射的时间较短,二次映射的时长会决定整个虚拟人动作的延迟性,延迟性越短,交互越及时,虚拟体验效果越好;
结合图3,二次映射的过程包括如下步骤:
S1、将对应的第一模型基件与第二模型基件比较,根据比较结果将第一模型基件分为零级变化基件、一级变化基件、二级变化基件和三级变化基件,其中,零级变化基件表示该第一模型基件与对应的第二模型基件完全一致,一级变化基件表示该第一模型基件与对应的第二模型基件之间只存在一个基点位置不一致,二级变化基件表示该第一模型基件与对应的第二模型基件之间只存在两个基点位置不一致,三级变化基件表示该第一模型基件与对应的第二模型基件之间只存在三个基点位置不一致;
S4、所述虚拟映射模块根据所述牵动指数从大到小的顺序将对应的第二模型基件进行排序,称为目标基件序列;
S5、所述虚拟映射模块按照顺序从所述目标基件序列获取一个第二模型基件,并对对应的第一模型基件执行同步操作,然后将该第二模型基件放入完成池中;
S6、重复步骤S5,直至所有的第二模型基件放入完成池中;
结合图4,在步骤S5中,在对第一模型基件执行同步操作时,处于完成池中的第二模型基件对应的第一模型基件处于静止状态,从目标基件序列中获取的第二模型基件对应的第一模型基件的基点改变位置,使得该第一模型基件与对应的第二模型基件保持一致,发生位置变化的基点称为目标基点,仍处于目标基件序列中的第二模型基件对应的第一模型基件随目标基点的位置变化而进行平移;
所述互动单元设有一个生效空间,当所述交互检测模块在生效空间内检测到第一模型基件时,触发对应的互动单元,所述交互检测模块将生成对应的执行指令发送给实施模块;
所述交互检测模块内设有多个检测器,每个检测器对应一个生效空间,每个检测器设置了3个区间:,所述第一模型基件中包含十个指基件,用于表示手指模型,所述指基件中的一个基点为指尖基点,所述检测器将获取指尖基点的坐标,判断指尖坐标的三个值是否均处于检测器的三个区间内,若是,则触发对应的互动单元;
以上所公开的内容仅为本发明的优选可行实施例,并非因此局限本发明的保护范围,所以凡是运用本发明说明书及附图内容所做的等效技术变化,均包含于本发明的保护范围内,此外,随着技术发展其中的元素可以更新的。
Claims (5)
1.一种基于虚拟人技术的人机交互系统,其特征在于,包括动作检测模块、虚拟交互模块、虚拟映射模块、交互检测模块和实施模块,所述动作检测模块用于检测操作人员的肢体动作,所述虚拟交互模块用于搭建一个虚拟互动场景,所述虚拟互动场景内设有虚拟人和互动单元,所述虚拟映射模块根据所述动作检测模块检测到的数据对所述虚拟人进行控制,所述交互检测模块用于检测虚拟人和所述互动单元之间的触碰情况,所述实施模块根据所述交互检测模块检测到的结果执行对应的操作;
所述虚拟映射模块内设有若干个第二模型基件,所述虚拟人由若干个第一模型基件构成,所述第一模型基件与所述第二模型基件一一对应,每个模型基件包括4个基点,所述动作检测模块包括若干个检测组,每个检测组测量6个距离值发送给所述虚拟映射模块,所述虚拟映射模块基于收到的距离值对第二模型基件进行调整,称为一次映射,所述虚拟映射模块基于第一模型基件与第二模型基件之间的差异对所述第一模型基件进行调整,称为二次映射;
所述虚拟映射模块根据所述牵动指数从大到小的顺序将对应的第二模型基件进行排序,称为目标基件序列,所述虚拟映射模块按照顺序从所述目标基件序列获取一个第二模型基件,并对对应的第一模型基件执行同步操作,然后将该第二模型基件放入完成池中,当所有第二模型基件从所述目标基件序列中放入到完成池后,完成二次映射。
2.如权利要求1所述的一种基于虚拟人技术的人机交互系统,其特征在于,所述第一模型基件分为零级变化基件、一级变化基件、二级变化基件和三级变化基件,其中,零级变化基件表示该第一模型基件与对应的第二模型基件完全一致,一级变化基件表示该第一模型基件与对应的第二模型基件之间只存在一个基点位置不一致,二级变化基件表示该第一模型基件与对应的第二模型基件之间只存在两个基点位置不一致,三级变化基件表示该第一模型基件与对应的第二模型基件之间只存在三个基点位置不一致。
4.如权利要求3所述的一种基于虚拟人技术的人机交互系统,其特征在于,在对第一模型基件执行同步操作时,处于完成池中的第二模型基件对应的第一模型基件处于静止状态,从目标基件序列中获取的第二模型基件对应的第一模型基件的基点改变位置,使得该第一模型基件与对应的第二模型基件保持一致,发生位置变化的基点称为目标基点,仍处于目标基件序列中的第二模型基件对应的第一模型基件随目标基点的位置变化而进行平移。
5.如权利要求4所述的一种基于虚拟人技术的人机交互系统,其特征在于,所述第一模型基件中包含十个指基件,所述指基件中的一个基点为指尖基点,所述交互检测模块通过检测所述指尖基点是否在互动单元的生效空间内来触发互动单元。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210894618.1A CN115061575B (zh) | 2022-07-28 | 2022-07-28 | 一种基于虚拟人技术的人机交互系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210894618.1A CN115061575B (zh) | 2022-07-28 | 2022-07-28 | 一种基于虚拟人技术的人机交互系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115061575A CN115061575A (zh) | 2022-09-16 |
CN115061575B true CN115061575B (zh) | 2022-10-25 |
Family
ID=83206334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210894618.1A Active CN115061575B (zh) | 2022-07-28 | 2022-07-28 | 一种基于虚拟人技术的人机交互系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115061575B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113034700A (zh) * | 2021-03-05 | 2021-06-25 | 广东工业大学 | 基于移动终端的前交叉韧带重建手术导航方法及系统 |
CN113204284A (zh) * | 2021-05-25 | 2021-08-03 | 中建八局第三建设有限公司 | 一种基于bim与mr技术的虚拟施工综合管道安装及验收方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3704656A1 (en) * | 2017-11-02 | 2020-09-09 | Measur3D, LLC | Clothing model generation and display system |
-
2022
- 2022-07-28 CN CN202210894618.1A patent/CN115061575B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113034700A (zh) * | 2021-03-05 | 2021-06-25 | 广东工业大学 | 基于移动终端的前交叉韧带重建手术导航方法及系统 |
CN113204284A (zh) * | 2021-05-25 | 2021-08-03 | 中建八局第三建设有限公司 | 一种基于bim与mr技术的虚拟施工综合管道安装及验收方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115061575A (zh) | 2022-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10732725B2 (en) | Method and apparatus of interactive display based on gesture recognition | |
US9013430B2 (en) | Hand and finger registration for control applications | |
EP3198373B1 (en) | Tracking hand/body pose | |
CN103713737B (zh) | 用于智能眼镜的虚拟键盘系统 | |
CN109902583B (zh) | 一种基于双向独立循环神经网络的骨架手势识别方法 | |
CN111204476B (zh) | 一种基于强化学习的视触融合精细操作方法 | |
Li et al. | Hand gesture recognition enhancement based on spatial fuzzy matching in leap motion | |
Jingqiu et al. | An ARM-based embedded gesture recognition system using a data glove | |
Santhalingam et al. | Sign language recognition analysis using multimodal data | |
WO2016035941A1 (ko) | 인간 모델의 3차원 공간 데이터를 이용한 포즈 인식 시스템 및 그 방법 | |
Wang et al. | Perception of demonstration for automatic programing of robotic assembly: framework, algorithm, and validation | |
CN115061575B (zh) | 一种基于虚拟人技术的人机交互系统 | |
KR101706864B1 (ko) | 모션 센싱 입력기기를 이용한 실시간 손가락 및 손동작 인식 | |
CN111784850B (zh) | 基于虚幻引擎的物体抓取仿真方法及相关设备 | |
Akahane et al. | Two-handed multi-finger string-based haptic interface SPIDAR-8 | |
WO2024007496A1 (zh) | 图像处理方法、装置、电子设备及存储介质 | |
Zorić et al. | Towards intuitive hmi for uav control | |
Adiprawita et al. | Service oriented architecture in robotic as a platform for cloud robotic (Case study: human gesture based teleoperation for upper part of humanoid robot) | |
Besnea et al. | Experiments regarding implementation of a virtual training environment for automotive industry | |
CN115798042A (zh) | 一种基于数字孪生的自动扶梯乘客异常行为数据构建方法 | |
CN110598297B (zh) | 一种基于零件几何变换信息的虚拟装配方法 | |
Nascimento et al. | WatchControl: a control for interactive movie using continuous gesture recognition in smartwatches | |
CN113887501A (zh) | 行为识别方法、装置、存储介质及电子设备 | |
Li et al. | Feature Point Matching for Human-Computer Interaction Multi-Feature Gesture Recognition Based on Virtual Reality VR Technology | |
Dong et al. | Tai chi action recognition based on structural LSTM with attention module |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |