CN111667560A - 一种基于vr虚拟现实角色的交互结构及交互方法 - Google Patents

一种基于vr虚拟现实角色的交互结构及交互方法 Download PDF

Info

Publication number
CN111667560A
CN111667560A CN202010499177.6A CN202010499177A CN111667560A CN 111667560 A CN111667560 A CN 111667560A CN 202010499177 A CN202010499177 A CN 202010499177A CN 111667560 A CN111667560 A CN 111667560A
Authority
CN
China
Prior art keywords
virtual
user
hand
interaction
virtual reality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010499177.6A
Other languages
English (en)
Other versions
CN111667560B (zh
Inventor
李健
曹虎
刘小林
丁晓
陈蓉然
刘玉松
毕利文
袁曦
叶波
李林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan Zhizhou Technology Co ltd
Chengdu Aircraft Industrial Group Co Ltd
Original Assignee
Sichuan Zhizhou Technology Co ltd
Chengdu Aircraft Industrial Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan Zhizhou Technology Co ltd, Chengdu Aircraft Industrial Group Co Ltd filed Critical Sichuan Zhizhou Technology Co ltd
Priority to CN202010499177.6A priority Critical patent/CN111667560B/zh
Publication of CN111667560A publication Critical patent/CN111667560A/zh
Application granted granted Critical
Publication of CN111667560B publication Critical patent/CN111667560B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/008Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Biophysics (AREA)
  • Robotics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明公开了一种基于VR虚拟现实角色的交互结构,包括计算机、输入设备、输出设备、VR设计/浏览软件;所述输入设备感知用户输入信息并传输给计算机;所述输出设备为虚拟现实场景人物虚拟预览的输出视口;所述计算机用于接收、处理、控制显示各种信息及相互间的作用和状态;所述VR设计/浏览软件用于世界场景搭建及渲染、功能逻辑开发、数据交互等为虚拟仿真模拟提供支持。本发明还提供了一种基于VR虚拟现实角色的交互方法。本发明通过实时感知虚拟对象及用户输入等各种内外环境,以分层有限状态机为模型进行逻辑决策,以动画合成树为模型生成角色动作,使基于该交互框架实现虚拟角色交互行为的可视化编辑成为可能。

Description

一种基于VR虚拟现实角色的交互结构及交互方法
技术领域
本发明涉及计算机技术领域,具体的说,是一种基于VR虚拟现实角色的交互结构及交互方法。
背景技术
虚拟现实(VR)技术概念起源于20世纪60年代,综合了计算机图形学、人机交互技术、仿真技术、多媒体技术、网络技术等而迅速发展的计算机领域的新技术。随着计算机技术的快速发展,虚拟现实技术在现代工业中可以实现装配工艺的模拟和优化、提高概念设计的效率、精简设计以及更加有效的进行工业生产目的,达到虚拟现实与智能制造相融合,促进现代工业的发展和提升。
在工业生产的装配培训领域,基于工业产品的尺寸大小、结构复杂程度、零件数目等特点,产品装配从零件、组件、锻件、板件、部件到最后的总装对接过程中,需要大量内容复杂、形式多样的专业知识。而且在装配过程中,多种装配任务均需要多人协同分工作业才能完成。在使用虚拟现实技术进行工业装配培训前提下,为了提高培训效率,在当前参与培训人员数目未达到训练任务要求最少数量人员时,需提供基于人工智能技术的虚拟角色参与协同作业。
人工智能技术被广泛用于含有虚拟角色的虚拟现实(VR)、仿生机器人及游戏的研究。虚拟现实技术中虚拟角色拥有自主的行为模式,可与用户进行交互,当虚拟角色以接近智慧生命的方式进行决策和行动时,用户才能真正感受到虚拟角色的真实感和智能性。而虚拟角色的建模是人工智能和虚拟现实技术中亟待解决的理论难点和关键技术问题。虚拟角色的建模包含几何模型建立、物理特性设计和行为决策模块等内容。目前的几何建模和物理建模都已经比较成熟,然而对虚拟角色行为决策的建模研究还比较少,如何将行为建模与人工智能融合,构建真正的虚拟智能体是亟待解决的问题。
发明内容
本发明的目的在于提出一种基于VR虚拟现实角色的交互结构,通过实时感知虚拟对象及用户输入等各种内外环境,以分层有限状态机为模型进行逻辑决策,以动画合成树为模型生成角色动作,使基于该交互框架实现虚拟角色交互行为的可视化编辑成为可能。
本发明的另一目的在于提出一种基于VR虚拟现实角色的交互方法。
本发明通过下述技术方案实现:
一种基于VR虚拟现实角色的交互结构,包括计算机、输入设备、输出设备、VR设计/浏览软件;所述输入设备感知用户输入信息并传输给计算机,与虚拟世界进行交互;所述输出设备为虚拟现实场景人物虚拟预览的输出视口;所述计算机用于接收、处理、控制显示各种信息及相互间的作用和状态,负责虚拟世界的生成、人与虚拟世界的自然交互等功能的实现;所述VR设计/浏览软件用于世界场景搭建及渲染、功能逻辑开发、数据交互等为虚拟仿真模拟提供支持。
进一步的,所述输入设备为3D数据手套、位置追踪器或鼠标键盘。3D数据手套主要用于结合虚拟现实场景中人物手部与虚拟物体交互时的手部姿态渲染,手势识别,物体交互响应;位置追踪器主要用于3D数据手套在虚拟现实场景中的3D空间定位,将现实中人物手部世界坐标转换为虚拟现实场景中3D坐标,以此达到虚实交互仿真模拟目的;鼠标键盘输入方式主要为系统软件中进行仿真模拟培训前的输入配置操作。
进一步的,所述输出设备为HTC/Vive头盔显示器或计算器显示器。HTC/Vive头盔显示器为虚拟现实场景人物虚拟预览的主要输出视口,为人物提供基于第一人称的3D沉浸式体验视口;计算器显示器为虚拟现实场景人物虚拟预览的次输出视口,为现实世界中旁观者提供虚拟现实场景中人物的第一人称视口显示。
进一步的,所述VR设计/浏览软件使用3D渲染引擎进行VR设计/浏览软件平台。
一种基于VR虚拟现实角色的交互方法,包括以下具体步骤:
步骤1):用户启动虚拟现实场景;
1.1用户双手手部穿戴3D数据手套,插入与设备主机相连的数据线使其处于连接状态;
1.2 用户双手手腕部穿戴位置追踪器,插入与设备主机相连的数据线使其处于连接状态;
1.3 用户头部穿戴头盔显示器,并处于与设备主机正常连接状态;
1.4 至此,启动虚拟现实场景前设备已处于就位状态;
1.5 运行系统并选择对应内容,进入虚拟现实场景;
1.6 虚拟现实场景进入后,系统创建生成虚拟人物角色;
1.7 默认启动头盔显示器,用户接收虚拟人物角色扮演;
1.8 默认连接3D数据手套设备;
1.9 默认连接并启动手部位置追踪器;
1.10 基于手部位置追踪器创建生成虚拟人物虚拟双手手部;
1.11 默认启动3D数据手套,重定向虚拟手部,标定用户左/右手部标识;
1.12 虚拟手部基于标定标识,绑定虚拟手部骨骼动画,等待接收用户3D数据手套数据输入;
步骤2):手势识别;
2.1 通过步骤1)流程后,表明用户启动虚拟现实场景正确并设备处于正常状态;
2.2 用户基于穿戴的3D数据手套,左手/右手分别作任意位移姿态,此时虚拟场景中虚拟手部作对应同步空间位移姿态,并与现实手部虚实位置一致无偏移,表明手部左/右标定成功;
2.3 用户基于穿戴的3D数据手套,双手手部作手背/手掌翻转姿态,此时虚拟场景中虚拟手部作对应同步翻转姿态,并与现实手部虚实位置一致无偏移,表明手部空间标定成功且空间同步;
2.4 此时,用户基于穿戴的3D数据手套,作任意手部空间位移或手部姿态,系统均能准确识别;
2.5 用户基于穿戴的3D数据手套,识别基于系统功能的手势识别;
2.6 用户基于穿戴的3D数据手套,右手为手掌伸直状态时,除食指外,其它手指向掌心弯曲作握拳姿态,识别为开启VR定点传送功能并伴有轻微点触震动提示,此时系统为用户右手食指指定方向绘制抛物指引线段,并与虚拟场景地面绘制移动目标点,等待用户定点传送指令;
2.7 用户基于穿戴的3D数据手套,在用户手部已处于开启VR定点传送手势姿态,右手大拇指为释放弯曲为伸直姿态时,识别为确定执行用户定点传送指定;
2.8用户基于穿戴的3D数据手套,左手为手掌伸直姿态时,左手大拇指向掌心弯曲,并与同样向掌心弯曲的左手小拇指触碰,识别为开启对象物体拾取交互功能并伴有轻微点触震动提示,此时用户可以基于虚拟手部对虚拟场景中可交互对象物体作虚拟交互操作,重复此手势姿态为关闭对象物体拾取交互功能并伴有轻微点触震动提示;
2.9 用户基于穿戴的3D数据手套,在对象物体拾取交互功能为开启状态时,用户主要使用两种行为对虚拟场景中可交互对象作虚拟交互操作;
2.10对虚拟场景中可交互对象的拾取/放下操作,用户在虚拟场景中选定想要拾取的对象,用户虚拟手部为手掌伸直姿态,在接近可交互对象时伴有轻微点触震动提示的同时,手掌手指作向掌心弯曲动作,识别为抓取可交互对象操作,可交互对象将被虚拟手部抓取;反之,用户在抓取后,手掌手指为伸直打开状态,识别为放下可交互对象操作,可交互对象将被虚拟手部放下;
步骤3):虚拟角色的触碰交互;
3.1 用户基于穿戴的3D数据手套,对虚拟场景中可交互对象的触碰交互操作;
3.2 在对象物体拾取交互功能为开启状态时,用户在虚拟场景中选定想要触碰交互的对象;用户虚拟手部任意一根手指为伸直姿态,其余为弯曲姿态,使用此手势姿态对可交互对象作触碰交互即可响应其对象交互功能。
进一步的,所述步骤2)中,手势识别包括:VR定点传送、对象物体拾取开启和关闭,对象物体拾取。
进一步的,所述步骤3)中,用户使用任意手食指点击触碰即可触发此功能交互并有轻微点触震动提示。
进一步的,所述步骤3)中,可交互对象包括:点触面板、按钮、滑动条块、点触发对象。
进一步的,所述步骤2.10中,使用VR定点传送功能接近对象位置。
进一步的,所述步骤3.1中,使用VR定点传送功能接近对象位置。
本发明与现有技术相比,具有的优点及有益效果:
(1)通过实时感知虚拟对象及用户输入等各种内外环境,以分层有限状态机为模型进行逻辑决策,以动画合成树为模型生成角色动作,使基于该交互框架实现虚拟角色交互行为的可视化编辑成为可能。
(2)同时,作为一种框架,其留有接口以便扩展实现更多的智能感知子和动作生成器等部件,不断增强角色智能,丰富角色交互内涵,改进角色动作的真实感和自然性。
附图说明
图1为本发明的系统框图。
图2为输入设备中的手势识别原理图。
具体实施方式
下面结合实施例对本发明作进一步地详细说明,但本发明的实施方式不限于此。
实施例:
下面结合实施例对本发明作进一步地详细说明,但本发明的实施方式不限于此。
为使本发明实施方式的目的、技术方案和优点更加清楚,下面将结合本发明实施方式中的附图,对本发明实施方式中的技术方案进行清楚、完整地描述,显然,所描述的实施方式是本发明一部分实施方式,而不是全部的实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。因此,以下对在附图中提供的本发明的实施方式的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施方式。基于本发明中的实施方式,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施方式,都属于本发明保护的范围。
本实施例中,主要对输入设备中的手势识别、以及虚拟现实角色交互方法作工作原理进行说明。
如图1所示,本发明主要由计算机、输入输出设备、虚拟现实设计/浏览软件等组成。用户以计算机为核心,通过输入输出设备与应用软件的虚拟世界进行交互。图1中,虚拟现实世界:系统虚拟现实世界中世界元素由3dMax建模软件构建模型资源,包含了世界场景预览物体、可交互物体和虚拟现实交互骨骼手。VR设计/浏览软件:系统使用(虚幻4)3D渲染引擎进行VR设计/浏览软件平台,用于世界场景搭建及渲染,功能逻辑开发,数据交互等为虚拟仿真模拟提供支持。计算机:虚拟现实系统中,计算机是系统的心脏,主要用于接收、处理、控制显示各种信息及相互间的作用和状态,负责虚拟世界的生成、人与虚拟世界的自然交互等功能的实现。输入/输出设备:虚拟现实系统中,用户与虚拟世界之间要实现自然的交互,必须采用特殊的输入输出设备,用以识别用户的各种信息输入,并实时生成逼真的反馈信息。VR输入设备如动作捕捉、手势识别、声音感知等体感类设备,通过感知用户输入信息,与虚拟世界进行交互,输入设备是实现消费者交互、沉浸感的重要技术。
本系统输入设备主要有3D数据手套,位置追踪器、鼠标键盘输入方式。关于3D数据手套:系统中3D数据手套主要用于结合虚拟现实场景中人物手部与虚拟物体交互时的手部姿态渲染,手势识别,物体交互响应。关于位置追踪器:系统中位置追踪器主要用于3D数据手套在虚拟现实场景中的3D空间定位,将现实中人物手部世界坐标转换为虚拟现实场景中3D坐标。以此达到虚实交互仿真模拟目的。鼠标键盘输入方式:系统中鼠标键盘输入方式主要为系统软件中进行仿真模拟培训前的输入配置操作。
本系统输出设备主要有HTC/Vive头盔显示器,计算器显示器输出方式。关于HTC/Vive头盔显示器:系统中HTC/Vive头盔显示器为虚拟现实场景人物虚拟预览的主要输出视口,为人物提供基于第一人称的3D沉浸式体验视口。关于计算器显示器:系统中计算器显示器为虚拟现实场景人物虚拟预览的次输出视口,为现实世界中旁观者提供虚拟现实场景中人物的第一人称视口显示。
如图2所示,在外部,系统采用数据手套交互方式,手套集成惯性传感器用于跟踪用户手指的运动,同时集成了触摸后的震动反馈机制。数据手套区分左/右手,每个手指具备一个惯性传感器用于捕捉手指弯曲动作。用户在穿戴数据手套后,系统将接受来自手套惯性传感器数据输入。在虚拟现实场景中,系统提供基于3dMax制作的骨骼模型手模型用于用户在虚拟现实场景中的虚拟手交互。在系统运行时,将自动匹配对应用户现实中的左/右手,使用位置追踪器,捕捉用户现实中手部运动状态,从而同步虚拟现实场景中虚拟手部空间位置,实现虚拟空间中的骨骼关节关联的运动变化(例如手部翻转,手部空间自由姿态)。同时,接受外部手套惯性传感器输入,在虚拟手部骨骼模型上,通过动画机绑定每个手部的手指弯曲动画,使用传感器传入数值进行插值动画。从而实现用户手部手指关节弯曲模拟,给予用户真实的虚拟手部运动反馈。
系统中,为用户绑定了包含了VR定点传送、对象物体拾取开启和关闭,对象物体拾取等特定手势识别。
VR定点传送:虚拟现实场景中,用户右手食指伸直,其余手指完全弯曲,系统将识别手势为VR定点传送功能响应并有轻微点触震动提示。此时系统将以食指指尖为起点绘制一定距离的抛物线,抛物线终点贴合场景地面,并指示为用户目标传送点。至此,用户选定目标传送点后,打开右手弯曲手指为伸直,系统将识别手势为确认定点传送并有轻微点触震动提示,并执行目标点传送功能,用户将传送至目标点位置。
对象物体拾取功能开启和关闭:虚拟现实场景中,为避免不必要的物体拾取或误操作,用户左手大拇指与小拇指弯曲触碰后,系统将识别手势为物体拾取开启或关闭功能并有轻微点触震动提示。在开启此功能后,用户可以作拾取物体操作。当用户左手再次使用此手势时,系统将关闭对象物体拾取功能并有轻微点触震动提示。
对象物体拾取/丢弃:虚拟现实场景中,在用户使用手势识别开启对象物体拾取功能后,用户将虚拟手部对准接触场景中可交互物体时,作手掌弯曲握拳手势时,系统将识别手势为拾取物体操作并有轻微连续震动提示,对象物体将附加在虚拟手部手掌位置,并随着虚拟手部空间变化而跟随。当用户虚拟手掌在抓取物体后,作虚拟手掌张开伸直操作后,系统将识别手势为丢弃物体操作并有轻微点触震动提示,对象物体将根据其特性掉落地面或返回至原本空间位置。
关于虚拟现实角色交互,主要分为用户通过虚拟手部拾取对象或触碰对象响应功能。其中包含了拾取/丢弃物体,三维空间中对一些功能面板上的按钮点击等等。在虚拟手部拾取对象中,主要使用光线投射追踪算法以及AABB包围盒算法。
光线投射追踪算法主要使用射线与三角形的相交检测。系统中,在用户使用虚拟手部想要拾取对象时,系统将基于对象虚拟手部点沿给定路线绘制线段,执行碰撞追踪,并返回所有遭遇的相交检测,直到包含首次阻挡命中,并响应用户拾取对象事件。
AABB包围盒算法主要用于碰撞盒检测,系统中,用户虚拟手部骨骼模型节点里,将在手指指尖骨骼槽中添加碰撞包围球体。当用户使用虚拟手部点击、触碰虚拟场景中可交互物体时,将执行包围盒算法用于检测指部碰撞球体是否与对象物体是否相交,从而响应用户对象事件。
在虚拟现实角色交互方法中,主要使用对象影响事件交互数据。1、虚拟手部弯曲姿态,动画机事件绑定外部数据手套接收数据输入,接收浮点类型用于表示当前手指弯曲度数值,通过浮点类型转至整形类型数据插值手部弯曲动画。2、虚拟手部空间姿态,虚拟手部空间姿态更新事件绑定外部位置追踪器接收数据输入,通过向量、矩阵变换转至三维空间数据同步更新空间位置。3、虚拟手部交互,在虚拟现实场景交互里,用户用过绑定的手部姿态识别开启交互事件后,使用光线投射追踪或碰撞盒检测从而遍历对象容器返回对象指针类型及布尔类型数据。
本发明的详细工作流程如下:
步骤1):用户启动虚拟现实场景;
1.1用户双手手部穿戴3D数据手套,插入与设备主机相连的数据线使其处于连接状态。
1.2 用户双手手腕部穿戴位置追踪器,插入与设备主机相连的数据线使其处于连接状态。
1.3 用户头部穿戴头盔显示器,并处于与设备主机正常连接状态。
1.4 至此,启动虚拟现实场景前设备已处于就位状态。
1.5 运行本系统并选择对应内容,进入虚拟现实场景。
1.6 虚拟现实场景进入后,系统创建生成虚拟人物角色。
1.7 默认启动头盔显示器,用户接收虚拟人物角色扮演。
1.8 默认连接3D数据手套设备。
1.9 默认连接并启动手部位置追踪器。
1.10 基于手部位置追踪器创建生成虚拟人物虚拟双手手部。
1.11 默认启动3D数据手套,重定向虚拟手部,标定用户左/右手部标识。
1.12 虚拟手部基于标定标识,绑定虚拟手部骨骼动画,等待接收用户3D数据手套数据输入。
步骤2):手势识别;
2.1 通过步骤1流程后,表明用户启动虚拟现实场景正确并设备处于正常状态。
2.2 用户基于穿戴的3D数据手套,左手/右手分别作任意位移姿态,此时虚拟场景中虚拟手部作对应同步空间位移姿态,并与现实手部虚实位置一致无偏移,表明手部左/右标定成功。
2.3 用户基于穿戴的3D数据手套,双手手部作手背/手掌翻转姿态,此时虚拟场景中虚拟手部作对应同步翻转姿态,并与现实手部虚实位置一致无偏移,表明手部空间标定成功且空间同步。
2.4 此时,用户基于穿戴的3D数据手套,作任意手部空间位移或手部姿态,系统均能准确识别。如握拳、手掌弯曲,任意手指弯曲等等。
2.5 用户基于穿戴的3D数据手套,识别基于系统功能的手势识别。
2.6 用户基于穿戴的3D数据手套,右手为手掌伸直状态时,除食指外,其它手指向掌心弯曲作握拳姿态,识别为开启VR定点传送功能并伴有轻微点触震动提示。此时系统为用户右手食指指定方向绘制抛物指引线段,并与虚拟场景地面绘制移动目标点,等待用户定点传送指令。
2.7 用户基于穿戴的3D数据手套,在用户手部已处于开启VR定点传送手势姿态,右手大拇指为释放弯曲为伸直姿态时,识别为确定执行用户定点传送指定。
2.8用户基于穿戴的3D数据手套,左手为手掌伸直姿态时,左手大拇指向掌心弯曲,并与同样向掌心弯曲的左手小拇指触碰,识别为开启对象物体拾取交互功能并伴有轻微点触震动提示。此时用户可以基于虚拟手部对虚拟场景中可交互对象物体作虚拟交互操作。重复此手势姿态为关闭对象物体拾取交互功能并伴有轻微点触震动提示。
2.9 用户基于穿戴的3D数据手套,在对象物体拾取交互功能为开启状态时,用户主要使用两种行为对虚拟场景中可交互对象作虚拟交互操作。
2.10对虚拟场景中可交互对象的拾取/放下操作,用户在虚拟场景中选定想要拾取的对象,在必要时使用VR定点传送功能接近对象位置。用户虚拟手部为手掌伸直姿态,在接近可交互对象时伴有轻微点触震动提示的同时,手掌手指作向掌心弯曲动作,识别为抓取可交互对象操作,可交互对象将被虚拟手部抓取。反之,用户在抓取后,手掌手指为伸直打开状态,识别为放下可交互对象操作,可交互对象将被虚拟手部放下。
步骤3):虚拟角色的触碰交互。
3.1 用户基于穿戴的3D数据手套,对虚拟场景中可交互对象的触碰交互操作主要对象是场景中的点触面板,按钮,滑动条块,点触发对象等等不需要拾取交互的对象。
3.2 在对象物体拾取交互功能为开启状态时,用户在虚拟场景中选定想要触碰交互的对象,在必要时使用VR定点传送功能接近对象位置。用户虚拟手部任意一根手指为伸直姿态,其余为弯曲姿态,使用此手势姿态对可交互对象作触碰交互即可响应其对象交互功能。
以上所述,仅是本发明的较佳实施例,并非对本发明做任何形式上的限制,凡是依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化,均落入本发明的保护范围之内。

Claims (10)

1.一种基于VR虚拟现实角色的交互结构,其特征在于:包括计算机、输入设备、输出设备、VR设计/浏览软件;所述输入设备感知用户输入信息并传输给计算机,与虚拟世界进行交互;所述输出设备为虚拟现实场景人物虚拟预览的输出视口;所述计算机用于接收、处理、控制显示各种信息及相互间的作用和状态,负责虚拟世界的生成、人与虚拟世界的自然交互等功能的实现;所述VR设计/浏览软件用于世界场景搭建及渲染、功能逻辑开发、数据交互等为虚拟仿真模拟提供支持。
2.根据权利要求1所述的一种基于VR虚拟现实角色的交互结构,其特征在于:所述输入设备为3D数据手套、位置追踪器或鼠标键盘。
3.根据权利要求1所述的一种基于VR虚拟现实角色的交互结构,其特征在于:所述输出设备为HTC/Vive头盔显示器或计算器显示器。
4.根据权利要求1所述的一种基于VR虚拟现实角色的交互结构,其特征在于:所述VR设计/浏览软件使用3D渲染引擎进行VR设计/浏览软件平台。
5.一种基于VR虚拟现实角色的交互方法,其特征在于:包括以下具体步骤:
步骤1):用户启动虚拟现实场景;
1.1用户双手手部穿戴3D数据手套,插入与设备主机相连的数据线使其处于连接状态;
1.2 用户双手手腕部穿戴位置追踪器,插入与设备主机相连的数据线使其处于连接状态;
1.3 用户头部穿戴头盔显示器,并处于与设备主机正常连接状态;
1.4 至此,启动虚拟现实场景前设备已处于就位状态;
1.5 运行系统并选择对应内容,进入虚拟现实场景;
1.6 虚拟现实场景进入后,系统创建生成虚拟人物角色;
1.7 默认启动头盔显示器,用户接收虚拟人物角色扮演;
1.8 默认连接3D数据手套设备;
1.9 默认连接并启动手部位置追踪器;
1.10 基于手部位置追踪器创建生成虚拟人物虚拟双手手部;
1.11 默认启动3D数据手套,重定向虚拟手部,标定用户左/右手部标识;
1.12 虚拟手部基于标定标识,绑定虚拟手部骨骼动画,等待接收用户3D数据手套数据输入;
步骤2):手势识别;
2.1 通过步骤1)流程后,表明用户启动虚拟现实场景正确并设备处于正常状态;
2.2 用户基于穿戴的3D数据手套,左手/右手分别作任意位移姿态,此时虚拟场景中虚拟手部作对应同步空间位移姿态,并与现实手部虚实位置一致无偏移,表明手部左/右标定成功;
2.3 用户基于穿戴的3D数据手套,双手手部作手背/手掌翻转姿态,此时虚拟场景中虚拟手部作对应同步翻转姿态,并与现实手部虚实位置一致无偏移,表明手部空间标定成功且空间同步;
2.4 此时,用户基于穿戴的3D数据手套,作任意手部空间位移或手部姿态,系统均能准确识别;
2.5 用户基于穿戴的3D数据手套,识别基于系统功能的手势识别;
2.6 用户基于穿戴的3D数据手套,右手为手掌伸直状态时,除食指外,其它手指向掌心弯曲作握拳姿态,识别为开启VR定点传送功能并伴有轻微点触震动提示,此时系统为用户右手食指指定方向绘制抛物指引线段,并与虚拟场景地面绘制移动目标点,等待用户定点传送指令;
2.7 用户基于穿戴的3D数据手套,在用户手部已处于开启VR定点传送手势姿态,右手大拇指为释放弯曲为伸直姿态时,识别为确定执行用户定点传送指定;
2.8用户基于穿戴的3D数据手套,左手为手掌伸直姿态时,左手大拇指向掌心弯曲,并与同样向掌心弯曲的左手小拇指触碰,识别为开启对象物体拾取交互功能并伴有轻微点触震动提示,此时用户可以基于虚拟手部对虚拟场景中可交互对象物体作虚拟交互操作,重复此手势姿态为关闭对象物体拾取交互功能并伴有轻微点触震动提示;
2.9 用户基于穿戴的3D数据手套,在对象物体拾取交互功能为开启状态时,用户主要使用两种行为对虚拟场景中可交互对象作虚拟交互操作;
2.10对虚拟场景中可交互对象的拾取/放下操作,用户在虚拟场景中选定想要拾取的对象,用户虚拟手部为手掌伸直姿态,在接近可交互对象时伴有轻微点触震动提示的同时,手掌手指作向掌心弯曲动作,识别为抓取可交互对象操作,可交互对象将被虚拟手部抓取;反之,用户在抓取后,手掌手指为伸直打开状态,识别为放下可交互对象操作,可交互对象将被虚拟手部放下;
步骤3):虚拟角色的触碰交互;
3.1 用户基于穿戴的3D数据手套,对虚拟场景中可交互对象的触碰交互操作;
3.2 在对象物体拾取交互功能为开启状态时,用户在虚拟场景中选定想要触碰交互的对象;用户虚拟手部任意一根手指为伸直姿态,其余为弯曲姿态,使用此手势姿态对可交互对象作触碰交互即可响应其对象交互功能。
6.根据权利要求5所述的一种基于VR虚拟现实角色的交互方法,其特征在于:所述步骤2)中,手势识别包括:VR定点传送、对象物体拾取开启和关闭,对象物体拾取。
7.根据权利要求5所述的一种基于VR虚拟现实角色的交互方法,其特征在于:所述步骤3)中,用户使用任意手食指点击触碰即可触发此功能交互并有轻微点触震动提示。
8.根据权利要求5所述的一种基于VR虚拟现实角色的交互方法,其特征在于:所述步骤3)中,可交互对象包括:点触面板、按钮、滑动条块、点触发对象。
9.根据权利要求5所述的一种基于VR虚拟现实角色的交互方法,其特征在于:所述步骤2.10中,使用VR定点传送功能接近对象位置。
10.根据权利要求5所述的一种基于VR虚拟现实角色的交互方法,其特征在于:所述步骤3.1中,使用VR定点传送功能接近对象位置。
CN202010499177.6A 2020-06-04 2020-06-04 一种基于vr虚拟现实角色的交互结构及交互方法 Active CN111667560B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010499177.6A CN111667560B (zh) 2020-06-04 2020-06-04 一种基于vr虚拟现实角色的交互结构及交互方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010499177.6A CN111667560B (zh) 2020-06-04 2020-06-04 一种基于vr虚拟现实角色的交互结构及交互方法

Publications (2)

Publication Number Publication Date
CN111667560A true CN111667560A (zh) 2020-09-15
CN111667560B CN111667560B (zh) 2022-03-29

Family

ID=72386029

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010499177.6A Active CN111667560B (zh) 2020-06-04 2020-06-04 一种基于vr虚拟现实角色的交互结构及交互方法

Country Status (1)

Country Link
CN (1) CN111667560B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113359987A (zh) * 2021-06-03 2021-09-07 煤炭科学技术研究院有限公司 基于vr虚拟现实的半实物综采实操平台
CN114020978A (zh) * 2021-09-28 2022-02-08 北京市农林科学院信息技术研究中心 基于多源信息融合的园区数字化漫游展示方法及系统
WO2023030091A1 (zh) * 2021-09-06 2023-03-09 北京字跳网络技术有限公司 控制运动物体运动的方法、装置、设备及介质
CN117180720A (zh) * 2023-11-07 2023-12-08 成都孚谦科技有限公司 一种基于体感追踪器技术的虚拟动作游戏交互系统及方法
CN117289796A (zh) * 2023-09-22 2023-12-26 中山大学 基于触觉手套的复杂装备高交互混合现实系统与方法
WO2023246159A1 (zh) * 2022-06-21 2023-12-28 腾讯科技(深圳)有限公司 一种虚拟现实的交互方法、相关装置、设备以及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN204904208U (zh) * 2015-09-07 2015-12-23 众景视界(北京)科技有限公司 用于虚拟现实和增强现实交互控制中的手套
US20160189429A1 (en) * 2014-12-30 2016-06-30 Sony Computer Entertainment Inc. Scanning display system in head-mounted display for virtual reality
CN106293346A (zh) * 2016-08-11 2017-01-04 深圳市金立通信设备有限公司 一种虚拟现实视景的切换方法及终端
CN106560863A (zh) * 2015-10-06 2017-04-12 镇江鼎拓科技信息有限公司 一种基于3d平面技术的虚拟开发方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160189429A1 (en) * 2014-12-30 2016-06-30 Sony Computer Entertainment Inc. Scanning display system in head-mounted display for virtual reality
CN204904208U (zh) * 2015-09-07 2015-12-23 众景视界(北京)科技有限公司 用于虚拟现实和增强现实交互控制中的手套
CN106560863A (zh) * 2015-10-06 2017-04-12 镇江鼎拓科技信息有限公司 一种基于3d平面技术的虚拟开发方法
CN106293346A (zh) * 2016-08-11 2017-01-04 深圳市金立通信设备有限公司 一种虚拟现实视景的切换方法及终端

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LI, JIAN 等: "Human-Machine Interaction Control System of a Remote Maintenance Manipulator for Tokamak", 《2018 CHINESE AUTOMATION CONGRESS (CAC)》 *
周晓晶等: "基于数据手套的虚拟手势交互系统", 《仪表技术与传感器》 *
李昌国等: "基于3D和Virtools技术的虚拟实验开发方法研究", 《计算机工程与应用》 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113359987A (zh) * 2021-06-03 2021-09-07 煤炭科学技术研究院有限公司 基于vr虚拟现实的半实物综采实操平台
CN113359987B (zh) * 2021-06-03 2023-12-26 煤炭科学技术研究院有限公司 基于vr虚拟现实的半实物综采实操平台
WO2023030091A1 (zh) * 2021-09-06 2023-03-09 北京字跳网络技术有限公司 控制运动物体运动的方法、装置、设备及介质
CN114020978A (zh) * 2021-09-28 2022-02-08 北京市农林科学院信息技术研究中心 基于多源信息融合的园区数字化漫游展示方法及系统
WO2023246159A1 (zh) * 2022-06-21 2023-12-28 腾讯科技(深圳)有限公司 一种虚拟现实的交互方法、相关装置、设备以及存储介质
CN117289796A (zh) * 2023-09-22 2023-12-26 中山大学 基于触觉手套的复杂装备高交互混合现实系统与方法
CN117289796B (zh) * 2023-09-22 2024-05-07 中山大学 基于触觉手套的复杂装备高交互混合现实系统与方法
CN117180720A (zh) * 2023-11-07 2023-12-08 成都孚谦科技有限公司 一种基于体感追踪器技术的虚拟动作游戏交互系统及方法
CN117180720B (zh) * 2023-11-07 2024-01-05 成都孚谦科技有限公司 一种基于体感追踪器技术的虚拟动作游戏交互系统及方法

Also Published As

Publication number Publication date
CN111667560B (zh) 2022-03-29

Similar Documents

Publication Publication Date Title
CN111667560B (zh) 一种基于vr虚拟现实角色的交互结构及交互方法
Lee et al. Hand gesture-based tangible interactions for manipulating virtual objects in a mixed reality environment
US8866781B2 (en) Contactless gesture-based control method and apparatus
Kumar et al. Hand data glove: A new generation real-time mouse for human-computer interaction
CN110262664B (zh) 一种具有认知能力的智能交互手套
CN108052202A (zh) 一种3d交互方法、装置、计算机设备及存储介质
Sun et al. Augmented reality based educational design for children
CN108983978A (zh) 虚拟手控制方法及装置
CN105589553A (zh) 一种智能设备的手势控制方法和系统
CN102156859A (zh) 手部姿态与空间位置的感知方法
CN103955267A (zh) 光透视增强现实系统中双手人机交互方法
CN102402290A (zh) 一种肢体姿势识别方法及系统
CN106406544B (zh) 一种语义式人机自然交互控制方法及系统
CN109782920A (zh) 一种用于扩展现实的人机交互方法及处理终端
CN107633551B (zh) 一种虚拟键盘的展示方法及装置
CN115686193A (zh) 一种增强现实环境下虚拟模型三维手势操纵方法及系统
Li et al. Glove-based virtual hand grasping for virtual mechanical assembly
Shao et al. A natural interaction method of multi-sensory channels for virtual assembly system of power transformer control cabinet
Xiong et al. A framework for interactive assembly task simulationin virtual environment
WO2020195017A1 (ja) 経路認識方法、経路認識装置、経路認識プログラム、及び経路認識プログラム記録媒体
Halarnkar et al. Gesture recognition technology: a review
Shi et al. Grasping 3d objects with virtual hand in vr environment
Jiang et al. A brief analysis of gesture recognition in VR
CN115481489A (zh) 基于增强现实的白车身与生产线适配性验证系统及方法
CN102662471B (zh) 计算机视觉鼠标

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant