CN112669671B - 一种基于实物交互的混合现实飞行仿真系统 - Google Patents

一种基于实物交互的混合现实飞行仿真系统 Download PDF

Info

Publication number
CN112669671B
CN112669671B CN202011576352.3A CN202011576352A CN112669671B CN 112669671 B CN112669671 B CN 112669671B CN 202011576352 A CN202011576352 A CN 202011576352A CN 112669671 B CN112669671 B CN 112669671B
Authority
CN
China
Prior art keywords
virtual
cockpit
real
physical
accelerator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011576352.3A
Other languages
English (en)
Other versions
CN112669671A (zh
Inventor
章晓冰
赵永嘉
雷小永
戴树岭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangxi Research Institute Of Beijing University Of Aeronautics And Astronautics
Original Assignee
Jiangxi Research Institute Of Beijing University Of Aeronautics And Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangxi Research Institute Of Beijing University Of Aeronautics And Astronautics filed Critical Jiangxi Research Institute Of Beijing University Of Aeronautics And Astronautics
Priority to CN202011576352.3A priority Critical patent/CN112669671B/zh
Publication of CN112669671A publication Critical patent/CN112669671A/zh
Application granted granted Critical
Publication of CN112669671B publication Critical patent/CN112669671B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)

Abstract

本发明提出一种基于实物的混合现实飞行座舱仿真系统,属于飞行仿真领域;具体包括:实物座舱1:1比例仿制真机座舱,虚拟座舱是实物座舱3D重建后的二次编辑模型,虚实融合子系统将虚实座舱进行视觉融合,飞行员操作各部件后的信号输入到飞行仿真控制子系统中进行处理,驱动虚拟座舱的部件实现与实物座舱对应部件的自然交互;通过舱外实景模拟子系统渲染后显示。同时,在交互过程中,飞行员控制实物座舱中的部件后,通过基于操纵杆和油门的最大转动速度的二次拟合预测,来减少虚实交互过程中的延迟,实现虚实座舱的同步;本发明采用虚实融合,可以获得视觉、触觉和力反馈的全方位立体感,极大的增强了飞行员在训练时候的逼真感。

Description

一种基于实物交互的混合现实飞行仿真系统
技术领域
本发明属于飞行仿真领域,具体是一种基于实物交互的混合现实飞行仿真系统。
背景技术
作为航空领域重要的使能技术,沉浸式飞行仿真在人员培训、工程研究、科学普及等领域具有广阔的应用前景。
传统的沉浸式飞行仿真装备——高等级飞行模拟机是受到局方监管的训练用的高端航空装备,长期依赖进口,技术复杂,售价高昂,无论是核心技术还是成本都无法自主可控;近年来,随着虚拟现实技术的普及,基于头盔显示器的沉浸式飞行仿真技术得到广泛的关注。
如何在沉浸式飞行仿真设备中构造逼真驾驶感受的人机交互,一直是沉浸式飞行仿真的重大挑战,直接影响着飞行仿真系统的使用效能,但由于交互装置与飞行操作不同物,导致其一直无法在航空关键领域得到广泛应用。
针对目前的技术发展,主要问题体现在:
(1)现阶段的沉浸式飞行仿真系统,无法进行实际操纵和反馈,飞行员仅能对虚拟座舱的机构进行操纵,无法在飞行仿真系统中实现全方位的视觉、触觉和力反馈相结合的融合交互,达到逼真的航空器驾驶感;
(2)对飞行仿真系统进行操纵控制多采用手柄、数据手套等交互设备,无法直接进行自然交互,这些交互设备不但在感观上影响了仿真驾驶的体验感,而且会造成一定的交互位置不够精准,从而进一步影响交互的逼真感;
(3)尽管采用了高性能的硬件设备来处理仿真系统中的多模块渲染和计算,但是在飞行员交互的时候还是产生了一定的延迟,特别是在虚实融合交互的时候尤为明显,这种延迟感会造成眩晕,极其影响系统的使用效率;
因此,如何在沉浸式飞行仿真环境中实现低成本真实操作反馈,已经成为飞行仿真领域亟待解决的重大需求,并有利于填补用于训练的高等级飞行模拟机与低端模拟器之间的技术、产品和市场空白,具有重要的应用价值。
发明内容
为解决上述问题,本发明提供了一种基于实物交互的混合现实飞行仿真系统,该系统能实时融合实物座舱和虚拟座舱,并实现飞行员无需佩戴任何交互设备即可进行自然手与操纵机构的交互,提高了仿真模拟的逼真性。另外,还提供了在交互过程中减少延迟的方法,增强仿真训练的使用效能。
所述的仿真系统包括:实物座舱、虚拟座舱、虚实融合子系统、飞行仿真控制子系统和舱外实景模拟子系统。
其中,实物座舱的仪表、油门、操纵杆和按键都为实物,实物座舱及其部件都采用1:1比例仿制真机座舱。实物座舱的油门、操纵杆和按键通过控制电板与计算机连接,飞行员操作实物座舱各部件后的数据会输入到飞行仿真控制子系统进行处理;仪表为等比例道具模型,不具备任何功能,只保留其外观、轮廓和质感与真机座舱一致。
虚拟座舱是实物座舱的3D重建后的二次编辑模型,各部件的大小、位置和外观轮廓均与实物座舱中一致,并且虚拟座舱的仪表具备与真机座舱仪表相同的功能;虚拟座舱在计算机中渲染,在虚实融合子系统的头盔显示器中显示。
所述虚实融合子系统将虚拟座舱和实物座舱进行视觉融合,使得飞行员在戴上头盔显示器后,看到的虚拟座舱和实物座舱无缝吻合在一起。虚实融合子系统所需的硬件包括定位基站、无线追踪器和头盔显示器;头盔显示器包含RGB摄像头,深度摄像头以及有线追踪器。头盔显示器与计算机通过有线进行连接,定位基站和无线追踪器与计算机进行无线连接;
虚实座舱融合的具体过程为:
首先、在实物座舱中,随机选择三个位置,分别放置不同纹理但大小一样的正方形纸板作为标记点,在虚拟座舱中找到对应三个位置的点分别为p0、p1和p2;获取这三个点相对模型原点的局部位置和姿态;
设定p0点的坐标为p0(x0,y0,z0)、姿态为r0(rx0,ry0,rz0),p1点坐标为p1(x1,y1,z1)、姿态为r1(rx1,ry1,rz1),p2点坐标为p2(x2,y2,z2)、姿态为r2(rx2,ry2,rz2);
同时、根据投影变换方程标定RGB摄像头的外参矩阵R和T;
投影变换方程为:m~K[R|T]M;
其中m是投影图像的齐次坐标;M是投影图像对应的3D点的齐次坐标,K是RGB摄像头已知的固有参数矩阵,R为旋转向量的矩阵、T为平移向量的矩阵,符号~表示方程式等于一个比例;
然后、RGB摄像头识别实物座舱中的三个标记点,结合外参矩阵和投影变换方程计算这三个标记点在虚拟空间的位置:坐标为p′0(x′0,y′0,z′0)、p′1(x′1,y′1,z′1)、p′2(x′2,y′2,z′2)和姿态r′0(rx′0,ry′0,rz′0)、r′1(rx′1,ry′1,rz′1)、r′2(rx′2,ry′2,rz′2);
接着、利用三个标记点在虚拟空间的位置和姿态以及原来的局部位置和姿态,计算各点分别对应虚拟座舱中模型原点的位置和姿态;具体为:p0点对应的原点pc0点的坐标为pc0(x′0-x0,y′0-y0,z′0-z0),姿态为rc0(rx′0-rx0,ry′0-ry0,rz′0-rz0),p1点对应的原点pc1点的坐标为pc1(x′1-x1,y′1-y1,z′1-z1),姿态为rc1(rx′1-rx1,ry′1-ry1,rz′1-rz1),p2点对应的原点pc2点的坐标为pc2(x′2-x2,y′2-y2,z′2-z2),姿态为rc2(rx′2-rx2,ry′2-ry2,rz′2-rz2);
最后、利用三个标记点分别对应虚拟座舱中模型原点的位置和姿态,进行求和平均得到最终的位置和姿态,并赋值给虚拟座舱模型即完成融合过程。
最终的位置为:
Figure BDA0002864156610000031
最终的姿态为:
Figure BDA0002864156610000032
所述的飞行仿真控制子系统,接收飞行员操作实物座舱后的数据并进行处理,模拟飞机的起飞、爬升或降落等飞行状态;同时,驱动虚拟座舱的对应部件实现与实物座舱部件的自然交互;自然交互的过程如下:
首先,在虚实座舱融合后,开启头盔显示器的RGB摄像头和深度摄像头,将飞行员的手融合到虚拟环境中;然后,获取飞行员操作实物座舱部件后的数据信号并输入到飞行仿制控制子系统中进行解析,分解为部件名称与操作值;计算机遍历虚拟座舱的零部件名称列表,找到对应名称的部件,并赋予操作值,实现虚拟部件的驱动;最后,驱动后的部件结合飞行员的手影像在头盔显示器中显示。
所述的舱外实景模拟子系统包括天气、天空、机场以及实景地形,能根据飞机的飞行状态来改变对应的场景,并在计算机中渲染后在头盔显示器中显示。
所述的交互过程中,当飞行员控制实物操纵杆和油门时,驱动的虚拟操纵杆和油门会呈现滞后的现象,使得实物操纵杆和油门的状态不能同步反馈给虚拟操纵杆和油门,针对该延迟,具体操作如下:
首先,在虚拟环境中分别获取操纵杆和油门在t-2时刻、t-1时刻以及当前t时刻的姿态数据;然后,采用二次函数拟合后,对未来时刻的数据进行k步超前预测;接着,使用操纵杆和油门的最大转动速度限制预测后的值,减低预测值的误差;最终将减低误差后的值赋给操纵杆和油门,实现虚拟操纵杆和油门与实物操纵杆和油门同步;
限制公式计算如下:
Figure BDA0002864156610000033
y(t+k)为一元二次方程;plimit为采用的限制值,计算如下:
Figure BDA0002864156610000034
Vmax为操纵杆和油门最大转动速度;T表示采样周期,Δy表示当前时刻和上一时刻的姿态数值差。
本发明的基于实物的混合现实功能的飞行座舱仿真系统及其处理方法相比现有的技术具有如下优势:
(1)本发明一种基于实物交互的混合现实飞行仿真系统,针对现有技术方案中,由于交互设备很难定位每个手指的位置,因此在需要手指操作的飞行仿真座舱中会造成交互精准问题。另外,现有技术通过将交互设备绑定到手中也给飞行员带来了不舒适感与不自然感。本发明虚实融合子系统实现自然手与座舱的交互,可以很好解决上述问题,提高飞行员的训练效果;
(2)本发明一种基于实物交互的混合现实飞行仿真系统,采用虚拟座舱与实物操作的融合,使得飞行员在操作的时候可以获得视觉、触觉和力反馈的全方位立体感,极大的增强了飞行员在训练时候的逼真感。
(3)本发明一种基于实物交互的混合现实飞行仿真系统,通过基于操纵杆和油门的最大转动速度的二次拟合预测,来减少虚实交互过程中的延迟,实现飞行员操作实物座舱的操纵杆和油门的状态能同步到虚拟座舱的操纵杆和油门,减少飞行员在虚拟环境中的眩晕感,提高了座舱的使用效能。
附图说明
图1为本发明基于实物的混合现实飞行座舱仿真系统的结构示意图;
图2为本发明虚实融合子系统的硬件安装示意图
图3为本发明使用一元二次外推法减少交互延迟的算法示意图;;
图4为本发明中没有使用延迟处理方法和使用了延迟处理方法的效果示意图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图对本发明作进一步的详细和深入描述。
本发明提供了一种基于实物交互的混合现实飞行仿真系统,如图1所示,包括实物座舱、虚拟座舱、虚实融合子系统、飞行仿真控制子系统以及实景模拟子系统。
所述实物座舱为1:1比例仿制真机座舱,其中,实物座舱的仪表、油门、操纵杆和按键都为实物,通过控制电板与计算机连接,飞行员操作实物座舱各部件后的数据会输入到飞行仿真控制子系统进行处理;而座舱内如仪表这样的显示非可操作部件皆为等比例道具模型,不具备显示和操作功能,但具有与真实部件一样的外观和轮廓,所有显示的动态内容在虚拟座舱的对应部件中呈现。
虚拟座舱为实物座舱3D重建后的二次编辑模型,不但其内部结构的静态部件如各部件的大小、位置和外观轮廓均与实物座舱中一致,且每个部件及部件的零件都具有唯一名称;可操纵的动态部件如操纵杆和油门等也具有动画效果,在操纵实物座舱的动态部件时,虚拟座舱对应的动态部件也将实时呈现对应的动画效果,如实物座舱的操纵杆向右偏30°的时候虚拟座舱的操纵杆也同步向右偏30°;另外实物座舱的静态部件在虚拟座舱中为动态部件,如实物座舱的仪表为静态道具,在虚拟座舱中虚拟仪表的指针是带动画的,可根据反馈的信息进行实时的运动;虚拟座舱中的各部件通过在计算机中渲染后,在虚实融合子系统的头盔显示器中显示。
虚实融合子系统实现了虚拟座舱和实物座舱的视觉融合,飞行员在戴上头盔显示器后,看到的虚拟座舱的各个部件与实物座舱的每个部件进行无缝融合,达到视觉的一致。虚实融合子系统的硬件安装示意图如图2所示,所需的硬件包括定位基站、无线追踪器和头盔显示器;头盔显示器包含RGB摄像头、深度摄像头以及有线追踪器。头盔显示器与计算机通过有线进行连接,定位基站和无线追踪器安装在实物座舱中,并与计算机进行无线连接;
虚实座舱融合的具体过程为:
1)、在实物座舱中,随机选择三个位置,分别放置不同纹理但大小一样的正方形纸板作为Marker点,在虚拟座舱中找到对应的三个点的位置分别为p0、p1和p2,获取三个点相对模型原点的局部位置和姿态;
p0点坐标为p0(x0,y0,z0)、姿态为r0(rx0,ry0,rz0),p1点坐标为p1(x1,y1,z1)、姿态为r1(rx1,ry1,rz1),p2点坐标为p2(x2,y2,z2)和姿态为r2(rx2,ry2,rz2);
2)、标定RGB摄像头的外参,根据投影变换方程计算RGB摄像机外参矩阵R和T:
m~K[R|T]M (1)
其中m和M是投影图像及其对应的3D点的齐次坐标,K是相机已知的固有参数矩阵,R为旋转向量矩阵、T为平移向量矩阵,符号~表示方程式等于一个比例;
3)、RGB摄像头识别三个Marker点结合外参矩阵和投影变换公式(1)计算三个Marker点在虚拟空间的位置p′0(x′0,y′0,z′0)、p′1(x′1,y′1,z′1)、p′2(x′2,y′2,z′2)和姿态r′0(rx′0,ry′0,rz′0)、r′1(rx′1,ry′1,rz′1)、r′2(rx′2,ry′2,rz′2);
4)、根据虚拟空间的位置和姿态以及三个Marker点的局部位置和姿态,计算三个点分别对应虚拟座舱模型原点的位置和姿态:
p0点对应的原点pc0点的坐标为pc0(x′0-x0,y′0-y0,z′0-z0),姿态为rc0(rx′0-rx0,ry′0-ry0,rz′0-rz0),p1点对应的原点pc1点的坐标为pc1(x′1-x1,y′1-y1,z′1-z1),姿态为rc1(rx′1-rx1,ry′1-ry1,rz′1-rz1),p2点对应的原点pc2点的坐标为pc2(x′2-x2,y′2-y2,z′2-z2),姿态为rc2(rx′2-rx2,ry′2-ry2,rz′2-rz2),
5)、将计算得到的模型原点位置和姿态的值进行求和平均,得到的最终值赋给虚拟座舱模型即完成融合过程。
最终的位置和姿态分别为:
Figure BDA0002864156610000061
Figure BDA0002864156610000062
虚实融合子系统将借助头盔显示器本身的软件工具实现自然手融合到虚拟环境中,飞行员带上头盔显示器开启该功能,将在头盔显示器中看到自己的手出现在虚拟环境中。结合飞行仿制控制系统将实现自然手与座舱的交互。
飞行员操作实物座舱部件的控制信号,输入到飞行仿真控制子系统,模拟飞机的起飞、爬升或降落等飞行状态;同时,驱动虚拟座舱的对应部件,实现手对座舱的自然交互,增强了系统的交互性;同时,飞行仿真控制子系统将飞机的位置,高度和速度的改变数据传输给实景模拟子系统。
虚实融合的自然交互的过程如下:
首先,在虚实座舱融合后,开启头盔显示器的RGB摄像头和深度摄像头,将飞行员的手融合到虚拟环境中;然后,控制电板获取飞行员操作实物座舱部件后的数据信号并输入到飞行仿制控制子系统中进行解析,分解为部件名称与操作值;计算机遍历虚拟座舱的零部件名称列表,找到对应名称的部件,并赋予操作值,实现虚拟部件的驱动;最后,驱动后的部件结合飞行员的手影像在头盔显示器中显示。
所述的实景模拟子系统,包括天气、天空、机场以及实景地形,能根据飞机的起飞、爬升以及降落等飞行状态来改变对应的场景,并在计算机中渲染后在头盔显示器中显示,进一步加强了飞行模拟的真实感。
所述的交互过程中,当飞行员控制实物操纵杆和油门时,驱动的虚拟操纵杆和油门会有延迟,如图4所示的上半部分为没有处理该延迟的效果示意图,操作实物操纵杆或油门时驱动的虚拟操纵杆和油门会有明显滞后现象。针对该延迟的处理的原理示意图如图3所示,具体操作如下:首先,获取操纵杆和油门在t-2时刻、t-1时刻以及当前t时刻的姿态数据;然后,通过一元二次方程对各时刻的姿态数据进行拟合后,对未来时刻的数据进行k步超前预测;一元二次方程更简单和快速,可以最大限度的减少等待时间问题的同时保证很高拟合精度,方程为:
y(t+k)=a+b×t+c×t2
其中y表示从t时刻起向前k步的预测数据,t表示从程序开始运行到当前时刻的时间,a、b、c为未知常量系数。根据t-2、t-1以及t时刻的数据可列方程组:
Figure BDA0002864156610000071
即可求解得到a、b、c的值。
通过一元二次外推进行预测后,预测值与角加速度恒定的区域的曲线非常吻合,但是,如果当前值与先前值迅速不同,则精确值与预测值之间的误差会增大。当增加预测步骤时,此误差会更高。为了减少这种误差,使用操纵杆和油门的最大转动速度Vmax限制预测后的值,在快速转动操纵杆和油门时能减低预测值的误差。最终将减低误差后的值赋给操纵杆和油门,如图4的下半部分效果示意图所示,虚拟操纵杆和油门与实物操纵杆和油门保持了同步;
限制公式计算如下:
Figure BDA0002864156610000072
y(t+k)为一元二次方程;plimit为采用的限制值,计算如下:
Figure BDA0002864156610000073
Vmax为操纵杆和油门最大转动速度;T表示刷新率,Δy表示当前时刻和上一时刻的姿态数值差。
使用该方法能够快速而又准确的预估操纵杆和油门转动的姿态,减少飞行员操作实物座舱后显示的虚拟座舱部件的延迟,降低了飞行员使用中的眩晕感,使得飞行员能获得更好的舒适度,提高飞行员的训练效果。
综上所述,本发明的基于实物的混合现实飞行座舱仿真系统,通过虚实融合子系统实现虚拟座舱与实物座舱的无缝融合,到达在视觉上虚实座舱一致。同时,头盔显示器融合飞行员的手到虚拟环境中,在视觉上观察到自己的手触碰到虚拟座舱的部件,同时在触觉上手摸到实际座舱对应的部件,实物座舱的部件有力反馈效果。解决了现有技术中无法实现视觉、触觉和力反馈相结合的虚实融合而导致的仿真逼真度不足的问题。此外,在虚实座舱融合的基础上,获取实物座舱操作信息驱动虚拟座舱实现虚实融合的自然交互过程,解决了现有技术中无法使用自然手交互以及交互不精准的问题。最后,本发明还提供了一种针对该系统在虚实座舱融合的自然交互的延迟问题的处理方法,提高了座舱的使用效能。

Claims (4)

1.一种基于实物交互的混合现实飞行仿真系统,其特征在于,包括:实物座舱、虚拟座舱、虚实融合子系统、飞行仿真控制子系统和舱外实景模拟子系统;
其中,实物座舱的油门、操纵杆和按键通过控制电板与计算机连接,飞行员操作实物座舱各部件后的信号输入到飞行仿真控制子系统进行处理;仪表为等比例道具模型,不具备任何功能;
虚拟座舱是实物座舱的3D重建后的二次编辑模型,虚拟座舱在计算机中渲染,在虚实融合子系统的头盔显示器中显示;
所述虚实融合子系统将虚拟座舱和实物座舱进行视觉融合,虚实融合子系统所需的硬件包括定位基站、无线追踪器和头盔显示器;头盔显示器包含RGB摄像头、深度摄像头以及有线追踪器;头盔显示器与计算机通过有线进行连接,定位基站和无线追踪器与计算机进行无线连接;
虚实座舱融合的具体过程为:
首先,在实物座舱中,随机选择三个位置,分别放置不同纹理但大小一样的正方形纸板作为标记点,在虚拟座舱中找到对应三个位置的点分别为p0、p1和p2;获取这三个点相对模型原点的局部位置和姿态;
设定p0点的坐标为p0(x0,y0,z0)、姿态为r0(rx0,ry0,rz0),p1点坐标为p1(x1,y1,z1)、姿态为r1(rx1,ry1,rz1),p2点坐标为p2(x2,y2,z2)、姿态为r2(rx2,ry2,rz2);
同时,根据投影变换方程标定RGB摄像头的外参矩阵R和T;
投影变换方程为:m~K[R|T]M;
其中m是投影图像的齐次坐标;M是投影图像对应的3D点的齐次坐标,K是RGB摄像头已知的固有参数矩阵,R为旋转向量的矩阵、T为平移向量的矩阵;
然后,RGB摄像头识别实物座舱中的三个标记点,结合外参矩阵和投影变换方程计算这三个标记点在虚拟空间的位置:坐标为p′0(x′0,y′0,z′0)、p′1(x′1,y′1,z′1)、p′2(x′2,y′2,z′2)和姿态r′0(rx′0,ry′0,rz′0)、r′1(rx′1,ry′1,rz′1)、r′2(rx′2,ry′2,rz′2);
接着,利用三个标记点在虚拟空间的位置和姿态以及原来的局部位置和姿态,计算各点分别对应虚拟座舱中模型原点的位置和姿态;
具体为:p0点对应的原点pc0点的坐标为pc0(x′0-x0,y′0-y0,z′0-z0),姿态为rc0(rx′0-rx0,ry′0-ry0,rz′0-rz0),p1点对应的原点pc1点的坐标为pc1(x′1-x1,y′1-y1,z′1-z1),姿态为rc1(rx′1-rx1,ry′1-ry1,rz′1-rz1),p2点对应的原点pc2点的坐标为pc2(x′2-x2,y′2-y2,z′2-z2),姿态为rc2(rx′2-rx2,ry′2-ry2,rz′2-rz2);
最后,利用三个标记点分别对应虚拟座舱中模型原点的位置和姿态,进行求和平均得到最终的位置和姿态,并赋值给虚拟座舱模型即完成融合过程;
最终的位置为:
Figure FDA0003845990410000021
最终的姿态为:
Figure FDA0003845990410000022
所述的飞行仿真控制子系统,接收飞行员操作实物座舱后的信号并进行处理,模拟飞机的飞行状态;同时,驱动虚拟座舱的对应部件实现与实物座舱部件的自然交互;
自然交互的过程如下:
首先,在虚实座舱融合后,开启头盔显示器的RGB摄像头和深度摄像头,将飞行员的手融合到虚拟环境中;然后,控制电板获取飞行员操作实物座舱部件后的数据信号并输入到飞行仿制控制子系统中进行解析,分解为部件名称与操作值;计算机遍历虚拟座舱的零部件名称列表,找到对应名称的部件,并赋予操作值,实现虚拟部件的驱动;最后,驱动后的部件结合飞行员的手影像在头盔显示器中显示;
所述的自然交互的过程中,当飞行员控制实物操纵杆和油门时,驱动的虚拟操纵杆和油门会呈现滞后,使得实物操纵杆和油门的状态不能同步反馈给虚拟操纵杆和油门,针对滞后的操纵杆和油门,具体操作如下:
首先,在虚拟环境中分别获取操纵杆和油门在t-2时刻、t-1时刻以及当前t时刻的姿态数据;然后,通过二次函数对各时刻的姿态数据进行拟合后,对未来时刻的数据进行k步超前预测;接着,使用操纵杆和油门的最大转动速度限制预测后的值,减低预测值的误差;最终将减低误差后的值赋给操纵杆和油门,实现虚拟操纵杆和油门与实物操纵杆和油门同步;
限制公式计算如下:
Figure FDA0003845990410000023
y(t+k)为一元二次方程;plimit为采用的限制值,计算如下:
Figure FDA0003845990410000024
Vmax为操纵杆和油门最大转动速度;T表示刷新率,Δy表示当前时刻和上一时刻的姿态数值差。
2.如权利要求1所述的一种基于实物交互的混合现实飞行仿真系统,其特征在于,所述的实物座舱的仪表、油门、操纵杆和按键都为实物,实物座舱及其部件都采用1:1比例仿制真机座舱。
3.如权利要求1所述的一种基于实物交互的混合现实飞行仿真系统,其特征在于,所述的虚拟座舱各部件的大小、位置和外观轮廓均与实物座舱中一致,并且虚拟座舱的仪表具备与真机座舱仪表相同的功能。
4.如权利要求1所述的一种基于实物交互的混合现实飞行仿真系统,其特征在于,所述的舱外实景模拟子系统包括天气、天空、机场以及实景地形,能根据飞机的飞行状态来改变对应的场景,并在计算机中渲染后在头盔显示器中显示。
CN202011576352.3A 2020-12-28 2020-12-28 一种基于实物交互的混合现实飞行仿真系统 Active CN112669671B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011576352.3A CN112669671B (zh) 2020-12-28 2020-12-28 一种基于实物交互的混合现实飞行仿真系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011576352.3A CN112669671B (zh) 2020-12-28 2020-12-28 一种基于实物交互的混合现实飞行仿真系统

Publications (2)

Publication Number Publication Date
CN112669671A CN112669671A (zh) 2021-04-16
CN112669671B true CN112669671B (zh) 2022-10-25

Family

ID=75410319

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011576352.3A Active CN112669671B (zh) 2020-12-28 2020-12-28 一种基于实物交互的混合现实飞行仿真系统

Country Status (1)

Country Link
CN (1) CN112669671B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113636068B (zh) * 2021-07-01 2022-08-30 南京理工大学 一种多模态人机混合交互的飞行器座舱
CN113552950B (zh) * 2021-08-06 2022-09-20 上海炫伍科技股份有限公司 一种虚拟座舱虚实交互方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106157359A (zh) * 2015-04-23 2016-11-23 中国科学院宁波材料技术与工程研究所 一种虚拟场景体验系统的设计方法
US9583019B1 (en) * 2012-03-23 2017-02-28 The Boeing Company Cockpit flow training system
WO2018058361A1 (en) * 2016-09-28 2018-04-05 Bayerische Motoren Werke Aktiengesellschaft Method, system, display device for displaying virtual reality in vehicle, and computer program product

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9121707D0 (en) * 1991-10-12 1991-11-27 British Aerospace Improvements in computer-generated imagery
CN101231790A (zh) * 2007-12-20 2008-07-30 北京理工大学 基于多个固定摄像机的增强现实飞行模拟器
CN101976463A (zh) * 2010-11-03 2011-02-16 北京师范大学 一种虚实融合的交互式立体图书制作方法
CN105701090B (zh) * 2014-10-11 2019-09-24 中国国际航空股份有限公司 一种飞行管理系统的模拟装置
US9846968B2 (en) * 2015-01-20 2017-12-19 Microsoft Technology Licensing, Llc Holographic bird's eye view camera
CN106157731B (zh) * 2015-04-07 2018-09-18 深圳威阿科技有限公司 一种具有混合现实功能的模拟飞行座舱系统及其处理方法
FR3039643B1 (fr) * 2015-07-31 2018-07-13 Thales Interface homme-machine pour la gestion du vol d'un aeronef
CN106408515A (zh) * 2016-08-31 2017-02-15 郑州捷安高科股份有限公司 一种增强现实的视景合成系统
WO2018058601A1 (zh) * 2016-09-30 2018-04-05 深圳达闼科技控股有限公司 虚拟与现实融合方法、系统和虚拟现实设备
CN106371218B (zh) * 2016-10-28 2019-05-24 苏州苏大维格光电科技股份有限公司 一种头戴式三维显示装置
CN106601032B (zh) * 2016-10-31 2018-08-03 北京航空航天大学 一种基于下视传感器的多路径地形完整性检测方法
CN107221223B (zh) * 2017-06-01 2020-04-14 北京航空航天大学 一种带有力/触觉反馈的虚拟现实飞机座舱系统
CN108305326A (zh) * 2018-01-22 2018-07-20 中国人民解放军陆军航空兵学院 一种混合虚拟现实的方法
CN109887369B (zh) * 2019-04-17 2021-06-01 江苏科技大学 一种船舶险情逃生模拟培训系统
CN110174940A (zh) * 2019-04-25 2019-08-27 中科恒运股份有限公司 飞行仿真模拟器虚实空间实时融合方法
CN111673265B (zh) * 2020-07-07 2021-04-27 北京航空航天大学 一种面向激光刻型的自适应控制方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9583019B1 (en) * 2012-03-23 2017-02-28 The Boeing Company Cockpit flow training system
CN106157359A (zh) * 2015-04-23 2016-11-23 中国科学院宁波材料技术与工程研究所 一种虚拟场景体验系统的设计方法
WO2018058361A1 (en) * 2016-09-28 2018-04-05 Bayerische Motoren Werke Aktiengesellschaft Method, system, display device for displaying virtual reality in vehicle, and computer program product

Also Published As

Publication number Publication date
CN112669671A (zh) 2021-04-16

Similar Documents

Publication Publication Date Title
US7117135B2 (en) System for providing a high-fidelity visual display coordinated with a full-scope simulation of a complex system and method of using same for training and practice
CN107221223B (zh) 一种带有力/触觉反馈的虚拟现实飞机座舱系统
Brooks What's real about virtual reality?
US20170025031A1 (en) Method and apparatus for testing a device for use in an aircraft
US10884525B1 (en) Interactive mixed masking system, method and computer program product for a simulator
CN112669671B (zh) 一种基于实物交互的混合现实飞行仿真系统
CN106530894A (zh) 一种采用增强现实技术的飞行训练器虚拟平显方法及系统
US9583019B1 (en) Cockpit flow training system
CN106484982A (zh) 汽车产品开发过程中基于虚拟现实的设计方法及vr系统
Viertler et al. Requirements and design challenges in rotorcraft flight simulations for research applications
CN101452651A (zh) 船舶机舱虚拟现实仿真系统
Zintl et al. Development of a virtual reality simulator for eVTOL flight testing
US20210327295A1 (en) Head tracking with virtual avionics training products
CN211319464U (zh) 一种基于虚拟现实的仿真模拟飞行器
CN110134247A (zh) 一种基于vr的船舶运动姿态增强现实互动系统及方法
CN102456281B (zh) 一种飞机机务信息处理方法
CN115379278B (zh) 基于扩展现实(xr)技术沉浸式微课的录制方法及系统
CN115145167A (zh) 一种民机驾驶舱设计迭代仿真系统
Zang et al. Virtual reality and the application in virtual experiment for agricultural equipment
CN211124496U (zh) 一种飞行模拟机
WO2017014671A1 (ru) Водительский тренажер виртуальной реальности с дополнением реальными объектами
CN115762293A (zh) 一种基于虚拟现实定位器定位的航空训练方法和系统
Puttre Virtual reality comes into focus
CN113778231B (zh) 一种空中漫游系统的构建方法
Zhou Interactive simulation teaching system of electrical engineering based on virtual reality

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant