CN115841776B - 基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 - Google Patents
基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 Download PDFInfo
- Publication number
- CN115841776B CN115841776B CN202211622012.9A CN202211622012A CN115841776B CN 115841776 B CN115841776 B CN 115841776B CN 202211622012 A CN202211622012 A CN 202211622012A CN 115841776 B CN115841776 B CN 115841776B
- Authority
- CN
- China
- Prior art keywords
- heart
- animation
- model
- blood flow
- atrium
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T90/00—Enabling technologies or technologies with a potential or indirect contribution to GHG emissions mitigation
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法及系统,基于真实的人体心脏图像,利用3D max软件建立了准确的心脏三维几何模型,模型包括左心房、右心房、左心室、右心室等结构。然后利用3D max软件对建好的模型进行了进一步的修洁和优化,为后续的有限元分析提供了较为精确的三维模型。并通过人机交互技术,操作人员能从多角度观察重建后的图像,因此可以更加准确直观的观察心脏的构成情况。观察心脏收缩和舒张运动,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室瓣膜的开关和血液流动方向。
Description
技术领域
本发明涉及虚拟现实技术领域,尤其涉及一种基于VR/AR的先天性心脏病血流动力学仿真教学方法及系统。
背景技术
信息技术的快速发展使信息的传播更加快捷,医学知识的更新不断加速,高校医学教学为紧跟时代步伐,需要不断创新,探寻合适的教学载体。虚拟现实技术作为一项新兴技术,充分应用于医学教学中不仅能够促进医学生医学理论知识的提升,而且对实践能力的培养也有良好的效果,进而为国家培养出符合时代需求的医学人才。
本发明人在实施本发明时发现,现有的教学方法并未将使用虚拟现实(VirtualReality)和增强现实(Augmented Reality)技术构建以心脏结构和先心病血流动力学为模型场景的虚拟仿真教学中。
发明内容
本发明的目的在于提供一种基于VR/AR的先天性心脏病血流动力学仿真教学方法及系统,其能够有效解决现有技术中所存在的上述技术问题。
为了实现上述目的,本发明的一实施例提供了一种基于VR/AR的先天性心脏病血流动力学仿真教学方法,包括:
S1、心脏解剖素材数据收集;
S2、通过三维建模软件3DS Max构建三维模型和动画;
S3、将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;
S4、通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习;
其中,在步骤S1中,通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集;
步骤S2具体包括:
S21、搭建正常心脏和先心病心脏内外部结构的三维模型;
S22、基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
S23、基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;
S24、导出搭建好的三维模型和制作好的动画;其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置;
步骤S3具体包括:
S31、导入搭建好的三维模型和制作好的动画到Unity3D软件中,包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型等所有心脏子模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
S32、调节模型材质及渲染材质效果;
S33、模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
S34、模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;
S35、虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口。
作为上述方案的改进,所述步骤S21具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
作为上述方案的改进,在所述步骤S22和S23中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
作为上述方案的改进,在所述步骤S33中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
作为上述方案的改进,在所述步骤S34中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
本发明实施例同时提供一种基于VR/AR的先天性心脏病血流动力学仿真教学系统,包括:
数据收集模块,用于心脏解剖素材数据收集;
三维模型重建模块,用于通过三维建模软件3DS Max构建三维模型和动画;
人机交互开发模块,用于将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;
场景交互学习模块,用于通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习;
其中,所述数据收集模块通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集;
所述三维模型重建模块具体用于执行:
搭建正常心脏和先心病心脏内外部结构的三维模型;
基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;及
导出搭建好的三维模型和制作好的动画;其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置;
所述人机交互开发模块具体用于执行:
导入搭建好的三维模型和制作好的动画到Unity3D软件中,包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型等所有心脏子模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
调节模型材质及渲染材质效果;
模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;及
虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口。
作为上述方案的改进,所述三维模型重建模块用于搭建正常心脏和先心病心脏内外部结构的三维模型,具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
作为上述方案的改进,所述三维模型重建模块基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画及基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
作为上述方案的改进,在所述人机交互开发模块中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
作为上述方案的改进,在所述人机交互开发模块中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
与现有技术相比,本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法及系统,具有如下技术效果:能够基于真实的人体心脏图像,利用3D max软件建立了准确的心脏三维几何模型,模型包括左心房、右心房、左心室、右心室等结构。然后利用3D max软件对建好的模型进行了进一步的修洁和优化,为后续的有限元分析提供了较为精确的三维模型。并通过人机交互技术,操作人员能从多角度观察重建后的图像,因此可以更加准确直观的观察心脏的构成情况。观察心脏收缩和舒张运动,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室瓣膜的开关和血液流动方向。这样,学生通过佩戴VR/AR头显可以身临其境观察心脏的内外部结构、血液流动及先心病的结构错构以及其血流动力学变化根据系统语音指引,使用手柄与场景交互完成自主学习。与传统教育相比,利用VR/AR技术来辅助医学教学,能有效降低培训成本、缩短培训周期、提高教学质量。
附图说明
为了更清楚地说明本发明的技术方案,下面将对实施方式中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法的流程示意图。
图2是本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法的步骤S2的具体步骤流程示意图。
图3是本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法的步骤S3的具体步骤流程示意图。
图4是本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参考图1,本发明实施例提供了一种基于VR/AR的先天性心脏病血流动力学仿真教学方法,其特征在于,包括:
S1、心脏解剖素材数据收集;
S2、通过三维建模软件3DS Max构建三维模型和动画;
S3、将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;
S4、通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习。
其中,在步骤S1中,通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集。
进一步,参考图2,上述步骤S2具体包括S21~S24:
S21、搭建正常心脏和先心病心脏内外部结构的三维模型;
S22、基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
S23、基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;
S24、导出搭建好的三维模型和制作好的动画;
其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置。可理解的,因为3D Max建立的心脏模型是max格式,而Unity3D不支持此种格式的文件,所以需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置。
另外,在制作心脏动画的过程中,由于心脏内部结构的形状特性,无需给心脏模型绑定骨骼或进行动作捕捉等操作,直接利用3DsMax软件即可完成。
进一步的,所述步骤S21具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
可以理解的,在所述步骤S22和S23中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
进一步,参考图3,上述步骤S3具体包括S31~S35:
S31、导入搭建好的三维模型和制作好的动画到Unity3D软件中;
S32、调节模型材质及渲染材质效果;
S33、模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
S34、模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;
S35、虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口。
其中,所述步骤S31具体包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型等所有心脏子模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
进一步的,在所述步骤S33中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
进一步的,在所述步骤S34中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
参考图4,本发明实施例对应公开了一种基于VR/AR的先天性心脏病血流动力学仿真教学系统,包括:
数据收集模块401,用于心脏解剖素材数据收集;
三维模型重建模块402,用于通过三维建模软件3DS Max构建三维模型和动画;
人机交互开发模块403,用于将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;及
场景交互学习模块404,用于通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习。
其中,所述数据收集模块401通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集;
所述三维模型重建模块402具体用于执行:
搭建正常心脏和先心病心脏内外部结构的三维模型;
基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;及
导出搭建好的三维模型和制作好的动画;其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置。
进一步的,所述三维模型重建模块402用于搭建正常心脏和先心病心脏内外部结构的三维模型,具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
另外,所述三维模型重建模块402基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画及基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
进一步的,所述人机交互开发模块403具体用于执行:
导入搭建好的三维模型和制作好的动画到Unity3D软件中;
调节模型材质及渲染材质效果;
模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;及
虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口。
其中,所述导入搭建好的三维模型和制作好的动画到Unity3D软件中,包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型等所有心脏子模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
进一步的,在所述人机交互开发模块403中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;及
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
相应的,在所述人机交互开发模块403中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩等功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;及
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
综上所述,本发明实施例提供的一种基于VR/AR的先天性心脏病血流动力学仿真教学方法及系统,基于真实的人体心脏图像,利用3D max软件建立了准确的心脏三维几何模型,模型包括左心房、右心房、左心室、右心室等结构。然后利用3D max软件对建好的模型进行了进一步的修洁和优化,为后续的有限元分析提供了较为精确的三维模型。并通过人机交互技术,操作人员能从多角度观察重建后的图像,因此可以更加准确直观的观察心脏的构成情况。观察心脏收缩和舒张运动,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室瓣膜的开关和血液流动方向。这样,学生通过佩戴VR/AR头显可以身临其境观察心脏的内外部结构、血液流动及先心病的结构错构以及其血流动力学变化根据系统语音指引,使用手柄与场景交互完成自主学习。与传统教育相比,利用VR/AR技术来辅助医学教学,能有效降低培训成本、缩短培训周期、提高教学质量。
以上所揭露的仅为本发明一些较佳实施例而已,当然不能以此来限定本发明之权利范围,本领域普通技术人员可以理解实现上述实施例的全部或部分流程,并依本发明权利要求所作的等同变化,仍属于发明所涵盖的范围。
Claims (8)
1.一种基于VR/AR的先天性心脏病血流动力学仿真教学方法,其特征在于,包括:
S1、心脏解剖素材数据收集;
S2、通过三维建模软件3DS Max构建三维模型和动画;
S3、将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;
S4、通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习;
其中,在步骤S1中,通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集;
步骤S2具体包括:
S21、搭建正常心脏和先心病心脏内外部结构的三维模型;
S22、基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
S23、基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;
S24、导出搭建好的三维模型和制作好的动画;其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置;
步骤S3具体包括:
S31、导入搭建好的三维模型和制作好的动画到Unity3D软件中,包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
S32、调节模型材质及渲染材质效果;
S33、模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
S34、模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;
S35、虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口;
所述步骤S21具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
2.根据权利要求1所述的基于VR/AR的先天性心脏病血流动力学仿真教学方法,其特征在于,在所述步骤S22和S23中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
3.根据权利要求1所述的基于VR/AR的先天性心脏病血流动力学仿真教学方法,其特征在于,在所述步骤S33中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
4.根据权利要求3所述的基于VR/AR的先天性心脏病血流动力学仿真教学方法,其特征在于,在所述步骤S34中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
5.一种基于VR/AR的先天性心脏病血流动力学仿真教学系统,其特征在于,包括:
数据收集模块,用于心脏解剖素材数据收集;
三维模型重建模块,用于通过三维建模软件3DS Max构建三维模型和动画;
人机交互开发模块,用于将三维模型和动画导入到Unity3D软件中,通过人机交互开发实现对正常心脏和先心病心脏教与学的仿真模拟,并将模拟完成后的仿真系统在Unity3D上进行发布;
场景交互学习模块,用于通过VR/AR设备以身临其境观察正常心脏的内外部结构、血液流动、先心病的结构错构及其血流动力学变化,并根据系统语音指引,使用手柄与场景交互完成自主学习;
其中,所述数据收集模块通过从医院人体标本中选取合适的心脏标本,对其正常心脏外观和解剖后的内部结构、心脏跳动、血液流动,以及先心病心脏外观和解剖后的内部结构、心脏跳动、心脏大血管错构以及心脏血流动力学变化进行资料采集;
所述三维模型重建模块具体用于执行:
搭建正常心脏和先心病心脏内外部结构的三维模型;
基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画;
基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画;及
导出搭建好的三维模型和制作好的动画;其中,需要在3D Max软件中将每个子模型文件分别导出为FBX格式存储,并且在导出前需将所有子模型轴心点设置为模型正中心位置;
所述人机交互开发模块具体用于执行:
导入搭建好的三维模型和制作好的动画到Unity3D软件中,包括:
将正常心脏外观及内部左心房、右心房、左心室、右心室,以及左心房、右心房、左心室、右心室进出口的瓣膜,以及先心病心脏外观和内部左心房、右心房、左心室、右心室,及左心房、右心房、左心室、右心室进出口的瓣膜模型拖入窗口并手动调整好贴图、位置和大小后,为整体模型添加摄影机,深度属性值调整为0,即放置于中间层;
将正常心脏跳动包括心脏的收缩与舒张运动动画,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画,以及先心病心脏大血管错构,心脏血流动力学变化动画,直接拖动到Unity3D的Project视图设定好的文件夹中,使Unity3D自行生成视频对应的MovieTexture对象;为视频创造一个合适大小的Plane面对象用于播放视频;然后,通过C#脚本用加载贴图的方式为Plane加载导入的三维动画,实现视频在Plane上的播放;
调节模型材质及渲染材质效果;
模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发;
模拟先心病心脏跳动、大血管错构以及血液流向功能的开发;及
虚拟仿真系统开发完成后,在Unity3D上进行发布,可根据最终使用硬件的不同,将完成的软件发布不同的端口;
所述三维模型重建模块用于搭建正常心脏和先心病心脏内外部结构的三维模型,具体包括:
利用三维建模软件3DS Max提供的基本几何体,包括立方体,通过加点、加线、移动位置、放缩系列工具处理后,实现三维心脏大体轮廓的低模,再进行平滑处理,经过反复的调整,最终完成心脏高精度模型的重建,根据资料对心脏进行1:13D建模。
6.根据权利要求5所述的基于VR/AR的先天性心脏病血流动力学仿真教学系统,其特征在于,所述三维模型重建模块基于搭建好的正常心脏的三维模型制作正常心脏跳动以及血液流向的动画及基于搭建好的先心病心脏的三维模型制作先心病心脏跳动、大血管错构以及血液流向的动画中,基于搭建好的模型制作心脏舒张与收缩动画,以及心脏收缩和舒张运动时左心房、右心房、左心室、右心室和左房室瓣、右房室瓣、主动脉瓣、肺动脉瓣的开关和血液流动方向以及先心病的心脏大血管错构、血流动力学变化情况的动画,每一个动画都是一个独立的场景,便于后续人机交互的功能开发。
7.根据权利要求5所述的基于VR/AR的先天性心脏病血流动力学仿真教学系统,其特征在于,在所述人机交互开发模块中,模拟正常心脏解剖结构、心脏跳动以及血液流向功能的开发以作为正常心脏的医学内容教学,包括:
正常心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,正常心脏的内部结构包括左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
正常心脏的收缩与舒张运动,心脏收缩和舒张运动时左心房、右心房、左心室及右心室瓣膜的开关和血液流动方向动画的切换播放。
8.根据权利要求7所述的基于VR/AR的先天性心脏病血流动力学仿真教学系统,其特征在于,在所述人机交互开发模块中,模拟先心病心脏跳动、大血管错构以及血液流向功能的开发以作为先心病心脏的医学内容教学,包括:
先心病心脏的外形、内部结构的展示,主要是心脏的外观整体显示、内部显示、子模型单个透明度显示,整体模型变换、单独模型的平移、删除、放缩功能,或是对全部模型实现还原初始状态、剖面查看的功能;在相应结构显示时会有相应文本及语音介绍;其中,先心病心脏的内部结构左心房、右心房、左心室、右心室以及左心房、右心房、左心室、右心室进出口的瓣膜;
先心病心脏大血管错构模型以及心脏血流动力学变化动画的切换播放。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211622012.9A CN115841776B (zh) | 2022-12-16 | 2022-12-16 | 基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211622012.9A CN115841776B (zh) | 2022-12-16 | 2022-12-16 | 基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115841776A CN115841776A (zh) | 2023-03-24 |
CN115841776B true CN115841776B (zh) | 2023-06-23 |
Family
ID=85578757
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211622012.9A Active CN115841776B (zh) | 2022-12-16 | 2022-12-16 | 基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115841776B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101849813A (zh) * | 2009-03-31 | 2010-10-06 | 上海交通大学医学院附属新华医院 | 三维心脏超声虚拟内窥镜系统 |
WO2014182505A1 (en) * | 2013-05-10 | 2014-11-13 | Stenomics, Inc. | Modeling and simulation system for optimizing prosthetic heart valve treatment |
CN204117465U (zh) * | 2014-10-15 | 2015-01-21 | 赵小萍 | 仿真心脏血液循环模型 |
CN106901834A (zh) * | 2016-12-29 | 2017-06-30 | 陕西联邦义齿有限公司 | 微创心脏外科手术的术前规划及手术虚拟现实模拟方法 |
CN207517243U (zh) * | 2017-09-08 | 2018-06-19 | 杭州医学院 | 先天性心脏病致肺动脉高压循环模型 |
CN110400620A (zh) * | 2019-07-25 | 2019-11-01 | 上海交通大学医学院附属上海儿童医学中心 | 一种心脏三维模型构建方法及模拟心脏手术指导系统 |
CN113761776A (zh) * | 2021-08-24 | 2021-12-07 | 中国人民解放军总医院第一医学中心 | 基于增强现实的心脏出血与止血模型的仿真系统和方法 |
-
2022
- 2022-12-16 CN CN202211622012.9A patent/CN115841776B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101849813A (zh) * | 2009-03-31 | 2010-10-06 | 上海交通大学医学院附属新华医院 | 三维心脏超声虚拟内窥镜系统 |
WO2014182505A1 (en) * | 2013-05-10 | 2014-11-13 | Stenomics, Inc. | Modeling and simulation system for optimizing prosthetic heart valve treatment |
CN204117465U (zh) * | 2014-10-15 | 2015-01-21 | 赵小萍 | 仿真心脏血液循环模型 |
CN106901834A (zh) * | 2016-12-29 | 2017-06-30 | 陕西联邦义齿有限公司 | 微创心脏外科手术的术前规划及手术虚拟现实模拟方法 |
CN207517243U (zh) * | 2017-09-08 | 2018-06-19 | 杭州医学院 | 先天性心脏病致肺动脉高压循环模型 |
CN110400620A (zh) * | 2019-07-25 | 2019-11-01 | 上海交通大学医学院附属上海儿童医学中心 | 一种心脏三维模型构建方法及模拟心脏手术指导系统 |
CN113761776A (zh) * | 2021-08-24 | 2021-12-07 | 中国人民解放军总医院第一医学中心 | 基于增强现实的心脏出血与止血模型的仿真系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115841776A (zh) | 2023-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110599573B (zh) | 一种基于单目相机的人脸实时交互动画的实现方法 | |
CN106023288B (zh) | 一种基于图像的动态替身构造方法 | |
Cao et al. | Facewarehouse: A 3d facial expression database for visual computing | |
Khamis et al. | Learning an efficient model of hand shape variation from depth images | |
CN105654537B (zh) | 一种实现与虚拟角色实时互动的表情克隆方法及装置 | |
Davis et al. | A sketching interface for articulated figure animation | |
CN107822690B (zh) | 具有不用手的控制的混合图像/场景再现器 | |
US9378589B2 (en) | Apparatus and method for generating digital clone | |
CN105632310B (zh) | 一种人体解剖教学系统 | |
Ping et al. | Computer facial animation: A review | |
TW201604833A (zh) | 頭髮模擬方法 | |
CN112906205B (zh) | 一种用于全髋关节置换手术的虚拟学习方法 | |
Vilanova et al. | VirEn: A virtual endoscopy system | |
Narang et al. | Virtual reality analysis of three-dimensional echocardiographic and cardiac computed tomographic data sets | |
CN114333482A (zh) | 一种基于混合现实技术的虚拟解剖教学系统 | |
CN114782610A (zh) | 一种结合神经纹理的可操控3d人脸重建方法及系统 | |
Orvalho et al. | Transferring the rig and animations from a character to different face models | |
CN115841776B (zh) | 基于vr/ar的先天性心脏病血流动力学仿真教学方法及系统 | |
CN111276022A (zh) | 一种基于vr技术的胃镜模拟操作系统 | |
Kim et al. | ASAP: Auto-generating Storyboard And Previz with Virtual Humans | |
Mao et al. | A sketch-based approach to human body modelling | |
Tejera et al. | Space-time editing of 3d video sequences | |
CN111768491A (zh) | 基于虚拟现实技术的医学影像显示方法及系统 | |
de Aguiar et al. | Representing and manipulating mesh-based character animations | |
Chen et al. | A system design for virtual reality visualization of medical image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |