CN111914422B - 一种虚拟现实中红外特征实时可视化模拟方法 - Google Patents

一种虚拟现实中红外特征实时可视化模拟方法 Download PDF

Info

Publication number
CN111914422B
CN111914422B CN202010776303.8A CN202010776303A CN111914422B CN 111914422 B CN111914422 B CN 111914422B CN 202010776303 A CN202010776303 A CN 202010776303A CN 111914422 B CN111914422 B CN 111914422B
Authority
CN
China
Prior art keywords
infrared
characteristic
visible light
rendering
appearance model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010776303.8A
Other languages
English (en)
Other versions
CN111914422A (zh
Inventor
杨思超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Kaiyun Interactive Technology Co ltd
Original Assignee
Beijing Kaiyun Interactive Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Kaiyun Interactive Technology Co ltd filed Critical Beijing Kaiyun Interactive Technology Co ltd
Priority to CN202010776303.8A priority Critical patent/CN111914422B/zh
Publication of CN111914422A publication Critical patent/CN111914422A/zh
Application granted granted Critical
Publication of CN111914422B publication Critical patent/CN111914422B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00Details relating to CAD techniques
    • G06F2111/18Details relating to CAD techniques using virtual or augmented reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明公开了一种虚拟现实中红外特征实时可视化模拟方法,包括建立被测目标几何模型,设置虚拟场景参数,红外特征数据生成,可见光和红外特征实时渲染;本发明的技术方案能够解决实时渲染能力受限的条件下难以实现复杂红外特征模拟的问题,灵活运用于各类红外测温设备的功能模拟和训练仿真,支持被测温几何体全方位红外特征的实时模拟与显示,能够进行被测温几何体多种红外状态间的无级融合,并支持进行红外图像关键点识别,能够在主流图形显示设备上及虚拟现实设备上进行高保真度的渲染,并保证计算效率,以实现运行的低时延特性。

Description

一种虚拟现实中红外特征实时可视化模拟方法
技术领域
本发明属于虚拟仿真技术领域,尤其涉及一种虚拟现实中红外特征实时可视化模拟方法。
背景技术
虚拟现实中红外特征的实时可视化,对于在虚拟现实环境中的游戏、行业技能训练、设备性能模拟仿真等领域具备重要的意义,例如利用红外成像原理的摄像头、瞄准镜以及各类固定式、手持式红外测温仪的功能模拟和使用,在电力运维、体温监测、区域安保、武器装备等领域的训练中,扮演着重要的角色。
Unity是当前应用最广泛的游戏引擎之一,其逼真的视觉效果和良好的程序开发体验使其在虚拟仿真领域得到了众多开发者的青睐。由于Unity在渲染管线和多线程计算方面进行持续改进,当前已推出能够实现高级逼真渲染效果的高清渲染管线HighDefinition Render Pipeline(HDRP),借助该技术,我们能够将场景的可见光特征和红外特征展示水平提升到一个全新的高度,使得该类写实风格游戏、训练能够为用户提供更为逼真的使用体验,提升用户的临场感、沉浸感。
此外,Unity针对当下日益增长的实时计算和渲染需求,推出了面向数据的技术栈Data-Oriented Technology Stack(DOTS),该项技术借助当前计算机普遍使用的多核心处理器和多线程处理能力,为实时计算和渲染提供了数倍于传统的计算能力,结合GPU能够提供的并行计算能力,使得一些较为复杂的功能的实现成为了可能。
合理利用以上的全新技术基础,加以针对红外特征可视化需求的算法研究,能够实现诸如虚拟现实中的手持式红外测温仪的使用、动态红外关键点检测、多状态红外特征无级融合等技术,使红外特征可视化应用在更丰富的使用场景中。
当前在虚拟现实领域的红外特征可视化方法,主要有二维图片法和全屏幕三维红外展示法。二维图片法通常预先在系统数据中存储了对应的二维图片,该类图片采用实拍或其它方式制作而成,能够表现被测目标某一个或某些固定观察角度下的红外特征。全屏幕三维红外展示法,通过替换场景内部分或全部元素的渲染材质等信息,完成从可见光特征到红外特征的完整场景切换,该方法能够实现几乎所有角度下的目标红外特征显示。
二维图片法由于展示角度有限,仅能表现某些方向上的红外特征,更加难以表现多种环境、状态下的叠加态,因此仅可用于初级的使用场景,并且在使用虚拟现实头盔的使用场景中,二维图片的展示方式与虚拟现实强调沉浸感、逼真性的特点背道而驰,将可能极大地削弱该类设备的使用体验。
全屏幕三维红外展示法,有能力在全部方位上展示对象的红外特征,但在设备仿真与使用训练中,尤其在使用虚拟现实头盔时,大多仅适用于全屏幕红外摄像头图像,或头戴式红外测温仪,对于现实中更为常用的手持式红外测温仪等设备的仿真和使用训练内容,则缺乏有效的手段进行模拟,极大地限制了该方法的适用范围。
发明内容
为了解决上述已有技术存在的不足,本发明提出一种虚拟现实中红外特征实时可视化模拟方法,能够解决实时渲染能力受限的条件下难以实现复杂红外特征模拟的问题,本发明的具体技术方案如下:
一种虚拟现实中红外特征实时可视化模拟方法,包括以下步骤:
S1:建立被测设备几何模型;
S1-1:利用建模工具或程序算法对被测设备的可见光特征外观进行多层次细节建模,得到多层级颗粒度的可见光特征外观模型;
S1-2:根据所述被测设备的可见光特征外观模型建立所述被测设备的红外特征外观模型;
S1-3:为所述可见光特征外观模型和所述红外特征外观模型建立纹理贴图坐标,所述纹理贴图坐标用于制作所述可见光特征外观模型的材质贴图和所述红外特征外观模型的红外特征分布图,所述红外特征分布图存储于虚拟仿真软件的红外特征数据集内;
S2:设置虚拟场景参数;
S2-1:将同一被测设备的可见光特征外观模型和红外特征外观模型导入用于模拟被测设备的可见光特征和红外特征的虚拟仿真场景中,为所述可见光特征外观模型和所述红外特征外观模型赋予相同的六自由度参数和相同的形变参数;
S2-2:在所述虚拟仿真场景中,定义可见光特征渲染层和红外特征渲染层,将所述可见光特征外观模型设置为可见光特征渲染层,将所述红外特征外观模型设置为红外特征渲染层,并为所述可见光特征外观模型赋予可见光特征渲染材质,为所述红外特征外观模型赋予红外特征渲染材质;
S2-3:在所述虚拟仿真场景中,手动设置可见光摄影机或利用程序生成可见光摄影机,设置所述可见光摄影机的分辨率,并将所述可见光摄影机设置为仅渲染可见光特征渲染层;
S2-4:在所述虚拟仿真场景中,手动设置红外摄影机或利用程序生成红外摄影机,依据被模拟红外测温设备的参数,设置所述红外摄影机的分辨率,并将所述红外摄影机的输出结果设置为图片数据,设置该图片的色彩模式为单通道,并将所述红外摄影机设置为仅渲染红外特征渲染层;
S3:红外特征数据生成;
S3-1:在所述红外特征数据集内,预先存储被测设备典型状态下的红外特征分布数据;
S3-2:所述虚拟仿真软件运行时,获取当前时刻所述虚拟仿真场景的环境参数和被测设备当前时刻的状态,根据所述环境参数和所述被测设备当前时刻的状态,计算所述被测设备的红外特征状态权重;
S3-3:根据步骤S3-2得到的环境参数和红外特征状态权重,利用二维数据分区方法,划分红外特征分布图,将划分后的红外特征分布图区块分别交由CPU线程或使用Compute Shader交由GPU并行计算,进行综合状态的红外特征分布数据融合,得到当前融合之后的红外特征结果分布图;
S4:可见光和红外特征实时渲染;
S4-1:实时渲染时,所述虚拟仿真软件读取所述被测设备红外特征外观模型的几何数据,通过纹理贴图坐标查找所述红外特征结果分布图,得到当前时刻具有红外特征分布的材质信息;
S4-2:利用所述虚拟仿真场景中的红外摄影机结合红外摄影机投影信息,对所述红外特征外观模型的几何数据和所述步骤S4-1得到的材质信息进行渲染,获得当前时刻用于进一步计算的中间产物渲染图像;
S4-3:使用着色器在所述步骤S4-2得到的渲染图像中进行采样,与用于表现红外数值的颜色分布梯度映射图进行对照,将所述渲染图像中的灰度值映射为所述用于表现红外特征数值的颜色,并生成经过颜色分布映射的所述被测设备的红外特征测量结果图像数据;
S4-4:根据步骤S4-2的渲染图像,利用图像分区方法,划分渲染图像,将划分后的渲染图像区块分别交由多个CPU线程或使用Compute Shader交由GPU并行计算,查找当前渲染图像红外特征关键点所在区域,并设置用于指示关键点位置的图标坐标;
S4-5:根据步骤S4-3和步骤S4-4的结果,设置用于显示红外特征被测结果图像的材质,得到当前时刻红外特征渲染结果;
S4-6:使用所述虚拟仿真场景中的所述可见光摄影机结合该可见光摄影机的投影信息,进行除红外特征外的PBR渲染子流程,得到虚拟仿真软件当前时刻所显示的画面中除红外特征被测结果图像区域以外的可见光特征渲染结果;
S4-7:融合步骤S4-5和步骤S4-6的渲染结果,形成当前时刻完整的可用于虚拟现实的图像;
S4-8:返回步骤S3-2,重复执行步骤S3-2至步骤S4-7,进行下一时刻的红外特征数据生成、可见光特征渲染和红外特征渲染。
进一步地,所述步骤S1-2的具体方法为:
若步骤S1-1得到的多层级颗粒度的可见光特征外观模型中存在能够呈现红外特征且保证虚拟仿真软件无卡顿运行的可见光特征外观模型,则选择该可见光特征外观模型建立副本,作为红外特征外观模型;否则,根据红外特征外观的细节仿真颗粒度重新绘制模型作为红外特征外观模型。
进一步地,所述步骤S2-3中可见光摄影机包括人眼、可见光波段相机或摄像头。
进一步地,所述步骤S2-4中红外摄影机包括红外摄像头或红外测温仪镜头。
进一步地,所述步骤S3-2中,当前时刻虚拟仿真场景的环境参数包括光照方向、天气条件和环境温度,被测设备当前时刻的状态包括正常运行状态、任一故障状态、同时发生多种故障状态、状态稳定以及状态发展中。
进一步地,所述步骤S3-3的具体过程为:根据步骤S3-2得到的环境参数和红外特征状态权重,利用二维数据分区方法,将所述红外特征分布图沿横向和纵向共划分为m×n个部分,其中,m、n均为依运行效率选取的大于等于1的整数,将划分后的红外特征分布图分别交由多个CPU线程并行计算或使用Compute Shader交由GPU并行计算,进行综合状态的红外特征分布数据融合,得到融合之后的红外特征结果分布图。
进一步地,所述步骤S4-4的具体过程为:根据步骤S4-2的渲染图像,将所述渲染图像沿横向和纵向共划分为p×q个部分,其中,p、q均为依照运行效率选取的大于等于1的整数,将划分后的渲染图像分别交由多个CPU线程进行并行计算或使用Compute Shader交由GPU并行计算,查找所述渲染图像中红外特征关键点所在区域,并设置用于指示关键点位置的图标坐标。
进一步地,所述步骤S1-1的建模工具为3D Max或Maya。
进一步地,所述步骤S3-3中取m=3,n=3。
进一步地,所述步骤S4-4中取p=3,q=3。
本发明的有益效果在于:
1.本发明的方法基于虚拟现实,能够灵活运用于各类红外测温设备的功能模拟和训练仿真。
2.本发明的方法支持被测温几何体全方位红外特征的实时模拟与显示,能够进行被测温几何体多种红外状态间的无级过渡,并支持进行红外图像关键点识别。
3.本发明的方法对于红外显示部分的渲染着色器及流程进行优化,能够在主流图形显示设备上及虚拟现实设备上进行高保真度的渲染,并保证计算效率,以实现运行的低时延特性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,通过参考附图会更加清楚的理解本发明的特征和优点,附图是示意性的而不应理解为对本发明进行任何限制,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,可以根据这些附图获得其他的附图。其中:
图1是本发明的分层可见光/红外实时可视化模拟实现流程图;
图2是本发明实施例的被测目标多层级颗粒度的可见光特征外观模型;
图3是本发明实施例的纹理贴图坐标(UV);
图4是本发明实施例的红外特征外观贴图;
图5是本发明实施例的中间产物渲染图像;
图6是本发明实施例的颜色分布梯度映射图;
图7是本发明实施例的红外特征渲染结果;
图8是本发明实施例的当前时刻完整图像。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
如图1所示,本发明旨在提供一种能够运用于虚拟现实级别的红外特征实时可视化模拟方法,用以解决实时渲染能力受限的条件下难以实现复杂红外特征模拟的问题,支持可见光/红外同屏显示,并支持多状态无级融合和关键点检测。
可见光/红外同屏实时可视化,传统的二维图片法采用无计算压力的图片方式展示被测目标的红外特征,表现力不足,全屏幕三维红外展示法难以用于可见光/红外同屏显示(例如手持式红外测温仪),本发明方法旨在解决同屏显示下的技术路径和效率问题。针对被测目标进行外观建模,包含多级颗粒度可见光外观模型,亦可建立红外特征外观模型,或利用可见光模型建立副本作为红外特征外观模型,每一模型根据效果需求,建立纹理贴图坐标(UV)用于对应颜色数值查找,同时在虚拟场景中,将同一被测目标的可见光外观模型和红外特征外观模型设置统一的六自由度和形变参数。在工程中,设置可见光渲染层和红外渲染层,并将可见光外观模型和红外特征外观模型分别指定在可见光渲染层和红外渲染层。场景中设置摄影机时,可见光摄影机(如人眼、可见光波段相机、摄像头等)设置为仅渲染可见光渲染层,并设置相应的分辨率,红外摄影机(如红外摄像头、红外测温仪镜头等)设置为仅渲染红外渲染层,根据被模拟设备的性能参数设置对应的图像输出分辨率,并设置图像仅输出单通道色彩。利用此方法,可在渲染开销可控增长的条件下,实现可见光/红外特征同屏显示。
多状态无级融合,传统方法仅能体现预制的若干种红外特征状态,难以跟随环境等变量发生变化,本发明方法需依托有限的若干种目标红外状态,结合环境、状态权重等条件,实现无级的状态融合。系统数据库中存储被测目标的多种状态下的红外特征分布数据,在系统运行时,根据当时虚拟环境参数(如光照方向、天气条件和环境温度)以及设备状态权重,对数据库中的多状态红外特征数值进行采样,利用适用的图像融合算法,将被测目标的红外特征重新合成为符合当前环境参数和设备状态权重的分布结果。
红外关键点检测,现有方法中,受限于计算能力,对于当前图像的红外关键点检测难以提供高效率识别方法,本发明方法旨在利用并行计算解决红外关键点检测问题。在完成设备红外分布再分配的情况下,收集渲染过程中间产物,对当前红外图像进行分区,并交由多线程分区识别算法完成并行数据比较,检测到图像红外关键点区域,调整图像红外关键点指示标记的坐标并进行渲染,完成红外关键点检测和指示。
为了方便理解本发明的上述技术方案,以下通过具体实施例对本发明的上述技术方案进行详细说明。
实施例1
本实施例为在Unity软件中实现手持式红外测温仪对变电站设施测温的可视化效果的过程,包括以下步骤:
S1:建立被测设备几何模型
S1-1:利用3D Max、Maya等建模工具对变电站设施(即被测设备)的可见光特征外观进行多层级颗粒度建模,得到多层级颗粒度的可见光特征外观模型,以满足场景渲染面数要求,保证运行效率;如图2所示,图中为同一设施的三种不同颗粒度模型,从左至右颗粒度逐渐变粗;
S1-2:步骤S1-1建立的模型中,依照软件开发需要选取中间颗粒度模型作为红外特征外观模型;
S1-3:为可见光特征外观模型和红外特征外观模型建立纹理贴图坐标(UV),并绘制可见光特征外观贴图和红外特征外观贴图,如图3和图4所示;
S2:设置虚拟场景参数;
S2-1:将被测设备的可见光特征外观模型和红外特征外观模型导入Unity的虚拟仿真场景(Scene)中,并为可见光特征外观模型和红外特征外观模型赋予相同的六自由度参数;
S2-2:在虚拟仿真场景中,定义可见光特征渲染层(Eye层)和红外特征渲染层(IR层),将可见光特征外观模型设置为Eye层,将红外特征外观模型设置为IR层,并为可见光特征外观模型赋予可见光特征渲染材质,为红外特征外观模型赋予红外特征渲染材质;
S2-3:在虚拟仿真场景中,手动设置可见光摄影机分辨率为屏幕分辨率,并设置为仅渲染Eye层;
S2-4:在虚拟仿真场景中,手动设置红外摄影机,依据被模拟手持式红外测温仪(即红外测温设备)的参数,设置红外摄影机的分辨率为640×480,并将红外摄影机的输出结果设置为渲染图像(Render Texture),同时设置该图片的色彩模式为单通道(R8),并设置红外摄影机仅渲染IR层,能够减少数据计算和存储开销;
S3:红外特征数据生成;
S3-1:在Unity中建立的数据库(红外特征数据集)内,存储被测设备在正常工作状态下、局部严重发热状态下的红外特征分布图,如电力设备在正常状态和多种异常状态下的红外分布;
S3-2:在Unity程序运行时的每一帧Update循环中,获取当前时刻虚拟仿真场景的环境参数,包括阳光方向、亮度、气温、雾效等,并获取被测设备当前时刻的状态(为正常工作状态至局部严重发热之间的某一状态),计算红外特征状态权重(取值范围0-1,0为正常状态,1为严重发热状态,0-1之间为混合态);
S3-3:根据步骤S3-2得到的权重,依据电脑性能提高运算效率,并使仿真场景运行时每秒帧率提升20帧以上,将红外特征分布图划分为3×3共计9个区域,将划分成的9个部分分别交由多个CPU线程进行并行计算,得到融合之后的新的红外特征结果分布图;
S4:可见光和红外特征实时渲染;
S4-1:进入渲染阶段,Unity读取被测设备红外特征外观模型的几何数据,通过UV查找步骤S3-3生成的红外特征结果分布图,得到当前时刻具有红外特征分布的材质信息;
S4-2:虚拟仿真场景中的红外摄影机对红外特征外观模型的几何数据和步骤S4-1得到的材质信息进行第一次渲染,获得当前时刻用于进一步计算的中间产物渲染图像(Render Texture),如图5所示;
S4-3:利用步骤4-2得到的渲染图像,对照颜色分布梯度映射图,使用着色器将红外数值的大小映射为需要的色彩模式,并生成经过颜色分布映射的红外特征被测结果图像数据,如图6所示;
S4-4:根据步骤S4-2的渲染图像,依据电脑性能将渲染图像数据划分为3×3共计9个区域,将划分成的9个部分分别交由多个CPU线程进行并行计算,查找并设置用于指示红外热点位置的图标坐标;
S4-5:根据步骤S4-3和步骤S4-4的结果,设置用于显示红外特征被测结果图像的材质,得到当前时刻红外特征渲染结果,如图7所示;
S4-6:使用Unity场景中的可见光摄影机执行基于物理的渲染(PBR)子流程,得到虚拟仿真软件当前时刻可见光特征渲染结果;
S4-7:融合可见光特征渲染结果与红外特征渲染结果,形成当前时刻完整的可用于虚拟现实的图像,如图8所示;
返回步骤S3-2,在Unity下一帧循环中重复执行步骤S3-2至步骤S4-7,进行下一时刻的红外特征数据生成、可见光特征渲染和红外特征渲染。
本发明的方法用于虚拟现实环境下的手持式红外测温仪的功能模拟和训练仿真,以达到在虚拟环境下利用肉眼观察被测设备可见光特征的同时,利用手持式红外测温仪观测被测设备红外特征的功能。
本发明的方法可对被测设备全方位红外特征进行实时模拟与显示,被测温设备的多种红外状态(正常工作状态,多种异常工作状态)间可实现无级过渡,利用被模拟的红外测温仪可实时识别红外图像高温热点识别。
本发明的方法对于红外显示部分的渲染着色器及流程进行了优化,在HTC VivePro虚拟现实设备上能够进行高保真度的渲染,保证计算效率,达到每秒90帧以上的渲染速度。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,包括以下步骤:
S1:建立被测设备几何模型;
S1-1:利用建模工具或程序算法对被测设备的可见光特征外观进行多层次细节建模,得到多层级颗粒度的可见光特征外观模型;
S1-2:根据所述被测设备的可见光特征外观模型建立所述被测设备的红外特征外观模型;
S1-3:为所述可见光特征外观模型和所述红外特征外观模型建立纹理贴图坐标,所述纹理贴图坐标用于制作所述可见光特征外观模型的材质贴图和所述红外特征外观模型的红外特征分布图,所述红外特征分布图存储于虚拟仿真软件的红外特征数据集内;
S2:设置虚拟场景参数;
S2-1:将同一被测设备的可见光特征外观模型和红外特征外观模型导入用于模拟被测设备的可见光特征和红外特征的虚拟仿真场景中,为所述可见光特征外观模型和所述红外特征外观模型赋予相同的六自由度参数和相同的形变参数;
S2-2:在所述虚拟仿真场景中,定义可见光特征渲染层和红外特征渲染层,将所述可见光特征外观模型设置为可见光特征渲染层,将所述红外特征外观模型设置为红外特征渲染层,并为所述可见光特征外观模型赋予可见光特征渲染材质,为所述红外特征外观模型赋予红外特征渲染材质;
S2-3:在所述虚拟仿真场景中,手动设置可见光摄影机或利用程序生成可见光摄影机,设置所述可见光摄影机的分辨率,并将所述可见光摄影机设置为仅渲染可见光特征渲染层;
S2-4:在所述虚拟仿真场景中,手动设置红外摄影机或利用程序生成红外摄影机,依据被模拟红外测温设备的参数,设置所述红外摄影机的分辨率,并将所述红外摄影机的输出结果设置为图片数据,设置该图片的色彩模式为单通道,并将所述红外摄影机设置为仅渲染红外特征渲染层;
S3:红外特征数据生成;
S3-1:在所述红外特征数据集内,预先存储被测设备典型状态下的红外特征分布数据;
S3-2:所述虚拟仿真软件运行时,获取当前时刻所述虚拟仿真场景的环境参数和被测设备当前时刻的状态,根据所述环境参数和所述被测设备当前时刻的状态,计算所述被测设备的红外特征状态权重;
S3-3:根据步骤S3-2得到的环境参数和红外特征状态权重,利用二维数据分区方法,划分红外特征分布图,将划分后的红外特征分布图区块分别交由CPU线程或使用ComputeShader交由GPU并行计算,进行综合状态的红外特征分布数据融合,得到当前融合之后的红外特征结果分布图;
S4:可见光和红外特征实时渲染;
S4-1:实时渲染时,所述虚拟仿真软件读取所述被测设备红外特征外观模型的几何数据,通过纹理贴图坐标查找所述红外特征结果分布图,得到当前时刻具有红外特征分布的材质信息;
S4-2:利用所述虚拟仿真场景中的红外摄影机结合红外摄影机投影信息,对所述红外特征外观模型的几何数据和所述步骤S4-1得到的材质信息进行渲染,获得当前时刻用于进一步计算的中间产物渲染图像;
S4-3:使用着色器在所述步骤S4-2得到的渲染图像中进行采样,与用于表现红外数值的颜色分布梯度映射图进行对照,将所述渲染图像中的灰度值映射为所述用于表现红外特征数值的颜色,并生成经过颜色分布映射的所述被测设备的红外特征测量结果图像数据;
S4-4:根据步骤S4-2的渲染图像,利用图像分区方法,划分渲染图像,将划分后的渲染图像区块分别交由多个CPU线程或使用Compute Shader交由GPU并行计算,查找当前渲染图像红外特征关键点所在区域,并设置用于指示关键点位置的图标坐标;
S4-5:根据步骤S4-3和步骤S4-4的结果,设置用于显示红外特征被测结果图像的材质,得到当前时刻红外特征渲染结果;
S4-6:使用所述虚拟仿真场景中的所述可见光摄影机结合该可见光摄影机的投影信息,进行除红外特征外的PBR渲染子流程,得到虚拟仿真软件当前时刻所显示的画面中除红外特征被测结果图像区域以外的可见光特征渲染结果;
S4-7:融合步骤S4-5和步骤S4-6的渲染结果,形成当前时刻完整的可用于虚拟现实的图像;
S4-8:返回步骤S3-2,重复执行步骤S3-2至步骤S4-7,进行下一时刻的红外特征数据生成、可见光特征渲染和红外特征渲染。
2.根据权利要求1所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S1-2的具体方法为:
若步骤S1-1得到的多层级颗粒度的可见光特征外观模型中存在能够呈现红外特征且保证虚拟仿真软件无卡顿运行的可见光特征外观模型,则选择该可见光特征外观模型建立副本,作为红外特征外观模型;否则,根据红外特征外观的细节仿真颗粒度重新绘制模型作为红外特征外观模型。
3.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S2-3中可见光摄影机包括人眼、可见光波段相机或摄像头。
4.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S2-4中红外摄影机包括红外摄像头或红外测温仪镜头。
5.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S3-2中,当前时刻虚拟仿真场景的环境参数包括光照方向、天气条件和环境温度,被测设备当前时刻的状态包括正常运行状态、任一故障状态、同时发生多种故障状态、状态稳定以及状态发展中。
6.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S3-3的具体过程为:根据步骤S3-2得到的环境参数和红外特征状态权重,利用二维数据分区方法,将所述红外特征分布图沿横向和纵向共划分为m×n个部分,其中,m、n均为依运行效率选取的大于等于1的整数,将划分后的红外特征分布图分别交由多个CPU线程并行计算或使用Compute Shader交由GPU并行计算,进行综合状态的红外特征分布数据融合,得到融合之后的红外特征结果分布图。
7.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S4-4的具体过程为:根据步骤S4-2的渲染图像,将所述渲染图像沿横向和纵向共划分为p×q个部分,其中,p、q均为依照运行效率选取的大于等于1的整数,将划分后的渲染图像分别交由多个CPU线程进行并行计算或使用Compute Shader交由GPU并行计算,查找所述渲染图像中红外特征关键点所在区域,并设置用于指示关键点位置的图标坐标。
8.根据权利要求1或2所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S1-1的建模工具为3DMax或Maya。
9.根据权利要求6所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S3-3中取m=3,n=3。
10.根据权利要求7所述的一种虚拟现实中红外特征实时可视化模拟方法,其特征在于,所述步骤S4-4中取p=3,q=3。
CN202010776303.8A 2020-08-05 2020-08-05 一种虚拟现实中红外特征实时可视化模拟方法 Active CN111914422B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010776303.8A CN111914422B (zh) 2020-08-05 2020-08-05 一种虚拟现实中红外特征实时可视化模拟方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010776303.8A CN111914422B (zh) 2020-08-05 2020-08-05 一种虚拟现实中红外特征实时可视化模拟方法

Publications (2)

Publication Number Publication Date
CN111914422A CN111914422A (zh) 2020-11-10
CN111914422B true CN111914422B (zh) 2021-02-02

Family

ID=73287216

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010776303.8A Active CN111914422B (zh) 2020-08-05 2020-08-05 一种虚拟现实中红外特征实时可视化模拟方法

Country Status (1)

Country Link
CN (1) CN111914422B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113361024B (zh) * 2021-04-25 2023-12-12 武汉市海之灵科技有限责任公司 用于武器装备维修训练的虚拟装备分系统的构建方法
CN113609716A (zh) * 2021-10-11 2021-11-05 北京普源瑞新仿真科技有限公司 面向变电站设备的红外测温可视化模拟方法及装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104700381B (zh) * 2015-03-13 2018-10-12 中国电子科技集团公司第二十八研究所 一种基于显著目标的红外与可见光图像融合方法
CN106296828B (zh) * 2016-07-20 2019-03-26 深圳市杰尔斯展示股份有限公司 一种实现虚拟场景分层次建模的方法与系统
CN106710001B (zh) * 2016-12-29 2020-04-10 国网智能科技股份有限公司 一种基于变电站巡检机器人集中监控仿真系统及其方法
US10289780B1 (en) * 2017-05-02 2019-05-14 Cadence Design Systems, Inc. Systems and methods for performing electromigration and voltage drop verification in electronic circuit designs
CN109472104A (zh) * 2018-11-21 2019-03-15 国网河北省电力有限公司建设公司 一种500kv变电站vr施工仿真方法及装置

Also Published As

Publication number Publication date
CN111914422A (zh) 2020-11-10

Similar Documents

Publication Publication Date Title
CN107563088B (zh) 一种基于光线跟踪算法的光场显示设备仿真方法
CN104574501B (zh) 一种针对复杂三维场景的高质量纹理映射方法
CN109801373A (zh) 基于WebGL实现企业生产三维可视化的方法及装置
CN111914422B (zh) 一种虚拟现实中红外特征实时可视化模拟方法
CN110322564B (zh) 一种适用于vr/ar的变电站运行环境的三维模型构建方法
CN105488840B (zh) 一种信息处理方法及电子设备
CN112669436A (zh) 一种基于3d点云的深度学习样本生成方法
CN115469744A (zh) 一种基于ar技术的机房设备巡检作业方法
CN103761762B (zh) 一种基于OpenGL着色器的红外成像仿真方法
CN113144613B (zh) 基于模型的体积云生成的方法
CN114140602A (zh) 一种三维核辐射剂量场的数据混合绘制方法及可视化系统
Shen et al. Research of marine engine room 3-D visual simulation system for the training of marine engineers
CN110555902B (zh) 单目视觉测量合作靶标视景仿真系统
CN111681307A (zh) 一种应用于三维软件的动态三维坐标轴的实现方法
CN106055108A (zh) 一种虚拟触摸屏的操控方法和系统
Sun et al. OpenGL-based Virtual Reality System for Building Design
Zheng et al. An extended photometric stereo algorithm for recovering specular object shape and its reflectance properties
Wang et al. Research on recognition and 3-D visualization of key equipment in NPP based on AR technology
CN117274466B (zh) 一种融合多源瓦片地图服务的真实感水面渲染方法及系统
Xie Research on application of virtual reality technology in virtual marine environment
CN102375325A (zh) 一种真三维仿真角度描述及直接投影显示方法
Liu et al. Research on Optimization Algorithms for Visual Communication Systems Based on VR Technology
Xinru et al. Application of Micro Station and Image Station SSK Technology in Landscape Visualization System
Cen et al. A Real-Time and Interactive Fluid Modeling System for Mixed Reality
Xu et al. Image Synthesis Based on Computer Graphics

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant