CN115904090B - 虚拟场景展示方法和头戴式显示设备 - Google Patents
虚拟场景展示方法和头戴式显示设备 Download PDFInfo
- Publication number
- CN115904090B CN115904090B CN202310031511.9A CN202310031511A CN115904090B CN 115904090 B CN115904090 B CN 115904090B CN 202310031511 A CN202310031511 A CN 202310031511A CN 115904090 B CN115904090 B CN 115904090B
- Authority
- CN
- China
- Prior art keywords
- mask
- image
- information
- target
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000004044 response Effects 0.000 claims abstract description 36
- 238000001514 detection method Methods 0.000 claims description 5
- 238000007499 fusion processing Methods 0.000 claims description 5
- 238000013145 classification model Methods 0.000 description 26
- 238000000605 extraction Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 16
- 238000012549 training Methods 0.000 description 13
- 238000005457 optimization Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 230000000873 masking effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 238000004590 computer program Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Abstract
本公开的实施例公开了虚拟场景展示方法和头戴式显示设备。该方法的一具体实施方式包括:响应于检测到用户佩戴信息,获取目标现实场景图像,其中,目标现实场景图像为头戴式显示设备中的摄像头采集的现实场景的图像;响应于检测到蒙版打开信息,获取初始蒙版图像,其中,初始蒙版图像对应有初始蒙版透明度;根据目标现实场景图像和初始蒙版图像,生成蒙版现实场景图像;响应于检测到虚拟开机界面包括虚拟页面信息,对虚拟页面信息和蒙版现实场景图像进行融合处理,得到目标虚拟页面信息;在头戴式显示设备的显示屏幕中显示对应目标虚拟页面信息的虚拟场景。该实施方式可以简化用户操作,提高用户体验感。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及虚拟场景展示方法和头戴式显示设备。
背景技术
头戴式显示设备,例如,AR(Augmented Reality,增强现实技术)眼镜或MR(MixedReality,混合现实技术),为用户提供了一种在现实场景中观看虚拟景象的途径。目前,在消除虚拟场景中虚拟信息的重影时,通常采用的方式为:用户佩戴一定时间的头戴式显示设备进行适应,或者借助外部物体聚焦,主动适应不同头戴式显示设备的焦距。
然而,发明人发现,当采用上述方式消除虚拟场景中虚拟信息的重影时,经常会存在如下技术问题:
第一,用户佩戴一定时间的头戴式显示设备进行适应,或者借助外部物体聚焦,需要用户等待一定时间之后才能适应头戴式显示设备的焦距,且在借助外部物体聚焦时,需要用户先取下头戴式显示设备,然后快速重新戴上头戴式显示设备,从而导致用户操作繁琐,体验感较差。
第二,无法根据现实场景中环境的影响,自适应调整头戴式显示设备的焦距以消除重影问题,从而导致用户体验感较差。
第三,虚拟信息的重影问题一般是新用户佩戴过程中产生的,头戴式显示设备无法根据用户的身份自适应调整是否需要进行消除重影的操作,从而导致新用户的体验感较差。
该背景技术部分中所公开的以上信息仅用于增强对本发明构思的背景的理解,并因此,其可包含并不形成本国的本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了虚拟场景展示方法和头戴式显示设备,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种虚拟场景展示方法,应用于头戴式显示设备,该方法包括:响应于检测到用户佩戴信息,获取目标现实场景图像,其中,上述目标现实场景图像为上述头戴式显示设备中的摄像头采集的现实场景的图像;响应于检测到蒙版打开信息,获取初始蒙版图像,其中,上述初始蒙版图像对应有初始蒙版透明度;根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像;响应于检测到虚拟开机界面包括虚拟页面信息,对上述虚拟页面信息和上述蒙版现实场景图像进行融合处理,得到目标虚拟页面信息;在上述头戴式显示设备的显示屏幕中显示对应上述目标虚拟页面信息的虚拟场景。
第二方面,本公开的一些实施例提供了一种头戴式显示设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序;显示屏幕,用于显示虚拟场景;摄像头,用于采集现实场景图像;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的虚拟场景展示方法,可以简化用户操作,提高用户体验感。具体来说,造成户操作繁琐,体验感较差的原因在于:用户佩戴一定时间的头戴式显示设备进行适应,或者借助外部物体聚焦,需要用户等待一定时间之后才能适应头戴式显示设备的焦距,且在借助外部物体聚焦时,需要用户先取下头戴式显示设备,然后快速重新戴上头戴式显示设备,从而导致用户操作繁琐,体验感较差。基于此,本公开的一些实施例的虚拟场景展示方法,首先,响应于检测到用户佩戴信息,获取目标现实场景图像。其中,上述目标现实场景图像为上述头戴式显示设备中的摄像头采集的现实场景的图像。由此,当用户佩戴头戴式显示设备时,可以得到用户所看到的现实场景的图像,从而可以用于生成虚拟场景。其次,响应于检测到蒙版打开信息,获取初始蒙版图像。其中,上述初始蒙版图像对应有初始蒙版透明度。由此,当检测到打开蒙版功能时,可以得到初始的蒙版图像,从而可以用于对现实场景图像增加蒙版图层。然后,根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像。由此,可以得到增加蒙版图层的现实场景的图像,从而可以在与虚拟信息进行融合时,消除重影。之后,响应于检测到虚拟开机界面包括虚拟页面信息,对上述虚拟页面信息和上述蒙版现实场景图像进行融合处理,得到目标虚拟页面信息。由此,当头戴式显示设备的开机后的第一个界面中包括虚拟页面信息,可以融合增加蒙版效果的现实场景和虚拟页面信息,得到消除重影的虚拟页面信息,从而用户可以无需等待一定时间或借助外部物体聚焦以消除虚拟信息的重影。最后,在上述头戴式显示设备的显示屏幕中显示对应上述目标虚拟页面信息的虚拟场景。由此,用户可以在佩戴头戴式显示设备时看到没有重影的虚拟场景,从而可以提高用户的体验感。也因为在消除虚拟场景中虚拟信息的重影时,对现实场景的图像增加蒙版图层之后,再与虚拟页面信息进行融合时消除了虚拟场景中虚拟信息的重影,从而用户可以无需等待一定时间或借助外部物体聚焦以消除重影,由此可以简化用户操作,提高用户体验感。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是根据本公开的虚拟场景展示方法的一些实施例的流程图;
图2是适于用来实现本公开的一些实施例的头戴式显示设备的结构示意图。
具体实施方式
图1示出了根据本公开的虚拟场景展示方法的一些实施例的流程100。该虚拟场景展示方法,应用于头戴式显示设备,包括以下步骤:
步骤101,响应于检测到用户佩戴信息,获取目标现实场景图像。
在一些实施例中,虚拟场景展示方法的执行主体(例如,头戴式显示设备)可以响应于检测到用户佩戴信息,获取目标现实场景图像。其中,上述目标现实场景图像可以为上述头戴式显示设备中的摄像头采集的现实场景的图像。上述现实场景可以为用户在现实世界中看到的场景。上述用户佩戴信息可以表征用户已佩戴上述头戴式显示设备。例如,上述用户佩戴信息可以为“finish”。实践中,上述执行主体可以响应于检测到用户佩戴信息,通过有线连接或者无线连接的方式从头戴式显示设备获取目标现实场景图像。需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
步骤102,响应于检测到蒙版打开信息,获取初始蒙版图像。
在一些实施例中,上述执行主体可以响应于检测到蒙版打开信息,获取初始蒙版图像。其中,上述蒙版打开信息可以表征需要对目标现实场景图像增加蒙版图层。例如,上述蒙版打开信息可以为“蒙版功能已开启”。上述初始蒙版图像可以为预先设定的蒙版图像。上述初始蒙版图像对应有初始蒙版透明度。上述初始蒙版透明度可以为预先设定的初始蒙版图像的透明度。例如,上述初始蒙版透明度可以为30%。实践中,上述执行主体可以响应于检测到蒙版打开信息,通过有线连接或者无线连接的方式获取初始蒙版图像。
步骤103,根据目标现实场景图像和初始蒙版图像,生成蒙版现实场景图像。
在一些实施例中,上述执行主体可以根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像。其中,上述蒙版现实场景图像可以为增加蒙版图层的现实场景图像。实践中,上述执行主体可以将上述目标现实场景图像作为图层的底层,将上述初始蒙版图像作为图层的顶层,对上述目标现实场景图像和上述初始蒙版图像进行图层叠加,得到蒙版现实场景图像。
在一些实施例的一些可选的实现方式中,上述执行主体可以通过以下步骤,根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像:
第一步,获取现实场景亮度信息。其中,上述现实场景亮度信息可以为设置在头戴式显示设备上的光敏传感器检测得到的现实场景的亮度。实践中,上述执行主体可以通过有线连接或者无线连接的方式从设置在头戴式显示设备上的光敏传感器获取现实场景亮度信息。
第二步,将上述现实场景亮度信息输入预先训练得到的蒙版透明度信息生成模型,得到蒙版透明度信息。其中,上述蒙版透明度信息可以包括蒙版透明度。上述蒙版透明度可以为蒙版的透明度。上述蒙版透明度信息生成模型可以为以现实场景亮度信息为输入,以蒙版透明度信息为输出的分类模型。
可选地,上述蒙版透明度信息生成模型可以包括输入层、第一分类模型、第二分类模型、第三分类模型和输出层。上述输入层可以用于对输入数据进行特征提取。第一分类模型、第二分类模型、第三分类模型可以为用于生成蒙版透明度的不同类型的分类模型。上述输出层可以用于将第一分类模型、第二分类模型、第三分类模型生成的各个蒙版透明度进行加权求和得到蒙版透明度信息。上述各个蒙版透明度中的每个蒙版透明度对应有预设的权重值。当用户所处的环境为室外环境时,现实场景亮度影响蒙版透明度信息的因素较少,第一分类模型对应的预设的权重值可以为0.2,第二分类模型对应的预设的权重值可以为0.5,第三分类模型对应的预设的权重值可以为0.3。当用户所处的环境为室内环境时,现实场景亮度影响蒙版透明度信息的因素较多,第一分类模型对应的预设的权重值可以为0.3,第二分类模型对应的预设的权重值可以为0.2,第三分类模型对应的预设的权重值可以为0.5。上述输入层分别与上述第一分类模型、上述第二分类模型和上述第三分类模型连接。上述第一分类模型、上述第二分类模型、上述第三分类模型与上述输出层连接。
可选地,上述蒙版透明度信息生成模型可以通过以下训练步骤得到:
第一步,获取样本集。其中,上述样本集中的样本包括样本现实场景亮度信息,以及与样本现实场景亮度信息对应的样本蒙版透明度信息。
第二步,基于上述样本集执行以下训练步骤:
第一训练步骤,将上述样本集中的至少一个样本的样本现实场景亮度信息分别输入至初始蒙版透明度信息生成模型,得到上述至少一个样本中的每个样本对应的蒙版透明度信息。实践中,首先,上述执行主体可以将样本集中的至少一个样本分别输入至初始蒙版透明度信息生成模型的输入层,得到上述至少一个样本中的每个样本对应的特征向量。然后,将上述至少一个样本中的每个样本对应的特征向量分别输入至初始蒙版透明度信息生成模型的第一分类模型、第二分类模型和第三分类模型,得到上述至少一个样本中的每个样本对应的第一蒙版透明度、第二蒙版透明度和第三蒙版透明度。最后,将上述至少一个样本中的每个样本对应的第一蒙版透明度、第二蒙版透明度和第三蒙版透明度输入至初始蒙版透明度信息生成模型的输出层,得到上述至少一个样本中的每个样本对应的蒙版透明度信息。
第二训练步骤,将上述至少一个样本中的每个样本对应的蒙版透明度信息与对应的样本蒙版透明度信息进行比较。
第三训练步骤,根据比较结果确定初始蒙版透明度信息生成模型是否达到预设的优化目标。作为示例,当一个样本对应的蒙版透明度信息与对应的样本蒙版透明度信息之间的差异小于预设差异阈值时,认为该蒙版透明度信息准确。此时,上述优化目标可以是指上述初始蒙版透明度信息生成模型生成的蒙版透明度信息的准确率大于预设的准确率阈值。
第四训练步骤,响应于确定初始蒙版透明度信息生成模型达到上述优化目标,将上述初始蒙版透明度信息生成模型作为训练完成的蒙版透明度信息生成模型。
可选地,训练得到上述蒙版透明度信息生成模型的步骤还可以包括:
第五训练步骤,响应于确定初始蒙版透明度信息生成模型未达到上述优化目标,调整初始蒙版透明度信息生成模型的网络参数,以及使用未用过的样本组成样本集,使用调整后的初始蒙版透明度信息生成模型作为初始蒙版透明度信息生成模型,再次执行上述训练步骤。作为示例,可以采用反向传播算法(Back Propagation Algorithm,BP算法)和梯度下降法(例如随机小批量梯度下降算法)对上述初始蒙版透明度信息生成模型的网络参数进行调整。
上述蒙版透明度信息生成模型及其相关内容作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题二“无法根据现实场景中环境的影响,自适应调整头戴式显示设备的焦距以消除重影问题,从而导致用户体验感较差”。导致用户体验感较差的因素往往如下:无法根据现实场景中环境的影响,自适应调整头戴式显示设备的焦距以消除重影问题,从而导致用户体验感较差。如果解决了上述因素,就能达到提高用户体验感的效果。为了达到这一效果,本公开的一些实施例的虚拟场景展示方法,首先,获取样本集。其中,上述样本集中的样本包括样本现实场景亮度信息,以及与样本现实场景亮度信息对应的样本蒙版透明度信息。由此,可以得到样本集,从而可以用于训练蒙版透明度信息生成模型。其次,基于上述样本集执行以下训练步骤:将上述样本集中的至少一个样本的样本现实场景亮度信息分别输入至初始蒙版透明度信息生成模型,得到上述至少一个样本中的每个样本对应的蒙版透明度信息;将上述至少一个样本中的每个样本对应的蒙版透明度信息与对应的样本蒙版透明度信息进行比较;根据比较结果确定上述初始蒙版透明度信息生成模型是否达到预设的优化目标;响应于确定上述初始蒙版透明度信息生成模型达到上述优化目标,将上述初始神经网络作为训练完成的蒙版透明度信息生成模型。然后,响应于确定上述初始蒙版透明度信息生成模型未达到上述优化目标,调整上述初始蒙版透明度信息生成模型的参数,以及使用未使用过的样本组成样本集,使用调整后的初始蒙版透明度信息生成模型作为初始蒙版透明度信息生成模型,再次执行上述训练步骤。由此,可以通过训练样本集中的样本,确定初始蒙版透明度信息生成模型生成的蒙版透明度信息与对应的样本蒙版透明度信息的差异是否满足预设差异阈值,进而确定初始蒙版透明度信息生成模型是否达到优化目标,得到表征现实场景亮度信息与蒙版透明度信息的蒙版透明度信息生成模型,从而可以根据现实场景中环境中的亮度信息,确定蒙版透明度。也因为可以根据现实场景中环境中的亮度信息,确定蒙版透明度,从而可以在通过增加蒙版图层消除重影时,根据现实场景中环境中的亮度变化,自适应的调整增加的蒙版的透明度,由此,可以提高用户体验感。
第三步,将上述初始蒙版图像对应的初始蒙版透明度更新为上述蒙版透明度信息包括的蒙版透明度,得到目标蒙版图像。
第四步,对上述目标现实场景图像和上述目标蒙版图像进行融合处理,得到蒙版现实场景图像。实践中,上述执行主体可以将上述目标现实场景图像作为图层的底层,将上述目标蒙版图像作为图层的顶层,对上述目标现实场景图像和上述目标蒙版图像进行图层叠加,得到蒙版现实场景图像。
在一些实施例的另一些可选的实现方式中,上述执行主体还可以通过以下步骤,根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像:
第一步,获取佩戴上述头戴式显示设备的用户的用户虹膜图像。其中,上述用户虹膜图像可以为设置在上述头戴式显示设备中的虹膜采集设备采集的用户的虹膜的图像。上述虹膜采集设备可以为用于采集虹膜图像的设备。例如,上述虹膜采集设备可以为摄像头。实践中,上述执行主体可以通过有线连接或者无线连接的方式从上述头戴式显示设备中获取佩戴上述头戴式显示设备的用户的用户虹膜图像。
第二步,对上述用户虹膜图像进行特征提取处理,得到虹膜特征信息。实践中,上述执行主体可以将上述用户虹膜图像输入虹膜图像特征提取模型中,得到虹膜特征信息。其中,上述虹膜图像特征提取模型可以包括图像输入层、特征提取层和特征输出层。上述图像输入层可以用于对上述用户虹膜图像进行归一化处理。上述特征提取层可以包括第一特征提取模型和第二特征提取模型。上述第一特征提取模型和上述第二特征提取模型可以为用于提取图像的特征向量的模型。上述特征输出层可以用于将上述第一特征提取模型和上述第二特征提取模型提取的各个特征向量进行加权求和得到虹膜特征信息。上述各个特征向量中的每个特征向量对应有预设的特征权重值。上述图像输入层分别与上述第一特征提取模型和上述第二特征提取模型连接。上述第一特征提取模型和上述第二特征提取模型与上述特征输出层连接。
第三步,对上述虹膜特征信息进行匹配处理,得到匹配信息。实践中,首先,上述执行主体可以对于用户虹膜特征信息数据库中的每个用户虹膜特征信息,通过汉明距离法求解得到上述虹膜特征信息与上述用户虹膜特征信息之间的相似度作为特征相似度。其中,上述用户虹膜特征信息数据库可以为用于存储目标用户的虹膜特征信息的数据库。上述目标用户可以为使用上述头戴式显示设备的次数达到预设数量的用户,也可以为使用上述头戴式显示设备的总时长达到预设总时长的用户。上述预设数量可以为预先设定的数量。上述预设总时长可以为预先设定的用户累积佩戴上述头戴式显示设备的时长。例如,上述预设数量可以为5次。上述预设总时长可以为5小时。其次,确定求解得到的各个特征相似度中是否存在满足预设相似度条件的特征相似度。其中,上述预设相似度条件可以为特征相似度的值小于等于预设相似度阈值。上述预设相似度阈值可以为预先设定的相似度的阈值。然后,响应于确定求解得到的各个特征相似度中存在满足预设相似度条件的特征相似度,将预设第一信息确定为匹配信息。其中,上述预设第一信息可以为预先设定的表征上述虹膜特征信息与上述用户虹膜特征信息匹配的信息。例如,上述预设第一信息可以为“特征匹配”。最后,响应于确定求解得到的各个特征相似度中未存在满足预设相似度条件的特征相似度,将预设第二信息确定为匹配信息。其中,上述预设第二信息可以为预先设定的表征上述虹膜特征信息与上述用户虹膜特征信息不匹配的信息。例如,上述预设第二信息可以为“特征不匹配”。
第四步,根据上述匹配信息,生成目标蒙版透明度信息。其中,上述目标蒙版透明度信息可以表征需要增加到现实场景图像中的蒙版的透明度。上述目标蒙版透明度信息可以包括目标蒙版透明度。实践中,上述执行主体可以响应于确定上述匹配信息满足预设匹配条件,将预设第一透明度确定为目标蒙版透明度信息。其中,上述预设匹配条件可以为上述匹配信息表征上述虹膜特征信息与上述用户虹膜特征信息匹配。上述预设第一透明度可以为预先设定的未显示出蒙版效果的透明度。例如,上述预设第一透明度可以为100%。然后,响应于确定上述匹配信息未满足上述预设匹配条件,将预设第二透明度确定为目标蒙版透明度信息。其中,上述预设第二透明度可以为预先设定的能够显示出蒙版效果的透明度。例如,上述预设第二透明度可以为30%。
第五步,将上述初始蒙版图像对应的初始蒙版透明度更新为上述目标蒙版透明度,得到显示蒙版图像。
第六步,对上述目标现实场景图像和上述显示蒙版图像进行融合处理,得到蒙版现实场景图像。实践中,上述执行主体可以将上述目标现实场景图像作为图层的底层,将上述显示蒙版图像作为图层的顶层,对上述目标现实场景图像和上述显示蒙版图像进行图层叠加,得到蒙版现实场景图像。
上述技术方案及其相关内容作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题三“虚拟信息的重影问题一般是新用户佩戴过程中产生的,头戴式显示设备无法根据用户的身份自适应调整是否需要进行消除重影的操作,从而导致新用户的体验感较差”。导致新用户的体验感较差的因素往往如下:虚拟信息的重影问题一般是新用户佩戴过程中产生的,头戴式显示设备无法根据用户的身份自适应调整是否需要进行消除重影的操作,从而导致新用户的体验感较差。如果解决了上述因素,就能达到提高新用户的体验感效果。为了达到这一效果,本公开的一些实施例的虚拟场景展示方法,首先,获取佩戴上述头戴式显示设备的用户的用户虹膜图像,由此,可以得到用户的虹膜图像,从而可以用于识别佩戴上述头戴式显示设备的用户的身份。其次,对上述用户虹膜图像进行特征提取处理,得到虹膜特征信息。由此,可以得到用户的虹膜的特征向量,从而可以用于匹配用户的身份。然后,对上述虹膜特征信息进行匹配处理,得到匹配信息。由此,可以确定佩戴上述头戴式显示设备的用户是否为上述目标用户,从而可以用于确定是否增加蒙版功能。之后,根据上述匹配信息,生成目标蒙版透明度信息。其中,上述目标蒙版透明度信息包括目标蒙版透明度。由此,可以根据用户的身份确定蒙版的透明度,从而可以用于生成显示蒙版图像。随后,将上述初始蒙版图像对应的初始蒙版透明度更新为上述目标蒙版透明度,得到显示蒙版图像。由此,可以得到显示蒙版图像,从而可以对目标现实场景图像增加蒙版图层。最后,对上述目标现实场景图像和上述显示蒙版图像进行融合处理,得到蒙版现实场景图像。由此,可以得到增加蒙版图层的现实场景图像。从而可以针对不同的用户身份,得到不同的蒙版效果。也因为可以通过自动识别用户的身份,自适应的调整所增加的蒙版的透明度,从而头戴式显示设备可以根据识别的结果,自动确认是否需要启动帮助用户消除重影的功能,由此,可以提高新用户的体验感。
可选地,在步骤103之前,上述执行主体还可以执行以下步骤:
第一步,响应于检测到作用于上述虚拟开机界面中设置控件的选择操作,在上述头戴式显示设备的显示屏幕中显示设备设置界面。其中,上述虚拟开机界面可以为用户打开头戴式显示设备后的第一个界面。上述设置控件可以为用于打开设备设置界面的控件。上述设备设置界面可以为用于显示和设置头戴式显示设备的系统功能的界面。上述选择操作可以为但不限于以下中的一项:点击、滑动、悬停。
第二步,响应于检测到作用于上述设备设置界面中的蒙版开关控件的关闭操作,将上述初始蒙版图像对应的初始蒙版透明度更新为第二预设蒙版透明度,得到更改蒙版图像作为初始蒙版图像。其中,上述蒙版开关控件可以为用于设置蒙版功能打开和关闭的控件。上述蒙版功能可以为对目标现实场景图像增加蒙版图层的功能。上述关闭操作可以为将蒙版功能关闭的操作。上述关闭操作可以为但不限于以下中的一项:点击、滑动、悬停。上述第二预设蒙版透明度可以为预先设定的蒙版的透明度。例如,上述第二预设蒙版透明度可以为100%。上述更改蒙版图像对应的蒙版的透明度可以为第二预设蒙版透明度。
步骤104,响应于检测到虚拟开机界面包括虚拟页面信息,对虚拟页面信息和蒙版现实场景图像进行融合处理,得到目标虚拟页面信息。
在一些实施例中,上述执行主体可以响应于检测到虚拟开机界面包括虚拟页面信息,对上述虚拟页面信息和上述蒙版现实场景图像进行融合处理,得到目标虚拟页面信息。其中,上述虚拟页面信息可以为上述头戴式显示设备开机后的界面中的预先设定的虚拟信息。上述虚拟页面信息可以包括但不限于以下中的至少一项:应用图标、应用控件,页面窗口。上述应用图标可以为对应用唯一标识的图标。上述应用控件可以为用于打开应用的控件。上述页面窗口可以为页面的窗口。实践中,上述执行主体可以响应于检测到虚拟开机界面包括虚拟页面信息,将上述虚拟页面信息作为图层的顶层,将上述蒙版现实场景图像作为图层的底层,对上述虚拟页面信息和上述蒙版现实场景图像进行图层叠加,得到目标虚拟页面信息。
步骤105,在头戴式显示设备的显示屏幕中显示对应目标虚拟页面信息的虚拟场景。
在一些实施例中,上述执行主体可以在上述头戴式显示设备的显示屏幕中显示对应上述目标虚拟页面信息的虚拟场景。其中,上述对应上述目标虚拟页面信息的虚拟场景可以为上述目标虚拟页面信息表征的场景。
可选地,在步骤105之前,上述执行主体还可以响应于检测到上述虚拟开机界面未包括虚拟页面信息,将上述蒙版现实场景图像确定为目标虚拟页面信息。
可选地,上述执行主体还可以响应于检测到作用于上述虚拟开机界面中应用控件的选择操作,以及检测到上述头戴式显示设备的显示屏幕中显示的界面为对应上述应用控件的应用界面,在上述头戴式显示设备的显示屏幕中显示上述应用界面。其中,上述应用界面可以为应用的界面。
可选地,上述执行主体还可以执行以下步骤:
第一步,响应于当前时间满足预设时间条件,以及检测到上述头戴式显示设备的显示屏幕中显示的界面为上述虚拟开机界面,且检测到上述虚拟开机界面包括当前虚拟页面信息,获取当前现实场景图像。其中,上述预设时间条件可以为:当前时间至用户本次佩戴上述头戴式显示设备的时间的间隔时长为预设间隔时长。上述预设间隔时长可以为用户在设备设置界面中预先设定的使用蒙版功能的时长。例如,上述预设间隔时长可以为3小时。上述当前虚拟页面信息可以为当前时间在上述虚拟开机界面中的虚拟页面信息。上述当前现实场景图像可以为当前时间上述头戴式显示设备中的摄像头采集的现实场景的图像。实践中,上述执行主体可以响应于当前时间满足预设时间条件,以及检测到上述头戴式显示设备的显示屏幕中显示的界面为上述虚拟开机界面,且检测到上述虚拟开机界面包括当前虚拟页面信息,通过有线连接或者无线连接的方式从头戴式显示设备获取当前现实场景图像。
第二步,将上述初始蒙版图像对应的初始蒙版透明度更新为第一预设蒙版透明度,得到更新蒙版图像。其中,上述第一预设蒙版透明度可以为预先设定的蒙版的透明度。例如,上述第一预设蒙版透明度可以为100%。
第三步,对上述当前现实场景图像、上述更新蒙版图像和上述当前虚拟页面信息进行融合处理,得到目标开机界面信息。实践中,上述执行主体可以将上述当前现实场景图像作为图层的底层,将上述更新蒙版图像作为图层的中间层,将上述当前虚拟页面信息作为图层的顶层,对上述当前现实场景图像、上述更新蒙版图像和上述当前虚拟页面信息进行图层叠加,得到目标开机界面信息。
第四步,在上述头戴式显示设备的显示屏幕中显示对应上述目标开机界面信息的目标开机界面。其中,对应上述目标开机界面信息的目标开机界面可以为上述目标开机界面信息表征的界面。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的虚拟场景展示方法,可以简化用户操作,提高用户体验感。具体来说,造成户操作繁琐,体验感较差的原因在于:用户佩戴一定时间的头戴式显示设备进行适应,或者借助外部物体聚焦,需要用户等待一定时间之后才能适应头戴式显示设备的焦距,且在借助外部物体聚焦时,需要用户先取下头戴式显示设备,然后快速重新戴上头戴式显示设备,从而导致用户操作繁琐,体验感较差。基于此,本公开的一些实施例的虚拟场景展示方法,首先,响应于检测到用户佩戴信息,获取目标现实场景图像。其中,上述目标现实场景图像为上述头戴式显示设备中的摄像头采集的现实场景的图像。由此,当用户佩戴头戴式显示设备时,可以得到用户所看到的现实场景的图像,从而可以用于生成虚拟场景。其次,响应于检测到蒙版打开信息,获取初始蒙版图像。其中,上述初始蒙版图像对应有初始蒙版透明度。由此,当检测到打开蒙版功能时,可以得到初始的蒙版图像,从而可以用于对现实场景图像增加蒙版图层。然后,根据上述目标现实场景图像和上述初始蒙版图像,生成蒙版现实场景图像。由此,可以得到增加蒙版图层的现实场景的图像,从而可以在与虚拟信息进行融合时,消除重影。之后,响应于检测到虚拟开机界面包括虚拟页面信息,对上述虚拟页面信息和上述蒙版现实场景图像进行融合处理,得到目标虚拟页面信息。由此,当头戴式显示设备的开机后的第一个界面中包括虚拟页面信息,可以融合增加蒙版效果的现实场景和虚拟页面信息,得到消除重影的虚拟页面信息,从而用户可以无需等待一定时间或借助外部物体聚焦以消除虚拟信息的重影。最后,在上述头戴式显示设备的显示屏幕中显示对应上述目标虚拟页面信息的虚拟场景。由此,用户可以在佩戴头戴式显示设备时看到没有重影的虚拟场景,从而可以提高用户的体验感。也因为在消除虚拟场景中虚拟信息的重影时,对现实场景的图像增加蒙版图层之后,再与虚拟页面信息进行融合时消除了虚拟场景中虚拟信息的重影,从而用户可以无需等待一定时间或借助外部物体聚焦以消除重影,由此可以简化用户操作,提高用户体验感。
下面参考图2,其示出了适于用来实现本公开的一些实施例的头戴式显示设备200的结构示意图。图2示出的头戴式显示设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图2所示,头戴式显示设200可以包括处理装置201(例如中央处理器、图形处理器等)、存储器202、输入单元203、输出单元204。其中,处理装置201、存储器202、输入单元203和输出单元204通过总线205彼此相连。在此,根据本公开的实施例的方法可以被实现为计算机程序,并且存储在存储器202中。头戴式显示设备中的处理装置201通过调用存储器202中存储的上述计算机程序,来具体实现本公开的虚拟场景展示方法。在一些实现方式中,输入单元203可以包括摄像头,输出单元204可以包括显示屏幕。
需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(Hyper Text TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (6)
1.一种虚拟场景展示方法,应用于头戴式显示设备,包括:
响应于检测到用户佩戴信息,获取目标现实场景图像,其中,所述目标现实场景图像为所述头戴式显示设备中的摄像头采集的现实场景的图像;
响应于检测到蒙版打开信息,获取初始蒙版图像,其中,所述初始蒙版图像对应有初始蒙版透明度;
根据所述目标现实场景图像和所述初始蒙版图像,生成蒙版现实场景图像,其中,所述根据所述目标现实场景图像和所述初始蒙版图像,生成蒙版现实场景图像,包括:
获取现实场景亮度信息;
将所述现实场景亮度信息输入预先训练得到的蒙版透明度信息生成模型,得到蒙版透明度信息,其中,所述蒙版透明度信息包括蒙版透明度;
将所述初始蒙版图像对应的初始蒙版透明度更新为所述蒙版透明度信息包括的蒙版透明度,得到目标蒙版图像;
对所述目标现实场景图像和所述目标蒙版图像进行融合处理,得到蒙版现实场景图像;
响应于检测到虚拟开机界面包括虚拟页面信息,对所述虚拟页面信息和所述蒙版现实场景图像进行融合处理,得到目标虚拟页面信息;
在所述头戴式显示设备的显示屏幕中显示对应所述目标虚拟页面信息的虚拟场景。
2.根据权利要求1所述的方法,其中,在所述在所述头戴式显示设备的显示屏幕中显示对应所述目标虚拟页面信息的虚拟场景之前,所述方法还包括:
响应于检测到所述虚拟开机界面未包括所述虚拟页面信息,将所述蒙版现实场景图像确定为目标虚拟页面信息。
3.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到作用于所述虚拟开机界面中应用控件的选择操作,以及检测到所述头戴式显示设备的显示屏幕中显示的界面为对应所述应用控件的应用界面,在所述头戴式显示设备的显示屏幕中显示所述应用界面。
4.根据权利要求1所述的方法,其中,所述方法还包括:
响应于当前时间满足预设时间条件,以及检测到所述头戴式显示设备的显示屏幕中显示的界面为所述虚拟开机界面,且检测到所述虚拟开机界面包括当前虚拟页面信息,获取当前现实场景图像;
将所述初始蒙版图像对应的初始蒙版透明度更新为第一预设蒙版透明度,得到更新蒙版图像;
对所述当前现实场景图像、所述更新蒙版图像和所述当前虚拟页面信息进行融合处理,得到目标开机界面信息;
在所述头戴式显示设备的显示屏幕中显示对应所述目标开机界面信息的目标开机界面。
5.根据权利要求1所述的方法,其中,在所述根据所述目标现实场景图像和所述初始蒙版图像,生成蒙版现实场景图像之前,所述方法还包括:
响应于检测到作用于所述虚拟开机界面中设置控件的选择操作,在所述头戴式显示设备的显示屏幕中显示设备设置界面;
响应于检测到作用于所述设备设置界面中的蒙版开关控件的关闭操作,将所述初始蒙版图像对应的初始蒙版透明度更新为第二预设蒙版透明度,得到更改蒙版图像作为初始蒙版图像。
6.一种头戴式显示设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
显示屏幕,用于显示虚拟场景;
摄像头,用于采集现实场景图像;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310031511.9A CN115904090B (zh) | 2023-01-10 | 2023-01-10 | 虚拟场景展示方法和头戴式显示设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310031511.9A CN115904090B (zh) | 2023-01-10 | 2023-01-10 | 虚拟场景展示方法和头戴式显示设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115904090A CN115904090A (zh) | 2023-04-04 |
CN115904090B true CN115904090B (zh) | 2023-05-23 |
Family
ID=85753643
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310031511.9A Active CN115904090B (zh) | 2023-01-10 | 2023-01-10 | 虚拟场景展示方法和头戴式显示设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115904090B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106791792A (zh) * | 2016-12-16 | 2017-05-31 | 宇龙计算机通信科技(深圳)有限公司 | 调节vr设备显示影像的方法及系统 |
WO2020014707A1 (en) * | 2018-07-13 | 2020-01-16 | Raytrx, Llc | Wearable image manipulation and control system with high resolution micro-displays and dynamic opacity augmentation in augmented reality glasses |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9715113B2 (en) * | 2014-03-18 | 2017-07-25 | Seiko Epson Corporation | Head-mounted display device, control method for head-mounted display device, and computer program |
US20210389590A1 (en) * | 2015-03-17 | 2021-12-16 | Raytrx, Llc | Wearable image manipulation and control system with high resolution micro-displays and dynamic opacity augmentation in augmented reality glasses |
CN105929538A (zh) * | 2016-04-26 | 2016-09-07 | 乐视控股(北京)有限公司 | 一种虚拟现实设备的显示方法及装置 |
US20180314066A1 (en) * | 2017-04-28 | 2018-11-01 | Microsoft Technology Licensing, Llc | Generating dimming masks to enhance contrast between computer-generated images and a real-world view |
CN111273885A (zh) * | 2020-02-28 | 2020-06-12 | 维沃移动通信有限公司 | 一种ar图像显示方法及ar设备 |
CN112991553B (zh) * | 2021-03-11 | 2022-08-26 | 深圳市慧鲤科技有限公司 | 信息展示方法及装置、电子设备和存储介质 |
-
2023
- 2023-01-10 CN CN202310031511.9A patent/CN115904090B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106791792A (zh) * | 2016-12-16 | 2017-05-31 | 宇龙计算机通信科技(深圳)有限公司 | 调节vr设备显示影像的方法及系统 |
WO2020014707A1 (en) * | 2018-07-13 | 2020-01-16 | Raytrx, Llc | Wearable image manipulation and control system with high resolution micro-displays and dynamic opacity augmentation in augmented reality glasses |
Also Published As
Publication number | Publication date |
---|---|
CN115904090A (zh) | 2023-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11455830B2 (en) | Face recognition method and apparatus, electronic device, and storage medium | |
CN110249622B (zh) | 实时的语义感知的相机曝光控制 | |
CN108520220B (zh) | 模型生成方法和装置 | |
JP6994588B2 (ja) | 顔特徴抽出モデル訓練方法、顔特徴抽出方法、装置、機器および記憶媒体 | |
CN108830235B (zh) | 用于生成信息的方法和装置 | |
WO2020000879A1 (zh) | 图像识别方法和装置 | |
CN109740018B (zh) | 用于生成视频标签模型的方法和装置 | |
CN112132847A (zh) | 模型训练方法、图像分割方法、装置、电子设备和介质 | |
US20230334890A1 (en) | Pedestrian re-identification method and device | |
JP7093427B2 (ja) | オブジェクト追跡方法および装置、電子設備並びに記憶媒体 | |
CN111598164A (zh) | 识别目标对象的属性的方法、装置、电子设备和存储介质 | |
JP2022522551A (ja) | 画像処理方法及び装置、電子機器並びに記憶媒体 | |
CN110570383B (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
CN114187624B (zh) | 图像生成方法、装置、电子设备及存储介质 | |
US11016630B2 (en) | Virtual view-window | |
CN109816023B (zh) | 用于生成图片标签模型的方法和装置 | |
CN111199540A (zh) | 图像质量评价方法、装置、电子设备及存储介质 | |
JP2024509014A (ja) | ソーティング方法、ソーティングモデルのトレーニング方法、装置、電子機器及び記憶媒体 | |
KR20220124273A (ko) | 동적 제스처 인식 방법, 장치, 기기 및 저장 매체 | |
US20210216783A1 (en) | Method and apparatus for detecting temporal action of video, electronic device and storage medium | |
CN113031813A (zh) | 指令信息获取方法及装置、可读存储介质、电子设备 | |
CN115904090B (zh) | 虚拟场景展示方法和头戴式显示设备 | |
CN109218620B (zh) | 基于环境亮度的拍照方法、装置、存储介质及移动终端 | |
CN111610886A (zh) | 触控屏幕亮度的调整方法、设备及计算机可读存储介质 | |
CN116188887A (zh) | 属性识别预训练模型生成方法、属性识别模型生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |