CN113342220A - 窗口渲染方法、头戴式显示套件和计算机可读介质 - Google Patents
窗口渲染方法、头戴式显示套件和计算机可读介质 Download PDFInfo
- Publication number
- CN113342220A CN113342220A CN202110511945.XA CN202110511945A CN113342220A CN 113342220 A CN113342220 A CN 113342220A CN 202110511945 A CN202110511945 A CN 202110511945A CN 113342220 A CN113342220 A CN 113342220A
- Authority
- CN
- China
- Prior art keywords
- application
- window
- dimensional space
- head
- plane
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Human Computer Interaction (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开的实施例公开了窗口渲染方法、头戴式显示套件和计算机可读介质。该方法的一具体实施方式包括:响应于接收到头戴式显示设备与目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户观看三维空间;从目标设备中获取应用标识组,以及在三维空间中显示应用标识组;响应于检测到目标设备发送的对于应用标识组中的应用标识的触屏点击操作信息记录,在三维空间中创建虚拟显示屏,以及在虚拟显示屏中渲染应用标识对应的应用窗口;响应于获取到虚拟显示屏中的应用窗口的窗口纹理,在三维空间中创建平面,以及根据窗口纹理,在平面中渲染应用窗口。该实施方式实现了在三维空间中显示应用窗口。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及窗口渲染方法、头戴式显示套件和计算机可读介质。
背景技术
头戴式显示套件,可以包括AR(Augmented Reality,增强现实技术)眼镜或MR(Mixed Reality,混合现实技术)眼镜,AR眼镜或MR眼镜与计算设备连接后可以作为计算设备的副屏使用。目前,头戴式显示套件在对计算设备中的应用窗口进行显示时,通常采用的方式为:采用freeform模式显示计算设备的应用窗口。
然而,当采用上述方式对计算设备中的应用窗口进行显示时,经常会存在如下技术问题:无法进行双目异显,仅能在二维空间显示应用窗口,所显示的应用窗口仅具有长、宽两种属性,不具有深度属性,缺少空间感。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了窗口渲染方法、头戴式显示套件和计算机可读介质,来解决以上背景技术部分提到的技术问题。
第一方面,本公开的一些实施例提供了一种窗口渲染方法,应用于头戴式显示套件,上述头戴式显示套件包括头戴式显示设备和目标设备,上述头戴式显示设备包括近眼显示屏幕,上述头戴式显示设备具有两个显示区域,该方法包括:响应于接收到上述头戴式显示设备与上述目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在上述近眼显示屏幕中观看三维空间;从上述目标设备中获取应用标识组,以及在上述三维空间中显示上述应用标识组;响应于检测到上述目标设备发送的对于上述应用标识组中的应用标识的触屏点击操作信息记录,在上述三维空间中创建虚拟显示屏,以及在上述虚拟显示屏中渲染上述应用标识对应的应用窗口;响应于获取到上述虚拟显示屏中的应用窗口的窗口纹理,在上述三维空间中创建平面,以及根据上述窗口纹理,在上述平面中渲染上述应用窗口。
第二方面,本公开的一些实施例提供了一种头戴式显示套件,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序;头戴式显示设备,包括近眼显示屏幕,用于在目标用户眼睛前进行成像;目标设备,用于运行应用标识组中的各个应用标识对应的应用;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第三方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的窗口渲染方法,可以在三维空间中显示应用窗口。具体来说,造成所显示的应用窗口缺少空间感的原因在于:无法进行双目异显,仅能在二维空间显示应用窗口,所显示的应用窗口仅具有长、宽两种属性,不具有深度属性,缺少空间感。基于此,本公开的一些实施例的窗口渲染方法首先,响应于接收到头戴式显示设备与上述目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。由此,可以使得目标用户观看具有空间感的三维空间。然后,从上述目标设备中获取应用标识组,以及在上述三维空间中显示上述应用标识组。由此,可以使得目标用户在三维空间中观看应用标识组。之后,响应于检测到上述目标设备发送的对于上述应用标识组中的应用标识的触屏点击操作信息记录,在上述三维空间中创建虚拟显示屏,以及在上述虚拟显示屏中渲染上述应用标识对应的应用窗口。由此,虚拟显示屏中显示的应用窗口可以作为由应用标识组过渡至仅显示应用窗口的中间显示状态,从而可以使得目标用户观看具有较强空间感的三维空间。最后,响应于获取到上述虚拟显示屏中的应用窗口的窗口纹理,在上述三维空间中创建平面,以及根据上述窗口纹理,在上述平面中渲染上述应用窗口。由此,可以在三维空间中显示应用窗口。也因为在三维空间中显示了应用窗口,且在虚拟显示屏中显示了的应用窗口,从而,可以使得显示的应用窗口具有空间感。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是本公开的一些实施例可以应用于其中的示例性系统的架构图;
图2是根据本公开的一些实施例的窗口渲染方法的一个应用场景的示意图;
图3是根据本公开的窗口渲染方法的一些实施例的流程图;
图4是根据本公开的窗口渲染方法的另一些实施例的流程图;
图5是根据本公开的窗口渲染方法的又一些实施例的流程图;
图6是适于用来实现本公开的一些实施例的头戴式显示套件的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用于本公开的应用于头戴式显示套件的窗口渲染方法的实施例的示例性系统架构100。
如图1所示,示例性系统架构100可以包括头戴式显示套件11。头戴式显示套件11可以包括头戴式显示设备111和目标设备112。
头戴式显示设备111可以包括一个或两个近眼显示屏幕1111。上述近眼显示屏幕用于在目标用户眼睛前进行成像。上述头戴式显示设备111具有两个显示区域。可以理解的是,头戴式显示设备111中的两个显示区域可以为显示在一个近眼显示屏幕中的区域,也可以为分别在两个近眼显示屏幕中的区域。此外,头戴式显示设备111还包括镜架1112。在一些实施例中,可以将头戴式显示设备111的传感器、处理单元、存储器和电池放到镜架1112内部。在一些实施的一些可选的实现方式中,也可以将传感器、处理单元、存储器和电池中的一个或多个部件集成在另一个独立的配件(未示出)中,通过数据线和镜架1112进行连接。在一些实施的一些可选的实现方式中,头戴式显示设备111可以仅具有显示功能和部分传感器,而通过目标设备112提供数据处理、数据存储、供电能力等能力。
目标设备112可以包括显示屏幕1121。在一些实施例中,头戴式显示设备111和目标设备112可以通过无线连接方式进行通信。在一些实施例的一些可选的实现方式中,头戴式显示设备111和目标设备112也可以通过数据线(未示出)进行连接。
应该理解,图1中的头戴式显示设备和目标设备的数目仅仅是示意性的。根据实现需要,可以具有任意合适数目的头戴式显示设备和目标设备。
图2是根据本公开一些实施例的窗口渲染方法的一个应用场景的示意图。
在图2的应用场景中,首先,头戴式显示套件201可以响应于接收到头戴式显示设备与目标设备202的连接信息记录203,对头戴式显示套件201的两个显示区域204进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。然后,头戴式显示套件201可以从上述目标设备202中获取应用标识组205,以及在上述三维空间中显示上述应用标识组205。之后,头戴式显示套件201可以响应于检测到上述目标设备202发送的对于上述应用标识组205中的应用标识(例如,应用标识2051)的触屏点击操作信息记录206,在上述三维空间中创建虚拟显示屏207,以及在上述虚拟显示屏207中渲染上述应用标识2051对应的应用窗口208。最后,头戴式显示套件201可以响应于获取到上述虚拟显示屏207中的应用窗口208的窗口纹理209,在上述三维空间中创建平面210,以及根据上述窗口纹理209,在上述平面210中渲染上述应用窗口208。
应该理解,图2中的头戴式显示套件和目标设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的头戴式显示套件和目标设备。
继续参考图3,示出了根据本公开的窗口渲染方法的一些实施例的流程300,应用于头戴式显示套件,上述头戴式显示套件包括头戴式显示设备和目标设备,上述头戴式显示设备包括近眼显示屏幕,上述头戴式显示设备具有两个显示区域。该窗口渲染方法,包括以下步骤:
步骤301,响应于接收到头戴式显示设备与目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。
在一些实施例中,窗口渲染方法的执行主体(例如图2所示的头戴式显示套件201)可以响应于接收到上述头戴式显示设备与上述目标设备的连接信息记录,对上述两个显示区域进行双目渲染处理,使得目标用户在上述近眼显示屏幕中观看三维空间。其中,上述头戴式显示设备与上述目标设备的连接方式为有线连接时,上述执行主体接收上述连接信息记录的方式可以为有线连接方式。上述头戴式显示设备与上述目标设备的连接方式为无线连接时,上述执行主体接收上述连接信息记录的方式可以为无线连接方式。需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。上述头戴式显示套件可以包括头戴式显示设备和目标设备。上述头戴式显示设备可以为用于辅助用户观看虚拟画面的头戴式设备,可以为但不限于以下中的一项:头戴式增强显示设备,头戴式混合显示设备。例如,上述头戴式增强显示设备可以为AR眼镜。上述头戴式混合显示设备可以为MR眼镜。上述目标设备可以为具有显示功能的计算设备。上述目标设备与上述头戴式显示设备连接后,上述目标设备可以为作为触控板使用。例如,上述目标设备可以为但不限于以下中的一项:手机,平板电脑,车载显示终端。上述连接信息记录可以为上述目标设备生成的表征与头戴式显示设备连接后识别出上述头戴式显示设备的信息记录。当头戴式显示设备与目标设备的连接方式为有线连接时,目标设备可以通过USB接口获取头戴式显示设备的Vendor ID(厂家标识)和Product ID(产品标识),进而可以通过Vendor ID和Product ID判断连接的头戴式显示设备是否为具有三维空间显示功能的头戴式显示设备。当头戴式显示设备与目标设备的连接方式为无线连接时,目标设备可以通过无线连接方式获取头戴式显示设备中存储的Vendor ID和Product ID,进而可以通过Vendor ID和Product ID判断连接的头戴式显示设备是否为具有三维空间显示功能的头戴式显示设备。上述两个显示区域可以为用于进行三维成像的区域。上述双目渲染处理可以为在两个显示区域显示不同图像的处理。例如,双目渲染处理可以为通过Unity的Camera组件实现双Camera左右眼渲染;双目渲染处理也可以通过其他3D软件(例如OpenGL)来完成,本发明并不做限制。上述目标用户为佩戴上述头戴式显示设备的用户。由此,可以使得目标用户观看具有空间感的三维空间。
步骤302,从目标设备中获取应用标识组,以及在三维空间中显示应用标识组。
在一些实施例中,上述执行主体可以从上述目标设备中获取应用标识组,以及在上述三维空间中显示上述应用标识组。其中,上述应用标识组中的应用标识可以为用于接收用户的选择操作以显示应用(应用程序)的应用窗口的图标。上述应用标识组中的应用标识对应于上述目标设备中安装的应用。实践中,上述执行主体可以通过应用接口获取上述应用标识。例如,上述应用接口可以为Package Manager接口。由此,可以使得目标用户在三维空间中观看应用标识组。
在一些实施例的一些可选的实现方式中,上述执行主体可以获取上述应用标识组中的每个应用标识对应的应用名称,得到应用名称组。其中,上述应用名称可以为应用标识所表征的应用的名称。
在一些实施例的一些可选的实现方式中,上述执行主体可以在上述三维空间中显示上述应用名称组。其中,上述应用名称组中的每个应用名称和上述应用标识组中与上述应用名称对应的应用标识对应显示。例如,可以将上述应用名称显示在上述应用名称对应的应用标识下方左右居中位置。由此,可以使得目标用户在三维空间中同时观看应用标识组和应用标识组中每个应用标识对应的应用名称。
步骤303,响应于检测到目标设备发送的对于应用标识组中的应用标识的触屏点击操作信息记录,在三维空间中创建虚拟显示屏,以及在虚拟显示屏中渲染应用标识对应的应用窗口。
在一些实施例中,上述执行主体可以响应于检测到上述目标设备发送的对于上述应用标识组中的应用标识的触屏点击操作信息记录,在上述三维空间中创建虚拟显示屏,以及在上述虚拟显示屏中渲染上述应用标识对应的应用窗口。其中,上述触屏点击操作信息记录可以为上述目标设备检测到触屏点击操作后生成的信息记录。上述触屏点击操作可以为选择应用标识的操作。例如,上述触屏点击操作可以为单指点击操作。上述虚拟显示屏可以为虚拟显示器。例如,虚拟显示屏可以为Virtual Display。由此,虚拟显示屏中显示的应用窗口可以作为由应用标识组过渡至仅显示应用窗口的中间显示状态,从而可以使得目标用户观看具有较强空间感的三维空间。
步骤304,响应于获取到虚拟显示屏中的应用窗口的窗口纹理,在三维空间中创建平面,以及根据窗口纹理,在平面中渲染应用窗口。
在一些实施例中,上述执行主体可以响应于获取到上述虚拟显示屏中的应用窗口的窗口纹理,在上述三维空间中创建平面,以及根据上述窗口纹理,在上述平面中渲染上述应用窗口。上述窗口纹理可以为上述应用窗口中显示的图像。上述平面可以为用于显示应用窗口的图像的容器。例如,上述平面可以为Unity Plane。实践中,上述执行主体可以将所创建的平面居中配置在上述三维空间。由此,可以在三维空间中显示应用窗口。
在一些实施例的一些可选的实现方式中,步骤303可以包括响应于上述头戴式显示设备的剩余电量小于等于预定电量或检测到对应上述头戴式显示设备的省电模式开启信息记录,对上述虚拟显示屏中显示的应用窗口进行分辨率降低处理。其中,上述剩余电量可以为上述头戴式显示设备的剩余电量。上述剩余电量可以以百分比形式表示。这里,对于预设电量的具体设定,不做限定。上述省电模式开启信息记录可以为在上述头戴式显示设备或上述目标设备中执行开启省电模型操作后,由上述头戴式显示设备或上述目标设备生成的信息记录。上述分辨率降低处理可以为降低应用窗口的分辨率的处理。例如,上述执行主体可以将应用窗口的分辨率降低至原始分辨率(在先显示的应用窗口的分辨率或预设的分辨率)的2/3。可以理解的是,对应用窗口进行分辨率降低处理后,应用窗口的长宽比不变。
在一些实施例的一些可选的实现方式中,步骤304还可以包括对上述平面中显示的应用窗口的窗口纹理进行放大填充处理。上述放大填充处理可以为对上述应用窗口的窗口纹理放大后填充至上述平面的处理。可以理解的是,放大后的窗口纹理的长宽比不变。由此,可以在头戴式显示设备的剩余电量小于等于预定电量或开启头戴式显示设备的省电模式时,降低显示的应用窗口的分辨率,从而可以减少头戴式显示设备的电量消耗。
可选地,上述执行主体可以响应于检测到上述目标设备发送的对于上述平面中的应用窗口的窗口滑动操作信息记录,根据上述窗口滑动操作信息记录,更新上述应用窗口中的显示内容。其中,上述窗口滑动操作信息记录可以为目标设备检测到窗口滑动操作后生成的信息记录。上述窗口滑动操作可以为滑动应用窗口中的显示内容的操作。例如,上述窗口滑动操作可以为双指滑动应用窗口的操作。由此,可以通过窗口滑动操作对应的窗口滑动操作信息记录,滑动显示应用窗口中的显示内容。
可选地,上述执行主体可以响应于检测到上述目标设备发送的对于上述平面中的应用窗口的窗口尺寸调整操作信息记录,根据上述窗口尺寸调整操作信息记录,调整上述应用窗口的尺寸。其中,上述窗口尺寸调整操作信息记录可以为目标设备检测到窗口尺寸调整操作后生成的信息记录,可以包括调整类型和调整比例。上述窗口尺寸调整操作可以包括窗口尺寸放大操作和窗口尺寸缩小操作。上述调整类型可以为放大类或缩小类。上述调整比例可以为调整类型对应的比例。例如,调整类型为放大类时,调整比例可以表征放大至原尺寸的比例。调整类型为缩小类时,调整比例可以表征缩小至原尺寸的比例。上述窗口尺寸放大操作可以为放大应用窗口的尺寸的操作。例如,上述窗口尺寸放大操作可以为双指反向外滑操作。上述窗口尺寸缩小操作可以为缩小应用窗口的尺寸的操作。例如,上述窗口尺寸缩小操作可以为双指反向内滑操作。由此,可以通过窗口尺寸调整操作对应的窗口尺寸调整操作信息记录,对应用窗口的尺寸进行调整。
可选地,上述执行主体可以响应于检测到上述目标设备发送的对于上述平面中的应用窗口的窗口关闭操作信息记录,执行关闭上述应用窗口和上述平面的操作。其中,上述窗口关闭操作信息记录可以为目标设备检测到窗口关闭操作后生成的信息记录。上述窗口关闭操作可以为关闭应用窗口的操作。例如,上述窗口关闭操作可以为作用于窗口关闭控件的选择操作。上述窗口关闭控件可以为用于接收用户的选择操作以关闭应用窗口的控件。由此,可以通过窗口关闭操作对应的窗口关闭操作信息记录,关闭应用窗口和显示应用窗口的平面。
可选地,上述执行主体可以响应于检测到上述目标设备发送的对于上述平面的移动操作信息记录,根据上述移动操作信息记录,调整上述平面的位置。其中,上述移动操作信息记录可以为目标设备检测到移动操作后生成的信息记录,可以包括移动方向和移动距离。上述移动操作可以为移动平面的操作。例如,上述移动操作可以为单指拖动平面移动的操作。实践中,上述执行主体可以根据移动方向和移动距离,确定上述平面的调整后的位置。由此,可以通过移动操作对应的移动操作信息记录,调整平面的位置。
本公开的上述各个实施例具有如下有益效果:通过本公开的一些实施例的窗口渲染方法,可以在三维空间中显示应用窗口。具体来说,造成所显示的应用窗口缺少空间感的原因在于:无法进行双目异显,仅能在二维空间显示应用窗口,所显示的应用窗口仅具有长、宽两种属性,不具有深度属性,缺少空间感。基于此,本公开的一些实施例的窗口渲染方法首先,响应于接收到头戴式显示设备与上述目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。由此,可以使得目标用户观看具有空间感的三维空间。然后,从上述目标设备中获取应用标识组,以及在上述三维空间中显示上述应用标识组。由此,可以使得目标用户在三维空间中观看应用标识组。之后,响应于检测到上述目标设备发送的对于上述应用标识组中的应用标识的触屏点击操作信息记录,在上述三维空间中创建虚拟显示屏,以及在上述虚拟显示屏中渲染上述应用标识对应的应用窗口。由此,虚拟显示屏中显示的应用窗口可以作为由应用标识组过渡至仅显示应用窗口的中间显示状态,从而可以使得目标用户观看具有较强空间感的三维空间。最后,响应于获取到上述虚拟显示屏中的应用窗口的窗口纹理,在上述三维空间中创建平面,以及根据上述窗口纹理,在上述平面中渲染上述应用窗口。由此,可以在三维空间中显示应用窗口。也因为在三维空间中显示了应用窗口,且在虚拟显示屏中显示了的应用窗口,从而,可以使得显示的应用窗口具有空间感。
进一步参考图4,其示出了窗口渲染方法的另一些实施例的流程400,应用于头戴式显示套件,上述头戴式显示套件包括头戴式显示设备和目标设备,上述头戴式显示设备包括近眼显示屏幕,上述头戴式显示设备具有两个显示区域。该窗口渲染方法的流程400,包括以下步骤:
步骤401,响应于接收到头戴式显示设备与目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。
步骤402,从目标设备中获取应用标识组,以及在三维空间中显示应用标识组。
在一些实施例中,步骤401-402的具体实现及带来的技术效果可以参考图3对应的那些实施例中的步骤301-302,在此不再赘述。
步骤403,响应于检测到目标设备发送的触屏操作坐标信息,根据预设操作射线样式和触屏操作坐标信息,在三维空间中渲染三维操作射线。
在一些实施例中,窗口渲染方法的执行主体(例如图2所示的头戴式显示套件201)可以响应于检测到上述目标设备发送的触屏操作坐标信息,根据预设操作射线样式和上述触屏操作坐标信息,在上述三维空间中渲染三维操作射线。其中,上述触屏操作坐标信息可以为目标设备检测到触屏操作后生成的信息记录,可以包括触屏操作的坐标。上述触屏操作可以为用户按压或接触目标设备的操作。上述坐标可以为目标设备中的屏幕坐标。上述预设操作射线样式可以为预设的用于配置显示的三维操作射线的模板样式。例如,预设操作射线样式可以包括但不限于射线轮廓、轮廓颜色、填充颜色和透明度。上述三维操作射线可以为用于在三维空间中指示用户的触屏操作的射线。上述执行主体可以首先将上述触屏操作坐标信息包括的坐标映射至上述三维空间。然后,可以根据预设操作射线样式渲染操作射线。由此,三维空间中显示的三维操作射线可以指示触屏操作的位置,也因为三维操作射线是具有深度属性的,可以使得目标用户观看具有较强空间感的三维空间。
步骤404,响应于检测到目标设备发送的对于应用标识组中的应用标识的触屏点击操作信息记录,在三维空间中创建虚拟显示屏,以及在虚拟显示屏中渲染应用标识对应的应用窗口。
步骤405,响应于获取到虚拟显示屏中的应用窗口的窗口纹理,在三维空间中创建平面,以及根据窗口纹理,在平面中渲染应用窗口。
在一些实施例中,步骤404-405的具体实现及带来的技术效果可以参考图3对应的那些实施例中的步骤303-304,在此不再赘述。
从图4中可以看出,与图3对应的一些实施例的描述相比,图4对应的一些实施例中的窗口渲染方法的流程400体现了对三维操作射线进行渲染的步骤。由此,三维空间中显示的三维操作射线可以指示触屏操作的位置,也因为三维操作射线是具有深度属性的,这些实施例描述的方案可以使得目标用户观看具有较强空间感的三维空间。
进一步参考图5,其示出了窗口渲染方法的又一些实施例的流程500。应用于头戴式显示套件,上述头戴式显示套件包括头戴式显示设备和目标设备,上述头戴式显示设备包括近眼显示屏幕,上述头戴式显示设备具有两个显示区域。该窗口渲染方法的流程500,包括以下步骤:
步骤501,响应于接收到头戴式显示设备与目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间。
步骤502,从目标设备中获取应用标识组,以及在三维空间中显示应用标识组。
步骤503,响应于检测到目标设备发送的对于应用标识组中的应用标识的触屏点击操作信息记录,在三维空间中创建虚拟显示屏,以及在虚拟显示屏中渲染应用标识对应的应用窗口。
步骤504,响应于获取到虚拟显示屏中的应用窗口的窗口纹理,在三维空间中创建平面,以及根据窗口纹理,在平面中渲染应用窗口。
在一些实施例中,步骤501-504的具体实现及带来的技术效果可以参考图3对应的那些实施例中的步骤301-304,在此不再赘述。
步骤505,响应于存在至少一个在先创建的平面,对所创建的平面和至少一个在先创建的平面进行布局处理,使得所创建的平面和至少一个在先创建的平面均分显示在三维空间。
在一些实施例中,窗口渲染方法的执行主体(例如图2所示的头戴式显示套件201)可以响应于存在至少一个在先创建的平面,对所创建的平面和上述至少一个在先创建的平面进行布局处理,使得所创建的平面和上述至少一个在先创建的平面均分显示在上述三维空间。其中,上述三维空间中的平面的数量小于等于预定阈值。这里,对于预定阈值的具体设定,不作限定。例如,上述预定阈值可以为3。上述布局处理可以为对三维空间中的各个平面的布局进行统一配置的处理,使得三维空间中的各个平面均分显示在上述三维空间。实践中,上述执行主体可以响应于存在在先创建的一个平面,对所创建的平面和上述一个平面进行布局处理,使得所创建的平面和上述一个平面均分显示在上述三维空间的中间位置。上述执行主体还可以响应于存在两个在先创建的两个平面,对所创建的平面和上述两个平面进行布局处理,使得在先创建的第二个平面显示在上述三维空间的中间位置,所创建的平面和在先创建的第一个平面等距离显示在上述第二个平面的两侧。其中,所创建的平面显示在上述第二个平面的左侧。由此,可以对三维空间中显示的多个平面进行统一布局。
从图5中可以看出,与图3对应的一些实施例的描述相比,图5对应的一些实施例中的窗口渲染方法的流程500体现了对平面进行布局处理所扩展的步骤。由此,这些实施例描述的方案可以对三维空间中显示的多个平面进行统一布局。
下面参考图6,其示出了适于用来实现本公开的一些实施例的头戴式显示套件(例如图2中的头戴式显示套件201)600的硬件结构示意图。图6示出的头戴式显示套件仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,头戴式显示套件600可以包括处理装置(例如头戴式显示设备或目标设备的中央处理器、图形处理器等)601、存储器602、输入单元603、输出单元604。其中,处理装置601、存储器602、输入单元603和输出单元604通过总线605彼此相连。在此,根据本公开的实施例的方法可以被实现为计算机程序,并且存储在存储器602中。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。头戴式显示套件中的处理装置601通过调用存储器602中存储的上述计算机程序,来具体实现本公开的方法中限定的窗口渲染功能。在一些实现方式中,输入单元603可以包括触控设备(目标设备)。由此,可以通过输入单元603中的触控设备感测是否检测到对于应用标识的触屏点击操作,进而,响应于确定是,处理装置601可以调用上述计算机程序执行窗口渲染功能。输出单元604可以包括头戴式显示设备中的近眼显示屏幕,用于在目标用户眼睛前成像。
需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述头戴式显示套件中所包含的;也可以是单独存在,而未装配入该头戴式显示套件中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该头戴式显示套件执行时,使得该头戴式显示套件:响应于接收到头戴式显示设备与目标设备的连接信息记录,对两个显示区域进行双目渲染处理,使得目标用户在近眼显示屏幕中观看三维空间;从上述目标设备中获取应用标识组,以及在上述三维空间中显示上述应用标识组;响应于检测到上述目标设备发送的对于上述应用标识组中的应用标识的触屏点击操作信息记录,在上述三维空间中创建虚拟显示屏,以及在上述虚拟显示屏中渲染上述应用标识对应的应用窗口;响应于获取到上述虚拟显示屏中的应用窗口的窗口纹理,在上述三维空间中创建平面,以及根据上述窗口纹理,在上述平面中渲染上述应用窗口。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (12)
1.一种窗口渲染方法,应用于头戴式显示套件,所述头戴式显示套件包括头戴式显示设备和目标设备,所述头戴式显示设备包括近眼显示屏幕,所述头戴式显示设备具有两个显示区域,包括:
响应于接收到所述头戴式显示设备与所述目标设备的连接信息记录,对所述两个显示区域进行双目渲染处理,使得目标用户在所述近眼显示屏幕中观看三维空间;
从所述目标设备中获取应用标识组,以及在所述三维空间中显示所述应用标识组;
响应于检测到所述目标设备发送的对于所述应用标识组中的应用标识的触屏点击操作信息记录,在所述三维空间中创建虚拟显示屏,以及在所述虚拟显示屏中渲染所述应用标识对应的应用窗口;
响应于获取到所述虚拟显示屏中的应用窗口的窗口纹理,在所述三维空间中创建平面,以及根据所述窗口纹理,在所述平面中渲染所述应用窗口。
2.根据权利要求1所述的方法,其中,在所述从所述目标设备中获取应用标识组,以及在所述三维空间中显示所述应用标识组之后,所述方法还包括:
响应于检测到所述目标设备发送的触屏操作坐标信息,根据预设操作射线样式和所述触屏操作坐标信息,在所述三维空间中渲染三维操作射线。
3.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到所述目标设备发送的对于所述平面中的应用窗口的窗口滑动操作信息记录,根据所述窗口滑动操作信息记录,更新所述应用窗口中的显示内容。
4.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到所述目标设备发送的对于所述平面中的应用窗口的窗口尺寸调整操作信息记录,根据所述窗口尺寸调整操作信息记录,调整所述应用窗口的尺寸。
5.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到所述目标设备发送的对于所述平面中的应用窗口的窗口关闭操作信息记录,执行关闭所述应用窗口和所述平面的操作。
6.根据权利要求1所述的方法,其中,所述方法还包括:
响应于检测到所述目标设备发送的对于所述平面的移动操作信息记录,根据所述移动操作信息记录,调整所述平面的位置。
7.根据权利要求1所述的方法,其中,所述获取应用标识组,还包括:
获取所述应用标识组中的每个应用标识对应的应用名称,得到应用名称组。
8.根据权利要求7所述的方法,其中,所述在所述三维空间中显示所述应用标识组,还包括:
在所述三维空间中显示所述应用名称组,其中,所述应用名称组中的每个应用名称和所述应用标识组中与所述应用名称对应的应用标识对应显示。
9.根据权利要求1所述的方法,其中,所述在所述三维空间中创建平面,还包括:
响应于存在至少一个在先创建的平面,对所创建的平面和所述至少一个在先创建的平面进行布局处理,使得所创建的平面和所述至少一个在先创建的平面均分显示在所述三维空间,其中,所述三维空间中的平面的数量小于等于预定阈值。
10.根据权利要求1所述的方法,其中,所述在所述虚拟显示屏中渲染所述应用标识对应的应用窗口,包括:
响应于所述头戴式显示设备的剩余电量小于等于预定电量或检测到对应所述头戴式显示设备的省电模式开启信息记录,对所述虚拟显示屏中显示的应用窗口进行分辨率降低处理;以及
所述在所述平面中渲染所述应用窗口,包括:
对所述平面中显示的应用窗口的窗口纹理进行放大填充处理。
11.一种头戴式显示套件,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
头戴式显示设备,包括近眼显示屏幕,用于在目标用户眼睛前进行成像;
目标设备,用于运行应用标识组中的各个应用标识对应的应用和接收用户的触屏点击操作;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-10中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-10中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110511945.XA CN113342220B (zh) | 2021-05-11 | 2021-05-11 | 窗口渲染方法、头戴式显示套件和计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110511945.XA CN113342220B (zh) | 2021-05-11 | 2021-05-11 | 窗口渲染方法、头戴式显示套件和计算机可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113342220A true CN113342220A (zh) | 2021-09-03 |
CN113342220B CN113342220B (zh) | 2023-09-12 |
Family
ID=77470805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110511945.XA Active CN113342220B (zh) | 2021-05-11 | 2021-05-11 | 窗口渲染方法、头戴式显示套件和计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113342220B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447898A (zh) * | 2015-12-31 | 2016-03-30 | 北京小鸟看看科技有限公司 | 一种虚拟现实设备中显示2d应用界面的方法和装置 |
US20170256096A1 (en) * | 2016-03-07 | 2017-09-07 | Google Inc. | Intelligent object sizing and placement in a augmented / virtual reality environment |
US20170336941A1 (en) * | 2016-05-18 | 2017-11-23 | Meta Company | System and method for facilitating user interaction with a three-dimensional virtual environment in response to user input into a control device having a graphical interface |
CN108604385A (zh) * | 2016-11-08 | 2018-09-28 | 华为技术有限公司 | 一种应用界面显示方法及装置 |
US20180308288A1 (en) * | 2017-04-20 | 2018-10-25 | Samsung Electronics, Co. Ltd. | System and method for two dimensional application usage in three dimensional virtual reality environment |
CN109308742A (zh) * | 2018-08-09 | 2019-02-05 | 重庆爱奇艺智能科技有限公司 | 一种在虚拟现实的3d场景中运行2d应用的方法和装置 |
US20200150849A1 (en) * | 2018-11-13 | 2020-05-14 | Unbnd Group Pty Ltd | Technology adapted to provide a user interface via presentation of two-dimensional content via three-dimensional display objects rendered in a navigable virtual space |
WO2020208254A1 (en) * | 2019-04-12 | 2020-10-15 | Esko Software Bvba | Method of and system for generating and viewing a 3d visualization of an object having printed features |
CN112200901A (zh) * | 2020-10-30 | 2021-01-08 | 南京爱奇艺智能科技有限公司 | 目标应用的三维显示方法、装置和虚拟现实设备 |
-
2021
- 2021-05-11 CN CN202110511945.XA patent/CN113342220B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447898A (zh) * | 2015-12-31 | 2016-03-30 | 北京小鸟看看科技有限公司 | 一种虚拟现实设备中显示2d应用界面的方法和装置 |
US20170256096A1 (en) * | 2016-03-07 | 2017-09-07 | Google Inc. | Intelligent object sizing and placement in a augmented / virtual reality environment |
CN108604118A (zh) * | 2016-03-07 | 2018-09-28 | 谷歌有限责任公司 | 在增强/虚拟现实环境中的智能对象大小调整和布置 |
US20170336941A1 (en) * | 2016-05-18 | 2017-11-23 | Meta Company | System and method for facilitating user interaction with a three-dimensional virtual environment in response to user input into a control device having a graphical interface |
CN108604385A (zh) * | 2016-11-08 | 2018-09-28 | 华为技术有限公司 | 一种应用界面显示方法及装置 |
US20180308288A1 (en) * | 2017-04-20 | 2018-10-25 | Samsung Electronics, Co. Ltd. | System and method for two dimensional application usage in three dimensional virtual reality environment |
WO2018194306A1 (en) * | 2017-04-20 | 2018-10-25 | Samsung Electronics Co., Ltd. | System and method for two dimensional application usage in three dimensional virtual reality environment |
CN109308742A (zh) * | 2018-08-09 | 2019-02-05 | 重庆爱奇艺智能科技有限公司 | 一种在虚拟现实的3d场景中运行2d应用的方法和装置 |
US20200150849A1 (en) * | 2018-11-13 | 2020-05-14 | Unbnd Group Pty Ltd | Technology adapted to provide a user interface via presentation of two-dimensional content via three-dimensional display objects rendered in a navigable virtual space |
WO2020208254A1 (en) * | 2019-04-12 | 2020-10-15 | Esko Software Bvba | Method of and system for generating and viewing a 3d visualization of an object having printed features |
CN112200901A (zh) * | 2020-10-30 | 2021-01-08 | 南京爱奇艺智能科技有限公司 | 目标应用的三维显示方法、装置和虚拟现实设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113342220B (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111242881B (zh) | 显示特效的方法、装置、存储介质及电子设备 | |
CN111243049B (zh) | 人脸图像的处理方法、装置、可读介质和电子设备 | |
US20230005194A1 (en) | Image processing method and apparatus, readable medium and electronic device | |
CN110825286B (zh) | 图像处理方法、装置和电子设备 | |
WO2023284791A1 (zh) | 虚拟界面操作方法、头戴式显示设备和计算机可读介质 | |
CN113407084A (zh) | 展示内容更新方法、头戴式显示设备和计算机可读介质 | |
WO2022166868A1 (zh) | 漫游视图的生成方法、装置、设备和存储介质 | |
CN114782659A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN114842120A (zh) | 一种图像渲染处理方法、装置、设备及介质 | |
KR20180071049A (ko) | 전자 장치 및 그 이미지 동기화 방법 | |
CN117078888A (zh) | 虚拟角色的服装生成方法、装置、介质及电子设备 | |
CN113342220B (zh) | 窗口渲染方法、头戴式显示套件和计算机可读介质 | |
CN110505510B (zh) | 大屏系统中的视频画面显示方法、装置及存储介质 | |
CN115576470A (zh) | 图像处理方法和装置、增强现实系统及介质 | |
CN112308766B (zh) | 一种图像数据展示方法、装置、电子设备及存储介质 | |
CN113703704A (zh) | 界面显示方法、头戴式显示设备和计算机可读介质 | |
CN113506356A (zh) | 面积图的绘制方法、装置、可读介质和电子设备 | |
CN109472855B (zh) | 一种体绘制方法、装置及智能设备 | |
CN110941389A (zh) | 一种焦点触发ar信息点的方法及装置 | |
KR102534449B1 (ko) | 이미지 처리 방법, 장치, 전자 장치 및 컴퓨터 판독 가능 저장 매체 | |
CN113589927B (zh) | 分屏显示方法、头戴式显示设备和计算机可读介质 | |
CN114168063A (zh) | 虚拟按键显示方法、头戴式显示设备和计算机可读介质 | |
CN115457200B (zh) | 2.5维图像自动真立体显示方法、装置、设备及存储介质 | |
US20230247179A1 (en) | Information processing method, information processing apparatus, and non-transitory computer readable medium | |
CN113342433A (zh) | 应用页面显示方法、头戴式显示设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |