CN112965773B - 用于信息显示的方法、装置、设备和存储介质 - Google Patents

用于信息显示的方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN112965773B
CN112965773B CN202110234891.7A CN202110234891A CN112965773B CN 112965773 B CN112965773 B CN 112965773B CN 202110234891 A CN202110234891 A CN 202110234891A CN 112965773 B CN112965773 B CN 112965773B
Authority
CN
China
Prior art keywords
terminal
displayed
image
information
user interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110234891.7A
Other languages
English (en)
Other versions
CN112965773A (zh
Inventor
徐泽前
刘昕笛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shining Reality Wuxi Technology Co Ltd
Original Assignee
Shining Reality Wuxi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shining Reality Wuxi Technology Co Ltd filed Critical Shining Reality Wuxi Technology Co Ltd
Priority to CN202110234891.7A priority Critical patent/CN112965773B/zh
Publication of CN112965773A publication Critical patent/CN112965773A/zh
Application granted granted Critical
Publication of CN112965773B publication Critical patent/CN112965773B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开实施例提供了一种用于信息显示的方法、装置、设备和存储介质,包括:响应于确定出目标应用程序处于运行状态,获取图像渲染请求,之后解析图像渲染请求,获取待显示信息,然后,响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面,响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面。

Description

用于信息显示的方法、装置、设备和存储介质
技术领域
本申请涉及计算机技术领域,尤其涉及一种用于信息显示的方法、装置、设备和存储介质。
背景技术
近年来随着计算机软硬件技术的发展,出现了各种形式的可穿戴式智能设备,例如智能手表、头戴式电子设备和智能运动鞋等,这些可穿戴式智能设备在工业、医疗健康、军事、教育、娱乐等许多领域表现出了广阔的应用前景。
在生活中,可穿戴设备通常可以与其他终端设备配合使用。例如,头戴式电子设备可以与手机连接,头戴式电子设备可以作为手机的扩展屏使用。还例如,手机可以作为头戴式电子设备的计算单元使用,为头戴式电子设备提供计算功能。因此,可穿戴设备与其他终端设备配合使用的过程中,用户需要关注可穿戴设备和与可穿戴设备配合使用的终端设备如何进行信息显示。
发明内容
本公开实施例提供了一种用于信息显示的方法、装置、设备和存储介质。
第一方面,本公开实施例提供了一种用于信息显示的方法,包括:响应于确定出目标应用程序处于运行状态,获取图像渲染请求解析图像渲染请求,获取待显示信息;响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面;响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,第一终端的第一用户界面用于操控第二终端的第二用户界面。
第二方面,本公开实施例提供了一种用于信息显示的装置,包括:第一处理模块,用于响应于确定出目标应用程序处于运行状态,获取图像渲染请求;第二处理模块,用于解析图像渲染请求,获取待显示信息;第三处理模块,用于响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面;第四处理模块,用于响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,第一终端的第一用户界面用于操控第二终端的第二用户界面。
第三方面,本公开实施例提供了一种用于信息显示的设备,设备包括头戴式的显示终端和移动终端,显示终端与移动终端可进行通信,移动终端包括:处理器、通信接口、存储器和通信总线;其中,处理器、通信接口以及存储器通过总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序,实现如第一方面的用于信息显示的方法步骤。
第四方面,本公开实施例提供了一种用于信息显示的设备,设备包括头戴式的显示终端和移动终端,显示终端与移动终端可进行通信,显示终端包括:处理器、通信接口、存储器和通信总线;其中,处理器、通信接口以及存储器通过总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序,实现如第一方面的用于信息显示的方法步骤。
第五方面,本公开实施例提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如第一方面的用于信息显示的方法步骤。
本公开实施例提供的技术方案,首先响应于确定出目标应用程序处于运行状态,获取图像渲染请求,之后解析图像渲染请求,获取待显示信息,然后,响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面,响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面用户可以通过第一终端的第一用户界面对第二终端的第二用户界面进行操控。本申请中在利用第一终端与第二终端配合使用的过程中,通过安装在第一终端或第二终端的同一目标应用程序即可以渲染显示第一终端的第一图像,又可以渲染显示在第二终端的第二图像,提高了图像渲染效率,更适用于不同终端之间的交互。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为适用于本申请的用于信息显示的方法或用于信息显示的装置的系统结构示意图;
图2为根据本申请的用于信息显示的方法的第一实施例的流程示意图;
图3为根据本申请的用于信息显示的方法的第二实施例的流程示意图;
图4为根据本申请的用于信息显示的方法的第三实施例的流程示意图;
图5为根据本申请的用于信息显示的装置的模块组成示意图;
图6为根据本申请的用于信息显示的电子设备的结构示意图。
图例说明:
200-第一终端,300-第二终端。
具体实施方式
本公开实施例提供了一种用于信息显示的方法、装置、设备和存储介质。
为了使本技术领域的人员更好地理解本申请中的技术方案,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本公开保护的范围。
如图1所示,图1为适用于本申请的用于信息显示的方法或用于信息显示的装置的系统结构示意图。该系统可以包括第一终端200、第二终端300。第一终端200和第二终端300可以通过各种方式连接,例如有线、无线通信链路或者光纤电缆等等。第一终端200和第二终端300可以进行交互,以发送或接收信息等。
应该理解,图1中的第一终端200可以是硬件,也可以是软件。当第一终端200为硬件时,可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机等等。当第一终端200为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。图1中的第二终端300可以是各种可穿戴设备,如头戴式电子设备,该头戴式电子设备可以是在空间中指定位置处显示待操作用户界面的电子设备,包括但不限于AR眼镜、VR眼镜等。
在本实施例中,第一终端200的用户界面可以为第一用户界面,该第一用户界面可以显示第一图像。第二终端300的用户界面可以为第二用户界面,该第二用户界面可以显示第二图像。上述第一终端200可以与第二终端300进行信息交互,因此用户可以通过第一终端200的第一用户界面来对第二终端300的第二用户界面进行操控。
上述第一终端200可以是提供各种服务功能的电子设备。例如,对获取的图像渲染请求进行分析等处理,并显示处理结果(如生成的第一图像),或者还可以将处理结果(如生成的第二图像)反馈给第二终端,以在第二终端显示处理结果。
需要说明的是,本申请实施例所提供的用于信息显示的方法一般由第一终端200执行,相应地,用于信息显示的装置一般设置于第一终端200中。
还需要指出的是,上述第二终端300也可以是提供各种服务功能的电子设备,例如,对获取的图像渲染请求进行分析等处理,并将处理结果(如生成的第一图像)反馈给第一终端,以在第一终端显示处理结果,或者还可以直接显示处理结果(如生成的第二图像)。相应地,用于信息显示的装置可以设置于第二终端300中。
应该理解,图1中的第一终端200和第二终端300的数目仅仅是示意性的。根据实现需要,可以具有任意数目的第一终端200和第二终端300。例如,图1中可以包括两个第一终端200和一个第二终端300,此时可以生成两个分别显示在不同第一终端200的第一用户界面中的第一图像,以及生成显示在第二终端300的第二用户界面中的第二图像,两个第一终端200都可以基于第一图像实现对第二终端300的第二用户界面中显示的第二图像进行操控。
如图2所示,图2示出了根据本申请的用于信息显示的方法的第一实施例的流程示意图。该用于信息显示的方法,包括以下步骤:
步骤S102,响应于确定出目标应用程序处于运行状态,获取图像渲染请求。
作为示例,上述目标应用程序可以是预先安装在分体式设备中的应用程序。上述分体式设备可以包括第一终端和第二终端,上述目标应用程序可以安装在上述第一终端或第二终端中。
在本实施例中,用于信息显示的方法的执行主体(例如,第一终端200)在确定出上述目标应用程序处于运行状态的情况下,可以获取图像渲染请求。上述运行状态可以包括目标应用程序的启动状态、目标应用程序在启动后处于运行中的状态。上述图像渲染请求可以是对第一终端和/或第二终端中待显示的信息进行图像渲染的请求。
通常,在上述第一终端和第二终端建立连接之后,可以启动目标应用程序,使得目标应用程序处于运行状态,以便于第一终端可以对第二终端进行操控。或者,上述第一终端和第二终端在交互的过程中,上述目标应用程序可以一直处于运行状态。
步骤S104,解析图像渲染请求,获取待显示信息。
作为示例,上述待显示信息可以是待显示在分体式设备上的图像数据,如上述待显示信息可以是待显示在上述第一终端上的2D图像数据或3D图像数据。或者,上述待显示信息还可以是待显示在第二终端上的2D图像数据或3D图像数据。
在本实施例中,基于步骤S102所获取的图像渲染请求,上述执行主体可以对所获取的图像渲染请求进行解析,从而可以获取待显示信息。可以理解的是,上述待显示信息可以包括待显示在第一终端和/或第二终端的图像数据,这里可以根据实际的应用场景来确定待显示信息具体包括的内容。
步骤S106,响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面。
在本实施例中,基于步骤S104所获取的待显示信息,上述执行主体可以对待显示信息进行分析,从而得到待显示信息的分析结果。如果上述待显示信息包括第一待显示信息,则上述执行主体可以对第一待显示信息进行渲染,从而可以生成第一图像。这里,上述第一待显示信息可以包括待显示在上述分体式设备中的第一终端上的图像数据。而后上述执行主体可以控制第一终端显示该第一图像,并将该第一图像显示在第一终端的第一用户界面。该第一用户界面可以为第一终端的用户界面。可以理解的是,该第一图像可以为各种形式的图像,例如第一图像可以为静态图像。
作为示例,上述第一终端可以为智能手机,上述第一图像可以是在第一终端呈现出的用户界面,该第一图像可以为包含两个触控按键标识。且各触控键还可以设置有不同的图案来进行区分,例如,第一图像可以显示有快捷照标识图案和home键标识图案来区分快捷照和home键。
步骤S108,响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面。
在本实施例中,基于步骤S104获取的待显示信息,上述执行主体在对待显示信息进行分析之后,如果确定出上述待显示信息包括第二待显示信息,则上述执行主体可以对第二待显示信息进行渲染,从而可以生成第二图像。这里,第二待显示信息可以包括待显示在上述分体式设备中的第二终端上的图像数据。而后上述执行主体可以控制第二终端的用户界面中显示该第二图像。该第二终端的用户界面为第二用户界面。可以理解的是,上述第二图像可以为各种形式的图像,例如第二图像可以为三维图像。用户可以对第一终端的第一用户界面进行操作(例如,触控操作),从而实现通过第一终端控制第二终端的第二用户界面显示的具体内容。
作为示例,上述第一终端可以为智能手机,第二终端可以为头戴式电子设备。上述第二用户界面可以是显示在上述头戴式电子设备的虚拟屏幕上的用户界面。用户对智能手机上的第一用户界面进行操作,可以实现通过智能手机控制头戴式电子设备虚拟屏幕上显示的第二用户界面。
在本实施例的一个应用场景中,在目标应用程序在运行状态下,智能手机和头戴式电子设备可以处于可交互状态。用户可以对智能手机显示的第一用户界面(例如,该第一用户界面可以包括两个触控按键)进行操作,如选中头戴式电子设备的虚拟屏幕中的第一APP图标进行双击打开操作,此时上述执行主体可以获取图像渲染请求,对该图像渲染请求进行解析可以得到待显示信息,该待显示信息包括待显示在头戴式电子设备的第一APP的初始窗口的图像数据。上述执行主体对待显示信息渲染可以得到第二图像(该第二图像可以包括第一APP的初始窗口),将该第二图像显示在头戴式电子设备的虚拟屏幕,从而实现用户通过智能手机的第一用户界面对头戴式电子设备的第二用户界面进行操控。
可以理解的是,在不同的应用场景中,解析获取的待显示信息可以包括第一待显示信息和/或第二待显示信息。下面给出了待显示信息所包含不同内容的示例。
作为示例,上述执行主体检测到目标应用程序未启动时,可以启动目标应用程序,从而使得目标应用程序处于运行状态。此种情况下,目标应用程序可以生成图像渲染请求,上述执行主体可以获取所生成的图像渲染请求。并且,该图像渲染请求可以请求渲染第一终端和第二终端显示的图像。上述执行主体对图像渲染请求解析可以得到第一终端的待显示信息和第二终端的待显示信息。
作为示例,在第一终端对第二终端操控的过程中,上述目标应用程序一直处于运行状态,此种场景下,上述执行主体获取的图像渲染请求可以是第二终端的图像渲染请求,则上述执行主体对图像渲染请求解析可以得到第二终端的待显示信息。
作为示例,目标应用程序在运行状态下,若需要对上述第一终端上显示的图像信息进行调整,上述执行主体可以获取图像渲染请求。此种场景下,该图像渲染请求可以是第一终端的图像渲染请求。上述执行主体对图像渲染请求解析可以得到第一终端的待显示信息。
相关技术中,对于不同的终端设备,各终端设备通常自身渲染用户界面显示的图像。如第一终端渲染第一用户界面显示的第一图像,第二终端渲染第二用户界面显示的第二图像。而本申请公开的方案,第一终端和第二终端可以通过安装在第一终端或第二终端上的目标应用程序渲染显示在第一用户界面上的第一图像和显示在第二用户界面上的第二图像,从而实现了通过安装在第一终端或第二终端上的同一目标应用程序既渲染显示在第一用户界面上的第一图像,又显示在第二用户界面上的第二图像,无需分别在不同的终端设备分别渲染待显示的第一图像和第二图像,为第一终端和第二终端交互提供了基础,提高了第一终端和第二终端交互时的图像渲染效率。
本公开实施例提供的技术方案,首先响应于确定出目标应用程序处于运行状态,获取图像渲染请求,之后解析图像渲染请求,获取待显示信息,然后,响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面,响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,用户通过第一终端的第一用户界面可以对第二终端的第二用户界面进行操控。本申请在第一终端与第二终端配合使用的过程中,通过安装在第一终端或第二终端的同一目标应用程序即可以渲染显示第一终端的第一图像,又可以渲染显示在第二终端的第二图像,提高了图像渲染效率,更适用于不同终端之间的交互。
在一些可选的实施例中,在上述步骤S102之前,上述方法还可以包括下述步骤A2的具体处理过程。
在步骤A2中,响应于接收到目标应用程序的触发信息,控制目标应用程序运行。
当用户需要使用上述第一终端和第二终端进行交互操作时,用户可以将上述第一终端和第二终端建立连接。这里可以通过目标应用程序可以检测上述第一终端和第二终端是否建立通信连接。这样,在通过目标应用程序检测到上述第一终端和第二终端连接成功的情况下,上述执行主体可以接收到目标应用程序的触发信息。上述执行主体可以控制上述目标应用程序运行,从而使得目标应用程序处于运行状态。
在一些可选的实施例中,如图3所示,上述步骤S106、步骤S108的处理方法可以多种多样,以下再提供一种可选的处理方法,具体可以参见下述步骤S1062和步骤S1082的具体处理过程。
在步骤S1062中,响应于确定出待显示信息包含第一待显示信息,采用预设渲染引擎,按照预设的第一显示模式对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面。
在步骤S1082中,响应于确定出待显示信息包含第二待显示信息,采用预设渲染引擎,按照预设的第二显示模式对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面。
其中,第一终端可以基于第一用户界面对第二终端的第二用户界面进行操控。
作为示例,上述预设渲染引擎可以是unity引擎等。由此可见,在目标应用程序处于运行状态时,该目标应用程序可以利用同一预设渲染引擎既可以渲染显示在第一终端上的第一图像,又可以渲染显示在第二终端上的第二图像。
可选地,上述第一显示模式可以包括二维显示模式,上述第一图像可以包括二维图像。上述第二显示模式包括三维显示模式,上述第二图像可以包括三维图像。此种情况下,上述目标应用程序可以利用同一预设渲染引擎既可以渲染显示在第一终端上的二维图像,又可以渲染显示在第二终端上的三维图像。这里,对于上述显示模式没有具体的限定。
在一些可选的实施例中,上述步骤S1082的具体处理方法可以多种多样,以下再提供一种可选的处理方法来实现三维图像的渲染,具体可参见下述步骤L2-步骤L4的具体处理过程。
在步骤L2中,响应于确定出待显示信息包含第二待显示信息,采用预设渲染引擎,按照三维显示模式对第二待显示信息进行渲染,生成左眼视图和右眼视图。
在步骤L4中,将左眼视图和右眼视图合成三维图像,以将三维图像显示在第二终端的第二用户界面。其中,第一终端的第一用户界面用于操控第二终端的第二用户界面。
在本实施例中,当上述执行主体确定出上述待显示信息包括显示在第二终端(如头戴式电子设备)上的显示图像时,可以获取当前需要显示在上述头戴式电子设备上的待显示图像的特征信息。然后,可以采用预设渲染引擎(如3D引擎:unity引擎)基于上述待显示图像的特征信息,按照上述三维显示模式对上述待显示在第二终端的用户界面上的图像信息进行渲染,生成左眼视图和右眼视图,将左眼视图和右眼视图合成三维图像。而后上述执行主体可以将上述左眼视图和右眼视图合成的三维图像发送至上述第二终端(如头戴式电子设备)上的左眼显示屏和右眼显示屏。这样,用户通过上述头戴式电子设备的左眼显示屏和右眼显示屏可以看到显示在上述第二终端的第二用户界面上的物体逼真的立体影像3D视图。进而,用户在使用上述第一终端和上述第二终端进行交互的过程中,可以基于上述第一终端上显示的第一用户界面对上述第二终端的第二用户界面进行操控。
通常,在上述生成左眼视图和右眼视图之前,可以预先根据人眼之间的距离在3D引擎提供的三维空间中创建两个camera,来分别渲染左眼视图和右眼视图。
在一些可选的实施例中,上述第一终端可以包括触控显示屏,例如第一终端可以为手机、PAD等包括触控显示屏的终端。第二终端可以包括头戴式电子设备,头戴式电子可以为头盔式显示器、智能眼镜等。其中,上述第一图像可以显示在第一终端的触控显示屏,第二图像可以显示在第二终端的虚拟显示屏。
在一些可选的实施例中,上述步骤S1062的具体处理方法可以多种多样,以下再提供一种可选的处理方法,具体可参见下述步骤K2-步骤K4的具体处理过程。
在步骤K2中,响应于确定出待显示信息包含第一待显示信息,采用预设渲染引擎,按照预设的第一显示模式对第一待显示信息实时渲染,以生成动态二维图像。
在步骤K4中,将动态二维图像确定为第一图像,以在第一终端显示第一图像。
在本实施例中,上述执行主体可以采用3D渲染引擎实时渲染第一终端显示的二维图像(例如,采用60帧/秒的频率刷新渲染的二维图像,从而可以达到实时渲染的技术效果),从而使得二维图像可以实现更加复杂的图像效果(动态图像效果)。具体地,因为二维图像是基于3D渲染引擎实时渲染得到的,因此可以通过对二维图像上的显示元素做动画处理,从而实现动态显示效果。上述执行主体可以将上述二维图像确定为待显示在第一终端的第一图像,从而可以在第一终端显示该二维图像。
在一些可选的实施例中,如图4所示,在上述步骤S102之前,上述方法还可以包括下述步骤S002-步骤S008的处理过程,具体可以参见下述步骤S002-步骤S008的具体处理过程。
在步骤S002中,获取第一终端在空间中的姿态变化信息。
在本实施例中,用于信息显示的方法的执行主体(例如,第一终端)可以通过各种方式获取第一终端的姿态变化信息。其中,姿态变化信息可以表征第一终端在空间中的姿态变化。这里,第一终端在空间中的姿态变化可以理解为第一终端在空间中多个方向上自由运动的变化。
作为示例,上述第一终端可以通过其上安装的传感器直接获取自身的姿态变化信息,此种情况下,上述执行主体可以从第一终端直接获取第一终端的姿态变化信息。需要说明的是,上述第一终端可以为包括触控显示屏的终端设备。例如,第一终端可以为手机。并且上述第一终端的触控显示屏显示的第一用户界面上可以显示至少两个触控键。
作为示例,上述至少两个触控键可以包括功能键。该功能键可以是单独的执行某种操作的功能按键,例如,home键等,通过单击home键可以返回至主屏幕等操作。上述触控键还可以包括辅助键,该辅助键可以辅助用户触控操作,例如,通过接收到单击、双击、滑动等操作来对应执行打开应用程序、关闭应用程序、打开某应用程序的菜单。上述功能键和辅助键可以以不同的方式进行显示,从而使得用户可以在第一用户界面上区分两种不同的触控键。可以理解的是,上述第一终端的触控显示屏显示的第一用户界面上还可以仅显示辅助键,则该辅助键可以接收用户的触控操作来辅助实现在界面中的选中等功能,触控操作可以如单击、双击、滑动等。
通常,上述第一终端可以安装有用于采集多个自由度(degree of freedom)信息的传感器。作为示例,上述第一终端的传感器可以为3dof或是6dof的传感器的移动设备,其中,3dof可以指有3个转动角度的自由度,而6dof可以指除了3个转动角度外,再加上上下、前后、左右3个位置相关的自由度。上述姿态变化信息可以表征第一终端在空间中位置的变化和第一终端在空间中方向的变化。例如,第一终端在空间中的姿态由水平状态变化为竖直状态,或者,还可以为第一终端在空间中的姿态由水平状态变化为与水平方向倾斜一定的角度的状态等。上述第一终端的姿态变化信息可以通过上述3dof的传感器或是6dof的传感器来确定。可以理解的是,若第一终端安装有6dof传感器,那么第一终端在空间中移动时可以直接采集6dof信息来确定出姿态变化信息。此时上述执行主体可以直接获取第一终端的姿态变化信息。若第一终端安装有3dof传感器,那么可以以用户为参照设置一参照基准点,上述执行主体根据第一终端在空间中的3dof信息和参照基准点可以确定出第一终端的姿态变化信息。
在步骤S004中,根据姿态变化信息,对第二终端显示在空间中指定位置处的第二用户界面中的操作点进行调整,在第二用户界面中确定与调整后的操作点对应的目标对象。
在本实施例中,上述第二终端可以是头戴式电子设备,该第二终端可以将第二用户界面显示在空间中指定位置处。当然,第二终端还可以是在空间中显示用户界面的其他电子设备,这里没有唯一的限定。在第一终端和第二终端交互的过程中,第一终端在空间中的姿态可以与第二用户界面中的操作点对应,因此第一终端在空间中的姿态发生变化时,相应地第二终端的第二用户界面中的操作点也相应地发生变化。上述执行主体在获取姿态变化信息之后,可以对姿态变化信息进行分析,从而可以对第二终端显示的第二用户界面中的操作点进行调整。上述执行主体可以在第二用户界面中确定出调整后的操作点所指示的对象,并将该对象确定为目标对象。
作为示例,对于第一终端在空间中当前位姿,第二终端显示的第二用户界面中操作点所在位置指示第一APP图标,上述执行主体在根据位姿变化信息可以调整第二终端显示的第二用户界面中操作点,从当前第一APP图标所在的位置调整到第二APP图标所在的位置,从而可以在第二用户界面中确定与调整后的操作点对应的目标对象为第二APP。
在步骤S006中,获取第一终端接收到的触控操作,生成触控指令。其中,触控操作为用户针对第一用户界面的操作,触控指令用于触发更新第二用户界面。
在本实施例中,用户可以对第一终端的第一用户界面进行触控操作,例如,用户可以对第一用户界面显示的触控键进行触控操作。因此,响应于该触控操作,上述执行主体可以生成或调用针对目标对象的触控指令。
在步骤S008中,执行触控指令,以生成图像渲染请求。
在本实施例中,基于步骤S006生成或调用的触控指令,上述执行主体可以执行该触控指令,从而可以生成图像渲染请求。需要说明的是,该图像渲染请求中可以用于请求渲染待显示在第二终端上的第二图像。
因此,响应于确定出目标应用程序处于运行状态,上述执行主体可以获取上述图像渲染请求,对该图像渲染请求进行解析可以得到第二待显示信息。而后,对第二待显示信息进行渲染可以生成第二图像,并将该第二图像显示在第二终端的第二用户界面。用户对第一终端的第一用户界面进行操作从而可以控制第二终端的第二用户界面更新其显示内容。
可选地,用户可以对第一用户界面执行多种触控操作,上述执行主体在接收到触控操作之后可以对应生成不同的触控指令。具体可以参见下述X2-步骤X4的具体处理过程。
在上述步骤X2中,获取第一终端接收到的触控操作,根据触控操作确定触控类型。
在本实施例中,第一终端可以接收用户在第一用户界面的各种触控操作,而后对所接收到的触控操作进行分析从而可以确定出触控操作的触控类型。这里,触控操作可以包括滑动操作、点击操作或长按操作等。上述触控类型可以包括左滑类型、右滑类型、上滑类型、下滑类型、单击类型、双击类型、长按类型等。作为示例,上述执行主体可以对接收到的滑动操作的滑动轨迹进行分析,从而确定出左滑类型、右滑类型、上滑类型、下滑类型等。或者,上述执行主体还可以对点击操作进行分析,从而确定出单击类型、双击类型等。
在步骤X4中,根据触控操作的触控类型,生成目标对象的触控指令。
在本实施例中,基于步骤X2所确定的触控类型,上述执行主体可以响应于上述触控操作的触控类型生成针对上述目标对象的控制指令。可以理解的是,预先设置与不同触控类型对应的控制指令,因此上述执行主体在确定出触控类型之后可以得到对应的控制指令,该控制指令可以用于控制上述目标对象。
作为示例,上述目标对象可以为显示在用户界面的第一APP的窗口,若上述第一终端在接收到用户针对触控区域的滑动操作时,上述执行主体可以对接收到的滑动操进行分析,从而确定出触控类型为左滑类型。而后上述执行主体根据左滑类型生成窗口缩小指令,以缩小第一APP的窗口,即可以渲染出缩小后的第一APP的窗口作为第二图像显示在第二终端的第二用户界面。
进一步地,显示在第一用户界面的第一图像可以显示有至少两个触控键。可能会存在用户在进行触控操作时出现误触的问题,从而降低了用户使用第一终端和第二终端进行交互体验的沉浸感。因此,上述第一图像可以仅显示有一个触控键(如辅助键),此时其他触控键(如home等预设功能键)可以显示在第二用户界面中。具体可以参见下述步骤Q2的具体处理过程。
在步骤Q2中,响应于接收到预设功能键调用指令,获取预设功能键的特征信息,生成图像渲染请求。其中,预设功能键调用指令用于控制第一终端的预设功能键显示在第二用户界面。
用户在需要使用home键等预设功能键的情况下,可以对第一终端或第二终端进行操作,从而使得上述执行主体可以获取到预设功能键的调用指令。而后,上述执行主体在获取预设功能键调用指令后,可以对其进行分析处理从而可以获取用户需要调用的预设功能键的特征信息。该特征信息可以表征预设功能键的展示形式。上述执行主体根据预设功能键的特征信息可以生成图像渲染请求,以便于生成显示在第二终端的第二图像,该第二图像包括预设功能键。
其中,上述预设功能键的确定方式可以多种多样。例如,上述预设功能键可以是上述执行主体根据检测到的用户在历史时段(如1天)内使用功能键的次数大于预设次数时确定出的多个功能键。或者,也可以是用户根据自己的实际使用需求预先添加在上述白名单中的功能键等。上述预设功能键可以包括home键、快捷照键等。需要说明的是,本方法对上述预设功能键的确定方式,以及上述预设功能键的种类不作具体限定。
进一步地,考虑到将多个预设功能键展示在第二用户界面上,可能存在多个功能键在上述第二用户界面上分布较为零散,不便于用户查找的问题。因此,为了便于用户在使用某预设功能键执行某预设功能时,能够快速找到该预设功能键,在一些可选的实现方式中,上述方法还可以包括下述步骤M2的具体处理过程。
在步骤M2中,将多个预设功能键按照预设功能显示模式进行合并,生成合并后的预设功能键。此种情况下,上述第二待显示信息可以包括合并后的预设功能键的相关图像信息。
这样,用户在使用上述第一终端和上述第二终端进行交互的过程中,当用户需要使用某预设功能键的过程中,可以在第一终端显示的第一图像中找到的该合并后的预设功能键,可以很容易找到该预设功能键,进一步提高了用户使用第一终端和第二终端进行交互的交互效率。
可选地,上述合并后的预设功能键可以按照预设模式进行显示。
例如,上述合并后的预设功能键的显示模式可以为2D显示模式,则上述执行主体可以采用预设渲染引擎,按照上述2D显示模式对第二待显示信息进行渲染生成二维图像。例如,上述合并后的预设功能键的显示模式为2D显示模式,则上述执行主体在对上述第二待显示信息进行渲染时,可以将第二待显示信息渲染成轮盘显示模式的图像,其中,轮盘划分为多个区域,每个区域分别对应一个预设功能键。
或者,上述合并后的预设功能键的显示模式还可以为3D显示模式,则上述执行主体在对第二待显示信息可以采用预设渲染引擎,按照上述3D显示模式对上述第二待显示信息进行渲染,可以生成三维图像作为第二图像。例如,上述合并后的预设功能键的显示模式为3D显示模式,则上述执行主体在对上述第二待显示信息进行渲染时,可以将上述第二待显示信息渲染成包含立方体显示模式的图像。其中,上述立方体的每个面可以分别显示不同的预设功能键。用户可以通过选中不同的面来实现选中对应的预设功能键。
这样,上述执行主体可以根据第二待显示信息可以渲染出不同形式的第二图像显示在第二终端的第二用户界面,且第二图像中可以包括多个预设功能键的图像。如轮盘显示模式或立方体显示模式,用户通过点击显示在第一用户界面可以选中第二图像中轮盘的某个区域或立方体的某个面对应的预设功能键,从而可以触发该预设功能键的功能,进一步提高了用户的使用体验。
进一步地,为了进一步提高用户在使用第一终端和第二终端的交互效率,在一些可选的实现方式中,上述方法还可以包括下述步骤P2-步骤P4的具体处理过程。
在步骤P2中,接收第三预设指令,其中,第三预设指令可以为用于调用预设功能键的调用指令。
其中,上述第三预设指令可以是通过语音方式获取的指令,或者,还可以是通过接收到用户对第一终端或第二终端上设置的物理按键的触控操作获取的指令。这里,对于上述第三预设指令的接收形式没有唯一的限定。
在步骤P4中,响应于第三预设指令,生成图像渲染请求。其中,上述图像渲染请求用于请求渲染显示在第二用户界面中的第二图像,该第二图像可以包括待调用的预设功能键的相关信息。
在本实施例中,在用户使用第一终端和第二终端进行交互的过程中,当用户需要实现某一功能时,如需要“执行返回桌面”或“启动home键”时,则可以说出“返回桌面”、“启动home键”等相关的关键词,或者,还可以触发位于上述第一终端或第二终端上的与该预设功能相对应的物理按键。这样,上述执行主体可以通过设置在上述第一终端或第二终端中的语音接收模块接收上述第三预设指令,或者通过接收到的用户对与该预设功能的物理按键所进行的操作后生成的第三预设指令。然后,响应于上述第三预设指令,生成图像渲染请求,该图像渲染请求用于请求渲染显示在第二用户界面中的第二图像,该第二图像可以包括待调用的预设功能键的相关信息。
这样,上述执行主体可以获取到上述图像渲染请求,对该图像渲染请求进行解析,可以获取第二待显示信息,对上述第二待显示信息进行渲染,可以生成显示在第二终端的第二图像。该第二图像可以包括用户需要调用的预设功能键。
考虑到不同的界面类型所对应的触控键的布局方式可能是不同的,因此,为了便于用户操作,可以根据界面类型渲染出包含合理布局的触控键的第一图像。首先,上述执行主体可以首先确定出待显示在第二终端的界面类型。而后上述执行主体可以根据所确定出的界面类型获取显示在第一终端的第一图像中的各触控键的布局方式。最后,在确定出目标应用程序处于运行状态下,上述执行主体可以获取图像渲染请求,该图像渲染请求可以包括第一待显示信息,对该第一待显示信息渲染可以得到第一图像,该第一图像中的各触控键按照所获取的布局方式布局。
对于待显示在第二终端的游戏界面、视频界面等可以分别设置适用的触控键布局方式。例如,对游戏界面设置第一触控键布局方式,对视频界面设置第二触控键布局方式。
作为示例,上述执行主体确定出待显示在第二终端的界面类型为视频界面。而后上述执行主体可以获第二触控键布局方式。最后,在确定出目标应用程序处于运行状态下,上述执行主体可以获取图像渲染请求,该图像渲染请求可以包括第一待显示信息,对该第一待显示信息渲染可以得到第一图像,该第一图像中的各触控键按照第二触控键布局方式布局。
在一些可选的实施例中,在第一终端和第二终端在交互时,上述执行主体可以控制第一终端的特定应用软件在第二用户界面显示。上述执行主体可以通过多种方式选择上述特定的应用软件。在上述步骤S102之前,上述方法还可以包括下述步骤N2-步骤N14的处理过程,具体可以参见下述步骤N2-步骤N14的具体处理过程。
在步骤N2中,获取预先存储的应用软件的白名单。
其中,上述白名单可以是预先存储的、可以显示在第二终端的用户界面中的应用软件的名单信息。上述白名单的确定方式可以多种多样。例如,可以是根据满足预设条件的应用软件来确定白名单。该预设条件可以为第一终端检测到用户在历史时段(如1天)内使用某应用软件的使用时长大于预设时长。作为示例,上述白名单可以实时地被更新,具体地,可以将第一终端检测到的满足上述预设条件的应用软件实时地自动添加到上述白名单中。或者,上述预设条件也可以为在预设历史时段(如1周)内使用次数超过预设阈值,这里没有唯一的限定。
在步骤N4中,基于白名单,从第一终端确定待显示在第二终端的应用程序。
在步骤N6中,获取待显示在第二终端的第二待显示信息,其中,上述第二待显示信息中包括所确定出的应用程序的图标等图像数据。
在步骤N8中,根据上述第二待显示信息,生成图像渲染请求。
在步骤N10中,响应于确定出目标应用程序处于运行状态,获取图像渲染请求。
在步骤N12中,解析上述图像渲染请求,获取第二待显示信息。
在步骤N14中,采用预设渲染引擎,按照预设的第二显示模式对述第二待显示信息进行渲染,生成第二图像,以将上述第二图像显示在第二终端的第二用户界面。从而可以实现在第二终端的第二用户界面显示包含白名单的用程序的图标等的第二图像。
其中,上述显示模式可以包括2D显示模式或3D显示模型等。或者,上述显示模式还可以包括待显示的信息的排列方式等,例如,待显示的信息为从白名单选出的应用软件,上述显示模式可以为将所选择的应用软件分为不同组的显示模式。这里,对于上述显示模式没有唯一的限定。
这样,通过获取预先存储的应用软件的白名单,从第一终端确定待显示在第二终端的第二待显示信息,并采用预设渲染引擎,按照预设的显示模式对述第二待显示信息进行渲染,生成第二图像。最后,将第二图像显示在第二终端的第二用户界面,以便于用户可以通过第一终端对显示在第二终端上的第二用户界面中的应用软件进行操控。
在一些可选的实施例中,上述执行主体不仅可以通过白名单从第一终端选取第二图像中包含的目标应用软件的图标,还可以通过目标软件开发工具包来从第一终端选取第二图像中包含的目标应用软件的图标,这里没有唯一的限定。
这样,通过将确定出的使用目标软件开发工具包的应用软件确定为目标应用软件,目标应用软件与第二终端适配效果更好。然后,可以从第一终端确定出目标应用软件作为待显示在第二终端的第二待显示信息,并采用预设渲染引擎,按照预设的显示模式对上述第二待显示信息进行渲染,生成第二图像。最后,将第二图像显示在第二终端的第二用户界面,以便于用户可以通过第一终端对显示在第二终端的第二用户界面中的应用软件进行操控。该实施例使得用户可以在第二终端显示的第二用户界面中查找到目标应用软件,满足了用户的多样化的需求,提高了用户的使用体验。
在一些实施例中,第二终端在初始化时,第二用户界面通常会显示在空间中指定位置,该指定位置与第二终端之间需要满足相对距离、方向固定等条件。用户在佩戴第二终端时位置通常不会一成不变,该第二终端和第二终端在空间中显示的用户界面之间的相对位置会发生变化,例如,佩戴第二终端的用户在往第二终端显示的用户界面方向靠近时,会导致用户与用户界面之间的距离逐渐减小,从而可能会影响用户的视觉效果。为了解决上述问题,本方法还可以包括下述步骤C2的处理过程,具体可以参见下述步骤C2的具体处理过程。
在步骤C2中,若第一终端接收到针对目标触控键的预设触控操作,则响应于该预设触控操作生成第二用户界面初始化指令。用户对第一用户界面中显示的目标触控键(如home键)进行预设触控操作,从而可生成第二用户界面初始化指令,该第二用户界面初始化指令不仅可以重置第二用户界面在空间的位置使得第二用户界面和第二终端的相对位置恢复为初始状态,还可以重新渲染显示在第二用户界面的第二图像。
上述第二终端的IMU等传感器可以获取第二终端在空间中的位置(该位置可以包括矢量信息的坐标),从而可以根据第二终端的位置确定第二用户界面在空间中的位置。因此,不论第二用户界面与第二终端当前相对位置是否改变,上述第二用户界面初始化指令都可以将第二用户界面与第二终端恢复为初始的相对位置。
进一步地,在生成第二用户界面初始化指令后,上述执行主体可以获取图像渲染请求,该图像渲染请求可以用于请求渲染显示在第二终端的第二图像。可以理解的是,该第二图像可以为初始用户界面,或者该第二图像还可以与第二用户界面初始化之前显示的图像相同。
对应上述实施例提供的用于信息显示的方法,基于相同的技术构思,本公开实施例还提供了一种用于信息显示的装置,图5为本公开实施例提供的用于信息显示的装置的模块组成示意图,该用于信息显示的装置用于执行图1至图4描述的用于信息显示的方法,如图5所示,该用于信息显示的装置包括:第一处理模块501,用于响应于确定出目标应用程序处于运行状态,获取图像渲染请求;第二处理模块502,用于解析图像渲染请求,获取待显示信息;第三处理模块503,用于响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面;第四处理模块504,用于响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,第一终端的第一用户界面用于操控第二终端的第二用户界面。
可选地,上述装置还包括:第五处理模块,用于响应于接收到目标应用程序的触发信息,控制目标应用程序运行。
可选地,第三处理模块503,用于:采用预设渲染引擎,按照预设的第一显示模式对第一待显示信息进行渲染,生成第一图像;以及第四处理模块,用于:采用预设渲染引擎,按照预设的第二显示模式对第二待显示信息进行渲染,生成第二图像。
可选地,第一显示模式包括二维显示模式,第一图像包括二维图像;第二显示模式包括三维显示模式,第二图像包括三维图像。
可选地,第四处理模块503,包括:第一渲染单元,用于采用预设渲染引擎,按照三维显示模式对第二待显示信息进行渲染,生成左眼视图和右眼视图;合成单元,用于将左眼视图和右眼视图合成三维图像。
可选地,第一终端包括触控显示屏,第二终端包括头戴式电子设备;其中,第一图像显示在第一终端的触控显示屏,第二图像显示在第二终端的虚拟显示屏。
可选地,第四处理模块503,包括:第二渲染单元,用于采用预设渲染引擎,按照预设的第一显示模式对第一待显示信息实时渲染,以生成动态二维图像;显示单元,用于将动态二维图像确定为第一图像,以在第一终端显示第一图像。
可选地,上述装置还包括:获取模块,用于获取第一终端在空间中的姿态变化信息;调整模块,用于根据姿态变化信息,对第二终端显示在空间中指定位置处的第二用户界面中的操作点进行调整,在第二用户界面中确定与调整后的操作点对应的目标对象;第六处理模块,用于获取第一终端接收到的触控操作,生成触控指令,其中,触控操作为用户针对第一用户界面的操作,触控指令用于触发更新第二用户界面;执行模块,用于执行触控指令,以生成图像渲染请求。
可选地,上述装置还包括:第七处理模块,用于响应于接收到预设功能键调用指令,获取预设功能键的特征信息,生成图像渲染请求,其中,预设功能键调用指令用于控制第一终端的预设功能键显示在第二用户界面。
本公开实施例提供的用于信息显示的装置能够实现上述用于信息显示的方法对应的实施例中的各个过程,为避免重复,这里不再赘述。
需要说明的是,本公开实施例提供的用于信息显示的装置与本公开实施例提供的用于信息显示的方法基于同一发明构思,因此该实施例的具体实施可以参见前述用于信息显示的方法的实施,重复之处不再赘述。
对应上述实施例提供的用于信息显示的方法,基于相同的技术构思,本公开实施例还提供了一种用于信息显示的设备,该设备用于执行上述的用于信息显示的方法,图6为实现本公开各个实施例的一种用于信息显示的设备的结构示意图,如图6所示,该设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器601和存储器602,存储器602中可以存储有一个或一个以上存储应用程序或数据。其中,存储器602可以是短暂存储或持久存储。存储在存储器602的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对电子设备中的一系列计算机可执行指令。更进一步地,处理器601可以设置为与存储器602通信,在电子设备上执行存储器602中的一系列计算机可执行指令。电子设备还可以包括一个或一个以上电源603,一个或一个以上有线或无线网络接口604,一个或一个以上输入输出接口605,一个或一个以上键盘606。
具体在本实施例中,该设备包括有处理器、通信接口、存储器和通信总线;其中,处理器、通信接口以及存储器通过总线完成相互间的通信;存储器,用于存放计算机程序;处理器,用于执行存储器上所存放的程序,实现以下方法步骤:响应于确定出目标应用程序处于运行状态,获取图像渲染请求;解析图像渲染请求,获取待显示信息;响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面;响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,第一终端基于第一用户界面对第二终端的第二用户界面进行操控。
本公开实施例提供的技术方案,首先响应于确定出目标应用程序处于运行状态,获取图像渲染请求,之后解析图像渲染请求,获取待显示信息,然后,响应于确定出待显示信息包含第一待显示信息,对第一待显示信息进行渲染,生成第一图像,以将第一图像显示在第一终端的第一用户界面,响应于确定出待显示信息包含第二待显示信息,对第二待显示信息进行渲染,生成第二图像,以将第二图像显示在第二终端的第二用户界面,其中,用户通过第一终端的第一用户界面可以对第二终端的第二用户界面进行操控。本申请在第一终端与第二终端配合使用的过程中,通过安装在第一终端或第二终端的同一目标应用程序即可以渲染显示第一终端的第一图像,又可以渲染显示在第二终端的第二图像,提高了图像渲染效率,更适用于不同终端之间的交互。
进一步地,对应上述实施例提供的用于信息显示的方法,本说明书实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器603执行时实现如上述用于信息显示的方法实施例的各步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,的计算机可读存储介质,如只读存储器(Read-OnlyMemory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
需要说明的是,本说明书中关于存储介质的实施例与本说明书中关于用于信息显示的方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应的用于信息显示的方法的实施,重复之处不再赘述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
可以理解的是,本说明书实施例描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(Application Specific Integrated Circuits,ASIC)、数字信号处理器(Digital SignalProcessing,DSP)、数字信号处理设备(DSP Device,DSPD)、可编程逻辑设备(ProgrammableLogic Device,PLD)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本说明书上述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本说明书实施例上述功能的模块(例如过程、函数等)来实现本说明书实施例上述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
还需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括上述要素的过程、方法、商品或者设备中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本说明书的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本说明书各个实施例的上述方法。
上面结合附图对本说明书的实施例进行了描述,但是本说明书并不局限于上述的具体实施方式,上述具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本说明书的启示下,在不脱离本说明书宗旨和权利要求所保护的范围情况下,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。

Claims (12)

1.一种用于信息显示的方法,包括:
根据第一终端在空间中的多个自由度信息和以用户为参照设置的参照基准点,获取所述第一终端在空间中的姿态变化信息;
根据所述姿态变化信息,对第二终端显示在空间中指定位置处的第二用户界面中的操作点进行调整,在所述第二用户界面中确定与调整后的操作点对应的目标对象;
获取所述第一终端接收到的触控操作,响应于该触控操作生成或调用针对所述目标对象的触控指令,其中,所述触控操作为用户针对第一用户界面的操作,所述触控指令用于触发更新所述第二用户界面;
执行所述触控指令,以生成图像渲染请求;
响应于确定出目标应用程序处于运行状态,获取图像渲染请求;
解析所述图像渲染请求,获取待显示信息;
响应于确定出所述待显示信息包含第一待显示信息,对所述第一待显示信息进行渲染,生成第一图像,以将所述第一图像显示在第一终端的第一用户界面,所述第一图像显示有触控键;
响应于确定出所述待显示信息包含第二待显示信息,对所述第二待显示信息进行渲染,生成第二图像,以将所述第二图像显示在第二终端的第二用户界面;
接收用户对所述第一终端的第一用户界面显示的触控键的触控操作,生成控制指令,以控制所述第二终端的第二用户界面的显示内容;
其中,所述第一终端的所述第一用户界面用于操控所述第二终端的所述第二用户界面;所述第一终端包括触控显示屏,所述第二终端包括头戴式电子设备;
所述目标应用程序用于渲染显示在第一用户界面上的第一图像和显示在第二用户界面上的第二图像。
2.根据权利要求1所述的方法,其中,在响应于确定出目标应用程序处于运行状态,获取图像渲染请求之前,所述方法还包括:
响应于接收到所述目标应用程序的触发信息,控制所述目标应用程序运行。
3.根据权利要求1所述的方法,其中,所述对所述第一待显示信息进行渲染,生成第一图像,包括:
采用预设渲染引擎,按照预设的第一显示模式对所述第一待显示信息进行渲染,生成所述第一图像;以及
所述对所述第二待显示信息进行渲染,生成第二图像,包括:
采用所述预设渲染引擎,按照预设的第二显示模式对所述第二待显示信息进行渲染,生成所述第二图像。
4.根据权利要求3所述的方法,其中,所述第一显示模式包括二维显示模式,所述第一图像包括二维图像;
所述第二显示模式包括三维显示模式,所述第二图像包括三维图像。
5.根据权利要求4所述的方法,其中,所述采用所述预设渲染引擎,按照预设的第二显示模式对所述第二待显示信息进行渲染,生成所述第二图像,包括:
采用所述预设渲染引擎,按照所述三维显示模式对所述第二待显示信息进行渲染,生成左眼视图和右眼视图;
将所述左眼视图和右眼视图合成所述三维图像。
6.根据权利要求1所述的方法,其中,所述第一图像显示在所述第一终端的触控显示屏,所述第二图像显示在所述第二终端的虚拟显示屏。
7.根据权利要求4所述的方法,其中,所述采用预设渲染引擎,按照预设的第一显示模式对所述第一待显示信息进行渲染,生成所述第一图像,包括:
采用预设渲染引擎,按照预设的第一显示模式对所述第一待显示信息实时渲染,以生成动态二维图像;
将所述动态二维图像确定为所述第一图像,以在所述第一终端显示所述第一图像。
8.根据权利要求1所述的方法,其中,在所述获取图像渲染请求之前,所述方法还包括:
响应于接收到预设功能键调用指令,获取预设功能键的特征信息,生成图像渲染请求,其中,所述预设功能键调用指令用于控制所述第一终端的预设功能键显示在所述第二用户界面。
9.一种用于信息显示的装置,包括:
获取模块,用于根据第一终端在空间中的多个自由度信息和以用户为参照设置的参照基准点,获取第一终端在空间中的姿态变化信息;
调整模块,用于根据姿态变化信息,对第二终端显示在空间中指定位置处的第二用户界面中的操作点进行调整,在第二用户界面中确定与调整后的操作点对应的目标对象;
第六处理模块,用于获取第一终端接收到的触控操作,响应于该触控操作生成或调用针对所述目标对象的触控指令,其中,触控操作为用户针对第一用户界面的操作,触控指令用于触发更新第二用户界面;
执行模块,用于执行触控指令,以生成图像渲染请求;
第一处理模块,用于响应于确定出目标应用程序处于运行状态,获取图像渲染请求;
第二处理模块,用于解析所述图像渲染请求,获取待显示信息;
第三处理模块,用于响应于确定出所述待显示信息包含第一待显示信息,对所述第一待显示信息进行渲染,生成第一图像,以将所述第一图像显示在第一终端的第一用户界面,所述第一图像显示有触控键;
第四处理模块,用于响应于确定出所述待显示信息包含第二待显示信息,对所述第二待显示信息进行渲染,生成第二图像,以将所述第二图像显示在第二终端的第二用户界面;
第六处理模块,用于接收用户对所述第一终端的第一用户界面显示的触控键的触控操作,生成控制指令,以控制所述第二终端的第二用户界面的显示内容;
其中,所述第一终端的所述第一用户界面用于操控所述第二终端的所述第二用户界面;所述第一终端包括触控显示屏,所述第二终端包括头戴式电子设备;
所述目标应用程序用于渲染显示在第一用户界面上的第一图像和显示在第二用户界面上的第二图像。
10.一种用于信息显示的设备,所述设备包括头戴式的显示终端和移动终端,所述显示终端与所述移动终端可进行通信,所述移动终端包括:
处理器、通信接口、存储器和通信总线;其中,所述处理器、所述通信接口以及所述存储器通过总线完成相互间的通信;所述存储器,用于存放计算机程序;所述处理器,用于执行所述存储器上所存放的程序,实现如权利要求1至8中任一项所述的用于信息显示的方法。
11.一种用于信息显示的设备,所述设备包括头戴式的显示终端和移动终端,所述显示终端与所述移动终端可进行通信,所述显示终端包括:
处理器、通信接口、存储器和通信总线;其中,所述处理器、所述通信接口以及所述存储器通过总线完成相互间的通信;所述存储器,用于存放计算机程序;所述处理器,用于执行所述存储器上所存放的程序,实现如权利要求1至8中任一项所述的用于信息显示的方法。
12.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至8中任一项所述的用于信息显示的方法。
CN202110234891.7A 2021-03-03 2021-03-03 用于信息显示的方法、装置、设备和存储介质 Active CN112965773B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110234891.7A CN112965773B (zh) 2021-03-03 2021-03-03 用于信息显示的方法、装置、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110234891.7A CN112965773B (zh) 2021-03-03 2021-03-03 用于信息显示的方法、装置、设备和存储介质

Publications (2)

Publication Number Publication Date
CN112965773A CN112965773A (zh) 2021-06-15
CN112965773B true CN112965773B (zh) 2024-05-28

Family

ID=76276307

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110234891.7A Active CN112965773B (zh) 2021-03-03 2021-03-03 用于信息显示的方法、装置、设备和存储介质

Country Status (1)

Country Link
CN (1) CN112965773B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113791495A (zh) * 2021-08-27 2021-12-14 优奈柯恩(北京)科技有限公司 用于显示信息的方法、装置、设备及计算机可读介质
CN113723614A (zh) * 2021-09-01 2021-11-30 北京百度网讯科技有限公司 用于辅助设计量子电路的方法、装置、设备和介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107071539A (zh) * 2017-05-08 2017-08-18 深圳小辣椒虚拟现实技术有限责任公司 基于vr设备的终端上信息资源同步显示方法及系统
WO2018086295A1 (zh) * 2016-11-08 2018-05-17 华为技术有限公司 一种应用界面显示方法及装置
CN109471603A (zh) * 2017-09-07 2019-03-15 华为终端(东莞)有限公司 一种界面显示方法及装置
CN110347305A (zh) * 2019-05-30 2019-10-18 华为技术有限公司 一种vr多屏显示方法及电子设备
CN111399630A (zh) * 2019-01-03 2020-07-10 广东虚拟现实科技有限公司 虚拟内容交互方法、装置、终端设备及存储介质
CN111399789A (zh) * 2020-02-20 2020-07-10 华为技术有限公司 界面布局方法、装置及系统
US10802667B1 (en) * 2019-06-03 2020-10-13 Bank Of America Corporation Tactile response for user interaction with a three dimensional rendering
US10825245B1 (en) * 2019-06-03 2020-11-03 Bank Of America Corporation Three dimensional rendering for a mobile device
CN112351325A (zh) * 2020-11-06 2021-02-09 惠州视维新技术有限公司 基于手势的显示终端控制方法、终端和可读存储介质
CN112383664A (zh) * 2020-10-15 2021-02-19 华为技术有限公司 一种设备控制方法、第一终端设备及第二终端设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101799294B1 (ko) * 2013-05-10 2017-11-20 삼성전자주식회사 디스플레이 장치 및 이의 제어 방법

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018086295A1 (zh) * 2016-11-08 2018-05-17 华为技术有限公司 一种应用界面显示方法及装置
CN107071539A (zh) * 2017-05-08 2017-08-18 深圳小辣椒虚拟现实技术有限责任公司 基于vr设备的终端上信息资源同步显示方法及系统
CN109471603A (zh) * 2017-09-07 2019-03-15 华为终端(东莞)有限公司 一种界面显示方法及装置
CN111399630A (zh) * 2019-01-03 2020-07-10 广东虚拟现实科技有限公司 虚拟内容交互方法、装置、终端设备及存储介质
CN110347305A (zh) * 2019-05-30 2019-10-18 华为技术有限公司 一种vr多屏显示方法及电子设备
US10802667B1 (en) * 2019-06-03 2020-10-13 Bank Of America Corporation Tactile response for user interaction with a three dimensional rendering
US10825245B1 (en) * 2019-06-03 2020-11-03 Bank Of America Corporation Three dimensional rendering for a mobile device
CN111399789A (zh) * 2020-02-20 2020-07-10 华为技术有限公司 界面布局方法、装置及系统
CN112383664A (zh) * 2020-10-15 2021-02-19 华为技术有限公司 一种设备控制方法、第一终端设备及第二终端设备
CN112351325A (zh) * 2020-11-06 2021-02-09 惠州视维新技术有限公司 基于手势的显示终端控制方法、终端和可读存储介质

Also Published As

Publication number Publication date
CN112965773A (zh) 2021-06-15

Similar Documents

Publication Publication Date Title
CN107913520B (zh) 信息处理方法、装置、电子设备及存储介质
EP3396511B1 (en) Information processing device and operation reception method
EP3293723A1 (en) Method, storage medium, and electronic device for displaying images
CN109471522B (zh) 用于在虚拟现实中控制指示器的方法和电子设备
KR102499139B1 (ko) 이미지를 표시하는 전자 장치 및 그 제어 방법
CN112965773B (zh) 用于信息显示的方法、装置、设备和存储介质
US9395764B2 (en) Gestural motion and speech interface control method for 3d audio-video-data navigation on handheld devices
KR20160096422A (ko) 화면 표시 방법 및 전자 장치
KR102632270B1 (ko) 전자 장치 및 파노라마 영상 표시와 생성 방법
CN106873886B (zh) 一种立体显示的控制方法、装置和电子设备
US20170154455A1 (en) Electronic device and method for displaying and generating panoramic image
CN111880648A (zh) 一种三维元素的操纵方法和终端
CN112241199B (zh) 虚拟现实场景中的交互方法及装置
CN113559501B (zh) 游戏中的虚拟单位选取方法及装置、存储介质及电子设备
CN109845251B (zh) 用于显示图像的电子设备和方法
CN112987924A (zh) 用于设备交互的方法、装置、设备和存储介质
EP3327551A1 (en) Electronic device for displaying image and method for controlling the same
KR20210129067A (ko) 상호작용 방법, 장치, 상호작용 장치, 전자 장치 및 저장 매체
KR20180036359A (ko) 이미지를 표시하기 위한 방법 및 그 전자 장치
CN115543138A (zh) 显示控制方法和装置、增强现实头戴设备及介质
CN108499102B (zh) 信息界面展示方法及装置、存储介质、电子设备
CN111973984A (zh) 虚拟场景的坐标控制方法、装置、电子设备及存储介质
KR102405385B1 (ko) 3d 컨텐츠를 위한 여러 오브젝트를 생성하는 방법 및 시스템
CN113094282B (zh) 程序块运行方法、装置、设备及存储介质
CN117742554A (zh) 人机交互方法、装置、设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant