CN114691248A - 显示虚拟现实界面的方法、装置、设备和可读存储介质 - Google Patents
显示虚拟现实界面的方法、装置、设备和可读存储介质 Download PDFInfo
- Publication number
- CN114691248A CN114691248A CN202011568857.5A CN202011568857A CN114691248A CN 114691248 A CN114691248 A CN 114691248A CN 202011568857 A CN202011568857 A CN 202011568857A CN 114691248 A CN114691248 A CN 114691248A
- Authority
- CN
- China
- Prior art keywords
- app
- display content
- interface
- carrier object
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000004590 computer program Methods 0.000 claims description 11
- 239000011521 glass Substances 0.000 abstract description 2
- 238000004891 communication Methods 0.000 description 38
- 230000006854 communication Effects 0.000 description 38
- 230000006870 function Effects 0.000 description 35
- 239000010410 layer Substances 0.000 description 34
- 238000007726 management method Methods 0.000 description 22
- 230000000875 corresponding effect Effects 0.000 description 20
- 230000008569 process Effects 0.000 description 20
- 238000012545 processing Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 15
- 238000010295 mobile communication Methods 0.000 description 11
- 230000005236 sound signal Effects 0.000 description 11
- 210000000988 bone and bone Anatomy 0.000 description 10
- 230000000694 effects Effects 0.000 description 9
- 238000009877 rendering Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 6
- 230000001976 improved effect Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 235000008429 bread Nutrition 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000011230 binding agent Substances 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000010009 beating Methods 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000008093 supporting effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
- H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- User Interface Of Digital Computer (AREA)
- Telephone Function (AREA)
Abstract
本申请涉及VR技术领域,提供了一种显示VR界面的方法、装置、设备和可读存储介质,设备可以是手机、平板电脑、可穿戴设备、车载设备、VR头盔、VR眼镜等,该方法包括:通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一应用程序APP的显示内容;通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容;根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容;显示所述VR界面。以上方法可以避免应用切换时的显示中断。
Description
技术领域
本申请涉及VR技术领域,具体涉及一种显示VR界面的方法、装置、设备和可读存储介质。
背景技术
随着虚拟现实(virtual reality,VR)技术的发展,VR应用越来越丰富,人们使用VR设备的场景也越来越多。
通常,第三方应用的VR界面在显示的过程中,采用第三方进程的软件开发工具包(software development kit,SDK)来进行绘制待显示的内容,即,通过VR SDK来绘制需要显示的内容,然后将绘制的结果再进行一次后处理,形成VR图像之后,发送至VR设备进行显示。如果此时系统界面需要显示一些内容,例如弹窗,则需要将弹窗这个显示内容发送给当前的第三方进程的VR SDK进行绘制。
然而,当遇到VR应用切换时,例如用户打开了一个新的VR应用,而系统界面所需要显示的内容已经发送给先前执行的应用的进程进行绘制,无法继续在新切换的应用的界面上显示,影响用户体验。
发明内容
本申请提供了一种显示VR界面的方法、装置、设备和可读存储介质,能够避免切换应用过程中显示中断。
第一方面,提供了一种显示VR界面的方法,包括:通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一应用程序(application,APP)的显示内容;通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容;根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容;显示所述VR界面。
上述第一APP和第二APP可以为不同的APP,该APP可以包括但不限于视频播放APP、游戏程序、系统的短信程序以及摄像机程序等等。上述第一显示内容为第一APP的显示内容,可以包括图片、文字、色彩等;上述第二显示内容为第二APP的显示内容,可以包括包括图片、文字、色彩等;第一显示内容和第二显示内容例如是相机的拍摄界面或者短信的文本内容等等。
本实施例中,可以在终端设备的系统中创建一个新的应用,即创建VR界面绘制的中间层,这个新的应用可以叫作“VrRenderer”。VrRenderer通过第一载体对象获取第一APP的第一显示对象,并通过第二载体调用第二显示内容,该方法无需将第二APP的第二显示内容发送至第一APP,通过第一APP的进程进行VR界面的绘制,而是分别通过两个载体对象获取两个APP的显示内容,并根据这两个APP的显示内容进行VR界面的绘制,得到包括第一显示内容和第二显示内容的VR界面。因此即使在应用切换过程中,也不会出现第一APP的切换导致第二APP的显示内容丢失的情况,避免了应用切换过程中显示内容的中断,因此显示界面持续稳定,提高了用户体验。同时,由于第一APP无法获得第二APP的第二显示内容,第二APP的数据的安全性得到了增强。
可选地,所述通过调用第一载体对象获取第一显示内容,包括:从所述第一APP接收第一载体对象创建请求;根据所述第一载体对象创建请求创建所述第一载体对象,所述第一载体对象用于所述第一APP填充待显示的内容;从所述第一APP接收第一通知消息,所述第一通知消息用于指示所述第一载体对象已被填充;根据所述第一通知消息调用所述第一载体对象,获取所述第一显示内容。
需要说明的是,第一APP可以通过特定的接口或者通道向VrRenderer发送第一载体对象创建请求,当VrRenderer接收到第一载体对象创建请求时,则基于该请求创建空的第一载体对象,然后VrRenderer将建好的第一载体对象返回给第一APP,使得第一APP将第一显示内容填充至第一载体对象,第一APP每填充一次第一载体对象,就通过第一通知消息通知VrRenderer获取第一显示内容,从而实现VR界面的连续显示。本实施例中,VrRenderer通过第一载体对象来获取第一APP的显示内容,第一APP无需将显示内容发送至第三方APP,因此可以避免显示内容的泄露,提高了数据的安全性。
可选地,所述根据所述第一载体对象创建请求创建所述第一载体对象,包括:根据所述第一载体对象创建请求创建第一结构对象;根据所述第一结构对象创建所述第一载体对象。
可选地,所述通过调用第二载体对象获取第二显示内容,包括:从所述第二APP接收第二载体对象创建请求;根据所述第二载体对象创建请求创建所述第二载体对象,所述第二载体对象用于所述第二APP填充待显示的内容;从所述第二APP接收第二通知消息,所述第二通知消息用于指示所述第二载体对象已被填充;根据所述第二通知消息调用所述第二载体对象,获取所述第二显示内容。
需要说明的是,第二APP可以通过特定的接口或者通道向VrRenderer发送第二载体对象创建请求,当VrRenderer接收到第二载体对象创建请求时,则基于该请求创建空的第二载体对象,然后VrRenderer将建好的第二载体对象返回给第二APP,使得第二APP将第二显示内容填充至第二载体对象,第二APP每填充一次第二载体对象,就通过第二通知消息通知VrRenderer获取第二显示内容,从而实现VR界面的连续显示。本实施例中,VrRenderer通过第二载体对象来获取第二APP的显示内容,第二APP无需将显示内容发送至第三方APP,因此可以避免显示内容的泄露,提高了数据的安全性。
可选地,所述根据所述第二载体对象创建请求创建所述第二载体对象,包括:根据所述第二载体对象创建请求创建第二结构对象;根据所述第二结构对象创建所述第二载体对象。
可选地,所述第一APP为VR APP,所述第二APP为系统APP。
本实施例中,当第一APP为VR APP,第二APP为系统APP、例如短信时,如果此时系统APP在视频播放APP的界面上已有显示,则可以在用户切换VR应用时,例如用户将第一APP由视频播放APP切换为游戏APP时,则可以在游戏APP的界面上依然显示短信的弹窗的界面,不会因为切换到游戏APP的界面而短信内容无法显示。该方法能够实现将系统APP的界面和VRAPP的界面持续显示,避免了用户遗漏系统中的信息,并且无需用户关闭当前的VR APP的界面重新打开系统APP,方便了用户对系统APP的操作。
可选地,所述第一载体对象和所述第二载体对象为贴图对象。
上述第一载体对象和第二载体对象为贴图对象,例如可以为surface对象,由于surface对象为具有固定分辨率的对象,因此能够实现不同的APP将需要显示的内容按照固定分辨率进行填充,使得显示内容的调用易于实现。
第二方面,提供了一种显示VR界面的装置,包括由软件和/或硬件组成的单元,该单元用于执行第一方面所述的技术方案中任意一种方法。
第三方面,提供了一种电子设备,包括处理器、存储器和接口,所述处理器、存储器和接口相互配合,该存储器用于存储计算机程序,该处理器用于从存储器中调用并运行该计算机程序,使得该电子设备执行第一方面所述的技术方案中任意一种方法。
第四方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储了计算机程序,当所述计算机程序被处理器执行时,使得该处理器执行第一方面所述的技术方案中任意一种方法。
第五方面,提供了一种计算机程序产品,所述计算机程序产品包括:计算机程序代码,当所述计算机程序代码在终端设备上运行时,使得该终端设备执行第一方面所述的技术方案中任意一种方法。
附图说明
图1是本申请实施例提供的一例终端设备100的结构示意图;
图2是本申请实施例提供的终端设备100的软件结构框图;
图3是本申请实施例提供的一例VR界面的示意图;
图4是本申请实施例提供的一例VR界面的示意图;
图5是本申请实施例提供的一例VR界面的示意图;
图6是本申请实施例提供的一例由第三方APP的SDK绘制VR界面的示意图;
图7是本申请实施例提供的一例由中间层生成VR界面的示意图;
图8是本申请实施例提供的一例中间层的软件架构示意图;
图9是本申请实施例提供的一例获取第一APP的第一显示内容的方法流程示意图;
图10是本申请实施例提供的一例获取第二APP的第二显示内容的方法流程示意图;
图11是本申请实施例提供的一例显示VR界面的方法流程示意图;
图12是本申请实施例提供的一例显示VR界面的时序图;
图13是本申请实施例提供的一例显示VR界面的装置结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。
本申请实施例提供的启动应用程序的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等终端设备上,本申请实施例对终端设备的具体类型不作任何限制。
示例性的,图1是本申请实施例提供的一例终端设备100的结构示意图。终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universalserial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是终端设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其它终端设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其它一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。图1中的天线1和天线2的结构仅为一种示例。终端设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其它功能模块设置在同一个器件中。
无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其它设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。
终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其它数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行终端设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动终端设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测所述触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其它一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
终端设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的Android系统为例,示例性说明终端设备100的软件结构。
图2是本申请实施例的终端设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供终端设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,终端设备振动,指示灯闪烁等。
Android runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
为了便于理解,本申请以下实施例将以具有图1和图2所示结构的终端设备为例,结合附图和应用场景,对本申请实施例提供的显示VR界面的方法进行具体阐述。
通常,VR设备可以通过USB线或无线等方式和终端设备连接,其中,VR设备可以是VR头盔、VR眼镜等设备,终端设备可以是手机、平板等设备。由终端设备通过不同VR应用自带的SDK将VR应用的界面转换为如图3所示的面包图,该图3中,左边是左眼的视图,右边为右眼的视图,终端设备将面包图发送至VR设备,这时人眼通过VR设备才能够看到一个清晰没有畸变的画面。当终端设备的界面此时出现弹窗等,如果终端设备生成的图像如图4所示,用户则无法正常看到这个弹窗的内容。此时终端设备需要将弹窗的内容处理成为如图5所示的图像,即在面包图的左眼的视图和右眼的视图中分别生成弹窗的内容,并对生成的图像进行相应的反畸变才能够让用户清晰地看到弹窗的内容。在这种情况下,弹窗的内容则需要发送至当前使用的第三方APP,由第三方APP的SDK对自身界面和系统弹窗界面进行统一绘制。如图6所示,第三方APP对系统界面的显示内容和第三方APP的显示内容进行渲染,并进行底层送显完成VR界面的显示。
在本申请实施例中,可以在终端设备的系统中创建一个新的应用程序,即创建VR界面绘制的中间层,这个新的应用程序可以叫作“VrRenderer”,VrRenderer通过创建VrRendererService服务来提供服务能力,该VrRenderer可以通过特定的接口、例如onBind接口,来对外提供Binder对象。例如,VrRenderer对外提供的Binder接口为Aidl文件,其中重点接口为requestRendersurface,该接口可以提供VrRenderer和第三方APP之间的交互通道,第三方APP可以通过调用requestRendersurface接口来发送创建载体对象的请求。同样的,系统APP也可以采用相同的方式来调用对应的requestRendersurface接口来发送创建载体对象的请求。如图7所示,中间层(即VrRenderer)将系统界面的显示内容和第三方APP的显示内容进行渲染和底层送显,从而避免第三方APP切换的时候丢失了系统界面的显示内容,也无需将系统界面的显示内容发送至第三方APP,确保了数据的安全。
本申请实施例的软件架构图可以参见图8所示,不同的第三方APP启动对应的活动组件,例如活动组件1(activity1)、活动组件2(activity2)......活动组件N(activityN),然后将各自的显示内容(app content)填充至各自对应的载体对象(例如surface);同时系统界面的显示内容(system UI content)、摄像机显示内容(camera content)以及其它显示内容(other content)均可以通过对应的载体对象进行填充,由作为中间层的VrRenderer调用这多个显示内容并进行一次渲染,即将多个显示内容进行合成,然后将合成的结果发送至系统的VR SDK进行二次渲染,并将渲染得到的VR界面进行显示。
下面结合图9详细介绍本申请提供的显示VR界面的方法,如图9所示,该方法包括:
S901、从所述第一APP接收第一载体对象创建请求。
上述第一APP可以为第三方APP,例如视频播放APP、游戏APP等。当用户启动第三方APP的时候,该第三方APP则可以通过预先建立的通道,或者调用requestRendersurface接口向作为中间层的VrRenderer发送第一载体对象请求,VrRenderer则接收由第三方APP发送的第一载体对象请求。
S902、根据所述第一载体对象创建请求创建所述第一载体对象,所述第一载体对象用于所述第一APP填充待显示的内容。
VrRenderer基于接收到的第一载体对象创建请求,创建第三方APP对应的第一载体对象。
可选地,该第一载体对象可以为贴图对象,例如surface对象,由于surface对象为具有固定分辨率的对象,因此能够实现不同的APP将需要显示的内容按照固定分辨率进行填充,使得显示内容的调用易于实现。
可选地,该第一载体对象的获取方式可以包括:根据第一载体对象创建请求创建第一结构对象;根据第一结构对象创建第一载体对象。
当VrRenderer接收到第三方APP发送的第一载体对象请求时,VrRenderer针对该第三方APP采用OpenGL技术创建对应的第一结构对象,如texture对象,然后基于该第一结构对象进一步创建第一载体对象,例如根据texture对象创建surface对象。该texture对象和surface对象之间存在绑定关系。
这时的第一载体对象是一个空的对象,可以作为第三方APP的显示内容的载体。
S903、从所述第一APP接收第一通知消息,所述第一通知消息用于指示所述第一载体对象已被填充。
VrRenderer将创建好的第一载体对象返回至第三方APP,并由第三方APP将自身的显示内容一帧一帧地填充至空的第一载体对象,第三方APP每填充一次第一载体对象,就向VrRenderer发送第一通知消息通知VrRenderer获取第三方APP的显示内容。每当VrRenderer接收到第一通知消息的时候,则可以确定第一载体对象已经被对应的APP的显示内容填充。
S904、根据所述第一通知消息调用所述第一载体对象,获取所述第一显示内容。
VrRenderer基于接收到第三方APP通知的发送的第一通知消息,不断连续调用updateTeximage的函数,从填充后的第一载体对象中,连续获取第三方APP每帧所填充的第一显示内容,从而实现VR界面的连续显示。
本实施例中,终端设备通过调用VrRenderer的requestRenderSurface服务,实现了基于第三方APP的载体创建请求创建对应的载体对象,能够有针对性的对不同的APP进行载体对象的创建,便于多个APP的载体对象的管理。终端设备通过调用VrRenderer将建好的第一载体对象返回给第一APP,使得第一APP将第一显示内容填充至第一载体对象,第一APP每填充一次第一载体对象,就通过第一通知消息通知VrRenderer获取第一显示内容,从而实现VR界面的连续显示,提升了用户体验。同时,VrRenderer通过第一载体对象来获取第一APP的显示内容,第一APP无需将显示内容发送至第三方APP,因此可以避免显示内容的泄露,提高了数据的安全性。
在一个实施例中,中间层VrRenderer获取作为第二APP的系统APP的第二显示内容的具体过程可以如图10所示,包括:
S1001、从所述第二APP接收第二载体对象创建请求。
上述第二APP可以为系统APP,例如短信APP、摄像头APP等。当用户启动系统APP的时候,该系统APP则可以通过预先建立的通道,或者调用requestRenderSurface接口向作为中间层的VrRenderer发送第二载体对象请求,VrRenderer则接收由系统APP发送的第二载体对象请求。
S1002、根据所述第二载体对象创建请求创建所述第二载体对象,所述第二载体对象用于所述第二APP填充待显示的内容。
VrRenderer基于接收到的第二载体对象创建请求,创建系统APP对应的第二载体对象。
可选地,该第二载体对象可以为贴图对象,例如surface对象,由于surface对象为具有固定分辨率的对象,因此能够实现不同的APP将需要显示的内容按照固定分辨率进行填充,使得显示内容的调用易于实现。可选地,该第二载体对象的获取方式可以包括:根据第二载体对象创建请求创建第二结构对象;根据第二结构对象创建第一载体对象。当VrRenderer接收到系统APP发送的第二载体对象请求时,VrRenderer针对该系统APP采用OpenGL技术创建对应的第二结构对象,如texture对象,然后基于该第二结构对象进一步创建第二载体对象,例如根据texture对象创建surface对象。该texture对象和surface对象之间存在绑定关系。可选地,该第二结构对象可以用来填充第二载体对象中的显示内容。
这时的第二载体对象是一个空的对象,可以作为系统APP的显示内容的载体。
S1003、从所述第二APP接收第二通知消息,所述第二通知消息用于指示所述第二载体对象已被填充。
VrRenderer将创建好的第二载体对象返回至系统APP,并由系统APP将自身的显示内容一帧一帧地填充至空的第二载体对象,系统APP每填充一次第二载体对象,就向VrRenderer发送第二通知消息通知VrRenderer获取系统APP的显示内容。每当VrRenderer从系统APP接收到第二通知消息的时候,则可以确定第二载体对象已经被对应的APP在这一帧的显示内容填充。
S1004、根据所述第二通知消息调用所述第二载体对象,获取所述第二显示内容。
VrRenderer基于接收到的系统APP发送的第二通知消息,不断调用updateTexImage的函数,从填充后的第二载体对象中,连续获取系统APP每帧所填充的第二显示内容,从而实现VR界面的连续显示。
本实施例中,终端设备通过调用VrRenderer的requestRendersurface接口,实现了基于系统APP的载体创建请求创建对应的载体对象,能够有针对性的对不同的APP进行载体对象的创建,便于多个APP的载体对象的管理。VrRenderer将建好的第一载体对象返回给第一APP,使得第一APP将第一显示内容填充至第一载体对象,第一APP每填充一次第一载体对象,就通过第一通知消息通知VrRenderer获取第一显示内容,从而实现VR界面的连续显示,提升了用户体验。同时,VrRenderer通过第一载体对象来获取第一APP的显示内容,第一APP无需将显示内容发送至第三方APP,因此可以避免显示内容的泄露,提高了数据的安全性。
上面具体描述了中间层VrRenderer获取不同APP的显示内容的过程,下面针对中间层VrRenderer显示VR界面的过程进行说明。如图11所示,包括:
S1101、通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一APP的显示内容。
S1102、通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容。
上述第一APP和第二APP可以为不同的APP,可以包括但不限于视频播放APP、游戏程序、系统的短信程序以及摄像机程序等等。上述第一显示内容为第一APP的显示内容,可以包括图片、文字、色彩等;上述第二显示内容为第二APP的显示内容,可以包括包括图片、文字、色彩等,例如相机的拍摄界面或者短信的文本内容等等。
具体的,终端设备可以通过中间层VrRenderer调用第一载体对象获取第一APP的第一显示内容,以及通过调用第二载体对象获取第二APP的第二显示内容。
S1103、根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容。
S1104、显示所述VR界面。
终端设备调用VrRenderer根据这两个APP的显示内容进行VR界面的绘制,得到包括第一显示内容和第二显示内容的VR界面。例如是首先进行一次渲染,即将第一显示内容和第二显示内容进行叠加合成,使得渲染的图像结果中包括第一显示内容和第二显示内容,然后再进行二次渲染,生成VR设备所用的VR界面,之后可以将这个VR界面发送至VR设备进行显示。
本实施例中,终端设备无需将第二APP的第二显示内容发送至第一APP,通过第一APP的进程进行VR界面的绘制,而是分别通过两个载体对象获取两个APP的显示内容,并根据这两个APP的显示内容进行VR界面的绘制,得到包括第一显示内容和第二显示内容的VR界面并显示该VR界面。该方法由于无需将第二APP的第二显示内容发送至第一APP进行绘制,因此即使在应用切换过程中,也不会出现第一APP的切换导致第二APP的显示内容丢失的情况,避免了应用切换过程中显示内容的中断,实现了跨进程的显示界面的传递,因此在进程切换时显示界面持续稳定,提高了用户体验。同时,由于第一APP无法获得第二APP的第二显示内容,第二APP的数据的安全性得到了增强。
在一个实施例中,当第一APP为VR APP,即对VR设备配备的第三方APP、如视频播放APP或游戏APP等,第二APP为系统APP、例如短信时,如果此时系统APP在视频播放APP的界面上已有显示,则可以在用户切换VR应用时,例如用户将第一APP由视频播放APP切换为游戏APP时,则可以在游戏APP的界面上的依然显示短信的弹窗的界面,不会因为切换到游戏APP的界面而短信内容无法显示。该方法能够实现将系统APP的界面和VR APP的界面持续显示,避免了用户遗漏系统中的信息,并且无需用户关闭当前的VR APP的界面重新打开系统APP,方便了用户对系统APP的操作。
在一个实施例中,作为第一APP地第三方APP、作为中间层的VrRenderer和作为第二APP地系统APP之间的时序图还可以如图12所示。首先VrRenderer启动服务,第三方APP和系统APP分别启动各自的活动组件,第三方APP和系统APP分别向VrRenderer发送绑定服务(binder service)的请求,由VrRenderer分别返回各APP对应的提供服务的接口,即IVrRendererService,此时VrRenderer分别与第三方APP和系统APP之间的交互通道建立。第三方APP和系统APP分别通过各自的交互通道,即通过访问requestRenderService接口来发送获取surface对象的请求,基于这个请求,VrRenderer针对请求的APP创建针对APP的texture对象,并根据texture对象创建APP对应的surface对象,然后将创建好的surface对象返回给对应的APP。第三方APP和系统APP在每一帧分别各自填充对应的surface并向VrRenderer发送通知消息(notify),VrRenderer在每一帧的通知消息到来时,调用更新函数(updateTexIimage)来获取各APP的每一帧的显示内容。最后VrRenderer对所获取到的显示内容进行绘制,从而得到最终的VR界面。图12中仅以一个第三方APP和一个系统APP为例进行了说明,事实上,VrRenderer可以实现更多的APP的显示内容的绘制,从而使得VR界面更丰富。
上文详细介绍了本申请提供的显示VR界面的方法的示例。可以理解的是,相应的装置为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请可以根据上述方法示例对显示VR界面的装置进行功能模块的划分,例如,可以将各个功能划分为各个功能模块,也可以将两个或两个以上的功能集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
图13示出了本申请提供的一种显示VR界面装置1300的结构示意图。装置1300包括:
第一获取模块1301,用于通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一应用程序APP的显示内容。
第二获取模块1302,用于通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容。
生成模块1303,用于根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容。
显示模块1304,用于显示所述VR界面。
在一个实施例中,第一获取模块1301,具体用于从所述第一APP接收第一载体对象创建请求;根据所述第一载体对象创建请求创建所述第一载体对象,所述第一载体对象用于所述第一APP填充待显示的内容;从所述第一APP接收第一通知消息,所述第一通知消息用于指示所述第一载体对象已被填充;根据所述第一通知消息调用所述第一载体对象,获取所述第一显示内容。
在一个实施例中,第一获取模块1301,具体用于根据所述第一载体对象创建请求创建第一结构对象;根据所述第一结构对象创建所述第一载体对象。
在一个实施例中,第二获取模块1302,具体用于从所述第二APP接收第二载体对象创建请求;根据所述第二载体对象创建请求创建所述第二载体对象,所述第二载体对象用于所述第二APP填充待显示的内容;从所述第二APP接收第二通知消息,所述第二通知消息用于指示所述第二载体对象已被填充;根据所述第二通知消息调用所述第二载体对象,获取所述第二显示内容。
在一个实施例中,第二获取模块1302,具体用于根据所述第二载体对象创建请求创建第二结构对象;根据所述第二结构对象创建所述第二载体对象。
在一个实施例中,所述第一APP为VR APP,所述第二APP为系统APP。
在一个实施例中,所述第一载体对象和所述第二载体对象为贴图对象。
本申请实施例还提供了一种电子设备,包括上述处理器。本实施例提供的电子设备可以是图1所示的终端设备100,用于执行上述显示VR界面的方法。在采用集成的单元的情况下,终端设备可以包括处理器、存储器和接口。其中,处理模块可以用于对终端设备的动作进行控制管理,例如,可以用于支持终端设备执行显示单元、检测单元和处理单元执行的步骤。存储模块可以用于支持终端设备执行存储程序代码和数据等。通信模块,可以用于支持终端设备与其它设备的通信。
其中,处理模块可以是处理器或控制器。其可以实现或执行结合本申请公开内容所描述的各种示例性的逻辑方框,模块和电路。处理器也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,数字信号处理(digital signal processing,DSP)和微处理器的组合等等。存储模块可以是存储器。通信模块具体可以为射频电路、蓝牙芯片、Wi-Fi芯片等与其它终端设备交互的设备。
在一个实施例中,当处理模块为处理器,存储模块为存储器时,本实施例所涉及的终端设备可以为具有图1所示结构的设备。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行上述任一实施例所述的显示VR界面的方法。
本申请实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的显示VR界面的方法。
其中,本实施例提供的电子设备、计算机可读存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种显示虚拟现实VR界面的方法,其特征在于,包括:
通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一应用程序APP的显示内容;
通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容;
根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容;
显示所述VR界面。
2.根据权利要求1所述的方法,其特征在于,所述通过调用第一载体对象获取第一显示内容,包括:
从所述第一APP接收第一载体对象创建请求;
根据所述第一载体对象创建请求创建所述第一载体对象,所述第一载体对象用于所述第一APP填充待显示的内容;
从所述第一APP接收第一通知消息,所述第一通知消息用于指示所述第一载体对象已被填充;
根据所述第一通知消息调用所述第一载体对象,获取所述第一显示内容。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一载体对象创建请求创建所述第一载体对象,包括:
根据所述第一载体对象创建请求创建第一结构对象;
根据所述第一结构对象创建所述第一载体对象。
4.根据权利要求1至3任一项所述的方法,其特征在于,所述通过调用第二载体对象获取第二显示内容,包括:
从所述第二APP接收第二载体对象创建请求;
根据所述第二载体对象创建请求创建所述第二载体对象,所述第二载体对象用于所述第二APP填充待显示的内容;
从所述第二APP接收第二通知消息,所述第二通知消息用于指示所述第二载体对象已被填充;
根据所述第二通知消息调用所述第二载体对象,获取所述第二显示内容。
5.根据权利要求4所述的方法,其特征在于,所述根据所述第二载体对象创建请求创建所述第二载体对象,包括:
根据所述第二载体对象创建请求创建第二结构对象;
根据所述第二结构对象创建所述第二载体对象。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述第一APP为VR APP,所述第二APP为系统APP。
7.根据权利要求1至6任一项所述的方法,其特征在于,所述第一载体对象和所述第二载体对象为贴图对象。
8.一种显示虚拟现实VR界面的装置,其特征在于,包括:
第一获取模块,用于通过调用第一载体对象获取第一显示内容,所述第一显示内容为第一应用程序APP的显示内容;
第二获取模块,用于通过调用第二载体对象获取第二显示内容,所述第二显示内容为第二APP的显示内容;
生成模块,用于根据所述第一显示内容和所述第二显示内容生成VR界面,所述VR界面包括所述第一显示内容和第二显示内容;
显示模块,用于显示所述VR界面。
9.一种电子设备,其特征在于,包括:处理器、存储器和接口;
所述处理器、存储器和接口相互配合,所述处理器用于执行如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储了计算机程序,当所述计算机程序被处理器执行时,使得处理器执行权利要求1至7中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011568857.5A CN114691248B (zh) | 2020-12-25 | 2020-12-25 | 显示虚拟现实界面的方法、装置、设备和可读存储介质 |
PCT/CN2021/137278 WO2022135195A1 (zh) | 2020-12-25 | 2021-12-11 | 显示虚拟现实界面的方法、装置、设备和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011568857.5A CN114691248B (zh) | 2020-12-25 | 2020-12-25 | 显示虚拟现实界面的方法、装置、设备和可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114691248A true CN114691248A (zh) | 2022-07-01 |
CN114691248B CN114691248B (zh) | 2024-04-12 |
Family
ID=82129925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011568857.5A Active CN114691248B (zh) | 2020-12-25 | 2020-12-25 | 显示虚拟现实界面的方法、装置、设备和可读存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114691248B (zh) |
WO (1) | WO2022135195A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116684517A (zh) * | 2022-09-29 | 2023-09-01 | 荣耀终端有限公司 | 发送响应消息的方法和装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110114746A (zh) * | 2017-01-04 | 2019-08-09 | 武汉六为科技有限公司 | 显示虚拟现实画面的方法和虚拟现实设备 |
CN110347305A (zh) * | 2019-05-30 | 2019-10-18 | 华为技术有限公司 | 一种vr多屏显示方法及电子设备 |
US20200066043A1 (en) * | 2018-08-21 | 2020-02-27 | Disney Enterprises, Inc. | Multi-screen interactions in virtual and augmented reality |
-
2020
- 2020-12-25 CN CN202011568857.5A patent/CN114691248B/zh active Active
-
2021
- 2021-12-11 WO PCT/CN2021/137278 patent/WO2022135195A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110114746A (zh) * | 2017-01-04 | 2019-08-09 | 武汉六为科技有限公司 | 显示虚拟现实画面的方法和虚拟现实设备 |
US20200066043A1 (en) * | 2018-08-21 | 2020-02-27 | Disney Enterprises, Inc. | Multi-screen interactions in virtual and augmented reality |
CN110347305A (zh) * | 2019-05-30 | 2019-10-18 | 华为技术有限公司 | 一种vr多屏显示方法及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2022135195A1 (zh) | 2022-06-30 |
CN114691248B (zh) | 2024-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110417991B (zh) | 一种录屏方法及电子设备 | |
CN112130742B (zh) | 一种移动终端的全屏显示方法及设备 | |
CN110114747B (zh) | 一种通知处理方法及电子设备 | |
CN109559270B (zh) | 一种图像处理方法及电子设备 | |
CN114546190A (zh) | 一种应用显示方法及电子设备 | |
CN112399390B (zh) | 一种蓝牙回连的方法及相关装置 | |
CN113722058B (zh) | 一种资源调用方法及电子设备 | |
CN113448382B (zh) | 多屏幕显示电子设备和电子设备的多屏幕显示方法 | |
CN115129196A (zh) | 一种应用图标的显示方法及终端 | |
CN114995715B (zh) | 悬浮球的控制方法和相关装置 | |
CN114089932A (zh) | 多屏显示方法、装置、终端设备及存储介质 | |
EP3951588A1 (en) | Method for displaying foreground element, and electronic device | |
CN114461057A (zh) | Vr显示控制方法、电子设备及计算机可读存储介质 | |
CN113438366B (zh) | 信息通知的交互方法、电子设备和存储介质 | |
CN114756184A (zh) | 协同显示方法、终端设备及计算机可读存储介质 | |
CN114064160A (zh) | 应用图标布局方法及相关装置 | |
WO2022135195A1 (zh) | 显示虚拟现实界面的方法、装置、设备和可读存储介质 | |
CN114827098A (zh) | 合拍的方法、装置、电子设备和可读存储介质 | |
CN114828098A (zh) | 数据传输方法和电子设备 | |
CN113495733A (zh) | 主题包安装方法、装置、电子设备及计算机可读存储介质 | |
CN110737916A (zh) | 通信终端及处理方法 | |
CN116048831B (zh) | 一种目标信号处理方法和电子设备 | |
CN117850989A (zh) | 一种服务调用方法、系统和电子设备 | |
CN115495716A (zh) | 一种本地鉴权方法和电子设备 | |
CN115048193A (zh) | 一种多设备分布式调度方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |