CN114708289A - 一种图像帧预测的方法及电子设备 - Google Patents
一种图像帧预测的方法及电子设备 Download PDFInfo
- Publication number
- CN114708289A CN114708289A CN202011493948.7A CN202011493948A CN114708289A CN 114708289 A CN114708289 A CN 114708289A CN 202011493948 A CN202011493948 A CN 202011493948A CN 114708289 A CN114708289 A CN 114708289A
- Authority
- CN
- China
- Prior art keywords
- frame
- electronic device
- result
- memory space
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Generation (AREA)
Abstract
一种图像帧预测的方法及电子设备,在该方法中,在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令绘制的绘制内容到根据默认内存空间放大后的内存空间中,得到第一绘制结果,在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到根据默认内存空间放大后的内存空间中,得到第二绘制结果;电子设备根据第一绘制结果和第二绘制结果,在根据默认内存空间放大后的内存空间中生成第三绘制结果;电子设备将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。实施本申请提供的技术方案,电子设备可以更为准确地预测图像帧,并利用预测的图像帧提升应用的播放视频的帧率,从而可以提升视频界面的流畅度。
Description
技术领域
本申请涉及电子技术领域,以及图像处理领域,尤其涉及一种图像帧预测的方法及电子设备。
背景技术
电子设备显示的视频界面(电视剧、电影等视频播放界面、游戏画面等)本质是一张张连续的图片。以游戏画面为例,游戏画面的帧率越高,电子设备显示的游戏画面越流畅,用户视觉体验越好。对于需要实时渲染的游戏画面,帧率越高,电子设备的需要应用(视频应用、游戏应用等等)绘制和渲染的图像帧(简称绘制帧)越多,电子设备的功耗越大。由此,如何在节约电子设备功耗的情况下,提高电子设备显示的视频界面流畅度是亟待解决的问题。
发明内容
本申请提供了一种图像帧预测的方法及电子设备,可以在节约的电子设备功耗的情况下,提高电子设备显示的视频界面流畅度。
第一方面,本申请实施例提供了一种图像帧预测的方法,该方法可以包括:在绘制第一应用的第一绘制帧时,电子设备将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,第一绘制范围的尺寸大于第一应用的第一绘制帧的尺寸;在绘制第一应用的第二绘制帧时,电子设备将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,第二内存空间的尺寸大于所述第二绘制帧的尺寸,其中,第一绘制帧的尺寸与第二绘制帧的尺寸相同;电子设备根据第一绘制结果和所述第二绘制结果,预测生成第一应用的第三预测帧,其中,第三预测帧的尺寸与第一绘制帧的尺寸相同。
这样,电子设备可以得到预测帧。在不增加绘制帧的情况下,可以提高电子设备的帧率。这样,在节约电子设备功耗的情况下,可以提高电子设备显示的视频界面流畅度。进一步地,电子设备预测出的预测帧中可以存在电子设备显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,电子设备预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,电子设备预测出的图像帧可以更为准确。
结合第一方面,在一种可能的实现方式中,电子设备将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:电子设备将第一应用下发的第一绘制帧的第一绘制指令中第一参数修改为第一绘制范围;第一参数用于设置第一绘制帧的绘制范围尺寸;电子设备将修改后的第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果。
结合第一方面,在一种可能的实现方式中,第一绘制范围的尺寸大于第一应用的第一绘制帧的尺寸,具体包括:第一绘制范围的宽度为第一绘制帧的宽度的K3倍,第一绘制范围的高度为第一绘制帧的高度的K4倍,K3、K4大于1。
结合第一方面,在一种可能的实现方式中,K3、K4由电子设备的系统配置的固定值,或由电子设备根据第一绘制帧的绘制指令中包含的绘制参数确定。
结合第一方面,在一种可能的实现方式中,电子设备将修改后第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:电子设备根据K3、K4生成第一转换矩阵,电子设备将修改后的第一绘制帧的绘制指令中的绘制内容的大小根据第一转换矩阵调整后绘制到第一绘制范围中,得到第一绘制结果。
结合第一方面,在一种可能的实现方式中,电子设备将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第一绘制结果,具体包括:电子设备将第一应用下发的第二绘制帧的第二绘制指令中第二参数修改为第二绘制范围;第二参数用于设置第二绘制帧的绘制范围尺寸;电子设备将修改后的第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果。
结合第一方面,在一种可能的实现方式中,第二绘制范围的尺寸大于第一应用的第二绘制帧的尺寸,具体包括:第二绘制范围的宽度为第二绘制帧的宽度的K5倍,第二绘制范围的高度为第二绘制帧的高度的K6倍,K5、K6大于1。
结合第一方面,在一种可能的实现方式中,K5、K6由电子设备的系统配置的固定值,或由电子设备根据第一绘制帧的绘制指令中包含的绘制参数确定。
结合第一方面,在一种可能的实现方式中,电子设备将修改后的第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,具体包括:电子设备根据K5、K6生成第二转换矩阵,电子设备将修改后的第二绘制帧的绘制指令中的绘制内容的大小根据第二转换矩阵调整后绘制到第二绘制范围中,得到第一绘制结果。
结合第一方面,在一种可能的实现方式中,电子设备根据第一绘制结果和第二绘制结果,预测生成第一应用的第三预测帧,具体包括:现在设备根据第一绘制结果和第二绘制结果,预测生成第三预测帧的第三绘制结果;电子设备将第三绘制结果剪切为第三预测帧。
结合第一方面,在一种可能的实现方式中,电子设备根据第一绘制结果和第二绘制结果,预测生成所述第三预测帧的第三绘制结果,具体包括:电子设备根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量;电子设备根据第二绘制结果和第一运动向量,预测生成第三预测帧的第三绘制结果。
结合第一方面,在一种可能的实现方式中,电子设备根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量,具体包括:电子设备将第二绘制结果分成Q个像素块,电子设备在第二绘制结果的Q个像素块中取出第一像素块;电子设备在第一绘制结果中确定出与第一像素块匹配的第二像素块;电子设备根据第二像素块到第一像素块的位移得到第一像素块的运动向量;电子设备根据第一像素块的运动向量确定第二绘制结果的第一运动向量。
结合第一方面,在一种可能的实现方式中,电子设备在第一绘制结果中确定出与第一像素块匹配的第二像素块,具体包括:电子设备通过第一像素块中的第一像素点在第一绘制结果中确定出多个候选像素块;电子设备分别计算出多个候选像素块与第一像素块的颜色值的差值;电子设备根据多个候选像素块第一像素块的颜色值的差值确定出与第一像素块匹配的第二像素块,第二像素块为多个候选像素块中与第一像素块的颜色值的差值最小的候选像素块。
结合第一方面,在一种可能的实现方式中,在绘制第一应用的第一绘制帧时,电子设备将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:在绘制第一应用的第一绘制帧时,电子设备在第一内存空间中将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,第一内存空间的尺寸大于或等于第一绘制范围的尺寸。
结合第一方面,在一种可能的实现方式中,在绘制第一应用的第二绘制帧时,电子设备将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,具体包括:在绘制第一应用的第二绘制帧时,电子设备在第二内存空间中将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,第二内存空间的尺寸大于或等于第二绘制范围的尺寸。
结合第一方面,在一种可能的实现方式中,电子设备根据第二绘制结果和第一运动向量,预测生成第三预测帧的第三绘制结果,具体包括:电子设备根据第二绘制结果和第一运动向量,按照第三绘制范围预测生成第三绘制结果;其中,第三绘制范围的尺寸大于第三预测帧的尺寸。
结合第一方面,在一种可能的实现方式中,在绘制第一应用的第一绘制帧时,电子设备将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果之后,方法还包括:电子设备将第一绘制结果剪切成第一绘制帧。
结合第一方面,在一种可能的实现方式中,在绘制第一应用的第二绘制帧时,电子设备将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果之后,方法还包括:电子设备将第二绘制结果剪切成第二绘制帧。
第二方面,本申请提供了一种图像帧预测的方法,该方法可以包括:在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,第一内存空间的尺寸大于默认内存空间的尺寸,默认内存空间为电子设备系统提供的存储用于显示的图像帧的内存空间;在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,第二内存空间的尺寸大于默认内存空间的尺寸;电子设备根据第一绘制结果和所述第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸;电子设备将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。
这样,电子设备可以得到预测帧。在不增加绘制帧的情况下,可以提高电子设备的帧率。这样,在节约电子设备功耗的情况下,可以提高电子设备显示的视频界面流畅度。进一步地,电子设备预测出的预测帧中可以存在电子设备显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,电子设备预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,电子设备预测出的图像帧可以更为准确。
结合第二方面,在一种可能的实现方式中,第一内存空间的尺寸大于默认内存空间的尺寸,具体包括:第一内存空间的第一尺寸是默认内存空间的第三尺寸的K1倍,第一内存空间的第二尺寸是默认内存空间的第四尺寸的K2倍,K1、K2大于1。
第二内存空间的尺寸大于默认内存空间的尺寸,具体包括:第二内存空间的第五尺寸是默认内存空间的第三尺寸的K1倍,第二内存空间的第五尺寸是默认内存空间的第四尺寸的K2倍。
第三内存空间的尺寸大于默认内存空间的尺寸,具体包括:第三内存空间的第七尺寸是默认内存空间的第三尺寸的K1倍,第三内存空间的第八尺寸是默认内存空间的第四尺寸的K2倍。
这里,第一内存空间的第一尺寸可以是第一内存空间的宽度,第一内存空间的第二尺寸可以是第一内存空间的高度。默认内存空间的第三尺寸可以是默认内存空间的宽度,默认内存空间的第四尺寸可以是默认内存空间的高度。第二内存空间的第五尺寸可以是第二内存空间的宽度,第二内存空间的第六尺寸可以是第二内存空间的高度。第三内存空间的第七尺寸可以是第三内存空间的宽度,第三内存空间的第八尺寸可以是第三内存空间的高度。这样,电子设备可以按照不同的尺寸来放大第一内存空间的宽度和高度。电子设备可以按照不同的尺寸来放大第二内存空间的宽度和高度。电子设备可以按照不同的尺寸来放大第三内存空间的宽度和高度。
结合第二方面,在一种可能的实现方式中,在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,具体包括:在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间的第一绘制范围中,得到第一绘制结果;第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于默认内存空间的尺寸。
结合第二方面,在一种可能的实现方式中,第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于所述默认内存空间的尺寸,具体包括:第一绘制范围的第九尺寸是默认内存空间的第三尺寸的K3倍,第一绘制范围的第十尺寸是默认内存空间的第四尺寸的K4倍,K3大于1,且小于或等于K1,K4大于1,且小于或等于K2。
第一绘制范围的第九尺寸可以是第一绘制范围的宽度,第一绘制范围的第十尺寸可以第一绘制范围的高度。
结合第二方面,在一种可能的实现方式中,K3等于K1,K4等于K1,K1、K2、K3、K4为电子设备的系统配置的固定值。电子设备可以根据经验值配置K1、K2、K3、K4。电子设备直接配置固定值可以减小计算量。
结合第二方面,在一种可能的实现方式中,K3和K4由电子设备根据第一绘制帧的绘制指令中包含的绘制参数确定。这样,电子设备设置的K3和K4可以根据第一绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,电子设备对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第二方面,在一种可能的实现方式中,在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,具体包括:在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间的第二绘制范围中,得到第二绘制结果;第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸。
结合第二方面,在一种可能的实现方式中,第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸,具体包括:第二绘制范围的第十一尺寸是默认内存空间的第三尺寸的K5倍,第二绘制范围的第十二尺寸是默认内存空间的第四尺寸的K6倍,K5大于1,且小于或等于K1,K6大于1,且小于或等于K2。
第二绘制范围的第十一尺寸可以是第二绘制范围的宽度,第二绘制范围的第十二尺寸可以是第二绘制范围的高度。
结合第二方面,在一种可能的实现方式中,K5和K6为电子设备的系统配置的固定值。电子设备直接配置固定值可以减小计算量。
结合第二方面,在一种可能的实现方式中,K5和K6由电子设备根据第二绘制帧的绘制指令中包含的绘制参数确定。这样,电子设备设置的K5和K6可以根据第二绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,电子设备对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第二方面,在一种可能的实现方式中,电子设备根据第一绘制结果和第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸,具体包括:电子设备根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量;电子设备根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果。这样,电子设备可以根据第一绘制帧和第二绘制帧预测出第三预测帧的第三绘制结果。
结合第二方面,在一种可能的实现方式中,电子设备根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量,具体包括:电子设备将第二绘制结果分成Q个像素块,电子设备在第二绘制结果的Q个像素块中取出第一像素块;电子设备在第一绘制结果中确定出与第一像素块匹配的第二像素块;电子设备根据第二像素块到第一像素块的位移得到第一像素块的运动向量;电子设备根据第一像素块的运动向量确定第二绘制结果的第一运动向量。按照该实现方式中的步骤,电子设备可以确定第二绘制结果的Q个像素块中所有像素块的运动向量。每个像素块中包括f*f(例如,16*16)个像素点。
上述实现方式中,电子设备将第二绘制结果分块来计算运动向量,不用去计算第二绘制结果中每个像素点的运动向量。这样可以减少计算量,从而降低电子设备的功耗。
结合第二方面,在一种可能的实现方式中,电子设备在第一绘制结果中确定出与第一像素块匹配的第二像素块,具体包括:电子设备通过第一像素块中的第一像素点在第一绘制结果中确定出多个候选像素块;电子设备分别计算出多个候选像素块与第一像素块的颜色值的差值;电子设备根据多个候选像素块第一像素块的颜色值的差值确定出与第一像素块匹配的第二像素块,第二像素块为多个候选像素块中与第一像素块的颜色值的差值最小的候选像素块。
这样,电子设备可以更为准确地找到每个像素块的匹配像素块,从而能够更准确地计算出每个像素块的运动向量。
结合第二方面,在一种可能的实现方式中,电子设备根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果,具体包括:电子设备根据第一运动向量确定第三绘制结果的运动向量,根据第二绘制结果和第三绘制结果的运动向量生成第三绘制结果。第三绘制结果的运动向量为第一运动向量的G倍,G大于0小于1。
结合第二方面,在一种可能的实现方式中,G等于0.5。这样,每一帧图像帧中的对象为匀速移动,便于电子设备计算,也可以使得用户在观看视频时的体验更好。
结合第二方面,在一种可能的实现方式中,电子设备根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果,具体包括:电子设备根据第二绘制结果和第一运动向量,在第三内存空间的第三绘制范围内生成第三绘制结果;第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于默认内存空间的尺寸。
结合第二方面,在一种可能的实现方式中,第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于第三内存空间的尺寸,具体包括:第三绘制范围的第十三尺寸是默认内存空间的第三尺寸的K7倍,第三绘制范围的第十四尺寸是默认内存空间的第四尺寸的K8倍,K7大于1,且小于或等于K1,K8大于1,且小于或等于K2。
第三绘制范围的第十三尺寸可以是第三绘制范围的宽度,第三绘制范围的第十四尺寸可以是第三绘制范围的高度。
结合第二方面,在一种可能的实现方式中,在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果之前,该方法还可以包括:电子设备创建第一内存空间,第二内存空间,第三内存空间,第一内存空间可以用于存储第一绘制帧的第一绘制结果,第二内存空间可以用于存储第二绘制帧的第二绘制结果,第三内存空间可以用于存储第三预测帧的第三绘制结果。
结合第二方面,在一种可能的实现方式中,在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果之后,方法还包括:电子设备将第一绘制结果剪切成与默认内存空间的尺寸相同,得到第一绘制帧。
结合第二方面,在一种可能的实现方式中,在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果之后,方法还可以包括:电子设备将第二绘制结果剪切成与默认内存空间的尺寸相同,得到第二绘制帧。
第三方面,提供一种电子设备,该电子设备可以包括:一个或多个处理器和存储器;改存储器与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,一个或多个处理器调用计算机指令以使得电子设备执行如第二方面和第二方面任一种可能方式中的方法。
第四方面,提供一种电子设备,包括:一个或多个处理器CPU、图形处理器GPU、存储器和显示屏;存储器与一个或多个处理器耦合;CPU与GPU耦合;其中:
存储器可以用于存储计算机程序代码,计算机程序代码包括计算机指令;CPU可以用于在绘制第一绘制帧时,指示GPU执行绘制,在绘制第二绘制时,指示GPU执行绘制;
这样,电子设备可以得到预测帧。在不增加绘制帧的情况下,可以提高电子设备的帧率。这样,在节约电子设备功耗的情况下,可以提高电子设备显示的视频界面流畅度。进一步地,电子设备预测出的预测帧中可以存在电子设备显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,电子设备预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,电子设备预测出的图像帧可以更为准确。
结合第四方面,在一种可能的实现方式中,GPU可以用于在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,第一内存空间的尺寸大于默认内存空间的尺寸,默认内存空间为电子设备系统提供的存储用于显示的图像帧的内存空间;在绘制第二绘制帧时,将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,第二内存空间的尺寸大于默认内存空间的尺寸;根据第一绘制结果和所述第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸;将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。
结合第四方面,在一种可能的实现方式中,第一内存空间的尺寸大于默认内存空间的尺寸,具体包括:第一内存空间的第一尺寸是默认内存空间的第三尺寸的K1倍,第一内存空间的第二尺寸是默认内存空间的第四尺寸的K2倍,K1、K2大于1。
第二内存空间的尺寸大于默认内存空间的尺寸,具体包括:第二内存空间的第五尺寸是默认内存空间的第三尺寸的K1倍,第二内存空间的第五尺寸是默认内存空间的第四尺寸的K2倍。
第三内存空间的尺寸大于默认内存空间的尺寸,具体包括:第三内存空间的第七尺寸是默认内存空间的第三尺寸的K1倍,第三内存空间的第八尺寸是默认内存空间的第四尺寸的K2倍。
这里,第一内存空间的第一尺寸可以是第一内存空间的宽度,第一内存空间的第二尺寸可以是第一内存空间的高度。默认内存空间的第三尺寸可以是默认内存空间的宽度,默认内存空间的第四尺寸可以是默认内存空间的高度。第二内存空间的第五尺寸可以是第二内存空间的宽度,第二内存空间的第六尺寸可以是第二内存空间的高度。第三内存空间的第七尺寸可以是第三内存空间的宽度,第三内存空间的第八尺寸可以是第三内存空间的高度。这样,电子设备可以按照不同的尺寸来放大第一内存空间的宽度和高度。电子设备可以按照不同的尺寸来放大第二内存空间的宽度和高度。电子设备可以按照不同的尺寸来放大第三内存空间的宽度和高度。
结合第四方面,在一种可能的实现方式中,GPU还可以用于:在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间的第一绘制范围中,得到第一绘制结果;第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于默认内存空间的尺寸。
结合第四方面,在一种可能的实现方式中,第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于所述默认内存空间的尺寸,具体包括:第一绘制范围的第九尺寸是默认内存空间的第三尺寸的K3倍,第一绘制范围的第十尺寸是默认内存空间的第四尺寸的K4倍,K3大于1,且小于或等于K1,K4大于1,且小于或等于K2。
第一绘制范围的第九尺寸可以是第一绘制范围的宽度,第一绘制范围的第十尺寸可以第一绘制范围的高度。
结合第四方面,在一种可能的实现方式中,K3等于K1,K4等于K1,K1、K2、K3、K4为电子设备的系统配置的固定值。电子设备可以根据经验值配置K1、K2、K3、K4。电子设备直接配置固定值可以减小计算量。
结合第四方面,在一种可能的实现方式中,K3和K4由电子设备根据第一绘制帧的绘制指令中包含的绘制参数确定。这样,电子设备设置的K3和K4可以根据第一绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,电子设备对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第四方面,在一种可能的实现方式中,GPU还可以用于:在绘制第二绘制帧时,将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间的第二绘制范围中,得到第二绘制结果;第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸。
结合第四方面,在一种可能的实现方式中,第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸,具体包括:第二绘制范围的第十一尺寸是默认内存空间的第三尺寸的K5倍,第二绘制范围的第十二尺寸是默认内存空间的第四尺寸的K6倍,K5大于1,且小于或等于K1,K6大于1,且小于或等于K2。
第二绘制范围的第十一尺寸可以是第二绘制范围的宽度,第二绘制范围的第十二尺寸可以是第二绘制范围的高度。
结合第四方面,在一种可能的实现方式中,K5和K6为电子设备的系统配置的固定值。电子设备直接配置固定值可以减小计算量。
结合第四方面,在一种可能的实现方式中,K5和K6由电子设备根据第二绘制帧的绘制指令中包含的绘制参数确定。这样,电子设备设置的K5和K6可以根据第二绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,电子设备对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第四方面,在一种可能的实现方式中,GPU可以用于:根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量;根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果。这样,GPU可以根据第一绘制帧和第二绘制帧预测出第三预测帧的第三绘制结果。
结合第四方面,在一种可能的实现方式中,GPU可以用于:电子设备将第二绘制结果分成Q个像素块,在第二绘制结果的Q个像素块中取出第一像素块在第一绘制结果中确定出与第一像素块匹配的第二像素块;根据第二像素块到第一像素块的位移得到第一像素块的运动向量;根据第一像素块的运动向量确定第二绘制结果的第一运动向量。按照该实现方式中的步骤,GPU可以确定第二绘制结果的Q个像素块中所有像素块的运动向量。每个像素块中包括f*f(例如,16*16)个像素点。
上述实现方式中,GPU将第二绘制结果分块来计算运动向量,不用去计算第二绘制结果中每个像素点的运动向量。这样可以减少计算量,从而降低电子设备中GPU的功耗。
结合第四方面,在一种可能的实现方式中,GPU可以用于:通过第一像素块中的第一像素点在第一绘制结果中确定出多个候选像素块;分别计算出多个候选像素块与第一像素块的颜色值的差值;根据多个候选像素块第一像素块的颜色值的差值确定出与第一像素块匹配的第二像素块,第二像素块为多个候选像素块中与第一像素块的颜色值的差值最小的候选像素块。
这样,电子设备中的GPU可以更为准确地找到每个像素块的匹配像素块,从而能够更准确地计算出每个像素块的运动向量。
结合第四方面,在一种可能的实现方式中,GPU可以用于:根据第一运动向量确定第三绘制结果的运动向量,根据第二绘制结果和第三绘制结果的运动向量生成第三绘制结果。第三绘制结果的运动向量为第一运动向量的G倍,G大于0小于1。
结合第四方面,在一种可能的实现方式中,G等于0.5。这样,每一帧图像帧中的对象为匀速移动,便于电子设备中GPU的计算,也可以使得用户在观看视频时的体验更好。
结合第四方面,在一种可能的实现方式中,GPU还可以用于:根据第二绘制结果和第一运动向量,在第三内存空间的第三绘制范围内生成第三绘制结果;第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于默认内存空间的尺寸。
结合第四方面,在一种可能的实现方式中,第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于第三内存空间的尺寸,具体包括:第三绘制范围的第十三尺寸是默认内存空间的第三尺寸的K7倍,第三绘制范围的第十四尺寸是默认内存空间的第四尺寸的K8倍,K7大于1,且小于或等于K1,K8大于1,且小于或等于K2。
第三绘制范围的第十三尺寸可以是第三绘制范围的宽度,第三绘制范围的第十四尺寸可以是第三绘制范围的高度。
结合第四方面,在一种可能的实现方式中,GPU可以用于:创建第一内存空间,第二内存空间,第三内存空间,第一内存空间可以用于存储第一绘制帧的第一绘制结果,第二内存空间可以用于存储第二绘制帧的第二绘制结果,第三内存空间可以用于存储第三预测帧的第三绘制结果。
结合第四方面,在一种可能的实现方式中,GPU还可以用于:电子设备将第一绘制结果剪切成与默认内存空间的尺寸相同,得到第一绘制帧。
结合第四方面,在一种可能的实现方式中,GPU还可以用于:电子设备将第二绘制结果剪切成与默认内存空间的尺寸相同,得到第二绘制帧。
第五方面,提供一种图像帧预测装置,该装置可以包括第一绘制单元、第二绘制单元、生成单元;其中:
第一绘制单元可以用于在绘制第一应用的第一绘制帧时,将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,第一绘制范围的尺寸大于第一应用的第一绘制帧的尺寸;
第二绘制单元可以用于在绘制第一应用的第二绘制帧时,将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,第二内存空间的尺寸大于第二绘制帧的尺寸,其中,第一绘制帧的尺寸与第二绘制帧的尺寸相同;
生成单元可以用于根据第一绘制结果和第二绘制结果,预测生成第一应用的第三预测帧,其中,第三预测帧的尺寸与第一绘制帧的尺寸相同。
结合第五方面,在一种可能的实现方式中,第一绘制单元还可以用于在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,第一内存空间的尺寸大于默认内存空间的尺寸,默认内存空间为电子设备系统提供的存储用于显示的图像帧的内存空间。
结合第五方面,在一种可能的实现方式中,第二绘制单元还可以用于在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,第二内存空间的尺寸大于默认内存空间的尺寸。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于根据第一绘制结果和所述第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸。
结合第五方面,在一种可能的实现方式中,该图像帧预测装置还可以包括剪切单元,该剪切单元可以用于将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。
这样,图像帧预测装置可以得到预测帧。在不增加绘制帧的情况下,可以提高图像帧预测装置的帧率。这样,在节约图像帧预测装置功耗的情况下,可以提高图像帧预测装置显示的视频界面流畅度。进一步地,图像帧预测装置预测出的预测帧中可以存在图像帧预测装置显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,图像帧预测装置预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,图像帧预测装置预测出的图像帧可以更为准确。
结合第五方面,在一种可能的实现方式中,第一内存空间的尺寸大于默认内存空间的尺寸,具体包括:第一内存空间的第一尺寸是默认内存空间的第三尺寸的K1倍,第一内存空间的第二尺寸是默认内存空间的第四尺寸的K2倍,K1、K2大于1。
第二内存空间的尺寸大于默认内存空间的尺寸,具体包括:第二内存空间的第五尺寸是默认内存空间的第三尺寸的K1倍,第二内存空间的第五尺寸是默认内存空间的第四尺寸的K2倍。
第三内存空间的尺寸大于默认内存空间的尺寸,具体包括:第三内存空间的第七尺寸是默认内存空间的第三尺寸的K1倍,第三内存空间的第八尺寸是默认内存空间的第四尺寸的K2倍。
这里,第一内存空间的第一尺寸可以是第一内存空间的宽度,第一内存空间的第二尺寸可以是第一内存空间的高度。默认内存空间的第三尺寸可以是默认内存空间的宽度,默认内存空间的第四尺寸可以是默认内存空间的高度。第二内存空间的第五尺寸可以是第二内存空间的宽度,第二内存空间的第六尺寸可以是第二内存空间的高度。第三内存空间的第七尺寸可以是第三内存空间的宽度,第三内存空间的第八尺寸可以是第三内存空间的高度。这样,图像帧预测装置可以按照不同的尺寸来放大第一内存空间的宽度和高度。图像帧预测装置可以按照不同的尺寸来放大第二内存空间的宽度和高度。图像帧预测装置可以按照不同的尺寸来放大第三内存空间的宽度和高度。
结合第五方面,在一种可能的实现方式中,第一绘制单元还可以用于:在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间的第一绘制范围中,得到第一绘制结果;第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于默认内存空间的尺寸。
结合第五方面,在一种可能的实现方式中,第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于所述默认内存空间的尺寸,具体包括:第一绘制范围的第九尺寸是默认内存空间的第三尺寸的K3倍,第一绘制范围的第十尺寸是默认内存空间的第四尺寸的K4倍,K3大于1,且小于或等于K1,K4大于1,且小于或等于K2。
第一绘制范围的第九尺寸可以是第一绘制范围的宽度,第一绘制范围的第十尺寸可以第一绘制范围的高度。
结合第五方面,在一种可能的实现方式中,K3等于K1,K4等于K1,K1、K2、K3、K4为图像帧预测装置的系统配置的固定值。图像帧预测装置可以根据经验值配置K1、K2、K3、K4。图像帧预测装置直接配置固定值可以减小计算量。
结合第五方面,在一种可能的实现方式中,K3和K4由电子设备根据第一绘制帧的绘制指令中包含的绘制参数确定。这样,图像帧预测装置设置的K3和K4可以根据第一绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,图像帧预测装置对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第五方面,在一种可能的实现方式中,第二绘制单元还可以用于:在绘制第二绘制帧时,将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间的第二绘制范围中,得到第二绘制结果;第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸。
结合第五方面,在一种可能的实现方式中,第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸,具体包括:第二绘制范围的第十一尺寸是默认内存空间的第三尺寸的K5倍,第二绘制范围的第十二尺寸是默认内存空间的第四尺寸的K6倍,K5大于1,且小于或等于K1,K6大于1,且小于或等于K2。
第二绘制范围的第十一尺寸可以是第二绘制范围的宽度,第二绘制范围的第十二尺寸可以是第二绘制范围的高度。
结合第五方面,在一种可能的实现方式中,K5和K6为图像帧预测装置的系统配置的固定值。图像帧预测装置直接配置固定值可以减小计算量。
结合第五方面,在一种可能的实现方式中,K5和K6由图像帧预测装置根据第二绘制帧的绘制指令中包含的绘制参数确定。这样,图像帧预测装置设置的K5和K6可以根据第二绘制帧的绘制指令中包含的绘制参数决定。这样,不同的绘制帧的绘制范围的放大倍数可以不同。这样,图像帧预测装置对绘制范围的放大倍数与绘制帧的绘制指令中的绘制内容更相符。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于:根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量;根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果。这样,图像帧预测装置中的生成单元可以根据第一绘制帧和第二绘制帧预测出第三预测帧的第三绘制结果。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于:将第二绘制结果分成Q个像素块,在第二绘制结果的Q个像素块中取出第一像素块;在第一绘制结果中确定出与第一像素块匹配的第二像素块;根据第二像素块到第一像素块的位移得到第一像素块的运动向量;根据第一像素块的运动向量确定第二绘制结果的第一运动向量。按照该实现方式中的步骤,图像帧预测装置可以确定第二绘制结果的Q个像素块中所有像素块的运动向量。每个像素块中包括f*f(例如,16*16)个像素点。
上述实现方式中,图像帧预测装置将第二绘制结果分块来计算运动向量,不用去计算第二绘制结果中每个像素点的运动向量。这样可以减少计算量,从而降低电子设备的功耗。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于:通过第一像素块中的第一像素点在第一绘制结果中确定出多个候选像素块;分别计算出多个候选像素块与第一像素块的颜色值的差值;根据多个候选像素块第一像素块的颜色值的差值确定出与第一像素块匹配的第二像素块,第二像素块为多个候选像素块中与第一像素块的颜色值的差值最小的候选像素块。
这样,图像帧预测装置可以更为准确地找到每个像素块的匹配像素块,从而能够更准确地计算出每个像素块的运动向量。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于:根据第一运动向量确定第三绘制结果的运动向量,根据第二绘制结果和第三绘制结果的运动向量生成第三绘制结果。第三绘制结果的运动向量为第一运动向量的G倍,G大于0小于1。
结合第五方面,在一种可能的实现方式中,G等于0.5。这样,每一帧图像帧中的对象为匀速移动,便于图像帧预测装置计算,也可以使得用户在观看视频时的体验更好。
结合第五方面,在一种可能的实现方式中,生成单元还可以用于:根据第二绘制结果和第一运动向量,在第三内存空间的第三绘制范围内生成第三绘制结果;第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于第三内存空间的尺寸。
结合第五方面,在一种可能的实现方式中,第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于第三内存空间的尺寸,具体包括:第三绘制范围的第十三尺寸是默认内存空间的第三尺寸的K7倍,第三绘制范围的第十四尺寸是默认内存空间的第四尺寸的K8倍,K7大于1,且小于或等于K1,K8大于1,且小于或等于K2。
第三绘制范围的第十三尺寸可以是第三绘制范围的宽度,第三绘制范围的第十四尺寸可以是第三绘制范围的高度。
结合第五方面,在一种可能的实现方式中,该图像帧预测装置还可以包括创建单元,该创建单元可以用于:创建第一内存空间,第二内存空间,第三内存空间,第一内存空间可以用于存储第一绘制帧的第一绘制结果,第二内存空间可以用于存储第二绘制帧的第二绘制结果,第三内存空间可以用于存储第三预测帧的第三绘制结果。
结合第五方面,在一种可能的实现方式中,剪切单元还可以用于:将第一绘制结果剪切成与默认内存空间的尺寸相同,得到第一绘制帧。
结合第五方面,在一种可能的实现方式中,剪切单元还可以用于:将第二绘制结果剪切成与默认内存空间的尺寸相同,得到第二绘制帧。
第六方面,提供一种计算机可读存储介质,包括指令,其特征在于,当上述指令在电子设备上运行时,以使得电子设备执行如第二方面中任一种可能的实现方式。
第七方面,提供一种计算机产品当所述计算机程序产品在计算机上运行时,使得所述计算机执行如第二方面和第二方面中任一种可能的实现方式。
附图说明
图1A-图1C是本申请实施例提供的平板电脑10的一组用户界面示意图;
图2A是本申请实施例提供的绘制帧A、绘制帧B以及根据绘制帧A和绘制帧B得到的预测帧的示意图;
图2B是本申请实施例提供的相机拍摄视野示意图;
图3是本申请实施例提供的一种图像帧预测的方法流程图;
图4是本申请实施例提供的默认内存空间示意图;
图5是本申请实施例提供的第一内存空间示意图;
图6是本申请实施例提供的第二内存空间示意图;
图7是本申请实施例提供的第三内存空间示意图;
图8是本申请实施例提供的第一内存空间中的第一绘制范围、第一绘制结果以及第N绘制帧示意图;
图9是本申请实施例提供的第二内存空间中的第二绘制范围、第二绘制结果、第N+2绘制帧示意图;
图10A-图10C是本申请实施例提供的通过菱形搜索计算第N+2帧中像素块905的运动向量的过程示意图;
图11是本申请实施例提供的第三内存空间中的第三绘制范围、第三绘制结果、第N+3预测帧示意图;
图12是本申请实施例提供的电子设备的结构示意图;
图13是本申请实施例提供的电子设备的系统框架示意图。
具体实施方式
本申请以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括复数表达形式,除非其上下文中明确地有相反指示。还应当理解,本申请中使用的术语“和/或”是指并包含一个或多个所列出项目的任何或所有可能组合。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征,在本申请实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
由于本申请实施例涉及一种图像帧预测方法的应用,为了便于理解,下面先对本申请实施例涉及的相关术语及概念进行介绍。
(1)图像帧
在本申请实施例中,电子设备用于显示在显示屏中的每一帧图像称为图像帧。在本申请实施例中,图像帧可以是某一应用的一帧图像,可以是电子设备根据该应用的绘制指令绘制出的绘制结果,也可以是根据已有绘制结果预测出来的预测结果。如图1A所示,电子设备(即平板电脑10)显示了用户界面100。在T0时刻,用户界面10中显示了第N帧图像帧。第N帧图像帧为绘制帧。图1A中时序图101示出了从T0时刻到Tn时刻电子设备可以显示的图像帧。
可以理解的是,图像帧的尺寸、绘制帧的尺寸以及预测帧的尺寸与所属应用的显示尺寸一致。举例来说,如图1A所示,图1A示出的第N帧图像帧所属的应用在平板电脑10的显示尺寸为:宽度为L、高度为H。那么第N帧图像帧的尺寸可以是:宽度为L、高度为H。又如图1B所示,图1B示出的图像帧102所属的应用在平板电脑10的显示尺寸为:宽度为L0,高度为H。那么图像帧102的尺寸可以是:宽度为L0,高度为H。又可以如图1C所示,图1C中示出了图像帧103,以及控件栏10。其中,控件栏104中可以包括控件105。控件栏104可以由平板电脑10的系统绘制。图像帧103所属的应用在平板电脑10的显示尺寸为:宽度为L1,高度为H0。那么图像帧103的尺寸可以是:宽度为L1,高度为H0。
(2)绘制帧
在本申请实施例中,电子设备在应用程序运行时,根据应用程序的绘制指令和绘制参数绘制出的图像帧称为绘制帧。应用程序的绘制指令和绘制参数可以是应用图形框架、应用引擎自动生成的,也可以是应用开发者编写的。
(3)预测帧
在本申请实施例中,电子设备根据已有的绘制帧数据,新生成的图像帧,称为预测帧。预测帧的绘制参数根据两帧绘制帧的绘制参数得到。举例来说,电子设备可以通过第一绘制帧和第二绘制帧生成第一预测帧。第一预测帧为第二绘制帧的后一帧图像帧。即,电子设备显示第二绘制帧后,显示第一预测帧。第一绘制帧为第二绘制帧之前的图像帧(第一绘制帧和第二绘制帧之间可以存在图像帧)。即第一绘制帧在第二绘制帧之前显示在电子设备的显示屏中。可以理解的是,若第N帧图像帧是绘制帧,那么在本申请实施例中就可以称为第N绘制帧。若第N帧图像帧是预测帧,那么在本申请实施例中就可以称为第N预测帧。
这里,电子设备通过两帧绘制帧生成预测帧的具体过程可以参考下文,此处先不赘述。
(4)图像帧预测
在本申请实施例中,电子设备通过第一绘制帧和第二绘制帧生成第一预测帧的过程,称为图像帧预测。
为了提升帧率,提高视频的流畅性,电子设备可以在应用的绘制帧之间插入预测帧。电子设备可以根据应用的绘制帧进行图像帧预测得到预测帧。如图1A所示,电子设备可以在每两个绘制帧之间插入一帧预测的图像帧。这样,电子设备显示的图像帧的帧率可以提高。
可以理解的是,电子设备根据应用程序的绘制指令绘制得到的绘制结果,可以是电子设备根据相机拍摄到的一帧图像绘制渲染得到的图像帧。图像帧中的对象可以因为相机的移动,旋转等位置变换而发生移动。例如,图2A示例性地示出了相机200在不同位置对圆柱体202、圆柱体203以及长方体204进行拍摄,相机200的拍摄视野中拍摄到的一帧图像可以是图像帧。图2B示例性地示出了相机200的相机拍摄视野201。如图2A所示,在位置1处时,相机200的相机视野205中拍摄到的一帧图像可以是图2A中的图像帧208,即绘制帧A。在位置2处时,相机200的相机视野206中拍摄到的一帧图像可以是图2A中的图像帧209,即绘制帧B。电子设备可以根据绘制帧A和绘制帧B来预测出相机200在位置3处的图像帧210,即预测帧210。预测帧是根据绘制帧B和绘制帧A预测出的,预测帧中包含的对象和绘制帧B中包含的对象相同。绘制帧A中包含圆柱体202和长方体204,绘制帧B中只包含长方体204。所以预测帧中也只包含长方体204。若正常绘制,在位置3处,电子设备绘制的绘制内容是相机200的拍摄视野207可以拍摄到的物体。在位置3处,相机200的拍摄视野207中包括长方体204的部分区域和圆柱体203的部分区域。预测帧中无法预测出绘制帧B中不存在的圆柱体203。这样,导致预测出的预测帧不准确。
为了使预测出的图像帧更为准确,本申请实施例提供了一种图像帧预测的方法,该方法可以包括:在绘制第一应用的第一绘制帧时,电子设备将第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,第一绘制范围的尺寸大于第一应用的第一绘制帧的尺寸;在绘制第一应用的第二绘制帧时,电子设备将第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,第二内存空间的尺寸大于所述第二绘制帧的尺寸,其中,第一绘制帧的尺寸与第二绘制帧的尺寸相同;电子设备根据第一绘制结果和所述第二绘制结果,预测生成第一应用的第三预测帧,其中,第三预测帧的尺寸与第一绘制帧的尺寸相同。这样,电子设备在按照尺寸更大的绘制范围来绘制第一绘制帧、第二绘制帧,可以绘制出比电子设备显示的第一绘制帧和第二绘制帧多一些的绘制内容。这样,电子设备可以得到预测帧。在不增加绘制帧的情况下,可以提高电子设备的帧率。这样,在节约电子设备功耗的情况下,可以提高电子设备显示的视频界面流畅度。进一步地,电子设备预测出的预测帧中可以存在电子设备显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,电子设备预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,电子设备预测出的图像帧可以更为准确。
可以理解的是,第N绘制帧的绘制指令中可以包含绘制内容,当绘制范围比较小时,GPU绘制和渲染出的第N绘制帧可以只包含第N绘制帧的绘制指令包含的一部分绘制内容。当绘制范围比较大时,GPU可以绘制和渲染出第N绘制帧的绘制指令中包含的更多绘制内容。举例来说,若绘制范围为横坐标从50到100,纵坐标从50到100的区域,第N绘制帧的绘制指令中的一个绘制内容为横坐标从10到60,纵坐标从10到60的一个物体。那么该绘制内容只有横坐标从50到60,纵坐标从50到60的部分被绘制渲染到绘制范围中。若绘制范围扩大为横坐标从0到150,纵坐标从0到150的区域,那么该绘制内容可以全部被绘制渲染到绘制范围内。
下面将结合附图详细介绍本申请实施例提供的一种图像帧预测的方法。图3示出本申请实施例提供的一种图像帧预测的方法流程图。如图3所示,本申请实施例提供的一种图像帧预测的方法可以包括如下步骤:
S301-S302、电子设备开始执行图像帧预测方法。
S301、在目标应用开始绘制时,电子设备的CPU向GPU发送用于指示GPU创建内存空间的指令。
目标应用程序为用户界面中具有动画效果的应用程序,例如游戏类应用。本申请实施例下文以目标应用为游戏应用为例进行阐述。当电子设备中安装的游戏应用运行时,电子设备的CPU向GPU发送用于指示GPU创建内存空间的指令。具体地,该指令中可以携带创建内存空间的数量以及尺寸信息。
S302、电子设备的GPU基于电子设备中的默认内存空间(FBO0)的尺寸在内存中创建尺寸比默认内存空间大的第一内存空间(FBO1)、第二内存空间(FBO2)以及第三内存空间(FBO3)。
响应于CPU发送的指令,GPU基于电子设备的默认内存空间的尺寸在内存中创建尺寸比默认内存空间大的第一内存空间(FBO1)、第二内存空间(FBO2)以及第三内存空间(FBO3)。在本申请实施例中,默认内存空间为电子设备的系统(例如渲染系统)提供的存储用于显示的图像帧的内存空间。该默认内存空间可以存储目标应用程序的用于显示的图像帧,也可以存储其他应用程序中用于显示的图像帧。如图4所示,默认内存空间中可以包括多个逻辑地址连续排列的附件(attachment)。例如,图4中示出的默认内存空间可以包括附件401、附件402、…、附件40n等n个内存。一般地,n小于或等于3。默认内存空间的n个附件中每个附件的宽度可以为L,高度可以为H。在本申请实施例中,默认内存空间的宽度可以称为第三尺寸,默认内存空间的高度可以称为第四尺寸。可以理解的是,默认内存空间的宽度是指默认内存空间中每个附件的宽度,默认内存空间的高度可以是指默认内存空间中每个附件的高度。
可选地,默认内存空间中的n个附件中可以为包括颜色附件(color attachment)和深度附件(depth attachment)。例如,附件401可以是颜色附件。在本申请实施例中,颜色附件是一块内存,用于在电子设备根据绘制指令进行绘制时,存储绘制结果中的各像素点颜色数据(例如像素点的RGB值)。颜色附件可以作为FBO(frame buffer object)的一部分。在本申请实施例中,深度附件是一块内存,用于在电子设备根据绘制指令进行绘制时,存储绘制结果中各像素点深度数据。颜色附件可以作为FBO的一部分。可以理解的,深度附件中深度值越小的像素点,离相机的距离越近。在合成图像帧时,对于两个颜色附件中坐标值相等的两个像素点,深度值小的一个像素点可以覆盖深度值大的另一个像素点。即最终显示屏像素点显示的颜色为两个颜色附件中深度值小的像素点的颜色。
第一内存空间的尺寸大于默认内存空间的尺寸。在一种可能的实现方式中,第一内存空间的宽度是默认内存空间的宽度的K1倍,第一内存空间的高度是默认内存空间的高度的K2倍。如图5示出的第一内存空间示意图,第一内存空间的逻辑地址可以是连续排列的。第一内存空间中可以包括多个逻辑地址连续排列的附件。例如,图5中示出的附件501、附件502、…、附件50n等n个内存。一般地,n可以小于或等于3。第一内存空间的n个附件中每个附件的宽度可以为L·K1,高度可以为H·K2。K1和K2均大于1。K1可以等于K2。K1和K2可以由电子设备的系统配置。可选地第一内存空间的n个附件中每个附件的宽度可以为L+Q1,高度可以为H+Q2。Q1和Q2均大于0。Q1和Q2可以相等。Q1和Q2可以由电子设备的系统配置。可选地,电子设备的系统配置的K1和K2均为固定值。即电子设备每次执行本申请实施例提供的图像帧预测方法时,K1和K2的值不变。
在本申请实施例中,第一内存空间的宽度可以称为第一尺寸,第一内存空间的高度可以称为第二尺寸。
在一种可能的实现方式中,K1和K2可以是浮点数,Q1和Q2可以是整数。
第二内存空间的尺寸大于默认内存空间的尺寸。在一种可能的实现方式中,第二内存空间的宽度是默认内存空间的宽度的K1倍,第二内存空间的高度是默认内存空间的高度的K2倍。如图6示出的第二内存空间示意图,第二内存空间的逻辑地址可以是连续排列的。第二内存空间中可以包括多个逻辑地址连续排列的附件。例如,图6中示出的附件601、附件602、…、附件60n等n个附件。一般地,n可以小于或等于3。第二内存空间的n个附件中每个内存的宽度可以为L·K1,高度可以为H·K2。K1和K2均大于1。K1可以等于K2。K1和K2可以由电子设备的系统配置。可选地,第二内存空间的n个附件中每个附件的宽度可以为L+Q1,高度可以为H+Q2。Q1和Q2均大于0。Q1和Q2可以相等。Q1和Q2可以由电子设备的系统配置。
在本申请实施例中,第二内存空间的宽度可以称为第五尺寸,第二内存空间的高度可以称为第六尺寸。
第三内存空间的尺寸大于默认内存空间的尺寸。在一种可能的实现方式中,第三内存空间的宽度是默认内存空间的宽度的K1倍,第三内存空间的高度是默认内存空间的高度的K2倍。如图7示出的第三内存空间示意图,第三内存空间的逻辑地址可以是连续排列的。第三内存空间中可以包括多个逻辑地址连续排列的附件。例如,图7中示出的附件701、附件702、…、附件70n等n个附件。第三内存空间的n个附件中每个附件的宽度可以为L·K1,高度可以为H·K2。K1和K2均大于1。K1可以等于K2。K1和K2可以由电子设备系统配置。可选地,第三内存空间的n个附件中每个附件的宽度可以为L+Q1,高度可以为H+Q2。Q1和Q2均大于0。Q1和Q2可以相等。Q1和Q2可以由电子设备的系统配置。可选地,电子设备的系统配置的Q1和Q2均为固定值。即电子设备每次执行本申请实施例提供的图像帧预测方法时,Q1和Q2的值不变。
在本申请实施例中,第三内存空间的宽度可以称为第七尺寸,第三内存空间的高度可以称为第八尺寸。
在一种可能的实现方式中,第一内存空间的尺寸与,第二内存空间的尺寸以及第三内存空间的尺寸相同。即,若第一内存空间的宽度为L·K1,高度为H·K2。则第二内存空间的宽度为L·K1,高度为H·K2。第三内存空间的宽度为L·K1,高度为H·K2。
S303-S306、电子设备绘制第N绘制帧。
S303、电子设备获取第N绘制帧的绘制参数。
电子设备中的目标应用在进行绘制时,该目标应用可以调用绘制指令进行绘制。电子设备100的CPU可以通过三维图像处理库中的接口获取到应用程序的第N绘制帧的绘制参数。第N绘制帧的绘制参数用于绘制并渲染第N绘制帧。第N绘制帧的绘制参数可以包括第N绘制帧的绘制指令(例如draw call指令)中携带的信息,例如draw call指令的绘制内容中的每个顶点的坐标,颜色值,深度值等等信息。
S304、电子设备中的CPU向GPU发送用于指示GPU绘制第N绘制帧的绘制指令。
电子设备的CPU可以根据第N绘制帧的绘制参数向GPU发送用于指示GPU绘制第N绘制帧的绘制指令。可以理解的是,CPU获取到的第N绘制帧的绘制参数中可以包括多个绘制指令的信息。这样,CPU可以依次地向GPU发送用于指示GPU绘制第N绘制帧的多个绘制指令。在本申请实施例中,绘制指令包括执行绘制(draw call)指令和绘制状态设置指令。
其中,执行绘制指令可以用于触发GPU针对当前绘制状态数据进行绘制渲染,并生成绘制结果,例如OpenGL中的glDrawElements指令。OpenGL是一种用于渲染2D、3D矢量图形的跨语言、跨平台的应用程序编程接口(API)。
绘制状态设置指令可以用于设置执行绘制指令所依赖的当前绘制状态数据,例如设置该状态数据包括绘制所依赖的顶点信息缓存索引的指令,例如在OpenGL中的glBindBuffer,其中顶点信息缓存索引用于指示一绘制对象的顶点信息数据,顶点信息数据是用于在绘制渲染流程中描述一个用于绘制的二维或三维矢量模型的顶点的一组坐标位置、颜色等数据。
绘制状态设置指令还可以包括设置绘制对象的顶点索引、纹理信息、空间位置等指令,例如在OpenGL中glActiveTexture、glBindBufferRange指令等。一个绘制对象可以是电子设备根据一个绘制指令中所包含的所有顶点以及顶点信息可绘制出的对象。
为了更形象的说明,以电子设备绘制图2A中的长方体204以例,一种可能的OpenGL绘制指令按照执行顺序可以是如下示意:
glBindBufferRange(target=GL_UNIFORM_BUFFER,index=1,buffer=738,offset=0,size=352)//指示GPU修改部分绘制全局信息,例如图2A中长方体204的位置;
glBindBuffer(target=GL_ARRAY_BUFFER,buffer=buffer0)//指示GPU将保存了长方体204的顶点信息(例如顶点的位置、颜色等等信息)的buffer0索引信息存到GL_ARRAY_BUFFER中;
glBindBuffer(target=GL_ELEMENT_ARRAY_BUFFER,buffer=buffer1)//指示GPU将保存了长方体204的顶点索引信息(例如顶点的绘制顺序)的buffer1的索引保存到GL_ELEMENT_ARRAY_BUFFER中;
glActiveTexture(texture=GL_TEXTURE0)
glBindTexture(target=GL_TEXTURE_2D,texture=texture1)//指示GPU将保存了长方体204的纹理信息的texture1的索引保存到GL_TEXTURE0中;
…
glDrawElements(GLenum mode,GLsizei count,GLenum type,const void*indices)//指示GPU执行长方体204绘制。
S305、在第一内存空间中,电子设备的GPU将第N绘制帧的绘制指令中的绘制内容绘制到第一绘制范围内,得到第一绘制结果,第一绘制范围的尺寸小于或等于第一内存空间的尺寸,大于默认内存空间的尺寸。
电子设备的GPU可以将第N绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果。可选地,电子设备的GPU可以将第N绘制帧的绘制指令的绘制内容绘制到第一内存空间的第一绘制范围内,得到第一绘制结果。第一绘制范围的尺寸小于或等于第一内存空间的尺寸,大于默认内存空间的尺寸。可以理解的是,在本申请实施例中,第一内存空间中的任一个附件中的绘制范围均可以称为第一绘制范围。
在一种可能的实现方式中,第一绘制范围的尺寸由电子设备根据目标应用程序中的viewport参数确定。目标应用程序的viewport参数用于指定电子设备中绘制该目标应用程序的图像帧的绘制范围的宽度和高度。一般地,目标应用程序的viewport参数指定的绘制范围的宽度和电子设备中默认内存空间的宽度相同,viewport参数指定的绘制范围的高度和电子设备中默认内存空间的高度相同。电子设备可以通过hook技术修改目标应用程序的viewport参数来指定第一绘制范围的尺寸。例如,若目标应用程序的viewport规定的第N绘制帧的绘制范围的宽度为L,高度为H。那么电子设备可以通过hook技术修改目标应用程序的viewport参数将第一绘制范围的宽度指定为L·K3,高度指定为H·K4。K3和K4均大于1。可选地,K3和K4为大于1的浮点数。K3小于或等于K1,K4小于或等于K2。这里,第N绘制帧中的viewport参数可以是本申请实施例中的第一参数。
可以理解的是,应用程序下发的绘制指令中的viewport参数用来指定绘制该应用程序的绘制指令中绘制内容的画布的尺寸。一般,电子设备会应用程序的每一帧的绘制指令中的绘制内容按照画布的尺寸进行绘制,然后将绘制完成的画布渲染到显示屏中。应用程序中viewport参数指定的画布尺寸可以跟电子设备的显示屏的尺寸相同,也可以小于电子设备显示屏的尺寸,此处不做限定。如图8中(a)图所示,图8中(a)图示出了第一内存空间中的一块内存802以及第一绘制范围801。内存802宽度为L·K1,高度为H·K2。第一绘制范围801宽度为L·K3,高度为H·K4。下文以电子设备将第N绘制帧中绘制指令的绘制内容绘制到第一绘制范围801为例进行阐述。
在一种可能的实现方式中,K3等于K1,为电子设备的系统配置的固定值。K4等于K2,为电子设备的系统配置的固定值。可以理解的是,即第一绘制范围的尺寸等于第一内存空间的尺寸。
在一种可能的实现方式中,K3和K4的值可以由第N绘制帧中的前一个绘制帧的绘制参数中包含相机的转角参数确定。若电子设备显示的图像帧如图1A所示,电子设备可以在每两个绘制帧中插入一个预测帧,那么第N绘制帧的前一个绘制帧为第N-2绘制帧。
进一步地,电子设备确定K3的具体计算过程可以如下:
1、计算第N-2绘制帧和第N绘制帧之间的坐标转换矩阵T。
T=(P1V1)-1*(P2V2)(公式1)
其中,(P1V1)-1为(P1V1)的逆矩阵。V1为第N-2绘制帧的绘制参数中包含的观察矩阵(view matrix),P1为第N-2绘制帧的绘制参数中包含的投影矩阵(projection matrix)。V2为第N绘制帧的绘制参数中包含的观察矩阵,P2为第N绘制帧的绘制参数中包含的投影矩阵。
在本申请实施例中,观察矩阵为世界空间(world space)与观察空间(cameraspace)之间的转换矩阵。例如,第N绘制帧的绘制指令中的顶点1的坐标可以通过观察矩阵从世界空间下的坐标转换为观察空间下的坐标。投影矩阵为观察空间与裁剪空间(clipspace)之间的转换矩阵。例如,顶点1的坐标可以通过投影矩阵从观察空间下的坐标转换为裁剪空间下的坐标。世界空间是世界坐标下对应的空间。观察空间是以相机坐标系(以相机为坐标原点构建的坐标系)对应的空间。观察空间下描述的物体的位置,都是在相机坐标下的位置。裁剪空间中规定可以显示在电子设备的显示屏中的物体的坐标范围。
2、计算出第N帧中最右侧一列中所有像素点在第N帧到第N-2帧之间的位置偏移的X轴分量的最大值Z(Ai)’max。
若第N帧中最右侧一列中包括像素点A1、A2、A3、…、Ai、…、Ar等r个像素点。像素点Ai在第N帧到第N-2帧之间的位置偏移Z(Ai)为:
Z(Ai)=Ai(xai,yai)-Aprev (公式2)
其中Ai(xai,yai)为像素点Ai在第N帧中的像素空间的坐标;Aprev为像素点Ai在第N-2绘制帧的像素空间的坐标。电子设备以第N绘制帧的左下角为原点,向右为X轴,向上位Y轴建立一个坐标系。该坐标系对应的空间可以称为第N帧中的像素空间。同样地,电子设备以第N-2绘制帧的左下角为原点,向右为X轴,向上位Y轴建立一个坐标系。该坐标系对应的空间可以称为第N-2帧中的像素空间。
电子设备可以获取到第像素点Ai在第N帧中的像素空间的坐标Ai(xai,yai),电子设备获取第N帧的绘制范围的宽度为L0,高度为H0。像素点Ai的深度值为Dai,那么电子设备可以计算出像素点Ai在第N帧投影空间的坐标Ai_clip为:
Ai_clip=(xai/L0,yai/H0,2*Dai-1,1) (公式3)
像素点Ai在第N-2帧裁剪空间的坐标Ai_clip_prev为:
Ai_clip_prev=T*Ai_clip (公式4)
像素点Ai在第N-2帧像素空间的坐标Aprev为:
Aiprev=(Ai_clip_prev.x/Ai_clip_prev.w*L0,Ai_clip_prev.y/Ai_clip_prev.w*H0)(公式5)
其中,Ai_clip_prev是一个1乘4的向量,其中Ai_clip_prev.x为Ai_clip_prev的第一元素,A_clip_prev.y为Ai_clip_prev的第二元素,Ai_clip_prev.w为Ai_clip_prev的第四个元素。
如果Z(Ai).x>=0那么将Z(Ai)的值修改为(0,0),如果Z(Ai).x<0,那么将Z(Ai)中每一个值取绝对值,得到Z(Ai)’。
电子设备按照公式2-公式5计算出像素点A1、A2、A3、…、Ai、…、Ar等r个像素点的在第N帧到第N-2帧之间的位置偏移。电子设备确定出像素点A1、A2、A3、…、Ai、…、Ar等r个像素点的在第N帧到第N-2帧之间的位置偏移的X轴分量的最大值Z(Ai)’max。
3、计算出第N帧中最左侧一列中所有像素点在第N帧到第N-2帧之间的位置偏移X轴分量的最大值Z(Bi)’max。
若第N帧中最右侧一列中包括像素点B1、B2、B3、…、Bi、…、Br等r个像素点。像素点Bi在第N帧到第N-2帧之间的位置偏移Z(Bi)为:
Z(Bi)=Bi(xbi,ybi)-Biprev (公式6)
其中Bi(xbi,ybi)为像素点Bi在第N帧中的像素空间的坐标;Biprev为像素点Bi在第N-2绘制帧的像素空间的坐标。
电子设备可以获取到第像素点Bi在第N帧中的像素空间的坐标Bi(xbi,ybi),电子设备获取第N帧的绘制范围的宽度为L0,高度为H0。像素点Bi的深度值为Dbi,那么电子设备可以计算出像素点Bi在第N帧裁剪空间的坐标Bi_clip为:
Bi_clip=(xai/L0,yai/H0,2*Dbi-1,1) (公式7)
像素点Bi在第N-2帧裁剪空间的坐标Bi_clip_prev为:
Bi_clip_prev=T*Bi_clip(公式8)
像素点Bi在第N-2帧像素空间的坐标Biprev为:
Biprev=(Bi_clip_prev.x/Bi_clip_prev.w*L0,Bi_clip_prev.y/Bi_clip_prev.w*H0)(公式9)
其中,Bi_clip_prev是一个1乘4的向量,其中Bi_clip_prev.x为Bi_clip_prev的第一元素,B_clip_prev.y为Bi_clip_prev的第二元素,Bi_clip_prev.w为Bi_clip_prev的第四个元素。
如果Z(Bi).x>=0那么将Z(Bi)的值修改为(0,0),如果Z(Bi).x<0,那么将Z(Bi)的值取绝对值,得到最终的Z(Bi)’。
电子设备按照公式6-公式9计算出像素点B1、B2、B3、…、Bi、…、Br等r个像素点的在第N帧到第N-2帧之间的位置偏移。电子设备确定出像素点B1、B2、B3、…、Bi、…、Br等r个像素点的在第N帧到第N-2帧之间的位置偏移的X轴分量的最大值Z(Bi)’max。
4、根据位置偏移Z(Ai)’max和Z(Bi)’max计算出K3。
K3=((Z(Ai)’max+Z(Bi)’max)/2+L)/L (公式10)
可选地,若第一绘制范围的宽度为L+Q3,则Q3可以为:
Q3=(Z(Ai)’max+Z(Bi)’max)/2 (公式11)
进一步地,电子设备确定K4的具体计算过程可以如下:
5、计算第N-2绘制帧和第N绘制帧之间的坐标转换矩阵T。
此处可以参考上述步骤1,此处不再赘述。
6、计算出第N帧中最上侧一列中所有像素点在第N帧到第N-2帧之间的位置偏移的X轴分量的最大值Z(Ci)’max。
这里Z(Ci)’max的计算过程可以参考上述公式2-公式5中计算Z(Ai)’max的过程,此处不再赘述。
7、计算出第N帧中最下侧一列中所有像素点在第N帧到第N-2帧之间的位置偏移X轴分量的最大值Z(Di)’max。
这里Z(Di)’max的计算过程可以参考上述公式2-公式5中计算Z(Ai)’max的过程,此处不再赘述。
8、根据位置偏移Z(Ci)’max和Z(Di)’max计算出K4。
K4=((Z(Ci)’max+Z(Di)’max)/2+H)/H (公式12)
可选地,若第一绘制范围的高度为H+Q4,则Q4可以为:
Q4=(Z(Ci)’max+Z(Di)’max)/2 (公式13)
本申请实施例下文以第一绘制范围的尺寸小于第一内存空间的尺寸为例进行阐述。例如,如图8中的(a)图所示,第一内存空间的一个附件802的宽度为L·K1,高度为H·K2。第一绘制范围的宽度为L·K3,高度为H·K4。附件802可以是图5中示出的附件401或附件402、或附件40n。
电子设备可以将第N绘制帧的绘制指令的绘制内容绘制在第一内存空间的第一绘制范围内。第一绘制范围的尺寸大于目标应用程序的viewport参数指定的绘制范围的尺寸。由于第一绘制范围放大了,电子设备可以将更多的绘制内容绘制到第一绘制范围中。但是如果第N绘制帧的绘制内容也跟随绘制范围的放大比例一样,那么第一绘制范围内的绘制内容不会增加。电子设备需要是第N绘制帧中的绘制内容在相机坐标下,以相机坐标原点为中心点进行一个位似变换,这样绘制内容在相机坐标下都会向中间收缩,并变得更小。从而,电子设备可以在第一绘制范围内绘制更多的绘制内容。
电子设备可以通过修改第N绘制帧的绘制参数中的投影矩阵,使得第N绘制帧的绘制内容在第一绘制范围内绘制的更多。电子设备可以根据确定的K3和K4的值生成一个矩阵T1,投影矩阵P可以修改为P*T1。该矩阵T1可以为:
在本申请实施例中,矩阵T1可以称为第一转换矩阵。
在一种可能的实现方式中,电子设备可以通过hook glBufferSubData函数来修改投影矩阵。glBufferSubData函数是:glBufferSubData(GLenum target,GLintptr offset,GLsizeiptr size,const void*data)。
glBufferSubData函数要用于将data里面所指向的大小为size的数据,写入target对应的buffer内存为offset的位置。电子设备hook这个函数后,根据target的值为GL_UNIFORM_BUFFER以及size的大小为2848判定这个data里面包含了投影矩阵P的信息。电子设备利用内存信息将data中的P取出,将P*T1写入data的指定位置。电子设备根据修改后的投影矩阵(即P*T1),将第N绘制帧的绘制内容绘制到第一绘制范围内,可以得到第一绘制结果。这样第一绘制结果中可以包括更多的绘制内容。举例来说,如第N绘制帧中绘制指令的绘制内容中存在一个大小为100*100的正方形。该绘制内容以修改后的投影矩阵(即P*T1),正方形的大小将变为(100*1/K3)*(100*1/K4)。由于电子设备将第一绘制范围的宽度扩大了K3倍,第一绘制范围的高度扩大了K4倍,这样该正方形在第一绘制范围内的大小即为(100*1/K3*K3)*(100*1/K4*K4)=(100*100)。这样,绘制范围变大了,但是绘制的绘制内容的大小没有变大,因此,变大的绘制范围中可以绘制更多的绘制内容了。
第N绘制帧的第一绘制结果可以如图8中的(b)图中第一绘制结果803所示。第一绘制结果803中的宽度为L·K3,高度为H·K4。即第一绘制结果的尺寸可以与第一绘制范围的尺寸相同。可选地,第一绘制结果的尺寸可以与第一内存空间的尺寸相同。下文以第一绘制结果的尺寸与第一绘制范围的尺寸相同为例进行阐述。
S306、在默认内存空间中,GPU将第一绘制结果的尺寸剪切到与默认内存空间的尺寸相同,得到第N绘制帧。
一般地,电子设备的显示屏的尺寸与默认内存空间的尺寸相同。因此目标应用程序的图像帧在显示之前,电子设备需要将图像帧的尺寸剪切到与默认内存空间的尺寸相同。在默认内存空间中,GPU可以将第一绘制结果的尺寸剪切到与默认内存空间的尺寸相同,得到第N绘制帧。第N绘制帧是用于电子设备显示的图像帧。第N绘制帧可以如图8中的(c)图示出的第N绘制帧804所示。该第N绘制帧804可以向左运动。
在一种可能的实现方式中,电子设备可以通过函数glBlitFramebuffer函数剪切第一绘制结果,得到第N绘制帧。
glBlitFramebuffer函数可以是:
void glBlitFramebuffer
GLint srcX0,//第一绘制结果中第一像素点的横坐标,srcX0=(K3–1)*L/2
GLint srcY0,//第一绘制结果中第一像素点的纵坐标,srcY0=(K4–1)*L/2
GLint srcX1,//第一绘制结果中第二像素点的横坐标,srcX1=srcX0+L
GLint srcY1,//第一绘制结果中第二像素点的纵坐标,srcY1=srcY0+H
GLint dstX0,//默认内存空间的左下角顶点的横坐标
GLint dstY0,//默认内存空间的左下角顶点的纵坐标
GLint dstX1,//默认内存空间的右上角顶点的横坐标
GLint dstY1,//默认内存空间的右角顶点的纵坐标
GLbitfield mask,
GLenum filter)。
glBlitFramebuffer函数用于将第一绘制结果剪切到默认内存空间中。具体地,电子设备将第一绘制结果的尺寸剪成与默认内存空间的尺寸相同。然后电子设备将剪切后的第一绘制结果写入到默认内存空间中。第一像素点即为剪切后的第一绘制结果的左下角顶点位置的像素点。第二像素点即为剪切后的第一绘制结果的右上角顶点位置的像素点。
S307-S310、电子设备绘制第N+2绘制帧。
S307、电子设备的CPU获取第N+2绘制帧的绘制参数。
电子设备的CPU可以获取到第N+2绘制帧的绘制参数。具体地,电子设备100的CPU可以通过三维图像处理库中的接口获取到应用程序的第N+2绘制帧的绘制参数。第N+2绘制帧的绘制参数用于绘制并渲染第N+2绘制帧。第N+2绘制帧的绘制参数可以包括第N+2绘制帧的绘制指令(例如draw call指令)中携带的信息,例如draw call指令的绘制内容中的每个顶点的坐标,颜色值,深度值等等信息。
可以理解的是,电子设备在绘制第N+2绘制帧之前,电子设备显示第N+1帧。若第N+1帧为绘制帧,电子设备可以按照步骤S107-步骤S110中绘制第N+2帧的步骤来绘制第N+1帧。若第N+1帧为预测帧,则电子设备可以按照步骤S111-S115来预测第N+1预测帧。
S308、电子设备中的CPU向GPU发送用于指示GPU绘制第N+2绘制帧的绘制指令。
电子设备的CPU可以根据第N+2绘制帧的绘制参数向GPU发送用于指示GPU绘制第N+2绘制帧的绘制指令。可以理解的是,CPU获取到的第N+2绘制帧的绘制参数中可以包括多个绘制指令的信息。这样,CPU可以依次地向GPU发送用于指示GPU绘制第N+2绘制帧的多个绘制指令。这里,具体可以参考步骤S304中的描述,此处不再赘述。
S309、在第二内存空间中,电子设备的GPU将第N+2绘制帧的绘制指令中的绘制内容绘制到第二绘制范围内,得到第二绘制结果,第二绘制范围的尺寸小于或等于第二内存空间的尺寸,大于默认内存空间的尺寸。
电子设备的GPU可以将第N+2绘制帧的绘制指令的绘制内容绘制到第二内存空间中,得到第二绘制结果。可选地,电子设备的GPU可以将第N+2绘制帧的绘制指令的绘制内容绘制到第二内存空间的第二绘制范围内,得到第二绘制结果。第二绘制范围的尺寸小于或等于第二内存空间的尺寸,大于默认内存空间的尺寸。可以理解的是,在本申请实施例中,第二内存空间中的任一个附件中的绘制范围均可以称为第二绘制范围。
在一种可能的实现方式中,第二绘制范围的尺寸由电子设备根据目标应用程序中的viewport参数确定。目标应用程序的viewport参数用于指定电子设备中绘制该目标应用程序的图像帧的绘制范围的宽度和高度。一般地,目标应用程序的viewport参数指定的绘制范围的宽度和电子设备中默认内存空间的宽度相同,viewport参数指定的绘制范围的高度和电子设备中默认内存空间的高度相同。电子设备可以通过hook技术修改目标应用程序的viewport参数来指定第二绘制范围的尺寸。例如,若目标应用程序的viewport规定的第N绘制帧的绘制范围的宽度为L,高度为H。那么电子设备可以通过hook技术修改目标应用程序的viewport参数将第二绘制范围的宽度指定为L·K5,高度指定为H·K6。K5和K6均大于1。可选地,K5和K6为大于1的浮点数。K5小于或等于K1,K6小于或等于K2。第N+2绘制帧的viewport参数可以是本申请实施例中的第二参数。
如图9中(a)图所示,图9中(a)图示出了第二内存空间中的一个附件902以及第二绘制范围901。内存902宽度为L·K1,高度为H·K2。第二绘制范围901宽度为L·K5,高度为H·K6。下文以电子设备将第N绘制帧中绘制指令的绘制内容绘制到第一绘制范围801为例进行阐述。该附件802可以是图6中示出的第二内存空间中的附件501或者附件502、或者附件50n。
在一种可能的实现方式中,K5等于K1,为电子设备的系统配置的固定值。K6等于K2,为电子设备的系统配置的固定值。可以理解的是,即第二绘制范围的尺寸等于第二内存空间的尺寸。
在一种可能的实现方式中,K5和K6的值可以由第N+2绘制帧中的前一个绘制帧的绘制参数中包含相机的转角参数确定。若电子设备显示的图像帧如图1A所示,电子设备可以在每两个绘制帧中插入一个预测帧,那么第N+2绘制帧的前一个绘制帧为第N绘制帧。K5和K6的计算过程可以参考上文描述的K3的计算过程,此处不再赘述。
电子设备可以将第N+2绘制帧的绘制指令的绘制内容绘制在第二内存空间的第二绘制范围内。第二绘制范围的尺寸大于目标应用程序的viewport参数指定的绘制范围的尺寸。由于第二绘制范围放大了,电子设备可以将更多的绘制内容绘制到第二绘制范围中。但是如果第N+2绘制帧的绘制内容也跟随绘制范围的放大比例一样,那么第二绘制范围内的绘制内容不会增加。电子设备需要是第N+2绘制帧中的绘制内容在相机坐标下,以相机坐标原点为中心点进行一个位似变换,这样绘制内容在相机坐标下都会想中间收缩,并变得更小。从而,电子设备可以在第一绘制范围内绘制更多的绘制内容。
电子设备可以通过修改第N绘制帧的绘制参数中的投影矩阵,使得第N+2绘制帧的绘制内容在第一绘制范围内绘制的更多。电子设备可以根据确定的K5和K6的值生成一个矩阵T2,投影矩阵P可以修改为P*T2。该矩阵T2可以为:
在本申请实施例中,矩阵T2可以称为第二转换矩阵。
在一种可能的实现方式中,电子设备可以通过hook glBufferSubData函数来修改投影矩阵。glBufferSubData函数是:glBufferSubData(GLenum target,GLintptr offset,GLsizeiptr size,const void*data)。
glBufferSubData函数要用于将data里面所指向的大小为size的数据,写入target对应的buffer内存为offset的位置。电子设备hook这个函数后,根据target的值为GL_UNIFORM_BUFFER以及size的大小为2848判定这个data里面包含了投影矩阵P的信息。电子设备利用内存信息将data中的P取出,将P*T2写入data的指定位置。电子设备根据修改后的投影矩阵(即P*T2),将第N+2绘制帧的绘制内容绘制到第二绘制范围内,可以得到第二绘制结果。第二绘制结果中可以包括第N+2绘制帧的绘制指令中的更多绘制内容。这里可以参考步骤S305中关于glBufferSubData函数的描述,此处不再赘述。
第N+2绘制帧的第二绘制结果可以如图9中的(b)图中第二绘制结果903所示。第二绘制结果903中的宽度为L·K5,高度指定为H·K6。即第二绘制结果的尺寸可以与第二绘制范围的尺寸相同。可选地,第二绘制结果的尺寸可以与第二内存空间的尺寸相同。下文以第二绘制结果的尺寸与第二绘制范围的尺寸相同为例进行阐述。
S310、在默认内存空间中,电子设备的GPU将第二绘制结果的尺寸剪切到与默认内存空间的尺寸相同,得到第N+2绘制帧。
一般地,电子设备的显示屏的尺寸与默认内存空间的尺寸相同。因此目标应用程序的图像帧在显示之前,电子设备需要将图像帧的尺寸剪切到与默认内存空间的尺寸相同。在默认内存空间中,GPU可以将第二绘制结果的尺寸剪切到与默认内存空间的尺寸相同,得到第N+2绘制帧。第N+2绘制帧是用于电子设备显示的图像帧。第N+2绘制帧可以如图9中的(c)图示出的第N+2绘制帧904所示。该第N+2绘制帧904可以向左运动。
在一种可能的实现方式中,电子设备可以通过函数glBlitFramebuffer函数剪切第二绘制结果,得到第N+2绘制帧。
glBlitFramebuffer函数可以是:
void glBlitFramebuffer(
GLint srcX2,//第二绘制结果中第三像素点的横坐标,srcX2=(K5–1)*L/2
GLint srcY2,//第二绘制结果中第三像素点的纵坐标,srcY2=(K6–1)*L/2
GLint srcX3,//第二绘制结果中第四像素点的横坐标,srcX3=srcX2+L
GLint srcY3,//第二绘制结果中第四像素点的纵坐标,srcY3=srcY2+H
GLint dstX0,//默认内存空间的左下角顶点的横坐标
GLint dstY0,//默认内存空间的左下角顶点的纵坐标
GLint dstX1,//默认内存空间的右上角顶点的横坐标
GLint dstY1,//默认内存空间的右上角顶点的纵坐标
GLbitfield mask,
GLenum filter)。
glBlitFramebuffer函数可以用于将第二绘制结果剪切到默认内存空间中。具体地,电子设备将第二绘制结果的尺寸剪成与默认内存空间的尺寸相同。然后电子设备将剪切后的第二绘制结果写入到默认内存空间中。第三像素点即为剪切后的第二绘制结果的左下角顶点位置的像素点。第四像素点即为剪切后的第二绘制结果的右上角顶点位置的像素点。
S311-S315、电子设备预测第N+3预测帧。
S311、电子设备向GPU发送用于指示GPU计算运动向量的指令。
电子设备的CPU可以向GPU发送用于指示GPU计算运动向量的指令。该指令用于指示GPU中的shader计算运动向量。该指令可以是dispatch指令。本申请实施例对计算运动向量的指令的具体形式不做限定。
S312、电子设备的GPU利用第一绘制结果和第二绘制结果,计算出第二绘制结果的运动向量A。
电子设备的GPU可以利用第一绘制结果和第二绘制结果,计算出第二绘制结果的运动向量。
在一种可能的实现方式中,电子设备的GPU利用第一绘制结果和第二绘制结果,计算出第二绘制结果的运动向量具体可以包括如下步骤:
1、GPU可以将第二绘制结果903划分成Q个像素块。每个像素块可以包含f*f(例如16*16)个像素点。第二绘制结果903为第N+2绘制帧的绘制结果。如图10A中的(b)图所示。
2、GPU在第二绘制结果903中取第一像素块(例如图10A中(b)图中的像素块905),在第一绘制结果803中查找与第一像素块匹配的匹配像素块,例如图10A中(a)图中的像素块805。第一绘制结果803为第N绘制帧的绘制结果。
在本申请实施例中,第一绘制结果中所有候选块中,与第一像素块的RGB值的绝对差最小的候选块,称为与第像素块匹配的匹配像素块。电子设备需要在第一绘制结果中找到与像素块匹配的匹配像素块805。可选地,电子设备的GPU可以通过菱形搜索算法在第N绘制帧找到与第一像素块匹配的匹配像素块。如图10B所示,GPU可以通过菱形搜索算法在(b)图的第N帧的绘制结果(即第一绘制结果803)中与找到(a)图第N+2帧的绘制结果(即第二绘制结果903)中的像素块905匹配的匹配像素块。电子设备可以利用像素块905的左上角的像素点9011去进行菱形搜索。电子设备可以在第N绘制帧的绘制结果中找到以像素点1104为左上角的像素块805与像素块905相匹配。菱形搜索算法具体可以参考现有技术中的描述,此处不再赘述。
如图10C所示,图10C的(a)图和(b)图示例性地示出了电子设备在第N绘制帧中找到与像素块905的匹配像素块805的示意图。如图10C的(a)图所示,电子设备对像素块902的左上角像素点9011进行菱形搜索。如图10C的(b)图所示,在一种可实现的方式中,电子设备首先进行以第N绘制帧中像素点9012为中心点进行菱形搜索。像素点9011的坐标与像素点9012的坐标相同。电子设备可以计算出像素块902分别于以左上角像素点为像素点9012的像素块,左上角像素点为像素点1001的像素块,左上角像素点为像素点1002的像素块,左上角像素点为像素点1003的像素块,左上角像素点为像素点1004的像素块,左上角像素点为像素点1005的像素块,左上角像素点为像素点1006的像素块,左上角像素点为像素点1007的像素块,左上角像素点为像素点1008的像素块的颜色值差。电子设备可以再以颜色值差最小的像素块中的左上角像素点为中心进行小菱形搜索。例如上述像素块中,左上角像素点为像素点1003的像素块与像素块902的颜色值差值最小。那么电子设备可以以像素点1003为中心进行小菱形搜索。即电子设备可以计算出像素块902分别于以左上角像素点为像素点1101的像素块,左上角像素点为像素点1102的像素块,左上角像素点为像素点1103的像素块,左上角像素点为像素点1104的像素块。最后,电子设备可以确定出左上角像素点为像素点1104的像素块(即图10B示出的像素块805)与像素块805的颜色值差最小。那么电子设备可以确定出第N帧中像素块805为像素块905的匹配像素块。
3、GPU计算出匹配像素块到第一像素块的第一位移,根据第一位移确定出第一像素块的运动向量A1。
例如,图10B所示,图10B中与像素块905的匹配块为像素块805。那么像素块905的运动向量为图10B中(b)图示出的运动向量A1。
4、GPU可以按照上述步骤1-步骤3计算出第二绘制结果903中Q个像素块中每个像素块的运动向量,即为A1,A2,…,AQ。第二绘制结果的运动向量即为A=(A1,A2,…,AQ)。
S313、电子设备向GPU发送用于指示GPU绘制预测帧的指令。
电子设备的CPU可以在GPU计算出第二绘制结果的运动向量A之后,向GPU发送用于绘制第N+3预测帧的指令。
S314、在第三内存空间中,电子设备的GPU根据运动向量A和第二绘制结果预测得到第三绘制结果,第三绘制结果的尺寸与第二绘制结果的尺寸相同。
第N+2绘制帧和第N+3预测帧中的对象相同,只是对象在第N+2绘制帧和第N+3预测帧中的位置不同。GPU可以利用第N+2绘制帧的第二绘制结果和第二绘制结果的运动向量可以生成第三绘制结果。具体地,GPU可以根据第二绘制结果运动向量A可以预测出第三绘制结果的运动向量V。运动向量V可以等于运动向量A的G倍。G小于1,G可以等于0.5。GPU可以根据第二绘制结果的每个像素点的颜色值以及每个像素点在运动向量V下的位移生成第三绘制结果。
在一种可能的实现方式中,电子设备的GPU在第三内存空间中生成第三绘制结果。进一步地,GPU可以在第三内存空间中的第三绘制范围内生成第三绘制结果。第三绘制范围的尺寸小于或等于第三内存空间的尺寸,大于默认内存空间的尺寸。可以理解的是,在本申请实施例中,第三内存空间中的任一个附件中的绘制范围均可以称为第三绘制范围。
在一种可能的实现方式中,第三绘制范围的尺寸由电子设备根据目标应用程序中的viewport参数确定。目标应用程序的viewport参数用于指定电子设备中绘制该目标应用程序的图像帧的绘制范围的宽度和高度。一般地,目标应用程序的viewport参数指定的绘制范围的宽度和电子设备中默认内存空间的宽度相同,viewport参数指定的绘制范围的高度和电子设备中默认内存空间的高度相同。电子设备可以通过hook技术修改目标应用程序的viewport参数来指定第三绘制范围的尺寸。例如,若目标应用程序的viewport规定的第N绘制帧的绘制范围的宽度为L,高度为H。那么电子设备可以通过hook技术修改目标应用程序的viewport参数将第三绘制范围的宽度指定为L·K7,高度指定为H·K8。K7和K8均大于1。可选地,K7和K8为大于1的浮点数。K7小于或等于K1,K8小于或等于K2。
如图11中(a)图所示,图11中(a)图示出了第三内存空间中的一个附件1102以及第三绘制范围1101。内存1102宽度为L·K1,高度为H·K2。第三绘制范围1101宽度为L·K7,高度为H·K8。下文以电子设备将在第三绘制范围1101内生成第三绘制结果为例进行阐述。该附件1102可以是图7中示出的第三内存空间中的附件701或者附件702或者附件70n。
在一种可能的实现方式中,K7等于K1,为电子设备的系统配置的固定值。K8等于K2,为电子设备的系统配置的固定值。可以理解的是,即第三绘制范围的尺寸等于第三内存空间的尺寸。
在一种可能的实现方式中,K7和K8的值可以由第N绘制帧和第N+2绘制帧中的绘制参数中包含相机的转角参数确定。K7和K8的计算过程可以参考上文中对K3计算过程的描述,此处不再赘述。
第N+3预测帧的第三绘制结果可以如图11中的(b)图中第三绘制结果1103所示。第三绘制结果1103中的宽度为L·K5,高度为H·K6。
可以理解的是,预测帧中的绘制范围的扩大倍数(例如K7和K8)可以根据生成预测帧的两帧绘制帧的绘制参数来确定。而绘制帧的绘制范围的扩大倍数(例如K3和K4)可以该绘制帧的绘制参数和该绘制帧的前一帧绘制帧的绘制参数来确定。若绘制帧为该图像帧预测方法开始执行的第一帧,那么电子设备的系统可以为该绘制帧的绘制范围的扩大倍数配置为固定值。
S315、在默认内存空间中,电子设备的GPU将第三绘制结果的尺寸剪切到与原始内存空间的尺寸相同,得到第N+3预测帧。
一般地,电子设备的显示屏的尺寸与默认内存空间的尺寸相同。因此目标应用程序的图像帧在显示之前,电子设备需要将图像帧的尺寸剪切到与默认内存空间的尺寸相同。在默认内存空间中,GPU可以将第二绘制结果的尺寸剪切到与默认内存空间的尺寸相同,得到第N+3预测帧。第N+3预测帧是用于电子设备显示的图像帧。第N+3预测帧可以如图11中的(c)图示出的第N+3预测帧1104所示。电子设备剪切第三绘制结果的具体实现方式可以参考上文中对电子设备剪切第一绘制结果和第二绘制结果的描述,此处不再赘述。
在本申请实施例中,第N绘制帧可以称为第一绘制帧。第N+2绘制帧可以称为第二绘制帧。第N+3预测帧可以称为第一预测帧。
电子设备绘制出绘制帧的主要过程是GPU执行若干个draw call指令。GPU将每一个draw call指令的内容逐一的绘制到FBO上。然后每一个draw call指令在GPU上都需要执行一次渲染管线的流程。该渲染管线的流程主要分为顶点着色器,曲面细分(非必须),几何作色器(非必须),图元组装(非必须),光栅化、片段作色器、测试混合阶段(非必须)。这样,GPU绘制一帧绘制帧的开销很大。另外,GPU执行每一个draw call指令所需要的顶点信息,坐标信息等都需要GPU进行准备,这些准备工作对于cpu也是很高的计算量。
预测一帧图像帧的过程对于CPU来说几乎没有计算消耗,只需向GPU发送部分指令。对于GPU来说,只需要计算图像帧的运动向量。这些计算全部是并行的,且只需要计算一次,每个计算单元执行的都是少量的基本运算,可以减少GPU的计算,提升性能。
可以理解的是,本申请实施例不限于电子设备通过第N绘制帧和第N+2绘制帧预测出第N+3预测帧。可选地,电子设备还可以通过第N帧和第N+1帧预测第N+2帧。可选地,电子设备还可以通过第N帧和第N+3帧预测第N+4帧。本申请实施例对此不做限定。
可以理解的是,电子设备在显示目标应用程序的视频界面的过程中,电子设备可以按照不同的策略来预测出预测帧。即电子设备在第一时间段按照第N帧和第N+2帧预测第N+3帧的策略,在第二时间段按照第N帧和第N+1帧预测第N+2帧的策略。例如,当GPU执行的任务比较多时,电子设备可以先按照第N帧和第N+2帧预测第N+3帧。当GPU执行的任务比较少时,电子设备可以按照第N帧和第N+1帧预测第N+2帧。本申请实施例对此不做限定。
在一种可能的实现方式中,本申请实施例中第一绘制结果和第二绘制结果至绘制目标应用程序的界面场景内容(例如游戏内容),不绘制目标应用程序中的UI控件。
可以理解的是,本申请实施例中的第一绘制结果可以是绘制了第N绘制帧的绘制指令的绘制内容的第一绘制范围,例如,图8中(b)图示出的第一绘制结果803。第一绘制结果可以是绘制了第N绘制帧的绘制指令的绘制内容的第一内存空间的一个附件。此时,第一绘制结果的尺寸等于第一内存空间中该附件的尺寸。即,第一绘制结果的宽度和第一内存空间的宽度相同,第一绘制结果的高度与第一内存空间的高度相同。同样地,本申请实施例中的第二绘制结果可以是绘制了第N+2绘制帧的绘制指令的绘制内容的第二绘制范围,例如,图9中(b)图示出的第二绘制结果903。第二绘制结果可以是绘制了第N+2绘制帧的绘制指令的绘制内容的第二内存空间的一个附件。此时,第二绘制结果的尺寸等于第二内存空间中该附件的尺寸。即,第二绘制结果的宽度和第二内存空间的宽度相同,第二绘制结果的高度与第二内存空间的高度相同。
通过本申请实施例提供的一种图像帧预测的方法,在绘制第一绘制帧时,电子设备将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,第一内存空间的尺寸大于默认内存空间的尺寸,默认内存空间为电子设备系统提供的存储用于显示的图像帧的内存空间;在绘制第二绘制帧时,电子设备将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,第二内存空间的尺寸大于默认内存空间的尺寸;电子设备根据第一绘制结果和第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸;电子设备将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。这样,电子设备在放大的内存空间中绘制第一绘制帧,第二绘制帧,可以绘制出比电子设备显示的第一绘制帧和第二绘制帧多一些的绘制内容。这样,电子设备预测出的预测帧中可以存在电子设备显示的第一绘制帧和第二绘制帧中没有的绘制内容。从而,电子设备预测的预测帧中的绘制内容更接近相机的拍摄视野中的拍摄内容。因而,电子设备预测出的图像帧可以更为准确。
下面首先介绍本申请实施例提供的示例性电子设备100。
图12是本申请实施例提供的电子设备100的结构示意图。
下面以电子设备100为例对实施例进行具体说明。应该理解的是,电子设备100可以具有比图中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
电子设备100可以包括:处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
在本申请实施例中,GPU可以用于在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间中,得到第一绘制结果,第一内存空间的尺寸大于默认内存空间的尺寸,默认内存空间为电子设备系统提供的存储用于显示的图像帧的内存空间;在绘制第二绘制帧时,将第二绘制帧的绘制指令的绘制内容绘制到第二内存空间,得到第二绘制结果,第二内存空间的尺寸大于默认内存空间的尺寸;根据第一绘制结果和所述第二绘制结果,在第三内存空间中生成第三绘制结果,第三内存空间的尺寸大于默认内存空间的尺寸;将第三绘制结果剪切成与默认内存空间的尺寸相同,得到第三预测帧。
在一种可能的实现方式中,GPU还可以用于:在绘制第一绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第一内存空间的第一绘制范围中,得到第一绘制结果;第一绘制范围的尺寸小于或等于第一内存空间的尺寸,第一绘制范围的尺寸大于默认内存空间的尺寸。
在一种可能的实现方式中,GPU还可以用于:在绘制第二绘制帧时,将第一绘制帧的绘制指令的绘制内容绘制到第二内存空间的第二绘制范围中,得到第二绘制结果;第二绘制范围的尺寸小于或等于第二内存空间的尺寸,第二绘制范围的尺寸大于默认内存空间的尺寸。
在一种可能的实现方式中,GPU可以用于:根据第一绘制结果和第二绘制结果,确定第二绘制结果的第一运动向量;根据第二绘制结果和第一运动向量,在第三内存空间中生成第三绘制结果。这样,GPU可以根据第一绘制帧和第二绘制帧预测出第三预测帧的第三绘制结果。
在一种可能的实现方式中,GPU可以用于:电子设备将第二绘制结果分成Q个像素块,在第二绘制结果的Q个像素块中取出第一像素块在第一绘制结果中确定出与第一像素块匹配的第二像素块;根据第二像素块到第一像素块的位移得到第一像素块的运动向量;根据第一像素块的运动向量确定第二绘制结果的第一运动向量。按照该实现方式中的步骤,GPU可以确定第二绘制结果的Q个像素块中所有像素块的运动向量。每个像素块中包括f*f(例如,16*16)个像素点。
上述实现方式中,GPU将第二绘制结果分块来计算运动向量,不用去计算第二绘制结果中每个像素点的运动向量。这样可以减少计算量,从而降低电子设备中GPU的功耗。
在一种可能的实现方式中,GPU可以用于:通过第一像素块中的第一像素点在第一绘制结果中确定出多个候选像素块;分别计算出多个候选像素块与第一像素块的颜色值的差值;根据多个候选像素块第一像素块的颜色值的差值确定出与第一像素块匹配的第二像素块,第二像素块为多个候选像素块中与第一像素块的颜色值的差值最小的候选像素块。
这样,电子设备中的GPU可以更为准确地找到每个像素块的匹配像素块,从而能够更准确地计算出每个像素块的运动向量。
在一种可能的实现方式中,GPU可以用于:根据第一运动向量确定第三绘制结果的运动向量,根据第二绘制结果和第三绘制结果的运动向量生成第三绘制结果。第三绘制结果的运动向量为第一运动向量的G倍,G大于0小于1。
在一种可能的实现方式中,GPU还可以用于:根据第二绘制结果和第一运动向量,在第三内存空间的第三绘制范围内生成第三绘制结果;第三绘制范围的尺寸小于或等于第三内存空间的尺寸,第三绘制范围的尺寸大于第三内存空间的尺寸。
在一种可能的实现方式中,GPU可以用于:创建第一内存空间,第二内存空间,第三内存空间,第一内存空间可以用于存储第一绘制帧的第一绘制结果,第二内存空间可以用于存储第二绘制帧的第二绘制结果,第三内存空间可以用于存储第三预测帧的第三绘制结果。
在一种可能的实现方式中,GPU还可以用于:电子设备将第一绘制结果剪切成与默认内存空间的尺寸相同,得到第一绘制帧。
在一种可能的实现方式中,GPU还可以用于:电子设备将第二绘制结果剪切成与默认内存空间的尺寸相同,得到第二绘制帧。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
SIM接口可以被用于与SIM卡接口195通信,实现传送数据到SIM卡或读取SIM卡中数据的功能。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本发明实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
内部存储器121可以包括一个或多个随机存取存储器(random access memory,RAM)和一个或多个非易失性存储器(non-volatile memory,NVM)。
随机存取存储器可以包括静态随机存储器(static random-access memory,SRAM)、动态随机存储器(dynamic random access memory,DRAM)、同步动态随机存储器(synchronous dynamic random access memory,SDRAM)、双倍资料率同步动态随机存取存储器(double data rate synchronous dynamic random access memory,DDR SDRAM,例如第五代DDR SDRAM一般称为DDR5 SDRAM)等。
非易失性存储器可以包括磁盘存储器件、快闪存储器(flash memory)。
快闪存储器按照运作原理划分可以包括NOR FLASH、NAND FLASH、3D NAND FLASH等,按照存储单元电位阶数划分可以包括单阶存储单元(single-level cell,SLC)、多阶存储单元(multi-level cell,MLC)、三阶储存单元(triple-level cell,TLC)、四阶储存单元(quad-level cell,QLC)等,按照存储规范划分可以包括通用闪存存储(英文:universalflash storage,UFS)、嵌入式多媒体存储卡(embedded multi media Card,eMMC)等。
随机存取存储器可以由处理器110直接进行读写,可以用于存储操作系统或其他正在运行中的程序的可执行程序(例如机器指令),还可以用于存储用户及应用程序的数据等。
非易失性存储器也可以存储可执行程序和存储用户及应用程序的数据等,可以提前加载到随机存取存储器中,用于处理器110直接进行读写。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。
图13是本申请实施例的电子设备100的软件结构框图。
本申请实施例提供的用于实现图像帧预测的系统框架1300包括软件架构和硬件设备。其中,分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将系统分为四层,从上至下分别为应用程序层,应用程序框架层,系统库,内核层。
应用程序层可以包括一系列应用程序包。
如图13所示,应用程序层可以目标应用程序1301。应用程序层还可以包括相机(图13中未示出),图库(图13中未示出),日历(图13中未示出),通话(图13中未示出),地图(图13中未示出),导航(图13中未示出)等等应用程序(也可以称为应用)。其中,目标应用程序1301可以是游戏应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。在本申请实施例中,应用程序框架层可以包括应用程序引擎1310。其中,应用程序引擎1310中可以包括渲染系统(Rendering System)1311。当电子设备100在运行目标应用程序1301时,目标应用程序1301对应的应用程序引擎1310中的渲染系统1311可以获取目标应用程序1301的绘制参数。渲染系统1311还可以根据该绘制参数调用三维图形处理库1330中的接口,以实现目标应用程序1301的图像帧的渲染。其中,应用程序引擎1310可以是游戏应用对应的游戏引擎。三维图形处理库1330可以是Vulkan,OpenGL,OpenGL ES。
系统库可以包括多个功能模块。例如:表面管理器(surface manager)(图13中未示出),媒体库(Media Libraries)(图13中未示出),平台接口1320,三维图形处理库1330(例如:OpenGL ES),二维图形引擎(例如:SGL)(图13中未示出)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了二维(2-Dimensional,2D)和三维(3-Dimensional,3D)图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
平台接口1320可以用于接收三维图形处理库1330传输的用于配置缓存的API。响应于用于配置缓存的API,平台接口1320可以通过驱动层中的驱动程序驱动运动随机存储器。进而平台接口1320可以在运动随机存储器中配置供目标应用程序使用的存储空间。本申请实施例中平台接口1320可以是EGL。EGL是Khronos渲染API(例如OpenGL,OpenGL ES或OpenVG)与基础本机平台窗口系统之间的接口。EGL处理图形上下文管理,表面/缓冲区绑定,渲染同步,并启用“使用其他Khronos API的高性能,加速,混合模式2D和3D渲染”。
三维图形处理库用于实现3D图形绘图,图像渲染,合成,和图层处理等。三维图形处理库1330可以是OpenGL ES。OpenGL ES是一种应用程序编程接口/函数库,是OpenGL三维图形API的子集。OpenGL ES中包括多种功能函数/应用程序编程接口,例如glBindFrameBuffer接口1333’、glDrawArrays接口(图中未示出)。电子设备100可调用OpenGL ES实现图像帧的绘制。
钩子模块(HOOK System)1331通过将三维图像处理库1330中的一些接口挂钩子,可以获取调用三维图像处理库1330中glBindFrameBuffer接口1333’、glDrawArrays接口等接口的参数。例如,钩子模块(HOOK System)1331通过glBindFrameBuffer接口1333将三维图像处理库1330中的glBindFrameBuffer接口1333’挂钩子,可以获取调用三维图像处理库1330中glBindFrameBuffer接口1333’的参数。
在本申请实施例中,在目标应用程序1301进行绘制时,应用程序引擎1310中的渲染系统1311可以调用钩子模块1331中的eglSwapBuffers接口1332,glBindFrameBuffer接口1333等接口。然后钩子模块(HOOK System)1331通过将三维图像处理库1330中的一些接口挂钩子,可以获取调用三维图像处理库1330中glBindFrameBuffer接口1333’、glDrawArrays接口等接口的参数来实现目标应用程序1301中插入预测帧,并且实现根据目标应用程序1301的绘制帧计算运动向量以及得到预测帧。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层可以包括驱动程序1340。其中驱动程序1340中可包括多种驱动程序,用于实现对于硬件设备的驱动。例如驱动程序1340可以包括图形内存驱动1341、GPU驱动1342等等驱动程序。
硬件设备中可以包括:显示设备Display1350,图形处理器GPU1351、缓存1352和应用处理器1353。显示设备1350可以是图12中示出的显示屏194。图形处理器GPU1351和应用处理器1353可以集成在图12中示出的处理器110中。缓存1352可以是图12中示出的内部存储器121。这里显示设备1350可以参考上文对显示屏194的描述。图形处理器1351可以参考上文中对GPU的描述。应用处理器1353可以参考上文对图12的描述。缓存1352可以参考上文对内部存储器121的描述。此处不再赘述。
下面结合捕获拍照场景,示例性说明电子设备100软件以及硬件的工作流程。
当触摸传感器180K接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头193捕获静态图像或视频。
以上所述,以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
上述实施例中所用,根据上下文,术语“当…时”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘)等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。
Claims (21)
1.一种图像帧预测的方法,应用于电子设备,其特征在于,包括:
在绘制第一应用的第一绘制帧时,所述电子设备将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,所述第一绘制范围的尺寸大于所述第一应用的第一绘制帧的尺寸;
在绘制所述第一应用的第二绘制帧时,所述电子设备将所述第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,所述第二内存空间的尺寸大于所述第二绘制帧的尺寸,其中,所述第一绘制帧的尺寸与第二绘制帧的尺寸相同;
所述电子设备根据所述第一绘制结果和所述第二绘制结果,预测生成所述第一应用的第三预测帧,其中,所述第三预测帧的尺寸与第一绘制帧的尺寸相同。
2.根据权利要求1所述的方法,其特征在于,所述电子设备将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:
所述电子设备将所述第一应用下发的第一绘制帧的第一绘制指令中第一参数修改为第一绘制范围;所述第一参数用于设置第一绘制帧的绘制范围尺寸;
所述电子设备将修改后的第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果。
3.根据权利要求2所述的方法,其特征在于,所述第一绘制范围的尺寸大于所述第一应用的第一绘制帧的尺寸,具体包括:
所述第一绘制范围的宽度为所述第一绘制帧的宽度的K3倍,所述第一绘制范围的高度为所述第一绘制帧的高度的K4倍,所述K3、所述K4大于1。
4.根据权利要求3所述的方法,其特征在于,所述K3、所述K4由所述电子设备的系统配置的固定值,或由所述电子设备根据所述第一绘制帧的绘制指令中包含的绘制参数确定。
5.根据权利要求4所述的方法,其特征在于,所述电子设备将所述修改后第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:
所述电子设备根据所述K3、所述K4生成第一转换矩阵,所述电子设备将修改后的第一绘制帧的绘制指令中的绘制内容的大小根据第一转换矩阵调整后绘制到第一绘制范围中,得到第一绘制结果。
6.根据权利要求1所述的方法,其特征在于,所述电子设备将所述第二绘制帧的绘制指令按照第二绘制范围绘制,得到第一绘制结果,具体包括:
所述电子设备将所述第一应用下发的第二绘制帧的第二绘制指令中第二参数修改为第二绘制范围;所述第二参数用于设置第二绘制帧的绘制范围尺寸;
所述电子设备将修改后的第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果。
7.根据权利要求6所述的方法,其特征在于,所述第二绘制范围的尺寸大于所述第一应用的第二绘制帧的尺寸,具体包括:
所述第二绘制范围的宽度为所述第二绘制帧的宽度的K5倍,所述第二绘制范围的高度为所述第二绘制帧的高度的K6倍,所述K5、所述K6大于1。
8.根据权利要求7所述的方法,其特征在于,所述K5、所述K6由所述电子设备的系统配置的固定值,或由所述电子设备根据所述第一绘制帧的绘制指令中包含的绘制参数确定。
9.根据权利要求8所述的方法,其特征在于,所述电子设备将所述修改后的第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,具体包括:
所述电子设备根据所述K5、所述K6生成第二转换矩阵,所述电子设备将修改后的第二绘制帧的绘制指令中的绘制内容的大小根据第二转换矩阵调整后绘制到第二绘制范围中,得到第一绘制结果。
10.根据权利要求1所述的方法,其特征在于,所述电子设备根据所述第一绘制结果和所述第二绘制结果,预测生成所述第一应用的第三预测帧,具体包括:
所述现在设备根据所述第一绘制结果和所述第二绘制结果,预测生成所述第三预测帧的第三绘制结果;
所述电子设备将所述第三绘制结果剪切为所述第三预测帧。
11.根据权利要求10所述的方法,其特征在于,所述电子设备根据所述第一绘制结果和所述第二绘制结果,预测生成所述第三预测帧的第三绘制结果,具体包括:
所述电子设备根据所述第一绘制结果和所述第二绘制结果,确定所述第二绘制结果的第一运动向量;
所述电子设备根据所述第二绘制结果和所述第一运动向量,预测生成所述第三预测帧的第三绘制结果。
12.根据权利要求11所述的方法,其特征在于,所述电子设备根据所述第一绘制结果和所述第二绘制结果,确定所述第二绘制结果的第一运动向量,具体包括:
所述电子设备将所述第二绘制结果分成Q个像素块,所述电子设备在所述第二绘制结果的Q个像素块中取出第一像素块;
所述电子设备在所述第一绘制结果中确定出与所述第一像素块匹配的第二像素块;
所述电子设备根据所述第二像素块到所述第一像素块的位移得到所述第一像素块的运动向量;
所述电子设备根据所述第一像素块的运动向量确定所述第二绘制结果的第一运动向量。
13.根据权利要求12所述的方法,其特征在于,所述电子设备在所述第一绘制结果中确定出与所述第一像素块匹配的第二像素块,具体包括:
所述电子设备通过所述第一像素块中的第一像素点在所述第一绘制结果中确定出多个候选像素块;
所述电子设备分别计算出所述多个候选像素块与所述第一像素块的颜色值的差值;
所述电子设备根据所述多个候选像素块所述第一像素块的颜色值的差值确定出与所述第一像素块匹配的所述第二像素块,所述第二像素块为多个候选像素块中与所述第一像素块的颜色值的差值最小的候选像素块。
14.根据权利要求1-13任一项所述的方法,其特征在于,所述在绘制第一应用的第一绘制帧时,所述电子设备将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,具体包括:
在绘制第一应用的第一绘制帧时,所述电子设备在第一内存空间中将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果,所述第一内存空间的尺寸大于或等于所述第一绘制范围的尺寸。
15.根据权利要求1-14任一项所述的方法,其特征在于,所述在绘制所述第一应用的第二绘制帧时,所述电子设备将所述第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,具体包括:
在绘制所述第一应用的第二绘制帧时,所述电子设备在第二内存空间中将所述第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果,所述第二内存空间的尺寸大于或等于所述第二绘制范围的尺寸。
16.根据权利要求12所述的方法,其特征在于,所述电子设备根据所述第二绘制结果和所述第一运动向量,预测生成所述第三预测帧的第三绘制结果,具体包括:
所述电子设备根据所述第二绘制结果和所述第一运动向量,按照第三绘制范围预测生成第三绘制结果;其中,所述第三绘制范围的尺寸大于所述第三预测帧的尺寸。
17.根据权利要求1-16任一项所述的方法,其特征在于,所述在绘制第一应用的第一绘制帧时,所述电子设备将所述第一绘制帧的绘制指令按照第一绘制范围绘制,得到第一绘制结果之后,所述方法还包括:
所述电子设备将所述第一绘制结果剪切成所述第一绘制帧。
18.根据权利要求1-17任一项所述的方法,其特征在于,所述在绘制所述第一应用的第二绘制帧时,所述电子设备将所述第二绘制帧的绘制指令按照第二绘制范围绘制,得到第二绘制结果之后,所述方法还包括:
所述电子设备将所述第二绘制结果剪切成所述第二绘制帧。
19.一种电子设备,一种电子设备,其特征在于,所述电子设备包括:一个或多个处理器和存储器;所述存储器与所述一个或多个处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,所述一个或多个处理器调用所述计算机指令以使得所述电子设备执行如权利要求1至18任一项所述的方法。
20.一种包含指令的计算机程序产品,其特征在于,当所述计算机程序产品在电子设备上运行时,使得所述电子设备执行如权利要求1至18任一项所述的方法。
21.一种计算机可读存储介质,包括指令,其特征在于,当所述指令在电子设备上运行时,使得所述电子设备执行如权利要求1至18任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011493948.7A CN114708289A (zh) | 2020-12-16 | 2020-12-16 | 一种图像帧预测的方法及电子设备 |
CN202180026284.XA CN115398907A (zh) | 2020-09-30 | 2021-07-16 | 一种图像帧预测的方法及电子设备 |
PCT/CN2021/106928 WO2022068326A1 (zh) | 2020-09-30 | 2021-07-16 | 一种图像帧预测的方法及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011493948.7A CN114708289A (zh) | 2020-12-16 | 2020-12-16 | 一种图像帧预测的方法及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114708289A true CN114708289A (zh) | 2022-07-05 |
Family
ID=82166772
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011493948.7A Pending CN114708289A (zh) | 2020-09-30 | 2020-12-16 | 一种图像帧预测的方法及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114708289A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116664375A (zh) * | 2022-10-17 | 2023-08-29 | 荣耀终端有限公司 | 图像预测方法、装置、设备及存储介质 |
WO2024103872A1 (zh) * | 2022-11-18 | 2024-05-23 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
-
2020
- 2020-12-16 CN CN202011493948.7A patent/CN114708289A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116664375A (zh) * | 2022-10-17 | 2023-08-29 | 荣耀终端有限公司 | 图像预测方法、装置、设备及存储介质 |
CN116664375B (zh) * | 2022-10-17 | 2024-04-12 | 荣耀终端有限公司 | 图像预测方法、装置、设备及存储介质 |
WO2024103872A1 (zh) * | 2022-11-18 | 2024-05-23 | 荣耀终端有限公司 | 图像处理方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110231905B (zh) | 一种截屏方法及电子设备 | |
CN109559270B (zh) | 一种图像处理方法及电子设备 | |
CN115473957B (zh) | 一种图像处理方法和电子设备 | |
CN113838490B (zh) | 视频合成方法、装置、电子设备及存储介质 | |
CN114089933A (zh) | 显示参数的调整方法、电子设备、芯片及可读存储介质 | |
CN114140365B (zh) | 基于事件帧的特征点匹配方法及电子设备 | |
WO2022068326A1 (zh) | 一种图像帧预测的方法及电子设备 | |
CN113935898A (zh) | 图像处理方法、系统、电子设备及计算机可读存储介质 | |
WO2022095744A1 (zh) | Vr显示控制方法、电子设备及计算机可读存储介质 | |
CN114089932A (zh) | 多屏显示方法、装置、终端设备及存储介质 | |
CN112700377A (zh) | 图像泛光处理方法及装置、存储介质 | |
CN114708289A (zh) | 一种图像帧预测的方法及电子设备 | |
CN114979457B (zh) | 一种图像处理方法及相关装置 | |
CN113489895B (zh) | 确定推荐场景的方法及电子设备 | |
CN114866860A (zh) | 一种播放视频的方法及电子设备 | |
CN113542574A (zh) | 变焦下的拍摄预览方法、终端、存储介质及电子设备 | |
CN114283195B (zh) | 生成动态图像的方法、电子设备及可读存储介质 | |
CN115686182B (zh) | 增强现实视频的处理方法与电子设备 | |
CN114222187B (zh) | 视频编辑方法和电子设备 | |
CN116263971A (zh) | 图像帧的预测方法、电子设备及计算机可读存储介质 | |
CN115150542B (zh) | 一种视频防抖方法及相关设备 | |
CN115032640A (zh) | 手势识别方法和终端设备 | |
CN116708751B (zh) | 一种拍照时长的确定方法、装置和电子设备 | |
CN116700578B (zh) | 图层合成方法、电子设备以及存储介质 | |
CN115482143B (zh) | 应用的图像数据调用方法、系统、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |