CN115631258A - 一种图像处理方法及电子设备 - Google Patents
一种图像处理方法及电子设备 Download PDFInfo
- Publication number
- CN115631258A CN115631258A CN202211321633.3A CN202211321633A CN115631258A CN 115631258 A CN115631258 A CN 115631258A CN 202211321633 A CN202211321633 A CN 202211321633A CN 115631258 A CN115631258 A CN 115631258A
- Authority
- CN
- China
- Prior art keywords
- layer
- time
- electronic device
- buffer
- event
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/20—Drawing from basic elements, e.g. lines or circles
- G06T11/206—Drawing of charts or graphs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/52—Program synchronisation; Mutual exclusion, e.g. by means of semaphores
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/544—Buffers; Shared memory; Pipes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/40—Filling a planar surface by adding surface attributes, e.g. colour or texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Image Generation (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本申请实施例提供一种图像处理方法及电子设备,涉及图像处理技术领域,具体方案包括:电子设备绘制第一图层,并渲染第一图层,在SF缓存队列缓存渲染后的第一图层;电子设备在第一时刻之前绘制完第一图层,在第一时刻之前电子设备绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层;其中,第一时刻是用于触发电子设备绘制第二图层的第一垂直同步信号到来的时刻。
Description
本申请是分案申请,原申请的申请号是202010762068.9,原申请日是2020年7月31日,原申请的全部内容通过引用结合在本申请中。
技术领域
本申请实施例涉及图像处理技术领域,尤其涉及一种图像处理方法及电子设备。
背景技术
随着电子技术的发展,各类电子设备(如手机)的性能越来越好。消费者对电子产品的人机交互性能的要求也越来越高。其中,电子设备的显示内容在用户视觉上的连贯性是一项重要的人机交互性能。
而电子设备的高帧率显示也是一种发展趋势。例如,电子设备的帧率由60赫兹(Hz)发展到90Hz,再到120Hz。而电子设备的帧率越高,则更容易出现丢帧的问题,则会导致电子设备的显示内容的不连贯,影响用户体验。因此,如何减少甚至避免电子设备显示图像时出现丢帧的现象是亟待解决的问题。
发明内容
本申请实施例提供一种图像处理方法及电子设备,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
为达到上述目的,本申请采用如下技术方案:
第一方面,本申请实施例提供一种图像处理方法,该方法可以应用于电子设备。该方法中,电子设备绘制第一图层,并渲染第一图层,在SF缓存队列缓存渲染后的第一图层。电子设备在第一时刻之前绘制完第一图层,在第一时刻之前电子设备可以绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。其中,SF英文全称SurfaceFlinger。上述第一时刻是用于触发电子设备绘制第二图层的第一垂直同步信号到来的时刻。
本申请中,电子设备在下一个第一垂直同步信号到来之前,执行完一个图层绘制任务(即绘制完第一图层)后,可继续执行下一个图层绘制任务(即绘制第二图层),而不是等待该第一垂直同步信号到来后才绘制第二图层。也就是说,电子设备可以利用UI线程的空闲时段提前执行下一个图层绘制任务。这样,可以提前完成图层的绘制和渲染任务,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
在第一方面的一种可能的设计方式中,电子设备在在第一时刻之前绘制完第一图层后,可以立即绘制第二图层。具体的,上述电子设备在第一时刻之前绘制完第一图层,在第一时刻之前电子设备绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层,可以包括:电子设备在第一时刻之前绘制完第一图层,电子设备响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。这种设计方式,给出电子设备提前绘制第二图层的一种具体方式。
在第一方面的另一种可能的设计方式中,即使电子设备在第一时刻之前绘制完第一图层,电子设备响应于第一图层绘制结束,不一定会立即开始绘制第二图层。
具体的,电子设备在第二时刻之前绘制完第一图层,电子设备则可以从第二时刻开始绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。该第二时刻是用于触发电子设备绘制第一图层的第一垂直同步信号的信号周期的预设百分比的耗时时刻,预设百分比小于1,第二时刻在第一时刻之前。
也就是说,如果电子设备在第二时刻之前绘制完第一图层,电子设备不会立即绘制第二图层,而是等待第二时刻到达时,才开始绘制第二图层。这种设计方式,给出电子设备提前绘制第二图层的一种具体方式。
在第一方面的另一种可能的设计方式中,电子设备还可能会在第一时刻之前,第二时刻之后绘制完第一图层。在这种情况下,电子设备可以响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。也就是说,电子设备可以在于第一图层绘制结束后,立即绘制第二图层。这种设计方式,给出电子设备提前绘制第二图层的一种具体方式。
在第一方面的另一种可能的设计方式中,电子设备响应于第一UI事件,可以提前绘制第二图层。具体的,电子设备可以接收第一UI事件。该第一UI事件用于触发电子设备显示预设图像内容或者以预设方式显示图像内容。该第一UI事件包括以下任一种:电子设备接收用户输入的抛滑操作,电子设备接收用户对前台应用中预设控件的点击操作,电子设备自动触发的UI事件。响应于该第一UI事件,电子设备绘制第一图层,并渲染第一图层,在SF缓存队列缓存渲染后的第一图层。
在第一方面的另一种可能的设计方式中,为了避免SF缓存队列中图层溢出而影响电子设备显示图像的连贯性,本申请实施例中,电子设备在提前绘制第二图层之前,可以判断上述SF缓存队列是否有足够的缓存空间可用于缓存电子设备提前绘制并渲染的图层。具体的,电子设备可以确定SF缓存队列的缓存空间和SF缓存队列中缓存帧的数量,该缓存帧是缓存在SF缓存队列中的图层;然后,计算SF缓存队列的缓存空间与缓存帧的数量的差值,得到SF缓存队列的剩余缓存空间。若SF缓存队列的剩余缓存空间大于第一预设门限值,在第一时刻之前电子设备绘制完第一图层,电子设备则在第一时刻之前绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
本申请中,电子设备在SF缓存队列的剩余缓存空间大于第一空间阈值的情况下,即SF缓存队列的剩余缓存空间足以缓存提前绘制并渲染的图层的情况下,提前绘制并渲染图层。这样,可以减少由于SF缓存队列缓存空间不足时提前绘制并渲染图层,而丢帧的问题,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的连贯性,从而提升用户的视觉体验。
在第一方面的另一种可能的设计方式中,若SF缓存队列的剩余缓存空间小于第二预设门限值,电子设备则响应于第一垂直同步信号,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在第一方面的另一种可能的设计方式中,电子设备可以动态设置SF缓存队列的缓存空间。具体的,在电子设备在第一时刻之前绘制完第一图层,在第一时刻之前电子设备绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层之前,本申请实施例的方法还可以包括:电子设备将SF缓存队列的缓存空间设置为M+p帧。其中,M为设置前SF缓存队列的缓存空间的大小;p为电子设备在预设时间内丢帧的数量,或者,p为预设的正整数。
其中,电子设备动态设置SF缓存队列的缓存空间,可对SF Buffer的缓存空间进行扩容。这样,可以解决SF Buffer中图层溢出而影响电子设备显示图像的连贯性的问题,可以提升电子设备显示图像的连贯性。
在第一方面的另一种可能的设计方式中,若M+p大于预设上限值N,电子设备则将SF缓存队列的缓存空间设置为N帧。在这种设计方式中,电子设备设置了SF缓存队列的缓存空间的上限值。
为了减少电子设备的显示画面出现抖动现象的可能性,电子设备可以根据第一垂直同步信号的信号周期,计算对应图层的运动距离并根据该运动距离绘制图层。具体的,电子设备绘制第二图层包括:电子设备根据第一垂直同步信号的信号周期,计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层;其中,第二图层的运动距离是第二图层中的图像内容相比于第一图层中的图像内容的运动距离。采用本申请的方法,可以减少电子设备的显示画面出现抖动现象的可能性。
在第一方面的另一种可能的设计方式中,电子设备根据第一垂直同步信号的信号周期,计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层的方法可以包括:电子设备根据第一垂直同步信号的信号周期,计算第二图层的处理时间;根据第二图层的处理时间计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层。
其中,当第二图层是电子设备响应于第一UI事件绘制的第i个图层时,第二图层的处理时间为pi-1+Ti-1,i≥2,i为正整数。pi-1为第i-1个图层的处理时间;Ti-1为用于触发电子设备绘制第i-1个图层的第一垂直同步信号的信号周期。这种设计方式,给出电子设备计算第二图层的运动距离的一种具体方式。
在第一方面的另一种可能的设计方式中,电子设备可能会接收到用于触发电子设备停止显示上述第一UI事件对应的图像内容的中断事件。如电子设备可以接收第二UI事件。该第二UI事件是用于触发电子设备停止显示上述第一UI事件对应的图像内容的中断事件。电子设备响应于第二UI事件,可以停止绘制第一UI事件的图层。之后,电子设备响应于第二垂直同步信号,删除SF缓存队列中缓存的第一UI事件的图层。该第二垂直同步信号用于触发电子设备合成渲染后的图层得到图像帧。电子设备响应于第一垂直同步信号,可以绘制第二UI事件的第三图层,渲染第三图层,在SF缓存队列中缓存渲染后的第三图层。
其中,电子设备响应于第二UI事件,停止绘制第一UI事件的图层。之后,响应于第二垂直同步信号,删除SF缓存队列中缓存的第一UI事件的图层。这样,可以使得电子设备可以尽快显示第二UI事件的图像内容,可以减少触摸响应延迟,提升电子设备的跟手性能。
在第一方面的另一种可能的设计方式中,在电子设备接收第二UI事件之后,电子设备响应于第一垂直同步信号,绘制第二UI事件的第三图层,渲染第三图层,在SF缓存队列中缓存渲染后的第三图层之前,本申请实施例的方法还可以包括:电子设备重新绘制第四图层,以将电子设备绘制图层的逻辑回退至第四图层,并获取第四图层的处理时间。其中,第四图层是电子设备接收到第二UI事件时,电子设备正在显示的图像帧对应的图层的下一帧图层;或者,第四图层包括电子设备接收到第二UI事件时,电子设备正在显示的图像帧对应的图层,以及电子设备正在显示的图像帧对应的图层的下一帧图层。
需要说明的是,电子设备不再渲染第四图层,第四图层的处理时间用于电子设备计算第四图层的运动距离。
其中,电子设备重新绘制第四图层将电子设备绘制图层的逻辑回退至第四图层,可以避免电子设备显示的图像内容出现的大幅度跳变,提升电子设备显示的图像内容的连贯性,提升用户体验。
第二方面,本申请实施例提供一种电子设备,该电子设备包括显示屏、存储器和一个或多个处理器。该显示屏、存储器与处理器耦合。其中,显示屏用于显示处理器生成的图像。该存储器用于存储计算机程序代码,计算机程序代码包括计算机指令。当计算机指令被处理器执行时,使得电子设备执行以下操作:绘制第一图层,并渲染第一图层,在SF缓存队列缓存渲染后的第一图层;在第一时刻之前绘制完第一图层,在第一时刻之前电子设备绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。其中,上述第一时刻是用于触发电子设备绘制第二图层的第一垂直同步信号到来的时刻。
在第二方面的一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:在第一时刻之前绘制完第一图层,响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:在第二时刻之前绘制完第一图层,从第二时刻开始绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
其中,第二时刻是用于触发电子设备绘制第一图层的第一垂直同步信号的信号周期的预设百分比的耗时时刻,预设百分比小于1,第二时刻在第一时刻之前。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:在第一时刻之前,第二时刻之后绘制完第一图层,响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:接收第一UI事件,第一UI事件用于触发显示屏显示预设图像内容或者以预设方式显示图像内容;第一UI事件包括以下任一种:电子设备接收用户输入的抛滑操作,电子设备接收用户对前台应用中预设控件的点击操作,电子设备自动触发的UI事件;响应于第一UI事件,绘制第一图层,并渲染第一图层,在SF缓存队列缓存渲染后的第一图层。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:确定SF缓存队列的缓存空间和SF缓存队列中缓存帧的数量,缓存帧是缓存在SF缓存队列中的图层;计算SF缓存队列的缓存空间与缓存帧的数量的差值,得到SF缓存队列的剩余缓存空间;若SF缓存队列的剩余缓存空间大于第一预设门限值,在第一时刻之前绘制完第一图层,则在第一时刻之前绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:若SF缓存队列的剩余缓存空间小于第二预设门限值,则响应于第一垂直同步信号,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:将SF缓存队列的缓存空间设置为M+p帧。其中,M为设置前SF缓存队列的缓存空间的大小;p为电子设备在预设时间内丢帧的数量,或者,p为预设的正整数。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:若M+p大于预设上限值N,将SF缓存队列的缓存空间设置为N帧。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:根据第一垂直同步信号的信号周期,计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层;其中,第二图层的运动距离是第二图层中的图像内容相比于第一图层中的图像内容的运动距离。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:根据第一垂直同步信号的信号周期,计算第二图层的处理时间;根据第二图层的处理时间计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层。其中,当第二图层是电子设备响应于第一UI事件绘制的第i个图层时,第二图层的处理时间为pi-1+Ti-1,i≥2,i为正整数。pi-1为第i-1个图层的处理时间。Ti-1为用于触发电子设备绘制第i-1个图层的第一垂直同步信号的信号周期;
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:接收第二UI事件;响应于第二UI事件,停止绘制第一UI事件的图层;响应于第二垂直同步信号,删除SF缓存队列中缓存的第一UI事件的图层;其中,第二垂直同步信号用于触发电子设备合成渲染后的图层得到图像帧;响应于第一垂直同步信号,绘制第二UI事件的第三图层,渲染第三图层,在SF缓存队列中缓存渲染后的第三图层。其中,第二UI事件是用于触发电子设备停止显示第一UI事件对应的图像内容的中断事件。
在第二方面的另一种可能的设计方式中,当计算机指令被处理器执行时,使得电子设备还执行以下步骤:重新绘制第四图层,以将电子设备绘制图层的逻辑回退至第四图层,并获取第四图层的处理时间。其中,电子设备不再渲染第四图层,第四图层的处理时间用于电子设备计算第四图层的运动距离。第四图层是接收到第二UI事件时,显示屏正在显示的图像帧对应的图层的下一帧图层;或者,第四图层包括接收到第二UI事件时,显示屏正在显示的图像帧对应的图层,以及显示屏正在显示的图像帧对应的图层的下一帧图层。
第三方面,本申请提供一种芯片系统,该芯片系统可以应用于包括存储器和显示屏的电子设备。该芯片系统包括一个或多个接口电路和一个或多个处理器。该接口电路和处理器通过线路互联。该接口电路用于从上述存储器接收信号,并向处理器发送该信号,该信号包括存储器中存储的计算机指令。当处理器执行该计算机指令时,电子设备执行如第一方面及其任一种可能的设计方式所述的方法。
第四方面,本申请提供一种计算机可读存储介质,该计算机可读存储介质包括计算机指令。当计算机指令在电子设备上运行时,使得该电子设备执行如第一方面及其任一种可能的设计方式所述的方法。
第五方面,本申请提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行如第一方面及其任一种可能的设计方式所述的方法。
可以理解地,上述提供的第二方面及其任一种可能的设计方式所述的电子设备,第三方面所述的芯片系统,第四方面所述的计算机可读存储介质,第五方面所述的计算机程序产品所能达到的有益效果,可参考如第一方面及其任一种可能的设计方式中的有益效果,此处不再赘述。
附图说明
图1为本申请实施例提供的一种电子设备的硬件结构示意图;
图2A为本申请实施例提供的一种垂直同步信号的示意图;
图2B为本申请实施例提供的一种电子设备响应于触摸操作显示图像的软件处理流程示意图;
图2C为常规技术中的一种电子设备进行图层绘制、渲染、合成以及图像帧显示_的原理示意图;
图3为本申请实施例提供的一种图像处理方法流程图;
图4A为本申请实施例提供的一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图4B为本申请实施例提供的一种图像处理方法流程图;
图5A为本申请实施例提供的一种电子设备进行图层绘制、渲染、合成以及图像帧显示_的原理示意图;
图5B为本申请实施例提供的另一种图像处理方法流程图;
图6为本申请实施例提供的一种SF Buffer缓存图层的方法示意图;
图7A为本申请实施例提供的一种Frame Buffer缓存图层的方法示意图;
图7B为SysTrace工具抓取的常规技术中电子设备绘制多帧图层的一种时序图;
图7C为SysTrace工具抓取的本申请实施例中电子设备绘制多帧图层的一种时序图;
图7D为SysTrace工具抓取的本申请实施例中电子设备绘制多帧图层的另一种时序图;
图8A为本申请实施例提供的电子设备的一种显示界面示意图;
图8B为本申请实施例提供的电子设备的另一种显示界面示意图;
图8C为本申请实施例提供的电子设备的另一种显示界面示意图;
图9为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图10A为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图10B为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图10C为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图10D为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图10E为常规技术中电子设备绘制多帧图层的过程中,SF Buffer中缓存帧的变化示意图;
图10F为本申请实施例中电子设备绘制多帧图层的过程中,SF Buffer中缓存帧的变化示意图;
图11A为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图11B为本申请实施例提供的一种图层的运动距离变化示意图;
图12为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图13为本申请实施例提供的另一种图像处理方法流程图;
图14为本申请实施例提供的另一种图像处理方法流程图;
图15为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图16A为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图16B为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图16C为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图16D为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图17为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图18A为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图18B为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图19为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图20为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图21为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图22A为本申请实施例提供的另一种电子设备进行图层绘制、渲染、合成以及图像帧显示的原理示意图;
图22B为本申请实施例提供的另一种SF Buffer缓存图层的方法示意图;
图23为本申请实施例提供的一种芯片系统的结构示意图。
具体实施方式
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本申请实施例提供一种图像处理方法,该方法可以应用于包括显示屏(如触摸屏)的电子设备。通过该方法,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
示例性的,上述电子设备可以是手机、平板电脑、桌面型、膝上型、手持计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本,以及蜂窝电话、个人数字助理(personal digital assistant,PDA)、增强现实(augmentedreality,AR)\虚拟现实(virtual reality,VR)设备等包括显示屏(如触摸屏)的设备,本申请实施例对该电子设备的具体形态不作特殊限制。
下面将结合附图对本申请实施例的实施方式进行详细描述。
请参考图1,为本申请实施例提供的一种电子设备100的结构示意图。如图1所示,电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头293,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中,传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本实施例示意的结构并不构成对电子设备100的具体限定。在另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
可以理解的是,本实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头293,和无线通信模块160等供电。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。该显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganiclight emitting diode,AMOLED),柔性发光二极管(flex light-emitting diode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot light emittingdiodes,QLED)等。
其中,本申请实施例中的显示屏194可以是触摸屏。即该显示屏194中集成了触摸传感器180K。该触摸传感器180K也可以称为“触控面板”。也就是说,显示屏194可以包括显示面板和触摸面板,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器180K检测到的触摸操作后,可以由内核层的驱动(如TP驱动)传递给上层,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
电子设备100可以通过ISP,摄像头293,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。ISP用于处理摄像头293反馈的数据。摄像头293用于捕获静态图像或视频。数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。例如,在本申请实施例中,处理器110可以通过执行存储在内部存储器121中的指令,内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。耳机接口170D用于连接有线耳机。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。本申请实施例中,电子设备100可以通过压力传感器180A获取用户的触摸操作的按压力度。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。
以下介绍上述垂直同步信号1、垂直同步信号2和垂直同步信号3。
垂直同步信号1:如VSYNC_APP。该垂直同步信号1可以用于触发绘制一个或多个图层,并渲染绘制的图层。也就是说,上述垂直同步信号1可用于触发UI线程绘制一个或多个图层,并由Render线程对UI线程绘制的一个或多个图层进行渲染。
垂直同步信号2:如VSYNC_SF。该垂直同步信号2可以用于触发对渲染的一个或多个图层进行图层合成得到图像帧。也就是说,上述垂直同步信号2可用于触发合成线程对Render线程渲染的一个或多个图层进行图层合成得到图像帧。
垂直同步信号3:如HW_VSYNC。该垂直同步信号3可以用于触发硬件刷新显示图像帧。
其中,垂直同步信号3是由电子设备的显示屏驱动触发的一个硬件信号。本申请实施例中,垂直同步信号3(如HW_VSYNC)的信号周期T3是根据电子设备的显示屏的帧率确定的。具体的,垂直同步信号3的信号周期T3是电子设备的显示屏(如LCD或OLED)的帧率的倒数。
例如,电子设备的显示屏的帧率可以为60赫兹(Hz)、70Hz、75Hz、80Hz、90Hz或者120Hz等任一值。以帧率是60Hz为例,上述垂直同步信号3的信号周期为1/60=0.01667秒(s)=16.667毫秒(ms)。以帧率是90Hz为例,上述垂直同步信号3的信号周期为1/90=0.01111秒(s)=11.11毫秒(ms)。需要注意的是,其中,电子设备可能支持多个不同的帧率。电子设备的帧率可以在上述不同的帧率之间切换。本申请实施例中所述的帧率是电子设备当前所使用的帧率。即垂直同步信号3的信号周期是电子设备当前所使用的帧率的倒数。
需要注意的是,本申请实施例中的垂直同步信号3是一个周期性离散信号。例如,如图2A所示,每间隔一个信号周期就会有一个由硬件驱动触发的垂直同步信号3。垂直同步信号1和垂直同步信号2是基于垂直同步信号3产生的,即垂直同步信号3可以是垂直同步信号1和垂直同步信号2的信号源。或者,垂直同步信号1和垂直同步信号2与垂直同步信号3同步。故垂直同步信号1和垂直同步信号2的信号周期与垂直同步信号3的信号周期相同,且相位一致。例如,如图2A所示,垂直同步信号1的信号周期,垂直同步信号2的信号周期,与垂直同步信号3的信号周期相同。并且,如图2A所示,垂直同步信号1、垂直同步信号2,以及垂直同步信号3的相位一致。可以理解的是,实际实施过程中,垂直同步信号1、垂直同步信号2,以及垂直同步信号3之间可能会因为各种因素(如处理性能)存在一定的相位误差。需要注意的是,在理解本申请实施例的方法时,上述相位误差被忽略。
综上所述,上述垂直同步信号1、垂直同步信号2和垂直同步信号3均为周期性离散信号。例如,如图2A所示,每间隔一个信号周期就会有一个垂直同步信号1,每间隔一个信号周期就会有一个垂直同步信号2,每间隔一个信号周期就会有一个垂直同步信号3。上述垂直同步信号1、垂直同步信号2和垂直同步信号3的信号周期都可以称为同步周期TZ。也就是说,本申请实施例中的同步周期是电子设备的帧率的倒数。
需要注意的是,在不同的系统或者架构中,垂直同步信号的名称可能不同。例如,在一些系统或者架构中,上述用于触发绘制一个或多个图层的垂直同步信号(即垂直同步信号1)的名称可能不是VSYNC_APP。但是,无论垂直同步信号的名称是什么,只要是具备类似功能的同步信号,符合本申请实施例提供的方法的技术思路,都应涵盖在本申请的保护范围之内。
并且,在不同的系统或者架构中,对上述垂直同步信号的定义也可能不同。例如,在另一些系统或架构中,上述垂直同步信号1的定义可以为:垂直同步信号1可以用于触发渲染一个或多个图层;垂直同步信号2的定义可以为:垂直同步信号2可以用于触发根据一个或多个图层生成图像帧;垂直同步信号3的定义可以为:垂直同步信号3可以用于触发显示图像帧。本申请实施例中,对垂直同步信号的定义不作限定。但是,无论对垂直同步信号做何种定义,只要是具备类似功能的同步信号,符合本申请实施例提供的方法的技术思路,都应涵盖在本申请的保护范围之内。
为了便于理解,本申请实施例这里结合图2B,以上述显示屏是触摸屏,用户在显示屏的操作是触摸操作为例,介绍从“用户手指在触摸屏输入触摸操作”到“触摸屏显示该触摸操作对应的图像”过程中,电子设备的软件处理流程。
如图2B所示,电子设备可以包括:触控面板(touch panel,TP)/TP驱动(Driver)10、Input框架(即Input Framework)20、UI框架(即UI Framework)30、Display框架(即Display Framework)40和硬件显示模块50。
如图2B所示,电子设备的软件处理流程可以包括以下步骤(1)-步骤(5)。步骤(1):TP IC/TP驱动10中的TP采集用户手指对电子设备的TP的触摸操作后,TP驱动向Event Hub上报相应的触摸事件。步骤(2):Input框架20的Input Reader线程可以从Event Hub中读取触摸事件,然后向Input Dispatcher线程发送该触摸事件;由Input Dispatcher线程向UI框架30中的UI线程上传该触摸事件。步骤(3):UI框架30中的UI线程(如Do Frame)绘制该触摸事件对应的一个或多个图层;渲染(Render)线程(如Draw Frame)对一个或多个图层进行图层渲染。其中,上述UI线程是电子设备的中央处理器(Central Processing Unit,CPU)中的线程。Render线程是电子设备的GPU中的线程。步骤(4):Display框架40中的合成线程(Surface Flinger)对绘制的一个或多个图层(即渲染后的一个或多个图层)进行图层合成得到图像帧。步骤(5):硬件显示模块50的液晶显示面板(Liquid Crystal Display,LCD)驱动可接收合成的图像帧,由LCD显示合成的图像帧。LCD显示图像帧后,LCD显示的图像可被人眼感知。
一般而言,响应于用户对TP的触摸操作或者UI事件,UI框架可以在垂直同步信号1到来后,调用UI线程绘制触控事件对应的一个或多个图层,再调用Render线程以对该一个或多个图层进行渲染;然后,硬件合成(Hardware Composer,HWC)可以在垂直同步信号2到来后,调用合成线程对绘制的一个或多个图层(即渲染后的一个或多个图层)进行图层合成得到图像帧;最后,硬件显示模块可以在垂直同步信号3到来后,在LCD刷新显示上述图像帧。其中,上述UI事件可以是由用户对TP的触摸操作触发的。或者,该UI事件可以是由电子设备自动触发的。例如,电子设备的前台应用自动切换画面时,可以触发上述UI事件。前台应用是电子设备的显示屏当前显示的界面对应的应用。
其中,TP可以周期性检测用户的触摸操作。TP检测到触摸操作后,可以唤醒上述垂直同步信号1和垂直同步信号2,以触发UI框架基于垂直同步信号1进行图层绘制和渲染,硬件合成HWC基于垂直同步信号2进行图层合成。其中,TP检测触摸操作的检测周期与垂直同步信号3(如HW_VSYNC)的信号周期T3相同。
需要注意的是,UI框架是基于垂直同步信号1周期性的进行图层绘制和渲染的;硬件合成HWC是基于垂直同步信号2周期性的进行图层合成的;LCD是基于垂直同步信号3周期性的进行图像帧刷新的。
其中,电子设备响应于上述垂直同步信号1、垂直同步信号2和垂直同步信号3,进行图层的绘制、渲染、合成和刷新显示图像帧的过程中,可能会出现丢帧的现象。具体的,显示屏刷新显示图像帧的过程中,可能会显示一帧空白图像。这样,会影响显示屏显示图像的连贯性和流畅性,从而影响用户的视觉体验。
例如,如图2C所示,在t1时刻,一个垂直同步信号1到来;响应于t1时刻的垂直同步信号1,电子设备执行“绘制_1”和“渲染_1”;在t2时刻,一个垂直同步信号2到来;响应于t2时刻的垂直同步信号2,电子设备执行“图像帧合成_1”;在t3时刻,一个垂直同步信号3到来;响应于t3时刻的垂直同步信号3,电子设备执行“图像帧显示_1”。如图2C所示,在t2时刻,一个垂直同步信号1到来;响应于t2时刻的垂直同步信号1,电子设备执行“绘制_2”和“渲染_2”。如图2C所示,由于“绘制_2”所需时长较大,导致“绘制_2”和“渲染_2”无法在一个同步周期(如t2时刻到t3时刻这一同步周期)内完成。即电子设备在t3时刻的垂直同步信号2到来之前,未完成“渲染_2”;因此,电子设备只能等待t4时刻的垂直同步信号2到来,响应于t4时刻的垂直同步信号2,执行“图像帧合成_2”。如此,电子设备也只能等待t5时刻的垂直同步信号3到来,响应于t5时刻的垂直同步信号3,电子设备执行“图像帧显示_2”。
同样的,Render线程渲染图层所花费的时长较大,也会导致“绘制”和“渲染”无法在一个同步周期内完成(附图未示出)。
由图2C可知,在t4时刻-t5时刻这一同步周期,显示屏显示图像出现丢帧现象,即显示屏会显示一帧空白图像。而通过本申请实施例的方法,可以避免显示图像出现丢帧现象,以避免显示屏显示一帧空白图像。也就是说,通过本申请实施例的方法可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
示例性的,本申请实施例提供的方法的执行主体可以是用于处理图像的装置。该装置可以是上述电子设备中的任一种(例如,该装置可以为图1所示的电子设备100)。或者,该装置还可以为电子设备的中央处理器(英文:Central Processing Unit,简称:CPU),或者电子设备中的用于执行本申请实施例提供的方法的控制模块。
本申请实施例中以上述电子设备(如手机)执行图像处理方法为例,介绍本申请实施例提供的方法。其中,本申请实施例中的垂直同步信号1(如VSYNC_APP信号)是第一垂直同步信号,垂直同步信号2(如VSYNC_SF信号)是第二垂直同步信号,垂直同步信号3(如HW_VSYNC信号)是第三垂直同步信号。
本申请实施例提供一种图像处理方法。如图3所示,该图像处理方法可以包括S301-S302。
S301、电子设备绘制第一图层,并渲染第一图层,在SF队列缓存渲染后的第一图层。
S302、电子设备在第一时刻之前绘制完第一图层,在第一时刻之前电子设备绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
在本申请实施例的一种情况下,上述第一图层可以是电子设备在一个垂直同步信号1到来的时刻开始绘制的。
例如,第一图层可以是电子设备执行图4A所示的“绘制_1”所绘制的图层1,该图层1是电子设备响应于t1时刻的垂直同步信号1,在t1时刻开始绘制的。第二图层可以是电子设备执行图4A或图5A所示的“绘制_1”绘制完图层1之后,执行“绘制_2”所绘制的图层2。
在本申请实施例的另一种情况下,上述第一图层可以是一帧图层绘制结束后,在下一个垂直同步信号1到来之前绘制的。
例如,第一图层可以是电子设备执行图4A所示的“绘制_2”所绘制的图层2。第二图层可以是电子设备执行图4A所示的“绘制_2”绘制完图层2之后,执行“绘制_3”所绘制的图层3。其中,上述图层2(即第一图层)可以是电子设备在上述图层1绘制结束(即电子设备执行完上述“绘制_1”)后,在t2时刻的垂直同步信号1到来之前,于t1.4时刻绘制的。其中,t1.4时刻在t1时刻之后,在t2时刻之前。图4A所示的t1.4时刻与图2C所示的tx时刻是同一时刻。在图2C所示的tx时刻,电子设备完成“绘制_1”。
又例如,第一图层可以是电子设备执行图4A所示的“绘制_3”所绘制的图层3。第二图层可以是电子设备执行图4A所示的“绘制_3”绘制完图层3之后,执行“绘制_4”所绘制的图层4。其中,上述图层3(即第一图层)可以是电子设备在上述图层2绘制结束(即电子设备执行完上述“绘制_2”)后,在t3时刻的垂直同步信号1到来之前,于t2.4时刻绘制的。其中,t2.4时刻在t2时刻之后,在t3时刻之前。
其中,第一时刻是用于触发电子设备绘制第二图层的垂直同步信号1到来的时刻。
例如,在第一图层是电子设备执行图4A所示的“绘制_1”所绘制的图层1,第二图层是电子设备执行图4A所示的“绘制_2”所绘制的图层2的情况下,上述第一时刻是图4A所示的t2时刻;在常规技术中,该t2时刻的垂直同步信号1用于触发电子设备执行“绘制_2”绘制图层2。
又例如,在第一图层是电子设备执行图4A所示的“绘制_2”所绘制的图层2,第二图层是电子设备执行图4A所示的“绘制_3”所绘制的图层2的情况下,上述第一时刻是图4A所示的t3时刻;在常规技术中,该t3时刻的垂直同步信号1用于触发电子设备执行“绘制_3”绘制图层3。
一般而言,电子设备的UI线程是基于垂直同步信号1周期性地进行图层的绘制。因此,在常规技术中,电子设备执行S301,即使电子设备的UI线程已经完成第一图层的绘制,但是如果没有检测到垂直同步信号1,电子设备的UI线程是不会绘制第二图层的。电子设备的UI线程在下一个垂直同步信号1到来后,才会开始绘制第二图层。
例如,如图2C所示,在t1时刻,一个垂直同步信号1到来;响应于t1时刻的垂直同步信号1,电子设备的UI线程可执行“绘制_1”绘制图层1(即第一图层),然后由电子设备的Render线程执行“渲染_1”渲染图层1。UI线程在图2C所示的tx时刻完成“绘制_1”,即完成第一图层的绘制任务。但是,如图2C所示,在t2时刻,下一个垂直同步信号1到来;响应于t2时刻的垂直同步信号1,UI线程才可以执行“绘制_2”绘制图层2(即第二图层),Render线程执行“渲染_2”渲染图层2。
以第一时刻是图2C所示的t2时刻为例。如图2C所示,如果电子设备在t2时刻之前的tx时刻绘制完第一图层(即执行完“绘制_1”);常规技术中,响应于t2时刻的垂直同步信号1,才开始绘制第二图层(即执行完“绘制_2”)。如此,在图2C所示的tx时刻-t2时刻这段时间(如Δt1)内,UI线程处于空闲状态。
本申请实施例中,可以利用UI线程的上述空闲时段(如图2C所示的Δt1这段时间)提前绘制第二图层。如此,可以提前完成第二图层的绘制任务,可以提升电子设备在图2C所示的t3时刻的垂直同步信号2到来之前完成“渲染_2”的可能性。如此,降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性。具体的,电子设备可以执行S302。本申请实施例这里介绍电子设备执行S302的具体方法。
在本申请实施例的一种实现方式中,电子设备在第一时刻之前绘制完第一图层时,可以在第一图层绘制结束后,立即开始绘制第二图层,并渲染第二图层。具体的,如图4B所示,上述S302可以包括S302a。
S302a、电子设备在第一时刻之前绘制完第一图层,电子设备响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在所述SF缓存队列缓存渲染后的第二图层。
例如,如图4A所示,在t1时刻,一个垂直同步信号1到来;响应于t1时刻的垂直同步信号1,电子设备的UI线程可执行“绘制_1”绘制图层1(即第一图层),然后由电子设备的Render线程执行“渲染_1”渲染图层1。UI线程在图4A所示的t1.4时刻完成“绘制_1”,即绘制完图层1。响应于UI线程在图4A所示的t1.4时刻完成“绘制_1”,UI线程可以从t1.4时刻开始执行“绘制_2”绘制图层2(即第二图层),Render线程执行“渲染_2”渲染图层2。而不需要等待t2时刻的垂直同步信号1,在t2时刻才开始执行“绘制_2”绘制图层2。
又例如,UI线程在图4A所示的t2.4时刻完成“绘制_2”,即绘制完图层2(即第一图层)。响应于UI线程在图4A所示的t2.4时刻完成“绘制_2”,UI线程可以t2.4时刻开始执行“绘制_3”绘制图层3(即第二图层),Render线程执行“渲染_3”渲染图层3。而不需要等待t3时刻的垂直同步信号1,在t3时刻才开始执行“绘制_3”绘制图层3。
又例如,UI线程在图4A所示的t3.4时刻完成“绘制_3”,即绘制完图层3(即第一图层)。响应于UI线程在图4A所示的t3.4时刻完成“绘制_3”,UI线程可以t3.4时刻开始执行“绘制_4”绘制图层4(即第二图层),Render线程执行“渲染_4”渲染图层4。而不需要等待t4时刻的垂直同步信号1,在t4时刻才开始执行“绘制_4”绘制图层4。
如此,如图4A所示,可以在t3时刻的垂直同步信号2到来之前,完成“绘制_2”和“渲染_2”。这样,可以使得电子设备(如电子设备的合成线程)可以响应于t3时刻的垂直同步信号2,执行“图像帧合成_2”,进而使得电子设备(如电子设备的LCD)可以响应于t4时刻的垂直同步信号3,执行“图像帧显示_2”。如此,便可以解决图2C所示的t4时刻-t5时刻这一同步周期,显示屏显示图像出现丢帧现象(即显示屏会显示一帧空白图像)的问题。
在本申请实施例的另一种实现方式中,即使电子设备在第一时刻之前绘制完第一图层,电子设备响应于第一图层绘制结束,不一定会立即开始绘制第二图层。具体的,如图5B所示,上述S302可以包括S302b-S302c。
S302b、电子设备在第二时刻之前绘制完第一图层,电子设备从第二时刻开始绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
其中,第二时刻是用于触发电子设备绘制第一图层的垂直同步信号1的信号周期的预设百分比的耗时时刻,该预设百分比小于1。例如,预设百分比可以为50%、33.33%或者40%等任一数值。该预设百分比可以预先配置在电子设备中,也可以由用户在电子设备中设置。以下实施例中,以预设百分比等于33.33%(即1/3)为例,介绍本申请实施例的方法。
例如,常规技术中,图5A所示的t1时刻的垂直同步信号1用于触发电子设备执行“绘制_1”绘制图层1(即第一图层);上述第二时刻是t1/3时刻,即t1时刻的垂直同步信号1的信号周期T1的预设百分比的耗时时刻。具体的,t1时刻-t1/3时刻这段时长是T1的预设百分比,如t1时刻-t1/3时刻这段时长等于T1的1/3(即T1/3)。在该示例中,第一时刻是图5A所示的t2时刻,第二时刻是图5A所示的t1/3时刻,t1/3时刻在t2时刻之前。
如图5A所示,电子设备执行“绘制_1”在t1.5时刻绘制完图层1(即第一图层),t1.5时刻在t1/3时刻(即第二时刻)之前。也就是说,电子设备在t1/3时刻(即第二时刻)之前绘制完图层1。因此,电子设备可以执行S302b,从t1/3时刻(即第二时刻)开始执行“绘制_2”绘制图层2(即第二图层)。
又例如,常规技术中,图5A所示的t2时刻的垂直同步信号1用于触发电子设备执行“绘制_2”绘制图层2(即第一图层);上述第二时刻是t2/3时刻,即t2时刻的垂直同步信号1的信号周期T2的预设百分比的耗时时刻。具体的,t2时刻-t2/3时刻这段时长等于T2的1/3,即t2时刻-t2/3时刻这段时长是T2的预设百分比。在该实施例中,第一时刻是图5A所示的t3时刻,第二时刻是图5A所示的t2/3时刻,t2/3时刻在t3时刻之前。
如图5A所示,电子设备执行“绘制_2”在t2.5时刻绘制完图层2(即第一图层),t2.5时刻在t2/3时刻(即第二时刻)之前。也就是说,电子设备在t2/3时刻(即第二时刻)之前绘制完图层2。因此,电子设备可以执行S302b,从t2/3时刻(即第二时刻)开始执行“绘制_3”绘制图层3(即第二图层)。
S302c、电子设备在第一时刻之前,第二时刻之后绘制完所述第一图层,电子设备响应于第一图层绘制结束,绘制第二图层,并渲染第二图层,在SF缓存队列缓存渲染后的第二图层。
例如,常规技术中,图5A所示的t3时刻的垂直同步信号1用于触发电子设备执行“绘制_3”绘制图层3(即第一图层);上述第二时刻是t3/3时刻,即t3时刻的垂直同步信号1的信号周期T3的预设百分比的耗时时刻。具体的,t3时刻-t3/3时刻这段时长等于T3/3,即t3时刻-t3/3时刻这段时长是T3的预设百分比。在该实施例中,第一时刻是图5A所示的t4时刻,第二时刻是图5A所示的t3/3时刻,t3/3时刻在t4时刻之前。
如图5A所示,电子设备执行“绘制_3”在t3.5时刻绘制完图层3;其中,t3.5时刻在t3/3时刻(即第二时刻)之后,在t4时刻(即第一时刻)之前。因此,电子设备可以执行S302c,响应于电子设备在t3.5时刻绘制完图层3,在t3.5时刻执行“绘制_4”绘制图层4(即第二图层)。
本申请实施例中,电子设备可以在SF缓存队列(Buffer)中缓存渲染后的图层。该SF Buffer可以以队列的方式,按照先进先出的原则缓存渲染后的图层。
例如,结合图5A,如图6所示,电子设备的Render线程执行图5A所示的“渲染_1”得到渲染后的图层1;Render线程可将渲染后的图层1插入SF Buffer;然后,电子设备的Render线程执行图5A所示的“渲染_2”得到渲染后的图层2;Render线程可将渲染后的图层2插入SF Buffer;随后,电子设备的Render线程执行图5A所示的“渲染_3”得到渲染后的图层3;Render线程可将渲染后的图层3插入SF Buffer。其中,SF Buffer按照先进先出的原则缓存图层1、图层2和图层3。也就是说,图6所示的SF Buffer中的图层按照图层1、图层2、图层3的顺序入队,并按照图层1、图层2、图层3的顺序出队。如图3、图4B或图5B所示,在上述S301或S302之后,本申请实施例的方法还可以包括S303-S304。
S303、电子设备响应于垂直同步信号2,对SF缓存队列中缓存的图层进行图层合成得到图像帧,并缓存合成的图像帧。
S304、电子设备响应于垂直同步信号3,刷新显示缓存的图像帧。
示例性的,在图4A或图5A所示的t2时刻,一个垂直同步信号2到来;响应于t2时刻的垂直同步信号2,电子设备的合成线程可执行“图像帧合成_1”对渲染的图层1进行图层合成,得到图像帧1;在图4A或图5A所示的t3时刻,一个垂直同步信号3到来;响应于t3时刻的垂直同步信号3,电子设备的LCD可执行“图像帧显示_1”,刷新显示上述图像帧1。
在图4A或图5A所示的t3时刻,一个垂直同步信号2到来;响应于t3时刻的垂直同步信号2,电子设备的合成线程可执行“图像帧合成_2”对渲染的图层2进行图层合成,得到图像帧2;在图4A或图5A所示的t4时刻,一个垂直同步信号3到来;响应于t4时刻的垂直同步信号3,电子设备的LCD可执行“图像帧显示_2”,刷新显示上述图像帧2。
在图4A或图5A所示的t4时刻,一个垂直同步信号2到来;响应于t4时刻的垂直同步信号2,电子设备的合成线程可执行“图像帧合成_3”对渲染后的图层3进行图层合成,得到图像帧3;在图4A或图5A所示的t5时刻,一个垂直同步信号3到来;响应于t5时刻的垂直同步信号3,电子设备的LCD可执行“图像帧显示_3”,刷新显示上述图像帧3。
本申请实施例中,S303中所述的“缓存的图层”是指上述SF Buffer中缓存的图层,如图6所示的SF Buffer中缓存的图层。例如,响应于图4A或图5A所示的t2时刻的垂直同步信号2,电子设备的合成线程可从图6所示的SF Buffer中获取图层1(即图层1从SF Buffer中出队),执行“图像帧合成_1”对渲染的图层1进行图层合成,得到图像帧1。
其中,S303中所述的“缓存该图像帧”是指将合成的图像帧缓存至帧(Frame)Buffer。其中,该Frame Buffer可以以队列的方式,按照先进先出的原则缓存图像帧。例如,电子设备的合成线程执行图4A或图5A所示的“图像帧合成_1”得到的图像帧1可插入图7A所示的Frame Buffer。然后,电子设备的合成线程执行4或图5A所示的“图像帧合成_2”得到图像帧2可继续插入图7A所示的Frame Buffer;随后,电子设备的合成线程执行图4A或图5A所示的“图像帧合成_3”得到图像帧3可插入图7A所示的Frame Buffer。
其中,Frame Buffer按照先进先出的原则缓存图像帧1、图像帧2和图像帧3。也就是说,图7A所示的Frame Buffer中的图层按照图像帧1、图像帧2、图像帧3的顺序入队,并按照图像帧1、图像帧2、图像帧3的顺序出队。即电子设备执行S304,响应于垂直同步信号3,可按照先进先出的原则刷新显示缓存在Frame Buffer中的图像帧。
综上所述,在常规技术中,如图2C所示,电子设备的UI线程执行图层绘制任务,都是由垂直同步信号1触发的;UI线程在一个同步周期(即一帧内)只能执行一个图层绘制任务。而本申请实施例中,UI线程执行图层绘制任务则不需要垂直同步信号1的触发;UI线程在一个同步周期(即一帧内)可以执行多个图层绘制任务。具体的,如图4A或图5A所示,UI线程在执行完一个图层绘制任务后,可以利用空闲时段,提前执行下一个图层绘制任务;这样,UI线程便可以在同步周期(即一帧内)可以执行多个图层绘制任务。
请参考图7B,其示出电子设备执行常规技术的方案时,本领域技术人员使用安卓通用的SysTrace工具抓取的电子设备绘制多帧图层的时序图。请参考图7C,其示出电子设备执行本申请实施例的方案时,本领域技术人员使用SysTrace工具抓取的电子设备绘制上述多帧图层的时序图。本申请实施例这里通过对比图7B和图7C,可以区分本申请实施例的方案与常规技术方案。其中,SysTrace工具的详细描述可以参考常规技术中的相关描述,这里不予赘述。
假设电子设备的屏幕刷新率为90Hz,垂直同步信号1的信号周期为11.11ms。执行常规技术的方案,电子设备响应于一个垂直同步信号1绘制一帧图层,响应于下一个垂直同步信号1绘制下一帧图层。因此,相邻两帧图层之间的帧间隔等于垂直同步信号1的信号周期(如11.11ms)。当一帧图层的绘制时长大于上述信号周期时,该图层与下一帧图层之间的帧间隔会大于垂直同步信号1的信号周期(如11.11ms)。也就是说,执行常规技术的方案,相邻两帧图层之间的帧间隔不会小于垂直同步信号1的信号周期。如图7B所示,相邻两个图层之间的帧间隔均大于或等于11.11ms,如相邻两个图层之间的帧间隔为11.35ms,11.35ms>11.11ms。
执行本申请实施例的方案,电子设备响应于绘制完一帧图层,不需要等待垂直同步信号1,便可以绘制下一帧图层。因此,相邻两帧图层之间的帧间隔小于垂直同步信号1的信号周期(如11.11ms)。当一帧图层的绘制时长较大时,该图层与下一帧图层之间的帧间隔可能会大于或等于垂直同步信号1的信号周期(如11.11ms)。也就是说,执行本申请实施例的方案,相邻两帧图层之间的帧间隔会出现小于垂直同步信号1的信号周期的情况。如图7C所示,相邻两个图层之间的帧间隔为1.684ms,1.684ms<11.11ms。
本申请实施例中,电子设备执行完一个图层绘制任务后,可继续执行下一个图层绘制任务,而不是等待垂直同步信号1到来后才执行下一个图层绘制任务。也就是说,电子设备可以利用UI线程的空闲时段(如图2C所示的Δt1这段时间)提前执行下一个图层绘制任务。这样,可以提前完成图层的绘制和渲染任务,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
常规技术中,响应于用户对TP的触摸操作或者UI事件,电子设备可启动上述基于垂直同步信号进行图层绘制、渲染、合成和图像帧显示的流程。本申请实施例中,电子设备也可以响应于用户对TP的触摸操作或者UI事件,启动上述基于垂直同步信号进行图层绘制、渲染、合成和图像帧显示的流程。本申请实施例的方案与常规技术不同的是:在启动上述流程后,电子设备则可以不再基于垂直同步信号1执行图层的绘制任务;而是响应于前一个图层绘制任务完成,继续执行下一个图层绘制任务。
但是,本申请实施例中,电子设备并不是针对所有的触摸操作或者UI事件,均按照S301-S304的流程进行图层绘制、渲染、合成和图像帧显示。本申请实施例中,电子设备在上述触摸操作或者UI事件触发电子设备显示的图像为“确定性动画”的情况下,可以按照S301-S304的流程,进行图层绘制、渲染、合成和图像帧显示。
具体的,在上述S301之前,本申请实施例的方法还可以包括:电子设备接收到第一UI事件。响应于该第一UI事件,电子设备可以唤醒垂直同步信号。在唤醒垂直同步信号后,电子设备便可以执行S301-S304。该第一UI事件用于触发电子设备显示预设图像内容或者以预设方式显示图像内容。其中,上述预设图像内容或者以预设方式显示的图像内容可以称为“确定性动画”。
在一种实现方式中,上述第一UI事件可以是电子设备接收的用户操作。在这种实现方式中,该第一UI事件是一种可以触发电子设备显示预先定义好的图像内容的用户操作(如触摸操作等)。也就是说,该第一UI事件触发电子设备所显示的图像内容,是电子设备可以预先确定的。因此,电子设备可以利用UI线程的空闲时段提前执行图层绘制任务。
举例来说,上述第一UI事件可以是用户在电子设备的显示屏(如触摸屏)输入的抛滑(Fling)操作(也称为Fling手势)。电子设备接收到用户输入的Fling手势,用户的手指贴合显示屏滑动,手指离开显示屏后,显示屏显示的动画仍然随“惯性”向手指滑动方向滑动,直到停止的过程。也就是说,电子设备可以按照Fling手势的惯性滑动,计算出电子设备将要显示的图像内容。在这种情况下,电子设备可以利用UI线程的空闲时段提前执行图层绘制任务。
示例性的,请参考图7D,其示出电子设备接收并响应上述抛滑(Fling)操作的过程中,本领域技术人员使用SysTrace工具抓取的电子设备绘制多帧图层的时序图。
其中,电子设备接收并响应Fling操作可以分为图7D所示的落下(Down)、滑动(Move)、抬起(Up)和抛滑(Fling)四个阶段。图7D所示的Down是指用户的手指落在电子设备的显示屏(如触摸屏)上,电子设备可以检测到用户手指落下(Down)。图7D所示的Move是指用户的手指在显示屏落下后,在显示屏上滑动,电子设备可以检测到用户手指的滑动(Move)。图7D所示的Up是指用户的手指在显示屏滑动一段距离后,离开显示屏,即手指从显示屏抬起,电子设备可以检测到用户手指的抬起(Up)。图7D所示的Fling是指用户的手指抬起后,显示屏显示的动画仍然随“惯性”向手指滑动方向滑动。
可以理解,当用户手指抬起(Up)后Fling的轨迹可以按照用户手指抬起前的滑动操作根据滑动惯性确定,即Fling的轨迹是可以预估出来的。因此,在图7D所示的Fling阶段,电子设备可以提前绘制图层。如图7D所示,to时刻-tp时刻相邻的两个图层之间的帧间隔,以及tp时刻-tq时刻相邻的两个图层之间的帧间隔较小,小于其他时刻相邻的两个图层之间的帧间隔。其中,上述其他时刻相邻的两个图层之间的帧间隔中,帧间隔等于垂直同步信号1的信号周期。由此可见,在图7D所示的Fling阶段,电子设备提前绘制了至少两个图层。
举例来说,上述第一UI事件还可以是用户对前台应用中预设控件的点击操作。前台应用是电子设备的显示屏当前显示的界面对应的应用。响应于用户对该预设控件的点击操作,电子设备所要显示的图像内容是预先定义好的。因此,电子设备可以利用UI线程的空闲时段提前执行图层绘制任务。
例如,以电子设备是手机为例,该手机显示图8A中的(a)所示的电话应用的通话记录界面801。上述第一UI事件可以是用户对该通话记录界面801中的预设控件“通讯录”802的点击操作。用户对预设控件“通讯录”802的点击操作,用于触发手机显示通讯录界面,如图8A中的(b)所示的通信录界面803。该通讯录界面是预先定义好的。因此,响应于该用户对预设控件“通讯录”802的点击操作,手机可唤醒垂直同步信号,执行本申请实施例的方法。
又例如,以电子设备是手机为例,该手机显示图8B中的(a)所示的主界面804。该主界面804中包括设置应用的图标805。上述第一UI事件可以是用户对图8B中的(a)所示的设置应用的图标805的点击操作。用户对设置应用的图标805(即预设控件)的点击操作,用于触发手机显示设置界面,如图8B中的(b)所示的设置界面806。该设置界面806是预先定义好的。因此,响应于该用户对设置应用的图标805的点击操作,手机可唤醒垂直同步信号,执行本申请实施例的方法。
并且,响应于用户对设置界面806中部分功能选项(如移动网络选项,或者锁屏和密码选项)的点击操作,手机所显示的界面也是预先定义好的。如响应于用户对设置界面806中移动网络选项的点击操作,手机可显示移动网络设置界面。该移动网络设置界面是预先定义好的。因此,响应于该用户对设置界面中部分功能选项的点击操作,手机可唤醒垂直同步信号,执行本申请实施例的方法。
又例如,以电子设备是手机为例,该手机显示图8C中的(a)所示的主界面804。该主界面804中包括**视频应用的图标807。上述第一UI事件可以是用户对图8C中的(a)所示的**视频应用的图标807的点击操作。用户对**视频应用的图标807(即预设控件)的点击操作,用于触发手机显示该**视频应用的首页。一般而言,手机显示该**视频应用的首页之前,可显示图8C中的(b)所示的该**视频应用的广告页面。该**视频应用的广告页面是预先定义好的。因此,响应于该用户对**视频应用的图标807的点击操作,手机可唤醒垂直同步信号,执行本申请实施例的方法。
在另一种实现方式中,上述第一UI事件可以是电子设备自动触发的UI事件。例如,电子设备的前台应用自动切换画面时,可以触发上述UI事件。前台应用是电子设备的显示屏当前显示的界面对应的应用。
本申请实施例中,电子设备响应于上述第一UI事件,显示“确定性动画”的情况下,可以按照S301-S304的流程,进行图层绘制、渲染、合成和图像帧显示。这样,可以在保证电子设备显示内容准确的前提下,降低电子设备显示图像时出现丢帧的可能性,保证显示屏显示图像的流畅性,从而提升用户的视觉体验。
在另一些实施例中,电子设备开启预设功能后或者进入预设模式后,可以按照S301-S304的流程,进行图层绘制、渲染、合成和图像帧显示。例如,上述预设功能还可以称为提前绘制功能、预先处理功能或者智能图层处理功能等。上述预设模式还可以称为提前绘制模式、预先处理模式或者智能图层处理模式等。
其中,电子设备可以响应于用户对电子设备中预设选项的开启操作,开启上述预设功能或者进入上述预设模式。例如,上述预设选项可以是电子设备的设置界面的功能开关。
由上述实施例可知:电子设备的Render线程渲染的图层缓存在SF Buffer中,由合成线程响应于垂直同步信号2,依次对SF Buffer中缓存的图层进行图层合成。一般而言,电子设备的SF Buffer中可缓存最多N帧的图层,如N=2或N=3。但是,针对本申请实施例的上述方案而言,如果电子设备的SF Buffer只能缓存2帧的图层;那么,则可能会出现SFBuffer中无法缓存电子设备提前绘制并渲染的图层的问题。如此,则会出现电子设备提前绘制并渲染的图层,因为SF Buffer的缓存不足而溢出的现象。
例如,请参考图9、图10A-图10D;图10示出本申请实施例的方法中图层绘制、渲染、合成和图像帧显示的原理示意图;图10A-图10D示出在电子设备执行图9所示的方法的过程中,SF Buffer中图层的入队和出队情况。
如图9所示,电子设备的UI线程响应于t1时刻的垂直同步信号1可执行“绘制_A”绘制图层A,然后Render线程可执行“渲染_A”对图层A进行渲染。电子设备的Render线程在图9或图10A所示的tA时刻执行完“渲染_A”。在tA时刻,如图10A所示,渲染后的图层A在SFBuffer入队。
如图9所示,在tB时刻之前的t2时刻,垂直同步信号2到来,响应于t2时刻的垂直同步信号2,电子设备的合成线程可执行“图像帧合成_A”;因此,在t2时刻,如图10A所示,图层A从SF Buffer出队,由合成线程执行“图像帧合成_A”。
在图9所示的tB时刻,Render线程执行完“渲染_B”;因此,如图10B所示,渲染后的图层B于tB时刻在SF Buffer入队。在图9所示的tC时刻,Render线程执行完“渲染_C”;因此,如图10B所示,渲染后的图层C于tC时刻在SF Buffer入队。
并且,在图9所示的tD时刻,Render线程执行完“渲染_D”;因此,如图10B所示,渲染后的图层D将于tD时刻在SF Buffer入队。但是,在tD时刻之后的t3时刻,下一个垂直同步信号2(即t2时刻之后的下一个垂直同步信号2)才会到来,图10B所示的图层B才会从SFBuffer出队,由合成线程执行“图像帧合成_B”。也就是说,图层D于tD时刻在SF Buffer入队时,图层B还未由合成线程执行“图像帧合成_B”而出队。在这种情况下,如图10C所示,图层D于tD时刻在SF Buffer入队,会导致的图层B于tD时刻从SF Buffer出队,即图层B于tD时刻从SF Buffer溢出。
如此,响应于图9所示的t3时刻的垂直同步信号2,则只能是图10D所示的图层C从SF Buffer出队,由合成线程执行“图像帧合成_C”。由图9可知,由于图10C所示的图层C的溢出,则会导致电子设备在t3时刻-t4时刻这一同步周期执行“图像帧显示_A”刷新显示图像帧A之后,在下一帧(即t4时刻-t5时刻这一同步周期)直接刷新执行“图像帧显示_C”刷新显示图像帧C;而不会刷新显示“渲染_B”对应的图像帧B,出现丢帧的现象,影响电子设备显示图像的连贯性,影响用户视觉体验。
为了解决SF Buffer中图层溢出而影响电子设备显示图像的连贯性的问题,电子设备还可以对SF Buffer的缓存空间进行扩容。例如,电子设备可以将SF Buffer的缓存空间设置为M+p帧。
在一些实施例中,SF Buffer的缓存空间的大小(即M+p)可以是根据该电子设备在预设时间内丢帧的数量确定的。其中,M为设置前SF Buffer的缓存空间的大小;p为电子设备在预设时间内丢帧的数量。
具体的,电子设备可以统计该电子设备在预设时间内执行第一UI事件的过程中丢帧的数量,根据统计的丢帧数量p,设置SF Buffer的缓存空间大小(即M+p)。例如,上述预设时间可以是截止电子设备本次接收第一UI事件之前的一周、一天或者半天内。
在另一些实施例中,M为设置前SF Buffer的缓存空间的大小,p为预设的正整数。p的具体数值可以预先配置在电子设备中;或者,可以由用户设置。例如,p可以等于1、2或3等任一正整数。
在该实施例中,响应于上述第二图层渲染完成,如果SF Buffer中不足以缓存新的图层,电子设备则可以对该SF Buffer进行扩容,增大该SF Buffer。其中,电子设备每次对SF Buffer进行扩容,可将SF Buffer的缓存空间增大p帧。以电子设备预先配置SF Buffer可缓存2帧图层(即M=2),p=1为例。电子设备可以将SF Buffer扩容,使SF Buffer可缓存3帧图层,即M+p=3。
本申请实施例中,可设置SF Buffer的上限值N。具体的,该电子设备最多可将SFBuffer的缓存空间设置为N帧。也就是说,当M+p大于预设上限值N时,电子设备可以将SFBuffer的缓存空间设置为N帧。N的具体数值可以预先配置在电子设备中;或者,可以由用户设置。例如,N可以等于5、6、8、10等任一正整数。
在另一些实施例中,电子设备可以预先配置SF Buffer的缓存空间的大小。例如,电子设备响应于上述第一UI事件,可以按照该第一UI事件,预先配置SF Buffer的缓存空间的大小(即M+p)。例如,M+p可以等于5、6、8、10等任一正整数。
示例性的,请参考图10E,其示出电子设备执行常规技术的方案时,本领域技术人员使用通用的SysTrace工具抓取的SF Buffer中缓存帧的变化示意图。请参考图10F,其示出电子设备执行本申请实施例的方案时,本领域技术人员使用SysTrace工具抓取的SF Buffer中缓存帧的变化示意图。本申请实施例这里通过对比图10E和图10F,可以分析出本申请实施例的方案与常规技术方案中SF Buffer的不同变化,以说明电子设备执行本申请实施例的方法可以对SF Buffer进行扩容。
需要说明的是,图10E和图10F所示的每个向上的箭头用于表示SF Buffer中增加一个缓存帧;图10E和图10F所示的每个向下的箭头用于表示SF Buffer中减少一个缓存帧。
其中,电子设备执行常规技术的方案,SF Buffer中缓存帧在每个信号周期只能增加一个缓存帧。并且,电子设备执行常规技术的方案,SF Buffer中缓存帧的数量不超过3个。
例如,在图10E所示的t1时刻-t2时刻这一信号周期,SF Buffer增加了1个缓存帧,然后又减少了1个缓存帧,SF Buffer中缓存帧的数量不超过3个。在图10E所示的t2时刻-t3时刻这一信号周期,SF Buffer增加了1个缓存帧,然后又减少了1个缓存帧,SF Buffer中缓存帧的数量不超过3个。在图10E所示的t3时刻-t4时刻这一信号周期,SF Buffer增加了1个缓存帧,然后又减少了1个缓存帧,SF Buffer中缓存帧的数量不超过3个。
其中,电子设备执行申请实施例的方法,SF Buffer中缓存帧在每个信号周期可以增加多个缓存帧。并且,电子设备执行申请实施例的方法,SF Buffer中缓存帧的数量可以超过3个。
例如,在图10F所示的ta时刻-tb时刻这一信号周期,SF Buffer增加了2个缓存帧,SF Buffer中至少包括2个缓存帧。在图10F所示的tb时刻-tc时刻这一信号周期,SF Buffer减少了1个,增加了2个缓存帧,SF Buffer中至少包括3个缓存帧。在图10E所示的tc时刻-td时刻这一信号周期,SF Buffer减少了1个,增加了2个缓存帧,SF Buffer中至少包括4个缓存帧。
在另一些实施例中,为了避免SF Buffer中图层溢出而影响电子设备显示图像的连贯性,本申请实施例中,电子设备在执行上述S302之前,可以判断上述SF Buffer是否有足够的缓存空间可用于缓存电子设备提前绘制并渲染的图层。具体的,在S302之前,本申请实施例的方法还可以包括:S1001-S1002。
S1001、电子设备确定SF Buffer的缓存空间和该SF Buffer中缓存帧的数量。
其中,SF Buffer的缓存空间是指SF Buffer中最多能够缓存的图层的数量。该SFBuffer中缓存帧的数量是指该SF Buffer中当前已经缓存的图层的数量。
S1002、电子设备计算SF Buffer的缓存空间与SF Buffer中缓存帧的数量的差值,得到SF Buffer的剩余缓存空间。
例如,假设SF Buffer的缓存空间为3帧,SF Buffer中缓存帧的数量为2帧;那么,SF Buffer的剩余缓存空间则为1帧。
在S1002之后,若SF Buffer的剩余缓存空间大于第一预设门限值,电子设备则可以执行S302。可以理解,如果SF Buffer的剩余缓存空间大于第一预设门限值,则表示SFBuffer的剩余缓存空间足以缓存提前绘制并渲染的图层。在这种情况下,电子设备则可以执行S302,提前绘制并渲染图层。
在S1002之后,若SF Buffer的剩余缓存空间小于第二预设门限值,则表示SFBuffer的剩余缓存空间不足以缓存提前绘制并渲染的图层。在这种情况下,电子设备则不会执行S302,提前绘制并渲染图层;而是按照常规技术中的方式,响应于垂直同步信号1,绘制第二图层,并渲染第二图层,在SF Buffer缓存渲染后的第二图层。
需要说明的是,本申请实施例中,电子设备每次在绘制完一个图层(即第一图层)后,在绘制下一个图层(即第二图层)之前,都可以执行S1001-S1002。在S1002之后,若SFBuffer的剩余缓存空间大于第一预设门限值,电子设备则可以执行S302,提前绘制并渲染图层。在S1002之后,若SF Buffer的剩余缓存空间小于第二预设门限值,电子设备则不会执行S302,提前绘制并渲染图层;而是响应于垂直同步信号1,绘制并渲染图层。在电子设备响应于垂直同步信号1,绘制并渲染图层,并将渲染后的图层缓存至SF Buffer的过程中,如果电子设备再一次接收到上述第一UI事件,电子设备可以执行S301-S304。
本申请实施例中,电子设备在SF Buffer的剩余缓存空间大于第一空间阈值的情况下,即SF Buffer的剩余缓存空间足以缓存提前绘制并渲染的图层的情况下,执行本申请实施例的方法提前绘制并渲染图层。这样,可以减少由于SF Buffer的缓存空间不足时提前绘制并渲染图层,而丢帧的问题,可以降低电子设备显示图像时出现丢帧的可能性,可以保证显示屏显示图像的连贯性,从而提升用户的视觉体验。
一般而言,的动画原生算法是按照UI线程开始绘制图层的时间来计算该图层的运动距离,并根据该图层的运动距离绘制该图层的。但是,针对本申请实施例中电子设备利用UI线程的空闲时段提前绘制图层的方案而言,采用上述方式计算运动距离,电子设备的显示画面容易出现抖动的现象。
例如,如图11A所示,电子设备响应于t1时刻的垂直同步信号1执行“绘制_A”绘制图层a。其中,采用的动画原生算法,电子设备可以按照电子设备开始绘制图层a的时间(即t1时刻)来计算该图层a的运动距离,根据该图层a的运动距离绘制图层a。其中,一个图层的运动距离是指该图层中的图像内容相比于上一帧图层中的图像内容的运动距离。
如图11A所示,电子设备在tb时刻开始执行“绘制_b”绘制图层b。其中,采用的动画原生算法,电子设备可以按照电子设备开始绘制图层b的时间(即tb时刻)来计算图层b的运动距离,根据该运动距离绘制图层b。
如图11A所示,电子设备在tc时刻开始执行“绘制_c”绘制图层c。其中,采用的动画原生算法,电子设备可以按照电子设备开始绘制图层c的时间(即tc时刻)来计算图层c的运动距离,根据该运动距离绘制图层c。
如图11A所示,电子设备在td时刻开始执行“绘制_d”绘制图层d。其中,采用的动画原生算法,电子设备可以按照电子设备开始绘制图层d的时间(即td时刻)来计算图层d的运动距离,根据该运动距离绘制图层d。
其中,如果绘制一帧图层所花费的时长过大(如图11A所示,绘制图层c花费的时长过大),则不仅会出现丢帧的问题,还会导致电子设备开始绘制下一帧图层(如图层d)的时间与电子设备开始绘制图层c的时间差过大。例如,假设垂直同步信号1的信号周期为16.67ms。如图11B中的(a)所示,tc时刻与td时刻的时间差过大,该时间差大于18.17ms。进而,会导致开始绘制图层d的时间与电子设备开始绘制图层c的时间差与同步周期(即垂直同步信号1的信号周期)相差过大。
采用的动画原生算法,按照上述开始绘制图层的时间计算该图层的运动距离时,开始绘制一帧图层的时间与开始绘制上一帧图层的时间的时间差和同步周期(即垂直同步信号1的信号周期)相差越大,这一帧图层的运动距离则越大。
但是,电子设备刷新显示每一帧图像(即一个图像帧)的时长是固定的,为一个同步周期。该同步周期(即垂直同步信号1的信号周期)是电子设备的帧率的倒数。
如此,电子设备以固定的时长(即一个同步周期)分别刷新显示运动距离不同的多帧图像,则会出现显示画面抖动的现象。示例性的,假设电子设备的帧率为90Hz为例,则同步周期为11.1ms。以电子设备需要显示火车匀速行驶的动态图像为例,动画原生算法是按照图11A所示的开始绘制各个图层的时间来计算运动距离,电子设备的显示效果为:图11A所示的“绘制_a”对应的一帧图像中火车匀速行驶,“绘制_b”对应的一帧图像中火车匀速行驶,“绘制_c”对应的一帧图像中火车突然加速行驶,“绘制_d”对应的一帧图像中火车突然减速行驶。即电子设备的显示画面出现抖动的现象。
由此可见,上述按照时间差的方式计算运动距离也不适用于本方案。本申请实施例中电子设备可以选择性的基于电子设备的同步周期或者开始绘制图层的时间来计算图层的运动距离。具体的,上述S302中电子设备绘制第二图层的方法可以包括S1101。
S1101、电子设备根据垂直同步信号1的信号周期,计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层。
其中,第二图层的运动距离是第二图层中的图像内容相比于第一图层中的图像内容的运动距离。示例性的,上述S1101可以包括S1101a-S1101b。
S1101a、电子设备根据垂直同步信号1的信号周期,计算第二图层的处理时间。
S1101b、电子设备根据第二图层的处理时间计算第二图层的运动距离,并根据第二图层的运动距离绘制第二图层。
在该实施例的一种实现方式中,当第二图层是电子设备响应于第一UI事件绘制的第i个图层时,第二图层的处理时间为pi-1+Ti-1,i≥2,i为正整数。该pi-1为第i-1个图层的处理时间,该Ti-1为用于触发电子设备绘制第i-1个图层的垂直同步信号1的信号周期。
示例性的,假设电子设备执行图11A所示的“绘制_a”所绘制的图层a是电子设备响应于第一UI事件绘制的第1个图层;电子设备执行图11A所示的“绘制_b”所绘制的图层b是电子设备响应于第一UI事件绘制的第2个图层;电子设备执行图11A所示的“绘制_c”所绘制的图层c是电子设备响应于第一UI事件绘制的第3个图层;电子设备执行图11A所示的“绘制_d”所绘制的图层d是电子设备响应于第一UI事件绘制的第4个图层。
例如,当第二图层是上述图层b(即电子设备响应于第一UI事件绘制的第2个图层,i=2)时,图层b的处理时间为p2=p1+T1。其中,p1是电子设备开始绘制上述图层a的时间(如图11A所示的t1时刻);那么,p2则是图11A所示的t2时刻。如此,电子设备可以按照t2时刻计算图层b的运动距离,并根据该运动距离绘制图层b。电子设备可以按照t1时刻计算图层a的运动距离,并根据该运动距离绘制图层a。
又例如,当第二图层是上述图层c(电子设备响应于第一UI事件绘制的第3个图层,i=3)时,图层c的处理时间p3=p2+T2。其中,p2+T2为图11A所示的t3时刻,图层c的处理时间p3为图11A所示的t3时刻。如此,电子设备可以按照t3时刻计算图层c的运动距离,并根据该运动距离绘制图层c。
又例如,当第一图层是上述图层d(电子设备响应于第一UI事件绘制的第4个图层,i=4)时,图层d的处理时间p4=p3+T3。其中,p3+T3为图11A所示的t4时刻,图层d的处理时间p4为t4时刻。如此,电子设备可以按照t4时刻计算图层d的运动距离,并根据该运动距离绘制图层d。
该实现方式中,电子设备可以按照图层的处理时间计算该图层的运动距离。这样,可以保证一帧图层的处理时间与上一帧图层的处理时间的时间差等于垂直同步信号的信号周期(即上述同步周期)。例如,上述图层b的处理时间t2与图层a的处理时间t1的时间差为T1等于同步周期T1;图层c的处理时间t3与图层b的处理时间t2的时间差为T2等于同步周期T2。这样,可以减少电子设备的显示画面出现抖动现象的可能性。
在该实施例的另一种实现方式中,当第二图层是电子设备响应于第一UI事件绘制的第i个图层时,第二图层的处理时间为Max(pi-1+Ti-1,pi′),i≥2,i为正整数。该pi-1为第i-1个图层的处理时间,该Ti-1为用于触发电子设备绘制第i-1个图层的垂直同步信号1的信号周期。pi′为电子设备开始绘制第i个图层的时间,pi-1为第i-1个图层的处理时间。
其中,p1为第1个图层的处理时间,该第1个图层的处理时间等于电子设备开始绘制第1个图层的时间。例如,图层a的处理时间为电子设备开始绘制该图层a的时间(即图11A所示的t1时刻)。也就是说,电子设备开始绘制第1个图层的时间p1为图11A所示的t1时刻。如此,电子设备可以按照t1时刻计算图层a的运动距离,并根据该运动距离绘制图层a。
例如,当第二图层是上述图层b(电子设备响应于第一UI事件绘制的第2个图层,i=2)时,图层b的处理时间p2为Max(p1+T1,p2′)。其中,p2′为电子设备开始绘制第2个图层的时间tb。由于p1为图11A所示的t1时刻;因此,p1+T1为图11A所示的t2时刻。由于t2大于tb(即p2′);因此,图层b的处理时间p2为t2时刻。如此,电子设备可以按照t2时刻计算图层b的运动距离,并根据该运动距离绘制图层b。
又例如,当第二图层是上述图层c(电子设备响应于第一UI事件绘制的第3个图层,i=3)时,图层c的处理时间p3为Max(p2+T2,p3′)。其中,p3′为电子设备开始绘制第3个图层的时间tc。由于p2为图11A所示的t2时刻;因此,p2+T2为图11A所示的t3时刻。由于t3大于tc(即p3′);因此,图层c的处理时间p3为t3时刻。如此,电子设备可以按照t3时刻计算图层c的运动距离,并根据该运动距离绘制图层c。
又例如,当第二图层是上述图层d(电子设备响应于第一UI事件绘制的第4个图层,i=4)时,图层d的处理时间p4为Max(p3+T3,p4′)。其中,p4′为电子设备开始绘制第4个图层的时间td。由于p3为图11A所示的t3时刻;因此,p3+T3为图11A所示的t4时刻。由于td(即p3′)大于t4;因此,图层d的处理时间p4为td时刻(即p3′)。如此,电子设备可以按照td时刻计算图层d的运动距离,并根据该运动距离绘制图层d。
电子设备可以采用上述方式计算第二图层的处理时间,并在电子设备的时间缓存队列中保存该第二图层的处理时间。其中,上述时间缓存队列可以按照先进先出的原则缓存各个图层的处理时间。
该实现方式中,电子设备可以选择性的按照开始绘制图层的时间或者图层的处理时间计算该图层的运动距离。这样,可以保证大部分图层的处理时间与上一帧图层的处理时间的时间差等于垂直同步信号的信号周期(即上述同步周期)。例如,上述图层b的处理时间t2与图层a的处理时间t1的时间差为T1等于同步周期T1;图层c的处理时间t3与图层b的处理时间t2的时间差为T2等于同步周期T2。这样,可以减少电子设备的显示画面出现抖动现象的可能性。
虽然采用该实现方式的方法,可以减少电子设备显示图像时出现丢帧的可能性;但是,不可避免的会因为电子设备绘制部分图层所花费的时长较大,而出现丢帧的可能性。例如,如图11A所示,电子设备执行“绘制_c”所绘制的图层c花费的时长较大,导致电子设备在t5时刻-t6时刻出现丢帧。在这种情况下,下一帧图层(如图层d)的处理时间与这一帧图层(如图层c)的处理时间的时间差与同步周期会存在差异。例如,图层d的处理时间td与图层c的处理时间t3的时间差为t3时刻-td时刻这段时间,大于同步周期T3。但是,一般情况下,电子设备绘的图层花费的时长不会如此大,因此出现这种情况的可能性很低。
示例性的,请参考图11B中的(b),其示出电子设备按照的动画原生算法计算图11A所示的各个的运动距离时,各个图层的运动距离的变化示意图。请参考图11B中的(c),其示出电子设备执行S1101计算图11A所示的各个的运动距离时,各个图层的运动距离的变化示意图。
其中,图11B中的(b)和图11B中的(c)中的横坐标为各个图层的帧数,纵坐标为各个图层的运动距离。其中,图层的帧数用于指示该图层是电子设备绘制的第n个图层,n为正整数。
在图11B中的(b)所示的虚线框1101中,点1102用于表示电子设备执行图11A所示的“绘制c”所绘制的图层c的运动距离,点1103用于表示电子设备执行图11A所示的“绘制d”所绘制的图层d的运动距离。按照的动画原生算法,计算图层c和图层d的运动距离,会出现图11B中的(b)所示的前一帧图层c的运动距离(点1102表示的运动距离)较大,而下一帧图层d的运动距离(点1103表示的运动距离)突然变小的现象,即画面抖动的现象。
而电子设备执行S1101计算图11A所示的各个的运动距离,则不会出现图11B中的(b)所示的抖动现象。例如,如图11B中的(c)所示,虚线框1104中的黑色曲线较为平滑,没有出现相邻图层的运动距离剧烈变化的现象。
综上所述,采用本申请实施例的方法,可以减少电子设备的显示画面出现抖动现象的可能性。
示例性的,本申请实施例这里结合图12所示的电子设备提前绘制图层,并对SF进行扩容的过程,介绍上述方法。
如图12所示,电子设备接收到上述第一UI事件后,可以启动垂直同步信号(即VSYNC);响应于t1时刻的VSYNC,电子设备的UI线程可以绘制图层1,并由Render线程渲染绘制的图层1;在t1时刻之后的tx1时刻,UI线程已绘制完图层1;UI线程可以绘制图层2,并由Render线程渲染绘制的图层2。
Render线程在图12所示的ts1时刻渲染完图层1,可以将该图层1缓存至SF Buffer。如图12所示,在t1时刻-ts1时刻这段时间,SF Buffer中未缓存图层,即SF Buffer中缓存的图层的数量为0。因此,Render线程在ts1时刻将该图层1缓存至SF Buffer后,SF Buffer中缓存的图层数量变为1。在图12所示的tx2时刻,UI线程已绘制完图层2;UI线程可以绘制图层3,并由Render线程渲染绘制的图层3。
在图12所示的t2时刻,VSYNC到来,合成线程可以从SF Buffer中读出上述图层1,对图层1进行图层合成,得到图像帧1;即图层1从SF Buffer中出队,SF Buffer中缓存的图层的数量变为0。在图12所示的ts2时刻,Render线程渲染完图层2,可以将该图层2缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。在图12所示的tx3时刻,UI线程已绘制完图层3;UI线程可以绘制图层4,并由Render线程渲染绘制的图层4。在图12所示的ts3时刻,Render线程渲染完图层3,可以将该图层3缓存至SF Buffer,SF Buffer中缓存的图层的数量变为2。
在图12所示的t3时刻,VSYNC到来,电子设备的LCD刷新显示图像帧1;并且,合成线程可以从SF Buffer中读出图层2,对图层2进行图层合成,得到图像帧2;即图层2从SFBuffer中出队。因此,在图12所示的t3时刻,SF Buffer中缓存的图层的数量可以变为1;但是,在t3时刻,Render线程渲染完图层4,可以将该图层4缓存至SF Buffer。因此,在t3时刻,SF Buffer中缓存的图层的数量仍为2。在图12所示的t3时刻,VSYNC到来,UI线程绘制图层5,由Render线程渲染绘制的图层5。
其中,假设SF Buffer中最多可缓存3帧图层。在t3时刻,SF Buffer中已经缓存了2帧图层;并且,在t3时刻,UI线程开始绘制图层5。如果Render线程渲染绘制的图层5缓存至SF Buffer;那么,SF Buffer中的图层数量则可以达到上限值。因此,在t3时刻后,UI线程绘制完图层5之后,t4时刻的VSYNC到来之前,UI线程不会提前绘制图层。在图12所示的ts4时刻,Render线程渲染完图层5,可以将该图层5缓存至SF Buffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t4时刻,VSYNC到来,电子设备的LCD刷新显示图像帧2;合成线程可以从SF Buffer中读出图层3,对图层3进行图层合成,得到图像帧3;即图层3从SF Buffer中出队。因此,在图12所示的t4时刻,SF Buffer中缓存的图层的数量可以变为2。并且,响应于t4时刻的VSYNC,UI线程可以绘制图层6,由Render线程渲染绘制的图层6。可以理解,如果Render线程渲染绘制的图层6缓存至SF Buffer;那么,SF Buffer中的图层数量则可以达到上限值。因此,在t4时刻后,UI线程绘制完图层6之后,t5时刻的VSYNC到来之前,UI线程不会提前绘制图层。在图12所示的ts5时刻,Render线程渲染完图层6,可以将该图层6缓存至SFBuffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t5时刻,VSYNC到来,电子设备的LCD刷新显示图像帧3;合成线程可以从SF Buffer中读出图层4,对图层4进行图层合成,得到图像帧4;即图层4从SF Buffer中出队。因此,在图12所示的t5时刻,SF Buffer中缓存的图层的数量可以变为2。并且,响应于t5时刻的VSYNC,UI线程可以绘制图层7,由Render线程渲染绘制的图层7。可以理解,如果Render线程渲染绘制的图层7缓存至SF Buffer;那么,SF Buffer中的图层数量则可以达到上限值。因此,在t5时刻后,UI线程绘制完图层7之后,t6时刻的VSYNC到来之前,UI线程不会提前绘制图层。在图12所示的ts6时刻,Render线程渲染完图层7,可以将该图层7缓存至SFBuffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t6时刻,VSYNC到来,电子设备的LCD刷新显示图像帧4;合成线程可以从SF Buffer中读出图层5,对图层5进行图层合成,得到图像帧5;即图层5从SF Buffer中出队。因此,在图12所示的t6时刻,SF Buffer中缓存的图层的数量可以变为2。并且,响应于t6时刻的VSYNC,UI线程可以绘制图层8,由Render线程渲染绘制的图层8。可以理解,如果Render线程渲染绘制的图层8缓存至SF Buffer;那么,SF Buffer中的图层数量则可以达到上限值。因此,在t6时刻后,UI线程绘制完图层8之后,t7时刻的VSYNC到来之前,UI线程不会提前绘制图层。在图12所示的ts7时刻,Render线程渲染完图层8,可以将该图层8缓存至SFBuffer,SF Buffer中缓存的图层的数量变为3。
需要说明的是,本申请实施例中,电子设备在第一时刻之前绘制完第一图层,电子设备在第一时刻之前,绘制第二图层,可以包括:若电子设备在第一时刻之前绘制完第一图层,电子设备在第一时刻之前,电子设备生成XSYNC(也称为XSYNC信号);电子设备响应于XSYNC,绘制第二图层。例如,如图12所示,电子设备响应于tx1时刻的XSYNC,绘制图层2;电子设备响应于tx2时刻的XSYNC,绘制图层3;电子设备响应于tx3时刻的XSYNC,绘制图层3。
可以理解的是,电子设备可能会接收到用于触发电子设备停止显示上述第一UI事件对应的图像内容的中断事件。此时,SF Buffer中可能还缓存有电子设备提前绘制并渲染的图层。以下实施例中介绍电子设备接收到上述中断事件时,如何处理SF Buffer中缓存的第一UI事件对应的图层。
在一些实施例中,电子设备接收到上述中断事件后,可以不删除SF Buffer中缓存的图层。具体的,如图13所示,在上述S303之前,本申请实施例的方法还可以包括S1301-S1302。
S1301、电子设备接收第二UI事件,该第二UI事件是用于触发电子设备停止显示第一UI事件对应的图像内容的中断(Down)事件。
其中,上述第二UI事件可以是一种可以触发电子设备显示与上述第一UI事件不同的图像内容的用户操作(如触摸操作)。也就是说,该第二UI事件触发电子设备所显示的图像内容,与第一UI事件触发电子设备所显示的图像内容不同。
需要说明的是,上述第二UI事件可以是触发电子设备显示的图像为“确定性动画”的UI事件;也可以是触发电子设备显示除上述“确定性动画”之外的其他任一图像内容的UI事件。
可以理解,电子设备响应于第一UI事件显示对应的图像内容的过程中,如果接收到另一个UI事件(如第二UI事件),则表示用户想要操作电子设备显示其他的图像内容(即第二UI事件对应的图层内容)。
S1302、电子设备响应于第二UI事件,停止绘制第一UI事件的图层,并响应于垂直同步信号1,绘制第二UI事件的第三图层,渲染第三图层,在SF缓存队列中缓存渲染后的第三图层。
例如,如图12所示,电子设备在tDown时刻接收到Down事件(即第二UI事件)。响应于该Down事件,电子设备的UI线程停止绘制第一UI时间的图层(如图12所示的图层8之后的图层9);响应于垂直同步信号1(如t7时刻的VSYNC),UI线程绘制图层1′,Render线程渲染绘制的图层1′。
并且,响应于t7时刻的VSYNC,电子设备的LCD刷新显示图像帧5;合成线程可以从SF Buffer中读出图层6,对图层6进行图层合成,得到图像帧6;即图层6从SF Buffer中出队。因此,在图12所示的t7时刻,SF Buffer中缓存的图层的数量可以变为2。在图12所示的ts8时刻,Render线程渲染完图层1′,可以将该图层1′缓存至SF Buffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t8时刻,VSYNC到来,电子设备的LCD刷新显示图像帧6;合成线程可以从SF Buffer中读出图层7,对图层7进行图层合成,得到图像帧7;即图层7从SF Buffer中出队。因此,在图12所示的t8时刻,SF Buffer中缓存的图层的数量可以变为2。并且,响应于t8时刻的VSYNC,UI线程可以绘制图层2′,由Render线程渲染绘制的图层2′。在图12所示的ts9时刻,Render线程渲染完图层2′,可以将该图层2′缓存至SF Buffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t9时刻,VSYNC到来,电子设备的LCD刷新显示图像帧7;合成线程可以从SF Buffer中读出图层8,对图层8进行图层合成,得到图像帧8;即图层8从SF Buffer中出队。因此,在图12所示的t9时刻,SF Buffer中缓存的图层的数量可以变为2。并且,响应于t9时刻的VSYNC,UI线程可以绘制图层3′,由Render线程渲染绘制的图层3′。在图12所示的ts10时刻,Render线程渲染完图层3′,可以将该图层3′缓存至SF Buffer,SF Buffer中缓存的图层的数量变为3。
在图12所示的t10时刻,VSYNC到来,合成线程可以从SF Buffer中读出图层1′,对图层1′进行图层合成,得到图像帧1′;即图层1′从SF Buffer中出队。
其中,上述图层1′、图层2′和图层3′均为第三图层。如图12所示,电子设备在tDown时刻接收到Down事件时,SF Buffer中缓存有2帧图层(图层6和图层7);并且,Render线程正在绘制图层8。UI线程在t7时刻开始绘制Down事件的图层时,SF Buffer中缓存有3帧图层(图层6、图层7和图层8)。
由图12和上述描述可知:在该实施例中,电子设备接收到Down事件后,可以不删除SF Buffer中缓存的第一UI事件的图层(如图层6、图层7和图层8);而是继续响应于VSYNC合成SF Buffer中的图层,并刷新显示合成的图像帧。
可以理解的是,采用上述不删除SF Buffer中缓存的第一UI事件的图层的方案,可能会因为SF Buffer中缓存了较多第一UI事件的图层,而导致电子设备延迟显示第二UI事件的图像内容,电子设备的触摸响应延迟较大,电子设备的跟手性能较差。其中,从“用户手指在触摸屏输入触摸操作”到“触摸屏显示该触摸操作对应的图像被人眼感知”的延迟时间可以称为触摸响应延迟。电子设备的跟手性能可以体现为触摸响应延迟的长度。具体的,触摸响应延迟越长,跟手性能越差;触摸响应延迟越短,跟手性能越好。其中,电子设备的跟手性能越好,用户通过触摸操作控制电子设备的使用体验越好,感觉越流畅。
为了缩短电子设备的触摸响应延迟,提升电子设备的跟手性能,在另一些实施例中,电子设备接收到上述中断事件后,可以删除SF Buffer中缓存的部分或全部图层。
在该实施例中,电子设备可以删除SF Buffer中缓存的部分图层。具体的,如图14所示,在上述S1302之后,电子设备可以不执行S303-S304,而是执行S1303。
S1303、从接收到第二UI事件开始,电子设备响应于垂直同步信号2,判断SF缓存队列中是否包括第一UI事件的图层。
具体的,在S1303之后,若SF缓存队列中包括第一UI事件的图层,电子设备可以执行S1304和S303-S304;若SF缓存队列不包括第一UI事件的图层,电子设备可以执行S303-S304。
S1304、电子设备删除SF缓存队列中缓存的第一UI事件的图层。
其中,假设SF缓存队列(即SF Buffer)中缓存的P帧图层为第一UI事件的图层。在一些实施例中,电子设备可以删除SF缓存队列中缓存的该P帧图层中的Q帧图层,并对删除上述Q帧图层后SF缓存队列的队首的一帧图层进行图层合成得到图像帧,并缓存合成的图像帧。其中,P帧图层为第一UI事件的图层,Q≤P,P和Q均为正整数。
例如,如图15或图17所示,电子设备在tDown时刻接收到Down事件(即第二UI事件)。其中,图15或图17中电子设备接收到Down事件之前,进行图层绘制、图层渲染、图层合成和图像帧显示的过程与图12所示的过程相同,图15或图17中电子设备绘制并渲染图层1′、图层2′和图层3′的过程与图12所示的过程相同,本申请实施例这里不再赘述。
从图15或图17所示的tDown时刻接收到Down事件开始,响应于t7时刻的VSYNC(包括垂直同步信号2),电子设备可以判断SF缓存队列中是否包括第一UI事件的图层。其中,在图15所示的tDown时刻之后、t7时刻之前的ts7时刻,如图16A所示,SF Buffer中缓存了3帧图层,这3帧图层包括图层6、图层7和图层8,图层6、图层7和图层8是第一UI事件的图层。也就是说,结合图15或图17,电子设备执行S1303,可以确定SF缓存队列中包括第一UI事件的图层;并且,SF缓存队列中缓存了3帧第一UI事件的图层,即P=3。
在该实施例的一种实现方式中,电子设备执行S1304可以隔帧删除SF Buffer中缓存的第一UI事件的图层。在该实施例中,Q=1。
例如,在图15所示的ts7时刻,如图16A所示,SF缓存队列中缓存了3帧图层(包括图层6、图层7和图层8。图层6、图层7和图层8是第一UI事件的图层。因此,响应于图15所示的t7时刻的VSYNC,电子设备(如电子设备的合成线程)可以删除SF Buffer中缓存了3帧图层中的1帧图层(即SF缓存队列的队首的图层6);并且,电子设备(如电子设备的合成线程)可以对删除上述图层6后SF缓存队列的队首的一帧图层(即图层7)进行图层合成得到图像帧7,并缓存合成的图像帧7。例如,如图16B所示,在t7时刻,图层6从SF Buffer出队被删除,图层7从SF Buffer出队用于合成图像帧7,SF Buffer中只剩下图层8。如图15所示,在t7时刻,SFBuffer中缓存的图层的数量变为1。
在图15所示的ts8时刻,Render线程渲染完图层1′,可以将该图层1′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为2。响应于ts8时刻之后t8时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中缓存有第一UI事件的图层8。电子设备(如电子设备的合成线程)可以执行S1304删除图层8,对图层1′进行图层合成;如图16C所示,在t8时刻,图层8从SF Buffer出队被删除,图层1′从SF Buffer出队用于合成图像帧1′,SF Buffer中缓存的图层的数量变为0。如图15所示,在t8时刻,SF Buffer中缓存的图层的数量变为0。
在图15所示的ts9时刻,Render线程渲染完图层2′,可以将该图层2′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。响应于ts9时刻之后t9时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中仅缓存有第二UI事件的图层2′,未缓存第一UI事件的图层。电子设备(如电子设备的合成线程)可以执行S1305对图层2′进行图层合成;如图16D所示,在t9时刻,图层2′从SF Buffer出队用于合成图像帧2′,SF Buffer中缓存的图层的数量变为0。如图15所示,在t9时刻,SF Buffer中缓存的图层的数量变为0。
在图15所示的ts10时刻,Render线程渲染完图层3′,可以将该图层3′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。响应于ts10时刻之后t10时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中仅缓存有第二UI事件的图层3′,未缓存第一UI事件的图层。电子设备(如电子设备的合成线程)可以执行S1305对图层3′进行图层合成;在t10时刻,图层3′从SF Buffer出队用于合成图像帧3′,SF Buffer中缓存的图层的数量变为0。
在该实施例的另一种实现方式中,在P≥2的情况下,电子设备执行S1304每次可删除SF Buffer中缓存的第一UI事件的多帧图层,即Q≥2。例如,以下实施例中以P=3,Q=2为例,介绍本实施例的方法。
例如,在图17所示的ts7时刻,如图16A所示,SF缓存队列中缓存了3帧图层(包括图层6、图层7和图层8。图层6、图层7和图层8是第一UI事件的图层。因此,响应于图17所示的t7时刻的VSYNC,电子设备(如电子设备的合成线程)可以删除SF Buffer中缓存了3帧图层中的2帧图层(即SF缓存队列的队首的图层6和图层7);并对删除上述图层6和图层7后SF缓存队列的队首的一帧图层(即图层8)进行图层合成得到图像帧8,并缓存合成的图像帧8。例如,如图18A所示,在t7时刻,图层6从SF Buffer出队被删除,图层7从SF Buffer出队被删除,图层8从SF Buffer出队用于合成图像帧8,SF Buffer中缓存的图层的数量变为0。如图15所示,在t7时刻,SF Buffer中缓存的图层的数量变为0。
在图17所示的ts8时刻,Render线程渲染完图层1′,可以将该图层1′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。响应于ts8时刻之后t8时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中仅缓存有第二UI事件的图层1′,未缓存第一UI事件的图层。电子设备可以执行S1305对图层1′进行图层合成;如图18B所示,在t8时刻,图层1′从SF Buffer出队用于合成图像帧1′,SF Buffer中缓存的图层的数量变为0。如图15所示,在t8时刻,SF Buffer中缓存的图层的数量变为0。
在图17所示的ts9时刻,Render线程渲染完图层2′,可以将该图层2′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。响应于ts9时刻之后t9时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中仅缓存有第二UI事件的图层2′,未缓存第一UI事件的图层。电子设备可以执行S1305对图层2′进行图层合成;在t9时刻,图层2′从SF Buffer出队用于合成图像帧2′,SF Buffer中缓存的图层的数量变为0。
在图17所示的ts10时刻,Render线程渲染完图层3′,可以将该图层3′缓存至SFBuffer,SF Buffer中缓存的图层的数量变为1。响应于ts10时刻之后t10时刻的VSYNC,电子设备执行S1303,可以确定SF Buffer中仅缓存有第二UI事件的图层3′,未缓存第一UI事件的图层。电子设备可以执行S1305对图层3′进行图层合成;在t10时刻,图层3′从SF Buffer出队用于合成图像帧3′,SF Buffer中缓存的图层的数量变为0。
在该实施例中,电子设备响应于一个垂直同步信号2(如上述VSYNC),电子设备可以一次处理第一UI事件的多帧图层。这样,可以缩短电子设备响应第二UI事件的触摸响应延迟,可以提升电子设备的跟手性能。
在另一些实施例中,为了缩短电子设备的触摸响应延迟,提升电子设备的跟手性能,电子设备可以为上述第一UI事件(即“确定性动画”对应的UI事件)的图层添加第一标记位,然后在接收到上述中断事件(即第二UI事件)时,可以删除SF Buffer中缓存的带有第一标记位的图层。
具体的,本申请实施例的方法还可以包括S1901-S1902和S1301-S1302。其中,在S1902之后,电子设备可以执行S303-S304。
S1901、电子设备为第一UI事件的每一帧图层设置第一标记位,该第一标记位用于指示对应的图层是第一UI事件的图层。
其中,电子设备的UI线程可以在绘制完第一UI事件的一帧图层后,为这一帧图层添加第一标记位。例如,电子设备执行S301,UI线程绘制完第一图层后,UI线程可以为该第一图层添加第一标记位。电子设备执行S301,UI线程绘制完第二图层后,UI线程可以为该第二图层添加第一标记位。
S1902、从接收到第二UI事件开始,电子设备响应于垂直同步信号2,删除SF缓存队列中设置有第一标记位的图层。
示例性的,本申请实施例这里介绍S1902的具体实现方法。上述S1902可以包括:响应于第二UI事件,电子设备触发预设查询事件;响应于预设查询事件,电子设备设置第二标记位,并在SF缓存队列中不包括设置有第一标记位的图层时删除第二标记位。其中,该第二标记位用于触发电子设备响应于垂直同步信号2删除SF缓存队列中设置有第一标记位的图层。可以理解,电子设备设置第二标记位后,响应于垂直同步信号2便可以删除SF缓存队列中设置有第一标记位的图层;电子设备删除第二标记位后,响应于垂直同步信号2便可以不执行“删除SF缓存队列中设置有第一标记位的图层”的操作,而是继续对SF Buffer中缓存的图层进行图层合成。
具体的,电子设备的UI线程接收到上述第二UI事件(即中断事件)后,可以向合成线程触发预设查询事件。合成线程响应于该预设查询事件,在接收到垂直同步信号2时便可以删除SF缓存队列中设置有第一标记位的图层,并在SF缓存队列中不包括设置有第一标记位的图层时删除第二标记位。其中,上述第二标记位也可以称为Delete标记位。
例如,如图19所示,电子设备在tDown时刻接收到Down事件(即第二UI事件)。其中,图19中电子设备接收到Down事件之前,进行图层绘制、图层渲染、图层合成和图像帧显示的过程与图12所示的过程相同,本申请实施例这里不再赘述。
从图19所示的tDown时刻接收到Down事件开始,响应于t7时刻的VSYNC(包括垂直同步信号2),电子设备(如电子设备的合成线程)可以删除SF缓存队列中设置有第一标记位的图层。其中,在图19所示的tDown时刻之后、t7时刻之前的ts7时刻,如图16A所示,SF Buffer中缓存了3帧图层(包括图层6、图层7和图层8。图层6、图层7和图层8是第一UI事件的图层,该图层6、图层7和图层8均设置有第一标记位。因此,电子设备(如电子设备的合成线程)可以删除图层6、图层7和图层8。删除图层6、图层7和图层8之后,SF Buffer中缓存的图层的数量变为0;因此,响应于图19所示的t7时刻的VSYNC(如垂直同步信号2),合成线程不会执行图层合成。响应于图19所示的t7时刻的VSYNC(如垂直同步信号3),电子设备的LCD可以刷新显示图像帧5。由于t7时刻-t8时刻这段时间,电子设备(如电子设备的合成线程)没有执行图层合成,也不会在SF Buffer中缓存新的图像帧;因此,响应于图19所示的t8时刻的VSYNC(包括垂直同步信号3),电子设备的LCD只能继续显示图像帧5。
需要注意的是,在一些实施例中,电子设备可能需要处理多个VSYNC信号(如垂直同步信号2),才可以完全删除SF Buffer中缓存的设置有第一标记位的图层。
例如,如图20所示,电子设备在tDown时刻接收到Down事件(即第二UI事件)。其中,图20中电子设备接收到Down事件之前,进行图层绘制、图层渲染、图层合成和图像帧显示的过程与图12所示的过程相同,本申请实施例这里不再赘述。在图20所示的t7时刻的VSYNC(如垂直同步信号2)到达时,Render线程还未渲染完图层8;因此,响应于图20所示的t7时刻的VSYNC(如垂直同步信号2),合成线程只能删除SF Buffer中缓存的图层6和图层7。在图20所示的t8时刻的VSYNC(如垂直同步信号2)到达时,Render线程已经渲染完图层8,并将图层8缓存至SF Buffer。因此,响应于图20所示的t8时刻的VSYNC(如垂直同步信号2),合成线程可以删除SF Buffer中缓存的图层8。并且,在图20所示的t8时刻的VSYNC(如垂直同步信号2)到达时,Render线程已经渲染完图层1′,并将图层1′缓存至SF Buffer。因此,响应于图20所示的t8时刻的VSYNC(如垂直同步信号2),合成线程可以对图层1′进行图层合成到达图像帧1′。
由上述描述可知:在图20中,电子设备处理了2个VSYNC信号(如t7时刻的VSYNC和t8时刻的VSYNC),才完全删除SF Buffer中缓存的设置有第一标记位的图层。
在该实施例中,电子设备可以在接收到中断事件后,响应于一个垂直同步信号2,电子设备可以删除SF Buffer中缓存的第一UI事件的图层。如此,在下一个垂直同步信号2到来后,电子设备便可以直接合成中断事件的图层。这样,可以缩短电子设备响应第二UI事件的触摸响应延迟,可以提升电子设备的跟手性能。
由上述实施例可知:电子设备是按照各个图层的处理时间计算对应图层的运动距离的。并且,电子设备可以将各个图层的处理时间缓存在时间缓存队列中。电子设备执行上述流程,删除SF Buffer中缓存的第一UI事件的图层之后,如果电子设备绘制的图层不回退到电子设备删除的第1帧图层(如图层6)的前一帧图层(如图层5),则可能会导致电子设备显示的图像内容的大幅度跳变,影响用户体验。
例如,结合上述实施例,如图19或图20所示,电子设备删除了SF Buffer中缓存的图层6、图层7和图层8。电子设备删除了图层6、图层7和图层8之后,该电子设备所显示的图像帧是图层5对应的图像帧6。但是,电子设备的UI线程已经处理到了图层8。也就是说,UI线程的处理逻辑已经到了图层8。如果电子设备按照图层8的处理时间来计算下一帧图层的处理时间,然后根据计算得到的该下一帧图层的处理时间计算运动距离,则会出现电子设备的显示画面由图层5对应的运动距离直接跳变至图层8对应的运动距离,电子设备显示的图像内容出现的大幅度跳变。基于此,本申请实施例的方法中,电子设备还可以重新绘制第四图层,以将电子设备绘制图层的逻辑回退至第四图层,并获取该第四图层的处理时间。
其中,该第四图层是电子设备接收到第二UI事件时,电子设备正在显示的图像帧对应的图层的下一帧图层。例如,如图20所示,电子设备的UI线程在tDown时刻接收到Down事件(即第二UI事件)。在tDown时刻,电子设备显示图像帧4。第四图层是图像帧4对应的图层4的下一帧图层,即图层5。如图20所示,电子设备可以重新绘制图层5,以将电子设备绘制图层的逻辑回退至图层5。
或者,该第四图层包括电子设备接收到第二UI事件时,电子设备正在显示的图像帧对应的图层,以及电子设备正在显示的图像帧对应的图层的下一帧图层。例如,如图22A所示,电子设备的UI线程在tDown时刻接收到Down事件(即第二UI事件)。在tDown时刻,电子设备显示图像帧4。第四图层包括图像帧4对应的图层4和图像帧4对应的图层4的下一帧图层(即图层5)。如图22A所示,电子设备可以重新绘制图层4和图层5,以将电子设备绘制图层的逻辑回退至图层4和图层5。
但是,需要说明的是,电子设备不会再渲染该第四图层,该第四图层的处理时间用于电子设备计算第五图层的运动距离。例如,如图20所示,tDown时刻之后,电子设备没有再渲染图层5。又例如,如图22A所示,tDown时刻之后,电子设备没有再渲染图层4和图层5。
在另一些实施例中,结合上述在第一UI事件(即“确定性动画”对应的UI事件)的图层添加第一标记位,响应于中断事件(即第二UI事件),删除SF Buffer中缓存的带有第一标记位的图层的方案,电子设备可以响应于上述预设查询事件,查询SF Buffer中缓存的设置有第一标记位的图层的数量,以及电子设备接收到第二UI事件时待缓存至SF缓存队列中的图层的数量,计算查询到的数量之和H。然后,电子设备可以根据计算得到的H,确定上述第四图层。
示例性的,响应于上述预设查询事件,电子设备的合成线程可以查询SF Buffer中缓存的设置有第一标记位的图层的数量,以及电子设备的UI线程接收到第二UI事件时待缓存至SF缓存队列中的图层的数量,计算查询到的数量之和H。
例如,如图19、图20或图22A所示,电子设备的UI线程在tDown时刻接收到Down事件(即第二UI事件)。UI线程可以向合成线程触发预设查询事件,合成线程在tDown时刻查询到SF Buffer中缓存的设置有第一标记位的图层(如图层6和图层7)的数量为2;合成线程在tDown时刻查询到UI线程接收到第二UI事件时待缓存至SF缓存队列中的图层(图层8)的数量为1。电子设备可以计算查询到的数量之和H=3。
其中,第四图层可以为电子设备接收到第二UI事件时,沿着SF Buffer的队尾向队首的方向,从SF Buffer的队尾的一帧图层开始数的第H+h帧图层;其中,h=0,或者h依次在{0,1}中取值。
其中,在图19、图20或图22A所示的tDown时刻,SF Buffer中缓存的图层如图21或图22B所示。如图21或图22B所示,SF Buffer中缓存有图层6和图层7;图层6位于队首,图层7位于队尾。
在实现方式(1)中,h=0。结合图19或图20,H=3,H+h=3。在这种实现方式中,第四图层是图19或图20所示的图层5。例如,如图21所示,第四图层为电子设备接收到第二UI事件时(即tDown时刻),沿着SF Buffer的队尾向队首的方向,从SF Buffer的队尾的一帧图层(即图层7)开始数的第3(即H+h=3)帧图层,如图21所示的图层5。如图19或图20所示,电子设备的UI线程在tDown时刻-t7时刻这段时间可以重新绘制图层5。
在实现方式(2)中,h依次在{0,1}中取值。结合图22A,H=3,H+h依次为3和4。在这种实现方式中,第四图层是图22A所示的图层4和图层5。例如,如图22B所示,第四图层包括电子设备接收到第二UI事件时(即tDown时刻),沿着SF Buffer的队尾向队首的方向,从SFBuffer的队尾的一帧图层(即图层7)开始数的第H+h(如3和4)帧图层,如图22B所示的图层4和图层5。如图22A所示,电子设备的UI线程在tDown时刻-t7时刻这段时间可以重新绘制图层4和图层5。
需要注意的是,虽然电子设备(如电子设备的UI线程)重新绘制了第四图层(如图19或图20所示的图层4和图层5);但是,电子设备(如电子设备的Render线程)不会再渲染该第四图层。例如,如图19或图20所示,在UI线程于t7时刻绘制完图层5之后,Render线程没有渲染图层5。又例如,如图22A所示,在UI线程于t7时刻绘制完图层4和图层5之后,Render线程没有渲染图层4和图层5。
其中,电子设备重新绘制第四图层,是为了将电子设备的绘制图层的逻辑(即UI线程的处理逻辑)回退至第四图层。该第四图层的处理时间用于计算运动距离。可以理解,将电子设备的绘制图层的逻辑回退至第四图层,并按照第四图层的处理时间计算运动距离,可以避免电子设备显示的图像内容出现的大幅度跳变。
需要说明的是,在一些情况下,电子设备响应于第一UI事件所显示的动画是方向性动画(如物体向一个方向运动的动画)。在这种情况下,电子设备的UI线程如图20所示绘制图层8之后,再重新绘制图层5,则按照图层8到图层5的运动方向,物体的运动方向与上述方向性动画中物体的运动方向相反。针对这种情况,采用上述实现方式(2)的方案,先重新绘制图层4,再重新绘制图层5,则可以解决物体的运动方向与上述方向性动画中物体的运动方向相反的问题。如图22A所示,虽然按照图层8到图层4的运动方向,物体的运动方向与上述方向性动画中物体的运动方向相反;但是,按照图层4到图层5的运动方向,物体的运动方向与上述方向性动画中物体的运动方向相同。
本实施例中,电子设备删除SF Buffer中缓存的第一UI事件的图层之后,可以重新绘制第一UI事件的第四图层。这样,则可能提升电子设备显示的图像内容的连贯性,提升用户体验。
本申请一些实施例提供了一种电子设备,该电子设备可以包括:显示屏(如触摸屏)、存储器和一个或多个处理器。该显示屏、存储器和处理器耦合。该存储器用于存储计算机程序代码,该计算机程序代码包括计算机指令。当处理器执行计算机指令时,电子设备可执行上述方法实施例中电子设备执行的各个功能或者步骤。该电子设备的结构可以参考图1所示的电子设备100的结构。
本申请实施例还提供一种芯片系统,如图23所示,该芯片系统2300包括至少一个处理器2301和至少一个接口电路2302。处理器2301和接口电路2302可通过线路互联。例如,接口电路2302可用于从其它装置(例如电子设备的存储器)接收信号。又例如,接口电路2302可用于向其它装置(例如处理器2301或者电子设备的触摸屏)发送信号。示例性的,接口电路2302可读取存储器中存储的指令,并将该指令发送给处理器2301。当所述指令被处理器2301执行时,可使得电子设备执行上述实施例中的各个步骤。当然,该芯片系统还可以包含其他分立器件,本申请实施例对此不作具体限定。
本申请实施例还提供一种计算机存储介质,该计算机存储介质包括计算机指令,当所述计算机指令在上述电子设备上运行时,使得该电子设备执行上述方法实施例中电子设备执行的各个功能或者步骤。
本申请实施例还提供一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行上述方法实施例中电子设备执行的各个功能或者步骤。该计算机可以是上述电子设备。
通过以上实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (33)
1.一种图像处理方法,其特征在于,所述方法应用于电子设备,所述方法包括:
在第一时刻绘制第一图层,并渲染所述第一图层,在SF缓存队列缓存渲染后的所述第一图层,所述第一时刻对应于第一垂直同步信号;
在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,所述第二时刻对应第二垂直同步信号,所述第一垂直同步信号和所述第二垂直同步信号是相邻的两个垂直同步信号。
2.根据权利要求1所述的方法,其特征在于,所述在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,包括:
在所述第二时刻之前绘制完所述第一图层,响应于所述第一图层绘制结束,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
3.根据权利要求1所述的方法,其特征在于,所述在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,包括:
在第三时刻之前绘制完所述第一图层,从所述第三时刻开始绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,所述第三时刻早于所述第二时刻,所述第三时刻晚于所述第一时刻。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
在所述第二时刻之前、所述第三时刻之后绘制完所述第一图层,响应于所述第一图层绘制结束,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括:
在第四时刻之前绘制完所述第二图层,在所述第四时刻之前绘制第三图层,并渲染所述第三图层,在所述SF缓存队列缓存渲染后的所述第三图层,所述第四时刻对应第三垂直同步信号,所述第三垂直同步信号和所述第二垂直同步信号是相邻的两个垂直同步信号,所述第四时刻晚于所述第二时刻。
6.根据权利要求3或4所述的方法,其特征在于,所述第三时刻与所述第一时刻相隔预设时长,所述预设时长为所述第一时刻与所述第二时刻的间隔时长的预设百分比,所述预设百分比小于1。
7.根据权利要求1-6中任一项所述的方法,其特征在于,在第一时刻绘制第一图层,并渲染所述第一图层,在SF缓存队列缓存渲染后的所述第一图层之前,所述方法还包括:
接收第一UI事件,所述第一UI事件用于触发显示预设图像内容或者以预设方式显示图像内容;所述第一UI事件包括以下任一种:接收用户输入的抛滑操作,接收用户对前台应用中预设控件的点击操作,自动触发的UI事件;
其中,所述在第一时刻绘制第一图层,并渲染所述第一图层,在SF缓存队列缓存渲染后的所述第一图层,包括:
响应于所述第一UI事件,在所述第一时刻绘制所述第一图层,并渲染所述第一图层,在所述SF缓存队列缓存渲染后的第一图层。
8.根据权利要求1-7中任一项所述的方法,其特征在于,在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层之前,所述方法还包括:
确定所述SF缓存队列的缓存空间和所述SF缓存队列中缓存帧的数量,所述缓存帧是缓存在所述SF缓存队列中的图层;
计算所述SF缓存队列的缓存空间与所述缓存帧的数量的差值,得到所述SF缓存队列的剩余缓存空间;
其中,若所述SF缓存队列的剩余缓存空间大于第一预设门限值,在所述第二时刻之前绘制完所述第一图层,则在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
若所述SF缓存队列的剩余缓存空间小于第二预设门限值,响应于所述第二垂直同步信号,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
10.根据权利要求1-9中任一项所述的方法,其特征在于,在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层之前,所述方法还包括:
将所述SF缓存队列的缓存空间设置为M+p帧;
其中,M为设置前所述SF缓存队列的缓存空间的大小;p为预设时间内丢帧的数量,或者,p为预设的正整数。
11.根据权利要求10所述的方法,其特征在于,所述方法还包括:
若M+p大于预设上限值N,则将所述SF缓存队列的缓存空间设置为N帧。
12.根据权利要求1-11中任一项所述的方法,其特征在于,所述绘制第二图层,包括:
根据所述第二垂直同步信号的信号周期和所述第一图层的处理时间,计算所述第二图层的运动距离,并根据所述第二图层的运动距离绘制所述第二图层;其中,所述第二图层的运动距离是所述第二图层中的图像内容相比于所述第一图层中的图像内容的运动距离。
13.根据权利要求12所述的方法,其特征在于,所述根据所述第二垂直同步信号的信号周期和所述第一图层的处理时间,计算所述第二图层的运动距离,包括:
计算所述第一图层的处理时间和所述第二垂直同步信号的信号周期之和,得到所述第二图层的处理时间;
根据所述第二图层的处理时间计算所述第二图层的运动距离。
14.根据权利要求1-13中任一项所述的方法,其特征在于,所述方法还包括:
接收第二UI事件,所述第二UI事件是用于触发停止显示第一UI事件对应的图像内容的中断事件;其中,所述第一UI事件用于触发显示预设图像内容或者以预设方式显示图像内容,所述第一图层和所述第二图层是所述第一UI事件触发绘制的;
响应于所述第二UI事件,停止绘制所述第一UI事件的图层;
在所述接收第二UI事件之后,所述方法还包括:
响应于第四垂直同步信号,删除所述SF缓存队列中缓存的所述第一UI事件的图层,绘制所述第二UI事件的第四图层,渲染所述第四图层,在所述SF缓存队列中缓存渲染后的所述第四图层,所述第四垂直同步信号是接收到所述第二UI事件后的第一个垂直同步信号。
15.根据权利要求14所述的方法,其特征在于,在所述接收第二UI事件之后,所述绘制所述第二UI事件的第四图层,渲染所述第四图层,在所述SF缓存队列中缓存渲染后的所述第四图层之前,所述方法还包括:
重新绘制第五图层,以将绘制图层的逻辑回退至所述第五图层,并获取所述第五图层的处理时间;并且,不再渲染所述第五图层,所述第五图层的处理时间用于所述电子设备计算所述第五图层的运动距离;
所述第五图层是接收到所述第二UI事件时,正在显示的图像帧对应的图层的下一帧图层;或者,所述第五图层包括接收到第二UI事件时,正在显示的图像帧对应的图层,以及正在显示的图像帧对应的图层的下一帧图层。
16.一种电子设备,其特征在于,所述电子设备包括显示屏、存储器和一个或多个处理器;所述显示屏、所述存储器与所述处理器耦合;其中,所述显示屏用于显示所述处理器生成的图像,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行以下操作:
在第一时刻绘制第一图层,并渲染所述第一图层,在SF缓存队列缓存渲染后的所述第一图层,所述第一时刻对应于第一垂直同步信号;
在第二时刻之前绘制完所述第一图层,在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,所述第二时刻对应第二垂直同步信号,所述第一垂直同步信号和所述第二垂直同步信号是相邻的两个垂直同步信号。
17.根据权利要求16所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
在所述第二时刻之前绘制完所述第一图层,响应于所述第一图层绘制结束,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
18.根据权利要求16所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
在第三时刻之前绘制完所述第一图层,从所述第三时刻开始绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层,所述第三时刻早于所述第二时刻,所述第三时刻晚于所述第一时刻。
19.根据权利要求18所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
在所述第二时刻之前,所述第三时刻之后绘制完所述第一图层,响应于所述第一图层绘制结束,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
20.根据权利要求16-19中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
在第四时刻之前绘制完所述第二图层,在所述第四时刻之前绘制第三图层,并渲染所述第三图层,在所述SF缓存队列缓存渲染后的所述第三图层,所述第四时刻对应第三垂直同步信号,所述第三垂直同步信号和所述第二垂直同步信号是相邻的两个垂直同步信号。
21.根据权利要求18或19所述的电子设备,其特征在于,所述第三时刻与所述第一时刻相隔预设时长,所述预设时长为所述第一时刻与所述第二时刻的间隔时长的预设百分比,所述预设百分比小于1。
22.根据权利要求16-21中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
接收第一UI事件,所述第一UI事件用于触发显示预设图像内容或者以预设方式显示图像内容;所述第一UI事件包括以下任一种:接收用户输入的抛滑操作,接收用户对前台应用中预设控件的点击操作,自动触发的UI事件;
其中,所述在第一时刻绘制第一图层,并渲染所述第一图层,在SF缓存队列缓存渲染后的所述第一图层,包括:
响应于所述第一UI事件,在所述第一时刻绘制所述第一图层,并渲染所述第一图层,在所述SF缓存队列缓存渲染后的第一图层。
23.根据权利要求16-22中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
确定所述SF缓存队列的缓存空间和所述SF缓存队列中缓存帧的数量,所述缓存帧是缓存在所述SF缓存队列中的图层;
计算所述SF缓存队列的缓存空间与所述缓存帧的数量的差值,得到所述SF缓存队列的剩余缓存空间;
其中,若所述SF缓存队列的剩余缓存空间大于第一预设门限值,在所述第二时刻之前绘制完所述第一图层,则在所述第二时刻之前绘制第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
24.根据权利要求23所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
若所述SF缓存队列的剩余缓存空间小于第二预设门限值,响应于所述第二垂直同步信号,绘制所述第二图层,并渲染所述第二图层,在所述SF缓存队列缓存渲染后的所述第二图层。
25.根据权利要求16-24中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
将所述SF缓存队列的缓存空间设置为M+p帧;
其中,M为设置前所述SF缓存队列的缓存空间的大小;p为预设时间内丢帧的数量,或者,p为预设的正整数。
26.根据权利要求25所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
若M+p大于预设上限值N,则将所述SF缓存队列的缓存空间设置为N帧。
27.根据权利要求16-26中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
根据所述第二垂直同步信号的信号周期和所述第一图层的处理时间,计算所述第二图层的运动距离,并根据所述第二图层的运动距离绘制所述第二图层;其中,所述第二图层的运动距离是所述第二图层中的图像内容相比于所述第一图层中的图像内容的运动距离。
28.根据权利要求27所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
计算所述第一图层的处理时间和所述第二垂直同步信号的信号周期之和,得到所述第二图层的处理时间;
根据所述第二图层的处理时间计算所述第二图层的运动距离。
29.根据权利要求16-28中任一项所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
接收第二UI事件,所述第二UI事件是用于触发停止显示第一UI事件对应的图像内容的中断事件;其中,所述第一UI事件用于触发显示预设图像内容或者以预设方式显示图像内容,所述第一图层和所述第二图层是所述第一UI事件触发绘制的;
响应于所述第二UI事件,停止绘制所述第一UI事件的图层;
在所述接收第二UI事件之后,所述方法还包括:
响应于第四垂直同步信号,删除所述SF缓存队列中缓存的所述第一UI事件的图层,绘制所述第二UI事件的第四图层,渲染所述第四图层,在所述SF缓存队列中缓存渲染后的所述第四图层,所述第四垂直同步信号是接收到所述第二UI事件后的第一个垂直同步信号。
30.根据权利要求29所述的电子设备,其特征在于,当所述计算机指令被所述处理器执行时,使得所述电子设备还执行以下步骤:
重新绘制第五图层,以将绘制图层的逻辑回退至所述第五图层,并获取所述第五图层的处理时间;并且,不再渲染所述第五图层,所述第五图层的处理时间用于所述电子设备计算所述第五图层的运动距离;
所述第五图层是接收到所述第二UI事件时,正在显示的图像帧对应的图层的下一帧图层;或者,所述第五图层包括接收到第二UI事件时,正在显示的图像帧对应的图层,以及正在显示的图像帧对应的图层的下一帧图层。
31.一种芯片系统,其特征在于,所述芯片系统应用于包括存储器和显示屏的电子设备;所述芯片系统包括一个或多个接口电路和一个或多个处理器;所述接口电路和所述处理器通过线路互联;所述接口电路用于从所述存储器接收信号,并向所述处理器发送所述信号,所述信号包括所述存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,所述电子设备执行如权利要求1-15中任一项所述的方法。
32.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-15中任一项所述的方法。
33.一种计算机程序产品,其特征在于,当所述计算机程序产品在计算机上运行时,使得所述计算机执行如权利要求1-15中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211321633.3A CN115631258B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211321633.3A CN115631258B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
CN202010762068.9A CN114092595B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010762068.9A Division CN114092595B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115631258A true CN115631258A (zh) | 2023-01-20 |
CN115631258B CN115631258B (zh) | 2023-10-20 |
Family
ID=80037459
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211321633.3A Active CN115631258B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
CN202010762068.9A Active CN114092595B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
CN202180051354.7A Pending CN116075808A (zh) | 2020-07-31 | 2021-03-17 | 一种图像处理方法及电子设备 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010762068.9A Active CN114092595B (zh) | 2020-07-31 | 2020-07-31 | 一种图像处理方法及电子设备 |
CN202180051354.7A Pending CN116075808A (zh) | 2020-07-31 | 2021-03-17 | 一种图像处理方法及电子设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230116975A1 (zh) |
EP (1) | EP4083792A4 (zh) |
CN (3) | CN115631258B (zh) |
MX (1) | MX2023001377A (zh) |
WO (1) | WO2022021895A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116594543A (zh) * | 2023-07-18 | 2023-08-15 | 荣耀终端有限公司 | 显示方法、设备及可读存储介质 |
CN117215426A (zh) * | 2023-01-28 | 2023-12-12 | 荣耀终端有限公司 | 一种显示方法及电子设备 |
CN117724779A (zh) * | 2023-06-09 | 2024-03-19 | 荣耀终端有限公司 | 一种生成界面图像的方法及电子设备 |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116055611B (zh) * | 2022-06-24 | 2023-11-03 | 荣耀终端有限公司 | 绘制操作的执行方法、电子设备及可读介质 |
CN116723265B (zh) * | 2022-09-14 | 2024-07-16 | 荣耀终端有限公司 | 图像处理方法、可读存储介质、程序产品和电子设备 |
CN116700654B (zh) * | 2022-09-15 | 2024-04-09 | 荣耀终端有限公司 | 一种图像显示方法、装置、终端设备及存储介质 |
CN116700655B (zh) * | 2022-09-20 | 2024-04-02 | 荣耀终端有限公司 | 一种界面显示方法及电子设备 |
CN117891422A (zh) * | 2022-10-13 | 2024-04-16 | 荣耀终端有限公司 | 图像处理方法和电子设备 |
CN117724781A (zh) * | 2023-07-04 | 2024-03-19 | 荣耀终端有限公司 | 一种应用程序启动动画的播放方法和电子设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108829475A (zh) * | 2018-05-29 | 2018-11-16 | 北京小米移动软件有限公司 | Ui绘制方法、装置及存储介质 |
CN110502294A (zh) * | 2019-07-20 | 2019-11-26 | 华为技术有限公司 | 数据处理的方法、装置及电子设备 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9019300B2 (en) * | 2006-08-04 | 2015-04-28 | Apple Inc. | Framework for graphics animation and compositing operations |
US8786619B2 (en) * | 2011-02-25 | 2014-07-22 | Adobe Systems Incorporated | Parallelized definition and display of content in a scripting environment |
CN103517051B (zh) * | 2012-06-28 | 2016-07-06 | 联想(北京)有限公司 | 控制方法和电子设备 |
US9874991B2 (en) * | 2013-01-15 | 2018-01-23 | Apple Inc. | Progressive tiling |
US9207986B2 (en) * | 2013-04-11 | 2015-12-08 | Facebook, Inc. | Identifying a next window of idle time to perform pre-generation tasks of content portions outside of the displayable region stored in a message queue |
CN104301795B (zh) * | 2014-09-26 | 2017-10-20 | 四川长虹电器股份有限公司 | 基于3d模型的智能电视大数据海报信息管理方法 |
US9728166B2 (en) * | 2015-08-20 | 2017-08-08 | Qualcomm Incorporated | Refresh rate matching with predictive time-shift compensation |
US10515326B2 (en) * | 2015-08-28 | 2019-12-24 | Exacttarget, Inc. | Database systems and related queue management methods |
CN107369197B (zh) * | 2017-07-05 | 2022-04-15 | 腾讯科技(深圳)有限公司 | 图片处理方法、装置及设备 |
CN109788334A (zh) * | 2019-01-31 | 2019-05-21 | 北京字节跳动网络技术有限公司 | 弹幕处理方法、装置、电子设备及计算机可读存储介质 |
CN110209444B (zh) * | 2019-03-20 | 2021-07-09 | 华为技术有限公司 | 一种图形渲染方法和电子设备 |
CN109992347B (zh) * | 2019-04-10 | 2022-03-25 | Oppo广东移动通信有限公司 | 界面显示方法、装置、终端及存储介质 |
CN110018759B (zh) * | 2019-04-10 | 2021-01-12 | Oppo广东移动通信有限公司 | 界面显示方法、装置、终端及存储介质 |
CN110503708A (zh) * | 2019-07-03 | 2019-11-26 | 华为技术有限公司 | 一种基于垂直同步信号的图像处理方法及电子设备 |
CN110489228B (zh) * | 2019-07-16 | 2022-05-17 | 华为技术有限公司 | 一种资源调度的方法和电子设备 |
CN110377264B (zh) * | 2019-07-17 | 2023-07-21 | Oppo广东移动通信有限公司 | 图层合成方法、装置、电子设备及存储介质 |
CN111298443B (zh) * | 2020-01-21 | 2023-06-30 | 广州虎牙科技有限公司 | 游戏对象控制方法和装置、电子设备及存储介质 |
-
2020
- 2020-07-31 CN CN202211321633.3A patent/CN115631258B/zh active Active
- 2020-07-31 CN CN202010762068.9A patent/CN114092595B/zh active Active
-
2021
- 2021-03-17 CN CN202180051354.7A patent/CN116075808A/zh active Pending
- 2021-03-17 EP EP21851485.9A patent/EP4083792A4/en active Pending
- 2021-03-17 MX MX2023001377A patent/MX2023001377A/es unknown
- 2021-03-17 US US17/796,126 patent/US20230116975A1/en active Pending
- 2021-03-17 WO PCT/CN2021/081367 patent/WO2022021895A1/zh unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108829475A (zh) * | 2018-05-29 | 2018-11-16 | 北京小米移动软件有限公司 | Ui绘制方法、装置及存储介质 |
CN110502294A (zh) * | 2019-07-20 | 2019-11-26 | 华为技术有限公司 | 数据处理的方法、装置及电子设备 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117215426A (zh) * | 2023-01-28 | 2023-12-12 | 荣耀终端有限公司 | 一种显示方法及电子设备 |
CN117724779A (zh) * | 2023-06-09 | 2024-03-19 | 荣耀终端有限公司 | 一种生成界面图像的方法及电子设备 |
CN116594543A (zh) * | 2023-07-18 | 2023-08-15 | 荣耀终端有限公司 | 显示方法、设备及可读存储介质 |
CN116594543B (zh) * | 2023-07-18 | 2024-03-26 | 荣耀终端有限公司 | 显示方法、设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116075808A (zh) | 2023-05-05 |
MX2023001377A (es) | 2023-04-27 |
CN115631258B (zh) | 2023-10-20 |
US20230116975A1 (en) | 2023-04-20 |
EP4083792A1 (en) | 2022-11-02 |
EP4083792A4 (en) | 2023-08-16 |
CN114092595A (zh) | 2022-02-25 |
CN114092595B (zh) | 2022-11-04 |
WO2022021895A1 (zh) | 2022-02-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114092595B (zh) | 一种图像处理方法及电子设备 | |
WO2021000921A1 (zh) | 一种基于垂直同步信号的图像处理方法及电子设备 | |
CN110609645B (zh) | 一种基于垂直同步信号的控制方法及电子设备 | |
CN114579075B (zh) | 数据处理方法和相关装置 | |
US20240021176A1 (en) | Image Processing Method Based on Vertical Sychronization Signal and Electronic Device | |
CN114579076B (zh) | 数据处理方法和相关装置 | |
CN112351326B (zh) | 一种基于垂直同步信号的图像处理方法及电子设备 | |
CN114531519A (zh) | 一种基于垂直同步信号的控制方法及电子设备 | |
CN115048012A (zh) | 数据处理方法和相关装置 | |
CN114327697B (zh) | 一种事件处理方法及设备 | |
CN116069187B (zh) | 一种显示方法及电子设备 | |
CN117130774A (zh) | 一种线程加速处理方法和装置 | |
CN115904184B (zh) | 数据处理方法和相关装置 | |
CN116414336A (zh) | 帧率切换方法及装置 | |
CN118363688A (zh) | 界面渲染方法、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |