CN115473957A - 一种图像处理方法和电子设备 - Google Patents

一种图像处理方法和电子设备 Download PDF

Info

Publication number
CN115473957A
CN115473957A CN202210810685.0A CN202210810685A CN115473957A CN 115473957 A CN115473957 A CN 115473957A CN 202210810685 A CN202210810685 A CN 202210810685A CN 115473957 A CN115473957 A CN 115473957A
Authority
CN
China
Prior art keywords
rendering
frame buffer
image
electronic device
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210810685.0A
Other languages
English (en)
Other versions
CN115473957B (zh
Inventor
陈聪儿
刘金晓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202210810685.0A priority Critical patent/CN115473957B/zh
Publication of CN115473957A publication Critical patent/CN115473957A/zh
Application granted granted Critical
Publication of CN115473957B publication Critical patent/CN115473957B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Abstract

本申请实施例公开了一种图像处理方法和电子设备,涉及图像处理领域,可以使用较小的分辨率执行主场景中的大量渲染操作,从而达到降低渲染功耗的效果。具体方案为:确定对该第一图像执行渲染处理过程中的第一主场景。该第一主场景是该电子设备对该第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。配置临时帧缓冲,该临时帧缓冲的分辨率小于该第一主场景的分辨率。在对该第一图像进行渲染处理时,在该临时帧缓冲上,执行第一渲染操作。该第一渲染操作是该应用程序指示的在该第一主场景上执行的渲染操作。

Description

一种图像处理方法和电子设备
本申请是分案申请,原申请的申请号是202110650009.7,原申请日是2021年6月10日,原申请的全部内容通过引用结合在本申请中。
技术领域
本申请实施例涉及图像处理领域,尤其涉及一种图像处理方法和电子设备。
背景技术
随着电子设备的发展,对电子设备显示图像的能力要求也越来越高。
示例性的,以电子设备为手机为例。为了能够为用户提供更加清楚的图像显示,手机可以采用更高的分辨率向用户展示图像。而手机在渲染获取具有高分辨率的图像时,产生的功耗更高。因此就会导致算力开销过大,发热严重等问题。严重时还会出现手机运行卡顿。进而严重影响用户体验。
发明内容
本申请实施例提供一种图像处理方法和电子设备,可以使用较小的分辨率执行主场景中的大量渲染操作,从而达到降低渲染功耗的效果。
为了达到上述目的,本申请实施例采用如下技术方案:
第一方面,提供一种图像处理方法,应用于电子设备对第一图像的渲染处理,该电子设备运行有应用程序,该电子设备对该第一图像执行渲染处理时调用一个或多个帧缓冲,该电子设备对该第一图像执行渲染处理的渲染操作由该应用程序下发。该方法包括:确定对该第一图像执行渲染处理过程中的第一主场景。该第一主场景是该电子设备对该第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。配置临时帧缓冲,该临时帧缓冲的分辨率小于该第一主场景的分辨率。在对该第一图像进行渲染处理时,在该临时帧缓冲上,执行第一渲染操作。该第一渲染操作是该应用程序指示的在该第一主场景上执行的渲染操作。
基于该方案,提供了一种降低主场景下的渲染功耗的方案。在本示例中,电子设备可以为主场景(如执行渲染处理最大的帧缓冲)配置具有较小分辨率的临时帧缓冲。电子设备还可以在临时帧缓冲上执行原先需要在主场景上执行的渲染操作。这样,就可以实现采用较小的分辨率执行渲染操作的目的,从而节省由于高分辨率的大量渲染操作导致的渲染功耗过高的问题。可以理解的是,本示例中,配置临时帧缓冲,以及在临时帧缓冲上执行渲染操作的对象,均为主场景,即渲染操作最多的帧缓冲。在本申请的另一些实现中,电子设备还可以为其他具有较多渲染操作的帧缓冲配置对应的具有较小分辨率的临时帧缓冲,并该对应的临时帧缓冲上进行较低分辨率的渲染操作,从而使得采用较小分辨率执行的渲染操作数量得到提升,进一步降低渲染操作的功耗。
在一种可能设计中,该确定对该第一图像的渲染处理过程中的第一主场景,包括:基于对第二图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲,确定该第一主场景。该第二图像的渲染处理在该第一图像的渲染处理之前。对该第二图像执行渲染处理时调用该第一主场景。基于该方案,提供了一种第一主场景的确定方案。在本示例中,电子设备可以根据在当前帧图像(如第一图像)的渲染处理之前,对其他帧图像(如第二图像)进行的渲染处理的过程中,各个帧缓冲上的渲染操作的数量确定当前帧图像的主场景。可以理解的是,第二图像的渲染处理在第一图像之前,那么在执行第一图像的渲染时,第二图像的所有渲染操作已经完成,因此电子设备就可以知晓第二图像在渲染过程中,各个帧缓冲上执行渲染操作的数量。由于图像的连续性,因此一般情况,可以认为对第一图像而言,渲染操作最多的帧缓冲与第二图像保持一致。因此,在本示例中,可以将第二图像渲染处理过程中,执行渲染操作最多的帧缓冲,作为当前帧图像(即第一图像)的主场景。
在一种可能设计中,在该确定对该第一图像执行渲染处理过程中的第一主场景之前,该方法还包括:在对该第二图像的渲染处理过程中,确定在每个帧缓冲上执行绘制调用(drawcall)的数量,将执行drawcall的数量最多的帧缓冲确定为该第一主场景。基于该方案,提供了一种具体的确定第一主场景的方案示例。在本示例中,可以通过drawcall的数量,来表示渲染操作的数量。比如,drawcall的数量越多,那么对应的渲染操作的数量就越多,反之亦然。由此,电子设备就可以通过确定第二图像的渲染过程中,各个帧缓冲上的drawcall的数量,确定具有最大drawcall数量的帧缓冲为第一主场景。可以理解的是,由于主场景上的drawcall最多,因此在主场景上的渲染处理最复杂,需要的功耗也就越高。因此,结合前述方案,在drawcall最多的帧缓冲(即主场景)上执行上述方案,能够达到较好的降低功耗的效果。
在一种可能设计中,该第二图像是该第一图像的上一帧图像。基于该方案,提供了一种第二图像的具体选择方案。比如,第二图像可以是第一图像的上一帧图像。这样,由于第二图像与第一图像所要显示的图像非常接近,因此根据第二图像渲染过程中的drawcall数量确定的第一主场景也就越准确。
在一种可能设计中,该电子设备配置有处理器和渲染处理模块。该在该临时帧缓冲上,执行第一渲染操作,包括:在该处理器接收来自该应用程序的对该第一图像的渲染命令的情况下,该处理器向该渲染处理模块下发第一渲染指令,该第一渲染指令包括该第一渲染操作,该第一渲染指令用于指示该渲染处理模块在该临时帧缓冲上执行该第一渲染操作。该渲染处理模块根据该第一渲染指令,在该临时帧缓冲上执行该第一渲染操作。基于该方案,提供了一种执行第一渲染操作的具体方案的示例。在本示例中,电子设备可以通过处理器和渲染处理模块配合,实现以较小的分辨率执行主场景的渲染操作的目的。比如,处理器可以向渲染处理模块下发渲染指令,指示渲染处理模块在具有较小分辨率的临时帧缓冲上执行本应在具有较大分辨率的主场景上执行的渲染操作。这样,渲染处理模块就可以根据渲染指令,在临时帧缓冲上执行对应的渲染操作,从而达到采用较小分辨率进行渲染的效果。
在一种可能设计中,在该处理器向该渲染处理模块下发第一渲染指令之前,该方法还包括:该处理器判断当前执行的渲染命令是对该主场景的渲染命令的情况下,将当前执行的该渲染命令绑定的帧缓冲信息由第一帧缓冲信息替换为第二帧缓冲信息,以得到该第一渲染指令,该第一帧缓冲信息用于指示在该主场景上执行该第一渲染操作,该第二帧缓冲信息用于指示在该临时帧缓冲上执行该第一渲染操作。基于该方案,提供了一种处理器向渲染处理模块发送的第一渲染指令的确定逻辑。在该示例中,处理器可以在确定当前来自应用程序的渲染命令是针对主场景的渲染命令的情况下,执行后续的操作。比如,处理器可以根据当前渲染命令所绑定的帧缓冲的帧缓冲对象,与主场景的帧缓冲对象进行对比,当结果一致时,则处理器确定当前的渲染命令是针对主场景的。此后,处理器可以向渲染处理模块下发渲染指令,以指示渲染处理模块进行渲染操作。在本示例中,处理器可以将渲染指令中,本指向主场景的帧缓冲信息,替换为指向临时帧缓冲的帧缓冲信息,并下发给渲染处理模块。这样,渲染处理模块就可以根据该渲染指令,在该渲染指令指示的帧缓冲(如临时帧缓冲)上执行对应的渲染操作,由此实现在临时帧缓冲上执行本在主场景上执行的渲染操作。
在一种可能设计中,该第一帧缓冲信息包括第一帧缓冲对象,该第一帧缓冲对象是该主场景对应的帧缓冲对象,该第二帧缓冲信息包括第二帧缓冲对象,该第二帧缓冲对象是该临时帧缓冲对应的帧缓冲对象。基于该方案,提供了一种帧缓冲信息的具体实现。比如,帧缓冲信息可以包括帧缓冲对象。以替换bindFrameBuffer()函数的帧缓冲信息为例。在主场景为FB1,临时帧缓冲为FB3的情况下,渲染命令中可以包括bindFrameBuffer(1)。对应的,在不替换帧缓冲信息的情况下,处理器可以向渲染处理模块下发包括bindFrameBuffer(1)的渲染指令,以指示渲染处理模块在FB1上执行渲染指令中的drawcall。在采用本申请所述的方案时,可以将FB1的帧缓冲信息替换为FB3的帧缓冲信息,那么,渲染命令中可以包括bindFrameBuffer(1)时,处理器可以将bindFrameBuffer(1)替换为bindFrameBuffer(3),并在渲染指令中携带该bindFrameBuffer(3),从而指示渲染处理模块在FB3上执行对应的渲染操作。
在一种可能设计中,该渲染命令是该应用程序下发给该处理器的,该渲染命令包括该第一渲染操作,以及该第一帧缓冲信息。基于该方案,提供了一种渲染命令的基本组成示意。在该示例中,渲染命令可以是来自应用程序的,用于指示处理器在所指示的帧缓冲上执行第一渲染操作。
在一种可能设计中,该处理器是中央处理器(CPU)。基于该方案,提供了一种处理器的具体实现。比如,该处理器可以是电子设备中的CPU。在另一些实现中,处理器的功能还可以通过其他具有处理功能的部件或者电路实现。
在一种可能设计中,该渲染处理模块是图形处理器(GPU)。基于该方案,提供了一种渲染处理模块的具体实现。比如,该渲染处理模块可以是电子设备中的GPU。在另一些实现中国,渲染处理模块的功能还可通过其他具有图形渲染功能的部件或者电路实现。
在一种可能设计中,该第一渲染指令还包括:对该第一渲染操作获取的图像执行多重采样。基于该方案,提供了一种在降低功耗的前提下提升图像显示质量的方案示例。在本示例中,电子设备可以对采用较低分辨率执行渲染操作获取的图像,采用多重采样技术,降低图像边缘的锯齿,提升图像的整体显示质量。
第二方面,提供一种图像处理装置,应用于电子设备对第一图像的渲染处理,该电子设备运行有应用程序,该电子设备对该第一图像执行渲染处理时调用一个或多个帧缓冲,该电子设备对该第一图像执行渲染处理的渲染操作由该应用程序下发。该装置包括:确定单元,用于确定对该第一图像执行渲染处理过程中的第一主场景。该第一主场景是该电子设备对该第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。配置单元,用于配置临时帧缓冲,该临时帧缓冲的分辨率小于该第一主场景的分辨率。执行单元,用于在对该第一图像进行渲染处理时,在该临时帧缓冲上,执行第一渲染操作。该第一渲染操作是该应用程序指示的在该第一主场景上执行的渲染操作。
在一种可能设计中,确定单元,具体用于基于对第二图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲,确定该第一主场景。该第二图像的渲染处理在该第一图像的渲染处理之前。对该第二图像执行渲染处理时调用该第一主场景。
在一种可能设计中,确定单元,还用于在对该第二图像的渲染处理过程中,确定在每个帧缓冲上执行绘制调用(drawcall)的数量,将执行drawcall的数量最多的帧缓冲确定为该第一主场景。
在一种可能设计中,该第二图像是第一图像的上一帧图像。
在一种可能设计中,该执行单元的功能可以通过处理器和渲染处理模块实现。示例性的,在该处理器用于在接收到来自该应用程序的对该第一图像的渲染命令的情况下,向该渲染处理模块下发第一渲染指令,该第一渲染指令包括该第一渲染操作,该第一渲染指令用于指示该渲染处理模块在该临时帧缓冲上执行该第一渲染操作。该渲染处理模块用于根据该第一渲染指令,在该临时帧缓冲上执行该第一渲染操作。
在一种可能设计中,该处理器还用于,在该处理器向该渲染处理模块下发第一渲染指令之前,判断当前执行的渲染命令是对该主场景的渲染命令的情况下,将当前执行的该渲染命令绑定的帧缓冲信息由第一帧缓冲信息替换为第二帧缓冲信息,以得到该第一渲染指令,该第一帧缓冲信息用于指示在该主场景上执行该第一渲染操作,该第二帧缓冲信息用于指示在该临时帧缓冲上执行该第一渲染操作。
在一种可能设计中,该第一帧缓冲信息包括第一帧缓冲对象,该第一帧缓冲对象是该主场景对应的帧缓冲对象,该第二帧缓冲信息包括第二帧缓冲对象,该第二帧缓冲对象是该临时帧缓冲对应的帧缓冲对象。
在一种可能设计中,该渲染命令是该应用程序下发给该处理器的,该渲染命令包括该第一渲染操作,以及该第一帧缓冲信息。
在一种可能设计中,该处理器是中央处理器(CPU)。
在一种可能设计中,该渲染处理模块是图形处理器(GPU)。
在一种可能设计中,该第一渲染指令还包括:对该第一渲染操作获取的图像执行多重采样。
第三方面,提供一种电子设备,电子设备包括一个或多个处理器和一个或多个存储器;一个或多个存储器与一个或多个处理器耦合,一个或多个存储器存储有计算机指令;当一个或多个处理器执行计算机指令时,使得电子设备执行如上述第一方面以及各种可能的设计中任一种的图像处理方法。
第四方面,提供一种芯片系统,芯片系统包括接口电路和处理器;接口电路和处理器通过线路互联;接口电路用于从存储器接收信号,并向处理器发送信号,信号包括存储器中存储的计算机指令;当处理器执行计算机指令时,芯片系统执行如上述第一方面以及各种可能的设计中任一种的图像处理方法。
第五方面,提供一种计算机可读存储介质,计算机可读存储介质包括计算机指令,当计算机指令运行时,执行如上述第一方面以及各种可能的设计中任一种的图像处理方法。
第六方面,提供一种计算机程序产品,计算机程序产品中包括指令,当计算机程序产品在计算机上运行时,使得计算机可以根据指令执行如上述第一方面以及各种可能的设计中任一种的图像处理方法。
应当理解的是,上述第二方面,第三方面,第四方面,第五方面以及第六方面提供的技术方案,其技术特征均可对应到第一方面及其可能的设计中提供的图像处理方法,因此能够达到的有益效果类似,此处不再赘述。
附图说明
图1为一种视频流的组成示意图;
图2为一种图像显示的示意图;
图3为又一种图像显示的示意图;
图4为本申请实施例提供的一种电子设备的组成示意图;
图5为本申请实施例提供的一种电子设备的软件组成示意图;
图6A为本申请实施例提供的一种渲染命令的下发示意图;
图6B为本申请实施例提供的一种渲染命令的下发示意图;
图6C为本申请实施例提供的一种图像渲染的示意图;
图7A为本申请实施例提供的一种图像处理方法的流程示意图;
图7B为本申请实施例提供的一种不同帧缓冲上drawcall数量的确定示意图;
图7C为本申请实施例提供的一种不同帧缓冲上drawcall数量的确定示意图;
图8为本申请实施例提供的一种渲染命令的下发示意图;
图9为本申请实施例提供的一种图像处理方法的流程示意图;
图10为本申请实施例提供的一种图像处理装置的组成示意图;
图11为本申请实施例提供的一种电子设备的组成示意图;
图12为本申请实施例提供的一种芯片系统的组成示意图。
具体实施方式
在用户使用电子设备的过程中,电子设备通过显示屏可以向用户展示多媒体流文件,以便于向用户提供丰富的视觉体验。
以多媒体流为视频流为例。该视频流可以包括多个帧图像。示例性的,结合图1,该视频流可以包括N帧图像,如第1帧,第2帧,……第N帧。电子设备可以在展示该视频流时,分别在显示屏上显示第1帧,第2帧,……第N帧。在电子设备切换显示帧图像的频率高于人眼能够分辨的频率时,就可以实现用户对于不同帧图像的切换展示的不感知,从而获取观看连续的观看效果。
想要播放视频流的应用程序,可以向电子设备发出针对不同帧图像的渲染命令。电子设备可以根据这些渲染命令,进行对各个帧图像的渲染,并基于渲染结果进行显示。
在一些实现中,电子设备可以在显示当前帧图像时,根据应用程序下发的渲染命令,进行后续帧图像的渲染。以便于在需要显示后续帧图像时,可以将渲染完成的需要显示的帧图像替换当前显示的帧图像,展示给用户。
示例性的,以当前显示的帧图像为第N-1帧为例。如图2所示,电子设备可以在需要显示第N-1帧图像时,控制显示屏从当前帧缓冲(如图2所示的当前帧缓冲)中读取第N-1帧图像的数据进行显示。其中,当前帧缓冲可以是电子设备在内存中为当前需要显示的帧图像配置的存储空间,该当前帧缓冲可以用于存储当前需要显示的帧图像的数据(如各个像素的颜色数据,深度数据等)。也就是说,在需要显示第N-1帧图像时,电子设备可以根据当前帧缓冲中存储的第N-1帧图像的数据,控制显示屏显示第N-1帧图像。
在一些实现中,在电子设备显示第N-1帧图像时,可以根据应用程序下发的渲染命令,对后续将要显示的图像(如第N帧)进行渲染,从而获取用于显示第N帧图像的数据。
请参考图3,电子设备在显示第N-1帧图像时,可以执行对第N帧的渲染。可以理解的是,电子设备在渲染帧图像的过程中,需要将渲染的结果存储起来以便后续使用。因此,在本示例中,电子设备可以在对第N帧图像进行渲染之前,在内存中配置帧缓冲。帧缓冲可以对应到内存中的存储空间。在电子设备进行渲染时,可以将渲染结果存储在对应的帧缓冲中。
在一些实施例中,为了避免在一个帧缓冲上执行过多的操作,电子设备可以在执行1个帧图像的渲染时,调用多个帧缓冲。示例性的,电子设备可以在执行第N帧图像的渲染时,调用如图3所示的3个帧缓冲(如FB0,FB1,以及FB2)。这样,在执行对第N帧图像的渲染时,FB1可以用于存储第N帧图像的一部分元素的渲染结果(如称为渲染结果1),FB2可以用于存储第N帧图像的另一部分元素的渲染结果(如称为渲染结果2)。在分别获取渲染结果1和渲染结果2之后,电子设备可以将渲染结果1以及渲染结果2融合(或称为渲染)到FB0中。由此即可在FB0中获取第N帧图像的完整的渲染结果。
电子设备可以在需要显示第N帧图像时,控制FB0中的数据交换(swap)到当前帧缓冲中,进而根据交换之后的当前帧缓冲中的数据(如第N帧的数据),控制显示屏显示第N帧图像。
需要说明的是,为了能够对帧图像进行完整的渲染,电子设备可以在创建帧缓冲时,为帧缓冲配置对应的分辨率。分辨率越高,帧缓冲对应的存储空间就越大,这样就能够实现对较高分辨率的图像进行渲染。
可以理解的是,随着电子设备的发展,用户对于电子设备提供的显示分辨率要求越来越高。各个帧图像的渲染都需要进行较高分辨率的渲染,这也对电子设备的图像处理能力提出了较高的要求。由此也会引入电子设备的功耗和发热的显著增加,从而影响用户体验。
为了解决上述问题,本申请实施例提供一种图像处理方法,可以使得电子设备能够根据已经完成渲染的帧图像的渲染情况,灵活调整后续帧图像的渲染机制,比如调整后续帧图像渲染过程中使用的帧缓冲的分辨率,从而降低帧图像渲染过程中对内存和算力造成的较大压力,进而避免由此产生的电子设备的发热和功耗的上升。
以下结合附图对本申请实施例提供的方案进行详细说明。
需要说明的是,本申请实施例提供的图像处理方法,可以应用在用户的电子设备中。该电子设备可以是能够提供网络接入能够的设备。比如,该电子设备可以是手机、平板电脑、个人数字助理(personal digital assistant,PDA)、增强现实(augmented reality,AR)\虚拟现实(virtual reality,VR)设备、媒体播放器等具备拍摄功能的便携式移动设备,该电子设备也可以是智能手表等可穿戴电子设备。本申请实施例对该设备的具体形态不作特殊限制。在一些实施例中,该电子设备可以具有显示功能。比如,电子设备可以根据应用程序下发的渲染命令进行图像的渲染,并根据渲染获取的渲染结果向用户展示对应的图像。
请参考图4,为本申请实施例提供的一种电子设备400的组成示意图。如图4所示,该电子设备400可以包括处理器410,外部存储器接口420,内部存储器421,通用串行总线(universal serial bus,USB)接口430,充电管理模块440,电源管理模块441,电池442,天线1,天线2,移动通信模块450,无线通信模块460,音频模块470,传感器模块480,按键490,马达491,指示器492,摄像头493,显示屏494,以及用户标识模块(subscriberidentification module,SIM)卡接口495等。其中,传感器模块480可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。在一些实施例中,该电子设备400还可以包括扬声器,受话器,麦克风,耳机接口等器件用于实现电子设备的音频相关功能。
可以理解的是,本实施例示意的结构并不构成对电子设备400的具体限定。在另一些实施例中,电子设备400可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器410可以包括一个或多个处理单元,例如:处理器410可以包括中央处理器(Central Processing Unit/Processor,CPU)应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processing unit,GPU),图像信号处理器(imagesignal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digitalsignal processor,DSP),基带处理器,和/或神经网络处理器(neural-networkprocessing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以是电子设备400的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器410中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器410中的存储器为高速缓冲存储器。该存储器可以保存处理器410刚用过或循环使用的指令或数据。如果处理器410需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器410的等待时间,因而提高了系统的效率。
在一些实施例中,处理器410可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
电子设备400可以通过ISP,摄像头493,视频编解码器,GPU,显示屏494以及应用处理器410等实现拍摄功能。
ISP用于处理摄像头493反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头493感光元件上,光信号转换为电信号,摄像头493感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头493中。
摄像头493用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备400可以包括1个或N个摄像头493,N为大于1的正整数。
数字信号处理器410用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备400在频点选择时,数字信号处理器410用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备400可以支持一种或多种视频编解码器。这样,电子设备400可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器410,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备400的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
充电管理模块440用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块440可以通过USB接口430接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块440可以通过电子设备400的无线充电线圈接收无线充电输入。充电管理模块440为电池442充电的同时,还可以通过电源管理模块441为电子设备400供电。电源管理模块441用于连接电池442,充电管理模块440与处理器410。电源管理模块441接收电池442和/或充电管理模块440的输入,为处理器410,内部存储器421,外部存储器,显示屏494,摄像头493,和无线通信模块460等供电。电源管理模块441还可以用于监测电池442容量,电池442循环次数,电池442健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块441也可以设置于处理器410中。在另一些实施例中,电源管理模块441和充电管理模块440也可以设置于同一个器件中。
电子设备400的无线通信功能可以通过天线1,天线2,移动通信模块450,无线通信模块460,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备400中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块450可以提供应用在电子设备400上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块450可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块450可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块450还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块450的至少部分功能模块可以被设置于处理器410中。在一些实施例中,移动通信模块450的至少部分功能模块可以与处理器410的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器,受话器等)输出声音信号,或通过显示屏494显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器410,与移动通信模块450或其他功能模块设置在同一个器件中。
无线通信模块460可以提供应用在电子设备400上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块460可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块460经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器410。无线通信模块460还可以从处理器410接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备400的天线1和移动通信模块450耦合,天线2和无线通信模块460耦合,使得电子设备400可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备400通过GPU,显示屏494,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏494和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器410可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏494用于显示图像,视频等。显示屏494包括显示面板。显示面板可以采用液晶显示屏494(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备400可以包括1个或N个显示屏494,N为大于1的正整数。
外部存储器接口420可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备400的存储能力。外部存储卡通过外部存储器接口420与处理器410通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器421可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器410通过运行存储在内部存储器421的指令,从而执行电子设备400的各种功能应用以及数据处理。内部存储器421可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备400使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器421可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
在本申请实施例中,内部存储器421也可以称为内存。在一些实施例中,处理器(如CPU)可以在内存中为不同的帧图像的渲染处理创建对应的帧缓冲。比如,结合图3,CPU可以在应用程序的命令的控制下,在内存中创建FBO,FB1以及FB2用于对第N帧图像的渲染操作。
电子设备400可以通过音频模块470,扬声器,受话器,麦克风,耳机接口,以及应用处理器410等实现音频功能。例如音乐播放,录音等。
音频模块470用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块470还可以用于对音频信号编码和解码。在一些实施例中,音频模块470可以设置于处理器410中,或将音频模块470的部分功能模块设置于处理器410中。扬声器,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备400可以通过扬声器收听音乐,或收听免提通话。受话器,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备400接听电话或语音信息时,可以通过将受话器靠近人耳接听语音。麦克风,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息或需要通过语音助手触发电子设备400执行某些功能时,用户可以通过人嘴靠近麦克风发声,将声音信号输入到麦克风。电子设备400可以设置至少一个麦克风。在另一些实施例中,电子设备400可以设置两个麦克风,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备400还可以设置三个,四个或更多麦克风,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。耳机接口用于连接有线耳机。耳机接口可以是USB接口430,也可以是3.5mm的开放移动电子设备400平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association ofthe USA,CTIA)标准接口。
触摸传感器,也称“触控面板”。触摸传感器可以设置于显示屏494,由触摸传感器与显示屏494组成触摸屏,也称“触控屏”。触摸传感器用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器410,以确定触摸事件类型。在一些实施例中,可以通过显示屏494提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器也可以设置于电子设备400的表面,与显示屏494所处的位置不同。
压力传感器用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器可以设置于显示屏494。压力传感器的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器,电极之间的电容改变。电子设备400根据电容的变化确定压力的强度。当有触摸操作作用于显示屏494,电子设备400根据压力传感器检测所述触摸操作强度。电子设备400也可以根据压力传感器的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器可以用于确定电子设备400的运动姿态。在一些实施例中,可以通过陀螺仪传感器确定电子设备400围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器检测电子设备400抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备400的抖动,实现防抖。陀螺仪传感器还可以用于导航,体感游戏场景。
气压传感器用于测量气压。在一些实施例中,电子设备400通过气压传感器测得的气压值计算海拔高度,辅助定位和导航。
磁传感器包括霍尔传感器。电子设备400可以利用磁传感器检测翻盖皮套的开合。在一些实施例中,当电子设备400是翻盖机时,电子设备400可以根据磁传感器检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器可检测电子设备400在各个方向上(一般为三轴)加速度的大小。当电子设备400静止时可检测出重力的大小及方向。还可以用于识别电子设备400姿态,应用于横竖屏切换,计步器等应用。
距离传感器,用于测量距离。电子设备400可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备400可以利用距离传感器测距以实现快速对焦。
接近光传感器可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备400通过发光二极管向外发射红外光。电子设备400使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备400附近有物体。当检测到不充分的反射光时,电子设备400可以确定电子设备400附近没有物体。电子设备400可以利用接近光传感器检测用户手持电子设备400贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器用于感知环境光亮度。电子设备400可以根据感知的环境光亮度自适应调节显示屏494亮度。环境光传感器也可用于拍照时自动调节白平衡。环境光传感器还可以与接近光传感器配合,检测电子设备400是否在口袋里,以防误触。
指纹传感器用于采集指纹。电子设备400可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器用于检测温度。在一些实施例中,电子设备400利用温度传感器检测的温度,执行温度处理策略。例如,当温度传感器上报的温度超过阈值,电子设备400执行降低位于温度传感器附近的处理器410的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备400对电池442加热,以避免低温导致电子设备400异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备400对电池442的输出电压执行升压,以避免低温导致的异常关机。
骨传导传感器可以获取振动信号。在一些实施例中,骨传导传感器可以获取人体声部振动骨块的振动信号。骨传导传感器也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器也可以设置于耳机中,结合成骨传导耳机。音频模块470可以基于所述骨传导传感器获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器410可以基于所述骨传导传感器获取的血压跳动信号解析心率信息,实现心率检测功能。
按键490包括开机键,音量键等。按键490可以是机械按键490。也可以是触摸式按键490。电子设备400可以接收按键490输入,产生与电子设备400的用户设置以及功能控制有关的键信号输入。
马达491可以产生振动提示。马达491可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏494不同区域的触摸操作,马达491也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器492可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口495用于连接SIM卡。SIM卡可以通过插入SIM卡接口495,或从SIM卡接口495拔出,实现和电子设备400的接触和分离。电子设备400可以支持1个或N个SIM卡接口495,N为大于1的正整数。SIM卡接口495可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口495可以同时插入多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口495也可以兼容不同类型的SIM卡。SIM卡接口495也可以兼容外部存储卡。电子设备400通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备400采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备400中,不能和电子设备400分离。
应当理解的是,上述图4示出了电子设备中的一种硬件结构组成。本申请中,还可以从另一个角度对电子设备400进行划分。比如,参考图5,示出了电子设备400的另一种逻辑组成。
示例性的,在如图5所示的示例中,电子设备400可以就有分层架构。在该示例中,分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,以电子设备运行有
Figure BDA0003740683910000111
(Android)操作系统为例。系统可以分为五层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime,ART)和原生C/C++库,硬件抽象层(Hardware Abstract Layer,HAL)以及内核层。
其中,应用程序层可以包括一系列应用程序包。如图5所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
在本申请的一些实施例中,应用程序层可以包括向用户提供多媒体流展示功能的应用程序。比如,应用程序层中可以包括各类游戏类应用(如
Figure BDA0003740683910000121
等)。又如,应用程序层中还可以包括各类视频类应用(如
Figure BDA0003740683910000122
等)。在这些应用程序运行时,可以下发出渲染命令,由此使得CPU可以根据该渲染命令,控制GPU进行对应的渲染,以获取各个帧图像的数据。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。如图5所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,资源管理器,通知管理器,活动管理器,输入管理器等。窗口管理器提供窗口管理服务(Window ManagerService,WMS),WMS可以用于窗口管理、窗口动画管理、surface管理以及作为输入系统的中转站。内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。该数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。活动管理器可以提供活动管理服务(Activity Manager Service,AMS),AMS可以用于系统组件(例如活动、服务、内容提供者、广播接收器)的启动、切换、调度以及应用进程的管理和调度工作。输入管理器可以提供输入管理服务(Input Manager Service,IMS),IMS可以用于管理系统的输入,例如触摸屏输入、按键输入、传感器输入等。IMS从输入设备节点取出事件,通过和WMS的交互,将事件分配至合适的窗口。
安卓运行时包括核心库和安卓运行时。安卓运行时负责将源代码转换为机器码。安卓运行时主要包括采用提前(ahead or time,AOT)编译技术和及时(just in time,JIT)编译技术。核心库主要用于提供基本的Java类库的功能,例如基础数据结构、数学、输入输出(Input Output,IO)、工具、数据库、网络等库。核心库为用户进行安卓应用开发提供了API。
原生C/C++库可以包括多个功能模块。例如:表面管理器(surface manager),媒体框架(Media Framework),标准C库(Standard C library,libc),嵌入式系统的开放图形库(OpenGL for Embedded Systems,OpenGL ES)、Vulkan、SQLite、Webkit等。
其中,表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。媒体框架支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:动态图象专家组4(Moving PicturesExperts Group MPEG4),H.264,动态影像专家压缩标准音频层面3(Moving PictureExperts Group Audio Layer3,MP3),高级音频编码(Advanced Audio Coding,AAC),自适应多码解码(Adaptive Multi-Rate,AMR),联合图像专家组(Joint Photographic ExpertsGroup,JPEG,或称为JPG),便携式网络图形(Portable Network Graphics,PNG)等。OpenGLES和/或Vulkan提供应用程序中2D图形和3D图形的绘制和操作。SQLite为电子设备400的应用程序提供轻量级关系型数据库。
硬件抽象层运行于用户空间(user space),对内核层驱动进行封装,向上层提供调用接口。内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
以下结合图4和图5所示的组成,对图像渲染过程中,软件和硬件的处理机制进行示例性说明。其中以处理器410中包括CPU和GPU为例。在本申请实施例中,CPU可以用于接收来自应用程序的渲染命令,并根据该渲染命令,向GPU下发对应的渲染指令,以便于GPU根据渲染指令执行对应的渲染。作为一种示例,渲染命令中可以包括bindFrameBuffer()函数,以及一个或多个glDrawElement。对应的,渲染指令中也可以包括bindFrameBuffer()函数,以及一个或多个glDrawElement。其中,bindFrameBuffer()函数可以用于指示当前绑定的帧缓冲。如,bindFrameBuffer(1)可以指示当前绑定的帧缓冲为FB1,即在FB1上执行后续的glDrawElement。为了便于说明,以下示例中,将渲染命令/渲染指令中,glDrawElement的集合称为渲染操作。
在应用程序层中的应用程序需要渲染某个图像(如第N帧图像)时,可以向下发起渲染命令。在该渲染命令中,可以包括渲染该第N帧图像所需要调用的帧缓冲,以及在各个帧缓冲中需要执行的渲染操作。在一些示例中,渲染命令可以通过bindFrameBuffer()函数,实现对应渲染操作与帧缓冲的绑定。比如,第N帧图像需要使用FB0,FB1以及FB2作为帧缓冲为例。结合图6A,为FB1对应的渲染命令的一种示例。应用程序下发的渲染命令中,可以包括bindFrameBuffer(1)函数,由此实现当前渲染操作与FB1的绑定。在绑定FB1之后,可以通过glDrawElement指令,实现在该FB1上的渲染操作指示。在本示例中,1个glDrawElement指令可以对应1个drawcall。在不同实现中,在FB1上执行的glDrawElement指令可以为多个,则对应的在FB1上执行的drawcall就可以是多个。例如,结合图6A,在该示例中,渲染命令中可以包括在FB1上执行的drawcall可以为A个,如glDrawElement1-glDrawElement A。
类似的,对于需要使用FB2的渲染操作,在渲染指令中,可以通过bindFrameBuffer(2)函数绑定FB2。此后可以通过不同的glDrawElement指令,实现在该FB2上的渲染操作指示。
在接收到上述命令之后,CPU可以根据bindFrameBuffer()函数所绑定的帧缓冲信息,以及对应的glDrawElement指令,向GPU下发对应的渲染指令。从而使得GPU可以进行对应的渲染操作,并将该渲染操作的结果存储在当前绑定的帧缓冲中。
示例性的,CPU可以在接收到bindFrameBuffer(1)的指令时,确定激活(active)的帧缓冲为FB1。CPU可以向GPU下发在FB1上进行对应glDrawElement的渲染指令。比如,结合图6A,CPU可以向GPU下发包括执行glDrawElement 1-1到glDrawElement 1-A的渲染指令,以便于GPU执行glDrawElement 1-1到glDrawElement 1-A。在一些实施例中,CPU可以向GPU下发bindFrameBuffer(1),以便于GPU可以确定在FB1上执行上述渲染指令,并将结果保存在FB1中。
类似的,结合图6B,CPU可以在接收到bindFrameBuffer(2)的命令时,确定激活(active)的帧缓冲为FB2。CPU可以向GPU下发在FB2上进行对应glDrawElement渲染指令,由此完成对FB2上相关数据的渲染。
如此往复,即可完成对第N帧图像对应的各个帧缓冲的渲染。
这样,电子设备可以将这些帧缓冲中的渲染结果渲染到FB0中,由此即可在FB0中获取第N帧图像对应的数据。比如,以第N帧图像的默认帧缓冲为FB0,第N帧图像在进行渲染处理过程中还调用FB1和FB2为例。结合图6A以及图6B的示例,参考图6C,在GPU完成FB1和FB2上的渲染处理之后,即可在FB1和FB2中分别存储对应的数据(如各个像素点的颜色数据和/或深度数据等)。这些数据(如FB1和FB2中的数据)可以分别对应第N帧图像的部分元素。那么,结合图6C,电子设备可以将FB1和FB2中的数据渲染到FB0上。这样,在FB0上就可以获取第N帧图像所有的数据。在电子设备需要显示第N帧图像时,结合图3所示的方案,CPU可以将第N帧图像对应的数据,通过swapbuffer的指令,从FB0中交换到当前帧缓冲中。进而使得显示屏可以根据当前帧缓冲中的第N帧图像的数据进行显示。
需要说明的是,上述示例中,是以在FB0上只进行基于FB1和FB2的数据的渲染结果进行渲染获取第N帧图像的全量数据为例进行说明的。比如,以第N帧图像是根据游戏应用下发的渲染指令进行渲染的图像。在该第N帧图像中可以包括人物,树木等元素,还可以包括特效等元素,还可以包括用户界面(User Interface,UI)控件等元素。那么在一些实施例中,CPU可以根据游戏应用下发的渲染命令,控制GPU在FB1上执行人物,树木,UI控件等元素的渲染,并将结果存储在FB1。CPU还可以根据游戏应用下发的渲染命令,控制GPU在FB2上执行特效等元素的渲染,并将结果存储在FB2。接着就可以通过将FB1存储的数据和FB2存储的数据渲染到FB0上,即可获取第N帧图像的全量数据。
在本申请的另一些实施例中,在FB0上执行的渲染操作,还可以包括基于FB1,FB2的数据之外的渲染指令执行的渲染操作。比如,继续结合上述示例,CPU可以根据游戏应用下发的渲染命令,控制GPU在FB1上执行人物,树木等元素的渲染,并将结果存储在FB1。CPU还可以根据游戏应用下发的渲染命令,控制GPU在FB2上执行特效等元素的渲染,并将结果存储在FB2。接着,CPU还可以根据游戏应用下发的渲染命令,控制GPU在FB0上执行UI控件的渲染,并结合FB1和FB2存储的数据,将所有渲染结果进行渲染融合,从而在FB0上获取第N帧图像的全量数据。
可以理解的是,在对第N帧图像的渲染过程中,在不同的帧缓冲上执行的drawcall数量是不同。执行的drawcall数量越多,则表明在该帧缓冲上执行的渲染操作越多,那么在该帧缓冲的渲染操作过程中就会消耗更多的算力资源,也就会产生更高的功耗以及发热。
本申请实施例提供的方案,能够使得电子设备可以自动识别当前需要渲染的帧图像的渲染过程中,消耗资源较高的帧缓冲(如称为主场景)。通过采用较低的分辨率,执行该主场景中的渲染操作,达到降低在主场景中的渲染操作消耗的算力资源的效果。
示例性的,基于连续帧图像的相关性,电子设备可以通过第N-1帧图像的渲染过程,确定主场景。在一些实施例中,CPU可以根据已经完成渲染的帧图像(如第N-1帧)在处理过程中,在各个帧缓冲上执行的drawcall个数,确定在执行该第N-1帧图像在渲染过程中,需要执行渲染操作最多的帧缓冲(即主场景)。也就是说,在对当前帧图像(如第N帧)的渲染时,该主场景的渲染操作的数量也可能是最多的。在该示例中,CPU可以在对第N帧图像进行渲染处理时,为该主场景在内存中配置具有较小分辨率的临时帧缓冲。以便于在收到对主场景的渲染命令的情况下,CPU可以控制GPU在该临时帧缓冲中,以较小的分辨率执行主场景对应的渲染操作。由此就可以使得在对第N帧图像的渲染过程中,大量的渲染操作可以以较小的分辨率执行,从而减少渲染负载,降低渲染所需功耗。
以下结合示例,对本申请实施例提供的方案进行详细说明。示例性的,请参考图7A,为本申请实施例提供的一种图像处理方法的流程示意图。如图所示,该方法可以包括:
S701、确定上一帧图像渲染过程中的主场景。
其中,主场景可以是渲染过程中,执行渲染操作数量最多的帧缓冲。
可以理解的是,以电子设备播放视频流为例。组成视频流的连续帧图像的场景具有关联性。因此,电子设备的处理器(如CPU)可以根据上一帧图像的主场景确定当前帧图像的主场景。
示例性的,以当前渲染的帧图像为第N帧图像为例。CPU可以根据上一帧(如第N-1帧图像)图像渲染过程中,在不同帧缓冲上执行drawcall的个数,确定第N-1帧图像的主场景。在一些实施例中,该第N帧图像也可以称为第一图像,第N帧图像的主场景也可以称为第一主场景。对应的,第N-1帧图像可以称为第二图像,第二图像的主场景可以与第一图像的主场景相同(如都是第一主场景)。
作为一种可能的实现方式,以执行渲染帧图像的默认帧缓冲为FB0,第N-1帧图像的渲染过程中调用了FB1,FB2为例。为了便于说明,以下将应用程序下发的与FB1对应的渲染命令称为渲染命令1,将应用程序下发的与FB2对应的渲染命令称为渲染命令2。那么,渲染命令1中就可以包括glBindFrameBuffer(1)用于绑定FB1。渲染命令1中还可以包括一个或多个需要在FB1上执行的glDrawElement。比如,渲染命令1中可以包括A个glDrawElement,即A个drawcall。类似的,渲染命令2中就可以包括glBindFrameBuffer(2)用于绑定FB2。渲染命令2中还可以包括一个或多个需要在FB2上执行的glDrawElement。比如,渲染命令2中可以包括B个glDrawElement,即B个drawcall。
在接收到对FB1和FB2的渲染命令时,CPU可以对对应的渲染命令中包括的drawcall数量进行计数,从而获取各个FB上执行的drawcall数量。
结合图7B,以FB1为例。CPU可以在根据应用程序下发的渲染命令,执行glBindFrameBuffer(1)时,初始化计数器1。比如在内存中为FB1配置对应的计数帧位。通过初始化该计数器1,既可以将该帧位的值初始化为0。后续每在FB1上执行glDrawElement时,计数器1计数加1,如执行count1++。比如,在执行glDrawElement1-1后,CPU可以对计数器1执行count1++,从而使得存储在FB1 Drawcall数量的帧位的数值由0变为1。也就是说,此时在FB1上执行的drawcall数量为1。以此类推。那么,CPU就可以确定在进行第N-1帧图像的渲染过程中,FB1上执行drawcall的数量为计数器1的当前计数(比如,该计数可以为A)。
与FB1类似的,CPU还可以在根据应用程序下发的渲染命令,调用glBindFrameBuffer(2)时,初始化计数器2。如初始化count2=0。后续每在FB2上执行glDrawElement时,计数器2计数加1,如执行count2++。在完成FB2上图像的渲染处理之后,CPU就可以确定在进行第N-1帧图像的渲染过程中,FB2上执行drawcall的数量为计数器2的当前计数(比如,该计数可以为B)。如参考图7C。在完成FB1和FB2的渲染处理之后,内存中存储FB1 Drawcall数量的帧位的数值可以为A,存储FB2 Drawcall数量的帧位可以为B。
在本示例中,CPU可以选取A和B中较大的计数对应的帧缓冲作为主场景。比如,在A大于B时,则CPU可以确定FB1上执行的drawcall个数更多,由此确定FB1为第N-1帧图像的主场景。相对的,在A小于B时,则CPU可以确定FB2上执行的drawcall个数更多,由此确定FB2为第N-1帧图像的主场景。
在本申请的一些实施例中,该S701的执行过程,可以是CPU在进行第N-1帧图像的渲染处理的过程中执行的。
S702、为主场景配置临时帧缓冲。
根据上述S701中的说明,主场景是执行drawcall数量最多的帧缓冲。因此,在需要降低渲染处理对电子设备造成的压力时,可以对主场景下的渲染处理进行调整,从而获取相较于调整其他帧缓冲中的渲染处理机制更加显著的效果。
在本申请实施例中,电子设备的CPU可以为主场景配置临时帧缓冲,该临时帧缓冲的分辨率可以小于主场景的分辨率。由此使得电子设备可以采用较小的分辨率,对主场景中的大量drawcall进行处理,从而降低高分辨率的渲染对电子设备造成的影响。
示例性的,在一些实施例中,CPU可以在内存中为主场景配置临时帧缓冲之前,确定主场景的分辨率。
作为一种可能的实现,CPU可以根据第N-1帧图像渲染时,使用的画布大小,确定该主场景的分辨率。可以理解的是,在应用程序向CPU下发渲染命令时,在渲染命令中可以通过bindFrameBuffer()函数绑定帧缓冲。以渲染命令通过bindFrameBuffer(1)绑定FB1为例。在该渲染命令中还可以通过glViewPort(x,y)函数指定在FB1中执行渲染操作时的绘制大小。这样,CPU就可以控制GPU在该x*y的像素区域中执行后续的glDrawElement对应的渲染处理。在本示例中,CPU可以在获取主场景的分辨率时,根据该主场景在第N-1帧图像渲染过程中,glViewPort(x,y)函数指定的像素区域,确定主场景的像素大小。比如,以FB1为主场景为例。CPU可以确定在执行第N-1帧图像的渲染时,绑定FB1(如接收到bindFrameBuffer(1)函数)后,接收到glViewPort(2218,978)。那么CPU就可以确定在第N-1帧图像的渲染过程中,使用了FB1上2218×978的像素区域。由此,CPU就可以确定主场景(即FB1)的分辨率为2218×978。
作为又一种可能的实现,CPU可以在接收到对第N帧图像的渲染命令后,通过对主场景执行glGetIntegerv指令,确定主场景的分辨率。例如,以主场景为FB1,执行glGetIntegerv(GL_VIEWPORT)指令获取分辨率为例。CPU可以在接收到第N帧图像中,绑定FB1(如接收到bindFrameBuffer(1)函数)后,执行glGetIntegerv(GL_VIEWPORT)指令。从而根据获取的结果(如tex1(2118×978)),确定主场景(即FB1)的分辨率为2218×978。
在本申请实施例中,CPU可以在确定主场景的分辨率的情况下,为主场景配置具有较小分辨率的临时帧缓冲。其中,该配置临时帧缓冲的操作,可以是CPU在执行第N-1帧图像的渲染过程中执行的。在另一些实现中,该配置临时帧缓冲的操作,还可以是CPU在执行完成第N-1帧图像的渲染,开始执行第N帧图像的渲染之前进行的。
需要说明的是,在本申请的一些实施例中,在电子设备中可以配置有缩放参数。该缩放参数可以用于确定临时帧缓冲的分辨率。例如,CPU可以根据如下公式(1)确定临时帧缓冲的分辨率。
临时帧缓冲的分辨率=主场景的分辨率×缩放参数……公式(1)。
其中,缩放参数可以是小于1的正数。该缩放参数可以是用户配置的,也可以是电子设备中预置的,也可以是在需要时电子设备从云端获取的。
在确定临时帧缓冲的分辨率之后,CPU就可以在内存中为该临时帧缓冲配置对应大小的存储空间。
在本申请的一些实施例中,CPU可以在执行完成第N-1帧图像的渲染处理之后,确定主场景的分辨率。进而根据上述公式(1)即可确定临时帧缓冲的分辨率。基于此,CPU就可以在内存中完成对临时帧缓冲的配置。
在一些实现中,CPU可以通过创建临时帧缓冲对象,并将该临时帧缓冲对象绑定到内存中配置的存储空间上,实现临时帧缓冲的配置。其中,临时帧缓冲对象可以是该临时帧缓冲的名称。
作为一种示例,以下给出一种创建帧缓冲的典型指令流的示例:
unsigned int fbo;//定义一个FB的ID,变量名定义为fbo
glGenFramebuffers(1,&fbo);//创建一个FB,ID值为fbo,驱动会为该FB分配ID,比如fbo可以被赋值为3
glBindFramebuffer(GL_FRAMEBUFFER,fbo);//绑定帧缓冲3
unsigned int texture;//定义一个纹理ID,变量名定义为texture
glGenTextures(1,&texture);//创建一个纹理,ID值为texture,驱动会为该FB分配texture,比如texture可以被赋值为11
glBindTexture(GL_TEXTURE_2D,texture);//绑定纹理11,其中GL_TEXTURE_2D用于指示纹理目标为2D纹理
glTexImage2D(GL_TEXTURE_2D,0,GL_RGB,800,600,0,GL_RGB,GL_UNSIGNED_BYTE,NULL);//给纹理分配一个800*600大小的内存空间;其中函数中的第2个因子(即0)可以用于指示纹理级别,函数中的第3个因子(即GL_RGB)可以用于指示目标纹理格式,函数中的第7个因子(即GL_RGB)可以用于指示入参的纹理格式,函数中的第8个因子(即GL_UNSIGNED_BYTE)可以用于指示入参纹理数据类型
glFramebufferTexture2D(GL_FRAMEBUFFER,GL_COLOR_ATTACHMENT0,GL_TEXTURE_2D,tex ture,0);//将创建出来的纹理texture附加到当前绑定的帧缓冲对象
可以理解的是,以临时帧缓冲为FB3为例。由于该FB3的分辨率小于FB1的分辨率,因此FB3在内存中占用的存储空间小于FB1在内存中占用的存储空间。对应的,由于在FB3上执行的渲染操作的分辨率更低,也就是说在FB3上执行相同渲染处理时,需要处理的像素数量小于FB1,因此在FB3上执行渲染操作时相较于FB1上执行渲染操作所需功耗更低,发热更小。
这样,在完成第N-1帧图像的渲染处理之后,执行第N帧图像的渲染处理之前,CPU就可以完成确定主场景,并为主场景配置对应的临时帧缓冲的动作。
S703、在临时帧缓冲上执行主场景的渲染操作。
在本申请实施例中,电子设备可以通过处理器,使用具有较小分辨率的帧缓冲进行主场景下的大量渲染处理的操作。
示例性的,CPU可以在接收到来自应用程序的渲染命令之后,根据该渲染命令控制GPU在对应的帧缓冲上执行渲染操作。
比如,请参考图8。以主场景为FB1,对应的临时帧缓冲为FB3,在执行第N帧图像的渲染的过程中,在FB1中包括的drawcall数量为2(如glDrawElement1,以及glDrawElement2)为例。
CPU接收到来自应用程序的渲染命令包括如下指令为例:
bindFrameBuffer(1);
glDrawElement1;
glDrawElement2。
在本示例中,CPU可以将第N帧图像的渲染命令中,用于绑定主场景的标识(如FB1)替换为临时帧缓冲的标识(如FB3)。在一些实施例中,该FB1的帧缓冲对象也可以称为第一帧缓冲信息,该FB3的帧缓冲对象也可以称为第二帧缓冲信息。示例性的,CPU可以将bindFrameBuffer(1)替换为bindFrameBuffer(3)。那么,替换后的渲染命令可以为:
bindFrameBuffer(3);
glDrawElement1;
glDrawElement2。
也就是说,CPU可以将原先绑定主场景(如FB1)的渲染操作替换为绑定临时帧缓冲的渲染操作。进而使得CPU可以将该渲染指令(如称为第一渲染指令)下发给GPU,这样,GPU就可以在FB3上执行glDrawElement1以及glDrawElement2的渲染操作,并将结果存储在FB3上。在一些实施例中,在第N帧图像的渲染过程中,在主场景(或临时帧缓冲)上执行的渲染操作也可以称为第一渲染操作。
可以理解的是,由于FB3的分辨率小于FB1,因此,在FB3上执行相同的drawcall(如glDrawElement1以及glDrawElement2),需要消耗的功耗功效,发热更少。
需要说明的是,在一些实施例中,电子设备可以通过CPU对所有主场景的渲染操作执行上述方案,如采用更小分辨率的临时帧缓冲执行主场景的渲染操作。在另一些实施例中,电子设备还可以在需要进行功耗控制时,指向如图7A所示的方案。比如,作为一种可能的实现,电子设备可以在负载大于预设阈值的情况下,确定需要进行功耗控制。由此即可触发如图7A所示方案降低图像处理过程中的功耗。作为另一种可能的实现,电子设备可以结合主场景的分辨率执行上述方案。比如,电子设备可以在确定主场景的分辨率大于预设分辨率,和/或在主场景中执行的drawcall数量大于预设的渲染阈值的情况下,执行S702,即为主场景配置临时帧缓冲,进而在具有较小分辨率的临时帧缓冲中执行主场景的渲染操作。
作为一种实现方式,结合图7A所示的方案,图9示出了本申请实施例提供的又一种图像处理方法的流程示意图。在一些实施例中,该方案可以有电子设备中的CPU执行,实现动态调整渲染操作的主场景对应的分辨率,进而降低功耗开销的效果。
如图9所示,在如图7A所示方案的基础上,S703具体的可以通过S901-S903实现。
S901、判断当前要执行的渲染命令是否是在主场景中的渲染命令。
示例性的,CPU可以在根据接收到的渲染命令中,bindFrameBuffer()所指示的需要绑定的帧缓冲对象与S701中确定的主场景的帧缓冲对象是否相同,确定当前渲染命令是否需要在主场景中执行。
例如,在当前执行的渲染命令为bindFrameBuffer(1),在S701中确定的主场景为FB1的情况下,电子设备就可以确定当前执行的渲染命令需要在主场景上执行。
又如在当前执行的渲染命令为bindFrameBuffer(2),在S701中确定的主场景为FB1的情况下,电子设备就可以确定当前执行的渲染命令不需要在主场景上执行。
在确定当前执行的渲染命令是在主场景中执行的情况下,电子设备的CPU可以继续执行以下S902。
S902、将当前执行的渲染命令的帧缓冲信息替换为临时帧缓冲信息。
其中,帧缓冲信息可以包括当前执行的命令需要绑定的帧缓冲对象。
示例性的,结合前述对S703的说明,CPU可以将bindFrameBuffer(1)对应的FB1,替换为临时帧缓冲的帧缓冲对象(如FB3)。比如,替换之后的命令可以为:bindFrameBuffer(3)。
S903、向GPU下发渲染指令,以便GPU在临时帧缓冲上执行主场景的渲染操作。
在本示例中,GPU可以根据接收到的渲染指令执行对应的渲染操作。比如,GPU在接收到bindFrameBuffer(3),以及后续的drawcall时,就可以在FB3上执行这些drewcall的渲染操作,并在FB3上存储渲染结果。
可以理解的是,由于FB3的分辨率小于FB1,因此GPU可以使用更少的算力资源完成相同数量的drawcall。而FB1中的drawcall可以是第N帧图像的渲染过程中,drawcall数量最多的。因此通过该方案(如图7A或图9)能够显著降低第N帧图像的渲染过程对算力的消耗。
在一些实施例中,如图9所示,CPU还可以在执行S901的判断之后,根据判断结果执行S904。
示例性的,在CPU确定当前要执行的渲染命令并非在主场景中的渲染命令的情况下,可以执行S904。其中,参考S901中的说明,CPU可以在当前要执行的渲染命令需要绑定的帧缓冲的帧缓冲对象不同于主场景的帧缓冲对象的情况下,确定当前要执行的渲染命令并非在主场景中的渲染命令。
可以理解的是,由于当前要执行的渲染命令并非在主场景中进行,因此该渲染命令对算力的消耗并不是第N帧图像中的渲染操作过程中消耗最大的。那么CPU就可以直接控制GPU在该渲染命令所指定的帧缓冲上执行对应的drawcall。如执行S904:向GPU下发渲染指令,以便GPU在对应帧缓冲上执行渲染操作。
如图9所示,以CPU当前执行对第N帧图像的渲染为例。在一些实施例中,CPU可以在第N-1帧图像的渲染处理完成之后,即完成S701-S702的处理。即确定的第N帧图像的主场景,并为该主场景配置了对应的临时帧缓存。比如,以下发渲染命令的应用程序为游戏应用为例。CPU可以在游戏刚开始时,执行S701-S702。比如,CPU可以被配置为从第6帧图像开始执行如图7A或图9所示的方案,那么,CPU就可以在游戏开始后,第5帧图像完成渲染处理后,根据第5帧图像的渲染情况,确定主场景,并为该主场景配置对应的临时帧缓存。从而使得CPU可以在第6帧图像的渲染处理过程中,使用该临时帧缓存执行主场景的drawcall,由此达到显著的降低渲染过程中功耗开销的效果。
需要说明的是,上述示例中,是以应用程序下发的渲染命令中通过bindFrameBuffer()函数指向主场景为例,对主场景和临时帧缓冲的替换方法进行说明的。在本申请的另一些实现中,在应用程序下发的渲染命令中还包括其他函数指向主场景时,CPU还可以通过类似的方案,替换对应函数中指向的帧缓冲对象,比如由主场景替换为临时帧缓冲,从而使得对应的渲染操作能够在临时帧缓冲上执行。
示例性的,CPU可以对当前帧缓冲的纹理中包括的附件的标识进行替换,从而使得GPU可以使用正确的附件在临时帧缓冲进行对应的渲染处理。比如,以主场景为FB1,临时帧缓冲为FB3为例。FB1的附件(如颜色附件,深度附件等)的标识可以是11。那么,在将FB1的标识替换为FB3之后,CPU可以将FB1的附件的标识也进行对应的替换。比如,将附件11替换为附件13(即FB3的附件标识),例如,将glBindTexture(GL_TEXTURE_2D,11)替换为glBindTexture(GL_TEXTURE_2D,13)。这样,在FB3上执行渲染处理时,就可以根据附件13上的信息,进行正确的渲染处理。
通过上述方案说明,即可实现降低主场景渲染分辨率的效果。
在本申请实施例的另一些实现中,电子设备可以在临时帧缓冲上执行主场景的渲染操作时,采用多重采样的技术,提升降低分辨率渲染获取的渲染结果的显示效果,进一步提升向用户展示的图像的质量。
示例性的,CPU可以在向GPU下发在临时帧缓冲中执行渲染操作的渲染指令时,指示GPU使用更多的颜色,深度和/或模板信息对图元(如点,直线,多边形等元素)进行处理,从而达到虚化图像边缘的效果。这样,在该临时帧缓冲中进行渲染操作后获取的结果在显示时,其图像边缘就不会由于分辨率较低产生锯齿的观感。由此即可实现提升图像质量的目的。
上述主要从电子设备的角度对本申请实施例提供的方案进行了介绍。为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本申请能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例可以根据上述方法示例对其中涉及的设备进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
请参考图10,为本申请实施例提供的一种图像处理装置1000的组成示意图。该装置可以设置在电子设备中,用于实现本申请实施例提供的任一种可能的图像处理方法。
示例性的,该装置可以应用于电子设备对第一图像的渲染处理,该电子设备运行有应用程序,该电子设备对该第一图像执行渲染处理时调用一个或多个帧缓冲,该电子设备对该第一图像执行渲染处理的渲染操作由该应用程序下发。
如图10所示,该装置包括:确定单元1001,用于确定对该第一图像执行渲染处理过程中的第一主场景。该第一主场景是该电子设备对该第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。配置单元1002,用于配置临时帧缓冲,该临时帧缓冲的分辨率小于该第一主场景的分辨率。执行单元1003,用于在对该第一图像进行渲染处理时,在该临时帧缓冲上,执行第一渲染操作。该第一渲染操作是该应用程序指示的在该第一主场景上执行的渲染操作。
在一种可能设计中,确定单元1001,具体用于基于对第二图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲,确定该第一主场景。该第二图像的渲染处理在该第一图像的渲染处理之前。对该第二图像执行渲染处理时调用该第一主场景。
在一种可能设计中,确定单元1001,还用于在对该第二图像的渲染处理过程中,确定在每个帧缓冲上执行绘制调用(drawcall)的数量,将执行drawcall的数量最多的帧缓冲确定为该第一主场景。
在一种可能设计中,该第二图像是第一图像的上一帧图像。
需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。
在一种可能的实现中,如图10所示的各个单元的功能,可以通过如图4所示的硬件模块实现。比如,以如图10所示的执行单元1003为例。该执行单元1003的功能可以通过如图4所示的处理器以及渲染处理模块实现。其中,渲染处理模块可以是具有图形渲染功能的模块。在一些实施例中,该渲染处理模块可以是如图4所示的GPU。在一些实施例中,上述处理器可以是如图4所示的CPU。
作为一种示例,对处理器配合渲染处理模块实现执行单元1003的功能进行说明。
示例性的,在接收到来自该应用程序的对该第一图像的渲染命令的情况下,该处理器用于向该渲染处理模块下发第一渲染指令,该第一渲染指令包括该第一渲染操作,该第一渲染指令用于指示该渲染处理模块在该临时帧缓冲上执行该第一渲染操作。该渲染处理模块用于根据该第一渲染指令,在该临时帧缓冲上执行该第一渲染操作。
在一种可能设计中,该处理器还用于在该处理器向该渲染处理模块下发第一渲染指令之前,判断当前执行的渲染命令是对该主场景的渲染命令的情况下,将当前执行的该渲染命令绑定的帧缓冲信息由第一帧缓冲信息替换为第二帧缓冲信息,以得到该第一渲染指令,该第一帧缓冲信息用于指示在该主场景上执行该第一渲染操作,该第二帧缓冲信息用于指示在该临时帧缓冲上执行该第一渲染操作。
在一种可能设计中,该第一帧缓冲信息包括第一帧缓冲对象,该第一帧缓冲对象是该主场景对应的帧缓冲对象,该第二帧缓冲信息包括第二帧缓冲对象,该第二帧缓冲对象是该临时帧缓冲对应的帧缓冲对象。
在一种可能设计中,该渲染命令是该应用程序下发给该处理器的,该渲染命令包括该第一渲染操作,以及该第一帧缓冲信息。
在一种可能设计中,该第一渲染指令还包括:对该第一渲染操作获取的图像执行多重采样。
图11示出了的一种电子设备1100的组成示意图。如图11所示,该电子设备1100可以包括:处理器1101和存储器1102。该存储器1102用于存储计算机执行指令。示例性的,在一些实施例中,当该处理器1101执行该存储器1102存储的指令时,可以使得该电子设备1100执行上述实施例中任一种所示的图像处理方法。
需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。
图12示出了的一种芯片系统1200的组成示意图。该芯片系统1200可以包括:处理器1201和通信接口1202,用于支持相关设备实现上述实施例中所涉及的功能。在一种可能的设计中,芯片系统还包括存储器,用于保存终端必要的程序指令和数据。该芯片系统,可以由芯片构成,也可以包含芯片和其他分立器件。需要说明的是,在本申请的一些实现方式中,该通信接口1202也可称为接口电路。
需要说明的是,上述方法实施例涉及的各步骤的所有相关内容均可以援引到对应功能模块的功能描述,在此不再赘述。
在上述实施例中的功能或动作或操作或步骤等,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件程序实现时,可以全部或部分地以计算机程序产品的形式来实现。该计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或者数据中心通过有线(例如同轴电缆、光纤、数字用户线(digital subscriber line,DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包括一个或多个可以用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如,软盘、硬盘、磁带),光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solid state disk,SSD))等。
尽管结合具体特征及其实施例对本申请进行了描述,显而易见的,在不脱离本申请的精神和范围的情况下,可对其进行各种修改和组合。相应地,本说明书和附图仅仅是所附权利要求所界定的本申请的示例性说明,且视为已覆盖本申请范围内的任意和所有修改、变化、组合或等同物。显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包括这些改动和变型在内。

Claims (20)

1.一种图像处理方法,其特征在于,应用于电子设备,所述电子设备运行有应用程序,所述电子设备执行所述应用程序下发的渲染操作,所述方法包括:
在第一帧缓冲和第二帧缓冲上执行第一图像的渲染操作,所述第一帧缓冲和所述第二帧缓冲不同;
在第三帧缓冲和所述第二帧缓冲上执行第二图像的渲染操作,所述第一图像和所述第二图像为连续的两帧图像,不在所述第三帧缓冲上执行所述第一图像的渲染操作,不在所述第一帧缓冲上执行所述第二图像的渲染操作,所述第三帧缓冲的分辨率小于所述第一帧缓冲的分辨率,所述第三帧缓冲和所述第二帧缓冲不同,所述第三帧缓冲和所述第一帧缓冲不同。
2.根据权利要求1所述的方法,其特征在于,绘制所述第一图像所使用的帧缓冲和绘制所述第二图像所使用的帧缓冲数量相同。
3.根据权利要求1或2所述的方法,其特征在于,所述第一帧缓冲和所述第三帧缓冲上执行的所述第一图像的渲染操作数量相同。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述第一帧缓冲和所述第三帧缓冲上执行的所述第一图像的渲染操作相同。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括:创建所述第三帧缓冲。
6.根据权利要求1-4中任一项所述的方法,其特征在于,所述第一帧缓冲是所述电子设备对所述第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:确定所述电子设备对所述第一图像的渲染处理过程中,执行渲染操作数量最多的帧缓冲。
8.根据权利要求6所述的方法,其特征在于,所述方法还包括:
在对所述第一图像的渲染处理过程中,确定在每个帧缓冲上执行绘制调用drawcall的数量,
将执行drawcall的数量最多的帧缓冲确定为所述第一帧缓冲。
9.根据权利要求1-7中任一项所述的方法,其特征在于,所述渲染操作为glDrawElement。
10.根据权利要求1所述的方法,其特征在于,所述第二图像的渲染操作在所述第一图像的渲染操作之后,所述第一帧缓冲用于执行所述第一图像的主场景的渲染,所述第三帧缓冲用于执行所述第二图像的主场景的渲染。
11.根据权利要求1-10中任一项所述的方法,其特征在于,所述电子设备配置有处理器和渲染处理模块;
所述在第一帧缓冲和第二帧缓冲上执行第一图像的渲染操作,包括:
在所述处理器接收来自所述应用程序的对所述第一图像的渲染操作的情况下,所述处理器向所述渲染处理模块下发第一渲染指令流,所述第一渲染指令流用于指示所述渲染处理模块在所述第一帧缓冲和所述第二帧缓冲上执行所述第一图像的渲染操作;
所述渲染处理模块根据所述第一渲染指令流,在所述第一帧缓冲和所述第二帧缓冲上执行所述第一图像的渲染操作。
12.根据权利要求11所述的方法,其特征在于,
所述在第三帧缓冲和所述第二帧缓冲上执行第二图像的渲染操作,包括:
在所述处理器接收来自所述应用程序的对所述第二图像的渲染操作的情况下,所述处理器向所述渲染处理模块下发第二渲染指令流;所述应用程序的对所述第二图像的渲染操作指示在所述第一帧缓冲和所述第二帧缓冲上执行所述第二图像的渲染操作;所述第二渲染指令流用于指示所述渲染处理模块在所述第三帧缓冲和所述第二帧缓冲上执行所述第二图像的渲染操作;
所述渲染处理模块根据所述第二渲染指令流,在所述第三帧缓冲和所述第二帧缓冲上执行所述第二图像的渲染操作。
13.根据权利要求12所述的方法,其特征在于,
在所述处理器向所述渲染处理模块下发第二渲染指令流之前,所述方法还包括:
所述处理器根据所述第一图像的渲染操作,确定执行渲染操作最多的帧缓冲为所述第一帧缓冲;
所述处理器创建所述第三帧缓冲,所述第三帧缓冲用于执行所述第一帧缓冲上的渲染操作。
14.根据权利要求13所述的方法,其特征在于,在所述处理器创建所述第三帧缓冲之后,所述方法还包括:
所述处理器将所述应用程序的对所述第二图像的渲染操作中,在所述第一帧缓冲上执行的渲染操作所指向的帧缓冲替换为所述第三帧缓冲,获得所述第三渲染指令流。
15.根据权利要求11-14中任一项所述的方法,其特征在于,所述处理器是中央处理器CPU。
16.根据权利要求11-15中任一项所述的方法,其特征在于,所述渲染处理模块是图形处理器GPU。
17.根据权利要求11-16中任一项所述的方法,其特征在于,所述第三渲染指令流还包括:对所述第二图像执行多重采样。
18.一种电子设备,其特征在于,所述电子设备包括一个或多个处理器和一个或多个存储器;所述一个或多个存储器与所述一个或多个处理器耦合,所述一个或多个存储器存储有计算机指令;
当所述一个或多个处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1-17中任一项所述的图像处理方法。
19.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-17中任一项所述的图像处理方法。
20.一种芯片系统,其特征在于,所述芯片系统包括接口电路和处理器;所述接口电路和所述处理器通过线路互联;所述接口电路用于从存储器接收信号,并向所述处理器发送信号,所述信号包括所述存储器中存储的计算机指令;当所述处理器执行所述计算机指令时,所述芯片系统执行如权利要求1-17中任一项所述的图像处理方法。
CN202210810685.0A 2021-06-10 2021-06-10 一种图像处理方法和电子设备 Active CN115473957B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210810685.0A CN115473957B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202210810685.0A CN115473957B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备
CN202110650009.7A CN113726950B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN202110650009.7A Division CN113726950B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备

Publications (2)

Publication Number Publication Date
CN115473957A true CN115473957A (zh) 2022-12-13
CN115473957B CN115473957B (zh) 2023-11-14

Family

ID=78672859

Family Applications (3)

Application Number Title Priority Date Filing Date
CN202110650009.7A Active CN113726950B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备
CN202210810685.0A Active CN115473957B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备
CN202280024721.9A Pending CN117063461A (zh) 2021-06-10 2022-06-09 一种图像处理方法和电子设备

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202110650009.7A Active CN113726950B (zh) 2021-06-10 2021-06-10 一种图像处理方法和电子设备

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202280024721.9A Pending CN117063461A (zh) 2021-06-10 2022-06-09 一种图像处理方法和电子设备

Country Status (4)

Country Link
US (1) US20230419570A1 (zh)
EP (1) EP4224831A1 (zh)
CN (3) CN113726950B (zh)
WO (1) WO2022258024A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117114964A (zh) * 2023-02-13 2023-11-24 荣耀终端有限公司 一种缓存图像帧的方法、电子设备及存储介质

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113726950B (zh) * 2021-06-10 2022-08-02 荣耀终端有限公司 一种图像处理方法和电子设备
CN116414493A (zh) * 2021-12-30 2023-07-11 荣耀终端有限公司 图像处理方法、电子设备及存储介质
CN114581684A (zh) * 2022-01-14 2022-06-03 山东大学 基于语义时空表示学习的主动目标跟踪方法、系统及设备
CN116563083A (zh) * 2022-01-29 2023-08-08 华为技术有限公司 渲染图像的方法和相关装置
CN114669047B (zh) * 2022-02-28 2023-06-02 荣耀终端有限公司 一种图像处理方法、电子设备及存储介质
CN114708369B (zh) * 2022-03-15 2023-06-13 荣耀终端有限公司 一种图像渲染方法和电子设备
CN114626975A (zh) * 2022-03-21 2022-06-14 北京字跳网络技术有限公司 数据处理方法、装置、设备、存储介质和程序产品
CN116704075A (zh) * 2022-10-14 2023-09-05 荣耀终端有限公司 图像处理方法、设备及存储介质
CN117917683A (zh) * 2022-10-20 2024-04-23 华为技术有限公司 一种图像渲染的方法及装置
CN116389898B (zh) * 2023-02-27 2024-03-19 荣耀终端有限公司 图像处理方法、设备及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120388A1 (en) * 2008-08-28 2013-05-16 Daniel O'Donnell Time-Based Degradation of Images Using a GPU
CN103500463A (zh) * 2013-10-17 2014-01-08 北京大学 一种gpu上多层形状特征融合的可视化方法
CN104157004A (zh) * 2014-04-30 2014-11-19 常州赞云软件科技有限公司 一种融合gpu与cpu计算辐射度光照的方法
CN106204700A (zh) * 2014-09-01 2016-12-07 三星电子株式会社 渲染设备和方法
CN108369726A (zh) * 2015-12-03 2018-08-03 华为技术有限公司 根据场景改变图形处理分辨率的方法和便携电子设备
CN109559270A (zh) * 2018-11-06 2019-04-02 华为技术有限公司 一种图像处理方法及电子设备
CN112533059A (zh) * 2020-11-20 2021-03-19 腾讯科技(深圳)有限公司 图像渲染方法、装置、电子设备以及存储介质
CN112686981A (zh) * 2019-10-17 2021-04-20 华为终端有限公司 画面渲染方法、装置、电子设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9940858B2 (en) * 2016-05-16 2018-04-10 Unity IPR ApS System and method for assymetric rendering to eyes in augmented reality and virtual reality devices
CN109064538B (zh) * 2018-08-01 2023-05-12 Oppo广东移动通信有限公司 视图渲染方法、装置、存储介质及智能终端
CN111508055B (zh) * 2019-01-30 2023-04-11 华为技术有限公司 渲染方法及装置
CN111696186B (zh) * 2019-02-27 2023-09-26 杭州海康威视系统技术有限公司 界面渲染方法及装置
CN110471731B (zh) * 2019-08-09 2022-08-05 网易(杭州)网络有限公司 显示界面绘制方法、装置、电子设备及计算机可读介质
CN113726950B (zh) * 2021-06-10 2022-08-02 荣耀终端有限公司 一种图像处理方法和电子设备

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120388A1 (en) * 2008-08-28 2013-05-16 Daniel O'Donnell Time-Based Degradation of Images Using a GPU
CN103500463A (zh) * 2013-10-17 2014-01-08 北京大学 一种gpu上多层形状特征融合的可视化方法
CN104157004A (zh) * 2014-04-30 2014-11-19 常州赞云软件科技有限公司 一种融合gpu与cpu计算辐射度光照的方法
CN106204700A (zh) * 2014-09-01 2016-12-07 三星电子株式会社 渲染设备和方法
CN108369726A (zh) * 2015-12-03 2018-08-03 华为技术有限公司 根据场景改变图形处理分辨率的方法和便携电子设备
CN109559270A (zh) * 2018-11-06 2019-04-02 华为技术有限公司 一种图像处理方法及电子设备
CN112686981A (zh) * 2019-10-17 2021-04-20 华为终端有限公司 画面渲染方法、装置、电子设备及存储介质
WO2021073448A1 (zh) * 2019-10-17 2021-04-22 华为技术有限公司 画面渲染方法、装置、电子设备及存储介质
CN112533059A (zh) * 2020-11-20 2021-03-19 腾讯科技(深圳)有限公司 图像渲染方法、装置、电子设备以及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
李彦哲: ""基于深度的实时高质量图像渲染系统的研究与实现"", 《中国优秀硕士论文全文数据库》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117114964A (zh) * 2023-02-13 2023-11-24 荣耀终端有限公司 一种缓存图像帧的方法、电子设备及存储介质

Also Published As

Publication number Publication date
WO2022258024A1 (zh) 2022-12-15
CN113726950B (zh) 2022-08-02
EP4224831A1 (en) 2023-08-09
US20230419570A1 (en) 2023-12-28
CN115473957B (zh) 2023-11-14
CN117063461A (zh) 2023-11-14
CN113726950A (zh) 2021-11-30

Similar Documents

Publication Publication Date Title
CN113726950B (zh) 一种图像处理方法和电子设备
WO2020253719A1 (zh) 一种录屏方法及电子设备
CN109559270B (zh) 一种图像处理方法及电子设备
WO2020259452A1 (zh) 一种移动终端的全屏显示方法及设备
KR102577396B1 (ko) 녹화 프레임 레이트 제어 방법 및 관련 장치
WO2021036770A1 (zh) 一种分屏处理方法及终端设备
CN113254120B (zh) 数据处理方法和相关装置
CN112532892B (zh) 图像处理方法及电子装置
CN113838490B (zh) 视频合成方法、装置、电子设备及存储介质
WO2022105445A1 (zh) 基于浏览器的应用投屏方法及相关装置
WO2022007862A1 (zh) 图像处理方法、系统、电子设备及计算机可读存储介质
WO2022262313A1 (zh) 基于画中画的图像处理方法、设备、存储介质和程序产品
CN113722058A (zh) 一种资源调用方法及电子设备
CN113837920B (zh) 一种图像渲染方法及电子设备
WO2022262475A1 (zh) 拍摄方法、图形用户界面及电子设备
CN113722030A (zh) 一种显示方法、电子设备及计算机存储介质
CN113961157A (zh) 显示交互系统、显示方法及设备
CN115756268A (zh) 跨设备交互的方法、装置、投屏系统及终端
CN113641271A (zh) 应用窗口的管理方法、终端设备及计算机可读存储介质
CN112437341B (zh) 一种视频流处理方法及电子设备
CN113542574A (zh) 变焦下的拍摄预览方法、终端、存储介质及电子设备
WO2022078116A1 (zh) 笔刷效果图生成方法、图像编辑方法、设备和存储介质
CN115686403A (zh) 显示参数的调整方法、电子设备、芯片及可读存储介质
CN114827098A (zh) 合拍的方法、装置、电子设备和可读存储介质
CN114494546A (zh) 一种数据处理方法、装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant