CN110401800A - 图像处理方法、图像处理器、拍摄装置和电子设备 - Google Patents

图像处理方法、图像处理器、拍摄装置和电子设备 Download PDF

Info

Publication number
CN110401800A
CN110401800A CN201910789940.6A CN201910789940A CN110401800A CN 110401800 A CN110401800 A CN 110401800A CN 201910789940 A CN201910789940 A CN 201910789940A CN 110401800 A CN110401800 A CN 110401800A
Authority
CN
China
Prior art keywords
processing
time
algorithm
task
snap
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910789940.6A
Other languages
English (en)
Other versions
CN110401800B (zh
Inventor
李小朋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201910789940.6A priority Critical patent/CN110401800B/zh
Publication of CN110401800A publication Critical patent/CN110401800A/zh
Application granted granted Critical
Publication of CN110401800B publication Critical patent/CN110401800B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本申请公开了一种图像处理方法、图像处理器、拍摄装置和电子设备。图像处理方法包括:算法后处理模块计算队列中所有快拍任务所需的总运行时间;和在应用程序模块接收到退出命令时,若算法后处理模块开始处理快拍任务的时间达到总运行时间,则算法后处理模块退出运行。本申请实施方式的图像处理方法、图像处理器、拍摄装置和电子设备中,在应用程序模块接收到退出命令时,若算法后处理模块开始处理快拍任务的时间达到队列中所有快拍任务所需的总运行时间,则算法后处理模块退出运行,可以保证算法后处理模块的退出时机较为准确,既不会丢失图像数据,又能最大限度不占用系统内存和功耗。

Description

图像处理方法、图像处理器、拍摄装置和电子设备
技术领域
本申请涉及成像技术领域,更具体而言,涉及一种图像处理方法、图像处理器、拍摄装置和电子设备。
背景技术
手机可以提供快拍功能,以使得用户可以利用手机进行连续的拍照动作,提升用户的使用体验。每执行一次快拍时,后台处理该次快拍获得的图像都需要一定的时间,尤其当还需要对图像进行美颜、滤镜等特效处理时,完成一次快拍所需用到的时间更长。然而,用户在执行快拍后,一般不希望等待太久,在这个过程中,用户可能会退出相机,导致图像的后台处理也会退出,图像数据丢失。
发明内容
本申请实施方式提供一种图像处理方法、图像处理器、拍摄装置和电子设备。
本申请实施方式的图像处理方法包括:算法后处理模块计算队列中所有快拍任务所需的总运行时间;和在应用程序模块接收到退出命令时,若所述算法后处理模块开始处理所述快拍任务的时间达到所述总运行时间,则所述算法后处理模块退出运行。
在某些实施方式中,所述队列中包括多个所述快拍任务,所述算法后处理模块计算队列中所有快拍任务所需的总运行时间,包括:所述算法后处理模块计算每个所述快拍任务所需的处理时间;和所述算法后处理模块根据多个所述快拍任务所需的处理时间计算所述总运行时间。
在某些实施方式中,所述算法后处理模块根据多个所述快拍任务所需的处理时间计算所述总运行时间,包括:所述算法后处理模块将多个所述快拍任务所需的处理时间、以及余量时间相加得到所述总运行时间。
在某些实施方式中,所述算法后处理模块计算每个所述快拍任务所需的处理时间,包括:所述算法后处理模块获取每个所述快拍任务涉及到的每个图像处理算法所需的处理时间,每个所述图像处理算法所需的处理时间包括每个所述图像处理算法的预估运行时间和预估退出时间;和所述算法后处理模块根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间。
在某些实施方式中,所述算法后处理模块根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间,包括:所述算法后处理模块将每个所述快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个所述快拍任务所需的处理时间。
在某些实施方式中,所述算法后处理模块内存储有多个所述图像处理算法,所述图像处理方法还包括:所述算法后处理模块多次测试每个所述图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间;和所述算法后处理模块根据多个所述测试运行时间的平均值和多个所述测试退出时间的平均值计算每个所述图像处理算法的所述预估运行时间和所述预估处理时间。
本申请实施方式的图像处理器包括算法后处理模块和应用程序模块;所述算法后处理模块用于计算队列中所有快拍任务所需的总运行时间;在所述应用程序模块接收到退出命令时,若所述算法后处理模块开始处理所述快拍任务的时间达到所述总运行时间,则所述算法后处理模块退出运行。
在某些实施方式中,所述队列中包括多个所述快拍任务,所述算法后处理模块还用于:计算每个所述快拍任务所需的处理时间;和根据多个所述快拍任务所需的处理时间计算所述总运行时间。
在某些实施方式中,所述算法后处理模块还用于:将多个所述快拍任务所需的处理时间、以及余量时间相加得到所述总运行时间。
在某些实施方式中,所述算法后处理模块还用于:获取每个所述快拍任务涉及到的每个图像处理算法所需的处理时间,每个所述图像处理算法所需的处理时间包括每个所述图像处理算法的预估运行时间和预估退出时间;和根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间。
在某些实施方式中,所述算法后处理模块还用于:将每个所述快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个所述快拍任务所需的处理时间。
在某些实施方式中,所述算法后处理模块内存储有多个所述图像处理算法,所述算法后处理模块还用于:多次测试每个所述图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间;和根据多个所述测试运行时间的平均值和多个所述测试退出时间的平均值计算每个所述图像处理算法的所述预估运行时间和所述预估处理时间。
本申请实施方式的拍摄装置包括上述实施方式的图像处理器和图像传感器,所述图像传感器与所述图像处理器连接。
本申请实施方式的电子设备包括上述实施方式的拍摄装置和壳体,所述拍摄装置与所述壳体结合。
本申请实施方式的图像处理方法、图像处理器、拍摄装置和电子设备中,在应用程序模块接收到退出命令时,若算法后处理模块开始处理快拍任务的时间达到队列中所有快拍任务所需的总运行时间,则算法后处理模块退出运行,可以保证算法后处理模块的退出时机较为准确,既不会丢失图像数据,又能最大限度不占用系统内存和功耗。
本申请的实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实施方式的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1是本申请某些实施方式的电子设备的结构示意图;
图2是本申请某些实施方式的电子设备的结构示意图;
图3是本申请某些实施方式的拍摄装置的模块示意图;
图4是相关技术中快拍处理过程的示意图。
图5是本申请某些实施方式的快拍处理过程的示意图;
图6是本申请某些实施方式的图像处理方法的流程示意图;
图7是本申请某些实施方式的图像处理方法的流程示意图;
图8是本申请某些实施方式的图像处理方法的流程示意图;
图9是本申请某些实施方式的图像处理方法的流程示意图;
图10是本申请某些实施方式的图像处理方法的流程示意图;
图11是本申请某些实施方式的图像处理方法的流程示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中,相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的实施方式的限制。
请参阅图1和图2,本申请提供一种电子设备100。其中,电子设备100可以是手机、平板电脑、笔记本电脑、智能穿戴设备(智能手表、智能手环、智能头盔、智能眼镜等)、虚拟现实设备等。本申请以电子设备100是手机为例进行说明,但电子设备100的形式并不限于手机。电子设备100包括拍照装置30、壳体40及显示屏50。拍照装置30包括图像处理器10和图像传感器20。图像处理器10与图像传感器20连接。
拍照装置30与壳体40结合。在一个例子中,壳体40包括主体43及可动支架41,可动支架41在驱动装置的驱动下可以相对主体43运动,例如,可动支架41可以相对于主体43滑动,以滑入主体43(如图2所示)或从主体43滑出(如图1所示)。拍照装置30中的图像传感器20可以安装在可动支架41上,可动支架41运动可带动拍照装置30缩回主体43内或从主体43中伸出,图像处理器10收容在壳体40形成的收容空间内。壳体40上开设有一个或多个采集窗口,图像传感器20与采集窗口对准安装以使图像传感器20能够接收外界环境的光线以生成原始图像(即RAW图像)。用户在需要使用拍照装置30时,可以触发可动支架41从主体43中滑出以带动图像传感器20从主体43中伸出;用户不需要使用拍照装置30时,可以触发可动支架41滑入主体43以带动图像传感器20缩回主体43中。在另一个例子中,壳体40上开设有通孔,拍照装置30中的图像传感器20安装在壳体40内并与通孔对准,通孔可以开设在壳体40的正面或背面,拍照装置30接收经过通孔的光线以生成原始图像,图像处理器10收容在壳体40形成的收容空间内。在又一个例子中,拍照装置30中的图像传感器20安装在壳体40内并位于显示屏50的下方,显示屏50未开设通孔,拍照装置30接收穿过显示屏50的光线以生成原始图像,也即拍照装置30作为屏下相机,图像处理器10收容在壳体40形成的收容空间内。
请参阅图3,拍照装置30包括图像处理器10和图像传感器20。图像处理器10和图像传感器20连接。图像传感器20包括图像采集单元22(sensor)和RAW图像数据单元24(ImageFront-end,IFE),图像传感器20的数量可为一个或多个。图像采集单元22用于接收光线以获得图像数据(RAW图像)。RAW图像数据单元24用于将图像采集单元22采集的图像数据传输至图像处理器10中。其中,RAW图像数据单元24可以对图像采集单元22采集的RAW图像进行处理并输出处理后的RAW图像至图像处理器10。
图像处理器10包括硬件抽象模块12、应用程序模块14(APP)和算法后处理模块16(Algo process service,APS)。
硬件抽象模块12用于接收RAW图像、将RAW图像转换为YUV图像、及传输RAW图像和/或YUV图像。硬件抽象模块12可以与图像传感器20连接。具体地,硬件抽象模块12可以包括与图像传感器20连接的缓存单元(buffer queue)122、RAW转RGB处理单元(Bayer ProcessSegment,BPS)124和与应用程序模块14连接的降噪及YUV后处理单元(Image ProcessEngine,IPE)126。缓存单元122用于缓存来自图像传感器20的RAW图像并通过应用程序模块14传输给算法后处理模块16。RAW转RGB处理单元124用于将来自缓存单元122的RAW图像转换为RGB图像。降噪及YUV后处理单元126用于处理RGB图像得到YUV图像并将YUV图像通过应用程序模块14传输给算法后处理模块16。硬件抽象模块12还可传输图像数据的元数据(metadata),元数据包括3a(自动曝光控制AE、自动聚焦控制AF、自动白平衡控制AWB)信息、图片信息(例如图像宽度、高度)、曝光参数(光圈大小、快门速度和感光度光圈值)等,元数据可以辅助实现对RAW图像和/或YUV图像的拍照后处理(例如包括美颜处理、滤镜处理、旋转处理、水印处理、虚化处理、HDR处理、及多帧处理中的至少一种)。示例地,元数据包括感光度(ISO)信息,根据感光度信息可以辅助调节RAW图像和/或YUV图像的亮度,从而实现与调节亮度相关的拍照后处理。
应用程序模块14用于与硬件抽象模块12连接。应用程序模块14可以用于根据用户的输入产生控制指令并将该控制指令通过硬件抽象模块12发送给图像传感器20以对图像传感器20的工作进行相应的控制。其中,应用程序模块14可以以64比特位(bit)运行,并且拍照后处理的图像处理方法的静态数据连接库(lib)可以配置为64比特位,以提高运算速度。应用程序模块14接收硬件抽象模块传输的RAW图像和/或YUV图像后,可以对RAW图像和/或YUV图像进行拍照后处理,也可以将RAW图像和/或YUV图像传输至算法后处理模块16进行拍照后处理。当然,还可以是应用程序模块14进行一些拍照后处理(例如美颜处理、滤镜处理、旋转处理、水印处理、虚化处理等),算法后处理模块16进行另外一些拍照后处理(例如HDR处理、多帧处理等)。在本申请实施方式中,应用程序模块14将RAW图像和/或YUV图像传输至算法后处理模块16进行拍照后处理。
算法后处理模块16通过应用程序模块14与硬件抽象模块12连接,算法后处理模块16内存储有至少一种图像处理算法(例如包括美颜处理算法、滤镜处理算法、水印处理算法、虚化处理算法、HDR处理算法、及多帧处理算法中的至少一种),算法后处理模块16用于采用图像处理算法处理RAW图像和/或YUV图像以实现拍照后处理。由于对RAW图像和/或YUV图像进行拍照后处理可由算法后处理模块16实现,从而无需在硬件抽象模块12本身的算法架构上做流程截断,只需在外部做兼容,设计难度减小。并且由于拍照后处理由算法后处理模块16实现,因此算法后处理模块16的功能更单一、更聚焦,从而可以达到移植快,扩展新的图像处理算法简单等效果。
在拍照装置30处于快拍模式(即用户连续多次点击快门以控制拍照装置30连续获取多张图像的模式)时,应用程序模块14根据用户的输入会生成多个控制指令,应用程序模块14可以依次将多个控制指令通过硬件抽象模块12发送给图像传感器20,以控制图像传感器20根据每一个控制指令获取一张RAW图像。在一个例子中,如图3和图4所示,图像传感器20接收一个控制指令并获取一张RAW图像后,图像传感器20将RAW图像传输至硬件抽象模块12,硬件抽象模块12直接将RAW图像通过应用程序模块14传输至算法后处理模块16或将RAW图像转为YUV图像后再通过应用程序模块14传输至算法后处理模块16,RAW图像(或转换后的YUV图像)在算法后处理模块16中执行拍照后处理,每一张RAW图像(或转换后的YUV图像)在算法后处理模块16中执行拍照后处理即为一个快拍任务(即图3所示的task)。应用程序模块14需要等待当前的快拍任务完成,即等待该张RAW图像(或转换后的YUV图像)完成拍照后处理并由算法后处理模块16将处理后的图像传输至应用程序模块14后,应用程序模块14才会继续传输下一个控制指令给图像传感器20,以控制图像传感器20根据该下一个控制指令获取一张新的RAW图像。但这一控制方式会增加每一次快拍所需的时间,严重降低用户的拍照体验。如图5所示,为提升用户的拍照体验,算法后处理模块16中增加队列164用于存储快拍任务,每一张RAW图像(或经转换后的YUV图像)传输到应用程序模块14后,应用程序模块生成一个要求对该张RAW图像(或经转换后的YUV图像)进行拍照后处理的快拍任务并将快拍任务传输给算法后处理模块16,算法后处理模块16将接收到的每一个快拍任务存储到队列164中。此时,在图像传感器20接收一个控制指令并获取一张RAW图像后,应用程序模块14无需等待该张RAW图像(或经转换后的YUV图像)完成拍照后处理,即可传输下一个控制指令至图像传感器20以控制图像传感器20获取下一张RAW图像。如图5所示,由于RAW图像的获取时间比RAW图像(或经转换后的YUV图像)拍照后处理的时间更短,用户连续多次点击快门的情况下,可能会出现队列164中存储有多个快拍任务的情形,其中,多个快拍任务根据任务形成的先后顺序依次存储在队列164中,队首存储的是最早形成的快拍任务(如图5的task1),队尾存储的是最新形成的快拍任务。
算法后处理模块16每次处理一个快拍任务。在算法后处理模块16处理完前一个快拍任务后,算法后处理模块16依次处理队列164中后面的快拍任务,具体地,根据队列164的先进先出原则,算法后处理模块16可以分多次,每次从队列164的队首取出一个快拍任务进行处理,算法后处理模块16每取出一个快拍任务,与该快拍任务相邻的另一个快拍任务存储到队首,比如图5的task1取出后,task2即会存储到队首。如此,算法后处理模块16即可按照快拍任务形成的先后顺序依次处理多个快拍任务。
算法后处理模块16处理每一个快拍任务时,会调用该快拍任务涉及到的所有图像处理算法以对快拍任务的RAW图像(或经转换后的YUV图像)进行拍照后处理。其中,每一个快拍任务涉及到的图像处理算法可以是根据用户输入来确定的,每一个快拍任务涉及到的图像处理算法可以是一个或多个。例如,用户在使用拍照装置30拍照时,设置了美颜功能,那么该次快拍对应的快拍任务涉及到的图像处理算法即包括美颜处理算法;再例如,用户在使用拍照装置30拍照时,设置了美颜、滤镜、HDR功能,那么该次快拍对应的快拍任务涉及到的图像处理算法即包括美颜处理算法、滤镜处理算法、及HDR处理算法。不同的快拍任务涉及到的图像处理算法可以是相同或不同的。例如,用户在第一次快拍中设置了美颜功能,在第二次快拍中设置了滤镜及虚化功能,则第一次快拍对应的快拍任务涉及到的图像处理算法即包括美颜处理算法,第二次快拍对应的快拍任务涉及到的图像处理算法即包括滤镜处理算法及虚化处理算法。
算法后处理模块16调用图像处理算法处理快拍任务的RAW图像(或经转换后的YUV图像)时需要占用电子设备100的内存。当用户点击快门的速度大于快拍任务的处理速度时,队列164中会不断地积存新的快拍任务。然而,用户在执行快拍后,一般不希望等待太久,在这个过程中,用户可能会退出相机,导致算法后处理模块16对图像的后台处理也会退出,图像数据丢失。
本申请实施方式的图像处理器10中,算法后处理模块16先计算队列中所有快拍任务所需的总运行时间;在应用程序模块14接收到用户输入的退出命令时,若算法后处理模块16开始处理快拍任务的时间达到总运行时间,则算法后处理模块16退出运行,可以保证算法后处理模块16的退出时机较为准确,既不会丢失图像数据,又能最大限度不占用系统内存和功耗(当算法后处理模块16退出运行过早,会丢失图像数据;当算法后处理模块16退出运行过晚,会导致算法后处理模块16一直占用电子设备100的内存,增加功耗)。
具体地,算法后处理模块16的队列中可能存在一个或多个快拍任务,每个快拍任务又涉及到一个或多个图像处理算法。每个图像处理算法所需的处理时间包括运行时间和退出时间,或者说由运行时间和退出时间这两部分组成。运行时间即是图像处理算法实际运行的时间,而退出时间指的是图像处理算法退出运行的时间。
算法后处理模块16会预先多次测试每种图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间,然后,根据多个测试运行时间的平均值和多个测试退出时间的平均值预估每个图像处理算法运行时间(后文称之为预估运行时间)和退出时间(后文称之为预估退出时间)。例如,算法后处理模块16预先测试20次美颜处理算法的测试运行时间和测试退出时间,得到20个测试运行时间和20个测试退出时间,然后,根据20个测试运行时间的平均值确定美颜处理算法的预估运行时间(可以是直接将20个测试运行时间的平均值当做预估运行时间)、根据20个测试退出时间的平均值确定美颜处理算法的预估退出时间(可以是直接将20个测试退出时间的平均值当做预估退出时间)。依此类推,算法后处理模块16可以得到滤镜处理算法、HDR处理算法等多种图像处理算法的预估运行时间和预估退出时间,并将各个图像处理算法的预估运行时间和预估退出时间进行存储。
在计算队列中所有快拍任务所需的总运行时间时,算法后处理模块16先计算每个快拍任务所需的处理时间,然后根据多个快拍任务所需的处理时间计算总运行时间。例如,队列中一共包括四个快拍任务,算法后处理模块16计算得到第一个快拍任务所需的处理时间为t1,第二个快拍任务所需的处理时间为t2,第三个快拍任务所需的处理时间为t3,第四个快拍任务所需的处理时间为t4,则将第一个快拍任务所需的处理时间t1、第二个快拍任务所需的处理时间t2、第三个快拍任务所需的处理时间t3、第四个快拍任务所需的处理时间t4相加得到所有快拍任务所需的总运行时间T。在一个实施例中,算法后处理模块16在根据多个快拍任务所需的处理时间计算总运行时间时,还可以是将多个快拍任务所需的处理时间、以及余量时间相加得到总运行时间。余量时间即是在多个快拍任务所需的处理时间的基础上增加一定的余量时间,以确保算法后处理模块16已将队列中所有快拍任务处理完。余量时间可以是多个快拍任务所需的处理时间的总和的5%~15%。仍以队列中一共包括四个快拍任务为例,若余量时间设置为t0,则算法后处理模块16将第一个快拍任务所需的处理时间t1、第二个快拍任务所需的处理时间t2、第三个快拍任务所需的处理时间t3、第四个快拍任务所需的处理时间t4、余量时间t0相加得到所有快拍任务所需的总运行时间T。
在计算每个快拍任务所需的处理时间时,算法后处理模块16先获取该快拍任务涉及到的每个图像处理算法所需的处理时间,然后根据该快拍任务涉及到的所有图像处理算法所需的处理时间计算该快拍任务所需的处理时间。以上述第一个快拍任务为例,假设第一个快拍任务涉及到美颜处理算法、滤镜处理算法和HDR处理算法,则算法后处理模块16分别获取美颜处理算法所需的处理时间、滤镜处理算法所需的处理时间和HDR处理算法所需的处理时间。在获取美颜处理算法所需的处理时间时,算法后处理模块16读取前述根据多次测试的平均值计算得到美颜处理算法的预估运行时间和预估退出时间,然后将美颜处理算法的预估运行时间和预估退出时间相加即是获取美颜处理算法所需的处理时间t11;在获取滤镜处理算法所需的处理时间时,算法后处理模块16读取前述根据多次测试的平均值计算得到滤镜处理算法的预估运行时间和预估退出时间,然后将滤镜处理算法的预估运行时间和预估退出时间相加即是获取滤镜处理算法所需的处理时间t12;在获取HDR处理算法所需的处理时间时,算法后处理模块16读取前述根据多次测试的平均值计算得到HDR处理算法的预估运行时间和预估退出时间,然后将HDR处理算法的预估运行时间和预估退出时间相加即是获取HDR处理算法所需的处理时间t13。算法后处理模块16将美颜处理算法所需的处理时间t11、滤镜处理算法所需的处理时间t12、HDR处理算法所需的处理时间t13相加得到第一个快拍任务所需的处理时间。在一个实施例中,算法后处理模块16根据该快拍任务涉及到的所有图像处理算法所需的处理时间计算该快拍任务所需的处理时间还可以是:将每个快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个快拍任务所需的处理时间。旋转处理时间即是算法后处理模块16对图像进行旋转处理所需的时间,编程处理即是算法后处理模块16对图像进行编码处理所需的时间(由后文的编码单元162实现)。旋转处理时间和编码处理时间一般是每个快拍任务都会涉及到的处理过程,因此可将旋转处理时间和编码处理时间单独列举出来,以便于计算每个快拍任务所需的处理时间。仍以第一个快拍任务为例,假设第一个快拍任务涉及到美颜处理算法、滤镜处理算法和HDR处理算法,则算法后处理模块16将美颜处理算法所需的处理时间t11、滤镜处理算法所需的处理时间t12、HDR处理算法所需的处理时间t13、旋转处理时间tm、编码处理时间tn相加得到第一个快拍任务所需的处理时间t1。依此类推,算法后处理模块16可以分别计算得到上述第二个快拍任务所需的处理时间t2、第三个快拍任务所需的处理时间t3和第四个快拍任务所需的处理时间t4,在此不一一展开说明。
算法后处理模块16根据上述方法计算队列中所有快拍任务所需的总运行时间后,从算法后处理模块16开始处理快拍任务的时间点开始计时,若应用程序模块14接收到用户输入的退出命令,则算法后处理模块16判断算法后处理模块16开始处理快拍任务的时间(即应用程序模块14接收到用户输入的退出命令的时间点与算法后处理模块16开始处理快拍任务的时间点之间的差值)是否达到(即大于或等于)总运行时间,若是,则算法后处理模块16退出运行;若否,则算法后处理模块16后台继续运行直至算法后处理模块16开始处理快拍任务的时间达到总运行时间。
请再参阅图3,算法后处理模块16还可以包括编码单元162,编码单元162用于将YUV图像转换为JPG图像(或者JPEG图像等)。具体地,在算法后处理模块16处理的是YUV图像时,编码单元162可以直接对YUV图像进行编码以形成JPG图像,从而提高图像的输出速度。在算法后处理模块16处理的是RAW图像时,算法后处理模块16可以将处理实现拍照后处理的RAW图像经应用程序模块14回传至硬件抽象模块12,例如回传至RAW转RGB处理单元124,RAW转RGB处理单元124可以用于将算法后处理模块16处理实现拍照后处理并经应用程序模块14回传的RAW图像转换为RGB图像,降噪及YUV后处理单元126可以将RGB图像转换为YUV图像,该YUV图像可以再次传输至算法后处理模块16的编码单元162中以将该YUV图像转换为JPG图像。在某些实施方式中,算法后处理模块16也可以将处理实现拍照后处理的RAW图像经应用程序模块14回传至缓存单元122,回传的RAW图像经过RAW转RGB处理单元124和降噪及YUV后处理单元126形成YUV图像,再传输至编码单元162以形成JPG图像。在形成JPG图像后,算法后处理模块16可以用于将JPG图像传输至存储器中保存。
请参阅图3和图6,本申请还提供一种图像处理方法。图像处理方法可以由图像处理器10实现。图像处理方法包括:
01:算法后处理模块16计算队列中所有快拍任务所需的总运行时间;和
02:在应用程序模块14接收到退出命令时,若算法后处理模块16开始处理快拍任务的时间达到总运行时间,则算法后处理模块16退出运行。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
请参阅图3和图7,在某些实施方式中,队列中包括多个快拍任务。算法后处理模块16计算队列中所有快拍任务所需的总运行时间(即01),包括:
011:算法后处理模块16计算每个快拍任务所需的处理时间;和
012:算法后处理模块16根据多个快拍任务所需的处理时间计算总运行时间。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
请参阅图3和图8,在某些实施方式中,算法后处理模块16根据多个快拍任务所需的处理时间计算总运行时间(即012),包括:
0121:算法后处理模块16将多个快拍任务所需的处理时间、以及余量时间相加得到总运行时间。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
请参阅图3和图9,在某些实施方式中,算法后处理模块16计算每个快拍任务所需的处理时间(即011),包括:
0111:算法后处理模块16获取每个快拍任务涉及到的每个图像处理算法所需的处理时间,每个图像处理算法所需的处理时间包括每个图像处理算法的预估运行时间和预估退出时间;和
0112:算法后处理模块16根据每个快拍任务涉及到的所有图像处理算法所需的处理时间计算每个快拍任务所需的处理时间。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
请参阅图3和图10,在某些实施方式中,算法后处理模块16根据每个快拍任务涉及到的所有图像处理算法所需的处理时间计算每个快拍任务所需的处理时间(即0112),包括:
01121:算法后处理模块16将每个快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个快拍任务所需的处理时间。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
请参阅图3和图11,在某些实施方式中,算法后处理模块16内存储有多个图像处理算法。图像处理方法还包括:
03:算法后处理模块16多次测试每个图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间;和
04:算法后处理模块16根据多个测试运行时间的平均值和多个测试退出时间的平均值计算每个图像处理算法的预估运行时间和预估处理时间。
需要指出的是,前述实施方式中对图像处理器10的解释说明,同样适用于本申请实施方式的图像处理方法,在此不再赘述。
在本说明书的描述中,参考术语“某些实施方式”、“一个例子中”、“示例地”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。

Claims (14)

1.一种图像处理方法,其特征在于,包括:
算法后处理模块计算队列中所有快拍任务所需的总运行时间;和
在应用程序模块接收到退出命令时,若所述算法后处理模块开始处理所述快拍任务的时间达到所述总运行时间,则所述算法后处理模块退出运行。
2.根据权利要求1所述的图像处理方法,其特征在于,所述队列中包括多个所述快拍任务,所述算法后处理模块计算队列中所有快拍任务所需的总运行时间,包括:
所述算法后处理模块计算每个所述快拍任务所需的处理时间;和
所述算法后处理模块根据多个所述快拍任务所需的处理时间计算所述总运行时间。
3.根据权利要求2所述的图像处理方法,其特征在于,所述算法后处理模块根据多个所述快拍任务所需的处理时间计算所述总运行时间,包括:
所述算法后处理模块将多个所述快拍任务所需的处理时间、以及余量时间相加得到所述总运行时间。
4.根据权利要求2所述的图像处理方法,其特征在于,所述算法后处理模块计算每个所述快拍任务所需的处理时间,包括:
所述算法后处理模块获取每个所述快拍任务涉及到的每个图像处理算法所需的处理时间,每个所述图像处理算法所需的处理时间包括每个所述图像处理算法的预估运行时间和预估退出时间;和
所述算法后处理模块根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间。
5.根据权利要求4所述的图像处理方法,其特征在于,所述算法后处理模块根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间,包括:
所述算法后处理模块将每个所述快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个所述快拍任务所需的处理时间。
6.根据权利要求4所述的图像处理方法,其特征在于,所述算法后处理模块内存储有多个所述图像处理算法,所述图像处理方法还包括:
所述算法后处理模块多次测试每个所述图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间;和
所述算法后处理模块根据多个所述测试运行时间的平均值和多个所述测试退出时间的平均值计算每个所述图像处理算法的所述预估运行时间和所述预估处理时间。
7.一种图像处理器,其特征在于,包括算法后处理模块和应用程序模块;
所述算法后处理模块用于计算队列中所有快拍任务所需的总运行时间;
在所述应用程序模块接收到退出命令时,若所述算法后处理模块开始处理所述快拍任务的时间达到所述总运行时间,则所述算法后处理模块退出运行。
8.根据权利要求7所述的图像处理器,其特征在于,所述队列中包括多个所述快拍任务,所述算法后处理模块还用于:
计算每个所述快拍任务所需的处理时间;和
根据多个所述快拍任务所需的处理时间计算所述总运行时间。
9.根据权利要求7所述的图像处理器,其特征在于,所述算法后处理模块还用于:
将多个所述快拍任务所需的处理时间、以及余量时间相加得到所述总运行时间。
10.根据权利要求8所述的图像处理器,其特征在于,所述算法后处理模块还用于:
获取每个所述快拍任务涉及到的每个图像处理算法所需的处理时间,每个所述图像处理算法所需的处理时间包括每个所述图像处理算法的预估运行时间和预估退出时间;和
根据每个所述快拍任务涉及到的所有图像处理算法所需的处理时间计算每个所述快拍任务所需的处理时间。
11.根据权利要求10所述的图像处理器,其特征在于,所述算法后处理模块还用于:
将每个所述快拍任务涉及到的所有图像处理算法所需的处理时间、以及旋转处理时间和编码处理时间相加得到每个所述快拍任务所需的处理时间。
12.根据权利要求10所述的图像处理器,其特征在于,所述算法后处理模块内存储有多个所述图像处理算法,所述算法后处理模块还用于:
多次测试每个所述图像处理算法所需的运行时间和退出时间得到多个测试运行时间和多个测试退出时间;和
根据多个所述测试运行时间的平均值和多个所述测试退出时间的平均值计算每个所述图像处理算法的所述预估运行时间和所述预估处理时间。
13.一种拍摄装置,其特征在于,所述拍摄装置包括:
权利要求7至12任意一项所述的图像处理器;和
图像传感器,所述图像传感器与所述图像处理器连接。
14.一种电子设备,其特征在于,所述电子设备包括:
权利要求13所述的拍摄装置;和
壳体,所述拍摄装置与所述壳体结合。
CN201910789940.6A 2019-08-26 2019-08-26 图像处理方法、图像处理器、拍摄装置和电子设备 Active CN110401800B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910789940.6A CN110401800B (zh) 2019-08-26 2019-08-26 图像处理方法、图像处理器、拍摄装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910789940.6A CN110401800B (zh) 2019-08-26 2019-08-26 图像处理方法、图像处理器、拍摄装置和电子设备

Publications (2)

Publication Number Publication Date
CN110401800A true CN110401800A (zh) 2019-11-01
CN110401800B CN110401800B (zh) 2021-06-04

Family

ID=68329170

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910789940.6A Active CN110401800B (zh) 2019-08-26 2019-08-26 图像处理方法、图像处理器、拍摄装置和电子设备

Country Status (1)

Country Link
CN (1) CN110401800B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110996012A (zh) * 2019-12-23 2020-04-10 Oppo广东移动通信有限公司 连拍处理方法、图像处理器、拍摄装置和电子设备
WO2024021678A1 (zh) * 2022-07-28 2024-02-01 荣耀终端有限公司 图像处理方法及其相关设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103167147A (zh) * 2012-09-20 2013-06-19 深圳市金立通信设备有限公司 一种智能手机高速连拍系统及方法
CN104811594A (zh) * 2014-01-28 2015-07-29 卡西欧计算机株式会社 摄像装置以及摄像方法
CN105451090A (zh) * 2014-08-26 2016-03-30 联想(北京)有限公司 图像处理方法和图像处理装置
CN107770449A (zh) * 2017-11-02 2018-03-06 广东欧珀移动通信有限公司 连拍方法、电子设备及存储介质
US20180288308A1 (en) * 2017-03-28 2018-10-04 Canon Kabushiki Kaisha Imaging apparatus, control method, and non-transitory storage medium
CN110086967A (zh) * 2019-04-10 2019-08-02 Oppo广东移动通信有限公司 图像处理方法、图像处理器、拍摄装置和电子设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103167147A (zh) * 2012-09-20 2013-06-19 深圳市金立通信设备有限公司 一种智能手机高速连拍系统及方法
CN104811594A (zh) * 2014-01-28 2015-07-29 卡西欧计算机株式会社 摄像装置以及摄像方法
CN105451090A (zh) * 2014-08-26 2016-03-30 联想(北京)有限公司 图像处理方法和图像处理装置
US20180288308A1 (en) * 2017-03-28 2018-10-04 Canon Kabushiki Kaisha Imaging apparatus, control method, and non-transitory storage medium
CN107770449A (zh) * 2017-11-02 2018-03-06 广东欧珀移动通信有限公司 连拍方法、电子设备及存储介质
CN110086967A (zh) * 2019-04-10 2019-08-02 Oppo广东移动通信有限公司 图像处理方法、图像处理器、拍摄装置和电子设备

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110996012A (zh) * 2019-12-23 2020-04-10 Oppo广东移动通信有限公司 连拍处理方法、图像处理器、拍摄装置和电子设备
WO2024021678A1 (zh) * 2022-07-28 2024-02-01 荣耀终端有限公司 图像处理方法及其相关设备

Also Published As

Publication number Publication date
CN110401800B (zh) 2021-06-04

Similar Documents

Publication Publication Date Title
CN110086967B (zh) 图像处理方法、图像处理器、拍摄装置和电子设备
US11394895B2 (en) System and method for generating a digital image
CN109922322A (zh) 拍照方法、图像处理器、拍照装置及电子设备
CN104488258B (zh) 用于双相机快门的方法和设备
WO2020207272A1 (en) Image processing apparatus, method for image processing, and electronic device
CN110300240A (zh) 图像处理器、图像处理方法、拍照装置及电子设备
CN109040576A (zh) 具有用于图像数据统计的基于多帧的窗口的相机控制和图像处理的方法和系统
CN110996012B (zh) 连拍处理方法、图像处理器、拍摄装置和电子设备
CN108989700A (zh) 成像控制方法、装置、电子设备以及计算机可读存储介质
WO2020207192A1 (zh) 图像处理器、图像处理方法、拍摄装置和电子设备
CN110266951A (zh) 图像处理器、图像处理方法、拍摄装置和电子设备
US20150229819A1 (en) System and method for generating a digital image
CN110177214B (zh) 图像处理器、图像处理方法、拍照装置及电子设备
CN110278373A (zh) 图像处理器、图像处理方法、拍摄装置和电子设备
CN110290288A (zh) 图像处理器、图像处理方法、拍摄装置和电子设备
CN111147695B (zh) 图像处理方法、图像处理器、拍摄装置和电子设备
WO2020259250A1 (zh) 图像处理方法、图像处理器、拍摄装置和电子设备
CN109167930A (zh) 图像显示方法、装置、电子设备和计算机可读存储介质
CN110401800A (zh) 图像处理方法、图像处理器、拍摄装置和电子设备
CN110121022A (zh) 拍摄装置的控制方法、拍摄装置和电子设备
CN110290325A (zh) 图像处理方法、装置、存储介质及电子设备
CN110418061A (zh) 图像处理方法、图像处理器、拍照装置及电子设备
US8400531B2 (en) Digital image filtration methods
CN111510629A (zh) 数据显示方法、图像处理器、拍摄装置和电子设备
CN110602359A (zh) 图像处理方法、图像处理器、拍摄装置和电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant