CN113329176A - 应用于智能终端的相机的图像处理方法及相关装置 - Google Patents
应用于智能终端的相机的图像处理方法及相关装置 Download PDFInfo
- Publication number
- CN113329176A CN113329176A CN202110568977.3A CN202110568977A CN113329176A CN 113329176 A CN113329176 A CN 113329176A CN 202110568977 A CN202110568977 A CN 202110568977A CN 113329176 A CN113329176 A CN 113329176A
- Authority
- CN
- China
- Prior art keywords
- image
- images
- frame
- cache
- frames
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 14
- 238000001308 synthesis method Methods 0.000 claims abstract description 28
- 238000000034 method Methods 0.000 claims description 52
- 230000008569 process Effects 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 15
- 238000012360 testing method Methods 0.000 claims description 14
- 238000003860 storage Methods 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims description 7
- 230000015572 biosynthetic process Effects 0.000 claims description 6
- 238000012216 screening Methods 0.000 claims description 6
- 238000003786 synthesis reaction Methods 0.000 claims description 6
- 238000001454 recorded image Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 12
- 230000007246 mechanism Effects 0.000 abstract description 10
- 230000009471 action Effects 0.000 abstract description 6
- 239000010410 layer Substances 0.000 description 31
- 238000010586 diagram Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 14
- 238000012545 processing Methods 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 9
- 238000007726 management method Methods 0.000 description 7
- 238000003825 pressing Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013441 quality evaluation Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000010998 test method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
- H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
Abstract
本申请公开了一种应用于智能终端的相机的图像处理方法及相关装置,用于解决相关技术中由于手持终端拍照抖动,导致拍摄效果差的问题。由于拍照动作导致智能终端抖动,拍摄指令的触发时间所采集的图像可能质量较差,而之前预览阶段采集的多帧图像可能质量更好。本申请实施例提供的选帧机制中,选帧时机定在了第一拍摄指令的触发时间点之前。本申请实施例中,提高了选择的图像的画质,能够为多帧合成方法提供更为优质的图像,进而可以有效利用多帧合成方法获得高质量的图像。
Description
技术领域
本申请涉及智能终端技术领域,特别涉及一种应用于智能终端的相机的图像处理方法及相关装置。
背景技术
用户采用智能终端进行拍照时,一般经过两个阶段。一是预览阶段、二是成像阶段。预览阶段中,用户对拍摄对象进行预览,通过预览效果来寻找拍摄角度、调整拍摄参数。当对预览效果满意后,用户会按下拍摄按键进入成像阶段,智能终端则采集图像并显示在智能终端的屏幕上,供用户查看最终的拍摄效果。
目前的情况是,很多时候在预览阶段预览效果满意,但是成像阶段的最终成像结果却差强人意。一种可能的情况是,在成像阶段用户按下拍摄按键时抖动,导致最终的成像效果差。故此,如何提高成像质量,有待解决。
发明内容
本申请的目的是提供一种应用于智能终端的相机的图像处理方法及智能终端,用于解决相关技术中由于手持终端拍照抖动,导致拍摄效果差的问题。
第一方面,本申请提供一种应用于智能终端的相机的图像处理方法,所述方法包括:
拍摄预览阶段,将采集的图像存储在缓存中;
响应于第一拍摄指令,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像;
采用多帧合成方法对所述指定帧数的图像进行合成,得到最终的拍照图像。
可选的,所述方法还包括:
拍摄预览阶段,采集高精度秒表的计时过程的图像并存储在缓存中;
响应于第二拍摄指令,获取所述高精度秒表的指定图像,所述指定图像为所述缓存中缓存的第一帧图像,或者所述指定图像为适用于所述多帧合成方法的第一帧图像;
基于所述第二拍摄指令的触发时间点和所述指定图像中记录的高精度秒表的时间点之间的延时,调整所述缓存的容量,其中,所述缓存的容量大于或等于所述延时内包含的图像帧数。
可选的,所述第二拍摄指令的触发时间点为从摄录影像中识别的,所述摄录影像用于记录智能终端对所述高精度秒表的拍摄过程。
可选的,所述从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,包括:
从所述缓存中获取所述第一拍摄指令的触发时间点之前的多帧图像;
从所述多帧图像中筛选出图像质量满足质量要求的所述指定帧数的图像。
可选的,所述图像质量至少包括清晰度、曝光度。
可选的,所述指定帧数是基于所述多帧合成算法所需的帧数确定的。
可选的,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,包括:
优先获取满足质量要求且连续的所述指定帧数的图像。
第二方面,本申请提供一种还提供一种智能终端,包括显示器、存储器和处理器,其中:
所述显示器,用于显示信息;
所述存储器,用于存储可被所述控制器执行的计算机程序;
所述处理器,所述控制器分别连接所述显示器和所述存储器,被配置为:
拍摄预览阶段,将采集的图像存储在缓存中;
响应于第一拍摄指令,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像;
采用多帧合成方法对所述指定帧数的图像进行合成,得到最终的拍照图像。
在一种可能的实施方式中,所述缓存的容量是基于测试结果确定的,所述处理器还用于基于以下方法确定所述缓存的容量:
拍摄预览阶段,采集高精度秒表的计时过程的图像并存储在缓存中;
响应于第二拍摄指令,获取所述高精度秒表的指定图像,所述指定图像为所述缓存中缓存的第一帧图像,或者所述指定图像为适用于所述多帧合成方法的第一帧图像;
基于所述第二拍摄指令的触发时间点和所述指定图像中记录的高精度秒表的时间点之间的延时,调整所述缓存的容量,其中,所述缓存的容量大于或等于所述延时内包含的图像帧数。
在一种可能的实施方式中,所述第二拍摄指令的触发时间点为从摄录影像中识别的,所述摄录影像用于记录智能终端对所述高精度秒表的拍摄过程。
在一种可能的实施方式中,执行所述从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,所述处理器用于:
从所述缓存中获取所述第一拍摄指令的触发时间点之前的多帧图像;
从所述多帧图像中筛选出图像质量满足质量要求的所述指定帧数的图像。
所述图像质量至少包括清晰度、曝光度。
在一种可能的实施方式中,所述指定帧数是基于所述多帧合成算法所需的帧数确定的。
在一种可能的实施方式中,优先获取满足质量要求且连续的所述指定帧数的图像。
第三方面,本申请还提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够实现第一方面所述方法的步骤。
第四方面,本申请还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现第一方面中任一项所述的方法。
另外,第二方面、第三方面以及第四方面中任一种实现方式所带来的技术效果可参见第一方面中不同实现方式所带来的技术效果,此处不再赘述。
由于拍照动作导致智能终端抖动,拍摄指令的触发时间所采集的图像可能质量较差,而之前预览阶段采集的多帧图像可能质量更好。本申请实施例提供的选帧机制中,选帧时机定在了第一拍摄指令的触发时间点之前。本申请实施例中,提高了选择的图像的画质,能够为多帧合成方法提供更为优质的图像,进而可以有效利用多帧合成方法获得高质量的图像。
本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。本申请的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,显而易见地,下面所介绍的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种智能终端的结构示意图;
图2示例性示出了本申请实施例提供的一种智能终端的软件架构示意图;
图3示例性示出了本申请实施例提供的应用于智能终端的相机的图像处理方法的流程示意图;
图4示例性示出了本申请实施例提供的拍照过程示意图;
图5示例性示出了缓存存储图像的示意图;
图6示例性示出了测试场景示意图;
图7示例性示出了测试方法的流程示意图;
图8示例性示出了确定触发时间的示意图;
图9示例性示出了本申请实施例提供的应用于智能终端的相机的图像处理方法的流程示意图;
图10示例性示出了本申请实施例提供的应用于智能终端的相机的图像处理方法的原理示意图;
图11示例性示出了本申请实施例提供的一种智能终端的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。其中,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
并且,在本申请实施例的描述中,除非另有说明,″/″表示或的意思,例如,A/B可以表示A或B;文本中的″和/或″仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,另外,在本申请实施例的描述中,″多个″是指两个或多于两个。
以下,术语″第一″、″第二″仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐合指明所指示的技术特征的数量。由此,限定有″第一″、″第二″、的特征可以明示或者隐合地包括一个或者更多个该特征,在本申请实施例的描述中,除非另有说明,″多个″的含义是两个或两个以上。
首先,图1示出了一种智能终端100的结构示意图。
下面以智能终端100为例对实施例进行具体说明。应该理解的是,图1所示终端100仅是一个范例,并且智能终端100可以具有比图1中所示的更多的或者更少的部件,可以组合两个或多个的部件,或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
图1中示例性示出了根据示例性实施例中智能终端100的硬件配置框图。如图1所示,智能终端100包括:射频(radio frequency,RF)电路110、存储器120、显示单元130、摄像头140、传感器150、音频电路160、无线保真(Wireless Fidelity,Wi-Fi)模块170、处理器180、蓝牙模块181、以及电源190等部件。
RF电路110可用于在收发信息或通话过程中信号的接收和发送,可以接收基站的下行数据后交给处理器180处理;可以将上行数据发送给基站。通常,RF电路包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等器件。
存储器120可用于存储软件程序及数据。处理器180通过运行存储在存储器120的软件程序或数据,从而执行智能终端100的各种功能以及数据处理。存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器、缓存存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。存储器120存储有使得智能终端100能运行的操作系统。本申请中存储器120可以存储操作系统及各种应用程序,还可以存储执行本申请实施例所述方法的程序代码。此种,存储器120中还可以用于存储在预览阶段采集的图像。
显示单元130可用于接收输入的数字或字符信息,产生与智能终端100的用户设置以及功能控制有关的信号输入,具体地,显示单元130可以包括设置在智能终端100正面的触摸屏131,可收集用户在其上或附近的触摸操作,例如点击按钮,拖动滚动框等。
显示单元130还可用于显示由用户输入的信息或提供给用户的信息以及智能终端100的各种菜单的图形用户界面(graphical userinterface,GUI)。具体地,显示单元130可以包括设置在智能终端100正面的显示屏132。其中,显示屏132可以采用液晶显示器、发光二极管等形式来配置。显示单元130可以用于显示本申请中拍摄应用的用户界面。
其中,触摸屏131可以覆盖在显示屏132之上,也可以将触摸屏131与显示屏132集成而实现智能终端100的输入和输出功能,集成后可以简称触摸显示屏。本申请中显示单元130可以显示应用程序以及对应的操作步骤。
摄像头140可用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给处理器180转换成数字图像信号。
智能终端100还可以包括至少一种传感器150,比如加速度传感器151、距离传感器152、指纹传感器153、温度传感器154。智能终端100还可配置有陀螺仪、气压计、湿度计、温度计、红外线传感器、光传感器、运动传感器等其他传感器。
音频电路160、扬声器161、麦克风162可提供用户与智能终端100之间的音频接口。音频电路160可将接收到的音频数据转换后的电信号,传输到扬声器161,由扬声器161转换为声音信号输出。智能终端100还可配置音量按钮,用于调节声音信号的音量。另一方面,麦克风162将收集的声音信号转换为电信号,由音频电路160接收后转换为音频数据,再将音频数据输出至RF电路110以发送给比如另一智能终端,或者将音频数据输出至存储器120以便进一步处理。本申请中麦克风162可以获取用户的语音。
Wi-Fi属于短距离无线传输技术,智能终端100可以通过Wi-Fi模块170帮助用户收发电子邮件、浏览网页和访问流媒体等,它为用户提供了无线的宽带互联网访问。
处理器180是智能终端100的控制中心,利用各种接口和线路连接整个智能终端的各个部分,通过运行或执行存储在存储器120内的软件程序,以及调用存储在存储器120内的数据,执行智能终端100的各种功能和处理数据。在一些实施例中,处理器180可包括一个或多个处理单元;处理器180还可以集成应用处理器和基带处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,基带处理器主要处理无线通信。可以理解的是,上述基带处理器也可以不集成到处理器180中。本申请中处理器180可以运行操作系统、应用程序、用户界面显示及触控响应,以及本申请实施例所述的处理方法。另外,处理器180与显示单元130耦接。
蓝牙模块181,用于通过蓝牙协议来与其他具有蓝牙模块的蓝牙设备进行信息交互。例如,智能终端100可以通过蓝牙模块181与同样具备蓝牙模块的可穿戴电子设备(例如智能手表)建立蓝牙连接,从而进行数据交互。
智能终端100还包括给各个部件供电的电源190(比如电池)。电源可以通过电源管理系统与处理器180逻辑相连,从而通过电源管理系统实现管理充电、放电以及功耗等功能。智能终端100还可配置有电源按钮,用于智能终端的开机和关机,以及锁屏等功能。
图2是本申请实施例的智能终端100的软件结构框图。
分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,可将Android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和系统库,以及内核层。
应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿、短信息等。
视图系统包括可视控件,例如显示拍照控件、显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括用于采集图像的应用的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供智能终端100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件、对图像的特效处理方法、提高图像画质的方法等。
通知管理器使应用程序可以在状态栏中显示通知信息(例如短信息的消息摘要,消息内容),可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,智能终端振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(MediaLibraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D(一种动画方式)图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
本申请实施例中的智能终端100可以为手机、平板电脑、可穿戴设备、笔记本电脑以及电视等。
下面结合捕获拍照场景,示例性说明智能终端100软件以及硬件的工作流程。
当触摸屏131接收到触摸操作,相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件,识别该输入事件所对应的控件。以该触摸操作是触摸单击操作,该单击操作所对应的控件为相机应用图标的控件为例,相机应用调用应用框架层的接口,启动相机应用,进而通过调用内核层启动摄像头驱动,通过摄像头140捕获静态图像或视频。
预览图像后,用户点击拍照控件按钮,到内核驱动层配置相机模组开始曝光输出照片。中间需要经过:触摸屏131检测到按键事件→将按键时间通知到系统(inputeventsubsystem)→事件分发到相机应用(Camera APP)→下发拍照指令,拍照指令通过,相机框架(camera framework)层、本地服务(native)层、camera hal层,camera内核驱动层,驱动相机模组实施真正的拍照动作。
两个关键的时间点(包括用户触发拍照控件时间点,相机模组收到拍照指令时间点)之间,有较大的延时。Camera hal软件流程部分需要配置延时(Delay)时间,以便Camerahal可以从HistoryBufferContainer中拿到用户触发拍照控件时间点对应的照片。这个也是ZSL(Zero shutter Latency,零快门延迟)机制的初衷。
现有ZSL机制会导致相机模组在进行曝光过程中,存在由于用户触发拍照动作而存在的整机抖动,对手持单帧拍照、多帧拍照输出图质量有较大影响。
相关技术中,为了提高图像画质,通常采用多帧合成方法将多帧图像合成一帧图像。该多帧合成方法例如可包括HDR算法、多帧暗光算法、超分辨率算法等。
然后,由于输入多帧合成方法的输入图像本申请存在抖动导致的图像质量差,所以该方法的使用也受到限制。有鉴于此,本申请实施例中,提供了一种图像处理方法来提高图像质量。
本申请实施例中,预览阶段在ZSL机制的缓存中缓存多帧图像,然后基于优化的选帧机制,从缓存中获取的多帧图像,然后采用多帧合成方法对这多帧图像进一步进行处理,能够得到提升画质的图像。
如图3所示,为本申请实施例提供的应用于智能终端的相机的图像处理方法的流程示意图,包括以下步骤:
首先,用户可以采用智能终端,在智能终端的界面中选择具有图像采集功能的应用,如图4所示中的左边图像,例如选择了相机应用。进入该应用之后,智能终端在步骤301中,在拍摄预览阶段,将采集的图像存储在缓存中。如图4所示中间图像,用户可以在终端设备的屏幕中预览采集到的画面,基于预览结果,用户可以调整拍摄角度,调整拍摄参数,例如调整聚焦位置,选择拍摄的特效。预览阶段,采集的图像均会存储到缓存中。由于缓存空间有限,缓存空间满了之后,采集到的图像可以更新旧的图像。例如图5所示,假设缓存中,能够存储6张图像,当采集到第7张图像之后,预先缓存的第1张图像可以丢弃,以此类推。
用户期望基于预览效果获得图像时,如图4所示的右图,用户可以单击拍照控件按钮,此时会触发第一拍摄指令给相机模组。
在步骤302中,响应于第一拍摄指令,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像。
可理解的是,由于拍照动作导致智能终端抖动,故此,第一拍摄指令的触发时间所采集的图像可能质量较差,而之前预览阶段采集的多帧图像可能质量更好。故此,本申请实施例提供的选帧机制中,选帧时机定在了第一拍摄指令的触发时间点之前。继续以图5所示为例,假设用户触发第一拍摄指令,应获取的图像为第7张图像,而本申请实施例中,可以在第1张图像-第6张图像中,筛选出指定帧数的多帧图像。然后在步骤303中,采用多帧合成方法对所述指定帧数的图像进行合成,得到最终的拍照图像。
由此,本申请实施例中,提高了选择的图像的画质,能够为多帧合成方法提供更为优质的图像,进而可以有效利用多帧合成方法获得高质量的图像。
用于多帧合成方法的指定帧数的数量可以基于多帧合成方法所需的数量而定,例如该多帧合成方法需要6帧图像,则指定帧数可以大于或等于6。
此外,本申请实施例中为了能够缓存足够多的优质图像给多帧合成方法使用。缓存的容量可以是事先通过实验测定的,实施时,可以在相机出厂前根据相机的性能确定相机的ZSL机制的缓存的容量。其中,当同一型号的智能终端性能相近时,每种型号可采用一个或多个智能终端进行测试,然后取测试的均值作为该型号的智能终端的ZSL机制的缓存的容量。当然,需要说明的是,测试的方式也可以由智能终端的用户根据自己的需求进行测评合理的设置ZSL机制的缓存容量,均适用于本申请实施例。
有鉴于此,本申请也提出了一种测试方法来确定智能终端缓存容量。如图6所示,为测试场景的示意图。该测试过程中,采用高精度秒表进行计时。然后采用智能终端的图像采集功能对高精度秒表进行拍摄。整个拍摄过程可以被高速摄像机摄录下来得到摄录影像。这样,用户采用智能终端对高精度秒表的预览阶段、用户按下拍照控件按钮的时间以及得到的拍照图像都能够被摄录下来存储到摄录影像中。如图7所示,为通过该测试方法确定缓存容量的流程示意图。
在步骤701中,拍摄预览阶段,采集高精度秒表的计时过程的图像并存储在缓存中。
在步骤702中,响应于第二拍摄指令,获取所述高精度秒表的指定图像。
其中,所述指定图像为所述缓存中缓存的第一帧图像(如图5所示,缓存中存储的第1张图像)。或者所述指定图像为适用于所述多帧合成方法的第一帧图像。实施时,多帧合成方法会从缓存中获取多帧图像并存储在指定地址备用。本申请实施例中,除了可以直接从缓存中获取第一帧图像,也可以从该指定地址获取第一帧图像。鉴于测试的方法,本申请实施例中,每帧图像中都有高精度的秒表的时间点。
在步骤703中,基于所述第二拍摄指令的触发时间点和所述指定图像中记录的高精度秒表的时间点之间的延时,调整所述缓存的容量。
假设第二拍摄指令的触发时间点T1和指定图像中记录的高精度秒表的时间点T2,则延时为t=T1-T2,这里差值取绝对值即可。
例如,假设多帧合成方法需要6帧优质的图像,那么缓存空间需要能够缓存至少7帧图像。假设单位时间T内采集的图像帧数为n,那么延时t内可采集的帧数可以计算出来。假设延时t内可采集的帧数不足6帧,那么缓存容量较小,可以适当增加缓存,然后继续测试。
假设,需要6帧图像供多帧合成方法使用,期望缓存能够缓存12帧图像。则每次调整缓存之后,可确定延时是否大于或等于采集到12帧图像所需的时长。例如,T/n为30ms,表示30ms采集一帧图像,那么12帧图像需要360ms。那么,当确定延时t大于或等于360ms既能保证有足够的缓存容量来缓存足够多的图像。
由此,本申请实施例中基于测试,能够获得合理的缓存容量,合理的利用缓存空间,避免占用过多缓存导致缓存浪费,也避免缓存容量较少导致难以获得足够的优质图像。
此外,针对同一型号的智能终端,可在出厂前进行测试,以便于出厂后,该型号的智能终端都有一个合理的缓存容量来缓存图像。
有了足够的缓存容量,能够缓存多帧优质的图像,能够减少手持拍照过程中,按拍照控件按钮导致的抖动,对多帧成像质量的影响。
在一些实施例中,所述第二拍摄指令的触发时间点为从摄录影像中识别的,所述摄录影像用于记录智能终端对所述高精度秒表的拍摄过程。例如图8所示,为摄录影像中一段视频截图的示意图,从摄录影像中可以查看用户在高精度秒表的哪个时间段按下拍照控件按钮,进而得到第二拍摄指令的触发时间。由图8可以得知,用户在T1时间还未按下拍照控件按钮,在T2时间按下拍照控件按钮,在T3时间已经抬手,松开拍照控件按钮。故此,可理解为T2时间为第二拍摄指令的触发时间。
在一些实施例中,本申请中为了能够筛选优质的图像给多帧合成方法使用,可以从所述缓存中获取所述第一拍摄指令的触发时间点之前的多帧图像;然后从所述多帧图像中筛选出图像质量满足质量要求的所述指定帧数的图像。例如,缓存中缓存12帧图像,则可以从第一拍摄指令触发时间点之前拿到多帧图像,然后从中筛选出优质的6帧图像。
实施时,图像质量评价方法可以有很多中,例如从对焦的清晰度、曝光度、动态范围等多方面进行评价,可采用各种图像质量评价方法筛选出优质的图像。
当然,在另一种实施例中,可以筛选出连续的且满足质量要求的指定数量的图像给多帧合成方法使用,均适用于本申请实施例。
如图9所示,为本申请实施例中筛选出多帧图像供多帧合成方法使用的流程示意图,包括:
在步骤901中,拍摄预览阶段,将采集的图像存储在缓存中。
在步骤902中,响应于第一拍摄指令,从所述缓存中获取第一拍摄指令的触发时间点之前的图像。
在步骤903中,对获取的图像进行质量评价,筛选出满足质量要求的多帧图像。
在步骤904中,采用多帧合成方法对获得的多帧图像进行合成,得到最终的拍照图像。
本申请实施例中,调整选帧逻辑,通过高精度秒表、高速摄像机等实现的测试合理的缓存容量,以便于选到比用户触发拍照动作时间点更靠前的图像。通过这种方法,来减少手持拍照过程中,按拍照键造成的抖动,对多帧成像质量的影响。
多帧优选方面可优先选择对焦清晰的连续帧,作为多帧算法的输入,来保证多帧算法输出图的质量。
如图10所示,为整个图像采集过程的原理示意图。在P1阶段即预览阶段,采集的图像会存储到缓存中,P2S阶段从缓存中获取图像处理成预览图像在图像采集框中供用户查看。P2C阶段当用户按下拍照控件按钮,从ZSL缓存中筛选出优质的多帧图像,然后采用多帧合成方法进行合成得到jpg格式的图像输出,得到最终的拍照图像。
基于相同的发明构思,本申请实施例还提供一种智能终端,如图11所示,包括显示器1101、处理器1102以及存储器1103;
所述显示器1101,用于显示信息;
所述存储器1103,用于存储可被所述控制器执行的计算机程序;
所述处理器1102,用于拍摄预览阶段,将采集的图像存储在缓存中;
响应于第一拍摄指令,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像;
采用多帧合成方法对所述指定帧数的图像进行合成,得到最终的拍照图像;。
在一种可能的实施方式中,所述缓存的容量是基于测试结果确定的,所述处理器1102还用于基于以下方法确定所述缓存的容量:
拍摄预览阶段,采集高精度秒表的计时过程的图像并存储在缓存中;
响应于第二拍摄指令,获取所述高精度秒表的指定图像,所述指定图像为所述缓存中缓存的第一帧图像,或者所述指定图像为适用于所述多帧合成方法的第一帧图像;
基于所述第二拍摄指令的触发时间点和所述指定图像中记录的高精度秒表的时间点之间的延时,调整所述缓存的容量,其中,所述缓存的容量大于或等于所述延时内包含的图像帧数。
在一种可能的实施方式中,所述第二拍摄指令的触发时间点为从摄录影像中识别的,所述摄录影像用于记录智能终端对所述高精度秒表的拍摄过程。
在一种可能的实施方式中,执行所述从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,所述处理器1102用于:
从所述缓存中获取所述第一拍摄指令的触发时间点之前的多帧图像;
从所述多帧图像中筛选出图像质量满足质量要求的所述指定帧数的图像。
所述图像质量至少包括清晰度、曝光度。
在一种可能的实施方式中,所述指定帧数是基于所述多帧合成算法所需的帧数确定的。
在一种可能的实施方式中,优先获取满足质量要求且连续的所述指定帧数的图像。
由于本申请实施例中的计算机存储介质可以应用于上述方法,因此,其所能获得的技术效果也可参考上述方法实施例,本申请的实施例在此不再赘述。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
Claims (10)
1.一种应用于智能终端的相机的图像处理方法,其特征在于,所述方法包括:
拍摄预览阶段,将采集的图像存储在缓存中;
响应于第一拍摄指令,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像;
采用多帧合成方法对所述指定帧数的图像进行合成,得到最终的拍照图像。
2.根据权利要求1所述的方法,其特征在于,所述缓存的容量是基于测试结果确定的,所述方法还包括,基于以下方法确定所述缓存的容量:
拍摄预览阶段,采集高精度秒表的计时过程的图像并存储在缓存中;
响应于第二拍摄指令,获取所述高精度秒表的指定图像,所述指定图像为所述缓存中缓存的第一帧图像,或者所述指定图像为适用于所述多帧合成方法的第一帧图像;
基于所述第二拍摄指令的触发时间点和所述指定图像中记录的高精度秒表的时间点之间的延时,调整所述缓存的容量,其中,所述缓存的容量大于或等于所述延时内包含的图像帧数。
3.根据权利要求2所述的方法,其特征在于,所述第二拍摄指令的触发时间点为从摄录影像中识别的,所述摄录影像用于记录智能终端对所述高精度秒表的拍摄过程。
4.根据权利要求1所述的方法,其特征在于,所述从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,包括:
从所述缓存中获取所述第一拍摄指令的触发时间点之前的多帧图像;
从所述多帧图像中筛选出图像质量满足质量要求的所述指定帧数的图像。
5.根据权利要求4所述的方法,其特征在于,所述图像质量至少包括清晰度、曝光度。
6.根据权利要求1-5中任一所述的方法,其特征在于,所述指定帧数是基于所述多帧合成算法所需的帧数确定的。
7.根据权利要求1-5中任一所述的方法,其特征在于,从所述缓存中获取所述第一拍摄指令的触发时间点之前的指定帧数的图像,包括:
优先获取满足质量要求且连续的所述指定帧数的图像。
8.一种智能终端,其特征在于,包括显示器、存储器和处理器,其中:
所述显示器,用于显示信息;
所述存储器,用于存储可被所述控制器执行的计算机程序;
所述处理器,所述控制器分别连接所述显示器和所述存储器,被配置为执行权利要求1-7中任一所述的方法。
9.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如权利要求1-7中任一项所述的应用显示方法。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的应用显示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110568977.3A CN113329176A (zh) | 2021-05-25 | 2021-05-25 | 应用于智能终端的相机的图像处理方法及相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110568977.3A CN113329176A (zh) | 2021-05-25 | 2021-05-25 | 应用于智能终端的相机的图像处理方法及相关装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113329176A true CN113329176A (zh) | 2021-08-31 |
Family
ID=77416847
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110568977.3A Pending CN113329176A (zh) | 2021-05-25 | 2021-05-25 | 应用于智能终端的相机的图像处理方法及相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113329176A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114143456A (zh) * | 2021-11-26 | 2022-03-04 | 海信电子科技(深圳)有限公司 | 拍照方法及装置 |
CN115499579A (zh) * | 2022-08-08 | 2022-12-20 | 荣耀终端有限公司 | 基于零秒延迟zsl的处理方法和装置 |
WO2023160280A1 (zh) * | 2022-02-28 | 2023-08-31 | 荣耀终端有限公司 | 拍照方法和相关装置 |
CN117479000A (zh) * | 2022-08-08 | 2024-01-30 | 荣耀终端有限公司 | 录像方法和相关装置 |
WO2024027234A1 (zh) * | 2022-08-05 | 2024-02-08 | 荣耀终端有限公司 | 一种自动拍照方法及电子设备 |
WO2024098284A1 (en) * | 2022-11-09 | 2024-05-16 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Imaging device |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107094249A (zh) * | 2017-03-31 | 2017-08-25 | 腾讯科技(上海)有限公司 | 一种测试摄像头延时的方法及装置 |
CN107302664A (zh) * | 2017-08-11 | 2017-10-27 | 维沃移动通信有限公司 | 一种拍摄方法及移动终端 |
CN210518643U (zh) * | 2019-08-20 | 2020-05-12 | 广州海格通信集团股份有限公司 | 一种精确测试视频监视时延的系统 |
CN112689090A (zh) * | 2020-12-22 | 2021-04-20 | 展讯通信(天津)有限公司 | 拍照方法和相关设备 |
CN213186354U (zh) * | 2020-09-27 | 2021-05-11 | 深圳市焦点数字科技有限公司 | 一种摄像机图像延时测试模块 |
-
2021
- 2021-05-25 CN CN202110568977.3A patent/CN113329176A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107094249A (zh) * | 2017-03-31 | 2017-08-25 | 腾讯科技(上海)有限公司 | 一种测试摄像头延时的方法及装置 |
CN107302664A (zh) * | 2017-08-11 | 2017-10-27 | 维沃移动通信有限公司 | 一种拍摄方法及移动终端 |
CN210518643U (zh) * | 2019-08-20 | 2020-05-12 | 广州海格通信集团股份有限公司 | 一种精确测试视频监视时延的系统 |
CN213186354U (zh) * | 2020-09-27 | 2021-05-11 | 深圳市焦点数字科技有限公司 | 一种摄像机图像延时测试模块 |
CN112689090A (zh) * | 2020-12-22 | 2021-04-20 | 展讯通信(天津)有限公司 | 拍照方法和相关设备 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114143456A (zh) * | 2021-11-26 | 2022-03-04 | 海信电子科技(深圳)有限公司 | 拍照方法及装置 |
CN114143456B (zh) * | 2021-11-26 | 2023-10-20 | 青岛海信移动通信技术有限公司 | 拍照方法及装置 |
WO2023160280A1 (zh) * | 2022-02-28 | 2023-08-31 | 荣耀终端有限公司 | 拍照方法和相关装置 |
WO2024027234A1 (zh) * | 2022-08-05 | 2024-02-08 | 荣耀终端有限公司 | 一种自动拍照方法及电子设备 |
CN115499579A (zh) * | 2022-08-08 | 2022-12-20 | 荣耀终端有限公司 | 基于零秒延迟zsl的处理方法和装置 |
CN115499579B (zh) * | 2022-08-08 | 2023-12-01 | 荣耀终端有限公司 | 基于零秒延迟zsl的处理方法和装置 |
CN117479000A (zh) * | 2022-08-08 | 2024-01-30 | 荣耀终端有限公司 | 录像方法和相关装置 |
WO2024098284A1 (en) * | 2022-11-09 | 2024-05-16 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Imaging device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113329176A (zh) | 应用于智能终端的相机的图像处理方法及相关装置 | |
CN114205522B (zh) | 一种长焦拍摄的方法及电子设备 | |
JP2022532102A (ja) | スクリーンショット方法及び電子装置 | |
CN109672884B (zh) | 图像硬件编码处理方法和装置 | |
CN116055857B (zh) | 拍照方法及电子设备 | |
WO2023035921A1 (zh) | 一种录像中抓拍图像的方法及电子设备 | |
WO2022156721A1 (zh) | 一种拍摄方法及电子设备 | |
CN116320783A (zh) | 一种录像中抓拍图像的方法及电子设备 | |
CN113542545B (zh) | 电子设备及录像方法 | |
CN113055585B (zh) | 拍摄界面的缩略图显示方法及移动终端 | |
CN114845035A (zh) | 一种分布式拍摄方法,电子设备及介质 | |
WO2023160230A9 (zh) | 一种拍摄方法及相关设备 | |
CN114640798B (zh) | 图像处理方法、电子设备及计算机存储介质 | |
CN111193874A (zh) | 图像的显示参数调整方法及移动终端 | |
CN113254132B (zh) | 一种应用显示方法及相关装置 | |
WO2021204103A1 (zh) | 照片预览方法、电子设备和存储介质 | |
CN114449171A (zh) | 控制摄像头的方法、终端设备、存储介质及程序产品 | |
CN113542711A (zh) | 一种图像显示方法和终端 | |
CN113641431A (zh) | 二维码的增强显示的方法和终端设备 | |
CN117082295B (zh) | 图像流处理方法、设备及存储介质 | |
CN114143456B (zh) | 拍照方法及装置 | |
CN113129238B (zh) | 拍照终端及图像校正方法 | |
WO2022206600A1 (zh) | 一种投屏方法、系统及相关装置 | |
CN113179362B (zh) | 电子设备及其图像显示方法 | |
WO2023226725A9 (zh) | 录像方法和相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210831 |