CN107222679A - 一种图像数据的处理方法和移动终端 - Google Patents

一种图像数据的处理方法和移动终端 Download PDF

Info

Publication number
CN107222679A
CN107222679A CN201710528145.2A CN201710528145A CN107222679A CN 107222679 A CN107222679 A CN 107222679A CN 201710528145 A CN201710528145 A CN 201710528145A CN 107222679 A CN107222679 A CN 107222679A
Authority
CN
China
Prior art keywords
view data
definition
mobile terminal
image
receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710528145.2A
Other languages
English (en)
Other versions
CN107222679B (zh
Inventor
胡孔明
周燎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vivo Mobile Communication Co Ltd
Original Assignee
Vivo Mobile Communication Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vivo Mobile Communication Co Ltd filed Critical Vivo Mobile Communication Co Ltd
Priority to CN201710528145.2A priority Critical patent/CN107222679B/zh
Publication of CN107222679A publication Critical patent/CN107222679A/zh
Application granted granted Critical
Publication of CN107222679B publication Critical patent/CN107222679B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例提供了一种图像数据的处理方法和移动终端,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:所述DSP循环接收所述摄像头输出的第一图像数据;在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;计算所述第二图像数据的第二清晰度;基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP。应用本发明实施例能够得到更好质量的图像数据。

Description

一种图像数据的处理方法和移动终端
技术领域
本发明涉及通信技术领域,特别是涉及一种图像数据的处理方法和移动终端。
背景技术
现有的移动终端越来越看重相机拍照成像效果、图像的噪点和清晰度的表现,这些因素也越来越成为商家的主要竞争因素。
图像降噪技术已经有了很大的发展。对于模拟信号的图像,通常经过数字化后采用数字图像处理技术进行降噪处理。数字降噪通常分为单帧降噪和多帧降噪。
单帧降噪是利用同一帧图像内每一个像素的信号和周围信号的强相关、与噪声的弱相关或非相关特性进行的降噪处理方法。例如,一个常用的单帧降噪方法是通过各种滤波技术来实现,但是单幅图像降噪滤波总是会导致图像锐度的剧烈下降,因此单幅图像的降噪效果难以令人满意,相关技术成为了瓶颈。而突破瓶颈的方法之一就是利用多幅图像作为降噪的输入数据,即多帧降噪。
多帧降噪是利用多幅图像在对应像素点上与信号的强相关和噪声的非相关特性而进行的降噪方法。一种经典的多帧降噪方法是通过对连续图像帧进行加权平均值,使距离当前帧越近的帧权值越大,可以在比较好的保留图像中的边缘的情况下有效改善图像信噪比。
由于多帧降噪是先抓取多帧图像,再基于像素点上的信号做加权平均处理。所以,在算法稳定的情况下,每张输入图像对应像素点的信噪比很大程度上决定了经过算法加权平均后,得到的融合图像的信噪比,也就是清晰度。
手机等移动终端中使用的多帧去噪方案,是直接抓取拍照键抬起前连续的几帧数据送给AP(Application Processor,应用处理器)的ISP(Image Signal Processing,图像信号处理)算法处理。通常拍照时,从按下拍照键到抬起拍照键的时间内会发生较大抖动,会导致采集的图像模糊,也即是说,输入到ISP处理的图像就发生模糊,进而影响算法最终输出图像的清晰度。
发明内容
本发明实施例提供一种图像数据的方法和移动终端,以解决在ISP进行多帧处理时,由于输入图像数据模糊而导致影响最终输出图像清晰度的问题。
第一方面,提供了一种图像数据的处理方法,应用于移动终端,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:
所述DSP循环接收所述摄像头输出的第一图像数据;
在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
计算所述第二图像数据的第二清晰度;
基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
第二方面,提供了一种移动终端,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端包括:
第一图像数据接收模块,用于所述DSP循环接收所述摄像头输出的第一图像数据;
第一清晰度计算模块,用于在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
第二图像数据接收模块,用于在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
第二清晰度计算模块,用于计算所述第二图像数据的第二清晰度;
清晰度对比模块,用于基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
图像数据输出模块,用于在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体地,在本发明实施例中,隔离按下拍照键前后的图像数据,通过在DSP利用新的缓存与优选机制,来实现多帧去噪时输入到ISP的图像数据的缓存与优选,通过优化多帧合成时输入图的清晰度,进而提高多帧融合后图像数据的清晰度,更好的体现多帧去噪相对于单帧去噪的优势,最终可以得到更好质量的图像数据,提升用户体验。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一的一种图像数据的处理方法实施例的步骤流程图;
图2是本发明的一种多帧去噪算法输入图像数据的改善流程图;
图3是本发明的一种加入外置DSP后拍照时数据流示意图;
图4是本发明的一种DSP暂停抓帧的示意图;
图5是本发明的一种DSP进行清晰度排序的示意图;
图6是本发明的一种DSP接收图像数据并进行优选的流程图;
图7是本发明实施例二的一种移动终端实施例的结构框图;
图8是本发明另一个实施例的移动终端的框图;
图9是本发明又一个实施例的移动终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
参照图1,示出了本发明的一种图像数据的处理方法实施例的步骤流程图,应用于移动终端,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法具体可以包括如下步骤:
步骤101,所述DSP循环接收所述摄像头输出的第一图像数据;
在具体实现中,在移动终端上具有摄像头,摄像头的数量可以是一个或者两个,当然也可以是三个或者三个以上。本发明实施例在原有的移动终端的硬件框架基础上,添加DSP(Digital Signal Processing,数字信号处理器),使得图像数据在进入ISP之前,能够进行更多的图像处理,提升图像数据的图像质量。
需要说明的是,本发明实施例在原有的移动终端的硬件框架基础上,添加DSP(Digital Signal Processing,数字信号处理器),使得图像数据在进入ISP(Image SignalProcessing,图像信号处理)之前,能够实现更多的图像处理功能,提升图像数据的图像质量。具体地,摄像头的摄像模组中具有sensor(传感器),在移动终端设置有与摄像头的sensor和ISP相连的DSP。通常,ISP在移动终端中作为摄像头的sensor输出信号处理的单元,以匹配不同厂商的sensor。
其中,DSP,sensor和ISP之间,可以通过MIPI(Mobile Industry ProcessorInterface,移动产业处理器接口)连接,MIPI将手机内部的接口如摄像头、显示屏接口、射频/基带接口等标准化,可以减少手机设计的复杂程度和增加设计灵活性。当然,DSP,sensor和ISP之间还可以通过其他接口进行连接,本发明实施例对此无需加以限制。
本发明实施例的DSP硬件模块,是在RAW区间(例如对为Bayer格式等格式的RAW图像进行处理,RAW图像由于未在ISP进行转换成为YUV等格式,因此数据量更多,细节信息丰富)的图像数据进行去噪等操作,让图像数据在进入ISP之前,就有比较好的噪声表现,并且通过DSP来处理图像数据,相对于在ISP处理而言速度快,且在DSP还能使用多种算法实现多种功能。通过在DSP对于图像数据进行预处理,减少在ISP处理过程中,降低后端处理难度,最终得到更好的图像品质。
ISP是可以集成于AP(Application Processor,应用处理器)中,也可以是独立的芯片,本发明实施例对此无需加以限制,在DSP得到结果的RAW图像之后再发送进行ISP处理,使得图像数据更加清晰、自然和美观。
在本发明实施例中,DSP会循环获取摄像头输出的图像数据。进一步地,对于接收到的图像数据,可以缓存到DSP的缓存队列中。在一种实现方案中,缓存队列可以缓存8帧图像数据。
步骤102,在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
在用户按下拍照键时会生成拍照键按下的消息,此时可以计算在缓存队列中的图像数据的清晰度。
此外,在所述在接收到拍照键按下的消息时,本发明实施例还会暂停在所述缓存队列中缓存所述摄像头输出的图像数据,然后按照计算出的清晰度按照由高到低对图像数据进行排序。
步骤103,在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
在用户按下拍照键后但是尚未将拍照键抬起之前,本发明实施例可以继续接收摄像头输出的新图像数据。需要说明的是,在完成了对于缓存队列中的图像数据的排序后,就可以继续在缓存队列中更新图像数据了。
步骤104,计算所述第二图像数据的第二清晰度;
对于新接收到的新图像数据,在DSP会计算这些新图像数据的清晰度。
步骤105,基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
在本发明实施例中,会比对缓存队列中的图像数据与新接收到的图像数据的清晰度,并根据两者清晰度去判断是否需要对于缓存队列中的数据进行替换。使得最终保留在缓存队列中的图像数据的清晰度都是比较高的。
在本发明的一种优选实施例中,所述步骤105可以包括:
对比所述第一清晰度和所述第二清晰度;
若所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低的第一图像数据;
将所述替换后的第二图像数据作为第一图像数据。
在具体实现中,通过比对缓存中图像数据的清晰度和新图像数据的清晰度,确定是否需要使用新图像数据替换掉缓存队列中的图像数据。具体地,如果新图像数据的清晰度高于缓存中清晰度最差的图像数据,则可以使用新图像数据放入DSP缓存,即替换原缓存中清晰度最差的图像数据。
步骤106,在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
通过前述处理,使得在缓存队列中保留了清晰度高的N帧图像数据,也就是说,本发明实施例保留了所接收的图像数据中,清晰度排序在前N位的图像数据。其中,N可以是8。
在本发明实施例中,在接收到拍照键抬起的消息时,也即是说明此时已经完成了对于图像数据的采集,已经可以将图像数据输出到ISP进行进一步处理了,故而会停止在所述缓存队列中采用所述摄像头输出的第二图像数据替换所述第一图像数据的运行,不浪费系统资源。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体地,在本发明实施例中,隔离按下拍照键前后的图像数据,通过在DSP利用新的缓存与优选机制,来实现多帧去噪时输入到ISP的图像数据的缓存与优选,通过优化多帧合成时输入图的清晰度,进而提高多帧融合后图像数据的清晰度,更好的体现多帧去噪相对于单帧去噪的优势,最终可以得到更好质量的图像数据,提升用户体验。
为了使本领域技术人员更好地理解本发明实施例,以下采用一个完整的示例对于本发明实施例实现多帧降噪的过程。本实施方式通过新的缓存与优选机制,结合外挂DSP,来实现多帧去噪时输入图像的缓存与优选。
参照图2所示的本示例的一种多帧去噪算法输入改善流程图,具体可以包括如下步骤:
步骤S101:外置DSP缓存多帧图像数据。
在相机开启预览之后,DSP按照预定规则构建缓存队列并进行图像数据缓存。加入外置DSP芯片后拍照时的数据流如图3所示,本示例中的DSP可以缓存8帧数据。
预览图像数据通过DSP时,会保存一份到DSP的DDR(Dual Data Rate,双倍速率同步动态随机存储器)中的缓存队列的buffer(缓存区)a~h。在没有拍照的情况下,a~h循环更新。具体地,所谓循环更新是指,来了一帧图像数据,按照从a~h的顺序依次填充各个buffer,时刻保持8个buffer中的图像数据顺序更新。
在以前的常规方案中,收到拍照指令后,DSP直接抓取缓存队列中的8帧图像数据,送给算法做多帧合成降噪。此种常规方案,并不会检查每个buffer中图像数据是否清晰,使用了不清晰的输入图像,也就不能最大限度的保证在ISP经过算法加权平均后,输出的图像也是清晰的。故而本发明实施例提出了改善步骤,即本示例的步骤S102~S104。
步骤S102:接收“按下拍照键”消息。
在软件设计上,按键的操作都可以分为“按下/抬起”两个环节。此步骤,是指DSP接收“拍照键”按下的这个消息。
如步骤S101描述,相机预览时,DSP的缓存队列中不断更新图像数据,从a~h依次循环。当DSP接收到“按下拍照键”的消息后,缓存中的图像数据更新会短暂停止,此时先记录DSP缓存a~h中的保存的图像数据依次为A~H,如图4所示。
步骤S103:DSP进行清晰度排序。
此步骤是DSP对缓存中的图像数据,进行清晰度的计算,并根据清晰度由高到低对缓存中的图像数据进行排序。其中,清晰度是通过计算缓存中图像数据的灰度图的梯度来衡量的,梯度越大,清晰度越高。
经过此步骤后,缓存a~h中图像数据的清晰度依次增高。假定图像清晰度由高到低依次为:ABFGDHCE,则经过DSP排序后,缓存中的输入排列如图5所示。
以上步骤S102及S103发生的时间点是:DSP接收到拍照键按下的消息的瞬间,处理的缓存内容是收到按键消息之前的缓存内容,此时的缓存内容,一般不受“按下拍照键”带来的抖动影响,是比较清晰的。这两个环节,即步骤S102及S103可以在10ms之内完成。
把这两个环节独立出来,是考虑相比按下拍照键后的时间段,在用户按下拍照键之前,手机更容易保持稳定,使得输入图像数据更清晰。
步骤S104:DSP继续接收图像数据并实时进行优选。
从按下拍照键到抬起拍照键,这个时间段的长短因人而异,范围主要在50ms~200ms之间,平均可以输入到1~4帧新的图像数据。这个时间段,因为有按压按键的操作,对于大多数消费者来说,比较容易引入抖动,所以,此改善方案把这个环节单独处理。
在步骤S103完成清晰度排序后,进入步骤S104,DSP继续接收新的图像数据,但此步骤与S101不同,此时接收到的新图像数据,并不再依次放入缓存a~h;相对的,DSP在接收到新图像数据后,先对收到的图像数据进行灰度图的梯度计算,确定是否要把新收到的数据放入缓存。具体如流程图6所示:
执行步骤S104-1:DSP继续接收新的图像数据并进行清晰度的计算。
执行步骤S104-2:新图像数据X清晰度与缓存中图像数据A~H进行对比。若X清晰度低于A,则执行步骤S104-3:将图像X舍弃,不放入DSP缓存;若X清晰度高于A,则执行步骤S104-4:使用图像X替换图像A,放入DSP缓存。
执行步骤S104-5:是否收到“拍照键抬起”的指令。若已经收到,则退出步骤S104,进入步骤S105;若没有收到,则继续接收新的图像数据,重复执行步骤S104。
步骤S105:DSP接收拍照键抬起的指令。
DSP接收“拍照键抬起”的指令,此时DSP缓存不再继续接收新的图像数据,对应的,DSP缓存中的数据,是经过步骤S102~S104之后,经过排序优选的图像数据。
步骤S106:DSP输出8帧最清晰的图像数据。
经过步骤S102~S104,DSP缓存中图像数据已经经过排序优选,此步骤即是将DSP缓存中的数据输出给ISP,进行多帧合成降噪处理。
在本示例中,通过在DSP进行图像数据的排序及优选,提高多帧合成降噪算法输入图像的清晰度,进而提高算法输出图像的品质,极大提升用户体验。经多人综合测试,改善后图像清晰度可以提升10%。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,得到更好品质的初始图像数据后再发送给后端ISP进行进一步处理,可以从而最大限度降低后端ISP处理引入的噪点结构形态的恶化,最终可以得到更好质量的图像数据。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
实施例二
参照图7,示出了本发明的一种移动终端实施例的结构框图,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端具体可以包括如下模块:
第一图像数据接收模块201,用于所述DSP循环接收所述摄像头输出的第一图像数据;
第一清晰度计算模块202,用于在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
第二图像数据接收模块203,用于在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
第二清晰度计算模块204,用于计算所述第二图像数据的第二清晰度;
清晰度对比模块205,用于基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
图像数据输出模块206,用于在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
在本发明的一种优选实施例中,还包括:
第一图像数据缓存模块,用于将所述第一图像数据缓存到所述DSP的缓存队列中。
在本发明的一种优选实施例中,在所述在接收到拍照键按下的消息时,所述移动终端还包括:
缓存队列暂停缓存模块,用于暂停在所述缓存队列中缓存所述摄像头输出的第一图像数据;
清晰度排序模块,用于按照所述第一清晰度由高到低对所述第一图像数据进行排序。
在本发明的一种优选实施例中,所述缓存队列缓存有N个第一图像数据,所述清晰度对比模块包括:
清晰度比对子模块,用于对比所述第一清晰度和所述第二清晰度;
图像数据替换子模块,用于若在所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低第一图像数据;
图像数据处理子模块,用于将所述替换后第二图像数据作为第一图像数据。
在本发明的一种优选实施例中,所述移动终端还包括:
图像数据舍弃子模块,用于若在所述缓存队列中不存在所述第一清晰度低于所述第二清晰度的第一图像数据,则舍弃所述第二图像数据。
在本发明的一种优选实施例中,在接收到拍照键抬起的消息时,所述移动终端还包括:
缓存队列停止缓存子模块,用于停止在所述缓存队列中采用所述摄像头输出的第二图像数据替换所述第一图像数据。
对于移动终端实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体地,在本发明实施例中,隔离按下拍照键前后的图像数据,通过在DSP利用新的缓存与优选机制,来实现多帧去噪时输入到ISP的图像数据的缓存与优选,通过优化多帧合成时输入图的清晰度,进而提高多帧融合后图像数据的清晰度,更好的体现多帧去噪相对于单帧去噪的优势,最终可以得到更好质量的图像数据,提升用户体验。
实施例三
图8是本发明另一个实施例的移动终端的框图。图8所示的移动终端700包括:至少一个处理器701、存储器702、至少一个网络接口704和其他用户接口703。移动终端700中的各个组件通过总线系统705耦合在一起。可理解,总线系统705用于实现这些组件之间的连接通信。总线系统705除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图8中将各种总线都标为总线系统705。
其中,用户接口703可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器702可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-OnlyMemory,ROM)、可编程只读存储器(ProgrammableROM,PROM)、可擦除可编程只读存储器(ErasablePROM,EPROM)、电可擦除可编程只读存储器(ElectricallyEPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(RandomAccessMemory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(StaticRAM,SRAM)、动态随机存取存储器(DynamicRAM,DRAM)、同步动态随机存取存储器(SynchronousDRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(DoubleDataRateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(SynchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambusRAM,DRRAM)。本发明实施例描述的系统和方法的存储器702旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器702存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:操作系统7021和应用程序7022。
其中,操作系统7021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序7022,包含各种应用程序,例如媒体播放器(MediaPlayer)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序7022中。
在本发明实施例中,通过调用存储器702存储的程序或指令,具体的,可以是应用程序7022中存储的程序或指令,处理器701用于在所述DSP循环接收所述摄像头输出的第一图像数据;在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;计算所述第二图像数据的第二清晰度;基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
上述本发明实施例揭示的方法可以应用于处理器701中,或者由处理器701实现。处理器701可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器701中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器701可以是通用处理器、数字信号处理器(DigitalSignalProcessor,DSP)、专用集成电路(ApplicationSpecific IntegratedCircuit,ASIC)、现成可编程门阵列(FieldProgrammableGateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器702,处理器701读取存储器702中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本发明实施例描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecificIntegratedCircuits,ASIC)、数字信号处理器(DigitalSignalProcessing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(ProgrammableLogicDevice,PLD)、现场可编程门阵列(Field-ProgrammableGateArray,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本发明实施例所述功能的模块(例如过程、函数等)来实现本发明实施例所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
可选地,处理器701还用于:将所述第一图像数据缓存到所述DSP的缓存队列中。
可选地,处理器701还用于:暂停在所述缓存队列中缓存所述摄像头输出的第一图像数据;按照所述第一清晰度由高到低对所述第一图像数据进行排序。
可选地,处理器701还用于:对比所述第一清晰度和所述第二清晰度;若在所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低第一图像数据;将所述替换后第二图像数据作为第一图像数据。
可选地,处理器701还用于:停止在所述缓存队列中采用所述摄像头输出的第二图像数据替换所述第一图像数据。
移动终端700能够实现前述实施例中移动终端实现的各个过程,为避免重复,这里不再赘述。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体地,在本发明实施例中,隔离按下拍照键前后的图像数据,通过在DSP利用新的缓存与优选机制,来实现多帧去噪时输入到ISP的图像数据的缓存与优选,通过优化多帧合成时输入图的清晰度,进而提高多帧融合后图像数据的清晰度,更好的体现多帧去噪相对于单帧去噪的优势,最终可以得到更好质量的图像数据,提升用户体验。
实施例四
图9是本发明另一个实施例的移动终端的结构示意图。具体地,图9中的移动终端800可以为手机、平板电脑、个人数字助理(PersonalDigital Assistant,PDA)、或车载电脑等。
图9中的移动终端800包括射频(RadioFrequency,RF)电路810、存储器820、输入单元830、显示单元840、处理器860、音频电路870、WiFi(WirelessFidelity)模块880和电源890。
其中,输入单元830可用于接收用户输入的数字或字符信息,以及产生与移动终端800的用户设置以及功能控制有关的信号输入。具体地,本发明实施例中,该输入单元830可以包括触控面板831。触控面板831,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板831上的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板831可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给该处理器860,并能接收处理器860发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板831。除了触控面板831,输入单元830还可以包括其他输入设备832,其他输入设备832可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
其中,显示单元840可用于显示由用户输入的信息或提供给用户的信息以及移动终端800的各种菜单界面。显示单元840可包括显示面板841,可选的,可以采用LCD或有机发光二极管(OrganicLight-EmittingDiode,OLED)等形式来配置显示面板841。
应注意,触控面板831可以覆盖显示面板841,形成触摸显示屏,当该触摸显示屏检测到在其上或附近的触摸操作后,传送给处理器860以确定触摸事件的类型,随后处理器860根据触摸事件的类型在触摸显示屏上提供相应的视觉输出。
触摸显示屏包括应用程序界面显示区及常用控件显示区。该应用程序界面显示区及该常用控件显示区的排列方式并不限定,可以为上下排列、左右排列等可以区分两个显示区的排列方式。该应用程序界面显示区可以用于显示应用程序的界面。每一个界面可以包含至少一个应用程序的图标和/或widget桌面控件等界面元素。该应用程序界面显示区也可以为不包含任何内容的空界面。该常用控件显示区用于显示使用率较高的控件,例如,设置按钮、界面编号、滚动条、电话本图标等应用程序图标等。
其中处理器860是移动终端800的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在第一存储器821内的软件程序和/或模块,以及调用存储在第二存储器822内的数据,执行移动终端800的各种功能和处理数据,从而对移动终端800进行整体监控。可选的,处理器860可包括一个或多个处理单元。
在本发明实施例中,通过调用存储该第一存储器821内的软件程序和/或模块和/或该第二存储器822内的数据,处理器860用于在所述DSP循环接收所述摄像头输出的第一图像数据;在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;计算所述第二图像数据的第二清晰度;基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
可选地,所述处理器860还用于,将所述第一图像数据缓存到所述DSP的缓存队列中。
可选地,所述处理器860还用于:暂停在所述缓存队列中缓存所述摄像头输出的第一图像数据;按照所述第一清晰度由高到低对所述第一图像数据进行排序。
可选地,所述处理器860还用于:对比所述第一清晰度和所述第二清晰度;若在所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低第一图像数据;将所述替换后第二图像数据作为第一图像数据。
可选地,所述处理器860还用于:停止在所述缓存队列中采用所述摄像头输出的第二图像数据替换所述第一图像数据。
对于移动终端800实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体地,在本发明实施例中,隔离按下拍照键前后的图像数据,通过在DSP利用新的缓存与优选机制,来实现多帧去噪时输入到ISP的图像数据的缓存与优选,通过优化多帧合成时输入图的清晰度,进而提高多帧融合后图像数据的清晰度,更好的体现多帧去噪相对于单帧去噪的优势,最终可以得到更好质量的图像数据,提升用户体验。
本领域普通技术人员可以意识到,结合本发明实施例中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (12)

1.一种图像数据的处理方法,应用于移动终端,其特征在于,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:
所述DSP循环接收所述摄像头输出的第一图像数据;
在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
计算所述第二图像数据的第二清晰度;
基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
2.根据权利要求1所述的方法,其特征在于,在所述DSP循环接收所述摄像头输出的第一图像数据的步骤之后,还包括:
将所述第一图像数据缓存到所述DSP的缓存队列中。
3.根据权利要求2所述的方法,其特征在于,在所述在接收到拍照键按下的消息时,所述方法还包括:
暂停在所述缓存队列中缓存所述摄像头输出的第一图像数据;
按照所述第一清晰度由高到低对所述第一图像数据进行排序。
4.根据权利要求3所述的方法,其特征在于,所述缓存队列缓存有N个第一图像数据,所述基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据的步骤包括:
对比所述第一清晰度和所述第二清晰度;
若在所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低的第一图像数据;
将所述替换后的第二图像数据作为第一图像数据。
5.根据权利要求4所述的方法,其特征在于,在接收到拍照键抬起的消息时,所述方法还包括:
若所述缓存队列中不存在所述第一清晰度低于所述第二清晰度的第一图像数据,则舍弃所述第二图像数据。
6.根据权利要求4或5所述的方法,其特征在于,在接收到拍照键抬起的消息时,所述方法还包括:
停止在所述缓存队列中采用所述第二图像数据替换所述第一图像数据的运行。
7.一种移动终端,其特征在于,所述移动终端包括与摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端包括:
第一图像数据接收模块,用于所述DSP循环接收所述摄像头输出的第一图像数据;
第一清晰度计算模块,用于在接收到拍照键按下的消息时,计算所述第一图像数据的第一清晰度;
第二图像数据接收模块,用于在接收到拍照键按下的消息后并且尚未接收到拍照键抬起的消息时,继续接收所述摄像头输出的第二图像数据;
第二清晰度计算模块,用于计算所述第二图像数据的第二清晰度;
清晰度对比模块,用于基于所述第一清晰度和所述第二清晰度,从所述第一图像数据和第二图像数据筛选出清晰度排序在前N位的图像数据;
图像数据输出模块,用于在接收到拍照键抬起的消息时,将所述排序在前N位的图像数据输出至所述ISP以在所述ISP进行图像处理。
8.根据权利要求7所述的移动终端,其特征在于,还包括:
第一图像数据缓存模块,用于将所述第一图像数据缓存到所述DSP的缓存队列中。
9.根据权利要求8所述的移动终端,其特征在于,在所述在接收到拍照键按下的消息时,所述移动终端还包括:
缓存队列暂停缓存模块,用于暂停在所述缓存队列中缓存所述摄像头输出的第一图像数据;
清晰度排序模块,用于按照所述第一清晰度由高到低对所述第一图像数据进行排序。
10.根据权利要求9所述的移动终端,其特征在于,所述缓存队列缓存有N个第一图像数据,所述清晰度对比模块包括:
清晰度比对子模块,用于对比所述第一清晰度和所述第二清晰度;
图像数据替换子模块,用于若在所述缓存队列中存在所述第一清晰度低于所述第二清晰度的第一图像数据,则在所述缓存队列中采用所述第二图像数据替换所述第一清晰度排序在最低的第一图像数据;
图像数据处理子模块,用于将所述替换后的第二图像数据作为第一图像数据。
11.根据权利要求10所述的移动终端,其特征在于,所述移动终端还包括:
图像数据舍弃子模块,用于若所述缓存队列中不存在所述第一清晰度低于所述第二清晰度的第一图像数据,则舍弃所述第二图像数据。
12.根据权利要求10或11所述的移动终端,其特征在于,在接收到拍照键抬起的消息时,所述移动终端还包括:
缓存队列停止缓存子模块,用于停止在所述缓存队列中采用所述第二图像数据替换所述第一图像数据的运行。
CN201710528145.2A 2017-06-30 2017-06-30 一种图像数据的处理方法和移动终端 Active CN107222679B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710528145.2A CN107222679B (zh) 2017-06-30 2017-06-30 一种图像数据的处理方法和移动终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710528145.2A CN107222679B (zh) 2017-06-30 2017-06-30 一种图像数据的处理方法和移动终端

Publications (2)

Publication Number Publication Date
CN107222679A true CN107222679A (zh) 2017-09-29
CN107222679B CN107222679B (zh) 2019-01-22

Family

ID=59951666

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710528145.2A Active CN107222679B (zh) 2017-06-30 2017-06-30 一种图像数据的处理方法和移动终端

Country Status (1)

Country Link
CN (1) CN107222679B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109040599A (zh) * 2018-08-30 2018-12-18 杭州麦乐克科技股份有限公司 一种图像数据采集方法及其设备
CN110049247A (zh) * 2019-04-28 2019-07-23 Oppo广东移动通信有限公司 图像优选方法、装置、电子设备及可读存储介质
CN111294502A (zh) * 2018-12-07 2020-06-16 中国移动通信集团终端有限公司 拍照方法、具有拍照功能的装置、设备及存储介质
CN111917993A (zh) * 2019-05-07 2020-11-10 株式会社摩如富 图像处理装置、方法、拍摄装置及其程序的记录介质
CN111970468A (zh) * 2019-05-20 2020-11-20 北京小米移动软件有限公司 摄像头共享方法、装置及计算机可读存储介质
CN115225819A (zh) * 2022-07-20 2022-10-21 哲库科技(上海)有限公司 图像拍摄方法、装置、芯片、终端及存储介质
WO2024007748A1 (zh) * 2022-07-05 2024-01-11 荣耀终端有限公司 拍照时显示缩略图的方法和电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011078136A (ja) * 2011-01-11 2011-04-14 Hitachi Ltd 映像ノイズ削減処理装置及び映像処理装置
CN105654463A (zh) * 2015-11-06 2016-06-08 乐视移动智能信息技术(北京)有限公司 应用于连拍过程中的图像处理方法和装置
CN105812553A (zh) * 2015-09-24 2016-07-27 维沃移动通信有限公司 一种快速拍照方法及移动终端
CN106127698A (zh) * 2016-06-15 2016-11-16 深圳市万普拉斯科技有限公司 图像降噪处理方法和装置
CN106851112A (zh) * 2017-03-21 2017-06-13 惠州Tcl移动通信有限公司 一种移动终端的拍照方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011078136A (ja) * 2011-01-11 2011-04-14 Hitachi Ltd 映像ノイズ削減処理装置及び映像処理装置
CN105812553A (zh) * 2015-09-24 2016-07-27 维沃移动通信有限公司 一种快速拍照方法及移动终端
CN105654463A (zh) * 2015-11-06 2016-06-08 乐视移动智能信息技术(北京)有限公司 应用于连拍过程中的图像处理方法和装置
CN106127698A (zh) * 2016-06-15 2016-11-16 深圳市万普拉斯科技有限公司 图像降噪处理方法和装置
CN106851112A (zh) * 2017-03-21 2017-06-13 惠州Tcl移动通信有限公司 一种移动终端的拍照方法及系统

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109040599A (zh) * 2018-08-30 2018-12-18 杭州麦乐克科技股份有限公司 一种图像数据采集方法及其设备
CN111294502A (zh) * 2018-12-07 2020-06-16 中国移动通信集团终端有限公司 拍照方法、具有拍照功能的装置、设备及存储介质
CN110049247A (zh) * 2019-04-28 2019-07-23 Oppo广东移动通信有限公司 图像优选方法、装置、电子设备及可读存储介质
CN111917993A (zh) * 2019-05-07 2020-11-10 株式会社摩如富 图像处理装置、方法、拍摄装置及其程序的记录介质
CN111970468A (zh) * 2019-05-20 2020-11-20 北京小米移动软件有限公司 摄像头共享方法、装置及计算机可读存储介质
WO2024007748A1 (zh) * 2022-07-05 2024-01-11 荣耀终端有限公司 拍照时显示缩略图的方法和电子设备
CN115225819A (zh) * 2022-07-20 2022-10-21 哲库科技(上海)有限公司 图像拍摄方法、装置、芯片、终端及存储介质

Also Published As

Publication number Publication date
CN107222679B (zh) 2019-01-22

Similar Documents

Publication Publication Date Title
CN107222679A (zh) 一种图像数据的处理方法和移动终端
CN105827971B (zh) 一种图像处理方法及移动终端
CN107277387B (zh) 高动态范围图像拍摄方法、终端及计算机可读存储介质
CN107302664A (zh) 一种拍摄方法及移动终端
CN105872148B (zh) 一种高动态范围图像的生成方法及移动终端
CN107205119B (zh) 一种图像数据的处理方法和装置
CN107172296A (zh) 一种图像拍摄方法及移动终端
CN107231530A (zh) 一种拍照方法及移动终端
CN107197169A (zh) 一种高动态范围图像拍摄方法及移动终端
CN107222680A (zh) 一种全景图像的拍摄方法和移动终端
CN107395997A (zh) 一种拍摄方法及移动终端
CN107395998A (zh) 一种图像拍摄方法及移动终端
CN107635093A (zh) 一种图像处理方法、移动终端及计算机可读存储介质
CN107613218A (zh) 一种高动态范围图像的拍摄方法及移动终端
CN106791357A (zh) 一种拍摄方法和移动终端
CN107395898A (zh) 一种拍摄方法及移动终端
CN107395969A (zh) 一种拍摄方法及移动终端
CN107147837A (zh) 一种拍摄参数的设置方法和移动终端
CN107277351A (zh) 一种图像数据的处理方法和移动终端
CN107222681A (zh) 一种图像数据的处理方法和移动终端
CN105959574B (zh) 一种拍照方法及移动终端
CN107222686A (zh) 一种图像数据的处理方法和装置
CN107222669A (zh) 一种拍摄的方法和移动终端
CN106657793A (zh) 一种图像处理方法及移动终端
CN107172361A (zh) 一种全景拍摄的方法及移动终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant