CN107343120A - 一种图像数据的处理方法和移动终端 - Google Patents
一种图像数据的处理方法和移动终端 Download PDFInfo
- Publication number
- CN107343120A CN107343120A CN201710527221.8A CN201710527221A CN107343120A CN 107343120 A CN107343120 A CN 107343120A CN 201710527221 A CN201710527221 A CN 201710527221A CN 107343120 A CN107343120 A CN 107343120A
- Authority
- CN
- China
- Prior art keywords
- data
- view data
- depth
- image
- isp
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computing Systems (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
Abstract
本发明实施例提供了一种图像数据的处理方法和移动终端,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:确定当前摄像模式;根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;采用所述第一图像数据和所述第二图像数据计算,得到景深数据;将所述第一图像数据、第二图像数据和景深数据发送至ISP;所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。本发明实施例通过结合DSP和ISP来对于图像数据进行处理,可以提高处理速度。
Description
技术领域
本发明涉及通信技术领域,特别是涉及一种图像数据的处理方法和移动终端。
背景技术
现有的移动终端越来越看重相机拍照成像效果、图像的噪点和清晰度的表现,这些也越来越成为商家的主要竞争因素。
目前移动终端的平台处理器厂商的图像处理技术在细节上各不相同,但一般采用如下方法:在经过ISP(Image Signal Processing,图像信号处理)进行图像处理得到RGB、YUV等格式的图像数据之后,进行图像数据的去噪和清晰度的提升。
这种依靠ISP完成对于图像数据的处理的方法,处理速度慢。
发明内容
本发明实施例提供一种图像数据的方法和移动终端,以解决图像数据在ISP处理之后,图像数据的噪声特性变得复杂,导致最终图像质量不高的问题。
第一方面,提供了一种图像数据的处理方法,应用于移动终端,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:
确定当前摄像模式;
根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
采用所述第一图像数据和所述第二图像数据计算,得到景深数据;
将所述第一图像数据、第二图像数据和景深数据发送至ISP;
所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
第二方面,提供了一种移动终端,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端包括:
当前摄像模式确定模块,用于确定当前摄像模式;
图像数据获取模块,用于根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
景深数据计算模块,用于采用所述第一图像数据和所述第二图像数据计算,得到景深数据;
数据发送模块,用于将所述第一图像数据、第二图像数据和景深数据发送至ISP;
图像处理模块,用于所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体来说,首先确定当前摄像模式,并基于该摄像模式在DSP接收图像数据,并在DSP处基于图像数据计算景深数据,然后将计算得到的景深数据和图像数据发送给后端ISP进行进一步的图像处理,通过结合DSP和ISP来对于图像数据进行处理,可以提高处理速度。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一的一种图像数据的处理方法实施例的步骤流程图;
图2是本发明的一种添加DSP后的双摄硬件架构图;
图3是本发明实施例二的一种移动终端实施例的结构框图;
图4是本发明另一个实施例的移动终端的框图;
图5是本发明又一个实施例的移动终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
参照图1,示出了本发明的一种图像数据的处理方法实施例的步骤流程图,应用于移动终端,所述移动终端包括至少两个摄像头、与至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法具体可以包括如下步骤:
步骤101,确定当前摄像模式;
在本发明实施例中,移动终端可以具有多种摄像模式,例如预览模式和拍摄模式,当然,还可以包括其他摄像模式。
步骤102,根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
在具体实现中,移动终端上具有摄像头,摄像头的数量可以是两个,当然也可以是三个或者三个以上。本发明实施例在原有的移动终端的硬件框架基础上,添加DSP(DigitalSignal Processing,数字信号处理器),使得图像数据在进入ISP之前,能够进行更多的图像处理,提升图像数据的图像质量。
需要说明的是,本发明实施例在原有的移动终端的硬件框架基础上,添加DSP(Digital Signal Processing,数字信号处理器),使得图像数据在进入ISP(Image SignalProcessing,图像信号处理)之前,能够实现更多的图像处理功能,提升图像数据的图像质量。具体地,摄像头的摄像模组中具有sensor(传感器),在移动终端设置有与摄像头的sensor和ISP相连的DSP。通常,ISP在移动终端中作为摄像头的sensor输出信号处理的单元,以匹配不同厂商的sensor。
其中,DSP,sensor和ISP之间,可以通过MIPI(Mobile Industry ProcessorInterface,移动产业处理器接口)连接,MIPI将手机内部的接口如摄像头、显示屏接口、射频/基带接口等标准化,可以减少手机设计的复杂程度和增加设计灵活性。当然,DSP,sensor和ISP之间还可以通过其他接口进行连接,本发明实施例对此无需加以限制。
本发明实施例的DSP硬件模块,是在RAW区间(例如对为Bayer格式等格式的RAW图像进行处理,RAW图像由于未在ISP进行转换成为YUV等格式,因此数据量更多,细节信息丰富)的图像数据进行去噪等操作,让图像数据在进入ISP之前,就有比较好的噪声表现,并且通过DSP来处理图像数据,相对于在ISP处理而言速度快,且在DSP还能使用多种算法实现多种功能。通过在DSP对于图像数据进行预处理,减少在ISP处理过程中,降低后端处理难度,最终得到更好的图像品质。
ISP是可以集成于AP(Application Processor,应用处理器)中,也可以是独立的芯片,本发明实施例对此无需加以限制,在DSP得到结果的RAW图像之后再发送进行ISP处理,使得图像数据更加清晰、自然和美观。
参照图2,其为本发明的一种添加DSP后的双摄硬件架构图,vip0和vip1是DSP两个sensor的数据接收端口,vop0和vop1是DSP两个sensor的数据输出端口。DSP可以通过vip端口接收图像数据,并通过vop端口输出图像数据。优选地,本发明实施例可以基于当前摄像模式来获取摄像头的sensor输出的图像数据。
在本发明的一种优选实施例中,所述步骤102可以包括:
当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
在本发明实施例中,当进入预览模式后,DSP接收的是采样后的图像数据,此时的图像数据的大小为完整大小的一半或四分之一。例如,最简单的下采样,就是每四个像素取其中一个。具体的采样方法可以根据不同算法有所不同。当进入拍摄模式后,DSP接收的是未经采样后的图像数据,即图像数据是完整的大小,包含有更多的数据量。
在本发明的一种优选实施例中,所述第一图像数据和所述第二图像数据具有指定字符串,在所述步骤102之后,还可以包括:
当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
在本发明实施例中,可以根据帧头(sof,start of frame)的方式中断将双摄像头的sensor的输入的图像数据进行同步。具体地,Sensor输出图像数据的时候,在每一帧图像数据的头部,都有一个特定的一串字符串,当平台AP的ISP检查到这一串字符串之后,就会产生一个中断指令。每一个中断指令具体做什么,都可以根据自己的需要去定义。本发明实施例所产生的中断指令,是通知DSP将双摄像头sensor的输入的图像数据进行同步。当然,本发明还可以选用其他方式来实现数据同步,只要能在DSP实现即可。
步骤103,采用所述第一图像数据和所述第二图像数据计算景深数据;
在DSP完成第一图像数据和第二图像数据的同步时,将采用到第一图像数据和第二图像数据去计算景深数据。
在本发明的一种优选实施例中,在所述步骤103之后,还可以包括:
读取当前系统时间;
将所述当前系统时间作为时间戳添加到所述景深数据。
本发明实施例的AP侧,可以在sof中断中读取DSP的系统时间作为时间戳,并添加到景深数据中,从而可以基于系统时间来确定景深数据是否是最新的数据。
步骤104,将所述第一图像数据、第二图像数据和景深数据发送至ISP;
在DSP计算出景深数据时,就可以将第一图像数据、第二图像数据和景深数据发送至ISP进行进一步处理。
步骤105,在所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
在本发明的一种优选实施例中,所述第一图像数据和第二图像数据分别具有对应的时间戳,所述步骤105可以包括:
生成用于提醒景深数据生成的提示信息;
当在所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;
采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
本发明实施例在生成景深数据时,可以生成提示信息(msg),以提醒AP内的ISP去读取最新的景深数据。AP根据最近准则,将景深数据的时间戳和图像数据的时间戳进行匹配选择,然后采用所选择的图像数据和景深数据生成景深图像数据。当摄像头输出有多个图像数据至ISP时,可以生成多个景深图像数据,当然,也可以仅生成一个基于主摄像头输出的图像数据和景深数据的景深图像数据。
此外,本发明实施例还可以基于sensor输出的图像数据进行3A调整等操作。参照图2,可以看到移动终端的硬件架构时具有两个sensor,对应了两个ISP接口,分别是ISP0和ISP1。AP端通过ISP0和ISP1接收到两路的图像数据之后,利用内部自带算法,计算出两路图像数据对应的3A数据,然后,分别传回到两个sensor中,控制两个sensor基于3A数据进行3A调整。
为了使本领域技术人员更好地理解本发明实施例,以下采用简单的示例进行说明。参照图2,本发明实施例基于图2的流程要点有如下几点:
1、双摄像头的sensor的3A由AP控制。
2、DSP根据帧头中断将双摄像头的sensor的输入数据进行同步
3、在预览模式下:
3.1、DSP预览模式下接受下采样后的图像数据,(暂且假设宽高各1/4下采样);
3.2、DSP根据下采样后的数据进行depth map计算。
3.3、DSP在计算完成的depth map中加入时间戳。
3.4、AP侧在帧头中断中读取dsp的timer做为时间戳。
3.5、DSP发送msg提醒AP读取最新的depth map。
3.6、AP根据最近准则,将depth map的时间戳和图像的时间戳进行匹配选择,匹配选择完成后可以进行合成景深图像数据的操作。
4、在拍照模式下:
4.1、拍照时,DSP在接收到拍照指令的下一帧,接收完整大小(size)的图像数据(此时可以称为raw data),利用这个rawdata计算大的depth map。
4.2、计算完成后,通知AP接收大数据的depth map。
4.3、AP根据depth map中的时间戳和接收的图像数据的时间戳进行匹配选择,匹配选择完成后可以进行合成景深图像数据的操作。
应用本发明实施例,降低了预览图像数据的处理数据,降低了数据带宽,降低了系统的要求。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,然后再发送给后端ISP进行进一步处理,通过DSP和ISP一起处理图像数据,可以提高处理效率。
需要说明的是,对于方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明实施例并不受所描述的动作顺序的限制,因为依据本发明实施例,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作并不一定是本发明实施例所必须的。
实施例二
参照图3,示出了本发明的一种移动终端实施例的结构框图,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端具体可以包括如下模块:
当前摄像模式确定模块201,用于确定当前摄像模式;
图像数据获取模块202,用于根根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
景深数据计算模块203,用于采用所述第一图像数据和所述第二图像数据计算,得到景深数据;
数据发送模块204,用于将所述第一图像数据、第二图像数据和景深数据发送至ISP;
图像处理模块205,用于所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
在本发明的一种优选实施例中,还包括:
同步模块,用于当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
在本发明的一种优选实施例中,所述图像数据获取模块包括:
图像数据获取子模块,用于当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
在本发明的一种优选实施例中,还包括:
时间读取模块,用于读取当前系统时间;
时间戳添加模块,用于将所述当前系统时间作为时间戳添加到所述景深数据。
在本发明的一种优选实施例中,所述第一图像数据和第二图像数据分别具有对应的时间戳,所述图像处理模块包括:
提示信息生成子模块,用于生成用于提醒景深数据生成的提示信息;
景深数据读取子模块,用于当所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;
景深图像数据生成子模块,用于采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
对于移动终端实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体来说,首先确定当前摄像模式,并基于该摄像模式在DSP接收图像数据,并在DSP处基于图像数据计算景深数据,然后将计算得到的景深数据和图像数据发送给后端ISP进行进一步的图像处理,通过结合DSP和ISP来对于图像数据进行处理,可以提高处理速度。
实施例三
图4是本发明另一个实施例的移动终端的框图。图4所示的移动终端700包括:至少一个处理器701、存储器702、至少一个网络接口704和其他用户接口703。移动终端700中的各个组件通过总线系统705耦合在一起。可理解,总线系统705用于实现这些组件之间的连接通信。总线系统705除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图4中将各种总线都标为总线系统705。
其中,用户接口703可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器702可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-OnlyMemory,ROM)、可编程只读存储器(ProgrammableROM,PROM)、可擦除可编程只读存储器(ErasablePROM,EPROM)、电可擦除可编程只读存储器(ElectricallyEPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(RandomAccessMemory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(StaticRAM,SRAM)、动态随机存取存储器(DynamicRAM,DRAM)、同步动态随机存取存储器(SynchronousDRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(DoubleDataRateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(SynchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambusRAM,DRRAM)。本发明实施例描述的系统和方法的存储器702旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器702存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:操作系统7021和应用程序7022。
其中,操作系统7021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序7022,包含各种应用程序,例如媒体播放器(MediaPlayer)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序7022中。
在本发明实施例中,通过调用存储器702存储的程序或指令,具体的,可以是应用程序7022中存储的程序或指令,处理器701用于确定当前摄像模式;根据所述当前摄像模式,所述DSP获取所述第一摄像头输出的第一图像数据,以及,所述第二摄像头输出的第二图像数据;采用所述第一图像数据和所述第二图像数据计算景深数据;将所述第一图像数据、第二图像数据和景深数据发送至ISP;在所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
上述本发明实施例揭示的方法可以应用于处理器701中,或者由处理器701实现。处理器701可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器701中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器701可以是通用处理器、数字信号处理器(DigitalSignalProcessor,DSP)、专用集成电路(ApplicationSpecific IntegratedCircuit,ASIC)、现成可编程门阵列(FieldProgrammableGateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器702,处理器701读取存储器702中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本发明实施例描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecificIntegratedCircuits,ASIC)、数字信号处理器(DigitalSignalProcessing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(ProgrammableLogicDevice,PLD)、现场可编程门阵列(Field-ProgrammableGateArray,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本发明实施例所述功能的模块(例如过程、函数等)来实现本发明实施例所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
可选地,处理器701还用于:当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
可选地,处理器701还用于:当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
可选地,处理器701还用于:读取当前系统时间;将所述当前系统时间作为时间戳添加到所述景深数据。
可选地,处理器701还用于:生成用于提醒景深数据生成的提示信息;当在所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
移动终端700能够实现前述实施例中移动终端实现的各个过程,为避免重复,这里不再赘述。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体来说,首先确定当前摄像模式,并基于该摄像模式在DSP接收图像数据,并在DSP处基于图像数据计算景深数据,然后将计算得到的景深数据和图像数据发送给后端ISP进行进一步的图像处理,通过结合DSP和ISP来对于图像数据进行处理,可以提高处理速度。
实施例四
图5是本发明另一个实施例的移动终端的结构示意图。具体地,图5中的移动终端800可以为手机、平板电脑、个人数字助理(PersonalDigital Assistant,PDA)、或车载电脑等。
图5中的移动终端800包括射频(RadioFrequency,RF)电路810、存储器820、输入单元830、显示单元840、处理器860、音频电路870、WiFi(WirelessFidelity)模块880和电源890。
其中,输入单元830可用于接收用户输入的数字或字符信息,以及产生与移动终端800的用户设置以及功能控制有关的信号输入。具体地,本发明实施例中,该输入单元830可以包括触控面板831。触控面板831,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板831上的操作),并根据预先设定的程式驱动相应的连接装置。可选的,触控面板831可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给该处理器860,并能接收处理器860发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板831。除了触控面板831,输入单元830还可以包括其他输入设备832,其他输入设备832可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
其中,显示单元840可用于显示由用户输入的信息或提供给用户的信息以及移动终端800的各种菜单界面。显示单元840可包括显示面板841,可选的,可以采用LCD或有机发光二极管(OrganicLight-EmittingDiode,OLED)等形式来配置显示面板841。
应注意,触控面板831可以覆盖显示面板841,形成触摸显示屏,当该触摸显示屏检测到在其上或附近的触摸操作后,传送给处理器860以确定触摸事件的类型,随后处理器860根据触摸事件的类型在触摸显示屏上提供相应的视觉输出。
触摸显示屏包括应用程序界面显示区及常用控件显示区。该应用程序界面显示区及该常用控件显示区的排列方式并不限定,可以为上下排列、左右排列等可以区分两个显示区的排列方式。该应用程序界面显示区可以用于显示应用程序的界面。每一个界面可以包含至少一个应用程序的图标和/或widget桌面控件等界面元素。该应用程序界面显示区也可以为不包含任何内容的空界面。该常用控件显示区用于显示使用率较高的控件,例如,设置按钮、界面编号、滚动条、电话本图标等应用程序图标等。
其中处理器860是移动终端800的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在第一存储器821内的软件程序和/或模块,以及调用存储在第二存储器822内的数据,执行移动终端800的各种功能和处理数据,从而对移动终端800进行整体监控。可选的,处理器860可包括一个或多个处理单元。
在本发明实施例中,通过调用存储该第一存储器821内的软件程序和/或模块和/或该第二存储器822内的数据,处理器860用于确定当前摄像模式;根据所述当前摄像模式,所述DSP获取所述第一摄像头输出的第一图像数据,以及,所述第二摄像头输出的第二图像数据;采用所述第一图像数据和所述第二图像数据计算景深数据;将所述第一图像数据、第二图像数据和景深数据发送至ISP;在所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
可选地,所述处理器860还用于,当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
可选地,所述处理器860还用于,当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
可选地,所述处理器860还用于,读取当前系统时间;将所述当前系统时间作为时间戳添加到所述景深数据。
可选地,所述处理器860还用于,生成用于提醒景深数据生成的提示信息;当在所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
对于移动终端800实施例而言,由于其与方法实施例基本相似,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
这样,本发明实施例中,通过在移动终端原有的硬件框架上增加DSP硬件模块,使得本发明实施例可以在图像数据进入ISP之前,可以先一步进行前端进行图像数据的图像处理,具体来说,首先确定当前摄像模式,并基于该摄像模式在DSP接收图像数据,并在DSP处基于图像数据计算景深数据,然后将计算得到的景深数据和图像数据发送给后端ISP进行进一步的图像处理,通过结合DSP和ISP来对于图像数据进行处理,可以提高处理速度。
本领域普通技术人员可以意识到,结合本发明实施例中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种图像数据的处理方法,应用于移动终端,其特征在于,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述方法包括:
确定当前摄像模式;
根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
采用所述第一图像数据和所述第二图像数据计算,得到景深数据;
将所述第一图像数据、第二图像数据和景深数据发送至ISP;
所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
2.根据权利要求1所述的方法,其特征在于,所述第一图像数据和所述第二图像数据具有指定字符串,所述DSP获取所述第一摄像头输出的第一图像数据,以及,所述第二摄像头输出的第二图像数据的步骤之后,还包括:
当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
3.根据权利要求1所述的方法,其特征在于,所述根据所述当前摄像模式,所述DSP获取所述第一摄像头输出的第一图像数据,以及,所述第二摄像头输出的第二图像数据的步骤包括:
当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
4.根据权利要求1所述的方法,其特征在于,在所述采用所述第一图像数据和所述第二图像数据计算景深数据的步骤之后,还包括:
读取当前系统时间;
将所述当前系统时间作为时间戳添加到所述景深数据。
5.根据权利要求1所述的方法,其特征在于,所述第一图像数据和第二图像数据分别具有对应的时间戳,所述在所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理的步骤包括:
生成用于提醒景深数据生成的提示信息;
当在所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;
采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
6.一种移动终端,其特征在于,所述移动终端包括至少两个摄像头、与所述至少两个摄像头和图像信号处理器ISP相连接的数字信号处理器DSP,所述移动终端包括:
当前摄像模式确定模块,用于确定当前摄像模式;
图像数据获取模块,用于根据所述当前摄像模式,所述DSP获取第一摄像头输出的第一图像数据,以及,第二摄像头输出的第二图像数据;
景深数据计算模块,用于采用所述第一图像数据和所述第二图像数据计算,得到景深数据;
数据发送模块,用于将所述第一图像数据、第二图像数据和景深数据发送至ISP;
图像处理模块,用于所述ISP基于所述第一图像数据、第二图像数据和/或景深数据进行图像处理。
7.根据权利要求6所述的移动终端,其特征在于,还包括:
同步模块,用于当检测到所述第一图像数据和所述第二图像数据具有指定字符串时,同步所述第一图像数据和所述第二图像数据。
8.根据权利要求6所述的移动终端,其特征在于,所述图像数据获取模块包括:
图像数据获取子模块,用于当所述当前摄像模式为预览模式时,所述DSP获取经采样后的所述第一摄像头输出的第一图像数据,以及,经采样后的所述第二摄像头输出的第二图像数据。
9.根据权利要求6所述的移动终端,其特征在于,还包括:
时间读取模块,用于读取当前系统时间;
时间戳添加模块,用于将所述当前系统时间作为时间戳添加到所述景深数据。
10.根据权利要求6所述的移动终端,其特征在于,所述第一图像数据和第二图像数据分别具有对应的时间戳,所述图像处理模块包括:
提示信息生成子模块,用于生成用于提醒景深数据生成的提示信息;
景深数据读取子模块,用于当在所述ISP接收到所述提示信息时,读取时间戳与所述第一图像数据的时间戳最相近的景深数据,或者,读取时间戳与所述第二图像数据的时间戳最相近的景深数据;
景深图像数据生成子模块,用于采用所述景深数据和所述第一图像数据生成第一景深图像数据,或者,采用所述景深数据和所述第二图像数据生成第二景深图像数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710527221.8A CN107343120A (zh) | 2017-06-30 | 2017-06-30 | 一种图像数据的处理方法和移动终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710527221.8A CN107343120A (zh) | 2017-06-30 | 2017-06-30 | 一种图像数据的处理方法和移动终端 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107343120A true CN107343120A (zh) | 2017-11-10 |
Family
ID=60219471
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710527221.8A Pending CN107343120A (zh) | 2017-06-30 | 2017-06-30 | 一种图像数据的处理方法和移动终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107343120A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108024056A (zh) * | 2017-11-30 | 2018-05-11 | 广东欧珀移动通信有限公司 | 基于双摄像头的成像方法和装置 |
CN111343375A (zh) * | 2018-12-19 | 2020-06-26 | 北京小米移动软件有限公司 | 图像信号处理方法及装置、电子设备、存储介质 |
CN111491095A (zh) * | 2020-02-24 | 2020-08-04 | RealMe重庆移动通信有限公司 | 图像虚化方法、装置和电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060007321A1 (en) * | 2005-03-26 | 2006-01-12 | David Huai | A Distributed Image and Signal Processing Apparatus For Camera Phone Applications |
CN104717480A (zh) * | 2014-01-28 | 2015-06-17 | 杭州海康威视数字技术股份有限公司 | 双目相机的像素级同步图像获取装置及其方法 |
CN105657394A (zh) * | 2014-11-14 | 2016-06-08 | 东莞宇龙通信科技有限公司 | 基于双摄像头的拍摄方法、拍摄装置及移动终端 |
CN206042072U (zh) * | 2016-07-26 | 2017-03-22 | 深圳众思科技有限公司 | 一种双摄像头装置及终端 |
CN106878598A (zh) * | 2017-03-13 | 2017-06-20 | 联想(北京)有限公司 | 处理方法及电子设备 |
-
2017
- 2017-06-30 CN CN201710527221.8A patent/CN107343120A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060007321A1 (en) * | 2005-03-26 | 2006-01-12 | David Huai | A Distributed Image and Signal Processing Apparatus For Camera Phone Applications |
CN104717480A (zh) * | 2014-01-28 | 2015-06-17 | 杭州海康威视数字技术股份有限公司 | 双目相机的像素级同步图像获取装置及其方法 |
CN105657394A (zh) * | 2014-11-14 | 2016-06-08 | 东莞宇龙通信科技有限公司 | 基于双摄像头的拍摄方法、拍摄装置及移动终端 |
CN206042072U (zh) * | 2016-07-26 | 2017-03-22 | 深圳众思科技有限公司 | 一种双摄像头装置及终端 |
CN106878598A (zh) * | 2017-03-13 | 2017-06-20 | 联想(北京)有限公司 | 处理方法及电子设备 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108024056A (zh) * | 2017-11-30 | 2018-05-11 | 广东欧珀移动通信有限公司 | 基于双摄像头的成像方法和装置 |
CN108024056B (zh) * | 2017-11-30 | 2019-10-29 | Oppo广东移动通信有限公司 | 基于双摄像头的成像方法和装置 |
US10742860B2 (en) | 2017-11-30 | 2020-08-11 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Method and device for double-camera-based imaging |
CN111343375A (zh) * | 2018-12-19 | 2020-06-26 | 北京小米移动软件有限公司 | 图像信号处理方法及装置、电子设备、存储介质 |
CN111491095A (zh) * | 2020-02-24 | 2020-08-04 | RealMe重庆移动通信有限公司 | 图像虚化方法、装置和电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106791400B (zh) | 一种图像显示方法及移动终端 | |
CN105827971B (zh) | 一种图像处理方法及移动终端 | |
CN105872148B (zh) | 一种高动态范围图像的生成方法及移动终端 | |
CN106657814B (zh) | 一种视频录制方法及移动终端 | |
CN105827952B (zh) | 一种去除指定对象的拍照方法及移动终端 | |
CN107197169A (zh) | 一种高动态范围图像拍摄方法及移动终端 | |
CN107277351A (zh) | 一种图像数据的处理方法和移动终端 | |
CN107172361B (zh) | 一种全景拍摄的方法及移动终端 | |
CN106101545B (zh) | 一种图像处理方法及移动终端 | |
CN105827754B (zh) | 一种高动态范围图像的生成方法及移动终端 | |
CN106126108B (zh) | 一种缩略图的生成方法及移动终端 | |
CN107222680A (zh) | 一种全景图像的拍摄方法和移动终端 | |
CN105959544B (zh) | 一种移动终端的图像处理方法及移动终端 | |
CN107205119B (zh) | 一种图像数据的处理方法和装置 | |
CN106534685A (zh) | 一种全景图像生成方法及移动终端 | |
CN107395976B (zh) | 一种拍摄参数设置方法及移动终端 | |
CN106648035A (zh) | 一种图像分辨率的调整方法及移动终端 | |
CN107302664A (zh) | 一种拍摄方法及移动终端 | |
CN107395997A (zh) | 一种拍摄方法及移动终端 | |
CN107222681B (zh) | 一种图像数据的处理方法和移动终端 | |
CN107172346A (zh) | 一种虚化方法及移动终端 | |
CN107026982B (zh) | 一种移动终端的拍照方法及移动终端 | |
CN107222669A (zh) | 一种拍摄的方法和移动终端 | |
CN107302655B (zh) | 一种拍摄取景的调节方法及移动终端 | |
CN107222679A (zh) | 一种图像数据的处理方法和移动终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171110 |
|
RJ01 | Rejection of invention patent application after publication |