CN109600548B - 图像处理方法和装置、电子设备、计算机可读存储介质 - Google Patents

图像处理方法和装置、电子设备、计算机可读存储介质 Download PDF

Info

Publication number
CN109600548B
CN109600548B CN201811457427.9A CN201811457427A CN109600548B CN 109600548 B CN109600548 B CN 109600548B CN 201811457427 A CN201811457427 A CN 201811457427A CN 109600548 B CN109600548 B CN 109600548B
Authority
CN
China
Prior art keywords
image
camera
offset
original image
calibration information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811457427.9A
Other languages
English (en)
Other versions
CN109600548A (zh
Inventor
方攀
陈岩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201811457427.9A priority Critical patent/CN109600548B/zh
Publication of CN109600548A publication Critical patent/CN109600548A/zh
Application granted granted Critical
Publication of CN109600548B publication Critical patent/CN109600548B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请涉及一种图像处理方法、装置、电子设备、计算机可读存储介质,所述方法包括:获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件;根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,并根据所述图像偏移量对所述第一原始图像进行第一校正处理,得到第一中间图像;获取所述第一摄像头和第二摄像头对应的标定信息;根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。上述图像处理方法、装置、电子设备、计算机可读存储介质,可以提高图像处理的准确性。

Description

图像处理方法和装置、电子设备、计算机可读存储介质
技术领域
本申请涉及影像技术领域,特别是涉及一种图像处理方法、装置、电子设备、计算机可读存储介质。
背景技术
在拍摄图像的过程中,电子设备可能会产生某些偏移或抖动。由于摄像头在拍摄图像的时候,曝光需要一定的时长,如果曝光的时候摄像头产生了偏移或抖动,就会造成成像物体的移动,从而使得生成的图像产生模糊等问题。
发明内容
本申请实施例提供一种图像处理方法、装置、电子设备、计算机可读存储介质,可以提高图像处理的准确性。
一种图像处理方法,包括:
获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件;
根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,并根据所述图像偏移量对所述第一原始图像进行第一校正处理,得到第一中间图像;
获取所述第一摄像头和第二摄像头对应的标定信息;
根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
一种图像处理装置,包括:
图像拍摄模块,用于获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件;
第一校正模块,用于根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,并根据所述图像偏移量对所述第一原始图像进行第一校正处理,得到第一中间图像;
信息获取模块,用于获取所述第一摄像头和第二摄像头对应的标定信息;
第二校正模块,用于根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如下步骤:
获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件;
根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,并根据所述图像偏移量对所述第一原始图像进行第一校正处理,得到第一中间图像;
获取所述第一摄像头和第二摄像头对应的标定信息;
根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如下步骤:
获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件;
根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,并根据所述图像偏移量对所述第一原始图像进行第一校正处理,得到第一中间图像;
获取所述第一摄像头和第二摄像头对应的标定信息;
根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
上述图像处理方法、装置、电子设备、计算机可读存储介质,可以通过第一摄像头拍摄得到第一原始图像,通过第二摄像头拍摄得到第二原始图像。根据防抖组件的位置可以对第一原始图像进行校正,得到第一中间图像。然后根据第一摄像头和第二摄像头对应的标定信息,对第一中间图像和第二原始图像进行校正,得到第一目标图像和第二目标图像。这样就可以通过防抖组件补偿第一摄像头抖动带来的误差,并根据标定信息对图像进行进一步的补偿,从而提高图像的准确性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中图像处理方法的应用环境示意图;
图2为一个实施例中图像处理方法的流程图;
图3为一个实施例中防抖组件的工作原理示意图;
图4为另一个实施例中图像处理方法的流程图;
图5为一个实施例中防抖组件的偏移量的示意图;
图6为又一个实施例中图像处理方法的流程图;
图7为一个实施例中对第一原始图像和第二原始图像进行校正处理的示意图;
图8为一个实施例的图像处理装置的结构框图;
图9为一个实施例中图像处理电路的示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
可以理解,本申请所使用的术语“第一”、“第二”等可在本文中用于描述各种元件,但这些元件不受这些术语限制。这些术语仅用于将第一个元件与另一个元件区分。举例来说,在不脱离本申请的范围的情况下,可以将第一拟合模型称为第二拟合模型,且类似地,可将第二拟合模型称为第一拟合模型。第一拟合模型和第二拟合模型两者都是拟合模型,但其不是同一拟合模型。
图1为一个实施例中图像处理方法的应用环境示意图。如图1所示,该应用环境包括电子设备10和物体12,电子设备10上安装第一摄像头102和第二摄像头104,第一摄像头102对应设置防抖组件。电子设备10在对物体12进行拍摄的时候,第一摄像头102拍摄得到第一原始图像,第二摄像头104拍摄得到第二原始图像。电子设备10获取到第一原始图像和第二原始图像之后,可以根据防抖组件的位置获取第一原始图像的图像偏移量,并根据图像偏移量对第一原始图像进行第一校正处理,得到第一中间图像。然后获取第一摄像头和第二摄像头对应的标定信息,并根据标定信息对第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。其中,电子设备102可以为手机、电脑、可穿戴设备、个人数字助理等,在此不做限定。
图2为一个实施例中图像处理方法的流程图。如图2所示,该图像处理方法包括步骤202至步骤208。其中:
步骤202,获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,第一摄像头对应设置防抖组件。
电子设备可以设置摄像头,设置的摄像头的数量不限。例如,设置1个、2个、3个、5个等,在此不做限定。摄像头设置于电子设备的形式不限,例如,可以是内置于电子设备的摄像头,也可以外置于电子设备的摄像头;可以是前置摄像头,也可以是后置摄像头。
在本申请提供的实施例中,电子设备设置至少两个摄像头,即第一摄像头和第二摄像头。第一摄像头和第二摄像头可以为任意类型的摄像头。例如,第一摄像头和第二摄像头可以是彩色摄像头、黑白摄像头、激光摄像头、深度摄像头等,不限于此。第一摄像头和第二摄像头可以分别为不同类型的摄像头,例如,第一摄像头为彩色摄像头,第二摄像头为深度摄像头。第一摄像头和第二摄像头可以分别对物体进行拍摄,分别得到第一原始图像和第二原始图像。
在通过电子设备拍摄的过程中,电子设备可能会产生抖动或偏移等情况。由于摄像头采集图像时,需要一定的曝光时间,如果在曝光过程中电子设备产生了抖动或者偏移,那么摄像头采集的图像就可能产生模糊。电子设备可以通过防抖组件来改善抖动引起的模糊,防抖组件即为OIS(Optical Image Stabilization,光学防抖)组件,能在有抖动或偏移的情况下,控制透镜相对于图像传感器平移而对抖动造成的图像偏移进行补偿。具体的,可以对第一摄像头对应设置防抖组件,通过防抖组件减小第一摄像头在拍摄过程中的抖动或偏移。
步骤204,根据防抖组件的位置获取第一原始图像的图像偏移量,并根据图像偏移量对第一原始图像进行第一校正处理,得到第一中间图像。
在电子设备没有抖动的时候,防抖组件位于初始位置。当电子设备产生抖动的时候,防抖组件会产生一定的位移,电子设备可以根据防抖组件的位置得到防抖组件的偏移量,从而根据防抖组件的偏移量得到采集的图像的偏移量,根据得到的图像的偏移量对采集的图像进行补偿。
图3为一个实施例中防抖组件的工作原理示意图。如图3所示,当电子设备没有抖动的时候,防抖组件的中心点处于位置302,当电子设备产生抖动的时候,防抖组件的中心点移动到位置304。根据位置304相对于位置302的位置偏移,就可以计算出电子设备抖动时防抖组件的位置偏移量,从而得到拍摄的图像的偏移量。圆圈306为防抖组件的中心点移动的范围,即防抖组件的中心点只能在圆圈306示意的范围内偏移。
步骤206,获取对第一摄像头和第二摄像头对应的标定信息。
标定处理是指对摄像头成像的几何模型中的参数进行求解的操作,通过摄像头成像的几何模型可以使拍摄的图像还原空间中的物体。标定信息是在对第一摄像头和第二摄像头进行标定处理时得到的。具体的,标定信息可以包括摄像头的内参、外参、畸变系数等参数,在对第一摄像头和第二摄像头进行标定处理得到标定信息之后,可以将标定信息存储在电子设备中。
具体的,在对第一摄像头和第二摄像头标定的过程中,电子设备可以控制第一摄像头和第二摄像头对标定板拍摄得到标定图像,通过拍摄得到的标定图像对第一摄像头和第二摄像头进行标定处理。电子设备可以采用传统摄像头标定法、摄像头自标定方法、介于传统标定方法和自标定方法之间的张正友标定方法等对摄像头进行标定处理,不限于此。
在一个实施例中,标定信息可以包括第一摄像头的内参、外参和畸变系数,第二摄像头的内参、外参和畸变系数,以及第一摄像头和第二摄像头之间的外参。具体的,电子设备可以分别通过第一摄像头拍摄得到第一标定图像,查找第一标定图像的特征点,根据特征点求取第一摄像头对应的内参、外参和畸变系数;电子设备也可以通过第二摄像头拍摄得到第二标定图像,然后根据第二标定图像得到第二摄像头对应的内参、外参和畸变系数,最后根据第一摄像头和第二摄像头对应的外参计算第一摄像头和第二摄像头之间的外参。
步骤208,根据标定信息对第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
在通过摄像头拍摄到图像之后可以获取标定信息,并根据标定信息对摄像头拍摄的图像进行第二校正处理。通过第二校正处理之后可以使得图像还原空间中的物体,同时使得不同摄像头采集的图像之间对齐到同一个坐标系中。
具体的,可以通过第一摄像头的内参、外参和畸变系数对第一中间图像进行自校正,使第一中间图像对应还原空间物体的坐标。通过第二摄像头的内参、外参和畸变系数对第二原始图像进行自校正,使第二原始图像对应还原空间物体的坐标。然后通过第一摄像头和第二摄像头之间的外参对自校正后的第一中间图像和第二原始图像进行对齐校正,使得对齐校正后的第一中间图像和第二原始图像中的像素点对应。
上述实施例提供的图像处理方法,可以通过第一摄像头拍摄得到第一原始图像,通过第二摄像头拍摄得到第二原始图像。根据防抖组件的位置可以对第一原始图像进行校正,得到第一中间图像。然后根据第一摄像头和第二摄像头对应的标定信息,对第一中间图像和第二原始图像进行校正,得到第一目标图像和第二目标图像。这样就可以通过防抖组件补偿第一摄像头抖动带来的误差,并根据标定信息对图像进行进一步的补偿,从而提高图像的准确性。
图4为另一个实施例中图像处理方法的流程图。如图4所示,该图像处理方法包括步骤402至步骤412。其中:
步骤402,当检测到图像采集指令时,控制第一摄像头在第一时刻拍摄第一原始图像,并第二摄像头在第二时刻拍摄第二原始图像,其中,第一时刻与第二时刻之间的时间间隔小于间隔阈值,第一摄像头对应设置防抖组件。
在一个实施例中,图像采集指令是指控制第一摄像头和第二摄像头拍摄的指令,当电子设备检测到图像采集指令的时候,可以对第一摄像头和第二摄像头上电,从而控制第一摄像头和第二摄像头采集图像。例如,用户可以点击拍摄按钮,当电子设备检测到拍摄按钮被按下的时候,生成图像采集指令。
第一摄像头和第二摄像头在拍摄的时候,通常需要保证第一摄像头和第二摄像头拍摄的一致性。因此,在通过第一摄像头和第二摄像头拍摄的时候,需要控制第一摄像头和第二摄像头同时拍摄。
具体的,第一摄像头和第二摄像头可以是并行工作,也可以是分时工作,在此不做限定。控制第一摄像头在第一时刻拍摄第一原始图像,并第二摄像头在第二时刻拍摄第二原始图像,第一时刻和第二时刻之间的时间间隔小于间隔阈值。通常来说,间隔阈值被设置为一个比较小的值,这样才能保证第一摄像头和第二摄像头采集的图像的一致性。例如,间隔阈值为0.5秒、1秒等,不限于此。
在一个实施例中,在生成图像采集指令的时候,图像采集指令中可以携带一个时间戳,这个时间戳用来表示生成这个图像采集指令的时刻。例如,图像采集指令中携带的时间戳可以为“2018年11月23日17:31:01”,表示该图像采集指令是在2018年11月23日17点31分01秒的时候生成的。为避免采集图像的滞后,可以控制第一时刻与时间戳之间的时间间隔小于一个比较小的间隔值,第二时刻与时间戳之间的时间间隔也要小于一个比较小的间隔值,从而保证图像采集的实时性。
步骤404,获取防抖组件的第一位置和第二位置,其中,第一位置为对第一摄像头和第二摄像头进行标定时防抖组件所在的位置,第二位置为第一摄像头拍摄第一原始图像时防抖组件所在的位置。
在拍摄图像的时候,电子设备可以通过角速度传感器或加速度传感器等检测电子设备是否产生抖动。当电子设备产生抖动的时候,防抖组件就会产生偏移而带动摄像头产生偏移。
在本申请提供的实施例中,电子设备可以记录对第一摄像头和第二摄像头进行标定时防抖组件所在的第一位置,然后获取第一摄像头拍摄第一原始图像时防抖组件所在的第二位置,根据第一位置和第二位置可以计算在拍摄第一原始图像时防抖组件的偏移量。防抖组件所在的位置可以根据霍尔传感器的霍尔值来确定,不限于此。
可以理解的是,防抖组件所在的位置可以根据防抖组件所在的平面中的任意一点的位置确定。例如,可以根据防抖组件所在的平面中心点确定防抖组件所在的位置。对防抖组件所在的平面建立坐标系,然后根据防抖组件的平面中的点确定防抖组件在该坐标系中的坐标,即确定防抖组件所在的位置。上述防抖组件的平面一般是指防抖组件产生平移的平面,即防抖组件所在的平行于第一摄像头的图像传感器的平面。
步骤406,根据第一位置和第二位置获取第一原始图像的图像偏移量,其中,图像偏移量包括第一方向上的第一图像偏移量和第二方向上的第二图像偏移量。
防抖组件的偏移量与拍摄图像的偏移量存在一定的对应关系,在获取到第一位置和第二位置之后,就可以确定防抖组件的偏移量,然后根据防抖组件的偏移量确定第一原始图像的偏移量。具体的,在根据防抖组件所在平面建立坐标系之后,防抖组件的偏移量可以看作是防抖组件分别在坐标系的每个分量上的偏移量,因此图像的偏移量也可以看作是图像分别在坐标系的每个分量上的偏移量。
图5为一个实施例中防抖组件的偏移量的示意图。如图5所示,对第一摄像头和第二摄像头进行标定时防抖组件所在的位置为第一位置502,在拍摄第一原始图像时防抖组件所在的位置为第二位置504。假设以第一位置502为原点建立坐标系,那么就可以通过第二位置504的坐标确定防抖组件的偏移量。防抖组件的偏移量就可以表示为在x轴正方向上的偏移量为-Px,y轴正方向上的偏移量为-Py。
具体的,根据第一位置和第二位置获取防抖组件的组件偏移量,根据组件偏移量获取第一原始图像的图像偏移量。组件偏移量的单位为code,图像偏移量的单位为像素(pixel)。根据偏移转换函数,可以将组件偏移量转换为图像偏移量。其中,可以将组件偏移量在上述坐标系中沿x轴的偏移量与沿y轴的偏移量带入至偏移转换函数中,通过计算可以得到对应的图像偏移量。
例如,偏移转换模型可以为二元二次函数模型,可以用如下公式进行表示:
F(ΔX,ΔY)=ax2+by2+cxy+dx+ey+f
上式中,a、b、c、d、e、f分别为常数,也就是已知系数。F(ΔX,ΔY)用于表示当前图像偏移量,x、y分别表示组件偏移量对应的横轴坐标、纵轴坐标。将组件偏移量带入上述公式中,就可以求得图像偏移量。比如当前的组件偏移量为p(2,1),则对应的图像偏移量F(ΔX,ΔY)就可以表示为4a+b+2c+2d+e+f。可以理解的是,上述偏移转换公式还可以其他形式的函数模型,在此不做限定。
步骤408,将第一原始图像在第一方向上移动第一图像偏移量,并将移动第一图像偏移量之后的第一原始图像在第二方向上移动第二图像偏移量,得到第一中间图像。
在一个实施例中,根据偏移转换公式就可以获取组件偏移量对应的图像偏移量,图像偏移量可以确定图像产生偏移的像素点的位移,从而根据图像偏移量对拍摄的图像进行补偿。具体的,可以根据图像偏移量确定第一原始图像分别在第一方向和第二方向上的偏移,从而可以根据图像偏移量将第一原始图像分别从第一方向和第二方向上进行位移,以实现对第一原始图像的补偿。
首先将第一原始图像在第一方向上移动第一图像偏移量,然后再将移动第一图像偏移量之后的第一原始图像在第二方向上移动第二图像偏移量,从而得到第一中间图像。例如,可以根据第一摄像头的图像传感器建立坐标系,根据图像传感器建立的坐标系与上述根据防抖组件建立的坐标系对应。根据图像传感器建立好坐标系之后,就可以确定第一方向是图像传感器所在的坐标系的x轴正方向,第二方向是图像传感器所在的坐标系的y轴正方向。假设第一图像偏移量为30个像素点,第二图像偏移量为21个像素点,那么对第一原始图像进行补偿即为将第一原始图像在第一方向上移动30个像素点,在第二方向上移动21个像素点,从而得到第一中间图像。
步骤410,获取第一摄像头和第二摄像头对应的标定信息。
可以理解的是,摄像头在拍摄图像的时候,摄像头可能会发热,发热之后可能会使摄像头产生形变等,从而影响对图像的拍摄。因此,在对摄像头标定的时候,可以对不同温度下的摄像头进行标定处理,从而得到不同温度下对应的标定信息。在摄像头拍摄图像的时候,就可以根据摄像头的温度获取不同的标定信息对图像进行校正。
具体的,获取标定信息的步骤具体可以包括:获取第一摄像头和第二摄像头的温度,根据预先建立的温度与标定信息的对应关系获取温度对应的标定信息。例如,第一摄像头和第二摄像头的温度可以通过温度传感器来采集,在标定的时候,可以控制第一摄像头和第二摄像头的温度分别到达30℃、60℃和90℃,然后分别在30℃、60℃和90℃下对第一摄像头和第二摄像头进行标定得到对应的标定信息。
在一个实施例中,可以分别在至少两个参考温度下对第一摄像头和第二摄像头进行标定,得到对应的标定信息。当获取到第一摄像头和第二摄像头的温度时,将获取的第一摄像头和第二摄像头的温度作为目标温度。然后计算目标温度与各个参考温度的温差值,获取温差值最小的参考温度对应的标定信息作为目标温度对应的标定信息。
例如,参考温度为20℃、50℃和80℃,对应的标定信息为标定信息1、标定信息2和标定信息3。若目标温度为60℃,则目标温度与上述参考温度的温差值依次为40℃、10℃、20℃,则温差值最小的参考温度就为50℃,即将50℃对应的标定信息2作为目标温度对应的标定信息。
步骤412,根据标定信息对第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
在一个实施例中,获取到标定信息之后,根据获取的标定信息对第一中间图像和第二原始图像进行第二校正处理,分别得到对应的第一目标图像和第二目标图像。
上述实施例提供的图像处理方法,可以通过第一摄像头拍摄得到第一原始图像,通过第二摄像头拍摄得到第二原始图像。根据防抖组件的位置可以对第一原始图像进行校正,得到第一中间图像。然后根据第一摄像头和第二摄像头对应的标定信息,对第一中间图像和第二原始图像进行校正,得到第一目标图像和第二目标图像。这样就可以通过防抖组件补偿第一摄像头抖动带来的误差,并根据标定信息对图像进行进一步的补偿,从而提高图像的准确性。
如图6所示,对第一中间图像和第二原始图像进行第二校正处理的步骤具体可以包括:
步骤602,根据第一标定信息对第一中间图像进行第一自校正处理,并根据第二标定信息对第二中间图像进行第二自校正处理。
具体的,标定信息中可以包括第一标定信息、第二标定信息和相对标定信息,第一标定信息可以包括第一摄像头的内参、外参和畸变系数,第二标定信息可以包括第二摄像头的内参、外参和畸变系数。其中,内参用于确定摄像头从三维空间到二维图像的投影关系,外参用于确定从摄像头坐标系转换到世界坐标系的位置关系,畸变系数用于校正光学形变引起的畸变。
根据第一标定信息对第一中间图像进行第一自校正处理,即根据第一摄像头的内参、外参和畸变系数对第一中间图像进行第一自校正处理。根据第二标定信息对第二原始图像进行第二自校正处理,即根据第二摄像头的内参、外参和畸变系数对第二原始图像进行第二自校正处理。
步骤604,根据相对标定信息对第一自校正处理后的第一中间图像和第二自校正处理后的第二原始图像进行对齐处理,得到第一目标图像和第二目标图像。
第一摄像头和第二摄像头由于摆放的位置不同,因此拍摄的图像会产生一定的视差。在第一摄像头和第二摄像头采集到图像的时候,需要将第一摄像头和第二摄像头采集的图像进行对齐,使得第一摄像头和第二摄像头采集的图像中的像素点相对应。
具体的,根据相对标定信息对第一自校正处理后的第一中间图像和第二自校正处理后的第二原始图像进行对齐处理,得到第一目标图像和第二目标图像。可以理解的是,在进行对齐处理的时候,可以将第一自校正处理后的第一中间图像和第二自校正处理后的第二原始图像同时进行平移,也可以只对第一自校正处理后的第一中间图像进行平移,还可以只对第二自校正处理后的第二原始图像进行平移,在此不做限定。对齐处理之后,就可以分别得到第一中间图像对应的第一目标图像以及第二原始图像对应的第二目标图像。
图7为一个实施例中对第一原始图像和第二原始图像进行校正处理的示意图。如图7所示,通过第一摄像头和第二摄像头分别拍摄得到第一原始图像702和第二原始图像704,图中标记的“loc1”为对第一摄像头和第二摄像头进行标定时防抖组件所在的位置,“loc2”为获取第一原始图像702时防抖组件所在的位置。根据“loc1”和“loc2”对第一原始图像702进行第一校正处理,得到第一中间图像706。第一中间图像706中的三角形和第二原始图像704中的三角形表示同一物体,从图中可以看出,第一中间图像706中三角形的位置和第二原始图像704中三角形的位置具有一定的偏差,需要进行对齐处理。在本实施例中,可以将第二原始图像进行平移,使得平移后得到的第二目标图像708与第一中间图像706对齐。
应该理解的是,虽然图2、4、6的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,图2、4、6中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
图8为一个实施例的图像处理装置的结构框图。如图8所示,该图像处理装置800包括图像拍摄模块802、第一校正模块804、信息获取模块806和第二校正模块808。其中:
图像拍摄模块802,用于获取第一摄像头拍摄的第一原始图像和第二摄像头拍摄的第二原始图像,其中,第一摄像头对应设置防抖组件。
第一校正模块804,用于根据防抖组件的位置获取第一原始图像的图像偏移量,并根据图像偏移量对第一原始图像进行第一校正处理,得到第一中间图像。
信息获取模块806,用于获取第一摄像头和第二摄像头对应的标定信息。
第二校正模块808,用于根据标定信息对第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
上述实施例提供的图像处理装置,可以通过第一摄像头拍摄得到第一原始图像,通过第二摄像头拍摄得到第二原始图像。根据防抖组件的位置可以对第一原始图像进行校正,得到第一中间图像。然后根据第一摄像头和第二摄像头对应的标定信息,对第一中间图像和第二原始图像进行校正,得到第一目标图像和第二目标图像。这样就可以通过防抖组件补偿第一摄像头抖动带来的误差,并根据标定信息对图像进行进一步的补偿,从而提高图像的准确性。
在一个实施例中,图像拍摄模块802还用于当检测到图像采集指令时,控制第一摄像头在第一时刻拍摄第一原始图像,并第二摄像头在第二时刻拍摄第二原始图像,其中,第一时刻与第二时刻之间的时间间隔小于间隔阈值。
在一个实施例中,第一校正模块804还用于获取防抖组件的第一位置和第二位置,其中,第一位置为对第一摄像头和第二摄像头进行标定时防抖组件所在的位置,第二位置为第一摄像头拍摄第一原始图像时防抖组件所在的位置;根据第一位置和第二位置获取第一原始图像的图像偏移量。
在一个实施例中,第一校正模块804还用于根据第一位置和第二位置获取防抖组件的组件偏移量,根据组件偏移量获取第一原始图像的图像偏移量。
在一个实施例中,上述图像偏移量包括第一方向上的第一图像偏移量和第二方向上的第二图像偏移量,第一校正模块804还用于将第一原始图像在第一方向上移动第一图像偏移量,并将移动第一图像偏移量之后的第一原始图像在第二方向上移动第二图像偏移量,得到第一中间图像。
在一个实施例中,信息获取模块806还用于获取第一摄像头和第二摄像头的温度,根据预先建立的温度与标定信息的对应关系获取温度对应的标定信息。
在一个实施例中,标定信息中包括第一标定信息、第二标定信息和相对标定信息,第二校正模块808还用于根据第一标定信息对第一中间图像进行第一自校正处理,并根据第二标定信息对第二中间图像进行第二自校正处理;根据相对标定信息对第一自校正处理后的第一中间图像和第二自校正处理后的第二原始图像进行对齐处理,得到第一目标图像和第二目标图像。
上述图像处理装置中各个模块的划分仅用于举例说明,在其他实施例中,可将图像处理装置按照需要划分为不同的模块,以完成上述图像处理装置的全部或部分功能。
本申请实施例中提供的图像处理装置中的各个模块的实现可为计算机程序的形式。该计算机程序可在终端或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时,实现本申请实施例中所描述方法的步骤。
本申请实施例还提供一种电子设备。上述电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image Signal Processing,图像信号处理)管线的各种处理单元。图9为一个实施例中图像处理电路的示意图。如图9所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图9所示,图像处理电路包括第一ISP处理器930、第二ISP处理器940和控制逻辑器950。第一摄像头910包括一个或多个第一透镜912和第一图像传感器914。第一图像传感器914可包括色彩滤镜阵列(如Bayer滤镜),第一图像传感器914可获取用第一图像传感器914的每个成像像素捕捉的光强度和波长信息,并提供可由第一ISP处理器930处理的一组图像数据。第二摄像头920包括一个或多个第二透镜922和第二图像传感器924。第二图像传感器924可包括色彩滤镜阵列(如Bayer滤镜),第二图像传感器924可获取用第二图像传感器924的每个成像像素捕捉的光强度和波长信息,并提供可由第二ISP处理器940处理的一组图像数据。
第一摄像头910采集的第一图像传输给第一ISP处理器930进行处理,第一ISP处理器930处理第一图像后,可将第一图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器950,控制逻辑器950可根据统计数据确定第一摄像头910的控制参数,从而第一摄像头910可根据控制参数进行自动对焦、自动曝光等操作。第一图像经过第一ISP处理器930进行处理后可存储至图像存储器960中,第一ISP处理器930也可以读取图像存储器960中存储的图像以对进行处理。另外,第一图像经过ISP处理器930进行处理后可直接发送至显示器970进行显示,显示器970也可以读取图像存储器960中的图像以进行显示。
其中,第一ISP处理器930按多种格式逐个像素地处理图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,第一ISP处理器930可对图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
图像存储器960可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自第一图像传感器914接口时,第一ISP处理器930可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器960,以便在被显示之前进行另外的处理。第一ISP处理器930从图像存储器960接收处理数据,并对所述处理数据进行RGB和YCbCr颜色空间中的图像数据处理。第一ISP处理器930处理后的图像数据可输出给显示器970,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,第一ISP处理器930的输出还可发送给图像存储器960,且显示器970可从图像存储器960读取图像数据。在一个实施例中,图像存储器960可被配置为实现一个或多个帧缓冲器。
第一ISP处理器930确定的统计数据可发送给控制逻辑器950。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、第一透镜912阴影校正等第一图像传感器914统计信息。控制逻辑器950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定第一摄像头910的控制参数及第一ISP处理器930的控制参数。例如,第一摄像头910的控制参数可包括增益、曝光控制的积分时间、防抖参数、闪光控制参数、第一透镜912控制参数(例如聚焦或变焦用焦距)、或这些参数的组合等。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及第一透镜912阴影校正参数。
同样地,第二摄像头920采集的第二图像传输给第二ISP处理器940进行处理,第二ISP处理器940处理第一图像后,可将第二图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器950,控制逻辑器950可根据统计数据确定第二摄像头920的控制参数,从而第二摄像头920可根据控制参数进行自动对焦、自动曝光等操作。第二图像经过第二ISP处理器940进行处理后可存储至图像存储器960中,第二ISP处理器940也可以读取图像存储器960中存储的图像以对进行处理。另外,第二图像经过ISP处理器940进行处理后可直接发送至显示器970进行显示,显示器970也可以读取图像存储器960中的图像以进行显示。第二摄像头920和第二ISP处理器940也可以实现如第一摄像头910和第一ISP处理器930所描述的处理过程。
本申请实施例还提供了一种计算机可读存储介质。一个或多个包含计算机可执行指令的非易失性计算机可读存储介质,当所述计算机可执行指令被一个或多个处理器执行时,使得所述处理器执行图像处理方法的步骤。
一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行图像处理方法。
本申请实施例所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。

Claims (8)

1.一种图像处理方法,其特征在于,包括:
获取第一摄像头在第一时刻拍摄的第一原始图像和第二摄像头在第二时刻拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件,所述第一时刻与所述第二时刻之间的时间间隔小于间隔阈值;
根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,所述图像偏移量包括第一方向上的第一图像偏移量和第二方向上的第二图像偏移量;
将所述第一原始图像在所述第一方向上移动所述第一图像偏移量,并将移动所述第一图像偏移量之后的第一原始图像在所述第二方向上移动所述第二图像偏移量,得到第一中间图像;
获取所述第一摄像头和第二摄像头的温度,根据预先建立的温度与标定信息的对应关系获取所述温度对应的标定信息;
根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
2.根据权利要求1所述的方法,其特征在于,所述获取第一摄像头在第一时刻拍摄的第一原始图像和第二摄像头在第二时刻拍摄的第二原始图像,包括:
当检测到图像采集指令时,控制所述第一摄像头在第一时刻拍摄所述第一原始图像,并所述第二摄像头在第二时刻拍摄所述第二原始图像。
3.根据权利要求1所述的方法,其特征在于,所述根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,包括:
获取所述防抖组件的第一位置和第二位置,其中,所述第一位置为对所述第一摄像头和第二摄像头进行标定时所述防抖组件所在的位置,所述第二位置为所述第一摄像头拍摄第一原始图像时所述防抖组件所在的位置;
根据所述第一位置和第二位置获取所述第一原始图像的图像偏移量。
4.根据权利要求3所述的方法,其特征在于,所述根据所述第一位置和第二位置获取所述第一原始图像的图像偏移量,包括:
根据所述第一位置和第二位置获取所述防抖组件的组件偏移量,根据所述组件偏移量获取所述第一原始图像的图像偏移量。
5.根据权利要求1至4中任一项所述的方法,其特征在于,所述标定信息中包括第一标定信息、第二标定信息和相对标定信息,所述根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像,包括:
根据所述第一标定信息对所述第一中间图像进行第一自校正处理,并根据所述第二标定信息对第二中间图像进行第二自校正处理;
根据所述相对标定信息对所述第一自校正处理后的第一中间图像和所述第二自校正处理后的第二原始图像进行对齐处理,得到第一目标图像和第二目标图像。
6.一种图像处理装置,其特征在于,包括:
图像拍摄模块,用于获取第一摄像头在第一时刻拍摄的第一原始图像和第二摄像头在第二时刻拍摄的第二原始图像,其中,所述第一摄像头对应设置防抖组件,所述第一时刻与所述第二时刻之间的时间间隔小于间隔阈值;
第一校正模块,用于根据所述防抖组件的位置获取所述第一原始图像的图像偏移量,所述图像偏移量包括第一方向上的第一图像偏移量和第二方向上的第二图像偏移量;将所述第一原始图像在所述第一方向上移动所述第一图像偏移量,并将移动所述第一图像偏移量之后的第一原始图像在所述第二方向上移动所述第二图像偏移量,得到第一中间图像;
信息获取模块,用于获取所述第一摄像头和第二摄像头的温度,根据预先建立的温度与标定信息的对应关系获取所述温度对应的标定信息;
第二校正模块,用于根据所述标定信息对所述第一中间图像和第二原始图像进行第二校正处理,得到的第一目标图像和第二目标图像。
7.一种电子设备,包括存储器及处理器,所述存储器中储存有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行如权利要求1至5中任一项所述的方法的步骤。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的方法的步骤。
CN201811457427.9A 2018-11-30 2018-11-30 图像处理方法和装置、电子设备、计算机可读存储介质 Active CN109600548B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811457427.9A CN109600548B (zh) 2018-11-30 2018-11-30 图像处理方法和装置、电子设备、计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811457427.9A CN109600548B (zh) 2018-11-30 2018-11-30 图像处理方法和装置、电子设备、计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN109600548A CN109600548A (zh) 2019-04-09
CN109600548B true CN109600548B (zh) 2021-08-31

Family

ID=65960109

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811457427.9A Active CN109600548B (zh) 2018-11-30 2018-11-30 图像处理方法和装置、电子设备、计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN109600548B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112104796B (zh) * 2019-06-18 2023-10-13 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
CN110233969B (zh) * 2019-06-26 2021-03-30 Oppo广东移动通信有限公司 图像处理方法和装置、电子设备、计算机可读存储介质
CN110751692B (zh) * 2019-09-06 2022-02-18 深圳为工智能科技有限公司 一种摄像机成像误差标定方法与矫正方法
CN110611767B (zh) * 2019-09-25 2021-08-10 北京迈格威科技有限公司 图像处理方法、装置和电子设备
CN111126216A (zh) * 2019-12-13 2020-05-08 支付宝(杭州)信息技术有限公司 风险检测方法、装置及设备
CN113660408B (zh) * 2020-05-12 2022-11-11 华为技术有限公司 一种视频拍摄防抖方法与装置
CN113781506B (zh) * 2021-08-06 2023-12-15 东北大学 一种带钢偏移量检测方法及系统
CN115278071A (zh) * 2022-07-25 2022-11-01 维沃移动通信有限公司 图像处理方法、装置、电子设备和可读存储介质
CN116758123A (zh) * 2023-04-25 2023-09-15 威海凯思信息科技有限公司 一种海洋的波浪图像处理方法、装置和服务器

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107454303A (zh) * 2016-05-31 2017-12-08 宇龙计算机通信科技(深圳)有限公司 一种视频防抖方法及终端设备

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8675091B2 (en) * 2008-12-15 2014-03-18 Nvidia Corporation Image data processing with multiple cameras
CN106686307A (zh) * 2016-12-28 2017-05-17 努比亚技术有限公司 一种拍摄的方法和移动终端
CN107071263B (zh) * 2016-12-30 2020-02-18 努比亚技术有限公司 一种图像处理方法及终端
CN108063932B (zh) * 2017-11-10 2020-10-27 广州极飞科技有限公司 一种光度标定的方法及装置
CN108053386B (zh) * 2017-11-27 2021-04-09 北京理工大学 用于图像融合的方法及装置
CN108876739B (zh) * 2018-06-15 2020-11-24 Oppo广东移动通信有限公司 一种图像补偿方法、电子设备及计算机可读存储介质
CN108737735B (zh) * 2018-06-15 2019-09-17 Oppo广东移动通信有限公司 图像校正方法、电子设备及计算机可读存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107454303A (zh) * 2016-05-31 2017-12-08 宇龙计算机通信科技(深圳)有限公司 一种视频防抖方法及终端设备

Also Published As

Publication number Publication date
CN109600548A (zh) 2019-04-09

Similar Documents

Publication Publication Date Title
CN109600548B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN111147741B (zh) 基于对焦处理的防抖方法和装置、电子设备、存储介质
CN109598764B (zh) 摄像头标定方法和装置、电子设备、计算机可读存储介质
CN111246089B (zh) 抖动补偿方法和装置、电子设备、计算机可读存储介质
CN109194876B (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN109660718B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN110166695B (zh) 摄像头防抖方法、装置、电子设备和计算机可读存储介质
CN110610465B (zh) 图像校正方法和装置、电子设备、计算机可读存储介质
CN109714536B (zh) 图像校正方法、装置、电子设备及计算机可读存储介质
CN110536057B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN109712192B (zh) 摄像模组标定方法、装置、电子设备及计算机可读存储介质
CN111246100B (zh) 防抖参数的标定方法、装置和电子设备
CN110278360B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN109963080B (zh) 图像采集方法、装置、电子设备和计算机存储介质
CN110475067B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN109685853B (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
CN109559352B (zh) 摄像头标定方法、装置、电子设备和计算机可读存储介质
CN110035206B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN109951641B (zh) 图像拍摄方法和装置、电子设备、计算机可读存储介质
CN110866486B (zh) 主体检测方法和装置、电子设备、计算机可读存储介质
CN109671028B (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
CN109598763B (zh) 摄像头标定方法、装置、电子设备和计算机可读存储介质
US20220180484A1 (en) Image processing method, electronic device, and computer-readable storage medium
CN109584312B (zh) 摄像头标定方法、装置、电子设备和计算机可读存储介质
CN109584311B (zh) 摄像头标定方法、装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant