CN107231526B - 图像处理方法以及电子设备 - Google Patents

图像处理方法以及电子设备 Download PDF

Info

Publication number
CN107231526B
CN107231526B CN201710433017.XA CN201710433017A CN107231526B CN 107231526 B CN107231526 B CN 107231526B CN 201710433017 A CN201710433017 A CN 201710433017A CN 107231526 B CN107231526 B CN 107231526B
Authority
CN
China
Prior art keywords
image
motion
images
frame
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710433017.XA
Other languages
English (en)
Other versions
CN107231526A (zh
Inventor
王东
张帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Beijing Ltd
Original Assignee
Lenovo Beijing Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Beijing Ltd filed Critical Lenovo Beijing Ltd
Priority to CN201710433017.XA priority Critical patent/CN107231526B/zh
Publication of CN107231526A publication Critical patent/CN107231526A/zh
Application granted granted Critical
Publication of CN107231526B publication Critical patent/CN107231526B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

一种图像处理方法,应用于电子设备,所述电子设备包括图像采集装置以及运动检测装置,所述方法包括:所述图像采集装置采集多帧图像;所述运动检测装置获取在所述采集图像期间所述电子设备的运动信息,所述运动信息与采集的各帧图像相对应;基于所述运动信息从所述多帧图像中选择至少两帧;基于所述两帧图像的运动信息对所述两帧图像进行图像处理。本发明实施例通过利用电子设备中自带的运动检测装置来确定图像的运动轨迹,基于该运动轨迹来实现图像的去模糊处理,算法简单,显著提高了去模糊的处理速度,且易于在已有移动设备上实现。

Description

图像处理方法以及电子设备
技术领域
本发明实施例涉及一种图像处理方法以及实现该方法的电子设备。
背景技术
目前,手机等非专业拍照设备在生活中使用日益频繁,用户可以使用手机随时随地地进行拍照,使用方便,且容易携带。
由于手机并非专业相机,而且手机硬件尺寸、制造成本都有限制,因此手机中的镜头结构简单,专业性较差,如果在曝光时间移动手机,可能会出现图像模糊的情况发生。在拍摄照片产生模糊时,需要在有限的硬件上通过图像计算来去除模糊。当前进行图像去模糊的主要方法是去卷积算法,但该算法存在计算量巨大以及模糊位置难以准确估计等问题,因此很难在便携式摄录设备上部署。
发明内容
本发明实施例的目的在于提供一种图像处理方法以及电子设备,以解决上述技术问题。
根据本发明的至少一个实施例,提供了一种图像处理方法,应用于电子设备,所述电子设备包括图像采集装置以及运动检测装置,所述方法包括:所述图像采集装置采集多帧图像;所述运动检测装置获取在所述采集图像期间所述电子设备的运动信息,所述运动信息与采集的各帧图像相对应;基于所述运动信息从所述多帧图像中选择至少两帧;基于所述两帧图像的运动信息对所述两帧图像进行图像处理。
根据本发明的至少一个实施例,还提供了一种电子设备,包括图像采集装置、运动检测装置以及处理器,其中,所述图像采集装置采集多帧图像;所述运动检测装置获取在所述采集图像期间所述电子设备的运动信息,所述运动信息与采集的各帧图像相对应;所述处理器基于所述运动信息从所述多帧图像中选择至少两帧,并且,所述处理器基于所述两帧图像的运动信息对所述两帧图像进行图像处理。
本发明实施例通过利用电子设备中自带的运动检测装置来确定图像的运动轨迹,基于该运动轨迹来实现图像的去模糊处理,算法简单,显著提高了去模糊的处理速度,且易于在已有移动设备上实现。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例的描述中所需要使用的附图作简单的介绍。下面描述中的附图仅仅是本发明的示例性实施例。
图1示出了根据本发明实施例的图像处理方法流程图;
图2a示出了根据本发明实施例的图像拍摄时间示意图;
图2b示出了图2a中画圈部分的放大图;
图2c示出了图像R1和图像R2的特征向量之间的夹角示意图;
图3示出了根据本发明实施例的一种选取运动方向正交的两帧图像的流程图;
图4示出了根据本发明实施例的另一种选取运动方向正交的两帧图像的流程图;
图5示出了根据本发明实施例的判断两帧图像在曝光期间的运动方向为固定方向的流程图;
图6示出了根据本发明实施例的对运动检测装置进行校准的方法流程图;
图7示出了根据本发明实施例的电子设备的结构示意图。
具体实施方式
在下文中,将参考附图详细描述本发明的优选实施例。注意,在本说明书和附图中,具有基本上相同步骤和元素用相同的附图标记来表示,且对这些步骤和元素的重复解释将被省略。
在本发明的以下实施例中,电子设备指的是能够与其他设备通信的设备。电子设备的具体形式包括但不限于移动电话、个人计算机、数码相机、个人数字助手、便携式计算机、游戏机等。在本发明实施例中,电子设备包括图像采集装置以及运动检测装置。图像采集装置例如可以包括摄像头。运动检测装置例如可以包括惯性传感器,例如陀螺仪和/或加速度传感器,可以至少检测到电子设备相对于地球坐标系的X、Y、Z轴的旋转角度和位移。运动检测装置也可以是其他可以检测电子设备的运动的装置,例如指南针等。
图1描述了根据本发明的一个实施例的图像处理方法100的流程图。下面将参照图1来描述本发明的一个实施例的图像处理方法。图像处理方法100可以应用于上述电子设备,该电子设备可以被配置来对图像进行处理。
参见图1,在步骤S101中,图像采集装置采集多帧图像。根据本发明的一个示例,使用摄像头对同一场景的连续拍摄,得到多帧图像。电子设备的运动检测装置的采样频率远远大于图像连续拍摄的频率。例如,运动检测装置的采样频率为图像连拍频率的至少10-100倍。
在步骤S102中,运动检测装置获取在采集图像期间电子设备的运动信息,运动信息与采集的各帧图像相对应。根据本发明的一个示例,在运动检测装置获取到当前电子设备的三轴位移或三轴角度之后,基于电子设备的这些运动参数以及图像采集装置在电子设备中的相对位置,可以确定图像采集装置采集的图像的运动参数。运动参数例如包括运动位移和运动方向。根据采集的图像的运动参数可以确定拍照时手的抖动造成的图像帧的移动。
根据本发明的一个示例,根据以下方式获取图像帧的运动方向。首先,获取在图像曝光时间段内运动检测装置的每两个采样时间点之间,图像的子位移矢量。图2a示出了根据本发明实施例的图像拍摄时间示意图,参见图2,在图像拍摄时间轴上,在T1时间点按下快门后,拍摄第一帧图像时,在T1到T2时间段内为第一帧图像的曝光时间,在T3时间点拍摄第二帧图像,T3-T4时间段为第二帧图像的曝光时间,以此类推,对同一场景拍摄若干多帧图像。例如,拍摄10张图像。图2b示出了图2a中画圈部分的放大图,参见图2b,A点为第一帧图像的拍摄时间,B点为第二帧图像的拍摄时间,C点为第一帧图像曝光结束时间。从A点到C点,包括多个小箭头表示的子位移矢量,该子位移矢量为运动检测装置的每两个采样时间点之间,图像的位移矢量,也就是第一帧图像在曝光期限的多个子位移矢量。
根据该子位移矢量,可以确定图像在第一方向上的第一特征值以及在第二方向上的第二特征值。第一方向例如水平方向,第二方向例如垂直方向,当然也可以是其他方向。例如,分别标记每个子位移矢量的起点为J点,K点,…,假设从A点到C点,共有n个子位移矢量,第n个子位移矢量的终点为L点。每个子位移矢量的位移组成了每一帧图像的运动位移。根据运动检测装置,检测到第一个子位移矢量的起点,即J点的相对于地球坐标系的坐标为(x1,y1),第二个子位移矢量的起点,即K点相对于地球坐标系的坐标为(x2,y2),以此类推,最后一个子位移矢量的起点相对于地球坐标系的坐标为(xn,yn),那么,A点到C点的图像帧位移特征矩阵F为
Figure BDA0001317901990000041
将该特征矩阵F与F的转置矩阵相乘,得到矩阵
Figure BDA0001317901990000042
对该矩阵进行奇异值分解,得到矩阵即,下述公式
Figure BDA0001317901990000044
在该公式中,得到图像帧的位移特征矩阵的第一特征值δ1和第二特征值δ2。从而可以根据第一特征值δ1和第二特征值δ2来确定该图像帧的运动方向。
例如,通过比较第一特征值以及第二特征值来确定各帧图像的运动方向。在得到第一特征值δ1和第二特征值δ2之后,比较这两个特征值的大小。根据本发明的一个示例,如果δ1大于δ2,则确定特征值δ1对应的特征向量V1就是该图像帧的运动方向。如果δ2大于δ1,则确定特征值δ2对应的特征向量V2就是该图像帧的运动方向。
根据本发明另一个示例,为了精确确定运动方向,如果δ1远远大于δ2,才确定特征值δ1对应的特征向量V1就是该图像帧的运动方向。如果δ2远远大于δ1,则确定特征值δ2对应的特征向量V2就是该图像帧的运动方向。如果δ2与δ1差值不大,例如小于预设阈值,则表示该帧图像在曝光时间的运动方向不固定,放弃该图像帧。
以上介绍了如何确定一个图像的运动方向,而图像的运动位移则是由每个子位移矢量的位移组成。在确定了图像帧的运动方向和运动位移后,下面介绍如何基于这些运动信息选取两帧图像。
在步骤S103中,基于运动信息从多帧图像中选择至少两帧。根据本发明的一个示例,基于各图像帧的运动位移以及运动方向从多帧图像中选取运动方向正交的第一帧图像以及第二帧图像。
图3示出了根据本发明实施例的一种选取运动方向正交的两帧图像的流程图。参见图3,在步骤S301中,获取从图像拍摄时间点到图像曝光结束时间点,运动检测装置检测到的电子设备的运动信息。在步骤S302中,基于运动信息获取各帧图像的位移矢量。在步骤S303中,基于多帧图像中每两帧图像的位移矢量,判断两帧图像的运动方向是否正交。
例如,在步骤S102中,如前所述,通过陀螺仪或加速度传感器得到电子设备的运动方向以及运动位移。并进一步通过上述特征矩阵得到每一帧图像的从拍摄到曝光结束时间段内,代表图像帧运动方向的特征向量V。在确定代表每一图像帧的运动方向的特征向量之后,进一步确定这些特征向量中,哪两个特征向量之间的夹角为90度或接近90度,从而判断这两个向量是否正交。例如,如果V1和V3之间的夹角为90度,则V1和V3正交。图2c示出了图像R1和图像R2的特征向量之间的夹角示意图,参见图2c,图像R1和图像R2的特征向量之间的夹角接近90度,则R1和R2运动方向正交。
图4示出了根据本发明实施例的另一种选取运动方向正交的两帧图像的流程图。参见图4,在步骤S401中,确定在运动检测装置每个采样点,图像位置坐标到该图像位移矢量之间的距离。例如,参见图2b,将第一帧图像从拍摄到曝光结束时间段内的起点到终点进行连线,即图中A到C时间段内,第一图像帧的起点J到终点L的直线F,作为第一帧图像曝光时间段内第一帧图像的位移矢量。以这种方式,确定所有图像帧的位移矢量。然后判断这些位移矢量之间的夹角是否是直角或接近直角,如果两帧图像的位移矢量之间夹角是直角或接近直角,则可以判断这两帧图像正交。
此外,根据本发明的另一个示例,在判断两帧图像的位置矢量是否正交时,可以借助均方根来进行图像帧的选择。优先选择均方根小的两帧图像进行正交性比较。例如,在确定每一帧图像的位移矢量后,确定运动检测装置的每个采样点,图像的坐标点到上述位移矢量的距离。以第一帧图像为例,确定在A到C时间段内,每个采样点图像的坐标点到上述位移矢量的距离,即图2b中,每个小箭头(假设为n个)的起点(J,K…)到直线F的垂直距离Pn。在步骤S402中,确定所有距离Pn的均方根。在步骤S403中,根据均方根选择两帧图像,并判断该选择的两图像的运动方向是否正交。在求出每一帧图像中上述距离的均方根之后,按照从小到大的顺序进行排序。优先选择均方根小的两帧图像帧,比较这两个图像帧是否正交。
根据本发明的一个示例,在选取运动方向正交的第一帧图像以及第二帧图像时,还可以进一步确定第一帧图像以及第二帧图像在图像曝光期限的运动方向是否为固定方向。如果第一帧图像以及第二帧图像的运动方向均为固定方向,才判断这两帧图像是否正交,最终选取运动方向为固定方向并且运动方向正交且的第一帧图像以及第二帧图像。如果运动方向不是固定方向,则可能表示该帧图像运动方向变化较多,不容易与其他图像帧进行融合来解决图像模糊的问题,因此可以舍弃该帧图像,不用再判断该图像帧与其他图像的正交性。
图5示出了根据本发明实施例的如何判断两帧图像在曝光期间的运动方向为固定方向的流程图。参见图5,在步骤S501中,获取在图像曝光时间段内运动检测装置的每两个采样时间点之间,图像的位移矢量。在步骤S502中,根据位移矢量,确定图像在第一方向上的第一特征值以及在第二方向上的第二特征值。在步骤S503中,根据第一特征值以及第二特征值的关系,判断运动方向是否是固定方向。
上述步骤S501与S502与前述实施例具体步骤相同,在步骤S502得到图像在第一方向上的第一特征值以及在第二方向上的第二特征值之后,如果图像帧位移矢量在一个方向的特征值δ1远远大于另一个方向的特征值δ2,或者δ2远远大于δ1,则确定图像的运动方向是固定的。如果δ2与δ1差值不大,例如小于预设阈值,则表示该帧图像在曝光时间的运动方向不固定,放弃该图像帧。
在步骤S104中,基于两帧图像的运动信息对两帧图像进行图像处理。根据本发明的一个示例,首先对第一帧图像以及第二帧图像进行频域变换。例如,进行傅里叶变换或小波变换。然后对变换后的图像进行图像融合。在图像融合后,对融合后的图像进行反频域变换。如果前面做的是傅里叶变换,则在该步骤中进行反傅里叶变换,如果前面做的是小波变换,则在该步骤中进行小波逆变换,则可以去除图像帧的模糊。
本发明实施例,通过电子设备中的运动检测装置确定图像的位移矢量,根据位移矢量选择两帧图像,然后对该图像进行处理,可以有效去除图像在拍摄期限由于抖动产生的模糊,并且,上述方法不需要复杂的运算,也无需增加额外的硬件,易于实现并且节省成本。
根据本发明的一个示例,在使用运动检测装置检测拍摄图像的位移矢量时,可以预先对运动检测装置进行校准。
图6示出了根据本发明实施例的对运动检测装置进行校准的方法流程图。参见图6,对运动检测装置进行校准可以包括如下步骤。在步骤S601中,获取相邻两帧图像拍摄时间点图像的第一位移矢量。参见图2b,以第一帧和第二帧为例,获取第一帧图像拍摄时间点A到第二帧图像拍摄时间点B之间,图像的第一位移矢量,即时间点A图像起点J(坐标(x1,y1)到时间点B图像的位移终点Q(坐标(xm,ym))之间的位移矢量。在步骤S602中,根据光流法计算相邻两帧在拍摄时间点的第二位移矢量。光流是一种简单实用的图像运动的表达方式,通常定义为一个图像序列中的图像亮度模式的表观运动。例如,可以利用基于特征的光流法或基于区域的光流法或基于频域的光流法来计算第二位移矢量。在步骤S603中,通过比较第一位移矢量以及第二位移矢量来校准运动检测装置。例如,比较第一位移矢量和第二位移矢量之间的差值,根据差值来确定运动检测装置的误差,从而校准该运动检测装置。
根据本发明的一个示例,还可以进一步获取相邻两帧拍摄时间点之间,在运动检测装置每两个采样时间点之间图像的位移矢量。以相邻的第一帧图像和第二帧图像为例,参见图2b,获取第一帧图像拍摄时间点A到第二帧图像拍摄时间点B之间每个小箭头代表的运动检测装置每两个采样点之间图像的子位移矢量。然后,比较第一位移矢量以及第二位移矢量确定运动检测装置的误差之后,根据采样时间点个数获取平均误差。例如,如果有m个子位移矢量,将总误差除以m取平均值,得到平均误差。并基于平均误差来调整每两个时间采样点之间图像的位移矢量。例如,也可以基于平均误差校准运动检测装置的采样时间间隔等。
本发明实施例,通过对运动检测装置进行校准,可以更精确的确定图像帧的运动方向以及运动位移,提高了去模糊算法的精度,可以有效地去除图像的模糊。
以上介绍了根据本发明实施例的图像处理方法,下面将进一步介绍根据本发明实施例的电子设备,该电子设备用于实现上述图像处理方法,为了说明书的简洁,以下仅作简要描述,具体可以参见上述图像处理方法。
图7示出了根据本发明实施例的电子设备的结构示意图,参见图7,电子设备700包括图像采集装置710、运动检测装置720以及处理器730。
其中,图像采集装置采集多帧图像;运动检测装置获取在采集图像期间电子设备的运动信息,运动信息与采集的各帧图像相对应;处理器基于运动信息从多帧图像中选择至少两帧,并且,处理器基于两帧图像的运动信息对两帧图像进行图像处理。
根据本发明的一个示例,多帧图像为对同一场景的连续拍摄,运动检测装置的采样频率大于图像连续拍摄的频率。
根据本发明的一个示例,处理器还基于电子设备的运动信息获得各帧图像的运动参数;并基于各帧图像的运动参数从多帧图像中选择至少两帧图像。
根据本发明的一个示例,处理器基于运动信息从多帧图像中选择至少两帧包括:
处理器从多帧图像中选取运动方向正交的第一帧图像以及第二帧图像。
根据本发明的一个示例,处理器基于两帧图像的运动信息对两帧图像进行图像处理的步骤包括:处理器对第一帧图像以及第二帧图像进行频域变换;并对变换后的图像进行图像融合;对融合后的图像进行反频域变换。
根据本发明的一个示例,各帧图像的运动参数包括运动方向,处理器基于电子设备的运动信息获得各帧图像的运动参数包括:处理器获取在图像曝光时间段内运动检测装置的每两个采样时间点之间,图像的子位移矢量;并根据子位移矢量,确定图像在第一方向上的第一特征值以及在第二方向上的第二特征值;还根据第一特征值以及第二特征值的比较值来确定各帧图像的运动方向。
根据本发明的一个示例,处理器从多帧图像中选取运动方向正交第一帧图像以及第二帧图像包括:处理器获取从图像拍摄时间点到图像曝光结束时间点,运动检测装置检测到的电子设备的运动信息;基于运动信息获取各帧图像的位移矢量;基于多帧图像中每两帧图像的位移矢量,判断两帧图像的运动方向是否正交。
根据本发明的一个示例,处理器基于运动信息获取各帧图像的位移矢量包括:处理器获取从图像拍摄时间点到曝光结束时间点,各帧图像的位移矢量;并获取图像曝光时间段内在运动检测装置的每个采样时间点,图像的多个位置坐标;处理器基于多帧图像中每两帧图像的位移矢量,判断两帧图像的运动方向是否正交包括:处理器确定每个位置坐标到位移矢量之间的距离;确定所有距离的均方根;根据均方根选择两帧图像,并判断该选择的两图像的运动方向是否正交。
根据本发明的一个示例,处理器进一步被配置为,确定第一帧图像以及第二帧图像在图像曝光期限的运动方向为固定方向;处理器从多帧图像中选取运动方向正交第一帧图像以及第二帧图像包括:选取运动方向正交且运动方向为固定方向的第一帧图像以及第二帧图像。
根据本发明的一个示例,处理器确定第一帧图像以及第二帧图像在图像曝光期限的运动方向为固定方向包括:处理器获取在图像曝光时间段内运动检测装置的每两个采样时间点之间,图像的位移矢量;根据位移矢量,确定图像在第一方向上的第一特征值以及在第二方向上的第二特征值;根据第一特征值以及第二特征值的关系,判断运动方向是否是固定方向。
根据本发明的一个示例,电子设备还包括:校准单元,用于预先对运动检测装置进行校准。校准单元被配置为:获取相邻两帧图像拍摄时间点图像的第一位移矢量;根据光流计算相邻两帧在拍摄时间点的第二位移矢量;通过比较第一位移矢量以及第二位移矢量来校准运动检测装置。
根据本发明的一个示例,通过比较第一位移矢量以及第二位移矢量来校准运动检测装置包括:获取相邻两帧拍摄时间点之间,在运动检测装置每两个采样时间点之间图像的位移矢量;比较第一位移矢量以及第二位移矢量确定运动检测装置的误差;基于误差根据采样时间点个数获取平均误差;基于平均误差来调整每两个时间采样点之间图像的位移矢量。
根据本发明的一个示例,运动检测装置包括陀螺仪和/或加速度传感器。
本发明实施例通过利用电子设备中自带的运动检测装置来确定图像的运动轨迹,基于该运动轨迹来实现图像的去模糊处理,算法简单,显著提高了去模糊的处理速度,且易于在已有移动设备上实现。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现。并且软件模块可以置于任意形式的计算机存储介质中。为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
本领域技术人员应该理解,可依赖于设计需求和其它因素对本发明进行各种修改、组合、部分组合和替换,只要它们在所附权利要求书及其等价物的范围内。

Claims (24)

1.一种图像处理方法,应用于电子设备,所述电子设备包括图像采集装置以及运动检测装置,所述方法包括:
所述图像采集装置采集多帧图像;
所述运动检测装置获取在所述采集图像期间所述电子设备的运动信息,所述运动信息与采集的各帧图像相对应;
基于所述电子设备的运动信息获得所述各帧图像的运动参数,其中所述各帧图像的运动参数包括运动方向;
基于所述各帧图像的运动参数从所述多帧图像中选择至少两帧;
基于所述两帧图像的运动信息对所述两帧图像进行图像处理,
其中所述基于所述电子设备的运动信息获得所述各帧图像的运动参数包括:
获取在图像曝光时间段内所述运动检测装置的每两个采样时间点之间,所述图像的子位移矢量;
根据所述子位移矢量,确定所述图像在第一方向上的第一特征值以及在第二方向上的第二特征值;
根据所述第一特征值以及所述第二特征值的比较值来确定所述各帧图像的运动方向。
2.根据权利要求1所述的方法,其中,所述多帧图像为对同一场景的连续拍摄,所述运动检测装置的采样频率大于所述图像连续拍摄的频率。
3.根据权利要求1所述的方法,其中,所述基于所述运动信息从所述多帧图像中选择至少两帧包括:
从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像。
4.根据权利要求3所述的方法,其中,所述基于所述两帧图像的运动信息对所述两帧图像进行图像处理的步骤包括:
对所述第一帧图像以及所述第二帧图像进行频域变换;
并对所述变换后的图像进行图像融合;
对所述融合后的图像进行反频域变换。
5.根据权利要求3所述的方法,其中,所述从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像包括:
获取从图像拍摄时间点到图像曝光结束时间点,所述运动检测装置检测到的电子设备的运动信息;
基于所述运动信息获取所述各帧图像的位移矢量;
基于所述多帧图像中每两帧图像的所述位移矢量,判断所述两帧图像的运动方向是否正交。
6.根据权利要求5所述的方法,其中,
基于所述运动信息获取所述各帧图像的位移矢量包括:
获取从所述图像拍摄时间点到曝光结束时间点,所述各帧图像的位移矢量;
获取图像曝光时间段内在所述运动检测装置的每个采样时间点,所述图像的多个位置坐标;
基于所述多帧图像中每两帧图像的所述位移矢量,判断所述两帧图像的运动方向是否正交包括:
确定每个所述位置坐标到所述位移矢量之间的距离;
确定所有所述距离的均方根;
根据所述均方根选择两帧图像,并判断该选择的两图像的运动方向是否正交。
7.根据权利要求3所述的方法,所述方法还包括:
确定所述第一帧图像以及所述第二帧图像在图像曝光期限的运动方向为固定方向;
从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像包括:
选取运动方向正交且运动方向为固定方向的第一帧图像以及第二帧图像。
8.根据权利要求7所述的方法,其中,所述确定所述第一帧图像以及所述第二帧图像在图像曝光期限的运动方向为固定方向包括:
获取在图像曝光时间段内所述运动检测装置的每两个采样时间点之间,所述图像的位移矢量;
根据所述位移矢量,确定所述图像在第一方向上的第一特征值以及在第二方向上的第二特征值;
根据所述第一特征值以及第二特征值的关系,判断所述运动方向是否是固定方向。
9.根据权利要求1所述的方法,所述方法还包括:预先对所述运动检测装置进行校准。
10.根据权利要求9所述的方法,所述对所述运动检测装置进行校准包括:
获取相邻两帧图像拍摄时间点所述图像的第一位移矢量;
根据光流计算所述相邻两帧在所述拍摄时间点的第二位移矢量;
通过比较第一位移矢量以及第二位移矢量来校准所述运动检测装置。
11.根权利要求10所述的方法,所述通过比较第一位移矢量以及第二位移矢量来校准所述运动检测装置包括:
获取相邻两帧拍摄时间点之间,在所述运动检测装置每两个采样时间点之间所述图像的位移矢量;
比较所述第一位移矢量以及第二位移矢量确定所述运动检测装置的误差;
基于所述误差根据所述采样时间点个数获取平均误差;
基于所述平均误差来调整所述每两个采样时间点之间所述图像的位移矢量。
12.根据权利要求1所述的方法,其中,所述运动检测装置包括陀螺仪和/或加速度传感器。
13.一种电子设备,包括图像采集装置、运动检测装置以及处理器,其中,
所述图像采集装置采集多帧图像;
所述运动检测装置获取在所述采集图像期间所述电子设备的运动信息,所述运动信息与采集的各帧图像相对应;
所述处理器基于所述电子设备的运动信息获得所述各帧图像的运动参数,其中所述各帧图像的运动参数包括运动方向,并基于所述各帧图像的运动参数从所述多帧图像中选择至少两帧,并且,
所述处理器基于所述两帧图像的运动信息对所述两帧图像进行图像处理,
其中,所述处理器基于所述电子设备的运动信息获得所述各帧图像的运动参数包括:
所述处理器获取在图像曝光时间段内所述运动检测装置的每两个采样时间点之间,所述图像的子位移矢量;并根据所述子位移矢量,确定所述图像在第一方向上的第一特征值以及在第二方向上的第二特征值;还根据所述第一特征值以及所述第二特征值的比较值来确定所述各帧图像的运动方向。
14.根据权利要求13所述的电子设备,其中,所述多帧图像为对同一场景的连续拍摄,所述运动检测装置的采样频率大于所述图像连续拍摄的频率。
15.根据权利要求13所述的电子设备,其中,所述处理器基于所述运动信息从所述多帧图像中选择至少两帧包括:
所述处理器从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像。
16.根据权利要求15所述的电子设备,其中,所述处理器基于所述两帧图像的运动信息对所述两帧图像进行图像处理的步骤包括:
所述处理器对所述第一帧图像以及所述第二帧图像进行频域变换;并对所述变换后的图像进行图像融合;对所述融合后的图像进行反频域变换。
17.根据权利要求15所述的电子设备,其中,所述处理器从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像包括:
所述处理器获取从图像拍摄时间点到图像曝光结束时间点,所述运动检测装置检测到的电子设备的运动信息;基于所述运动信息获取所述各帧图像的位移矢量;基于所述多帧图像中每两帧图像的所述位移矢量,判断所述两帧图像的运动方向是否正交。
18.根据权利要求17所述的电子设备,其中,所述处理器基于所述运动信息获取所述各帧图像的位移矢量包括:
所述处理器获取从所述图像拍摄时间点到曝光结束时间点,所述各帧图像的位移矢量;并获取图像曝光时间段内在所述运动检测装置的每个采样时间点,所述图像的多个位置坐标;
所述处理器基于所述多帧图像中每两帧图像的所述位移矢量,判断所述两帧图像的运动方向是否正交包括:
所述处理器确定每个所述位置坐标到所述位移矢量之间的距离;确定所有所述距离的均方根;根据所述均方根选择两帧图像,并判断该选择的两图像的运动方向是否正交。
19.根据权利要求15所述的电子设备,所述处理器进一步被配置为,确定所述第一帧图像以及所述第二帧图像在图像曝光期限的运动方向为固定方向;
所述处理器从所述多帧图像中选取运动方向正交的第一帧图像以及第二帧图像包括:选取运动方向正交且运动方向为固定方向的第一帧图像以及第二帧图像。
20.根据权利要求19所述的电子设备,其中,所述处理器确定所述第一帧图像以及所述第二帧图像在图像曝光期限的运动方向为固定方向包括:
所述处理器获取在图像曝光时间段内所述运动检测装置的每两个采样时间点之间,所述图像的位移矢量;根据所述位移矢量,确定所述图像在第一方向上的第一特征值以及在第二方向上的第二特征值;根据所述第一特征值以及第二特征值的关系,判断所述运动方向是否是固定方向。
21.根据权利要求13所述的电子设备,还包括:校准单元,用于预先对所述运动检测装置进行校准。
22.根据权利要求21所述的电子设备,所述校准单元被配置为:
获取相邻两帧图像拍摄时间点所述图像的第一位移矢量;
根据光流计算所述相邻两帧在所述拍摄时间点的第二位移矢量;
通过比较第一位移矢量以及第二位移矢量来校准所述运动检测装置。
23.根权利要求22所述的电子设备,所述通过比较第一位移矢量以及第二位移矢量来校准所述运动检测装置包括:
获取相邻两帧拍摄时间点之间,在所述运动检测装置每两个采样时间点之间所述图像的位移矢量;
比较所述第一位移矢量以及第二位移矢量确定所述运动检测装置的误差;
基于所述误差根据所述采样时间点个数获取平均误差;
基于所述平均误差来调整所述每两个采样时间点之间所述图像的位移矢量。
24.根据权利要求13所述的电子设备,其中,所述运动检测装置包括陀螺仪和/或加速度传感器。
CN201710433017.XA 2017-06-09 2017-06-09 图像处理方法以及电子设备 Active CN107231526B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710433017.XA CN107231526B (zh) 2017-06-09 2017-06-09 图像处理方法以及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710433017.XA CN107231526B (zh) 2017-06-09 2017-06-09 图像处理方法以及电子设备

Publications (2)

Publication Number Publication Date
CN107231526A CN107231526A (zh) 2017-10-03
CN107231526B true CN107231526B (zh) 2020-02-21

Family

ID=59935859

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710433017.XA Active CN107231526B (zh) 2017-06-09 2017-06-09 图像处理方法以及电子设备

Country Status (1)

Country Link
CN (1) CN107231526B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109672818B (zh) * 2017-10-16 2020-12-22 华为技术有限公司 一种调整图像质量的方法及装置
KR102466998B1 (ko) * 2018-02-09 2022-11-14 삼성전자주식회사 영상 융합 방법 및 장치
CN109819163A (zh) * 2019-01-23 2019-05-28 努比亚技术有限公司 一种图像处理控制方法、终端及计算机可读存储介质
CN112514363A (zh) * 2019-12-17 2021-03-16 深圳市大疆创新科技有限公司 图像传输系统及方法、控制装置、可移动平台
CN114245003B (zh) * 2021-11-23 2023-10-27 浙江大华技术股份有限公司 曝光控制方法、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104065854A (zh) * 2014-06-18 2014-09-24 联想(北京)有限公司 一种图像处理方法及一种电子设备
CN104796595A (zh) * 2014-01-17 2015-07-22 联想(北京)有限公司 图像处理方法和电子设备
CN106534692A (zh) * 2016-11-24 2017-03-22 腾讯科技(深圳)有限公司 一种视频稳像方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7634187B2 (en) * 2007-01-04 2009-12-15 Qualcomm Incorporated Dynamic auto-focus window selection that compensates for hand jitter

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104796595A (zh) * 2014-01-17 2015-07-22 联想(北京)有限公司 图像处理方法和电子设备
CN104065854A (zh) * 2014-06-18 2014-09-24 联想(北京)有限公司 一种图像处理方法及一种电子设备
CN106534692A (zh) * 2016-11-24 2017-03-22 腾讯科技(深圳)有限公司 一种视频稳像方法及装置

Also Published As

Publication number Publication date
CN107231526A (zh) 2017-10-03

Similar Documents

Publication Publication Date Title
CN107231526B (zh) 图像处理方法以及电子设备
Karpenko et al. Digital video stabilization and rolling shutter correction using gyroscopes
JP5659305B2 (ja) 画像生成装置および画像生成方法
JP4527152B2 (ja) カメラのモーションブラー関数を決定する手段を有するデジタルイメージ取得システム
KR102143456B1 (ko) 심도 정보 취득 방법 및 장치, 그리고 이미지 수집 디바이스
JP5659304B2 (ja) 画像生成装置および画像生成方法
JP5769813B2 (ja) 画像生成装置および画像生成方法
JP5865388B2 (ja) 画像生成装置および画像生成方法
EP2521091B1 (en) Estimation of motion blur in a picture
US9025859B2 (en) Inertial sensor aided instant autofocus
Hu et al. Image deblurring using smartphone inertial sensors
EP3296952B1 (en) Method and device for blurring a virtual object in a video
WO2018223381A1 (zh) 一种视频防抖方法及移动设备
CN108933896B (zh) 基于惯性测量单元的全景视频稳像的方法及系统
WO2017012372A1 (zh) 用于终端的拍照控制方法、装置和终端
CN107370941B (zh) 一种信息处理方法及电子设备
CN109391755B (zh) 摄像设备及其中执行的方法
JP5968379B2 (ja) 画像処理装置およびその制御方法
CN106461414A (zh) 一种智能设备的姿态关系计算方法和智能设备
JP2017060091A (ja) 姿勢推定装置、姿勢推定方法及びプログラム
Dasari et al. A joint visual-inertial image registration for mobile HDR imaging
JP6579816B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US10764500B2 (en) Image blur correction device and control method
CN108432229B (zh) 一种通过自拍实现他人拍照效果的方法及拍照设备
Zhang et al. A dataset for deep image deblurring aided by inertial sensor data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant