CN112637496B - 图像矫正方法及装置 - Google Patents

Abstract

本申请公开了一种图像矫正方法、装置，属于图像处理领域。其中的方法包括：获取图像采集终端采集的视频数据以及陀螺仪数据；根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；根据所述多个图像分段拐点对所述目标图像进行图像矫正。解决了现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

Description

图像矫正方法及装置

技术领域

本申请属于图像处理领域，具体涉及一种图像矫正方法及装置。

背景技术

因移动终端的相机基于体积便携性及成本考虑，选用卷帘门曝光(RollingShutter)类型传感器已成为手机行业最常见的相机解决方案。然而因卷帘门曝光传感器在相机拍摄过程中具有特殊的成像机理，使相机拍摄过程中如果相机发生抖动将极易引起帧内图像出现一定程度的成像剪切变换(Shear transformation)，导致成像效果差，其影响效果如图1a所示，左图为卷帘门曝光引起的畸变，右图为矫正后图像。为此，卷帘门曝光矫正方法的矫正性能将直接影响相机最终图像的成像质量。

现有移动相机采用卷帘门曝光(Rolling Shutter)类型传感器矫正方法中,如图1a所示，通过对当前矫正帧图像进行竖直等分若干段(通常为10段)，每一段对应一个拐点，以此方式去获取各个分段对应时刻陀螺仪抖动数据，随后进行单应性矩阵计算实现图像矫正。

在实现本申请过程中，发明人发现现有技术中至少存在如下问题：

图像均等分段的策略过于简单，不能精准对齐图像块的抖动数据，即卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，反而对图像整体的防抖效果产生一定程度的负向优化，不能够精准实施卷帘门曝光修正Rolling Shutter Correction，极大影响相机使用者的拍摄体验。

针对上述的问题，目前尚未提出有效的解决方案。

申请内容

本申请实施例的目的是提供一种图像矫正方法及装置，能够解决现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

为了解决上述技术问题，本申请是这样实现的：

第一方面，本申请实施例提供了一种图像矫正方法，该方法包括：获取图像采集终端采集的视频数据以及陀螺仪数据；根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；根据所述经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；根据所述多个图像分段拐点对所述目标图像进行图像矫正。

第二方面，本申请实施例提供了一种图像矫正的装置，该装置包括：获取单元，用于获取图像采集终端采集的视频数据以及陀螺仪数据；校准单元，用于根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；确定单元，用于根据所述经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；矫正单元，用于根据所述多个图像分段拐点对所述目标图像进行图像矫正。

第三方面，本申请实施例提供了一种电子设备，该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令，所述程序或指令被所述处理器执行时实现如第一方面所述的图像矫正方法的步骤。

第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储程序或指令，所述程序或指令被处理器执行时实现如第一方面所述的图像矫正方法的步骤。

第五方面，本申请实施例提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现如第一方面所述的图像矫正方法。

在本申请实施例中，通过获取图像采集终端采集的视频数据以及陀螺仪数据；根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；根据多个图像分段拐点对目标图像进行图像矫正。通过采集得到的视频数据以及图像采集部件的部件参数对陀螺仪数据进行拟合校准，经过拟合校准后的陀螺仪数据确定目标图像中的多个图像分段拐点，实现了精准获取对应时刻陀螺仪的抖动状态，解决了现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

附图说明

图1是现有技术中一种可选的矫正图像示意图；

图1a是现有技术中一种可选的图像矫正方法的示意图；

图2是本申请实施例中一种可选的图像矫正方法的流程示意图；

图3是本申请实施例中一种可选的陀螺仪数据校准方法的流程示意图；

图4是本申请实施例中一种可选的确定运动状态拐点的流程示意图；

图5是本申请实施例中一种可选的图像矫正方法的流程示意图；

图6是本申请实施例中一种可选的图像矫正装置的结构示意图；

图7是本申请实施例中一种可选的电子设备的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象，而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，说明书以及权利要求中“和/或”表示所连接对象的至少其中之一，字符“/”，一般表示前后关联对象是一种“或”的关系。

下面结合附图，通过具体的实施例及其应用场景对本申请实施例提供的图像矫正方法进行详细地说明。

本申请实施例中提出了一种图像矫正方法，参照附图2，示出了本申请的一种图像矫正方法的流程示意图，具体可以包括以下步骤：

S202，获取图像采集终端采集的视频数据以及陀螺仪数据；

具体地，本实施例中的视频数据是在通过图像采集终端采集目标图像的过程中得到的预览视频数据以及目标图像，陀螺仪数据中包括与视频数据对应的陀螺仪数据，例如陀螺仪的运动曲线等。在一个例子中，在通过手机的摄像头拍照时，在拍照前的预览视频的多个图像帧以及拍照得到目标图像、目标图像以及多个图像帧分别对应的陀螺仪数据。

S204，根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；

具体地，图像采集部件的部件参数包括但不限于：相机传感器的尺寸、镜头焦距。在具体地应用场景中，可以通过图像采集终端的处理器直接读取；同时也可以是通过人为将部件参数输入至图像采集终端中，本实施例中，对部件参数的获取方式不做任何限定。

对陀螺仪数据的校准包括但不限于陀螺仪的时间戳、延迟时间以及陀螺仪数据与视频数据的时间同步等。

S206，根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；

S208，根据多个图像分段拐点对目标图像进行图像矫正。

具体地，在本实施例中，针对现有技术中无法精准获取对应时刻陀螺仪所获取的抖动数据的情况，通过图像采集部件的部件参数以及视频数据确定目标参数，该目标参数包括但不限于实际焦距、曝光时长、陀螺仪对应的延迟时间以及陀螺仪的位置偏移等数值。通过目标参数对陀螺仪数据进行拟合校准，实现陀螺仪数据与视频数据的时间对准。

之后，根据校准后的陀螺仪数据确定在目标图像的拍摄过程中，图像采集终端的运动状态。根据图像采集终端的运动状态将目标图像的图像行划分为多个图像分段拐点，然后根据精确地图像分段拐点以及对应的陀螺仪数据对目标图像进行分段的图像矫正，最终输出矫正图像。

需要说明的是，通过本实施例，获取图像采集终端采集的视频数据以及陀螺仪数据；根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；根据多个图像分段拐点对目标图像进行图像矫正。通过采集得到的视频数据以及图像采集部件的部件参数对陀螺仪数据进行拟合校准，经过拟合校准后的陀螺仪数据确定目标图像中的多个图像分段拐点，实现了精准获取对应时刻陀螺仪的抖动状态。

可选地，在本实施例中，根据图像采集终端中图像采集部件的部件参数以及视频数据对陀螺仪数据进行拟合校准，包括但不限于：根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据视频数据进行迭代训练，以得到第一变换矩阵，其中，第一变换矩阵是根据陀螺仪数据预估得到的；根据第一变换矩阵与第二变换矩阵确定重投影误差，其中，第二变换矩阵是通过预先训练完成的预设算法得到的；根据重投影误差对第一目标参数进行拟合校准，以得到第二目标参数；通过第二目标参数对陀螺仪数据进行拟合校准。

在具体的应用场景中，在通过图像采集部件进行图像采集的过程中，存在一些参数与实际测量或设定的参数存在误差，该类参数无法通过实际测量，会对图像的矫正产生影响，例如摄像头的实际焦距与摄像头标定的物理焦距会存在一些数值上的差值。此外，还例如：目标图像中每个图像行的曝光时间、图像行的曝光时间与陀螺仪数据的时间延迟。因此在本实施例中，需要对一些参数进行校准，然后基于校准后的参数对陀螺仪数据进行校准，然后基于校准后的陀螺仪数据进行图像矫正，以提高对目标图像的图像矫正的准确性。

具体地，在本实施例中，通过基于特征匹配算法例如SIFT(Scale-invariantfeature transform，尺度不变特征变换)，得到用于计算相邻图像帧的第二变换矩阵，同时通过陀螺仪数据预估得到预设变换矩阵，通过预设变换矩阵以及第二变换矩阵同时对前一帧图像进行图像变换，以得到二者之间的误差。为了提高预设矩阵的变换精度，在参数拟合过程中，根据第一目标参数对预设变换矩阵中的预设参数进行初始化，根据视频数据中的多个前后视频帧进行迭代训练，由此可以快速地将预设变换矩阵迭代到精确值附近进而得到第一变换矩阵，以节约计算成本。随后通过计算第一变换矩阵以及第二变换矩阵获取得到的变换图像间的重投影误差，以此进一步地校准第一目标参数以得到第二目标参数，然后通过第二目标参数对陀螺仪数据进行拟合校准。其中，重投影误差计算公式如下所示：

其中J为重投影误差数值，X_n代表由SIFT算法在第n帧中匹配到的第n-1帧中X_n-1的对应点，W代表基于陀螺仪Gyro数据预估得到的第二变换矩阵。

通过上述实施例，将预设变换矩阵中的预设参数初始化为第一目标参数，并根据视频数据进行迭代训练，此可以快速地将预设变换矩阵迭代到精确值附近进而得到第一变换矩阵，以节约计算成本。进一步地，通过第一变换矩阵以及第二变换矩阵得到重投影误差，进一步地对第一目标参数进行校准，以实现对陀螺仪数据的校准，进一步地提高了图像矫正的准确度。

可选地，在本实施例中，第一目标参数包括：逻辑焦距、视频数据中视频帧的时间戳以及陀螺仪数据对应的延迟时间，其中，在根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵之前，还包括但不限于：根据图像采集部件的镜头焦距、输出图像的高度值以及传感器宽度值，确定逻辑焦距；根据视频数据中当前视频帧对应的空白行确定当前视频帧中各个图像行分别对应的时间戳；根据视频数据对应的第一时钟信号以及陀螺仪数据对应的第二时钟信号，确定延迟时间。

具体地，在本实施例中，在根据其中，在根据预设变换矩阵的预设参数初始化为第一目标参数并迭代训练之前，首先对预设参数进行初步的校准，以图像采集终端为相机为例，如图3所示，具体地校准方法可以包括以下步骤：

S31，根据图像采集部件的镜头焦距、输出图像的高度值以及传感器宽度值，确定逻辑焦距。

具体地，获取图像采集部件的尺寸信息后，首先通过相似三角原理对逻辑焦距进行计算，并将其作为后续参数拟合的参数值，其计算公式如下所示：

其中，f参数代表为所求的逻辑焦距，focal_mm代表相机镜头的焦距数值(单位mm)，sensor_w_mm代表相机传感器的宽度数值(单位mm)，frame_h代表为输出图像高度值。需要说明的是，在实际的应用场景中，其中输出图像的高度值image_height数值会受其拍照模式以及传感器sensor有效高度所影响，因此在本实施例中，采用相机传感器的宽度值进行计算逻辑焦距。

S32，根据视频数据中当前视频帧对应的空白行确定当前视频帧中各个图像行分别对应的时间戳。

具体地，计算当前视频帧对应的时间戳ts，其中相机拍摄过程中会多种因素影响其时间戳的计算，其中需要统计到相机传感器中对应的空白行(Blanking)以及目标图像的曝光时间，需要说明的是，在本实施例中，图像的曝光模式是逐行进行曝光的，因此在图像中每一行图像行的曝光时间都是不同的，因此通过获取空白行对应的时间、目标图像的曝光时间以及视频数据拍摄时的帧率，可以确定目标图像每一行所对应的时间戳。

进一步可选地，在本实施例中，根据视频数据中当前视频帧对应的空白行确定当前视频帧中各个图像行分别对应的时间戳，计算公式如下所示：

其中，frame_n_t_s代表当前视频帧第n行所对应的时间戳，V_sync代表系统垂直同步时钟，frame_rate代表视频拍摄所选模式的帧率，frame_h表示输出图像帧的高度，t_readout代表传感器每行读出数据所需时长。

S33，根据视频数据对应的第一时钟信号以及陀螺仪对应的第二时钟信号，确定延迟时间。

具体地，通过相机系统输出的视频Video和陀螺仪Gyro日志信息中获取到视频Video对应的第一时钟信号以及陀螺仪数据对应的第二时钟信号，因二者时钟信号均由相机系统内部时钟提供，对第一时钟信号以及第二时钟信号进行时间戳对齐，来计算获取陀螺仪数据的延迟时间t_d。

通过上述实施例，根据图像采集部件的镜头焦距、输出图像高度以及传感器宽度等确定逻辑焦距，根据视频数据中的空白行确定视频帧的时间戳，然后根据视频数据以及陀螺仪数据对应的时钟信号确定延迟时间，使得得到的第一目标参数更加准确。

可选地，在本实施例中，根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点，包括但不限于：根据目标图像对应的经过拟合校准后的陀螺仪数据中的陀螺仪曲线以及第二目标参数，确定与陀螺仪数据对应的一阶导数；根据一阶导数确定视频数据对应的运动状态拐点；根据运动状态拐点的幅值对运动状态拐点进行排序，以得到拐点序列；从拐点序列中选取多个图像分段拐点。

具体地，在本实施例中，如图4所示，根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点，具体地可以包括以下步骤：

S41，根据目标图像对应的经过拟合校准后的陀螺仪数据中的陀螺仪曲线以及第二目标参数，确定与陀螺仪数据对应的一阶导数；

具体地，首先获取当前帧曝光时间段对应的陀螺仪Gyro数据，需要说明的是，本实施例在此步骤所获取的Gyro数据是未经过滤波平滑(因电子防抖技术EIS算法中需将Gyro数据进行滤波平滑)，为此拿到的数据是未经处理的原始陀螺仪数据，以此来确保对应时间节点的Gyro数据是最精准的。随后通过计算该时间段的Gyro数据曲线的二阶导数，其计算流程如公式1-3所示。

其中

表示时刻x对应的一阶导数，用以表示此时刻Gyro数据曲线的状态，i表示Gyro数据维度，包括x、y、z；Gyro(.)代表Gyro数据曲线的函数表达式。

S42，根据一阶导数确定视频数据对应的运动状态拐点；

具体地，将计算得到的一阶导数进行筛选，当对应时刻的一阶导数值为0时，则表示该时间点相机抖动方向将发生改变，即曲线波峰波谷点(曲线中波峰或波谷对应的时间戳)，为此将此时间点记录下来，然后得到视频数据对应的运动状态拐点。

S43，根据运动状态拐点的幅值对运动状态拐点进行排序，以得到拐点序列；

在本实施例中，根据各个运动状态拐点对应的波动幅值对运动状态拐点进行由大到小排序，以得到拐点序列。具体地，针对Gyro数据曲线中通常含有较多的波峰波谷点，排序得到方向幅度最大的波峰与波谷，更有效地表征相机抖动的反向动作。为此本实施例在计算一阶导数的同时，需记录该时刻点的Gyro数值。通过对比零导数时刻Gyro数值的绝对值进行排序。

S44，从拐点序列中选取多个图像分段拐点。

具体地，可以根据预先设定的图像分段拐点数量，由大到小的次序从拐点序列中选取运动状态拐点。

通过上述实施例，能够实现精准获取对应时间点的陀螺仪抖动数据，并可以将陀螺仪的抖动时间对应到图像行中，实现对目标图像的精准分段。

可选地，在本实施例中，根据多个图像分段拐点对目标图像进行图像矫正，包括但不限于：根据多个图像分段拐点将目标图像划分为多个图像段；根据多个图像段分别对应的抖动状态以及陀螺仪抖动数据，确定多个图像段分别对应的第三变换矩阵；根据多个图像段分别对应的第三变换矩阵对图像段进行图像变换，得到变换后的图像端，并综合多个变换后的图像段，以得到目标图像对应的矫正图像。

具体地，在本实施例中，在精准获取到对应时间点的Gyro抖动数据之后，现只需将对应拐点时刻对应到图像行中，以实现目标图像的精准分段，随后进行单应性变换矩阵的计算，通过图像变换实现卷帘门曝光矫正。

在具体的应用场景中，如图5所示，根据多个图像分段拐点对目标图像进行图像矫正具体可以包括以下步骤：

S51，根据多个图像分段拐点将目标图像划分为多个图像段。

具体地，通过上述步骤中获取的精准参数值Gyro延迟时间td，用以精准匹配Gyro时间和Video时间，随后通过上述步骤中筛选得到的排序后的运动状态拐点，通过选取拐点序列中排序靠前的10个运动状态拐点映射到图像帧中的行中，以此获取多个图像分段拐点对应的图像拐点分布。在获取到图像拐点分布后，通过将上一运动状态拐点设置为此图像段的起始段，将二者之间的图像行划分为一个图像段，并将二者之间的Gyro数据进行拟合，求取Gyro平均值。

在本实施例中，在图像采集终端短时间内的单向运动可以看作匀速运动，以此作为当前图像段的抖动状态，来确定图像帧其他段的抖动数据。

S52，根据多个图像段分别对应的抖动状态以及图像段陀螺仪数据，确定多个图像段分别对应的第三变换矩阵；

具体地，基于获取到的各个图像段对应Gyro抖动数据，随即将获取到的Gyro数据转换为第三变换矩阵W。

S53，根据多个图像段分别对应的第三矩阵对图像段进行图像变换，并综合多个变换后的图像段，以得到目标图像对应的矫正图像。

具体地，通过第三变换矩阵实行图像分段变换，最终输出卷帘门曝光的目标图像对应的矫正图像。

可选地，在本实施例中，根据多个图像分段拐点将目标图像划分为多个图像段，包括但不限于：确定与图像分段拐点在时间上相邻的运动状态拐点；根据图像分段拐点以及相邻的运动状态拐点分别对应的图像行确定图像分段拐点对应的图像段。

具体地，在本实施例中，获取到图像分段拐点的时间分布，通过将在时间上与图像分段拐点相邻的上一运动状态拐点设置为此图像段的起始段，将二者之间的图像行划分为一个图像段。

可选地，在本实施例中，从拐点序列中选取多个图像分段拐点包括但不限于：获取目标图像中人脸数据所在的人脸数据行区域；将拐点序列中位于人脸数据行区域外的运动拐点确定为非人脸图像拐点；从拐点序列中的非人脸图像拐点中选取多个图像分段拐点。

具体地，在针对相机拍摄场景图像中，若前期人脸检测获取到场景存在人脸数据，则此场景需通过动态调整卷帘门矫正图像分段拐点的分布，以实现图像中人脸矫正的一致性，以动态实现图像人脸数据的矫正所引起畸变。针对此等场景，与上述实施例中的区别在于图像分段拐点的分布需通过实际场景检测到的人脸数据进行动态剔除相应拐点，随后通过动态修正后的拐点实行图像拐点的计算和分段矫正。

在具体地应用场景中，获取目标图像中人脸数据所在的人脸数据行区域，即确定人脸数据所在的图像行，确定目标图像中运动状态拐点对应的拐点序列中位于人脸数据行区域内的运动状态拐点为人脸图像拐点，位于人脸数据行区域内的运动状态拐点为非人脸图像拐点，为了避免人脸畸变，剔除人脸图像拐点，则从拐点序列中的非人脸图像拐点中选取多个图像分段拐点来进行人脸矫正。

通过上述实施例，从拐点序列中的非人脸图像拐点中选取多个图像分段拐点来进行人脸矫正，以避免图像矫正过程中对人脸数据产生的畸变。

可选地，在本实施例中，从拐点序列中的非人脸图像拐点中选取多个图像分段拐点，包括但不限于：确定人脸数据行区域所占目标图像的图像比例；根据图像比例确定多个图像分段拐点的数量。

具体地，在本实施例中，根据人脸数据行区域所占目标图像的图像比例来确定选取图像分段拐点的数量。例如目标图像的分辨率为5000*4000，人脸所占图像大小为2500*2000，则确定人脸数据行区域所占目标图像的图像比例为50％。假设不存在人脸数据的目标图像中，选取的图像分段拐点的数量为10，则在人脸数据行区域所占目标图像的图像比例为50％时，选取图像分段拐点的数量为5。

通过上述示例，确定人脸数据行区域所占目标图像的图像比例；根据图像比例确定多个图像分段拐点的数量，以避免在对图像的矫正过程中对人脸的畸变。

通过本实施例，获取图像采集终端采集的视频数据以及陀螺仪数据；根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；根据多个图像分段拐点对目标图像进行图像矫正。通过采集得到的视频数据以及图像采集部件的部件参数对陀螺仪数据进行拟合校准，经过拟合校准后的陀螺仪数据确定目标图像中的多个图像分段拐点，实现了精准获取对应时刻陀螺仪的抖动状态，解决了现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

需要说明的是，本申请实施例提供的图像矫正方法，执行主体可以为图像矫正装置，或者该图像矫正装置中的用于执行加载图像矫正方法的控制模块。本申请实施例中以图像矫正装置执行加载图像矫正方法为例，说明本申请实施例提供的图像矫正方法。

根据本申请的另一方面，还提供了一种图像矫正装置，如图6所示，该装置包括：

1)获取单元60，用于获取图像采集终端采集的视频数据以及陀螺仪数据；

2)校准单元62，用于根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；

3)确定单元64，用于根据所述经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；

4)矫正单元66，用于根据所述多个图像分段拐点对所述视频数据对应的目标图像进行图像矫正。

可选地，在本实施例中，所述校准单元62包括：

1)第一训练模块，用于根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵，其中，所述第一变换矩阵是根据所述陀螺仪数据预估得到的；

2)第一确定模块，用于根据第一变换矩阵与第二变换矩阵确定重投影误差，其中，所述第二变换矩阵是通过预先训练完成的预设算法得到的；

3)第一校准模块，用于根据所述重投影误差对所述第一目标参数进行拟合校准，以得到第二目标参数；

4)第二校准模块，用于通过所述第二目标参数对所述陀螺仪数据进行拟合校准。

可选地，在本实施例中，所述第一目标参数包括：逻辑焦距、所述目标图像中各个图像行对应的时间戳以及所述陀螺仪数据对应的延迟时间，其中，所述校准单元62还包括：

1)第二确定模块，用于在根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵之前，根据所述图像采集部件的镜头焦距、输出图像高度以及传感器宽度，确定所述逻辑焦距；

2)第三确定模块，用于根据所述视频数据中当前视频帧对应的空白行确定所述当前视频帧中各个图像行分别对应的时间戳；

3)第四确定模块，用于根据所述视频数据对应的第一时钟信号以及所述陀螺仪数据对应的第二时钟信号，确定所述延迟时间。

可选地，在本实施例中，所述第三确定模块具体用于执行以下公式：

其中frame_n_t_s代表当前视频帧第n行所对应的时间戳，V_sync代表所述第一时钟信号，frame_rate代表拍摄所述视频数据所选模式的帧率，frame_h表示输出图像帧的高度，t_readout代表传感器每行读出数据所需时长。

可选地，在本实施例中，所述确定单元64，包括：

1)第五确定模块，用于根据所述陀螺仪数据中目标图像对应的经过拟合校准后的陀螺仪曲线以及所述第二目标参数，确定与所述陀螺仪数据对应的一阶导数；

2)第六确定模块，用于根据所述一阶导数确定所述视频数据对应的运动状态拐点；

3)第一排序模块，用于根据运动状态拐点的幅值对所述运动状态拐点进行排序，以得到拐点序列；

4)第一选取模块，用于从所述拐点序列中选取所述多个图像分段拐点。

可选地，在本实施例中，所述确定单元64包括：

1)第一处理模块，用于根据所述多个图像分段拐点将所述目标图像划分为多个图像段；

2)第七确定模块，用于根据所述多个图像段分别对应的抖动状态以及陀螺仪抖动数据，确定所述多个图像段分别对应的第三变换矩阵；

3)第一矫正模块，用于根据所述多个图像段分别对应的第三变换矩阵对图像段进行图像变换，得到变换后的图像段，并综合所述多个变换后的图像段，以得到所述目标图像对应的矫正图像。

可选地，在本实施例中，所所述第一处理模块包括：

1)第一确定子模块，用于确定与所述图像分段拐点在时间上相邻的运动状态拐点；

2)第二确定子模块，用于根据所述图像分段拐点以及所述相邻的运动状态拐点分别对应的图像行确定所述图像分段拐点对应的图像段。

可选地，在本实施例中，所述第一选取模块包括：

1)第一获取子模块，用于获取所述目标图像中人脸数据所在的人脸数据行区域；

2)第三确定子模块，用于将所述拐点序列中位于所述人脸数据行区域外的运动拐点确定为非人脸图像拐点；

3)第一选取子模块，用于从所述拐点序列中的非人脸图像拐点中选取所述多个图像分段拐点。

可选地，在本实施例中，所述第一选取子模块还用于：

1)确定所述人脸数据行区域所占所述目标图像的图像比例；

2)根据所述图像比例确定所述多个图像分段拐点的数量。

本申请实施例中的图像矫正装置可以是装置，也可以是终端中的部件、集成电路、或芯片。该装置可以是移动电子设备，也可以为非移动电子设备。示例性的，移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本或者个人数字助理(personaldigital assistant，PDA)等，非移动电子设备可以为服务器、网络附属存储器(NetworkAttached Storage，NAS)、个人计算机(personal computer，PC)、电视机(television，TV)、柜员机或者自助机等，本申请实施例不作具体限定。

本申请实施例中的图像矫正装置可以为具有操作系统的装置。该操作系统可以为安卓(Android)操作系统，可以为iOS操作系统，还可以为其他可能的操作系统，本申请实施例不作具体限定。

本申请实施例提供的图像矫正装置够实现图1至图5方法实施例中图像矫正装置实现的各个过程，为避免重复，这里不再赘述。

通过本实施例提出的图像矫正装置，获取图像采集终端采集的视频数据以及陀螺仪数据；根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；根据多个图像分段拐点对目标图像进行图像矫正。通过采集得到的视频数据以及图像采集部件的部件参数对陀螺仪数据进行拟合校准，经过拟合校准后的陀螺仪数据确定目标图像中的多个图像分段拐点，实现了精准获取对应时刻陀螺仪的抖动状态，解决了现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

可选的，本申请实施例还提供一种电子设备，包括处理器710，存储器709，存储在存储器709上并可在所述处理器710上运行的程序或指令，该程序或指令被处理器710执行时实现上述方图像矫正法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

需要注意的是，本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。

图7为实现本申请实施例的一种电子设备的硬件结构示意图。

该电子设备700包括但不限于：射频单元701、网络模块702、音频输出单元703、输入单元704、传感器705、显示单元706、用户输入单元707、接口单元708、存储器709、以及处理器710等部件。

本领域技术人员可以理解，电子设备700还可以包括给各个部件供电的电源(比如电池)，电源可以通过电源管理系统与处理器710逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图7中示出的电子设备结构并不构成对电子设备的限定，电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置，在此不再赘述。

其中，输入单元704，在本申请实施例中为摄像头，用于获取图像采集终端采集的视频数据以及陀螺仪数据；

处理器710，用于根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准；还用于根据经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；根据所述多个图像分段拐点对所述目标图像进行图像矫正。

应理解的是，本申请实施例中，输入单元704可以包括图形处理器(GraphicsProcessing Unit，GPU)7041和麦克风7042，图形处理器7041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元706可包括显示面板7061，可以采用液晶显示器、有机发光二极管等形式来配置显示面板7061。用户输入单元707包括触控面板7071以及其他输入设备7072。触控面板7071，也称为触摸屏。触控面板7071可包括触摸检测装置和触摸控制器两个部分。其他输入设备7072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。存储器709可用于存储软件程序以及各种数据，包括但不限于应用程序和操作系统。处器710可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器710中。

通过本实施例提出的电子设备，获取图像采集终端采集的视频数据以及陀螺仪数据；根据图像采集终端中图像采集部件的部件参数以及视频数据，对陀螺仪数据进行拟合校准；根据经过拟合校准后的陀螺仪数据确定视频数据对应的目标图像中的多个图像分段拐点；根据多个图像分段拐点对目标图像进行图像矫正。通过采集得到的视频数据以及图像采集部件的部件参数对陀螺仪数据进行拟合校准，经过拟合校准后的陀螺仪数据确定目标图像中的多个图像分段拐点，实现了精准获取对应时刻陀螺仪的抖动状态，解决了现有技术中因为卷帘门曝光矫正后的图像未能精准跟随陀螺仪所获取的抖动数据，而导致不能精准实施卷帘门曝光修正的问题。

本申请实施例还提供一种可读存储介质，所述可读存储介质上存储有程序或指令，该程序或指令被处理器执行时实现上述图像矫正方法的方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

其中，所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质，包括计算机可读存储介质，如计算机只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等。

本申请实施例另提供了一种芯片，所述芯片包括处理器和通信接口，所述通信接口和所述处理器耦合，所述处理器用于运行程序或指令，实现上述图像矫正方法的方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

应理解，本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外，需要指出的是，本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能，还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能，例如，可以按不同于所描述的次序来执行所描述的方法，并且还可以添加、省去、或组合各种步骤。另外，参照某些示例所描述的特征可在其他示例中被组合。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

上面结合附图对本申请的实施例进行了描述，但是本申请并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本申请的启示下，在不脱离本申请宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本申请的保护之内。

Claims (9)

1.一种图像矫正方法，其特征在于，所述方法包括：

获取图像采集终端采集的视频数据以及陀螺仪数据；

根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；

根据所述经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；

根据所述多个图像分段拐点对所述目标图像进行图像矫正；

所述根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据对所述陀螺仪数据进行拟合校准，包括：

根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵，其中，所述第一变换矩阵是根据所述陀螺仪数据预估得到的；

根据第一变换矩阵与第二变换矩阵确定重投影误差，其中，所述第二变换矩阵是通过预先训练完成的预设算法得到的；

根据所述重投影误差对所述第一目标参数进行拟合校准，以得到第二目标参数；

通过所述第二目标参数对所述陀螺仪数据进行拟合校准。

2.根据权利要求1所述的方法，其特征在于，所述第一目标参数包括：逻辑焦距、所述视频数据中视频帧的时间戳以及所述陀螺仪数据对应的延迟时间，其中，

在根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵之前，还包括：

根据所述图像采集部件的镜头焦距、输出图像的高度值以及传感器宽度值，确定所述逻辑焦距；

根据所述视频数据中当前视频帧对应的空白行确定所述当前视频帧中各个图像行分别对应的时间戳；

根据所述视频数据对应的第一时钟信号以及所述陀螺仪数据对应的第二时钟信号，确定所述延迟时间。

3.根据权利要求2所述的方法，其特征在于，所述根据所述视频数据中当前视频帧对应的空白行确定所述当前视频帧中各个图像行分别对应的时间戳，其中，公式如下所示：

其中frame_n_t_s代表当前视频帧第n行所对应的时间戳，V_sync代表所述第一时钟信号，frame_rate代表拍摄所述视频数据所选模式的帧率，frame_h表示输出图像帧的高度，t_readout代表传感器每行读出数据所需时长。

4.根据权利要求1所述的方法，其特征在于，所述根据经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点，包括：

根据所述目标图像对应的经过拟合校准后的陀螺仪数据中的陀螺仪曲线以及所述第二目标参数，确定与所述陀螺仪数据对应的一阶导数；

根据所述一阶导数确定所述视频数据对应的运动状态拐点；

根据运动状态拐点的幅值对所述运动状态拐点进行排序，以得到拐点序列；

从所述拐点序列中选取所述多个图像分段拐点。

5.根据权利要求4所述的方法，其特征在于，所述根据所述多个图像分段拐点对所述目标图像进行图像矫正，包括：

根据所述多个图像分段拐点将所述目标图像划分为多个图像段；

根据所述多个图像段分别对应的抖动状态以及陀螺仪抖动数据，确定所述多个图像段分别对应的第三变换矩阵；

根据所述多个图像段分别对应的第三变换矩阵对图像段进行图像变换，得到变换后的图像段，并综合多个所述变换后的图像段，以得到所述目标图像对应的矫正图像。

6.根据权利要求5所述的方法，其特征在于，所述根据所述多个图像分段拐点将所述目标图像划分为多个图像段，包括：

确定与所述图像分段拐点在时间上相邻的运动状态拐点；

根据所述图像分段拐点以及所述相邻的运动状态拐点分别对应的图像行确定所述图像分段拐点对应的图像段。

7.根据权利要求5所述的方法，其特征在于，所述从所述拐点序列中选取所述多个图像分段拐点包括：

获取所述目标图像中人脸数据所在的人脸数据行区域；

将所述拐点序列中位于所述人脸数据行区域外的运动拐点确定为非人脸图像拐点；

从所述拐点序列中的非人脸图像拐点中选取所述多个图像分段拐点。

8.根据权利要求7所述的方法，其特征在于，所述从所述拐点序列中的非人脸图像拐点中选取所述多个图像分段拐点，包括：

确定所述人脸数据行区域所占所述目标图像的图像比例；

根据所述图像比例确定所述多个图像分段拐点的数量。

9.一种图像矫正装置，其特征在于，所述装置包括：

获取单元，用于获取图像采集终端采集的视频数据以及陀螺仪数据；

校准单元，用于根据所述图像采集终端中图像采集部件的部件参数以及所述视频数据，对所述陀螺仪数据进行拟合校准，以得到经过拟合校准后的陀螺仪数据；

确定单元，用于根据所述经过拟合校准后的陀螺仪数据确定所述视频数据对应的目标图像中的多个图像分段拐点；

矫正单元，用于根据所述多个图像分段拐点对所述视频数据对应的目标图像进行图像矫正；

其中，所述校准单元，包括：

第一训练模块，用于根据第一目标参数对预设变换矩阵的预设参数进行初始化，并根据所述视频数据进行迭代训练，以得到第一变换矩阵，其中，所述第一变换矩阵是根据所述陀螺仪数据预估得到的；

第一确定模块，用于根据第一变换矩阵与第二变换矩阵确定重投影误差，其中，所述第二变换矩阵是通过预先训练完成的预设算法得到的；

第一校准模块，用于根据所述重投影误差对所述第一目标参数进行拟合校准，以得到第二目标参数；

第二校准模块，用于通过所述第二目标参数对所述陀螺仪数据进行拟合校准。

Images