CN113286076A

CN113286076A - 拍摄方法及相关设备

Info

Publication number: CN113286076A
Application number: CN202110387359.9A
Authority: CN
Inventors: 徐其超; 鲁威; 聂诗玥; 刘蒙; 刘志鹏; 孙龙; 吴虹; 林焕; 胡康康
Original assignee: Huawei Technologies Co Ltd
Current assignee: Huawei Technologies Co Ltd
Priority date: 2021-04-09
Filing date: 2021-04-09
Publication date: 2021-08-20
Anticipated expiration: 2041-04-09
Also published as: CN113286076B

Abstract

本申请实施例提供一种拍摄方法及相关设备，该方法包括：获取摄像头采集的第一图像序列，其中，第一图像序列包括时间上连续的第n‑1帧图像和第n帧图像，n大于或等于2；根据第n‑1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径；根据第n帧图像的二维平移原始路径计算得到第n帧图像的二维平移修正信息；根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息对第一图像序列进行调整，得到目标图像序列。采用本申请实施例，能够在拍照或者录像过程中提高拍摄画面的稳定性。

Description

拍摄方法及相关设备

技术领域

本申请涉及图处理技术领域，尤其涉及一种拍摄方法及相关设备。

背景技术

随着科技技术的发展，微机械(Micro Electro Mechanical systems，MEMS)陀螺仪在实际生活中的各个领域得到广泛的应用。由于MEMS陀螺仪体积小、功耗低、成本低等原因，MEMS陀螺仪被广泛应用于各种消费类设备，如手机、平板以及数码相机中的图像防抖。在图像防抖应用中，陀螺仪有助于进行图像画面的稳定。

但是由于MEMS陀螺仪存在精度差、存在零偏等缺点。对于单纯使用陀螺仪信息进行画面稳定的方法，当手持静止或者缓慢移动拍摄设备进行拍照或录像时，拍摄的画面会存在缓慢漂移的问题。当在高倍率拍摄过程中，还会存在画面抖动问题。

发明内容

本申请实施例公开了一种拍摄方法及相关设备，能够在拍照或者录像过程中提高拍摄画面的稳定性。

本申请实施例第一方面公开了一种拍摄方法，该方法可以包括：获取摄像头采集的第一图像序列，其中，第一图像序列包括时间上连续的第n-1帧图像和第n帧图像，n大于或等于2；根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径；根据第n帧图像的二维平移原始路径计算得到第n帧图像的二维平移修正信息；根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息对第一图像序列进行调整，得到目标图像序列。

可以看出，通过本申请实施例可以结合三维旋转修正信息和二维平移修正信息来对摄像头采集的图像序列进行调整，因为现有技术中，在对三维旋转进行平滑及补偿之后，可能由于摄像头的三维平移而存在剩余抖动，所以由二维平移估计剩余抖动，从而可以修正剩余抖动所来带的影响。所以结合三维旋转修正信息和二维平移修正信息可以解决在拍摄过程中出现画面漂移或者画面抖动等问题，提高了拍摄画面的稳定性，可以理解的是，视频也是由一帧一帧的图像所构成的，对视频进行调整实际上是对构成视频的每一帧图像进行调整，因此同样可以提高输出的视频画面的稳定性。

结合第一方面，在一种可能的实现方式中，根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径，包括：根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维位移；根据第n帧图像的二维位移计算得到第n帧图像的二维平移原始路径。

结合第一方面，在一种可能的实现方式中，根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维位移，包括：获取第一特征点对坐标，第一特征点对坐标包括第n-1帧图像中的第一特征点坐标和第n帧图像中与第一特征点坐标匹配的第二特征点坐标；获取第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息；根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息对第一特征点对坐标进行三维旋转修正后，得到第二特征点对坐标；根据第二特征点对坐标计算得到第n帧图像的二维位移。

结合第一方面，在一种可能的实现方式中，获取第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息，包括：获取第n-1帧图像的惯性测量单元IMU数据和第n帧图像的IMU数据；将第n-1帧图像的IMU数据进行积分得到第n-1帧图像的三维旋转原始路径，以及将第n帧图像的IMU数据进行积分得到第n帧图像的三维旋转原始路径；通过三维路径平滑算法根据第n-1帧图像的三维旋转原始路径得到第n-1帧图像的三维旋转虚拟平滑路径，以及，根据所第n帧图像的三维旋转原始路径得到第n帧图像的三维旋转虚拟平滑路径；根据第n-1帧图像的三维旋转原始路径和第n-1帧图像的三维旋转虚拟平滑路径得到第n-1帧图像的三维旋转修正信息，以及，根据第n-1帧图像的三维旋转原始路径和第n帧图像的三维旋转虚拟平滑路径得到第n帧图像的三维旋转修正信息。可以看出，图像序列是基于视觉的纯图像信息，IMU数据和OIS数据是基于传感器的数据，根据IMU数据和OIS数据可以计算得到三维旋转修正信息，通过三维旋转修正信息可以对图像序列进行平滑和补偿。而三维旋转修正信息可以更有效地去除图像序列中的三维旋转抖动，在去除三维旋转抖动之后，可能会由于三维平移而存在剩余抖动，但是由于缺乏深度，无法完全估计三维平移。因此通过IMU数据可以计算得到的三维旋转修正信息，然后结合图像序列中的特征点和三维旋转修正信息来计算得到二维位移，使用二维平移来获取三维旋转修正后的抖动信息，再通过二维平移来修正剩余抖动信息。

结合第一方面，在一种可能的实现方式中，获取第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息，包括：获取第n-1帧图像的IMU数据和光学防抖OIS数据，以及第n帧图像的IMU数据和OIS数据；将第n-1帧图像的IMU数据进行积分得到第n-1帧图像的三维旋转原始路径，以及将第n帧图像的IMU数据进行积分得到第n帧图像的三维旋转原始路径；通过三维路径平滑算法根据第n-1帧图像的三维旋转原始路径得到第n-1帧图像的三维旋转虚拟平滑路径，以及，根据所第n帧图像的三维旋转原始路径得到第n帧图像的三维旋转虚拟平滑路径；根据第n-1帧图像的三维旋转原始路径、n-1帧图像的三维旋转虚拟平滑路径和n-1帧图像的OIS数据得到第n-1帧图像的三维旋转修正信息，以及，根据第n-帧图像的三维旋转原始路径、n帧图像的三维旋转虚拟平滑路径和第n帧图像的OIS数据得到第n帧图像的三维旋转修正信息。可以看出，在获取到OIS数据之后，可以通过IMU数据和OIS数据来计算得到三维旋转修正信息。

结合第一方面，在一种可能的实现方式中，根据第n帧图像的二维平移原始路径计算得到第n帧图像的二维平移修正信息，包括：根据第n帧图像的二维平移原始路径和摄像头的运动状态计算得到第n帧图像的二维平移修正信息。

结合第一方面，在一种可能的实现方式中，根据第n帧图像的二维平移原始路径和摄像头的运动状态计算得到第n帧图像的二维平移修正信息，包括：获取摄像头的运动状态所对应的二维平移校正范围；根据第n帧图像的二维平移原始路径和二维平移校正范围计算得到第n帧图像的二维虚拟平滑路径；根据第n帧图像的二维平移原始路径和第n帧图像的二维虚拟平滑路径计算得到第n帧图像的二维平移修正信息。

可以看出，采集图像序列的摄像头可能处于不同的运动状态下，而不同的运动状态将带来不同的抖动，也即不同的运动状态对应不同的二维平移修正范围，所以需要结合二维平移原始路径和摄像头当前的运动状态所对应的二维平移修正范围来计算二维平移修正信息，通过上述方法计算得到的二维平移修正信息更贴合实际场景，符合实际需求。

结合第一方面，在一种可能的实现方式中，若第n帧图像的二维原始平移路径中不存在第一路径点的平移信息，根据第n帧图像的二维平移原始路径和二维平移校正范围计算得到第n帧图像的二维虚拟平滑路径包括：在二维平移校正范围和第一路径点的约束下，通过二维路径平滑算法得到第n帧图像的二维虚拟平滑路径，以使第n帧图像的二维虚拟平滑路径经过第一路径点。

可以看出，二维原始平移路径中可能不存在某些路径点的信息，也即在计算过程中可能会丢失某些信息，所以为了保证计算得到的二维虚拟平滑路径充分考虑了原始路径的路径点，将二维虚拟平滑路径强制经过丢失信息的路径点。

结合第一方面，在一种可能的实现方式中，获取摄像头的运动状态所对应的二维平移校正范围，包括：通过场景分类算法确定摄像头的运动状态；根据摄像头的运动状态确定运动状态所对应的二维平移校正范围。

结合第一方面，在一种可能的实现方式中，通过场景分类方法确定摄像头的运动状态，包括：获取第一图像序列的IMU数据和OIS数据；通过场景分类算法根据第一图像序列的IMU数据和OIS数据确定摄像头的运动状态。

结合第一方面，在一种可能的实现方式中，通过场景分类方法确定摄像头的运动状态，包括：获取第一图像序列的IMU数据；通过场景分类方法根据第一图像序列的IMU数据确定摄像头的运动状态。

可以看出，摄像头的运动状态是结合IMU数据，或者IMU数据和OIS数据，并且通过场景分类算法计算得到的，所以计算得到的摄像头的运动状态是真实可信的。

结合第一方面，在一种可能的实现方式中，根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息对第一图像序列进行调整，得到目标图像序列，包括：根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息计算得到第一图像序列的变形信息；根据变形信息对第一图像序列进行调整，从而得到目标图像序列。

第二方面，本申请实施例提供了一种电子设备，电子设备包括一个或多个存储器、一个或多个处理器，所述一个或多个存储器与所述一个或多个处理器耦合，所述一个或多个存储器用于存储计算机程序，所述一个或多个处理器用于调用所述计算机程序，所述计算机程序包括指令，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取摄像头采集的第一图像序列，其中，所述第一图像序列包括时间上连续的第n-1帧图像和第n帧图像，n大于或等于2；根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维平移原始路径；根据所述第n帧图像的二维平移原始路径计算得到所述第n帧图像的二维平移修正信息；根据所述第n帧图像的三维旋转修正信息和所述第n帧图像的二维平移修正信息对所述第一图像序列进行调整，得到所述目标图像序列。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维位移；根据所述第n帧图像的二维位移计算得到所述第n帧图像的二维平移原始路径。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取第一特征点对坐标，所述第一特征点对坐标包括所述第n-1帧图像中的第一特征点坐标和所述第n帧图像中与所述第一特征点坐标匹配的第二特征点坐标；获取所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息；根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息对所述第一特征点对坐标进行三维旋转修正后，得到第二特征点对坐标；根据所述第二特征点对坐标计算得到所述第n帧图像的二维位移。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取所述第n-1帧图像的惯性测量单元IMU数据和所述第n帧图像的IMU数据；将所述第n-1帧图像的IMU数据进行积分得到所述第n-1帧图像的三维旋转原始路径，以及将所述第n帧图像的IMU数据进行积分得到所述第n帧图像的三维旋转原始路径；通过三维路径平滑算法根据所述第n-1帧图像的三维旋转原始路径得到所述第n-1帧图像的三维旋转虚拟平滑路径，以及，根据所第n帧图像的三维旋转原始路径得到所述第n帧图像的三维旋转虚拟平滑路径；根据所述第n-1帧图像的三维旋转原始路径和所述第n-1帧图像的三维旋转虚拟平滑路径得到所述第n-1帧图像的三维旋转修正信息，以及，根据所述第n-1帧图像的三维旋转原始路径和所述第n帧图像的三维旋转虚拟平滑路径得到所述第n帧图像的三维旋转修正信息。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取所述第n-1帧图像的IMU数据和光学防抖OIS数据，以及所述第n帧图像的IMU数据和OIS数据；将所述第n-1帧图像的IMU数据进行积分得到所述第n-1帧图像的三维旋转原始路径，以及将所述第n帧图像的IMU数据进行积分得到所述第n帧图像的三维旋转原始路径；通过三维路径平滑算法根据所述第n-1帧图像的三维旋转原始路径得到所述第n-1帧图像的三维旋转虚拟平滑路径，以及，根据所第n帧图像的三维旋转原始路径得到所述第n帧图像的三维旋转虚拟平滑路径；根据所述第n-1帧图像的三维旋转原始路径、所述n-1帧图像的三维旋转虚拟平滑路径和所述n-1帧图像的OIS数据得到所述第n-1帧图像的三维旋转修正信息，以及，根据所述第n-帧图像的三维旋转原始路径、所述n帧图像的三维旋转虚拟平滑路径和所述第n帧图像的OIS数据得到所述第n帧图像的三维旋转修正信息。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备根据所述第n帧图像的二维平移原始路径和所述摄像头的运动状态计算得到所述第n帧图像的二维平移修正信息。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取所述摄像头的运动状态所对应的二维平移校正范围；根据所述第n帧图像的二维平移原始路径和所述二维平移校正范围计算得到所述第n帧图像的二维虚拟平滑路径；根据所述第n帧图像的二维平移原始路径和所述第n帧图像的二维虚拟平滑路径计算得到所述第n帧图像的二维平移修正信息。

结合第二方面，在一种可能的实现方式中，若所述第n帧图像的二维原始平移路径中不存在第一路径点的平移信息，当所述指令被所述一个或多个处理器执行时，使得所述电子设备在所述二维平移校正范围和所述第一路径点的约束下，通过二维路径平滑算法得到所述第n帧图像的二维虚拟平滑路径，以使所述第n帧图像的二维虚拟平滑路径经过所述第一路径点。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备通过场景分类算法确定所述摄像头的运动状态；根据所述摄像头的运动状态确定所述运动状态所对应的二维平移校正范围。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取所述第一图像序列的IMU数据和OIS数据；通过场景分类算法根据所述第一图像序列的IMU数据和OIS数据确定所述摄像头的运动状态。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备获取所述第一图像序列的IMU数据；通过场景分类方法根据所述第一图像序列的IMU数据确定所述摄像头的运动状态。

结合第二方面，在一种可能的实现方式中，当所述指令被所述一个或多个处理器执行时，使得所述电子设备根据所述第n帧图像的三维旋转修正信息和所述第n帧图像的二维平移修正信息计算得到所述第一图像序列的变形信息；根据所述变形信息对所述第一图像序列进行调整，从而得到目标图像序列。

第三方面，本申请提供了一种电子设备，包括：一个或多个功能模块。一个或多个功能模块用于执行上述任一方面任一项可能的实现方式中的拍摄方法。

第四方面，本申请实施例提供了一种计算机存储介质，用于存储有计算机指令，当计算机指令在电子设备上运行时，使得通信装置执行上述任一方面任一项可能的实现方式中的拍摄方法。

第五方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在计算机上运行时，使得计算机执行上述任一方面任一项可能的实现方式中的拍摄方法。

附图说明

以下对本申请实施例用到的附图进行介绍。

图1是本申请实施例提供的一种电子设备的结构示意图；

图2是本申请实施例提供的一种电子设备的软件结构框图；

图3是本申请实施例提供的另一种电子设备的结构示意图；

图4是本申请实施例提供的一种拍摄方法的流程示意图；

图5是本申请实施例提供的一种拍摄方法的系统架构图；

图6是本申请实施例提供的一种特征点三维旋转修正算法的示意图；

图7是本申请实施例提供的一种二维路径平滑示意图；

图8是本申请实施例提供的另一种拍摄方法的系统架构图。

具体实施方式

下面结合本申请实施例中的附图对本申请实施例进行描述。

本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

首先，对本申请中的部分用于进行解释说明，以便于本领域技术人员理解。

1.MEMS陀螺仪

MEMS技术是建立在微米/纳米技术(micro/nanotechnology)基础上的21世纪前沿技术，是指对微米/纳米材料进行设计、加工、制造、测量和控制的技术。它可将机械构件、光学系统、驱动部件、电控系统集成为一个整体单元的微型系统。这种微电子机械系统不仅能够采集、处理与发送信息或指令，还能够按照所获取的信息自主地或根据外部的指令采取行动。它用微电子技术和微加工技术(包括硅体微加工、硅表面微加工、LIGA和晶片键合等技术)相结合的制造工艺，制造出各种性能优异、价格低廉、微型化的传感器、执行器、驱动器和微系统。

传统的陀螺仪主要是利用角动量守恒原理，因此它主要是一个不停转动的物体，它的转轴指向不随承载它的支架的旋转而变化。微机械陀螺仪利用科里奥利力——旋转物体在有径向运动时所受到的切向力。在本申请实施例中，MEMS陀螺仪主要用于检测拍摄画面的抖动，能够对拍摄的画面起到稳定的作用。

2.图像稳定

拍摄设备在移动过程中所拍摄的图像序列，不仅包含了拍摄设备的主动运动，同时也引入了一些不希望的运动(如拍摄设备的振动)，通常是不规则的随机运动。由于这种随机运动的存在，会因为视觉暂留而造成观察图像序列模糊和抖动，不便于观察。

图像稳定就是从输入的图像序列中去除因拍摄设备的随机运动而引入的图像扰动，使图像序列稳定的处理过程。

3.数字图像稳定(Digital Image Stabilization，DIS)

通过数字电路来估计摄像头轨迹(即，在每对连续帧之间检测的抖动)，并且从相同场景的图像帧的序列中过滤该抖动来完成图像序列的稳像。

4.电子稳像(Electronic Image Stabilization，EIS)

EIS是一种利用电子处理的图像增强技术。EIS采用高速数字图像信号处理技术，直接确定图像序列的帧间运动矢量，分离图像序列的平稳运动和抖动参量。对抖动分量进行补偿，使输出的图像序列看起来平滑、稳定。

5.光学防抖(Optical image stabilization，OIS)

OIS是指在照相机或者其他类似成像仪器中，通过光学元器件的设置，例如镜头设置，来避免或者减少扑捉光学信号过程中出现的仪器抖动现象，从而提高成像质量。

6.机械稳像(Mechanical Image Stabilization，MIS)

通过使用专用稳定机械设备，将拍摄设备安装到该专用机械稳定设备上。专用机械稳定设备实时检测用户运动状态，然后通过算法补偿用户运动，使得拍摄设备朝向稳定，从而可以生成稳定的图像序列。

首先，为了便于理解本申请实施例，进一步分析并提出本申请所具体要解决的技术问题。目前，在拍照或者录像过程中，为了提升手持静止和缓慢移动场景中拍摄画面的稳定效果，主要包括如下四种方案，其中，

方案一：DIS技术

当电子设备采集到图像序列后，电子设备首先提取图像序列中每帧图像的特征，然后再匹配连续两帧图像之间的特征，之后再获取图像序列的二维平移原始路径。电子设备通过DIS技术对二维平移原始路径进行滤波平滑，可以得到二维虚拟平滑路径。接下来，电子设备可以计算二维平移原始路径和二维虚拟平滑路径之间的变换信息，将该变换信息应用到图像序列中，可以得到稳定的图像序列。

方案一的缺点：

由于DIS技术在图像清晰，噪声较低的条件下，电子设备应用DIS技术可以输出稳定的图像序列。但是如果图像的特征点较少，画面噪声较大，或者拍摄的画面存在模糊等情况，电子设备应用DIS技术无法输出稳定的图像序列。

方案二：EIS技术

电子设备采集图像序列，同时电子设备中的惯性测量单元(InertialMeasurement Unit，IMU)传感器输出陀螺仪、加速度和磁力计等IMU数据。电子设备通过IMU数据可以计算图像序列中每帧图像的位姿，每帧图像序列的位姿可以生成三维真实路径。然后，电子设备通过滤波等技术可以生成三维虚拟路径。接下来，电子设备可以根据三维真实路径和三维虚拟路径计算每帧图像的变换信息。最后，电子设备将该变换信息应用到图像序列中，可以得到稳定的图像序列。

方案二的缺点：

EIS技术无法解决因IMU数据的误差而导致的高倍率拍照或者录像时画面不稳定的问题。

方案三：OIS技术

在电子设备的相机中安装专用的运动补偿硬件单元，通过IMU数据获取电子设备的运动状态，然后电子设备通过运动补偿硬件单元在一定范围内往相反方向补偿电子设备的运动，从而电子设备可以输出稳定的图像序列。

方案三的缺点：

受到电子设备的相机的空间尺寸的限制，OIS技术能够补偿的运动范围有限，所以当电子设备的运动范围较大时，电子设备无法输出稳定的图像序列。

方案四：MIS技术

使用专用稳定机械设备，将电子设备安装到该专用机械稳定设备上。专用机械稳定设备可以实时检测电子设备的运动状态，然后电子设备再通过算法补偿运动，使得电子设备的朝向稳定，因此电子设备可以输出稳定的图像序列。

方案四的缺点：

MIS技术需要专用稳定机械设备，不具备便携性。

综上，本申请的发明人认为亟需一种拍摄方法及相关设备来解决在手持静止或缓慢移动进行拍摄的过程中，画面缓慢漂移的问题；以及在高倍的拍摄过程中，画面轻微抖动的问题。

为了便于理解本方案，请参见图1，图1是本申请实施例提供的一种电子设备100的结构示意图。

应该理解的是，图1所示电子设备100仅是一个范例，并且电子设备100可以具有比图1中所示的更多的或者更少的部件，可以组合两个或多个的部件，或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。

电子设备100可以包括：处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A，陀螺仪传感器180B，气压传感器180C，磁传感器180D，加速度传感器180E，距离传感器180F，接近光传感器180G，指纹传感器180H，温度传感器180J，触摸传感器180K，环境光传感器180L，骨传导传感器180M等。

可以理解的是，本发明实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，存储器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

其中，控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。

在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。

I2C接口是一种双向同步串行总线，包括一根串行数据线(serial data line，SDA)和一根串行时钟线(derail clock line，SCL)。在一些实施例中，处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K，充电器，闪光灯，摄像头193等。例如：处理器110可以通过I2C接口耦合触摸传感器180K，使处理器110与触摸传感器180K通过I2C总线接口通信，实现电子设备100的触摸功能。

I2S接口可以用于音频通信。在一些实施例中，处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合，实现处理器110与音频模块170之间的通信。在一些实施例中，音频模块170可以通过I2S接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。

PCM接口也可以用于音频通信，将模拟信号抽样，量化和编码。在一些实施例中，音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中，音频模块170也可以通过PCM接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。

UART接口是一种通用串行数据总线，用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中，UART接口通常被用于连接处理器110与无线通信模块160。例如：处理器110通过UART接口与无线通信模块160中的蓝牙模块通信，实现蓝牙功能。在一些实施例中，音频模块170可以通过UART接口向无线通信模块160传递音频信号，实现通过蓝牙耳机播放音乐的功能。

MIPI接口可以被用于连接处理器110与显示屏194，摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface，CSI)，显示屏串行接口(displayserial interface，DSI)等。在一些实施例中，处理器110和摄像头193通过CSI接口通信，实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信，实现电子设备100的显示功能。

GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号，也可被配置为数据信号。在一些实施例中，GPIO接口可以用于连接处理器110与摄像头193，显示屏194，无线通信模块160，音频模块170，传感器模块180等。GPIO接口还可以被配置为I2C接口，I2S接口，UART接口，MIPI接口等。

USB接口130是符合USB标准规范的接口，具体可以是Mini USB接口，Micro USB接口，USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电，也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机，通过耳机播放音频。该接口还可以用于连接其他电子设备，例如AR设备等。

可以理解的是，本发明实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对电子设备100的结构限定。在本申请另一些实施例中，电子设备100也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施例中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中，充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为电子设备供电。

电源管理模块141用于连接电池142，充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110，内部存储器121，外部存储器，显示屏194，摄像头193，和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施例中，电源管理模块141也可以设置于处理器110中。在另一些实施例中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。

电子设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施例中，天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(low noise amplifier，LNA)等。移动通信模块150可以由天线1接收电磁波，并对接收的电磁波进行滤波，放大等处理，传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施例中，移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中，移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A，受话器170B等)输出声音信号，或通过显示屏194显示图像或视频。在一些实施例中，调制解调处理器可以是独立的器件。在另一些实施例中，调制解调处理器可以独立于处理器110，与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks，WLAN)(如无线保真(wireless fidelity，Wi-Fi)网络)，蓝牙(bluetooth，BT)，全球导航卫星系统(global navigation satellite system，GNSS)，调频(frequency modulation，FM)，近距离无线通信技术(near field communication，NFC)，红外技术(infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施例中，电子设备100的天线1和移动通信模块150耦合，天线2和无线通信模块160耦合，使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications，GSM)，通用分组无线服务(general packet radio service，GPRS)，码分多址接入(codedivision multiple access，CDMA)，宽带码分多址(wideband code division multipleaccess，WCDMA)，时分码分多址(time-division code division multiple access，TD-SCDMA)，长期演进(long term evolution，LTE)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system，GPS)，全球导航卫星系统(global navigation satellite system，GLONASS)，北斗卫星导航系统(beidounavigation satellite system，BDS)，准天顶卫星系统(quasi-zenith satellitesystem，QZSS)和/或星基增强系统(satellite based augmentation systems，SBAS)。

电子设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。举例来说，处理器110第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径，然后再根据第n帧图像的二维平移原始路径计算得到第n帧图像的二维平移修正信息，最后根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息对第一图像序列进行调整，得到目标图像序列。由显示屏194显示目标图像序列，该目标图像序列是用户的拍摄画面，也即用户在手持静止或者缓慢移动进行拍摄时，可以减轻拍摄画面所存在的缓慢漂移问题，以及画面轻微抖动等问题。

显示屏194用于显示图像，视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。在一些实施例中，电子设备100可以包括1个或N个显示屏194，N为大于1的正整数。

电子设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施例中，电子设备100可以包括1个或N个摄像头193，N为大于1的正整数。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当电子设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样，电子设备100可以播放或录制多种编码格式的视频，例如：动态图像专家组(moving picture experts group，MPEG)1，MPEG2，MPEG3，MPEG4等。

NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。

外部存储器接口120可以用于连接外部存储卡，例如Micro SD卡，实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部存储卡中。

内部存储器121可以用于存储计算机可执行程序代码，所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令，从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中，存储程序区可存储操作系统，至少一个功能所需的应用程序(比如声音播放功能，图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据，电话本等)等。此外，内部存储器121可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件，闪存器件，通用闪存存储器(universal flash storage，UFS)等。

电子设备100可以通过音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，以及应用处理器等实现音频功能。例如音乐播放，录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中，音频模块170可以设置于处理器110中，或将音频模块170的部分功能模块设置于处理器110中。

扬声器170A，也称“喇叭”，用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐，或收听免提通话。

受话器170B，也称“听筒”，用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时，可以通过将受话器170B靠近人耳接听语音。

麦克风170C，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风170C发声，将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中，电子设备100可以设置两个麦克风170C，除了采集声音信号，还可以实现降噪功能。在另一些实施例中，电子设备100还可以设置三个，四个或更多麦克风170C，实现采集声音信号，降噪，还可以识别声音来源，实现定向录音功能等。

耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130，也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform，OMTP)标准接口，美国蜂窝电信工业协会(cellular telecommunications industry association of the USA，CTIA)标准接口。

压力传感器180A用于感受压力信号，可以将压力信号转换成电信号。在一些实施例中，压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A，电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194，电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中，作用于相同触摸位置，但不同触摸操作强度的触摸操作，可以对应不同的操作指令。例如：当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时，执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时，执行新建短消息的指令。

陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中，可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器180B检测电子设备100抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消电子设备100的抖动，实现防抖。陀螺仪传感器180B还可以用于导航，体感游戏场景。

气压传感器180C用于测量气压。在一些实施例中，电子设备100通过气压传感器180C测得的气压值计算海拔高度，辅助定位和导航。

磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中，当电子设备100是翻盖机时，电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态，设置翻盖自动解锁等特性。

加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态，应用于横竖屏切换，计步器等应用。

距离传感器180F，用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中，拍摄场景，电子设备100可以利用距离传感器180F测距以实现快速对焦。

接近光传感器180G可以包括例如发光二极管(LED)和光检测器，例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时，可以确定电子设备100附近有物体。当检测到不充分的反射光时，电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话，以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式，口袋模式自动解锁与锁屏。

环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合，检测电子设备100是否在口袋里，以防误触。

指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁，访问应用锁，指纹拍照，指纹接听来电等。

温度传感器180J用于检测温度。在一些实施例中，电子设备100利用温度传感器180J检测的温度，执行温度处理策略。例如，当温度传感器180J上报的温度超过阈值，电子设备100执行降低位于温度传感器180J附近的处理器的性能，以便降低功耗实施热保护。在另一些实施例中，当温度低于另一阈值时，电子设备100对电池142加热，以避免低温导致电子设备100异常关机。在其他一些实施例中，当温度低于又一阈值时，电子设备100对电池142的输出电压执行升压，以避免低温导致的异常关机。

触摸传感器180K，也称“触控面板”。触摸传感器180K可以设置于显示屏194，由触摸传感器180K与显示屏194组成触摸屏，也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器，以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中，触摸传感器180K也可以设置于电子设备100的表面，与显示屏194所处的位置不同。

骨传导传感器180M可以获取振动信号。在一些实施例中，骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏，接收血压跳动信号。在一些实施例中，骨传导传感器180M也可以设置于耳机中，结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号，解析出语音信号，实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息，实现心率检测功能。

按键190包括开机键，音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入，产生与电子设备100的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示，也可以用于触摸振动反馈。例如，作用于不同应用(例如拍照，音频播放等)的触摸操作，可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作，马达191也可对应不同的振动反馈效果。不同的应用场景(例如：时间提醒，接收信息，闹钟，游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195，或从SIM卡接口195拔出，实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同，也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施例中，电子设备100采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在电子设备100中，不能和电子设备100分离。

基于上述，电子设备100的软件系统可以采用分层架构，事件驱动架构，微核架构，微服务架构，或云架构。本申请实施例以分层架构的Android系统为例，示例性说明电子设备100的软件结构。

请参见图2，图2是本申请实施例提供的一种电子设备100的软件结构框图。

分层架构将软件分成若干个层，每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中，将Android系统分为四层，从上至下分别为应用程序层，应用程序框架层，安卓运行时(Android Runtime)和系统库，以及内核层。

应用程序层可以包括一系列应用程序包。

如图2所示，应用程序包可以包括相机，图库，日历，通话，地图，导航，WLAN，蓝牙，音乐，视频，短信息等应用程序。

应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface，API)和编程框架。应用程序框架层包括一些预先定义的函数。

如图2所示，应用程序框架层可以包括窗口管理器，内容提供器，视图系统，电话管理器，资源管理器，通知管理器等。

窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕等。

内容提供器用来存放和获取数据，并使这些数据可以被应用程序访问。所述数据可以包括视频，图像，音频，拨打和接听的电话，浏览历史和书签，电话簿等。

视图系统包括可视控件，例如显示文字的控件，显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如，包括短信通知图标的显示界面，可以包括显示文字的视图以及显示图片的视图。

电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通，挂断等)。

资源管理器为应用程序提供各种资源，比如本地化字符串，图标，图片，布局文件，视频文件等等。

通知管理器使应用程序可以在状态栏中显示通知信息，可以用于传达告知类型的消息，可以短暂停留后自动消失，无需用户交互。比如通知管理器被用于告知下载完成，消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知，例如后台运行的应用程序的通知，还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息，发出提示音，电子设备振动，指示灯闪烁等。

Android Runtime包括核心库和虚拟机。Android Runtime负责安卓系统的调度和管理。

核心库包含两部分：一部分是java语言需要调用的功能函数，另一部分是安卓的核心库。

应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理，堆栈管理，线程管理，安全和异常的管理，以及垃圾回收等功能。

系统库可以包括多个功能模块。例如：表面管理器(surface manager)，媒体库(Media Libraries)，三维图形处理库(例如：OpenGL ES)，2D图形引擎(例如：SGL)等。

表面管理器用于对显示子系统进行管理，并且为多个应用程序提供了2D和3D图层的融合。

媒体库支持多种常用的音频，视频格式回放和录制，以及静态图像文件等。媒体库可以支持多种音视频编码格式，例如:MPEG4，H.264，MP3，AAC，AMR，JPG，PNG等。

三维图形处理库用于实现三维图形绘图，图像渲染，合成，和图层处理等。

2D图形引擎是2D绘图的绘图引擎。

内核层是硬件和软件之间的层。内核层至少包含显示驱动，摄像头驱动，音频驱动，传感器驱动。

下面结合捕获拍照场景，示例性说明电子设备100软件以及硬件的工作流程。

当触摸传感器180K接收到触摸操作，相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标，触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件，识别该输入事件所对应的控件。以该触摸操作是触摸单击操作，该单击操作所对应的控件为相机应用图标的控件为例，相机应用调用应用框架层的接口，启动相机应用，进而通过调用内核层启动摄像头驱动，通过摄像头193捕获静态图像或视频。

请参见图3，图3是本申请实施例提供的另一种电子设备100的结构示意图。从图3可以看出，电子设备100可以包括光学防抖OIS传感器301、惯性处理单元IMU传感器302、摄像头303、三维旋转修正单元304、二维平移修正单元305、修正信息融合单元306和图像变形单元307。

光学防抖OIS传感器301，是用于实现光学防抖的器件，具体可以是特殊的镜头或者CCD感光元件。当OIS传感器内的陀螺仪侦测到微小的移动时，会将信号传至微处理器，微处理器可以计算需要补偿的位移量，然后可以根据镜头的抖动方向以及位移量加以补偿，从而可以有效地克服因抖动而产生的图像漂移等问题。因此，通过OIS传感器301可以获取到位移量等OIS数据。

惯性处理单元IMU传感器302，是用于测量物体三轴姿态角(或角速率)以及加速度的装置。一般来说，一个IMU传感器包含了三个单轴的加速度计和三个单轴的陀螺，加速度计检测物体在载体坐标系统独立三轴的加速度信号，而陀螺检测载体相对于导航坐标系的角速度信号，测量物体在三维空间中的角速度和加速度，并以此解算出物体的姿态。因此，通过IMU传感器302可以获取加速度和角速度等IMU数据。

摄像头303，又称感光元件或者图像传感器，是一种将光学图像转换成电子信号的设备。通过摄像头303可以采集图像序列，从而可以获取时间上连续的一帧或多帧图像。其中，摄像头303有一个成像区域，在这片区域内，光信号会被汇聚并转换成为可输出的图像信号。成像区域的基本单元是像素点，每个像素点对应一个二维坐标(x,y)，所有的像素点有序地排列在一个平面内。每个像素点有一个光电二极管组成的感应部分。光电二极管能够吸收入射光，并根据入射光光强生成一定的信号量。成像区域处的所有的图像信号便构成了一副灰度图像的全部信息。彩色图像的图像信息由光强，空间位置和波长组成。所有与灰度图像相比，获得彩色图像还需要获取波长信息。常见的彩色成像系统使用彩色滤色片阵列(Color Filter Array)，也被称为拜尔滤色镜(Bayer Filter)，排列在感光区上方。其中一种常见的排列方式可以由2×2四个像素点组成一个循环单元。这个单元包含了三原色：红(R)，绿(G)，蓝(B)。每个像素点和颜色坐标的信号集合就构成了整个彩色图像的信息。

三维旋转修正单元304，用于根据OIS数据和IMU数据，或者只根据IMU数据计算得到三维旋转修正信息。

具体地，三维旋转修正单元304对IMU数据进行积分可以得到三维旋转原始路径，然后再通过三维路径平滑算法根据三维旋转原始路径可以得到三维旋转虚拟平滑路径，最后根据三维旋转原始路径和三维旋转虚拟平滑路径可以得到三维旋转修正信息。需要说明的是，因为IMU数据中包括每帧图像的IMU数据，所以三维旋转修正单元可以根据每帧图像对应的OIS数据和IMU数据，或者只根据IMU数据计算得到对应的三维旋转修正信息。

二维平移修正单元305，用于根据二维平移原始路径计算得到二维平移修正信息。

在一种可能的实现方式中，二维平移修正单元305，具体用于根据二维平移原始路径和摄像头303的运动状态计算得到二维平移修正信息。

具体地，二维平移修正单元305，可以根据三维旋转修正信息计算得到二维平移原始路径。可以理解的是，摄像头303采集到的图像序列包括时间上连续的第n-1帧图像和第n帧图像，n大于或等于2。所以，二维平移修正单元305，可以根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径。因此，二维平移修正单元305可以计算得到图像序列中每帧图像的二维原始路径。然后，二维平移修正单元305，可以获取摄像头的运动状态所对应的二维平移校正范围，再根据二维平移原始路径和二维平移校正范围计算得到二维虚拟平滑路径，最后根据二维平移原始路径和二维虚拟平滑路径计算得到二维平移修正信息。

在一种可能的实现方式中，二维平移修正单元305，获取图像序列的IMU数据和OIS数据，通过场景分类方法根据图像序列的IMU数据和OIS数据确定摄像头的运动状态。

在一种可能的实现方式中，二维平移修正单元305，获取图像序列的IMU数据，通过场景分类方法根据图像序列的IMU数据确定摄像头的运动状态。

修正信息融合单元306，用于根据三维旋转信息和二维平移修正信息计算得到图像序列的变形信息。

图像变形单元307，用于根据变形信息对图像序列进行调整，从而得到目标图像序列。并输出目标图像序列，电子设备可以展示稳定的拍照预览和视频。

请参见图4，图4是本申请实施例提供的一种拍摄方法的流程示意图，该方法包括但不限于如下步骤：

步骤S401：电子设备获取摄像头采集的第一图像序列。

具体地，当用户需要拍照或者录像时，用户启动拍摄应用，进而可以触发摄像头、IMU传感器和/或OIS传感器的启动，从而电子设备可以进入录像模式或者拍照模式。也即，电子设备在检测到作用于启动拍摄应用的操作之后，响应于上述操作来启动拍摄应用，并通过内核层调用摄像头、IMU传感器和/或OIS传感器等。因此，电子设备可以获取摄像头采集的第一图像序列，IMU传感器采集的IMU数据和/或OIS传感器采集的OIS数据。其中，第一图像序列包括时间上连续的第n-1帧图像和第n帧图像，n大于或等于2。其中，IMU数据可以包括陀螺仪、加速度和磁力计，等等。

可以理解的是，若OIS传感器没有被启动，摄像头和IMU传感器被启动，则电子设备可以获取摄像头采集的图像序列和IMU传感器采集的IMU数据。

可以理解的是，上述拍摄应用是指拍摄类应用，通常指相机应用。

步骤S402：电子设备根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到第n帧图像的二维平移原始路径。

具体地，电子设备可以获取IMU传感器采集的第一图像序列的三维旋转信息，在对第一图像序列的三维旋转进行平滑及补偿后，可以得到第一图像序列(第n帧图像和第n-1帧图像)的三维旋转修正信息。可以理解的是，三维旋转修正信息是用于修正因三维旋转而引起拍摄的画面出现漂移或者抖动的问题。但是，在电子设备对第一图像序列的三维旋转进行平滑及补偿后，可能由于电子设备的三维平移而存在剩余抖动，电子设备可能无法输出稳定的图像序列。在本申请实施例中，可以由二维位移来近似估计剩余抖动产生的影响，也即对二维位移进行平滑及补偿来修正由三维位移而造成的图像抖动等问题。因此，电子设备可以通过三维旋转修正信息计算得到每帧图像的二维平移原始路径。可以理解的是，因为摄像头可以一直采集图像，所以第一图像序列包括时间上连续的第n-1帧图像和第n帧图像，所以电子设备可以通过第n帧图像的三维旋转修正信息和第n-1帧图像的三维旋转修正信息来计算得到第n帧图像的二维平移原始路径。

在一种可能的实现方式中，电子设备可以根据第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息计算得到二维位移，其中，二维位移是第n-1帧图像到第n帧图像经三维旋转修正以后的位移。然后，电子设备再根据二维位移来计算得到第n帧图像的二维平移原始路径。也即，电子设备将二维位移进行累加可以获取第n帧图像的二维平移原始路径，而第n帧图像的二维平移原始路径与第n-1帧图像的二维平移原始路径之间的插值为二维位移。其中，计算二维位移的方法包括但不限于基于随机样本一致(RandomSample Consensus，RANSAC)的单应性(homography)方法、求均值方法，等等。

在一种可能的实现方式中，为计算得到从第n-1帧图像到第n帧图像的经三维旋转后的二维位移，电子设备需要对两个连续帧之间的特征对进行特征提取和特征匹配，从而获取第一特征点对坐标。举例来说，进行特征提取和特征匹配的方法包括但不限于：快速特征点提取和描述的算法(Oriented FAST and Rotated BRIEF，ORB)、尺度不变特征变换(Scale-invariant feature transform，SIFT)、加速稳健特征(Speeded-Up RobustFeatures，SURF)等传统计算机视觉算法以及SuperPoint、SuperGlue等能够实现特征匹配的神经网络模型。以ORB为例，该算法包括特征点检测(Features from AcceleratedSegment Test,FAST)，特征描述子生成(Binary Robust Independent ElementaryFeatures BRIEF)和基于汉明距的特征匹配。

其中，第一特征点对坐标包括第n-1帧图像中的第一特征点坐标和第n帧图像中与第一特征点坐标匹配的第二特征点坐标，第一特征点表示第n-1帧图像中任意原始特征点的坐标。然后，电子设备再获取IMU传感器采集的IMU数据和/或OIS传感器采集的OIS数据，根据IMU数据和/或OIS数据计算得到第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息。可以理解的是，当没有启动OIS传感器，只启动IMU传感器时，电子设备可以根据IMU数据计算得到第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息；当启动OIS传感器和IMU传感器时，电子设备可以根据IMU数据和OIS数据计算得到第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息。接下来，电子设备再根据第n-1帧图像的三维旋转修正信息对第一特征点对坐标中的第一特征点坐标进行三维旋转修正后得到第三特征点坐标，以及根据第n帧图像的三维旋转修正信息对第一特征点对坐标中的第二特征点坐标进行三维旋转修正后得到第四特征点坐标。由第三特征点坐标和第四特征点坐标可以构成第二特征点对坐标，最后电子设备可以根据第二特征点对坐标计算得到二维位移。可以理解的是，因为IMU数据包括陀螺仪、加速度和磁力计，等等。因此电子设备可以通过IMU数据中的一个或多个组合来计算得到图像的三维旋转修正信息。也即，电子设备可以根据陀螺仪、加速度、磁力计中的一个或多个以及OIS数据来计算得到第n-1帧图像的三维旋转修正信息和第n帧图像的三维旋转修正信息。

在一种可能的实现方式中，电子设备在获取到IMU传感器采集的IMU数据之后，电子设备将IMU数据进行积分得到可以得到第n-1帧图像的三维旋转原始路径和第n帧图像的三维旋转原始路径。举例来说，通过积分方式得到三维旋转原始路径的方法包括但不限于基于纯陀螺仪算法和基于加速度、磁力计、陀螺仪、图像等多元信息融合的滤波算法，比如说互补滤波、卡尔曼滤波等。

其中，第n-1帧图像的三维旋转原始路径是通过从打开摄像头的初始时刻到第n-1帧时刻对角速度进行积分而确定的；第n帧图像的三维旋转原始路径是通过从打开摄像头的初始时刻到第n帧时刻对角速度进行积分而确定的。接下来，电子设备需要将三维旋转原始路径进行平滑处理得到三维旋转虚拟平滑路径，也即对第n-1帧图像的三维旋转原始路径执行三维路径平滑算法得到第n-1帧图像的三维旋转虚拟平滑路径，以及，对第n帧图像的三维旋转原始路径执行三维路径平滑算法得到第n帧图像的三维旋转虚拟平滑路径。举例来说，三维路径平滑算法包括但不限于：活动窗口均值平滑算法，滑动窗口高斯平滑算法，基于比例、积分、微分(Proportion Integral Differential，PID)的低通滤波算法，基于卡尔曼的滤波算法和基于包含约束的二次规划平滑算法中最后，电子设备可以根据三维旋转原始路径和三维旋转虚拟平滑路径计算得到三维旋转修正信息。

可以理解的是，电子设备可以根据第n-1帧图像的三维旋转原始路径和第n-1帧图像的三维旋转虚拟平滑路径得到第n-1帧图像的三维旋转修正信息，以及，电子设备可以根据第n帧图像的三维旋转原始路径和第n帧图像的三维旋转虚拟平滑路径得到第n帧图像的三维旋转修正信息。可选地，在电子设备获取到OIS传感器采集的OIS数据之后，电子设备可以根据三维旋转原始路径、三维旋转虚拟平滑路径和OIS数据计算得到三维旋转修正信息。可以理解的是，电子设备可以根据第n-1帧图像的三维旋转原始路径、第n-1帧图像的三维旋转虚拟平滑路径和第n-1帧图像的OIS数据得到第n-1帧图像的三维旋转修正信息，以及，电子设备可以根据第n-帧图像的三维旋转原始路径、第n帧图像的三维旋转虚拟平滑路径和第n-帧图像的OIS数据得到第n帧图像的三维旋转修正信息。

步骤S403：电子设备根据第n帧图像的二维平移原始路径计算得到第n帧图像的二维平移修正信息。

具体地，在电子设备对第一图像序列的三维旋转进行平滑及补偿后，可能由于电子设备的三维旋转补偿精度和平移等因素存在抖动。而二维平移修正信息可以用于修正电子设备因三维平移而带来的画面抖动等问题。在拍摄的过程中，电子设备的摄像头可能处于不能的运动状态中，而对于不同的运动状态可能对应不同的二维平移修正，所以电子设备可以根据第n帧图像的二维平移原始路径和摄像头的运动状态计算得到第n帧图像的二维平移修正信息。

在一种可能的实现方式中，电子设备获取到IMU传感器采集的IMU数据和OIS传感器采集的OIS数据时，电子设备可以通过场景分类算法根据IMU数据和OIS数据确定摄像头的运动状态。可选地，电子设备获取到IMU传感器采集的IMU数据时，电子设备可以通过场景分类算法根据IMU数据确定摄像头的运动状态。其中，摄像头的运动状态包括但不限于手持稳定、普通运动、剧烈运动等。可以理解的是，摄像头为安装于电子设备上的，所以摄像头的运动状态也可以是电子设备的运动状态。当确定摄像头的运动状态后，电子设备可以获取摄像头的运动状态所对应的二维平移校正范围。然后，电子设备可以根据每一帧图像(比如说第n帧图像)对应的二维平移原始路径和二维平移校正范围计算得到每一帧图像(比如说第n帧图像)的二维虚拟平滑路径。可选地，若电子设备计算得到的每一帧图像(比如说第n帧图像)的二维原始平移路径中不存在第一路径点的平移信息时，也即在丢失了某些路径点的信息情况下，电子设备在二维平移校正范围和第一路径点的约束下，通过二维路径平滑算法得到每一帧图像(比如说第n帧图像)的二维虚拟平滑路径。因此，可以保证计算得到每一帧图像(比如说第n帧图像)的二维虚拟平滑路径经过第一路径点。

最后，电子设备可以根据每一帧图像(比如说第n帧图像)的二维平移原始路径和每一帧图像(比如说第n帧图像)的二维虚拟平滑路径计算得到每一帧图像(比如说第n帧图像)对应的二维平移修正信息。

步骤S404：电子设备根据第n帧图像的三维旋转修正信息和第n帧图像的二维平移修正信息对图像序列进行调整，得到目标图像序列。

具体地，当电子设备计算得到每一帧图像(比如说第n帧图像)对应的三维旋转修正信息和二维平移修正信息后，可以对摄像头采集的第一图像序列中的每一帧图像进行对应调整(比如说平滑及补偿)，得到目标图像序列。电子设备可以在预览框内显示目标图像序列，因此用户可以获取到稳定的拍摄画面，从而可以提高用户的拍摄体验。

在一种可能的实现方式中，第一图像序列中的每一帧图像(比如说第n帧图像)可以按照一定大小被分割成格网，每一个格网对应一个原始坐标(x_src,y_src)，然后根据每一帧图像(比如说第n帧图像)三维旋转修正信息和二维旋转修正信息对原始坐标进行变形得到变形后的坐标(x_dst,y_dst)，因此第一图像序列变形信息包括每一帧图像的网格所对应的变形后的坐标(x_dst,y_dst)。接下来，电子设备再根据变形信息对第一图像序列中每一帧图像的像素执行图像变形，从而得到目标图像序列。其中，图像变形算法包括向前变形和向后变形两种，向前变形表示将输入图(第一图像序列)的每个像素经过变形映射到输出图对应浮点位置，然后将浮点位置的像素值按照一定策略分散到输出图周边整数位置；向后变形表示将输出图每个整数位置经过变形映射到输入图(第一图像序列)的浮点位置，然后在输入图(第一图像序列)的浮点位置执行图像插值算法，计算输出图像素。其中，图像插值算法包括但不限于：双线性插值、双三次线性插值等插值算法。

请参见图5，图5是本申请实施例提供的一种拍摄方法的系统架构图。从图5可以看出，当用户需要拍照或者录像时，用户启动拍摄应用，进而可以触发摄像头、IMU传感器和OIS传感器的启动，从而电子设备100可以进入录像模式或者拍照模式。

因此，电子设备100可以获取摄像头采集的图像序列，其中，图像序列包括时间上连续的第n-1帧图像和第n帧图像。可以理解的是，第n-1帧图像为摄像头在第n-1时刻采集的，第n帧图像为摄像头在第n时刻采集的。特征匹配模块可以对图像序列进行特征提取，然后对第n-1帧图像和第n帧图像进行特征匹配，从而可以得到匹配后的第一特征点坐标

其中，

表示第n-1帧图像中任意原始特征点坐标，

表示第n帧图像中与

匹配的原始特征点坐标。

电子设备还可以获取IMU传感器采集的IMU数据和OIS传感器采集到的OIS数据，由三维旋转路径估计模块对IMU数据按照时间进行积分，从而可以计算得到每一帧图像的三维旋转原始路径。其中，IMU数据可以包括陀螺仪、加速度和磁力计，等等。因此，三维旋转路径估计模块可以对陀螺仪、加速度和磁力计中的一种或多种进行积分来计算得到每一帧图像对应的三维旋转原始路径。

以基于纯陀螺仪算法为例来说明如何计算得到第n帧图像的三维旋转原始路径

其中，公式(一)为基于纯陀螺仪算法计算公式。公式(一)中ω(t)表示摄像头的实时角速度，t₀表示打开摄像头的初始时刻，t_n表示采集到第n帧图像的时刻。

综上可知，因为第n帧图像和第n-1帧图像为摄像头在不同时刻采集到的，所以根据公式(一)可以计算得到第n-1帧图像的三维旋转原始路径。

然后，由三维旋转路径平滑模块对计算得到的每一帧图像的三维旋转原始路径执行路径平滑算法，得到三维旋转虚拟平滑路径。以滑动窗口高斯平滑算法为例来说明如何计算得到第n帧图像的三维旋转虚拟平滑路径

其中，公式(二)为滑动窗口高斯平滑算法的计算公式。公式(二)中，假设滑动窗口半径为r，则高斯平滑窗口大小为2r+1，w_i表示高斯权重，σ表示高斯平滑权重，该权重可以按照平滑后的路径距离原始路径的距离来动态调整，

为滑动窗口内的三维旋转原始路径。

综上可知，因为第n帧图像和第n-1帧图像为摄像头在不同时刻采集到的，所以根据公式(二)可以计算得到第n-1帧图像的三维旋转虚拟平滑路径。

接下来，由三维旋转路径平滑模块根据每一帧图像的三维旋转原始路径和三维旋转虚拟平滑路径计算每一帧图像对应的三维旋转修正信息。请参见公式(三)，公式(三)为第n帧图像的三维旋转修正信息H_n。

其中，K为摄像头内参矩阵，R(θ)为相机旋转矩阵，因为电子设备可以获取到OIS传感器采集的OIS数据，所以K_o为包含OIS信息的内参矩阵，以上矩阵定义如下：

其中，f_x和f_y表示摄像头焦距，cx和cy表示光轴在图像中的投影坐标，n表示摄像头旋转轴方向单位向量，θ表示摄像头绕旋转轴的旋转角度，ox和oy表示OIS修正引入的图像偏移。

因为特征匹配模块计算得到的第一特征点对坐标

三维旋转路径平滑模块计算得到三维旋转修正信息，所以二维平移路径估计模块可以根据三维旋转修正信息对第一特征点对进行三维旋转修正，从而可以得到第二特征点对坐标

请参见图6，图6是本申请实施例提供的一种特征点三维旋转修正算法的示意图。特征点的三维旋转修正可以表示将特征点坐标从原始位姿变换到三维旋转平滑位姿的过程，其中，

表示第n-1帧图像的三维旋转原始路径位姿的特征点坐标，

表示第n帧图像的三维旋转原始路径位姿的特征点坐标，二维平移路径估计模块根据第n-1帧的三维旋转修正信息H_n-1对

进行三维旋转修正得到

二维平移路径估计模块根据第n帧的三维旋转修正信息H_n对

进行三维旋转修正得到

当计算得到经三维旋转修正后的第二特征点对坐标

之后，二维平移路径估计模块可以根据第二特征点对坐标计算第n-1帧图像到第n帧图像经三维旋转修正以后的二维位移。以求均值方法为例来说如何计算二维位移

其中，公式(四)为求均值法的计算公式。公式(四)中s表示第n-1帧图像和第n帧图像的缩放倍率的比值，s＝z_n/z_n-1，M表示参与计算的匹配特征点对的数量。

将第n帧图像的二维位移累

加到第n-1帧的二维平移原始路径上可以获得第n帧图像的二维平移原始路径

可以理解的是，当n为1时，表示摄像头在第1时刻采集到的图像因为在第1时刻的前一时间(即第0时刻)没有采集的图像，所以

也即第一帧图像的二维平移原始路径为第一帧图像的二维位移；第二帧图像的二维平移原始路径为第一帧图像的二维位移和第二帧图像的二维位移的和；依次类推可知，第n帧图像的二维位移为第一帧图像的二维位移、第二帧图像的二维位移、…、第n帧图像的二维位移的累计和。

因为在拍摄的过程中，用户可以手持电子设备，保证电子设备的稳定性，从而使得摄像头在稳定的场景下拍摄；以及，由于外界或用户自身的影响，用户无法保证电子设备的稳定性，摄像头可能在普通运动场景或者剧烈运动场景下拍摄。因此，场景分类模块可以根据IMU传感器采集的IMU数据和OIS传感器采集的OIS数据来计算得到摄像头电子设备的当前运动状态。可以理解的是，运动状态包括但不限于：手持稳定、普通运动、剧烈运动等场景。

需要说明的是，在拍摄的过程中，摄像头可能会处于不同的运动状态中，所以需要根据采集的IMU数据和OIS数据来更新摄像头的运动状态。

当确定摄像头的运动状态后，由二维平移修正信息调节模块根据摄像头的运动状态和二维平移原始路径来确定二维平移校正范围。可以理解的是，手持稳定、普通运动、剧烈运动等不同强度的运动状态对应于不同的二维平移校正范围。强度越大，校正范围越小。通过公式(五)可以计算二维平移校正范围，公式(五)中，B_max为二维平移校正最大范围，B_max的确定方法包括但不限于：固定配置和三维旋转修正动态配置等；λ为运动强度，λ的确定方法可以是根据IMU数据统计摄像头的运动幅度，或者通过网络模型映射来确定。

二维平移修正信息调节模块可以根据二维平移校正范围来确定二维虚拟平滑路径，请参见图7，图7是本申请实施例提供的一种二维路径平滑示意图。从图7可以看出，第一曲线为真实原始平移路径，因为第一曲线上的虚线空心圆点为没有采集到该路径点的平移信息时，假设的第一路径点的真实位置，所以第一曲线是根据假设的第一路径点的平移信息来大致估计的，所以第一曲线是不可以获取到的。第二曲线为实际获取的原始平移路径，可以看出，第二曲线上的实线空心圆点为第一路径点，因为没有采集到第一路径点的平移信息，所以第二曲线中第一路径点之间的连线是相互平行的，也即每个平移信息消失的第一路径点位于与平面平行的连线上。第三曲线为二维平移修正信息调节模块执行二维路径平滑算法后得到的二维虚拟平滑路径，进一步地，当没有采集到第一路径点的平移信息时，二维平移修正信息调节模块在二维平移校正范围和第一路径点的约束下，通过二维路径平滑算法得到每一帧图像(比如说第n帧图像)的二维虚拟平滑路径。因此，可以保证计算得到每一帧图像(比如说第n帧图像)的二维虚拟平滑路径经过第一路径点(第三曲线上的实心圆点)。从图7可以看出，第三曲线比第二曲线更加平滑。需要说明的是，二维路径平滑算法与三维路径平滑算法相似，此处不再赘述。

最后，二维平移修正信息调节模块根据二维平移原始路径和二维虚拟平滑路径计算得到二维平移修正信息。对于第n帧图像来说，第n帧图像二维平移修正信息

其中，

为第n帧图像的二维虚拟平滑路径，

为第n帧图像的二维平移原始路径。

修正信息融合模块接收到三维旋转修正信息和二维平移修正信息后，可以根据三维旋转修正信息和二维平移修正信息得到图像变形信息。具体地，第一图像序列中的每一帧图像(比如说第n帧图像)可以按照一定大小被分割成格网，每一个格网对应一个原始坐标(x_src,y_src)，然后根据每一帧图像(比如说第n帧图像)三维旋转修正信息和二维旋转修正信息对原始坐标进行变形得到变形后的坐标(x_dst,y_dst)，因此第一图像序列变形信息包括以下一种或多种：每一帧图像的网络所对应的原始坐标(x_src,y_src)，每一帧图像的网格所对应的变形后的坐标(x_dst,y_dst)，以及原始坐标和变形后的坐标的映射关系。

图像变形模块再根据变形信息对第一图像序列中每一帧图像的像素执行图像变形之后，再进行剪切缩放，从而输出模块可以输出目标分辨率大小的目标图像序列。其中，图像变形算法包括向前变形和向后变形两种，向前变形表示将输入图(第一图像序列)的每个像素经过变形映射到输出图对应浮点位置，然后将浮点位置的像素值按照一定策略分散到输出图周边整数位置；向后变形表示将输出图每个整数位置经过变形映射到输入图(第一图像序列)的浮点位置，然后在输入图(第一图像序列)的浮点位置执行图像插值算法，计算输出图像素。其中，图像插值算法包括但不限于：双线性插值、双三次线性插值等插值算法。

请参见图8，图8是本申请实施例提供的另一种拍摄方法的系统架构图。从图8可以看出，当用户需要拍照或者录像时，用户启动拍摄应用，进而可以触发摄像头、IMU传感器8的启动，从而电子设备100可以进入录像模式或者拍照模式。

其中，

表示第n-1帧图像中任意原始特征点坐标，

表示第n帧图像中与

匹配的原始特征点坐标。

电子设备还可以获取IMU传感器采集的IMU数据，由三维旋转路径估计模块对IMU数据按照时间进行积分，从而可以计算得到每一帧图像的三维旋转原始路径。其中，IMU数据可以包括陀螺仪、加速度和磁力计，等等。因此，三维旋转路径估计模块可以对陀螺仪、加速度和磁力计中的一种或多种进行积分来计算得到每一帧图像对应的三维旋转原始路径。

其中，

为基于纯陀螺仪算法计算公式。式中，ω(t)表示摄像头的实时角速度，t₀表示打开摄像头的初始时刻，t_n表示采集到第n帧图像的时刻。

其中，

为滑动窗口高斯平滑算法的计算公式。式中，假设滑动窗口半径为r，则高斯平滑窗口大小为2r+1，w_i表示高斯权重，σ表示高斯平滑权重，该权重可以按照平滑后的路径距离原始路径的距离来动态调整，

为滑动窗口内的三维旋转原始路径，

接下来，由三维旋转路径平滑模块根据每一帧图像的三维旋转原始路径和三维旋转虚拟平滑路径计算每一帧图像对应的三维旋转修正信息。通过公式H_n＝KR(θ_v)R^-1(θ_r)K^-1可以计算三维旋转修正信息，H_n为第n帧图像的三维旋转修正信息。其中，K为摄像头内参矩阵，R(θ)为相机旋转矩阵，定义如下：

其中，f_x和f_y表示摄像头焦距，cx和cy表示光轴在图像中的投影坐标，n表示摄像头旋转轴方向单位向量，θ表示摄像头绕旋转轴的旋转角度。

因为特征匹配模块计算得到的第一特征点对坐标

表示第n-1帧图像的三维旋转原始路径位姿的特征点坐标，

进行三维旋转修正得到

二维平移路径估计模块根据第n帧的三维旋转修正信息H_n对

进行三维旋转修正得到

当计算得到经三维旋转修正后的第二特征点对坐标

其中，公式

为求均值法的计算公式。公式(四)中s表示第n-1帧图像和第n帧图像的缩放倍率的比值，s＝z_n/z_n-1，M表示参与计算的匹配特征点对的数量。

将第n帧图像的二维位移累

因为在拍摄的过程中，用户可以手持电子设备，保证电子设备的稳定性，从而使得摄像头在稳定的场景下拍摄；以及，由于外界或用户自身的影响，用户无法保证电子设备的稳定性，摄像头可能在普通运动场景或者剧烈运动场景下拍摄。因此，场景分类模块可以根据IMU传感器采集的IMU数据来计算得到摄像头电子设备的当前运动状态。可以理解的是，运动状态包括但不限于：手持稳定、普通运动、剧烈运动等场景。

需要说明的是，在拍摄的过程中，摄像头可能会处于不同的运动状态中，所以需要根据采集的IMU数据来更新摄像头的运动状态。

当确定摄像头的运动状态后，由二维平移修正信息调节模块根据摄像头的运动状态和二维平移原始路径来确定二维平移校正范围。可以理解的是，手持稳定、普通运动、剧烈运动等不同强度的运动状态对应于不同的二维平移校正范围。强度越大，校正范围越小。通过公式

可以计算二维平移校正范围，其中，B_max为二维平移校正最大范围，B_max的确定方法包括但不限于：固定配置和三维旋转修正动态配置等；λ为运动强度，λ≥1，λ的确定方法可以是根据IMU数据统计摄像头的运动幅度，或者通过网络模型映射来确定。

其中，

为第n帧图像的二维虚拟平滑路径，

为第n帧图像的二维平移原始路径。

本申请实施例还提供一种芯片系统，所述芯片系统包括至少一个处理器，存储器和接口电路，所述存储器、所述收发器和所述至少一个处理器通过线路互联，所述至少一个存储器中存储有计算机程序；所述计算机程序被所述处理器执行时，图4所示的方法流程得以实现。

本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，当其在网络设备上运行时，图4所示的方法流程得以实现。

本申请实施例还提供一种计算机程序产品，当所述计算机程序产品在终端上运行时，图4所示的方法流程得以实现。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，该流程可以由计算机程序来计算机程序相关的硬件完成，该计算机程序可存储于计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法实施例的流程。而前述的存储介质包括：ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储计算机程序代码的介质。

Claims

1.一种拍摄方法，其特征在于，所述方法包括：

获取摄像头采集的第一图像序列，其中，所述第一图像序列包括时间上连续的第n-1帧图像和第n帧图像，n大于或等于2；

根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维平移原始路径；

根据所述第n帧图像的二维平移原始路径计算得到所述第n帧图像的二维平移修正信息；

根据所述第n帧图像的三维旋转修正信息和所述第n帧图像的二维平移修正信息对所述第一图像序列进行调整，得到所述目标图像序列。

2.根据权利要求1所述的方法，其特征在于，所述根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维平移原始路径，包括：

根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维位移；

根据所述第n帧图像的二维位移计算得到所述第n帧图像的二维平移原始路径。

3.根据权利要求2所述的方法，其特征在于，所述根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息计算得到所述第n帧图像的二维位移，包括：

获取第一特征点对坐标，所述第一特征点对坐标包括所述第n-1帧图像中的第一特征点坐标和所述第n帧图像中与所述第一特征点坐标匹配的第二特征点坐标；

获取所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息；

根据所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息对所述第一特征点对坐标进行三维旋转修正后，得到第二特征点对坐标；

根据所述第二特征点对坐标计算得到所述第n帧图像的二维位移。

4.根据权利要求3所述的方法，其特征在于，所述获取所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息，包括：

获取所述第n-1帧图像的惯性测量单元IMU数据和所述第n帧图像的IMU数据；

将所述第n-1帧图像的IMU数据进行积分得到所述第n-1帧图像的三维旋转原始路径，以及将所述第n帧图像的IMU数据进行积分得到所述第n帧图像的三维旋转原始路径；

通过三维路径平滑算法根据所述第n-1帧图像的三维旋转原始路径得到所述第n-1帧图像的三维旋转虚拟平滑路径，以及，根据所第n帧图像的三维旋转原始路径得到所述第n帧图像的三维旋转虚拟平滑路径；

根据所述第n-1帧图像的三维旋转原始路径和所述第n-1帧图像的三维旋转虚拟平滑路径得到所述第n-1帧图像的三维旋转修正信息，以及，根据所述第n-1帧图像的三维旋转原始路径和所述第n帧图像的三维旋转虚拟平滑路径得到所述第n帧图像的三维旋转修正信息。

5.根据权利要求3所述的方法，其特征在于，所述获取所述第n-1帧图像的三维旋转修正信息和所述第n帧图像的三维旋转修正信息，包括：

获取所述第n-1帧图像的IMU数据和光学防抖OIS数据，以及所述第n帧图像的IMU数据和OIS数据；

根据所述第n-1帧图像的三维旋转原始路径、所述n-1帧图像的三维旋转虚拟平滑路径和所述n-1帧图像的OIS数据得到所述第n-1帧图像的三维旋转修正信息，以及，根据所述第n-帧图像的三维旋转原始路径、所述n帧图像的三维旋转虚拟平滑路径和所述第n帧图像的OIS数据得到所述第n帧图像的三维旋转修正信息。

6.根据权利要求1至5任一项所述的方法，其特征在于，所述根据所述第n帧图像的二维平移原始路径计算得到所述第n帧图像的二维平移修正信息，包括：

根据所述第n帧图像的二维平移原始路径和所述摄像头的运动状态计算得到所述第n帧图像的二维平移修正信息。

7.根据权利要求6所述的方法，其特征在于，所述根据所述第n帧图像的二维平移原始路径和所述摄像头的运动状态计算得到所述第n帧图像的二维平移修正信息，包括：

获取所述摄像头的运动状态所对应的二维平移校正范围；

根据所述第n帧图像的二维平移原始路径和所述二维平移校正范围计算得到所述第n帧图像的二维虚拟平滑路径；

根据所述第n帧图像的二维平移原始路径和所述第n帧图像的二维虚拟平滑路径计算得到所述第n帧图像的二维平移修正信息。

8.根据权利要求7所述的方法，其特征在于，若所述第n帧图像的二维原始平移路径中不存在第一路径点的平移信息，所述根据所述第n帧图像的二维平移原始路径和所述二维平移校正范围计算得到所述第n帧图像的二维虚拟平滑路径包括：

在所述二维平移校正范围和所述第一路径点的约束下，通过二维路径平滑算法得到所述第n帧图像的二维虚拟平滑路径，以使所述第n帧图像的二维虚拟平滑路径经过所述第一路径点。

9.根据权利要求7或8所述的方法，其特征在于，所述获取所述摄像头的运动状态所对应的二维平移校正范围，包括：

通过场景分类算法确定所述摄像头的运动状态；

根据所述摄像头的运动状态确定所述运动状态所对应的二维平移校正范围。

10.根据权利要求9所述的方法，其特征在于，所述通过场景分类方法确定所述摄像头的运动状态，包括：

获取所述第一图像序列的IMU数据和OIS数据；

通过场景分类算法根据所述第一图像序列的IMU数据和OIS数据确定所述摄像头的运动状态。

11.根据权利要求9所述的方法，其特征在于，所述通过场景分类方法确定所述摄像头的运动状态，包括：

获取所述第一图像序列的IMU数据；

通过场景分类方法根据所述第一图像序列的IMU数据确定所述摄像头的运动状态。

12.根据权利要求1至11任一项所述的方法，其特征在于，所述根据所述第n帧图像的三维旋转修正信息和所述第n帧图像的二维平移修正信息对所述第一图像序列进行调整，得到所述目标图像序列，包括：

根据所述第n帧图像的三维旋转修正信息和所述第n帧图像的二维平移修正信息计算得到所述第一图像序列的变形信息；

根据所述变形信息对所述第一图像序列进行调整，从而得到目标图像序列。

13.一种电子设备，其特征在于，所述电子设备包括一个或多个存储器、一个或多个处理器，所述一个或多个存储器与所述一个或多个处理器耦合，所述一个或多个存储器用于存储计算机程序，所述一个或多个处理器用于调用所述计算机程序，所述计算机程序包括指令，当所述指令被所述一个或多个处理器执行时，使得所述电子设备执行权利要求1-12任一项所述的方法。

14.一种计算机存储介质，用于存储有计算机指令，当所述计算机指令在电子设备上运行时，使得所述电子设备执行上述权利要求1-12中的任一项所述的一种拍摄方法。