CN111145192B - 图像处理方法及电子设备 - Google Patents

Abstract

本发明实施例提供一种图像处理方法及电子设备，应用于通信技术领域，以解决相关技术在处理含有人像的图像时，存在的图像效果较差的问题。该方法包括：对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到拍摄对象的人像掩膜；按照人像掩膜对N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成第一图像帧；分别对齐N个第一人像图像帧和N个第一背景图像帧；分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，输出多帧配准的目标图像。本发明实施例应用于电子设备拍摄人像场景。

Description

图像处理方法及电子设备

技术领域

本发明实施例涉及通信技术领域，尤其涉及一种图像处理方法及电子设备。

背景技术

随着电子设备技术的发展，用户使用电子设备进行拍摄(如，照片和视频)的频率越来越高。以电子设备拍摄照片为例，当用户使用电子设备在光照较强或者光照条件不充足的环境中拍摄照片时，通常采用基于多帧的高动态范围图像(high dynamic range，HDR)技术或者降噪技术对拍摄的图像进行处理，以增强拍摄照片的图像质量。

然而，当用户使用电子设备拍摄人物时，由于人体相对于背景来说稳定性较差，拍照时容易出现晃动，并且，人体离电子设备较劲，背景离电子设备较远，两者存在较大的视差，按照上述方法对拍摄的图像进行处理后，得到的图像效果较差。

发明内容

本发明实施例提供一种图像处理方法及电子设备，能够解决相关技术在处理含有人像的图像时，存在的图像效果较差的问题。

为了解决上述技术问题，本发明是这样实现的：

第一方面，本发明实施例提供一种图像处理方法，该方法包括：对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到拍摄对象的人像掩膜；按照人像掩膜对N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成第一图像帧；分别对齐N个第一人像图像帧和N个第一背景图像帧；分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，输出多帧配准的目标图像。

第二方面，本发明实施例还提供了一种电子设备，该电子设备包括获取模块、分割模块、对齐模块和融合模块；获取模块，用于对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到拍摄对象的人像掩膜；分割模块，还用于按照获取模块获取的人像掩膜对N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成第一图像帧；对齐模块，用于分别对齐分割模块得到的N个第一人像图像帧和N个第一背景图像帧；融合模块，用于分别将对齐模块对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，输出多帧配准的目标图像。

第三方面，本发明实施例提供了一种电子设备，包括处理器、存储器及存储在该存储器上并可在该处理器上运行的计算机程序，该计算机程序被该处理器执行时实现如第一方面所述的图像处理方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，该计算机可读存储介质上存储计算机程序，该计算机程序被处理器执行时实现如第一方面所述的图像处理方法的步骤。

在本发明实施例中，由于电子设备在进行人像拍照时，得到的图像帧可近似分为人像区域和背景区域两个区域，因此，电子设备在获取到摄像头针对同一拍摄对象采集的N个第一图像帧后，会基于上述N个第一图像帧中的目标图像帧进行人像分割，以得到上述拍摄对象的人像掩模，此时，电子设备可以按照该人像掩膜将上述N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，接着，电子设备便可针对人像和背景分别对N个第一人像图像帧和N个第一背景图像帧进行图像对齐。如此，可以避免人像拍照时，由于人体非刚性及和背景间较大的视差，导致对齐效果较差，引起多帧合成后清晰度下降、出现重影等问题，从而提高了图像对齐质量，进而当电子设备分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合后，便可得到对齐效果更好的人像图像帧和背景图像帧，并且将上述对齐后的人像图像帧和背景图像帧在多帧配准时，可减少错误匹配，提升配准的质量。

附图说明

图1为本发明实施例提供的一种可能的安卓操作系统的架构示意图；

图2为本发明实施例提供的一种图像处理方法流程示意图；

图3为本发明实施例提供的一种图像处理方法所应用的界面的示意图；

图4为本发明实施例提供的一种电子设备的结构示意图之一；

图5为本发明实施例提供的一种电子设备的结构示意图之二。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

需要说明的是，本文中的“/”表示或的意思，例如，A/B可以表示A或B；本文中的“和/或”仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。

需要说明的是，本文中的“多个”是指两个或多于两个。

需要说明的是，本发明实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

需要说明的是，为了便于清楚描述本发明实施例的技术方案，在本发明实施例中，采用了“第一”、“第二”等字样对功能或作用基本相同的相同项或相似项进行区分，本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定。例如，第一图像帧和第二图像帧是用于区别不同的图像帧，而不是用于描述图像帧的特定顺序。

在本发明实施例中，“示例性的”或者“例如”等词用于表示作例子、例证或说明。本发明实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言，使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。

本发明实施例中的电子设备可以为移动终端设备，也可以为非移动终端设备。移动终端设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载终端设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本或者个人数字助理(personal digital assistant，PDA)等；非移动终端设备可以为个人计算机(personalcomputer，PC)、电视机(television，TV)、柜员机或者自助机等；本发明实施例不作具体限定。

本发明实施例提供的图像处理方法的执行主体可以为上述的电子设备(包括移动终端设备和非移动终端设备)，也可以为该电子设备中能够实现该图像处理方法的功能模块和/或功能实体，具体的可以根据实际使用需求确定，本发明实施例不作限定。下面以电子设备为例，对本发明实施例提供的图像处理方法进行示例性的说明。

本发明实施例中的电子设备可以为具有操作系统的终端设备。该操作系统可以为安卓(Android)操作系统，可以为ios操作系统，还可以为其他可能的操作系统，本发明实施例不作具体限定。

下面以安卓操作系统为例，介绍一下本发明实施例提供的图像处理方法所应用的软件环境。

如图1所示，为本发明实施例提供的一种可能的安卓操作系统的架构示意图。在图1中，安卓操作系统的架构包括4层，分别为：应用程序层、应用程序框架层、系统运行库层和内核层(具体可以为Linux内核层)。

其中，应用程序层包括安卓操作系统中的各个应用程序(包括系统应用程序和第三方应用程序)。

应用程序框架层是应用程序的框架，开发人员可以在遵守应用程序的框架的开发原则的情况下，基于应用程序框架层开发一些应用程序。

系统运行库层包括库(也称为系统库)和安卓操作系统运行环境。库主要为安卓操作系统提供其所需的各类资源。安卓操作系统运行环境用于为安卓操作系统提供软件环境。

内核层是安卓操作系统的操作系统层，属于安卓操作系统软件层次的最底层。内核层基于Linux内核为安卓操作系统提供核心系统服务和与硬件相关的驱动程序。

以安卓操作系统为例，本发明实施例中，开发人员可以基于上述如图1所示的安卓操作系统的系统架构，开发实现本发明实施例提供的图像处理方法的软件程序，从而使得该图像处理方法可以基于如图1所示的安卓操作系统运行。即处理器或者电子设备可以通过在安卓操作系统中运行该软件程序实现本发明实施例提供的图像处理方法。

下面结合图2所示的图像处理方法流程图对本发明实施例的图像处理方法进行说明，图2为本发明实施例提供的一种图像处理方法流程示意图，包括步骤201至步骤204：

步骤201、电子设备对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到拍摄对象的人像掩膜。

在本发明实施例中，上述的N个第一图像帧中均包含同一拍摄对象的人像图像。

可选的，在本发明实施例中，上述目标图像帧为上述N个第一图像帧中满足预定条件的一个图像帧。在一种示例中，上述预定条件包括以下至少一项：图像帧的亮度达到预定亮度阈值，图像帧的清晰度最高。

在本发明实施例中，上述的人像掩膜(mask)是指目标图像帧中，经过纯色填充后的人像轮廓，如图3中的人像掩膜。可以理解，电子设备可以利用该人像掩膜，可以将一个第一图像帧分割为一个人像图像帧和一个背景图像帧。

在一种示例中，电子设备可以通过深度学习人像分割网络，来对上述目标图像帧的人像区域进行图像分割，得到人像掩膜。

例如，如图3所示，电子设备在识别出上述目标图像帧中存在人像图像时，通过人像分割，从第一图像帧中提取出人像轮廓，并对该图像轮廓进行处理，得到如图3中的人像掩膜。利用该人像掩膜，可以将图像a分割称为图像a1和图像a2。

在另一种示例中，电子设备可以通过对目标图像进行人像边缘检测，然后基于人像边缘信息，来对上述目标图像帧的人像区域进行图像分割，得到人像掩膜，本发明实施例对此不做限定。

示例性的，本发明实施例通过人像掩膜对每个第一图像帧中的人像区域和背景区域进行分割，得到每个第一图像帧的人像图像帧和背景图像帧，以便后续电子设备可以根据人像图像帧的人像先验知识，以及人像图像帧和背景图像帧的不同特点，有针对性的设计并使用不同的特征检测及对齐方法，以提高对齐质量。

可选的，在本发明实施例中，电子设备在执行上述步骤201之前，本发明实施例提供的图像处理方法还可以包括以下步骤201a：

步骤201a、电子设备获取摄像头采集在预定时间段内的目标图像帧序列。

其中，上述第一图像帧序列包括电子设备的摄像头采集的N个第一图像帧。

示例性的，上述目标图像帧序列为：电子设备根据多帧曝光算法，获取多帧不同或者相同曝光的图像帧序列。

示例性的，上述步骤201a中电子设备的摄像头采集的目标图像帧序列可以用I_i表示，其中，i＝1,2,3,…,n，其中n＝N，I_i为上述目标图像帧序列中的第i个第一图像帧。

举例说明，如图3所示，电子设备的摄像头采集了4个图像帧，分别为图像帧a、图像帧b、图像帧c、图像帧d，由于图像帧c清晰度最高，因此，电子设备会将图像帧c进行人像分割，得到人像掩膜，然后，电子设备利用该人像掩膜，将上述4个图像帧进行人像分割，得到4个人像图像帧，分别为图像帧a1、图像帧b1、图像帧c1、图像帧d1，以及得到4个背景图像帧，分别为图像帧a2、图像帧b2、图像帧c2、图像帧d2。

如此，电子设备序列存储上述N个第一图像帧后，方便电子设备对N个第一图像帧进行定位，以及后续对每帧图像进行处理。

步骤202、电子设备按照人像掩膜对N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧。

其中，一个第一人像图像帧和一个第一背景图像帧组合形成一个第一图像帧。

步骤203、电子设备分别对齐N个第一人像图像帧和N个第一背景图像帧。

示例性的，电子设备在对多个图像进行图像对齐时，可以选择任意一个图像作为参考图像，然后以该参考图像为基准，将其他图像与该参考图像对齐，使得多个图像的空间布局尽量相同。在一种示例中，电子设备在任意两个图像进行图像对齐时，可以提取两个图像中的每个图像的特征点集，然后，对两个图像的特征点集进行匹配，得到最优匹配，再利用仿射变换或透视变换等方法，优化两幅图像之间的对应关系，并得到最优变换参数。最后利用最优变换参数，将其中一幅图像变形为与另外一幅图像同样的空间布局。

示例性的，电子设备在将N个第一图像帧进行分割后，针对背景图像帧和人像图像帧的特点，采用不同的对齐方法，分别将N个第一背景图像帧和N个第一人像图像帧进行对齐，提升了将上述背景图像帧和人像图像帧融合后再配准生成的最终图像的显示效果。

示例性的，本发明实施例通过对多个图像帧的人像图像帧和背景图像帧分别进行对齐，从而限制了图像帧中的背景区域和人像区域的特征匹配或光流位移的有效范围，减少了错误匹配，进而提升了后续图像配准的质量。

步骤204、电子设备分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，输出多帧配准的目标图像。

示例性的，图像配准可以理解为：将不同时间、不同传感器(成像设备，如摄像机)或不同条件下(如，天候、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程。图像融合可以理解为：采集同一拍摄对象的图像数据(即上述的N个第一图像帧)，然后提取各图像帧中的特征信息，最后将采集到的上述特征信息，综合成一个高质量的图像帧。

相比于相关技术中，电子设备对于拍摄无人场景的对齐效果较好，但对于拍摄人物图像时的对齐效果较差。主要是由于人体的稳定性较差，在电子设备拍摄人物图像时，由于人体的轻微晃动，再加上人体与背景图像距离电子设备的远近程度不一致，导致电子设备将拍摄的包含人像的多个图像帧对齐时，对齐效果较差，进而，生成的最终照片图像也不够清晰。

本发明实施例提供的图像处理方法，由于电子设备在进行人像拍照时，得到的图像帧可近似分为人像区域和背景区域两个区域，因此，电子设备在获取到摄像头针对同一拍摄对象采集的N个第一图像帧后，会基于上述N个第一图像帧中的目标图像帧进行人像分割，以得到上述拍摄对象的人像掩模，此时，电子设备可以按照该人像掩膜将上述N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，接着，电子设备便可针对人像和背景分别对N个第一人像图像帧和N个第一背景图像帧进行图像对齐。如此，可以避免人像拍照时，由于人体非刚性及和背景间较大的视差，导致对齐效果较差，引起多帧合成后清晰度下降、出现重影等问题，从而提高了图像对齐质量，进而当电子设备分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合后，便可得到对齐效果更好的人像图像帧和背景图像帧，并且将上述对齐后的人像图像帧和背景图像帧在多帧配准时，可减少错误匹配，提升配准的质量。

可选的，本发明实施例中，根据人像图像和背景图像的不同特点，分别采用不同的图像对齐方法来分别对齐人像图像和背景图像。

由于在拍摄照片时，人体的稳定性较差，可能会存在轻微的移动。电子设备在对齐人像图像时，对人像图像的对齐误差容忍度较低，对齐难度较大，因此，电子设备可以采用逐像素对齐方法对齐人像图像。

示例性的，电子设备对齐N个第一人像图像帧的过程，可以通过以下步骤203a1和步骤203a2来实现。

步骤203a1、电子设备获取待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量。

步骤203a2、电子设备根据上述运动向量，将待配准人像图像帧与参考人像图像帧进行对齐，生成N个第二人物图像帧。

其中，上述参考人像图像帧为N个第一人像图像帧中的其中一个，待配准人像图像帧为N个第一人像图像帧中除参考人像图像帧以外的其他第一人像图像帧。

进一步的，上述参考人像图像帧可以为目标图像帧对应的第一人像图像帧。

示例性的，上述运动向量包括：待配准人像图像帧与参考人像图像帧中每个像素点的移动向量。例如，上述待配准人像图像帧中，某个像素点A的位置坐标为A1(x1，y1)，该像素点A在参考人像帧中的位置坐标为A2(x2，y2)，则像素点从坐标A1移动至坐标A2的移动向量称为该像素点的运动向量。

示例性的，电子设备可以使用光流法(optical flow)或patch match方法，计算上述N-1个待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量。

如此，相比于相关技术中的对齐方案，采用上述方法单独对齐人像图像帧，可显著提高图像帧中的人像对齐效果，进而，在将对齐后的人像图像帧与对齐后的背景图像帧进行多针图像配准时，可减少错误匹配，提高配准质量。

进一步的，电子设备得到待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量之后，电子设备可以按照以下公式一，将待配准人像图像帧与参考人像图像帧(用I_pr表示)进行对齐，得到对齐后的N个第二人像图像帧。

I_pai＝I_pi+V_i(公式一)

其中，上述I_pai为对齐后的N个第二人像图像帧中的第i个第二人像图像帧；上述I_pi为N个第一人像图像帧中的第i个第一人像图像帧；V_i为N个运动向量中的第i个运动向量。

为了方便描述，上述第i个图像帧可以为参考图像帧，也可以为待配准图像帧，例如，上述第二人像图像帧I_pi中，当i≠r时，该第二人像图像帧为参考图像帧；当i＝r时，该第二人像图像帧为参考人像图像帧，此时，参考图像帧的运动向量V_r的值为0。

可选的，由于背景图像帧中背景图像的纹理丰富，距离电子设备摄像头较远，对齐难度较低，因此，电子设备可以采用基于特征点的方案对齐背景图像帧。

示例性的，电子设备对齐上述N个第一背景图像帧的过程可以通过以下步骤203b1和步骤203b2来实现。

步骤203b1、电子设备获取N个第一背景图像帧中的目标特征点的特征参数。

步骤203b2、电子设备根据目标特征点的特征参数，将待配准背景图像帧与参考背景图像帧进行配准，生成N个第二背景图像帧。

其中，上述参考背景图像帧为N个第一背景图像帧中的其中一个，上述待配准背景图像帧为N个第一背景图像帧中除参考背景图像帧以外的其他第一背景图像帧。

进一步的，上述参考背景图像帧可以为目标图像帧对应的第一背景图像帧。

示例性的，电子设备可以采用Harris或orb算法来提取第一背景图像帧中的特征点。

示例性的，电子设备获取到上述目标特征点之后，可以将待配准背景图像帧与参考背景图像帧进行特征匹配，匹配方法可以使用暴力匹配或光流匹配等方法。

一般情况下，电子设备可以将参考背景图像帧的特征点B1(x，y)坐标在待配准背景图像帧中对应的特征点B2(x’，y’)作为匹配点。其中，上述特征点B2为待配准背景图像帧中(x，y)坐标周围预定范围(如，以(x，y)坐标为中心的m*n的窗口范围)内绝对误差和(sad_min)最小的特征点。

其中，特征点B1和特征点B2之间的关系参考以下公式二。

其中，sad_min为参考特征点B1对应待配准背景图像帧相同坐标位置，大小为m*n窗口内的最小绝对误差和；x和y为特征点B1的坐标；x’和y’为特征点B2的坐标；I_br为参考背景图像帧，I_bi为N个第一背景图像帧中的第i个第一背景图像帧。

然后，电子设备在将待配准背景图像帧与参考背景图像帧进行特征匹配之后，可以通过随机抽样一致算法(random sample consensus，ransac)或最小均方误差(minimummean square error,mmse)，估计待配准背景图像帧到参考背景图像帧的透视变换矩阵，并通过该透视变换矩阵得到N个第二背景图像帧，计算方法可以参考一下公式三。

I_bai＝H_i*I_bi(公式三)

其中，I_bai为N个第二背景图像帧中第i个第二背景图像帧；H_i为透视变换矩阵；I_bi为N个第一背景图像帧中的第i个第一背景图像帧。

示例性的，透视变换矩阵可以理解为：待配准第一背景图像帧，通过透视变换得到参考背景图像帧，该透视变换过程中利用的矩阵即为透视变换矩阵。

如此，电子设备在将N个第一图像帧进行分割后，针对背景图像和人像图像帧的特点，采用不同的对齐方法，分别将N个第一背景图像帧和N个第一人像图像帧进行对齐，消除了人像与背景间的视差，提升了对齐效果，进而使得将上述背景图像帧和人像图像帧进行图像融合后再配准生成的最终图像的配准质量。

可选的，上述步骤204还可以包括以下步骤204a1和步骤204a2：

步骤204a1、电子设备分别将对齐后的每个第一人像图像帧和与每个第一人像图像帧对应的对齐后的第一背景图像帧进行图像融合，得到N个第二图像帧。

步骤204a2、电子设备对N个第二图像帧进行多帧配准，输出目标图像。

示例性的，电子设备将上述N个第一人物图像帧经过对齐后的N个第二人物图像帧，和N个第一背景图像帧经过对齐后的N个第二背景图像帧按照像素点所处位置的权重进行图像融合。

示例性的，任一第一人像图像帧或任一第一背景图像帧中的人像图像内的像素点的权重W＝1，任一第一人像图像帧或任一第一背景图像帧中的人像图像外的像素点的权重W＝1/d，其中，d为该像素点与人像边缘的相对距离。

示例性的，电子设备可以基于下述公式四，分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，得到N个第二图像帧。

I_ai＝W_i*I_pai+(1-W_i)*I_bai(公式四)

其中，上述I_ai为N个第二图像帧中的第i个第二图像帧；上述W_i为N个第二背景图像帧中的第i个第二背景图像帧，或者N个第二人物图像帧中的第i个人物图像帧；上述I_bai为N个第二人物图像帧中的第i个第二人物图像帧。

如此，电子设备根据每个图像帧中各像素点与人像位置的远近，将多帧图像进行图像融合配准，得到的最终图像的图像清晰度大幅提升。

本发明实施例提供的图像处理方法，电子设备通过获取N个第一图像帧，并根据人像掩膜对N个第一图像帧进行分割后，由于电子设备根据分割后的N个第一人像图像帧和N个第一背景图像帧的不同特点，针对性使用不同的对齐方法，消除了人像和背景集中于一个图像帧上时的视差，提高了对齐质量。最后将对齐后的N个第二人像图像帧和N个第二背景图像帧进行图像融合配准，减少了错误匹配，提升了配准的质量，进而生成的目标图像的图像效果也更加清晰。

需要说明的是，本发明实施例中，上述各个方法附图所示的。图像处理方法均是以结合本发明实施例中的一个附图为例示例性的说明的。具体实现时，上述各个方法附图所示的图像处理方法还可以结合上述实施例中示意的其它可以结合的任意附图实现，此处不再赘述。

图4为实现本发明实施例提供的一种电子设备的可能的结构示意图，如图4所示，电子设备600包括：获取模块601、分割模块602、对齐模块603和融合模块604，其中：

获取模块601，用于对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到拍摄对象的人像掩膜。

分割模块602，还用于按照获取模块601获取的人像掩膜对N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成第一图像帧。

对齐模块603，用于分别对齐分割模块602得到的N个第一人像图像帧和N个第一背景图像帧。

融合模块604，用于分别将对齐模块603对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，输出多帧配准的目标图像。

如此，由于电子设备在进行人像拍照时，得到的图像帧可近似分为人像区域和背景区域两个区域，因此，电子设备在获取到摄像头针对同一拍摄对象采集的N个第一图像帧后，会基于上述N个第一图像帧中的目标图像帧进行人像分割，以得到上述拍摄对象的人像掩模，此时，电子设备可以按照该人像掩膜将上述N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，接着，电子设备便可针对人像和背景分别对N个第一人像图像帧和N个第一背景图像帧进行图像对齐。如此，可以避免人像拍照时，由于人体非刚性及和背景间较大的视差，导致对齐效果较差，引起多帧合成后清晰度下降、出现重影等问题，从而提高了图像对齐质量，进而当电子设备分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合后，便可得到对齐效果更好的人像图像帧和背景图像帧，并且将上述对齐后的人像图像帧和背景图像帧在多帧配准时，可减少错误匹配，提升配准的质量。

可选的，对齐模块603，具体用于：获取分割模块602得到的待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量；根据运动向量，将待配准人像图像帧与参考人像图像帧进行对齐，生成N个第二人物图像帧。

其中，参考人像图像帧为N个第一人像图像帧中的其中一个；待配准人像图像帧为N个第一人像图像帧中除参考人像图像帧以外的其他第一人像图像帧。

进一步可选的，参考人像图像帧可以为目标图像帧对应的第一人像图像帧。

如此，相比于相关技术中的对齐方案，采用上述方法单独对齐人像图像帧，可显著提高图像帧中的人像对齐效果，进而，在将对齐后的人像图像帧与对齐后的背景图像帧进行多针图像配准时，可减少错误匹配，提高配准质量。

可选的，对齐模块603，具体用于：获取分割模块602得到的N个第一背景图像帧中的目标特征点的特征参数；根据目标特征点的特征参数，将待配准背景图像帧与参考背景图像帧进行对齐，生成N个第二背景图像帧。

其中，参考背景图像帧为N个第一背景图像帧中的其中一个；待配准背景图像帧为N个第一背景图像帧中除参考背景图像帧以外的其他第一背景图像帧。

进一步可选的，参考背景图像帧可以为目标图像帧对应的第一背景图像帧。

如此，电子设备在将N个第一图像帧进行分割后，针对背景图像和人像图像帧的特点，采用不同的对齐方法，分别将N个第一背景图像帧和N个第一人像图像帧进行对齐，消除了人像与背景间的视差，提升了对齐效果，进而使得将上述背景图像帧和人像图像帧图像融合后再配准生成的最终图像的图像质量。

可选的，融合模块604，具体用于：分别将对齐模块603对齐后的每个第一人像图像帧和与每个第一人像图像帧对应的对齐后的第一背景图像帧进行图像融合，得到N个第二图像帧；对N个第二图像帧进行多帧配准，输出目标图像。

如此，根据每个图像帧中各像素点与人像位置的远近，将多帧图像进行图像融合配准，得到的最终图像的图像清晰度大幅提升。

可选的，获取模块601，还用于获取摄像头在预定时间段内采集的第一图像帧序列，第一图像帧序列包括N个第一图像帧。

如此，电子设备序列存储上述N个第一图像帧后，方便电子设备对N个第一图像帧进行定位，以及后续对每帧图像进行处理。

本发明实施例提供的电子设备，电子设备通过获取N个第一图像帧，并根据人像掩膜对N个第一图像帧进行分割后，由于电子设备根据分割后的N个第一人像图像帧和N个第一背景图像帧的不同特点，针对性使用不同的对齐方法，消除了人像和背景集中于一个图像帧上时的视差，提高了对齐质量。最后将对齐后的N个第二人像图像帧和N个第二背景图像帧进行图像融合配准，减少了错误匹配，提升了配准的质量，进而生成的目标图像的图像效果也更加清晰。

本发明实施例提供的电子设备能够实现上述方法实施例中电子设备实现的各个过程，为避免重复，这里不再赘述。

图5为实现本发明各个实施例的一种电子设备的硬件结构示意图，该电子设备100包括但不限于：射频单元101、网络模块102、音频输出单元103、输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图5中示出的电子设备100的结构并不构成对电子设备的限定，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，电子设备100包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端设备、可穿戴设备、以及计步器等。

输入单元104用于接收音频或视频信号。输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或网络模块102进行发送。麦克风1042可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。

处理器110或者GPU1041，用于在图像捕获装置中的摄像头采集到N个第一图像帧之后，对满足预定条件的目标图像帧进行人像分割，得到N个第一人像图像帧和N个第一背景图像帧。由于电子设备根据分割后的N个第一人像图像帧和N个第一背景图像帧的不同特点，针对性使用不同的对齐方法，消除了人像和背景集中于一个图像帧上时的视差，最后将对齐后的N个第二人像图像帧和N个第二背景图像帧进行图像融合配准，减少了错误匹配，提升了配准的质量，进而生成的目标图像的图像效果也更加清晰。

应理解的是，本发明实施例中，射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信系统与网络和其他设备通信。

电子设备100通过网络模块102为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。

音频输出单元103可以将射频单元101或网络模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与电子设备100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103包括扬声器、蜂鸣器以及受话器等。

电子设备100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在电子设备100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器105还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。

显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode，OLED)等形式来配置显示面板1061。

用户输入单元107可用于接收输入的数字或字符信息，以及产生与电子设备100的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。

进一步的，触控面板1071可覆盖在显示面板1061上，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图5中，触控面板1071与显示面板1061是作为两个独立的部件来实现电子设备100的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现电子设备100的输入和输出功能，具体此处不做限定。

接口单元108为外部装置与电子设备100连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到电子设备100内的一个或多个元件或者可以用于在电子设备100和外部装置之间传输数据。

存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器110是电子设备100的控制中心，利用各种接口和线路连接整个电子设备100的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行电子设备100的各种功能和处理数据，从而对电子设备100进行整体监控。处理器110可包括一个或多个处理单元；可选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。

电子设备100还可以包括给各个部件供电的电源111(比如电池)，可选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。

另外，电子设备100包括一些未示出的功能模块，在此不再赘述。

可选的，本发明实施例还提供一种电子设备，包括处理器，存储器，存储在存储器上并可在处理器110上运行的计算机程序，该计算机程序被处理器执行时实现上述图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台电子设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本发明的保护之内。

Claims (14)

1.一种图像处理方法，应用于电子设备，其特征在于，所述方法包括：

对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到所述拍摄对象的人像掩膜，所述目标图像帧为所述N个第一图像帧中满足预定条件的一个图像帧；

按照所述人像掩膜对所述N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成所述第一图像帧；

分别对齐所述N个第一人像图像帧和所述N个第一背景图像帧；

分别将对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，得到N个第二图像帧；

对所述N个第二图像帧进行多帧配准，输出目标图像。

2.根据权利要求1所述的方法，其特征在于，所述分别对齐所述N个第一人像图像帧和所述N个第一背景图像帧，包括：

获取所述N个第一背景图像帧中的目标特征点的特征参数；

根据所述目标特征点的特征参数，将待配准背景图像帧与参考背景图像帧进行对齐，生成N个第二背景图像帧；

其中，所述参考背景图像帧为所述N个第一背景图像帧中的其中一个；所述待配准背景图像帧为所述N个第一背景图像帧中除所述参考背景图像帧以外的所有第一背景图像帧。

3.根据权利要求2所述的方法，其特征在于，所述参考背景图像帧为所述目标图像帧对应的第一背景图像帧。

4.根据权利要求1所述的方法，其特征在于，所述分别对齐所述N个第一人像图像帧和所述N个第一背景图像帧，包括：

获取待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量；

根据所述运动向量，将所述待配准人像图像帧与所述参考人像图像帧进行对齐，生成N个第二人物图像帧；

其中，所述参考人像图像帧为所述N个第一人像图像帧中的其中一个；所述待配准人像图像帧为所述N个第一人像图像帧中除所述参考人像图像帧以外的其他第一人像图像帧。

5.根据权利要求4所述的方法，其特征在于，所述参考人像图像帧为所述目标图像帧对应的第一人像图像帧。

6.根据权利要求1所述的方法，其特征在于，所述对摄像头针对同一拍摄对象采集的N个第一图像帧中的目标图像帧进行人像分割，得到所述拍摄对象的人像掩膜之前，所述方法还包括：

获取所述摄像头在预定时间段内采集的目标图像帧序列，所述目标图像帧序列包括所述N个第一图像帧。

7.一种电子设备，其特征在于，所述电子设备包括获取模块、分割模块、对齐模块和融合模块；

所述获取模块，用于对摄像头针对同一拍摄对象采集的N个第一图像帧中满足预定条件的目标图像帧进行人像分割，得到所述拍摄对象的人像掩膜，所述目标图像帧为所述N个第一图像帧中满足预定条件的一个图像帧；

所述分割模块，还用于按照所述获取模块获取的人像掩膜对所述N个第一图像帧进行图像分割，得到N个第一人像图像帧和N个第一背景图像帧，一个第一人像图像帧和一个第一背景图像帧组合形成所述第一图像帧；

所述对齐模块，用于分别对齐所述分割模块得到的所述N个第一人像图像帧和所述N个第一背景图像帧；

所述融合模块，用于分别将所述对齐模块对齐后的每个第一人像图像帧与对应的对齐后的第一背景图像帧进行图像融合，得到N个第二图像帧；并对所述N个第二图像帧进行多帧配准，输出目标图像。

8.根据权利要求7所述的电子设备，其特征在于，所述对齐模块，具体用于：

获取所述分割模块得到的所述N个第一背景图像帧中的目标特征点的特征参数；

根据所述目标特征点的特征参数，将待配准背景图像帧与参考背景图像帧进行对齐，生成N个第二背景图像帧；

其中，所述参考背景图像帧为所述N个第一背景图像帧中的其中一个；所述待配准背景图像帧为所述N个第一背景图像帧中除所述参考背景图像帧以外的其他第一背景图像帧。

9.根据权利要求8所述的电子设备，其特征在于，所述参考背景图像帧为所述目标图像帧对应的第一背景图像帧。

10.根据权利要求7所述的电子设备，其特征在于，所述对齐模块，具体用于：

获取所述分割模块得到的待配准人像图像帧中每个像素点与参考人像图像帧中对应像素点间的运动向量；

根据所述运动向量，将所述待配准人像图像帧与所述参考人像图像帧进行对齐，生成N个第二人物图像帧；

其中，所述参考人像图像帧为所述N个第一人像图像帧中的其中一个；所述待配准人像图像帧为所述N个第一人像图像帧中除所述参考人像图像帧以外的其他第一人像图像帧。

11.根据权利要求10所述的电子设备，其特征在于，所述参考人像图像帧为所述目标图像帧对应的第一人像图像帧。

12.根据权利要求7所述的电子设备，其特征在于，

所述获取模块，还用于获取所述摄像头在预定时间段内采集的第一图像帧序列，所述第一图像帧序列包括所述N个第一图像帧。

13.一种电子设备，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的图像处理方法的步骤。

14.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的图像处理方法的步骤。