CN109685915B - 一种图像处理方法、装置及移动终端 - Google Patents
一种图像处理方法、装置及移动终端 Download PDFInfo
- Publication number
- CN109685915B CN109685915B CN201811512362.3A CN201811512362A CN109685915B CN 109685915 B CN109685915 B CN 109685915B CN 201811512362 A CN201811512362 A CN 201811512362A CN 109685915 B CN109685915 B CN 109685915B
- Authority
- CN
- China
- Prior art keywords
- face feature
- image
- original
- feature points
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2016—Rotation, translation, scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/20—Indexing scheme for editing of 3D models
- G06T2219/2021—Shape modification
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Architecture (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种图像处理方法、装置及移动终端。该方法包括:获取与原始二维图像匹配的深度图像;根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。本发明在图像处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种图像处理方法、装置及移动终端。
背景技术
随着移动终端的摄像头的分辨率和拍照质量的提升,用户通过移动终端拍摄的照片的数量呈现爆炸性增长,对美颜的要求也越来越高。
目前的美颜方式主要是通过对人脸图片作二维(2D)变形,例如瘦脸、大眼、瘦鼻等美颜操作,但是这种2D人脸变形处理,难以体现人脸在Z(深度)方向上的变形,例如使人脸更加立体的美颜操作。
因此,相关技术中的图像处理方法普遍存在着难以对二维图像进行深度方向上的变形处理的问题。
发明内容
本发明实施例提供一种图像处理方法、装置及移动终端,以解决相关技术中的图像处理方法所存在的难以对二维图像进行深度方向上的变形处理的问题。
为了解决上述技术问题,本发明是这样实现的:
第一方面,本发明实施例提供了一种图像处理方法,应用于移动终端,所述方法包括:
获取与原始二维图像匹配的深度图像;
根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;
对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
第二方面,本发明实施例还提供了一种图像处理装置,应用于移动终端,所述图像处理装置包括:
第一获取模块,用于获取与原始二维图像匹配的深度图像;
确定模块,用于根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;
第一处理模块,用于对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
第二处理模块,用于根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
第三方面,本发明实施例还提供了一种移动终端,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现所述的图像处理方法的步骤。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现所述的图像处理方法的步骤。
这样,本发明实施例根据原始二维图像中的第一人脸特征点,来确定深度图像中与该第一人脸特征点对应的第二人脸特征点,该第二人脸特征点包括了深度信息,通过对第二人脸特征点进行处理,可以得到更新后的第二人脸特征点,并根据更新后的第二人脸特征点来对原始二维图像中的第一人脸特征点进行处理,从而可以得到目标二维图像。其中,在对第二人脸特征点作处理时,通过进行3D变形处理,并利用变形处理后的第二人脸特征点,来对二维的第一人脸特征点进行变形处理,从而可以得到3D变形处理后的目标二维图像。其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明第一实施例的图像处理方法的流程图;
图2是本发明第二实施例的图像处理方法的流程图;
图3是本发明第三实施例的图像处理方法的流程图;
图4是本发明第四实施例的图像处理装置的框图;
图5是本发明第五实施例的图像处理装置的框图;
图6是本发明第六实施例的移动终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
第一实施例
参照图1,示出了本发明一个实施例的图像处理方法的流程图,应用于移动终端,所述方法具体可以包括如下步骤:
步骤101,获取与原始二维图像匹配的深度图像;
其中,该原始二维图像为包括人脸的二维图像,该原始二维图像可以是拍摄的图像,也可以是预先存储的图像。
本步骤需要获取与原始二维图像相匹配的深度图像。
其中,深度图像中每个像素点与原始二维图像中的每个像素点都是一一对应的,区别在于原始二维图形中存储的是每个像素点的RGB值,而深度图像中存储的是每个像素点的深度值。其中,图像的深度,反映了被拍摄的对象与移动终端的摄像头传感器之间的距离。
那么在获取原始二维图像对应的深度图像时,可以采用以下任意一种方式来实现:
方式一:由深度摄像头对被拍摄对象进行拍摄,从而得到被拍摄对象的原始二维图像对应的深度图像;
方式二:对原始二维图像进行3D(3维)人脸建模,得到3D人脸模型,然后从该3D人脸模型中获取深度图像。其中,本实施例中的深度图像为对应原始二维图像中人脸区域的深度图像。
而步骤101中的深度图像可以是整个原始二维图像对应的深度图像,也可以是原始二维图像中的人脸区域对应的深度图像。
但是,不论深度图像是人脸区域的深度图像,还是整个原始二维图像的深度图像,该深度图像中的每个像素点在原始二维图像中都有唯一的像素点与对应。
另外,需要说明的是,在获取与原始二维图像匹配的深度图像时,获取深度图像的方法并不限于上述举例的两种方式,还可以包括已知或未来开发的任意一种获取深度图像的方式。
步骤102,根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;
其中,预先可以识别原始二维图像中的人脸特征点,这里记为第一人脸特征点。而如上述步骤101所述,深度图像与原始二维图像中的像素点是一一对应的,而一个人脸特征点也是一个像素点,因此,可以在深度图像中识别出与原始二维图像中的第一人脸特征点对应的第二人脸特征点。
需要说明的是,这里的第二人脸特征点的坐标为三维坐标,包括了深度信息。
步骤103,对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
其中,可以根据图像的处理需求(可以是任意一种或几种3D变形处理),来对第二人脸特征点的三维坐标作处理,那么更新了坐标后的第二人脸特征点即为更新后的第二人脸特征点。
步骤104,根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
其中,可以利用更新坐标位置后的更新后的第二人脸特征点,以及原始二维图像中第一人脸特征点的二维坐标,来对原始二维图像作处理,从而得到目标二维图像。
这样,本发明实施例根据原始二维图像中的第一人脸特征点,来确定深度图像中与该第一人脸特征点对应的第二人脸特征点,该第二人脸特征点包括了深度信息,通过对第二人脸特征点进行处理,可以得到更新后的第二人脸特征点,并根据更新后的第二人脸特征点来对原始二维图像中的第一人脸特征点进行处理,从而可以得到目标二维图像。其中,在对第二人脸特征点作处理时,通过进行3D变形处理,并利用变形处理后的第二人脸特征点,来对二维的第一人脸特征点进行变形处理,从而可以得到3D变形处理后的目标二维图像。其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
第二实施例
参照图2,示出了本发明另一个实施例的图像处理方法的流程图,应用于移动终端,具体可以包括如下步骤:
步骤201,获取与原始二维图像匹配的深度图像;
具体参照第一实施例的步骤101,这里不再赘述。
步骤202,获取所述原始二维图像的第一人脸特征点的原始二维坐标;
其中,可以对原始二维图像进行人脸特征点的检测,从而获取所述原始二维图像中各个人脸特征点的原始二维坐标,这里的人脸特征点的数量为多个,每个人脸特征点在原始二维图像中具有一个原始二维坐标。
而这里的人脸特征点的类型可以包括鼻子的特征点、眼睛的特征点、眉毛的特征点、嘴巴的特征点以及脸部轮廓的特征点。
其中,本发明对于步骤201和步骤202的执行顺序不做限制。
步骤203,根据所述第一人脸特征点的原始二维坐标,确定所述深度图像中与所述第一人脸特征点对应的第二人脸特征点的原始三维坐标;
其中,如第一实施例所述,原始二维图像的人脸区域中的每个像素点在深度图像中都唯一的对应有一个像素点,即,两个图像中至少人脸区域的像素点是一一对应的,当然,如果深度图像不仅包括人脸区域的深度值,还包括其他被拍摄区域的深度值,则两个图像中每个像素点都是一样对应的。
因此,可以结合所述深度图像和所述第一人脸特征点的原始二维坐标,来获取所述第一人脸特征点在深度图像中对应的第二人脸特征点的深度值,并利用该深度值,来得到第二人脸特征点的原始三维坐标。
例如,原始二维图像中的人脸特征点1与深度图像中像素点1(即人脸特征点1)是对应的,像素点1的深度值为y1,而人脸特征点1的原始二维坐标为(x1,y1),则可以得到该人脸特征点1的原始三维坐标(x1,y1,z1)。
类似的,可以识别出原始二维图像中每个人脸特征点,在深度图像中对应的原始三维坐标,这里不再一一赘述。
本发明实施例中,将具有二维坐标的人脸特征点称作第一人脸特征点,将具有三维坐标的人脸特征点称为第二人脸特征点。
步骤204,根据图像处理请求,对所述第二人脸特征点的原始三维坐标作变换处理,得到更新后的第二人脸特征点的目标三维坐标;
其中,可以在步骤204之前接收图像处理请求,该图像处理请求可以是请求对原始二维图像中的人脸区域做任意一种或几种3D变形处理。其中,3D变形处理包括但不限于3D人脸旋转、人脸纠畸、3D捏脸、人脸平移、调整头部角度等。
其中,当图像处理请求不同时,这里的变换处理方式也是存在差异的。
例如当图像处理请求包括3D人脸旋转,即图像处理目标是将原始二维图像中的人脸区域进行3D旋转。
那么本发明实施例的方法可以以原始二维图像中的颈椎点为中心点,对每个第二人脸特征点的原始三维坐标均作3D旋转,使得每个第二人脸特征点的原始三维坐标都发生了变化,且x,y,z均发生了变化,从而得到每个第二人脸特征点变化后的目标三维坐标。
其中,可以首先识别原始二维图像中颈椎点的原始二维坐标,然后,以识别到的颈椎点为中心点进行上述3D旋转。
再如,当用户使用移动终端进行自拍时,如果人脸距离摄像头过近,则会产生畸变(广角畸变),表现为鼻子、嘴巴变大、耳朵变小,那么这种情况下可以对图像进行纠畸处理,那么当图像处理请求包括人脸纠畸处理时,就可以对通过将鼻子特征点、嘴巴特征点的原始三维坐标中的Z坐标的数值增大,来得到鼻子特征点、嘴巴特征点经过变换处理后的目标三维坐标,这样,通过增大鼻子特征点的深度值,可以使得鼻子距离摄像头较远,看起来会变小一些。例如鼻子特征点1的原始三维坐标为(x1,y1,z1),那么变换处理后的鼻子特征点1的目标三维坐标为(x1,y1,z2)。
又如,当图像处理请求为3D捏脸时,例如高鼻梁、翘下巴、凹眼睛等。
那么可以对体现鼻梁的鼻子特征点的原始三维坐标中的深度值,即Z坐标进行减小,以达到高鼻梁的效果;对下巴的特征点的原始三维坐标中的Z坐标进行减小,以达到翘下巴的效果;对眼睛的一些特征点的原始三维坐标中的Z坐标进行增大处理,以达到凹眼睛的效果。
其中,在对各个人脸特征点的原始三维坐标进行变换处理时,具体对哪些人脸特征点进行变换处理,以及变换处理时各个坐标的调整量是多少,可以根据图像处理请求以及先验知识来确定。例如凹眼睛的变形处理,根据先验知识可知,处于靠中间位置的人眼特征点的Z坐标的增大量,要大于处于靠边缘位置的人眼特征点的Z坐标的增大量。
此外,当图像处理请求包括对人脸区域进行头部角度调节的处理时,例如摇头、抬头、低头等,则同样可以通过对人脸特征点的原始三维坐标进行变换处理的方式,来得到人脸特征点的目标三维坐标。
例如当图像处理请求为摇头时,则可以改变脸部轮廓特征点的X坐标和Z坐标,来使脸部区域绕Y轴方向旋转,达到摇头的效果;
再如当图像处理请求为抬头或低头时,则可以改变脸部轮廓特征点的Y坐标和Z坐标,来使脸部区域绕X轴方向旋转,来达到抬头、低头的效果。
因此,当图像处理请求不同时,对人脸特征点的原始三维坐标进行变换处理时,变换处理的参数也是不同的。
此外,由于人脸特征点的数量是多个,而在响应一个图像处理请求时,可以对全部第二人脸特征点的原始三维坐标进行变换处理,也可以对部分第二人脸特征点的原始三维坐标进行变换处理,具体对哪些人脸特征点的原始三维坐标进行变换处理取决于该图像处理请求的具体内容。
其中,如果有的第二人脸特征点的原始三维坐标未作任何变换处理,则其原始三维坐标即为变换处理后的目标三维坐标,如果有的人脸特征点原始三维坐标有作变换处理,则其变换处理后的目标三维坐标即为这里所述的目标三维坐标。
另外,在对一个第二人脸特征点的原始三维坐标进行变换处理时,可以只对Z坐标进行变换处理,也可以对任意两个坐标(例如(x,y)、(x,z)、(y,z)、)进行变换处理,也可以对三个坐标例如(x,y,z)均作变换处理。
步骤205,根据透视变换,将所述更新后的第二人脸特征点的目标三维坐标转换为目标二维坐标,得到所述更新后的第二人脸特征点的目标二维坐标;
其中,由于步骤204所作的变换处理是在3D的维度进行的变换处理,因此,本步骤需要将上述各个更新后的第二人脸特征点的目标三维坐标投射回原始二维图像中的各个新位置中。
在具体实现时,可以根据透视变换,并利用各个更新后的第二人脸特征点的目标三维坐标,来将各个更新后的第二人脸特征点投射会原始二维图像中,那么各个更新后的第二人脸特征点在投射到原始二维图像中后,它们在原始二维图像中所处的二维坐标,即为各个更新后的第二人脸特征点的目标二维坐标。
其中,需要说明的是,在部分实施例中,可能存在部分人脸特征点的原始二维坐标和目标二维坐标是相同的情况,但是大多数实施例中,人脸特征点的原始二维坐标和目标二维坐标都是不同的。
步骤206,根据所述更新后的第二人脸特征点的目标二维坐标,和所述第一人脸特征点的原始二维坐标,对所述原始二维图像作三角剖分变形,得到目标二维图像。
其中,本步骤可以利用原始二维图像中各个第一人脸特征点的原始二维坐标,和更新后的第二人脸特征点的目标二维坐标,来对整个原始二维图像进行变形处理,使得变形处理后的目标二维图像中的变形后的人脸区域与背景区域是无缝隙的且贴合的。
在执行步骤206时,可以采用已知或未来开发的任意一种利用人脸特征点的原始二维坐标和更新后的目标二维坐标,来对原始二维图像进行三角剖分变形的方法来得到目标二维图像。
本发明实施例通过利用原始二维图像对应的深度图像以及原始二维图像中每个第一人脸特征点的原始二维坐标,来获取每个第一人脸特征点的原始三维坐标,并根据图像处理请求,来对各个人脸特征点的原始三维坐标作变换处理,并将每个人脸特征点经过变换处理后的目标三维坐标经过透视变换,转换为在原始二维图像中的目标二维坐标,最后,利用各个人脸特征点的原始二维坐标和目标二维坐标,来对原始二维图像作三角剖分变形处理,从而可以得到3D变形处理后的目标二维图像。
其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。此外,在变形处理时首先在三维上进行三维坐标的变换处理,然后,再将变换后的目标三维坐标投射回原始二维图像中,使得原始二维图像中能够体现经过3D变形处理后的图像,且变形后的人脸区域和人脸周围的背景区域是贴合的。有效的避免了3D变形后人脸区域与背景不够贴合的问题,3D变形处理更加自然。
可选地,本实施例中,在执行步骤206时,可以通过以下方式来实现:首先,以所述第一人脸特征点的原始二维坐标作为三角形的顶点,对所述原始二维图像进行三角剖分,得到多个原始三角形;然后,根据更新后的第二人脸特征点的目标二维坐标,和所述第一人脸特征点的原始二维坐标,来对每个所述原始三角形进行三角剖分变形处理,获得目标二维图像。
具体而言,对于检测到任意一个人脸特征点而言,以该人脸特征的原始二维坐标,作为三角形的顶点,来对原始二维图像进行三角剖分,从而可以得到多个原始三角形,每个第一人脸特征点对应一个原始三角形,因此,这里可以得到多个原始三角形;然后,根据每个第一人脸特征点的原始二维坐标以及第二人脸特征点的目标二维坐标,来对第一人脸特征点对应的原始三角形进行三角剖分变形处理,从而可以对所述多个原始三角形均进行不同程度的三角剖分变形处理,最后,可以得到经过3D变形处理后的目标二维图像。
本发明实施例通过根据图像处理请求、原始二维图像对应的深度图像以及原始二维图像中每个人脸特征点的原始二维坐标,可以获取每个人脸特征点经过3D变形处理后的新的坐标位置,即目标二维坐标,然后,利用各个人脸特征点的原始二维坐标和目标二维坐标,来对原始二维图像作三角剖分变形处理,从而可以得到3D变形处理后的目标二维图像。其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
第三实施例
参照图3,示出了本发明又一个实施例的图像处理方法的流程图,应用于移动终端,具体可以包括如下步骤:
步骤301,获取与原始二维图像匹配的深度图像;
具体参照第二实施例的步骤201,这里不再赘述。
步骤302,获取所述原始二维图像的第一人脸特征点的原始二维坐标;
具体参照第二实施例的步骤202,这里不再赘述。
步骤303,根据所述第一人脸特征点的原始二维坐标,确定所述深度图像中与所述第一人脸特征点对应的第二人脸特征点的原始三维坐标;
具体参照第二实施例的步骤203,这里不再赘述。
其中,本发明对于步骤301、步骤302以及步骤304之间的执行顺序不做限制。
步骤304,根据图像处理请求,获取变换参数;
其中,根据图像处理请求,可以获取到对哪些人脸特征点作变换处理,以及每个人脸特征点在变换处理时的变换参数。其中,对应有变换参数的人脸特征点可以是全部第二人脸特征点,也可以是部分第二人脸特征点。另外,不同人脸特征点的变换参数可以相同或不同。
其中,该变化参数可以体现在对一个人脸特征点的哪个坐标(X坐标、Y坐标、Z坐标中的一个或多个)进行调整,以及调整方向(增大或减小)和调整量。
其中,需要作变换处理的特征点可以根据数据处理请求来识别得到,可以是全部特征点,也可以是部分特征点。
因此,这里在作变换处理时,可以对部分特征点或全部特征点作变换处理,而得到的目标特征点中可以包括未作变换处理的原始特征点。
步骤305,按照所述变换参数,对所述第二人脸特征点的原始三维坐标作变换处理,得到更新后的第二人脸特征点的目标三维坐标;
其中,可以按照各个第二人脸特征点的变换参数来对各个第二人脸特征点的原始三维坐标进行变换处理,得到各个第二人脸特征点的目标三维坐标。
其中,由于可能并非所有人脸特征点都有变换参数,因此,对于未对应有变换参数的人脸特征点而言,该人脸特征点的原始三维坐标即为这里的目标三维坐标,而对于对应有变换参数的人脸特征点而言,则采用该变换参数对其原始三维坐标经过变换处理后的三维坐标,即为该人脸特征点的目标三维坐标。
步骤306,根据透视变换,将所述更新后的第二人脸特征点的目标三维坐标转换为目标二维坐标,得到所述更新后的第二人脸特征点的目标二维坐标;
具体参照第二实施例的步骤205,这里不再赘述。
步骤307,根据所述更新后的第二人脸特征点的目标二维坐标,和所述第一人脸特征点的原始二维坐标,对所述原始二维图像作三角剖分变形,得到目标二维图像。
具体参照第二实施例的步骤206,这里不再赘述。
在本发明实施例中,通过根据图像处理请求获取变换参数,从而可以确定对哪些人脸特征点作变换处理,以及做怎样的变换处理,从而提升了对3D人脸变形的处理准确度。
另外,在一个示例中,移动终端的感光器可以拍摄图像数据,将图像数据发送给ISP(Image Signal Processing,图像信号处理器)进行处理,而本发明实施例的方法可以获取ISP处理后的原始二维图像,并利用CPU或DSP(数字信号处理器)或GPU(图形处理器)来对该原始二维图像进行3D变形,从而得到目标图像,并发送给显示单元进行显示。
第四实施例
参照图4,示出了本发明一个实施例的图像处理装置的框图,应用于移动终端。图4所示图像处理装置包括:
第一获取模块41,用于获取与原始二维图像匹配的深度图像;
确定模块42,用于根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;
第一处理模块43,用于对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
第二处理模块44,用于根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
这样,本发明实施例根据原始二维图像中的第一人脸特征点,来确定深度图像中与该第一人脸特征点对应的第二人脸特征点,该第二人脸特征点包括了深度信息,通过对第二人脸特征点进行处理,可以得到更新后的第二人脸特征点,并根据更新后的第二人脸特征点来对原始二维图像中的第一人脸特征点进行处理,从而可以得到目标二维图像。其中,在对第二人脸特征点作处理时,通过进行3D变形处理,并利用变形处理后的第二人脸特征点,来对二维的第一人脸特征点进行变形处理,从而可以得到3D变形处理后的目标二维图像。其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
第五实施例
参照图5,示出了本发明一个实施例的图像处理装置的框图,应用于移动终端。图5所示图像处理装置包括:
第一获取模块41,用于获取与原始二维图像匹配的深度图像;
确定模块42,用于根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;
第一处理模块43,用于对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
第二处理模块44,用于根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像;
可选地,所述装置还包括:
第二获取模块45,用于获取所述原始二维图像的第一人脸特征点的二维坐标;
所述确定模块42,还用于根据所述第一人脸特征点的二维坐标,确定所述深度图像中与所述第一人脸特征点对应的第二人脸特征点的三维坐标。
可选地,所述第一处理模块43,还用于根据图像处理请求,对所述第二人脸特征点的三维坐标作变换处理,得到更新后的第二人脸特征点的三维坐标。
可选地,所述第二处理模块44包括:
转换子模块441,用于根据透视变换,将所述更新后的第二人脸特征点的三维坐标转换为二维坐标,得到所述更新后的第二人脸特征点的二维坐标;
变形处理子模块442,用于根据所述更新后的第二人脸特征点的二维坐标,和所述第一人脸特征点的二维坐标,对所述原始二维图像作三角剖分变形,得到目标二维图像。
可选地,所述第一处理模块43包括:
获取子模块431,用于根据图像处理请求,获取变换参数;
变换子模块432,用于按照所述变换参数,对所述第二人脸特征点的三维坐标作变换处理,得到更新后的第二人脸特征点的三维坐标。
可选地,所述变形处理子模块442包括:
三角剖分单元4421,用于以所述第一人脸特征点的二维坐标作为三角形的顶点,对所述原始二维图像进行三角剖分,得到多个原始三角形;
变形处理单元4422,用于根据更新后的第二人脸特征点的二维坐标,和所述第一人脸特征点的二维坐标,对每个所述原始三角形进行三角剖分变形处理,获得目标二维图像。
本发明实施例提供的图像处理装置能够实现图1至图3的方法实施例中图像处理方法实现的各个过程,为避免重复,这里不再赘述。
第六实施例
图6为实现本发明各个实施例的一种移动终端的硬件结构示意图,
该移动终端500包括但不限于:射频单元501、网络模块502、音频输出单元503、输入单元504、传感器505、显示单元506、用户输入单元507、接口单元508、存储器509、处理器510、以及电源511等部件。本领域技术人员可以理解,图6中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。在本发明实施例中,移动终端包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。
处理器510,用于获取与原始二维图像匹配的深度图像;根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
这样,本发明实施例根据原始二维图像中的第一人脸特征点,来确定深度图像中与该第一人脸特征点对应的第二人脸特征点,该第二人脸特征点包括了深度信息,通过对第二人脸特征点进行处理,可以得到更新后的第二人脸特征点,并根据更新后的第二人脸特征点来对原始二维图像中的第一人脸特征点进行处理,从而可以得到目标二维图像。其中,在对第二人脸特征点作处理时,通过进行3D变形处理,并利用变形处理后的第二人脸特征点,来对二维的第一人脸特征点进行变形处理,从而可以得到3D变形处理后的目标二维图像。其中,由于在图像变形处理过程中结合了深度图像,从而可以实现对原始二维图像在深度方向上的变形处理。
应理解的是,本发明实施例中,射频单元501可用于收发信息或通话过程中,信号的接收和发送,具体的,将来自基站的下行数据接收后,给处理器510处理;另外,将上行的数据发送给基站。通常,射频单元501包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元501还可以通过无线通信系统与网络和其他设备通信。
移动终端通过网络模块502为用户提供了无线的宽带互联网访问,如帮助用户收发电子邮件、浏览网页和访问流式媒体等。
音频输出单元503可以将射频单元501或网络模块502接收的或者在存储器509中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元503还可以提供与移动终端500执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元503包括扬声器、蜂鸣器以及受话器等。
输入单元504用于接收音频或视频信号。输入单元504可以包括图形处理器(Graphics Processing Unit,GPU)5041和麦克风5042,图形处理器5041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元506上。经图形处理器5041处理后的图像帧可以存储在存储器509(或其它存储介质)中或者经由射频单元501或网络模块502进行发送。麦克风5042可以接收声音,并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元501发送到移动通信基站的格式输出。
移动终端500还包括至少一种传感器505,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板5061的亮度,接近传感器可在移动终端500移动到耳边时,关闭显示面板5061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别移动终端姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;传感器505还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等,在此不再赘述。
显示单元506用于显示由用户输入的信息或提供给用户的信息。显示单元506可包括显示面板5061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板5061。
用户输入单元507可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元507包括触控面板5071以及其他输入设备5072。触控面板5071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板5071上或在触控面板5071附近的操作)。触控面板5071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器510,接收处理器510发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板5071。除了触控面板5071,用户输入单元507还可以包括其他输入设备5072。具体地,其他输入设备5072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。
进一步的,触控面板5071可覆盖在显示面板5061上,当触控面板5071检测到在其上或附近的触摸操作后,传送给处理器510以确定触摸事件的类型,随后处理器510根据触摸事件的类型在显示面板5061上提供相应的视觉输出。虽然在图6中,触控面板5071与显示面板5061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板5071与显示面板5061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元508为外部装置与移动终端500连接的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元508可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端500内的一个或多个元件或者可以用于在移动终端500和外部装置之间传输数据。
存储器509可用于存储软件程序以及各种数据。存储器509可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器509可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器510是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器509内的软件程序和/或模块,以及调用存储在存储器509内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器510可包括一个或多个处理单元;优选的,处理器510可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器510中。
移动终端500还可以包括给各个部件供电的电源511(比如电池),优选的,电源511可以通过电源管理系统与处理器510逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
另外,移动终端500包括一些未示出的功能模块,在此不再赘述。
优选的,本发明实施例还提供一种移动终端,包括处理器110,存储器109,存储在存储器109上并可在所述处理器110上运行的计算机程序,该计算机程序被处理器110执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本发明的保护之内。
Claims (10)
1.一种图像处理方法,其特征在于,所述方法包括:
获取与原始二维图像匹配的深度图像;
根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;所述深度图像与所述原始二维图像中的像素点一一对应,一个像素点表示一个人脸特征点,通过所述像素点识别所述原始二维图像的所述第一人脸特征点对应的所述第二人脸特征点;
对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
2.根据权利要求1所述的方法,其特征在于,
所述根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点之前,所述方法还包括:
获取所述原始二维图像的第一人脸特征点的二维坐标;
所述根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点,包括:
根据所述第一人脸特征点的二维坐标,确定所述深度图像中与所述第一人脸特征点对应的第二人脸特征点的三维坐标。
3.根据权利要求2所述的方法,其特征在于,所述对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点,包括:
根据图像处理请求,对所述第二人脸特征点的三维坐标作变换处理,得到更新后的第二人脸特征点的三维坐标。
4.根据权利要求3所述的方法,其特征在于,所述根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像,包括:
根据透视变换,将所述更新后的第二人脸特征点的三维坐标转换为二维坐标,得到所述更新后的第二人脸特征点的二维坐标;
根据所述更新后的第二人脸特征点的二维坐标,和所述第一人脸特征点的二维坐标,对所述原始二维图像作三角剖分变形,得到目标二维图像。
5.根据权利要求3所述的方法,其特征在于,所述根据图像处理请求,对所述第二人脸特征点的三维坐标作变换处理,得到更新后的第二人脸特征点的三维坐标,包括:
根据图像处理请求,获取变换参数;
按照所述变换参数,对所述第二人脸特征点的三维坐标作变换处理,得到更新后的第二人脸特征点的三维坐标。
6.根据权利要求4所述的方法,其特征在于,所述根据更新后的第二人脸特征点的二维坐标,和所述第一人脸特征点的二维坐标,对所述原始二维图像作三角剖分变形,得到目标二维图像,包括:
以所述第一人脸特征点的二维坐标作为三角形的顶点,对所述原始二维图像进行三角剖分,得到多个原始三角形;
根据更新后的第二人脸特征点的二维坐标,和所述第一人脸特征点的二维坐标,对每个所述原始三角形进行三角剖分变形处理,获得目标二维图像。
7.一种图像处理装置,其特征在于,所述图像处理装置包括:
第一获取模块,用于获取与原始二维图像匹配的深度图像;
确定模块,用于根据所述原始二维图像的第一人脸特征点,确定深度图像中的第二人脸特征点;所述深度图像与所述原始二维图像中的像素点一一对应,一个像素点表示一个人脸特征点,通过所述像素点识别所述原始二维图像的所述第一人脸特征点对应的所述第二人脸特征点;
第一处理模块,用于对所述第二人脸特征点进行处理,得到更新后的第二人脸特征点;
第二处理模块,用于根据所述更新后的第二人脸特征点,对所述第一人脸特征点进行处理,得到目标二维图像。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
第二获取模块,用于获取所述原始二维图像的第一人脸特征点的二维坐标;
所述确定模块,还用于根据所述第一人脸特征点的二维坐标,确定所述深度图像中与所述第一人脸特征点对应的第二人脸特征点的三维坐标。
9.一种移动终端,其特征在于,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的图像处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的图像处理方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811512362.3A CN109685915B (zh) | 2018-12-11 | 2018-12-11 | 一种图像处理方法、装置及移动终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811512362.3A CN109685915B (zh) | 2018-12-11 | 2018-12-11 | 一种图像处理方法、装置及移动终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109685915A CN109685915A (zh) | 2019-04-26 |
CN109685915B true CN109685915B (zh) | 2023-08-15 |
Family
ID=66186646
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811512362.3A Active CN109685915B (zh) | 2018-12-11 | 2018-12-11 | 一种图像处理方法、装置及移动终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109685915B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112070681B (zh) * | 2019-05-24 | 2024-02-13 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN110310318B (zh) * | 2019-07-03 | 2022-10-04 | 北京字节跳动网络技术有限公司 | 一种特效处理方法及装置、存储介质与终端 |
CN110555815B (zh) * | 2019-08-30 | 2022-05-20 | 维沃移动通信有限公司 | 一种图像处理方法和电子设备 |
JP2022512262A (ja) | 2019-11-21 | 2022-02-03 | ベイジン センスタイム テクノロジー デベロップメント カンパニー, リミテッド | 画像処理方法及び装置、画像処理機器並びに記憶媒体 |
CN111031305A (zh) * | 2019-11-21 | 2020-04-17 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、图像设备及存储介质 |
CN111144284B (zh) * | 2019-12-25 | 2021-03-30 | 支付宝(杭州)信息技术有限公司 | 深度人脸图像的生成方法、装置、电子设备及介质 |
CN111652123B (zh) * | 2020-06-01 | 2023-11-14 | 腾讯科技(深圳)有限公司 | 图像处理和图像合成方法、装置和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016141866A1 (zh) * | 2015-03-09 | 2016-09-15 | 夏普株式会社 | 图像处理设备和方法 |
CN107948499A (zh) * | 2017-10-31 | 2018-04-20 | 维沃移动通信有限公司 | 一种图像拍摄方法及移动终端 |
-
2018
- 2018-12-11 CN CN201811512362.3A patent/CN109685915B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016141866A1 (zh) * | 2015-03-09 | 2016-09-15 | 夏普株式会社 | 图像处理设备和方法 |
CN107948499A (zh) * | 2017-10-31 | 2018-04-20 | 维沃移动通信有限公司 | 一种图像拍摄方法及移动终端 |
Non-Patent Citations (1)
Title |
---|
基于姿态估计的单幅图像三维人脸重建;詹红燕等;《微电子学与计算机》;20150905(第09期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109685915A (zh) | 2019-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109685915B (zh) | 一种图像处理方法、装置及移动终端 | |
CN107248137B (zh) | 一种实现图像处理的方法及移动终端 | |
CN109461117B (zh) | 一种图像处理方法及移动终端 | |
CN111031234B (zh) | 一种图像处理方法及电子设备 | |
CN109474786B (zh) | 一种预览图像生成方法及终端 | |
CN107730460B (zh) | 一种图像处理方法及移动终端 | |
CN109241832B (zh) | 一种人脸活体检测的方法及终端设备 | |
EP4131067A1 (en) | Detection result output method, electronic device, and medium | |
CN110555815B (zh) | 一种图像处理方法和电子设备 | |
CN110602390B (zh) | 一种图像处理方法及电子设备 | |
CN111031253A (zh) | 一种拍摄方法及电子设备 | |
CN111028161B (zh) | 图像校正方法及电子设备 | |
CN111008929B (zh) | 图像矫正方法及电子设备 | |
CN110290263B (zh) | 一种图像显示方法和移动终端 | |
CN109104573B (zh) | 一种确定对焦点的方法及终端设备 | |
CN110944112A (zh) | 一种图像处理方法及电子设备 | |
CN111182206B (zh) | 图像处理方法和装置 | |
CN111432122B (zh) | 一种图像处理方法及电子设备 | |
CN110443752B (zh) | 一种图像处理方法和移动终端 | |
CN110012229B (zh) | 一种图像处理方法和终端 | |
CN111464745B (zh) | 一种图像处理方法及电子设备 | |
CN109785226B (zh) | 一种图像处理方法、装置及终端设备 | |
CN111093031B (zh) | 图像生成方法及电子设备 | |
CN111145119B (zh) | 一种图像处理方法及电子设备 | |
CN109194943B (zh) | 一种图像处理方法及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |