CN109191393B - 基于三维模型的美颜方法 - Google Patents
基于三维模型的美颜方法 Download PDFInfo
- Publication number
- CN109191393B CN109191393B CN201810935036.7A CN201810935036A CN109191393B CN 109191393 B CN109191393 B CN 109191393B CN 201810935036 A CN201810935036 A CN 201810935036A CN 109191393 B CN109191393 B CN 109191393B
- Authority
- CN
- China
- Prior art keywords
- dimensional
- face
- beauty
- time
- face image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000003796 beauty Effects 0.000 title claims description 97
- 230000001815 facial effect Effects 0.000 claims abstract description 65
- 238000012545 processing Methods 0.000 claims abstract description 61
- 238000004590 computer program Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 241001103268 Baltimora recta Species 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000004660 morphological change Effects 0.000 description 4
- 230000036548 skin texture Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000002087 whitening effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Abstract
本申请提出了一种基于三维模型的美颜方法和装置,其中,方法包括:采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像;获取与多张二维美颜人脸图像对应的深度信息;根据深度信息和多张二维美颜人脸图像,对人脸进行三维重构,以得到人脸对应的美颜三维模型。由此,提高了基于人脸三维模型的美颜效率。
Description
技术领域
本申请涉及人像处理技术领域,尤其涉及一种基于三维模型的美颜方法和装置。
背景技术
随着计算机技术的进步,基于人脸的图像处理技术已经从二维转向了三维,由于基于三维的图像处理的真实感更强而得到广泛的关注,比如,基于人脸三维模型的美颜技术就由于美颜效果更好而受到关注。
相关技术中,基于三维模型进行美颜时,需要在三维模型构建完成后,在进行美颜操作,而由于三维模型的构建需要耗费大量的时间,因而导致整体基于三维模型的美颜效率较低。
申请内容
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
本申请第一方面实施例提出了一种基于三维模型的美颜方法,包括以下步骤:采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像;获取与所述多张二维美颜人脸图像对应的深度信息;根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
本申请第二方面实施例提出了一种基于三维模型的美颜装置,包括:美颜生成模块,用于采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像;获取模块,用于获取与所述多张二维美颜人脸图像对应的深度信息;建模模块,用于根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
本申请第三方面实施例提出了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如前述第一方面实施例所述的基于三维模型的美颜方法。
本申请第四方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如前述第一方面实施例所述的基于三维模型的美颜方法。
本申请提供的技术方案,至少包括如下有益效果:
采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,获取与多张二维美颜人脸图像对应的深度信息,最终,根据深度信息和多张二维美颜人脸图像,对人脸进行三维重构,以得到人脸对应的美颜三维模型。由此,提高了基于人脸三维模型的美颜效率。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是根据本申请第一个实施例的基于三维模型的美颜方法的流程图;
图2为本申请另一个实施例所提供的深度信息采集方法的流程示意图;
图3为本申请一个实施例所提供的深度图像采集组件的结构示意图;
图4是根据本申请第二个实施例的基于三维模型的美颜方法的流程图;
图5是根据本申请一个实施例的基于三维模型的美颜方法的应用场景示意图;
图6是根据本申请第三个实施例的基于三维模型的美颜方法的流程图;
图7是根据本申请一个实施例的基于三维模型的美颜装置的结构示意图;
图8是根据本申请另一个实施例的基于三维模型的美颜装置的结构示意图
图9为一个实施例中电子设备的内部结构示意图;
图10为作为一种可能的实现方式的图像处理电路的示意图;
图11为作为另一种可能的实现方式的图像处理电路的示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
针对现有技术中,基于三维模型的美颜效率较低的技术问题,本申请的技术人员发现,在进行三维模型的构建时,采集的多张图像在参与构建三维模型的同时,也可以进行美颜处理,因而,在本申请的实施例中,基于美颜和三维模型的构建并行来提高基于三维模型的美颜效率。
下面参考附图描述本申请实施例的基于三维模型的美颜方法和装置。
本申请实施例的基于三维模型的美颜方法可以应用于具有深度信息和彩色信息获取装置的计算机设备,其中,具有深度信息和彩色信息(二维信息)获取装置功能的装置可以是双摄系统等,该计算机设备可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
图1是根据本申请第一个实施例的基于三维模型的美颜方法的流程图。如图1所示,该方法包括:
步骤101,采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像。
步骤102,获取与多张二维美颜人脸图像对应的深度信息。
具体地,获取多个角度的多张二维人脸图像,以便于生成覆盖于人脸三维模型的皮肤纹理图。
不难理解的是,由于皮肤纹理图要覆盖整个人脸三维模型,因而,一方面为了使得多个角度的二维人脸图像可以拼接成功,互相拼接的二维人脸图像之间具有重合的区域以便于对齐连接,另一方面,当互相拼接的二维人脸图像之间重合区域较多时,会导致重复信息增大,增加了计算量,因而,在本申请的实施例中,需要把握多个角度的二维人脸图像的拍摄角度,即控制互相连接的两张二维人脸图像中间的重复区域的大小处于较为合适的范围内。
而正是由于多张二维人脸图像覆盖了整个人脸三维模型,因而,在本申请的实施例中,同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,此时,应当注意的是,为了避免美颜处理后仍然能够准确的找到多张二维人脸图像之间的拼接点,以合成完整的美颜后的皮肤纹理图,在美颜时对每张二维人脸图像的边缘不进行美颜处理或者仅仅进行亮度调整等不模糊坐标值的美颜处理操作。
其中,为了优化美颜效果,满足用户的个性化美颜需求,在本申请的一个实施例中,在美颜时,检测是否存在用户根据个人喜好预设的美颜参数,该美颜参数包括眼睛放大程度、皮肤美白程度等,如果存在则满足用户的个性化美颜需求,按照用户预设美颜参数对每次采集的二维人脸图像进行实时美颜处理,如果不存在用户预设的美颜参数,则按照预设的默认美颜参数对每次采集的二维人脸图像进行实时的美颜处理,该预设的默认美颜参数是根据大众审美设定的。
进一步地,获取与多张二维美颜人脸图像对应的深度信息,以便与基于多个角度的二维人脸图像信息和深度信息融合为与真实二维人脸图像较为一致的人脸三维模型。
需要说明的是,根据应用场景的不同,本申请的实施例中,获取深度信息和二维的二维人脸图像信息的硬件装置不同:
作为一种可能的实现方式,获取二维人脸图像信息的硬件装置为可见光RGB图像传感器,可以基于计算机设备中的RGB可见光图像传感器获取二维的二维人脸图像。具体地,可见光RGB图像传感器可以包括可见光摄像头,可见光摄像头可以捕获由成像对象反射的可见光进行成像,得到成像对象对应的二维人脸图像。
作为一种可能的实现方式,获取深度信息的方式为通过结构光传感器获取,具体地,如图2所示,获取每个二维人脸图像对应的深度信息的方式包括如下步骤:
步骤201,向当前用户人脸投射结构光。
步骤202,拍摄经当前用户人脸调制的结构光图像。
步骤203,解调结构光图像的各个像素对应的相位信息以得到二维人脸图像对应的深度信息。
在本示例中,参见图3计算机设备为智能手机1000时,深度图像采集组件包括结构光投射器121和结构光摄像头122。步骤201可以由结构光投射器121实现,步骤202和步骤203可以由结构光摄像头122实现。
也即是说,结构光投射器121可用于向当前用户人脸投射结构光;结构光摄像头122可用于拍摄经当前用户人脸调制的结构光图像,以及解调结构光图像的各个像素对应的相位信息以得到深度信息。
具体地,结构光投射器121将一定模式的结构光投射到当前用户的人脸上后,在当前用户的人脸的表面会形成由当前用户人脸调制后的结构光图像。结构光摄像头122拍摄经调制后的结构光图像,再对结构光图像进行解调以得到深度信息。其中,结构光的模式可以是激光条纹、格雷码、正弦条纹、非均匀散斑等。
其中,结构光摄像头122可进一步用于解调结构光图像中各个像素对应的相位信息,将相位信息转化为深度信息,以及根据深度信息生成深度图像。
具体地,与未经调制的结构光相比,调制后的结构光的相位信息发生了变化,在结构光图像中呈现出的结构光是产生了畸变之后的结构光,其中,变化的相位信息即可表征物体的深度信息。因此,结构光摄像头122首先解调出结构光图像中各个像素对应的相位信息,再根据相位信息计算出深度信息。
步骤103,根据深度信息和多张二维美颜人脸图像,对人脸进行三维重构,以得到人脸对应的美颜三维模型。
具体地,根据深度信息和多张二维美颜人脸图像对人脸进行三维重构,由于当前三维模型是由美颜后的人脸图像对应的皮肤纹理涂渲染的,因而可以直接得到人脸对应的美颜三维模型。
根据应用场景的不同,根据深度信息和二维美颜人脸图像进行三维重构获取人脸对应的美颜三维模型的方式包括但是不限于以下方式:
作为一种可能的实现方式,对每一张二维人脸美颜图像进行关键点识别,对每一张二维美颜人脸图像,根据像素点匹配等技术,根据定位关键点的深度信息和定位关键点在二维美颜人脸图像上的平面距离,包括二维空间上的x轴距离和y轴距离,确定定位关键点在三维空间中的相对位置,根据定位关键点在三维空间中的相对位置,连接相邻的定位关键点,生成人脸三维框架。其中,关键点为人脸上的特征点,可包括眼睛、鼻尖、额头、嘴角上、脸颊上的点等,定位关键点包括与用户人脸轮廓较相关的点,该定位关键点对应于人脸上深度信息明显发生变化的部位点,比如,鼻尖上的点、鼻翼上面的点、眼角上的点、嘴角上的点等,从而,基于该定位关键点可以构建出人脸美颜三维框架。
作为另一种可能的实现方式,获取多个角度二维的二维美颜人脸图像,并筛选出清晰度较高的二维美颜人脸图像作为原始数据,进行特征点定位,利用特征定位结果粗略估计人脸角度,根据人脸的角度和轮廓建立粗糙的人脸三维形变模型,并将人脸特征点通过平移、缩放操作调整到与人脸三维形变模型在同一尺度上,并抽取出与人脸特征点对应点的坐标信息形成稀疏人脸三维形变模型。
进而,根据人脸角度粗略估计值和稀疏人脸三维形变模型,进行微粒群算法迭代人脸三维重构,得到人脸三维几何模型,在得到人脸三维几何模型后,采用纹理张贴的方法将输入二维图像中的人脸纹理信息映射到人脸三维几何模型,得到完整的原始人脸三维模型。
由此,在本申请的实施例中,在采集到多张二维人脸图像后,同时对二维人脸图像进行美颜处理,不需要等到三维模型构建完成后在进行美颜,提高了基于三维模型的美颜效率。
在实际执行过程中,为了进一步保证基于三维模型的美颜处理的效率,在本申请的一个实施例中,建立并行线程保证美颜处理和三维建模同步进行的系统化。
具体而言,如图4所示,上述步骤采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,包括:
步骤201,通过第一线程采集多个角度的多张二维人脸图像,并根据第一线程的采集速度确定第二线程的处理速度。
步骤202,当第一线程采集完第一张二维人脸图像后,通过第二线程按照处理速度根据预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理。
具体地,如图5所示,设置并行的两个线程第一线程和第二线程,其中,第一线程用于采集多张二维人脸图像,第二线程用于对采集的每张二维人脸图像进行实时的美颜处理,由此,实现了二维人脸图像的边采集边美颜,提高了处理效率,其中,在本实施例中,为了避免线程的资源浪费,还可根据第一线程的采集速度确定第二线程的处理速度,尽量当前二维人脸图像使得美颜完成后下一张二维人脸图像采集完毕,避免内存的挤压等。
当然,考虑到在实际应用中,用户对基于美颜三维模型的美颜效果的观看,还可根据用户的拖动操作为用户全方位的展现各个方向的美颜效果。
具体而言,如图6所示,在上述步骤103之后,该方法还包括:
步骤301,获取用户对美颜三维模型的拖动角度。
步骤302,根据拖动角度确定目标旋转位置。
具体地,可以根据用户触摸显示屏上显示的美颜三维头像的拖动操作(通过触摸轨迹和触摸时长实施),确定对美颜三维头像的拖动角度,该拖动角度用于控制美颜三维头像的旋转,根据该拖动角度确定美颜三维头像的目标旋转位置,拖动角度越大,确定的目标旋转位置与当前位置的差距越大。
步骤303,根据目标旋转位置确定待移动关键点,并获取待移动关键点的当前坐标信息和与目标旋转位置对应的目标坐标信息。
步骤304,获取当前坐标信息和目标信息的坐标差值,并根据坐标差值移动待移动关键点,以旋转美颜三维模型至目标旋转位置。
具体地,由于美颜三维模型实际上是由关键点连接而成的,因而,调节关键点的坐标值即可实现美颜三维模型的旋转,根据目标旋转位置确定待移动的关键点,获取待移动关键点的当前坐标信息和与目标旋转位置对应的目标坐标信息,获取当前坐标信息和目标信息的坐标差值,包括X轴Y轴和Z轴的差值,并根据坐标差值移动待移动关键点,以旋转美颜三维模型至目标旋转位置。
综上,本申请实施例的基于三维模型的美颜方法,采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,获取与多张二维美颜人脸图像对应的深度信息,最终,根据深度信息和多张二维美颜人脸图像,对人脸进行三维重构,以得到人脸对应的美颜三维模型。由此,提高了基于人脸三维模型的美颜效率。
为了实现上述实施例,本申请还提出了一种基于三维模型的美颜装置,图7是根据本申请一个实施例的基于三维模型的美颜装置的结构示意图,如图7所示,该基于三维模型的美颜装置包括美颜生成模块10、获取模块20和建模模块30,其中,
美颜生成模块10,用于采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像。
在本申请的一个实施例中,美颜生成模块10具体用于
检测是否存在用户预设美颜参数,如果存在则按照所述用户预设美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理;如果不存在则按照预设默认美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理。
获取模块20,用于获取与所述多张二维美颜人脸图像对应的深度信息。
建模模块30,用于根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
在本申请的一个实施例中,如图8所示,在如图7所示的基础上,美颜生成模块10包括采集单元11、确定单元12和美颜单元13,其中,
采集单元11,用于通过第一线程采集多个角度的多张二维人脸图像。
确定单元12,用于根据第一线程的采集速度确定第二线程的处理速度。
美颜单元13,用于在第一线程采集完第一张二维人脸图像后,通过第二线程按照处理速度根据预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理。
需要说明的是,前述对基于三维模型的美颜方法实施例的解释说明也适用于该实施例的基于三维模型的美颜装置,此处不再赘述。
综上,本申请实施例的基于三维模型的美颜装置,采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,获取与多张二维美颜人脸图像对应的深度信息,最终,根据深度信息和多张二维美颜人脸图像,对人脸进行三维重构,以得到人脸对应的美颜三维模型。由此,提高了基于人脸三维模型的美颜效率。
为了实现上述实施例,本申请还提出一种计算机可读存储介质,其上存储有计算机程序,该程序被移动终端的处理器执行时实现如前述实施例中所述的基于三维模型的美颜方法。
为了实现上述实施例,本申请还提出电子设备,其特征在于,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如前述实施例所述的基于三维模型的美颜方法。
图9为一个实施例中电子设备200的内部结构示意图。该电子设备200包括通过系统总线210连接的处理器220、存储器230、显示器240和输入装置250。其中,电子设备200的存储器230存储有操作系统和计算机可读指令。该计算机可读指令可被处理器220执行,以实现本申请实施方式的基于三维模型的美颜方法。该处理器220用于提供计算和控制能力,支撑整个电子设备200的运行。电子设备200的显示器240可以是液晶显示屏或者电子墨水显示屏等,输入装置250可以是显示器240上覆盖的触摸层,也可以是电子设备200外壳上设置的按键、轨迹球或触控板,也可以是外接的键盘、触控板或鼠标等。该电子设备200可以是手机、平板电脑、笔记本电脑、个人数字助理或穿戴式设备(例如智能手环、智能手表、智能头盔、智能眼镜)等。
本领域技术人员可以理解,图9中示出的结构,仅仅是与本申请方案相关的部分结构的示意图,并不构成对本申请方案所应用于其上的电子设备200的限定,具体的电子设备200可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
作为一种可能的实现方式,请参阅图10,提供了本申请实施例的图像处理电路,图像处理电路可利用硬件和/或软件组件实现。
如图10,该图像处理电路具体包括:图像单元310、深度信息单元320和处理单元330。
其中,
图像单元310,用于输出二维人脸图像。
深度信息单元320,用于输出深度信息。
本申请实施例中,可以通过图像单元310,获取二维人脸图像,以及通过深度信息单元320,获取图像对应的深度信息。
处理单元330,分别与图像单元310和深度信息单元320电性连接,用于根据深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
本申请实施例中,图像单元310获取的二维人脸图像美颜后得到的二维美颜人脸图像可以发送至处理单元330,以及深度信息单元320获取的图像对应的深度信息可以发送至处理单元330,处理单元330可以根据深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
进一步地,作为本申请一种可能的实现方式,参见图11,在图10所示实施例的基础上,该图像处理电路还可以包括:
作为一种可能的实现方式,图像单元310具体可以包括:电性连接的图像传感器311和图像信号处理(Image Signal Processing,简称ISP)处理器312。其中,
图像传感器311,用于输出原始图像数据。
ISP处理器312,用于根据原始图像数据,输出图像。
本申请实施例中,图像传感器311捕捉的原始图像数据首先由ISP处理器312处理,ISP处理器312对原始图像数据进行分析以捕捉可用于确定图像传感器311的一个或多个控制参数的图像统计信息,包括YUV格式或者RGB格式的图像。其中,图像传感器311可包括色彩滤镜阵列(如Bayer滤镜),以及对应的感光单元,图像传感器311可获取每个感光单元捕捉的光强度和波长信息,并提供可由ISP处理器312处理的一组原始图像数据。ISP处理器312对原始图像数据进行处理后,得到YUV格式或者RGB格式的图像,并发送至处理单元330。
其中,ISP处理器312在对原始图像数据进行处理时,可以按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器312可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
作为一种可能的实现方式,深度信息单元320,包括电性连接的结构光传感器321和深度图生成芯片322。其中,
结构光传感器321,用于生成红外散斑图。
深度图生成芯片322,用于根据红外散斑图,输出深度信息;深度信息包括深度图。
本申请实施例中,结构光传感器321向被摄物投射散斑结构光,并获取被摄物反射的结构光,根据反射的结构光成像,得到红外散斑图。结构光传感器321将该红外散斑图发送至深度图生成芯片322,以便深度图生成芯片322根据红外散斑图确定结构光的形态变化情况,进而据此确定被摄物的深度,得到深度图(Depth Map),该深度图指示了红外散斑图中各像素点的深度。深度图生成芯片322将深度图发送至处理单元330。
作为一种可能的实现方式,处理单元330,包括:电性连接的CPU331和GPU(Graphics Processing Unit,图形处理器)332。其中,
CPU331,用于根据标定数据,根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型。
GPU332,用于将美颜三维模型进行角度旋转等。
本申请实施例中,CPU331从ISP处理器312获取到图像,从深度图生成芯片322获取到深度图,结合预先得到的标定数据,可以将二维图像与深度图对齐,从而确定出图像中各像素点对应的深度信息。进而,CPU331根据深度信息和图像,进行三维重构,得到三维模型。
CPU331将三维模型发送至GPU332,以便GPU332根据三维模型执行如前述实施例中描述的基于三维模型的美颜方法,实现美颜三维模型的获取。
进一步地,图像处理电路还可以包括:显示器340。
显示器340,与GPU332电性连接,用于对标注信息的图像进行显示。
具体地,GPU332处理得到的美颜后的图像,可以由显示器340显示。
可选地,图像处理电路还可以包括:编码器350和存储器360。
本申请实施例中,GPU332处理得到的美化后的图像,还可以由编码器350编码后存储至存储器360,其中,编码器350可由协处理器实现。
在一个实施例中,存储器360可以为多个,或者划分为多个存储空间,存储GPU312处理后的图像数据可存储至专用存储器,或者专用存储空间,并可包括DMA(Direct MemoryAccess,直接直接存储器存取)特征。存储器360可被配置为实现一个或多个帧缓冲器。
下面结合图11,对上述过程进行详细说明。
如图11所示,图像传感器311捕捉的原始图像数据首先由ISP处理器312处理,ISP处理器312对原始图像数据进行分析以捕捉可用于确定图像传感器311的一个或多个控制参数的图像统计信息,包括YUV格式或者RGB格式的图像,并发送至CPU331。
如图11所示,结构光传感器321向被摄物投射散斑结构光,并获取被摄物反射的结构光,根据反射的结构光成像,得到红外散斑图。结构光传感器321将该红外散斑图发送至深度图生成芯片322,以便深度图生成芯片322根据红外散斑图确定结构光的形态变化情况,进而据此确定被摄物的深度,得到深度图(Depth Map)。深度图生成芯片322将深度图发送至CPU331。
CPU331从ISP处理器312获取到美颜后的二维图像,从深度图生成芯片322获取到深度图,结合预先得到的标定数据,可以将美颜后的人脸图像与深度图对齐,从而确定出图像中各像素点对应的深度信息。进而,CPU331根据深度信息和二维图像,进行三维重构,得到简化的三维模型。
CPU331将三维模型发送至GPU332,以便GPU332根据三维模型执行如前述实施例中描述的基于三维模型的美颜方法,实现美颜三维模型的构建。GPU332处理得到的美颜三维模型,可以由显示器340显示,和/或,由编码器350编码后存储至存储器360。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (7)
1.一种基于三维模型的美颜方法,其特征在于,包括以下步骤:
采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,其中,在对所述每次采集的二维人脸图像进行实时的美颜处理时,不对对应二维人脸图像的边缘区域进行美颜处理,所述采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,包括:通过第一线程采集多个角度的多张二维人脸图像,并根据所述第一线程的采集速度确定第二线程的处理速度,
当所述第一线程每次采集完一张二维人脸图像后,通过所述第二线程按照所述处理速度根据预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,其中,对所述每次采集的二维人脸图像进行实时的美颜处理完毕后,下一张二维人脸图像采集完毕;
向人脸投射非均匀散斑结构光,根据所述非均匀散斑结构光得到的调制图像,获取与所述多张二维美颜人脸图像对应的深度信息;
根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型;
获取用户对所述美颜三维模型的拖动角度;
根据所述拖动角度确定目标旋转位置;
根据所述目标旋转位置确定待移动关键点,并获取所述待移动关键点的当前坐标信息和与所述目标旋转位置对应的目标坐标信息;
获取所述当前坐标信息和所述目标坐标信息的坐标差值,并根据所述坐标差值移动所述待移动关键点,以旋转所述美颜三维模型至所述目标旋转位置。
2.如权利要求1所述的方法,其特征在于,所述按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,包括:
检测是否存在用户预设美颜参数,如果存在则按照所述用户预设美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理;
如果不存在则按照预设默认美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理。
3.如权利要求1所述的方法,其特征在于,所述根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型包括:
对每一张二维美颜人脸图像进行关键点识别,得到定位关键点;
对每一张二维美颜人脸图像,根据定位关键点的深度信息和定位关键点在所述二维美颜人脸图像上的平面距离,确定所述定位关键点在三维空间中的相对位置;
根据所述定位关键点在三维空间中的相对位置,连接相邻的定位关键点,生成所述人脸对应的美颜三维模型。
4.一种基于三维模型的美颜装置,其特征在于,包括:
美颜生成模块,用于采集多个角度的多张二维人脸图像,并同时按照预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,生成对应的多张二维美颜人脸图像,其中,在对所述每次采集的二维人脸图像进行实时的美颜处理时,不对对应二维人脸图像的边缘区域进行美颜处理,所述美颜生成模块包括:
采集单元,用于通过第一线程采集多个角度的多张二维人脸图像,
确定单元,用于根据所述第一线程的采集速度确定第二线程的处理速度,
美颜单元,用于在所述第一线程每次采集完一张二维人脸图像后,通过所述第二线程按照所述处理速度根据预设的美颜参数对每次采集的二维人脸图像进行实时的美颜处理,其中,对所述每次采集的二维人脸图像进行实时的美颜处理完毕后,下一张二维人脸图像采集完毕;
获取模块,用于向人脸投射非均匀散斑结构光,根据所述非均匀散斑结构光得到的调制图像,获取与所述多张二维美颜人脸图像对应的深度信息;
建模模块,用于根据所述深度信息和所述多张二维美颜人脸图像,对人脸进行三维重构,以得到所述人脸对应的美颜三维模型;
旋转模块,用于获取用户对所述美颜三维模型的拖动角度,根据所述拖动角度确定目标旋转位置,根据所述目标旋转位置确定待移动关键点,并获取所述待移动关键点的当前坐标信息和与所述目标旋转位置对应的目标坐标信息,获取所述当前坐标信息和所述目标坐标信息的坐标差值,并根据所述坐标差值移动所述待移动关键点,以旋转所述美颜三维模型至所述目标旋转位置。
5.如权利要求4所述的装置,其特征在于,所述美颜生成模块具体用于:
检测是否存在用户预设美颜参数,如果存在则按照所述用户预设美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理;
如果不存在则按照预设默认美颜参数对所述每次采集的二维人脸图像进行实时的美颜处理。
6.一种电子设备,其特征在于,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时,实现如权利要求1-3中任一所述的基于三维模型的美颜方法。
7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-3中任一所述的基于三维模型的美颜方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810935036.7A CN109191393B (zh) | 2018-08-16 | 2018-08-16 | 基于三维模型的美颜方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810935036.7A CN109191393B (zh) | 2018-08-16 | 2018-08-16 | 基于三维模型的美颜方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109191393A CN109191393A (zh) | 2019-01-11 |
CN109191393B true CN109191393B (zh) | 2021-03-26 |
Family
ID=64918303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810935036.7A Expired - Fee Related CN109191393B (zh) | 2018-08-16 | 2018-08-16 | 基于三维模型的美颜方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109191393B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110717867B (zh) * | 2019-09-04 | 2023-07-11 | 北京达佳互联信息技术有限公司 | 一种图像生成方法、装置、电子设备及存储介质 |
CN111882642B (zh) * | 2020-07-28 | 2023-11-21 | Oppo广东移动通信有限公司 | 三维模型的纹理填充方法及装置 |
CN112435326A (zh) * | 2020-11-20 | 2021-03-02 | 深圳市慧鲤科技有限公司 | 可打印模型文件生成方法和相关产品 |
CN114119416A (zh) * | 2021-11-26 | 2022-03-01 | 武汉斗鱼鱼乐网络科技有限公司 | 一种移动端美妆优化方法、存储介质、电子设备及系统 |
CN115661371B (zh) * | 2022-12-14 | 2023-03-31 | 深圳思谋信息科技有限公司 | 三维对象建模方法、装置、计算机设备及存储介质 |
CN117258168B (zh) * | 2023-10-16 | 2024-03-22 | 广州驰狐科技有限公司 | 一种超声美容仪的动态智能控制方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104361131A (zh) * | 2014-12-08 | 2015-02-18 | 黑龙江大学 | 四维人脸模型数据库的建立方法 |
CN104376594A (zh) * | 2014-11-25 | 2015-02-25 | 福建天晴数码有限公司 | 三维人脸建模方法和装置 |
CN104811684A (zh) * | 2015-04-02 | 2015-07-29 | 广东欧珀移动通信有限公司 | 一种图像的三维美颜方法及装置 |
-
2018
- 2018-08-16 CN CN201810935036.7A patent/CN109191393B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104376594A (zh) * | 2014-11-25 | 2015-02-25 | 福建天晴数码有限公司 | 三维人脸建模方法和装置 |
CN104361131A (zh) * | 2014-12-08 | 2015-02-18 | 黑龙江大学 | 四维人脸模型数据库的建立方法 |
CN104811684A (zh) * | 2015-04-02 | 2015-07-29 | 广东欧珀移动通信有限公司 | 一种图像的三维美颜方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109191393A (zh) | 2019-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109118569B (zh) | 基于三维模型的渲染方法和装置 | |
CN109191393B (zh) | 基于三维模型的美颜方法 | |
CN108447017B (zh) | 人脸虚拟整容方法和装置 | |
CN108765273B (zh) | 人脸拍照的虚拟整容方法和装置 | |
CN109102559B (zh) | 三维模型处理方法和装置 | |
CN109191584B (zh) | 三维模型处理方法、装置、电子设备及可读存储介质 | |
CN108876709A (zh) | 人脸美化方法、装置、电子设备及可读存储介质 | |
US8698796B2 (en) | Image processing apparatus, image processing method, and program | |
CN108682050B (zh) | 基于三维模型的美颜方法和装置 | |
US9317970B2 (en) | Coupled reconstruction of hair and skin | |
CN107452034B (zh) | 图像处理方法及其装置 | |
CN108764180A (zh) | 人脸识别方法、装置、电子设备及可读存储介质 | |
CN109147037B (zh) | 基于三维模型的特效处理方法、装置和电子设备 | |
CN107481317A (zh) | 人脸3d模型的面部调整方法及其装置 | |
CN109147024A (zh) | 基于三维模型的表情更换方法和装置 | |
JP6573907B2 (ja) | 3dスキャンされるオブジェクトに関する色情報を収集するためのシステム、方法、装置、及びコンピュータ可読記憶媒体 | |
KR20170008638A (ko) | 3차원 컨텐츠 생성 장치 및 그 3차원 컨텐츠 생성 방법 | |
JP5949331B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
CN107392874B (zh) | 美颜处理方法、装置及移动设备 | |
CN107480615B (zh) | 美颜处理方法、装置及移动设备 | |
CN109272579B (zh) | 基于三维模型的美妆方法、装置、电子设备和存储介质 | |
CN109242760B (zh) | 人脸图像的处理方法、装置和电子设备 | |
KR20200043432A (ko) | 이미지 데이터에 가상 조명 조정들을 제공하기 위한 기술 | |
CN107517346A (zh) | 基于结构光的拍照方法、装置及移动设备 | |
CN109285214A (zh) | 三维模型的处理方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20210326 |