CN107610202B - 人脸图像替换方法、设备及存储介质 - Google Patents
人脸图像替换方法、设备及存储介质 Download PDFInfo
- Publication number
- CN107610202B CN107610202B CN201710706174.3A CN201710706174A CN107610202B CN 107610202 B CN107610202 B CN 107610202B CN 201710706174 A CN201710706174 A CN 201710706174A CN 107610202 B CN107610202 B CN 107610202B
- Authority
- CN
- China
- Prior art keywords
- face
- image
- user
- face area
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 134
- 238000012545 processing Methods 0.000 claims description 51
- 230000001815 facial effect Effects 0.000 claims description 38
- 230000011218 segmentation Effects 0.000 claims description 20
- 238000001514 detection method Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 9
- 230000002093 peripheral effect Effects 0.000 claims description 9
- 230000001681 protective effect Effects 0.000 claims description 6
- 238000012937 correction Methods 0.000 claims description 4
- 238000007499 fusion processing Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 24
- 230000009466 transformation Effects 0.000 description 21
- 238000004422 calculation algorithm Methods 0.000 description 14
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 13
- 210000000887 face Anatomy 0.000 description 11
- 230000008859 change Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 101100295776 Drosophila melanogaster onecut gene Proteins 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 210000004709 eyebrow Anatomy 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 210000003484 anatomy Anatomy 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 210000001097 facial muscle Anatomy 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000007670 refining Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种基于人脸图像替换的营销方法、设备及存储介质,营销方法包括:获取营销模特图像,并将营销模特图像发送至用户终端;接收用户终端发送的针对营销模特图像的人脸替换指令;分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将营销模特图像中的第一人脸区域替换为用户人脸图像中的第二人脸区域,得到用户试用图像;将用户试用图像及营销模特图像对应的营销信息发送至用户终端。本发明的营销方法能够有效且准确的提高准消费者的参与兴趣,进而提高了基于人脸图像替换的营销方式的用户满意度及购买量,并降低了营销成本。
Description
技术领域
本发明涉及图像处理技术领域,具体涉及一种人脸图像替换方法、设备及存储介质。
背景技术
随着社会经济的飞速发展,网络营销因其获取准消费者和众多商家需求,从整体的营造以及自身产品形态的营造去推广、传播和销售产品,并让消费者深刻了解该产品进而购买的特点,成为了当前多种营销方式中的首选;而网络营销中的人脸图像替换方式,因其能够有效提高消费者兴趣进而进行购买的优势,成为了网络营销的重要手段之一。
目前,人脸图像替换方式中的人脸图像替换的方法主要有两种,第一种为通过提取第一人脸区域图像的特征点集合和对应“抠图区域图像”;计算出第二人脸区域图像中的特征点集合和对应的“贴图区域图像”;根据所述第一人脸区域图像的特征点集合的参数调整第二人脸区域图像的“贴图区域图像”,得到“替换贴图区域图像”;将“替换贴图区域图像”替换掉所述“抠图区域图像”;第二种为识别区域的关键部位,包括第一人脸区域的关键部位和第二人脸区域的关键部位;对第一人脸区域的关键部位和第二人脸区域的关键部位进行定位;计算第二人脸区域的关键部位到第一人脸区域的关键部位的运动向量场;根据所述运动向量场将第二人脸区域变形到第一人脸区域的位置得到变形后的区域;对所述变形后的区域进行自然化处理。
然而,上述这两种人脸图像替换方式中的人脸图像替换的方法在最后使用的“贴图区域”图像上都发生了几何结构上的改变;使得第一人脸区域和第二人脸区域的图像形状稍微有些差异将无法辨认出最终合成的图像所使用的内容是由哪个区域提供的,而在某些应用中保持信息不发生变化是一项基本要求;由于存在这样的技术缺陷,致使该类人脸图像替换方法存在人脸替换准确性低以及运行成本高的问题,进而使得人脸图像替换方式的用户满意度低且营销成本高。
发明内容
针对现有技术中的问题,本发明提供一种人脸图像替换方法、设备及存储介质,能够有效且准确的提高准消费者的参与兴趣,其人脸图像的替换过程能够在保证用户人脸图像的特征不发生变化的前提下,最小程度地改变用于替换的营销模特图像,提高了替换后图像的自然化程度,且使得肉眼看上去无合成的痕迹,进而提高了人脸图像替换方式的用户满意度及购买量,并降低了营销成本。
为解决上述技术问题,本发明提供以下技术方案:
第一方面,本发明提供一种人脸图像替换方法,包括:
获取营销模特图像,并将所述营销模特图像发送至用户终端;
接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像;
分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;
根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像;
以及,将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。
进一步地,所述获取营销模特图像,并将所述营销模特图像发送至用户终端,包括:
接收所述营销模特图像及所述营销模特图像对应的营销信息;
对各所述营销模特图像进行格式统一化处理;
并将格式统一化处理后的各所述营销模特图像及对应的营销信息存储在数据库中;
以及,在所述数据库中调取所述营销模特图像,并将所述营销模特图像和对应的营销信息发送至对应的用户终端。
进一步地,所述分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息,包括:
分别对所述营销模特图像和用户人脸图像进行目标区域属性检测,并分别提取所述第一人脸区域和第二人脸区域的各特征点及各特征点的位置信息。
进一步地,所述根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像,包括:
在所述营销模特图像和用户人脸图像中分别对所述第一人脸区域和第二人脸区域进行前景分割处理;
根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内;
根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同;其中,所述邻接区域为以所述第一人脸区域为中心的扩展区域中的、且与所述第一人脸区域相邻的区域,几何结构指外形轮廓和特征点所在的位置;且几何结构相同包括:所述第一人脸区域与所述第二人脸区域的外形轮廓相同、所述第一人脸区域中的某一特征点与所述第二人脸区域中对应的特征点所在的位置均位于一个针对该特征点的预设的范围内;
以及,将形变后的第一人脸区域替换为形变后的第二人脸区域,得到所述用户试用图像。
进一步地,所述在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理,包括:
根据所述第一人脸区域的各特征点之间的结构关系,在所述营销模特图像中将第一人脸区域与环境背景进行分割,得到所述第一人脸区域及该第一人脸区域的掩模;
以及,根据所述第二人脸区域的各特征点之间的结构关系,在所述用户人脸图像中将第二人脸区域与环境背景进行分割,得到所述第二人脸区域及该第二人脸区域的掩模。
进一步地,所述根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内,包括:
根据所述第一人脸区域和第二人脸区域的特征点,应用全局形变矫正方法建立几何形变模型;
基于所述几何形变模型对所述用户人脸图像进行全局形变处理;
以及,根据所述用户人脸图像的形变结果,对应调整所述第二人脸区域的特征点的位置信息和所述第二人脸区域的掩模。
进一步地,所述根据形变后的第一人脸区域和第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同,包括:
在所述营销模特图像中的第一人脸区域及所述用户人脸图像中的第二人脸区域的各特征点外分别设置保护框,其中,所述保护框的位置根据保护框的中心点构建,其中,保护框的中心点为由全部特征点的外围轮廓组成的封闭凸包区域的中心;
以及,根据形变后的第一人脸区域和第二人脸区域的特征点的位置信息,在所述营销模特图像中的第一人脸区域的各特征点外的保护框内,对各特征点所控制的第一人脸区域进行形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同。
进一步地,所述将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像,包括:
将形变后的第一人脸区域替换为形变后的第二人脸区域,且替换的区域为形变后的第一人脸区域的掩模及形变后的第二人脸区域的掩模的交集区域,得到包括所述第二人脸区域的营销模特图像;
以及,对包括所述第二人脸区域的营销模特图像中的所述第二人脸区域进行自然化融合处理。
第二方面,本发明还提供一种人脸图像替换设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现所述人脸图像替换方法的步骤。
第三方面,本发明还提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现所述人脸图像替换方法的步骤。
由上述技术方案可知,本发明提供的一种人脸图像替换方法、设备及存储介质,通过获取营销模特图像,并将所述营销模特图像发送至用户终端;接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像;分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像;以及,将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。本发明的方法能够有效且准确的提高准消费者的参与兴趣,其人脸图像的替换过程能够在保证用户人脸图像的特征不发生变化的前提下,最小程度地改变用于替换的营销模特图像,提高了替换后图像的自然化程度,且使得肉眼看上去无合成的痕迹,进而提高了人脸图像替换方式的用户满意度及购买量,并降低了营销成本。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明的一种人脸图像替换方法的流程示意图;
图2是本发明的人脸图像替换方法中步骤100的流程示意图;
图3是本发明的人脸图像替换方法中步骤300的流程示意图;
图4是本发明的人脸图像替换方法中步骤400的流程示意图;
图5是本发明的人脸图像替换方法中步骤A01和步骤A02的流程示意图;
图6是本发明的人脸图像替换方法中步骤402的的程示意图;
图7是本发明的人脸图像替换方法中步骤403的流程示意图;
图8是本发明的人脸图像替换方法中步骤404的流程示意图;
图9是本发明应用实例中的人脸图像替换方法的流程示意图;
图10是本发明应用实例中的人脸图像替换过程的流程示意图;
图11是本发明应用实例中的人脸图像替换过程中替换校验方法的流程示意图;
图12发明的一种人脸图像替换系统的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整的描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
针对于现有技术中的人脸图像替换方法案例所存在的人脸替换准确性低以及运行成本高的缺陷,本发明提供了一种人脸图像替换方法,本发明的方法的优势主要在于保持用户脸型不发生改变,因而效果看上去更自然并且能够辨识出还是用户本人,且本申请的人脸图像替换过程与从2D转换到3D的方式相比实现了在计算资源的节约,同时能够保证被用户人脸图像的特征不发生变化。
本发明的实施例一提供了一种人脸图像替换方法的一种具体实施方式,参见图1,所述人脸图像替换方法具体包括如下内容:
步骤100:获取营销模特图像,并将所述营销模特图像发送至用户终端。
在步骤100中,人脸图像替换设备接收所述营销模特图像及所述营销模特图像对应的营销信息;其中所述营销模特图像的具体实现方法可以通过拍照的方式获取,也可以通过后期计算机图像合成的方式得到;然后将收集到的照片进行加工处理,生成标准格式的数据组与对应的商品信息并存储于数据库中;并根据营销方的指令或预先设置的营销规则,在所述数据库中调取营销模特图像,并发送至对应目标客户群体的用户终端。
在用户在其持有的用户终端中接收到所述营销模特图像后,会决定是否选用当前的所述营销模特图像,若选好要替换的营销模特图像后,则会通过操作用户终端下达选定指令,此时,用户终端会将用户的选定指令发送至所述人脸图像替换设备。
步骤200:接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像。
在步骤200中,所述人脸替换指令中还可以包括其他信息;例如身高、体型参数等。人脸图像替换设备接收所述用户终端发送的针对所述营销模特图像的人脸替换指令。可以理解的是,在目标客户群体的用户终端接收到营销模特图像后,根据兴趣选择目标营销模特图像,并发送针对该目标营销模特图像的人脸替换指令至人脸图像替换设备。
在获取到所述用户终端发送的针对所述营销模特图像的人脸替换指令后,人脸图像替换设备根据该人脸替换指令进行换脸操作。
步骤300:分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息。
在步骤300中,人脸图像替换设备分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;可理解的是,人脸图像替换设备最终替换后得到的图像为营销模特图像的背景区域及所述用户人脸图像中的第二人脸区域。其中,所述第一人脸区域在所述营销模特图像中的区域属性与所述第二人脸区域在所述营销模特图像中的区域属性相同;所述区域属性能够表明第一人脸区域和第二人脸区域在图像中的区域类型。在步骤300中的位置信息可以是包含人脸区域的重心、关键特征、轮廓等相关位置信息。
为了能够将营销模特图像中的第一人脸区域准确替换为第二人脸区域,在确定了营销模特图像的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息后,需要将第一人脸区域从营销模特图像的环境背景中区分出来,并将第一人脸区域也从用户人脸图像的环境背景中区分出来,这样才能对第一人脸区域和第二区域进行准确的处理及替换。
步骤400:根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像。
在步骤400中,人脸图像替换设备首先在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理;再根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内;根据第一人脸区域和第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同;其中,所述邻接区域为以所述第一人脸区域为中心的扩展区域中的、且与所述第一人脸区域相邻的区域;将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像,也即用户试用图像。
步骤500:将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。
在步骤500中,在得到用户试用图像后,人脸图像替换设备将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端,使得用户决定是否购买用户试用图像所对应的产品或服务。
从上述描述可知,本发明的实施例中的人脸图像替换方法能够有效且准确的提高准消费者的参与兴趣,其人脸图像的替换过程快速且可靠性高,并提高了局部区域的替换的准确性,能够保证替换后的局部区域不发生改变,解决了图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题,同时降低了替换处理的耗时及成本;进而提高了人脸图像替换方式的用户满意度及购买量,并降低了营销成本。
本发明的实施例二提供了上述人脸图像替换方法中步骤100的一种具体实施方式,参见图2,所述步骤100具体包括如下内容:
步骤101:接收所述营销模特图像及所述营销模特图像对应的营销信息。
步骤102:对各所述营销模特图像进行格式统一化处理。
步骤103:将格式统一化处理后的各所述营销模特图像及对应的营销信息存储在数据库中。
步骤104:在所述数据库中调取所述营销模特图像,并将所述营销模特图像和对应的营销信息发送至对应的用户终端。
从上述描述可知,本发明的实施例中的人脸图像替换方法给出了一种完整且可靠地营销模特图像的获取及发送方式,使得方法的针对性强且可靠性高。
本发明的实施例三提供了上述人脸图像替换方法中步骤300的一种具体实施方式,参见图3,所述步骤300具体包括如下内容:
步骤301:分别对所述营销模特图像和用户人脸图像进行目标区域属性检测,确定所述第一人脸区域和第二人脸区域的位置信息。
步骤302:分别提取所述第一人脸区域和第二人脸区域的各特征点及各特征点的位置信息。
在步骤302中,通常模特的特征提取,前景分割等操作都是在制作数据库时就完成了,这样处理的响应速度更快,当然同时处理也可以,知识需要较多计算资源,算法放在本地处理时则不需要提取处理;所述特征点的位置信息为该特征点在所在区域内的位置坐标。可以理解的是,首先对输入营销模特图像和用户人脸图像均进行所述第一人脸区域和第二人脸区域的特征点检测。特征点检测的基础是先进行人脸检测以定位营销模特图像和用户人脸图像所在位置。
例如,若第一人脸区域和第二人脸区域均为正面且无遮挡的人脸,则目前公开的大量人脸检测算法(AdaBoost,NPD,MTCNN等)均可实现对人脸精准的检测。完成人脸检测后,对检测到的人脸进行特征点提取,特征点提取的方法包括但不限于基于深度学习(如深度自编码网络,深度回归网络等)和基于主动轮廓模型(如ASM,AAM等)的方法。
从上述描述可知,本发明的实施例的人脸图像替换方法中,提供了一种可靠且快速的获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息的方法,且获取的特征点及特征点的位置信息的准确度高,为后续局部区域的替换提供了准确的数据基础。
本发明的实施例四提供了上述人脸图像替换方法中步骤400的一种具体实施方式,参见图4,所述步骤400具体包括如下内容:
步骤401:在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理。
在步骤401中,人脸图像替换设备在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理。可以理解的是,可以根据各特征点之间的结构关系对所述第一人脸区域和第二人脸区域进行前景分割处理。举例来说,若所述第一人脸区域和第二人脸区域均为人脸,则人脸的特征点则包括眉毛、眼睛、鼻子、嘴、脸部轮廓的位置等,因此,人脸的特征点之间的结构关系即可根据人脸结构的先验知识获取,人脸结构的先验知识即为面部肌肉相互作用的时空关系,即由人脸的解剖学结构所决定,不受成像环境的影响。
步骤402:根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内。
在步骤402中,人脸图像替换设备根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内。可以理解的是,所述预设范围在实际应用中根据实际情形确定,且所述预设范围设置的原则为尽量使得第二人脸区域的尺寸与所述第一人脸区域的尺寸一致。以人脸为例,为了保证尺寸和位置的一致,可借助刚体变换(Rigid Transformation),根据营销模特图像和用户人脸图像中人脸的关键坐标,利用最小二乘法及随机采样不变算法(RANSAC),计算得到变换矩阵,进而将用户人脸图像映射到营销模特图像坐标系中。
步骤403:根据所述第一人脸区域和形变后的第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同;其中,所述邻接区域为以所述第一人脸区域为中心的扩展区域中的、且与所述第一人脸区域相邻的区域,几何结构指外形轮廓和特征点所在的位置;且几何结构相同包括:所述第一人脸区域与所述第二人脸区域的外形轮廓相同、所述第一人脸区域中的某一特征点与所述第二人脸区域中对应的特征点所在的位置均位于一个针对该特征点的预设的范围内。
其中,所述扩展区域可以根据实际应用情况设置为任意形状,例如,所述扩展区域为矩形区域或圆形区域等。
在步骤403中,人脸图像替换设备根据第一人脸区域和形变后的第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同。可以理解是,本步骤为本申请的重要步骤,能够同时实现人脸图像替换过程快速且替换后的图像准确的效果。其中,几何结构指外形轮廓和特征点所在的位置;且几何结构相同包括:所述第一人脸区域与所述第二人脸区域的外形轮廓相同、所述第一人脸区域中的某一特征点与所述第二人脸区域中对应的特征点所在的位置均位于一个针对该特征点的预设的范围内;具体来说,若所述第一人脸区域与所述第二人脸区域均为人脸,则所述第一人脸区域的人脸的某一特征点眼睛与所述第二人脸区域的人脸的对应的特征点眼睛所在的位置位于一个针对该特征点眼睛的预设的范围内;该针对该特征点眼睛的预设的范围可以设为3mm,即所述第一人脸区域的人脸的某一特征点眼睛与所述第二人脸区域的人脸的对应的特征点眼睛所在的位置坐标的差值小于或等于3mm。
步骤404:将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像。
在步骤404中,人脸图像替换设备将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像。这里,假设营销模特图像为P,用户人脸图像为Q,待替换区域为S,非替换区域为NS,最终合成的图像为P’需满足
P’(S)=Q(S)
P’(NS)=P(NS)
从上述描述可知,本发明的实施例中的人脸图像替换方法的中的人脸图像替换过程快速且可靠性高,并提高了局部区域的替换的准确性,能够保证替换后的局部区域不发生改变,解决了图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题,同时降低了替换处理的耗时及成本。
本发明的实施例五提供了上述人脸图像替换方法中步骤300之后的步骤A01和步骤A02的一种具体实施方式,参见图5,所述步骤A00具体包括如下内容:
步骤A01:根据所述第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息,判断所述第一人脸区域的用于检验的属性信息与对应的第二人脸区域中的用于检验的属性信息是否在预设的属性范围内,即判断所述用户人脸图像是否通过检验。
可以理解的是,根据所述第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息,判断所述第一人脸区域与第二人脸区域的待检验属性信息是否在可接受范围内,也就是说判断用户人脸图像是否通过校验。
若是,则进入步骤400,即在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理。
否则,则进入步骤A02。
步骤A02:判定当前用户人脸图像中的第二人脸区域无法替换营销模特图像中的第一人脸区域,并输出无法替换的告知提示。可以理解的是,在判定当前用户人脸图像中的第二人脸区域无法替换营销模特图像中的第一人脸区域后,输出无法替换的告知提示,使得用户获知相应反馈信息。
从上述描述可知,本发明的实施例的人脸图像替换方法中,提供了一种可靠且快速的局部区域的可替换性的校验方法,若校验成功,再进行人脸图像替换,进而保证了后续局部区域的替换结果的准确性及可用性,提高了整个方法的实用性及可靠性。
在一种具体实施方式中,上述人脸图像替换方法中步骤401的一种具体实施方式。所述步骤401的设置目标为根据所述第一人脸区域的各特征点之间的结构关系,在所述营销模特图像中将第一人脸区域与环境背景进行分割,得到所述第一人脸区域及该第一人脸区域的掩模,以及,根据所述第二人脸区域的各特征点之间的结构关系,在所述用户人脸图像中将第二人脸区域与环境背景进行分割,得到所述第二人脸区域及该第二人脸区域的掩模,其具体包括如下内容:
总体来说,所述步骤401包括:
(1)根据第一人脸区域或第二人脸区域的轮廓点向内收缩和向外扩张产生前景和背景区域;得到第一疑似前景和背景掩膜。
(2)将前面得到的掩膜和原始图像利用oneCut算法进行分割,进一步细化背景和前景区域,得到第二疑似前景和背景掩膜。
(3)最后,利用形态学对前景区域进行处理(包括开运算和轮廓修补,填充内陷区域),得到最终前景和背景掩膜。
具体来说,步骤401a:疑似前景和背景区域初始化。这里的辅助信息为人脸的面部关键点位置信息,虽然在步骤300中得到了人脸的外轮廓位置,但这些位置信息准确度不够,无法直接生成分割结果,但可以通过将脸部轮廓向内收缩和向外扩张,得到疑似前景和背景区域作为初始分割区域。具体来说,根据所述第一人脸区域和第二人脸区域的各特征点之间的结构关系,在所述营销模特图像中将第一人脸区域与环境背景进行初始分割,并在所述用户人脸图像中将第二人脸区域与环境背景进行初始分割。
步骤401b:在初步分割的基础上可以利用很多高效准确的分割方法(如graphCut、grabCut、oneCut、ACM等)进行二次精确分割。一种优选的方案为one cut in grabcut算法,不同于传统的图割算法,该算法无需迭代,一次运算即可实现分割,进而得到前景区域;
步骤401c:后处理得到优化的前景区域,包括灰度值限制和形态学处理(开闭运算和填充孔洞),一方面保证脸部区域灰度相似性,另一方面保证脸部轮廓的完整性。
在一种具体实施方式中,本申请的步骤402至步骤403具体可以概括为如下内容:
(1)对用户人脸图像进行整体位置、方向和尺寸变换;
(2)对基准图像局部几何变换;
(3)为了得到自然的替换结果,对第一人脸区域及其邻接区域也进行相应调整。
具体是实施过程说明如下实施例六和实施例七内容所述:
本发明的实施例六提供了上述人脸图像替换方法中步骤402的一种具体实施方式,参见图6,所述步骤402具体包括如下内容:
步骤402a:根据所述第一人脸区域和第二人脸区域的特征点,应用全局形变矫正方法中的仿射变换的方式建立几何形变模型。
可以理解的是,仿射变换的方式并不是本实施例所用的唯一变换方式,全局形变矫正方法中的任意方式均可以实现本实施例步骤402a至步骤402c的变换过程。
步骤402b:基于所述几何形变模型,根据最小二乘法确定所述第二人脸区域的特征点变换到第一人脸区域的特征点的仿射变换参数。
步骤402c:根据所述仿射变换参数对所述用户人脸图像进行形变,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内。
步骤402d:根据所述用户人脸图像的形变结果,对应调整所述第二人脸区域的特征点的位置信息和所述第二人脸区域的掩模。
在上述步骤402a至402d中,利用提取到的特征点将用户人脸图像对齐营销模特图像。例如利用第一人脸区域特征点和第二人脸区域特征点,并用仿射变换作为几何形变模型,通过最小二乘法估计从第二人脸区域特征点到第一人脸区域特征点变换的仿射变换参数。并利用该仿射变换参数对用户人脸图像进行形变获得与营销模特图像大小相同,第一人脸区域及第二人脸区域的位置基本匹配的用户人脸图像。在对用户人脸图像进行形变的同时也需要用相同的参数对掩模和第二人脸区域的特征点坐标进行形变。
从上述描述可知,本发明的实施例的人脸图像替换方法中,提供了一种可靠且快速的根据所述第一人脸区域和第二人脸区域的特征点,对所述用户人脸图像进行形变处理方法,进而提高了整个方法的实用性及可靠性。
本发明的实施例七提供了上述人脸图像替换方法中步骤403的一种具体实施方式,参见图7,所述步骤403具体应用三角网构建方法:(1)特征点匹配,使得第一人脸区域和第二人脸区域的关键点一一对应;(2)三角网构建,利用Delaunay等算法,建立特征点网状关系图;(3)利用loop subdivision算法,对前面得到关系网细化,构建稠密的三角网;(4)对构建的网状关系图中的各个子图分别进行仿射参数估计和局部插值,使得变换后第一人脸区域的特征点与第二人脸区域的特征点位置信息完全匹配,具体包括如下内容:
步骤403a:对第一人脸区域和第二人脸区域的特征点进行匹配,使得相同标号的特征点所表达的属性相同。
步骤403b:除了第一人脸区域和第二人脸区域内部关键点和轮廓点外,还需要增加外部控制点,保证第一人脸区域向第二人脸区域转变时,目标区域及其邻域联动变化。
具体来说,扩展区域的具体设置方式为:首先计算得到能够刚好包含所有特征点的限定正矩形;然后按照限定正矩形的比例、将限定正矩形向外扩展,得到所述矩形扩展区域。
其中,扩展后的矩形的四个顶点和四条边上的多个分位点即为用于产生扩展区域而新增加的特征点。
也就是说,通过额外增加了一些保护性特征点才保证人脸区域和外围背景的几何结构不发生变化,而在人脸区域以外到保护区域范围内的区域仅发生了细微的几何形变,且这种几何形变通过细化的三角网格被弱化,使得肉眼看上去变化很小且几乎很难察觉。
步骤403c:利用Delaunay算法构建三角网,在不同特征点之间构建空间位置关系。根据第一人脸区域的N个特征点的位置信息构建第一人脸区域的特征点的位置关系网络;以及,根据第二人脸区域的N个特征点的位置信息构建第二人脸区域的特征点的位置关系网络;
步骤403d:为保证后续替换效果的自然性,利用Loop subdivison算法,在原有三角网的基础上,构建更加稠密的三角网。具体来说,可对所述第一人脸区域的位置关系网络进行细分,得到M个特征点,使得所述第一人脸区域的特征点总数为M+N个;以及,对所述第二人脸区域的位置关系网络进行细分,得到M个特征点,使得所述第二人脸区域的特征点总数为M+N个;其中,N和M均为正整数。
步骤403e:在完成三角网构建后,可针对营销模特图像和用户人脸图像中各子网对应的三个角点的位置构建仿射变换模型,经过投影使得营销模特图像和用户人脸图像子网对应区域的位置完全一致。
在步骤403a至403e中,利用特征点的相对坐标,生成更多的特征点,将第二人脸区域几何变换后的特征点坐标作为基准,将模特图像的人脸形变来与第二人脸区域的人脸几何结构一致。所述保护框可以为圆形框或矩形框,且所述保护框的位置根据保护框的中心点构建,其中,保护框的中心点为由全部特征点的外围轮廓组成的封闭凸包区域的中心。
从上述描述可知,本发明的实施例的人脸图像替换方法中,提供了一种可靠且快速的根据形变后的第一人脸区域和第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域进行形变处理的方法,提高了局部区域的替换的准确性,在能够保证替换后的局部区域不发生改变,解决图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题。
本发明的实施例八提供了上述人脸图像替换方法中步骤404的一种具体实施方式,参见图8,所述步骤404具体包括如下内容:
步骤404a:将形变后的第一人脸区域替换为形变后的第二人脸区域,且替换的区域为形变后的第一人脸区域的掩模及形变后的第二人脸区域的掩模的交集区域,得到包括所述第二人脸区域的营销模特图像。
步骤404b:对包括所述第二人脸区域的营销模特图像中的所述第二人脸区域进行自然化融合处理。
使用所述第二人脸区域替换形变后营销模特图像的第一人脸区域,替换后的包括所述第二人脸区域的营销模特图像中的第二人脸区域是两幅形变后的第一人脸区域和第二人脸区域掩模的交集;并对包括所述第二人脸区域的营销模特图像中的第二人脸区域进行自然化处理,使得包括所述第二人脸区域的营销模特图像的色彩一致。一种可行的方法为Poisson editing泊松编辑算法,该算法是一种性能优异的无缝拼接算法,通过构造Poisson方程求解像素最优值的方法,在保留了源图像梯度信息的同时,可以很好的融合源图像与目标图像的背景。同时为了加快融合速度,输入图像为包含第一人脸区域和第二人脸区域在内的最小外接矩形。
从上述描述可知,本发明的实施例的人脸图像替换方法中,提供了一种可靠且快速的将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像的方法,进而提高了整个方法的实用性及可靠性。
可以理解的是,上述设备可以为一种设有软件程序的电子设备、也可以为一种预装在设备终端的应用程序、也可以为一种预装在设备终端的应用程序中的功能模块,其中,设备终端包括但不限于手机、平板电脑,PC或者嵌入式系统等。
可以理解的是,上述人脸图像替换方法中的步骤的实现顺序根据实际应用情形可以做任意调整,并不限于上述各步骤的执行顺序。
为进一步地说明本方案,本发明还提供了一种人脸图像替换方法的应用实例,参见图9至11,该应用实例具体包括如下内容:
参见图9,该方法首先收集模特佩戴待营销的商品(或接受过待营销服务)后的照片。其中收集照片的具体实现方法可以是拍照也可以是后期计算机图像合成。然后将收集到的照片进行加工处理,生成标准格式的数据组与对应的商品信息并存储于数据库中。然后将商品(或服务)的照片作为换脸的素材在App或网络服务中推送给用户,供用户使用。当用户选择使用该素材进行换脸操作时,将用户提供人脸区域的图像替换模特的人脸,以生成用户试用该商品后的图像,并将该商品的信息和购买信息推送给用户供用户购买。
所述商品(与服务)要获得很好的营销效果,需要有以下的技术前提作为支撑。首先需要一个软件和硬件组成的系统,这样才能让所述方法得以进行;然后需要一个可靠的图像换脸方法,一方面保证用户提供的人脸保持不变,以达到认得出用户是谁的目的,另一方面不能对模特的图片产生较大的形变,以达到不破坏商品图片效果的目的。另外并不是所有包含人脸的图像对都可以自然换脸的,为提高用户体验还需要一个判断图像对是否可换脸的校验方法。
参见图10,首先对输入模特图像和用户图像均进行人脸特征点检测与人脸分割。特征点检测的基础是先进行人脸检测以定位人脸图像所在位置,由于本专利主要针对正面且无遮挡的人脸,目前公开的大量人脸检测算法均可实现精准的检测。完成人脸检测后,对检测到的人脸进行特征点提取,特征点通常指的是人脸的眉毛、眼睛、鼻子、嘴、脸部轮廓的位置,特征点提取的方法较多包括基于深度学习的、基于主动轮廓模型的,本申请不限于使用哪种方法,仅需要保证特征点的提取准确即可。
利用提取到的人脸特征点,利用人脸结构的先验知识,可以获得人脸前景和背景的一个初步分割。在这个初步分割的基础上可以利用很多高效准确的分割方法(如graphCut、grabCut、oneCut、ACM等)进行人脸的分割。通过以上步骤可获得人脸区域的掩模和特征点的坐标。
然后利用提取到的人脸特征点将用户图像对齐模特图像。例如:利用模特特征点和用户特征点,并用仿射变换作为几何形变模型,通过最小二乘法估计从用户特征点到模特特征点变换的仿射变换参数。并利用该仿射变换参数对用户图像进行形变获得与模特图像大小相同,人脸位置基本匹配的用户图像。在对用户图像进行形变的同时也需要用相同的参数对人脸掩模和用户的特征点坐标进行形变。
再然后,将用户几何变换后的特征点坐标作为基准,将模特图像的人脸形变来与用户的人脸几何结构一致。这时问题转换成了具有已知匹配特征点的图像精配准问题。如果此时直接使用精配准方法,例如使用局部三角网进行仿射变换、或者使用样条插值方法进行匹配则会造成图像不自然,例如三角网方法会存在三角网格之间像素的断裂,而样条插值会造成图像的过度扭曲。为了消除以上现象,本专利在特征点区域外设定了一个保护矩形框(通过将矩形框的轮廓点增加为特征点的方式),形变主要在矩形框内进行,这样有效的控制形变的范围。随后利用特征点的相对坐标,生成更多的特征点。例如通过对特征点构建三角网,并对三角网进行Loop subdivision细分。扩展后的大量控制点可以使得精配准可以得到很平滑自然的图像。以上形变过程均要对模特的图像和模特人脸的掩模进行。
最后使用用户的人脸替换形变后模特的人脸,替换的区域是两幅形变后图像人脸掩模的交集。并对替换后的人脸进行自然化处理,使得图像的色彩一致。自然化处理可以使用泊松融合方法或者其他图像融合方法。
参见图11,以上方法都是在两幅图像可以自然替换的假设条件下进行的,然而并不是任何包含两幅人脸的图像均可以进行自然替换。为了提高用户的体验需要自动化的检测两幅图像是否可以相互替换。能替换的条件是两幅图像的人脸大体是一致的。而造成两幅图像替换不自然的主要因素是一下几个方面:a.是否佩戴眼镜;b.人脸的姿态是否一致;c.光照是否一致。通常当用户佩戴眼镜的情况很难处理得很自然(考虑眼镜腿的差异),尤其是在耳朵处,因而,处理过程中如果用户佩戴眼镜,就是不让其通过校验。
因而校验方法中需要具有眼镜检测方法,由于可以获得人脸特征点的位置,可以很容易地获得眼睛区域图像,再通过二分类算法训练一个判决是否是眼镜的模型即可判断是否佩戴眼镜。
而姿态问题也是另一个影响替换效果的主要因素,例如当模特是左侧遮脸而用户是用正面人脸则替换后的整体图像就会很不自然。因而需要通过计算人脸的姿态的参数,并只让具有较小姿态差异的图像对通过校验,表征人头部姿态的参数有3个分别是偏航角、俯仰角和翻滚角,而这三个参数通过面部的特征点坐标即可计算获得。
光照因素是另一个主要影响换脸的因素,面部的光照分布情况,在分布不均匀且差异角较小时可以通过简单的光线强度估计和补偿进行缓和,而当不均匀程度较高时,少量的强度差异补偿后甚至会造成与人脸周围的不和谐,为了避免这种现象的出现,先估计面部的光照情况,并不允许光线分布很不均匀的图像通过校验,而对不同面部区域仅有少量光线强度差异的图像进行光照补偿,然后通过校验。
从上述描述可知,本发明的应用实例降低了能够实现人脸图像替换的系统的硬件成本,部署更加灵活快捷,易于维护扩容,提供更稳定的服务。更好的用户体验,且其替换过程的计算成本低,实时性高、图像处理真实度高。
本发明的实施例九提供了能够实现上述人脸图像替换方法中全部步骤的一种人脸图像替换系统的一种具体实施方式,参见图12,所述人脸图像替换系统具体包括如下内容:
营销模特图像发送单元10,用于获取营销模特图像,并将所述营销模特图像发送至用户终端;
人脸替换指令接收单元20,用于接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像;
特征点获取单元30,用于分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;
用户试用图像获取单元40,用于根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像;
营销模特图像发送单元50,用于将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。
本发明提供的人脸图像替换系统的实施例具体可以用于执行上述各方法实施例的处理流程,其功能在此不再赘述,可以参照上述方法实施例的详细描述。
从上述描述可知,应用本发明的实施例中的人脸图像替换系统中的营销处理过程快速且可靠性高,并提高了局部区域的替换的准确性,在能够保证替换后的局部区域不发生改变,解决图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题,同时降低了替换处理的耗时及成本。
本发明的实施例十提供了能够实现上述人脸图像替换方法中全部步骤的一种人脸图像替换设备的一种具体实施方式,所述人脸图像替换设备具体包括如下内容:
存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现任一项所述方法的步骤,例如实现下述步骤:
步骤100:获取营销模特图像,并将所述营销模特图像发送至用户终端。
步骤200:接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像。
步骤300:分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息。
步骤400:根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像。
步骤500:将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。
从上述描述可知,本发明的实施例中的人脸图像替换设备能够有效且准确的提高准消费者的参与兴趣,其人脸图像的替换过程快速且可靠性高,并提高了局部区域的替换的准确性,能够保证替换后的局部区域不发生改变,解决了图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题,同时降低了替换处理的耗时及成本;进而提高了人脸图像替换方式的用户满意度及购买量,并降低了营销成本。
本发明的实施例九提供了能够实现上述人脸图像替换方法中全部步骤的一种计算机可读存储介质的一种具体实施方式,所述计算机可读存储介质具体包括如下内容:
计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现任一项所述方法的步骤,例如实现下述步骤:
步骤100:获取营销模特图像,并将所述营销模特图像发送至用户终端。
步骤200:接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像。
步骤300:分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息。
步骤400:根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像。
步骤500:将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端。
从上述描述可知,本发明的实施例中的人脸图像替换设备能够有效且准确的提高准消费者的参与兴趣,其人脸图像的替换过程快速且可靠性高,并提高了局部区域的替换的准确性,能够保证替换后的局部区域不发生改变,解决了图像中局部区域替换技术中局部区域变形和局部区域外围严重变形造成的合成图像不真实问题,同时降低了替换处理的耗时及成本;进而提高了人脸图像替换方式的用户满意度及购买量,并降低了营销成本。
还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上实施例仅用于说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (8)
1.一种人脸图像替换方法,其特征在于,包括:
获取营销模特图像,并将所述营销模特图像发送至用户终端;
接收所述用户终端发送的针对所述营销模特图像的人脸替换指令,其中,所述人脸替换指令中包括用户人脸图像及用户选定的营销模特图像;
分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;
根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像;
以及,将所述用户试用图像及营销模特图像对应的营销信息发送至所述用户终端;
所述根据所述营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息;将所述营销模特图像中的第一人脸区域替换为所述用户人脸图像中的第二人脸区域,得到用户试用图像,包括:
在所述营销模特图像和用户人脸图像中分别对所述第一人脸区域和第二人脸区域进行前景分割处理;
根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内;
根据所述第一人脸区域和形变后的第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同;其中,所述邻接区域为以所述第一人脸区域为中心的扩展区域中的、且与所述第一人脸区域相邻的区域,几何结构指外形轮廓和特征点所在的位置;且几何结构相同包括:所述第一人脸区域与所述第二人脸区域的外形轮廓相同、所述第一人脸区域中的某一特征点与所述第二人脸区域中对应的特征点所在的位置均位于一个针对该特征点的预设的范围内;
以及,将形变后的第一人脸区域替换为形变后的第二人脸区域,得到所述用户试用图像;
所述根据所述第一人脸区域和形变后的第二人脸区域的特征点的位置信息,对所述营销模特图像中的第一人脸区域及其邻接区域进行局部形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同,包括:
在所述营销模特图像中的第一人脸区域及所述用户人脸图像中的第二人脸区域的各特征点外分别设置保护框,其中,所述保护框的位置根据保护框的中心点构建,保护框的中心点为由全部特征点的外围轮廓组成的封闭凸包区域的中心;
以及,根据所述第一人脸区域和形变后的第二人脸区域的特征点的位置信息,在所述营销模特图像中的第一人脸区域的各特征点外的保护框内,对各特征点所控制的第一人脸区域进行形变处理,使得所述第一人脸区域与所述第二人脸区域的几何结构相同。
2.根据权利要求1所述的人脸图像替换方法,其特征在于,所述获取营销模特图像,并将所述营销模特图像发送至用户终端,包括:
接收所述营销模特图像及所述营销模特图像对应的营销信息;
对各所述营销模特图像进行格式统一化处理;
并将格式统一化处理后的各所述营销模特图像及对应的营销信息存储在数据库中;
以及,在所述数据库中调取所述营销模特图像,并将所述营销模特图像和对应的营销信息发送至对应的用户终端。
3.根据权利要求1所述的人脸图像替换方法,其特征在于,所述分别获取营销模特图像中的第一人脸区域和用户人脸图像中的第二人脸区域的特征点及特征点的位置信息,包括:
分别对所述营销模特图像和用户人脸图像进行目标区域属性检测,并提取所述第一人脸区域和第二人脸区域的各特征点及各特征点的位置信息。
4.根据权利要求1所述的人脸图像替换方法,其特征在于,所述在所述营销模特图像和用户人脸图像中对所述第一人脸区域和第二人脸区域进行前景分割处理,包括:
根据所述第一人脸区域的各特征点之间的结构关系,在所述营销模特图像中将第一人脸区域与环境背景进行分割,得到所述第一人脸区域及该第一人脸区域的掩模;
以及,根据所述第二人脸区域的各特征点之间的结构关系,在所述用户人脸图像中将第二人脸区域与环境背景进行分割,得到所述第二人脸区域及该第二人脸区域的掩模。
5.根据权利要求1所述的人脸图像替换方法,其特征在于,所述根据所述第一人脸区域和第二人脸区域的特征点的位置信息,对所述用户人脸图像进行全局形变处理,使得形变后的用户人脸图像中的第二人脸区域的尺寸和位置与所述第一人脸区域的尺寸和位置的差值处于预设范围内,包括:
根据所述第一人脸区域和第二人脸区域的特征点,应用全局形变矫正方法建立几何形变模型;
基于所述几何形变模型对所述用户人脸图像进行全局形变处理;
以及,根据所述用户人脸图像的形变结果,对应调整所述第二人脸区域的特征点的位置信息和所述第二人脸区域的掩模。
6.根据权利要求1所述的人脸图像替换方法,其特征在于,所述将形变后的第一人脸区域替换为形变后的第二人脸区域,得到包括所述第二人脸区域的营销模特图像,包括:
将形变后的第一人脸区域替换为形变后的第二人脸区域,且替换的区域为形变后的第一人脸区域的掩模及形变后的第二人脸区域的掩模的交集区域,得到包括所述第二人脸区域的营销模特图像;
以及,对包括所述第二人脸区域的营销模特图像中的所述第二人脸区域进行自然化融合处理。
7.一种人脸图像替换设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述方法的步骤。
8.计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至6任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710706174.3A CN107610202B (zh) | 2017-08-17 | 2017-08-17 | 人脸图像替换方法、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710706174.3A CN107610202B (zh) | 2017-08-17 | 2017-08-17 | 人脸图像替换方法、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107610202A CN107610202A (zh) | 2018-01-19 |
CN107610202B true CN107610202B (zh) | 2020-11-03 |
Family
ID=61064731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710706174.3A Expired - Fee Related CN107610202B (zh) | 2017-08-17 | 2017-08-17 | 人脸图像替换方法、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107610202B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108537725A (zh) * | 2018-04-10 | 2018-09-14 | 光锐恒宇(北京)科技有限公司 | 一种视频处理方法和装置 |
CN108765265B (zh) * | 2018-05-21 | 2022-05-24 | 北京微播视界科技有限公司 | 图像处理方法、装置、终端设备和存储介质 |
JP7002415B2 (ja) * | 2018-06-28 | 2022-01-20 | 株式会社日立製作所 | 情報処理装置および情報処理方法 |
CN110660037B (zh) * | 2018-06-29 | 2023-02-10 | 京东方科技集团股份有限公司 | 图像间脸部交换的方法、装置、系统和计算机程序产品 |
CN109492540B (zh) * | 2018-10-18 | 2020-12-25 | 北京达佳互联信息技术有限公司 | 一种图像中的人脸交换方法、装置及电子设备 |
CN110084675A (zh) * | 2019-04-24 | 2019-08-02 | 文允 | 一种线上商品销售方法、网络终端和具有存储功能的装置 |
CN110136229B (zh) * | 2019-05-27 | 2023-07-14 | 广州亮风台信息科技有限公司 | 一种用于实时虚拟换脸的方法与设备 |
CN110458752B (zh) * | 2019-07-18 | 2022-11-11 | 西北工业大学 | 一种基于局部遮挡条件下的图像换脸方法 |
CN111882408B (zh) * | 2020-09-27 | 2021-07-09 | 北京达佳互联信息技术有限公司 | 虚拟试用方法、装置、电子设备及存储介质 |
CN112817503B (zh) * | 2021-01-18 | 2024-03-26 | 陈林斌 | 电子相框的智能显示方法、电子相框及可读存储介质 |
CN112766215B (zh) * | 2021-01-29 | 2024-08-09 | 北京字跳网络技术有限公司 | 人脸图像处理方法、装置、电子设备及存储介质 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105989531A (zh) * | 2015-05-14 | 2016-10-05 | 乐视移动智能信息技术(北京)有限公司 | 图像处理方法和装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI553565B (zh) * | 2014-09-22 | 2016-10-11 | 銘傳大學 | 利用二維臉部影像估測其三維角度方法,及其臉部置換資料庫建立方法與臉部影像置換方法 |
-
2017
- 2017-08-17 CN CN201710706174.3A patent/CN107610202B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105989531A (zh) * | 2015-05-14 | 2016-10-05 | 乐视移动智能信息技术(北京)有限公司 | 图像处理方法和装置 |
Non-Patent Citations (3)
Title |
---|
ASM算法的详尽解释;破晓之翼;《blog.sina.com.cn/s/blog_138ab0c7b0102x6tn.html》;20160305;第1页 * |
人物替换模式的虚拟试衣;李俊等;《计算机辅助设计与图形学学报》;20150930;第27卷(第9期);第1696-1698页 * |
影视角色人脸追踪与替换的研究与应用;姚震;《中国优秀硕士学位论文全文数据库 信息科技辑》;20160315;第2016年卷(第03期);第30-31、49页 * |
Also Published As
Publication number | Publication date |
---|---|
CN107610202A (zh) | 2018-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107610202B (zh) | 人脸图像替换方法、设备及存储介质 | |
CN107507217B (zh) | 证件照的制作方法、装置及存储介质 | |
CN107564080B (zh) | 一种人脸图像的替换系统 | |
CN107507216B (zh) | 图像中局部区域的替换方法、装置及存储介质 | |
US11010967B2 (en) | Three dimensional content generating apparatus and three dimensional content generating method thereof | |
US11043011B2 (en) | Image processing method, apparatus, terminal, and storage medium for fusing images of two objects | |
CN107154030B (zh) | 图像处理方法及装置、电子设备及存储介质 | |
EP4057234B1 (en) | Method and apparatus for three-dimensional face reconstruction, and computer device, storage medium, and program product | |
CN108305312B (zh) | 3d虚拟形象的生成方法和装置 | |
CN106846241B (zh) | 一种图像融合的方法、装置和设备 | |
EP3971841A1 (en) | Three-dimensional model generation method and apparatus, and computer device and storage medium | |
CN109697688A (zh) | 一种用于图像处理的方法和装置 | |
CN112581518B (zh) | 基于三维卡通模型的眼球配准方法、装置、服务器和介质 | |
CN104123749A (zh) | 一种图像处理方法及系统 | |
CN111008935B (zh) | 一种人脸图像增强方法、装置、系统及存储介质 | |
CN110288715B (zh) | 虚拟项链试戴方法、装置、电子设备及存储介质 | |
CN112330527A (zh) | 图像处理方法、装置、电子设备和介质 | |
CN114842035A (zh) | 基于深度学习的车牌脱敏方法、装置、设备及存储介质 | |
US10803677B2 (en) | Method and system of automated facial morphing for eyebrow hair and face color detection | |
CN113379623A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN116681579A (zh) | 一种实时视频人脸替换方法、介质及系统 | |
JP6476608B2 (ja) | 動作処理装置、動作処理方法及びプログラム | |
CN116977539A (zh) | 图像处理方法、装置、计算机设备、存储介质和程序产品 | |
CN113837018B (zh) | 一种化妆进度检测方法、装置、设备及存储介质 | |
CN114862716A (zh) | 人脸图像的图像增强方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20201103 |
|
CF01 | Termination of patent right due to non-payment of annual fee |