CN109242765A - 一种人脸图像处理方法、装置和存储介质 - Google Patents

一种人脸图像处理方法、装置和存储介质 Download PDF

Info

Publication number
CN109242765A
CN109242765A CN201811009591.3A CN201811009591A CN109242765A CN 109242765 A CN109242765 A CN 109242765A CN 201811009591 A CN201811009591 A CN 201811009591A CN 109242765 A CN109242765 A CN 109242765A
Authority
CN
China
Prior art keywords
face
characteristic point
point
facial image
drag operation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811009591.3A
Other languages
English (en)
Other versions
CN109242765B (zh
Inventor
段聪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201811009591.3A priority Critical patent/CN109242765B/zh
Publication of CN109242765A publication Critical patent/CN109242765A/zh
Application granted granted Critical
Publication of CN109242765B publication Critical patent/CN109242765B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例公开了一种人脸图像处理方法、装置和存储介质;本发明实施例可以获取待处理的人脸图像;对人脸图像进行特征识别,得到人脸部位特征点;显示人脸形变编辑界面,该人脸形变编辑界面包括人脸部位特征点;当检测到用户针对人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量;从人脸图像中确定待移动的目标像素点;根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像;该方案可以提升脸部形变处理的灵活性和效率。

Description

一种人脸图像处理方法、装置和存储介质
技术领域
本发明涉及通信技术领域,具体涉及一种人脸图像处理方法、装置和存储介质。
背景技术
由于人们对美的不断追求,基于图像识别和图像处理的人脸美容美颜技术越来越受大众欢迎,在社交网络中存在的大量经过美颜处理的图像。美颜主要是改变图像中人物的特征,从而达到美颜效果,如实现磨皮、大眼、瘦脸等效果。
比如,可以对图像中人脸进行脸部形变处理,也即对人脸的五官特征点进行调整,使得图像或者视频中的人脸具备更合理的五官比例,以达到实现大眼瘦脸等美颜效果。
目前脸部形变处理方案都是基于静态的素材参数进行,比如,终端可以根据用户操作从预先设定的多种人脸素材中选择相应的人脸素材,然后,根据选择的人脸素材对应的人脸形变参数对人脸图像进行脸部形变处理,如人脸拉伸、收缩等变换。
然而,由于目前脸部形变处理是基于用户选择的静态(即固定)素材参数实现的,一旦选择应用特定的素材,那么人脸形变效果就已经固定,并且,如果想要改变脸部形变效果,需要重新选择其他素材参数以重新进行脸部形变处理;因此,目前脸部形变处理的灵活性较差,并且需要经过用户多次素材选择操作才能实现所需的脸部形变效果,用户操作比较繁琐,脸部形变处理效率较低。
发明内容
本发明实施例提供一种人脸图像处理方法、装置和存储介质,可以提升脸部形变处理的灵活性和效率。
本发明实施例提供一种人脸图像处理方法,包括:
获取待处理的人脸图像;
对所述人脸图像进行特征点识别,得到人脸部位特征点;
显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;
当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;
从所述人脸图像中确定待移动的目标像素点;
根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
相应的,本发明实施例还提供一种人脸图像处理装置,包括:
图像获取单元,用于获取待处理的人脸图像;
识别单元,用于对所述人脸图像进行特征点识别,得到人脸部位特征点;
界面显示单元,用于显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;
向量获取单元,用于当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;
像素确定单元,用于从所述人脸图像中确定待移动的目标像素点;
移动显示单元,用于根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
此外,本发明实施例还提供一种存储介质,所述存储介质存储有多条指令,所述指令适于处理器进行加载,以执行本发明实施例提供的任一种人脸图像处理方法中的步骤。
本发明实施例可以获取待处理的人脸图像,比如,当终端实时采集人脸图像时,可以根据人脸形变指令从截取一张人脸图像;对人脸图像进行特征识别,得到人脸部位特征点;显示人脸形变编辑界面,该人脸形变编辑界面包括人脸部位特征点;当检测到用户针对人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量;从人脸图像中确定待移动的目标像素点;根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像;由于该方案可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面拖动相应的人脸部位特征点即可实现人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a是本发明实施例提供的人脸图像处理系统的场景示意图;
图1b是本发明实施例提供的人脸图像处理方法的流程图;
图1c是本发明实施例提供的人脸五官特征点识别示意图;
图1d是本发明实施例提供的人脸形变编辑示意图;
图2是本发明实施例提供的人脸图像处理方法的另一流程图;
图3是本发明实施例提供的人脸图像处理方法的另一流程图;
图4a是本发明实施例提供的人脸图像处理装置的第一种结构示意图;
图4b是本发明实施例提供的人脸图像处理装置的第二种结构示意图;
图4c是本发明实施例提供的人脸图像处理装置的第三种结构示意图;
图4d是本发明实施例提供的人脸图像处理装置的第四种结构示意图;
图5是本发明实施例提供的网络设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供一种人脸图像处理方法、装置和存储介质。
本发明实施例提供了一种人脸图像处理系统,包括本发明实施例任一提供的人脸图像处理装置,该人脸图像处理装置具体可以集成在终端中,该终端可以包括:手机、平板电脑、笔记本电脑或个人计算机(PC,Personal Computer)等。
此外,该人脸图像处理系统还可以包括其他设备,比如服务器等。
例如,参考图1a,人脸图像处理系统,包括终端和服务器,终端与服务器通过网络连接。其中,网络中包括路由器、网关等网络实体。
其中,终端可以获取待处理的人脸图像,比如,当终端实时采集人脸图像时,可以根据人脸形变指令从截取一张人脸图像;对人脸图像进行特征识别,得到人脸部位特征点;显示人脸形变编辑界面,该人脸形变编辑界面包括人脸部位特征点;当检测到用户针对人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量;从人脸图像中确定待移动的目标像素点;根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像。
在一实施例中,终端还可以向服务器发送移动后的人脸图像即经过人脸形变后的图像,服务器可以保存该人脸图像,或者向其他终端转发该人脸图像。
上述图1a的例子只是实现本发明实施例的一个系统架构实例,本发明实施例并不限于上述图1a所示的系统结构,基于该系统架构,提出本发明各个实施例。
以下分别进行详细说明。需说明的是,以下实施例的序号不作为对实施例优选顺序的限定。
本实施例将从人脸图像处理装置的角度进行描述,该人脸图像处理装置具体可以集成在终端,该终端可以手机、平板电脑、笔记本电脑或个人计算机(PC,PersonalComputer)等。
如图1b所示,提供了一种人脸图像处理方法,该方法可以由终端的处理器执行,该人脸图像处理方法的具体流程可以如下:
101、获取待处理的人脸图像。
其中,待处理人的人脸图像的获取方式有多种,比如,可以接收人脸形变指令,并根据人脸形变指令。
其中,人脸形变指令的触发方式可以有多种,比如,可以由用户对终端进行操作(如摇动、滑动、点击等操作)来触发;比如,可以在终端采集人脸图像时,可以摇动终端触发人脸形变指令,具体地,终端可以基于检测到摇动操作触发发送人脸形变指令,此时,人脸图像处理装置将会对该指令进行接收。
又比如,用户还可以针对触摸显示屏进行操作触发人脸形变指令,此时,可以接收用户可以通过触摸显示屏触发的人脸形变指令。
在一实施例中,为了便于触发人脸形变指令,还可以在图像拍摄界面设置一人脸形变接口,这样用户便可以通过该人脸形变接口来触发人脸形变指令。
其中,人脸形变接口的表现形式有多种,比如,输入框,图标、按钮等形式。
比如,在图像拍摄界面设置一“人脸形变编辑”按钮,当用户点击该按钮时触发生成人脸形变指令,此时,终端可以根据人脸形变指令从图像拍摄界面截取一张人脸图像,作为待处理的人脸图像。
其中,基于人脸形变指令获取人脸图像的方式可以有多种,比如,可以基于人脸形变指令从本地存储,或者从网络侧设备获取人脸图像。
又比如,在一实施例中,当终端在实时采集人脸图像时,可以根据人脸形变指令从采集到的人脸图像中选择一张人脸图像作为待处理的人脸图像,比如,选择当前采集到的人脸图像作为待处理的人脸图像。又比如,当终端实时采集人脸图像并在图像拍摄界面(如图像预览界面)中显示时,可以根据人脸形变指令截取当前界面显示的人脸图像作为待处理的人脸图像。
例如,终端安装有图像处理应用,终端可以打开该图像处理应用,通过该图像处理应用显示图像拍摄界面,并调用摄像头如前置摄像头或后置摄像头实时采集人物的人脸图像,在图像拍摄界面实时显示采集到人脸图像。其中,在图像拍摄界面设置一“人脸形变编辑”按钮,当用户点击该按钮时触发生成人脸形变指令,此时,终端可以根据人脸形变指令从图像拍摄界面截取一张人脸图像,作为待处理的人脸图像。
在一实施例中,还可以从本地或者外部存储单元中获取待处理的人脸图像;比如,可以从本地图像数据库中获取待处理的图像。譬如,终端打开图像处理应用,可以通过图像处理应用调用本地相册,从本地相册中选择一张待处理的人脸图像,以便进行人脸形变。也即,本发明实施例方法可以适用于对图像进行后期的人脸形变。
102、对人脸图像进行特征点识别,得到人脸部位特征点。
其中,人脸部位特征点可以为反映人脸部位(如人脸五官)本质特征的点,比如,可以包括:人脸五官特征点,可以包括:脸部轮廓特征点、眼睛特征点(如左眼特征点、右眼特征点、瞳孔特征点)、眉毛特征点(如左眉毛特征点、右眉毛特征点)、嘴巴特征点、鼻子特征点等等。
其中,人脸部位特征点的识别方式可以有多种方式,比如,可以基于深度学习网络模型来识别人脸部位特征点。比如,可以基于训练后的人脸特征网络识别模型对人脸图像进行特征点识别,该人脸特征网络识别模型可以为基于卷积神经网络的模型。
在使用人脸特征网络识别模型之前,需要使用大量的样本人脸图像对该人脸特征网络识别模型进行训练。
其中,识别出的人脸部位特征点数量可以根据实际需求设定,比如,可以设置识别出的脸部轮廓特征点的数量、眼睛特征点数量等等。
譬如,可以参考图1c,采用人脸特征网络识别模型对人脸图像进行识别,可以得到人脸五官特征点,其中,脸五官特征点使用90个坐标点进行描述,其中脸部轮廓21个点,左眼8个点,右眼8个点,瞳孔2个点,左眉毛8个点,右眉毛8个点,嘴巴22个点,鼻子13个点。
103、显示人脸形变编辑界面,该人脸形变编辑界面包括人脸部位特征点。
其中,人脸形变编辑界面包括人脸图像以及识别出的人脸部位特征点。
比如,当终端根据人脸形变指令获取待处理的人脸图像后,可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变界面实现识别出的人脸五官特征点,以便于用户对人脸五官特征点进行操作实现人脸形变,参考图1c,其中,人脸形变编辑界面包括人脸图像以及识别出的人脸五官特征点。
104、当检测到用户针对人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量。
其中,拖动向量为人脸图像的图像坐标系(如二维坐标系)中具有方向和大小的量。该人脸图像的图像坐标系可以为二维坐标系,可以根据实际需求建立,比如,可以以人脸图像左上角的点为原点,水平方向为X轴,垂直方向为Y轴建立二维坐标系。
其中,一个向量的表示可以由向量的起点和终点表示,在构建向量时只需直到向量的起点位置和终点位置便可以构建一个向量。
因此,本发明实施例中,拖动向量可以包括起点、终点;拖动向量的起点可以为拖动操作的起始点,拖动向量的终点可以为拖动操作的当前点。
其中,拖动操作的位置信息可以包括拖动操作的拖动轨迹上的点在人脸图像中(如在人脸图像的图像坐标系)中位置信息(如二维坐标x、y)。
因此,本发明实施例中,可以基于拖动操作在人脸图像的图像坐标系中的位置信息构建向量。
比如,拖动操作的位置信息可以包括拖动操作的起始点、当前点在人脸图像中的位置,此时,可以基于起始点、当前点的位置信息构建一个拖动向量。
具体地,步骤“根据拖动操作的位置信息获取拖动操作对应的拖动向量”,可以包括:
获取拖动操作的起始点、当前点在人脸图像中的位置;
根据拖动操作的起始点、当前点在人脸图像中的位置,生成拖动操作对应的拖动向量。
其中,拖动操作起始点在人脸图像中的位置可以基于拖动操作起始点在屏幕上的位置以及界面元素的屏幕位置得到;比如,可以基于拖动操作起始点在屏幕上的坐标以及UI界面元素(人脸形变编辑界面元素)的坐标,计算出拖动操作起始点在图像坐标系中的位置(如坐标)。
例如,以屏幕为触摸屏为例,此时,拖动操作即为在触摸屏上的滑动操作,终端在显示人脸形变编辑界面后,可以检测屏幕的触摸事件;当终端检测到屏幕滑动触摸事件时,可以根据滑动触摸的起始触摸点(此时触摸点即为滑动操作的起始点)在屏幕中的位置,以及人脸形变编辑界面的界面元素在屏幕的位置;计算出该触摸点即手势起始点在人脸图像如图像坐标系中的位置。
同样,拖动操作的当前点在人脸图像中的位置也可以基于拖动操作的当前点在屏幕上的位置、以及当前界面元素的屏幕位置得到。
例如,可以获取拖动操作的起点、当前点在人脸图像的图像坐标系中位置信息(即坐标),得到起始点坐标P0(x0,y0)和当前点坐标P1(x1,y1);然后,基于P0(x0,y0)、P1(x1,y1)计算出拖动向量A=P0-P1
譬如,参考图1d,当终端根据人脸形变指令获取待处理的人脸图像后,可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变编辑界面显示识别出的人脸五官特征点,之后用户朝着某个方向对人脸五官特征点进行拖动操作,实现人脸形变,参考图1d,用户可以根据需求通过手指对显示的某个人脸五官特征点向左进行拖动,以实现人脸形变。
在一实施例中,为了便于用户操作实现人脸形变,在显示人脸形变编辑界面后,可以由用户选择一个待编辑特征点,然后,用对选择的待编辑特征点进行拖动操作从而实现形变。
具体地,本发明实施例方法还可以包括:
当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点;
此时,步骤“当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量”,可以包括:
当检测到用户针对所述待编辑人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量。
其中,特征点选择操作的类型可以有多种,比如,点击操作、按压操作等等。
采用该方案,对于用户来说,可以在人脸形变编辑界面执行特征点选择操作,比如,可以人脸形变编辑界面执行点击操作,此时,终端可以基于特征点选择操作如点击操作从众多人脸部位特征点中选择用户需要编辑的待编辑人脸部位特征点,然后,用户可以对待编辑人脸部位特征点进行拖动即可实现相应的人脸形变。
在一实施例中,为了便于用户执行人脸形变操作,还可以在确定当前的待编辑人脸部位特征点时,对当前的待编辑人脸部位特征点进行突出显示,以提醒用户。其中,突出显示的方式可以有多种,比如,采用颜色的方式,譬如,可以将待编辑人脸部位特征点的颜色显示为预定颜色等等。
其中,根据所述特征点选择操作确定待编辑人脸部位特征点的方式可以有多种,比如,在一实施例中,可以直接根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点。
具体地,可以根据特征点选择操作在人脸图像中的位置信息从所述人脸部位特征点中确定当前的待编辑人脸部位特征点;比如,可以从所述人脸部位特征点中确定与特征点选择操作位置距离最近的人脸部位特征点作为当前的待编辑人脸部位特征点。
例如,当特征点操作为点击操作时,终端可以获取点击操作点在人脸图像坐标系中的坐标P(x,y),以及各人脸部位特征点的坐标;然后,根据人脸部位特征点和点击操作点的坐标,确定当前的待编辑人脸部位特征点。比如,确定与点击操作点距离最近的人脸部位特征点作为当前的待编辑人脸部位特征点。
譬如,参考图1d,当终端根据人脸形变指令获取待处理的人脸图像后,可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变编辑界面显示识别出的人脸五官特征点,之后用户可以人脸形变编辑界面上执行点击操作,以选择当前待编辑的人脸五官特征点,此时,终端可以检测到用户针对人脸形变界面的点击操作,并根据点击操作确定用户选择的待编辑人脸五官特征点(如选择脸部轮廓特征点);接着,用户可以朝着某个方向对选择的待编辑人脸五官特征点进行拖动操作,实现人脸形变,参考图1d,用户可以根据需求通过手指对显示的某个人脸五官特征点向左进行拖动,以实现人脸形变。
在一实施例中,考虑到人脸部位特征点显示较小,用户无法准确地选择需要编辑的人脸部位特征点,为提升人脸部位特征点的选择准确性以及人脸形变精确性,还可以对人脸部位特征点进行放大显示,便于用户选择待编辑人脸五官特征点,比如,当用户在人脸形变编辑界面执行特征点选择操作时,可以基于特征点选择操作对某些用户可能选择的人脸部位特征点进行放大。
比如,步骤“当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点”,可以包括:
当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前待编辑的候选人脸部位特征点;
对所述候选人脸部位特征点进行放大显示;
基于检测到的用户针对放大显示后候选人脸部位特征点的特征点确认操作,确定当前的待编辑人脸部位特征点。
其中,候选人脸部位特征点的选择方式可以有多种,比如,在一实施例中,可以根据特征点选择操作在人脸图像中的位置信息从所述人脸部位特征点中确定候选人脸部位特征点;比如,可以从所述人脸部位特征点中确定与特征点选择操作之间的位置距离在预设范围内的人脸部位特征点作为当候选人脸部位特征点。
例如,当特征点操作为点击操作时,终端可以获取点击操作点在人脸图像坐标系中的坐标P(x,y),以及各人脸部位特征点的坐标;然后,根据人脸部位特征点和点击操作点的坐标,确定当前待编辑的候选人脸部位特征点。比如,确定每个人脸部位特征点与点击操作点之间的距离;然后,选择距离在预设范围内的人脸部位特征点作为当前的待编辑的候选人脸部位特征点。
其中,放大显示的方式有多种,比如,可以通过一个界面放大显示候选人脸部位特征带点。比如,通过特征点选择界面放大显示候选人脸部位特征点。
又比如,还可以在人脸形变编辑界面中之间对候选人脸部位特征点进行放大显示。
譬如,当终端根据人脸形变指令获取待处理的人脸图像后,可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变编辑界面显示识别出的人脸五官特征点,之后用户可以人脸形变编辑界面上执行点击操作,以选择当前待编辑的人脸五官特征点,此时,终端可以检测到用户针对人脸形变界面的点击操作,并根据点击操作确定用户可能选择的候选人脸五官特征点,然后,显示特征点确认界面,该界面包括放大显示的候选人脸五官特征点;此时,用户在特征点确认界面中执行特征点确认操作如点击操作等,终端可以基于检测到特征点确认操作确定或选择当前待编辑的人脸五官特征点(如选择脸部轮廓特征点);接着,用户可以朝着某个方向对选择的待编辑人脸五官特征点进行拖动操作,实现人脸形变,比如用户可以根据需求通过手指对选取的某个人脸五官特征点向左进行拖动,以实现人脸形变。
在一实施例中,为了便于准确地拖动特征点实现形变,还可以显示待编辑人脸部位特征点的拖动方向等信息。
在一实施例中,待编辑人脸部位特征点可以有多个,此时,用户可以针对多个待编辑人脸部位特征点进行拖动实现人脸形变,比如,用户可以同时选取多个待编辑人脸部位特征点,然后分别朝不同的方向对待编辑人脸部位特征点进行拖动,如用户可以采用双指捏合操作方式朝不同方向同时对多个待编辑人脸部位特征点进行拖动从而实现人脸形变。
105、从人脸图像中确定待移动的目标像素点。
其中,确定待移动的像素点的方式有多种,比如,可以基于拖动操作从人脸图像中确定待移动的目标像素点。
本发明实施例通过对人脸图像中局部像素点进行移动,从而实现人脸形变,因此,本发明实施例可以基于拖动操作从人脸图像中确定待移动的目标像素点。
在一实施例中,可以基于拖动操作的起始点在人脸图像中的位置来确定待移动的目标像素点。比如,步骤“根据拖动操作从人脸图像中确定待移动的目标像素点”,可以包括:
从人脸部位特征点中确定与起始点距离最近的目标人脸部位特征点,起始点为拖动操作的起始点;
根据目标人脸部位特征点从人脸图像中确定待移动的目标像素点。
比如,可以获取拖动操作的起始点在人脸图像如人脸图像坐标系中的位置(如坐标),以及人脸部位特征点在人脸图像如人脸图像坐标系中的位置(如坐标),然后,根据该起始点的位置、人脸部位特征点的位置,查询或搜索距离该起始点最近的目标人脸部位特征点。例如,当识别出90个人脸五官特征点时,可以根据该起始点的位置遍历这90个人脸五官特征点搜索出距离该起始点最近的人脸五官特征点。
其中,基于目标人脸部位特征点确定待移动的像素点方式有多种,比如,可以以目标人脸部位特征点为基点向周边进行像素扩充,当扩充结束时,将扩充区域内的像素点作为待移动的目标像素点。
又比如,在一实施例中,可以以目标人脸部位特征点为圆心,在图像上作圆形图案,得到圆形区域;将圆形区域内的像素点作为待移动的目标像素点。比如,步骤“根据目标人脸部位特征点从人脸图像中确定待移动的目标像素点”,可以包括:
将目标人脸部位特征点作为圆心;
根据圆心和预设半径在人脸图像上形成圆形的邻域;
将邻域内的图像像素点作为待移动的目标像素点。
其中,预设半径可以根据实际需求设定。
本发明实施例中,步骤104和105的时序不受序号限制,可以先执行步骤104后执行步骤105,具体地,根据实际产品需求来设定。
又比如,在一实施例中,当确定当前的待编辑人脸部位特征点的情况下,可以基于待编辑人脸部位特征点确定待移动的目标像素点,具体地,步骤“从所述人脸图像中确定待移动的目标像素点”,可以包括:根据所述待编辑人脸部位特征点从所述人脸图像中确定待移动的目标像素点。
在一实施例中,可以以待编辑人脸部位特征点为圆心,在图像上作圆形图案,得到圆形区域;将圆形区域内的像素点作为待移动的目标像素点。比如,步骤“根据待编辑人脸部位特征点从人脸图像中确定待移动的目标像素点”,可以包括:
将待编辑人脸部位特征点作为圆心;
根据圆心和预设半径在人脸图像上形成圆形的邻域;
将邻域内的图像像素点作为待移动的目标像素点。
其中,预设半径可以根据实际需求设定。
106、根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像。
本发明实施例中,拖动向量可以用于指示人脸形变,比如,基于拖动向量来确定像素点的移动参数(也即人脸形变参数),然后,根据移动参数来对目标像素点进行移动。
比如,步骤“根据拖动向量对人脸图像中的目标像素点进行移动”,可以包括:
根据拖动向量确定目标像素点的像素移动参数;
根据像素移动参数对人脸图像中的目标像素点进行移动。
其中,像素移动参数可以包括像素移动方向、像素位移权重;该像素移动方向为像素需要移动的方向,也即图像变换的方向;该像素位移权重可以为像素点需要移动的距离权重,也即图像拉伸和收缩的权重;在实际应用中,该像素位移权重越大像素点移动的距离越大。
本实施例中,为了便于基于向量确定像素移动参数,可以将向量的方向与像素移动方向对应,向量的膜与像素位移权重对应。
具体地,步骤“根据拖动向量确定目标像素点的像素移动参数”,可以包括:
根据拖动向量的方向确定目标像素点的像素移动方向;
根据拖动向量的模确定目标像素点的像素位移权重。
比如,可以将拖动向量的方向确定为像素移动方向,基于预设算法计算向量的膜对应的像素位移权重。
此时,步骤“根据像素移动参数对人脸图像中的目标像素点进行移动”,可以包括:根据像素位移权重将目标像素点沿着像素移动方向移动。
本实施例中,像素点的移动可以指的是像素点的位置移动,也即改变像素点在人脸图像中的位置。
在一实施例中,为提升人脸形变的精准度,像素位移权重的确定还可以结合向量的膜、以及像素点与目标人脸部位特征点之间的距离,这两个因素来确定像素点的像素位移权重。
也即,步骤“根据拖动向量的模确定像素位移权重”,可以包括:
根据拖动向量的模、以及目标像素点与目标人脸部位特征点之间的距离,确定目标像素点的像素位移权重。
其中,目标人脸部位特征点为距离拖动操作起始点最近的人脸部位特定点。
例如,在得到向量A后,可以在人脸图像(如人脸图像坐标系)中设定一个圆形的领域,该领域的半径为r,该领域的圆心为与拖动操作起始点最近的人脸五官特征点,此时,可以将圆形领域中的像素点作为待移动的像素点,此时,可以将领域内的图像像素点根据向量A的方向和膜进行移动(如当A的方向为水平方向时,可以对领域内的像素点进行平移),从而对整个邻域内的像素点进行非线性的形变处理,达到人脸形变效果。具体地,移动像素点时,可以根据向量A的模|A|以及像素点距离中心点的距离确定位移权重。该中心点即为圆心;实际应用中,距离中心点越近的像素位移权重越大,反之越小。
譬如,参考图1d,在人脸形变编辑界面显示识别出的人脸五官特征点,之后用户对人脸五官特征点进行拖动操作,如将脸部轮廓特定点向左拖动一定距离,此时,终端将会构建拖动向量,基于拖动向量对人脸图像中的目标像素点进行移动,得到移动后图像(移动图像中左侧人脸轮廓更具有棱角);之后终端可以将移动后图像实时渲染到屏幕,从而实现人脸形变的实时编辑效果。
通过上述介绍的人脸图像处理方法可以对某张待处理人脸图像中的人脸进行人脸形变,在一实施例,如果待处理人脸图像为视频帧,也即该人脸图像来自于某个视频,可以对视频中的每一帧图像进行相同的人脸形变,并将形变后的图像渲染到屏幕,实现视频中人脸形变的实时编辑效果。具体地,终端可以根据保存的拖动向量等信息对视频中其余帧图像进行人脸图像处理。
对于用户来说,对采集到的视频中某张人脸图像进行人脸形变操作,实现单张人脸图像的人脸形变的同时,也可以实现整个视频中的人脸形变;用户会看到采集到视频中每张图像的人脸形变效果是相同,如都是大眼、或者瘦脸等效果。
由上可知,本发明实施例可以接收人脸形变指令,并根据人脸形变指令获取待处理的人脸图像;对人脸图像进行特征点识别,得到人脸部位特征点;显示人脸形变编辑界面,人脸形变编辑界面包括人脸部位特征点;当检测到用户针对人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量;从人脸图像中确定待移动的目标像素点;根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像。由于该方案可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面拖动相应的人脸部位特征点即可实现人脸形变,无需多次切换素材参数来得到所需的人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
根据前面实施例所描述的方法,以下将以该人脸图像处理装置具体集成在终端举例作进一步详细说明。
参考图2,本发明实施例的人脸图像处理方法的具体流程可以如下:
201、终端接收人脸形变指令,并根据人脸形变指令获取待处理的人脸图像。
其中,人脸形变指令的触发方式可以有多种,比如,可以在图像拍摄界面中设置人脸形变接口触发人脸形变指令,此时,终端可以对该指令进行接收,并根据该人脸形变指令截取当前显示的人脸图像作为待处理的人脸图像。
譬如,终端运行图像处理应用时,可以通过图像处理应用调用摄像实时采集人物的人脸图像,并在图像预览界面实时显示采集到人脸图像。此时,图像拍摄界面中显示有“人脸形变编辑”按钮,当用户点击该按钮时触发生成人脸形变指令,此时,终端可以根据人脸形变指令从图像预览界面截取一张人脸图像,作为待处理的人脸图像。
在安卓Android平台上,终端可以使用Camera API(相机接口)可以获取视频输入的每一帧图像并加载到GPU(Graphics Processing Unit,图像处理器),然后,通过OpenGLES(OpenGL for Embedded Systems)API,对GPU中的每一帧图像渲染到屏幕上进行实时预览。
在编辑人脸图像时,可以根据人脸形变指令抓取GPU中的一帧静态图像作为待处理的人脸图像。
202、终端对人脸图像进行特征点识别,得到人脸部位特征点。
比如,终端可以采用训练后的人脸特征点网络识别模型对人脸图像进行特征点识别,得到人脸部位特征点。该人脸特征点网络识别模型可以基于深度学习网络,比如卷积神经网络。
在一实施例中,还可以先对人脸图像进行预处理(如尺寸缩放等),然后,采用训练后的人脸特征点网络识别模型对人脸图像进行特征点识别,得到人脸部位特征点。
其中,人脸部位特征点可以为反映人脸部位(如人脸五官)本质特征的点,比如,可以包括:人脸五官特征点,可以包括:脸部轮廓特征点、眼睛特征点(如左眼特征点、右眼特征点、瞳孔特征点)、眉毛特征点(如左眉毛特征点、右眉毛特征点)、嘴巴特征点、鼻子特征点等等。
譬如,可以参考图1c,采用人脸特征网络识别模型对人脸图像进行识别,可以得到人脸五官特征点,其中,脸五官特征点使用90个坐标点进行描述,其中脸部轮廓21个点,左眼8个点,右眼8个点,瞳孔2个点,左眉毛8个点,右眉毛8个点,嘴巴22个点,鼻子13个点。
203、终端在人脸形变编辑界面中显示人脸部位特征点。
其中,人脸形变编辑界面包括人脸图像以及识别出的人脸部位特征点。
比如,终端可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变界面实现识别出的人脸五官特征点,以便于用户对人脸五官特征点进行操作实现人脸形变。
204、当检测到用户针对人脸部位特征点的拖动操作时,终端根据拖动操作的位置信息构建拖动操作对应的拖动向量。
比如,在显示人脸形变编辑界面后,用户如果需要对人脸形变时,可以拖动人脸部位特征点实现所需的人脸形变;对于终端,在显示人脸形变编辑界面后终端可以实时检测用户针对该人脸形变编辑界面的操作;当检测到针对某个人脸部位特征点的拖动操作(或滑动操作)时,可以根据拖动操作的位置信息构建相应的向量,便于后续基于该向量进行人脸形变。
其中,拖动向量为人脸图像的图像坐标系(如二维坐标系)中具有方向和大小的量。该人脸图像的图像坐标系可以为二维坐标系,可以根据实际需求建立,比如,可以以人脸图像左上角的点为原点,水平方向为X轴,垂直方向为Y轴建立二维坐标系,
其中,一个向量的表示可以由向量的起点和终点表示,在构建向量时只需直到向量的起点位置和终点位置便可以构建一个向量。
因此,本发明实施例中,拖动向量可以包括起点、终点;拖动向量的起点可以为拖动操作的起始点,拖动向量的终点可以为拖动操作的当前点。
比如,拖动操作的位置信息可以包括拖动操作的起始点、当前点在人脸图像中的位置,此时,可以获取拖动操作的起始点、当前点在人脸图像中的位置;根据拖动操作的起始点、当前点在人脸图像中的位置,生成拖动操作对应的拖动向量。
其中,拖动操作起始点在人脸图像中的位置可以基于拖动操作起始点在屏幕上的位置以及界面元素的屏幕位置得到;比如,可以基于拖动操作起始点在屏幕上的坐标以及UI界面元素(人脸形变编辑界面元素)的坐标,计算出拖动操作起始点在图像坐标系中的位置(如坐标)。
例如,以屏幕为触摸屏为例,此时,拖动操作即为在触摸屏上的滑动操作,终端在显示人脸形变编辑界面后,可以检测屏幕的触摸事件;当终端检测到屏幕滑动触摸事件时,可以根据滑动触摸的起始触摸点(此时触摸点即为滑动操作的起始点)在屏幕中的位置,以及人脸形变编辑界面的界面元素在屏幕的位置;计算出该触摸点即手势起始点在人脸图像如图像坐标系中的位置。
同样,拖动操作的当前点在人脸图像中的位置也可以基于拖动操作的当前点在屏幕上的位置、以及当前界面元素的屏幕位置得到。
在一实施例中,当检测到用户针对人脸部位特征点的触摸操作时,可以获取触摸操作的起始触摸点在屏幕上的屏幕位置、以及触摸操作的当前触摸点在屏幕上的屏幕位置;然后,可以基于界面元素在屏幕上的位置,以及起始触摸点的屏幕位置计算出起始触摸点在人脸图像坐标系中的位置(即坐标),基于界面元素在屏幕上的位置、以及当前触摸点在屏幕上的屏幕位置计算出当前触摸点在人脸图像坐标系中的位置(即坐标),。
例如,可以获取拖动操作的起点、当前点在人脸图像的图像坐标系中位置信息(即坐标),得到起始点坐标P0(x0,y0)和当前点坐标P1(x1,y1);然后,基于P0(x0,y0)、P1(x1,y1)计算出拖动向量A=P0-P1
在一实施例中,为了便于用户操作实现人脸形变,在显示人脸形变编辑界面后,可以由用户选择一个待编辑特征点,然后,用户对选择的待编辑特征点进行拖动操作从而实现形变。
比如,当检测到用户针对人脸形变编辑界面的特征点选择操作时,终端可以根据特征点选择操作从人脸部位特征点中确定当前的待编辑人脸部位特征点;当检测到用户针对待编辑人脸部位特征点的拖动操作时,根据拖动操作的位置信息构建拖动操作对应的拖动向量。
其中,特征点选择操作的类型可以有多种,比如,点击操作、按压操作等等。
在一实施例中,考虑到人脸部位特征点显示较小,用户无法准确地选择需要编辑的人脸部位特征点,为提升人脸部位特征点的选择准确性以及人脸形变精确性,还可以对人脸部位特征点进行放大显示,便于用户选择待编辑人脸五官特征点,比如,当用户在人脸形变编辑界面执行特征点选择操作时,可以基于特征点选择操作对某些用户可能选择的人脸部位特征点进行放大。
比如,终端当检测到用户针对人脸形变编辑界面的特征点选择操作时,根据特征点选择操作从人脸部位特征点中确定当前待编辑的候选人脸部位特征点;对候选人脸部位特征点进行放大显示;基于检测到的用户针对放大显示后候选人脸部位特征点的特征点确认操作,确定当前的待编辑人脸部位特征点。
譬如,当终端根据人脸形变指令获取待处理的人脸图像后,可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变编辑界面显示识别出的人脸五官特征点,之后用户可以人脸形变编辑界面上执行点击操作,以选择当前待编辑的人脸五官特征点,此时,终端可以检测到用户针对人脸形变界面的点击操作,并根据点击操作确定用户可能选择的候选人脸五官特征点,然后,显示特征点确认界面,该界面包括放大显示的候选人脸五官特征点;此时,用户在特征点确认界面中执行特征点确认操作如点击操作等,终端可以基于检测到特征点确认操作确定或选择当前待编辑的人脸五官特征点(如选择脸部轮廓特征点)。
205、终端从人脸部位特征点中确定与拖动操作起始点距离最近的目标人脸部位特征点。
比如,可以获取拖动操作的起始点在人脸图像如人脸图像坐标系中的位置(如坐标),以及人脸部位特征点在人脸图像如人脸图像坐标系中的位置(如坐标),然后,根据该起始点的位置、人脸部位特征点的位置,查询或搜索距离该起始点最近的目标人脸部位特征点。例如,当识别出90个人脸五官特征点时,可以根据该起始点的位置遍历这90个人脸五官特征点搜索出距离该起始点最近的人脸五官特征点。
206、终端根据目标人脸部位特征点从人脸图像中确定待移动的目标像素点。
比如,将目标人脸部位特征作为圆心;根据圆心和预设半径在人脸图像上形成圆形的邻域;将邻域内的图像像素点作为待移动的目标像素点。
例如,在得到向量A后,可以在人脸图像(如人脸图像坐标系)中设定一个圆形的领域,该领域的半径为r,该领域的圆心为与拖动操作起始点最近的人脸五官特征点,此时,可以将圆形领域中的像素点作为待移动的像素点。
207、终端根据拖动向量确定目标像素点的像素移动参数。
其中,像素移动参数可以包括像素移动方向、像素位移权重;该像素移动方向为像素需要移动的方向,也即图像变换的方向;该像素位移权重可以为像素点需要移动的距离权重,也即图像拉伸和收缩的权重;在实际应用中,该像素位移权重越大像素点移动的距离越大。
比如,终端可以根据拖动向量确定目标像素点的像素移动参数;根据像素移动参数对人脸图像中的目标像素点进行移动。
本实施例中,为了便于基于向量确定像素移动参数,可以将向量的方向与像素移动方向对应,向量的膜与像素位移权重对应。
本实施例中,为了便于基于向量确定像素移动参数,可以将向量的方向与像素移动方向对应,向量的膜与像素位移权重对应。
比如,终端根据拖动向量的模、以及目标像素点与目标人脸部位特征点之间的距离,确定目标像素点的像素位移权重。
208、终端根据像素移动参数对人脸图像中的目标像素点进行移动,得到移动后人脸图像。
比如,终端可以根据像素位移权重和像素移动方向对目标像素点进行移动,也即进行人脸形变处理。
本发明实施例通过对人脸图像中局部像素点进行移动,从而实现人脸形变。
209、终端显示移动后人脸图像。
比如,终端可以将移动后人脸图像渲染到屏幕显示。例如,采用OpenGLES(OpenGLfor Embedded Systems)进行图像渲染
由上可知,本发明实施例可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面拖动相应的人脸部位特征点即可实现人脸形变,无需多次切换素材参数来得到所需的人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
根据前面实施例所描述的方法,以下将以该人脸图像处理装置具体集成在终端举例作进一步详细说明。
参考图3,本发明实施例的人脸图像处理方法的具体流程可以如下:
301、终端获取待处理的人脸图像。
其中,待处理人的人脸图像的获取方式有多种,比如,可以接收人脸形变指令,并根据人脸形变指令。
其中,人脸形变指令的触发方式可以有多种,具体可以参考上述的描述。
302、终端对人脸图像进行特征点识别,得到人脸部位特征点。
比如,终端可以采用训练后的人脸特征点网络识别模型对人脸图像进行特征点识别,得到人脸部位特征点。该人脸特征点网络识别模型可以基于深度学习网络,比如卷积神经网络。
其中,人脸部位特征点可以为反映人脸部位(如人脸五官)本质特征的点,比如,可以包括:人脸五官特征点,可以包括:脸部轮廓特征点、眼睛特征点(如左眼特征点、右眼特征点、瞳孔特征点)、眉毛特征点(如左眉毛特征点、右眉毛特征点)、嘴巴特征点、鼻子特征点等等。
303、终端显示人脸形变编辑界面,该人脸形变编辑界面包括人脸部位特征点。
其中,人脸形变编辑界面包括人脸图像以及识别出的人脸部位特征点。
比如,终端可以对人脸图像进行特征点识别,得到人脸五官特征点,并在人脸形变界面实现识别出的人脸五官特征点,以便于用户对人脸五官特征点进行操作实现人脸形变。
304、当检测到用户针对人脸形变编辑界面的特征点选择操作时,终端根据特征点选择操作从人脸部位特征点中确定当前的待编辑人脸部位特征点。
其中,特征点选择操作的类型可以有多种,比如,点击操作、按压操作等等。
比如,在显示人脸形变编辑界面后,用户可以在界面上执行特征点选择操作选择一个待编辑特征点,譬如,通过点击操作从众多特征点中选择需要操作的特征点。
在一实施例中,考虑到人脸部位特征点显示较小,用户无法准确地选择需要编辑的人脸部位特征点,为提升人脸部位特征点的选择准确性以及人脸形变精确性,还可以对人脸部位特征点进行放大显示,便于用户选择待编辑人脸五官特征点,比如,当用户在人脸形变编辑界面执行特征点选择操作时,可以基于特征点选择操作对某些用户可能选择的人脸部位特征点进行放大。
比如,终端当检测到用户针对人脸形变编辑界面的特征点选择操作时,根据特征点选择操作从人脸部位特征点中确定当前待编辑的候选人脸部位特征点;对候选人脸部位特征点进行放大显示;基于检测到的用户针对放大显示后候选人脸部位特征点的特征点确认操作,确定当前的待编辑人脸部位特征点。
305、当检测到用户针对待编辑人脸部位特征点的拖动操作时,终端根据拖动操作的位置信息构建拖动操作对应的拖动向量。
比如,用户人脸形变编辑界面中选择待编辑人脸部位特征点之后,可以对选择的待编辑人脸部位特征点进行拖动从而实现相应人脸部位的形变。
其中,基于拖动操作的位置信息构建拖动向量的方式可以参考上述实施例的描述。
306、终端根据待编辑人脸部位特征点从人脸图像中确定待移动的目标像素点。
比如,终端将待编辑人脸部位特征点作为圆心;根据圆心和预设半径在人脸图像上形成圆形的邻域;将邻域内的图像像素点作为待移动的目标像素点。其中,预设半径可以根据实际需求设定。
307、终端根据拖动向量对人脸图像中的目标像素点进行移动,并显示移动后的人脸图像。
本发明实施例中,拖动向量可以用于指示人脸形变,比如,基于拖动向量来确定像素点的移动参数(也即人脸形变参数),然后,根据移动参数来对目标像素点进行移动。
具体地,根据拖动向量对像素点的移动方式可以参考上述实施例的描述。
由上可知,本发明实施例可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面选择待编辑人脸部位特征点,并拖动选择的人脸部位特征点即可实现人脸形变,无需多次切换素材参数来得到所需的人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
为了更好地实施以上方法,本发明实施例还可以提供一种人脸图像处理装置,该人脸图像处理装置具体可以集成在终端中,该终端可以包括:手机、平板电脑、笔记本电脑或个人计算机(PC,Personal Computer)等。
例如,如图4a所示,该人脸图像处理装置可以包括图像获取单元401、识别单元402、界面显示单元403、向量获取单元404、像素确定单元405和移动显示单元406,如下:
图像获取单元401,用于接收人脸形变指令,并根据所述人脸形变指令获取待处理的人脸图像;
识别单元402,用于对所述人脸图像进行特征点识别,得到人脸部位特征点;
界面显示单元403,用于显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;
向量获取单元404,用于当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;
像素确定单元405,用于从所述人脸图像中确定待移动的目标像素点;
移动显示单元406,用于根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
在一实施例中,参考图4b,所述移动显示单元406,可以包括:
参数确定子单元4061,用于根据所述拖动向量确定所述目标像素点的像素移动参数;
移动子单元4062,用于根据所述像素移动参数对所述人脸图像中的所述目标像素点进行移动;
显示子单元4063,用于显示移动后的人脸图像。
在一实施例中,参数确定子单元4061可以具体用于:
根据所述拖动向量的方向确定所述目标像素点的像素移动方向;
根据所述拖动向量的模确定所述目标像素点的像素位移权重。
在一实施例中,参数确定子单元4061可以具体用于:
根据所述拖动向量的方向确定所述目标像素点的像素移动方向;
根据所述拖动向量的模、以及所述目标像素点与目标人脸部位特征点之间的距离,确定所述目标像素点的像素位移权重。
在一实施例中,向量获取单元404,可以具体用于:
获取所述拖动操作的起始点、当前点在所述人脸图像中的位置;
根据所述拖动操作的起始点、当前点在所述人脸图像中的位置,生成所述拖动操作对应的拖动向量。
在一实施例中,参考图4c,所述像素确定单元405,可以包括:
特定点确定子单元4051,用于从所述人脸部位特征点中确定与所述起始点距离最近的目标人脸部位特征点;
像素确定子单元4052,用于根据所述目标人脸部位特征点从所述人脸图像中确定待移动的目标像素点。
在一实施例中,特定点确定子单元4051,可以具体用于:
将所述目标人脸部位特征作为圆心;
根据所述圆心和预设半径在所述人脸图像上形成圆形的邻域;
将所述邻域内的图像像素点作为待移动的目标像素点。
在一实施例中,参考图4d,人脸图像处理装置还可以包括:特征点确定单元407;
所述特征点确定单元407,可以用于:当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点;
其中,向量获取单元404,可以具体用于当检测到用户针对所述待编辑人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量。
在一实施例中,特征点确定单元407,可以具体用于:
当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前待编辑的候选人脸部位特征点;
对所述候选人脸部位特征点进行放大显示;
基于检测到的用户针对放大显示后候选人脸部位特征点的确认操作,确定当前的待编辑人脸部位特征点。
在一实施例中,像素确定单元405,可以具体用于:根据所述待编辑人脸部位特征点从所述人脸图像中确定待移动的目标像素点
具体实施时,以上各个单元可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单元的具体实施可参见前面的方法实施例,在此不再赘述。
由上可知,本实施例的人脸图像处理装置通过图像获取单元401获取待处理的人脸图像;由识别单元402对所述人脸图像进行特征点识别,得到人脸部位特征点;由界面显示单元403显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;由向量获取单元404当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;由像素确定单元405从所述人脸图像中确定待移动的目标像素点;由移动显示单元406根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。由于该方案可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面拖动相应的人脸部位特征点即可实现人脸形变,无需多次切换素材参数来得到所需的人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
本发明实施例还提供一种终端,该终端可以集成本发明实施例所提供的任一种人脸图像处理装置。
例如,如图5所示,其示出了本发明实施例所涉及的终端的结构示意图,具体来讲:
该终端可以包括一个或者一个以上处理核心的处理器501、一个或一个以上计算机可读存储介质的存储器502、电源503和输入单元504等部件。本领域技术人员可以理解,图5中示出的终端结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器501是该终端的控制中心,利用各种接口和线路连接整个终端的各个部分,通过运行或执行存储在存储器502内的软件程序和/或模块,以及调用存储在存储器502内的数据,执行终端的各种功能和处理数据,从而对终端进行整体监控。可选的,处理器501可包括一个或多个处理核心;优选的,处理器501可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器501中。
存储器502可用于存储软件程序以及模块,处理器501通过运行存储在存储器502的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器502可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据终端的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器502还可以包括存储器控制器,以提供处理器501对存储器502的访问。
终端还包括给各个部件供电的电源503,优选的,电源503可以通过电源管理系统与处理器501逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源503还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该终端还可包括输入单元504,该输入单元504可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,终端还可以包括显示单元等,在此不再赘述。具体在本实施例中,终端中的处理器501会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器502中,并由处理器501来运行存储在存储器502中的应用程序,从而实现各种功能,如下:
获取待处理的人脸图像;对所述人脸图像进行特征点识别,得到人脸部位特征点;显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;根据所述拖动操作从所述人脸图像中确定待移动的目标像素点;根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
由上可知,本实施例的终端可以获取待处理的人脸图像;对所述人脸图像进行特征点识别,得到人脸部位特征点;显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;从所述人脸图像中确定待移动的目标像素点;根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。由于该方案可以基于用户针对人脸部位特征点的拖动操作对人脸图像进行人脸形变处理,对于用户来说只需在人脸形变编辑界面拖动相应的人脸部位特征点即可实现人脸形变,无需多次切换素材参数来得到所需的人脸形变;因此,该方案可以提升脸部形变处理的灵活性和效率。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本发明实施例提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本发明实施例所提供的任一种人脸图像处理方法中的步骤。例如,该指令可以执行如下步骤:
接收人脸形变指令,并根据所述人脸形变指令获取待处理的人脸图像;对所述人脸图像进行特征点识别,得到人脸部位特征点;显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;从所述人脸图像中确定待移动的目标像素点;根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本发明实施例所提供的任一种人脸图像处理方法中的步骤,因此,可以实现本发明实施例所提供的任一种人脸图像处理方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本发明实施例所提供的一种人脸图像处理方法、装置和存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (15)

1.一种人脸图像处理方法,其特征在于,包括:
获取待处理的人脸图像;
对所述人脸图像进行特征点识别,得到人脸部位特征点;
显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;
当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;
从所述人脸图像中确定待移动的目标像素点;
根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
2.如权利要求1所述的人脸图像处理方法,其特征在于,根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,包括:
根据所述拖动向量确定所述目标像素点的像素移动参数;
根据所述像素移动参数对所述人脸图像中的所述目标像素点进行移动。
3.如权利要求2所述的人脸图像处理方法,其特征在于,根据所述拖动向量确定所述目标像素点的像素移动参数,包括:
根据所述拖动向量的方向确定所述目标像素点的像素移动方向;
根据所述拖动向量的模确定所述目标像素点的像素位移权重。
4.如权利要求3所述的人脸图像处理方法,其特征在于,根据所述拖动向量的模确定像素位移权重,包括:
根据所述拖动向量的模、以及所述目标像素点与目标人脸部位特征点之间的距离,确定所述目标像素点的像素位移权重。
5.如权利要求1所述的人脸图像处理方法,其特征在于,根据所述拖动操作的位置信息获取所述拖动操作对应的拖动向量,包括:
获取所述拖动操作的起始点、当前点在所述人脸图像中的位置;
根据所述拖动操作的起始点、当前点在所述人脸图像中的位置,生成所述拖动操作对应的拖动向量。
6.如权利要求5所述的人脸图像处理方法,其特征在于,从所述人脸图像中确定待移动的目标像素点,包括:
从所述人脸部位特征点中确定与所述起始点距离最近的目标人脸部位特征点;
根据所述目标人脸部位特征点从所述人脸图像中确定待移动的目标像素点。
7.如权利要求6所述的人脸图像处理方法,其特征在于,根据所述目标人脸部位特征点从所述人脸图像中确定待移动的目标像素点,包括:
将所述目标人脸部位特征点作为圆心;
根据所述圆心和预设半径在所述人脸图像上形成圆形的邻域;
将所述邻域内的图像像素点作为待移动的目标像素点。
8.如权利要求1所述的人脸图像处理方法,其特征在于,还包括:
当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点;
当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量,包括:
当检测到用户针对所述待编辑人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量。
9.如权利要求8所述的人脸图像处理方法,其特征在于,当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点,包括:
当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前待编辑的候选人脸部位特征点;
对所述候选人脸部位特征点进行放大显示;
基于检测到的用户针对放大显示后候选人脸部位特征点的确认操作,确定当前的待编辑人脸部位特征点。
10.如权利要求8或9所述的人脸图像处理方法,其特征在于,从所述人脸图像中确定待移动的目标像素点,包括:
根据所述待编辑人脸部位特征点从所述人脸图像中确定待移动的目标像素点。
11.一种人脸图像处理装置,其特征在于,包括:
图像获取单元,用于获取待处理的人脸图像;
识别单元,用于对所述人脸图像进行特征点识别,得到人脸部位特征点;
界面显示单元,用于显示人脸形变编辑界面,所述人脸形变编辑界面包括所述人脸部位特征点;
向量获取单元,用于当检测到用户针对所述人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量;
像素确定单元,用于从所述人脸图像中确定待移动的目标像素点;
移动显示单元,用于根据所述拖动向量对所述人脸图像中的所述目标像素点进行移动,并显示移动后的人脸图像。
12.如权利要求11所述的人脸图像处理装置,其特征在于,所述移动显示单元,包括:
参数确定子单元,用于根据所述拖动向量确定所述目标像素点的像素移动参数;
移动子单元,用于根据所述像素移动参数对所述人脸图像中的所述目标像素点进行移动;
显示子单元,用于显示移动后的人脸图像。
13.如权利要求11所述的人脸图像处理装置,其特征在于,所述像素确定单元,包括:
特定点确定子单元,用于从所述人脸部位特征点中确定与所述起始点距离最近的目标人脸部位特征点;
像素确定子单元,用于根据所述目标人脸部位特征点从所述人脸图像中确定待移动的目标像素点。
14.如权利要求11所述的人脸图像处理装置,其特征在于,还包括:特征点确定单元;
所述特征点确定单元,用于当检测到用户针对所述人脸形变编辑界面的特征点选择操作时,根据所述特征点选择操作从所述人脸部位特征点中确定当前的待编辑人脸部位特征点;
所述向量获取单元,用于当检测到用户针对所述待编辑人脸部位特征点的拖动操作时,根据所述拖动操作的位置信息构建所述拖动操作对应的拖动向量。
15.一种存储介质,其特征在于,所述存储介质存储有多条指令,所述指令适于处理器进行加载,以执行权利要求1至10任一项所述的人脸图像处理方法中的步骤。
CN201811009591.3A 2018-08-31 2018-08-31 一种人脸图像处理方法、装置和存储介质 Active CN109242765B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811009591.3A CN109242765B (zh) 2018-08-31 2018-08-31 一种人脸图像处理方法、装置和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811009591.3A CN109242765B (zh) 2018-08-31 2018-08-31 一种人脸图像处理方法、装置和存储介质

Publications (2)

Publication Number Publication Date
CN109242765A true CN109242765A (zh) 2019-01-18
CN109242765B CN109242765B (zh) 2023-03-10

Family

ID=65067920

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811009591.3A Active CN109242765B (zh) 2018-08-31 2018-08-31 一种人脸图像处理方法、装置和存储介质

Country Status (1)

Country Link
CN (1) CN109242765B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109685015A (zh) * 2018-12-25 2019-04-26 北京旷视科技有限公司 图像的处理方法、装置、电子设备和计算机存储介质
CN110069195A (zh) * 2019-01-31 2019-07-30 北京字节跳动网络技术有限公司 图像拖拽变形方法和装置
CN110365903A (zh) * 2019-07-25 2019-10-22 腾讯科技(深圳)有限公司 基于视频的对象处理方法、装置、设备及可读存储介质
CN110502993A (zh) * 2019-07-18 2019-11-26 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN111488759A (zh) * 2019-01-25 2020-08-04 北京字节跳动网络技术有限公司 动物脸部的图像处理方法和装置
CN112233253A (zh) * 2020-12-14 2021-01-15 成都完美时空网络技术有限公司 虚拟球体的形变控制方法、装置、电子设备及存储介质
CN112508777A (zh) * 2020-12-18 2021-03-16 咪咕文化科技有限公司 一种美颜方法、电子设备及存储介质
CN113986105A (zh) * 2020-07-27 2022-01-28 北京达佳互联信息技术有限公司 人脸图像的变形方法、装置、电子设备及存储介质
CN114296622A (zh) * 2020-09-23 2022-04-08 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN114445555A (zh) * 2021-12-24 2022-05-06 广东时谛智能科技有限公司 鞋楦建模调整方法、装置、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105321147A (zh) * 2014-06-25 2016-02-10 腾讯科技(深圳)有限公司 图像处理的方法及装置
US9639914B2 (en) * 2014-06-19 2017-05-02 Tencent Technology (Shenzhen) Company Limited Portrait deformation method and apparatus
CN107154030A (zh) * 2017-05-17 2017-09-12 腾讯科技(上海)有限公司 图像处理方法及装置、电子设备及存储介质
CN107578380A (zh) * 2017-08-07 2018-01-12 北京金山安全软件有限公司 一种图像处理方法、装置、电子设备及存储介质
CN107835367A (zh) * 2017-11-14 2018-03-23 维沃移动通信有限公司 一种图像处理方法、装置及移动终端
US20180204052A1 (en) * 2015-08-28 2018-07-19 Baidu Online Network Technology (Beijing) Co., Ltd. A method and apparatus for human face image processing

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9639914B2 (en) * 2014-06-19 2017-05-02 Tencent Technology (Shenzhen) Company Limited Portrait deformation method and apparatus
CN105321147A (zh) * 2014-06-25 2016-02-10 腾讯科技(深圳)有限公司 图像处理的方法及装置
US20180204052A1 (en) * 2015-08-28 2018-07-19 Baidu Online Network Technology (Beijing) Co., Ltd. A method and apparatus for human face image processing
CN107154030A (zh) * 2017-05-17 2017-09-12 腾讯科技(上海)有限公司 图像处理方法及装置、电子设备及存储介质
CN107578380A (zh) * 2017-08-07 2018-01-12 北京金山安全软件有限公司 一种图像处理方法、装置、电子设备及存储介质
CN107835367A (zh) * 2017-11-14 2018-03-23 维沃移动通信有限公司 一种图像处理方法、装置及移动终端

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
陈粟 等: "一种人脸图像局部变形技术", 《计算机工程与应用》 *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109685015A (zh) * 2018-12-25 2019-04-26 北京旷视科技有限公司 图像的处理方法、装置、电子设备和计算机存储介质
CN111488759A (zh) * 2019-01-25 2020-08-04 北京字节跳动网络技术有限公司 动物脸部的图像处理方法和装置
CN110069195A (zh) * 2019-01-31 2019-07-30 北京字节跳动网络技术有限公司 图像拖拽变形方法和装置
CN110069195B (zh) * 2019-01-31 2020-06-30 北京字节跳动网络技术有限公司 图像拖拽变形方法和装置
CN110502993A (zh) * 2019-07-18 2019-11-26 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN110502993B (zh) * 2019-07-18 2022-03-25 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN110365903A (zh) * 2019-07-25 2019-10-22 腾讯科技(深圳)有限公司 基于视频的对象处理方法、装置、设备及可读存储介质
CN110365903B (zh) * 2019-07-25 2022-11-29 腾讯科技(深圳)有限公司 基于视频的对象处理方法、装置、设备及可读存储介质
CN113986105A (zh) * 2020-07-27 2022-01-28 北京达佳互联信息技术有限公司 人脸图像的变形方法、装置、电子设备及存储介质
WO2022022220A1 (zh) * 2020-07-27 2022-02-03 北京达佳互联信息技术有限公司 人脸图像的变形方法和变形装置
CN113986105B (zh) * 2020-07-27 2024-05-31 北京达佳互联信息技术有限公司 人脸图像的变形方法、装置、电子设备及存储介质
CN114296622A (zh) * 2020-09-23 2022-04-08 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN114296622B (zh) * 2020-09-23 2023-08-08 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN112233253A (zh) * 2020-12-14 2021-01-15 成都完美时空网络技术有限公司 虚拟球体的形变控制方法、装置、电子设备及存储介质
CN112508777A (zh) * 2020-12-18 2021-03-16 咪咕文化科技有限公司 一种美颜方法、电子设备及存储介质
CN114445555A (zh) * 2021-12-24 2022-05-06 广东时谛智能科技有限公司 鞋楦建模调整方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN109242765B (zh) 2023-03-10

Similar Documents

Publication Publication Date Title
CN109242765A (zh) 一种人脸图像处理方法、装置和存储介质
JP2022084635A (ja) ユーザインタフェースカメラ効果
CN108776970A (zh) 图像处理方法和装置
CN109087239A (zh) 一种人脸图像处理方法、装置及存储介质
CN110457092A (zh) 头像创建用户界面
CN105068748A (zh) 触屏智能设备的摄像头实时画面中用户界面交互方法
EP3752904B1 (en) Avatar integration with multiple applications
CN108876934A (zh) 关键点标注方法、装置和系统及存储介质
JP6314251B2 (ja) 操作入力装置、操作入力方法及びプログラム
EP4323962A2 (en) Garment segmentation
CN104917967A (zh) 一种拍照方法及终端
CN110231871A (zh) 页面阅读方法、装置、存储介质及电子设备
WO2022108807A1 (en) Real-time motion transfer for prosthetic limbs
US11673054B2 (en) Controlling AR games on fashion items
WO2022095860A1 (zh) 指甲特效的添加方法及装置
US20230169739A1 (en) Light and rendering of garments
WO2022111458A1 (zh) 图像拍摄方法和装置、电子设备及存储介质
CN105912101A (zh) 一种投影控制方法和电子设备
WO2022183175A1 (en) Whole body segmentation
CN107544740B (zh) 应用处理方法、装置、存储介质及电子设备
WO2017152848A1 (zh) 人物面部模型的编辑方法及装置
US20220094653A1 (en) Augmenting image content with sound
CN111589151A (zh) 一种交互功能的实现方法、装置、设备和存储介质
CN113350788A (zh) 一种虚拟角色的换装方法、装置和介质
CN112529770A (zh) 图像处理方法、装置、电子设备和可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant