CN110663063B - 一种评价脸妆的方法及装置 - Google Patents
一种评价脸妆的方法及装置 Download PDFInfo
- Publication number
- CN110663063B CN110663063B CN201780091213.1A CN201780091213A CN110663063B CN 110663063 B CN110663063 B CN 110663063B CN 201780091213 A CN201780091213 A CN 201780091213A CN 110663063 B CN110663063 B CN 110663063B
- Authority
- CN
- China
- Prior art keywords
- makeup
- evaluation
- user
- evaluation result
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
一种评价脸妆的方法及装置,涉及图像处理技术领域,能够解决用户无法将终端输出的效果图所呈现的处理结果运用到实际化妆中的问题。方法包括:采集人物图像帧(301);依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果(302);显示人物图像帧、以及评价结果和/或与评价结果对应的化妆建议(303);其中指定模型的模型参数为将初始模型参数进行调整后得到的针对当前用户进行脸妆评价的个性化模型参数。评价脸妆的方法及装置适用于终端。
Description
技术领域
本发明实施例涉及图像处理技术领域,尤其涉及一种评价脸妆的方法及装置。
背景技术
随着图像处理技术的发展,越来越多的图像处理软件应运而生。用户可以将本地存储的人物图像或是实时采集的人物图像,通过上述图像处理软件进行脸部美化,以按照软件中预设的大众审美原则,对人物图像中的肤色、五官等部分进行调整,最终得到处理后的效果图,供用户使用。
上述实现方式虽然能够确保用户得到自己所期望的效果图,但由于该效果图的生成主要取决于图像处理软件,因此,人物图像的改观并不能有效影响用户的实际化妆过程。并且,对于用户而言,得到的效果图不仅经过了光强等处理,同时很可能也采用了脸型修饰、瞳孔放大等处理方式。由此可见,上述调整过程往往只能在已有人物图像的基础上进行调整,从而为用户提供更好的视觉效果,而依据呈现出的效果图,用户很难有针对性地调整自己实际的脸妆。
发明内容
本发明实施例提供一种评价脸妆的方法及装置,能够解决用户无法将终端输出的效果图所呈现的处理结果运用到实际化妆中的问题。
为达到上述目的,本发明实施例采用如下技术方案:
第一方面,本发明实施例提供一种评价脸妆的方法。该方法具体包括:采集人物图像帧,并依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果,之后显示人物图像帧、以及评价结果和/或与评价结果对应的化妆建议。其中,指定模型的模型参数为将初始模型参数进行调整后得到的针对当前用户进行脸妆评价的个性化模型参数。由此可见,终端并不对采集到的人物图像本身进行改善,而是经过终端内部的处理后,得到相应的评价结果,之后将原始的人物图像帧呈现给用户,并且将评价结果和/或与评价结果对应的化妆建议呈现给用户。这样一来,在未呈现化妆建议的情况下,用户可以根据终端呈现出的评价结果及反映自己当前实际脸妆的人物图像帧,确定调整脸妆的方案,并实施;在呈现化妆建议的情况下,用户可以直接依据呈现的化妆建议来调整脸妆,从而确保用户能够将依据评价结果得出的调整方案或是呈现出的化妆建议,将相应的化妆效果体现在用户实际的脸妆上,也就解决了用户无法将终端输出的效果图所呈现的处理结果运用到实际化妆中的问题。
在一种可能的设计中,头像区域中包括n个局部区域,其中,n为大于或等于1的整数。若指定模型为深度神经网络模型,则依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果,可以实现为:依据深度神经网络模型,或依据深度神经网络模型和预设规则,对头像区域进行评价,得到头像区域整体的评价结果、n个局部区域的评价结果,以及用于表示n个局部区域中至少两个局部区域之间关联关系的评价结果中的至少一项。其中,预设规则为根据用户的面部特征制定的用于确定n个局部区域的评价结果以及关联关系的评价结果的评判规则。对于预设规则而言,可以视为用户预先设定的评判规则,比如,用户眼角周围有一个痦子,那么摄像头所采集到的人物图像中,靠近眼角周围的位置上必然会存在一个黑点,若采用深度神经网络模型对该人物图像的脸妆进行评价,很可能会将这个黑点视为污点,从而影响用户脸妆的评价结果。为了降低这一情况发生的概率,用户可以预先配置规则,比如,规则具体为,眼角周围区域所体现的脸妆效果不予考虑,这样一来,终端所识别到的污点就不会对用户脸妆的评价结果带来影响。当然,用户可以剔除部分区域,使被剔除的部分区域不参与评价,或是降低这部分区域的评价力度,比如,对于发现污点的情况,不会降低脸妆的评价等。这样一来,若是综合考虑深度神经网络模型和预设规则共同进行评价得到的评价结果,则可以得到更准确的反映用户实际脸妆的评价结果。
在一种可能的设计中,在显示与评价结果对应的化妆建议之前,该方法还包括:遍历数据库,查找与评价结果对应的化妆建议。其中,数据库用于存储每条评价结果与化妆建议之间的匹配关系。在本发明实施例中,评价结果可以有效评价用户当前脸妆,若用户对化妆技巧掌握娴熟,则用户可以直接依据评价结果所呈现的内容,对当前脸妆进行调整,从而达到用户所期望的视觉效果。而在实际化妆过程中,一般只有从事专职化妆相关行业的用户才能更好的驾驭各种化妆方式,而对于普通用户而言,很难针对评价结果找到用以克服当前脸妆缺陷的最佳方案。因此,在本发明实施例中,可以通过预置数据库的方式,将各种评价结果与相应的化妆建议进行匹配。若在呈现评价结果时,一并向用户呈现化妆建议,那么用户就可以更快速选择自己所需的调整方式,从而在提升调整脸妆速度的同时,得到更佳满意的化妆效果。
在一种可能的设计中,在得到头像区域的评价结果之后,还可以显示将化妆建议应用在人物图像帧后的预测效果图。对于用户而言,能够结合化妆建议,调整自己的脸妆才是用户最想得到的真实体验效果。仅显示化妆建议虽然能对用户调整脸妆起到帮助,但可能由于用户对于化妆技巧的掌握不够娴熟,无法预测采用这种化妆建议是否能够达到用户所期望的视觉效果,因此,在本发明实施例中,呈现预测效果图能够供用户更直观的了解所提供的化妆建议是否适用于用户本人,从而使用户灵活选择自己所需的化妆建议。
在一种可能的设计中,在依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果之前,该方法还包括:显示静态人物图像,并获取当前用户输入的对每张静态人物图像中至少一个局部区域的评价结果、和/或头像区域整体的评价结果、和/或关联关系评价结果。此外,还需要获取指定用户完成脸妆评价的静态人物图像及对应的评价结果。其中,指定用户与当前用户满足指定条件,指定条件包括指定用户的面部特征与当前用户的面部特征之间的相似度大于第一阈值、以及指定用户与当前用户针对同一人物图像给出的评价结果之间的相似度大于第二阈值中的至少一项。之后根据指定用户与当前用户完成脸妆评价的静态人物图像及分别对应的评价结果,训练指定模型,并将指定模型中的初始模型参数调整为个性化模型参数。在实际操作过程中,终端可以基于得到的个性化标注数据,对指定模型进一步训练,直至指定模型收敛,并将收敛后指定模型所应用的模型参数作为针对当前用户而言得到的个性化模型参数。
在一种可能的设计中,头像区域包括脸型、或者包括脸型和发型,头像区域中的局部区域包括五官中的至少一项。这样一来,在评价过程中,不仅能考虑到头像区域整体对评价结果的影响,同时能考虑到某一部分,即局部区域,或是至少两个局部区域之间关联关系对评价的影响,也就使评价结果更加全面且具有说服力。
在一种可能的设计中,采集人物图像帧,可以具体实现为:获取图像流,并从图像流中进行抽样,得到人物图像帧。考虑到图像流中每两帧图像的采集间隔较短,而在实际采集过程中,短时间范围内连续采集到的几帧图像在内容上并不会发生巨大改变,即相邻两帧图像很可能完全相同,或是仅有细微的变化。因此,为了节省人物图像处理过程中所耗费的资源,在本发明实施例中,终端可以对摄像头获取到的图像流进行抽样,从而得到一定数量的人物图像帧,并对这些人物图像帧分别进行处理。同样的,在通过显示屏向用户输入人物图像帧的过程中,实际是向用户输出采集到的图像流,不过在呈现的图像流中,会叠加包括评价结果和化妆建议在内的人物图像帧。这样一来,输出的图像流中会存在一部分人物图像帧的评价结果和化妆建议。为了给用户提供更好的视觉阅览效果,在本发明实施例中,当前显示的评价结果,可以在出现新的评价结果时直接替换,从而确保呈现给用户的图像流中一直存在评价结果,同理,化妆建议也可以采用相同的输出方式。也就意味着,针对某一帧输出的人物图像而言,该人物图像帧可能未经过评价、建议等操作,但在显示时,仍会沿用前一帧包括评价结果和化妆建议的人物图像帧所包含的内容。
第二方面,本发明实施例提供一种评价脸妆的装置。该装置可以实现上述方法实施例中所实现的功能,所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个上述功能相应的模块。
在一种可能的设计中,该装置的结构中包括处理器和收发器,该处理器被配置为支持该装置执行上述方法中相应的功能。该收发器用于支持该装置与其他设备之间的通信。该装置还可以包括存储器,该存储器用于与处理器耦合,其保存该装置必要的程序指令和数据。
第三方面,本发明实施例提供一种计算机存储介质,用于储存为实现上述功能所用的计算机软件指令,其包含用于执行上述方面所设计的程序。
附图说明
图1为本发明实施例提供的一种终端结构示意图;
图2为本发明实施例提供的一种评价脸妆的方法的过程示意图;
图3为本发明实施例提供的一种脸妆评价与建议系统202所实现的工作流程示意图;
图4为本发明实施例提供的一种评价脸妆的方法流程图;
图5为本发明实施例提供的某一帧人物图像中特定区域划分示意图;
图6为本发明实施例提供的一种呈现评价结果的示意图;
图7为本发明实施例提供的另一种评价脸妆的方法流程图;
图8为本发明实施例提供的一种脸妆评价与建议系统202的结构示意图;
图9为本发明实施例提供的一种智能评价模块402实现相应功能的示意图;
图10为本发明实施例提供的一种对用户眼睛与眉毛之间的关联性进行评价的流程示意图;
图11、图12为本发明实施例提供的另一种评价脸妆的方法流程图;
图13为本发明实施例提供的一种给脸妆提供智能化建议的过程示意图;
图14为本发明实施例提供的一种给脸妆提供智能化建议的方法流程图;
图15为本发明实施例提供的一种提取脸部特征、纹理,检索相应化妆模板,以及应用化妆模板生成预测效果图的操作流程示意图;
图16为本发明实施例提供的另一种评价脸妆的方法流程图;
图17为本发明实施例提供的一种脸部照片评价模块404实现相应功能的示意图;
图18为本发明实施例提供的一种指定模型训练的过程示意图;
图19为本发明实施例提供的另一种评价脸妆的方法流程图;
图20为本发明实施例提供的一种评价脸妆的装置结构示意图;
图21为本发明实施例提供的另一种评价脸妆的装置结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。本文所涉及的技术术语的中英文对照参见表一内容。
表一
本发明实施例可以用于一种终端,该终端可以包括笔记本电脑、智能手机等设备。该终端至少设置有摄像头、显示屏、输入设备和处理器,以终端100为例,如图1所示,该终端100中包括处理器101、存储器102、摄像头103、RF电路104、音频电路105、扬声器106、话筒107、输入设备108、其他输入设备109、显示屏110、触控面板111、显示面板112、输出设备113、以及电源114等部件。其中,显示屏110至少由作为输入设备的触控面板111和作为输出设备的显示面板112组成。需要说明的是,图1中示出的终端结构并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置,在此不做限定。
下面结合图1对终端100的各个构成部件进行具体的介绍:
RF电路104可用于收发信息或通话过程中,信号的接收和发送,比如,若该终端100为手机,那么该终端100可以通过RF电路104,将基站发送的下行信息接收后,传送给处理器101处理;另外,将涉及上行的数据发送给基站。通常,RF电路包括但不限于天线、至少一个放大器、收发信机、耦合器、LNA、双工器等。此外,RF电路104还可以通过无线通信与网络和其他设备通信。该无线通信可以使用任一通信标准或协议,包括但不限于GSM、GPRS、CDMA、WCDMA、LTE、电子邮件、SMS等。
存储器102可用于存储软件程序以及模块,处理器101通过运行存储在存储器101的软件程序以及模块,从而执行终端100的各种功能应用以及数据处理。存储器101可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如,声音播放功能、图象播放功能等)等;存储数据区可存储根据终端100的使用所创建的数据(比如,音频数据、视频数据等)等。此外,存储器101可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
其他输入设备109可用于接收输入的数字或字符信息,以及产生与终端100的用户设置以及功能控制有关的键信号输入。具体地,其他输入设备109可包括但不限于物理键盘、功能键(比如,音量控制按键、开关按键等)、轨迹球、鼠标、操作杆、光鼠(光鼠是不显示可视输出的触摸敏感表面,或者是由触摸屏形成的触摸敏感表面的延伸)等中的一种或多种。其他输入设备109还可以包括终端100内置的传感器,比如,重力传感器、加速度传感器等,终端100还可以将传感器所检测到的参数作为输入数据。
显示屏110可用于显示由用户输入的信息或提供给用户的信息以及终端100的各种菜单,还可以接受用户输入。此外,显示面板112可以采用LCD、OLED等形式来配置显示面板112;触控面板111,也称为触摸屏、触敏屏等,可收集用户在其上或附近的接触或者非接触操作(比如,用户使用手指、触笔等任何适合的物体或附件在触控面板111上或在触控面板111附近的操作,也可以包括体感操作;该操作包括单点控制操作、多点控制操作等操作类型),并根据预先设定的程式驱动相应的连接装置。需要说明的是,触控面板111还可以包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位、姿势,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成处理器101能够处理的信息,再传送给处理器101,并且,还能接收处理器101发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板111,也可以采用未来发展的任何技术实现触控面板111。一般情况下,触控面板111可覆盖显示面板112,用户可以根据显示面板112显示的内容(该显示内容包括但不限于软键盘、虚拟鼠标、虚拟按键、图标等),在显示面板112上覆盖的触控面板111上或者附近进行操作,触控面板111检测到在其上或附近的操作后,传送给处理器101以确定用户输入,随后处理器101根据用户输入,在显示面板112上提供相应的视觉输出。虽然在图1中,触控面板111与显示面板112是作为两个独立的部件来实现终端100的输入和输出功能,但是在某些实施例中,可以将触控面板111与显示面板112集成,以实现终端100的输入和输出功能。
RF电路104、扬声器106,话筒107可提供用户与终端100之间的音频接口。音频电路105可将接收到的音频数据转换后的信号,传输到扬声器106,由扬声器106转换为声音信号输出;另一方面,话筒107可以将收集的声音信号转换为信号,由音频电路105接收后转换为音频数据,再将音频数据输出至RF电路104以发送给诸如另一终端的设备,或者将音频数据输出至存储器102,以便处理器101结合存储器102中存储的内容进行进一步的处理。另外,摄像头103可以实时采集图像帧,并传送给处理器101处理,并将处理后的结果存储至存储器102和/或将处理后的结果通过显示面板112呈现给用户。
处理器101是终端100的控制中心,利用各种接口和线路连接整个终端100的各个部分,通过运行或执行存储在存储器102内的软件程序和/或模块,以及调用存储在存储器102内的数据,执行终端100的各种功能和处理数据,从而对终端100进行整体监控。需要说明的是,处理器101可以包括一个或多个处理单元;处理器101还可以集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、UI和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器101中。
终端100还可以包括给各个部件供电的电源114(比如,电池),在本发明实施例中,电源114可以通过电源管理系统与处理器101逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗等功能。
此外,图1中还存在未示出的部件,比如,终端100还可以包括蓝牙模块等,在此不再赘述。
本发明实施例提供一种评价脸妆的方法,该方法可以由图1所示的终端100执行。如图2所示,为该方法在实现过程中的步骤示意图,即终端200的摄像头201可以实时采集人物图像帧,之后将人物图像帧传送至脸妆评价与建议系统202,并由该系统202实现脸妆评价、建议,之后将评价及建议的结果渲染到采集的人物图像帧上,并通过显示屏203呈现给用户。此外,该终端200中还设置有输入设备203,在建立指定模型的过程中,用户可以通过输入设备204针对不同人物图像输入主观评价,关于指定模型的定义、建立过程等,会在后文提出,在此不做赘述。
如图3所示,为上述脸妆评价与建议系统202所实现的工作流程示意图。脸妆评价与建议系统202在工作时,主要涉及三个阶段,这三个阶段分别为数据标注阶段(即图3中所示的阶段A)、离线训练阶段(即图3中所示的阶段B)、在线分析阶段(即图3中所示的阶段C)。需要说明的是,图中预训练模型参数、个性化模型参数以及数据库,可以作为脸妆评价与建议系统202中的一部分,其中,预训练模型参数与数据库可以为独立于脸妆评价与建议系统202的一部分,比如,终端100可以通过互联网等通信方式,从网络侧或是其他设备中获取预训练模型参数以及数据库中记载的数据。
在本发明实施例中,阶段A主要用于掌握用户的审美情况,了解用户所偏好和/或厌恶的脸妆,并生成供模型训练的个性化数据标注;之后由阶段B完成模型训练,从而基于预训练模型参数,得到调整后的个性化模型参数,即得到训练后的指定模型,其中,指定模型会更适应用户的审美。在用户借助脸妆评价与建议系统202实现脸妆评价、建议时,摄像头会实时采集图像流,之后通过阶段C完成抽样、识别、评价、建议等过程,最终将渲染后的图像所构成的图像流,呈现在显示屏上。其中,脸妆评价及化妆建议部分会采用所得到的指定模型涉及的个性化模型参数;在确定脸妆评价的评价结果后,需要借助数据库中存储的映射关系,找到与该评价结果对应的化妆建议,并一一呈现给用户,从而给用户提供克服当前脸妆缺陷,或是使脸妆呈现效果更好的脸妆调整方式。需要说明的是,上述内容会在后文中分部分详细描述,对于各个部分的实现原理、细节,在此不做赘述。
如图4所示,上述方法的具体实现步骤可以包括:
步骤301、采集人物图像帧。
在采集人物图像帧的过程中,需要先对采集到的图像帧进行人脸识别,从而确保得到人物图像帧。其中,人脸识别具体可以包括人脸检测、部位关键点的定位和标识,之后以帧为单位,输出带标识信息的人物图像,供脸妆评价与建议系统实现人物图像的评价、建议。
需要说明的是,上述输出的带标识信息的人物图像,并不向用户呈现,直接呈现在显示屏上的图像流为实际摄像头采集到的图像流,这里所指的输出是将带标识信息的人物图像作为脸妆评价、建议的输入,即这一输入、输出过程仅体现在脸妆评价与建议系统内部,并不对外公示。
步骤302、依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果。
其中,指定模型的模型参数为将初始模型参数进行调整后得到的针对当前用户进行脸妆评价的个性化模型参数。另外,头像区域包括脸型、或者包括脸型和发型,头像区域中的局部区域包括五官中的至少一项。
如图5所示,为某一帧人物图像中特定区域划分示意图。其中,在(a)中将用户的头部轮廓和脸型部分用虚线框标出,并在头部轮廓中粗略划分4个矩形区域,供脸妆评价与建议系统进行整体评价;在(b)中将用户脸部所涉及的五官部分进行区域划分,具体可以包括:眉毛、眼睛、鼻子、嘴唇,需要说明的是,由于本发明实施例主要是对用户脸妆进行评价、建议,因此,对于用户五官部分中所包括的耳朵,并不一定需要考虑,当然,从综合性角度考虑,如果该帧人物图像中包括用户的耳朵,那么脸妆评价与建议系统也可以将耳朵考虑进来,不过通常情况下,用户并不会对耳朵进行着妆,最多是在耳朵上增加一些配饰来修饰脸型,因此,在本发明实施例的示例中,先不考虑耳朵给脸妆带来的影响,但需要说明的是,采用本发明实施例提供的评价、建议方式,是可以将用户的耳朵考虑进来并加以分析的;在(c)中将用户的头部轮廓和脸型部分用虚线框标出,同时标出用户脸部所包括的五官区域,并额外增加诸如额头、下巴等会影响部位关联性的区域划分。
在确定指定模型后,参照图5中(a)、(b)、(c)所示的划分结果,对完成划分的各局部区域及特定两个局部区域之间的关联关系进行评价,得出评价结果,并针对该评价结果,选择性提供与该评价结果对应的建议。需要说明的是,关于采用指定模型进行评价、建议的操作方式,以及评价结果,或是评价结果与建议的输出方式等内容,会在后文提出,在此不进行赘述。
步骤303、显示人物图像帧、以及评价结果和/或与评价结果对应的化妆建议。
其中,化妆建议可以点明当前脸妆的问题所在,并针对问题给予相应的调整方案,即在必要的时候。
如图6所示,为一种呈现评价结果的示意图。在终端的显示屏上,呈现通过摄像头采集的人物图像帧,并在人物图像帧的空白区域显示各项评价。其中,空白区域可以被理解为显示屏上不妨碍用户观看成像效果的区域。呈现评价结果的方式除了包括图6所示的这种比较直观的呈现方式外,还可以在显示屏的空白区域中显示菜单栏,以提示用户通过点击、滑动等操作查看隐藏的评价结果。需要说明的是,上述两种呈现评价结果的方式仅为众多呈现方式中一种可行的呈现方式,并不作为本发明实施例呈现评价效果的限定。
由此可见,终端并不对采集到的人物图像本身进行改善,而是经过终端内部的处理后,得到相应的评价结果,之后将原始的人物图像帧和评价结果呈现给用户,当然也可以将原始的人物图像帧和与评价结果对应的化妆建议呈现给用户,还可以将原始的人物图像帧、评价结果,以及与评价结果对应的化妆建议呈现给用户。需要说明的是,这里所呈现的化妆建议可以是部分评价结果对应的化妆建议,或是全部评价结果对应的化妆建议,具体的呈现内容可以由用户选择或是预先设置,在此不做限定。这样一来,用户可以根据终端呈现出的评价结果及反映自己当前实际脸妆的人物图像帧,确定调整脸妆的方案,并实施,从而确保用户依据评价结果得出的调整方案,能够有效体现在用户实际的脸妆上,或是直接依据已经呈现的与评价结果对应的化妆建议来调整自己的脸妆,也就解决了用户无法将终端输出的效果图所呈现的处理结果运用到实际化妆中的问题。
指定模型可以为目前已经应用在各个修图软件中的处理模型,在本发明实施例中,以指定模型为深度神经网络模型为例,提供根据指定模型与摄像头采集到的人物图像帧,得到评价结果的实现过程。因此,在如图4所示的实现方式的基础上,还可以实现为如图7所示的实现方式。其中,头像区域中包括n个局部区域,n为大于或等于1的整数,若指定模型为深度神经网络模型,则步骤302依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果,可以具体实现为步骤3021:
步骤3021、依据深度神经网络模型,或依据深度神经网络模型和预设规则,对头像区域进行评价,得到头像区域的评价结果、n个局部区域的评价结果,以及用于表示n个局部区域中至少两个局部区域之间关联关系的评价结果中的至少一项。
其中,预设规则为根据当前用户的面部特征制定的用于确定n个局部区域的评价结果以及关联关系的评价结果的评判规则。
对于预设规则而言,可以视为用户预先设定的评判规则,比如,用户眼角周围有一个痦子,那么摄像头所采集到的人物图像中,靠近眼角周围的位置上必然会存在一个黑点,若采用深度神经网络模型对该人物图像的脸妆进行评价,很可能会将这个黑点视为污点,从而降低用户脸妆的评价。为了降低这一情况发生的概率,用户可以预先配置规则,比如,规则具体为,眼角周围区域所体现的脸妆效果不予考虑,这样一来,终端所识别到的污点就不会对用户脸妆的评价带来影响。当然,用户可以剔除部分区域,使被剔除的部分区域不参与评价,或是降低这部分区域的评价力度,比如,对于发现污点的情况,不会影响脸妆的评价结果等。
参照如图3所示提供的上述脸妆评价与建议系统202所实现的工作流程示意图,还可以将脸妆评价与建议系统202实现为如图8所示的结构示意图。在如图8所示的结构示意图中,脸妆评价与建议系统202主要包括在线分析子系统、离线训练子系统,以及图像渲染模块406和信息处理与控制模块407。其中,在线分析子系统中包括人脸识别模块401、智能评价模块402和智能推荐模块403,这几个模块的功能主要是用于实现如图3所示阶段C所实现的除图像渲染外的其他功能;离线训练子系统中包括脸部照片评价模块404和模型离线训练模块405,这几个模块的功能主要用于实现如图3所示阶段A和阶段B所实现的功能;图像渲染模块406则主要用于实现阶段C中图像渲染的功能;信息处理与控制模块407则主要用于结合在线分析子系统、离线训练子系统的输出结果,以及输入设备采集到的用户输入的内容,将相应的数据、信息经分析、处理后,传送给图像渲染模块406,以使图像渲染模块406结合摄像头采集到的原始人物图像帧和信息处理与控制模块407输入的内容,对原始人物图像帧进行渲染,并将渲染后得到的人物图像帧通过显示屏呈现给用户。
参照图8所示的结构示意图可以了解到,在线分析子系统与离线训练子系统是可以同时或是分时段执行的,在本发明实施例中,由于摄像头采集到的人物图像帧是以图像流的形式呈现给用户,因此,图8所示各个模块可以被视为并行工作,即在同一子系统内,各个模块可以视为按照数据传送的流向,采用流水线的方式进行工作,而不同流水线阶段之间即为并行工作。比如,在人脸识别模块401对第一帧人物图像进行处理后,由智能评价模块402对该第一帧人物图像进行处理,同时,处于空闲状态的人脸识别模块401可以继续对第二帧人物图像进行处理。其中,第二帧人物图像为与第一帧人物图像相邻的下一帧待处理的人物图像。依次类推,每两个存在数据传送的模块之间也同样可以采用这种串行的处理方式。
在本发明实施例中,图8所示的智能评价模块402能够用来实现步骤3021所指示的操作,具体操作流程,如图9所示。其中,图9所示的基于深度神经网络的评价模型,即上述深度神经网络模型。由图可知,无论采用基于深度神经网络的评价模型,还是基于规则的评价模型,都可以得到相应的评价结果。其中,采用基于深度神经网络的评价模型,则需要输入原始人物图像,即摄像头采集到的人物图像帧,且输出的评价结果可以至少包括三种,即头像区域整体的评价结果、局部区域的评价结果和关联关系的评价结果,其中,关联关系的评价结果表示至少两个局部区域之间关联关系的评价,比如,局部区域A与局部区域B之间的关联关系,或是局部区域A、局部区域B以及局部区域C三者之间的关联关系等;采用基于规则的评价模型,则输入的图像为原始人物图像和脸部识别信息,且输出的评价结果,通常仅包括针对脸部识别信息进行区域划分后得到的各个局部区域的评价结果。
需要说明的是,上述局部区域可以被视为脸部识别信息所示的矩形区域,比如,五官部分、下巴、额头等区域。在本发明实施例中,局部区域的确定可以由用户根据自己对脸妆评价与建议系统的需求而预先设定,不仅限于图9所示的局部区域,当然也可以仅包括图9所示的部分局部区域,在此不做限定。
以深度神经网络模型为例,如图10所示,为对用户眼睛与眉毛之间的关联性进行评价的流程示意图。原始人物图像作为深度神经网络模型的输入,经过多次卷积、子抽样后,经过全相连,得到输出的评价结果。需要说明的是,图中仅示出两次卷积、子抽样的过程,在实际操作过程中,深度神经网络模型对原始人物图像处理的次数可以预先设定,一般情况下,处理的次数越多,则得到的结果越精准。对于深度神经网络模型的训练、生成,以及后续调整,在现有技术中已非常成熟,因此,在本发明实施例中仅以示例性的描述形式对实现效果加以阐述,对于深度神经网络模型的实现过程、原理等内容不做赘述,具体内容可参见现有技术。
此外,由于深度神经网络模型会对整张人物图像进行处理,因此,在处理过程中会考虑到人物图像中的背景颜色、光线等,即考虑到了用户周围环境对脸妆带来的影响,因此,能够更加准确的为用户提供合理的评价结果,并在用户需要的情况下,为用户提供调整当前脸妆的建议,即化妆建议。需要说明的是,对于提供化妆建议的方式,会在后文提出,在此不做赘述。
由此可见,在实际评价过程中,可以采用深度神经网络模型进行评价。为了进一步提高评价结果的精度,还可以在采用深度神经网络模型进行评价的同时,引入用户预设的规则模型进行评价。这样一来,能够使评价结果更贴近当前用户的个人需求,从而规避当前用户所独具的一些面部特征给评价结果带来的影响。
为了给用户提供更加优质的服务,在输出评价结果后,终端还可以选择性地根据得到的评价结果给予用户化妆建议,便于用户调整自己的脸妆。在如图4或图7所示的实现方式的基础上,以图4为例,还可以实现为如图11所示的实现方式。其中,步骤303显示人物图像帧、以及评价结果和/或与评价结果对应的化妆建议,可以实现为步骤3031、以及步骤3032和/或步骤3033;在执行步骤3033之前,还可以执行步骤501:
步骤3031、显示人物图像帧。
步骤3032、显示评价结果。
步骤3033、显示与评价结果对应的化妆建议。
步骤501、遍历数据库,查找与评价结果对应的化妆建议。
其中,数据库用于存储每条评价结果与化妆建议之间的匹配关系。
该数据库可以由用户或是工作人员预先配置,比如,用于衡量评价结果的好坏采取打分制,具体可以针对每一局部区域设置评分上限为10,在该局部区域的评分为9时对应一组化妆建议,在该局部区域的评分为8时对应一组化妆建议。需要说明的是,上述两组化妆建议所包含的内容可以存在交集,也就意味着,同一局部区域在得到不同评分时所得到的评价结果很可能存在不同,从而使评价结果所对应的化妆建议也可以部分相同或是完全不同,当然,在某些情况下,也可以完全相同。还需要说明的是,上述化妆建议以组为单位,仅作为本发明实施例提出的一种可能的情况,每组化妆建议可以包括一条或是多条化妆建议,在此不做限定。
再比如,眉毛评分为6时,可以视为眉毛所在的局部区域化妆不完整,则此时的化妆建议可以为将眉毛描粗等;人物图像整体评分为7时,可以视为刘海过长,则此时的化妆建议可以为将刘海收起可以更加成熟等。由此可见,呈现给用户的内容中不仅可以包括与评价结果对应的化妆建议,还可以包括采用上述化妆建议后所能达到的效果。
此外,为了更好的引导用户对脸妆进行调整,还可以呈现化妆建议所带来的效果,具体呈现形式,可以采用图像或是文字等方便用户理解的呈现方式,在此不做限定。
这样一来,用户能够结合实际评价结果和相应的化妆建议,更有针对性的调整脸妆。在调整脸妆的过程中,可以参考终端呈现给用户的化妆建议,从而在用户无从下手调整的时候,为用户提供类似于教程一样的化妆指导,即由用户根据化妆建议对脸妆进行调整。
为了使用户更加确定终端提供的化妆建议的实用性,在本发明实施例中,终端可以向用户呈现采用化妆建议后的预测效果图,供用户判断是否需要采用该化妆建议。因此,在如图4、图7、图11所示的实现方式的基础上,以图4为例,还可以实现为如图12所示的实现方式。其中,在执行步骤302依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果之后,还可以执行步骤502:
步骤502、显示将化妆建议应用在人物图像帧后的预测效果图。
如图13所示,为给脸妆提供智能化建议的一种可能的过程示意图。也就是根据各项评价结果,通过智能推荐模块403,采用该评价结果在数据库中对应的化妆建议。
如图14所示,为给脸妆提供智能化建议的一种可能的方法流程图。为了更好的给用户提供化妆建议,终端可以预先对评价结果进行分析,找出所有评价结果中一定数量的低分项;分析低分项对应的脸部特征,从数据库中检索对应的化妆建议,及该化妆建议对应的化妆模板;利用化妆模板,将采用该化妆模板修饰后的脸妆合成到原始人物图像上,形成采用上述化妆意见调整后的预测效果图;并且,对该预测效果图进行评价,需要说明的是,此次进行评价的模型与最初对原始人物图像进行评价的模型相同;若评价结果已达标,则输出上述化妆建议,或是输出上述化妆建议中对预测效果图影响最大的一条或多条化妆建议;若评价结果未达标,则继续检索化妆模板并再次对该图像进行调整,直至得到评价结果能够达标的预测效果图,之后将所采用的所有化妆建议呈现给用户,或是将所有化妆建议中影响较大的化妆建议呈现给用户。
需要说明的是,数据库中还可以存储每项化妆建议对应的化妆模板。该化妆模板可以为根据众多某一部分评价结果较高的人物图像中提取的具有共同特征的模板。
如图15所示,为提取脸部特征、纹理,检索相应化妆模板,以及应用化妆模板生成预测效果图的操作流程示意图。
将原始人物图像抽取纹理后,检索到相应的化妆模板,之后在合成时,将该化妆模板叠加到原始人物图像中与化妆模板对应的位置上,从而得到预测效果图。
随着多种多样修图软件的上市,目前也存在这多种多样的指定模型,该指定模型往往能符合大众的审美,比如,该指定模型可以为深度神经网络模型。在本发明实施例中,为了得到更符合某一特定用户审美的指定模型,还可以对已有指定模型的初始模型参数进行调整,从而得到个性化模型参数,并应用到上述指定模型,即针对不同用户完成指定模型的训练。因此,在如图4、图7、图11、图12所示的任意一项实现方式的基础上,以图4为例,还可以实现为如图16所示的实现方式。其中,在执行步骤302依据指定模型,对人物图像帧中的头像区域进行评价,得到头像区域的评价结果之前,还可以执行步骤601至步骤604:
步骤601、显示静态人物图像。
在本发明实施例中,静态人物图像可以为预存在照片数据库中的人物图像,还可以为存储在终端本地或是网络侧远程数据库中的人物图像或是摄像头临时采集的人物图像。对于静态人物图像的来源,在此不做限定。
在获取到静态人物图像后,终端可以通过显示屏向用户依次呈现各个静态人物图像,当然也可以批量显示静态人物图像,比如,将显示屏划分成九宫格,在每一个格子内显示一张静态人物图像。这样一来,用户就可以通过比较等方式,更加公平地对同一时间呈献给用户的人物图像进行评价。需要说明的是,显示静态人物图像的方式,不仅限于上述两种示例的情况,还可以为其他能够确保用户查看静态人物图像的方式,在此不做限定。
步骤602、获取当前用户输入的评价结果。
需要说明的是,当前用户所输入的评价结果可以包括当前用户对每张静态人物图像中至少一个局部区域的评价结果、和/或对人物图像整体进行评价的评价结果、和/或对于至少两个局部区域之间关联关系的评价结果。
如图17所示,作为脸部照片评价模块404的输入人物图像,可以为存储在照片数据库中的离线人物图像,或是由终端的摄像头实时采集到的人物图像帧;终端通过显示屏显示当前需要用户进行评价的人物图像;用户通过终端的输入设备对人物图像的各个评价项进行打分,即图中所示的个性化标注数据中的评分;之后脸部照片评价模块404结合用户输入的内容,生成个性化标注数据。
步骤603、获取指定用户完成脸妆评价的静态人物图像及对应的评价结果。
其中,指定用户与当前用户满足指定条件,指定条件包括指定用户的面部特征与当前用户的面部特征之间的相似度大于第一阈值、以及指定用户与当前用户针对同一人物图像给出的评价结果之间的相似度大于第二阈值中的至少一项。
上述第一阈值与第二阈值的设置方式及取值,在此不做限定,可以由当前用户或是工作人员结合历史经验值进行设置。
需要说明的是,一般情况下,为了确保脸妆评价与建议模型能够更贴近用户的需求,则需要用户对多个人物图像进行评价,以确保脸妆评价与建议模型充分掌握用户的审美个性。
另外,为了提高评价过程中的准确性,终端可以根据用户的脸部特征,比如,用户的脸型等特征,优先为用户推送相近的人物图像,作为训练模型的人物图像。需要说明的是,这里相近的人物图像指的是与当前用户的脸部特征相关性较高的人物图像,比如,与当前用户的脸部特征相同,或是与当前用户的部分脸部特征相同,且与当前用户其余部分的脸部特征差异较小的人物图像。当然,在本发明实施例中,对于相近的人物图像不仅限于上述几种可能的情况,还可以根据用户对于脸妆评价与建议的需求进行筛选,在此不做限定。与此同时,为了保证数据的全面性,还需要为当前用户推送与当前用户脸部特征差异较大的人物图像。需要说明的是,在实际训练过程中,不仅可以考虑当前用户的脸部特征,还可以考虑当前用户对于化妆风格的偏好,并针对不同化妆风格,分别选取一部分人物图像供当前用户评价使用。
由此可见,无论是照片数据库中存储的人物图像,还是通过摄像头采集到的人物图像,都需要按照当前用户的需求进行相应的分类,比如,按照脸型分类、按照化妆风格分类等。
在本发明实施例中,当前用户可以通过输入设备对静态人物图像进行依次或是批量评价。在实际操作过程中,若终端为手机,则用户可以通过触屏笔、显示屏上呈现的虚拟键盘等对人物图像进行评价;若终端为诸如笔记本等外接了输入设备的电子设备,则用户可以通过外接的输入设备,比如,鼠标、键盘等对人物图像进行评价。
为了供指定模型训练使用,终端可以将当前用户给出的评价结果保存在终端本地,或是本着节省终端存储资源的原则,将评价结果存储在网络侧或是位于其他设备的数据库中。由于用户手动输入的评价结果的数据量远小于训练指定模型所需的数据量,因此,将不同用户的评价结果统一存储,还能为应用于不同用户的指定模型提供更加丰富的训练资源。
为了使非用户本人输入的评价结果能够更有益于训练针对当前用户本人的指定模型,在实际操作过程中,可以将当前用户倾向的化妆类型相似的指定用户所输入的评价结果作为训练资源的一部分,或是针对同一人物图像,输入的评价结果与当前用户对该人物图像的评价相似程度较高的指定用户所评价的人物图像,作为训练资源的一部分。由此可见,关于训练资源的获取途径,在本发明实施例中不做限定,可以为同一个用户进行评价的人物图像,也可以为经由多个不同用户进行评价的人物图像,当然还可以包括多个用户对于不同人物图像进行评价后的人物图像。
步骤604、根据指定用户与当前用户完成脸妆评价的静态人物图像及分别对应的评价结果,训练指定模型,并将指定模型中的初始模型参数调整为个性化模型参数。
在本发明实施例中,训练指定模型的过程中,涉及到人脸识别、脸妆评价、化妆建议等实现过程,上述实现过程均可以采用机器学习模型进行训练。其中,人脸识别所用到的模型,可以包括ASM算法和/或AAM算法等,在本发明实施例中,可以采用通用的人脸识别技术来实现,在此不做赘述。
在实际操作过程中,终端可以基于得到的个性化标注数据,对指定模型进一步训练,直至指定模型收敛,并将收敛后指定模型所应用的模型参数作为针对当前用户而言得到的个性化模型参数。比如,当前用户对指定人物图像的整体评价的打分为8,而采用应用了初始模型参数的指定模型对该指定人物图像的整体评价的打分为7,由此可见,当前指定模型得到的评价结果与当前用户实际得到的评价结果差距较大,因此,需要对指定模型进行训练。待应用了个性化模型参数的指定模型得到的整体评价的打分为7.5至8.5的范围内时,可以将当前的指定模型确定为完成训练的指定模型,并将当前指定模型所应用的模型参数,作为当前用户的个性化模型参数。需要说明的是,与整体评价的打分8相差±0.5的浮动范围,可以被视为该指定模型在应用过程中允许的误差范围,这个参数可以由用户根据自身对于脸妆评价的需求,或是工作人员根据历史经验值,进行设定,对于该误差范围的设定方式、以及设置的具体取值,在此不做限定。
需要说明的是,对于指定模型为深度神经网络模型的情况,通常可以采用Momentum SGD、RMSProp或者Adam方法进行训练。上述这些可实现的训练方式所对应的具体实现过程,可以参考现有技术中针对这些技术所提供的实现方案,在此不做赘述。
如图18所示,为指定模型训练的过程示意图。即模型离线训练模块405集合预训练模型参数、个性化标注数据,对指定模型进行训练、调整,最终输出个性化模型参数。
考虑到终端通过摄像头所采集到的内容为图像流,如果试图对某一帧或是多帧的人物图像进行处理,则需要针对采集到的图像流进行帧提取的过程。因此,在如图4、图7、图11、图12、图16所示的任意一项实现方式的基础上,以图4为例,还可以实现为如图19所示的实现方式。其中,步骤301采集人物图像帧,可以具体实现为步骤3011:
步骤3011、获取图像流,并从图像流中进行抽样,得到人物图像帧。
考虑到图像流中每两帧图像的采集间隔较短,而在实际采集过程中,短时间范围内连续采集到的几帧图像在内容上并不会发生巨大改变,即相邻两帧图像很可能完全相同,或是仅有细微的变化。因此,为了节省人物图像处理过程中所耗费的资源,在本发明实施例中,终端可以对摄像头获取到的图像流进行抽样,从而得到一定数量的人物图像帧,并对这些人物图像帧分别进行处理。同样的,在通过显示屏向用户输入人物图像帧的过程中,实际是向用户输出采集到的图像流,不过在呈现的图像流中,会叠加包括评价结果和化妆建议在内的人物图像帧。这样一来,输出的图像流中会存在一部分人物图像帧的评价结果和化妆建议。为了给用户提供更好的视觉阅览效果,在本发明实施例中,当前显示的评价结果,可以在出现新的评价结果时直接替换,从而确保呈现给用户的图像流中一直存在评价结果,同理,化妆建议也可以采用相同的输出方式。也就意味着,针对某一帧输出的人物图像而言,该人物图像帧可能未经过评价、建议等操作,但在显示时,仍会沿用前一帧包括评价结果以及与评价结果对应的化妆建议的人物图像帧所包含的内容。
另外,在处理过程中,对后一次抽样得到的人物图像帧的处理过程,可以参考与该后一次抽样得到的人物图像帧相邻的前一次抽样得到的人物图像帧。比如,可以将前一次抽样得到的人物图像帧的人脸识别结果,应用到后一次抽样得到的人物图像帧。需要说明的是,一般相邻几次抽样得到的人物图像帧中,位于脸部中心轴线上的脸部特征并不会发生较大变化,因此,采用上述直接沿用前一次处理结果的方式,往往能够保证处理过程的准确性。为了进一步确保处理过程的准确性,在本发明实施例中,沿用前一次处理结果后,还可以对该处理结果进行微调,以得到更适应于当前应用场景的处理结果,这样就能在保证处理结果准确性的基础上,降低资源消耗。
需要说明的是,本发明实施例所实现的脸妆评价与建议的功能,可以进行外延扩展。如果上述功能在终端中以软件形式实现,则该软件可以作为移动互联网的流量入口,与远程服务器连接来提供各种附加服务,比如,基于用户脸部特征和个人喜好的个性化数据分析,在为用户提供化妆建议时,针对当前评价结果所体现的化妆缺陷,为用户推荐某一特定的化妆类商品,帮助用户克服当前的化妆缺陷。
在上述终端中可以设置有评价脸妆的装置,评价脸妆的装置为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本发明能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
本发明实施例可以根据上述方法示例对评价脸妆的装置进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本发明实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
如图20所示,为上述实施例中所涉及的评价脸妆的装置的一种可能的结构示意图。评价脸妆的装置10包括:采集模块11、评价模块12、显示模块13、搜索模块14、获取模块15、训练模块16和调整模块17。其中,采集模块11用于支持评价脸妆的装置10执行图4、图7、图11、图12、图16中的步骤301,图19中的步骤3011;评价模块12用于支持评价脸妆的装置10执行图4、图11、图12、图16、图19中的步骤302,图7中的步骤3021;显示模块13用于支持评价脸妆的装置10执行图4、图7、图12、图16、图19中的步骤303,图11中的步骤3031、步骤3032和步骤3033,图12中的步骤502,图16中的步骤601;搜索模块14用于支持评价脸妆的装置10执行图11中的步骤501;获取模块15用于支持评价脸妆的装置10执行图16中的步骤602和步骤603;训练模块16用于支持评价脸妆的装置10执行图16中的步骤604中的训练过程;调整模块17用于支持评价脸妆的装置10执行图16中的步骤604中的调整过程。
需要说明的是,评价模块12、搜索模块14、训练模块16和调整模块17除了可以分开部署外,还可以集成在处理模块20上,由处理模块20实现评价模块12、搜索模块14、训练模块16和调整模块17所能实现的功能,和/或用于本文所描述的技术的其它过程;采集模块11、显示模块13和获取模块15除了可以分开部署外,还可以集成在通信模块21上,由通信模块21实现采集模块11、显示模块13和获取模块15所能实现的功能,当然,通信模块21还用于支持终端与其他设备之间的通信。此外,评价脸妆的装置10中还可以设置有存储模块18,用于存储终端的程序代码和数据。
其中,处理模块20可以实现为处理器或控制器,例如可以是CPU,通用处理器,DSP,ASIC,FPGA或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。其可以实现或执行结合本发明公开内容所描述的各种示例性的逻辑方框,模块和电路。所述处理器也可以是实现计算功能的组合,例如包含一个或多个微处理器组合,DSP和微处理器的组合等等。通信模块21可以实现为收发器、收发电路或通信接口等。存储模块18可以实现为存储器。
若处理模块20实现为处理器、通信模块21实现为收发器、存储模块18实现为存储器,则如图21所示,评价脸妆的装置30包括:处理器31、收发器32、存储器33,以及总线34。其中,处理器31、收发器32和存储器33通过总线34相互连接;总线34可以是PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图21中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
结合本发明公开内容所描述的方法或者算法的步骤可以硬件的方式来实现,也可以是由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成,软件模块可以被存放于RAM、闪存、ROM、EPROM、EEPROM、寄存器、硬盘、移动硬盘、CD-ROM或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以部署在同一设备中,或者,处理器和存储介质也可以作为分立组件部署在于不同的设备中。
本领域技术人员应该可以意识到,在上述一个或多个示例中,本发明实施例所描述的功能可以用硬件、软件、固件或它们的任意组合来实现。当使用软件实现时,可以将这些功能存储在计算机可读介质中或者作为计算机可读介质上的一个或多个指令或代码进行传输。计算机可读介质包括计算机存储介质和通信介质,其中通信介质包括便于从一个地方向另一个地方传送计算机程序的任何介质。存储介质可以是通用或专用计算机能够存取的任何可用介质。
以上所述的具体实施方式,对本发明实施例的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明实施例的技术方案的基础之上,所做的任何修改、等同替换、改进等,均应包括在本发明实施例的保护范围之内。
Claims (12)
1.一种评价脸妆的方法,其特征在于,所述方法包括:
采集人物图像帧;
依据指定模型,对所述人物图像帧中的头像区域进行评价,得到所述头像区域的评价结果,所述指定模型的模型参数为将初始模型参数进行调整后得到的针对当前用户进行脸妆评价的个性化模型参数;
所述头像区域中包括n个局部区域,其中,n为大于或等于1的整数,所述依据指定模型,对所述人物图像帧中的头像区域进行评价,得到所述头像区域的评价结果,包括:
依据所述指定模型和预设规则,对所述头像区域进行评价,得到所述头像区域整体的评价结果、n个局部区域的评价结果,以及用于表示n个局部区域中至少两个局部区域之间关联关系的评价结果中的至少一项,所述预设规则为根据当前用户的面部特征制定的用于确定n个局部区域的评价结果以及所述关联关系的评价结果的评判规则;
显示所述人物图像帧、以及所述评价结果和/或与所述评价结果对应的化妆建议。
2.如权利要求1所述的方法,其特征在于,所述指定模型为深度神经网络模型。
3.如权利要求1或2所述的方法,其特征在于,在所述显示与所述评价结果对应的化妆建议之前,所述方法还包括:
遍历数据库,查找与所述评价结果对应的化妆建议,所述数据库用于存储每条评价结果与化妆建议之间的匹配关系。
4.如权利要求1或2所述的方法,其特征在于,在所述得到所述头像区域的评价结果之后,所述方法还包括:
显示将所述化妆建议应用在所述人物图像帧后的预测效果图。
5.如权利要求1或2所述的方法,其特征在于,在所述依据指定模型,对所述人物图像帧中的头像区域进行评价,得到所述头像区域的评价结果之前,所述方法还包括:
显示静态人物图像,并获取所述当前用户输入的评价结果;
获取指定用户完成脸妆评价的所述静态人物图像及对应的评价结果,所述指定用户与所述当前用户满足指定条件,所述指定条件包括所述指定用户的面部特征与所述当前用户的面部特征之间的相似度大于第一阈值、以及所述指定用户与所述当前用户针对同一人物图像给出的评价结果之间的相似度大于第二阈值中的至少一项;
根据所述指定用户与所述当前用户完成脸妆评价的静态人物图像及分别对应的评价结果,训练所述指定模型,并将所述指定模型中的所述初始模型参数调整为所述个性化模型参数。
6.如权利要求2所述的方法,其特征在于,所述头像区域包括脸型、或者包括脸型和发型,所述头像区域中的局部区域包括五官中的至少一项。
7.一种评价脸妆的装置,其特征在于,所述装置包括:
采集模块,用于采集人物图像帧;
评价模块,用于依据指定模型,对所述采集模块采集的所述人物图像帧中的头像区域进行评价,得到所述头像区域的评价结果,所述指定模型包括将个性化模型参数作为模型参数得到的模型,所述指定模型的模型参数为将初始模型参数进行调整后得到的针对当前用户进行脸妆评价的个性化模型参数;所述头像区域中包括n个局部区域,其中,n为大于或等于1的整数,所述评价模块,还用于:
依据所述指定模型和预设规则,对所述头像区域进行评价,得到所述头像区域整体的评价结果、n个局部区域的评价结果,以及用于表示n个局部区域中至少两个局部区域之间关联关系的评价结果中的至少一项,所述预设规则为根据当前用户的面部特征制定的用于确定n个局部区域的评价结果以及所述关联关系的评价结果的评判规则;
显示模块,用于显示所述采集模块采集的所述人物图像帧、以及所述评价模块得到的所述评价结果和/或与所述评价结果对应的化妆建议。
8.如权利要求7所述的装置,其特征在于,所述指定模型为深度神经网络模型。
9.如权利要求7或8所述的装置,其特征在于,所述装置还包括:
搜索模块,用于在得到所述头像区域整体、n个局部区域以及n个局部区域中至少两个局部区域之间中的至少一项的评价结果之后,遍历数据库,查找与所述评价结果对应的化妆建议,所述数据库用于存储每条评价结果与化妆建议之间的匹配关系。
10.如权利要求7或8所述的装置,其特征在于,所述显示模块,还用于:
显示将搜索模块查找到的所述化妆建议应用在所述人物图像帧后的预测效果图。
11.如权利要求7或8所述的装置,其特征在于,所述显示模块,还用于显示静态人物图像;
所述装置还包括:
获取模块,用于获取所述当前用户输入的对所述静态人物图像进行评价的评价结果;
所述获取模块,还用于获取指定用户完成脸妆评价的所述静态人物图像及对应的评价结果,所述指定用户与所述当前用户满足指定条件,所述指定条件包括所述指定用户的面部特征与所述当前用户的面部特征之间的相似度大于第一阈值、以及所述指定用户与所述当前用户针对同一人物图像给出的评价结果之间的相似度大于第二阈值中的至少一项;
训练模块,用于根据所述获取模块获取的所述指定用户与所述当前用户完成脸妆评价的静态人物图像及分别对应的评价结果,训练所述指定模型;
调整模块,用于将所述训练模块训练的所述指定模型中的所述初始模型参数调整为所述个性化模型参数。
12.如权利要求8所述的装置,其特征在于,所述头像区域包括脸型、或者包括脸型和发型,所述头像区域中的局部区域包括五官中的至少一项。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/CN2017/085980 WO2018214115A1 (zh) | 2017-05-25 | 2017-05-25 | 一种评价脸妆的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110663063A CN110663063A (zh) | 2020-01-07 |
CN110663063B true CN110663063B (zh) | 2022-04-12 |
Family
ID=64395175
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780091213.1A Active CN110663063B (zh) | 2017-05-25 | 2017-05-25 | 一种评价脸妆的方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN110663063B (zh) |
WO (1) | WO2018214115A1 (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11253045B2 (en) | 2019-07-18 | 2022-02-22 | Perfect Mobile Corp. | Systems and methods for recommendation of makeup effects based on makeup trends and facial analysis |
CN110428368A (zh) * | 2019-07-31 | 2019-11-08 | 北京金山云网络技术有限公司 | 一种算法评价方法、装置、电子设备及可读存储介质 |
CN111369559A (zh) * | 2020-04-16 | 2020-07-03 | 福州海豚世纪科技有限公司 | 妆容评估方法、装置、化妆镜和存储介质 |
CN111539882A (zh) * | 2020-04-17 | 2020-08-14 | 华为技术有限公司 | 辅助化妆的交互方法、终端、计算机存储介质 |
CN113269719A (zh) * | 2021-04-16 | 2021-08-17 | 北京百度网讯科技有限公司 | 模型训练、图像处理方法,装置,设备以及存储介质 |
CN113837020B (zh) * | 2021-08-31 | 2024-02-02 | 北京新氧科技有限公司 | 一种化妆进度检测方法、装置、设备及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101350102A (zh) * | 2008-08-29 | 2009-01-21 | 北京中星微电子有限公司 | 一种化妆辅助方法及系统 |
CN202588699U (zh) * | 2012-04-27 | 2012-12-12 | 上海申视汽车新技术有限公司 | 一种智能式化妆盒 |
US20140016823A1 (en) * | 2012-07-12 | 2014-01-16 | Cywee Group Limited | Method of virtual makeup achieved by facial tracking |
CN104834800A (zh) * | 2015-06-03 | 2015-08-12 | 上海斐讯数据通信技术有限公司 | 一种美妆方法、系统及设备 |
CN104951770A (zh) * | 2015-07-02 | 2015-09-30 | 广东欧珀移动通信有限公司 | 人脸图像数据库的构建方法、应用方法及相应装置 |
CN106293362A (zh) * | 2015-05-20 | 2017-01-04 | 福建省辉锐电子技术有限公司 | 一种引导式化妆设备 |
CN106407423A (zh) * | 2016-09-26 | 2017-02-15 | 珠海格力电器股份有限公司 | 基于终端设备的妆饰指导方法、装置及终端设备 |
CN106709411A (zh) * | 2015-11-17 | 2017-05-24 | 腾讯科技(深圳)有限公司 | 一种颜值获取方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014118842A1 (ja) * | 2013-02-01 | 2014-08-07 | パナソニック株式会社 | 美容支援装置、美容支援システム、美容支援方法、並びに美容支援プログラム |
JP6128309B2 (ja) * | 2013-02-01 | 2017-05-17 | パナソニックIpマネジメント株式会社 | メイクアップ支援装置、メイクアップ支援方法、およびメイクアップ支援プログラム |
CN103995911A (zh) * | 2013-02-15 | 2014-08-20 | 北京银万特科技有限公司 | 基于智能信息终端的美容选配方法与系统 |
CN103246878A (zh) * | 2013-05-13 | 2013-08-14 | 苏州福丰科技有限公司 | 一种基于人脸识别的试妆系统及其试妆方法 |
CN106339658A (zh) * | 2015-07-09 | 2017-01-18 | 阿里巴巴集团控股有限公司 | 数据的处理方法和装置 |
-
2017
- 2017-05-25 CN CN201780091213.1A patent/CN110663063B/zh active Active
- 2017-05-25 WO PCT/CN2017/085980 patent/WO2018214115A1/zh active Application Filing
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101350102A (zh) * | 2008-08-29 | 2009-01-21 | 北京中星微电子有限公司 | 一种化妆辅助方法及系统 |
CN202588699U (zh) * | 2012-04-27 | 2012-12-12 | 上海申视汽车新技术有限公司 | 一种智能式化妆盒 |
US20140016823A1 (en) * | 2012-07-12 | 2014-01-16 | Cywee Group Limited | Method of virtual makeup achieved by facial tracking |
CN106293362A (zh) * | 2015-05-20 | 2017-01-04 | 福建省辉锐电子技术有限公司 | 一种引导式化妆设备 |
CN104834800A (zh) * | 2015-06-03 | 2015-08-12 | 上海斐讯数据通信技术有限公司 | 一种美妆方法、系统及设备 |
CN104951770A (zh) * | 2015-07-02 | 2015-09-30 | 广东欧珀移动通信有限公司 | 人脸图像数据库的构建方法、应用方法及相应装置 |
CN106709411A (zh) * | 2015-11-17 | 2017-05-24 | 腾讯科技(深圳)有限公司 | 一种颜值获取方法及装置 |
CN106407423A (zh) * | 2016-09-26 | 2017-02-15 | 珠海格力电器股份有限公司 | 基于终端设备的妆饰指导方法、装置及终端设备 |
Also Published As
Publication number | Publication date |
---|---|
CN110663063A (zh) | 2020-01-07 |
WO2018214115A1 (zh) | 2018-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110663063B (zh) | 一种评价脸妆的方法及装置 | |
CN108229415B (zh) | 信息推荐方法、装置、电子设备及计算机可读存储介质 | |
JP6011165B2 (ja) | ジェスチャ認識装置、その制御方法、表示機器、および制御プログラム | |
US20140129207A1 (en) | Augmented Reality Language Translation | |
CN108874126B (zh) | 基于虚拟现实设备的交互方法及系统 | |
CN110110118A (zh) | 妆容推荐方法、装置、存储介质及移动终端 | |
US10528796B2 (en) | Body information analysis apparatus with augmented reality and eyebrow shape preview method thereof | |
CN105045399B (zh) | 一种具有3d摄像组件的电子设备 | |
KR20170086024A (ko) | 정보 처리 장치, 정보 처리 방법, 및 프로그램 | |
CN105302295B (zh) | 一种具有3d摄像组件的虚拟现实交互设备 | |
CN107066085B (zh) | 一种基于眼球追踪控制终端的方法及装置 | |
TW201322050A (zh) | 電子設備及其文本導讀方法 | |
KR101987748B1 (ko) | 이모티콘 서비스 시스템 및 그의 이모티콘 서비스 제공 방법 | |
WO2012119371A1 (zh) | 一种用户交互系统和方法 | |
CN105302294B (zh) | 一种交互式虚拟现实演示装置 | |
CN111047511A (zh) | 一种图像处理方法及电子设备 | |
CN109272473B (zh) | 一种图像处理方法及移动终端 | |
CN105068662B (zh) | 一种用于人机交互的电子设备 | |
KR20170137491A (ko) | 전자 장치 및 그의 동작 방법 | |
CN111401318A (zh) | 动作识别方法及装置 | |
WO2023197648A1 (zh) | 截图处理方法及装置、电子设备和计算机可读介质 | |
CN111488057A (zh) | 页面内容处理方法及电子设备 | |
CN105892881A (zh) | 人机交互方法及装置、移动设备 | |
CN108829239A (zh) | 终端的控制方法、装置及终端 | |
CN111225237A (zh) | 一种视频的音画匹配方法、相关装置以及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |