CN111626253A - 表情检测的方法、装置、电子设备及存储介质 - Google Patents

表情检测的方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111626253A
CN111626253A CN202010490865.6A CN202010490865A CN111626253A CN 111626253 A CN111626253 A CN 111626253A CN 202010490865 A CN202010490865 A CN 202010490865A CN 111626253 A CN111626253 A CN 111626253A
Authority
CN
China
Prior art keywords
target
expression
target user
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010490865.6A
Other languages
English (en)
Inventor
王子彬
孙红亮
揭志伟
刘小兵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Sensetime Intelligent Technology Co Ltd
Original Assignee
Shanghai Sensetime Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Sensetime Intelligent Technology Co Ltd filed Critical Shanghai Sensetime Intelligent Technology Co Ltd
Priority to CN202010490865.6A priority Critical patent/CN111626253A/zh
Publication of CN111626253A publication Critical patent/CN111626253A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Abstract

本公开提供了一种表情检测的方法、装置、电子设备及存储介质,该方法包括:获取目标用户模仿目标作品中目标人物表情的表情模仿图像;从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。

Description

表情检测的方法、装置、电子设备及存储介质
技术领域
本公开涉及图像检测技术领域,具体而言,涉及一种表情检测的方法、装置、电子设备及存储介质。
背景技术
由于名画为具有深远影响的、有价值的画,使得名画是各类展馆中的重点展示项目之一,通过在展馆中展示名画,使得用户对展示的名画进行鉴赏,了解名画的意境。其中,名画中的人物画可以是包括人物形象的绘画,在人物画中可以包括人物的眼神、手势、表情等细节,不同的人物画中包括不同的细节。
但是,人物画是由纸张材质、墨水颜料等材料创作而成,存在不耐光、怕氧化、易破损等问题,使得人物画在展示过程中,展馆会对人物画添加保护措施,比如将人物画放置在展柜中进行展示等,使得用户无法对人物画中的人物细节进行较为细致的观察,与人物画的互动存在限制,因此,如何让用户更好的观察人物画、提高人物画的展示效果,成为了一个亟待解决的问题。
发明内容
有鉴于此,本公开至少提供一种表情检测的方法、装置、电子设备及存储介质。
第一方面,本公开提供了一种表情检测的方法,包括:
获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
采用上述方法,通过获取目标用户模仿目标作品中目标人物表情的表情模仿图像;从表情模仿图像中提取目标用户的至少一个目标部位的关键点信息;并基于至少一个目标部位的关键点信息,确定目标用户的模仿表情信息;基于模仿表情信息和目标人物的表情信息,确定目标用户的表情模仿相似度,并展示与表情模仿相似度对应的提示信息,通过目标用户对目标人物表情(比如人物画中的目标人物表情)进行模仿,并展示与表情模仿相似度对应的提示信息,使得目标用户可以通过模仿目标作品中目标人物表情,对目标作品有更深入、更细致的认知,且实现了目标用户与目标作品的交互,提高了目标作品的展示效果。
一种可能的实施方式中,基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息,包括:
基于每个目标部位的关键点信息,确定该目标部位的特征信息;
基于各个目标部位的所述特征信息,确定所述目标用户的模仿表情对应的表情特征向量;
基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度,包括:
基于所述模仿表情信息对应的表情特征向量,以及预先存储的所述目标作品中目标人物的表情信息对应的表情特征向量,确定所述目标用户的表情模仿相似度。
一种可能的实施方式中,从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息,包括:
基于所述表情模仿图像对应的所述目标作品,确定与所述目标作品对应的待提取目标部位;
从所述表情模仿图像中提取所述待提取目标部位的关键点信息。
上述实施方式中,可以为每个目标作品,确定对应的待提取目标部位,不同目标作品对应的待提取目标部位可能不同,进而可以根据目标作品为表情模仿图像确定对应的待提取目标部位,进而从表情模仿图像中提取待提取目标部位的关键点信息,使得提取得到的待提取目标部位的关键点信息能较准确的反应目标用户的模仿相似度。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
响应作用于显示设备或所述显示设备的控制设备上的预设触发操作,控制所述显示设备展示存储的至少一个作品的图像。
上述实施方式下,响应作用于显示设备或显示设备的控制设备上的预设触发操作,控制显示设备展示存储的至少一个作品的图像,通过对每个作品的图像进行展示,提高了展示的灵活性,且可以方便目标用户对展示的作品进行较为细致、全面的观察。
一种可能的实施方式中,在展示的作品为多个的情况下,获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
响应目标用户触发的作品选择操作,控制所述显示设备展示所述目标用户选择的目标作品的图像,以便所述目标用户对选择的目标作品中的目标人物表情进行模仿。
这里,在存储的作品为多个的情况下,目标用户可以从多个作品中,选择感兴趣的、欲模仿的目标作品,将目标用户选择的目标作品的图像展示在显示设备上,方便目标用户对选择的目标人物表情进行模仿,提高了展示的灵活性。
一种可能的实施方式中,获取目标用户模仿目标作品中目标人物表情的表情模仿图像,包括:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的所述目标用户的表情模仿图像。
上述实施方式中,在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的目标用户的表情模仿图像,避免获取不进行表情模仿的用户图像时,造成了资源的浪费。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还包括:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时;
在所述时间倒计时为零时,获取位于目标检测区域内的所述目标用户的表情模仿图像。
上述实施方式中,考虑到在接收到表情模仿请求之后或检测到目标用户的脸部图像之后,若立即获取表情模仿图像时,目标用户的模仿操作可能未完成,进而获取到的表情模仿图像不能较准确的反应用户的表情模仿相似度,为了避免上述情况的发生,这里设置了时间倒计时,可以在时间倒计时为零时,再获取位于目标检测区域内的目标用户的表情模仿图像,为目标用户提供了较为充足的准备时间。
一种可能的实施方式中,在确定所述目标用户的表情模仿相似度之后,还包括:
基于所述表情模仿相似度,确定目标提示信息;
控制显示设备展示所述表情模仿相似度和所述目标提示信息;
其中,所述目标提示信息包括以下信息中的至少一种:提示图像、提示文字、提示语音、提示视频。
以下装置、电子设备等的效果描述参见上述方法的说明,这里不再赘述。
第二方面,本公开提供了一种表情检测的装置,包括:
获取模块,用于获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
确定模块,用于从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
第一展示模块,用于基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
一种可能的实施方式中,所述确定模块,在基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息时,用于:
基于每个目标部位的关键点信息,确定该目标部位的特征信息;
基于各个目标部位的所述特征信息,确定所述目标用户的模仿表情对应的表情特征向量;
所述第一展示模块,在基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度时,用于:
基于所述模仿表情信息对应的表情特征向量,以及预先存储的所述目标作品中目标人物的表情信息对应的表情特征向量,确定所述目标用户的表情模仿相似度。
一种可能的实施方式中,所述确定模块,在从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息时,用于:
基于所述表情模仿图像对应的所述目标作品,确定与所述目标作品对应的待提取目标部位;
从所述表情模仿图像中提取所述待提取目标部位的关键点信息。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
第二展示模块,用于响应作用于显示设备或所述显示设备的控制设备上的预设触发操作,控制所述显示设备展示存储的至少一个作品的图像。
一种可能的实施方式中,在展示的作品为多个的情况下,获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
第三展示模块,用于响应目标用户触发的作品选择操作,控制所述显示设备展示所述目标用户选择的目标作品的图像,以便所述目标用户对选择的目标作品中的目标人物表情进行模仿。
一种可能的实施方式中,所述获取模块,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像时,用于:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的所述目标用户的表情模仿图像。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还包括:
第四展示模块,用于在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时;在所述时间倒计时为零时,获取位于目标检测区域内的所述目标用户的表情模仿图像。
一种可能的实施方式中,所述第一展示模块,还用于:
基于所述表情模仿相似度,确定目标提示信息;
控制显示设备展示所述表情模仿相似度和所述目标提示信息;
其中,所述目标提示信息包括以下信息中的至少一种:提示图像、提示文字、提示语音、提示视频。
第三方面,本公开提供一种电子设备,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如上述第一方面或任一实施方式所述的表情检测的方法的步骤。
第四方面,本公开提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如上述第一方面或任一实施方式所述的表情检测的方法的步骤。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,此处的附图被并入说明书中并构成本说明书中的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。应当理解,以下附图仅示出了本公开的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本公开实施例所提供的一种表情检测的方法的流程示意图;
图2示出了本公开实施例所提供的一种表情检测的方法中,显示设备的界面示意图;
图3示出了本公开实施例所提供的一种表情检测的装置的架构示意图;
图4示出了本公开实施例所提供的一种电子设备400的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本公开实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本公开的实施例的详细描述并非旨在限制要求保护的本公开的范围,而是仅仅表示本公开的选定实施例。基于本公开的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
一般的,展馆内可以展示各种名画,而名画中的人物画可以是包括人物形象的绘画,在人物画中可以包括人物的眼神、手势、表情等细节,不同的人物画中包括不同的细节,比如,名画《蒙娜丽莎》和《呐喊》中包括的人物细节不同。
由于人物画是由纸张材质、墨水颜料等材料创作而成,存在不耐光、怕氧化、易破损等问题,故出于对名画的保护,可以将展示的名画放置在展馆的展柜内,用户可以间隔展柜对名画进行观察、鉴赏。但是,用户间隔展柜对名画进行观察、鉴赏时,难以对名画进行细致的、全面的观察,且用户无法与展示的人物画进行交互。
为了解决上述问题,本公开实施例提供了一种表情检测的方法、装置、电子设备及存储介质。
为便于对本公开实施例进行理解,首先对本公开实施例所公开的一种表情检测的方法进行详细介绍。
本公开实施例提供的表情检测的方法可应用于服务器,或者应用于支持显示功能的终端设备。服务器可以是本地服务器也可以是云端服务器等,终端设备可以是智能手机、平板电脑、个人数字处理(Personal Digital Assistant,PDA)、智能电视等,本公开对此并不限定。
参见图1所示,为本公开实施例所提供的表情检测的方法的流程示意图,该方法包括S101-S103,其中:
S101,获取目标用户模仿目标作品中目标人物表情的表情模仿图像。
S102,从表情模仿图像中提取目标用户的至少一个目标部位的关键点信息;并基于至少一个目标部位的关键点信息,确定目标用户的模仿表情信息。
S103,基于模仿表情信息和目标人物的表情信息,确定目标用户的表情模仿相似度。
在检测出目标用户的表情模仿相似度后,可以展示与表情模仿相似度对应的提示信息。
上述方法中,通过获取目标用户模仿目标作品中目标人物表情的表情模仿图像;从表情模仿图像中提取目标用户的至少一个目标部位的关键点信息;并基于至少一个目标部位的关键点信息,确定目标用户的模仿表情信息;基于模仿表情信息和目标人物的表情信息,确定目标用户的表情模仿相似度,通过目标用户对目标人物表情(比如人物画中的目标人物表情)进行模仿,确定表情模仿相似度,并展示与表情模仿相似度对应的提示信息,使得目标用户可以通过模仿目标作品中目标人物表情,对目标作品有更深入、更细致的认知,且实现了目标用户与目标作品的交互,提高了目标作品的展示效果。
针对S101:
这里,目标作品可以为任一包括人物表情的作品,比如,目标作品可以为人物画、人物雕塑等。在具体实施时,可以在预设位置处设置摄像设备,该预设位置处可以为目标作品对应的任一位置处,比如,可以在该作品的四周中选择一位置确定为预设位置;或者,也可以在展示目标作品的图像的显示设备的周围中选择一位置确定为预设位置,或者可以在展示目标作品的图像的显示设备上安装摄像设备。进而在目标用户对目标作品中的目标人物表情进行模仿之后,可以通过设置的摄像设备获取目标用户模仿目标作品中目标人物表情的表情模仿图像。
作为一可选实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,可以包括:响应作用于显示设备或显示设备的控制设备上的预设触发操作,控制显示设备展示存储的至少一个作品的图像。
这里,预设触发操作可以为预先设置的任一操作,比如,预设触发操作可以为点击显示设备的预设按钮,或者,预设操作可以为点击显示设备的控制设备的预设按钮等。目标用户可以通过对显示设备或显示设备的控制设备进行操作,响应作用于显示设备或显示设备的控制设备上的预设触发操作,控制该显示设备展示存储的至少一个作品的图像,以便目标用户可以对待模仿的至少一个作品进行查看,进而还可以从展示的至少一个作品的图像中选择想要模仿的目标作品的目标人物表情。
在具体实施时,在存储的作品图像的数量为多个时,可以控制显示设备按照设置的顺序依次对每个作品的图像进行展示,或者,也可以控制显示设备一次性展示存储的全部作品的图像。其中,多个作品图像的展示方式(比如每次展示的图像数量、每次展示的间隔时间等)可以根据需要进行设置,此处仅为示例性说明。
上述实施方式中,响应作用于显示设备或显示设备的控制设备上的预设触发操作,控制显示设备展示存储的至少一个作品的图像,通过对每个作品的图像进行展示,提高了展示的灵活性,且可以方便目标用户对展示的作品进行较为细致、全面的观察。
作为一可选实施方式,在展示的作品为多个的情况下,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还可以包括:响应目标用户触发的作品选择操作,控制显示设备展示目标用户选择的目标作品的图像,以便目标用户对选择的目标作品中的目标人物表情进行模仿。
考虑到模仿的多样性和灵活性,这里可以提前存储多个作品的图像,使得不同的用户可以根据需要选择模仿不同的目标人物表情。具体实施时,目标用户可以从展示的多个作品中选择想要模仿的目标作品,即目标用户触发了作品选择操作,响应目标用户触发的作品选择操作,控制显示设备展示目标用户选择的目标作品的图像,方便目标用户根据展示的目标作品的图像,对选择的目标作品中的目标人物表情进行模仿。
上述实施方式中,在存储的作品为多个的情况下,目标用户可以从多个作品中,选择感兴趣的、欲模仿的目标作品,将目标用户选择的目标作品的图像展示在显示设备上,方便目标用户对选择的目标人物表情进行模仿,提高了展示的灵活性。
作为一可选实施方式,获取目标用户模仿目标作品中目标人物表情的表情模仿图像,可以包括:在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的目标用户的表情模仿图像。
这里,目标用户可以为位于目标检测区域内的目标用户,该目标检测区域可以根据实际需要进行设置,比如,可以在目标作品附近设置目标检测区域,还可以在显示目标作品的图像的显示设备附近设置目标检测区域。目标用户想要对目标人物表情进行模仿时,可以触发表情模仿请求,比如,位于目标检测区域内的目标用户可以点击设置在显示设备上的模仿按钮,触发表情模仿请求;或者,还可以发出预设的模仿指令,比如,位于目标检测区域内的目标用户可以说“我要模仿目标作品A”,触发表情模仿请求等。其中,触发的表情模仿请求的形式有多种,此处仅为示例性说明。在接收到位于目标检测区域内的目标用户触发的表情模仿请求之后,获取位于目标检测区域内的目标用户的表情模仿图像。
或者,还可以在检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的目标用户的表情模仿图像。
上述实施方式中,在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的目标用户的表情模仿图像,避免获取不进行表情模仿的用户图像时,造成了资源的浪费。
作为一可选实施方式,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还可以包括:
一、在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时。
二、在时间倒计时为零时,获取位于目标检测区域内的目标用户的表情模仿图像。
考虑到,如果在接收到位于目标检测区域内的目标用户触发的表情模仿请求之后,或者,在检测到位于目标检测区域内的目标用户的脸部图像的情况下,立即获取位于目标检测区域内的目标用户的表情模仿图像时,目标用户可能还没有做好模仿动作,使得获取到的目标用户的表情模仿图像不能较高的表征目标用户的模仿动作,使得后续得到的表情模仿相似度不准确。故为了解决上述问题,此处设置时间倒计时,在时间倒计时为零时,获取位于目标检测区域内的目标用户的表情模仿图像,为目标用户提供了充足的准备时间。
具体实施时,可以在接收到位于目标检测区域内的目标用户触发的表情模仿请求之后,或者在检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时,比如,预设的时间倒计时的时长可以为10秒、5秒等,在预设的时间倒计时的时长为10秒时,则可以控制显示设备依次显示10、9、…、0,每间隔1秒显示一个数字,直至显示的数字为0时,获取位于目标检测区域内的目标用户的表情模仿图像。
上述实施方式中,考虑到在接收到表情模仿请求之后或检测到目标用户的脸部图像之后,若立即获取表情模仿图像时,目标用户的模仿操作可能未完成,进而获取到的表情模仿图像不能较准确的反应用户的表情模仿相似度,为了避免上述情况的发生,这里设置了时间倒计时,可以在时间倒计时为零时,再获取位于目标检测区域内的目标用户的表情模仿图像,为目标用户提供了较为充足的准备时间。
针对S102:
这里,可以从表情模仿图像中提取目标用户的至少一个目标部位的关键点信息。这里,至少一个目标部位可以包括眼部、嘴部、手部等,比如,至少一个目标部位的关键点信息可以包括眼部的关键点信息、嘴部的关键点信息、手部上每一根手指的关键点信息,其中,每个部位上关键点的数量可以根据实际需要进行确定。
一种可选实施方式中,从表情模仿图像中提取目标用户的至少一个目标部位的关键点信息,可以包括:基于表情模仿图像对应的目标作品,确定与目标作品对应的待提取目标部位;从表情模仿图像中提取待提取目标部位的关键点信息。
本公开实施例中,可以根据包括目标人物表情的目标作品,确定与目标作品对应的待提取目标部位,比如,若目标作品中包括表情和肢体时,则可以确定待提取目标部位包括手部、眼部、嘴部;若目标作品中包括表情,不包括肢体时,则可以确定待提取目标部位包括眼部和嘴部。在确定了待提取目标部位之后,从表情模仿图像中提取待提取目标部位的关键点信息。这里,待提取目标部位还可以包括其他,比如,若目标作品中包括表情,不包括肢体时,则可以确定待提取目标部位包括眼部、嘴部、脸部。其中,待提取目标部位可以根据目标作品中目标人物表情进行确定,此处仅为示例性说明。
上述实施方式中,可以为每个目标作品,确定对应的待提取目标部位,不同目标作品对应的待提取目标部位可能不同,进而可以根据目标作品为表情模仿图像确定对应的待提取目标部位,进而从表情模仿图像中提取待提取目标部位的关键点信息,使得提取得到的待提取目标部位的关键点信息能较准确的反应目标用户的模仿相似度。
一种可选实施方式中,基于至少一个目标部位的关键点信息,确定目标用户的模仿表情信息,可以包括:
一、基于每个目标部位的关键点信息,确定该目标部位的特征信息。
二、基于各个目标部位的特征信息,确定目标用户的模仿表情对应的表情特征向量。
这里,可以根据每个目标部位的关键点信息,确定目标部位的特征信息。比如,在目标部位包括眼部时,则可以根据眼部的关键点信息,确定眼部的特征信息,眼部的特征信息可以包括眼皮的弯曲弧度、上眼皮中点与下眼皮中点之间的距离等;在目标部位包括嘴部时,则可以根据嘴部的关键点信息,确定嘴部的特征信息,嘴部的特征信息可以包括嘴角上扬的角度、嘴唇弯曲的弧度、上嘴唇与下嘴唇之间的距离等;在目标部位包括手部时,则可以根据手部的关键点信息,确定手部的特征信息,手部的特征信息可以包括左手和/或右手中每根手指的弯曲程度等。其中,每个部位的特征信息可以根据实际情况进行设置,此处仅为示例性说明。
在得到每个目标部位的特征信息之后,可以根据各个目标部位的特征信息,确定目标用户的模仿表情对应的特征向量,比如,可以将各个目标部位的特征信息组合得到目标用户的模仿表情对应的表情特征向量。
针对S103:
可以基于模仿表情信息和目标人物的表情信息,确定目标用户的表情模仿相似度。作为一可选实施方式,基于模仿表情信息和目标人物的表情信息,确定目标用户的表情模仿相似度,可以包括:基于模仿表情信息对应的表情特征向量,以及预先存储的目标作品中目标人物的表情信息对应的表情特征向量,确定目标用户的表情模仿相似度。
可以根据模仿表情信息对应的表情特征向量和预先存储的目标作品中目标人物的表情信息对应的表情特征向量,确定目标用户的表情模仿相似度。比如,可以计算模仿表情信息对应的表情特征向量与目标作品中目标人物的表情信息对应的表情特征向量之间的余弦相似度,根据计算得到的余弦相似度,确定目标用户的表情模仿相似度。其中,确定目标用户的表情模仿相似度的方法有多种,此处仅为示例性说明。
一种可选实施方式中,在确定所述目标用户的表情模仿相似度之后,还可以包括:基于表情模仿相似度,确定目标提示信息;控制显示设备展示表情模仿相似度和目标提示信息。其中,目标提示信息包括以下信息中的至少一种:提示图像、提示文字、提示语音、提示视频。
这里,可以提前为不同表情模拟相似度设置不同的提示信息,比如,在表情模拟相似度小于40%时,对应的提示信息可以为“表情模仿新手”;在表情模拟相似度大于或等于40%、且小于80%时,对应的提示信息可以为“表情模仿达人”;在表情模拟相似度大于或等于80%时,对应的提示信息可以为“表情模仿王者”。或者,在表情模拟相似度小于40%时,对应的提示信息可以为哭泣的图像;在表情模拟相似度大于或等于40%、且小于80%时,对应的提示信息可以为微笑的图像;在表情模拟相似度大于或等于80%时,对应的提示信息可以为大笑的图像。其中,设置的提示信息中可以包括提示图像、提示文字、提示语音、提示视频中的至少一种。提示信息的设置,可以根据实际需要进行设置,此处仅为示例性说明。
在确定表情模仿相似度之后,可以根据表情模仿相似度,确定目标提示信息;进而控制显示设备展示表情模仿相似度和目标提示信息。
在确定了目标用户的表情模拟相似度之后,可以展示该表情模拟相似度对应的提示信息;或者,还可以展示该表情模拟相似度对应的提示信息、和该表情模拟相似度;或者,还可以展示该表情模拟相似度对应的提示信息、该表情模拟相似度、和表情模仿图像。
示例性的,参见图2所示的一种表情检测的方法中,显示设备的界面示意图,该图中包括目标作品的图像、表情模拟图像、目标提示信息、表情模拟相似度。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
基于相同的构思,本公开实施例还提供了一种表情检测的装置,参见图3所示,为本公开实施例提供的表情检测的装置的架构示意图,包括获取模块301、确定模块302、第一展示模块303、第二展示模块304、第三展示模块305、以及第四展示模块306,具体的:
获取模块301,用于获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
确定模块302,用于从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
第一展示模块303,用于基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
一种可能的实施方式中,所述确定模块302,在基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息时,用于:
基于每个目标部位的关键点信息,确定该目标部位的特征信息;
基于各个目标部位的所述特征信息,确定所述目标用户的模仿表情对应的表情特征向量;
所述第一展示模块303,在基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度时,用于:
基于所述模仿表情信息对应的表情特征向量,以及预先存储的所述目标作品中目标人物的表情信息对应的表情特征向量,确定所述目标用户的表情模仿相似度。
一种可能的实施方式中,所述确定模块302,在从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息时,用于:
基于所述表情模仿图像对应的所述目标作品,确定与所述目标作品对应的待提取目标部位;
从所述表情模仿图像中提取所述待提取目标部位的关键点信息。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
第二展示模块304,用于响应作用于显示设备或所述显示设备的控制设备上的预设触发操作,控制所述显示设备展示存储的至少一个作品的图像。
一种可能的实施方式中,在展示的作品为多个的情况下,获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
第三展示模块305,用于响应目标用户触发的作品选择操作,控制所述显示设备展示所述目标用户选择的目标作品的图像,以便所述目标用户对选择的目标作品中的目标人物表情进行模仿。
一种可能的实施方式中,所述获取模块301,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像时,用于:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的所述目标用户的表情模仿图像。
一种可能的实施方式中,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还包括:
第四展示模块306,用于在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时;在所述时间倒计时为零时,获取位于目标检测区域内的所述目标用户的表情模仿图像。
一种可能的实施方式中,所述第一展示模块303,还用于:
基于所述表情模仿相似度,确定目标提示信息;
控制所述显示设备展示所述表情模仿相似度和所述目标提示信息;
其中,所述目标提示信息包括以下信息中的至少一种:提示图像、提示文字、提示语音、提示视频。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模板可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
基于同一技术构思,本公开实施例还提供了一种电子设备。参照图4所示,为本公开实施例提供的电子设备的结构示意图,包括处理器401、存储器402、和总线403。其中,存储器402用于存储执行指令,包括内存4021和外部存储器4022;这里的内存4021也称内存储器,用于暂时存放处理器401中的运算数据,以及与硬盘等外部存储器4022交换的数据,处理器401通过内存4021与外部存储器4022进行数据交换,当电子设备400运行时,处理器401与存储器402之间通过总线403通信,使得处理器401在执行以下指令:
获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
此外,本公开实施例还提供一种计算机可读存储介质,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述方法实施例中所述的表情检测的方法的步骤。
本公开实施例所提供的表情检测的方法的计算机程序产品,包括存储了程序代码的计算机可读存储介质,所述程序代码包括的指令可用于执行上述方法实施例中所述的表情检测的方法的步骤,具体可参见上述方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。在本公开所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。

Claims (11)

1.一种表情检测的方法,其特征在于,包括:
获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
2.根据权利要求1所述的方法,其特征在于,基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息,包括:
基于每个目标部位的关键点信息,确定该目标部位的特征信息;
基于各个目标部位的所述特征信息,确定所述目标用户的模仿表情对应的表情特征向量;
基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度,包括:
基于所述模仿表情信息对应的表情特征向量,以及预先存储的所述目标作品中目标人物的表情信息对应的表情特征向量,确定所述目标用户的表情模仿相似度。
3.根据权利要求1或2所述的方法,其特征在于,从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息,包括:
基于所述表情模仿图像对应的所述目标作品,确定与所述目标作品对应的待提取目标部位;
从所述表情模仿图像中提取所述待提取目标部位的关键点信息。
4.根据权利要求1~3任一所述的方法,其特征在于,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
响应作用于显示设备或所述显示设备的控制设备上的预设触发操作,控制所述显示设备展示存储的至少一个作品的图像。
5.根据权利要求4所述的方法,其特征在于,在展示的作品为多个的情况下,获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,包括:
响应目标用户触发的作品选择操作,控制所述显示设备展示所述目标用户选择的目标作品的图像,以便所述目标用户对选择的目标作品中的目标人物表情进行模仿。
6.根据权利要求1~5任一所述的方法,其特征在于,获取目标用户模仿目标作品中目标人物表情的表情模仿图像,包括:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像之后,获取位于目标检测区域内的所述目标用户的表情模仿图像。
7.根据权利要求6所述的方法,其特征在于,在获取目标用户模仿目标作品中目标人物表情的表情模仿图像之前,还包括:
在接收到位于目标检测区域内的目标用户触发的表情模仿请求,或者,检测到位于目标检测区域内的目标用户的脸部图像的情况下,控制位于目标检测区域内的显示设备展示预设的时间倒计时;
在所述时间倒计时为零时,获取位于目标检测区域内的所述目标用户的表情模仿图像。
8.根据权利要求1-7任一所述的方法,其特征在于,在确定所述目标用户的表情模仿相似度之后,还包括:
基于所述表情模仿相似度,确定目标提示信息;
控制显示设备展示所述表情模仿相似度和所述目标提示信息;
其中,所述目标提示信息包括以下信息中的至少一种:提示图像、提示文字、提示语音、提示视频。
9.一种表情检测的装置,其特征在于,包括:
获取模块,用于获取目标用户模仿目标作品中目标人物表情的表情模仿图像;
确定模块,用于从所述表情模仿图像中提取所述目标用户的至少一个目标部位的关键点信息;并基于所述至少一个目标部位的关键点信息,确定所述目标用户的模仿表情信息;
第一展示模块,用于基于所述模仿表情信息和所述目标人物的表情信息,确定所述目标用户的表情模仿相似度。
10.一种电子设备,其特征在于,包括:处理器、存储器和总线,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如权利要求1至8任一所述的表情检测的方法的步骤。
11.一种计算机可读存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如权利要求1至8任一所述的表情检测的方法的步骤。
CN202010490865.6A 2020-06-02 2020-06-02 表情检测的方法、装置、电子设备及存储介质 Pending CN111626253A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010490865.6A CN111626253A (zh) 2020-06-02 2020-06-02 表情检测的方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010490865.6A CN111626253A (zh) 2020-06-02 2020-06-02 表情检测的方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN111626253A true CN111626253A (zh) 2020-09-04

Family

ID=72272057

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010490865.6A Pending CN111626253A (zh) 2020-06-02 2020-06-02 表情检测的方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111626253A (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107988A (ja) * 2003-09-30 2005-04-21 Casio Comput Co Ltd 画像出力装置、画像出力方法、画像出力処理プログラム、および画像配信サーバ、画像配信処理プログラム
CN101908149A (zh) * 2010-07-06 2010-12-08 北京理工大学 一种从人脸图像序列中识别脸部表情的方法
CN103105397A (zh) * 2013-01-27 2013-05-15 深圳市书圣艺术品防伪鉴定有限公司 一种书画鉴定装置
CN103400145A (zh) * 2013-07-19 2013-11-20 北京理工大学 基于线索神经网络的语音-视觉融合情感识别方法
CN103488293A (zh) * 2013-09-12 2014-01-01 北京航空航天大学 一种基于表情识别的人机情感交互系统及方法
CN107257338A (zh) * 2017-06-16 2017-10-17 腾讯科技(深圳)有限公司 媒体数据处理方法、装置及存储介质
CN107563336A (zh) * 2017-09-07 2018-01-09 廖海斌 用于名人匹配游戏的人脸相似度分析方法、装置和系统
CN107911601A (zh) * 2017-11-21 2018-04-13 深圳市欧信计算机通信科技有限公司 一种拍照时智能推荐拍照表情和拍照姿势的方法及其系统
CN109063679A (zh) * 2018-08-24 2018-12-21 广州多益网络股份有限公司 一种人脸表情检测方法、装置、设备、系统及介质
CN109815776A (zh) * 2017-11-22 2019-05-28 腾讯科技(深圳)有限公司 动作提示方法和装置、存储介质及电子装置
CN109858215A (zh) * 2017-11-30 2019-06-07 腾讯科技(深圳)有限公司 资源获取、分享、处理方法、装置、存储介质和设备
CN110737334A (zh) * 2019-10-09 2020-01-31 深圳传音控股股份有限公司 一种信息输出方法、装置、终端及计算机可读存储介质
CN111027348A (zh) * 2018-10-10 2020-04-17 百度在线网络技术(北京)有限公司 抽奖方法、装置、设备及存储介质

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107988A (ja) * 2003-09-30 2005-04-21 Casio Comput Co Ltd 画像出力装置、画像出力方法、画像出力処理プログラム、および画像配信サーバ、画像配信処理プログラム
CN101908149A (zh) * 2010-07-06 2010-12-08 北京理工大学 一种从人脸图像序列中识别脸部表情的方法
CN103105397A (zh) * 2013-01-27 2013-05-15 深圳市书圣艺术品防伪鉴定有限公司 一种书画鉴定装置
CN103400145A (zh) * 2013-07-19 2013-11-20 北京理工大学 基于线索神经网络的语音-视觉融合情感识别方法
CN103488293A (zh) * 2013-09-12 2014-01-01 北京航空航天大学 一种基于表情识别的人机情感交互系统及方法
WO2018228037A1 (zh) * 2017-06-16 2018-12-20 腾讯科技(深圳)有限公司 媒体数据处理方法、装置及存储介质
CN107257338A (zh) * 2017-06-16 2017-10-17 腾讯科技(深圳)有限公司 媒体数据处理方法、装置及存储介质
CN107563336A (zh) * 2017-09-07 2018-01-09 廖海斌 用于名人匹配游戏的人脸相似度分析方法、装置和系统
CN107911601A (zh) * 2017-11-21 2018-04-13 深圳市欧信计算机通信科技有限公司 一种拍照时智能推荐拍照表情和拍照姿势的方法及其系统
CN109815776A (zh) * 2017-11-22 2019-05-28 腾讯科技(深圳)有限公司 动作提示方法和装置、存储介质及电子装置
CN109858215A (zh) * 2017-11-30 2019-06-07 腾讯科技(深圳)有限公司 资源获取、分享、处理方法、装置、存储介质和设备
CN109063679A (zh) * 2018-08-24 2018-12-21 广州多益网络股份有限公司 一种人脸表情检测方法、装置、设备、系统及介质
CN111027348A (zh) * 2018-10-10 2020-04-17 百度在线网络技术(北京)有限公司 抽奖方法、装置、设备及存储介质
CN110737334A (zh) * 2019-10-09 2020-01-31 深圳传音控股股份有限公司 一种信息输出方法、装置、终端及计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN104461318B (zh) 基于增强现实技术的点读方法及系统
CN112348969A (zh) 增强现实场景下的展示方法、装置、电子设备及存储介质
CN110716645A (zh) 一种增强现实数据呈现方法、装置、电子设备及存储介质
CN111640197A (zh) 一种增强现实ar特效控制方法、装置及设备
CN111760265A (zh) 一种操作控制的方法及装置
CN111638793A (zh) 飞行器的展示方法、装置、电子设备及存储介质
CN112348968B (zh) 增强现实场景下的展示方法、装置、电子设备及存储介质
CN111651047A (zh) 一种虚拟物体展示方法、装置、电子设备及存储介质
CN111625100A (zh) 图画内容的呈现方法、装置、计算机设备及存储介质
CN111240482A (zh) 一种特效展示方法及装置
CN108090968B (zh) 增强现实ar的实现方法、装置和计算机可读存储介质
CN111652987A (zh) 一种ar合影图像生成的方法及装置
CN111651057A (zh) 一种数据展示方法、装置、电子设备及存储介质
CN111640200A (zh) 一种ar场景特效生成的方法及装置
CN111667588A (zh) 人物图像处理方法、装置、ar设备以及存储介质
CN111639613B (zh) 一种增强现实ar特效生成方法、装置及电子设备
CN111652971A (zh) 一种显示控制方法及装置
EP3104333A1 (en) Method and system for generating a user-customized computer-generated animation
CN111638798A (zh) 一种ar合影方法、装置、计算机设备及存储介质
CN112905014A (zh) Ar场景下的交互方法、装置、电子设备及存储介质
CN111652983A (zh) 一种增强现实ar特效生成方法、装置及设备
CN113359983A (zh) 增强现实数据呈现方法、装置、电子设备及存储介质
CN111464859B (zh) 一种在线视频展示的方法、装置、计算机设备及存储介质
CN111638794A (zh) 一种虚拟文物的显示控制方法及装置
CN112333498A (zh) 一种展示控制方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination