CN117011312A - 一种面部动作单元的区域划分方法、装置、设备及介质 - Google Patents
一种面部动作单元的区域划分方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN117011312A CN117011312A CN202310876893.5A CN202310876893A CN117011312A CN 117011312 A CN117011312 A CN 117011312A CN 202310876893 A CN202310876893 A CN 202310876893A CN 117011312 A CN117011312 A CN 117011312A
- Authority
- CN
- China
- Prior art keywords
- image
- region
- calibration result
- result
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000001815 facial effect Effects 0.000 title claims abstract description 56
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012549 training Methods 0.000 claims abstract description 118
- 238000002372 labelling Methods 0.000 claims abstract description 22
- 239000013598 vector Substances 0.000 claims description 49
- 230000004913 activation Effects 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 18
- 238000001514 detection method Methods 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000009466 transformation Effects 0.000 claims description 15
- 238000013507 mapping Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 5
- 238000007634 remodeling Methods 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 5
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000009471 action Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000004044 response Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000008921 facial expression Effects 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 238000010195 expression analysis Methods 0.000 description 1
- 210000001097 facial muscle Anatomy 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007786 learning performance Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000000452 restraining effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及图像处理技术领域,尤其涉及一种面部动作单元的区域划分方法、装置、设备及介质。在申请中,首先获取区域划分模型和待划分的目标人脸图像;同时获取手工标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;然后,使用区域划分模型对表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;此外,根据目标标定结果和预测标定结果,得到训练好的区域划分模型,并使用训练好的区域划分模型对目标人脸图像进行区域划分,得到区域划分结果;最终,在少量的人工标注条件下,提升了面部动作单元的区域划分的准确性。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种面部动作单元的区域划分方法、装置、设备及介质。
背景技术
面部动作单元检测(Facial Action Unit Detection,FAUD)作为表情分析的前置技术,其目的是检测不同的动作单元(Action Units,AU)位置和状态,不同的AU可以被理解为不同的面部肌肉区域,进而间接反映面部表情变化。目前大部分面部动作单元检测方法主要集中于深度学习框架,大致可以分为三个类型:基于预训练的面部动作单元检测方法,基于注意力的面部动作单元检测方法,以及基于多任务的面部动作单元检测方法。
其中,基于预训练的面部动作单元检测方法主要通过迁移学习技术,先将其他面部特征知识(例如,人脸验证和表情识别)迁移到FAUD任务,再在AU数据集上进行参数微调来更新最后数层参数,从而降低模型对于AU标注的依赖性。然而,由于预训练数据集和微调数据集之间存在一定的跨域差异性,所以该方法通常需要借助大量的人工调参或搜寻策略来寻找最优的训练配置,因而产生了更多的训练成本。
基于注意力的面部动作单元检测方法主要通过构造面部掩码来移除图像中不相关的内容(例如,背景,脖子,头发等),从而让模型可以更加集中于感兴趣的区域,增强了模型对于面部结构的感知能力。然而,由于面部关键点所构成的形状并非严格等价于面部动作单元区域,因此所学习到的面部关键点特征可能无法准确反映面部动作单元的变化。
基于多任务的面部动作单元检测方法主要利用多头机制来提高面部表征的多样性,从而减少模型过拟合风险。然而,由于多任务学习性能通常依赖于不同任务之间的相关性和训练样本数量,因此当多任务差异过大或训练样本不足时,很容易导致模型性能衰退。
上述三种面部动作单元检测方法基于离散标签为主的标注方式,分别从克服标注依赖性、克服背景干扰性、以及提高特征多样性的角度,来提高模型的面部动作识别性能,但以离散标签为主的标注方式难以反映真实且细微的面部表情变换,会导致标注信息与表情细节不匹配的问题,例如:预训练数据集和微调数据集之间的差异性造成的域偏移问题,面部关键点和面部动作单元之间的差异性造成的区域偏移问题,以及AU表情特征与身份因素之间的差异性造成的因素偏移问题,因此,如何提高面部动作单元的标注信息的准确性成为亟待解决的问题。
发明内容
有鉴于此,本发明实施例提供了一种面部动作单元的区域划分方法、装置、设备及介质,以解决面部动作单元的标注信息的准确性低的问题。
第一方面,本发明实施例提供一种面部动作单元的区域划分方法,所述区域划分方法包括:
获取区域划分模型和待划分的目标人脸图像;
获取手动标定的第一人脸图像和未标定的表情图像训练集,根据所述第一人脸图像的标定结果对所述表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;
使用所述区域划分模型对所述表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;
根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;
使用所述训练好的区域划分模型对所述目标人脸图像进行区域划分,得到对应所述目标人脸图像的区域划分结果。
第二方面,本发明实施例提供一种面部动作单元的区域划分装置,所述区域划分装置包括:
信息获取模块,用于获取区域划分模型和待划分的目标人脸图像;
结果标定模块,用于获取手工标定的第一人脸图像和未标定的表情图像训练集,根据所述第一人脸图像的标定结果对所述表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;
结果预测模块,用于使用所述区域划分模型对所述表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;
参数调节模块,用于根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;
区域划分模块,用于使用所述训练好的区域划分模型对所述目标人脸图像进行区域划分,得到对应所述目标人脸图像的区域划分结果。
第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的区域划分方法。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的区域划分方法。
本发明实施例与现有技术相比存在的有益效果是:
本发明获取区域划分模型和待划分的目标人脸图像;获取手工标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;使用区域划分模型对表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;根据目标标定结果和预测标定结果,调节区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;使用训练好的区域划分模型对目标人脸图像进行区域划分,得到对应目标人脸图像的区域划分结果,在少量的人工标注条件下,利用手工标定的第一人脸图像获取未标定的表情图像训练集中每张训练图像的目标标定结果,根据目标标定结果和区域划分模型输出的预测标定结果,调整区域划分模型的参数,提高了区域划分模型的性能,进而提升了面部动作单元的区域划分的准确性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种面部动作单元的区域划分方法的一应用环境示意图;
图2是本发明实施例一提供的一种面部动作单元的区域划分方法的流程示意图;
图3是本发明实施例一提供的一种二维纹理坐标变换的示意图;
图4是本发明实施例二提供的一种面部动作单元的区域划分装置的结构示意图;
图5是本发明实施例三提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
本发明实施例一提供的一种面部动作单元的区域划分方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、云端终端设备、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以是独立的服务器,也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content Delivery Network,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
参见图2,是本发明实施例一提供的一种面部动作单元的区域划分方法的流程示意图,上述区域划分方法可以应用于图1中的客户端,客户端对应的计算机设备连接服务端,以获取相应的后台数据,例如,待划分的目标人脸图像、用于后续对待划分的目标人脸图像进行面部动作单元的区域划分。另外,服务端还能够向客户端提供经由其收集的手工标定的第一人脸图像和未标定的表情图像训练集所训练好的模型,以备客户端调用模型进行运算。如图2所示,该区域划分方法可以包括以下步骤:
步骤S201,获取区域划分模型和待划分的目标人脸图像。
其中,区域划分模型是指用于对图像进行区域划分的神经网络,待划分的目标人脸图像是指未经面部动作单元的区划划分的原始人脸图像,因此,获取区域划分模型和待划分的目标人脸图像,以便于后续对目标人脸图像进行面部动作单元的区域划分。
步骤S202,获取手工标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果。
其中,手工标定的第一人脸图像是指面部动作单元已经手工标定完成的第一人脸图像,未标定的表情图像训练集是指未标定面部动作单元的至少一张表情图像所构成的训练集,也即是不带标签的表情图像训练集。训练图像是指未标定的表情图像训练集中的表情图像,标定结果是指面部动作单元对应的标注信息,也即是面部动作单元在图像中所对应标定区域,因此获取手工标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中每张训练图像分别进行区域标定,得到对应训练图像的目标标定结果,通过对少量图像进行手工标定,便实现了对任何图像的标定的自动生成。
可选的是,根据第一人脸图像的标定结果对表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果,包括:
根据第一人脸图像的标定结果,确定第一人脸图像中每个被标定区域对应的三维区域掩码;
提取第一人脸图像的三维顶点位置信息,使用预设的二维纹理变换模型对三维顶点位置信息进行平铺处理,得到第一平铺结果;
根据三维顶点位置信息与每个三维区域掩码的映射关系,将每个三维区域掩码在第一平铺结果中对齐,得到对齐的二维区域掩码;
针对任一训练图像,提取训练图像的三维顶点位置信息,使用预设的二维纹理变换模型对训练图像的三维顶点位置信息进行平铺处理,得到第二平铺结果;
根据三维顶点位置信息与每个三维区域掩码的映射关系,获取对齐的二维区域掩码在第二平铺结果中对应的目标三维区域掩码,利用目标三维区域掩码,生成训练图像的初始标定结果。
其中,预设的二维纹理变换模型是指二维纹理坐标(U-VEEZ,UV)变换组件,用于确定如何将一个纹理图像放置在三维的模型表面,从而实现图像空间到UV空间的坐标转化。因此,对于第一人脸图像中的面部动作单元,首先,利用手工标定组件对第一人脸图像中面部动作单元对应的区域进行手工标定,得到第一人脸图像的标定结果,进而根据标定结果获取第一人脸图像中每个被标定区域在图像空间对应的三维区域掩码,然后,利用3D顶点估计器组件估计第一人脸图像的图像顶点,得到三维位置图,值得说明的是,3D顶点估计器组件拥有一个U型结构,能够预测出图像的3D几何结构,从而能够建立起从图像像素坐标到UV坐标的映射关系,则根据三维位置图,提取第一人脸图像的三维顶点位置信息,使用预设的UV变换模型对三维顶点位置信息进行平铺处理,得到第一平铺结果,进而根据三维顶点位置信息与每个三维区域掩码的映射关系,将每个三维区域掩码在第一平铺结果中对齐,得到对齐的二维区域掩码,对齐的二维区域掩码恰好对应于第一人脸图像中的每个面部动作区域,将第一人脸图像对应标定好的三维区域掩码映射到一个相对不变的UV空间中,使得第一人脸图像的所有像素都会被平铺在UV空间中的任意固定位置,从而能够得到对齐的二维区域掩码,使得后续表情图像训练集中每张训练图像的面部动作单元对应的区域的标定更加准确。
在一个可实现的实施例中,参照图3,为本发明实施例提供的一种二维纹理坐标变换的示意图,假设图像空间容纳了三维区域掩码,UV空间容纳了对齐的二维区域掩码,索引空间容纳了3D位置图,同时,定义:[ζ,ξ]:[α1,α2,…,αd]表示不同空间下元素关系,其中,[ζ,ξ]表示元素的位置坐标,[α1,α2,…,αd]表示元素的元素值,d表示通道数量。在UV变换的正向过程中,先遍历3D位置图中所有的元素[ui,vi]:[xi,yi],然后将三维区域掩码中,位于[xi,yi]:[r,g,b]的元素值[r,g,b]取出分配到对齐的二维区域掩码的[ui,vi]:[r,g,b]位置上,通过循环迭代,三维区域掩码被重映射为对齐的二维区域掩码。
同理,对于表情图像训练集中的图像,利用预设的二维纹理变换模型,实现UV空间到图像空间的坐标逆转化,因此,针对表情图像训练集中的任一训练图像,利用3D顶点估计器组件估计训练图像的图像顶点,得到三维位置图,根据三维位置图,提取训练图像的三维顶点位置信息,使用预设的UV变换模型对训练图像的三维顶点位置信息进行平铺处理,得到第二平铺结果,根据三维顶点位置信息与每个三维区域掩码的映射关系,获取对齐的二维区域掩码在第二平铺结果中对应的目标三维区域掩码,利用目标三维区域掩码,生成训练图像的初始标定结果,也即是完成了训练图像中面部动作单元的区域划分,通过对少量的第一人脸图像进行面部动作单元的标定,根据其标定结果实现了对任意人脸图像的自动标定,降低了手工标注的成本。
可选的是,在生成训练图像的初始标定结果之后,包括:
利用预设的椭圆参数对初始标定结果中的每个标定区域进行椭圆近似,确认椭圆近似后的初始标定结果为目标标定结果。
其中,椭圆近似是指将不规则形状调整为椭圆形状,因此,利用预设的椭圆参数对初始标定结果中的每个标定区域进行椭圆近似,具体的,假设任一标定区域的区域轮廓为其中,(xi,yi)表示区域轮廓上一点,T表示轮廓点的数量;通常标准的椭圆方程由椭圆中心(cx,cy),长短轴(a,b),旋转角度θ决定,根据标定区域的区域轮廓上的所有轮廓点的位置对椭圆方程进行数据拟合,得到椭圆参数,根据椭圆参数对标定区域进行椭圆近似,得到标定区域对应的椭圆区域Ereg={cx,cy,a,b,θ}。同理对初始标定结果中的每个标定区域进行椭圆近似,得到每个标定区域对应的椭圆区域,进而确认椭圆区域为目标标定结果,也即椭圆近似后的初始标定结果为目标标定结果,对不同标定区域的大致轮廓进行椭圆近似,以将不规则的标定区域转换为可旋转的椭圆区域,从而降低了区域拟合的复杂度。
步骤S203,使用区域划分模型对表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果。
其中,预测标定结果是指预先推测的面部动作单元对应的标注信息,也即是预先推测的面部动作单元在图像中所对应的区域,因此,使用区域划分模型对表情图像训练集中的每张训练图像进行区域划分预测,得到对应训练图像的预测标定结果。
可选的是,区域划分模型包括下采样模块、残差模块和区域回归模块,使用区域划分模型对表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果,包括:
针对任一训练图像,使用下采样模块对训练图像进行特征提取,得到第一公共特征;
使用残差模块对第一公共特征进行残差计算,得到第一残差张量;
使用区域回归模块对第一残差张量进行区域划分预测,得到预测标定结果。
其中,下采样模块用于提取图像特征,残差模块包含一个残差块,用于衡量预测值和观测值之间的差距,以加强区域划分模型的表达能力,区域回归模块由两个卷积层和一个全连接层组成,用于预测面部动作单元的区域位置,因此,针对表情图像训练集中的任一训练图像,使用下采样模块对训练图像进行特征提取,得到第一公共特征,然后,将第一公共特征按照通道拆分为两个部分,即公共一特征和公共二特征,进而使用残差模块对公共一特征进行残差计算,得到第一残差张量,最后,使用区域回归模块对第一残差张量进行区域划分预测,得到训练图像的预测标定结果。
步骤S204,根据目标标定结果和预测标定结果,调节区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型。
其中,训练好的区域划分模型,是指已经训练完成的区域划分模型,也即是在训练过程中通过训练集调节区域划分模型的参数,进而得到的训练好的区域划分模型,因此,根据目标标定结果和预测标定结果,调节区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型。
可选的是,区域划分模块包括身份解耦模块和状态分类模块,在根据目标标定结果和预测标定结果,调节区域划分模型的参数之前,包括:
获取带标签的B张表情图像,B为大于零的整数;
针对任一表情图像,使用下采样模块对表情图像进行特征提取,得到第二公共特征,使用残差模块对第二公共特征进行残差计算,得到第二残差张量;
使用身份解耦模块对第二公共特征进行区域检测,生成表情图像的期望特征向量,将第二残差张量和期望特征向量输入状态分类模块进行区域重塑,得到表情图像的激活特征向量;
获取每张表情图像的激活特征向量,根据每张表情图像的激活特征向量,统计所有的区域类别;
针对任一区域类别,确认包含区域类别的表情图像为正样本,确认不包含区域类别的表情图像为负样本,获取所有区域类别下的正样本和负样本。
其中,带标签的B张表情图像是指已知面部动作单元的B张表情图像,身份解耦模块用于检测面部动作单元所对应的区域,状态分类模块由两个卷积层和一个全连接层组成,用于对面部动作单元的区域重塑,因此,针对任一表情图像,使用下采样模块对表情图像进行特征提取,得到第二公共特征,然后,将第二公共特征按照通道拆分为两个部分,即公共一特征和公共二特征,进而使用残差模块对第二公共特征的公共一特征进行残差计算,得到第二残差张量,将第二公共特征的公共二特征输入身份解耦模块进行通道降维,得到区域检测结果,根据检测到的区域生成表情图像的期望特征向量,最后,对生成的期望特征向量进一步重塑,则将第二残差张量和期望特征向量输入状态分类模块进行维度交换和维度拉伸操作,将期望特征向量重塑为激活特征向量,其中,激活特征向量中的不同元素表示相对应的区域被激活的概率,例如:总共有5种面部动作单元,分别为单元1、单元2、单元3、单元4和单元5,对应表情图像的特征激活向量为[1,0,1,0,1],第一个1表示表情图像包含单元1对应的区域,第一个0表示表情图像中不包含单元2对应的区域,第二个1表示表情图像包含单元3对应的区域,第二个0表示表情图像中不包含单元4对应的区域,第三个1表示表情图像包含单元5对应的区域。
同理,获取每张表情图像的激活特征向量,根据每张表情图像的激活特征向量,统计所有的区域类别,也即是面部动作单元的类别,针对任一区域类别,确认包含区域类别的表情图像为正样本,确认不包含区域类别的表情图像为负样本,获取所有区域类别下的正样本和负样本,以将表情图像构成正负样本对,便于后续对比学习。例如:总共有5种面部动作单元,分别为单元1、单元2和单元3,表情图像A的激活特征向量为[1,0,1],表情图像B的激活特征向量为[0,1,0],表情图像C的激活特征向量为[1,0,0],对于单元1,可知表情图像A和表情图像B为正样本,表情图像C为负样本,对于单元2,可知表情图像A和表情图像C为负样本,表情图像B为正样本,同理,对于单元3,可知表情图像B和表情图像C为负样本,表情图像A为正样本。
可选的是,根据目标标定结果和预测标定结果,调节区域划分模型的参数,包括:
根据目标标定结果与预测标定结果之间的区域差异,计算区域回归损失;
利用初始标定结果对第一残差张量进行约束,得到标注掩码损失;
获取每张表情图像的标签所对应的实际特征向量,根据实际特征向量和激活特征向量之间的特征差异,计算激活损失;
对所有区域类别下的正样本和负样本进行对比学习,得到身份解耦损失;
根据区域回归损失、标注掩码损失、激活损失、身份解耦损失,调整区域划分模型的参数。
其中,区域划分模型的训练过程中的损失函数包括区域回归损失、标注掩码损失、激活损失、身份解耦损失。对于区域回归损失,目标标定结果中的每个标定区域为椭圆区域,椭圆区域对应有5个椭圆参数,即{cx,cy,a,b,θ},则将每个椭圆区域的5个椭圆参数组成一个参数集合,以表征对应标定区域的位置信息,进而将目标标定结果中所有标定区域对应的参数集合组成目标位置向量;同理,分别获取预测标定结果中每个标定区域对应的5个椭圆参数所构成的集合,将预测标定结果中所有标定区域的集合组成预测位置向量,根据训练图像对应的目标位置向量和预测位置向量之间的差异计算L2范数损失,确认L2范数损失为区域回归损失,通过评估预测区域和真实区域之间的区域差异,指导区域划分模型训练。
对于标注掩码损失,目标标定结果是通过对初始标定结果进行椭圆近似获取的,预测标定结果是基于第一残差张量进行区域划分预测得到的,获取初始标定结果对应的标定区域的特征向量,计算特征向量与第一残差张量之间的L2范数损失,确认L2范数损失为标注掩码损失,通过对第一残差张量进行约束,使其尽可能接近初始标定结果,进而强化了区域回归损失。
对于激活损失,根据每张表情图像的标签获取对应的实际特征向量,一般可以被表示为[1,0,…,1]的向量形式,计算实际特征向量和激活特征向量之间的L2范数损失,确认L2范数损失为激活损失,通过将多标签分类的问题转化为向量回归问题,利用激活损失衡量预测标签和真实标签的差异性。
对于身份解耦损失,为了实现身份解耦功能,从对比学习的角度,通过对所有区域类别下的正样本和负样本进行对比学习,得到身份解耦损失,以确保相同的面部动作单元在不同身份的人脸图像中具有较小的欧式距离,进而减少身份因素对于相同面部动作单元的表征影响,从而使学习到的同一面部动作单元具备一定的身份不变性,也即是同一类面部动作单元在不同人的人脸图像中的表征一致。
将区域回归损失、标注掩码损失、激活损失和身份解耦损失进行整合,根据整合结果调整区域划分模型的参数,以实现统一的端到端训练。具体为,计算区域回归损失、标注掩码损失、激活损失和身份解耦损失之间的相加结果,将相加结果作为区域划分模型的监督损失,根据梯度下降法反向修正区域划分模型的参数,直至监督损失收敛,得到训练好的区域划分模型。
可选的是,对所有区域类别下的正样本和负样本进行对比学习,得到身份解耦损失,包括:
针对任一区域类别,获取区域类别下每个正样本的锚点特征和正样本特征,以及每个负样本的负样本特征;
根据每个正样本对应的锚点特征和正样本特征之间的特征差异,获取第一差异结果,根据每个正样本的正样本特征与每个负样本的负样本特征之间的特征差异,获取第二差异结果;
获取所有区域类别下的第一差异结果和第二差异结果,根据所有第一差异结果和所有第二差异结果,计算身份解耦损失。
通过对比学习让面部动作单元的摆脱身份干扰,使面部动作单元具备身份不变性,也即是针对任一面部动作单元的类别,减少该类别在不同人脸上所表征的状态差异。
其中,对于任一区域类别,分别计算每个正样本对应的锚点特征和正样本特征之间的L2范数损失,将所有正样本的L2范数损失组成第一差异结果,同时,计算每个正样本与每个负样本之间对应正样本特征和负样本特征的L2范数损失,将所有正样本与每个负样本之间的L2范数损失组成第二差异结果,同理,获取所有区域类别下的第一差异结果和第二差异结果,对所有第一差异结果和所有第二差异结果进行整合,得到身份解耦损失,通过对比学习实现了学习同类实例之间的共同特征,区分非同类实例之间的不同之处,进而减少了不同人身份对于相同面部动作单元对应表征的影响。
在一可选实施例中,身份解耦损失的计算公式为:
其中,Lid为身份解耦损失,Nau为区域类别的总数量,Bkr为第k个区域类别下的正样本数量,Bkf为第k个区域类别下的负样本数量,为第k个区域类别下第t个正样本的锚点特征,/>为第k个区域类别下第t个正样本的正样本特征,/>为第k个区域类别下第s个负样本的负样本特征,‖*‖2为L2范数,max为最大值函数,∈为超参数,用来控制正样本和负样本之间的最小边界。
步骤S205,使用训练好的区域划分模型对目标人脸图像进行区域划分,得到对应目标人脸图像的区域划分结果。
其中,对于训练好的区域划分模型而言,已经具备了强大的区域划分能力,针对新的人脸图像也能够准确进行区域划分,因此,使用训练好的区域划分模型对目标人脸图像进行区域划分,所得到的目标人脸图像的区域划分结果具有极高的准确率。
本发明实施例获取构建的区域划分模型和待划分的目标人脸图像;获取已手动标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中每张训练图像分别进行区域标定,得到对应训练图像的目标标定结果;使用区域划分模型对表情图像训练集中的每张训练图像进行区域划分预测,得到对应训练图像的预测标定结果;根据目标标定结果和预测标定结果,调节区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;使用训练好的区域划分模型对目标人脸图像进行区域划分,得到对应目标人脸图像的区域划分结果,在少量的人工标注条件下,利用已手动标定的第一人脸图像获取未标定的表情图像训练集中每张训练图像的目标标定结果,根据目标标定结果和区域划分模型输出的预测标定结果,调整区域划分模型的参数,提高了区域划分模型的性能,进而提升了面部动作单元的区域划分的准确性。
对应于上文实施例的区域划分方法,图4示出了本发明实施例二提供的一种面部动作单元的区域划分装置的结构框图,为了便于说明,仅示出了与本发明实施例相关的部分。
参见图4,该区域划分装置包括:
信息获取模块41,用于获取区域划分模型和待划分的目标人脸图像。
结果标定模块42,用于获取手工标定的第一人脸图像和未标定的表情图像训练集,根据第一人脸图像的标定结果对表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果。
结果预测模块43,用于使用区域划分模型对表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果。
参数调节模块44,用于根据目标标定结果和预测标定结果,调节区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型。
区域划分模块45,用于使用训练好的区域划分模型对目标人脸图像进行区域划分,得到对应目标人脸图像的区域划分结果。
可选的是,结果标定模块42包括:
掩码获取单元,用于根据第一人脸图像的标定结果,确定第一人脸图像中每个被标定区域对应的三维区域掩码;
第一平铺单元,用于提取第一人脸图像的三维顶点位置信息,使用预设的二维纹理变换模型对三维顶点位置信息进行平铺处理,得到第一平铺结果;
掩码对齐单元,用于根据三维顶点位置信息与每个三维区域掩码的映射关系,将每个三维区域掩码在第一平铺结果中对齐,得到对齐的二维区域掩码;
第二平铺单元,用于针对任一训练图像,提取训练图像的三维顶点位置信息,使用预设的二维纹理变换模型对训练图像的三维顶点位置信息进行平铺处理,得到第二平铺结果;
初始标定单元,用于根据三维顶点位置信息与每个三维区域掩码的映射关系,获取对齐的二维区域掩码在第二平铺结果中对应的目标三维区域掩码,利用目标三维区域掩码,生成训练图像的初始标定结果。
可选的是,结果标定模块42包括:
椭圆拟合单元,用于在生成训练图像的初始标定结果之后,利用预设的椭圆参数对初始标定结果中的每个标定区域进行椭圆近似,确认椭圆近似后的初始标定结果为目标标定结果。
可选的是,区域划分模型包括下采样模块、残差模块和区域回归模块,则结果预测模块43包括:
特征提取单元,用于针对任一训练图像,使用下采样模块对训练图像进行特征提取,得到第一公共特征;
残差计算单元,用于使用残差模块对第一公共特征进行残差计算,得到第一残差张量;
区域预测单元,用于使用区域回归模块对第一残差张量进行区域划分预测,得到预测标定结果。
可选的是,区域划分模块包括身份解耦模块和状态分类模块,则参数调节模块44包括:
标签图像获取单元,用于在根据目标标定结果和预测标定结果,调节区域划分模型的参数之前,获取带标签的B张表情图像,B为大于零的整数;
残差张量获取单元,用于针对任一表情图像,使用下采样模块对表情图像进行特征提取,得到第二公共特征,使用残差模块对第二公共特征进行残差计算,得到第二残差张量;
激活向量获取单元,用于使用身份解耦模块对第二公共特征进行区域检测,生成表情图像的期望特征向量,将第二残差张量和期望特征向量输入状态分类模块进行区域重塑,得到表情图像的激活特征向量;
区域类别统计单元,用于获取每张表情图像的激活特征向量,根据每张表情图像的激活特征向量,统计所有的区域类别;
样本对获取单元,用于针对任一区域类别,确认包含区域类别的表情图像为正样本,确认不包含区域类别的表情图像为负样本,获取所有区域类别下的正样本和负样本。
可选的是,参数调节模块44包括:
区域损失计算单元,用于根据目标标定结果与预测标定结果之间的区域差异,计算区域回归损失;
标注损失计算单元,用于利用初始标定结果对第一残差张量进行约束,得到标注掩码损失;
特征损失计算单元,用于获取每张表情图像的标签所对应的实际特征向量,根据实际特征向量和激活特征向量之间的特征差异,计算激活损失;
解耦损失计算单元,用于对所有区域类别下的正样本和负样本进行对比学习,得到身份解耦损失;
模型参数调整单元,用于根据区域回归损失、标注掩码损失、激活损失、身份解耦损失,调整区域划分模型的参数。
可选的是,解耦损失计算单元包括:
特征获取子单元,用于针对任一区域类别,获取区域类别下每个正样本的锚点特征和正样本特征,以及每个负样本的负样本特征;
差异分析子单元,用于根据每个正样本对应的锚点特征和正样本特征之间的特征差异,获取第一差异结果,根据每个正样本的正样本特征与每个负样本的负样本特征之间的特征差异,获取第二差异结果;
差异处理子单元,用于获取所有区域类别下的第一差异结果和第二差异结果,根据所有第一差异结果和所有第二差异结果,计算身份解耦损失。
需要说明的是,上述模块、单元、子单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图5为本发明实施例三提供的一种计算机设备的结构示意图。如图5所示,该实施例的计算机设备包括:至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个区域划分方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图5仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种面部动作单元的区域划分方法,其特征在于,所述区域划分方法包括:
获取区域划分模型和待划分的目标人脸图像;
获取手工标定的第一人脸图像和未标定的表情图像训练集,根据所述第一人脸图像的标定结果对所述表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;
使用所述区域划分模型对所述表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;
根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;
使用所述训练好的区域划分模型对所述目标人脸图像进行区域划分,得到对应所述目标人脸图像的区域划分结果。
2.根据权利要求1所述的区域划分方法,其特征在于,所述根据所述第一人脸图像的标定结果对所述表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果,包括:
根据所述第一人脸图像的标定结果,确定所述第一人脸图像中每个被标定区域对应的三维区域掩码;
提取所述第一人脸图像的三维顶点位置信息,使用预设的二维纹理变换模型对所述三维顶点位置信息进行平铺处理,得到第一平铺结果;
根据所述三维顶点位置信息与每个三维区域掩码的映射关系,将每个三维区域掩码在所述第一平铺结果中对齐,得到对齐的二维区域掩码;
针对任一训练图像,提取所述训练图像的所述三维顶点位置信息,使用预设的二维纹理变换模型对所述训练图像的所述三维顶点位置信息进行平铺处理,得到第二平铺结果;
根据所述三维顶点位置信息与每个三维区域掩码的映射关系,获取所述对齐的二维区域掩码在所述第二平铺结果中对应的目标三维区域掩码,利用所述目标三维区域掩码,生成所述训练图像的初始标定结果。
3.根据权利要求2所述的区域划分方法,其特征在于,在生成所述训练图像的初始标定结果之后,包括:
利用预设的椭圆参数对所述初始标定结果中的每个标定区域进行椭圆近似,确认椭圆近似后的所述初始标定结果为目标标定结果。
4.根据权利要求1所述的区域划分方法,其特征在于,所述区域划分模型包括下采样模块、残差模块和区域回归模块,所述使用所述区域划分模型对所述表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果,包括:
针对任一训练图像,使用所述下采样模块对所述训练图像进行特征提取,得到第一公共特征;
使用所述残差模块对所述第一公共特征进行残差计算,得到第一残差张量;
使用所述区域回归模块对所述第一残差张量进行区域划分预测,得到预测标定结果。
5.根据权利要求4所述的区域划分方法,其特征在于,所述区域划分模块包括身份解耦模块和状态分类模块,在所述根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数之前,包括:
获取带标签的B张表情图像,B为大于零的整数;
针对任一表情图像,使用所述下采样模块对所述表情图像进行特征提取,得到第二公共特征,使用所述残差模块对所述第二公共特征进行残差计算,得到第二残差张量;
使用所述身份解耦模块对所述第二公共特征进行区域检测,生成所述表情图像的期望特征向量,将所述第二残差张量和所述期望特征向量输入所述状态分类模块进行区域重塑,得到所述表情图像的激活特征向量;
获取每张所述表情图像的所述激活特征向量,根据每张所述表情图像的所述激活特征向量,统计所有的区域类别;
针对任一区域类别,确认包含所述区域类别的所述表情图像为正样本,确认不包含所述区域类别的所述表情图像为负样本,获取所有区域类别下的所述正样本和所述负样本。
6.根据权利要求1至5任一项所述的区域划分方法,其特征在于,所述根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数,包括:
根据所述目标标定结果与所述预测标定结果之间的区域差异,计算区域回归损失;
利用所述初始标定结果对所述第一残差张量进行约束,得到标注掩码损失;
获取每张所述表情图像的标签所对应的实际特征向量,根据所述实际特征向量和所述激活特征向量之间的特征差异,计算激活损失;
对所有区域类别下的所述正样本和所述负样本进行对比学习,得到身份解耦损失;
根据所述区域回归损失、所述标注掩码损失、所述激活损失、所述身份解耦损失,调整所述区域划分模型的参数。
7.根据权利要求6所述的区域划分方法,其特征在于,所述对所有区域类别下的所述正样本和所述负样本进行对比学习,得到身份解耦损失,包括:
针对任一区域类别,获取所述区域类别下每个所述正样本的锚点特征和正样本特征,以及每个所述负样本的负样本特征;
根据每个所述正样本对应的所述锚点特征和所述正样本特征之间的特征差异,获取第一差异结果,根据每个所述正样本的所述正样本特征与每个所述负样本的所述负样本特征之间的特征差异,获取第二差异结果;
获取所有区域类别下的所述第一差异结果和所述第二差异结果,根据所有第一差异结果和所有第二差异结果,计算身份解耦损失。
8.一种面部动作单元的区域划分装置,其特征在于,所述区域划分装置包括:
信息获取模块,用于获取区域划分模型和待划分的目标人脸图像;
结果标定模块,用于获取手工标定的第一人脸图像和未标定的表情图像训练集,根据所述第一人脸图像的标定结果对所述表情图像训练集中的图像进行区域标定,得到对应训练图像的目标标定结果;
结果预测模块,用于使用所述区域划分模型对所述表情图像训练集中的图像进行区域划分预测,得到对应训练图像的预测标定结果;
参数调节模块,用于根据所述目标标定结果和所述预测标定结果,调节所述区域划分模型的参数,直至满足预设条件,得到训练好的区域划分模型;
区域划分模块,用于使用所述训练好的区域划分模型对所述目标人脸图像进行区域划分,得到对应所述目标人脸图像的区域划分结果。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的区域划分方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的区域划分方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310876893.5A CN117011312A (zh) | 2023-07-17 | 2023-07-17 | 一种面部动作单元的区域划分方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310876893.5A CN117011312A (zh) | 2023-07-17 | 2023-07-17 | 一种面部动作单元的区域划分方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117011312A true CN117011312A (zh) | 2023-11-07 |
Family
ID=88561159
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310876893.5A Pending CN117011312A (zh) | 2023-07-17 | 2023-07-17 | 一种面部动作单元的区域划分方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117011312A (zh) |
-
2023
- 2023-07-17 CN CN202310876893.5A patent/CN117011312A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111860670B (zh) | 域自适应模型训练、图像检测方法、装置、设备及介质 | |
CN110443143B (zh) | 多分支卷积神经网络融合的遥感图像场景分类方法 | |
Xie et al. | Multilevel cloud detection in remote sensing images based on deep learning | |
CN108388896B (zh) | 一种基于动态时序卷积神经网络的车牌识别方法 | |
CN108960211B (zh) | 一种多目标人体姿态检测方法以及系统 | |
CN109145745B (zh) | 一种遮挡情况下的人脸识别方法 | |
CN109740606B (zh) | 一种图像识别方法及装置 | |
CN111783532B (zh) | 一种基于在线学习的跨年龄人脸识别方法 | |
US20210004648A1 (en) | Computer Vision Systems and Methods for Blind Localization of Image Forgery | |
CN111709313B (zh) | 基于局部和通道组合特征的行人重识别方法 | |
Zhong et al. | Change detection based on pulse-coupled neural networks and the NMI feature for high spatial resolution remote sensing imagery | |
CN113361495A (zh) | 人脸图像相似度的计算方法、装置、设备及存储介质 | |
KR20230169104A (ko) | 기계 학습 및 등록 데이터를 사용한 개인화된 생체인식 안티-스푸핑 보호 | |
CN113095333B (zh) | 无监督特征点检测方法及装置 | |
CN103839042A (zh) | 人脸识别方法和人脸识别系统 | |
CN114118303B (zh) | 基于先验约束的人脸关键点检测方法及装置 | |
CN110276788B (zh) | 用于红外成像式导引头目标跟踪的方法和装置 | |
WO2020199498A1 (zh) | 指静脉比对方法、装置、计算机设备及存储介质 | |
CN113033305B (zh) | 活体检测方法、装置、终端设备和存储介质 | |
US20220270360A1 (en) | Method and apparatus for authentication of a three-dimensional object | |
Kumar et al. | An empirical evaluation of rotation invariance of LDP feature for fingerprint matching using neural networks | |
CN108154107B (zh) | 一种确定遥感图像归属的场景类别的方法 | |
CN117115436A (zh) | 舰船姿态检测方法、装置、电子设备及存储介质 | |
CN116188956A (zh) | 一种深度伪造人脸图像检测的方法及相关设备 | |
CN117011312A (zh) | 一种面部动作单元的区域划分方法、装置、设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |