CN118038517A - 基于细粒度增强特征的表情识别模型的训练方法及装置 - Google Patents
基于细粒度增强特征的表情识别模型的训练方法及装置 Download PDFInfo
- Publication number
- CN118038517A CN118038517A CN202410078734.5A CN202410078734A CN118038517A CN 118038517 A CN118038517 A CN 118038517A CN 202410078734 A CN202410078734 A CN 202410078734A CN 118038517 A CN118038517 A CN 118038517A
- Authority
- CN
- China
- Prior art keywords
- network
- image
- feature
- processing
- fine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 114
- 238000000034 method Methods 0.000 title claims abstract description 50
- 239000013598 vector Substances 0.000 claims abstract description 149
- 238000012545 processing Methods 0.000 claims abstract description 126
- 239000011159 matrix material Substances 0.000 claims abstract description 102
- 238000004590 computer program Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 14
- 238000011176 pooling Methods 0.000 claims description 10
- 230000001131 transforming effect Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 8
- 239000012633 leachable Substances 0.000 claims description 6
- 238000012935 Averaging Methods 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本公开提供了一种基于细粒度增强特征的表情识别模型的训练方法及装置。该方法包括:构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取训练图像,将训练图像输入表情识别模型:通过图像处理网络处理训练图像,得到图像特征向量;通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;通过分类网路处理细粒度增强特征矩阵,得到分类结果;计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。采用上述技术手段,解决现有技术由于遮挡造成关键特征丢失导致表情识别模型精度低的问题。
Description
技术领域
本公开涉及表情识别技术领域,尤其涉及一种基于细粒度增强特征的表情识别模型的训练方法及装置。
背景技术
表情识别是判断人脸图像所属的表情类别,随着计算机视觉的发展,其重要性越来越显著。在实际应用中,大部分场景下待检测的人脸图像是存在遮挡的,遮挡会导致关键特征难以提取,进而降低表情识别算法的精度。现有方法为了提升表情识别算法的精度,常是会从数据角度出发,通过数据增强策略构造更多的训练样本,使用更多的训练样本训练表情识别模型,以提高表情识别模型的精度。该方法会额外增加很多工作量,且在表情识别模型的精度达到一定程度,就难以提升训练效果。
发明内容
有鉴于此,本公开实施例提供了一种基于细粒度增强特征的表情识别模型的训练方法、装置、电子设备及计算机可读存储介质,以解决现有技术中由于遮挡造成关键特征丢失导致表情识别模型精度低的问题。
本公开实施例第一方面,提供了一种基于细粒度增强特征的表情识别模型的训练方法,包括:构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取训练图像,将训练图像输入表情识别模型:通过图像处理网络处理训练图像,得到图像特征向量;通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;通过分类网路处理细粒度增强特征矩阵,得到分类结果;计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。
本公开实施例第二方面,提供了一种基于细粒度增强特征的表情识别模型的训练装置,包括:构建模块,被配置为构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取模块,被配置为获取训练图像,将训练图像输入表情识别模型:处理模块,被配置为通过图像处理网络处理训练图像,得到图像特征向量;增强模块,被配置为通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;分类模块,被配置为通过分类网路处理细粒度增强特征矩阵,得到分类结果;优化模块,被配置为计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。
本公开实施例的第三方面,提供了一种电子设备,包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序,该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
本公开实施例与现有技术相比存在有益效果是:构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取训练图像,将训练图像输入表情识别模型:通过图像处理网络处理训练图像,得到图像特征向量;通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;通过分类网路处理细粒度增强特征矩阵,得到分类结果;计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。采用上述技术手段,可以解决现有技术由于遮挡造成关键特征丢失导致表情识别模型精度低的问题,进而提高表情识别算法的精度。
附图说明
为了更清楚地说明本公开实施例中技术方案,下面将对实施例或现有技术描述中所需要使用附图作简单地介绍,显而易见地,下面描述中附图仅仅是本公开一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动前提下,还可以根据这些附图获得其它附图。
图1是本公开实施例提供一种基于细粒度增强特征的表情识别模型的训练方法的流程示意图;
图2是本公开实施例提供一种基于细粒度增强特征的表情识别方法的流程示意图;
图3是本公开实施例提供一种基于细粒度增强特征的表情识别模型的训练装置结构示意图;
图4是本公开实施例提供一种电子设备结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类具体细节,以便透彻理解本公开实施例。然而,本领域技术人员应当清楚,在没有这些具体细节其它实施例中也可以实现本公开。在其它情况中,省略对众所周知系统、装置、电路以及方法详细说明,以免不必要细节妨碍本公开描述。
下面将结合附图详细说明根据本公开实施例一种基于细粒度增强特征的表情识别模型的训练方法和装置。
图1是本公开实施例提供一种基于细粒度增强特征的表情识别模型的训练方法的流程示意图。图1基于细粒度增强特征的表情识别模型的训练方法可以由计算机或服务器,或者计算机或服务器上软件执行。如图1所示,该基于细粒度增强特征的表情识别模型的训练方法包括:
S101,构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;
S102,获取训练图像,将训练图像输入表情识别模型:
S103,通过图像处理网络处理训练图像,得到图像特征向量;
S104,通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;
S105,通过分类网路处理细粒度增强特征矩阵,得到分类结果;
S106,计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。
表情识别是识别出人脸图像中对象的表情类别,表情类别有快乐、悲伤、愤怒、恐惧、淡定和激动等。训练图像是人脸图像,训练图像是多个。分类结果是表情识别模型识别的训练图像中对象的表情类别,训练图像的标签是提前标注的训练图像中对象的表情类别。
依次连接图像处理网络、细粒度特征增强网络和分类网路(三个网络之间是串行连接的关系),得到表情识别模型。将训练图像输入表情识别模型,依次通过遮挡网络、图像处理网络和细粒度特征增强网络处理训练图像,得到分类结果。利用交叉熵损失函数计算分类结果和训练图像的标签之间的损失,根据计算得到的损失优化表情识别模型的模型参数。
根据本申请实施例提供技术方案,构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取训练图像,将训练图像输入表情识别模型:通过图像处理网络处理训练图像,得到图像特征向量;通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;通过分类网路处理细粒度增强特征矩阵,得到分类结果;计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。采用上述技术手段,可以解决现有技术由于遮挡造成关键特征丢失导致表情识别模型精度低的问题,进而提高表情识别算法的精度。
进一步地,构建遮挡网络、图像处理网络和细粒度特征增强网络,包括:利用图像切分层、特征拉平层和随机向量生成层构建图像处理网络,其中,随机向量生成层用于生成和特征拉平层输出向量同维度的向量;利用Transformer中的编码网络、第一可学习矩阵和第二可学习矩阵构建第一分支网络,利用多个堆叠的残差网络构建第二分支网络,利用第一分支网络、第二分支网络、相似度计算网络和相乘层构建细粒度特征增强网络;利用全局平均池化层、全连接层和分类层构建分类网路。
在图像处理网络中,图像切分层和特征拉平层是串行连接的,随机向量生成层与串行连接的图像切分层和特征拉平层是并行的。图像切分层是Patch层,用于将一个大图像切分为多个小图像,特征拉平层是Flatten层,用于特征降维。
在第一分支网络中,第一可学习矩阵和第二可学习矩阵是彼此并行的,二者均连接在Transformer中的编码网络之后。Transformer中的编码网络是指Transformerencoder。第一可学习矩阵和第二可学习矩阵是通过学习优化自身元素的矩阵,第一可学习矩阵和第二可学习矩阵初始化时的矩阵不同,也就是初始时第一可学习矩阵和第二可学习矩阵不同。
利用多个堆叠的残差网络构建第二分支网络,是多个堆叠的残差网络串行连接得到第二分支网络。相似度计算网络用于计算两个特征之间的相似度,相乘层用于对两个特征进行相乘运算。
依次串行连接全局平均池化层、全连接层和分类层,得到分类网路。分类层之前的全连接层用于对特征做变换,目的是提取更加有效的高层语义信息。分类层基于其前一个全连接层的输出确定对应的分类结果。
更进一步地,通过图像处理网络处理训练图像,得到图像特征向量,包括:通过图像切分层处理训练图像,得到多个小图像;通过特征拉平层处理各个小图像的像素特征矩阵,得到各个小图像的拉平特征向量;通过随机向量生成层为训练图像生成随机向量,其中,随机向量和各条拉平特征向量的维度相同;其中,图像特征向量包括随机向量和各条拉平特征向量。
图像切分层将训练图像切分为多个小图像。因为图像可以被视为一个多维数据点,其中,图像中每个像素的值代表了图像在该位置的颜色或强度信息。这些像素值可以被视为图像的特征,因为它们提供了图像的视觉信息,图像的所有像素值就构成了图像的像素特征矩阵(所以图像可以直接等价于一个像素特征矩阵)。特征拉平层将小图像的像素特征矩阵变换为拉平特征向量。
更进一步地,通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵,包括:图像特征向量包括随机向量和多条拉平特征向量;通过第二分支网络处理训练图像,得到查询向量;通过第一分支网络处理随机向量和多条拉平特征向量,得到键向量和值向量;通过相似度计算网络计算查询向量和键向量之间的相似度矩阵;通过相乘层处理相似度矩阵和值向量,得到细粒度增强特征矩阵。
将训练图像输入第二分支网络,利用第二分支网络中多个堆叠的残差网络处理训练图像,将处理的结果作为查询向量。相似度计算网络计算查询向量和键向量之间的相似度矩阵。相乘层对相似度矩阵和值向量进行相乘运算,将结果作为细粒度增强特征矩阵。因为拉平特征向量是切分训练图像的小图像的特征,可以看作是训练图像的部分特征,所以依据随机向量和多条拉平特征向量确定的键向量和值向量能充分表示训练图像的部分特征的信息以及部分特征之间联系关系的信息,所以基于查询向量、键向量和值向量确定的特征可以记作细粒度增强特征矩阵。
更进一步地,通过第一分支网络处理随机向量和多条拉平特征向量,得到键向量和值向量,包括:通过Transformer中的编码网络处理随机向量和多条拉平特征向量,得到全局特征矩阵;利用第一可学习矩阵对全局特征矩阵进行变换,得到键向量;利用第二可学习矩阵对全局特征矩阵进行变换,得到值向量。
全局特征矩阵是Transformer中的编码网络将随机特征向量依次和各条拉平特征向量进行向量运算,并对最终运算的结果(该结果为向量)经过升维处理得到,其中,升维处理为特征拉平层对应处理的逆处理,升维处理是将该结果变换为矩阵。向量运算包括相加相乘等。利用第一可学习矩阵对和全局特征矩阵进行变换,可以是对第一可学习矩阵和全局特征矩阵进行相乘运算。利用第二可学习矩阵对全局特征矩阵进行变换,可以是对第二可学习矩阵和全局特征矩阵进行相乘运算。
需要说明的是,查询向量、键向量和值向量同于自注意力机制中的Q(Query)向量、K(Key)向量和V(Value)向量。细粒度增强特征矩阵是基于Q、K、V确定的。
更进一步地,通过分类网路处理细粒度增强特征矩阵,得到分类结果,包括:通过全局平均池化层处理细粒度增强特征矩阵,得到池化特征矩阵;通过全连接层处理池化特征,得到高层语义特征矩阵;通过分类层处理高层语义特征矩阵,得到分类结果。
也就是说,细粒度增强特征矩阵依次通过全局平均池化层、全连接层和分类层,得到分类结果。池化特征实际上为训练图像的低维的语义特征,全连接层将低维的语义特征变为为高维的语义特征(高层语义特征矩阵)。
图2是本公开实施例提供一种基于细粒度增强特征的表情识别方法的流程示意图,如图2所示,该方法包括:
S201,获取待检测的目标图像,将目标图像输入表情识别模型:
S202,通过图像处理网络处理目标图像,得到目标特征向量;
S203,通过细粒度特征增强网络处理目标图像和目标特征向量,得到目标细粒度增强特征矩阵;
S204,通过分类网路处理目标细粒度增强特征矩阵,得到目标分类结果。
本申请实施例是表情识别模型的推理阶段(训练后正式使用的阶段),推理阶段和训练阶段是对应,不再赘述。
上述所有可选技术方案,可以采用任意结合形成本申请可选实施例,在此不再一一赘述。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露细节,请参照本公开方法实施例。
图3是本公开实施例提供一种基于细粒度增强特征的表情识别模型的训练装置示意图。如图3所示,该基于细粒度增强特征的表情识别模型的训练装置包括:
构建模块301,被配置为构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;
获取模块302,被配置为获取训练图像,将训练图像输入表情识别模型:
处理模块303,被配置为通过图像处理网络处理训练图像,得到图像特征向量;
增强模块304,被配置为通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;
分类模块305,被配置为通过分类网路处理细粒度增强特征矩阵,得到分类结果;
优化模块306,被配置为计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。
依次连接图像处理网络、细粒度特征增强网络和分类网路(三个网络之间是串行连接的关系),得到表情识别模型。将训练图像输入表情识别模型,依次通过遮挡网络、图像处理网络和细粒度特征增强网络处理训练图像,得到分类结果。利用交叉熵损失函数计算分类结果和训练图像的标签之间的损失,根据计算得到的损失优化表情识别模型的模型参数。
根据本申请实施例提供技术方案,构建图像处理网络、细粒度特征增强网络和分类网路,利用图像处理网络、细粒度特征增强网络和分类网路构建表情识别模型;获取训练图像,将训练图像输入表情识别模型:通过图像处理网络处理训练图像,得到图像特征向量;通过细粒度特征增强网络处理训练图像和图像特征向量,得到细粒度增强特征矩阵;通过分类网路处理细粒度增强特征矩阵,得到分类结果;计算分类结果和训练图像的标签之间的损失,依据损失优化表情识别模型的模型参数,以完成对表情识别模型的训练。采用上述技术手段,可以解决现有技术由于遮挡造成关键特征丢失导致表情识别模型精度低的问题,进而提高表情识别算法的精度。
在一些实施例中,构建模块301还被配置为利用图像切分层、特征拉平层和随机向量生成层构建图像处理网络,其中,随机向量生成层用于生成和特征拉平层输出向量同维度的向量;利用Transformer中的编码网络、第一可学习矩阵和第二可学习矩阵构建第一分支网络,利用多个堆叠的残差网络构建第二分支网络,利用第一分支网络、第二分支网络、相似度计算网络和相乘层构建细粒度特征增强网络;利用全局平均池化层、全连接层和分类层构建分类网路。
在一些实施例中,处理模块303还被配置为通过图像切分层处理训练图像,得到多个小图像;通过特征拉平层处理各个小图像的像素特征矩阵,得到各个小图像的拉平特征向量;通过随机向量生成层为训练图像生成随机向量,其中,随机向量和各条拉平特征向量的维度相同;其中,图像特征向量包括随机向量和各条拉平特征向量。
在一些实施例中,增强模块304还被配置为图像特征向量包括随机向量和多条拉平特征向量;通过第二分支网络处理训练图像,得到查询向量;通过第一分支网络处理随机向量和多条拉平特征向量,得到键向量和值向量;通过相似度计算网络计算查询向量和键向量之间的相似度矩阵;通过相乘层处理相似度矩阵和值向量,得到细粒度增强特征矩阵。
在一些实施例中,增强模块304还被配置为通过Transformer中的编码网络处理随机向量和多条拉平特征向量,得到全局特征矩阵;利用第一可学习矩阵对全局特征矩阵进行变换,得到键向量;利用第二可学习矩阵对全局特征矩阵进行变换,得到值向量。
全局特征矩阵是Transformer中的编码网络将随机特征向量依次和各条拉平特征向量进行向量运算,并对最终运算的结果(该结果为向量)经过升维处理得到,其中,升维处理为特征拉平层对应处理的逆处理,升维处理是将该结果变换为矩阵。向量运算包括相加相乘等。利用第一可学习矩阵对和全局特征矩阵进行变换,可以是对第一可学习矩阵和全局特征矩阵进行相乘运算。利用第二可学习矩阵对全局特征矩阵进行变换,可以是对第二可学习矩阵和全局特征矩阵进行相乘运算。
在一些实施例中,分类模块305还被配置为通过全局平均池化层处理细粒度增强特征矩阵,得到池化特征矩阵;通过全连接层处理池化特征,得到高层语义特征矩阵;通过分类层处理高层语义特征矩阵,得到分类结果。
在一些实施例中,优化模块306还被配置为获取待检测的目标图像,将目标图像输入表情识别模型:通过图像处理网络处理目标图像,得到目标特征向量;通过细粒度特征增强网络处理目标图像和目标特征向量,得到目标细粒度增强特征矩阵;通过分类网路处理目标细粒度增强特征矩阵,得到目标分类结果。
应理解,上述实施例中各步骤序号大小并不意味着执行顺序先后,各过程执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例实施过程构成任何限定。
图4是本公开实施例提供电子设备4示意图。如图4所示,该实施例电子设备4包括:处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中步骤。或者,处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元功能。
电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解,图4仅仅是电子设备4示例,并不构成对电子设备4限定,可以包括比图示更多或更少部件,或者不同部件。
处理器401可以是中央处理单元(Central Processing Unit,CPU),也可以是其它通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
存储器402可以是电子设备4内部存储单元,例如,电子设备4硬盘或内存。存储器402也可以是电子设备4外部存储设备,例如,电子设备4上配备插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。存储器402还可以既包括电子设备4内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需其它程序和数据。
所属领域技术人员可以清楚地了解到,为了描述方便和简洁,仅以上述各功能单元、模块划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同功能单元、模块完成,即将装置内部结构划分成不同功能单元或模块,以完成以上描述全部或者部分功能。实施例中各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成单元既可以采用硬件形式实现,也可以采用软件功能单元形式实现。
集成模块/单元如果以软件功能单元形式实现并作为独立产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样理解,本公开实现上述实施例方法中全部或部分流程,也可以通过计算机程序来指令相关硬件来完成,计算机程序可以存储在计算机可读存储介质中,该计算机程序在被处理器执行时,可以实现上述各个方法实施例步骤。计算机程序可以包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明是,计算机可读介质包含内容可以根据司法管辖区内立法和专利实践要求进行适当增减,例如,在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开技术方案,而非对其限制;尽管参照前述实施例对本公开进行了详细说明,本领域普通技术人员应当理解:其依然可以对前述各实施例所记载技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案本质脱离本公开各实施例技术方案精神和范围,均应包含在本公开保护范围之内。
Claims (10)
1.一种基于细粒度增强特征的表情识别模型的训练方法,其特征在于,包括:
构建图像处理网络、细粒度特征增强网络和分类网路,利用所述图像处理网络、所述细粒度特征增强网络和所述分类网路构建表情识别模型;
获取训练图像,将所述训练图像输入所述表情识别模型:
通过所述图像处理网络处理所述训练图像,得到图像特征向量;
通过所述细粒度特征增强网络处理所述训练图像和所述图像特征向量,得到细粒度增强特征矩阵;
通过所述分类网路处理所述细粒度增强特征矩阵,得到分类结果;
计算所述分类结果和所述训练图像的标签之间的损失,依据所述损失优化所述表情识别模型的模型参数,以完成对所述表情识别模型的训练。
2.根据权利要求1所述方法,其特征在于,构建遮挡网络、图像处理网络和细粒度特征增强网络,包括:
利用图像切分层、特征拉平层和随机向量生成层构建所述图像处理网络,其中,所述随机向量生成层用于生成和所述特征拉平层输出向量同维度的向量;
利用Transformer中的编码网络、第一可学习矩阵和第二可学习矩阵构建第一分支网络,利用多个堆叠的残差网络构建第二分支网络,利用所述第一分支网络、所述第二分支网络、相似度计算网络和相乘层构建所述细粒度特征增强网络;
利用全局平均池化层、全连接层和分类层构建所述分类网路。
3.根据权利要求2所述方法,其特征在于,通过所述图像处理网络处理所述训练图像,得到图像特征向量,包括:
通过所述图像切分层处理所述训练图像,得到多个小图像;
通过所述特征拉平层处理各个小图像的像素特征矩阵,得到各个小图像的拉平特征向量;
通过所述随机向量生成层为所述训练图像生成随机向量,其中,所述随机向量和各条拉平特征向量的维度相同;
其中,所述图像特征向量包括所述随机向量和各条拉平特征向量。
4.根据权利要求2所述方法,其特征在于,通过所述细粒度特征增强网络处理所述训练图像和所述图像特征向量,得到细粒度增强特征矩阵,包括:
所述图像特征向量包括随机向量和多条拉平特征向量;
通过所述第二分支网络处理所述训练图像,得到查询向量;
通过所述第一分支网络处理所述随机向量和多条拉平特征向量,得到键向量和值向量;
通过所述相似度计算网络计算所述查询向量和所述键向量之间的相似度矩阵;
通过所述相乘层处理所述相似度矩阵和所述值向量,得到所述细粒度增强特征矩阵。
5.根据权利要求4所述方法,其特征在于,通过所述第一分支网络处理所述随机向量和多条拉平特征向量,得到键向量和值向量,包括:
通过所述Transformer中的编码网络处理所述随机向量和多条拉平特征向量,得到全局特征矩阵;
利用所述第一可学习矩阵对所述全局特征矩阵进行变换,得到所述键向量;
利用所述第二可学习矩阵对所述全局特征矩阵进行变换,得到所述值向量。
6.根据权利要求2所述方法,其特征在于,通过所述分类网路处理所述细粒度增强特征矩阵,得到分类结果,包括:
通过所述全局平均池化层处理所述细粒度增强特征矩阵,得到池化特征矩阵;
通过所述全连接层处理所述池化特征,得到高层语义特征矩阵;
通过所述分类层处理所述高层语义特征矩阵,得到所述分类结果。
7.根据权利要求1所述方法,其特征在于,依据所述损失优化所述表情识别模型的模型参数,以完成对所述表情识别模型的训练之后,所述方法还包括:
获取待检测的目标图像,将所述目标图像输入所述表情识别模型:
通过所述图像处理网络处理所述目标图像,得到目标特征向量;
通过所述细粒度特征增强网络处理所述目标图像和所述目标特征向量,得到目标细粒度增强特征矩阵;
通过所述分类网路处理所述目标细粒度增强特征矩阵,得到目标分类结果。
8.一种基于细粒度增强特征的表情识别模型的训练装置,其特征在于,包括:
构建模块,被配置为构建图像处理网络、细粒度特征增强网络和分类网路,利用所述图像处理网络、所述细粒度特征增强网络和所述分类网路构建表情识别模型;
获取模块,被配置为获取训练图像,将所述训练图像输入所述表情识别模型:
处理模块,被配置为通过所述图像处理网络处理所述训练图像,得到图像特征向量;
增强模块,被配置为通过所述细粒度特征增强网络处理所述训练图像和所述图像特征向量,得到细粒度增强特征矩阵;
分类模块,被配置为通过所述分类网路处理所述细粒度增强特征矩阵,得到分类结果;
优化模块,被配置为计算所述分类结果和所述训练图像的标签之间的损失,依据所述损失优化所述表情识别模型的模型参数,以完成对所述表情识别模型的训练。
9.一种电子设备,包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410078734.5A CN118038517A (zh) | 2024-01-18 | 2024-01-18 | 基于细粒度增强特征的表情识别模型的训练方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410078734.5A CN118038517A (zh) | 2024-01-18 | 2024-01-18 | 基于细粒度增强特征的表情识别模型的训练方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118038517A true CN118038517A (zh) | 2024-05-14 |
Family
ID=91001187
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410078734.5A Pending CN118038517A (zh) | 2024-01-18 | 2024-01-18 | 基于细粒度增强特征的表情识别模型的训练方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118038517A (zh) |
-
2024
- 2024-01-18 CN CN202410078734.5A patent/CN118038517A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10096134B2 (en) | Data compaction and memory bandwidth reduction for sparse neural networks | |
CN111476719A (zh) | 图像处理方法、装置、计算机设备及存储介质 | |
CN113015022A (zh) | 行为识别方法、装置、终端设备及计算机可读存储介质 | |
CN109543772B (zh) | 数据集自动匹配方法、装置、设备和计算机可读存储介质 | |
CN114972897A (zh) | 图像特征处理方法、装置、产品、介质及设备 | |
CN116912635B (zh) | 目标追踪方法及装置 | |
CN113192201B (zh) | 点云数据的数据拟合方法、装置及介质 | |
CN116127925B (zh) | 基于对文本进行破坏处理的文本数据增强方法及装置 | |
CN111275166A (zh) | 基于卷积神经网络的图像处理装置、设备及可读存储介质 | |
CN118038517A (zh) | 基于细粒度增强特征的表情识别模型的训练方法及装置 | |
CN116091758B (zh) | 基于细节提取的图像处理方法、装置、设备及存储介质 | |
CN118135189A (zh) | 基于特征一致性的目标重识别方法及装置 | |
CN118015537A (zh) | 人群计数模型的训练方法及装置 | |
CN117292024B (zh) | 基于语音的图像生成方法、装置、介质及电子设备 | |
CN117953345A (zh) | 多模态目标重识别方法及装置 | |
CN116341640B (zh) | 文本处理模型训练方法及装置 | |
CN116912889B (zh) | 行人重识别方法及装置 | |
CN117474037B (zh) | 基于空间距离对齐的知识蒸馏方法及装置 | |
CN118154436A (zh) | 基于多粒度特征聚合的图片增强方法及装置 | |
US20230394312A1 (en) | Pruning activations and weights of neural networks with programmable thresholds | |
CN117953566A (zh) | 表情识别模型的双阶段训练方法及装置 | |
CN117830615A (zh) | 基于全局高阶关系的目标重识别方法及装置 | |
CN118262137A (zh) | 基于轻量化模型的数据处理方法、装置、设备及介质 | |
CN118038015A (zh) | 基于局部特征分类的目标重识别方法及装置 | |
CN117892123A (zh) | 多模态目标检测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |