CN113269173A - 一种建立情感识别模型和识别人物情感的方法和装置 - Google Patents

一种建立情感识别模型和识别人物情感的方法和装置 Download PDF

Info

Publication number
CN113269173A
CN113269173A CN202110818726.6A CN202110818726A CN113269173A CN 113269173 A CN113269173 A CN 113269173A CN 202110818726 A CN202110818726 A CN 202110818726A CN 113269173 A CN113269173 A CN 113269173A
Authority
CN
China
Prior art keywords
emotion
recognition model
neural network
human
character
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110818726.6A
Other languages
English (en)
Other versions
CN113269173B (zh
Inventor
郑志光
刘立斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Foshan Menassen Intelligent Technology Co ltd
Original Assignee
Foshan Menassen Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Foshan Menassen Intelligent Technology Co ltd filed Critical Foshan Menassen Intelligent Technology Co ltd
Priority to CN202110818726.6A priority Critical patent/CN113269173B/zh
Publication of CN113269173A publication Critical patent/CN113269173A/zh
Application granted granted Critical
Publication of CN113269173B publication Critical patent/CN113269173B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12Classification; Matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Biology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开一种建立情感识别模型和识别人物情感的方法和装置,建立情感识别模型的方法包括:对至少两张图像进行人物情感特征提取;将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型;当用户需要对图像中的人物进行情感识别时,便可以将图像直接输入到上述情感识别模型的输入层中,并从情感识别模型的输出层获得输出结果,根据输出结果便可以确认图像中人物的情感。

Description

一种建立情感识别模型和识别人物情感的方法和装置
技术领域
本申请属于信息技术领域,具体而言,涉及一种建立情感识别模型和识别人物情感的方法、装置、终端设备和存储介质。
背景技术
对于多媒体数据的情感分析一直以来都是一项具有挑战性的任务,国内外已经有许多学者、企业展开了对各个模态数据情感分析的研究。
情感识别是指从给定的静态人脸图像或动态视频序列中分离出特定的表情状态,实现计算机对人的表情和心理情绪的理解与识别。情感识别是情感理解的基础,是计算机理解人们情感的前提。随着人工智能技术的迅速发展,人机交互的需求日益增长。情感识别作为一种良好的人机互动方式,在近些年受到了众多学者的重视。
而在情感识别中,表情特征提取是最关键的环节。特征的好坏直接决定着情感识别性能的高低,而传统的情感分析方法主要先通过提取图片的纹理、聚类各种颜色,构建颜色、形状、纹理和情感之间的相关性。然而,一幅图像的情感受到多方面的影响,传统的情感分析方法考虑的因素不够全面和准确,导致情感识别的准确性不佳。
也就是说,现有技术情感识别不够准确,并且存在效率过低的问题。
发明内容
本申请提供一种建立情感识别模型和识别人物情感的方法、装置、终端设备和存储介质,能够解决现有情感识别不够准确,并且存在效率过低的问题。
第一方面,本申请提供一种基于神经网络建立情感识别模型的方法,所述基于神经网络建立情感识别模型的方法包括:
对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种;
将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;
根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;
将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
作为本发明另一可选的方案,所述将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别的步骤包括:
根据设定的筛选规则对所述人物情感电信号进行筛选,得到预处理人物情感电信号;
根据设定的滤波和降噪规则对所述预处理人物情感电信号进行滤波和降噪,得到目标人物情感电信号。
作为本发明另一可选的方案,所述将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别的步骤还包括:
按照设定的判定规则将所述目标人物情感电信号进行合法性判定;
若所述目标人物情感电信号不合法,则舍去对应的目标人物情感电信号;若所述目标人物情感电信号合法,则对所述目标人物情感电信号进行分类和标注情感类别。
作为本发明另一可选的方案,按照以下判定规则对所述目标人物情感电信号进行合法性判定:
计算所述目标人物情感电信号最大值和最小值;
计算所述目标人物情感电信号在设定时间内的平均值和方差;
计算所述最大值与所述平均值的差值,得到第一差值,以及计算所述最小值与所述方差的差值,得到第二差值;
计算所述第一差值和所述第二差值的比值,得到目标值;
将所述目标值与设定的阈值对比,若所述目标值大于或等于设定的阈值,则将对应的目标人物情感电信号判定为不合法;若所述目标值小于设定的阈值,则将对应的目标人物情感电信号判定为合法。
作为本发明另一可选的方案,按照以下提取规则对所述人物情感电信号或目标人物情感电信号进行片段提取:
按照第一时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第一样本电信号;
按照第二时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第二样本电信号,其中,所述第一时间间隔和第二时间间隔满足下述关系式:
Figure 742241DEST_PATH_IMAGE001
上述式中,
Figure 230991DEST_PATH_IMAGE002
表示所述第二时间间隔,
Figure 902756DEST_PATH_IMAGE003
表示所述第一时间间隔,N表示时间间隔的次数,t表示设定的频率值,其中,t为大于1的实数。
第二方面,本发明还提供一种识别人物情感的方法,所述识别人物情感的方法包括:
接收用户输入的至少一张图像,并对图像进行预处理,得到目标图像;
将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用上述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。
第三方面,本发明还一种基于神经网络建立情感识别模型的装置,所述基于神经网络建立情感识别模型的装置包括:
第一提取模块,用于对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种;
转换模块,用于将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;
第二提取模块,用于根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;
训练模块,用于将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
第四方面,本发明还提供一种识别人物情感的装置,所述识别人物情感的装置包括:
接收模块,用于接收用户输入的图像;
预处理模块,用于将所述图像处理为目标图像;
输入与输出模块,用于将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用上述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。
第五方面,本发明还提供一种终端设备,其特征在于,所述终端设备包括处理器、存储器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现所述基于神经网络建立情感识别模型的方法,或执行所述识别人物情感的方法。
第六方面,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行所述基于神经网络建立情感识别模型的方法,或执行所述识别人物情感的方法。
通过本发明提供的方法,先构建一情感识别模型,其中该模型可通过下述步骤得到,先对多张图像进行特征提取,可以提取眼部特征、嘴部特征或者耳部特征;然后将提取到的人物情感特征进行信号转换,从而形成人物情感电信号,并根据情感类型对人物情感电信号进行分类并标注情感类别;接着,再对各个情感类别中的人物情感电信号进行片段提取,得到多个样本电信号;最后,将提取到的样本电信号输入到神经网络的输入层中进行训练,从而得到情感识别模型。当用户需要对图像中的人物进行情感识别时,便可以将图像直接输入到上述情感识别模型的输入层中,并从情感识别模型的输出层获得输出结果,根据输出结果便可以确认图像中人物的情感。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一种基于神经网络建立情感识别模型的方法较佳实施例的流程图。
图2为本发明基于神经网络建立情感识别模型的方法又一实施例的流程图。
图3为本发明基于神经网络建立情感识别模型的方法再一实施例的流程图。
图4为本发明基于神经网络建立情感识别模型的方法又一实施例的流程图。
图5为本发明一种识别人物情感的方法较佳实施例的流程图。
图6为本发明基于神经网络建立情感识别模型的装置较佳实施例的结构框图。
图7为本发明识别人物情感的装置较佳实施例的结构框图。
图8为本发明终端设备较佳实施例的结构框图。
具体实施方式
本发明提供一种建立情感识别模型和识别人物情感的方法、装置、终端设备和存储介质,为使得本申请的特征和优点能够更加的明显和易懂,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而非全部实施例。基于本申请中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请实施例的描述中,需要理解的是,在本申请的描述中,除非另有说明,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
需要说明的是,本发明实施例的建立情感识别模型的方法和识别人物情感的方法可以应用但不局限于以下场景:
场景一,用户将采集到的图像通过网络传输到云端,由云端采用本发明建立情感识别模型的方法进行建立情感识别模型,或由云端采用本发明识别人物情感的方法进行识别人物情感;
场景二,用户将采集到的目标图像输入到本地计算机设备中,又本地计算机设备采用本发明建立情感识别模型的方法进行建立情感识别模型,或由云端采用本发明识别人物情感的方法进行识别人物情感。
以下对本发明实施例基于神经网络建立情感识别模型的方法进行详细说明。
请参阅图1,图1为本发明一种基于神经网络建立情感识别模型的方法较佳实施例的流程图,所述基于神经网络建立情感识别模型的方法包括:
S101、对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种。
在上述步骤中,通过对用户输入的图像进行人物情感特征提取,从而获取图像中的人物情感特征,并且,用户输入的图像均包含人物信息。需要说明的是,图像可以是各种格式的照片、截图、画像或者杂志图等等。由于人物情感往往会通过人物的眼睛、鼻子、嘴巴或者耳朵进行表示,例如,人物在害羞时可能会出现嘴巴张开、耳朵泛红等现象;人物在开心时,可能会出现眼睛变大、嘴角上扬等现象。基于此,本发明采用的技术手段便是提取诸多包含人物的图像,然后提取图像中的人物特征,从而训练得到人物情感识别模型,再通过该模型执行人物情感的识别步骤。
具体的提取步骤可以根据设定的人物情感特征识别工具进行提取,例如,采用人脸识别工具提取嘴部特征、鼻部特征和耳部特征,利用虹膜识别工具提取眼部特征等等。本发明并不对提取人物情感特征的工具或方法做限定。
为了使后续的人物情感模型的精度和准确率更高,本发明优选是提取上述眼部特征、鼻部特征、嘴部特征和耳部特征四个人物情感特征。当然,用户也可以根据实际需要选择上述四个人物情感特征中的任意两个或三个。
请再次参阅图1,所述方法包括:
S102、将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别。
为了方便计算机进行后续的处理,可以将提取到的人物情感特征(大部分为图像数据)转化为计算机易处理的人物情感电信号(一种波形不规则的电磁波),并且为了辨别各个人物情感电信号,可以对人物情感电信号进行分类和标注情感类别。其中,情感类别是指该图像原本真实的情感,情感类别主要包括开心、悲伤、气愤或疑惑等等。
请参阅图2,所述步骤S102包括:
S1021、根据设定的筛选规则对所述人物情感电信号进行筛选,得到预处理人物情感电信号。
在上述步骤中,由于部分人物情感电信号可能存在通道坏死或者通道堵塞等问题,因此,需要对所述人物情感电信号进行筛选,具体可以设定一个时间判定间隔,如果该时间判定间隔不存在任何电信号,则判定该人物情感电信号坏死,并剔除该人物情感电信号。
S1022、根据设定的滤波和降噪规则对所述预处理人物情感电信号进行滤波和降噪,得到目标人物情感电信号。
由于筛选后的人物情感电信号存在噪声或者波形过于离散等问题,因此,需要对筛选后的人物情感电信号进行滤波和降噪,从而得到目标人物情感电信号,使得目标人物情感电信号的波形较为规范。具体的,可以通过一个滤波器进行滤波,通过一降噪函数进行降噪,本发明并不对滤波和降噪的方式做限定。
请参阅图3,所述步骤S102还包括:
S1023、按照设定的判定规则将所述目标人物情感电信号进行合法性判定。即便经过过滤和降噪的人物情感电信号(即目标人物情感电信号)依然可能存在不合法(即后续无法输入到神经网络中训练)的问题,因此,需要对目标人物情感电信号进行合法性的判定。
请参阅图4,按照以下判定规则对所述目标人物情感电信号进行合法性判定:
S401、计算所述目标人物情感电信号最大值和最小值。
S402、计算所述目标人物情感电信号在设定时间内的平均值和方差。
S403、计算所述最大值与所述平均值的差值,得到第一差值,以及计算所述最小值与所述方差的差值,得到第二差值。
S404、计算所述第一差值和所述第二差值的比值,得到目标值。
S405、将所述目标值与设定的阈值对比,若所述目标值大于或等于设定的阈值,则将对应的目标人物情感电信号判定为不合法;若所述目标值小于设定的阈值,则将对应的目标人物情感电信号判定为合法。
需要说明的是,步骤S402中所述设定时间内是指用户根据实际需求设定的时间,例如可将该时间设定为10秒等等。通过上述的步骤计算得到目标值,然后将目标值和用户设定的阈值做对比,并根据对比结果判断目标人物情感电信号是否合法。发明人经过多次试验发现,将阈值设置为5能够过滤掉诸多不合法的目标人物情感电信号,使得后续得到的人物情感识别模型具有更高精度、识别率更高的特点。
请再次参阅图3,所述步骤S102还包括:
S1024、若所述目标人物情感电信号不合法,则舍去对应的目标人物情感电信号;若所述目标人物情感电信号合法,则对所述目标人物情感电信号进行分类和标注情感类别。如前文所述,为了辨别各个目标人物情感电信号,因此,需要对目标人物情感电信号进行分类和标注情感类别。
请再次参阅图1,所述方法包括:
S103、根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号。
发明人经过多次试验发现,通过随机提取人物情感电信号或目标人物情感电信号,能够保证训练得到的模型更具有通用性,从而提高人物情感识别模型的适用范围。其中,所述提取规则为用户自定义的提取规则,例如,可以每间隔2S对人物情感电信号或目标人物情感电信号进行片段提取,也可以根据设定的函数对人物情感电信号或目标人物情感电信号进行片段提取。
作为本发明另一可选的方案,按照以下提取规则对所述人物情感电信号或目标人物情感电信号进行片段提取:
按照第一时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第一样本电信号;
按照第二时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第二样本电信号,其中,所述第一时间间隔和第二时间间隔满足下述关系式:
Figure 98246DEST_PATH_IMAGE001
上述式中,
Figure 262511DEST_PATH_IMAGE002
表示所述第二时间间隔,
Figure 441819DEST_PATH_IMAGE003
表示所述第一时间间隔,N表示时间间隔的次数,t表示设定的频率值,其中,t为大于1的实数。
按照上述提取规则对所述人物情感电信号或所述目标人物情感电信号进行片段提取,从而得到多个样本电信号。这些样本电信号能够保证后续得到人物情感识别模型识别的准确率更高。
请再次参阅图1,所述方法包括:
S104、将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
在得到多个样本电信号后,便可以将这些样本电信号输入到神经网络的输入层中,并通过神经网络的训练层进行训练,从而得到所述情感识别模型。本发明采用的神经网络为循环神经网络,循环神经网络能够进行多次训练,从而提高情感识别模型的准确率。其中,所述循环神经网络包括输入层、循环层、训练层、全连层和输出层,并且所述训练层包含有注意力方程,并通过所述注意力方程对多个样本电信号进行训练。注意力方程又称注意力机制,通过该注意力方程能够反复修订输出结果与设定的标注值进行对比,从而改变输入值,使得情感识别模型的准确率更高,精度更准确。
请参阅图5,图5为本发明一种识别人物情感的方法较佳实施例的流程图,所述识别人物情感的方法包括:
S501、接收用户输入的至少一张图像,并对图像进行预处理,得到目标图像。
在上述步骤中,图像是指用户通过图像采集设备(如照相机、摄像机等)获取到的图像。由于直接通过图像采集设备采集到的目标图像往往存在较多的噪声,因此,必须对原始图像进行预处理,从而降低原始图像中的噪声,达到方便后续处理目标图像的目的。而预处理的方式有多种多样,例如,通过高斯滤波消除高斯噪声;通过自适应滤波消除回波、增强谱线或增强信道;通过中值滤波消除孤立的噪声点,从而使周围的像素更接近真实值;通过均值滤波去除目标图像中的加性噪声。当然,本发明并不对预处理的方式做限定,用户完全可以根据实际需求选择上述预处理方式中的一种或几种,当然,用户也可以选择其它的预处理方式,例如,二值化、灰度化、直方图均衡化、自适应直方图均衡化或显示对比度自适应直方图均衡化等等。
S502、将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用上述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。在上述步骤中,在得到目标图像后,便可以将该目标图像输入至上述基于神经网络建立情感识别模型的方法建立的情感识别模型的输入层,并得到相应的输出结果,这样,便可以根据输出结果确认人物情感。通过本发明提供的方法,能够准确又快速的以用户输入的图像为数据源,快速又准确的确认该图像的人物情感,从而会后续分析人物情感打下坚实的基础。
请参阅图6,本发明还一种基于神经网络建立情感识别模型的装置10,所述基于神经网络建立情感识别模型的装置包括:
第一提取模块110,用于对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种;
转换模块120,用于将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;
第二提取模块130,用于根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;
训练模块140,用于将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
需要说明的是,上述实施例提供的基于神经网络建立情感识别模型的装置10,在执行上述基于神经网络建立情感识别模型的方法时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,关于上述基于神经网络建立情感识别模型的装置10与基于神经网络建立情感识别模型的方法实施例属于同一构思,其体现实现过程已在上述方法实施例的步骤中详细论述,故此不做赘述。
请参阅图7,本发明还提供一种识别人物情感的装置20,所述识别人物情感的装置20包括:
接收模块210,用于接收用户输入的图像;
预处理模块220,用于将所述图像处理为目标图像;
输入与输出模块230,用于将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用上述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。
需要说明的是,上述实施例提供的识别人物情感的装置20,在执行识别人物情感的方法时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,关于上述识别人物情感的装置20与识别人物情感的方法实施例属于同一构思,其体现实现过程已在上述方法实施例的步骤中详细论述,故此不做赘述。
请参阅图8,本发明还提供一种终端设备30,其中,所述终端设备30包括处理器310、存储器320及存储在存储器320上并可在处理器310上运行的计算机程序,所述处理器执行所述基于图像分割算法识别车牌号码的方法。
所述处理器310可以为通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA) 、单片机、ARM(Acorn RISC Machine)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。还有,处理器310还可以是任何传统处理器、微处理器或状态机。处理器310也可以被实现为计算设备的组合,例如,DSP 和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP 核、或任何其它这种配置。
所述存储器320作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的基于神经网络建立情感识别模型的方法所对应的程序指令,或识别人物情感的方法所对应的程序指令。处理器210通过运行存储在存储设备中的非易失性软件程序、指令以及单元,从而执行基于神经网络建立情感识别模型的或执行识别人物情感各种功能应用以及数据处理,即实现上述方法实施例中的基于神经网络建立情感识别模型的方法,或实现上述方法实施例中的识别人物情感的方法。
关于上述终端设备30执行所述计算机程序时实现所述的具体技术细节已在前述方法步骤中详细论述,故此不做赘述。
本发明还提供一种计算机可读存储介质,其中,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行所述基于图像分割算法识别车牌号码的方法。
所述计算机可读存储介质可以是前述任一实施例所述的系统的内部存储单元,例如系统的硬盘或内存。所述计算机可读存储介质也可以是所述系统的外部存储设备,例如系统上配备的插接式硬盘,智能存储卡(Smart Media Card, SMC),安全数字(SecureDigital, SD)卡,闪存卡(Flash Card)等。进一步地,所述计算机可读存储介质还可以既包括所述系统的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述系统所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另外,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接,也可以是电的,机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备 ( 可以是个人计算机,服务器,或者网络设备等 ) 执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U 盘、移动硬盘、只读存储器 (ROM,Read-OnlyMemory)、随机存取存储器 (RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种基于神经网络建立情感识别模型的方法,其特征在于,所述方法包括:
对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种;
将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;
根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;
将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
2.根据权利要求1所述基于神经网络建立情感识别模型的方法,其特征在于,所述将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别的步骤包括:
根据设定的筛选规则对所述人物情感电信号进行筛选,得到预处理人物情感电信号;
根据设定的滤波和降噪规则对所述预处理人物情感电信号进行滤波和降噪,得到目标人物情感电信号。
3.根据权利要求2所述基于神经网络建立情感识别模型的方法,其特征在于,所述将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别的步骤还包括:
按照设定的判定规则将所述目标人物情感电信号进行合法性判定;
若所述目标人物情感电信号不合法,则舍去对应的目标人物情感电信号;若所述目标人物情感电信号合法,则对所述目标人物情感电信号进行分类和标注情感类别。
4.根据权利要求3所述基于神经网络建立情感识别模型的方法,其特征在于,按照以下判定规则对所述目标人物情感电信号进行合法性判定:
计算所述目标人物情感电信号最大值和最小值;
计算所述目标人物情感电信号在设定时间内的平均值和方差;
计算所述最大值与所述平均值的差值,得到第一差值,以及计算所述最小值与所述方差的差值,得到第二差值;
计算所述第一差值和所述第二差值的比值,得到目标值;
将所述目标值与设定的阈值对比,若所述目标值大于或等于设定的阈值,则将对应的目标人物情感电信号判定为不合法;若所述目标值小于设定的阈值,则将对应的目标人物情感电信号判定为合法。
5.根据权利要求1或4所述基于神经网络建立情感识别模型的方法,其特征在于,按照以下提取规则对所述人物情感电信号或目标人物情感电信号进行片段提取:
按照第一时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第一样本电信号;
按照第二时间间隔对所述人物情感电信号或所述目标人物情感电信号进行片段提取,得到第二样本电信号,其中,所述第一时间间隔和第二时间间隔满足下述关系式:
Figure 974452DEST_PATH_IMAGE001
上述关系式中,
Figure 910702DEST_PATH_IMAGE002
表示所述第二时间间隔,
Figure 517264DEST_PATH_IMAGE003
表示所述第一时间间隔,N表示时间间隔的次数,t表示设定的频率值,其中,t为大于1的实数。
6.一种识别人物情感的方法,其特征在于,所述方法包括:
接收用户输入的至少一张图像,并对图像进行预处理,得到目标图像;
将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用权利要求1~5任一项所述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。
7.一种基于神经网络建立情感识别模型的装置,其特征在于,所述基于神经网络建立情感识别模型的装置包括:
第一提取模块,用于对至少两张图像进行人物情感特征提取,其中,所述人物情感特征包括眼部特征、鼻部特征、嘴部特征和耳部特征中的至少两种;
转换模块,用于将所述人物情感特征进行信号转换,以形成人物情感电信号,并对所述人物情感电信号进行分类和标注情感类别;
第二提取模块,用于根据设定的提取规则对各个情感类别中的人物情感电信号进行片段提取,以形成多个样本电信号;
训练模块,用于将多个样本电信号作为神经网络的输入值并进行训练,将训练后的神经网络作为所述情感识别模型,其中,所述神经网络为循环神经网络。
8.一种识别人物情感的装置,其特征在于,所述识别人物情感的装置包括:
接收模块,用于接收用户输入的图像;
预处理模块,用于将所述图像处理为目标图像;
输入与输出模块,用于将所述目标图像输入至一情感识别模型的输入层中,获取所述情感识别模型中输出层的输出结果,并根据所述输出结果确定人物情感,其中,所述情感识别模型为采用权利要求1~5任一项所述基于神经网络建立情感识别模型的方法建立得到的情感识别模型。
9.一种终端设备,其特征在于,所述终端设备包括处理器、存储器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1~5任一项所述基于神经网络建立情感识别模型的方法,或执行如权利要求6所述识别人物情感的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1~5任一项所述基于神经网络建立情感识别模型的方法,或执行如权利要求6所述识别人物情感的方法。
CN202110818726.6A 2021-07-20 2021-07-20 一种建立情感识别模型和识别人物情感的方法和装置 Active CN113269173B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110818726.6A CN113269173B (zh) 2021-07-20 2021-07-20 一种建立情感识别模型和识别人物情感的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110818726.6A CN113269173B (zh) 2021-07-20 2021-07-20 一种建立情感识别模型和识别人物情感的方法和装置

Publications (2)

Publication Number Publication Date
CN113269173A true CN113269173A (zh) 2021-08-17
CN113269173B CN113269173B (zh) 2021-10-22

Family

ID=77236872

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110818726.6A Active CN113269173B (zh) 2021-07-20 2021-07-20 一种建立情感识别模型和识别人物情感的方法和装置

Country Status (1)

Country Link
CN (1) CN113269173B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100310157A1 (en) * 2009-06-05 2010-12-09 Samsung Electronics Co., Ltd. Apparatus and method for video sensor-based human activity and facial expression modeling and recognition
US20140050408A1 (en) * 2012-08-14 2014-02-20 Samsung Electronics Co., Ltd. Method for on-the-fly learning of facial artifacts for facial emotion recognition
CN108334766A (zh) * 2018-02-13 2018-07-27 广东欧珀移动通信有限公司 电子装置、解锁方法及相关产品
CN109657554A (zh) * 2018-11-21 2019-04-19 腾讯科技(深圳)有限公司 一种基于微表情的图像识别方法、装置以及相关设备
CN110298212A (zh) * 2018-03-21 2019-10-01 腾讯科技(深圳)有限公司 模型训练方法、情绪识别方法、表情显示方法及相关设备
CN111553295A (zh) * 2020-05-01 2020-08-18 北京邮电大学 基于自注意力机制的多模态情感识别方法
US10911840B2 (en) * 2016-12-03 2021-02-02 Streamingo Solutions Private Limited Methods and systems for generating contextual data elements for effective consumption of multimedia
CN112800998A (zh) * 2021-02-05 2021-05-14 南京邮电大学 融合注意力机制和dmcca的多模态情感识别方法及系统

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100310157A1 (en) * 2009-06-05 2010-12-09 Samsung Electronics Co., Ltd. Apparatus and method for video sensor-based human activity and facial expression modeling and recognition
US20140050408A1 (en) * 2012-08-14 2014-02-20 Samsung Electronics Co., Ltd. Method for on-the-fly learning of facial artifacts for facial emotion recognition
US10911840B2 (en) * 2016-12-03 2021-02-02 Streamingo Solutions Private Limited Methods and systems for generating contextual data elements for effective consumption of multimedia
CN108334766A (zh) * 2018-02-13 2018-07-27 广东欧珀移动通信有限公司 电子装置、解锁方法及相关产品
CN110298212A (zh) * 2018-03-21 2019-10-01 腾讯科技(深圳)有限公司 模型训练方法、情绪识别方法、表情显示方法及相关设备
CN109657554A (zh) * 2018-11-21 2019-04-19 腾讯科技(深圳)有限公司 一种基于微表情的图像识别方法、装置以及相关设备
CN111553295A (zh) * 2020-05-01 2020-08-18 北京邮电大学 基于自注意力机制的多模态情感识别方法
CN112800998A (zh) * 2021-02-05 2021-05-14 南京邮电大学 融合注意力机制和dmcca的多模态情感识别方法及系统

Also Published As

Publication number Publication date
CN113269173B (zh) 2021-10-22

Similar Documents

Publication Publication Date Title
CN110084135B (zh) 人脸识别方法、装置、计算机设备及存储介质
CN109697416B (zh) 一种视频数据处理方法和相关装置
EP3493101B1 (en) Image recognition method, terminal, and nonvolatile storage medium
CN111027378B (zh) 行人重识别的方法、装置、终端及存储介质
CN104992148A (zh) 基于随机森林的atm终端部分遮挡人脸关键点检测方法
CN106297755B (zh) 一种用于乐谱图像识别的电子设备及识别方法
CN108446681B (zh) 行人分析方法、装置、终端及存储介质
Aghdaie et al. Detection of morphed face images using discriminative wavelet sub-bands
WO2022166532A1 (zh) 人脸识别方法、装置、电子设备及存储介质
WO2021072876A1 (zh) 证件图像分类方法、装置、计算机设备及可读存储介质
CN106096519A (zh) 活体鉴别方法及装置
WO2020143165A1 (zh) 一种翻拍图像的识别方法、系统及终端设备
CN111326139A (zh) 一种语种识别方法、装置、设备及存储介质
CN110245573A (zh) 一种基于人脸识别的签到方法、装置及终端设备
Lin et al. Convolutional neural networks for face anti-spoofing and liveness detection
CN114842524B (zh) 一种基于不规则显著性像素簇的人脸鉴伪方法
CN110991231B (zh) 活体检测方法、装置、服务器和人脸识别设备
CN108921006B (zh) 手写签名图像真伪鉴别模型建立方法及真伪鉴别方法
Gunawan et al. Performance Evaluation of Automatic Number Plate Recognition on Android Smartphone Platform.
CN112766162B (zh) 活体检测方法、装置、电子设备及计算机可读存储介质
CN106778765B (zh) 一种车牌识别的方法及装置
CN113269173B (zh) 一种建立情感识别模型和识别人物情感的方法和装置
CN112613471A (zh) 人脸活体检测方法、装置及计算机可读存储介质
CN110210425B (zh) 人脸识别方法、装置、电子设备及存储介质
CN110866470A (zh) 一种基于随机图像特征的人脸防伪检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant