CN112287524B - 一种基于稀疏高斯条件随机场的情感分类方法及装置 - Google Patents

一种基于稀疏高斯条件随机场的情感分类方法及装置 Download PDF

Info

Publication number
CN112287524B
CN112287524B CN202011089717.XA CN202011089717A CN112287524B CN 112287524 B CN112287524 B CN 112287524B CN 202011089717 A CN202011089717 A CN 202011089717A CN 112287524 B CN112287524 B CN 112287524B
Authority
CN
China
Prior art keywords
loss function
distribution
feature representation
rank
potential
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011089717.XA
Other languages
English (en)
Other versions
CN112287524A (zh
Inventor
苏育挺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Quanzhou Jinda Intelligent Research Institute Co ltd
Original Assignee
Quanzhou Jinda Intelligent Research Institute Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Quanzhou Jinda Intelligent Research Institute Co ltd filed Critical Quanzhou Jinda Intelligent Research Institute Co ltd
Priority to CN202011089717.XA priority Critical patent/CN112287524B/zh
Publication of CN112287524A publication Critical patent/CN112287524A/zh
Application granted granted Critical
Publication of CN112287524B publication Critical patent/CN112287524B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/08—Probabilistic or stochastic CAD
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/513—Sparse representations

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Library & Information Science (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Evolutionary Biology (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种基于稀疏高斯条件随机场的情感分类方法及装置，方法包括如下步骤：A、对训练集中的原始特征表示进行进行低秩特征分解后得到潜在特征表示集，构建潜在特征表示映射到自身的第一损失函数；B、借助逆协方差矩阵获取相关关系，并由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；C、低秩表示对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，并构建预测标签分布到自身之间的第三损失函数；D、获取总损失函数，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得出最终的分类结果。本发明将低秩学习、高斯条件随机场和相关性学习融合在一起，实现了更好的分类效果。

Description

一种基于稀疏高斯条件随机场的情感分类方法及装置
技术领域
本发明涉及一种基于稀疏高斯条件随机场的情感分类方法及装置。
背景技术
自20世纪以来，情感计算作为人工智能、计算机视觉等学科的重要分支，逐渐受到研究人员的重视。由于情感标签具有模糊性和主观性，具有标签模糊性的标签分布式学习算法成为了热门话题。对于没有足够和完整的训练数据的分类任务而言，标签分布式学习可以引入额外信息从而加强学习过程。除此之外，标签分布式学习相比于单标签和多标签学习而言为标签表示提供更多的灵活性，是模糊理论在标签分类领域的创新应用。
在解决情感计算任务过程中，当前大部分算法多是自行构造相关矩阵或是针对预测标签进行直接全局或局部低秩处理，而未考虑其数据的分布情况。故如何有效的发掘情感标签之间相关性信息成为有价值的研究方向，因此提出一种结合数据分布特性的有效的情感分布式学习算法是非常有意义的。
发明内容
本发明的目的是针对现有技术的不足，提出一种基于稀疏高斯条件随机场的情感分类方法及装置，将低秩学习、高斯条件随机场和相关性学习融合在一起，实现了更好的分类效果。
本发明通过以下技术方案实现：
一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：包括如下步骤：
A、将原始数据集中各图片的原始特征表示集分为训练集和测试集，对训练集中的原始特征表示进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；
B、通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
C、利用低秩对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，，并使用KL散度来约束训练集的预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数；
D、将第一、第二、第三损失函数加权获取总损失函数，引入拉格朗日乘子，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得到预测标签分布。
进一步的，所述步骤A中的第一损失函数为：
Figure BDA0002721685870000021
Figure BDA0002721685870000022
其中，X为从图片提取的原始特征表示，
Figure BDA0002721685870000023
为经过低秩特征分解后的潜在特征表示，E为误差矩阵，保留原始特征表示的稀疏性，D为低秩映射矩阵，保留原始特征表示的低秩性，
Figure BDA0002721685870000024
为潜在特征表示的逆协方差矩阵，tr(·)代表矩阵的迹，||·||1代表矩阵的1范数，||·||*代表矩阵的核范数，λ1,λ2,λ3为平衡参数。
进一步的，所述步骤B中的第二损失函数为：
Figure BDA0002721685870000031
其中，N为训练集对应的图片示例个数，
Figure BDA0002721685870000032
为具有低秩特性的潜在特征表示，
Figure BDA0002721685870000033
为预测标签分布，
Figure BDA0002721685870000034
为潜在特征表示与预测标签分布之间的逆协方差子矩阵，
Figure BDA0002721685870000035
为预测标签分布之间的逆协方差子矩阵，|·|代表矩阵的行列式，tr()代表矩阵的迹，||·||1代表矩阵的1范数，λ4,λ5为平衡参数。
进一步的，所述步骤C中的第三损失函数为：
Figure BDA0002721685870000036
其中，γ，λ6是平衡参数，KL(·)表示KL散度损失。
进一步的，所述步骤D中的总损失函数为：
Figure BDA0002721685870000037
Figure BDA0002721685870000038
进一步的，所述步骤A中对各图片进行特征分解包括：从图片中提取维数为243维的语义特征，并将各语义特征归一化以得到原始特征表示X。
进一步的，所述步骤D中，总损失函数收敛后，得到最终的低秩映射矩阵D和逆协方差矩阵Θ，再将测试集的原始特征表示与该低秩映射矩阵D相乘得到潜在特征表示，随后将其通过逆协方差矩阵Θ构建稀疏回归模型，，即可得到最终的预测标签分布，即得到最终的分类结果。
进一步的，还包括步骤E：利用KL距离和Cosine相似度对最终结果进行评价。
进一步的，所述步骤B中的稀疏回归模型为：
Figure BDA0002721685870000039
其中，
Figure BDA0002721685870000041
为第i个图片的预测标签分布，
Figure BDA0002721685870000042
为第i个图片通过低秩分解获得的潜在特征表示，B∈RM×N为稀疏回归参数，εi∈RM为对应的误差项，M，N分别对应潜在特征表示和预测标签分布对应的维度。
本发明还通过以下技术方案实现：
一种基于稀疏高斯条件随机场的情感分类装置，包括：
第一损失函数构建模块：用于将原始数据集中各图片的原始特征表示集分为训练集和测试集，对测试集中的原始特征训练集中的原始特征表示进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；
第二损失函数构建模块：用于通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
第三损失函数构建模块：用于利用低秩表示对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，并使用KL散度来约束预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数；
结果确定模块：用于将第一、第二、第三损失函数加权获取总损失函数，引入拉格朗日乘子，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得出最终的分类结果。
本发明具有如下有益效果：
1、本发明利用低秩表示得到潜在特征表示，并得到潜在特征表示映射到自身的第一损失函数，借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系构建高斯条件随机场模型，得到由潜在特征表示映射到预测标签分布的第二损失函数，再构建预测标签分布到自身之间的第三损失函数，将第一、第二、第三损失函数加权获得总损失函数，可见，本发明将低秩学习、高斯条件随机场和相关性学习融合在一起，实现了更好的分类效果，尤其适合情感图片的标签分布式学习。当前大多算法主要通过挖掘标签的依赖特性来优化情感标签预测问题，但本发明将多元稀疏回归问题拓展到条件随机场中，从而不仅挖掘了情感标签分布的相关关系，同时也对特征与特征之间、特征与标签之间的依赖结构进行建模；当前大多算法在构建相关性方面通常使用额外矩阵或直接低秩处理，而本发明引入高斯联合概率分布，使用自身逆协防差矩阵有效的构建特征与标签、标签与标签之间的相关情况；为了更好的松弛联合概率分布假设，引入特征低秩分解和标签的低秩重构环节，从而更好的描述特征和拟合模型。
附图说明
下面结合附图对本发明做进一步详细说明。
图1为本发明的流程图。
具体实施方式
如图1所示，基于稀疏高斯条件随机场的情感分类方法包括如下步骤：
A、将原始数据集中各图片的原始特征表示集分为训练集和测试集，对训练集中的原始特征表示进行进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；包括：
A1、从原始数据集的各图片中提取维数为243维的语义特征，并将各语义特征归一化处理以得到原始特征表示X，并将原始特征表示集分为训练集和测试集；其中，语义特征提取过程为现有技术；
A2、根据公式
Figure BDA0002721685870000061
确定具有低秩特性的潜在特征表示
Figure BDA0002721685870000062
E为误差矩阵，D为低秩映射矩阵，通过约束误差矩阵E的稀疏特性和低秩映射矩阵D的低秩特性来不断优化潜在特征表示
Figure BDA0002721685870000063
A3、利用训练集构建第一损失函数：
Figure BDA0002721685870000064
Figure BDA0002721685870000065
其中，X为从图片提取的原始特征表示，
Figure BDA0002721685870000066
为经过低秩特征分解后的潜在特征表示，E为误差矩阵，保留原始特征表示的稀疏性，D为低秩映射矩阵，保留原始特征表示的低秩性，
Figure BDA0002721685870000067
为潜在特征表示的逆协方差矩阵，tr(·)代表矩阵的迹，||·||1代表矩阵的1范数，||·||*代表矩阵的核范数，λ1,λ2,λ3为平衡参数；由此整体构成潜在特征表示映射到潜在特征表示之间的损失项；
B、通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
为了引入高斯条件随机场模型，我们将情感标签预测问题首先考虑为学习稀疏回归模型的过程，其对应的稀疏回归模型的表达式具体为：
Figure BDA0002721685870000071
其中，
Figure BDA0002721685870000072
为第i个图片的预测标签分布，
Figure BDA0002721685870000073
为第i个图片通过低秩分解获得的潜在特征表示，B∈RM×N为稀疏回归参数，εi∈RM为对应的误差项，M，N分别对应潜在特征表示和预测标签分布对应的维度；
考虑到原始特征与原始标签难以服从高斯条件概率分布的紧约束，本文引入潜在特征和预测标签分布来进行建模，假设潜在特征表示输入
Figure BDA0002721685870000074
和预测标签分布输出
Figure BDA0002721685870000075
服从联合条件概率分布具体为：
Figure BDA0002721685870000076
其中，0M′和0N′代表维度为M′和N′的零向量，N′和M′分别对应潜在特征表示输入和潜在标签空间的维度，
Figure BDA0002721685870000077
为协方差矩阵,协方差矩阵可以有效的反映变量对之间的边际相关性；对应的，逆协方差矩阵表示为
Figure BDA0002721685870000078
可以有效的反映变量对之间的条件相关信息；其中，
Figure BDA0002721685870000079
构建的潜在特征表示与潜在特征表示节点之间的相关性，
Figure BDA00027216858700000710
构建的是潜在特征表示与预测标签分布之间的映射关系，而
Figure BDA00027216858700000711
构建的是预测标签分布之间的依赖关系；若逆协方差矩阵中的Θij为0，代表第i个变量和第j个变量之间并不存在关联性；
借助上述高斯联合分布假设，可以将稀疏回归问题转化为高斯条件随机场模型，其对应的预测标签分布函数具体为：
Figure BDA0002721685870000081
where
Figure BDA0002721685870000082
Figure BDA0002721685870000083
其中，
Figure BDA0002721685870000084
为第i个图片的潜在特征表示，
Figure BDA0002721685870000085
为第i个图片的预测标签分布，
Figure BDA0002721685870000086
为潜在特征表示与预测标签分布之间的逆协方差子矩阵；
Figure BDA0002721685870000087
为预测标签分布之间的逆协方差子矩阵；
第二损失函数为使用了l-1正则化对数线性损失：
Figure BDA0002721685870000088
其中，N为训练集对应的图片示例个数，
Figure BDA0002721685870000089
为具有低秩特性的潜在特征表示，
Figure BDA00027216858700000810
为预测标签分布，
Figure BDA00027216858700000811
为潜在特征表示与预测标签分布之间的逆协方差子矩阵，
Figure BDA00027216858700000812
为预测标签分布之间的逆协方差子矩阵，|·|代表矩阵的行列式，tr()代表矩阵的迹，||·||1代表矩阵的1范数，λ4,λ5为平衡参数；l-1正则项系数不同对于模型结构有着直接的影响，若λ4＜＜λ5代表忽略潜在输入的影响仅仅考虑当前标签对于其他标签的影响，而若λ4＞＞λ5则相反，其认为标签之间彼此独立，标签分布仅仅受潜在输入的直接影响；由此整体构成潜在特征表示映射到预测标签分布的损失项；
C、利用低秩表示对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，，并使用KL散度来约束预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数：
Figure BDA00027216858700000813
其中，γ，λ6是平衡参数，KL(·)表示KL散度损失，用于衡量真实标签分布与预测标签分布之间的差异性；这里
Figure BDA0002721685870000091
用于进一步加强预测标签分布之间的依赖关系，除此之外，为了保证预测标签分布的低秩特性，这里使用核范数对预测标签分布进行低秩约束；由此构成预测标签分布到自身之间的损失项；
D、将第一、第二、第三损失函数加权获取总损失函数：
Figure BDA0002721685870000092
Figure BDA0002721685870000093
并引入拉格朗日乘子，对各个变量进行交替优化，利用每次输出的结果作为输入，对模型整体进行迭代，直至总损失函数收敛，得到最终的低秩映射矩阵D和逆协方差矩阵Θ，再将测试集的原始特征表示与低秩映射矩阵D相乘得到潜在特征表示，随后将其通过逆协方差矩阵Θ构建稀疏回归模型，即可得到最终的预测标签分布，即得到最终的分类结果；
E、对于分类结果，使用多个分布式学习指标进行评价，如利用KL距离和Cosine相似度对最终结果进行评价。
在本实施例中，通过如下所示的多个分布式学习指标对最终结果进行评价：
Figure BDA0002721685870000094
Figure BDA0002721685870000095
Figure BDA0002721685870000096
Figure BDA0002721685870000101
Figure BDA0002721685870000102
Figure BDA0002721685870000103
Figure BDA0002721685870000104
Figure BDA0002721685870000105
其中P和Q分别代表预测标签分布和真实标签分布，m为标签总个数，其中dKL、dsqc、dClk分别代表KL散度、Squared-Chord距离和Clark距离，用于衡量预测标签分布和真实标签分布之间的差异，其测量指标越小越好；而SCos、SHM、SIS、SFid、SDice分别代表Cosine、Harmonic-mean、Intersection、Fidelity和Dice相似度,用于衡量预测标签分布和真实标签分布之间的相似度，其值越大越好。
为了评估本发明的算法性能，本实施例使用来自情感数据SBU_3DFE的2500张人脸照片作为数据集，其标签包含6类基本情感标签，整体数据集按照4:1的比例分为训练集和测试集，本发明的输出结果为由6类标签构成的概率分布，最终评价标准为模型在测试集上的多个距离测度指标和相似度测度指标。
为了验证本发明的算法性能，本实施例同其他先进算法在相同实验设置下进行性能比对，包括AABP、IIS-LLD、AAKNN、PT-Bayes、PT-SVM、CPNN。其中训练集和测试集的比例为4:1，重复10次实验并将测度指标取平均作为最终的评价指标，对比结果如表1所示。
表1
AA-BP SA-IIS AA-KNN PT-Bayes CPNN PT-SVM Ours
SqC↓ 0.0456 0.0390 0.0398 0.0398 0.0374 0.0424 0.0363
KLDiv↓ 0.0968 0.0821 0.0827 0.0851 0.0790 0.0908 0.0766
Clark↓ 0.4606 0.4142 0.4058 0.4128 0.4066 0.4238 0.3965
Intersec↑ 0.8289 0.8392 0.8469 0.8387 0.8422 0.8352 0.8468
Cosine↑ 0.9131 0.9200 0.9192 0.9177 0.9228 0.9128 0.9253
Dice↑ 0.9092 0.9150 0.9160 0.9126 0.9179 0.9080 0.9206
HM↑ 0.9560 0.9619 0.9615 0.9612 0.9634 0.9589 0.9645
Fidelity↑ 0.9772 0.9805 0.9801 0.9801 0.9813 0.9788 0.9818
从表1可以看出，本实施例的性能无论在距离测度指标还是相似度测度指标上均优于其他先进算法，具有较好的情感标签预测效果。
基于稀疏高斯条件随机场的情感分类装置包括：
第一损失函数构建模块：用于将原始数据集中各图片的原始特征表示集分为训练集和测试集，对训练集中的原始特征表示进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；
第二损失函数构建模块：用于通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
第三损失函数构建模块：用于利用低秩表示对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，签，并使用KL散度来约束预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数；
结果确定模块：用于将第一、第二、第三损失函数加权获取总损失函数，引入拉格朗日乘子，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得出最终的分类结果。
以上所述，仅为本发明的较佳实施例而已，故不能以此限定本发明实施的范围，即依本发明申请专利范围及说明书内容所作的等效变化与修饰，皆应仍属本发明专利涵盖的范围内。

Claims (10)

1.一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：包括如下步骤：
A、将原始数据集中各图片的原始特征表示集分为训练集和测试集，对训练集中的原始特征表示进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；
B、通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
C、利用低秩对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，并使用KL散度来约束训练集的预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数；
D、将第一、第二、第三损失函数加权获取总损失函数，引入拉格朗日乘子，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得到预测标签分布。
2.根据权利要求1所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤A中的第一损失函数为：
Figure FDA0003629222360000011
Figure FDA0003629222360000012
其中，X为从图片提取的原始特征表示，
Figure FDA0003629222360000013
为经过低秩特征分解后的潜在特征表示，E为误差矩阵，保留原始特征表示的稀疏性，D为低秩映射矩阵，保留原始特征表示的低秩性，
Figure FDA0003629222360000021
为潜在特征表示的逆协方差矩阵，tr(·)代表矩阵的迹，||·||1代表矩阵的1范数，||·||*代表矩阵的核范数，λ1,λ2,λ3为平衡参数。
3.根据权利要求2所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤B中的第二损失函数为：
Figure FDA0003629222360000022
其中，N为训练集对应的图片示例个数，
Figure FDA0003629222360000023
为经过低秩特征分解后的潜在特征表示，
Figure FDA0003629222360000024
为预测标签分布，
Figure FDA0003629222360000025
为潜在特征表示与预测标签分布之间的逆协方差子矩阵，
Figure FDA0003629222360000026
为预测标签分布之间的逆协方差子矩阵，|·|代表矩阵的行列式，tr(·)代表矩阵的迹，||·||1代表矩阵的1范数，λ4,λ5为平衡参数。
4.根据权利要求3所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤C中的第三损失函数为：
Figure FDA0003629222360000027
其中，γ，λ6是平衡参数，KL(·)表示KL散度损失。
5.根据权利要求4所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤D中的总损失函数为：
Figure FDA0003629222360000028
Figure FDA0003629222360000029
6.根据权利要求2至5任一所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤A中，从原始数据集的各图片中提取维数为243维的语义特征，并将各语义特征归一化处理以得到原始特征表示X。
7.根据权利要求5所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤D中，总损失函数收敛后，得到最终的低秩映射矩阵D和逆协方差矩阵Θ，再将测试集的原始特征表示与该低秩映射矩阵D相乘得到潜在特征表示，随后将其通过逆协方差矩阵Θ构建稀疏回归模型，即得到最终的预测标签分布，即得到最终的分类结果。
8.根据权利要求1至5任一所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：还包括步骤E：利用KL距离和Cosine相似度对最终结果进行评价。
9.根据权利要求1至5任一所述的一种基于稀疏高斯条件随机场的情感分类方法，其特征在于：所述步骤B中的稀疏回归模型为：
Figure FDA0003629222360000031
for i＝1,...,N，
其中，
Figure FDA0003629222360000032
为第i个图片的预测标签分布，
Figure FDA0003629222360000033
为第i个图片通过低秩分解获得的潜在特征表示，B∈RM×K为稀疏回归参数，εi∈RM为对应的误差项，K，M分别对应潜在特征表示和预测标签分布对应的维度，N为训练集对应的图片示例个数。
10.一种基于稀疏高斯条件随机场的情感分类装置，其特征在于：包括：
第一损失函数构建模块：用于将原始数据集中各图片的原始特征表示集分为训练集和测试集，对测试集中的原始特征训练集中的原始特征表示进行低秩特征分解后得到潜在特征表示集，其训练得到的低秩映射矩阵后期用于测试集潜在特征表示的构建，从而使潜在特征表示具有低秩性，构建潜在特征表示映射到自身的第一损失函数；
第二损失函数构建模块：用于通过稀疏回归模型获取预测标签分布，并借助逆协方差矩阵获取潜在特征表示自身、潜在特征表示与预测标签分布之间、以及预测标签分布自身之间的相关关系，并根据上述相关关系，由训练集的潜在特征表示和预测标签分布构建高斯条件随机场模型，以得到由潜在特征表示映射到预测标签分布的第二损失函数；
第三损失函数构建模块：用于利用低秩表示对训练集上的预测标签分布进行全局约束，从而使得预测标签分布的全局相关性得到加强，并使用KL散度来约束预测标签分布与真实标签分布之间的差异，并构建预测标签分布到自身之间的第三损失函数；
结果确定模块：用于将第一、第二、第三损失函数加权获取总损失函数，引入拉格朗日乘子，对各个变量进行交替优化，直至总损失函数收敛，再利用测试集得出最终的分类结果。
CN202011089717.XA 2020-10-13 2020-10-13 一种基于稀疏高斯条件随机场的情感分类方法及装置 Active CN112287524B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011089717.XA CN112287524B (zh) 2020-10-13 2020-10-13 一种基于稀疏高斯条件随机场的情感分类方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011089717.XA CN112287524B (zh) 2020-10-13 2020-10-13 一种基于稀疏高斯条件随机场的情感分类方法及装置

Publications (2)

Publication Number Publication Date
CN112287524A CN112287524A (zh) 2021-01-29
CN112287524B true CN112287524B (zh) 2022-06-21

Family

ID=74496779

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011089717.XA Active CN112287524B (zh) 2020-10-13 2020-10-13 一种基于稀疏高斯条件随机场的情感分类方法及装置

Country Status (1)

Country Link
CN (1) CN112287524B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113762353B (zh) * 2021-08-13 2024-08-06 小能科技(北京)有限公司 一种基于多输出残差编码的多标签分类方法
CN113723492B (zh) * 2021-08-25 2024-05-24 哈尔滨理工大学 一种改进主动深度学习的高光谱图像半监督分类方法及装置
CN114863999B (zh) * 2022-04-12 2024-08-06 中国人民解放军海军军医大学第一附属医院 基于血管生成相关基因的肿瘤预后预测模型构建方法
CN117151111A (zh) * 2023-08-15 2023-12-01 华南理工大学 基于感知和语义关联性的文本识别模型可靠性正则方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101300247B1 (ko) * 2011-11-11 2013-08-26 경희대학교 산학협력단 마르코프 연쇄 은닉 조건부 랜덤 필드 모델 기반의 패턴 인식 방법
US10884503B2 (en) * 2015-12-07 2021-01-05 Sri International VPA with integrated object recognition and facial expression recognition
CN107193801B (zh) * 2017-05-21 2020-07-03 北京工业大学 一种基于深度信念网络的短文本特征优化及情感分析方法
CN109753950B (zh) * 2019-02-11 2020-08-04 河北工业大学 动态人脸表情识别方法
CN110807420A (zh) * 2019-10-31 2020-02-18 天津大学 一种融合特征提取和深度学习的人脸表情识别方法

Also Published As

Publication number Publication date
CN112287524A (zh) 2021-01-29

Similar Documents

Publication Publication Date Title
CN112287524B (zh) 一种基于稀疏高斯条件随机场的情感分类方法及装置
Cai et al. BS-Nets: An end-to-end framework for band selection of hyperspectral image
Divakaran et al. Temporal link prediction: A survey
Das et al. Unsupervised domain adaptation using regularized hyper-graph matching
Yankelevsky et al. Dual graph regularized dictionary learning
Allen et al. A generalized least-square matrix decomposition
Monbet et al. Sparse vector Markov switching autoregressive models. Application to multivariate time series of temperature
Lin et al. Structure preserving transfer learning for unsupervised hyperspectral image classification
Chipman et al. Interpretable dimension reduction
Lu et al. Improved deep convolutional embedded clustering with re-selectable sample training
Yu et al. Graph-regularized non-negative tensor-ring decomposition for multiway representation learning
CN108171261A (zh) 鲁棒的自适应半监督图像分类方法、装置、设备及介质
Zhang et al. Dual-constrained deep semi-supervised coupled factorization network with enriched prior
Jiang et al. Densely connected deep extreme learning machine algorithm
Li et al. Nonlocal band attention network for hyperspectral image band selection
Maboudou-Tchao High-dimensional data monitoring using support machines
Padhy et al. Image classification in artificial neural network using fractal dimension
Wang et al. Missing multi-label learning based on the fusion of two-level nonlinear mappings
Jouni et al. MultiHU-TD: Multi-feature Hyperspectral Unmixing Based on Tensor Decomposition
Hua et al. Robust and sparse label propagation for graph-based semi-supervised classification
Liu et al. Robust multi-view subspace enhanced representation based on collaborative constraints and HSIC induction
Chang et al. Calibrated multi-task subspace learning via binary group structure constraint
Tsai et al. Latent multimodal functional graphical model estimation
Lee et al. A scalable partitioned approach to model massive nonstationary non-Gaussian spatial datasets
Feng et al. Robust sparse coding via self-paced learning for data representation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant