CN114331123A - 一种融合认知迁移的教学评价情感分析方法 - Google Patents

一种融合认知迁移的教学评价情感分析方法 Download PDF

Info

Publication number
CN114331123A
CN114331123A CN202111626141.0A CN202111626141A CN114331123A CN 114331123 A CN114331123 A CN 114331123A CN 202111626141 A CN202111626141 A CN 202111626141A CN 114331123 A CN114331123 A CN 114331123A
Authority
CN
China
Prior art keywords
text
emotion
cognitive
representing
teaching evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111626141.0A
Other languages
English (en)
Inventor
熊余
姚玉
钟鑫
王盈
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN202111626141.0A priority Critical patent/CN114331123A/zh
Publication of CN114331123A publication Critical patent/CN114331123A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及一种融合认知迁移的教学评价情感分析方法,属于教育信息化领域。该方法包括:对收集到的数据进行清洗和预处理;使用BERT语言模型对非结构化的教学评价文本进行词嵌入,将其输入双向GRU网络中进行学习,输出文本的上下文隐藏记忆信息;使用神经认知诊断模型对学生历史练习记录进行建模,获取学生个性化的认知能力向量作为先验知识表征;将提取的文本隐藏记忆信息与先验知识信息融合为认知迁移矩阵,并通过注意力机制使得先验知识迁移到文本记忆中,增强文本中蕴含的真实情感特征。本发明可以准确地对携带冲突性情感特征的教学评价文本进行情感分类,解决教学评价中因存在冲突性情感特征,导致情感误分类的问题。

Description

一种融合认知迁移的教学评价情感分析方法
技术领域
本发明属于教育信息化领域,涉及一种融合认知迁移的教学评价情感分析方法。
背景技术
文本情感分析技术作为自然语言处理技术的分支,能够自动从文本中提取和识别情感及观点,从而实现对带有情感色彩的主观性文本分析、处理、归纳和推理。特别是近年来深度学习的引入赋能文本情感分析技术,在解决非结构化复杂语义数据方面取得较大进展,该技术已被广泛用于产品评论、电影评价等领域。但与一般应用场景不同的是,教学评价场景中的教学评价所蕴含的情感比较委婉和隐晦,这增加了对其进行情感识别的难度;另外,同一教学评价文本中可能存在情感冲突性问题,即模型对同一教学评价文本中不同教学评价实体提取出的情感特征不一致。如教学评价:“老师的课程内容讲得很好,但是上课声音有点小”,该评价中包含的评价实体为“课程内容”和“上课声音”,学生对实体“课程内容”表现为积极情感,而对“上课声音”表现为消极情感,但在整体上对教学质量的评判表现为积极情感。即评价中针对“课程内容”和“上课声音”的情感特征存在冲突性,这种冲突性问题会干扰模型对文本真实情感的识别,导致误分类问题。如何准确判断携带冲突性情感特征教学评价的情感极性,成为教学评价情感分析场景中亟待解决的关键问题。
教育心理学和认知心理学的相关研究认为,学生在课程学习过程中对知识的认知结果会潜在地影响到其对教学的情感和满意度,即学生对教学质量的认知会受到其对课程知识认知的影响,这种现象在本发明中称之为“认知迁移”。文献[黄昌勤,俞建慧,王希哲.学习云空间中基于情感分析的学习推荐研究[J].中国电化教育,2018(10):7-14+39.]指出学生的知识水平、学习效果等要素与情感产生直接相关,是影响学习者情感的关键因素。文献[Chen W S,Yao A YT.An Empirical Evaluation of Critical Factors InfluencingLearner Satisfaction in Blended Learning:A pilot study[J].Universal Journalof Educational Research,2016,4(7):1667-1671.]指出在评估学生的学习满意度时,加入与学习环境、学生考试分数等知识依赖变量会使得满意度评估结果更加准确且富有意义。通过捕捉学生的认知能力向量,将其迁移融入到教学评价情感分析任务中,增强文本的真实情感特征,从而解决因文本存在冲突性情感特征导致的误分类问题。这里面临的问题是如何获取学生的认知能力向量,认知诊断作为心理测量学和教育学相结合的量化评价手段,主要通过对学生历史练习记录建模,发现学生的潜在知识状态和认知水平,从而判断学生对课程知识的掌握情况。因此,本文使用认知诊断技术从学生历史练习记录中提取出学生的认知能力向量,并将其作为影响因素融入到教学评价情感分析模型中,使得模型在提取情感特征时,不仅会注意到文本中蕴含的语义信息,还会受到认知因素的影响,最终提升模型情感分类的准确率。
教学评价情感分析研究主要可分为基于词典的方式和基于机器学习的方式。基于词典的方式是一种依赖专家知识制定规则和词典的符号技术,主要利用NLP技术将教学评价中的情感词提取出来进行分析。吴林静等从慕课平台课程评论中找出情感词,并与情感词典进行匹配,将正向情感词与负向情感词的差值作为文本的情感类别。薛耀锋等将教学评价数据与情感词汇库进行模糊匹配,计算得到学习者的情感极性。这些情感分类的实现方式依赖于专家构建的情感词典,然而构建词典的难度较高,使用词典方式获取的文本情感准确率也较低。如今主流的情感分析主要是基于机器学习的方式,其通过语言模型将非结构化的教学评价嵌入为结构化的向量,再将嵌入向量输入到机器学习模型中来捕捉情感分类所需的情感特征,最终对句子的情感进行分类。文献[Gutiérrez G,Canul-Reich J,Zezzatti A O,et al.Mining:Students comments about teacher performanceassessment using machine learning algorithms[J].International Journal ofCombinatorial Optimization Problems and Informatics,2018,9(3):26-40.]在教学评价数据上使用支持向量机和随机森林算法探索如何提升教学评价情感分类的性能。实验结果表明该研究取得当时最优的性能,但由于模型提取的文本特征较浅,导致模型的泛化能力降低,模型学习到的语言特征不够丰富。文献[Lin Q,ZhuY,Zhang S,et al.Lexicalbased automated teaching evaluation via students’short reviews[J].ComputerApplications in Engineering Education,2019,27(1):194-205.]使用朴素贝叶斯、逻辑回归等不同机器学习模型在学生评教数据上进行实验对比,取得了较理想的情感分类效果。然而该研究主要是面向评教短文本进行情感分析研究,对长文本的情感识别能力有限。基于传统机器学习模型的教学评价情感分析任务多依赖于情感词典和特征工程,人工设计特征以及建立情感词典需要大量的时间开销以及先验知识。此外,对于复杂的教学评价,传统机器学习模型的建模能力较弱,情感分类的准确率较低。随着深度学习技术的发展,文献[Tseng C W,Chou JJ,Tsai Y C.Text mining analysis of teaching evaluationquestionnaires for the selection of outstanding teaching faculty members[J].IEEEAccess,2018,6:72870-72879.]考虑到文本数据的时间序列特性,基于LSTM网络设计了一种自动识别教学评价情感的分类器,将分类结果作为教师绩效考核的依据之一。
已有的教学评价情感分析模型都只考虑到文本蕴含的情感特征,当文本中的情感特征出现冲突的情况时,单纯从文本语义空间中提取特征来识别教学评价表达的真实情感,其识别准确率会降低,模型会出现误分类的问题。
发明内容
有鉴于此,本发明的目的在于提供一种融合认知迁移的教学评价情感分析方法,从而弥补教学评价中因存在冲突性情感特征,导致情感分类模型误分类的问题,提升教学评价情感分类的准确性。
为达到上述目的,本发明提供如下技术方案:
一种融合认知迁移的教学评价情感分析方法,该方法包括以下步骤:
S1:数据采集阶段:利用python爬虫技术获取所需的研究数据,再对数据标签进行人工标注,同时对采集的数据进行数据清洗与预处理;
S2:文本特征提取阶段:使用预训练语言模型BERT对教学评价进行词嵌入,并将嵌入向量输入双向GRU网络进行训练,获取文本中蕴含的隐藏记忆信息;
S3:先验知识提取阶段:使用神经认知诊断模型建模学生的历史练习记录,从而获取学生认知能力向量,将该向量作为先验知识表征;
S4:注意力交互阶段:利用注意力机制对S2中获取的文本隐藏记忆信息与S3中提取的学生先验知识信息进行注意力交互,增强文本语义中的真实情感特征;
S5:情感分类阶段:经过S4增强的情感特征输入到softmax函数中进行计算,输出对应情感标签的概率分布。
可选的,所述S1中,情感分析任务采集教学评价文本作为研究对象,以及采集学生历史练习记录作为先验知识来增强文本特征。
可选的,所述S2中,使用预训练的语言模型对非结构化的文本进行词嵌入,以结构化的高维向量v来表征输入文本的语义信息,其中,vi代表每个单词的嵌入表征,i=1,2,...,l,l代表评价文本的长度:
v={v1,v2,...,vl}
再使用双向的GRU记忆网络来建模文本的前后文依赖信息,双向GRU网络的主要功能是迭代文本嵌入模块输出的结构化评价文本向量,形成携带深层情感特征的文本记忆矩阵:
Figure BDA0003440086680000031
Figure BDA0003440086680000032
Figure BDA0003440086680000033
Figure BDA0003440086680000041
其中,rt代表重置门,用来控制需要保留多少上一个词的隐藏状态的记忆
Figure BDA0003440086680000042
zt代表更新门,控制需要从上一个词中遗忘多少信息,需要加入多少当前词语的隐藏状态信息
Figure BDA0003440086680000043
vt位置t处的词嵌入向量;σ,tanh代表两种类型的激活函数。
可选的,所述S3中,通过训练神经网络来提取学生的认知向量fs,向量中的每个元素值
Figure BDA0003440086680000044
代表学生对课程知识点的掌握程度;
Figure BDA0003440086680000045
设试题因素矩阵表示为pe,知识点难度表示为kh,试题的区分度表示为de,相应的计算公式为:
pe=oe×Q
fs=σ(os×W1)
kh=σ(oe×W2)
de=σ(oe×W3)
其中,
Figure BDA0003440086680000046
K代表试题包含的知识点总数,E代表试题总数;n代表学生总数;oe代表试题的独热编码,os代表学生的独热编码,
Figure BDA0003440086680000047
代表试题-知识点关联矩阵,矩阵中的元素代表题目中是否包含某个知识点,
Figure BDA0003440086680000048
代表参数矩阵;第一层的交互函数来源于多维项目反应理论模型:
Figure BDA0003440086680000049
中间输出结果h经过全连接层的迭代计算:
h2=σ(W4×hT+b1)
h3=σ(W5×h2+b2)
y=σ(W6×h3+b3)
其中,σ代表激活函数,W4,W5,W6代表参数矩阵,b4,b5,b6代表偏倚;该模块训练结束后,fs得到更新,此时的fs就是所需的认知向量,代表学生认知的先验信息;
由于学生历史练习记录中包含的知识点数目有限,从中提取的认知能力向量的维度无法与文本记忆矩阵的维度匹配,即fs与ht维度并不一致,不能够直接进行运算;在融合文本隐藏记忆以及认知能力向量fs前,对fs进行非线性变换得到认知能力矩阵hf
Figure BDA0003440086680000051
其中,
Figure BDA0003440086680000052
和bf分别代表参数矩阵和偏置,
Figure BDA0003440086680000053
可选的,所述S4中,实现文本记忆矩阵ht和认知能力矩阵hf的注意力交互融合,从而输出特征融合级别的CTM,并利用CTM分别对两种特征进行增强;首先以ht与hf作为输入送入神经网络进行全连接计算,实现教学评价特征和认知能力特征的注意力交互,再通过激活函数进行激活,从而构造出CTM来表达ht和hf之间的交互结果:
CTM=σ(ht*WCTM*(hf)T+bfm)
其中,
Figure BDA0003440086680000054
CTM配合注意力机制分别对ht与hf进行特征增强,描述的注意力计算的过程如下:
Figure BDA0003440086680000055
Figure BDA0003440086680000056
αij代表CTM中的某个位置的元素,通过累积CTM中的每一行和每一列来分别计算出ht和hf的注意力分数αij
Figure BDA0003440086680000057
反映的是ht的第i行的重要性分数,
Figure BDA0003440086680000058
反映的是hf第j列的重要性分数;注意力分数为矩阵中的每个元素分配不同的权重,使模型更容易捕捉到重要的情感特征;在为ht和hf分配注意力权重后,进而分别计算增强的记忆表征xu和增强的认知表征xv
Figure BDA0003440086680000059
Figure BDA00034400866800000510
可选的,所述S5中,将经过CTM增强的两种表征作为情感特征,借助情感分类器对重构的情感特征进行情感分类;增强的记忆表征xu和增强的认知表征xv拼接后作为全局情感特征输入全连接层,通过softmax函数计算得到情感类别yi
Figure BDA00034400866800000511
Figure BDA0003440086680000061
其中,z代表情感标签数量;
认知提取模块的训练目标是最小化输出yi与真实标签yi'之间的交叉熵损失loss1
Figure BDA0003440086680000062
其中,i代表样本数据的索引;情感分类部分的训练目标同样是最小化分类的交叉熵损loss2
Figure BDA0003440086680000063
其中,λ代表L2正则化惩罚项的权重参数,θ代表参数集合;yc代表真实标签,fc(x;θ)代表模型预测的标签;
为防止模型的过拟合,在训练时设置早停和退出率;模型整体的损失函数表示为
Figure BDA0003440086680000064
Figure BDA0003440086680000065
本发明的有益效果在于:
(1)本发明在教学评价情感分析任务中,除了提取文本中固有的语义特征以外,还从学生的历史练习记录中提取出个性化的认知能力向量作为先验知识,通过注意力机制增强了文本中蕴含的真实情感特征。
(2)本发明使用预训练的BERT语言模型进行词嵌入,相对于传统的词嵌入方法,BERT内部采用双向Transformer模型进行预训练,Transformer结构中的自注意力机制可以在嵌入的基础上更好地捕捉教学评价中的语言特征。
(3)本发明使用双向GRU网络替代了双向LSTM网络,GRU相对于LSTM,内部结构减少一个门控单元,但是却能够实现与LSTM相当的功能。此外,GRU的训练参数减少,模型拟合速度更快。
(4)本发明使用增强后的情感特征进行情感分类任务,可以有效地解决教学评价中因存在冲突性情感特征,导致情感分类模型误分类的问题。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详细描述,其中:
图1为本发明原理图;
图2为实施例中某评教文本的注意力热力图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
请参阅图1,为一种融合认知迁移的教学评价情感分析方法。本方法可用于产品评论分析(了解用户对产品的满意度,制定营销策略)、影评分析(了解观众对电影的认可程度,了解电影中的不足之处)、教育评价(了解教师的教学效果,了解学生的学习所得所感)等场景。本方法主要用于教学评价场景,对学生评教数据进行情感分析研究。解决的技术问题:教学评价中因存在冲突性情感特征,导致情感误分类的问题。
步骤一:使用爬虫技术获取所需的数据集,对数据标签进行人工标注,然后对采集的数据进行数据清洗与预处理。情感分析任务不仅采集评价文本作为研究对象,还采集学生历史练习记录作为先验知识来增强文本特征。
步骤二:文本特征提取阶段:使用BERT语言模型对教学评价进行词嵌入,并将嵌入向量输入双向GRU网络进行训练,获取文本中蕴含的隐藏记忆信息。使用预训练的语言模型对非结构化的文本进行词嵌入,以结构化的高维向量v来表征输入文本的语义信息,其中,vi(i=1,2,...,l)代表每个单词的嵌入表征,l代表评价文本的长度:
v={v1,v2,...,vl}
再使用双向的GRU记忆网络来建模文本的前后文依赖信息,双向GRU网络的主要功能是迭代文本嵌入模块输出的结构化评价文本向量,形成携带深层情感特征的文本记忆矩阵:
Figure BDA0003440086680000081
Figure BDA0003440086680000082
Figure BDA0003440086680000083
Figure BDA0003440086680000084
其中,rt代表重置门,用来控制需要保留多少上一个词的隐藏状态的记忆
Figure BDA0003440086680000085
zt代表更新门,控制需要从上一个词中遗忘多少信息,需要加入多少当前词语的隐藏状态信息
Figure BDA0003440086680000086
vt位置t处的词嵌入向量。σ,tanh代表两种类型的激活函数。
步骤三:使用神经认知诊断模型建模学生的历史练习记录,从而获取学生认知能力向量,将该向量作为先验知识表征。通过训练神经网络来提取学生的认知向量fs,向量中的每个元素值
Figure BDA0003440086680000087
代表学生对课程知识点的掌握程度。
Figure BDA0003440086680000088
设试题因素矩阵表示为pe,知识点难度表示为kh,试题的区分度表示为de,相应的计算公式为:
pe=oe×Q
fs=σ(os×W1)
kh=σ(oe×W2)
de=σ(oe×W3)
其中,
Figure BDA0003440086680000089
K代表试题包含的知识点总数,E代表试题总数。n代表学生总数。oe代表试题的独热编码,os代表学生的独热编码,
Figure BDA00034400866800000810
代表试题-知识点关联矩阵,矩阵中的元素代表题目中是否包含某个知识点,
Figure BDA00034400866800000811
Figure BDA00034400866800000812
代表参数矩阵。第一层的交互函数来源于多维项目反应理论模型:
Figure BDA00034400866800000813
中间输出结果h经过全连接层的迭代计算:
h2=σ(W4×hT+b1)
h3=σ(W5×h2+b2)
y=σ(W6×h3+b3)
其中,σ代表激活函数,W4,W5,W6代表参数矩阵,b4,b5,b6代表偏倚。该模块训练结束后,fs得到更新,此时的fs就是所需的认知向量,代表学生认知的先验信息。
由于学生历史练习记录中包含的知识点数目有限,从中提取的认知能力向量的维度无法与文本记忆矩阵的维度匹配,即fs与ht维度并不一致,不能够直接进行运算。因此,在融合文本隐藏记忆以及认知能力向量fs前,需要先对fs进行非线性变换得到认知能力矩阵hf:
Figure BDA0003440086680000091
其中,
Figure BDA0003440086680000092
和bf分别代表参数矩阵和偏置,
Figure BDA0003440086680000093
步骤四:注意力交互阶段:利用注意力机制对S2阶段获取的文本隐藏记忆信息与S3步骤提取的学生先验知识信息进行注意力交互,增强文本语义中的真实情感特征。实现文本记忆矩阵ht和认知能力矩阵hf的注意力交互融合,从而输出特征融合级别的CTM,并利用CTM分别对两种特征进行增强。首先以ht与hf作为输入送入神经网络进行全连接计算,实现教学评价特征和认知能力特征的注意力交互,再通过激活函数进行激活,从而构造出CTM来表达ht和hf之间的交互结果:
CTM=σ(ht*WCTM*(hf)T+bfm)
其中,
Figure BDA0003440086680000094
CTM配合注意力机制分别对ht与hf进行特征增强,描述的注意力计算的过程如下:
Figure BDA0003440086680000095
Figure BDA0003440086680000096
αij代表CTM中的某个位置的元素,通过累积CTM中的每一行和每一列来分别计算出ht和hf的注意力分数αij
Figure BDA0003440086680000097
反映的是ht的第i行的重要性分数,
Figure BDA0003440086680000098
反映的是hf第j列的重要性分数。注意力分数可以为矩阵中的每个元素分配不同的权重,使模型更容易捕捉到重要的情感特征。在为ht和hf分配注意力权重后,进而分别计算增强的记忆表征xu和增强的认知表征xv
Figure BDA0003440086680000101
Figure BDA0003440086680000102
步骤五:情感分类阶段:经过S4步骤增强的情感特征输入到softmax函数中进行计算,输出对应情感标签的概率分布。将经过CTM增强的两种表征作为情感特征,借助情感分类器对重构的情感特征进行情感分类。增强的记忆表征xu和增强的认知表征xv拼接后作为全局情感特征输入全连接层,通过softmax函数计算得到情感类别yi
Figure BDA0003440086680000103
Figure BDA0003440086680000104
其中,z代表情感标签数量。
如图2所示,将本发明的方法应用到某评教文本中,每个方块中的数字取值代表模型对文本中词语的注意力分数,分数越高,代表模型对该词语的语义关注度越高。第一行热力图代表未融入认知能力的情况,由于冲突性情感给模型带来的噪声影响,对“offer”和“many”的注意力分数较高,而对“but”、“perfect”和“fine”的注意力分数较低,模型对文本情感类别的判断受到了干扰,导致误分类问题。第二行热力图代表融入了认知能力情况,在融入认知能力后,对“many”的注意力分数下降了0.03,对“but”的注意力上升了0.04,对“perfect”和“fine”的注意力上升了0.03,对“study”的注意力也有所下降。其主要原因在于认知能力对文本中的蕴含的全局真实情感特征进行了增强。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。

Claims (6)

1.一种融合认知迁移的教学评价情感分析方法,其特征在于:该方法包括以下步骤:
S1:数据采集阶段:利用python爬虫技术获取所需的研究数据,再对数据标签进行人工标注,同时对采集的数据进行数据清洗与预处理;
S2:文本特征提取阶段:使用预训练语言模型BERT对教学评价进行词嵌入,并将嵌入向量输入双向GRU网络进行训练,获取文本中蕴含的隐藏记忆信息;
S3:先验知识提取阶段:使用神经认知诊断模型建模学生的历史练习记录,从而获取学生认知能力向量,将该向量作为先验知识表征;
S4:注意力交互阶段:利用注意力机制对S2中获取的文本隐藏记忆信息与S3中提取的学生先验知识信息进行注意力交互,增强文本语义中的真实情感特征;
S5:情感分类阶段:经过S4增强的情感特征输入到softmax函数中进行计算,输出对应情感标签的概率分布。
2.根据权利要求1所述的一种融合认知迁移的教学评价情感分析方法,其特征在于:所述S1中,情感分析任务采集教学评价文本作为研究对象,以及采集学生历史练习记录作为先验知识来增强文本特征。
3.根据权利要求2所述的一种融合认知迁移的教学评价情感分析方法,其特征在于:所述S2中,使用预训练的语言模型对非结构化的文本进行词嵌入,以结构化的高维向量v来表征输入文本的语义信息,其中,vi代表每个单词的嵌入表征,i=1,2,...,l,l代表评价文本的长度:
v={v1,v2,...,vl}
再使用双向的GRU记忆网络来建模文本的前后文依赖信息,双向GRU网络的主要功能是迭代文本嵌入模块输出的结构化评价文本向量,形成携带深层情感特征的文本记忆矩阵:
Figure FDA0003440086670000011
Figure FDA0003440086670000012
Figure FDA0003440086670000013
Figure FDA0003440086670000014
其中,rt代表重置门,用来控制需要保留多少上一个词的隐藏状态的记忆
Figure FDA0003440086670000015
zt代表更新门,控制需要从上一个词中遗忘多少信息,需要加入多少当前词语的隐藏状态信息
Figure FDA0003440086670000016
vt位置t处的词嵌入向量;σ,tanh代表两种类型的激活函数。
4.根据权利要求3所述的一种融合认知迁移的教学评价情感分析方法,其特征在于:所述S3中,通过训练神经网络来提取学生的认知向量fs,向量中的每个元素值
Figure FDA0003440086670000021
代表学生对课程知识点的掌握程度;
Figure FDA0003440086670000022
设试题因素矩阵表示为pe,知识点难度表示为kh,试题的区分度表示为de,相应的计算公式为:
pe=oe×Q
fs=σ(os×W1)
kh=σ(oe×W2)
de=σ(oe×W3)
其中,
Figure FDA0003440086670000023
K代表试题包含的知识点总数,E代表试题总数;n代表学生总数;oe代表试题的独热编码,os代表学生的独热编码,
Figure FDA0003440086670000024
代表试题-知识点关联矩阵,矩阵中的元素代表题目中是否包含某个知识点,
Figure FDA0003440086670000025
代表参数矩阵;第一层的交互函数来源于多维项目反应理论模型:
Figure FDA0003440086670000026
中间输出结果h经过全连接层的迭代计算:
Figure FDA0003440086670000027
h3=σ(W5×h2+b2)
y=σ(W6×h3+b3)
其中,σ代表激活函数,W4,W5,W6代表参数矩阵,b4,b5,b6代表偏倚;该模块训练结束后,fs得到更新,此时的fs就是所需的认知向量,代表学生认知的先验信息;
由于学生历史练习记录中包含的知识点数目有限,从中提取的认知能力向量的维度无法与文本记忆矩阵的维度匹配,即fs与ht维度并不一致,不能够直接进行运算;在融合文本隐藏记忆以及认知能力向量fs前,对fs进行非线性变换得到认知能力矩阵hf
Figure FDA0003440086670000028
其中,
Figure FDA0003440086670000029
和bf分别代表参数矩阵和偏置,
Figure FDA00034400866700000210
5.根据权利要求4所述的一种融合认知迁移的教学评价情感分析方法,其特征在于:所述S4中,实现文本记忆矩阵ht和认知能力矩阵hf的注意力交互融合,从而输出特征融合级别的CTM,并利用CTM分别对两种特征进行增强;首先以ht与hf作为输入送入神经网络进行全连接计算,实现教学评价特征和认知能力特征的注意力交互,再通过激活函数进行激活,从而构造出CTM来表达ht和hf之间的交互结果:
Figure FDA0003440086670000031
其中,
Figure FDA0003440086670000032
CTM配合注意力机制分别对ht与hf进行特征增强,描述的注意力计算的过程如下:
Figure FDA0003440086670000033
Figure FDA0003440086670000034
αij代表CTM中的某个位置的元素,通过累积CTM中的每一行和每一列来分别计算出ht和hf的注意力分数αij
Figure FDA0003440086670000035
反映的是ht的第i行的重要性分数,
Figure FDA0003440086670000036
反映的是hf第j列的重要性分数;注意力分数为矩阵中的每个元素分配不同的权重,使模型更容易捕捉到重要的情感特征;在为ht和hf分配注意力权重后,进而分别计算增强的记忆表征xu和增强的认知表征xv
Figure FDA0003440086670000037
Figure FDA0003440086670000038
6.根据权利要求5所述的一种融合认知迁移的教学评价情感分析方法,其特征在于:所述S5中,将经过CTM增强的两种表征作为情感特征,借助情感分类器对重构的情感特征进行情感分类;增强的记忆表征xu和增强的认知表征xv拼接后作为全局情感特征输入全连接层,通过softmax函数计算得到情感类别yi
Figure FDA0003440086670000039
Figure FDA00034400866700000310
其中,z代表情感标签数量;
认知提取模块的训练目标是最小化输出yi与真实标签y′i之间的交叉熵损失loss1
Figure FDA0003440086670000041
其中,i代表样本数据的索引;情感分类部分的训练目标同样是最小化分类的交叉熵损loss2
Figure FDA0003440086670000042
其中,λ代表L2正则化惩罚项的权重参数,θ代表参数集合;yc代表真实标签,fc(x;θ)代表模型预测的标签;
为防止模型的过拟合,在训练时设置早停和退出率;模型整体的损失函数表示为
Figure FDA0003440086670000044
Figure FDA0003440086670000043
CN202111626141.0A 2021-12-28 2021-12-28 一种融合认知迁移的教学评价情感分析方法 Pending CN114331123A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111626141.0A CN114331123A (zh) 2021-12-28 2021-12-28 一种融合认知迁移的教学评价情感分析方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111626141.0A CN114331123A (zh) 2021-12-28 2021-12-28 一种融合认知迁移的教学评价情感分析方法

Publications (1)

Publication Number Publication Date
CN114331123A true CN114331123A (zh) 2022-04-12

Family

ID=81015118

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111626141.0A Pending CN114331123A (zh) 2021-12-28 2021-12-28 一种融合认知迁移的教学评价情感分析方法

Country Status (1)

Country Link
CN (1) CN114331123A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115033700A (zh) * 2022-08-10 2022-09-09 华南师范大学 基于相互学习网络的跨领域情感分析方法、装置以及设备
CN115544226A (zh) * 2022-08-31 2022-12-30 华南师范大学 一种基于多模态情感分析的相似识别方法
CN115952288A (zh) * 2023-01-07 2023-04-11 华中师范大学 一种基于语义理解的教师情感关怀特征检测方法及系统
CN116205222A (zh) * 2023-05-06 2023-06-02 南京邮电大学 一种基于多通道注意力融合的方面级情感分析系统及方法
CN116521872A (zh) * 2023-04-27 2023-08-01 华中师范大学 一种认知和情感的联合识别方法、系统及电子设备
CN116777402A (zh) * 2023-06-19 2023-09-19 华东师范大学 一种基于元认知的面向群体协作的个性化角色定位方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115033700A (zh) * 2022-08-10 2022-09-09 华南师范大学 基于相互学习网络的跨领域情感分析方法、装置以及设备
CN115544226A (zh) * 2022-08-31 2022-12-30 华南师范大学 一种基于多模态情感分析的相似识别方法
CN115952288A (zh) * 2023-01-07 2023-04-11 华中师范大学 一种基于语义理解的教师情感关怀特征检测方法及系统
CN115952288B (zh) * 2023-01-07 2023-11-03 华中师范大学 一种基于语义理解的教师情感关怀特征检测方法及系统
CN116521872A (zh) * 2023-04-27 2023-08-01 华中师范大学 一种认知和情感的联合识别方法、系统及电子设备
CN116521872B (zh) * 2023-04-27 2023-12-26 华中师范大学 一种认知和情感的联合识别方法、系统及电子设备
CN116205222A (zh) * 2023-05-06 2023-06-02 南京邮电大学 一种基于多通道注意力融合的方面级情感分析系统及方法
CN116777402A (zh) * 2023-06-19 2023-09-19 华东师范大学 一种基于元认知的面向群体协作的个性化角色定位方法
CN116777402B (zh) * 2023-06-19 2024-01-30 华东师范大学 一种基于元认知的面向群体协作的个性化角色定位方法

Similar Documents

Publication Publication Date Title
CN114331123A (zh) 一种融合认知迁移的教学评价情感分析方法
Watkins et al. Sense: a student performance quantifier using sentiment analysis
Lopes et al. An AutoML-based approach to multimodal image sentiment analysis
CN113722474A (zh) 文本分类方法、装置、设备及存储介质
CN113408852B (zh) 基于在线学习行为和深度神经网络的元认知能力评估模型
Pezzelle et al. Is the red square big? MALeViC: Modeling adjectives leveraging visual contexts
CN112527968A (zh) 一种基于神经网络的作文评阅方法和系统
CN116402066A (zh) 多网络特征融合的属性级文本情感联合抽取方法及系统
Jishan et al. Natural language description of images using hybrid recurrent neural network
Sha et al. Which Hammer Should I Use? A Systematic Evaluation of Approaches for Classifying Educational Forum Posts.
Gandhi et al. Multimodal sentiment analysis: review, application domains and future directions
Hernández-Orallo Twenty years beyond the Turing test: moving beyond the human judges too
CN113934846A (zh) 一种联合行为-情感-时序的在线论坛主题建模方法
Krishnaveni A novel framework using binary attention mechanism based deep convolution neural network for face emotion recognition
CN116521872B (zh) 一种认知和情感的联合识别方法、系统及电子设备
CN117115505A (zh) 一种结合知识蒸馏与对比学习的情感增强继续训练方法
CN115544226B (zh) 一种基于多模态情感分析的相似识别方法
Naert et al. Per channel automatic annotation of sign language motion capture data
Dyulicheva Learning Analytics in MOOCs as an Instrument for Measuring Math Anxiety
Kousalya et al. Prediction of Best Optimizer for Facial Expression Detection using Convolutional Neural Network
CN115080690A (zh) 一种基于nlp的试卷文本自动化批改方法及系统
Ji et al. Automatic personality prediction based on users’ chinese handwriting change
Doshi et al. A convolutional recurrent neural network-based model for handwritten text recognition to predict dysgraphia
Tapia et al. Emotions analysis techniques: their application in the identification of criteria for selecting suitable Open Educational Resources (OERs)
Zaidi Neural sequence modelling for automated essay scoring

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination