CN103440235A - 一种基于认知结构模型的文本情感类型识别方法及装置 - Google Patents

Abstract

本发明公开了一种基于认知结构模型的文本情感类型识别方法及装置，该方法包括：对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建情感维度词典；对所构建的情感维度词典进行求精，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，得到相应的情感类型。本发明的上述方案设计思路、可解释性、使用灵活性及有效性上均明显优于已有方法，可用于商务智能、社情舆情、决策评估等领域面向文本的情感分析与识别。

Description

一种基于认知结构模型的文本情感类型识别方法及装置

技术领域

本发明属于计算机科学技术中的观点挖掘和情感分析领域，尤其涉及一种基于情感的认知结构模型，采用统计方法构建情感维度词典，自动识别出文本中的多种情感类型的方法及其装置。

背景技术

观点挖掘和情感分析在社会公共安全、商务智能、社情舆情等领域具有十分重要的应用价值。近年来，社会媒体(人人网、科学网、博客、微博、微信等)在互联网中的蓬勃发展导致了用户产生的内容在数量上呈爆炸式增长。用户产生的内容中通常包含一定量的情感，能够为社会、经济、政治、文化相关的多个领域应用提供关键信息和决策支持。

目前观点挖掘和情感分析方法主要是识别观点的正负极性和文本中多种情感类型。识别观点正负极性的方法主要包括文档级、语句级、基于情感对象特征的识别方法。Turney(ACL，2002)提出一种利用非监督学习方法计算词之间的互信息(PMI)来判断整个文档的正负极性。Pang等(ACL，2002)提出采用多种机器学习方法分类每篇电影评论的正负极性。Wiebe等(Computational Linguistics，2004)通过大量数据集学习线索和特征，区分主观观点和客观事实，并在语句级判断观点的正负极性。张长利等(JASIST，2009)提出利用词之间的依赖关系分析中文语句的正负倾向性。Hu等(SIGKDD，2004)利用频繁挖掘算法获得情感对象特征，再利用语义词典确定情感词的正负极性，从而输出针对每个情感对象特征的相关正负评论。

文本中情感类型的识别目前以分类方法为主。Mishne(SIGIR，2005)提出一种基于特征的学习方法分类博文中的情感类型。Alm等(ACL，2005)提出利用与Mishne相似的方法分类叙事文本中的基本情感类型。Mostafa在博士论文(2008)中提出用大量手工标注的数据，基于主要的情感变量，计算语句中几乎所有词的情感变量值，进而计算出整个语句的情感。其中，Mostafa公开的方案不但需要大量人力标注数据，而且不加区分地计算句子中出现的词，因而导致该方法的效率和性能较低。

发明内容

本发明要解决的技术问题是：给定大量的文本数据集，结合情感认知理论，自动识别出文本中所包含的主要情感类型。

为了识别文本中丰富的情感类型，同时尽可能避免手工标注等费时费力的方法，本发明提出了一种基于认知结构模型的文本情感类型识别方法，其包括：

步骤1、对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建不同的情感维度词典；其中，每个情感维度词典具有一个确定的情感维度值；

步骤2、对所构建的情感维度词典进行求精得到高质量的情感维度词典，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

步骤3、基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成相应的情感类型。

本发明还公开了一种基于认知结构模型的文本情感类型识别装置，其包括：

情感维度词典构造模块，其用于对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建情感维度词典；其中，不同的情感维度词典具有各自的情感维度值；

情感维度词典求精模块，其用于对所构建的情感维度词典进行求精得到高质量的情感维度词典，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

情感类型产生模块，其用于基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成相应的情感类型。

与现有技术相比，本发明提出的基于认知结构模型来识别文本情感类型的方法由于利用了情感的认知结构理论，不但可以输出丰富的情感类型，而且所需标注的数据量非常少。因此，在输出结果的可解释性、使用灵活性及有效性方面较已有方法具有明显的优势。

基于认知心理学领域成熟的情感认知结构模型，自动识别文本中所包含的主要情感类型；

采用统计方法，基于句法依存关系和通用语义词典，通过少量的标注数据自动构建情感维度词典；

赋予文本情感分析更深层次的认知结构关联，从而给情感类型的输出一个更加精细的符合认知心理学模型的合理解释。

附图说明

图1是本发明中基于认知结构模型的文本情感类型的识别方法流程图；

图2是利用本发明提出的文本情感类型生成过程的示例图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实施例，并参照附图，对本发明作进一步的详细说明。

本发明以认知心理学中经典的情感认知结构模型(以OCC认知结构模型为代表[Ortony，Clore&Collins，1988])为理论基础，建立自动识别文本中情感类型的方法。该模型可以描述多种不同情感类型的认知结构，在情感的计算建模中有着非常广泛的应用。模型中每个情感类型的出现都由一定的条件触发，这些条件可以用不同的情感维度值来表达，其中“合意性(Desirability)”、“褒贬性(Praise-/Blame-worthiness)”和“可能性(Likelihood)”是该模型中三个最为重要的情感维度变量。“合意性”与主体的目标相关联，“褒贬性”与行为是否符合社会道德标准相关联，而“可能性”则表示对事件发生的期望。

在情感认知结构理论中，每个情感维度变量有不同的取值。“合意性”维度的取值包括“合意的(Desirable)”和“不合意的(Undesirable)”。当某些事件的发生有利于最终目标的实现时，这种情况对于主体而言是合意的；反之则是不合意的。类似地，“褒贬性”维度的取值有“值得称赞的(Praiseworthy)”和“应受责备的(Blameworthy)”。“可能性”维度有“可能的(Likely)”和“确定的”这两个取值。情感维度变量的不同取值及其组合可以生成不同的情感类型。例如，如果“合意的”事件的可能性是“确定的”，引发“高兴”情感；否则引发“希望”。如果个体“值得表扬的”行为带来合己意的行为后果，则导致“骄傲”情感的产生。本发明的工作可以生成六种主要情感类型：高兴(Joy)、悲伤(Distress)、希望(Hope)、恐惧(Fear)、骄傲(Pride)和羞耻(Shame)。

为此，本发明提出了一种基于认知结构模型的文本情感类型的识别方法。该方法中，文本中情感类型的分析识别基于认知理论中的情感认知结构模型，模型中主要通过情感维度值来确定情感类型，因此，建立文本情感类型识别系统的关键是自动构建高质量的情感维度词典。

图1示出了本发明中基于认知结构模型的文本情感类型的识别方法流程图。如图1所示，该方法包括：

步骤1、面向海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建情感维度词典；

步骤2、对所构建的情感维度词典进行求精，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

步骤3、基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成多种主要的情感类型。

下面详细介绍上述各个步骤。

步骤1、情感维度词典的建立：

情感维度词典是基于句法依存关系和通用语义词典，采用统计的方法自动构建的。输入是海量的文本和关于某个情感维度值的种子词，输出是针对这个情感维度值建立起来的情感维度词典。这里情感维度值可以是“合意的“(Desirable)”、“不合意的(Undesirable)”、“值得称赞的(Praiseworthy)”、“应受责备的(Blameworthy)”和“可能的(Likely)”。具体步骤如下：

步骤1.1、手工挑选少量高质量的每种情感维度种子词，作为初始的情感维度词典输入；情感维度词典包括DIC_D、DIC_U、DIC_P、DIC_B和DIC_L，分别表示合意的情感维度词典、不合意的情感维度词典、值得称赞的情感维度词典、应受责备的情感维度词典和可能的情感维度词典；

步骤1.2、针对情感维度词典中每个新加入的情感维度词，基于通用语义词典，找出其同义词和反义词，并将其同义词和反义词分别放入相应的情感维度词典候选集中；

步骤1.3、利用句法依存关系(如：conj_and、conj_or、prep_in、parataxis等)从输入的海量文本中找出与所述相应的情感维度词典中已有的情感维度词具有依存关系的新情感维度词，放入相应的情感维度词典候选集中；

步骤1.4、利用评分函数对相应的情感维度词典候选集进行评价与过滤，选取其中评分大于阈值的候选集中的情感词，放入相应的情感维度词典中；

步骤1.5、不断重复步骤1.2-1.4，直到不再有新的情感维度词加入；

步骤1.6、利用通用语义词典中的派生以及还原关系扩充情感维度词典。

其中，步骤1.4中所述的评分函数如下表示：

$f(v\∈{\mathrm{DIC}}_k)=\frac{{\mathrm{\Σ}}_{u\∈{\mathrm{DIC}}_k}c(v,u)}{{\mathrm{\Σ}}_{u}c(v,u)}+\frac{\left|{\mathrm{DIC}}_k\right|{\mathrm{\Σ}}_{u\∉\mathrm{DIC}}c(v,u)}{\left|\mathrm{DIC}\right|{\mathrm{\Σ}}_{u}c(v,u)}$

评分函数f(v∈DIC_k)基于共现的思想，如果待评价的情感词与某一已知情感维度值的情感词共同出现的次数越多，则该情感词的维度值更有可能为该情感维度值。评分函数在每一轮循环中，利用通用语义词典和句法依存关系得到候选集，通过设定共现次数的阈值θ₁，过滤掉低质量的候选情感维度词。这里v是当前待评价的候选情感词，u是已知情感维度值为k的情感维度词典中的词，k的取值可以是“D”、“U”、“P”、“B”、“L”，分别代表“合意的(Desirable)”、“不合意的(Undesirable)”、“值得称赞的(Praiseworthy)”、“应受责备的(Blameworthy)”和“可能的(Likely)”。DIC_k是当前生成的维度值为k的情感维度词典，|DIC_k|表示其元素个数。DIC是当前所有情感维度词典的并集，其元素个数为|DIC|。函数c(v，u)表示词v和词u在同一语句中共同出现(即共现)的次数。评分函数中词v是否属于某类情感维度词典的计算既考虑了v与该类情感维度词共现的次数，也考虑到该类情感维度词典在当前所有情感维度词典中所占的词的比例。

步骤2、情感维度词典的求精：

构建完成后的情感维度词典往往存在噪声，包括语义不一致性，情感倾向不一致性，以及非情感词等。因此需要进一步求精情感维度词典。

语义不一致性是指同一个词在同一情感维度上具有相互矛盾的取值，比如在“合意性”维度上同时具有“D”和“U”这两个维度值；情感倾向不一致性是指一个词同时具有正负情感倾向上相互冲突的情感维度值。情感词的极性可以是positive(正面倾向)或negative(负面倾向)，正向情感词表示对情感对象的正面态度或评价，负向情感词则表示对其的负面态度或评价。例如：情感维度值D和P的极性为正，U和B的极性为负。

若检测到语义或情感倾向不一致的词，对该情感词的求精方法是根据通用语义词典中的同义和反义关系共同确定其情感倾向。当前待求精的情感词的计算得分采用如下公式，同时，为了保证同义词和反义词集合的均衡性，将其归一化后相加。

其中，n_同义、n_反义分别是当前待求精的情感词的同义词和反义词的总数，n_同义+、n_同义-分别是该词的极性为正和为负的同义词个数，n_反义+、n_反义-分别是该词的极性为正和为负的反义词个数。如果计算得到的score值小于某一阈值θ₂，则过滤掉该情感词。由于以往相关工作中已建立了多个关于情感词的正负极性词典，这里n_同义、n_反义的正负极性可通过参照这些情感极性词典来确定。

步骤3、情感类型的生成：

本发明基于情感的认知结构模型，根据该模型中每种情感类型与情感维度及其取值的对应关系，自动生成六种主要的情感类型。具体地说，与情感类型“高兴”相对应的情感维度及其取值是：“合意性”维度值为“合意的”并且“可能性”维度值为“确定的”；与情感类型“悲伤”相对应的情感维度及其取值是：“合意性”维度值为“不合意的”且“可能性”维度值为“确定的”；类似的，“合意性”维度值为“合意的”且“可能性”维度值为“可能的”对应情感类型“希望”；“合意性”维度值为“不合意的”且“可能性”维度值为“可能的”对应情感类型“恐惧”；情感维度值是“合意的”且“值得称赞的”，则对应情感类型“骄傲”；情感维度值是“不合意的”且“应受责备的”，则对应情感类型“羞耻”。

本发明还提出了一种基于认知结构模型的文本情感类型识别装置，其包括：

情感维度词典构造模块，其用于对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建不同的情感维度词典；其中，每个情感维度词典具有一个确定的情感维度值；

情感维度词典求精模块，其用于对所构建的情感维度词典进行求精得到高质量的情感维度词典，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

情感类型产生模块，其用于基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成相应的情感类型。

下面根据具体的示例说明本发明提出的上述方案。

根据本发明的方案，从纽约时报(http://www.nytimes.com/)抓取2002年1月1日到2012年1月1日的16398个新闻评论数据，并且手工定义高质量的情感维度种子词，覆盖情感维度值包括“合意的”(D)、“不合意的”(U)、“值得称赞的”(P)、“应受责备的”(B)和“可能的”(L)。全部种子词如下(前面为情感维度词，后面为情感维度词的词性)：

文本情感识别系统基于通用语义词典和句法依存关系得到情感维度词的候选集合，并基于共现思想进行过滤，进而获得高质量的情感维度词，建立相应的情感维度词典。对情感维度词典的求精过程完成语义、情感倾向的不一致处理和非情感词的过滤。求精后的情感维度词典DIC_D、DIC_U、DIC_P、DIC_B在测试集上的性能如下：

	DICD	DICU	DICP	DICB	平均值
						准确率	0.885	0.787	0.703	0.804	0.795
召回率	0.661	0.369	0.457	0.446	0.483
						F值	0.748	0.494	0.536	0.571	0.587

基于生成的情感维度词典和情感认知结构模型中每种情感类型与情感维度值的对应关系，可以得到六种主要的情感类型。

下面给出一个情感维度词典构建过程的示例。

根据前述的情感维度词典的构建步骤，以上面抓取的海量文本作为输入，下面给出一个与种子词“good(好的)”相关的情感维度词典构建过程示例：

(1)以手工挑选的种子词“good(好的)”为例，作为情感维度词典D的输入；

(2)基于通用语义词典(以WordNet为例)，找到“good”的同义词为“reputable(有名望的)”，“satisfactory(令人满意的)”；反义词为“bad(坏的)”，“evil(邪恶的)”；将“reputable”和“satisfactory”放到情感维度词典D的候选集中；将“bad”和“evil”放到情感维度词典U的候选集中；

(3)利用句法分析工具(以斯坦福大学句法分析器：Stanford Parser为例)得到依存句法关系为“conj_and(并列关系)”的子句，并找到与“good”具有并列关系的“wonderful(精彩的)”等词，放入情感维度词典D的候选集中；

(4)由于“reputable”分别与当前情感维度词典DICD中的词“great”共现2次、与“success”、“amazing”各共现1次，与情感维度值U的种子词“problem”共现1次。并且其自身在输入文本与其它词共现的次数为10，计算其评分函数值

类似方法计算“satisfactory”、“bad”、“evil”以及“wonderful”等词的评分函数值，并选取不低于阈值θ₁＝0.5的词作为输出。

下面给出一个情感维度词典求精过程的示例。

根据前述的情感维度词典的求精过程，下面给出一个对情感维度词典进行求精的具体示例。

输入：一个情感维度值存在矛盾的词“unfair(不公平的)”，其情感维度值同时为D和B；

求精步骤：

(1)从通用语义词典(以WordNet为例)中得到的同义词和反义词如下：

(2)从极性词典(以[Hu&Liu，KDD 2004]为例)中查找所有同义词与反义词的正负极性，得到“dirty”、“foul”、“cheating”、“unjust”的极性为负，“fair”的极性为正，其余的极性不存在；

(3)计算其正负极性

$\mathrm{Score}=\frac{0-4}{2*4}+\frac{0-1}{2*1}=-1$

(4)由于Score的绝对值大于阈值θ₂＝0.65，且取值为负数，因此“unfair”的维度是B，即为输出。

下面给出一个情感类型生成过程的示例。

图2示出了利用本发明提出的文本情感类型生成过程的示例图。图2所示是对句子“Diplomacy is and always will be the best strategy.(这个政策是并且将来也会是最好的策略。)”的情感类型生成过程。查看情感维度词典，可得到这句话中包含三个情感维度词，分别是“is(是)”，“will(将)”，“best(最好的)”。其中，“is”的情感维度“可能性”取值为“确定的”，“will”的情感维度“可能性”取值为“可能的”，“best”的情感维度“合意性”取值为“合意的”。再根据情感类型的生成规则1和规则5，得到两种情感，分别为“Joy(高兴)”和“Hope(希望)”。

本发明的方法的优点如下：

基于认知心理学领域成熟的情感认知结构模型，自动识别出文本中所包含的主要情感类型。目前相关工作中的情感分析方法主要依赖于大量标注的数据集或是基于分类方法，缺乏明确结合认知结构模型来分析识别情感类型方面的工作。

采用统计方法，基于句法依存关系和通用语义词典，通过少量的标注数据自动构建情感维度词典。利用情感认知结构所描述的情感维度及其与主要情感类型间的对应关系，自动有效地识别文本中的情感类型，且具有较高的使用灵活性。

赋予文本情感分析更深层次的认知结构关联，从而能够给情感类型的输出一个更加精细的符合认知心理学模型的合理解释。这使得情感类型的生成不但与人的认知过程相一致，同时使得生成的情感类型输出具有更好的可解释性。

以上所述的具体实施例，对本发明的目的、技术方案和有益效果进行了进一步详细说明，应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于认知结构模型的文本情感类型识别方法，其包括：

步骤1、对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建不同的情感维度词典；其中，每个情感维度词典具有一个确定的情感维度值；

步骤2、对所构建的情感维度词典进行求精得到高质量的情感维度词典，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

步骤3、基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成相应的情感类型。

2.如权利要求1所述的识别方法，其特征在于，步骤1中情感维度词典包括合意的情感维度词典、不合意的情感维度词典、值得称赞的情感维度词典、应受责备的情感维度词典和可能的情感维度词典。

3.如权利要求1所述的识别方法，其特征在于，步骤1具体包括：

步骤1.1、输入每种情感维度种子词，作为初始的情感维度词典输入；

步骤1.2、针对每个情感维度词典中新加入的情感维度词，基于通用语义词典，找出其同义词和反义词，并将其同义词和反义词放入相应的情感维度词典候选集中；

步骤1.3、利用句法依存关系，从输入文本中找出与所述每个情感维度词典中已有的情感维度词具有依存关系的新情感维度词，放入相应的情感维度词典候选集中；

步骤1.4、利用评分函数对所述情感维度词典候选集进行评价与过滤，选取其中评分大于阈值的候选集中的情感词，放入相应的情感维度词典中；

步骤1.5、不断重复步骤1.2-1.4，直到不再有新的情感维度词加入；

步骤1.6、利用通用语义词典中的派生以及还原关系扩充每个情感维度词典。

4.如权利要求3所述的识别方法，其特征在于，步骤1.4中的评分函数既考虑当前情感维度词典候选集中待评价的候选词与其对应的情感维度词典中的词共现的次数，也考虑与其对应的情感维度词典在所有情感维度词典中所占的情感词的比例。

5.如权利要求3所述的识别方法，其特征在于，步骤1.4中所述评分函数如下表示：

$f(v\∈{\mathrm{DIC}}_k)=\frac{{\mathrm{\Σ}}_{u\∈{\mathrm{DIC}}_k}c(v,u)}{{\mathrm{\Σ}}_{u}c(v,u)}+\frac{\left|{\mathrm{DIC}}_k\right|{\mathrm{\Σ}}_{u\∉\mathrm{DIC}}c(v,u)}{\left|\mathrm{DIC}\right|{\mathrm{\Σ}}_{u}c(v,u)}$

其中，k为某一情感维度值，u是已知情感维度值为k的情感维度词典中的词，v是当前待评价的候选情感词；DIC_k是当前生成的维度值为k的情感维度词典，|DIC_k|表示其元素个数；DIC是所有情感维度词典的并集，其元素个数为|DIC|；函数c(v，u)表示词v和词u在同一语句中共同出现的次数。

6.如权利要求1所述的识别方法，其特征在于，步骤2中所述语义不一致性是指同一个词在同一情感维度值上具有相互矛盾的取值；情感倾向不一致性是指一个词同时具有正负情感倾向上相互冲突的情感维度值。

7.如权利要求1所述的识别方法，其特征在于，步骤2中基于通用语义词典中的同义和反义关系，去除语义不一致和情感倾向不一致的词。

8.如权利要求1、6-7所述的识别方法，其特征在于，步骤2中对于当前待求精的情感词根据下式求其计算得分，以过滤语义不一致和情感倾向不一致的词：

其中，n_同义、n_反义分别是当前待求精的情感词的同义词和反义词总数，n_同义+、n_同义-分别是当前待求精的情感词的极性为正和为负的同义词个数，n_反义+、n_反义-分别是当前待求精的情感词的极性为正和为负的反义词个数。

9.如权利要求1所述的识别方法，其特征在于，步骤1中，所述该句法依存关系包括语义相近或者相反的词。

10.一种基于认知结构模型的文本情感类型识别装置，其包括：

情感维度词典构造模块，其用于对于输入的海量开源文本，基于通用语义词典和句法依存关系，采用统计方法自动构建不同的情感维度词典；其中，每个情感维度词典具有一个确定的情感维度值；

情感维度词典求精模块，其用于对所构建的情感维度词典进行求精得到高质量的情感维度词典，求精具体包括语义、情感倾向的不一致性处理和非情感词的过滤；

情感类型产生模块，其用于基于求精后得到的高质量的情感维度词典，结合情感认知结构模型中情感维度值与情感类型的对应关系，生成相应的情感类型。

Images