CN109284376A - 基于领域自适应的跨领域新闻数据情感分析方法 - Google Patents

Abstract

本发明涉及一种基于领域自适应的跨领域新闻数据情感分析方法，将来自各个不同领域的新闻数据及映射到一个共同的潜空间中，使来自不同领域的新闻数据在所述潜空间中由一组共同的抽象特征表达，从而实现不同领域间的自适应；将新闻数据对应的情感标签也映射到所述潜空间中，使不同的情感标签在潜空间中距离的最大化，并且使新闻数据与其对应标签之间的距离最小化，由此增大分类器的决策边界；在所述潜空间中，基于所有领域的新闻数据建立一个分类器，然后通过建立的分类器对新的新闻文本数据进行情感分析。本发明通过领域自适应的方法，为不同领域的新闻找到一个有效的共同特征表达，实现跨领域信息融合，提高信息的利用率，节约时间及人力成本。

Description

基于领域自适应的跨领域新闻数据情感分析方法

技术领域

本发明涉及数据分析及处理领域，尤其涉及一种基于领域自适应的跨领 域新闻数据情感分析方法。

背景技术

近年来随着互联网技术的飞速发展，在线新闻服务已经成为主要的网络 信息载体。新闻文本大量地存在于门户网站，论坛，博客中，且大多数具有 情感倾向(正面/中立/负面)，对其进行倾向性判断可以为用户掌握社会动 态和判别舆情状况提供重要的依据。从新闻文本中提取与主题、情感倾向相 关的特征，利用机器学习的方法对情感倾向进行分类是现在最常用的情感分 析方法之一。由于新闻涉及到的领域十分广泛，来自不同领域的新闻的特征 表达往往互不相同，因此难以实现信息融合。往往需要对每个领域分别地进行分析，大大地增加了人力和时间成本。

现有的情感分析方法主要基于两种思路：

1、基于情感词典或情感知识库，对新闻文本中带有情感或者极性的词 进行加权求和，并根据该值对新闻情感倾向进行判定。

2、对文本提取具有表征意义的特征，再基于这些特征利用机器学习的 方法训练预测模型，对文本的情感倾向进行判定。

第一种方法常用于评论信息(如产品评价，电影、书籍评论等)的情感 分析，因为这类文本中通常存在明显的情感词。由于新闻是对客观事实的陈 述，通常不包含明显的情感词，因此通过将文本与情感词库进行匹配的方法 很难准确地判定新闻的情感倾向。

现有技术方案在采用上述第二种思路对新闻进行情感分析时，主要步骤 如下：

(1)从某一垂直领域(例如：财经、体育、科技等)采集大量的新闻 数据；

(2)对采集到的数据进行随机抽样，对抽取的样本集合由人工标注其 情感标签；

(3)利用支持向量机、朴素贝叶斯、KNN等经典的机器学习方法，在人 工标注的样本集上训练分类器；

(4)利用训练好的分类器对未标注数据进行情感划分。

然而，前述技术方案只能针对某一个特定领域的新闻进行情感分类。这 是因为不同的领域中新闻的主题词、情感词差异较大，提取出来的特征会存 在较大的差异。而机器学习方法通常要求所有数据由同一组特征表达，因此 来自不同领域的新闻不能直接放在一起进行训练。此外，分别对每个领域的 新闻进行情感分析，需要耗费大量的时间和人力，并且大大地减少了训练集 的样本数量，从而削弱了机器学习的效果,还容易造成过拟合等问题。

跨领域情感分析在情感分析中是一个新兴的领域，目前在这方面的研究 不是很多，主要原因是目前的研究还没有很好的解决如何寻找两个领域之间 的一种映射关系，或者说如何寻找两个领域之间特征权值之间的平衡关系。

因此，如何为不同领域的新闻找到一个有效的共同特征表达，实现跨领 域信息融合和情感分析，提高信息的利用率、节约时间及人力成本，成为了 亟待解决的技术问题。

发明内容

针对现有技术之不足，本发明提出了一种基于领域自适应的跨领域新闻 数据情感分析方法，将来自各个不同领域的新闻数据及映射到一个共同的潜 空间中，使来自不同领域的新闻数据在所述潜空间中由一组共同的抽象特征 表达，从而实现不同领域间的自适应；

将新闻数据对应的情感标签也映射到所述潜空间中，使不同的情感标签 在潜空间中距离的最大化，并且使新闻数据与其对应标签之间的距离最小化， 由此增大分类器的决策边界从而实现更好的情感分类效果；

在所述潜空间中，基于所有领域的新闻数据建立一个分类器，然后通过 建立的分类器对新的新闻文本数据进行情感分析。

根据一个优选实施方式，所述方法包括以下步骤：

S1)采集新闻数据，将来自不同领域的新闻数据及其对应的情感标签映 射到一个潜空间中，然后在所述潜空间中建立分类器，该步骤包括：

S1.1)最小化损失函数令

S1.2)最小化损失函数令C_t+1＝C；

S1.3)计算总损失以及

S1.4)判断相邻两次迭代中损失函数的减小量是否小于预定义的阈值ε， 若不大于阈值ε，则执行步骤S1.5；若大于阈值ε，则重复执行步骤S1.1至 S1.3，进行循环迭代；

S1.5)输出变换矩阵C_t+1，完成新闻及情感标签的映射，从 而实现领域自适应；

S1.6)训练分类器；

S2)通过训练好的分类器对新的新闻文本数据进行情感分析。

本发明具有以下有益效果：

本发明针对新闻情感分析中，新闻话题领域广，特征表达差异大，难以 融合互用的问题提出了一种基于领域自适应的跨领域新闻数据情感分析方 法。该方法可以将来自不同领域的新闻数据及其对应的情感标签映射到一个 潜空间中，使来自不同领域的新闻数据由一组相同的抽象特征表达，实现了 跨领域数据融合的互用，增加了训练集的数量，提高了信息的利用率。此外， 经过映射后的新闻数据根据其对应的情感标签自动地进行聚类，增加了分类 器的决策边界，可以有效地提高分类器的预测效果。

附图说明

图1示出了本发明中一个实施方式的领域自适应示意图；

图2示出了本发明中一个实施方式的潜空间内数据分布示意图；

图3示出了本发明中一个实施方式领域自适应算法流程图；

图4示出了算法的仿真结果图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明了，下面结合具体实施 方式并参照附图，对本发明进一步详细说明。应该理解，这些描述只是示例 性的，而并非要限制本发明的范围。此外，在以下说明中，省略了对公知结 构和技术的描述，以避免不必要地混淆本发明的概念。

为了解决不同领域之间新闻数据特征表达不同、无法同时处理、信息利 用率低等问题，本发明提出了一种基于领域自适应的跨领域新闻数据情感分 析方法。本发明技术方案的核心思想是将由不同特征表达的、来自不同领域 的新闻文本数据映射到一个共同的潜空间中。在这个潜空间中，来自不同领 域的新闻数据由一组共同的抽象特征表达，实现不同领域间的自适应。在这 个潜空间中，可以基于所有领域的新闻文本建立一个分类器，不仅缩减了分 领域建模所需要的时间、人力开销，并且大幅度地提高了可用训练样本的数量，提高分类器的效果。

优选地，在本方案中，将每个情感标签(正面/中立/负面)也映射到潜 空间中，使不同的情感标签在潜空间中距离的最大化。并且，使每一个新闻 实例与其对应标签之间的距离最小化，由此增大分类器的决策边界，以实现 更好的情感分类效果。

如图1所示，本实施方式以两个垂直领域的新闻为例，X^T表示来自“科 技”领域的新闻，X^S表示来自“社会”领域的新闻，Y表示情感标签集合。 本方案通过计算变换矩阵T^T、T^S、C，分别将X^T、X^S、Y映射到潜空间Z中 (如图1所示)。在潜空间Z中，所有新闻数据的映像σ(T^Tx^T)、σ(T^Sx^S)， 以及情感标签的映像σ(Cy)都由一组共同的抽象特征表示。

假设Y中包含4个情感标签(正面/中性/负面/极差)，映射后 y₁、y₂、y₃、y₄在潜空间Z内具有明显的差异，即每两个标签间的距离增大， 参见图2。并且，每一个映射后的新闻数据在Z中尽可能地逼近它所对应的 情感标签。假设新闻实例x^T对应的情感标签为y₃，通过变换矩阵T^T，映像σ(T^Tx^T)逼近对应的情感标签σ(Cy₃)。增加具有不同情感标签的新 闻数据之间的空间距离，可以有效地降低情感分类的难度，提高分类器的准 确率。

具体地，需要找到一个潜空间Z使两个不同的新闻领域(分别标记为T 和S)具有共同的抽象表达，需要通过带标签的训练集学习如下三个变换矩 阵分别对应领域T，S和标签 集Y。在变换矩阵的基础上，再对其进行对数变换。对数变换σ使一个到 (0，1)^dc的线性映射函数，定义如下：

σ(w)＝(σ(w(1)),…,σ(w(d_C)))^T

其中，

因此，最终的映射函数σ(T^Tx^T)，σ(T^Sx^s)，σ(Cy)将新闻数据及情感标 签映射至一个由多元二进制特征表示的潜空间Z。在Z中，新闻数据和标签 之间的距离由KL散度表示，定义如下：

领域自适应的目标是使不同领域的新闻数据具有同样的表达，并且使映 射后的新闻数据尽可能地逼近它所对应的情感标签。因此在本方案中，损失 函数定义为映射后的所有新闻数据与其对应的情感标签之间的距离之和，其 表达如下：

通过最小化损失函数，可以确保来自不同领域的新闻数据在潜空间Z中 聚集在其对应的类标签周围。本方案通过梯度下降法，求解出最小损失值以 及其对应的T^T和T^S，即为此刻最优的变换矩阵。在潜空间Z中，我们还需要 最大化不同情感标签之间的距离。假设当4个标签互相之间的距离最大时， 对应的变换矩阵为C_ref，那么我们需要基于训练集求解出一个变换矩阵C，使 它尽可能地逼近C_ref，为此定义如下损失函数：

其中

通过梯度下降法求得损失函数的最小值，以及其对应的变化矩阵C。综 合以上两个步骤，领域自适应过程中，总的损失函数定义为：

本方案采取循环迭代的方式，在每一轮迭代中求解出当前最优的变换矩 阵，直到损失函数趋于平稳，即相邻两次迭代中损失函数的减小量小于一个 预定义的阈值ε。算法的流程图如图3所示。

如图4所示为算法的仿真结果图。在仿真实验中，我们从两个不同的领 域采集了共300条新闻数据，在图中分别用符号“o”和“x”表示。通过人 工标注的方式对每条新闻赋予情感标签，分为：正面/中性/负面/极差4个 类别。图4中的4副子图分别对应了一个情感标签，图中展示了具有该情感 标签的新闻数据映射之后在潜空间Z中的分布情况。为了便于展示，我们通 过PCA的方法，将潜空间Z降低至2维。从图中可见，来自不同领域的，具 有相同标签的新闻数据映射后在Z中都聚集到了一起。而具有不同情感标签 的新闻数据在空间分布上具有明显的差距。通过该仿真结果，可以看出本方 案可以有效地完成领域自适应，支持跨领域的新闻数据情感分析。

需要注意的是，上述具体实施例是示例性的，本领域技术人员可以在本 发明公开内容的启发下想出各种解决方案，而这些解决方案也都属于本发明 的公开范围并落入本发明的保护范围之内。本领域技术人员应该明白，本发 明说明书及其附图均为说明性而并非构成对权利要求的限制。本发明的保护 范围由权利要求及其等同物限定。

Claims (2)

1.一种基于领域自适应的跨领域新闻数据情感分析方法，其特征在于，将来自各个不同领域的新闻数据及映射到一个共同的潜空间中，使来自不同领域的新闻数据在所述潜空间中由一组共同的抽象特征表达，从而实现不同领域间的自适应；

将新闻数据对应的情感标签也映射到所述潜空间中，使不同的情感标签在潜空间中距离的最大化，并且使新闻数据与其对应标签之间的距离最小化，由此增大分类器的决策边界从而实现更好的情感分类效果；

在所述潜空间中，基于所有领域的新闻数据建立一个分类器，然后通过建立的分类器对新的新闻文本数据进行情感分析。

2.如权利要求1所述的方法，其特征在于，包括以下步骤：

S1)采集新闻数据，将来自不同领域的新闻数据及其对应的情感标签映射到一个潜空间中，然后在所述潜空间中建立分类器，该步骤包括：

S1.1)最小化损失函数令

S1.2)最小化损失函数令C_t+1＝C；

S1.3)计算总损失以及

S1.4)判断相邻两次迭代中损失函数的减小量是否小于预定义的阈值ε，若不大于阈值ε，则执行步骤S1.5；若大于阈值ε，则重复执行步骤S1.1至S1.3，进行循环迭代；

S1.5)输出变换矩阵C_t+1，完成新闻及情感标签的映射，从而实现领域自适应；

S1.6)训练分类器；

S2)通过训练好的分类器对新的新闻文本数据进行情感分析。