CN105224675A - 一种顾及时空效应的微博主题提取方法 - Google Patents

Abstract

本发明属于舆情监控领域，涉及社交网络用户推荐、社交网络服务推荐及微博主题识别技术分析，尤其涉及一种顾及时空效应的微博主题提取方法。所述提取方法是以主题z、区域r，时间t，词汇w对微博建模，通过模型表达式得到这些参数的具体数值，进而实现微博主题的分类。包括以下步骤：（1）区域主题影响力计算，（2）顾及时空的微博主题建模，（3）微博主题模型参数计算。本发明的有益效果是构建考虑了连续时间和区域影响力权重的时空主题模型，能发现连续时间上微博主题的空间分布和强弱变化，与已有地理主题模型相比，能更加准确地提取微博主题。

Description

一种顾及时空效应的微博主题提取方法

技术领域

本发明属于舆情监控领域，涉及社交网络用户推荐、社交网络服务推荐及微博主题识别技术分析，尤其涉及一种顾及时空效应的微博主题提取方法。

背景技术

近来，国内社交平台如新浪微博、腾讯微博等允许用户在所发布的信息中携带其地理位置，这些带有位置信息的微博被称为地理标识微博。挖掘带有地理标识的大规模微博数据，能发现人们的社会移动行为模式、消费习惯、事件时空演变和城市区域功能变化规律等知识，为商业推荐、舆情监控、灾害预警管理等提供有力支撑。但是微博数据具有噪音大，篇幅短和数量巨大等特征，一般文本挖掘方法如SVM或SVD(矩阵奇异分解)难以有效提取微博数据主题。

根据地理区域表达方式的不同，地理主题模型可分为两类，一类利用高斯分布来表达具有相同主题的文档分布区域，这些区域会随着数据集的不同而变化；一类是利用如行政区划表达固定的地理区域，不会随和数据集的不同而变化。在第一类中，有在主题模型中用不同的二维高斯分布表达不同主题的微博分布范围，这种方法能自适应发现不同主题的空间分布区域，但没有考虑区域对微博内容的影响程度；或者通过两个高斯分布分别描述主题在不同经纬度位置上的强度，但无法描述那些在经纬度上不遵从高斯分布的主题；或者采用固定的权重来表达区域对文档主题影响程度，而现实中不同区域对文档主题的影响程度是不同的。在第二类中，有以国家划分地理区域，发现不同事件和人物在不同国家的受关注程度；如有的利用概率潜在语义索引，以州为区域单位划分美国，发现不同主题在不同州的关注程度，并采用了固定权重来表达区域对文档主题影响程度。

在引入时间因素的地理主题模型的已有技术中，有利用在线LDA对微博主题进行提取，但其在主题模型之外采用泊松分布来捕捉主题强度在时间上异常情况，无法在主题模型中利用时间因素来辅助推断微博主题；或者集成区域和时间因素对博客主题进行提取，但它的时间是离散表达的，难以得到连续时间上的微博主题强度。

总的来说，已有时空主题模型没有或仅采用固定的区域影响权重无法准确反映不同区域对微博主题影响的差异性，同时他们将时间要素离散化，难以得到连续时间上的微博主题强度。

发明内容

本发明的发明目的在于针对现有技术中存在的无法准确反映不同区域对微博主题影响的差异性，及难以得到连续时间上的微博主题强度等问题，提供一种基于时空LDA模型的社交网络社区发现方法。

为了实现上述目的，本发明采用的技术方案如下：

一种顾及时空效应的微博主题提取方法，所述提取方法是将微博主题z划分为r个区域，t个时间，w个词汇，包括以下步骤：

(1)区域主题影响力建模：用于量化和描述区域POI数量及区域面积大小，从而判别区域对微博主题的影响程度；所述区域主题影响力模型表达式为：

${\mathrm{\σ}}_r=\frac{1}{1+\exp (-\frac{p_r}{s_r})}$

其中，σ_r为区域r的影响力权重，p_r表示区域r的POI数量，s_r表示区域r的面积；

(2)顾及时空效应的微博主题建模：用于描述具有时间和区域要素的微博的生成过程；

(3)微博主题模型参数计算：通过计算微博主题模型参数，并对其归一化处理，从而提取微博的主题。

进一步地，所述步骤(2)的模型表达式为：

P(z|θ₀，θ_r)＝P(z|(1-σ_r)θ₀+σ_r×θ_r)

其中，θ₀表示背景主题的分布参数，θ_r表示区域r主题的分布参数。

进一步地，通过Gibbs采样方法计算时空主题模型的参数。

进一步地，当每个词汇w属于每个主题z的次数开始收敛时，该次Gibbs采样完成。

综上所述，本方案首先将城市划分为多个相互连接的非重叠区域，然后在LDA中引入区域主题分布和区域影响力权重，再利用Beta分布表达主题演变情况，最后进行模型参数估算。本发明相对现有技术的有益效果是：

1.采用Sigmoid函数形式描述区域主题影响力权重，结合稀疏增量式生成模型，可极大提高计算效率，有效判别区域主题对微博的影响程度，并显著提高微博主题获取的准确性。

2.构建考虑了连续时间和区域影响力权重的时空主题模型，能发现连续时间上微博主题的空间分布和强弱变化，与已有地理主题模型相比，能更加准确地提取微博主题。

附图说明

图1为本发明的时空主题模型图。

具体实施方式

以下将结合附图和具体实施例，对本发明提供的技术方案进行说明。

步骤1：区域主题影响力的建模

利用研究城市各社区的地理中心位置，构造了覆盖武汉市区的泰森多边形网，其中每个多边形网格代表一个区域。以θ_r为参数表示区域r主题的多项式分布，以为θ₀参数表示背景主题的多项式分布。

在时间划分上，本文利用Beta分布描述不同主题随时间变化过程，从而在保证了时间连续特征的同时，获取任意时刻主题的强度。

本文认为，一个区域内的被标注出的POI数量越多，区域面积越小，表明该区域的社会功能越显著，该区域内的微博受到的影响就越强烈，反之，区域因素对微博主题的影响就越弱。我们采用Sigmoid函数形式描述区域主题影响力权重：

${\mathrm{\σ}}_r=\frac{1}{1+\exp (-\frac{p_r}{s_r})}$

其中，σ_r表示为区域r的影响力权重，p_r表示区域r的POI数量，s_r区域r的面积。

步骤2：顾及时空效应的微博主题建模

稀疏增量式生成模型(SparseAdditiveGenerativemodel，SAGE)，是在表达变量受到多个因素(这些因素可用指数家族概率分布表达时)影响时，在一个指数形式分布中对代表不同影响因素的参数进行混合，近似代表多个因素的总体影响，极大提高计算效率。因此，结合SAGE和区域主题影响力权重，微博主题z的生成过程可以表示为如下多项式分布：

P(z|θ₀，θ_r)＝P(z|(1-σ_r)θ₀+σ_r×θ_r)

时空主题模型描述具有时间和区域要素的微博的生成过程：首先，每个区域r有一个参数为区域主题多项式分布；微博d中的主题z在背景主题分布及其所在区域主题分布的共同作用抽样得到；每个主题z有一个与之对应的“主题—词汇”多项式分布；同时，每个主题z也对应一个时间Beta分布；最终，微博d中各词汇w的生成过程就是依据主题z不停从中抽样得到，而每个词汇生成的时间也是依据主题z从Beta(ψ_z分布中抽样得到。

整个微博文档生成过程如下：

从Direchlet(α₀)中抽样得到θ₀；

对于每个区域r＝1,…,R：

从均匀分布中抽取一个区域r；

从Direchlet(α_r)中得到θ_r；

对于每个主题z＝1,..,K：

从θ₀和θ_r为参数的多项式分布中抽取出主题z；

从Direchlet(β₀)中得到

从Direchlet(γ)中得到ψ_z；

对于微博d中的每个词汇w＝1,…,N_d：

从为参数的多项式分布中抽取词汇w；

从ψ_z为参数的Beta分布中抽取时间t。

步骤3：时空主题模型参数计算

利用吉布斯(Gibbs)采样估计时空主题模型的参数。时空主题模型有两个潜在变量：主题z和区域r。同时为了表达不同区域影响力权重的差异，z和r的条件后验概率可写成：

$\begin{array}{c}P(z_{di},r_{di}|w,t,z_{-di},r_{-di},{\mathrm{\α}}_r,{\mathrm{\β}}_0,\mathrm{\γ},\mathrm{\ψ})\\ \∝\frac{{(1-t_{di})}^{{\mathrm{\ψ}}_{z_{di}}^1-1}{t}_{di}^{{\mathrm{\ψ}}_{z_{di}}^2-1}}{B({\mathrm{\ψ}}_{z_{di}}^1-1,{\mathrm{\ψ}}_{z_{di}}^2-1)}\frac{n_{z_{di}}+{\mathrm{\β}}_{w_{di}}-1}{{\Σ}_{v=1}^V(n_{z_{di},v}+{\mathrm{\β}}_v)-1}\\ (1-{\mathrm{\σ}}_r)\frac{n_{d,z_{di}}+{\mathrm{\α}}_{z_{di},0}-1}{{\Σ}_{z=1}^K(n_{d,z}+{\mathrm{\α}}_{z,0})-1}{\mathrm{\σ}}_r\frac{n_{r,z_{di}}+{\mathrm{\α}}_{z_{di},r}-1}{{\Σ}_{z=1}^K(n_{r,z}+{\mathrm{\α}}_{z,r})-1}\end{array}$

以上联合概率公式表示基于之前各词汇所属的主题情况，采样得到的当前单词属于各主题的概率。其中，z_di表示当前微博d的第i个单词所属主题，r_di表示当前微博d的第i个单词所属区域(一个微博中所有单词属相同区域)，t_di表示当前微博d的第i个单词发表时间(一个微博中所有单词的发表时间都相同)；和分别表示该当前微博d所属主题z对应的2个Beta分布参数；-di表示除去当前正在采样的单词，表示文档d中第i个单词被认为属于主题z_di的次数，单词v属于主题z_di的次数；表示文档d属于主题z_di的次数，n_d，z表示文档d属于主题z的次数；n_r，z表示区域r中的微博属于主题z的次数，表示区域r中的微博属于主题z_di的次数。

在Gibbs采样中，要以矩阵形式记录每一步迭代中估计出来参数，它们分别是主题-词汇矩阵(KW)，记录了每个单词属于该每个主题的次数；文档-主题矩阵(DK)，记录每个文档属于每个主题的次数；主题-时间矩阵(K2)，记录每个主题对应Beta分布的两个参数；区域-主题矩阵(RK)，记录每个区域r属于每个主题的次数。当每个单词属于每个主题的次数开始收敛或迭代次数超过某一阈值时，该次Gibbs采样完成。

Gibbs采样完成后，即可利用这些矩阵对参数归一化，以概率形式表达这些参数：

${\mathrm{\θ}}_{r,z}=P\left(z\right|r)=\frac{n_{r,z}+{\mathrm{\α}}_{r,z}-1}{{\Σ}_{z=1}^K(n_{r,z}+{\mathrm{\α}}_{r,z})-1}$

${\mathrm{\θ}}_{0,z}=P\left(z\right|d)=\frac{n_{d,z}+{\mathrm{\α}}_{z,0}-1}{{\Σ}_{z=1}^K(n_{d,z}+{\mathrm{\α}}_{z,0})-1}$

${\mathrm{\ψ}}_z^1=P_{{\mathrm{\ψ}}_z^1}\left(t\right|z)=\stackrel{\‾}{t_z}\frac{\stackrel{\‾}{t_z}(1-\stackrel{\‾}{t_z})}{s_z^2}-1$

${\mathrm{\ψ}}_z^2=P_{{\mathrm{\ψ}}_z^2}\left(t\right|z)=(1-\stackrel{\‾}{t_z})(\frac{\stackrel{\‾}{t_z}(1-\stackrel{\‾}{t_z})}{s_z^2}-1)$

$\stackrel{\‾}{t_z}=\frac{1}{\left|\right\{(d,n)|z_{d,n}=k\}|}{\Σ}_{d=1}^D{\Σ}_{z_{d,n}=k}{t}_{d,n}$

$s_z^2=\frac{1}{\left|\right\{(d,n)|z_{d,n}=k\}|}{\Σ}_{d=1}^D{\Σ}_{z_{d,n}=k}{(t_{d,n}-\stackrel{\‾}{t_z})}^2$

其中，表示单词w属于z的概率，θ_r，z表示主题z在区域r的概率，θ_0，z表示背景主题分布中主题z的概率；n_z，w和n_z，v分别为单词w和v属于主题z的次数；n_r，z为区域r属于主题z的次数；n_d，z文档d属于主题z的次数；和分别表示主题z演变的Beta分布的两个参数。t_d，n表示微博d中第n个单词属于主题z的时间，和分别表示抽样出来属于主题z的微博的时间均值和时间方差。利用以上时空主题模型参数即可进行未知微博的主题提取。

Claims (4)

1.一种顾及时空效应的微博主题提取方法，其特征在于：所述提取方法是以主题z、区域r，时间t，词汇w对微博建模，通过模型表达式得到这些参数的具体数值，进而实现微博主题的分类。包括以下步骤：

(1)区域主题影响力计算：用于量化和描述区域POI数量及区域面积大小，从而判别区域对微博主题的影响程度；所述区域主题影响力模型表达式为：

${\mathrm{\σ}}_r=\frac{1}{1+\exp (-\frac{p_r}{s_r})}$

其中，σ_r为区域r的影响力权重，p_r表示区域r的POI数量，s_r表示区域r的面积；

(2)顾及时空效应的微博主题建模：用于描述具有时间和区域要素的微博的生成过程；

(3)微博主题模型参数计算：通过计算微博主题模型参数，并对其归一化处理，从而提取微博的主题。

2.根据权利要求1所述的一种顾及时空效应的微博主题提取方法，其特征在于：所述步骤(2)的模型表达式为：

P(z|θ₀，θ_r)＝P(z|(1-σ_r)θ₀+σ_r×θ_r)

其中，θ₀表示背景主题的分布参数，θ_r表示区域r主题的分布参数。

3.根据权利要求1所述的一种顾及时空效应的微博主题提取方法，其特征在于：通过吉布斯采样方法计算时空主题模型的参数。

4.根据权利要求3所述的一种顾及时空效应的微博主题提取方法，其特征在于：当每个词汇w属于每个主题z的次数开始收敛时，该次吉布斯采样完成。