CN105719191A - 多尺度空间下不确定行为语义的社交群体发现系统及方法 - Google Patents
多尺度空间下不确定行为语义的社交群体发现系统及方法 Download PDFInfo
- Publication number
- CN105719191A CN105719191A CN201610038214.7A CN201610038214A CN105719191A CN 105719191 A CN105719191 A CN 105719191A CN 201610038214 A CN201610038214 A CN 201610038214A CN 105719191 A CN105719191 A CN 105719191A
- Authority
- CN
- China
- Prior art keywords
- literary composition
- entry
- similarity
- user
- push away
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 29
- 239000000203 mixture Substances 0.000 claims description 216
- 230000000694 effects Effects 0.000 claims description 115
- 239000011159 matrix material Substances 0.000 claims description 31
- 238000000605 extraction Methods 0.000 claims description 15
- 230000003542 behavioural effect Effects 0.000 claims description 9
- 239000000284 extract Substances 0.000 claims description 7
- 230000015572 biosynthetic process Effects 0.000 claims description 6
- 238000012163 sequencing technique Methods 0.000 claims description 3
- 238000005303 weighing Methods 0.000 claims description 3
- 230000008901 benefit Effects 0.000 abstract description 4
- 238000002474 experimental method Methods 0.000 abstract description 4
- 238000011161 development Methods 0.000 abstract description 2
- 230000010354 integration Effects 0.000 abstract description 2
- 230000006399 behavior Effects 0.000 abstract 5
- 238000007418 data mining Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 23
- 230000000875 corresponding effect Effects 0.000 description 20
- 238000012360 testing method Methods 0.000 description 19
- 230000009471 action Effects 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000005259 measurement Methods 0.000 description 7
- 230000002596 correlated effect Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000011524 similarity measure Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 244000097202 Rathbunia alamosensis Species 0.000 description 1
- 235000009776 Rathbunia alamosensis Nutrition 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000007596 consolidation process Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000004445 quantitative analysis Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Primary Health Care (AREA)
- General Business, Economics & Management (AREA)
- Marketing (AREA)
- General Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种多尺度空间下不确定行为语义的社交群体发现系统及方法,属于数据挖掘和知识发现领域,本发明基于用户社交网Twitter行为轨迹,根据其发布推文地理位置的相似性以及推文词条所表达的不确定活动语义的相似性,来发现用户是否具相似有行为关系,从而找到对应的相似行为用户群体;实验证明,本发明在发现用户相似行为群体的准确性上优于现在已有的判断方法,具有很高的实际应用价值,如果能够得到极大推广,势必会有助于产业创新、促进跨界融合、惠及社会民生,推动我国经济和社会的创新发展。
Description
技术领域
本发明属于数据挖掘和知识发现领域,具体涉及一种多尺度空间下不确定行为语义的社交群体发现系统及方法。
背景技术
随着社交网应用的快速普及,越来越多的用户融入到社交网中,比较典型的应用有国内的新浪微博、国外的推特(Twitter)等,这些社交应用允许用户将其最新动态和想法以短信形式发布到手机或是网站,如果用户愿意,还可发布微博-推文所处物理位置信息。微博-推文内容虽然简短,但却蕴涵一定语义,在某种程度上可以用于推演用户行为;而允许公开物理位置信息则可以方便追踪用户最新动态,如果能将上述两个方面加以有效利用,就能更好地为诸如商业销售、旅游路线推荐、广告精准投放以及城市功能规划等领域进行服务。
令人遗憾的是,迄今为止,在行为语义研究方面,几乎所有研究成果都认为行为语义是确定性的,但事实上,行为语义本身往往具有一定的不确定性,这主要源于当用推文对应的“词条集合(asetofterms)”表达行为所蕴涵的“活动(activity)”语义时,“词条”与“活动”之间存在着不确定的语义映射关系,比如一个“词条”可隶属于多个“活动”,而一个“活动”又可包含多个词条,正是这种语义映射的不确定性在一定程度上影响了相似行为用户群体发现的精度,但目前该问题却一直未能引起相关人员的高度重视。而另一方面,在利用微博和推特等社交数据服务于各种应用时没有充分考虑不同地理空间尺度对社交群体聚类的影响。实际上,根据地理学第一定律,有理由认为位置相近用户所产生的行为要比距离较远用户产生的行为更相似;其次,在细粒度地理空间上共享相似位置的用户具有更大的行为相似可能性,比如,两个用户在同一大学发推文可能比在同一城市发推文更具行为相似性,因此以分裂方式对位置轨迹进行不同空间度量尺度下的递归聚类,可以更有效地区分相似行为用户。
发明内容
针对现有技术的不足,本发明提出一种多尺度空间下不确定行为语义的社交群体发现系统及方法,基于用户社交网Twitter行为轨迹,根据其发布推文地理位置的相似性以及推文词条所表达的不确定活动语义的相似性,来发现用户是否具有相似行为关系。
一种多尺度空间下不确定行为语义的社交群体发现系统,包括社交网推文采集模块、多尺度空间下推文物理位置聚类模块、推文物理位置相似度矩阵计算模块、不确定行为语义词条库构建模块、推文词条提取模块、推文词条表达活动概率值及相似性概率获取模块和行为相似社交群体发现模块,其中:
社交网推文采集模块:用于采集社交网站的推文数据集,包括发布内容、发布位置、用户ID、用户名和文本发布时间,并经过数据清洗操作后进行存储;
多尺度空间下推文物理位置聚类模块:用于将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;
推文物理位置相似度矩阵计算模块:用于对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取,即获得推文轨迹物理位置相似度;
不确定行为语义词条库构建模块:用于构建社交网用户行为活动词条库,并抽取出每类活动包含的词条,通过重要性权重分布曲线,确定活动相关词条的判断阈值和活动半相关词条的判断阈值;将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条活动库;
推文词条提取模块:用于对所有用户发布的推文文本进行词条提取;
推文词条表达活动概率值及相似性概率获取模块:用于针对同层每一个最大位置轨迹匹配,合并同一用户不同物理位置簇的推文,生成推文语义词条集合,获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值,再根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值;
行为相似社交群体发现模块:用于根据推文轨迹物理位置相似度和活动相似性概率获得轨迹行为相似度,通过构建连通图的方式获得推文相似行为群体。
采用所述的多尺度空间下不确定行为语义的社交群体发现系统进行的发现方法,包括以下步骤:
步骤1、在样本采集范围内采用社交网推文采集模块获取社交网站的推文数据集;
所述的推文数据集包括按照推文时间排序的推文物理位置和推文文本词条;
步骤2、采用计算机中的多尺度空间下推文物理位置聚类模块,将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;
步骤3、采用多层次推文物理位置相似度矩阵计算模块,对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取;
步骤4、采用计算机中的不确定行为语义词条库构建模块,构建不确定词条行为活动库,具体步骤如下:
步骤4-1、划分活动类别,并提取各类活动包含词条;
步骤4-2、赋予各种不确定词条表达活动的概率值,具体步骤如下:
步骤4-2-1、统计词条的词频和词条的逆向文本频率,根据词条的词频和词条的逆向文本频率获得词条的重要性权重;
步骤4-2-2、通过重要性权重分布曲线,确定活动相关词条的判断阈值和活动半相关词条的判断阈值;
步骤4-2-3、将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条行为活动库;
步骤5、采用推文词条提取模块对所有用户发布的推文文本进行词条提取;
步骤6、采用推文词条表达活动概率值及相似性概率获取模块,获得一对用户间推文语义行为相似度的概率值,具体步骤如下:
步骤6-1、针对同层每一个最大位置轨迹匹配,合并同一用户不同物理位置簇的推文,生成推文语义词条集合;
步骤6-2、获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值;
步骤6-3、根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值;
步骤7、采用行为相似社交群体发现模块,根据推文轨迹物理位置相似度和活动相似性概率获得轨迹行为相似度,通过构建连通图的方式获得推文相似行为群体。
步骤1所述的在样本采集范围内采用社交网推文采集模块获取社交网站的推文数据集,需要对所采集的数据经过数据清洗操作后进行存储。
步骤2所述的生成用户多层次推文物理位置聚类簇序列,具体包括如下步骤:
步骤2-1、确定多种聚类空间度量粒度,即确定多尺度空间的距离尺度;
步骤2-2、采用聚类算法对处于每种粒度下的推文物理位置进行聚类;
步骤2-3、按推文发送时间先后顺序生成对应每个用户的推文位置聚类簇序列。
步骤3所述的对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取,具体步骤如下:
步骤3-1、获得同层节点下一对用户相似推文物理位置的相似度;
同层节点下一对用户相似推文物理位置的相似度计算公式如下:
其中,表示用户ui在第l层的物理位置轨迹簇序列;表示用户uj在第l层的物理位置轨迹簇序列;r表示物理位置轨迹;l表示第l层物理位置轨迹簇聚类;|q|表示最大匹配的个数;nC(TLCSq)表示第l层第q个最大推文轨迹簇公共子序列所包含的聚类簇个数,1≤q≤|q|;M表示同一聚类尺度下用户轨迹聚类簇总数;Nu表示推文数据集中的总用户数,u表示用户;nu(Cf)表示访问第l层第q个最大推文轨迹簇公共子序列第f个公共位置簇Cf的用户数,1≤f≤nC(TLCSq);表示ui在l层上的推文轨迹簇序列所包含的位置聚类簇个数;表示uj在l层上的推文轨迹簇序列所包含的位置聚类簇个数;
步骤3-2、综合获得各层节点下一对用户推文物理位置的相似度;
计算公式如下:
其中,表示用户ui和uj位置轨迹相似度;Ti r表示用户ui的位置轨迹;表示用户uj的位置轨迹;r表示物理位置轨迹;wl表示不同粒度划分层对物理位置相似度的影响权重,wl=2l-1,1≤l≤|l|,|l|表示不同粒度划分层的个数;
步骤3-3、重复步骤3-1至步骤3-2,获得所有用户对的多层次相似推文物理位置的相似度,并生成用户对多层次推文物理位置相似度下三角矩阵。
步骤6-2所述的进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值,具体公式如下:
其中,表示用户ui和uj在第l层物理位置轨迹聚类簇序列上的推文行为语义相似度,表示ui和uj间满足第q个最大匹配的相似活动的概率值,|q|表示最大匹配的个数。
步骤6-3所述的根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值,具体公式如下:
其中,表示用户ui和uj的推文行为语义相似度;Ti d表示用户ui的位置轨迹所对应的推文轨迹;表示用户uj的位置轨迹所对应的推文轨迹;表示第l层语义相似度权重;d表示推文轨迹;|l|表示不同粒度划分层的个数。
本发明优点:
本发明提出一种多尺度空间下不确定行为语义的社交群体发现系统及方法,本发明基于用户社交网Twitter行为轨迹,根据其发布推文地理位置的相似性以及推文词条所表达的不确定活动语义的相似性,来发现用户是否具相似有行为关系,从而找到对应的相似行为用户群体;
首先,本发明优点之一在于成功借鉴了地理学第一定律定量分析地理空间的理念,即“任何事物都相关,只是相近的事物关联更紧密”,认为用户在社交网应用Twitter上发布的推文其位置相近用户所产生的行为要比距离较远用户产生的行为更相似,即行为轨迹相似隐含着地理位置的相似,因此位置轨迹是否相似是进一步判断行为轨迹相似的必要前提;
其次,本发明首次针对Twitter行为轨迹提出在细粒度地理空间上共享相似位置的用户具有更大的行为相似可能性,比如,两个用户在同一大学发推文可能比在同一城市发推文更具行为相似性,因此以分裂方式对位置轨迹进行不同空间度量尺度下的递归聚类,可以更有效地区分相似行为用户;
此外,以往基于内容的行为轨迹研发工作大都认为行为轨迹的活动语义是确定的,但事实上,语义与活动之间的映射关系往往是不唯一的,因为推文词条集合对行为语义表达可有多种不同形式,这导致行为轨迹的活动语义表达具有不确定性,但该问题却被忽略。基于上述,本发明提出了多尺度空间下不确定行为语义的社交群体发现系统。
在当今如火如茶的互联网+时代,该系统的成功开发,无疑可以促进传统行业与互联网的深度融合,比如,有推荐需求的旅游业、广告业、销售业、餐饮业等,基于该系统能对目标客户人群做出更为准确的判断,从而提升信息推荐服务质量。实验也证明,本发明在发现用户相似行为群体的准确性上优于现在已有的判断方法,具有很高的实际应用价值,如果能够得到极大推广,势必会有助于产业创新、促进跨界融合、惠及社会民生,推动我国经济和社会的创新发展。
附图说明
图1为本发明一种实施例的多尺度空间下不确定行为语义的社交群体发现系统结构框图;
图2为本发明一种实施例的多尺度空间下不确定行为语义的社交群体发现方法流程图;
图3本发明一种实施例的原始推文轨迹在3个层上的不同聚类结果示意图,其中,图(a)为第1层上的不同聚类结果示意图,图(b)为第2层上的不同聚类结果示意图,图(c)为第3层上的不同聚类结果示意图;
图4本发明一种实施例的在第2层上的聚类转换簇图,其中,图(a)为用户u1的原始轨迹图在第2层上的聚类转换簇图,图(b)用户u2的原始轨迹图在第2层上的聚类转换簇图;
图5本发明一种实施例的在第3层上的聚类转换簇图,其中,图(a)为用户u1的原始轨迹图在第3层上的聚类转换簇图,图(b)为用户u2的原始轨迹图在第3层上的聚类转换簇图;
图6为本发明一种实施例的群体发现示意图,其中,图(a)为关系矩阵对应的连通图;图(b)为利用最大树聚类算法发现的推文行为相似群体图;
图7为本发明一种实施例的聚类效果之调和值比较图;
图8为本发明一种实施例的聚类效果之熵值比较图;
图9为本发明一种实施例的运行时间比较图;
图10为本发明一种实施例的不同推文数目下εr对聚类效果的敏感性测试图,其中,图(a)为推文数200情况下εr的测试结果示意图,图(b)为推文数300情况下εr的测试结果示意图,图(c)为推文数400情况下εr的测试结果示意图,(d)为推文数500情况下εr的测试结果示意图;
图11为本发明一种实施例的不同Tweets数目下εd对聚类效果的敏感性测试图,其中,图(a)为推文数200情况下εd的测试结果示意图,图(b)为推文数300情况下εd的测试结果示意图,图(c)为推文数400情况下εd的测试结果示意图,(d)为推文数500情况下εd的测试结果示意图;
图12为本发明一种实施例的不同Tweets数目下ζ对聚类效果的敏感性测试图,其中,图(a)为推文数200情况下ζ的测试结果示意图,图(b)为推文数300情况下ζ的测试结果示意图,图(c)为推文数400情况下ζ的测试结果示意图,(d)为推文数500情况下ζ的测试结果示意图。
具体实施方式
下面结合附图对本发明一种实施例做进一步说明。
本发明实施例例中,如图1所示,多尺度空间下不确定行为语义的社交群体发现系统,包括社交网推文采集模块、多尺度空间下推文物理位置聚类模块、推文物理位置相似度矩阵计算模块、不确定行为语义词条库构建模块、推文词条提取模块、推文词条表达活动概率值及相似性概率获取模块和行为相似社交群体发现模块;
本发明实施例例中,所述的社交网推文采集模块利用推特应用所提供的API函数提取具有公开属性的发布内容(即文本)、发布位置(即经、纬度),同时提取出的内容还包括用户ID、用户名、文本发布时间,然后经过数据清洗操作以记录形式存入MongoDB数据库中;
本发明实施例中,所述的多尺度空间下推文物理位置聚类模块用于将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;
本发明实施例中,所述的推文物理位置相似度矩阵计算模块用于对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取,即获得推文轨迹物理位置相似度,并将该相似度值作为矩阵元素构建推文轨迹物理位置相似度矩阵L;
本发明实施例中,所述的不确定行为语义词条库构建模块用于构建社交网用户行为活动词条库,并抽取出每类活动包含的词条,通过重要性权重分布曲线,确定活动相关词条的判断阈值和活动半相关词条的判断阈值;将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条活动库;
本发明实施例中,所述的推文词条提取模块用于根据Lucene分词工具对所发推文的文本进行文本解析,经过去停用词等操作提取出文本包含的词条;
本发明实施例中,推文词条表达活动概率值及相似性概率获取模块用于针对同层每一个最大位置轨迹匹配,合并同一用户不同物理位置簇的推文,生成推文语义词条集合,获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值,再根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值,并将每对概率值作为活动相似性矩阵元素构建活动相似性概率矩阵A;
本发明实施例中,所述的行为相似社交群体发现模块用于根据给定的物理位置相似度阈值范围和语义相似度阈值范围,计算出L和A对应相同行与列上的两个值的乘积并构成轨迹行为相似矩阵M;然后利用给定的行为相似度阈值范围将M进行最大树聚类,如果M对应的连通图的最小生成树中一些边的权值小于预先给定行为相似度阈值,就将这些边剪掉,于是剩余连通子图便是最大树聚类结果,而每个类则表示一组行为相似的社交群体;
本发明实施例中,采用所述的多尺度空间下不确定行为语义的社交群体发现系统进行的发现方法,方法流程图如图2所示,包括以下步骤:
步骤1、在样本采集范围内采用计算机中的社交网推文采集模块,获取Twitter可用推文数据集;所述的推文数据集包括按照推文时间排序的推文物理位置和推文文本词条;
本发明实施例中,具体步骤如下:
步骤1-1、选取城市;
本发明实施例中,选取美国城市人口数排名前20的城市;
步骤1-2、选取样本采集点;
本发明实施例中,对从步骤1-1中获得的每一个城市,以均匀分布选取1,000个点;
步骤1-3、确定样本最大采集区域;
本发明实施例中,以步骤1-2中获得的1,000个点为中心,以1公里为半径画出1,000个相互之间不重叠的圆形区域;
步骤1-4、确定样本采集范围;
本发明实施例中,从步骤1-3的结果中选取20,000个圆形区域;
步骤1-5、提取样本原始推特数据;
本发明实施例中,利用步骤1-4确定的区域,通过Twitter提供的API函数接口获取170,955条推特数据;
步骤1-6、预处理样本原始推特数据;
本发明实施例中,对步骤1-5获得的原始推特数据,进行数据清洗,去掉不完整的数据;
步骤1-7、存储可用推特数据;
本发明实施例中,对步骤1-6获得的可用推特数据按照统一格式,存入MongoDB数据库中;
本发明实施例中,如图3中图(a)、图(b)和图(c)所示,假定给出了两个Twitter用户u1和u2的推文语义行为轨迹T1 b和如下:
T1 b=(p11,D11)→(p12,D12)→(p13,D13)→(p14,D14)→(p15,D15)
其中,D11表示u1在其第一个发布点发布推文的文本词条集合,同理,D21表示u2在其第一个发布点发布推文的文本词条集合,其他各地点发布的推文集合以此类推;p11表示u1在其第一个发布点的物理位置,即经度和纬度;同理,p12表示u2在其第一个发布点的物理位置,即经度和纬度;其他各发布地点以此类推;
首先,需要说明的是,ui的一条原始位置轨迹Ti r是一个由(pik,τik)构成的按时间τik排序的位置点序列,其中pik=(xik,yik),xik和yik是第k个位置的经、纬度,于是 其中是Ti r上的位置点数目,则u1和u2的原始位置轨迹如下:
T1 r=p11→p12→p13→p14→p15
其次,ui的一条语义行为轨迹Ti b是一个由p′ik=(xik,yik,τik,Dik)构成的时间序列,其中Dik={ti1,ti2,...,tih},其中,h为Dik所包含的词条数目。
步骤2、采用计算机中的多尺度空间下推文物理位置聚类模块,将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;具体包括如下步骤:
步骤2-1、确定多种聚类空间度量粒度,即确定多尺度空间的距离尺度;
根据不同应用需求可设置不同的聚类空间度量尺度,本发明实施例中,如图3中图(a)、图(b)和图(c)所示中的l1至l3,分为三种,即10公里范围、5公里范围和1公里范围,即划分层次设为三层;
步骤2-2、采用聚类算法对处于每种粒度下的推文物理位置进行聚类;
本发明实施例中,根据步骤2-1所确定的每种聚类空间度量粒度,利用DBSCAN聚类算法对处于每种粒度下的推文物理位置进行聚类;
步骤2-3、按推文发送时间先后顺序生成对应每个用户的推文位置聚类簇序列;
本发明实施例中,根据步骤2-2所得的聚类簇,针对每个用户,按推文发送时间先后顺序生成对应每个用户的推文位置聚类簇序列;
本发明实施例中,如图3中的l1层,u1和u2均被聚类在同一簇C11中,u1和u2的第2层和第3层聚类转换簇图分别如图4中图(a)、图(b)和图5中图(a)、图(b)所示。
表1给出了聚类结果及对应参数;结合图3中例子,以l3为例,说明各参数。其中假定,Nu=100,nu(C33)=10,nu(C34)=20,则nC(TLCSq)=2,因为有2个公共簇,即C33和C34;而Q=1,即从和中找到1个最大公共匹配C33→C34;此外,M=5,
表1实施例聚类结果及对应参数
步骤3、采用多层次推文物理位置相似度矩阵计算模块,对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取;具体步骤如下:
步骤3-1、获得同层节点下一对用户相似推文物理位置的相似度;
同层节点下一对用户相似推文物理位置的相似度计算公式如下:
其中,表示用户ui在第l层的物理位置轨迹簇序列;表示用户uj在第l层的物理位置轨迹簇序列;r表示物理位置轨迹;l表示第l层物理位置轨迹簇聚类;|q|表示最大匹配的个数;nC(TLCSq)表示第l层第q个最大推文轨迹簇公共子序列所包含的聚类簇个数,1≤q≤|q|;M表示同一聚类尺度下用户轨迹聚类簇总数;Nu表示推文数据集中的总用户数,u表示用户;nu(Cf)表示访问第l层第q个最大推文轨迹簇公共子序列第f个公共位置簇Cf的用户数,1≤f≤nC(TLCSq);表示ui在l层上的推文轨迹簇序列所包含的位置聚类簇个数;表示uj在l层上的推文轨迹簇序列所包含的位置聚类簇个数;
本发明实施例中,利用TF-IDF思想计算同一聚类尺度(即同层节点)下一对用户相似推文物理位置的相似度。根据公式(1)可计算出ui和uj在第3层的位置簇序列相似度如下:
类似求得各层相似度结果如下:
步骤3-2、综合获得各层节点下一对用户推文物理位置的相似度;
计算公式如下:
其中,表示用户ui和uj位置轨迹相似度;Ti r表示用户ui的位置轨迹;表示用户uj的位置轨迹;r表示物理位置轨迹;wl表示不同粒度划分层对物理位置相似度的影响权重,wl=2l-1,1≤l≤|l|,|l|表示不同粒度划分层的个数;
本发明实施例中,综合计算多种聚类尺度(即各层节点)下一对用户推文物理位置的相似度。令wl=2l-1,根据公式(2)计算出最终位置相似度如下:
步骤3-3、重复步骤3-1至步骤3-2,获得所有用户对的多层次相似推文物理位置的相似度,并生成用户对多层次推文物理位置相似度下三角矩阵;
本发明实施例中,将步骤3-2生成的每一对作为第j行和第i列元素存入多层次推文物理位置相似度下三角矩阵L中,重复步骤3-1至步骤3-2,完成所有用户对的多层次相似推文物理位置的相似度计算,并生成用户对多层次推文物理位置相似度下三角矩阵L;
本发明实施例中,生成用户对多层次推文物理位置相似度下三角矩阵L如下(为表示简单起见,仅给出其中的5个用户对)。
步骤4、采用计算机中的不确定行为语义词条库构建模块,构建不确定词条行为活动库,具体步骤如下:
步骤4-1、划分活动类别,并提取各类活动包含词条;
本发明实施例中,借鉴第三方应用FourSquare的活动分类信息并根据实际需要,将活动分为以下六类:
(1)Food(美食):主要包括各种餐厅,如中国餐馆等。
(2)Shopping(购物):主要有商店等。
(3)Travel(旅行):主要包括著名旅游景点。
(4)Art(艺术):主要包括一些博物馆等。
(5)Entertainment(娱乐):主要包括游泳馆、足球场等。
(6)Business(商业):主要包括开会地点等。
每类活动下存储表示该类活动的词条,由于活动分类词条与社交应用本身紧密相关,即在某种程度上或多或少存在一定语义偏斜,因此本文在构建活动分类词条集合时,根据类别语义通过维基百科适当增加了部分相关词条,旨在改善语义倾斜问题;
步骤4-2、赋予各种不确定词条表达活动的概率值,具体步骤如下:
步骤4-2-1、统计词条的词频和词条的逆向文本频率,根据词条的词频和词条的逆向文本频率获得词条的重要性权重;
步骤4-2-1-1、统计词条的词频;
计算公式如下:
其中,∑g表示在所有活动中包含的词条总数,gij为词条ti在第j类活动Aj中出现的次数,TF为词条ti在第j类活动中出现的词频;
步骤4-2-1-2、统计词条的逆向文本频率;
计算公式如下:
其中,IDF表示词条ti的逆向文本频率,|A|表示全部活动个数,|Ai|表示包含词条ti的活动个数;
步骤4-2-1-3、计算词条的重要性概率值;
本发明实施例中,词条ti在多少个活动中出现过,对ti与某个活动的相关性大小有重要影响:若ti在越多的活动中出现,则ti与某个活动能够的相关性越低;反之,若ti在越少的活动中出现,则ti与活动的相关性越高。因此,用TF·IDF方法计算词条表达活动的重要性权重,然后除以最大权重值wmax;
计算公式如下:
pw(ti)=TF·IDF/wmax(7)
其中,TF·IDF表示词条ti在活动Aj中的重要性权重,并将公式(5)和(6)代入;wmax表示权重值中的最大值;pw(ti)表示词条ti在活动Aj中的重要性权重概率值,即权重概率值;
步骤4-2-2、通过重要性权重分布曲线,确定活动相关词条rt的判断阈值θr和活动半相关词条st的判断阈值θu;
本发明实施例中,将词条分为活动相关词条rt、活动半相关词条st和活动不相关词条ut三类,由于权重分布曲线符合Zipf分布,因此根据数理统计概率分布中的1/3和2/3分位点所对应的权重概率值,作为主题相关词条阈值θr和主题不相关词条阈值θu;
步骤4-2-3、将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条行为活动库;
本发明实施例中,取某一词条tx的权重概率值pw(tx)作为相关词条与半相关词条的分界线,当且仅当公式(8)成立;同理,取某一词条ty的权重概率值pw(ty)作为半相关词条与不相关词条的分界线,当且仅当公式(9)成立,其中|k|代表全部推文集合中的词条总数(1≤x,y≤|k|);
权重概率值大于θr的词条是活动相关词条;权重概率值小于θu的词条是活动不相关词条;权重概率值介于θr和θu之间的词条是活动半相关词条;
本发明实施例中,假定整个推文词条活动库包含t1、t2、t3、t4、t5和t6六个词条,即|k|=6,且这些词条属于同一类活动,则它们基于TF-IDF的重要性概率值分别为pw(t1)=1,pw(t2)=0.5,pw(t3)=0.33,pw(t4)=0.25,pw(t5)=0.2,pw(t6)=0.17,经计算当取x=1时,有 本发明实施例中,设定pw(t0)=0,即 而因此t1满足公式(8),于是将t1作为tr与ts的分界线,同理,经类似计算并根据公式(8)将t3作为ts与tu的分界线。最后的词条分类结果为tr={t1},ts={t2,t3},tu={t4,t5,t6},这时pw(t1)=1,pw(t2)=0.5,pw(t3)=0.33,pw(t4)=pw(t5)=pw(t6)=0。
本发明实施例中,最终六类活动及其包含的词条如表2所示(仅列出部分词条)。表中词条后括号中的“字母-数字”表明该词条是活动相关(用字母r表示),还是活动半相关(用字母s表示),数字则表示该词条表达所属活动的重要性概率值。注意,此处活动不相关词条由于对活动表达无关,因此被删去。
表2
步骤5、采用计算机中的推文词条提取模块,利用Lucene分词工具,通过去停用词等操作对所有用户发布的推文文本进行词条提取;
步骤6、采用推文词条表达活动概率值及相似性概率获取模块,获得一对用户间推文语义行为相似度的概率值,具体步骤如下:
步骤6-1、针对同层每一个最大位置轨迹匹配TLCSq(1≤q≤|q|),合并同一用户不同物理位置簇的推文,生成推文语义词条集合Dl(TLCSq),所述的Dl(TLCSq)表示第l物理位置聚类层、第q个最大位置轨迹匹配对应的推文词条集合;
本发明实施例中,以附图5为例,假定在第三层,用户u1和u2各自合并后的D3(TLCSq)分别如表3中的l3列所示。
表3
步骤6-2、获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值;
本发明实施例中,将推文语义词条集合Dl(TLCSq)与词条库中的词条进行匹配,判断是活动相关词条还是活动半相关词条;枚举出不确定词条表达Dl(TLCSq)推文语义活动的所有组合形式及每种形式的存在概率;去掉和中各自所对应的不相关活动词条,使得和中只包含相关活动词条和半相关活动词条,并计算出它们各自所包含的半相关词条个数和
本发明实施例中,仍以D3(TLCSq)为例,将其包含的词条与词条库进行匹配后,得出其所属类别为:tr={t1},ts={t2,t3};其中,tr和ts分别代表相关词条集合和半相关词条集合。因此,有 而 且pw(t1)=1,pw(t2)=0.5,pw(t3)=0.33;
本发明实施例中,根据得出的和枚举出和中相应的所有词条活动表达集合形式,枚举个数分别为和其计算如下:
其中,表示中所有的词条表达活动的集合形式个数;表示中所有的词条表达活动的集合形式个数;公式中的第一部分,即数字“1”代表由全部相关词条集合构成的一种确定活动表达形式,称为“相关基”;公式的第二部分,则代表以“相关基”作为初始部分,向其逐条追加半相关词条时构成的不确定词条表达活动形式的集合数。
本发明实施例中,根据得出的枚举结果,计算出每个词条集合表达推文语义活动的存在概率,计算公式如下:
其中,是的第λ个活动词条描述集合表达形式;是该集合中第φ个词条的存在概率(如果相关词条存在于该集合中,则其存在概率为1;如果半相关词条存在与该集合中,则其存在概率值为否则概率值为 是该集合所包含词条的个数;同理,是的第λ′个活动词条描述集合表达形式,其对应概率计算与前者相同,此处不再赘述。
本发明实施例中,根据得出的对应和所有词条表达活动集合形式,枚举出所有推文对组合,组合数为
本发明实施例中,仍以D3(TLCSq)为例,则和的所有可能组合形式及每种形式的存在概率如表4所示。其中,和分别表示用户u1和u2在第3物理位置轨迹聚类层上、去掉不相关词条后、对应第q个最大匹配TLCSq的推文文本词条集合。和分别表示用户u1在中的第一种、第二种词条表达活动形式,即上标表示用户,下标表示在第几层的第几种表达形式,以此类推,用户u2在中的四种表达形式分别为和具体如表4第3列所示。
表4例子的可能表达形式及其存在概率
本发明实施例中,针对得出的所有推文对组合及其所含推文表达活动形式的存在概率值,利用Jaccard相似系数计算出一对用户间每个可能的推文对的活动语义的相似度,即的计算如表5所示;
表5例子的相似性计算及其存在概率
本发明实施例中,令则根据公式(11)得出如下:
本发明实施例中,针对得出的所有推文对组合及其所含推文表达活动形式的存在概率值,利用Jaccard相似系数计算出一对用户间每个可能的推文对的活动语义的相似度,计算公式如下:
其中,是的第λ个活动词条描述集合表达形式,是的第λ′个活动词条描述集合表达形式;
本发明实施例中,计算出一对用户间每个可能的推文对的活动语义相似度的存在概率值即一对用户间同层相似活动的概率值;
本发明实施例中,选出和的所有概率活动词条描述集合中相似度大于同层活动相似度阈值(通过实验测得)的描述集合,则任意一对用户间相似活动的概率值是这些集合存在的概率值相加,计算公式如下:
其中,和分别表示和所有概率活动词条描述集合中相似度大于活动相似度阈值范围的第个和第个描述集合,表示ui和uj间满足第q个最大匹配的相似活动的概率值,换句话说,第q个最大匹配中大于活动相似度阈值的这些集合中的词条能够以多大概率代表两个用户产生某类或某几类相似活动;
本发明实施例中,计算满足全部最大匹配的一对用户间同层推文相似活动的相似度,计算公式如下:
其中,表示用户ui和uj在第l层物理位置轨迹聚类簇序列上的推文行为语义相似度,表示ui和uj间满足第q个最大匹配的相似活动的概率值,|q|表示最大匹配的个数。
本发明实施例中,由于而|q|=1,因此根据公式(3)得出如下:
步骤6-3、根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值;具体公式如下:
其中,表示第l层语义相似度权重,d表示推文轨迹,表示用户ui和uj的推文行为语义相似度,|l|表示不同粒度划分层的个数。
本发明实施例中,假定l2和l1的参数如表3中的第2列和第3列所示,并假定已计算出 通过预定义的各层语义相似度权重 则根据公式(13),最终得出如下:
本发明实施例中,将语义相似度作为第j行和第i列元素存入矩阵A中,完成所有用户对的推文语义相似行为概率计算,并生成用户对相似行为活动概率下三角矩阵A如下:
步骤7、采用行为相似社父群体发现模块,根据推文轨迹物理位置相似度和活动相似性概率获得轨迹行为相似度,通过构建连通图的方式获得推文相似行为群体;具体步骤如下:
步骤7-1、构建推文轨迹行为相似矩阵M;
步骤7-1-1、扫描L和A中第i行和第j列元素,如果其中设置εd=0.5,εr=0.5,那么生成M中的第j行和第i列元素,计算公式如下:
Mji=Aji·Lji(16)
本发明实施例中,扫描L和A中第2行和第1列元素,且那么根据公式(16)则可计算出A21·L21=0.893·0.605=0.54,然后将该值填入矩阵位置M21中,即生成推文轨迹行为相似矩阵M中的第j行和第i列元素。以此类推,最终获得所有用户的推文相似行为下三角矩阵M(假定其他用户间的数值按上述方法都被计算出来):
步骤7-1-2、重复步骤7-1-1,直至扫描完矩阵A和L的所有下三角元素,完成矩阵M的生成;
步骤7-2、根据M构建对应的连通图G;
步骤7-2-1、将M的用户作为连通图G的节点;
步骤7-2-2、将用户对间的矩阵值作为对应节点之间的边;
步骤7-2-3、重复步骤7-1-1和7-1-2,完成所有用户对操作;
步骤7-3、选择G中任意一个顶点v(ui)加入到最小生成树已选顶点集合;
步骤7-4、选择一条代价最小的边e(ui,uj)加入到最小生成树中;
步骤7-5、重复步骤7-3和7-4,生成G的最小生成树T;
步骤7-6、根据最小生成树T进行用户群聚类;
步骤7-6-1、取定一个阈值ζ=[0.4,0.6];
步骤7-6-2、去掉最小生成树T中边权重小于ζ的连通边;
步骤7-6-3、剩余边构成的每个连通子图即为一组推文轨迹相似用户群体。
本发明实施例中,计算关系矩阵M所对应的最大树如图6中图(a)所示。假定ζ=0.5,则对应生成的连通子图如图6中图(b)所示,即用户被聚成两类,即在给出的5个用户中发现了2个推文相似群体,它们分别是C1={u1,u2,u4}和C2={u3,u5};
本发明实施例中,通过实验验证了所提的多尺度空间下基于不确定行为语义的社交群体发现系统的有效性和可行性。
本发明实施例中,根据不同地理空间聚类尺度将所提系统划分成UUGD-1、UUGD-2和UUGD-3三种,其中,UUGD-1用一种度量尺度(聚类范围1公里),UUGD-2综合两种度量尺度(聚类范围分别为1公里和5公里),UUGD-3综合三种度量尺度(聚类范围分别为1、5、10公里);尽管地理位置空间度量尺度不同,但这三种方法对不确定语义的相似性计算则采用相同概率方法求解,而后将它们分别与LDA-TFIDF算法在影响聚类效果的F-measure和熵指标上进行了有效性测试与比较,测试结果如图7和图8所示。
本发明实施例中,如图4所示,在同样一种地理空间聚类尺度下,UUGD-1的聚类效果优于LDA-TFIDF,因为前者考虑了Tweet轨迹活动语义表达的不确定性,即为最有可能表达活动语义的推文词条赋以较高概率,相比于LDA-TFIDF算法的确定性语义计算,UUGD处理不确定性的概率手段能使活动语义被更充分地表达出来,因此聚类效果更优。其次,在不同地理空间聚类尺度下,UUGD-2和UUGD-3的聚类效果不仅优于LDA-TFIDF,而且优于UUGD-1,这一方面源于上述提及的UUGD对不确定语义的考虑,一方面则体现出了不同地理空间聚类尺度对聚类效果有着重要影响。由于UUGD-3的地理空间划分涵盖了UUGD-2和UUGD-1,即UUGD-3能更合理地反映Twitter行为轨迹在地理位置上的相似性聚类,因此聚类效果相比其他两种方法更准确。接下来,从熵指标来看,由于熵越小聚类效果越好,因此图8中的UUGD-3也同样好于UUGD-2、UUGD-1方法和LDA-TFIDF方法,原因与对F-measure的分析是相同的。
图9给出了四种方法运行时间的测试结果。如图9所示,由于UUGD-1要综合处理地理位置空间聚类和不确定语义概率计算两种操作,因此时间略多于LDA-TFIDF;而UUGD-2和UUGD-3的运行时间均多于UUGD-1,这是因为它们要综合多个度量空间尺度计算聚类,因此耗费时间相比UUGD-1要更多一些。
为验证UUGD参数对该模型本身执行聚类效果的影响,本文对涉及到的相关参数进行了详细测试,由于UUGD-3考虑了更细的地理空间划分,聚类效果更优,因此本发明实施例中给出了UUGD-3达到最优性能时各参数的合理取值范围,其他方法类似,此处不再赘述。
图10~图12给出了Tweet数据集合分别取200、300、400和500大小情况下,参数εr、εd和ζ分别对聚类评价指标F-measure和熵的影响。
首先,从图10中图(a)~图(d)可以看出,随着εr值的增加,F-measure呈现出先上升后下降趋势,而熵则呈现出先下降后上升趋势,这是因为如果阈值εr取值过低,UUGD认为大量地理位置不相近的数据有较大相似度,将它们聚为一个簇;相反,如果εr取值过高,UUGD会将大量地理相近度较高的数据分开,因此聚类效果下降。众所周知,F-measure越大聚类效果越好,反之,熵越小则聚类效果越好,因此,二者越接近的地方就是εr最为敏感的取值之处,尽管εr的最佳取值还要依赖于不同的数据集合,但根据本文所选测试集,有理由认为当εr在0.5左右取值时,聚类效果较好。
其次,文本语义相似度阈值εd对聚类效果的影响如图11中图(a)~图(d)所示。从图8可以看出,当εd∈[0.4,0.6]时,UUGD的聚类效果较好。类似于εr敏感度对聚类的影响,εd对聚类影响也具有同样变化趋势,原因是阈值εd取值过低,UUGD认为大量Tweets文本语义不相近的数据有较大相似度,将它们聚为一个簇;相反,如果εd取值过高,UUGD会将大量Tweets文本语义相似度较高的数据分开,因此聚类效果下降。同样,εd的最佳取值一方面还要依赖于不同数据集合。最后,最大树聚类参数阈值ζ对聚类效果的影响如图12中图(a)~图(d)所示。从图12中可以看出,当ζ∈[0.4,0.6]时,聚类效果较好,原因类似于εd,此处不再赘述。
Claims (7)
1.一种多尺度空间下不确定行为语义的社交群体发现系统,其特征在于,包括社交网推文采集模块、多尺度空间下推文物理位置聚类模块、推文物理位置相似度矩阵计算模块、不确定行为语义词条库构建模块、推文词条提取模块、推文词条表达活动概率值及相似性概率获取模块和行为相似社交群体发现模块,其中:
社交网推文采集模块:用于采集社交网站的推文数据集,包括发布内容、发布位置、用户ID、用户名和文本发布时间,并经过数据清洗操作后进行存储;
多尺度空间下推文物理位置聚类模块:用于将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;
推文物理位置相似度矩阵计算模块:用于对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取,即获得推文轨迹物理位置相似度;
不确定行为语义词条库构建模块:用于构建社交网用户行为活动词条库,并抽取出每类活动包含的词条,通过重要性权重分布曲线,确定活动相关词条的判断阈值和活动半相关词条的判断阈值;将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条活动库;
推文词条提取模块:用于对所有用户发布的推文文本进行词条提取;
推文词条表达活动概率值及相似性概率获取模块:用于针对同层每一个最大位置轨迹匹配,合并同一用户不同物理位置簇的推文,生成推文语义词条集合,获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值,再根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值;
行为相似社交群体发现模块:用于根据推文轨迹物理位置相似度和活动相似性概率获得轨迹行为相似度,通过构建连通图的方式获得推文相似行为群体。
2.采用权利要求1所述的多尺度空间下不确定行为语义的社交群体发现系统进行的发现方法,其特征在于,包括以下步骤:
步骤1、在样本采集范围内采用社交网推文采集模块获取社交网站的推文数据集;
所述的推文数据集包括按照推文时间排序的推文物理位置和推文文本词条;
步骤2、采用计算机中的多尺度空间下推文物理位置聚类模块,将每个用户推文形成的时空轨迹,按照基于密度的聚类方式在不同地理空间尺度下进行浓密区聚类,以生成用户多层次推文物理位置聚类簇序列;
步骤3、采用多层次推文物理位置相似度矩阵计算模块,对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取;
步骤4、采用计算机中的不确定行为语义词条库构建模块,构建不确定词条行为活动库,具体步骤如下:
步骤4-1、划分活动类别,并提取各类活动包含词条;
步骤4-2、赋予各种不确定词条表达活动的概率值,具体步骤如下:
步骤4-2-1、统计词条的词频和词条的逆向文本频率,根据词条的词频和词条的逆向文本频率获得词条的重要性权重;
步骤4-2-2、通过重要性权重分布曲线,确定活动相关词条的判断阈值和活动半相关词条的判断阈值;
步骤4-2-3、将词条权重概率值大小与阈值进行比较,将词条分为活动相关词条、活动半相关词条和活动不相关词条三类,并赋予词条表达活动的概率值,获得不确定词条行为活动库;
步骤5、采用推文词条提取模块对所有用户发布的推文文本进行词条提取;
步骤6、采用推文词条表达活动概率值及相似性概率获取模块,获得一对用户间推文语义行为相似度的概率值,具体步骤如下:
步骤6-1、针对同层每一个最大位置轨迹匹配,合并同一用户不同物理位置簇的推文,生成推文语义词条集合;
步骤6-2、获得一对用户间推文语义活动的所有组合情况及各组合的概率值,进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值;
步骤6-3、根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值;
步骤7、采用行为相似社交群体发现模块,根据推文轨迹物理位置相似度和活动相似性概率获得轨迹行为相似度,通过构建连通图的方式获得推文相似行为群体。
3.根据权利要求2所述的发现方法,其特征在于,步骤1所述的在样本采集范围内采用社交网推文采集模块获取社交网站的推文数据集,需要对所采集的数据经过数据清洗操作后进行存储。
4.根据权利要求2所述的发现方法,其特征在于,步骤2所述的生成用户多层次推文物理位置聚类簇序列,具体包括如下步骤:
步骤2-1、确定多种聚类空间度量粒度,即确定多尺度空间的距离尺度;
步骤2-2、采用聚类算法对处于每种粒度下的推文物理位置进行聚类;
步骤2-3、按推文发送时间先后顺序生成对应每个用户的推文位置聚类簇序列。
5.根据权利要求2所述的发现方法,其特征在于,步骤3所述的对聚类所得的任意一对用户间的各层推文轨迹簇序列进行物理位置的综合性相似度获取,具体步骤如下:
步骤3-1、获得同层节点下一对用户相似推文物理位置的相似度;
同层节点下一对用户相似推文物理位置的相似度计算公式如下:
其中,表示用户ui在第l层的物理位置轨迹簇序列;表示用户uj在第l层的物理位置轨迹簇序列;r表示物理位置轨迹;l表示第l层物理位置轨迹簇聚类;|q|表示最大匹配的个数;nC(TLCSq)表示第l层第q个最大推文轨迹簇公共子序列所包含的聚类簇个数,1≤q≤|q|;M表示同一聚类尺度下用户轨迹聚类簇总数;Nu表示推文数据集中的总用户数,u表示用户;nu(Cf)表示访问第l层第q个最大推文轨迹簇公共子序列第f个公共位置簇Cf的用户数,1≤f≤nC(TLCSq);表示ui在l层上的推文轨迹簇序列所包含的位置聚类簇个数;表示uj在l层上的推文轨迹簇序列所包含的位置聚类簇个数;
步骤3-2、综合获得各层节点下一对用户推文物理位置的相似度;
计算公式如下:
其中,表示用户ui和uj位置轨迹相似度;表示用户ui的位置轨迹;表示用户uj的位置轨迹;wl表示不同粒度划分层对物理位置相似度的影响权重,wl=2l-1,1≤l≤|l|,|l|表示不同粒度划分层的个数;
步骤3-3、重复步骤3-1至步骤3-2,获得所有用户对的多层次相似推文物理位置的相似度,并生成用户对多层次推文物理位置相似度下三角矩阵。
6.根据权利要求2所述的发现方法,其特征在于,步骤6-2所述的进而获得一对用户间推文语义活动的同层概率值,即获得一对用户间同层推文语义行为相似度的概率值,具体公式如下:
其中,表示用户ui和uj在第l层物理位置轨迹聚类簇序列上的推文行为语义相似度,表示ui和uj间满足第q个最大匹配的相似活动的概率值,|q|表示最大匹配的个数。
7.根据权利要求2所述的发现方法,其特征在于,步骤6-3所述的根据不同粒度划分层对语义相似度的权重,获得一对用户间推文语义活动的多层概率值,即获得一对用户间多层推文语义行为相似度的概率值,具体公式如下:
其中,表示用户ui和uj的推文行为语义相似度;表示用户ui的位置轨迹所对应的推文轨迹;表示用户uj的位置轨迹所对应的推文轨迹;表示第l层语义相似度权重;d表示推文轨迹;|l|表示不同粒度划分层的个数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610038214.7A CN105719191B (zh) | 2016-01-20 | 2016-01-20 | 多尺度空间下不确定行为语义的社交群体发现方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610038214.7A CN105719191B (zh) | 2016-01-20 | 2016-01-20 | 多尺度空间下不确定行为语义的社交群体发现方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105719191A true CN105719191A (zh) | 2016-06-29 |
CN105719191B CN105719191B (zh) | 2019-10-11 |
Family
ID=56147753
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610038214.7A Active CN105719191B (zh) | 2016-01-20 | 2016-01-20 | 多尺度空间下不确定行为语义的社交群体发现方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105719191B (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106649650A (zh) * | 2016-12-10 | 2017-05-10 | 宁波思库网络科技有限公司 | 一种需求信息双向匹配方法 |
CN106685731A (zh) * | 2017-01-22 | 2017-05-17 | 苏州大学 | 一种实时故障的诊断方法及系统 |
CN106952167A (zh) * | 2017-03-06 | 2017-07-14 | 浙江工业大学 | 一种基于多元线性回归的餐饮业好友连边影响力预测方法 |
CN107545036A (zh) * | 2017-07-28 | 2018-01-05 | 深圳前海微众银行股份有限公司 | 客服机器人知识库建设方法、客服机器人及可读存储介质 |
CN108494849A (zh) * | 2018-03-20 | 2018-09-04 | 石家庄正和网络有限公司 | 一种回收网站精准推送方法及系统 |
CN109063034A (zh) * | 2018-07-16 | 2018-12-21 | 浙江大学 | 基于空间和社交多媒体数据的室内空间语义价值计算方法 |
CN109872242A (zh) * | 2019-01-30 | 2019-06-11 | 北京字节跳动网络技术有限公司 | 信息推送方法和装置 |
CN110019677A (zh) * | 2017-11-30 | 2019-07-16 | 南京大学 | 基于聚类分析的微博广告发布者识别方法及装置 |
CN110519702A (zh) * | 2019-08-19 | 2019-11-29 | 福州林景行信息技术有限公司 | 一种基于群体社交的文化旅游出行轨迹生成及服务系统及其工作方法 |
CN110598769A (zh) * | 2019-08-30 | 2019-12-20 | 京东数字科技控股有限公司 | 用户群体发现方法、装置、设备及计算机可读存储介质 |
CN112465070A (zh) * | 2020-12-16 | 2021-03-09 | 电子科技大学 | 一种基于语义相似度的轨迹聚类方法 |
CN114091630A (zh) * | 2022-01-24 | 2022-02-25 | 阿里巴巴达摩院(杭州)科技有限公司 | 获取目标对象移动轨迹信息的方法、装置及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101408901A (zh) * | 2008-11-26 | 2009-04-15 | 东北大学 | 一种基于主题词条的跨类型数据的概率聚类方法 |
CN102880719A (zh) * | 2012-10-16 | 2013-01-16 | 四川大学 | 基于位置社交网络的用户轨迹相似性挖掘方法 |
CN103593361A (zh) * | 2012-08-14 | 2014-02-19 | 中国科学院沈阳自动化研究所 | 感应网络环境下移动时空轨迹分析方法 |
CN103973724A (zh) * | 2013-01-25 | 2014-08-06 | 索尼公司 | 社交网络的组网方法和装置 |
CN104462592A (zh) * | 2014-12-29 | 2015-03-25 | 东北大学 | 基于不确定语义的社交网用户行为关系推演系统及方法 |
-
2016
- 2016-01-20 CN CN201610038214.7A patent/CN105719191B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101408901A (zh) * | 2008-11-26 | 2009-04-15 | 东北大学 | 一种基于主题词条的跨类型数据的概率聚类方法 |
CN103593361A (zh) * | 2012-08-14 | 2014-02-19 | 中国科学院沈阳自动化研究所 | 感应网络环境下移动时空轨迹分析方法 |
CN102880719A (zh) * | 2012-10-16 | 2013-01-16 | 四川大学 | 基于位置社交网络的用户轨迹相似性挖掘方法 |
CN103973724A (zh) * | 2013-01-25 | 2014-08-06 | 索尼公司 | 社交网络的组网方法和装置 |
CN104462592A (zh) * | 2014-12-29 | 2015-03-25 | 东北大学 | 基于不确定语义的社交网用户行为关系推演系统及方法 |
Non-Patent Citations (2)
Title |
---|
于亚新 等: "社交网用户行为关系推演模型", 《计算机科学与探索》 * |
苏东海 等: "基于加权向量提升的多尺度聚类挖掘算法", 《计算机科学》 * |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106649650A (zh) * | 2016-12-10 | 2017-05-10 | 宁波思库网络科技有限公司 | 一种需求信息双向匹配方法 |
CN106649650B (zh) * | 2016-12-10 | 2020-08-18 | 宁波财经学院 | 一种需求信息双向匹配方法 |
CN106685731A (zh) * | 2017-01-22 | 2017-05-17 | 苏州大学 | 一种实时故障的诊断方法及系统 |
CN106952167B (zh) * | 2017-03-06 | 2021-04-06 | 浙江工业大学 | 一种基于多元线性回归的餐饮业好友连边影响力预测方法 |
CN106952167A (zh) * | 2017-03-06 | 2017-07-14 | 浙江工业大学 | 一种基于多元线性回归的餐饮业好友连边影响力预测方法 |
CN107545036A (zh) * | 2017-07-28 | 2018-01-05 | 深圳前海微众银行股份有限公司 | 客服机器人知识库建设方法、客服机器人及可读存储介质 |
CN110019677A (zh) * | 2017-11-30 | 2019-07-16 | 南京大学 | 基于聚类分析的微博广告发布者识别方法及装置 |
CN108494849A (zh) * | 2018-03-20 | 2018-09-04 | 石家庄正和网络有限公司 | 一种回收网站精准推送方法及系统 |
CN109063034A (zh) * | 2018-07-16 | 2018-12-21 | 浙江大学 | 基于空间和社交多媒体数据的室内空间语义价值计算方法 |
CN109063034B (zh) * | 2018-07-16 | 2022-01-04 | 浙江大学 | 基于空间和社交多媒体数据的室内空间语义价值计算方法 |
CN109872242A (zh) * | 2019-01-30 | 2019-06-11 | 北京字节跳动网络技术有限公司 | 信息推送方法和装置 |
CN109872242B (zh) * | 2019-01-30 | 2020-10-13 | 北京字节跳动网络技术有限公司 | 信息推送方法和装置 |
CN110519702A (zh) * | 2019-08-19 | 2019-11-29 | 福州林景行信息技术有限公司 | 一种基于群体社交的文化旅游出行轨迹生成及服务系统及其工作方法 |
CN110519702B (zh) * | 2019-08-19 | 2021-03-30 | 福州林景行信息技术有限公司 | 一种基于群体社交的文化旅游出行轨迹生成及服务系统及其工作方法 |
CN110598769A (zh) * | 2019-08-30 | 2019-12-20 | 京东数字科技控股有限公司 | 用户群体发现方法、装置、设备及计算机可读存储介质 |
CN110598769B (zh) * | 2019-08-30 | 2022-06-07 | 京东科技控股股份有限公司 | 用户群体发现方法、装置、设备及计算机可读存储介质 |
CN112465070A (zh) * | 2020-12-16 | 2021-03-09 | 电子科技大学 | 一种基于语义相似度的轨迹聚类方法 |
CN114091630A (zh) * | 2022-01-24 | 2022-02-25 | 阿里巴巴达摩院(杭州)科技有限公司 | 获取目标对象移动轨迹信息的方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN105719191B (zh) | 2019-10-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105719191A (zh) | 多尺度空间下不确定行为语义的社交群体发现系统及方法 | |
Yin et al. | Adapting to user interest drift for poi recommendation | |
Yin et al. | Joint modeling of user check-in behaviors for point-of-interest recommendation | |
CN104462592B (zh) | 基于不确定语义的社交网用户行为关系推演系统及方法 | |
Lu et al. | Personalized trip recommendation with multiple constraints by mining user check-in behaviors | |
Yin et al. | Joint modeling of user check-in behaviors for real-time point-of-interest recommendation | |
Jiang et al. | Author topic model-based collaborative filtering for personalized POI recommendations | |
Zheng et al. | GeoLife: A collaborative social networking service among user, location and trajectory. | |
Xiao et al. | Finding similar users using category-based location history | |
Zheng et al. | Mining interesting locations and travel sequences from GPS trajectories | |
Ryoo et al. | Inferring twitter user locations with 10 km accuracy | |
Yu et al. | Geo-friends recommendation in gps-based cyber-physical social network | |
Li et al. | Mining user similarity based on location history | |
Lian et al. | Learning location naming from user check-in histories | |
Lee et al. | When twitter meets foursquare: tweet location prediction using foursquare | |
Chen et al. | Effective and efficient user account linkage across location based social networks | |
Li et al. | Location inference for non-geotagged tweets in user timelines | |
Yao et al. | A spatial co-location mining algorithm that includes adaptive proximity improvements and distant instance references | |
CN105389505A (zh) | 基于栈式稀疏自编码器的托攻击检测方法 | |
Deng et al. | A density-based approach for detecting network-constrained clusters in spatial point events | |
CN105678590A (zh) | 一种面向社交网络基于云模型的topN推荐方法 | |
Lee et al. | Spatio-temporal provenance: Identifying location information from unstructured text | |
Zhang et al. | Detecting colocation flow patterns in the geographical interaction data | |
Majid et al. | GoThere: travel suggestions using geotagged photos | |
Honarparvar et al. | Improvement of a location-aware recommender system using volunteered geographic information |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |