CN104035972B - 一种基于微博的知识推荐方法与系统 - Google Patents
一种基于微博的知识推荐方法与系统 Download PDFInfo
- Publication number
- CN104035972B CN104035972B CN201410216252.8A CN201410216252A CN104035972B CN 104035972 B CN104035972 B CN 104035972B CN 201410216252 A CN201410216252 A CN 201410216252A CN 104035972 B CN104035972 B CN 104035972B
- Authority
- CN
- China
- Prior art keywords
- knowledge
- user
- entry
- microblogging
- microblog
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
- H04L51/52—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail for supporting social networking services
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种基于微博的知识推荐方法及系统,该知识推荐方法包括如下步骤:用户建模、定时批量采集用户关注好友发布的微博、知识条目发现、知识条目扩展、知识推荐。本发明的有益效果是本发明提出一种基于微博的知识推荐方法与系统,从用户关注好友所发布的微博数据中自动发现各类知识条目,对知识条目形成扩展解释,在用户阅读微博时,向用户推荐所发现知识条目中对其有价值或其感兴趣的知识条目及相关扩展解释,提供主动的、个性化的知识服务,既能免去了用户的知识检索过程又能避免有价值信息被淹没。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种基于微博的知识推荐方法与系统。
背景技术
微博是一个基于用户关系的信息分享、传播以及获取平台。如今在中国,微博用户已超过3亿,微博日益成为人们获取信息的主要方式。由于微博发布、传播信息的速度很快,微博用户每天面对海量的微博信息。海量微博信息中会涉及到大量的各行业专业技术名称、各学科专业术语、组织机构、人物、地名等知识条目。
用户在阅读微博时,如遇到超出自身知识范围的知识条目,通常会利用搜索引擎或者检索百科知识库来获取相关知识信息。现有的通用搜索引擎基于关键词检索,在海量网页信息中检索时,检索结果大都是包含该关键词的网页,很难形成一个系统的、全面的、关于该条目的详细介绍,从而也很难满足用户的知识需求。百科知识库的构建依赖于广大志愿者来人工完成,通常知识条目更新不及时或者知识描述不够完整,当用户检索的词条未被收录时,用户就获取不到相关知识描述。
此外,微博上的海量信息让人们享受信息时代快感的同时,也带来了另一问题,即让用户面对大量无用信息。虽然微博用户可以根据自己的兴趣和偏好选择关注自己感兴趣的博主,在一定程度上过滤掉其不感兴趣的大量信息。但是用户所关注的好友也常会发布一些类似生活化直播的无价值的琐碎信息,或者用户不感兴趣的信息。这些信息可能会将对用户有价值或用户感兴趣的专业知识条目淹没。如何从微博用户所面临的海量微博数据中,自动抽取各类知识条目,对知识条目形成扩展解释,在用户阅读微博时向用户推荐对其有价值或其感兴趣的知识条目及相关扩展解释,提供主动的、个性化的知识服务,如何能免去用户的知识检索过程又能避免有价值信息被淹没是一个极待解决的问题。
发明内容
为了解决现有技术中的问题,本发明提供了一种基于微博的知识推荐方法。
本发明提供了一种基于微博的知识推荐方法,包括如下步骤:
用户建模:分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点;
定时批量采集用户关注好友发布的微博:使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博;
知识条目发现:从用户关注好友发布的微博中识别出各类知识条目;
知识条目扩展:利用百科知识库获取与该知识条目对应的百科词条,利用搜索引擎获取与该知识条目相关的网页,并抽取对该条目的扩展解释;
知识推荐:根据用户的知识背景及知识兴趣点向用户推荐其感兴趣的知识条目及相关扩展解释。
作为本发明的进一步改进,在所述用户建模步骤中,包括如下步骤:
用户知识背景建模:通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模;
用户知识兴趣建模:通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在;
在所述知识条目发现步骤中,包括如下步骤:
微博数据预处理:去除当前采集周期内所采集到的微博内容数据中的噪声;
获取知识条目发现模型的训练语料:根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
发现知识条目:将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。
作为本发明的进一步改进,在用户知识背景建模步骤中,包括如下步骤:
获取用户本人发布的历史微博数据:利用微博爬虫爬取用户历史上所发布的微博;
获取用户关注好友所发布的历史微博数据:利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据;
获取用户知识背景:分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度;
在用户知识兴趣建模步骤中,包括如下步骤:
获取微博平台中用户社会关系网络:获取用户所关注的好友以及用户好友间的关注关系;
获取用户知识兴趣:分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
作为本发明的进一步改进,在所述知识条目扩展步骤中,包括如下步骤:
获取知识条目相应的候选词条:从百科知识库中获取可能与知识条目相对应的所有候选词条;
知识条目消歧义:在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条;
搜索引擎扩展知识条目:将待扩展的知识条目作为查询,自动获取到搜索引擎的检索结果;
检索结果相关度计算:综合搜索引擎的检索结果,得到与该知识条目较相关的检索结果;
扩展知识条目:将百科知识库中与该知识条目对应的词条,以及检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释;
更新知识库:将知识条目及其相应扩展解释添加所构建的知识库中。
作为本发明的进一步改进,在所述知识推荐步骤中,包括如下步骤:
确定待推荐候选知识条目:记录用户上一次登录微博系统到当前登录微博系统的这一时间段,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
确定待推荐知识条目:对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
获取知识条目相关微博:获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
推荐扩展知识:将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
本发明还提供了一种基于微博的知识推荐系统,包括:
用户建模单元:用于分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点;
定时批量采集单元:用于使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博;
知识条目发现单元:用于从用户关注好友发布的微博中识别出各类知识条目;
知识条目扩展单元:用于利用百科知识库获取与该知识条目对应的百科词条,利用搜索引擎获取与该知识条目相关的网页,并抽取对该条目的扩展解释;
知识推荐单元:用于根据用户的知识背景及知识兴趣点向用户推荐其感兴趣的知识条目及相关扩展解释。
作为本发明的进一步改进,在所述用户建模单元中,包括:
用户知识背景建模单元:用于通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模;
用户知识兴趣建模单元:用于通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在;
在所述知识条目发现单元中,包括:
微博数据预处理单元:用于去除当前采集周期内所采集到的微博内容数据中的噪声;
获取知识条目发现模型的训练语料单元:用于根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
发现知识条目单元:用于将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。
作为本发明的进一步改进,在用户知识背景建模单元中,包括:
获取用户本人发布的历史微博数据单元:用于利用微博爬虫爬取用户历史上所发布的微博;
获取用户关注好友所发布的历史微博数据单元:用于利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据;
获取用户知识背景单元:用于分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度;
在用户知识兴趣建模单元中,包括:
获取微博平台中用户社会关系网络单元:用于获取用户所关注的好友以及用户好友间的关注关系;
获取用户知识兴趣单元:用于分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
作为本发明的进一步改进,在所述知识条目扩展单元中,包括:
获取知识条目相应的候选词条单元:用于从百科知识库中获取可能与知识条目相对应的所有候选词条;
知识条目消歧义单元:用于在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条;
搜索引擎扩展知识条目单元:用于将待扩展的知识条目作为查询,自动获取到搜索引擎的检索结果;
检索结果相关度计算单元:用于综合搜索引擎的检索结果,得到与该知识条目较相关的检索结果;
扩展知识条目单元:用于将百科知识库中与该知识条目对应的词条,以及检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释;
更新知识库单元:用于将知识条目及其相应扩展解释添加所构建的知识库中。
作为本发明的进一步改进,在所述知识推荐单元中,包括:
确定待推荐候选知识条目单元:用于记录用户上一次登录微博系统到当前登录微博系统的这一时间段,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
确定待推荐知识条目单元:用于对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
获取知识条目相关微博单元:用于获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
推荐扩展知识单元:用于将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
本发明的有益效果是:本发明提出一种基于微博的知识推荐方法与系统,从用户关注好友所发布的微博数据中自动发现各类知识条目,对知识条目形成扩展解释,在用户阅读微博时,向用户推荐所发现知识条目中对其有价值或其感兴趣的知识条目及相关扩展解释,提供主动的、个性化的知识服务,既能免去了用户的知识检索过程又能避免有价值信息被淹没。
附图说明
图1是本发明的方法流程图。
图2是本发明的用户建模流程图。
图3是本发明的用户知识背景建模流程图。
图4是本发明的用户知识兴趣建模流程图。
图5是本发明的知识条目发现流程图。
图6是本发明的CRFs用于知识条目发现流程图。
图7是发明的知识条目扩展流程图。
图8是发明的知识推荐流程图。
图9是本发明的知识条目消歧方法流程图。
具体实施方式
如图1所示,本发明公开了一种基于微博的知识推荐方法,包括如下步骤:
步骤100:用户建模,即:分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点。如图2所示,在用户建模步骤中,包括如下步骤:
步骤110:用户知识背景建模,即:通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模。如图3所示,在用户知识背景建模中,包括如下步骤:
步骤111:获取用户本人发布的历史微博数据,即利用微博爬虫爬取用户历史上所发布的微博。
步骤112:获取用户关注好友所发布的历史微博数据:利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据。
步骤113:获取用户知识背景:分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度。
步骤120:用户知识兴趣建模,即:通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在。如图4所示,用户知识兴趣建模包括如下步骤:
步骤121:获取微博平台中用户社会关系网络,即:获取用户所关注的好友以及用户各好友间的关注关系。
步骤122:获取用户知识兴趣,即:分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
步骤200:定时批量采集用户关注好友发布的微博,即:使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博。
步骤300:知识条目发现,即:从用户关注好友发布的微博中识别出各类知识条目。如图5所示,知识条目发现包括如下步骤:
步骤310:微博数据预处理,即:去除当前采集周期内所采集到的微博内容数据中的噪声。根据微博数据的特点,下述三种情况也予以特殊处理:
(1)标记@用户和url
微博中的@用户名,表示某个用户的链接,用户名既可以是真实人名也可以是非人名,对于知识条目抽取抽取没有实际意义,因此我们把它统一标记为用户名,同样,把微博中的链接标记为url。
(2)过短的微博:
如长度小于5个字符的微博,由于过短,不包含命名实体,我们将这些微博也去除。
(3)特殊表达形式处理
微博中两个#号之间的内容表示主题,应作为一个整体。“[]”及其中的内容则常表示为表情(如:[哈哈][得意地笑][嘻嘻]等),应当去掉。
经过上述的预处理,能得到较纯净的微博内容文本。
步骤320:获取知识条目发现模型的训练语料,即:根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
步骤330:发现知识条目,即:将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。知识条目发现可以采用条件随机场(CRFs)模型。CRFs模型用于知识条目发现如图6所示。
步骤400:知识条目扩展,即:利用百科知识库获取与该知识条目对应的词条,并利用搜索引擎中获取与该知识条目相关的网页中对该条目的扩展解释。如图7所示,知识条目扩展包括如下步骤:
步骤410:获取知识条目相应的候选词条,即:从维基百科、百度百科等百科知识库中获取可能与知识条目相对应的所有候选词条。
候选词条的获取可以充分利用维基百科所展现的显式和隐式的信息。维基百科所包含的广大互联网用户贡献的重定向页面,消歧页面以及锚文本的超链接关系都是获得候选词条的重要手段。以下是几种候选实体的发现方法:
(1)维基百科重定向页
每一个维基条目都是有明确含义的词语,对于有相同含义的条目,维基百科不会为其建立多个页面,而是添加一个重定向链接,将同义词指向同一个页面。比如:在维基百科中查找SVM这个条目,维基给出的结果是支持向量机,并显示该页面重定向自SVM。而这两个词是完全等价的,是同义词。
(2)维基百科消歧页
维基百科有专门为有歧义的多义词创建的页面,即为消歧页面。页面中的词条均可以看做标题中词条的候选。
(3)维基百科正文加粗内容
维基百科正文的第一段,一般会有很多的加粗字体。该加粗字体均为相应等价称呼:简称、别称、统称等等。比如“北京市,简称京,旧称燕京、幽州、北平”。从此可以得知,{北京市,京,燕京,幽州,北平}都是指的同一概念,任一词条均为其他词条的候选。
(4)锚文本的超链接关系
维基百科词条的贡献者在编辑知识条目的时候,若在文中出现的该词是维基百科的一个条目,则需要在文中的这个词加上超链接,指向该词对应的实际维基页面,这些信息称为维基百科的锚文本。在维基百科的知识条目页面的正文中,有许多的锚文本信息,可以充分该信息获取可能的候选结果。
步骤420:知识条目消歧义,即:在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条。
在微博中,由于知识条目所在的上下文文本长度较短、信息含量少,所以给消歧算法带来了很大的难度。因此,对知识条目的上下文进行语义拓展是进行消歧任务的关键。将待消歧实体以及其前后各10个字符作为关键词输入元搜索程序(包含Google、百度、Bing等搜索引擎),将三个搜索引擎的第一页搜索结果返回,此时,微博得以扩充。对知识条目所在上下文扩充后,知识条目消歧方法如下。该系统具体实施例中采用但不限于如下的消歧方法。
如图9所示为知识条目消歧方法流程图,每个待消歧实体e对应N(N>=0)个候选词条,而每个候选词条又有M(M>=1)个信息来源。如实体“奥斯卡”的候选项“奥斯卡金奖”,可能的来源有:维基百科,其权重为1.0;Google搜索结果,其权重为0.9,则以1.0作为“奥斯卡金奖”的最终权重。候选词条的每一个来源均有其对应的权重,选择权重最大的一个作为该候选词条的最终权重。待消歧实体e与第i个候选词条的相似度为Simi。
每个候选词条与待消歧实体e都会计算得到一个相似度,其中相似度最大值为Max。如果Max的取值大于特定阈值t,则Max所对应的词条作为待消歧实体e对应的词条,否则认为e没有对应的词条存在。
步骤430:搜索引擎扩展知识条目,即:将待扩展的知识条目作为query(查询),自动获取到百度及Google的检索结果;
步骤440:检索结果相关度计算,即:综合百度与Google的检索结果,得到与该知识条目较相关的检索结果。将检索所得网页与知识条目所在微博计算相似度。常用的文本相似度计算方法都可以在此使用。
步骤450:扩展知识条目,即:将百科知识库中与该知识条目对应的词条,以及百度、Google检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释。
步骤460:更新知识库,即:将知识条目及其相应扩展解释添加所构建的知识库中。
步骤500:知识推荐,即:根据用户的知识背景及知识兴趣点向用户推荐对其有价值或者其感兴趣的知识条目及相关扩展解释。如图8所示,知识推荐包括如下步骤:
步骤510:确定待推荐候选知识条目,即:记录用户上一次登录微博系统到当前登录微博系统的这一时间段,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
步骤520:确定待推荐知识条目,即:对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
步骤530:获取知识条目相关微博,即:获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
步骤540:推荐扩展知识,即:将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
本发明还公开了一种基于微博的知识推荐系统,包括:
用户建模单元:用于分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点;
定时批量采集单元:用于使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博;
知识条目发现单元:用于从用户关注好友发布的微博中识别出各类知识条目;
知识条目扩展单元:用于利用百科知识库获取与该知识条目对应的百科词条,利用搜索引擎获取与该知识条目相关的网页,并抽取对该条目的扩展解释;
知识推荐单元:用于根据用户的知识背景及知识兴趣点向用户推荐其感兴趣的知识条目及相关扩展解释。
在所述用户建模单元中,包括:
用户知识背景建模单元:用于通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模;
用户知识兴趣建模单元:用于通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在;
在所述知识条目发现单元中,包括:
微博数据预处理单元:用于去除当前采集周期内所采集到的微博内容数据中的噪声;
获取知识条目发现模型的训练语料单元:用于根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
发现知识条目单元:用于将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。
在用户知识背景建模单元中,包括:
获取用户本人发布的历史微博数据单元:用于利用微博爬虫爬取用户历史上所发布的微博;
获取用户关注好友所发布的历史微博数据单元:用于利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据;
获取用户知识背景单元:用于分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度;
在用户知识兴趣建模单元中,包括:
获取微博平台中用户社会关系网络单元:用于获取用户所关注的好友以及用户好友间的关注关系;
获取用户知识兴趣单元:用于分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
在所述知识条目扩展单元中,包括:
获取知识条目相应的候选词条单元:用于从百科知识库中获取可能与知识条目相对应的所有候选词条;
知识条目消歧义单元:用于在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条;
搜索引擎扩展知识条目单元:用于将待扩展的知识条目作为query(查询),自动获取到搜索引擎的检索结果;
检索结果相关度计算单元:用于综合搜索引擎的检索结果,得到与该知识条目较相关的检索结果;
扩展知识条目单元:用于将百科知识库中与该知识条目对应的词条,以及检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释;
更新知识库单元:用于将知识条目及其相应扩展解释添加所构建的知识库中。
在所述知识推荐单元中,包括:
确定待推荐候选知识条目单元:用于记录用户上一次登录微博系统到当前登录微博系统的这一时间段,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
确定待推荐知识条目单元:用于对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
获取知识条目相关微博单元:用于获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
推荐扩展知识单元:用于将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
本发明提出一种基于微博的知识推荐方法与系统,从用户关注好友所发布的微博数据中自动发现各类知识条目,对知识条目形成扩展解释,在用户阅读微博时,向用户推荐所发现知识条目中对其有价值或其感兴趣的知识条目及相关扩展解释,提供主动的、个性化的知识服务,既能免去了用户的知识检索过程又能避免有价值信息被淹没。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (8)
1.一种基于微博的知识推荐方法,其特征在于,包括如下步骤:
用户建模:分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点;
定时批量采集用户关注好友发布的微博:使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博;
知识条目发现:从用户关注好友发布的微博中识别出各类知识条目;
知识条目扩展:利用百科知识库获取与该知识条目对应的百科词条,利用搜索引擎获取与该知识条目相关的网页,并抽取对该条目的扩展解释;
知识推荐:根据用户的知识背景及知识兴趣点向用户推荐其感兴趣的知识条目及相关扩展解释;
在所述用户建模步骤中,包括如下步骤:
用户知识背景建模:通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模;
用户知识兴趣建模:通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在;
在所述知识条目发现步骤中,包括如下步骤:
微博数据预处理:去除当前采集周期内所采集到的微博内容数据中的噪声;
获取知识条目发现模型的训练语料:根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
发现知识条目:将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。
2.根据权利要求1所述的知识推荐方法,其特征在于,在用户知识背景建模步骤中,包括如下步骤:
获取用户本人发布的历史微博数据:利用微博爬虫爬取用户历史上所发布的微博;
获取用户关注好友所发布的历史微博数据:利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据;
获取用户知识背景:分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度;
在用户知识兴趣建模步骤中,包括如下步骤:
获取微博平台中用户社会关系网络:获取用户所关注的好友以及用户好友间的关注关系;
获取用户知识兴趣:分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
3.根据权利要求1所述的知识推荐方法,其特征在于,在所述知识条目扩展步骤中,包括如下步骤:
获取知识条目相应的候选词条:从百科知识库中获取可能与知识条目相对应的所有候选词条;
知识条目消歧义:在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条;
搜索引擎扩展知识条目:将待扩展的知识条目作为查询,自动获取到搜索引擎的检索结果;
检索结果相关度计算:综合搜索引擎的检索结果,得到与该知识条目较相关的检索结果;
扩展知识条目:将百科知识库中与该知识条目对应的词条,以及检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释;
更新知识库:将知识条目及其相应扩展解释添加所构建的知识库中。
4.根据权利要求1所述的知识推荐方法,其特征在于,在所述知识推荐步骤中,包括如下步骤:
确定待推荐候选知识条目:记录用户上一次登录微博系统和当前登录微博系统的时间,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
确定待推荐知识条目:对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
获取知识条目相关微博:获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
推荐扩展知识:将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
5.一种基于微博的知识推荐系统,其特征在于,包括:
用户建模单元:用于分析用户本人所发布的微博以及该用户在微博平台中的社会关系网络,得到用户的知识背景及用户知识兴趣点;
定时批量采集单元:用于使用微博爬虫,针对每个用户,定时批量采集用户关注的所有好友在一个采集周期内发布的微博;
知识条目发现单元:用于从用户关注好友发布的微博中识别出各类知识条目;
知识条目扩展单元:用于利用百科知识库获取与该知识条目对应的百科词条,利用搜索引擎获取与该知识条目相关的网页,并抽取对该条目的扩展解释;
知识推荐单元:用于根据用户的知识背景及知识兴趣点向用户推荐其感兴趣的知识条目及相关扩展解释;
在所述用户建模单元中,包括:
用户知识背景建模单元:用于通过分析用户本人所发布的历史微博数据,及其好友所发布的历史微博数据,对用户的知识背景建模;
用户知识兴趣建模单元:用于通过分析用户在微博平台中的社会关系网络,分析用户的知识兴趣点所在;
在所述知识条目发现单元中,包括:
微博数据预处理单元:用于去除当前采集周期内所采集到的微博内容数据中的噪声;
获取知识条目发现模型的训练语料单元:用于根据预先确定的待发现知识条目类别人工标注训练语料,或者根据特定类别的种子知识条目从海量微博数据中自动获取训练语料;
发现知识条目单元:用于将训练得到的知识条目发现模型应用到当前采集周期所采集到的微博数据,发现知识条目。
6.根据权利要求5所述的知识推荐系统,其特征在于,在用户知识背景建模单元中,包括:
获取用户本人发布的历史微博数据单元:用于利用微博爬虫爬取用户历史上所发布的微博;
获取用户关注好友所发布的历史微博数据单元:用于利用微博爬虫爬取用户所关注的好友历史上所发布的微博数据;
获取用户知识背景单元:用于分析用户本人所发布的历史微博数据及用户关注好友发布的历史微博数据,得到用户对各类知识条目的了解程度;
在用户知识兴趣建模单元中,包括:
获取微博平台中用户社会关系网络单元:用于获取用户所关注的好友以及用户好友间的关注关系;
获取用户知识兴趣单元:用于分析用户关注好友的知识背景,通过用户关注好友的知识背景发现用户的知识兴趣点所在。
7.根据权利要求5所述的知识推荐系统,其特征在于,在所述知识条目扩展单元中,包括:
获取知识条目相应的候选词条单元:用于从百科知识库中获取可能与知识条目相对应的所有候选词条;
知识条目消歧义单元:用于在所有可能与知识条目相对应的候选词条中,找到真正与该知识条目相对应的词条,或者判断出候选词条中没有与其相对应的词条;
搜索引擎扩展知识条目单元:用于将待扩展的知识条目作为查询,自动获取到搜索引擎的检索结果;
检索结果相关度计算单元:用于综合搜索引擎的检索结果,得到与该知识条目较相关的检索结果;
扩展知识条目单元:用于将百科知识库中与该知识条目对应的词条,以及检索结果中与该知识条目较相关的检索结果汇总整合,作为该知识条目的扩展解释;
更新知识库单元:用于将知识条目及其相应扩展解释添加所构建的知识库中。
8.根据权利要求5所述的知识推荐系统,其特征在于,在所述知识推荐单元中,包括:
确定待推荐候选知识条目单元:用于记录用户上一次登录微博系统和当前登录微博系统的时间,在这一时间段内用户所关注的好友发布的微博中包含的知识条目被视为待推荐候选知识条目;
确定待推荐知识条目单元:用于对所有待推荐的候选知识条目,根据用户的知识背景以及用户的知识兴趣点计算该知识条目与用户相关度,根据相关度确定在用户当前登录时应推荐的知识条目;
获取知识条目相关微博单元:用于获取用户上一次登录微博系统到当前登录微博系统的这一时间段内,用户所关注的好友发布的微博中与待推荐知识条目相关的微博;
推荐扩展知识单元:用于将待推荐的知识条目、相应扩展解释及相关微博推荐给用户。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410216252.8A CN104035972B (zh) | 2014-05-21 | 2014-05-21 | 一种基于微博的知识推荐方法与系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410216252.8A CN104035972B (zh) | 2014-05-21 | 2014-05-21 | 一种基于微博的知识推荐方法与系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104035972A CN104035972A (zh) | 2014-09-10 |
CN104035972B true CN104035972B (zh) | 2017-06-06 |
Family
ID=51466742
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410216252.8A Active CN104035972B (zh) | 2014-05-21 | 2014-05-21 | 一种基于微博的知识推荐方法与系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104035972B (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104331449B (zh) * | 2014-10-29 | 2017-10-27 | 百度在线网络技术(北京)有限公司 | 查询语句与网页相似度的确定方法、装置、终端及服务器 |
CN104866614A (zh) * | 2015-06-05 | 2015-08-26 | 深圳市爱学堂教育科技有限公司 | 创建词条的方法及创建词条的装置 |
CN106899484B (zh) * | 2015-12-17 | 2020-07-07 | 腾讯科技(深圳)有限公司 | 事件推送方法及装置 |
CN105893515B (zh) * | 2016-03-30 | 2021-02-05 | 腾讯科技(深圳)有限公司 | 一种信息处理方法及服务器 |
CN106446146B (zh) * | 2016-09-21 | 2019-05-17 | 中国国防科技信息中心 | 一种微博中事件持续关注者的识别模型建立及识别方法 |
CN106446218A (zh) * | 2016-09-30 | 2017-02-22 | 北京奇虎科技有限公司 | 推荐数据的方法及装置 |
CN109146306B (zh) * | 2018-09-04 | 2021-07-23 | 浙江国脉数联网络有限公司 | 一种企业管理系统 |
CN109242431B (zh) * | 2018-09-04 | 2021-07-27 | 舟山网脉科技有限公司 | 一种基于数据体系的企业管理方法及其系统 |
CN111310066B (zh) * | 2020-02-27 | 2023-06-09 | 湖北工业大学 | 一种基于主题模型和关联规则算法的好友推荐方法及系统 |
CN113420215B (zh) * | 2021-06-23 | 2023-08-29 | 东北大学 | 一种面向兴趣点推荐的可解释生成方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102129454A (zh) * | 2011-03-08 | 2011-07-20 | 国网信息通信有限公司 | 一种基于云存储的百科数据处理方法及系统 |
CN103164428A (zh) * | 2011-12-13 | 2013-06-19 | 富士通株式会社 | 确定微博与给定实体的相关性的方法和装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8250124B2 (en) * | 2009-01-29 | 2012-08-21 | Hewlett-Packard Development Company, L.P. | Assigning content to an entry in directory |
US20100274887A1 (en) * | 2009-04-24 | 2010-10-28 | Yahoo! Inc. | System and Method for Recommending Personalized Identifiers |
-
2014
- 2014-05-21 CN CN201410216252.8A patent/CN104035972B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102129454A (zh) * | 2011-03-08 | 2011-07-20 | 国网信息通信有限公司 | 一种基于云存储的百科数据处理方法及系统 |
CN103164428A (zh) * | 2011-12-13 | 2013-06-19 | 富士通株式会社 | 确定微博与给定实体的相关性的方法和装置 |
Non-Patent Citations (2)
Title |
---|
Discovering Knowledge In Microblog Based On Naturally Annotated Web Resources;Shengyu Liu 等;《International Conference on Machine Learning & Cybernetics》;20131231;第1892-1897页 * |
微博信息采集及群体行为分析;高凯 等;《小型微型计算机系统》;20131031;第34卷(第10期);第2413-2416页 * |
Also Published As
Publication number | Publication date |
---|---|
CN104035972A (zh) | 2014-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104035972B (zh) | 一种基于微博的知识推荐方法与系统 | |
Chen et al. | Websrc: A dataset for web-based structural reading comprehension | |
CN108280114B (zh) | 一种基于深度学习的用户文献阅读兴趣分析方法 | |
JP4936401B2 (ja) | ナビゲーションパス情報に基づく主題関連ウェブページのフィルタリング方法およびシステム | |
KR102080362B1 (ko) | 쿼리 확장 | |
KR101060594B1 (ko) | 문서 데이터의 키워드 추출 및 연관어 네트워크 구성 장치 및 방법 | |
CN101320375B (zh) | 基于用户点击行为的数字图书搜索方法 | |
CN103136360B (zh) | 一种互联网行为标注引擎及对应该引擎的行为标注方法 | |
TWI695277B (zh) | 自動化網站資料蒐集方法 | |
CN105138558B (zh) | 基于用户访问内容的实时个性化信息采集方法 | |
WO2016000555A1 (zh) | 基于社交网络的内容、新闻推荐方法和系统 | |
US8825620B1 (en) | Behavioral word segmentation for use in processing search queries | |
CN105389329A (zh) | 一种基于群体评论的开源软件推荐方法 | |
CN105740448B (zh) | 面向话题的多微博时序文摘方法 | |
CN103116635A (zh) | 面向领域的暗网资源采集方法和系统 | |
JP5341847B2 (ja) | 検索クエリ推薦方法、検索クエリ推薦装置、検索クエリ推薦プログラム | |
Šimko et al. | Semantic history map: Graphs aiding web revisitation support | |
Mohammed et al. | Contextual information search based on ontological user profile | |
CN106919700B (zh) | 基于并行化cep处理的语义驱动犯罪线索实时推荐方法 | |
JP5292336B2 (ja) | 検索システムユーザの分野ごとにおける知識量推定装置、知識量推定方法および知識量推定プログラム | |
CN115098773A (zh) | 一种基于大数据的舆情监控与分析系统及方法 | |
Ojokoh et al. | Online question answering system | |
CN103995849B (zh) | 一种事件跟踪方法及系统 | |
KR20130142192A (ko) | 통신 네트워크를 통한 비디오 콘텐트 검색들을 위한 보조 | |
Lucchese et al. | Recommender Systems. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |