CN103136300A - 一种文本相关主题的推荐方法和装置 - Google Patents
一种文本相关主题的推荐方法和装置 Download PDFInfo
- Publication number
- CN103136300A CN103136300A CN2011104002483A CN201110400248A CN103136300A CN 103136300 A CN103136300 A CN 103136300A CN 2011104002483 A CN2011104002483 A CN 2011104002483A CN 201110400248 A CN201110400248 A CN 201110400248A CN 103136300 A CN103136300 A CN 103136300A
- Authority
- CN
- China
- Prior art keywords
- theme
- candidate
- word
- weight
- term
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
本发明提供了一种文本相关主题的推荐方法和装置,该方法包括:S 1、获取文本内容,对文本内容进行分词得到Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词;S2、利用所述中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合;S3、根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算各候选主题的综合权重;S4、将综合权重满足预设要求的候选主题作为推荐的相关主题。相较于现有技术,本发明能够实现对用户的扩展阅读需求进行推荐,使推荐结果更加准确、更接近用户的使用习惯,满足对相关主题延伸阅读需求。
Description
【技术领域】
本发明涉及互联网应用技术领域,特别涉及一种文本相关主题的推荐方法和装置。
【背景技术】
随着信息和网络技术的不断发展,网络互动问答平台,如百度知道、新浪爱问、谷歌问答、搜搜问问、雅虎知识堂等,为网民提供了一个可以进行互动交流的平台。用户可以通过知识搜索,查找在日常生活、学习或专业方面遇到的疑问的答案。用户还可以与其他有共同兴趣的人交流,问问题,找答案,互助交流,分享知识。
在问答平台中通常有延伸阅读的需求,通过分析发现,用户的延伸阅读可分为对比阅读需求和扩展阅读需求两种。其中,对比阅读需求是指对同一个问题表示的知识点的多种解答的比较,而扩展阅读需求则是指对与问题相关的知识面的获取需求,对有相关联的问题资源的阅读。
当前,大部分互动问答平台通过问题的“相关问题”展示在问答平台的问题页上,以问题标题进行检索得到的前N条结果,来满足用户的延伸阅读需求。这种通过检索得到的推荐结果形式只能满足用户的对比阅读需求,只能对于同一问题点进行推荐,并不能从相关主题面上进行推荐,对其扩展阅读需求则无法满足。
【发明内容】
本发明提供了一种文本相关主题的推荐方法和装置,实现对用户的扩展阅读需求进行推荐,使得推荐结果更加准确、更接近用户的使用习惯,满足对相关主题延伸阅读需求。
具体技术方案如下:
一种文本相关主题的推荐方法,该方法包括以下步骤:
S1、获取文本内容,对文本内容进行分词得到词项Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词;
S2、利用所述中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合;
S3、根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算各候选主题的综合权重;
S4、将综合权重满足预设要求的候选主题作为推荐的相关主题。
根据本发明一优选实施例,所述步骤S1具体包括:
获取文本内容;
对获取的文本内容进行分词处理,得到Term;
基于Term的倒文档率IDF计算各个Term的权重;
将权重满足中心词预设要求的Term确定为所述文本内容的中心词;将权重满足辅助词预设要求的Term确定为辅助词。
根据本发明一优选实施例,在所述基于Term的倒文档率IDF计算各个Term的权重后,还将各个Term的权重依据所述文本内容的长度进行调权处理。
根据本发明一优选实施例,所述中心词预设要求包括:
Term的权重排在前N1个;或者,
Term的权重大于预设第一阈值Q1;
或者,Term的权重大于预设第三阈值Q3且排在前N1个;
对应地,辅助词预设要求包括:
Term的权重排在前N1+1至前N2个;或者,
Term的权重在预设第一阈值Q1和预设第二阈值Q2之间;
或者,Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个;
其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
根据本发明一优选实施例,所述已有的主题集合中采用中心词和标记词的组合表示各个主题,该主题集合的建立包括以下步骤:
A1、从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各词条在搜索关键词中出现的位置;
A2、将步骤A1确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在所述搜索关键词的首部没有出现的词条过滤掉,得到中心词集合;
A3、将步骤A1确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在所述搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合;
A4、利用所述中心词集合和标记词集合中的词条得到中心词和标记词的组合,将在所述搜索关键词中没有出现的组合过滤掉,得到主题集合。
根据本发明一优选实施例,所述步骤S3包括以下步骤:
根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1;
根据候选主题与辅助词的相关性,计算候选主题的第二权重W2;
对计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
根据本发明一优选实施例,所述候选主题的第一权重W1为:所述候选主题对应的资源数与候选主题集合中各候选主题对应的最大的资源数的比值。
根据本发明一优选实施例,所述候选主题的第二权重W2为:Ws与Ws_max的比值,其中Ws为所述候选主题的标记词与各所述辅助词之间的相关性之和,Ws_max为针对候选主题集合中各候选主题计算出的Ws的最大值。
根据本发明一优选实施例,所述满足预设要求包括:
候选主题的综合权重W排在前N3个,N3为预设正整数;
或者,候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。
根据本发明一优选实施例,在所述步骤S4中还包括依据综合权重对各候选主题进行排序,且在排序时进行以下处理:
将所包含标记词在所述文本内容中出现的候选主题的排序提前;
或者,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重降权。
一种文本相关主题的推荐装置,该装置包括:
中心词获取模块,用于获取文本内容,对文本内容进行分词得到词项Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词;
候选主题获取模块,用于利用中心词获取模块获取的中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合;
候选主题权重计算模块,用于根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算候选主题集合中各候选主题的综合权重;
相关主题确定模块,用于根据候选主题权重计算模块计算得到的各候选主题的综合权重,将综合权重满足预设要求的候选主题作为推荐的相关主题。
根据本发明一优选实施例,所述中心词获取模块包括:
文本获取单元,用于获取文本内容;
分词单元,用于对获取的文本内容进行分词处理,得到Term;
赋值单元,基于Term的倒文档率IDF计算各个Term的权重;
选词单元,用于将权重满足中心词预设要求的Term确定为所述文本内容的中心词,将权重满足辅助词预设要求的Term确定为辅助词。
根据本发明一优选实施例,所述中心词获取模块还包括调权单元,用于将所述赋值单元得到的各个Term的权重依据所述文本获取单元获取的文本内容的长度进行调权处理,将调权处理后的各个Term的权重提供给所述选词单元。
根据本发明一优选实施例,所述中心词预设要求包括:
Term的权重排在前N1个;或者,
Term的权重大于预设第一阈值Q1;
或者,Term的权重大于预设第三阈值Q3且排在前N1个;
对应地,辅助词预设要求包括:
Term的权重排在前N1+1至前N2个;或者,
Term的权重在预设第一阈值Q1和预设第二阈值Q2之间;
或者,Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个;
其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
根据本发明一优选实施例,所述已有的主题集合中采用中心词和标记词的组合表示各个主题,该装置还包括:主题集合的建立模块,所述主题集合的建立模块具体包括:
关键词获取单元,用于从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各该些词条在搜索关键词中出现的位置;
中心词集合单元,用于将所述关键词获取单元确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,得到中心词集合;
标记词集合单元,用于将所述关键词获取单元确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合;
主题集合单元,用于利用所述中心词集合和标记词集合中的词条得到中心词和标记词的组合,将在搜索关键词中没有出现的组合过滤掉,得到主题集合。
根据本发明一优选实施例,所述候选主题权重计算模块,包括:
第一权重计算单元,用于根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1;
第二权重计算单元,用于根据候选主题与辅助词的相关性,计算候选主题的第二权重W2;
加权单元,用于对所述第一权重计算单元和第二权重计算单元计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
根据本发明一优选实施例,所述候选主题的第一权重W1为:所述候选主题对应的资源数与候选主题集合中各候选主题对应的最大的资源数的比值。
根据本发明一优选实施例,所述候选主题的第二权重W2为:Ws与Ws_max的比值,其中Ws为所述候选主题的标记词与各所述辅助词之间的相关性之和,Ws_max为针对候选主题集合中各候选主题计算出的Ws的最大值。
根据本发明一优选实施例,所述满足预设要求包括:
候选主题的综合权重W排在前N3个,N3为预设正整数;
或者,候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。
根据本发明一优选实施例,所述相关主题确定模块依据综合权重对各候选主题进行排序,且在排序时进行以下处理:
将所包含标记词在所述文本内容中出现的候选主题的排序提前;
或者,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重降权。
由以上技术方案可以看出,本发明提供的文本相关主题的推荐方法和装置,基于中心词匹配的主题判别,并利用主题资源数和基于标记词与辅助词之间的相关性wordsim进行综合权重的计算,依据该综合权重进行相关主题推荐,即从文本内容中挖掘与文本最相关的主题,实现对用户的扩展阅读需求进行推荐,使得推荐结果更加准确、更接近用户的使用习惯,提升用户的浏览体验。
【附图说明】
图1为本发明实施例一提供的文本相关主题的推荐方法流程图;
图2为本发明实施例一提供的确定中心词的处理流程图;
图3为本发明实施例一提供的“中心词+标记词”主题集合的形成方法流程图;
图4为本发明实施例一提供的计算候选主题的综合权重的方法流程图;
图5为本发明实施例二提供的文本相关主题的推荐装置结构图。
【具体实施方式】
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
实施例一、
图1是本实施例提供的文本相关主题的推荐方法流程图,如图1所示,该方法包括:
步骤S101、获取文本内容,对文本内容进行分词得到词项(Term),计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词。
用户通过在问答平台上发表知识或问题的文本内容,与其他用户进行分享知识或互助交流,或者,利用搜索引擎输入搜索词(query)进行知识搜索,找到疑问的答案。根据这些文本内容或者query,获得相关主题的推荐内容。
图2是本实施例确定中心词的处理流程图,如图2所示,该处理过程具体包括以下步骤:
步骤S201、获取文本内容。
用户在问答平台上输入的文本内容包括标题和正文,例如,一个在百度知道中的问题,包括标题:“魔兽争霸攻略秘籍是什么?”和正文:“在什么时候输入这些东西?怎么输入?”因而,获取的文本内容可以包括文本的标题和正文。优选地,获取的文本内容仅包括文本的标题,对文本的标题进行分词等处理,在后续实施例的描述中均以文本的标题为例。同样地,针对利用query进行知识搜索的情况,则是获取用户输入的query。
步骤S202、对获取的文本内容进行分词处理,得到Term。
对获取的问题的标题进行分词、过滤等预处理,采用现有的分词和过滤方法进行预处理,例如采用正向最大匹配法进行分词,得到Term“魔兽争霸”、“攻略”、“秘籍”、“是”、“什么”;经过过滤,去掉停用词后,得到Term“魔兽争霸”、“攻略”、“秘籍”。
步骤S203、基于Term的倒文档率(IDF)计算各个Term的权重。
根据Term的IDF为各个Term赋予权重,Term的IDF值越大,Term的权重越大。一个文本标题所有Term的权重之和为1。
对于上述例子,根据Term“魔兽争霸”、“攻略”、“秘籍”的IDF值为各个Term赋予权重,各个Term的权重之和为1,得到Term“魔兽争霸”的权重为0.5267,Term“攻略”的权重为0.2751,Term“秘籍”的权重为0.1982。
步骤S204、将各个Term的权重依据所述文本内容的长度进行调权处理。
由于各个文本标题的长度各异,字数及分词数或多或少,对于总和为1的权重值分配到各个Term上的权重会受到分词数的影响,短的文本标题通常分词数少,使得各个Term的权重相对于长的文本标题的高,因而有必要对各Term的权重进行调权处理,尤其是中心词预设要求和辅助词预设要求在采用预设阈值方式进行选取中心词和辅助词时。
进行调权处理是将步骤S203得到的Term的权重×长度系数,其中,长度系数的计算公式是:
长度系数=log(标题的字数)/log(最长标题的字数)
其中,最长标题的长度可以根据实际获取的标题具体而定,也可以选定为一个常数值,如25或50。“魔兽争霸攻略秘籍是什么?”中,长度系数=log12/log25。
值得一提的是,所述步骤S202中的过滤处理可以放在步骤S204之后进行处理,在完成根据Term的IDF值计算各个Term的权重的步骤和Term的权重进行调权处理后再进行过滤处理。
步骤S205、根据Term的权重的大小,将权重满足中心词预设要求的Term确定为文本的中心词,将权重满足辅助词预设要求的Term确定为辅助词。
其中,中心词预设要求可以是Term的权重排在前N1个、Term的权重大于预设第一阈值Q1或者Term的权重大于预设第一阈值Q1且排在前N1个。对应地,辅助词预设要求可以是Term的权重排在前N1+1至前N2个、Term的权重在预设第一阈值Q1和预设第二阈值Q2之间或者Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个,其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
例如,当中心词预设要求为Term的权重排在前N1,辅助词预设要求为Term的权重排在前N1+1至前N2时,假设N1=1,N2=3,则将权重排在第一位的Term作为中心词,将权重排在第二位和第三位的Term作为辅助词。可以确定中心词为“魔兽争霸”,辅助词为“攻略”和“秘籍”。
根据标题的长度,设定如果长度小于50,则取权重最高的3个Term,如果长度大于50,则取权重最高的4个Term。将Term的权重大于0.2的最多两个Term作为标题的中心词,其余的Term作为辅助词。
当获取的文本内容包括文本的正文时,则还对文本的正文进行分词,采用词频-倒文档率(TF-IDF)等方式为各个Term赋予权重,并对Term的权值进行调权处理后,根据Term的权重大小确定中心词和辅助词。
继续参阅图1,步骤S102、利用所述中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合。
已有的主题集合是现有的平台系统中的问题资源,该些资源以一定的主题形式存储于平台系统中,各主题中包含中心词和标记词(tag)。在本实施例中,主题集合采用“中心词+标记词”的形式表示各个主题,例如,主题“魔兽争霸攻略”、“魔兽争霸秘籍”、“魔兽争霸冰封王座”等,其中,“魔兽争霸”是中心词,“攻略”、“秘籍”和“冰封王座”是标记词。
下面结合图3对主题集合的形成过程进行描述,图3是本实施例“中心词+标记词”主题集合的形成方法流程图,如图3所示,包括以下步骤:
步骤S301、从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各该些词条在搜索关键词中出现的位置。
所述记录词条在搜索关键词中出现的位置主要是记录该词条是否在搜索关键词的首部或者尾部出现。如对于搜索关键词“魔兽世界下载”中,词条“魔兽世界”出现在该搜索关键词的首部,而词条“下载”出现在该搜索关键词的尾部。对于词条出现的位置的记录方式可以仅记录是否出现在首部或尾部,也可以记录在搜索关键词中出现的具体位置,本发明并不作限制。
步骤S302、将步骤S301确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,得到中心词集合。
所述指向某一实体的词条能够清晰、准确表达某一实体、具有实际意义的词条,如“魔兽世界”、“星际争霸”等等。将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,例如,词条“下载”没有出现在搜索关键词的首部,则去除,不作为中心词。而词条“魔兽世界”出现在搜索关键词的首部,则保留作为中心词。
步骤S303、将步骤S301确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合。
所述描述实体特性的词条是描述实体某一方面特性的词,可以采用人工标记词,如博客中的标记词,也可以是其他的能描述实体的属性词。比如,“下载”、“外挂”、“秘籍”等都是针对游戏“魔兽世界”某一方面特性的词条,可以作为候选标记词集合中的词条。将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,例如,词条“魔兽世界”没有出现在搜索关键词的尾部,则去除,不作为标记词。而词条“下载”出现在搜索关键词的尾部,则保留作为标记词。
步骤S304、利用所述中心词集合和标记词集合中的词条分别构成“中心词+标记词”的组合,将在搜索关键词中没有出现的组合过滤掉,得到主题集合。
比如,由“魔兽争霸”和“攻略”构成“魔兽争霸+攻略”的组合,“魔兽争霸”在中心词集合中,且“攻略”在标记词集合中,在搜索日志中有搜索关键词为“魔兽争霸攻略”,则将“魔兽争霸攻略”加入主题集合。也就是说,“中心词+标记词”的形式出现在搜索关键词中才保留,所述中心词和标记词在同一个搜索关键词中可以不连续地出现。比如,如果搜索日志中有“魔兽争霸中文版攻略”的搜索关键词,也认为组成的“魔兽争霸攻略”的组合有出现在搜索关键词中。
每个主题都通过“中心词+标记词”的形式表示,每个中心词可与多个不同的标记词构成多个不同的主题。例如,中心词为“魔兽争霸”,可以搭配攻略、秘笈和冰封王座等标记词。每个主题下包括若干个相关问题内容。例如,主题为“魔兽争霸冰封王座”下包括:
“魔兽争霸3冰封王座1.20版秘籍”
“魔兽争霸3冰封王座有哪些密码?”
“请问哪里有魔兽争霸3冰封王座下载?”
“魔兽争霸3冰封王座怎么联网玩啊?”等等
继续参见图1中的步骤102,利用步骤S101获得的中心词“魔兽争霸”,则将主题集合中包含中心词“魔兽争霸”的主题作为候选主题。
步骤S103、根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算各候选主题的综合权重。
图4是本实施例计算候选主题的综合权重的方法流程图,如图4所示,具体包括以下步骤:
步骤S401、根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1。
将每个候选主题,即中心词+标记词作为query在平台系统中进行搜索,得到对应的问题数M,该问题数M即为所述候选主题对应的资源数。
候选主题的第一权重W1=M/M_max,其中M_max是候选主题集合中各候选主题对应的问题数M中最大的问题数。此过程相当于,对候选主题对应的资源数进行归一化处理。
例如,候选主题集合中有“魔兽争霸攻略”、“魔兽争霸秘籍”、“魔兽争霸下载”、“魔兽争霸冰封王座”等等主题。其中,“魔兽争霸攻略”对应的资源数为313795,“魔兽争霸秘籍”对应的资源数为227444,“魔兽争霸下载”对应的资源数为544330,“魔兽争霸冰封王座”对应的资源数为466296。可以得到“魔兽争霸攻略”的第一权重是0.5765,“魔兽争霸秘籍”的第一权重是0.4178,“魔兽争霸下载”的第一权重是1,“魔兽争霸冰封王座”的第一权重是0.8566。
其中,最大的问题数M_max还可以采用将中心词作为query进行搜索得到的问题数。利用中心词“魔兽争霸”搜索得到资源数为11762721,得到“魔兽争霸攻略”的第一权重是0.0267,“魔兽争霸秘籍”的第一权重是0.0193,“魔兽争霸下载”的第一权重是0.0463,“魔兽争霸冰封王座”的第一权重是0.0396。
步骤S402、根据候选主题与辅助词的相关性,计算候选主题的第二权重W2。
获取候选主题的标记词,计算该标记词与步骤S101中确定的各个辅助词之间的相关性之和。计算标记词与辅助词之间的相关性Ws可以但不限于采用计算词与词之间的相关性wordsim的方法。
计算词A与词B之间的相关性wordsim的具体过程包括如下:
分别针对词A和词B确定特征向量,该特征向量的确定过程为:先将单个词(如,词A)作为query到搜索引擎中进行搜索,得到搜索结果,选取前X个页面的搜索结果,并对每个页面的内容进行分词并计算分词的TF-IDF作为各个分词的权重,再选取权重值排在前Y个的分词作为词A的特征向量。然后,计算词A的特征向量和词B的特征向量之间的相似度作为词A和词B的相关性wordsim,两个特征向量之间的相似度可以采用余弦相似度或者内积而得到。
而后,再进一步进行归一化处理得到候选主题的第二权重W2。
候选主题的第二权重W2=Ws/Ws_max,其中,Ws是所述候选主题的标记词与步骤S101确定的各个辅助词之间的相关性之和,Ws_max是针对候选主题集合中各候选主题计算出的Ws的最大值。
对于已有的主题集合采用普通的存储方式时,例如,仅以中心词或者问题标题表示主题的方式,则计算辅助词与候选主题的中心词或问题标题之间的相关性,类似地,该相关性也可以通过现有的内积或余弦相似度的方法进行计算,而后得到各个候选主题的第二权重W2。
步骤S403、对计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
采用的线性加权公式为:
W=W1×a+W2×(1-a),其中,a是预设的调权因子,0<a<1。
根据应用场景的不同,可设置不同的a,分配第一权重W1和第二权重W2的比例,加权得到综合权重W。
继续参见图1,步骤S104、将综合权重满足预设要求的候选主题作为推荐的相关主题。
根据步骤S103得到的候选主题的综合权重W对候选主题进行排序,将候选主题集合中满足预设要求的候选主题作为推荐的相关主题。所述满足预设要求包括候选主题的综合权重W排在前N3个,N3为预设正整数,或者候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。例如,选取N3=5,则取出排在前5位的候选主题为推荐的相关主题。
为了使推荐结果更加符合用户实际的需求,在对候选主题进行排序时,可以进行以下处理:
第一,将所包含标记词在获取的文本标题中出现的候选主题排序提前。
由于文本标题中有可能包括多个标记词,为了避免引起冲突,优选地,对依据综合权重排序后的候选主题,从后向前进行扫描,如果候选主题的标记词在文本标题中出现过,就将该候选主题提前至第一位。例如,当扫描到排在倒数第一位的候选主题T1符合要求,则将该候选主题T1提前至第一位,而后又扫描到排在倒数第二位的候选主题T2也符合要求,则将该候选主题T2提前至第一位,在候选主题T1的前面,此时候选主题T1居于第二位。
扫描过后的候选主题不再进行再次扫描。
第二,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重进行降权处理。
不同候选主题的标记词有可能出现字面语义重复的情况,比如标记词为“翻译”“译文”中字面上“译”有重复。当出现重复时,此两个候选主题为相似的候选主题,与此两个候选主题相关的内容可能会相同,出现重复推荐的情况。因而,需要对其中综合权重排在后面的候选主题进行调权。优选地,按照排序结果,对候选主题从前向后进行扫描,判断当前候选主题的标记词与排在其前面的候选主题的标记词是否有字面语义重复,如果是,则将该当前候选主题的综合权重进行减半处理。
在采用上述方法处理之后,得到最终排序结果,将满足预设要求的候选主题作为推荐的相关主题。
举个例子,在百度知道上输入query “魔兽争霸攻略秘籍是什么,如何顺利开启秘密关卡?”利用现有的推荐方法,仅从同一个问题点进行推荐,可以得到列在前面5个推荐的相关主题为“攻略秘籍关卡”、“魔兽争霸秘籍”、“魔兽争霸3秘籍”、“魔兽争霸秘籍怎么用”、“魔兽争霸三秘籍”,得到的这些主题均与“秘籍”相关。
利用本发明的推荐方法,先经过步骤S101可以确定1个中心词和2个辅助词:中心词为“魔兽争霸”,辅助词为“攻略”和“秘籍”。经过步骤S102利用中心词“魔兽争霸”到已有的主题集合中匹配得到候选主题,包括:“魔兽争霸攻略”、“魔兽争霸秘籍”、“魔兽争霸秘密关卡”、“魔兽争霸冰封王座”、“魔兽争霸战役”、“魔兽争霸下载”等等。再经过步骤S103和步骤S104计算权重和排序处理后,将排在前N3=5个的候选主题作为推荐的相关主题,包括“魔兽争霸秘籍”、“魔兽争霸攻略”、“魔兽争霸冰封王座”、“魔兽争霸战役”、“魔兽争霸秘密关卡”。其中,“魔兽争霸冰封王座”、“魔兽争霸战役”可作为相关主题面的推荐主题,满足对用户的扩展阅读需求。
以上是对本发明所提供的方法进行的详细描述,下面对本发明提供的文本相关主题的推荐装置进行详细描述。
实施例二、
图5为本实施例提供的文本相关主题的推荐装置结构图,如图5所示,该装置包括:
中心词获取模块10,用于获取文本内容,对文本内容进行分词得到词项Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词。
用户通过在问答平台上发表知识或问题的文本内容,与其他用户进行分享知识或互助交流,或者,利用搜索引擎输入query进行知识搜索,找到疑问的答案。根据这些文本内容或者query,获得相关主题的推荐内容。
具体地,中心词获取模块10包括:
文本获取单元101,用于获取文本内容。
用户在问答平台上输入的文本内容包括标题和正文,例如,一个在百度知道中的问题,包括标题:“魔兽争霸攻略秘籍是什么?”和正文:“在什么时候输入这些东西?怎么输入?”因而,文本获取单元101获取的文本内容可以包括文本的标题和正文。优选地,获取的文本内容仅包括文本的标题,对文本的标题进行分词等处理,在后续实施例的描述中均以文本的标题为例。同样地,针对利用query进行知识搜索的情况,则是获取用户输入的query。
分词单元102,用于对获取的文本内容进行分词处理,得到Term。
对获取的问题的标题进行分词、过滤等预处理,采用现有的分词和过滤方法进行预处理,例如采用正向最大匹配法进行分词,得到Term“魔兽争霸”、“攻略”、“秘籍”、“是”、“什么”;经过过滤,去掉停用词后,得到Term“魔兽争霸”、“攻略”、“秘籍”。
赋值单元103,基于Term的倒文档率IDF计算各个Term的权重。
赋值单元103根据Term的IDF计算各个Term的权重,Term的IDF值越大,Term的权重越大。一个文本标题所有Term的权重之和为1。
对于上述例子,根据Term“魔兽争霸”、“攻略”、“秘籍”的IDF值为各个Term赋予权重,各个Term的权重之和为1,得到Term“魔兽争霸”的权重为0.5267,Term“攻略”的权重为0.2751,Term“秘籍”的权重为0.1982。
调权单元104,用于将赋值单元103得到的各个Term的权重依据文本获取单元101获取的文本内容的长度进行调权处理,将调权处理后的各个Term的权重提供给选词单元105。
由于各个文本标题的长度各异,字数及分词数或多或少,对于总和为1的权重值分配到各个Term上的权重会受到分词数的影响,短的文本标题通常分词数少,使得各个Term的权重相对于长的文本标题的高,因而有必要对各Term的权重进行调权处理。
调权单元104进行调权处理是将赋值单元103得到的Term的权重×长度系数,其中,长度系数的计算公式是:
长度系数=log(标题的字数)/log(最长标题的字数)
其中,最长标题的长度可以根据实际获取的标题具体而定,也可以选定为一个常数值,如25或50。“魔兽争霸攻略秘籍是什么?”中,长度系数=log12/log25。
选词单元105,根据Term的权重,将权重满足中心词预设要求的Term确定为文本的中心词,将权重满足辅助词预设要求的Term确定为辅助词。
其中,中心词预设要求包括:Term的权重排在前N1个;Term的权重大于预设第一阈值Q1;或者,Term的权重大于预设第三阈值Q3且排在前N1个。对应地,辅助词预设要求包括:Term的权重排在前N1+1至前N2个;Term的权重在预设第一阈值Q1和预设第二阈值Q2之间;Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个。其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
例如,当中心词预设要求为权重排在前N1,辅助词预设要求为权重排在前N1+1至前N2时,假设N1=1,N2=3,则将权重排在第一位的Term作为中心词,将权重排在第二位和第三位的Term作为辅助词。可以确定中心词为“魔兽争霸”,辅助词为“攻略”和“秘籍”。
根据标题的长度,设定如果长度小于50,则取权重最高的3个Term,如果长度大于50,则取权重最高的4个Term。将Term的权重大于0.2的最多两个Term作为标题的中心词,其余的Term作为辅助词。
当文本获取单元101获取的文本内容包括文本的正文时,分词单元102还对文本的正文进行分词,赋值单元103采用TF-IDF等方式为各个Term赋予权重,调权单元104对Term的权值进行调权处理,选词单元105根据Term的权重大小确定中心词和辅助词。
候选主题获取模块20,用于利用中心词获取模块10获取的中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合。
已有的主题集合是现有的平台系统中的问题资源,该些资源以一定的主题形式存储于平台系统中,各主题中包含中心词和标记词。在本实施例中,主题集合采用“中心词+标记词”的形式表示各个主题,例如,主题“魔兽争霸攻略”、“魔兽争霸秘籍”、“魔兽争霸冰封王座”等,其中,“魔兽争霸”是中心词,“攻略”、“秘籍”和“冰封王座”是标记词。构成该主题集合的建立模块(图5中未示出)包括:
关键词获取单元,用于从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各该些词条在搜索关键词中出现的位置。
所述记录词条在搜索关键词中出现的位置主要是记录该词条是否在搜索关键词的首部或者尾部出现。如对于搜索关键词“魔兽世界下载”中,词条“魔兽世界”出现在该搜索关键词的首部,而词条“下载”出现在该搜索关键词的尾部。对于词条出现的位置的记录方式可以仅记录是否出现在首部或尾部,也可以记录在搜索关键词中出现的具体位置,本发明并不作限制。
中心词集合单元,用于将关键词获取单元确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,得到中心词集合。
所述指向某一实体的词条能够清晰、准确表达某一实体、具有实际意义的词条,如“魔兽世界”、“星际争霸”等等。将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,例如,词条“下载”没有出现在搜索关键词的首部,则去除,不作为中心词。而词条“魔兽世界”出现在搜索关键词的首部,则保留作为中心词。
标记词集合单元,用于将关键词获取单元确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合。
所述描述实体特性的词条是描述实体某一方面特性的词,可以采用人工标记词,如博客中的标记词,也可以是其他的能描述实体的属性词。比如,“下载”、“外挂”、“秘籍”等都是针对游戏“魔兽世界”某一方面特性的词条,可以作为候选标记词集合中的词条。将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,例如,词条“魔兽世界”没有出现在搜索关键词的尾部,则去除,不作为标记词。而词条“下载”出现在搜索关键词的尾部,则保留作为标记词。
主题集合单元,用于利用所述中心词集合和标记词集合中的词条构成“中心词+标记词”形式的组合,将在搜索关键词中没有出现的组合过滤掉,得到主题集合。
比如,由“魔兽争霸”和“攻略”构成“魔兽争霸+攻略”的组合,“魔兽争霸”在中心词集合中,且“攻略”在标记词集合中,在搜索日志中有搜索关键词为“魔兽争霸攻略”,则将“魔兽争霸攻略”加入主题集合。也就是说,“中心词+标记词”的形式出现在搜索关键词中才保留,所述中心词和标记词在同一个搜索关键词中可以不连续地出现。比如,如果搜索日志中有“魔兽争霸中文版攻略”的搜索关键词,也认为组成的“魔兽争霸攻略”的组合有出现在搜索关键词中。
每个主题都通过“中心词+标记词”的形式表示,每个中心词可与多个不同的标记词构成多个不同的主题。例如,中心词为“魔兽争霸”,可以搭配攻略、秘笈和冰封王座等标记词。每个主题下包括若干个相关问题内容。例如,主题为“魔兽争霸冰封王座”下包括:
“魔兽争霸3冰封王座1.20版秘籍”
“魔兽争霸3冰封王座有哪些密码?”
“请问哪里有魔兽争霸3冰封王座下载?”
“魔兽争霸3冰封王座怎么联网玩啊?”等等
候选主题获取模块20利用中心词获取模块10获得的中心词“魔兽争霸”,则将主题集合中包含中心词“魔兽争霸”的主题作为候选主题。
候选主题权重计算模块30,用于根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算候选主题集合中各候选主题的综合权重。
具体地,候选主题权重计算模块30,包括:
第一权重计算单元301,用于根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1。
将每个候选主题,即中心词+标记词作为query在平台系统中进行搜索,得到对应的问题数M,该问题数M即为所述候选主题对应的资源数。
候选主题的第一权重W1=M/M_max,其中M_max是候选主题集合中各候选主题对应的问题数M中最大的问题数。此过程相当于,对候选主题对应的资源数进行归一化处理。
例如,候选主题集合中有“魔兽争霸攻略”、“魔兽争霸秘籍”、“魔兽争霸下载”、“魔兽争霸冰封王座”等等主题。其中,“魔兽争霸攻略”对应的资源数为313795,“魔兽争霸秘籍”对应的资源数为227444,“魔兽争霸下载”对应的资源数为544330,“魔兽争霸冰封王座”对应的资源数为466296。可以得到“魔兽争霸攻略”的第一权重是0.5765,“魔兽争霸秘籍”的第一权重是0.4178,“魔兽争霸下载”的第一权重是1,“魔兽争霸冰封王座”的第一权重是0.8566。
其中,最大的问题数M_max还可以采用将中心词作为query进行搜索得到的问题数。利用中心词“魔兽争霸”搜索得到资源数为11762721,得到“魔兽争霸攻略”的第一权重是0.0267,“魔兽争霸秘籍”的第一权重是0.0193,“魔兽争霸下载”的第一权重是0.0463,“魔兽争霸冰封王座”的第一权重是0.0396。
第二权重计算单元302,用于根据候选主题与辅助词的相关性,计算候选主题的第二权重W2。
获取候选主题的标记词,计算该标记词与中心词获取模块10确定的各个辅助词之间的相关性之和。计算标记词与辅助词之间的相关性Ws可以但不限于采用计算词与词之间的相关性wordsim的方法。
计算词A与词B之间的相关性wordsim的具体过程包括如下:
分别针对词A和词B确定特征向量,该特征向量的确定过程为:先将单个词(如,词A)作为query到搜索引擎中进行搜索,得到搜索结果,选取前X个页面的搜索结果,并对每个页面的内容进行分词并计算分词的TF-IDF作为各个分词的权重,再选取权重值排在前Y个的分词作为词A的特征向量。然后,计算词A的特征向量和词B的特征向量之间的相似度作为词A和词B的相关性wordsim,两个特征向量之间的相似度可以采用余弦相似度或者内积而得到。
而后,再进一步进行归一化处理得到候选主题的第二权重W2。
候选主题的第二权重W2=Ws/Ws_max,其中,Ws是所述候选主题的标记词与步骤S101确定的各个辅助词之间的相关性之和,Ws_max是针对候选主题集合中各候选主题计算出的Ws的最大值。
对于已有的主题集合采用普通的存储方式时,例如,仅以中心词或者问题标题表示主题的方式,则计算辅助词与候选主题的中心词或问题标题之间的相关性,类似地,该相关性也可以通过现有的内积或余弦相似度的方法进行计算,而后得到各个候选主题的第二权重W2。
加权单元303,用于对所述第一权重计算单元和第二权重计算单元计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
加权单元303采用的线性加权公式为:
W=W1×a+W2×(1-a),其中,a是预设的调权因子,0<a<1。
根据应用场景的不同,可设置不同的a,分配第一权重W1和第二权重W2的比例,加权得到综合权重W。
相关主题确定模块40,用于根据候选主题权重计算模块30计算得到的各候选主题的综合权重,将综合权重满足预设要求的候选主题作为推荐的相关主题。
所述满足预设要求包括:候选主题的综合权重W排在前N3个,N3为预设正整数;或者,候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。如选取N3=5,则取出排在前5位的候选主题为推荐的相关主题。
为了使推荐结果更加符合用户实际的需求,相关主题确定模块40对候选主题进行排序时,可以进行以下处理:
第一,将所包含标记词在获取的文本标题中出现的候选主题排序提前。
由于文本标题中有可能包括多个标记词,为了避免引起冲突,优选地,对依据综合权重排序后的候选主题,从后向前进行扫描,如果候选主题的标记词在文本标题中出现过,就将该候选主题提前至第一位。例如,当扫描到排在倒数第一位的候选主题T1符合要求,则将该候选主题T1提前至第一位,而后又扫描到排在倒数第二位的候选主题T2也符合要求,则将该候选主题T2提前至第一位,在候选主题T1的前面,此时候选主题T1居于第二位。
扫描过后的候选主题不再进行再次扫描。
第二,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重进行降权处理。
不同候选主题的标记词有可能出现字面语义重复的情况,比如标记词为“翻译”“译文”中字面上“译”有重复。当出现重复时,此两个候选主题为相似的候选主题,与此两个候选主题相关的内容可能会相同,出现重复推荐的情况。因而,需要对其中综合权重排在后面的候选主题进行调权。优选地,按照排序结果,对候选主题从前向后进行扫描,判断当前候选主题的标记词与排在其前面的候选主题的标记词是否有字面语义重复,如果是,则将该当前候选主题的综合权重进行减半处理。
在采用上述处理之后,得到最终排序结果,将满足预设要求的候选主题作为推荐的相关主题。
本发明提供的推荐方法和装置,基于中心词匹配的主题判别,并利用主题资源数和基于标记词与辅助词之间的相关性wordsim进行排序,从文本内容中挖掘与文本最相关的主题,尤其为问题等短文本构成的条目内容(item)进行挖掘,实现对用户的扩展阅读需求进行推荐,使得推荐结果更加准确、更接近用户的使用习惯,提升用户的浏览体验。
本发明的推荐方法和装置可以用于问答平台中答案页面的推荐,知识搜索的搜索结果的推荐,或者进行页面浏览时相关主题的推荐等应用场景。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明保护的范围之内。
Claims (20)
1.一种文本相关主题的推荐方法,其特征在于,包括以下步骤:
S1、获取文本内容,对文本内容进行分词得到词项Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词;
S2、利用所述中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合;
S3、根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算各候选主题的综合权重;
S4、将综合权重满足预设要求的候选主题作为推荐的相关主题。
2.根据权利要求1所述的方法,其特征在于,所述步骤S1具体包括:
获取文本内容;
对获取的文本内容进行分词处理,得到Term;
基于Term的倒文档率IDF计算各个Term的权重;
将权重满足中心词预设要求的Term确定为所述文本内容的中心词;将权重满足辅助词预设要求的Term确定为辅助词。
3.根据权利要求2所述的方法,其特征在于,在所述基于Term的倒文档率IDF计算各个Term的权重后,还将各个Term的权重依据所述文本内容的长度进行调权处理。
4.根据权利要求2所述的方法,其特征在于,所述中心词预设要求包括:
Term的权重排在前N1个;或者,
Term的权重大于预设第一阈值Q1;
或者,Term的权重大于预设第三阈值Q3且排在前N1个;
对应地,辅助词预设要求包括:
Term的权重排在前N1+1至前N2个;或者,
Term的权重在预设第一阈值Q1和预设第二阈值Q2之间;
或者,Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个;
其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
5.根据权利要求1所述的方法,其特征在于,所述已有的主题集合中采用中心词和标记词的组合表示各个主题,该主题集合的建立包括以下步骤:
A1、从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各词条在搜索关键词中出现的位置;
A2、将步骤A1确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在所述搜索关键词的首部没有出现的词条过滤掉,得到中心词集合;
A3、将步骤A1确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在所述搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合;
A4、利用所述中心词集合和标记词集合中的词条得到中心词和标记词的组合,将在所述搜索关键词中没有出现的组合过滤掉,得到主题集合。
6.根据权利要求1所述的方法,其特征在于,所述步骤S3包括以下步骤:
根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1;
根据候选主题与辅助词的相关性,计算候选主题的第二权重W2;
对计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
7.根据权利要求6所述的方法,其特征在于,所述候选主题的第一权重W1为:所述候选主题对应的资源数与候选主题集合中各候选主题对应的最大的资源数的比值。
8.根据权利要求6所述的方法,其特征在于,所述候选主题的第二权重W2为:Ws与Ws_max的比值,其中Ws为所述候选主题的标记词与各所述辅助词之间的相关性之和,Ws_max为针对候选主题集合中各候选主题计算出的Ws的最大值。
9.根据权利要求1所述的方法,其特征在于,所述满足预设要求包括:
候选主题的综合权重W排在前N3个,N3为预设正整数;
或者,候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。
10.根据权利要求1所述的方法,其特征在于,在所述步骤S4中还包括依据综合权重对各候选主题进行排序,且在排序时进行以下处理:
将所包含标记词在所述文本内容中出现的候选主题的排序提前;
或者,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重降权。
11.一种文本相关主题的推荐装置,其特征在于,包括:
中心词获取模块,用于获取文本内容,对文本内容进行分词得到词项Term,计算各个Term的权重,根据Term的权重确定所述文本内容的中心词和辅助词;
候选主题获取模块,用于利用中心词获取模块获取的中心词到已有的主题集合中进行匹配,将包含所述中心词的主题作为候选主题,构成候选主题集合;
候选主题权重计算模块,用于根据候选主题对应的资源数和候选主题与所述辅助词的相关性,计算候选主题集合中各候选主题的综合权重;
相关主题确定模块,用于根据候选主题权重计算模块计算得到的各候选主题的综合权重,将综合权重满足预设要求的候选主题作为推荐的相关主题。
12.根据权利要求11所述的装置,其特征在于,所述中心词获取模块包括:
文本获取单元,用于获取文本内容;
分词单元,用于对获取的文本内容进行分词处理,得到Term;
赋值单元,基于Term的倒文档率IDF计算各个Term的权重;
选词单元,用于将权重满足中心词预设要求的Term确定为所述文本内容的中心词,将权重满足辅助词预设要求的Term确定为辅助词。
13.根据权利要求12所述的装置,其特征在于,所述中心词获取模块还包括调权单元,用于将所述赋值单元得到的各个Term的权重依据所述文本获取单元获取的文本内容的长度进行调权处理,将调权处理后的各个Term的权重提供给所述选词单元。
14.根据权利要求12所述的装置,其特征在于,所述中心词预设要求包括:
Term的权重排在前N1个;或者,
Term的权重大于预设第一阈值Q1;
或者,Term的权重大于预设第三阈值Q3且排在前N1个;
对应地,辅助词预设要求包括:
Term的权重排在前N1+1至前N2个;或者,
Term的权重在预设第一阈值Q1和预设第二阈值Q2之间;
或者,Term的权重大于预设第三阈值Q3且排在前N1+1至前N2个;
其中,N1、N2为预设正整数,且N1<N2,0<Q2<Q1≤1,0<Q3≤1。
15.根据权利要求11所述的装置,其特征在于,所述已有的主题集合中采用中心词和标记词的组合表示各个主题,该装置还包括:主题集合的建立模块,所述主题集合的建立模块具体包括:
关键词获取单元,用于从用户搜索日志中获取搜索关键词,将所述搜索关键词分成一个或多个词条,并记录各该些词条在搜索关键词中出现的位置;
中心词集合单元,用于将所述关键词获取单元确定的词条中指向某一实体的词条构成候选中心词集合,将候选中心词集合中在搜索关键词的首部没有出现的词条过滤掉,得到中心词集合;
标记词集合单元,用于将所述关键词获取单元确定的词条中描述实体特性的词条构成候选标记词集合,将候选标记词集合中在搜索关键词的尾部没有出现的词条过滤掉,得到标记词集合;
主题集合单元,用于利用所述中心词集合和标记词集合中的词条得到中心词和标记词的组合,将在搜索关键词中没有出现的组合过滤掉,得到主题集合。
16.根据权利要求11所述的装置,其特征在于,所述候选主题权重计算模块,包括:
第一权重计算单元,用于根据候选主题集合中各个候选主题对应的资源数,计算候选主题的第一权重W1;
第二权重计算单元,用于根据候选主题与辅助词的相关性,计算候选主题的第二权重W2;
加权单元,用于对所述第一权重计算单元和第二权重计算单元计算得到的候选主题的第一权重W1和第二权重W2进行线性加权,得到候选主题的综合权重W。
17.根据权利要求16所述的装置,其特征在于,所述候选主题的第一权重W1为:所述候选主题对应的资源数与候选主题集合中各候选主题对应的最大的资源数的比值。
18.根据权利要求16所述的装置,其特征在于,所述候选主题的第二权重W2为:Ws与Ws_max的比值,其中Ws为所述候选主题的标记词与各所述辅助词之间的相关性之和,Ws_max为针对候选主题集合中各候选主题计算出的Ws的最大值。
19.根据权利要求11所述的装置,其特征在于,所述满足预设要求包括:
候选主题的综合权重W排在前N3个,N3为预设正整数;
或者,候选主题的综合权重W大于预设主题权重阈值Q4,0<Q4≤1。
20.根据权利要求11所述的装置,其特征在于,所述相关主题确定模块依据综合权重对各候选主题进行排序,且在排序时进行以下处理:
将所包含标记词在所述文本内容中出现的候选主题的排序提前;
或者,将与按照综合权重排在前面的候选主题存在字面重复的候选主题的综合权重降权。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110400248.3A CN103136300B (zh) | 2011-12-05 | 2011-12-05 | 一种文本相关主题的推荐方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201110400248.3A CN103136300B (zh) | 2011-12-05 | 2011-12-05 | 一种文本相关主题的推荐方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103136300A true CN103136300A (zh) | 2013-06-05 |
CN103136300B CN103136300B (zh) | 2017-02-01 |
Family
ID=48496132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110400248.3A Active CN103136300B (zh) | 2011-12-05 | 2011-12-05 | 一种文本相关主题的推荐方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103136300B (zh) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103312826A (zh) * | 2013-07-12 | 2013-09-18 | 北京金山云网络技术有限公司 | 文件同步的方法、装置、客户端、服务器端及设备 |
CN103327123A (zh) * | 2013-07-12 | 2013-09-25 | 北京金山云网络技术有限公司 | 一种文件同步的方法、客户端、服务器端及设备 |
CN103885934A (zh) * | 2014-02-19 | 2014-06-25 | 中国专利信息中心 | 一种专利文献关键短语自动提取方法 |
CN104484388A (zh) * | 2014-12-10 | 2015-04-01 | 北京奇虎科技有限公司 | 稀缺信息页面的筛选方法和装置 |
CN105808529A (zh) * | 2016-03-10 | 2016-07-27 | 武汉传神信息技术有限公司 | 一种语料划分领域的方法和装置 |
CN105989040A (zh) * | 2015-02-03 | 2016-10-05 | 阿里巴巴集团控股有限公司 | 智能问答的方法、装置及系统 |
CN106598997A (zh) * | 2015-10-19 | 2017-04-26 | 北京国双科技有限公司 | 一种计算文本主题归属度的方法及装置 |
CN106708858A (zh) * | 2015-11-13 | 2017-05-24 | 阿里巴巴集团控股有限公司 | 一种信息推荐方法及装置 |
CN106776531A (zh) * | 2015-11-24 | 2017-05-31 | 北京国双科技有限公司 | 语料处理方法及装置 |
CN106874308A (zh) * | 2015-12-14 | 2017-06-20 | 北京搜狗科技发展有限公司 | 一种推荐方法和装置、一种用于推荐的装置 |
CN106934004A (zh) * | 2017-03-07 | 2017-07-07 | 广州优视网络科技有限公司 | 一种基于地域特征向用户推荐文章的方法和装置 |
CN107145571A (zh) * | 2017-05-05 | 2017-09-08 | 广东艾檬电子科技有限公司 | 一种搜索方法及装置 |
CN107193973A (zh) * | 2017-05-25 | 2017-09-22 | 百度在线网络技术(北京)有限公司 | 语义解析信息的领域识别方法及装置、设备及可读介质 |
WO2017166912A1 (zh) * | 2016-03-30 | 2017-10-05 | 北京京东尚科信息技术有限公司 | 商品短文本核心词提取方法和装置 |
CN107239438A (zh) * | 2016-03-28 | 2017-10-10 | 阿里巴巴集团控股有限公司 | 一种文档分析方法及装置 |
CN107766576A (zh) * | 2017-11-15 | 2018-03-06 | 北京航空航天大学 | 一种微博用户兴趣特征的提取方法 |
CN107992474A (zh) * | 2017-11-24 | 2018-05-04 | 国家计算机网络与信息安全管理中心 | 一种流式数据主题挖掘方法及其系统 |
CN107992477A (zh) * | 2017-11-30 | 2018-05-04 | 北京神州泰岳软件股份有限公司 | 文本主题确定方法、装置及电子设备 |
CN108491391A (zh) * | 2018-03-28 | 2018-09-04 | 联想(北京)有限公司 | 相关度获取方法、装置、服务器组以及可读存储介质 |
CN110019655A (zh) * | 2017-07-21 | 2019-07-16 | 北京国双科技有限公司 | 先例案件获取方法及装置 |
CN110019941A (zh) * | 2017-08-22 | 2019-07-16 | 飞狐信息技术(天津)有限公司 | 视频推荐方法及系统 |
CN110134945A (zh) * | 2019-04-15 | 2019-08-16 | 平安科技(深圳)有限公司 | 习题考点识别方法、装置、设备和存储介质 |
CN110825867A (zh) * | 2019-11-01 | 2020-02-21 | 科大讯飞股份有限公司 | 相似文本推荐方法、装置、电子设备和存储介质 |
CN111460787A (zh) * | 2020-03-27 | 2020-07-28 | 深圳价值在线信息科技股份有限公司 | 一种话题提取方法、装置、终端设备及存储介质 |
CN111259259B (zh) * | 2020-03-11 | 2021-03-30 | 郑州工程技术学院 | 大学生新闻推荐方法、装置、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6195657B1 (en) * | 1996-09-26 | 2001-02-27 | Imana, Inc. | Software, method and apparatus for efficient categorization and recommendation of subjects according to multidimensional semantics |
CN101079043A (zh) * | 2006-05-24 | 2007-11-28 | 腾讯科技(深圳)有限公司 | 一种上下文广告的处理方法及广告服务器 |
CN101727487A (zh) * | 2009-12-04 | 2010-06-09 | 中国人民解放军信息工程大学 | 一种面向网络评论的观点主题识别方法和系统 |
CN101901235A (zh) * | 2009-05-27 | 2010-12-01 | 国际商业机器公司 | 文档处理方法和系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100595753C (zh) * | 2007-05-29 | 2010-03-24 | 阿里巴巴集团控股有限公司 | 一种文本主题推荐方法和装置 |
CN100595760C (zh) * | 2007-08-31 | 2010-03-24 | 北京搜狗科技发展有限公司 | 一种获取口语词条的方法、装置以及一种输入法系统 |
-
2011
- 2011-12-05 CN CN201110400248.3A patent/CN103136300B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6195657B1 (en) * | 1996-09-26 | 2001-02-27 | Imana, Inc. | Software, method and apparatus for efficient categorization and recommendation of subjects according to multidimensional semantics |
CN101079043A (zh) * | 2006-05-24 | 2007-11-28 | 腾讯科技(深圳)有限公司 | 一种上下文广告的处理方法及广告服务器 |
CN101901235A (zh) * | 2009-05-27 | 2010-12-01 | 国际商业机器公司 | 文档处理方法和系统 |
CN101727487A (zh) * | 2009-12-04 | 2010-06-09 | 中国人民解放军信息工程大学 | 一种面向网络评论的观点主题识别方法和系统 |
Non-Patent Citations (3)
Title |
---|
刘琦等: "基于Apriori算法的关键词推荐", 《模式识别与人工智能》 * |
李广建: "个性化网络信息检索系统研究与实现", 《图书情报工作》, vol. 48, no. 11, 31 December 2004 (2004-12-31), pages 39 - 45 * |
邢春晓等: "适应用户兴趣变化的协同过滤推荐算法", 《计算机研究与发展》, vol. 44, no. 2, 31 December 2007 (2007-12-31) * |
Cited By (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103327123A (zh) * | 2013-07-12 | 2013-09-25 | 北京金山云网络技术有限公司 | 一种文件同步的方法、客户端、服务器端及设备 |
CN103312826A (zh) * | 2013-07-12 | 2013-09-18 | 北京金山云网络技术有限公司 | 文件同步的方法、装置、客户端、服务器端及设备 |
CN103312826B (zh) * | 2013-07-12 | 2017-03-01 | 北京金山云网络技术有限公司 | 文件同步的方法、装置、客户端、服务器端及设备 |
CN103885934A (zh) * | 2014-02-19 | 2014-06-25 | 中国专利信息中心 | 一种专利文献关键短语自动提取方法 |
CN104484388A (zh) * | 2014-12-10 | 2015-04-01 | 北京奇虎科技有限公司 | 稀缺信息页面的筛选方法和装置 |
CN105989040B (zh) * | 2015-02-03 | 2021-02-09 | 创新先进技术有限公司 | 智能问答的方法、装置及系统 |
CN105989040A (zh) * | 2015-02-03 | 2016-10-05 | 阿里巴巴集团控股有限公司 | 智能问答的方法、装置及系统 |
CN106598997A (zh) * | 2015-10-19 | 2017-04-26 | 北京国双科技有限公司 | 一种计算文本主题归属度的方法及装置 |
CN106598997B (zh) * | 2015-10-19 | 2021-05-18 | 北京国双科技有限公司 | 一种计算文本主题归属度的方法及装置 |
CN106708858A (zh) * | 2015-11-13 | 2017-05-24 | 阿里巴巴集团控股有限公司 | 一种信息推荐方法及装置 |
US11017451B2 (en) | 2015-11-13 | 2021-05-25 | Advanced New Technologies Co., Ltd. | Information recommendation based on rule matching |
US11113743B2 (en) | 2015-11-13 | 2021-09-07 | Advanced New Technologies Co., Ltd. | Information recommendation based on rule matching |
CN106776531A (zh) * | 2015-11-24 | 2017-05-31 | 北京国双科技有限公司 | 语料处理方法及装置 |
CN106776531B (zh) * | 2015-11-24 | 2020-02-11 | 北京国双科技有限公司 | 语料处理方法及装置 |
CN106874308A (zh) * | 2015-12-14 | 2017-06-20 | 北京搜狗科技发展有限公司 | 一种推荐方法和装置、一种用于推荐的装置 |
CN106874308B (zh) * | 2015-12-14 | 2021-03-26 | 北京搜狗科技发展有限公司 | 一种推荐方法和装置、一种用于推荐的装置 |
CN105808529B (zh) * | 2016-03-10 | 2018-06-08 | 语联网(武汉)信息技术有限公司 | 一种语料划分领域的方法和装置 |
CN105808529A (zh) * | 2016-03-10 | 2016-07-27 | 武汉传神信息技术有限公司 | 一种语料划分领域的方法和装置 |
CN107239438A (zh) * | 2016-03-28 | 2017-10-10 | 阿里巴巴集团控股有限公司 | 一种文档分析方法及装置 |
WO2017166912A1 (zh) * | 2016-03-30 | 2017-10-05 | 北京京东尚科信息技术有限公司 | 商品短文本核心词提取方法和装置 |
US11138250B2 (en) | 2016-03-30 | 2021-10-05 | Beijing Jingdong Shangke Information Technology Co., Ltd. | Method and device for extracting core word of commodity short text |
CN106934004A (zh) * | 2017-03-07 | 2017-07-07 | 广州优视网络科技有限公司 | 一种基于地域特征向用户推荐文章的方法和装置 |
CN107145571B (zh) * | 2017-05-05 | 2020-02-14 | 广东艾檬电子科技有限公司 | 一种搜索方法及装置 |
CN107145571A (zh) * | 2017-05-05 | 2017-09-08 | 广东艾檬电子科技有限公司 | 一种搜索方法及装置 |
CN107193973A (zh) * | 2017-05-25 | 2017-09-22 | 百度在线网络技术(北京)有限公司 | 语义解析信息的领域识别方法及装置、设备及可读介质 |
CN110019655A (zh) * | 2017-07-21 | 2019-07-16 | 北京国双科技有限公司 | 先例案件获取方法及装置 |
CN110019941A (zh) * | 2017-08-22 | 2019-07-16 | 飞狐信息技术(天津)有限公司 | 视频推荐方法及系统 |
CN107766576A (zh) * | 2017-11-15 | 2018-03-06 | 北京航空航天大学 | 一种微博用户兴趣特征的提取方法 |
CN107992474A (zh) * | 2017-11-24 | 2018-05-04 | 国家计算机网络与信息安全管理中心 | 一种流式数据主题挖掘方法及其系统 |
CN107992477A (zh) * | 2017-11-30 | 2018-05-04 | 北京神州泰岳软件股份有限公司 | 文本主题确定方法、装置及电子设备 |
CN108491391A (zh) * | 2018-03-28 | 2018-09-04 | 联想(北京)有限公司 | 相关度获取方法、装置、服务器组以及可读存储介质 |
CN110134945A (zh) * | 2019-04-15 | 2019-08-16 | 平安科技(深圳)有限公司 | 习题考点识别方法、装置、设备和存储介质 |
CN110134945B (zh) * | 2019-04-15 | 2024-04-23 | 平安科技(深圳)有限公司 | 习题考点识别方法、装置、设备和存储介质 |
CN110825867A (zh) * | 2019-11-01 | 2020-02-21 | 科大讯飞股份有限公司 | 相似文本推荐方法、装置、电子设备和存储介质 |
CN110825867B (zh) * | 2019-11-01 | 2023-01-17 | 科大讯飞股份有限公司 | 相似文本推荐方法、装置、电子设备和存储介质 |
CN111259259B (zh) * | 2020-03-11 | 2021-03-30 | 郑州工程技术学院 | 大学生新闻推荐方法、装置、设备及存储介质 |
CN111460787A (zh) * | 2020-03-27 | 2020-07-28 | 深圳价值在线信息科技股份有限公司 | 一种话题提取方法、装置、终端设备及存储介质 |
CN111460787B (zh) * | 2020-03-27 | 2023-09-22 | 深圳价值在线信息科技股份有限公司 | 一种话题提取方法、装置、终端设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN103136300B (zh) | 2017-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103136300A (zh) | 一种文本相关主题的推荐方法和装置 | |
AU2009241626B2 (en) | Social network powered query refinement and recommendations | |
Sun et al. | Tag‐based social image retrieval: An empirical evaluation | |
KR101347407B1 (ko) | 시각적 주석에 기초하여 검색 결과를 모으는 것에 의한 디지털 이미지 검색 | |
AU2010284506B2 (en) | Semantic trading floor | |
CN104298785B (zh) | 一种众搜资源搜索方法 | |
EP2697708A1 (en) | Methods and systems for generating concept-based hash tags | |
US20130117303A1 (en) | Data search device, data search method, and program | |
CN103430172A (zh) | 检索装置、检索方法及程序 | |
KR101290325B1 (ko) | 이동 단말기의 위치 로그 기반의 개인화된 여행지 컨텐츠 검색 방법 및 이를 수행하는 여행지 컨텐츠 검색 시스템 | |
CN107408122B (zh) | 用于新鲜因特网内容的有效检索的介质和方法 | |
US20200293529A1 (en) | Answer facts from structured content | |
US20170242898A1 (en) | Profiles in suggest | |
Baeza-Yates et al. | The new frontier of web search technology: Seven challenges | |
CN104050243A (zh) | 一种将搜索与社交相结合的网络搜索方法及其系统 | |
US9727893B2 (en) | Searching for and creating an adaptive content | |
CN101425981A (zh) | 一种根据互斥指示信息来发布信息的信息发布系统及方法 | |
KR20160002199A (ko) | 연관 키워드를 이용한 이슈 데이터 추출방법 및 시스템 | |
JP2012518221A (ja) | 寄与スコアに基づいた文書順位決定システムおよび方法 | |
JP2015005130A (ja) | 文書投稿装置、方法及びプログラム | |
KR101132431B1 (ko) | 관심 정보 제공 시스템 및 방법 | |
Inversini et al. | Destinations similarity based on user generated pictures’ tags | |
Nishida et al. | Hierarchical auto-tagging: organizing Q&A knowledge for everyone | |
US9116996B1 (en) | Reverse question answering | |
GENTILE | Using Flickr geotags to find similar tourism destinations |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |