CN103235773B - 基于关键词的文本的标签提取方法及装置 - Google Patents

基于关键词的文本的标签提取方法及装置 Download PDF

Info

Publication number
CN103235773B
CN103235773B CN201310150856.2A CN201310150856A CN103235773B CN 103235773 B CN103235773 B CN 103235773B CN 201310150856 A CN201310150856 A CN 201310150856A CN 103235773 B CN103235773 B CN 103235773B
Authority
CN
China
Prior art keywords
keyword
text
vector
conjunctive word
tightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310150856.2A
Other languages
English (en)
Other versions
CN103235773A (zh
Inventor
黄超
刘其文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201310150856.2A priority Critical patent/CN103235773B/zh
Publication of CN103235773A publication Critical patent/CN103235773A/zh
Application granted granted Critical
Publication of CN103235773B publication Critical patent/CN103235773B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种基于关键词的文本的标签提取方法及装置。本发明实施例通过根据文本,提取文本的至少两个关键词,进而根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。

Description

基于关键词的文本的标签提取方法及装置
【技术领域】
本发明涉及标签提取技术,尤其涉及一种基于关键词的文本的标签提取方法及装置。
【背景技术】
在基于文本的应用中,有时候需要从文本中提炼出能够描述文本内容的词语,将其作为文本的标签(tag),还可以称其为标注。现有技术中,将从文本中提取的关键词,直接作为该文本的标签。
然而,在一些情况下,例如,关键词提取错误,或者,再例如,个别关键词只是位于文本内容的语义边缘位置,等,将从文本中提取的关键词,直接作为该文本的标签,会出现所提取的标签不能准确地描述文本,从而导致了标签提取的可靠性的降低。
【发明内容】
本发明的多个方面提供一种基于关键词的文本的标签提取方法及装置,用以提高标签提取的可靠性。
本发明的一方面,提供一种基于关键词的文本的标签提取方法,包括:
确定待提取的文本;
根据所述文本,提取所述文本的至少两个关键词;
根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度;
根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度,包括:
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重;
根据所述关键词的权重,获得所述关键词与所述文本的相关度。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的紧密度,包括:
根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量;
根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量,包括:
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量;
获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度,包括:
根据所述第一向量和所述第二向量,构造所述关键词的第三向量;
根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离;
根据所述向量距离,获得所述关键词与所述文本的紧密度。
本发明的另一方面,提供一种基于关键词的文本的标签提取装置,包括:
确定单元,用于确定待提取的文本;
提取单元,用于根据所述文本,提取所述文本的至少两个关键词;
获得单元,用于根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度;
选择单元,用于根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述获得单元,具体用于
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重;以及根据所述关键词的权重,获得所述关键词与所述文本的相关度。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述获得单元,具体用于
根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量;以及根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述获得单元,具体用于
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量;
获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述获得单元,具体用于
根据所述第一向量和所述第二向量,构造所述关键词的第三向量;根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离;以及根据所述向量距离,获得所述关键词与所述文本的紧密度。
由上述技术方案可知,本发明实施例通过根据文本,提取文本的至少两个关键词,进而根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。
【附图说明】
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的基于关键词的文本的标签提取方法的流程示意图;
图2为本发明另一实施例提供的基于关键词的文本的标签提取装置的结构示意图。
【具体实施方式】
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持装置、无线上网本、个人电脑、便携电脑、MP3播放器、MP4播放器等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本发明一实施例提供的基于关键词的文本的标签提取方法的流程示意图,如图1所示。
101、确定待提取的文本。
102、根据所述文本,提取所述文本的至少两个关键词。
具体地,可以采用现有技术中的任何提取方法,从所述文本中提取所述文本的至少两个关键词,详细描述可以参见现有技术中的相关内容,此处不再赘述。
103、根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度。
104、根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签。
需要说明的是,101~104的执行主体可以是文本处理引擎,可以位于本地的客户端中,以进行离线处理,或者还可以位于网络侧的服务器中,以进行在线处理,本实施例对此不进行限定。
需要说明的是,101~104的执行主体还可以是客户端。
可以理解的是,所述客户端可以是安装在终端上的应用程序,或者还可以是浏览器的一个网页,只要能够实现文本处理服务,以获得文本的应用的客观存在形式都可以,本实施例对此不进行限定。
这样,通过根据文本,提取文本的至少两个关键词,进而根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。
另外,采用本发明提供的技术方案,能够使得基于标签的深度阅读成为可能。
另外,采用本发明提供的技术方案,能够有效提高基于标签的文本推荐的质量。
可选地,在本实施例的一个可能的实现方式中,在103中,具体可以根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重。然后,则可以根据所述关键词的权重,获得所述关键词与所述文本的相关度。
例如,具体可以根据公式(1),获得所述关键词的权重(Weight)。
关键词的权重=k1*关键词在所述文本中的位置+k2*关键词在所述文本中的重复次数+k3*关键词在所述文本中的独立表意能力+k4*关键词在所述文本中的词性+k5*关键词在所述文本中的层次公式(1)
其中,k1、k2、k3、k4和k5均为系数。
这样,则可以将所述关键词的权重,作为所述关联度。
可选地,在本实施例的一个可能的实现方式中,在103中,具体可以根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量。然后,则可以根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
具体地,具体可以根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量。
例如,具体可以根据公式(2),获得所述关键词的权重(weight)。
关键词的权重=m1*关键词在所述文本中的位置+m2*关键词在所述文本中的重复次数+m3*关键词在所述文本中的独立表意能力+m4*关键词在所述文本中的词性+m5*关键词在所述文本中的层次公式(2)
其中,m1、m2、m3、m4和m5均为系数。
根据每个关键词(termn)和每个关键词的权重(weightn),构成第一向量,即
<(term1,weight1)、(term2,weight2)、(term3,weight3)、(term4,weight4)…(termn,weightn)>;
具体地,具体可以获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
例如,具体可以根据公式(3),获得所述关联词的权重(weight)。
关联词的权重=r1*关联词在所述文本中的位置+r2*关联词在所述文本中的重复次数+r3*关联词在所述文本中的独立表意能力+r4*关联词在所述文本中的词性+r5*关联词在所述文本中的层次公式(3)
其中,r1、r2、r3、r4和r5均为系数。
根据每个关联词(sm_termn)和每个关联词的权重(sm_weightn),构成第二向量,即
<(s1_term1,s1_weight1)、(s2_term1,s2_weight1)、(s3_term1,s3_weight1)、(s4_term1,s4_weight1)…(sm_term1,sm_weight1)、(s1_term2,s1_weight2)、(s2_term2,s2_weight2)、(s3_term2,s3_weight2)、(s4_term2,s4_weight2)…(sm_term2,sm_weight2)、(s1_termn,s1_weightn)、(s2_termn,s2_weightn)、(s3_termn,s3_weightn)、(s4_termn,s4_weightn)…(sm_termn,sm_weightn)>;
具体地,具体可以根据所述第一向量和所述第二向量,构造所述关键词的第三向量。进而,可以根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离。然后,则可以根据所述向量距离,获得所述关键词与所述文本的紧密度。
例如,具体可以根据公式(2)和公式(3),构造第三向量,即
<(s1_term1,s1_weight1*weight1)、(s2_term1,s2_weight1*weight1)、(s3_term1,s3_weight1*weight1)、(s4_term1,s4_weight1*weight1)…(sm_term1,sm_weight1*weight1)、(s1_term2,s1_weight2*weight2)、(s2_term2,s2_weight2*weight2)、(s3_term2,s3_weight2*weight2)、(s4_term2,s4_weight2*weight2)…(sm_term2,sm_weight2*weight2)、(s1_termn,s1_weightn*weightn)、(s2_termn,s2_weightn*weightn)、(s3_termn,s3_weightn*weightn)、(s4_termn,s4_weightn*weightn)…(sm_termn,sm_weightn*weightn)>;
这样,则可以计算第二向量与第三向量之间的向量距离即余弦距离,以作为所述紧密度。
可以理解的是,在104中,若所述相关度满足预先设置的相关度阈值条件,那么,则可以选择所述相关度对应的关键词,作为所述文本的标签。
可以理解的是,在104中,若所述紧密度满足预先设置的紧密度阈值条件,那么,则可以选择所述紧密度对应的关键词,作为所述文本的标签。
可以理解的是,在104中,若所述相关度满足预先设置的相关度阈值条件,且所述紧密度满足预先设置的紧密度阈值条件,那么,则可以选择所述紧密度对应的关键词,作为所述文本的标签。
本实施例中,通过根据文本,提取文本的至少两个关键词,进而根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。
另外,采用本发明提供的技术方案,能够使得基于标签的深度阅读成为可能。
另外,采用本发明提供的技术方案,能够有效提高基于标签的文本推荐的质量。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2为本发明另一实施例提供的基于关键词的文本的标签提取装置的结构示意图,如图2所示。本实施例的基于关键词的文本的标签提取装置可以包括确定单元21、提取单元22、获得单元23和选择单元24。其中,确定单元21,用于确定待提取的文本;提取单元22,用于根据所述文本,提取所述文本的至少两个关键词;获得单元23,用于根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度;选择单元24,用于根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签。
具体地,所述提取单元22可以采用现有技术中的任何提取方法,从所述文本中提取所述文本的至少两个关键词,详细描述可以参见现有技术中的相关内容,此处不再赘述。
需要说明的是,本实施例提供的装置可以是文本处理引擎,可以位于本地的客户端中,以进行离线处理,或者还可以位于网络侧的服务器中,以进行在线处理,本实施例对此不进行限定。
需要说明的是,本实施例提供的装置还可以是客户端。
可以理解的是,所述客户端可以是安装在终端上的应用程序,或者还可以是浏览器的一个网页,只要能够实现文本处理服务,以获得文本的应用的客观存在形式都可以,本实施例对此不进行限定。
这样,通过提取单元根据文本,提取文本的至少两个关键词,进而由获得单元根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得选择单元能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。
另外,采用本发明提供的技术方案,能够使得基于标签的深度阅读成为可能。
另外,采用本发明提供的技术方案,能够有效提高基于标签的文本推荐的质量。
可选地,在本实施例的一个可能的实现方式中,所述获得单元23,具体可以用于根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重;以及根据所述关键词的权重,获得所述关键词与所述文本的相关度。
例如,所述获得单元23具体可以根据公式(1),获得所述关键词的权重(Weight)。
关键词的权重=k1*关键词在所述文本中的位置+k2*关键词在所述文本中的重复次数+k3*关键词在所述文本中的独立表意能力+k4*关键词在所述文本中的词性+k5*关键词在所述文本中的层次 公式(1)
其中,k1、k2、k3、k4和k5均为系数。
这样,所述获得单元23则可以将所述关键词的权重,作为所述关联度。
可选地,在本实施例的一个可能的实现方式中,所述获得单元23,具体可以用于根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量;以及根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
具体地,所述获得单元23,具体可以用于根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量。
例如,所述获得单元23具体可以根据公式(2),获得所述关键词的权重(weight)。
关键词的权重=m1*关键词在所述文本中的位置+m2*关键词在所述文本中的重复次数+m3*关键词在所述文本中的独立表意能力+m4*关键词在所述文本中的词性+m5*关键词在所述文本中的层次 公式(2)
其中,m1、m2、m3、m4和m5均为系数。
所述获得单元23根据每个关键词(termn)和每个关键词的权重(weightn),构成第一向量,即
<(term1,weight1)、(term2,weight2)、(term3,weight3)、(term4,weight4)…(termn,weightn)>;
具体地,所述获得单元23,具体还可以用于获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
例如,所述获得单元23具体可以根据公式(3),获得所述关联词的权重(weight)。
关联词的权重=r1*关联词在所述文本中的位置+r2*关联词在所述文本中的重复次数+r3*关联词在所述文本中的独立表意能力+r4*关联词在所述文本中的词性+r5*关联词在所述文本中的层次公式(3)
其中,r1、r2、r3、r4和r5均为系数。
所述获得单元23根据每个关联词(sm_termn)和每个关联词的权重(sm_weightn),构成第二向量,即
<(s1_term1,s1_weight1)、(s2_term1,s2_weight1)、(s3_term1,s3_weight1)、(s4_term1,s4_weight1)…(sm_term1,sm_weight1)、(s1_term2,s1_weight2)、(s2_term2,s2_weight2)、(s3_term2,s3_weight2)、(s4_term2,s4_weight2)…(sm_term2,sm_weight2)、(s1_termn,s1_weightn)、(s2_termn,s2_weightn)、(s3_termn,s3_weightn)、(s4_termn,s4_weightn)…(sm_termn,sm_weightn)>;
具体地,所述获得单元23具体可以根据所述第一向量和所述第二向量,构造所述关键词的第三向量;根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离;以及根据所述向量距离,获得所述关键词与所述文本的紧密度。
例如,所述获得单元23具体可以根据公式(2)和公式(3),构造第三向量,即
<(s1_term1,s1_weight1*weight1)、(s2_term1,s2_weight1*weight1)、(s3_term1,s3_weight1*weight1)、(s4_term1,s4_weight1*weight1)…(sm_term1,sm_weight1*weight1)、(s1_term2,s1_weight2*weight2)、(s2_term2,s2_weight2*weight2)、(s3_term2,s3_weight2*weight2)、(s4_term2,s4_weight2*weight2)…(sm_term2,sm_weight2*weight2)、(s1_termn,s1_weightn*weightn)、(s2_termn,s2_weightn*weightn)、(s3_termn,s3_weightn*weightn)、(s4_termn,s4_weightn*weightn)…(sm_termn,sm_weightn*weightn)>;
这样,所述获得单元23则可以计算第二向量与第三向量之间的向量距离即余弦距离,以作为所述紧密度。
可以理解的是,若所述相关度满足预先设置的相关度阈值条件,那么,所述选择单元24则可以选择所述相关度对应的关键词,作为所述文本的标签。
可以理解的是,若所述紧密度满足预先设置的紧密度阈值条件,那么,所述选择单元24则可以选择所述紧密度对应的关键词,作为所述文本的标签。
可以理解的是,若所述相关度满足预先设置的相关度阈值条件,且所述紧密度满足预先设置的紧密度阈值条件,那么,所述选择单元24则可以选择所述紧密度对应的关键词,作为所述文本的标签。
本实施例中,通过提取单元根据文本,提取文本的至少两个关键词,进而由获得单元根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度,使得选择单元能够根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签,由于根据关键词与文本的相关度和/或关键词与文本的紧密度,对所提取的关键词进行有条件的选择,作为所述文本的标签,能够避免现有技术中由于将从文本中提取的关键词,直接作为该文本的标签而导致的所提取的标签不能准确地描述文本的问题,从而提高了标签提取的可靠性。
另外,采用本发明提供的技术方案,能够使得基于标签的深度阅读成为可能。
另外,采用本发明提供的技术方案,能够有效提高基于标签的文本推荐的质量。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (8)

1.一种基于关键词的文本的标签提取方法,其特征在于,包括:
确定待提取的文本;
根据所述文本,提取所述文本的至少两个关键词;
根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度;
根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签;其中,
所述根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的紧密度,包括:
根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量;
根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
2.根据权利要求1所述的方法,其特征在于,所述根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度,包括:
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重;
根据所述关键词的权重,获得所述关键词与所述文本的相关度。
3.根据权利要求1所述的方法,其特征在于,所述根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量,包括:
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量;
获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
4.根据权利要求1~3任一权利要求所述的方法,其特征在于,所述根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度,包括:
根据所述第一向量和所述第二向量,构造所述关键词的第三向量;
根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离;
根据所述向量距离,获得所述关键词与所述文本的紧密度。
5.一种基于关键词的文本的标签提取装置,其特征在于,包括:
确定单元,用于确定待提取的文本;
提取单元,用于根据所述文本,提取所述文本的至少两个关键词;
获得单元,用于根据所述至少两个关键词中每个所述关键词的相关信息,获得每个所述关键词与所述文本的相关度和/或每个所述关键词与所述文本的紧密度;
选择单元,用于根据所述相关度和/或所述紧密度,从所述至少两个关键词中选择部分关键词或全部关键词,以作为所述文本的标签;其中,
所述获得单元,具体用于
根据所述至少两个关键词中每个所述关键词的相关信息,构造每个所述关键词的第一向量和第二向量;以及根据所述第一向量和所述第二向量,获得每个所述关键词与所述文本的紧密度。
6.根据权利要求5所述的装置,其特征在于,所述获得单元,具体用于
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重;以及根据所述关键词的权重,获得所述关键词与所述文本的相关度。
7.根据权利要求5所述的装置,其特征在于,所述获得单元,具体用于
根据所述关键词在所述文本中的位置、所述关键词在所述文本中的重复次数、所述关键词在所述文本中的独立表意能力、所述关键词在所述文本中的词性和所述关键词在所述文本中的层次中的至少一项信息,获得所述关键词的权重,以及根据所述关键词和所述关键词的权重,构造所述第一向量;
获得与所述关键词关联的关联词,根据所述关联词在对应文本中的位置、所述关联词在对应文本中的重复次数、所述关联词在对应文本中的独立表意能力、所述关联词在对应文本中的词性和所述关联词在对应文本中的层次中的至少一项信息,获得所述关联词的权重,以及根据所述关联词和所述关联词的权重,构造所述第二向量。
8.根据权利要求5~7任一权利要求所述的装置,其特征在于,所述获得单元,具体用于
根据所述第一向量和所述第二向量,构造所述关键词的第三向量;根据所述第二向量和所述第三向量,获得所述第二向量与所述第三向量之间的向量距离;以及根据所述向量距离,获得所述关键词与所述文本的紧密度。
CN201310150856.2A 2013-04-26 2013-04-26 基于关键词的文本的标签提取方法及装置 Active CN103235773B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310150856.2A CN103235773B (zh) 2013-04-26 2013-04-26 基于关键词的文本的标签提取方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310150856.2A CN103235773B (zh) 2013-04-26 2013-04-26 基于关键词的文本的标签提取方法及装置

Publications (2)

Publication Number Publication Date
CN103235773A CN103235773A (zh) 2013-08-07
CN103235773B true CN103235773B (zh) 2019-02-12

Family

ID=48883817

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310150856.2A Active CN103235773B (zh) 2013-04-26 2013-04-26 基于关键词的文本的标签提取方法及装置

Country Status (1)

Country Link
CN (1) CN103235773B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103473317A (zh) * 2013-09-12 2013-12-25 百度在线网络技术(北京)有限公司 提取关键词的方法和设备
CN105512150A (zh) * 2014-10-16 2016-04-20 腾讯科技(深圳)有限公司 一种信息搜索方法及装置
CN106033445B (zh) * 2015-03-16 2019-10-25 北京国双科技有限公司 获取文章关联度数据的方法和装置
CN106547757B (zh) * 2015-09-17 2021-05-28 北京国双科技有限公司 匹配关键词与创意内容的方法和装置
CN106095780B (zh) * 2016-05-26 2019-12-03 达而观信息科技(上海)有限公司 一种基于位置特征的检索方法
CN107665222B (zh) * 2016-07-29 2020-11-06 北京国双科技有限公司 关键词的拓展方法和装置
CN107885793A (zh) * 2017-10-20 2018-04-06 江苏大学 一种微博热点话题分析预测方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003038667A1 (fr) * 2001-09-07 2003-05-08 Legend (Beijing) Limited. Filtre a contenu fonctionnant par comparaison entre la similarite de caracteres de contenu et la correlation de la matiere
CN101408886A (zh) * 2007-10-05 2009-04-15 富士通株式会社 通过分析文档的段落来选择该文档的标签
CN102289523A (zh) * 2011-09-20 2011-12-21 北京金和软件股份有限公司 一种文本智能提取标签的方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003038667A1 (fr) * 2001-09-07 2003-05-08 Legend (Beijing) Limited. Filtre a contenu fonctionnant par comparaison entre la similarite de caracteres de contenu et la correlation de la matiere
CN101408886A (zh) * 2007-10-05 2009-04-15 富士通株式会社 通过分析文档的段落来选择该文档的标签
CN102289523A (zh) * 2011-09-20 2011-12-21 北京金和软件股份有限公司 一种文本智能提取标签的方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于组合词和同义词集的关键词提取算法;蒋昌金 等;《计算机应用研究》;20100815;第27卷(第8期);第2853-2856页
基于语义的中文文本关键词提取算法;王立霞 等;《计算机工程》;20120105;第38卷(第1期);第2-4页第2-3节

Also Published As

Publication number Publication date
CN103235773A (zh) 2013-08-07

Similar Documents

Publication Publication Date Title
CN103235773B (zh) 基于关键词的文本的标签提取方法及装置
Krishna et al. Thieves on sesame street! model extraction of bert-based apis
CN109086303B (zh) 基于机器阅读理解的智能对话方法、装置、终端
CN105869642B (zh) 一种语音文本的纠错方法及装置
CN104156454B (zh) 搜索词的纠错方法和装置
CN113590776B (zh) 基于知识图谱的文本处理方法、装置、电子设备及介质
CN109271493A (zh) 一种语言文本处理方法、装置和存储介质
CN111292752B (zh) 一种用户意图识别方法、装置、电子设备及存储介质
CN102651719B (zh) 用于在消息交互环境中跟踪消息话题的方法和设备
CN109460461A (zh) 基于文本相似度模型的文本匹配方法及系统
CN105893484A (zh) 一种基于文本特征和行为特征的微博Spammer识别方法
WO2015021937A1 (zh) 用户推荐方法和装置
CN104915359B (zh) 主题标签推荐方法及装置
CN110209809B (zh) 文本聚类方法和装置、存储介质及电子装置
CN109062914A (zh) 用户推荐方法和装置,存储介质和服务器
CN109145083A (zh) 一种基于深度学习的候选答案选取方法
CN105447004B (zh) 查询推荐词的挖掘、相关查询方法及装置
CN109410935A (zh) 一种基于语音识别的目的地搜索方法及装置
CN110020974A (zh) 律师推荐方法、装置、介质及电子设备
CN109325178A (zh) 用于处理信息的方法和装置
CN114365118A (zh) 具有基本查询元素检测和图形路径生成的人工智能聊天机器人中基于知识图的查询
CN103399737B (zh) 基于语音数据的多媒体处理方法及装置
CN104408036B (zh) 关联话题的识别方法和装置
CN111062209A (zh) 自然语言处理模型训练方法和自然语言处理模型
US10191786B2 (en) Application program interface mashup generation

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant