CN112464654B - 关键词生成方法、装置、电子设备和计算机可读介质 - Google Patents

关键词生成方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN112464654B
CN112464654B CN202011354276.1A CN202011354276A CN112464654B CN 112464654 B CN112464654 B CN 112464654B CN 202011354276 A CN202011354276 A CN 202011354276A CN 112464654 B CN112464654 B CN 112464654B
Authority
CN
China
Prior art keywords
word
vector
weight
text
speech
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011354276.1A
Other languages
English (en)
Other versions
CN112464654A (zh
Inventor
石聪
邵德奇
关培培
赵喆
田兴亚
段治平
冯超
李腾飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Science And Technology Daily
Original Assignee
Science And Technology Daily
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Science And Technology Daily filed Critical Science And Technology Daily
Priority to CN202011354276.1A priority Critical patent/CN112464654B/zh
Publication of CN112464654A publication Critical patent/CN112464654A/zh
Application granted granted Critical
Publication of CN112464654B publication Critical patent/CN112464654B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/284Lexical analysis, e.g. tokenisation or collocates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/279Recognition of textual entities
    • G06F40/289Phrasal analysis, e.g. finite state techniques or chunking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开的实施例公开了关键词生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:对目标文本进行分词处理,得到词语集合;生成所述词语集合中每个词语的词向量,得到词向量集合;基于所述词向量集合,生成文本向量;基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。该实施方式提供了一种针对文本的关键词的有效提取手段。降低了人工提取的成本,提取的关键词也较为符合用户的需求,侧面提高了用户体验。

Description

关键词生成方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域,具体涉及关键词生成方法、装置、电子设备和计算机可读介质。
背景技术
随着互联网时代的到来,提取文本关键词成为自然语言处理领域的一个重要研究方向,实现文本中关键词的提取也是人工智能走向成熟的一个重要标志。我们希望未来计算机可以像人类一样捕捉到文本中相关性较高的关键词。现有的关键词提取、生成技术常常难以提取所期望的关键词。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了关键词生成方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题。
第一方面,本公开的一些实施例提供了一种关键词生成方法,该方法包括:对目标文本进行分词处理,得到词语集合;生成所述词语集合中每个词语的词向量,得到词向量集合;基于所述词向量集合,生成文本向量;基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
第二方面,本公开的一些实施例提供了一种关键词生成装置,装置包括:分词单元,被配置成对目标文本进行分词处理,得到词语集合;第一生成单元,被配置成生成所述词语集合中每个词语的词向量,得到词向量集合;第二生成单元,被配置成基于所述词向量集合,生成文本向量;第三生成单元,被配置成基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中所描述的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现如第一方面中所描述的方法。
本公开的上述各个实施例中的一个实施例具有如下有益效果:通过对目标文本进行分词处理,得到词语集合。然后,通过生成词语的词向量来生成文本向量。之后,根据词向量、文本向量,从词语集合中确定出关键词。由此,提供了一种针对文本的关键词的有效提取手段。降低了人工提取的成本,提取的关键词也较为符合用户的需求,侧面提高了用户体验。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是根据本公开的一些实施例的关键词生成方法的一个应用场景的示意图;
图2是根据本公开的关键词生成方法的一些实施例的流程图;
图3是根据本公开的关键词生成方法的另一些实施例的流程图;
图4是根据本公开的关键词生成装置的一些实施例的结构示意图;
图5是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是根据本公开一些实施例的关键词生成方法的一个应用场景的示意图。
在图1的应用场景中,首先,计算设备101可以对目标文本102进行分词处理,得到词语集合103。然后,计算设备101可以生成词语集合103中每个词语的词向量,得到词向量集合104。之后,计算设备101可以基于词向量集合104,生成文本向量105。最后,计算设备101可以基于词语集合103、词向量集合104和文本向量105,生成关键词106。
需要说明的是,上述计算设备101可以是硬件,也可以是软件。当计算设备为硬件时,可以实现成多个服务器或终端设备组成的分布式集群,也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时,可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的计算设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的计算设备。
继续参考图2,示出了根据本公开的关键词生成方法的一些实施例的流程200。该方法可以由图1中的计算设备101来执行。该关键词生成方法,包括以下步骤:
步骤201,对目标文本进行分词处理,得到词语集合。
在一些实施例中,关键词生成方法的执行主体(如图1所示的计算设备101)可以对上述目标文本进行分词处理,得到词语集合。这里,分词处理可以是将一个语句切分成一个个单独的单词。作为示例,目标文本可以是论文,也可以是作文。
在一些实施例的一些可选的实现方式中,上述执行主体可以基于预设词表,对上述目标文本进行分词处理,得到词语集合。这里,预设词表可以是基于行业类别预先构建的。作为示例,预设词表可以是基于能源行业预先构建的,预设词表也可以是基于生物医药行业预先构建的。
步骤202,生成所述词语集合中每个词语的词向量,得到词向量集合。
在一些实施例中,上述执行主体可以通过多种方式生成上述词语集合中每个词语的词向量,得到词向量集合。例如,上述执行主体可以对上述词语集合中每个词语进行词嵌入,得到每个词语的词向量,组合得到上述词向量集合。
上文陈述的词嵌入是自然语言处理(Natural Language Processing,NLP)中语言模型与表征学习技术的统称。概念上而言,它是指把一个维数为所有词的数量的高维空间嵌入到一个维数低得多的连续向量空间中,每个单词或词组被映射为实数域上的向量。具体地,词向量可以是单词或短语通过词嵌入方法被映射到实数的向量。从概念上讲,它涉及从每个单词一维的空间到具有更低维度的连续向量空间的数学嵌入。
步骤203,基于所述词向量集合,生成文本向量。
在一些实施例中,上述执行主体可以通过求和的方式生成上述文本向量。作为示例,上述执行主体可以利用累加法将归属词向量集合中的词向量相加,生成上述文本向量。作为另一示例,上述执行主体可以利用平均法将上述词向量集合中的词向量进行相加再求平均值,生成上述文本向量。
步骤204,基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
在一些实施例中,上述执行主体可以基于上述词语集合、上述词向量集合和上述文本向量,通过以下步骤生成关键词:
第一步,上述执行主体可以确定上述词语集合中每个词语的词性,得到词性集合。这里,词性可以是名词,可以是动词,也可以是形容词,还可以是行业词。其中,行业词可以是与行业相关的词。作为示例,词语“年利率”与金融行业相关,所以词语“年利率”的词性可以是行业词。
第二步,上述执行主体可以基于上述词性集合和预设权重,为上述词语集合中的每个词语添加词性权重,得到词性权重集合。作为示例,预设权重可以是“名词:0.3,形容词:0.2,动词:0.2,行业词:0.4”,“词语A”的词性为“名词”,上述执行主体可以为“词语A”添加词性权重“0.3”。
第三步,上述执行主体可以确定上述词向量集合中每个词向量与上述文本向量的余弦值,得到余弦值集合。这里,余弦值是通过确定词向量与文本向量的余弦夹角得到的。
第四步,上述执行主体可以基于上述余弦值集合,为上述词语集合中的每个词语添加语义权重,得到语义权重集合。作为示例,“词语B”的词向量与文本向量的余弦值为“0.13”,上述执行主体可以为“词语B”添加语义权重“0.13”。
第五步,上述执行主体可以基于上述词性权重集合和上述语义权重集合,确定上述词语集合中每个词语的总权重,得到总权重集合。作为示例,“词语C”的词性权重可以是“0.3”,语义权重可以是“0.25”,上述执行主体可以对“词语C”的词性权重和语义权重进行求和,得到“词语C”的总权重“0.55”。
第六步,上述执行主体可以基于上述总权重集合,对上述词语集合中的词语按照总权重由大到小的顺序进行排序,得到词语序列。作为示例,“词语E”的总权重为“0.36”,“词语F”的总权重为“0.52”,“词语G”的总权重为“0.43”,上述执行主体可以按照总权重由大到小的顺序对词语进行排序,得到词语序列“词语F;词语G;词语E”。
第七步,上述执行主体可以从上述词语序列中选择词语,以及将上述词语确定为关键词。作为示例,上述执行主体可以从词语序列“词语F;词语G;词语E”中选择“词语F”,以及上述执行主体可以将“词语F”确定为关键词。
本公开的上述各个实施例中的一个实施例具有如下有益效果:通过对目标文本进行分词处理,得到词语集合。然后,通过生成词语的词向量来生成文本向量。之后,根据词向量、文本向量,从词语集合中确定出关键词。由此,提供了一种针对文本的关键词的有效提取手段。降低了人工提取的成本,提取的关键词也较为符合用户的需求,侧面提高了用户体验。
继续参考图3,示出了根据本公开的关键词生成方法的另一些实施例的流程300。该方法可以由图1中的计算设备101来执行。该关键词生成方法,包括以下步骤:
步骤301,对目标文本进行分词处理,得到词语集合。
在一些实施例中,步骤301的具体实现及所带来的技术效果可以参考图2对应的那些实施例中的步骤201,在此不再赘述。
步骤302,将所述词语集合中每个词语输入至预先训练的深度学习网络,得到每个词语的词向量,组成词向量集合。
在一些实施例中,上述执行主体可以将上述词语集合中每个词语输入至预先训练的深度学习网络,得到每个词语的词向量。这里,预先训练的深度学习网络可以是Bert中文模型(Bert中文模型是自然语言处理领域)。深度学习网络引入了双向自注意力机制网络。
在一些实施例中,自注意力机制网络可以很好的解决语言双向问题和全局信息抽取问题。进而,提取出的词向量可以更好的表征词的文章权重。
步骤303,将所述词向量集合输入至所述深度学习网络,得到文本向量。
在一些实施例中,上述执行主体可以将上述词向量集合输入至上述深度学习网络,得到文本向量。
步骤304,基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
在一些实施例中,步骤304的具体实现及所带来的技术效果可以参考图2对应的那些实施例中的步骤204,在此不再赘述。
步骤305,将所述关键词推送至具有显示功能的目标设备,以及控制所述目标设备显示所述关键词。
在一些实施例中,上述执行主体可以将上述关键词推送至具有显示功能的目标设备,以及控制上述目标设备显示上述关键词。
从图3中可以看出,与图2对应的一些实施例的描述相比,图3对应的一些实施例中的关键词生成方法的流程300体现了对如何得到词向量集合、如何得到文本向量进行扩展的步骤。由此,这些实施例描述的方案可以通过预先训练的深度学习网络(Bert中文模型)来生成词向量集合和文本向量。为关键词的确定与提取提供了便利。从而,提供了一种针对文本的关键词的有效提取手段。降低了人工提取的成本,侧面提高了用户体验。
进一步参考图4,作为对上述各图上述方法的实现,本公开提供了一种关键词生成装置的一些实施例,这些装置实施例与图2上述的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,一些实施例的关键词生成装置400包括:分词单元401、第一生成单元402、第二生成单元403和第三生成单元404。其中,分词单元401,被配置成对目标文本进行分词处理,得到词语集合;第一生成单元402,被配置成生成所述词语集合中每个词语的词向量,得到词向量集合;第二生成单元403,被配置成基于所述词向量集合,生成文本向量;第三生成单元404,被配置成基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
在一些实施例的一些可选的实现方式中,关键词生成装置400的分词单元401被进一步配置成:基于预设词表,对所述目标文本进行分词处理,得到词语集合。
在一些实施例的一些可选的实现方式中,关键词生成装置400的第一生成单元402被进一步配置成:将所述词语集合中每个词语输入至预先训练的深度学习网络,得到每个词语的词向量,组成词向量集合。
在一些实施例的一些可选的实现方式中,关键词生成装置400的第二生成单元403被进一步配置成:将所述词向量集合输入至所述深度学习网络,得到文本向量。
在一些实施例的一些可选的实现方式中,关键词生成装置400的第三生成单元404被进一步配置成:确定所述词语集合中每个词语的词性,得到词性集合;基于所述词性集合和预设权重,为所述词语集合中的每个词语添加词性权重,得到词性权重集合;确定所述词向量集合中每个词向量与所述文本向量的余弦值,得到余弦值集合;基于所述余弦值集合,为所述词语集合中的每个词语添加语义权重,得到语义权重集合;基于所述词性权重集合和所述语义权重集合,生成关键词。
在一些实施例的一些可选的实现方式中,关键词生成装置400的第三生成单元404被进一步配置成:基于所述词性权重集合和所述语义权重集合,确定所述词语集合中每个词语的总权重,得到总权重集合;基于所述总权重集合,对所述词语集合中的词语按照总权重由大到小的顺序进行排序,得到词语序列;从所述词语序列中选择词语,以及将所述词语确定为关键词。
在一些实施例的一些可选的实现方式中,关键词生成装置400被进一步配置成:将所述关键词推送至具有显示功能的目标设备,以及控制所述目标设备显示所述关键词。
可以理解的是,该装置400中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置400及其中包含的单元,在此不再赘述。
下面参考图5,其示出了适于用来实现本公开的一些实施例的电子设备(例如图1中的计算设备101)500的结构示意图。图5示出的服务器仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图5中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述装置中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:对目标文本进行分词处理,得到词语集合;生成所述词语集合中每个词语的词向量,得到词向量集合;基于所述词向量集合,生成文本向量;基于所述词语集合、所述词向量集合和所述文本向量,生成关键词。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括分词单元、第一生成单元、第二生成单元和第三生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,分词单元还可以被描述为“对目标文本进行分词处理,得到词语集合的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (5)

1.一种关键词生成方法,包括:
对目标文本进行分词处理,得到词语集合;
生成所述词语集合中每个词语的词向量,得到词向量集合;
基于所述词向量集合,生成文本向量;
基于所述词语集合、所述词向量集合和所述文本向量,生成关键词;
所述对目标文本进行分词处理,得到词语集合,包括:基于预设词表,对所述目标文本进行分词处理,得到词语集合,所述预设词表基于行业类别预先构建;
所述生成所述词语集合中每个词语的词向量,得到词向量集合,包括:将所述词语集合中每个词语输入至预先训练的深度学习网络,得到每个词语的词向量,组成词向量集合,所述深度学习网络为BERT中文模型;
所述基于所述词向量集合,生成文本向量,包括:将所述词向量集合输入至所述深度学习网络,生成所述文本向量;
所述基于所述词语集合、所述词向量集合和所述文本向量,生成关键词,包括:确定所述词语集合中每个词语的词性,得到词性集合,词性包括名词、动词、形容词、行业词;基于所述词性集合和预设权重,为所述词语集合中的每个词语添加词性权重,得到词性权重集合;确定所述词向量集合中每个词向量与所述文本向量的余弦值,得到余弦值集合,所述余弦值通过确定词向量与文本向量的余弦夹角得到;
基于所述余弦值集合,为所述词语集合中的每个词语添加语义权重,得到语义权重集合;基于所述词性权重集合和所述语义权重集合,生成关键词;
所述基于所述词语集合、所述词向量集合和所述文本向量,生成关键词,包括:基于所述词性权重集合和所述语义权重集合,确定所述词语集合中每个词语的总权重,得到总权重集合,其中,所述总权重为词语的词性权重和语义权重之和;基于所述总权重集合,对所述词语集合中的词语按照总权重由大到小的顺序进行排序,得到词语序列;从所述词语序列中选择词语,以及将所述词语确定为关键词。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将所述关键词推送至具有显示功能的目标设备,以及控制所述目标设备显示所述关键词。
3.一种关键词生成装置,包括:
分词单元,被配置成对目标文本进行分词处理,得到词语集合;
第一生成单元,被配置成生成所述词语集合中每个词语的词向量,得到词向量集合;
第二生成单元,被配置成基于所述词向量集合,生成文本向量;
第三生成单元,被配置成基于所述词语集合、所述词向量集合和所述文本向量,生成关键词;
所述对目标文本进行分词处理,得到词语集合,包括:基于预设词表,对所述目标文本进行分词处理,得到词语集合,所述预设词表基于行业类别预先构建;
所述生成所述词语集合中每个词语的词向量,得到词向量集合,包括:将所述词语集合中每个词语输入至预先训练的深度学习网络,得到每个词语的词向量,组成词向量集合,所述深度学习网络为BERT中文模型;
所述基于所述词向量集合,生成文本向量,包括:将所述词向量集合输入至所述深度学习网络,生成所述文本向量;
所述基于所述词语集合、所述词向量集合和所述文本向量,生成关键词,包括:确定所述词语集合中每个词语的词性,得到词性集合,词性包括名词、动词、形容词、行业词;基于所述词性集合和预设权重,为所述词语集合中的每个词语添加词性权重,得到词性权重集合;确定所述词向量集合中每个词向量与所述文本向量的余弦值,得到余弦值集合,所述余弦值通过确定词向量与文本向量的余弦夹角得到;
基于所述余弦值集合,为所述词语集合中的每个词语添加语义权重,得到语义权重集合;基于所述词性权重集合和所述语义权重集合,生成关键词;
所述基于所述词语集合、所述词向量集合和所述文本向量,生成关键词,包括:基于所述词性权重集合和所述语义权重集合,确定所述词语集合中每个词语的总权重,得到总权重集合,其中,所述总权重为词语的词性权重和语义权重之和;基于所述总权重集合,对所述词语集合中的词语按照总权重由大到小的顺序进行排序,得到词语序列;从所述词语序列中选择词语,以及将所述词语确定为关键词。
4.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-2中任一所述的方法。
5.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-2中任一所述的方法。
CN202011354276.1A 2020-11-27 2020-11-27 关键词生成方法、装置、电子设备和计算机可读介质 Active CN112464654B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011354276.1A CN112464654B (zh) 2020-11-27 2020-11-27 关键词生成方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011354276.1A CN112464654B (zh) 2020-11-27 2020-11-27 关键词生成方法、装置、电子设备和计算机可读介质

Publications (2)

Publication Number Publication Date
CN112464654A CN112464654A (zh) 2021-03-09
CN112464654B true CN112464654B (zh) 2022-06-17

Family

ID=74809702

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011354276.1A Active CN112464654B (zh) 2020-11-27 2020-11-27 关键词生成方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN112464654B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115543925B (zh) * 2022-12-02 2023-09-19 北京德风新征程科技有限公司 文件处理方法、装置、电子设备和计算机可读介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389379A (zh) * 2015-11-20 2016-03-09 重庆邮电大学 一种基于文本分布式特征表示的垃圾稿件分类方法
CN108595425A (zh) * 2018-04-20 2018-09-28 昆明理工大学 基于主题与语义的对话语料关键词抽取方法
CN111209372A (zh) * 2020-01-02 2020-05-29 北京字节跳动网络技术有限公司 一种关键词的确定方法、装置、电子设备和存储介质

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPQ825300A0 (en) * 2000-06-20 2000-07-13 University Of Queensland, The Method of sentence analysis
CN105095430A (zh) * 2015-07-22 2015-11-25 深圳证券信息有限公司 构建词语网络及抽取关键词的方法和装置
CN106598941A (zh) * 2016-11-01 2017-04-26 四川用联信息技术有限公司 一种全局优化文本关键词质量的算法
CN107766426B (zh) * 2017-09-14 2020-05-22 北京百分点信息科技有限公司 一种文本分类方法、装置及电子设备
CN108197109B (zh) * 2017-12-29 2021-04-23 北京百分点科技集团股份有限公司 一种基于自然语言处理的多语言分析方法和装置
CN108108497A (zh) * 2018-01-29 2018-06-01 上海名轩软件科技有限公司 关键词推荐方法及设备
CN108563636A (zh) * 2018-04-04 2018-09-21 广州杰赛科技股份有限公司 提取文本关键词的方法、装置、设备及存储介质
CN110633464A (zh) * 2018-06-22 2019-12-31 北京京东尚科信息技术有限公司 一种语义识别方法、装置、介质及电子设备
US20200279105A1 (en) * 2018-12-31 2020-09-03 Dathena Science Pte Ltd Deep learning engine and methods for content and context aware data classification
CN110263323B (zh) * 2019-05-08 2020-08-28 清华大学 基于栅栏式长短时记忆神经网络的关键词抽取方法及系统
CN110598213A (zh) * 2019-09-06 2019-12-20 腾讯科技(深圳)有限公司 一种关键词提取方法、装置、设备及存储介质
CN110705248A (zh) * 2019-10-09 2020-01-17 厦门今立方科技有限公司 一种文本相似度计算方法、终端设备及存储介质
CN110929043B (zh) * 2019-11-28 2023-02-24 北京智齿博创科技有限公司 业务问题提取方法及装置
CN111160017B (zh) * 2019-12-12 2021-09-03 中电金信软件有限公司 关键词抽取方法、话术评分方法以及话术推荐方法
CN111400484B (zh) * 2020-03-20 2023-06-02 支付宝(杭州)信息技术有限公司 一种关键词提取方法和系统
CN111444704B (zh) * 2020-03-27 2023-09-19 中南大学 基于深度神经网络的网络安全关键词抽取方法
CN111914564B (zh) * 2020-07-13 2023-03-14 北京邮电大学 一种文本关键词确定方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105389379A (zh) * 2015-11-20 2016-03-09 重庆邮电大学 一种基于文本分布式特征表示的垃圾稿件分类方法
CN108595425A (zh) * 2018-04-20 2018-09-28 昆明理工大学 基于主题与语义的对话语料关键词抽取方法
CN111209372A (zh) * 2020-01-02 2020-05-29 北京字节跳动网络技术有限公司 一种关键词的确定方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
CN112464654A (zh) 2021-03-09

Similar Documents

Publication Publication Date Title
JP7421604B2 (ja) モデル事前訓練方法および装置、テキスト生成方法および装置、電子機器、記憶媒体並びにコンピュータプログラム
CN107491534B (zh) 信息处理方法和装置
CN107273503B (zh) 用于生成同语言平行文本的方法和装置
EP3852002A1 (en) Method and apparatus for mining entity focus in text
JP7301922B2 (ja) 意味検索方法、装置、電子機器、記憶媒体およびコンピュータプログラム
CN109241286B (zh) 用于生成文本的方法和装置
CN109740167B (zh) 用于生成信息的方法和装置
CN108121699B (zh) 用于输出信息的方法和装置
CN110909550A (zh) 文本处理方法、装置、电子设备和可读存储介质
CN114385780B (zh) 程序接口信息推荐方法、装置、电子设备和可读介质
US20180253987A1 (en) Learning of policy for selection of associative topic in dialog system
US11516159B2 (en) Systems and methods for providing a comment-centered news reader
CN111061877A (zh) 文本主题提取方法和装置
WO2024099342A1 (zh) 翻译方法、装置、可读介质及电子设备
CN111368551A (zh) 一种确定事件主体的方法和装置
CN106663123B (zh) 以评论为中心的新闻阅读器
CN114330474A (zh) 一种数据处理方法、装置、计算机设备以及存储介质
CN112464654B (zh) 关键词生成方法、装置、电子设备和计算机可读介质
CN112307738B (zh) 用于处理文本的方法和装置
CN113869042A (zh) 文本标题生成方法、装置、电子设备以及存储介质
CN112507705B (zh) 一种位置编码的生成方法、装置及电子设备
CN110852057A (zh) 一种计算文本相似度的方法和装置
CN112329429A (zh) 文本相似度学习方法、装置、设备以及存储介质
CN116108157A (zh) 训练文本生成模型的方法、文本生成方法及装置
CN115631261A (zh) 图像生成模型的训练方法、图像生成方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant