CN113220835B - 文本信息处理方法、装置、电子设备以及存储介质 - Google Patents
文本信息处理方法、装置、电子设备以及存储介质 Download PDFInfo
- Publication number
- CN113220835B CN113220835B CN202110502464.2A CN202110502464A CN113220835B CN 113220835 B CN113220835 B CN 113220835B CN 202110502464 A CN202110502464 A CN 202110502464A CN 113220835 B CN113220835 B CN 113220835B
- Authority
- CN
- China
- Prior art keywords
- word
- words
- category
- knowledge graph
- text information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 70
- 238000003672 processing method Methods 0.000 title claims abstract description 42
- 238000002372 labelling Methods 0.000 claims abstract description 57
- 238000012545 processing Methods 0.000 claims description 26
- 238000013507 mapping Methods 0.000 claims description 24
- 238000000034 method Methods 0.000 claims description 23
- 230000011218 segmentation Effects 0.000 claims description 11
- 230000015654 memory Effects 0.000 claims description 9
- 238000013473 artificial intelligence Methods 0.000 abstract description 7
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 235000019580 granularity Nutrition 0.000 description 67
- 238000004590 computer program Methods 0.000 description 12
- 238000012549 training Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 8
- 238000013508 migration Methods 0.000 description 5
- 230000005012 migration Effects 0.000 description 5
- 239000003607 modifier Substances 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000003924 mental process Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了文本信息处理方法、装置、电子设备以及存储介质,涉及计算机技术领域,尤其涉及自然语言处理、知识图谱等人工智能技术领域。具体实现方案为:获取待处理的文本信息,其中,所述文本信息包括多个第一词语;对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,其中,所述词类序列中包括每个所述第一词语所属的类别信息;根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
Description
技术领域
本公开涉及计算机技术领域,特别涉及自然语言处理、知识图谱等人工智能技术领域,尤其涉及文本信息处理方法、装置、电子设备以及存储介质。
背景技术
知识图谱将互联网的信息表达成更接近人类认知世界的形式,提供了一种更好地组织、管理和理解互联网海量信息的能力。近年来,知识图谱已被广泛应用于各类智能产品和服务,如智能语义搜索、问答系统、对话系统、广告触发等。
在知识图谱的应用中,为了准确使用知识图谱的知识,需要将自然语言文本中的词语准确链接到知识图谱的节点上,因此,提高词语链接的准确性是知识图谱的应用中的一个重要任务。
发明内容
本公开提供了一种文本信息处理方法、装置、电子设备、存储介质以及计算机程序产品。
根据本公开的一方面,提供了一种文本信息处理方法,包括:获取待处理的文本信息,其中,所述文本信息包括多个第一词语;对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,其中,所述词类序列中包括每个所述第一词语所属的类别信息;根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点。
根据本公开的另一方面,提供了一种文本信息处理装置,包括:获取模块,用于获取待处理的文本信息,其中,所述文本信息包括多个第一词语;标注模块,用于对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,其中,所述词类序列中包括每个所述第一词语所属的类别信息;链接模块,用于根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的文本信息处理方法。
根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的文本信息处理方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据如上所述的文本信息处理方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开第一实施例的文本信息处理方法的流程示意图;
图2是根据本公开第二实施例的文本信息处理方法的流程示意图;
图3是根据本公开第三实施例的文本信息处理方法的流程示意图;
图4是根据本公开第四实施例的文本信息处理方法的流程示意图;
图5是根据本公开第五实施例的文本信息处理装置的结构示意图;
图6是根据本公开第六实施例的文本信息处理装置的结构示意图;
图7是用来实现本公开实施例的文本信息处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
可以理解的是,在知识图谱的应用中,为了准确使用知识图谱的知识,需要将自然语言文本中的词语准确链接到知识图谱的节点上,因此,提高词语链接的准确性是知识图谱的应用中的一个重要任务。
相关技术中,在将词语链接到知识图谱的节点时,一般是先对自然语言文本进行分词,对于分词结果中的实体词,基于知识图谱的各节点分别对应的实体词匹配出候选实体词,再利用分词结果中的实体词在自然语言文本中的上下文特征与候选实体词本身的特征进行相关度计算,根据相关度计算结果确定候选实体词中的目标实体词,进而将自然语言文本中实体词链接到知识图谱中目标实体词对应的节点。这种方式,没有考虑到实体词与非实体词的区别,这就导致在应用中难以识别非实体词,或容易将非实体词误标为实体词,从而易将非实体词误链接到知识图谱中的实体词对应的节点,因此通过这种方式进行词语的链接时,链接结果不准确。
本公开为了提高词语链接的准确性,提出一种文本信息处理方法,该文本信息处理方法,获取待处理的包括多个第一词语的文本信息后,先对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。由于对于待处理的文本信息中每个第一词语均会获取其所属的类别信息,进而根据每个第一词语所属的类别信息进行词语链接,能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
下面参考附图描述本公开实施例的文本信息处理方法、装置、电子设备、非瞬时计算机可读存储介质以及计算机程序产品。
首先结合图1,对本公开提供的文本信息处理方法进行详细描述。
图1是根据本公开第一实施例的文本信息处理方法的流程示意图。其中,需要说明的是,本公开实施例提供的文本信息处理方法,执行主体为文本信息处理装置。该文本信息处理装置可以为电子设备,也可以被配置在电子设备中,以提高词语链接的准确性。本公开实施例以文本信息处理装置被配置在电子设备中为例进行说明。
其中,电子设备,可以是任意能够进行数据处理的静止或者移动计算设备,例如笔记本电脑、智能手机、可穿戴设备等移动计算设备,或者台式计算机等静止的计算设备,或者服务器,或者其它类型的计算设备等,本公开对此不作限制。
如图1所示,文本信息处理方法,可以包括以下步骤:
步骤101,获取待处理的文本信息,其中,文本信息包括多个第一词语。
其中,待处理的文本信息中包括的多个第一词语,即为待链接至知识图谱的相应节点的词语。
在示例性实施例中,待处理的文本信息,可以为用户通过文本信息处理装置所在的电子设备的人机交互界面输入的任意信息,比如用户在人机交互界面输入的查询语句;或者,待处理的文本信息,也可以是其它电子设备发送至文本信息处理装置的文本信息。即待处理的文本信息,可以为文本信息处理装置从其所在的电子设备获取的任意文本信息;也可以为文本信息处理装置从其它电子设备获取的任意文本信息;或者,也可以是文本信息处理装置通过其它方式获取的任意文本信息,本公开对此不作限制。
在示例性实施例中,文本信息处理装置可以获取用户输入的文本信息,并将用户输入的文本信息作为待处理的文本信息;或者,文本信息处理装置也可以获取用户输入的语音信息,并将语音信息转换为文本信息,进而将转换得到的文本信息确定为待处理的文本信息。
需要说明的是,待处理的文本信息,可以为任意领域的文本信息,并且,文本信息可以对应一个领域也可以对应多个领域,本公开对此不作限制。
步骤102,对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息。
在示例性实施例中,词类序列可以包括待处理的文本信息中包括的多个第一词语以及每个第一词语所属的类别信息。
其中,每个第一词语所属的类别信息,可以指示对应的第一词语在待处理的文本信息中的具体含义。具体的,每个第一词语所属的类别信息,可以为每个第一词语所属的上位类别的类别信息。比如,“C国”的同位类别为“国家”,“C国”的上位类别为“世界地区”,则本公开实施例中,第一词语“C国”所属的类别信息,可以为“世界地区”。本公开实施例以每个第一词语所属的类别信息,为每个第一词语所属的上位类别的类别信息为例进行说明。
举例来说,假设待处理的文本信息为:AA是C国模特,则对该文本信息进行词类序列标注,可以生成该文本信息对应的如下词类序列:
AA[人物类_实体]是[肯定词]C国[世界地区]模特[人物类_概念]
在上述示例中,“[人物类_实体]”为第一词语“AA”所属的类别信息,“[肯定词]”为第一词语“是”所属的类别信息,“[世界地区]”为第一词语“C国”所属的类别信息,“[人物类_概念]”为第一词语“模特”所属的类别信息。
或者,假设待处理的文本信息为:AA是常见灌木,则对该文本信息进行词类序列标注,可以生成该文本信息对应的如下词类序列:
AA[生物类_植物]是[肯定词]常见[修饰词]灌木[生物类_植物]
在上述示例中,“[生物类_植物]”为第一词语“AA”所属的类别信息,“[肯定词]”为第一词语“是”所属的类别信息,“[修饰词]”为第一词语“常见”所属的类别信息,“[生物类_植物]”为第一词语“灌木”所属的类别信息。
需要说明的是,本公开实施例中,“AA”表示名称相同但可能具有多种含义的事物。比如“AA是C国模特”和“AA是常见灌木”中的“AA”虽然名称相同,但“AA是C国模特”中的“AA”表示一个人物的名称,“AA是常见灌木”中的“AA”表示一种植物的名称。
需要说明的是,本公开实施例中,采用预先定义的通用词汇类别体系,来确定每个第一词语所属的类别信息,其中,该通用词汇类别体系是覆盖全部词语的类别层次体系,包括各类实体词与非实体词,比如概念、专名、语法词等。并且,通用词汇类别体系包括不同分类粒度的类别,在实际应用中可以根据需要选择合适的分类粒度来确定每个第一词语所属的类别信息。例如“C国”可以标注为粗粒度的“世界地区”,也可以标注为细粒度的“国家”。
步骤103,根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。
其中,知识图谱可以为任意领域的知识图谱,本公开对此不作限制。
在示例性实施例中,针对每个第一词语,可以根据第一词语所属的类别信息,以及知识图谱的各节点对应的各第二词语所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别,进而将第一词语链接到知识图谱中目标类别下与第一词语匹配的第二词语对应的节点。
举例来说,继续上述示例,对于第一词语“模特”,由于“模特”所属的类别信息为“[人物类_概念]”,则可以确定知识图谱中与第一词语所属的类别信息对应的目标类别为“[人物类_概念]”。假设知识图谱中目标类别“[人物类_概念]”下与第一词语匹配的第二词语对应的节点为“人物类_概念:模特”节点,则可以将第一词语“模特”链接至知识图谱的“人物类_概念:模特”节点。
本公开实施例中,由于根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点,从而对于文本信息中具有不同含义的第一词语,可以根据第一词语所属的类别信息将第一词语链接到知识图谱的不同类别下与第一词语匹配的第二词语对应的节点,比如“AA是C国模特”中的“AA”会链接到知识图谱中[人物类_实体]类别下与“AA”匹配的第二词语对应的节点,“AA是常见灌木”中的“AA”会链接到知识图谱中[生物类_植物]类别下与“AA”匹配的第二词语对应的节点,从而可以实现对第一词语的消歧。
另外,由于对于待处理的文本信息,可以确定文本信息中每个第一词语所属的类别信息,因此可以准确区分文本信息中的实体词和非实体词,避免将非实体词误标为实体词,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点,可以避免将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,从而提高了词语链接的准确性。
另外,可以理解的是,相关技术中根据自然语言文本的分词结果中的实体词在自然语言文本中的上下文特征与候选实体词本身的特征进行相关度计算,根据相关度计算结果进行词语链接的方式,需要依赖知识图谱的各节点对应的各实体词的特征确定目标实体词,因此在将自然语言文本的分词结果中的实体词链接到不同的知识图谱的相应节点时,需要完全重新计算,迁移成本高,通用性差。而本公开提供的文本信息处理方法,在将待处理的文本信息中的第一词语链接到知识图谱的相应节点时,不依赖知识图谱中各节点对应的词语的具体特征,从而在将第一词语链接到不同的知识图谱的相应节点时,不需要重新计算,因此迁移成本低,通用性强。
可以理解的是,对于开放域的词语链接,不仅需要区分不同实体词,还需要区分实体词和非实体词,以及不同的非实体词,比如,“很好”既可能指修饰词的“很好”,也可能指一首歌曲或一部剧,应用中不仅需要将自然语言文本中的实体词“很好”识别并链接到知识图谱,还需要将非实体词“很好”识别并链接到知识图谱,以便于在特征计算中区分实体词“很好”与非实体词“很好”,以及区分非实体词“很好”与其他非实体词如“略好”“很差”的语义差别。另外,开放域的词语链接,还需要能够低成本的适配不同的知识图谱,以降低计算成本,提高通用性。而本公开提供的文本信息处理方法,可以准确区分文本信息中的实体词和非实体词,避免将非实体词误标为实体词,并且在将文本信息中的第一词语链接到不同的知识图谱的相应节点时,不需要重新计算,能够适配不同的知识图谱,迁移成本低,通用性强,因此本公开实施例提供的文本信息处理方法,可以有效解决开放域的词语链接问题。
本公开实施例提供的文本信息处理方法,获取待处理的文本信息后,其中,文本信息包括多个第一词语,先对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
通过上述分析可知,本公开实施例中,可以对文本信息进行词类序列标注,以生成文本信息对应的词类序列,下面结合图2,对本公开提供的文本信息处理方法中,对文本信息进行词类序列标注的过程进一步说明。
图2是根据本公开第二实施例的文本信息处理方法的流程示意图。如图2所示,文本信息处理方法,可以包括以下步骤:
步骤201,获取待处理的文本信息,其中,文本信息包括多个第一词语。
其中,步骤201的具体实现过程及原理,可以参考上述实施例的描述,此处不再赘述。
步骤202,利用词类序列标注模型,对文本信息进行分词处理,得到多个第一词语。
步骤203,针对每个第一词语,获取第一词语所属的类别信息。
步骤204,根据多个第一词语以及每个第一词语所属的类别信息,生成词类序列。
在示例性实施例中,可以预先训练词类序列标注模型,词类序列标注模型的输入为文本信息,输出为文本信息对应的词类序列,从而在获取待处理的文本信息后,可以将待处理的文本信息输入词类序列标注模型,以利用词类序列标注模型,生成待处理的文本信息对应的词类序列。
其中,词类序列标注模型,可以为任意的序列标注模型,比如crf(条件随机场)模型、lstm+crf(长短期记忆网络+条件随机场)模型、bert(基于Transformer的双向编码器表示)模型、bert+crf(基于Transformer的双向编码器表示+条件随机场)模型等。
在示例性实施例中,在利用词类序列标注模型生成词类序列时,可以先利用词类序列标注模型对文本信息进行分词处理,得到多个第一词语,再针对每个第一词语,获取第一词语所属的类别信息,进而根据多个第一词语以及每个第一词语所属的类别信息,生成词类序列。
具体的,针对每个第一词语,可以对第一词语进行词性标注和/或命名实体识别,根据词性标注和/或命名实体识别结果,获取第一词语所属的类别信息。其中需要注意的是,与相关技术中的词性标注不同的是,本公开实施例中,不仅确定每个第一词语的词性,还会为多个第一词语中有具体含义的第一词语标注其上位语义类别;与相关技术中的命名实体识别不同的是,本公开实施例中不论第一词语为实体词还是非实体词,都会标注第一词语所属的类别信息。
需要说明的是,本公开实施例中,采用预先定义的通用词汇类别体系,来确定每个第一词语所属的类别信息,其中,该通用词汇类别体系是覆盖全部词语的类别层次体系,包括各类实体词与非实体词,比如概念、专名、语法词等。并且,通用词汇类别体系包括不同分类粒度的类别,在实际应用中可以根据需要选择合适的分类粒度来确定每个第一词语所属的类别信息。例如“C国”可以标注为粗粒度的“世界地区”,也可以标注为细粒度的“国家”。本公开实施例中,在利用词类序列标注模型生成文本信息对应的词类序列时,词类序列对应的分类粒度与训练词类序列标注模型时训练样本数据标注的类别的分类粒度相同。
在示例性实施例中,对待处理的文本信息进行词类序列标注的词类序列标注模型,可以采用深度学习的方式,利用训练样本数据,对初始的词类序列标注模型进行训练得到。相比其它机器学习方法,深度学习在大数据集上的表现更好。
其中,训练样本数据可以包括样本文本信息以及样本文本信息对应的样本词类序列。其中,样本词类序列中可以包括样本文本信息中的多个样本词语以及每个样本词语所属的类别信息。其中,每个样本词语所属的类别信息可以通过人工标注。
在示例性实施例中,为了更好的对训练样本数据进行学习,在对每个样本词语所属的类别信息进行标注时,可以标注每个样本词语对应的类别标签。其中,类别标签可以指示每个样本词语中的每个字在对应样本词语中的位置。
其中,类别标签可以采用以下两种形式:一、四标签形式:B(类开始)、I(类中间)、E(类结尾)、S(单独类);二、三标签形式:B(类开始)、I(类中间)、S(单独类)。
例如,采用三标签形式标注的训练样本数据例如可以为:
示例1:A[人物类_实体B]A[人物类_实体I]是[肯定词S]C[世界地区B]国[世界地区I]模[人物类_概念B]特[人物类_概念I]
示例2:A[生物类_植物B]A[生物类_植物I]是[肯定词S]常[修饰词B]见[修饰词I]灌[生物类_植物B]木[生物类_植物I]
在示例性实施例中,通过深度学习的方式训练初始的词类序列标注模型时,可以先将样本文本信息X1作为输入,输入初始的词类序列标注模型,获取该样本文本信息X1对应的预测词类序列Y1,并结合预测词类序列Y1,以及训练数据中样本文本信息X1对应的样本词类序列Z1,对初始的词类序列标注模型的模型参数进行调整,得到调整后的词类序列标注模型。再将样本文本信息X2作为输入,输入调整后的词类序列标注模型,获取该样本文本信息X2对应的预测词类序列Y2,并结合预测词类序列Y2,以及训练数据中样本文本信息X2对应的样本词类序列Z2,对调整后的词类序列标注模型的模型参数进行调整,得到进一步调整后的词类序列标注模型。由此,通过基于多个样本文本信息以及多个样本文本信息分别对应的样本词类序列,不断地调整初始的词类序列标注模型的模型参数对初始的词类序列标注模型进行迭代训练,直至词类序列标注模型输出的预测词类序列的准确率满足预先设定的阈值,训练结束,得到训练好的词类序列标注模型。
通过利用词类序列标注模型,对文本信息进行分词处理,得到多个第一词语,针对每个第一词语,获取第一词语所属的类别信息,进而根据多个第一词语以及每个第一词语所属的类别信息,生成词类序列,实现了准确确定待处理的文本信息中每个第一词语所属的类别信息,从而能够准确区分待处理的文本信息中的实体词和非实体词,为后续根据多个第一词语所属的类别信息准确将多个第一词语链接到知识图谱的相应节点提供了条件。
步骤205,根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。
其中,上述步骤205的具体实现过程及原理,可以参考上述实施例的描述,此处不再赘述。
本公开实施例的文本信息处理方法,在获取待处理的文本信息后,其中,文本信息包括多个第一词语,利用词类序列标注模型,对文本信息进行分词处理,得到多个第一词语,针对每个第一词语,获取第一词语所属的类别信息,再根据多个第一词语以及每个第一词语所属的类别信息,生成词类序列,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点,实现了准确区分待处理的文本信息中的实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
通过上述分析可知,本公开实施例中,针对每个第一词语,可以根据第一词语所属的类别信息,将第一词语链接到知识图谱中目标类别下与第一词语匹配的第二词语对应的节点,在实际应用中,知识图谱中目标类别下与第一词语匹配的第二词语对应的节点的数量可能为多个。下面针对上述情况,结合图3,对本公开提供的文本信息处理方法中,根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点的过程进行进一步说明。
图3是根据本公开第三实施例的文本信息处理方法的流程示意图。如图3所示,文本信息处理方法,可以包括以下步骤:
步骤301,获取待处理的文本信息,其中,文本信息包括多个第一词语。
步骤302,对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息。
其中,步骤301-302的具体实现过程及原理,可以参考上述实施例的描述,此处不再赘述。
步骤303,针对每个第一词语,根据第一词语所属的类别信息以及知识图谱的各节点对应的各第二词语所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别。
在示例性实施例中,可以先获取知识图谱的各节点对应的各第二词语所属的类别信息,进而针对每个第一词语,从知识图谱的各节点对应的各第二词语所属的类别信息中,获取与第一词语所属的类别信息对应的目标类别。
在示例性实施例中,由于知识图谱的schema(定义知识图谱的数据模型)中会预先定义知识图谱的类别集合,那么,本公开实施例中,针对每个第一词语,也可以直接从知识图谱的schema中定义的类别集合中获取与第一词语所属的类别信息对应的目标类别。
步骤304,确定知识图谱中目标类别下与第一词语匹配的第二词语的数量。
步骤305,根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。
本公开实施例以将任一第一词语链接到知识图谱的相应节点的过程为例进行说明。
在示例性实施例中,获取知识图谱中与第一词语所属的类别信息对应的目标类别后,可以确定知识图谱中目标类别下与第一词语匹配的第二词语的数量,进而根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。
在示例性实施例中,在知识图谱中目标类别下与第一词语匹配的第二词语的数量为一个时,可以将第二词语作为目标词语,进而将第一词语链接到知识图谱中目标词语对应的节点。
比如,对于待处理的文本信息“AA是C国模特”中的第一词语“是”或者第一词语“模特”,在知识图谱中与第一词语所属的类别信息匹配的目标类别下,通常仅包含一个与第一词语匹配的第二词语。此时,可以将第一词语“是”链接到知识图谱的相应节点“肯定词:是”,将第一词语“模特”链接到知识图谱的“人物类_概念:模特”。
可以理解的是,第一词语为具有稳定含义的概念词或者语法词等词语时,知识图谱中目标类别下与第一词语匹配的第二词语的数量通常为一个。通过在知识图谱中目标类别下与第一词语匹配的第二词语的数量为一个时,将第二词语作为目标词语,并第一词语链接到知识图谱中目标词语对应的节点,可以将具有稳定含义的概念词或者语法词等词语直接准确的链接到知识图谱的相应节点。
在示例性实施例中,在知识图谱中目标类别下与第一词语匹配的第二词语的数量为多个时,可以将多个第二词语分别作为候选词语,并获取多个候选词语对应的归组节点,从而将第一词语链接到归组节点。其中,归组节点可以理解为包含该节点下同名同类的节点数量且指向该节点下同名同类的各节点的一个节点。
比如,对于待处理的文本信息“AA是C国模特”中的第一词语“AA”或第一词语“C国”,在知识图谱中与第一词语所属的类别信息匹配的目标类别下,可能包含多个与第一词语匹配的第二词语。比如知识图谱中可能包括3个名为“AA”的人物,包括2个名为“C国”的世界地区。此时,可以将多个第二词语分别作为候选词语,并获取多个候选词语对应的归组节点,从而将第一词语链接到归组节点。比如将第一词语“AA”链接到知识图谱的归组节点“人物类_实体:AA(3)”,将第一词语“C国”链接到知识图谱的归组节点“世界地区:C国(2)”。其中,归组节点括号中的数字表示归组节点下同名同类的第二词语的数量。
需要说明的是,在知识图谱中,可能未包含多个候选词语对应的归组节点,此时,可以创建一个指向各候选词语且包含各候选词语的数量的节点,将该节点作为归组节点。
可以理解的是,第一词语为有歧义的实体词等词语时,知识图谱中目标类别下与第一词语匹配的第二词语的数量通常为多个。通过在知识图谱中目标类别下与第一词语匹配的第二词语的数量为多个时,将第一词语链接到归组节点,使得第一词语不会被误识别为归组节点对应的候选词语之外的其它词语,大大降低了后续对第一词语进行消歧时的计算成本。且通过根据知识图谱的目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的归组节点,词语的链接过程不依赖知识图谱中各节点对应的第二词语的属性值信息,从而在将第一词语链接到不同的知识图谱的相应节点时,不需要重新计算,能够适配不同的知识图谱,迁移成本低,通用性强。比如类别信息为“[人物类_实体]”的第一词语“AA”在某个知识图谱中链接到归组节点“人物类_实体:AA(3)”,无需重新计算即可得到该第一词语“AA”在另一知识图谱中链接到归组节点“人物类_实体:AA(8)”。
在示例性实施例中,在知识图谱中目标类别下与第一词语匹配的第二词语的数量为0时,或者知识图谱中不存在与第一词语所属的类别信息对应的目标类别时,可以标记第一词语,不再将该第一词语链接到知识图谱的节点。
通过在知识图谱中目标类别下与第一词语匹配的第二词语的数量为0时,或者知识图谱中不存在与第一词语所属的类别信息对应的目标类别时,标记第一词语,可以将第一词语与其它领域或者类别的词语区分开,从而不会对第一词语进行误链接。
比如,假设音乐图谱中包含“很好”这首歌,当待处理的文本信息中包含第一词语“很好”,且“很好”被识别为非实体词时,由于音乐图谱中包含的第二词语“很好”与待处理的文本信息中包含的第一词语“很好”的所属类别不同,音乐图谱中与第一词语所属的类别信息对应的目标类别下,与第一词语“很好”匹配的第二词语的数量为0。那么,本公开实施例中会对第一词语“很好”进行标记,不会将第一词语“很好”链接到音乐图谱中的“很好”对应节点,从而避免了将第一词语“很好”误识别为“很好”这首歌,从而提升了知识图谱应用的效率及效果(比如可以提高检索的准确性,或者降低词语消歧的计算成本)。
在示例性实施例中,在知识图谱中目标类别下与第一词语匹配的第二词语的数量为多个时,将第一词语链接到归组节点后,对于不需要词语消歧的应用,比如只需要词类特征的模板挖掘,可以直接利用归组节点来支持下游应用。而对于需要词语消歧的应用,还需要进一步对归组节点进行消歧,即还需要进一步确定将第一词语具体链接到归组节点对应的多个候选词语中哪个候选词语对应的节点,比如链接到具体的实体词对应的节点或者术语对应的节点等。
相应的,在将第一词语链接到归组节点之后,还可以包括以下步骤:
根据归组节点对应的多个候选词语的特征,以及第一词语在文本信息中的上下文特征,分别确定多个候选词语与第一词语的相关度;
将多个候选词语中,对应的相关度最高的候选词语确定为目标词语;
将第一词语链接到知识图谱中目标词语对应的节点。
其中,归组节点对应的多个候选词语的特征,可以为候选词语本身的属性值信息,也可以为候选词语在知识图谱中关联的其它第二词语的属性值信息,本公开对此不作限制。其中,某个词语的属性值信息可以包括对于该词语的各种描述信息,比如对于某个电影,该电影的属性值信息可以包括电影的上映时间、类型、演员、时间、导演、剧情等。
第一词语在文本信息中的上下文特征,可以为第一词语的文本特征,也可以为文本信息中出现的其它第一词语的特征,本公开对此不作限制。
在示例性实施例中,可以根据预设的规则确定多个候选词语与第一词语的相关度,也可以利用机器学习模型确定多个候选词语与第一词语的相关度,或者,也可以采用其它方式确定多个候选词语与第一词语的相关度,本公开对此不作限制。具体确定多个候选词语与第一词语的相关度的方式可以参考相关技术,此处不再赘述。
在确定多个候选词语与第一词语的相关度后,可以将多个候选词语中对应的与第一词语的相关度最高的候选词语作为目标词语,进而将第一词语链接到知识图谱中目标词语对应的节点。
通过根据归组节点对应的多个候选词语的特征,以及第一词语在文本信息中的上下文特征,分别确定多个候选词语与第一词语的相关度,将多个候选词语中,对应的相关度最高的候选词语确定为目标词语,进而将第一词语链接到知识图谱中目标词语对应的节点,实现了对有歧义的词语的消歧。
需要说明的是,在实际应用中,将第一词语链接到归组节点后,可以根据需要确定对哪些归组节点进行消歧,比如可以只对应用需要的类别下的归组节点进行消歧,而无需对所有归组节点进行消歧,从而可以减少计算成本。举例来说,在知识图谱为人物图谱时,只需要对人物类的归组节点进行消歧,从而只需要确定归组节点“人物类_实体:AA(3)”对应的第一词语具体应该链接到多个候选词语中哪个候选词语对应的节点,而不需要确定归组节点“世界地区:C国(2)”对应的第一词语具体应该链接到多个候选词语中哪个候选词语对应的节点。
本公开实施例的文本信息处理方法,获取待处理的文本信息后,其中,文本信息包括多个第一词语,对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,针对每个第一词语,根据第一词语所属的类别信息以及知识图谱的各节点对应的各第二词语所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别,再确定知识图谱中目标类别下与第一词语匹配的第二词语的数量,进而根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。由于将第一词语链接到知识图谱的相应节点时,是根据第一词语所属的类别信息以及知识图谱中目标类别下与第一词语匹配的第二词语的数量,来确定将第一词语链接到知识图谱的哪个节点,比如是将第一词语链接到目标词语对应的节点还是多个候选词语对应的归组节点,这个过程仅依赖知识图谱的各节点对应的各第二词语所属的类别信息,不依赖知识图谱中各节点对应的第二词语的属性值信息,从而在将第一词语链接到不同的知识图谱的相应节点时,不需要重新计算,能够适配不同的知识图谱,迁移成本低,通用性强。
通过上述分析可知,本公开实施例中,针对每个第一词语,可以根据词类序列中包括的第一词语所属的类别信息,以及知识图谱的各节点对应的各第二词语所属的类别信息,确定知识图谱中与第一词语所属的类别信息对应的目标类别,进而根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。在一种可能的实现形式中,词类序列中包括的第一词语所属的类别信息对应的分类粒度与知识图谱的各节点对应的各第二词语所属的类别信息对应的分类粒度可能不同,比如知识图谱与词类序列对应的分类粒度相比可能类别过细或者类别过粗。下面针对上述情况,结合图4,对本公开提供的文本信息处理方法进行进一步说明。
图4是根据本公开第四实施例的文本信息处理方法的流程示意图。如图4所示,文本信息处理方法,可以包括以下步骤:
步骤401,获取待处理的文本信息,其中,文本信息包括多个第一词语。
步骤402,对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息。
其中,步骤401-402的具体实现过程及原理,可以参考上述实施例的描述,此处不再赘述。
步骤403,获取各第二词语在第二分类粒度下所属的类别信息与各第二词语在第一分类粒度下所属的类别信息之间的映射关系。
其中,词类序列中包括的每个第一词语所属的类别信息对应第一分类粒度,知识图谱的各节点对应的各第二词语所属的类别信息对应第二分类粒度,且第一分类粒度与第二分类粒度不同。
步骤404,根据映射关系以及各第二词语在第二分类粒度下所属的类别信息,获取各第二词语在第一分类粒度下所属的类别信息。
在示例性实施例中,在第二分类粒度相对第一分类粒度过细时,可以确定映射关系为各第二词语所属类别与其上位类别之间的映射关系,从而可以根据映射关系,将各第二词语在第二分类粒度下所属的类别信息,映射为各第二词语的上位类别的类别信息,以使映射后各第二词语所属的类别信息的分类粒度与第一分类粒度相同。
举例来说,假设知识图谱中某个第二词语所属的类别信息为“园林植物”,第一词语所属的类别信息为“生物类_植物”,可见第二词语所属的类别信息对应的第二分类粒度相对第一分类粒度过细,则可以将该第二词语所属的类别信息“园林植物”,映射为该第二词语的上位类别的类别信息“生物类_植物”,映射后第二词语所属的类别信息的分类粒度与第一分类粒度相同。
在示例性实施例中,在第二分类粒度相对第一分类粒度过粗时,可以确定映射关系为各第二词语所属类别与其下位类别的组合之间的映射关系,从而可以根据映射关系,将各第二词语在第二分类粒度下所属的类别信息,映射为各第二词语的下位类别的组合的类别信息,以使映射后各第二词语所属的类别信息的分类粒度与第一分类粒度相同。
举例来说,假设知识图谱中某个第二词语所属的类别信息为“生物”,第一词语所属的类别信息为“生物类_植物”,可见第二词语所属的类别信息对应的第二分类粒度相对第一分类粒度过粗,则可以将该第二词语所属的类别信息“生物”,映射为该第二词语的下位类别的组合的类别信息“生物类_植物,生物类_动物,生物类_微生物”,映射后第二词语所属的类别信息的分类粒度与第一分类粒度相同。
在示例性实施例中,在知识图谱的各第二词语所属类别为混合类别时,可以根据知识图谱的收录范围确定映射关系为各第二词语所属类别与预设类别组合之间的映射关系,进而根据映射关系,将各第二词语在第二分类粒度下所属的类别信息,映射为各第二词语的预设类别组合的类别信息,以使映射后各第二词语所属的类别信息的分类粒度与第一分类粒度相同。
举例来说,假设知识图谱中某个第二词语所属的类别信息为“宠物”,第一词语所属的类别信息为“生物类_植物”,由于“宠物”可能为植物,也可能为动物,则可以将该第二词语所属的类别信息“宠物”,映射为该第二词语的预设类别组合的类别信息“生物类_植物,生物类_动物”,映射后第二词语所属的类别信息的分类粒度与第一分类粒度相同。
步骤405,针对每个第一词语,根据第一词语所属的类别信息,以及各第二词语在第一分类粒度下所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别。
在示例性实施例中,获取各第二词语在第一分类粒度下所属的类别信息后,即可针对每个第一词语,根据第一词语所属的类别信息,以及各第二词语在第一分类粒度下所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别,进而进行后续步骤。
通过在词类序列中包括的每个第一词语所属的类别信息对应的第一分类粒度,与知识图谱的各节点对应的各第二词语所属的类别信息对应的第二分类粒度不同时,通过简单的词类映射,将各第二词语在第二分类粒度下所属的类别信息,映射为各第二词语在第一分类粒度下所属的类别信息,使得无需重新训练序列标注模型,即可使得词类序列中包括的每个第一词语所属的类别信息对应的第一分类粒度,与知识图谱的各节点对应的各第二词语所属的类别信息对应的第二分类粒度相同,节约了词语的链接成本。
步骤406,确定知识图谱中目标类别下与第一词语匹配的第二词语的数量。
步骤407,根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。
步骤406-407的具体实现过程及原理,可以参考上述实施例的描述,此处不再赘述。
本公开实施例的文本信息处理方法,在获取待处理的文本信息后,其中,文本信息包括多个第一词语,对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,再获取各第二词语在第二分类粒度下所属的类别信息与各第二词语在第一分类粒度下所属的类别信息之间的映射关系,根据映射关系以及各第二词语在第二分类粒度下所属的类别信息,获取各第二词语在第一分类粒度下所属的类别信息,针对每个第一词语,根据第一词语所属的类别信息,以及各第二词语在第一分类粒度下所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别,进而根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。且通过简单的词类映射,将各第二词语在第二分类粒度下所属的类别信息,映射为各第二词语在第一分类粒度下所属的类别信息,使得无需重新训练序列标注模型,即可使得词类序列中包括的每个第一词语所属的类别信息对应的第一分类粒度,与知识图谱的各节点对应的各第二词语所属的类别信息对应的第二分类粒度相同,节约了词语的链接成本。
下面结合图5,对本公开提供的文本信息处理装置进行说明。
图5是根据本公开第五实施例的文本信息处理装置的结构示意图。
如图5所示,本公开提供的文本信息处理装置500,包括:获取模块501、标注模块502以及链接模块503。
其中,获取模块501,用于获取待处理的文本信息,其中,文本信息包括多个第一词语;
标注模块502,用于对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息;
链接模块503,用于根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。
需要说明的是,本实施例提供的文本信息处理装置,可以执行前述实施例的文本信息处理方法。其中,文本信息处理装置可以为电子设备,也可以被配置在电子设备中,以提高词语链接的准确性。
其中,电子设备,可以是任意能够进行数据处理的静止或者移动计算设备,例如笔记本电脑、智能手机、可穿戴设备等移动计算设备,或者台式计算机等静止的计算设备,或者服务器,或者其它类型的计算设备等,本公开对此不作限制。
需要说明的是,前述对于文本信息处理方法的实施例的说明,也适用于本公开提供的文本信息处理装置,此处不再赘述。
本公开实施例提供的文本信息处理装置,获取待处理的文本信息后,其中,文本信息包括多个第一词语,先对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
下面结合图6,对本公开提供的文本信息处理装置进行说明。
图6是根据本公开第六实施例的文本信息处理装置的结构示意图。
如图6所示,文本信息处理装置600,具体可以包括:获取模块601、标注模块602以及链接模块603。其中,图6中获取模块601、标注模块602以及链接模块603与图5中获取模块501、标注模块502以及链接模块503具有相同功能和结构。
在示例性实施例中,如图6所示,标注模块602,包括:
处理单元6021,用于利用词类序列标注模型,对文本信息进行分词处理,得到多个第一词语;
第一获取单元6022,用于针对每个第一词语,获取第一词语所属的类别信息;
生成单元6023,用于根据多个第一词语以及每个第一词语所属的类别信息,生成词类序列。
在示例性实施例中,链接模块603,包括:
第二获取单元6031,用于针对每个第一词语,根据第一词语所属的类别信息以及知识图谱的各节点对应的各第二词语所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别;
确定单元6032,用于确定知识图谱中目标类别下与第一词语匹配的第二词语的数量;
链接单元6033,用于根据知识图谱中目标类别下与第一词语匹配的第二词语的数量,将第一词语链接到知识图谱的相应节点。
在示例性实施例中,链接单元6033,包括:
第一处理子单元,用于在知识图谱中目标类别下与第一词语匹配的第二词语的数量为一个时,将第二词语作为目标词语;
第一链接子单元,用于将第一词语链接到知识图谱中目标词语对应的节点。
在示例性实施例中,链接单元6033,包括:
第二处理子单元,用于在知识图谱中目标类别下与第一词语匹配的第二词语的数量为多个时,将多个第二词语分别作为候选词语;
第二链接子单元,用于获取多个候选词语对应的归组节点,并将第一词语链接到归组节点。
在示例性实施例中,链接单元6033,还包括:
第一确定子单元,用于根据归组节点对应的多个候选词语的特征,以及第一词语在文本信息中的上下文特征,分别确定多个候选词语与第一词语的相关度;
第二确定子单元,用于将多个候选词语中,对应的相关度最高的候选词语确定为目标词语;
第三链接子单元,用于将第一词语链接到知识图谱中目标词语对应的节点。
在示例性实施例中,词类序列中包括的每个第一词语所属的类别信息对应第一分类粒度,知识图谱的各节点对应的各第二词语所属的类别信息对应第二分类粒度,且第一分类粒度与第二分类粒度不同;
相应的,第二获取单元6031,包括:
第一获取子单元,用于获取各第二词语在第二分类粒度下所属的类别信息与各第二词语在第一分类粒度下所属的类别信息之间的映射关系;
第二获取子单元,用于根据映射关系以及各第二词语在第二分类粒度下所属的类别信息,获取各第二词语在第一分类粒度下所属的类别信息;
第三获取子单元,用于针对每个第一词语,根据第一词语所属的类别信息,以及各第二词语在第一分类粒度下所属的类别信息,获取知识图谱中与第一词语所属的类别信息对应的目标类别。
需要说明的是,前述对于文本信息处理方法的实施例的说明,也适用于本公开提供的文本信息处理装置,此处不再赘述。
本公开实施例提供的文本信息处理装置,获取待处理的文本信息后,其中,文本信息包括多个第一词语,先对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如文本信息处理方法。例如,在一些实施例中,文本信息处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的文本信息处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行文本信息处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器,或者是结合了区块链的服务器。
本公开涉及计算机技术领域,特别涉及自然语言处理、知识图谱等人工智能技术领域。
需要说明的是,人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
根据本公开实施例的技术方案,获取待处理的文本信息后,其中,文本信息包括多个第一词语,先对文本信息进行词类序列标注,以生成文本信息对应的词类序列,其中,词类序列中包括每个第一词语所属的类别信息,进而根据每个第一词语所属的类别信息分别将多个第一词语链接到知识图谱的相应节点。由于能够准确区分实体词和非实体词,从而避免了将非实体词误标为实体词,而导致将非实体词误链接到知识图谱中的实体词对应的节点的情况发生,提高了词语链接的准确性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (14)
1.一种文本信息处理方法,包括:
获取待处理的文本信息,其中,所述文本信息包括多个第一词语;
对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,其中,所述词类序列中包括每个所述第一词语所属的类别信息;
根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点,其中,所述相应节点为所述知识图谱中目标类别下与所述第一词语匹配的第二词语对应的节点;所述目标类别为针对每个所述第一词语,根据所述第一词语所属的类别信息以及所述知识图谱的各节点对应的各第二词语所属的类别信息,获取的所述知识图谱中与所述第一词语所属的类别信息对应的类别;
其中,所述词类序列中包括的每个所述第一词语所属的类别信息对应第一分类粒度,所述知识图谱的各节点对应的各第二词语所属的类别信息对应第二分类粒度,且所述第一分类粒度与所述第二分类粒度不同;
所述目标类别通过以下方式获取:获取所述各第二词语在所述第二分类粒度下所属的类别信息与所述各第二词语在所述第一分类粒度下所属的类别信息之间的映射关系;根据所述映射关系以及所述各第二词语在所述第二分类粒度下所属的类别信息,获取所述各第二词语在所述第一分类粒度下所属的类别信息;针对每个所述第一词语,根据所述第一词语所属的类别信息,以及所述各第二词语在所述第一分类粒度下所属的类别信息,获取所述知识图谱中与所述第一词语所属的类别信息对应的目标类别。
2.根据权利要求1所述的方法,其中,所述对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,包括:
利用词类序列标注模型,对所述文本信息进行分词处理,得到所述多个第一词语;
针对每个所述第一词语,获取所述第一词语所属的类别信息;
根据所述多个第一词语以及每个所述第一词语所属的类别信息,生成所述词类序列。
3.根据权利要求1所述的方法,其中,所述根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点,还包括:
确定所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量;
根据所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量,将所述第一词语链接到知识图谱的相应节点。
4.根据权利要求3所述的方法,其中,所述根据所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量,将所述第一词语链接到知识图谱的相应节点,包括:
在所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量为一个时,将所述第二词语作为目标词语;
将所述第一词语链接到所述知识图谱中所述目标词语对应的节点。
5.根据权利要求3所述的方法,其中,所述根据所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量,将所述第一词语链接到知识图谱的相应节点,包括:
在所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量为多个时,将多个所述第二词语分别作为候选词语;
获取多个所述候选词语对应的归组节点,并将所述第一词语链接到所述归组节点。
6.根据权利要求5所述的方法,其中,所述将所述第一词语链接到所述归组节点之后,还包括:
根据所述归组节点对应的多个所述候选词语的特征,以及所述第一词语在所述文本信息中的上下文特征,分别确定多个所述候选词语与所述第一词语的相关度;
将多个所述候选词语中,对应的相关度最高的候选词语确定为目标词语;
将所述第一词语链接到所述知识图谱中所述目标词语对应的节点。
7.一种文本信息处理装置,包括:
获取模块,用于获取待处理的文本信息,其中,所述文本信息包括多个第一词语;
标注模块,用于对所述文本信息进行词类序列标注,以生成所述文本信息对应的词类序列,其中,所述词类序列中包括每个所述第一词语所属的类别信息;
链接模块,用于根据每个所述第一词语所属的类别信息分别将多个所述第一词语链接到知识图谱的相应节点,其中,所述相应节点为所述知识图谱中目标类别下与所述第一词语匹配的第二词语对应的节点;所述链接模块,包括:第二获取单元,用于针对每个所述第一词语,根据所述第一词语所属的类别信息以及所述知识图谱的各节点对应的各第二词语所属的类别信息,获取所述知识图谱中与所述第一词语所属的类别信息对应的目标类别;
其中,所述词类序列中包括的每个所述第一词语所属的类别信息对应第一分类粒度,所述知识图谱的各节点对应的各第二词语所属的类别信息对应第二分类粒度,且所述第一分类粒度与所述第二分类粒度不同;所述第二获取单元,包括:
第一获取子单元,用于获取所述各第二词语在所述第二分类粒度下所属的类别信息与所述各第二词语在所述第一分类粒度下所属的类别信息之间的映射关系;
第二获取子单元,用于根据所述映射关系以及所述各第二词语在所述第二分类粒度下所属的类别信息,获取所述各第二词语在所述第一分类粒度下所属的类别信息;
第三获取子单元,用于针对每个所述第一词语,根据所述第一词语所属的类别信息,以及所述各第二词语在所述第一分类粒度下所属的类别信息,获取所述知识图谱中与所述第一词语所属的类别信息对应的目标类别。
8.根据权利要求7所述的装置,其中,所述标注模块,包括:
处理单元,用于利用词类序列标注模型,对所述文本信息进行分词处理,得到所述多个第一词语;
第一获取单元,用于针对每个所述第一词语,获取所述第一词语所属的类别信息;
生成单元,用于根据所述多个第一词语以及每个所述第一词语所属的类别信息,生成所述词类序列。
9.根据权利要求7所述的装置,其中,所述链接模块,还包括:
确定单元,用于确定所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量;
链接单元,用于根据所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量,将所述第一词语链接到知识图谱的相应节点。
10.根据权利要求9所述的装置,其中,所述链接单元,包括:
第一处理子单元,用于在所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量为一个时,将所述第二词语作为目标词语;
第一链接子单元,用于将所述第一词语链接到所述知识图谱中所述目标词语对应的节点。
11.根据权利要求9所述的装置,其中,所述链接单元,包括:
第二处理子单元,用于在所述知识图谱中所述目标类别下与所述第一词语匹配的第二词语的数量为多个时,将多个所述第二词语分别作为候选词语;
第二链接子单元,用于获取多个所述候选词语对应的归组节点,并将所述第一词语链接到所述归组节点。
12.根据权利要求11所述的装置,其中,链接单元,还包括:
第一确定子单元,用于根据所述归组节点对应的多个所述候选词语的特征,以及所述第一词语在所述文本信息中的上下文特征,分别确定多个所述候选词语与所述第一词语的相关度;
第二确定子单元,用于将多个所述候选词语中,对应的相关度最高的候选词语确定为目标词语;
第三链接子单元,用于将所述第一词语链接到所述知识图谱中所述目标词语对应的节点。
13. 一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110502464.2A CN113220835B (zh) | 2021-05-08 | 2021-05-08 | 文本信息处理方法、装置、电子设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110502464.2A CN113220835B (zh) | 2021-05-08 | 2021-05-08 | 文本信息处理方法、装置、电子设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113220835A CN113220835A (zh) | 2021-08-06 |
CN113220835B true CN113220835B (zh) | 2023-09-29 |
Family
ID=77094334
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110502464.2A Active CN113220835B (zh) | 2021-05-08 | 2021-05-08 | 文本信息处理方法、装置、电子设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113220835B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114416976A (zh) * | 2021-12-23 | 2022-04-29 | 北京百度网讯科技有限公司 | 文本标注方法、装置及电子设备 |
CN114491085B (zh) * | 2022-04-15 | 2022-08-09 | 支付宝(杭州)信息技术有限公司 | 一种图数据存储方法和分布式图数据计算方法 |
CN114861677B (zh) * | 2022-05-30 | 2023-04-18 | 北京百度网讯科技有限公司 | 信息抽取方法、装置、电子设备以及存储介质 |
CN117113993B (zh) * | 2023-10-23 | 2024-01-09 | 腾讯科技(深圳)有限公司 | 实体链接方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106156365A (zh) * | 2016-08-03 | 2016-11-23 | 北京智能管家科技有限公司 | 一种知识图谱的生成方法及装置 |
CN109241294A (zh) * | 2018-08-29 | 2019-01-18 | 国信优易数据有限公司 | 一种实体链接方法及装置 |
CN110929038A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 基于知识图谱的实体链接方法、装置、设备和存储介质 |
CN111178076A (zh) * | 2019-12-19 | 2020-05-19 | 成都欧珀通信科技有限公司 | 命名实体识别与链接方法、装置、设备及可读存储介质 |
CN111639498A (zh) * | 2020-04-21 | 2020-09-08 | 平安国际智慧城市科技股份有限公司 | 知识抽取方法、装置、电子设备及存储介质 |
WO2021072850A1 (zh) * | 2019-10-15 | 2021-04-22 | 平安科技(深圳)有限公司 | 特征词提取方法、文本相似度计算方法、装置和设备 |
-
2021
- 2021-05-08 CN CN202110502464.2A patent/CN113220835B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106156365A (zh) * | 2016-08-03 | 2016-11-23 | 北京智能管家科技有限公司 | 一种知识图谱的生成方法及装置 |
CN109241294A (zh) * | 2018-08-29 | 2019-01-18 | 国信优易数据有限公司 | 一种实体链接方法及装置 |
WO2021072850A1 (zh) * | 2019-10-15 | 2021-04-22 | 平安科技(深圳)有限公司 | 特征词提取方法、文本相似度计算方法、装置和设备 |
CN110929038A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 基于知识图谱的实体链接方法、装置、设备和存储介质 |
CN111178076A (zh) * | 2019-12-19 | 2020-05-19 | 成都欧珀通信科技有限公司 | 命名实体识别与链接方法、装置、设备及可读存储介质 |
CN111639498A (zh) * | 2020-04-21 | 2020-09-08 | 平安国际智慧城市科技股份有限公司 | 知识抽取方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于多知识图谱的中文文本语义图构建研究;赵一鸣 等;情报科学;第39卷(第4期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113220835A (zh) | 2021-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113220835B (zh) | 文本信息处理方法、装置、电子设备以及存储介质 | |
EP3896597A2 (en) | Method, apparatus for text generation, device and storage medium | |
CN113220836B (zh) | 序列标注模型的训练方法、装置、电子设备和存储介质 | |
CN112507706B (zh) | 知识预训练模型的训练方法、装置和电子设备 | |
CN112860866A (zh) | 语义检索方法、装置、设备以及存储介质 | |
JP2021111420A (ja) | テキストエンティティの語義記述処理方法、装置及び機器 | |
EP3620994A1 (en) | Methods, apparatuses, devices, and computer-readable storage media for determining category of entity | |
US9460081B1 (en) | Transcription correction using multi-token structures | |
CN114840671A (zh) | 对话生成方法、模型的训练方法、装置、设备及介质 | |
WO2022174496A1 (zh) | 基于生成模型的数据标注方法、装置、设备及存储介质 | |
CN112507118B (zh) | 信息分类抽取方法、装置和电子设备 | |
CN111538815A (zh) | 一种文本查询方法、装置、设备及存储介质 | |
CN113836925A (zh) | 预训练语言模型的训练方法、装置、电子设备及存储介质 | |
CN113609847B (zh) | 信息抽取方法、装置、电子设备及存储介质 | |
US20230094730A1 (en) | Model training method and method for human-machine interaction | |
CN112380847A (zh) | 兴趣点处理方法、装置、电子设备及存储介质 | |
CN112507103A (zh) | 任务型对话及模型训练方法、装置、设备和存储介质 | |
CN115248890A (zh) | 用户兴趣画像的生成方法、装置、电子设备以及存储介质 | |
CN111125550A (zh) | 兴趣点分类方法、装置、设备及存储介质 | |
CN111339314B (zh) | 一种三元组数据的生成方法、装置和电子设备 | |
CN116049370A (zh) | 信息查询方法和信息生成模型的训练方法、装置 | |
CN113807102B (zh) | 建立语义表示模型的方法、装置、设备和计算机存储介质 | |
CN114417862A (zh) | 文本匹配方法、文本匹配模型的训练方法和装置 | |
CN112784600A (zh) | 信息排序方法、装置、电子设备和存储介质 | |
CN116383491B (zh) | 信息推荐方法、装置、设备、存储介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |