CN112434167A - 一种信息识别方法及装置 - Google Patents
一种信息识别方法及装置 Download PDFInfo
- Publication number
- CN112434167A CN112434167A CN202110100246.6A CN202110100246A CN112434167A CN 112434167 A CN112434167 A CN 112434167A CN 202110100246 A CN202110100246 A CN 202110100246A CN 112434167 A CN112434167 A CN 112434167A
- Authority
- CN
- China
- Prior art keywords
- text
- information
- word segmentation
- node
- map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
- G06F16/353—Clustering; Classification into predefined classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Animal Behavior & Ethology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书一个或多个实施例提供了一种信息识别方法及装置,其中,该方法包括:获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
Description
技术领域
本文件涉及互联网技术领域,尤其涉及一种信息识别方法及装置。
背景技术
目前,随着网络信息技术的快速发展和传统纸媒行业逐渐向信息化媒体的转型,网络中的新闻信息越来越多,其中大部分新闻信息以文本形式存在。为了更好地对新闻文本进行审核,同时也为了使得用户在获取新闻文本时能够更加便捷,通常需要对新闻文本进行分类、去重等处理。
其中,在舆情监控系统中,时常需要对采集到的多篇新闻文档,根据其对应的具体事件进行去重,因此,具有计算两篇新闻文档之间的内容相似度的需求,当前主要通过simhash算法等方式计算两篇新闻文档之间的内容相似度,得到的内容相似度存在准确度低的问题。
发明内容
本说明书一个或多个实施例的目的是提供一种信息识别方法。该信息识别方法包括:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例的目的是提供一种信息识别装置。该信息识别装置包括:
文本信息获取模块,其获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
分词图谱确定模块,其确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
关联程度确定模块,其将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例的目的是提供一种信息识别设备,包括:处理器;以及被安排成存储计算机可执行指令的存储器。
所述计算机可执行指令在被执行时使所述处理器获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例的目的是提供一种存储介质,用于存储计算机可执行指令。所述可执行指令在被处理器执行时获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
附图说明
为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书一个或多个中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图;
图1为本说明书一个或多个实施例提供的信息识别方法的第一种流程示意图;
图2为本说明书一个或多个实施例提供的信息识别方法的第二种流程示意图;
图3为本说明书一个或多个实施例提供的信息识别方法的第三种流程示意图;
图4为本说明书一个或多个实施例提供的信息识别方法的第四种流程示意图;
图5为本说明书一个或多个实施例提供的信息识别方法的实现原理示意图;
图6为本说明书一个或多个实施例提供的信息识别装置的模块组成示意图;
图7为本说明书一个或多个实施例提供的信息识别设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书一个或多个中的技术方案,下面将结合本说明书一个或多个实施例中的附图,对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一个或多个一部分实施例,而不是全部的实施例。基于本说明书一个或多个中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本文件的保护范围。
需要说明的是,在不冲突的情况下,本说明书中的一个或多个实施例以及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本说明书一个或多个实施例。
本说明书一个或多个实施例提供了一种信息识别方法及装置,通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
图1为本说明书一个或多个实施例提供的信息识别方法的第一种流程示意图,图1中的方法能够由业务服务端执行,如图1所示,该方法至少包括以下步骤:
S102,获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;
其中,上述目标文本信息可以是新闻文本信息文档,对应的,历史事件为时事热点事件,上述目标文本信息还可以是医疗保险理赔申请文档,对应的,历史事件为历史就医事件,上述目标文本信息还可以是车辆保险理赔申请文档,对应的,历史事件为交通事故事件;
具体的,通过对新闻文本信息文档之间的信息关联程度进行识别,来实现将多个新闻文本信息文档按照对应的时事热点事件进行归类、去重等处理;通过对医疗保险理赔申请文档之间的信息关联程度进行识别,来实现对使用同一医疗诊断事件进行多次重复骗保行为进行拦截处理。
S104,确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;
具体的,在获取到目标文本信息后,针对每个目标文本信息构建对应的文本分词关系图谱,其中,可以将目标文本信息中所有分词均作为文本分词关系图谱中的分词节点,也可以只将目标文本信息中的关键词作为文本分词关系图谱中的分词节点;
其中,上述分词节点连接边是基于两个文本分词节点之间是否存在特定关联关系所构建的,例如,该特定关联关系表征两个文本分词节点对应的文本分词具有共现性,例如,两个文本分词出现在同一个文本语句中,则说明该两个文本分词具有共现性,又如,两个文本分词之间间隔的分词个数小于预设阈值(即两个文本分词出现在预设宽度窗口内),则说明该两个文本分词具有共现性;其中,上述文本分词关系图谱还包括:每个文本分词节点的节点特征信息、以及每个分词节点连接边的边特征信息。
S106,将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
其中,上述神经网络模型可以包括:依次连接的图谱输入网络、图神经网络、跨图注意力网络、特征向量汇总网络和全连接网络,该图谱输入网络作为神经网络模型的输入层,该图神经网络用于对文本分词关系图谱中的各文本分词节点进行上下文特征信息更新,该跨图注意力网络用于对文本分词关系图谱中的各文本分词节点进行跨图谱节点特征信息更新,该特征向量汇总网络用于将更新后的文本分词关系图谱转换为预设维度的汇总特征向量,该全连接网络用于对两个文本分词关系图对应的汇总特征向量的串接特征向量进行全连接运算得到信息关联程度;
具体的,将目标文本信息的文本分词关系图谱作为预先训练好的神经网络模型的模型输入,将两个文本分词关系图谱作为一组,利用该神经网络模型对每组文本分词关系图谱执行本图谱内上下文特征信息更新、跨图谱节点特征信息更新、汇总特征向量转换、全连接运算,得到目标文本信息之间的信息关联程度;
需要说明的是,上述神经网络模型可以采用上述网络结构,也可以采用其他可行的网络结构,即利用预先训练好的神经网络模型并基于目标文本信息对应的文本分词关系图谱,得到目标文本信息之间的信息关联程度的所有可变形实现方案均在本申请保护范围内。
其中,在确定目标文本信息之间的信息关联程度的过程中,由直接将目标文本信息的文本特征向量进行文本相似度比对,转换为将目标文本信息之间的文本分词关系图谱进行匹配,来确定目标文本信息之间的文本相似程度,由于文本分词关系图谱中包含更多的文本分词之间的结构化信息,因此,基于文本分词关系图谱来确定目标文本信息之间的文本相似程度,提高了识别至少两个目标文本信息是否为针对同一历史事件所产生的文本信息文档的准确度。
本说明书一个或多个实施例中,通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
其中,在确定出目标文本信息之间的信息关联程度后,可以基于该信息关联程度对多个目标文本信息进行预设处理,例如,文本信息分类处理、去重处理、针对文本信息的业务请求进行拦截处理中至少一项,基于此,在上述S106,将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度之后,还包括:
基于确定出的信息关联程度,确定与同一历史事件关联的至少两个目标文本信息;
其中,若每个信息关联程度是基于两个目标文本信息对应的文本分词关系图谱所确定的,该信息关联程度能够表征两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率;
具体的,若信息关联程度大于预设阈值,则在确定该信息关联程度所使用的文本分词关系图谱对应的目标文本信息为与同一历史事件关联的文本信息文档;例如,若目标文本信息为新闻文本信息文档且信息关联程度大于预设阈值,则说明该两个新闻文本信息文档为针对同一时事热点事件所产生的资讯信息文档,即用于针对同一时事热点事件进行新闻报道的文档;
具体的,若目标文本信息1与目标文本信息2之间的信息关联程度大于预设阈值,且目标文本信息2与目标文本信息3之间的信息关联程度也大于预设阈值,则可以确定目标文本信息1、目标文本信息2、目标文本信息3为与同一历史事件关联的文本信息文档。
按照目标文本信息对应的历史事件标识,对多个目标文本信息进行去重处理,得到去重处理后的目标文本信息。
具体的,在基于信息关联程度确定出哪些目标文本信息对应于同一历史事件后,对对应于同一历史事件的至少两个目标文本信息进行分类处理、去重处理;或者对针对对应于同一历史事件的至少两个目标文本信息的业务请求进行拦截处理;在具体实施时,可以根据实际业务需求对对应于同一历史事件的至少两个目标文本信息进行相应的业务处理;
例如,两篇新闻文档报道的均是“中国向几内亚派遣抗疫医疗队”这一事件,但是用词和行文有所不同,利用预先训练好的神经网络模型并基于该两篇新闻文档对应的文本分词关联图谱,执行本图谱内上下文特征信息更新、跨图谱节点特征信息更新、汇总特征向量转换、全连接运算,即可确定该两篇新闻文档的信息相似程度,其中,该信息相似程度大于预设阈值,从而将该两篇新闻文档识别为对应于同一新闻事件,进而对该两篇新闻文档进行分类处理、去重处理。
其中,在针对每个目标文本信息构建对应的文本分词关系图谱后,利用预先训练好的神经网络模型基于各待识别文本组合对应的文本分词关系图谱,执行上下文特征信息更新、跨图谱节点特征信息更新、汇总特征向量转换、全连接运算,得到信息关联程度,基于此,如图2所示,针对利用预先训练好的神经网络模型确定目标文本信息之间的信息关联程度的过程,上述S106,将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度,具体包括:
S1062,针对多个目标文本信息中的每个待识别文本组合,将该待识别文本组合对应的文本分词关系图谱输入至预先训练好的神经网络模型;
其中,上述待识别文本组合可以包括:至少两个目标文本信息,优选地,将两个目标文本信息作为一个待识别文本组合;具体的,可以将多个目标文本信息进行两两组合,得到多个待识别文本组合,也可以对多个目标文本信息进行初步相似度识别,将相似度大于预设阈值的两个目标文本信息确定为一个待识别文本组合;然后,针对每个待识别文本组合,将该待识别文本组合中包含的目标文本信息的文本分词关系图谱作为预先训练好的神经网络模型作为模型输入;例如,当前待识别文本组合包括:目标文本信息1和目标文本信息2,该目标文本信息1对应于文本分词关系图谱1,该目标文本信息2对应于文本分词关系图谱2,将该文本分词关系图谱1和文本分词关系图谱2一同输入至预先训练好的神经网络模型。
S1064,针对每个文本分词关系图谱,利用上述神经网络模型并基于本图谱节点特征信息和跨图谱节点特征信息,更新该文本分词关系图谱中各文本分词节点的特征信息,得到更新后的文本分词关系图谱;
其中,上述本图谱节点特征信息为当前更新的文本分词节点所在的文本分词关系图谱中其相邻分词节点的特征信息,用于将当前更新的文本分词节点的上下文特征进行汇总,增强文本分词关系图谱中各节点特征信息的语义理解;对应的,上述跨图谱节点特征信息为当前更新的文本分词节点对应的关联分词关系图谱中的文本分词节点的特征信息,用于将当前更新的文本分词节点与关联分词关系图谱中的各文本分词节点进行相似度比较,能够从关联分词关系图谱中寻找与当前更新的文本分词节点最相关的跨图谱分词节点;
其中,上述关联分词关系图谱与当前更新的文本分词节点所在的文本分词关系图谱属于同一待识别文本组合;优选地,该关联分词关系图谱中的文本分词节点的特征信息为对其进行相邻分词节点的特征信息进行更新后的特征信息;
具体的,若当前待识别文本组合对应的文本分词关系图谱为文本分词关系图谱1和文本分词关系图谱2,分别对文本分词关系图谱1和文本分词关系图谱2进行上下文特征更新以及跨图谱节点特征更新,得到更新后的文本分词关系图谱1和更新后的文本分词关系图谱2;其中,更新后的文本分词关系图谱1或更新后的文本分词关系图谱2中的各文本分词节点的特征信息包含本图谱内相邻节点的特征信息以及用于表征其与跨图谱节点相似度的特征信息。
S1066,利用上述神经网络模型并基于待识别文本组合对应的各更新后的文本分词关系图谱,确定该待识别文本组合中包含的目标文本信息之间的信息关联程度。
其中,在对文本分词关系图谱进行节点特征信息更新阶段,针对每个文本分词节点,充分吸收本图谱内相邻分词节点的特征信息、以及与跨图谱中所有分词节点的特征信息进行相似匹配,得到更新后的文本分词关系图谱,使得文本分词关系图谱中节点特征信息充分理解上下文特征和与待识别文本组合中另一个文本分词关系图谱进行关联匹配,再基于上下文节点特征及跨图谱节点特征更新后的文本分词关系图谱,确定每个待识别文本组合中的目标文本信息之间的信息关联程度;
具体的,在得到更新后的文本分词关系图谱后,利用上述神经网络模型对更新后的文本分词关系图谱进行汇总特征向量转换,以及对得到的汇总特征向量进行全连接运算,得到信息关联程度。
其中,针对文本分词关系图谱中的节点特征信息的更新过程,如图3所示,上述S1064,针对每个文本分词关系图谱,利用上述神经网络模型并基于本图谱节点特征信息和跨图谱节点特征信息,更新该文本分词关系图谱中各文本分词节点的特征信息,得到更新后的文本分词关系图谱,具体包括:
S10642,针对每个文本分词关系图谱,利用上述神经网络模型中的图神经网络,基于待更新文本分词节点的相邻分词节点的特征信息和边特征信息,更新该待更新文本分词节点的特征信息,得到初始更新后的文本分词关系图谱;
其中,上述图神经网络GNN可以是图卷积网络GCN,也可以是图注意力网络GAT,还可以是图循环网络GGRU等等,来使得文本分词节点的特征信息吸取其相邻分词节点的特征信息,从而实现增强文本分词节点的上下文语义理解,进而达到丰富文本分词关系图谱中各文本分词节点的特征信息的目的。
具体的,可以采用下述第一公式利用神经网络模型中的图神经网络,更新该待更新文本分词节点的特征信息,该第一公式为:
具体的,将文本分词关系图谱中的各文本分词节点依次确定为当前更新的文本分词节点,确定该当前更新的文本分词节点的相邻分词节点,其中,该相邻分词节点为与当前更新的文本分词节点直接连接的文本分词节点;先将该当前更新的文本分词节点的至少一个相邻分词节点的特征信息进行加权平均,得到该当前更新的文本分词节点的上下文特征信息,其中,加权平均所用的权重为边特征信息对应的边权重;再将当前更新的文本分词节点的特征信息与对应的上下文特征信息进行加权平均,得到该当前更新的文本分词节点的更新后的特征信息,其中,加权平均所用的权重可以是预设的,也可以是由模型自动确定的。
S10644,将得到的待识别文本组合中各初始更新后的文本分词关系图谱输入至上述神经网络模型中的跨图注意力网络;
其中,在针对文本分词关系图谱中各文本分词节点进行上下文特征信息更新后,需要对更新后的文本分词节点进行跨图谱节点特征信息更新,即将初始更新后的文本分词关系图谱作为神经网络模型中的跨图注意力网络的输入参数。
S10646,利用上述跨图注意力网络,基于待更新文本分词节点的跨图谱分词节点的特征信息,更新待更新文本分词节点的特征信息,得到最终更新后的文本分词关系图谱。
其中,上述跨图注意力网络可以是图注意力网络(GAT),也可以是门控注意力网络(GAAN),还可以是图形注意力模型(GAM)等等,用于将当前更新的文本分词节点与另一个文本分词关系图谱中的各文本分词节点进行相似度比较,来使得文本分词节点的特征信息吸取用于表征当前更新的文本分词节点与另一个文本分词关系图谱中的各文本分词节点相似度的特征信息,从而实现将文本分词节点与跨图谱分词节点进行相似匹配,进而达到进一步丰富文本分词关系图谱中各文本分词节点的特征信息的目的。
具体的,可以采用下述第二公式利用神经网络模型中的跨图注意力网络,更新该待更新文本分词节点的特征信息,该第二公式为:
具体的,将文本分词关系图谱中的各文本分词节点依次确定为当前更新的文本分词节点,确定该当前更新的文本分词节点的跨图谱分词节点,其中,该跨图谱分词节点为待识别文本组合中另一个文本分词关系图谱中的文本分词节点;先将该当前更新的文本分词节点的跨图谱分词节点的特征信息进行加权平均,得到该当前更新的文本分词节点的跨图谱特征信息,其中,加权平均所用的权重为当前更新的文本分词节点与跨图谱分词节点的特征向量相似度(即节点特征向量相乘);再将当前更新的文本分词节点的特征信息与对应的跨图谱特征信息进行加权平均,得到该当前更新的文本分词节点的更新后的特征信息,其中,加权平均所用的权重可以是预设的,也可以是由模型自动确定的。
其中,针对基于更新后的文本分词关系图谱确定目标文本信息之间的信息关联程度的过程,上述S1066,利用上述神经网络模型并基于待识别文本组合对应的各更新后的文本分词关系图谱,确定该待识别文本组合中包含的目标文本信息之间的信息关联程度,具体包括:
步骤一,针对每个更新后的文本分词关系图谱,对该文本分词关系图谱中各更新后的节点特征向量进行向量汇总处理,得到该文本分词关系图谱对应的预设维度的汇总特征向量;
具体的,在针对待识别文本组合中的目标文本信息确定出上下文特征及跨图谱特征更新后的文本分词关系图谱后,将更新后的文本分词关系图谱输入至神经网络模型中的特征向量汇总网络,利用该特征向量汇总网络对更新后的文本分词关系图谱进行向量汇总处理,得到预设维度的汇总特征向量;
其中,对更新后的文本分词关系图谱进行向量汇总处理的过程即为将文本分词关系图谱转换为一个特征向量,例如,可以采用对点特征的最大池化方式得到汇总特征向量,对应的,上述特征向量汇总网络为最大池化网络,也可以采用对点特征的注意力机制,对应的,上述特征向量汇总网络为注意力网络;
以采用对点特征的最大池化方式得到汇总特征向量为例,更新后的文本分词关系图谱中的每个文本分词节点对应于一个128维的特征向量,针对每个向量维度,确定文本分词关系图谱中的所有文本分词节点的128维的特征向量在该向量维度上最大值,得到一个128维的汇总特征向量。
步骤二,将待识别文本组合对应的各汇总特征向量进行串接处理,得到该待识别文本组合对应的综合特征向量;
具体的,若针对更新后的文本分词关系图谱确定出的预设维度的汇总特征向量为一个128维的汇总特征向量,则该待识别文本组合对应的综合特征向量为一个256维的综合特征向量,将该综合特征向量作为神经网络模型中的全连接网络的输入信息。
步骤三,将上述综合特征向量输入至上述神经网络模型中的全连接网络,得到待识别文本组合中包含的目标文本信息之间的信息关联程度。
具体的,利用全连接网络对当前的待识别文本组合对应的综合特征向量进行全连接运算,该全连接网络的输出即为目标文本信息之间的信息关联程度;其中,该全连接网络的输出用于表示两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
其中,针对确定待识别文本组合的过程,可以将多个目标文本信息中的两两目标文本信息均作为一个待识别文本组合,也可以先基于两两目标文本信息之间的文本相似度进行初步筛选,将重复概率比较大的两个目标文本信息作为一个待识别文本组合,过滤掉包含两个不相关的目标文本信息的文本信息组合,这样能够提高利用预先训练好的神经网络模型基于文本分词关系图谱进行目标文本信息的关联程度识别效率,基于此,上述S1062,针对多个目标文本信息中的每个待识别文本组合,将该待识别文本组合对应的文本分词关系图谱输入至预先训练好的神经网络模型,具体包括:
利用文本相似度匹配方式,在多个目标文本信息中确定两两目标文本信息之间的文本相似度;
若上述文本相似度大于预设相似度阈值,则将两个目标文本信息确定为待识别文本组合;
针对每个待识别文本组合,将该待识别文本组合中的两个目标文本信息分别对应的文本分词关系图谱输入至预先训练好的神经网络模型。
具体的,先采用文本字符串比较的方式或MD5摘要信息比较的方式,计算两个目标文本信息对应的整体特征向量的文本相似度,基于该文本相似度确定待识别文本组合,这样能够将重复概率比较大的两个目标文本信息作为一个待识别文本组合,过滤掉包含两个不相关的目标文本信息的文本信息组合,这样能够提高利用预先训练好的神经网络模型基于文本分词关系图谱进行目标文本信息的关联程度识别效率。
其中,针对目标文本信息的文本分词关系图谱的构建过程,上述S104,确定每个目标文本信息对应的文本分词关系图谱,具体包括:
步骤一,针对每个目标文本信息,对该目标文本信息进行关键词提取处理,得到该目标文本信息中包含的多个关键文本分词;
其中,关键词提取处理的方式可以是基于tf-idf的方法、基于text-rank的方法、基于命名实体识别的方法中任一项。
步骤二,将提取出的每个关键文本分词确定为一个文本分词节点,以及将具有特定关联关系的两个关键文本分词之间的连线确定为分词节点连接边,得到初始分词关系图谱;
其中,若两个关键文本分词是否满足预设条件,则确定该两个关键文本分词之间具有特定关联关系,其中,该预设条件包括:两个文本分词出现在同一个文本语句中、或者两个文本分词之间间隔的分词个数小于预设阈值。
步骤三,确定上述初始分词关系图谱中的文本分词节点的节点特征信息、以及分词节点连接边的边特征信息;
步骤四,基于上述初始分词关系图谱、节点特征信息和边特征信息,构建目标文本信息对应的文本分词关系图谱。
具体的,上述步骤三,确定上述初始分词关系图谱中的文本分词节点的节点特征信息、以及分词节点连接边的边特征信息,具体包括:
基于上述初始分词关系图谱中的各文本分词节点的特征向量,确定该文本分词节点的节点特征信息;
具体的,对各文本分词节点对应的关键文本分词进行特征向量转换处理,得到该文本分词节点对应的特征向量,并将该特征向量确定为该文本分词节点的节点特征信息;其中,可以基于预训练的词向量、或者关键文本分词所在上下文片段的CNN、RNN、或Bert编码向量中任一种方式,确定关键文本分词的特征向量。
基于上述初始分词关系图谱中的各分词节点连接边的属性信息,确定该分词节点连接边的边特征信息;其中,该属性信息可以包括关键文本分词成对出现的次数、两个关键文本分词之间间隔的关键文本分词的数量中至少一项。
在具体实施时,将基于分词节点连接边的属性信息确定该分词节点连接边的边权重确定为边特征信息;例如,边权重与关键文本分词成对出现的次数正相关,即关键文本分词成对出现的次数越大,这两个关键文本分词的节点连接边的边权重越大;又如,边权重与两个关键文本分词之间间隔的关键文本分词的数量负相关,即两个关键文本分词之间间隔的关键文本分词的数量越小,这两个关键文本分词的节点连接边的边权重越大。
其中,需要预先基于训练样本训练得到神经网络模型,针对神经网络模型的训练过程,如图4所示,在S102,获取待识别的多个目标文本信息之前,还包括:
S108,获取模型训练样本数据;其中,该模型训练样本数据包括:多个样本文本信息、以及样本文本信息之间的信息关联程度;其中,该信息关联程度用于表征两个样本文本信息为针对同一历史事件所产生的文本信息文档的概率;
S110,确定每个样本文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;
具体的,针对样本文本信息构建文本分词关系图谱的过程可以参考上述目标文本信息的文本分词关系图谱的构建过程,在此不再赘述。
S112,利用深度学习方法,基于上述样本文本信息的文本分词关系图谱和信息关联程度,对初始神经网络模型中的模型参数进行迭代训练,得到训练好的神经网络模型。
其中,神经网络模型的训练过程与使用过程是类似的,因此,基于模型训练样本数据对初始神经网络模型进行训练的过程可以参见上述利用训练好的神经网络模型确定目标文本信息之间的信息关联程度的具体实现步骤;对应的,上述初始神经网络模型包括:依次连接的图谱输入网络、图神经网络、跨图注意力网络、特征向量汇总网络和全连接网络,将两个样本文本信息作为一个样本文本组合,基于各样本文本组合中包含的两个样本文本信息的文本分词关系图谱、以及该两个样本文本信息的信息关联程度,对对初始神经网络模型中的模型参数进行迭代训练,直到神经网络模型收敛;其中,在初始神经网络模型中可以使用交叉熵作为损失函数并迭代训练。
在一个具体实施例中,以目标文本信息为针对某一历史事件所生成的新闻文本信息文档为例,如图5所示,给出了针对两个目标文本信息进行相似程度识别的处理过程,具体为:
若当前待识别文本组合包括:新闻文本文档1和新闻文本文档2,该新闻文本文档1对应于文本分词关系图谱1,该新闻文本文档2对应于文本分词关系图谱2;
通过预先训练好的神经网络模型中的输入层将文本分词关系图谱1和文本分词关系图谱2输入至神经网络模型中的图神经网络;
利用图神经网络,针对文本分词关系图谱1中的各文本分词节点,基于当前更新的文本分词节点的特征信息、相邻分词节点的特征信息、以及相应的边特征信息,更新该文本分词节点的特征信息,得到初步更新后的文本分词关系图谱1;例如,当前更新的文本分词节点为节点A1,其相邻分词节点分别为节点A2、节点A3、节点A4和节点A5;
利用图神经网络,针对文本分词关系图谱2中的各文本分词节点,基于当前更新的文本分词节点的特征信息、相邻分词节点的特征信息、以及相应的边特征信息,更新该文本分词节点的特征信息,得到初步更新后的文本分词关系图谱2;例如,当前更新的文本分词节点为节点B1,其相邻分词节点分别为节点B4、节点B5和节点B6;
将初步更新后的文本分词关系图谱1和文本分词关系图谱2输入至神经网络模型中的跨图注意力网络;
利用跨图注意力网络,针对初步更新后的文本分词关系图谱1中的各文本分词节点,基于当前更新的文本分词节点的特征信息、跨图谱分词节点的特征信息,更新该文本分词节点的特征信息,得到最终更新后的文本分词关系图谱1;例如,当前更新的文本分词节点为节点A1,其跨图谱分词节点分别为节点B1和节点B8;
利用跨图注意力网络,针对初步更新后的文本分词关系图谱2中的各文本分词节点,基于当前更新的文本分词节点的特征信息、跨图谱分词节点的特征信息,更新该文本分词节点的特征信息,得到最终更新后的文本分词关系图谱2;例如,当前更新的文本分词节点为节点B1,其跨图谱分词节点分别为节点A1和节点A7;
将最终更新后的文本分词关系图谱1和文本分词关系图谱2输入至神经网络模型中的特征向量汇总网络;
利用特征向量汇总网络,针对最终更新后的文本分词关系图谱1,基于该文本分词关系图谱1中的各文本分词节点对应的更新后的特征信息,得到该文本分词关系图谱1对应的汇总特征向量1;
利用特征向量汇总网络,针对最终更新后的文本分词关系图谱2,基于该文本分词关系图谱2中的各文本分词节点对应的更新后的特征信息,得到该文本分词关系图谱2对应的汇总特征向量2;
将基于汇总特征向量1和汇总特征向量2串接得到的综合特征向量输入至神经网络模型中的全连接网络;
利用全连接网络对综合特征向量进行全连接运算,得到用于新闻文本文档1和新闻文本文档2之间是否为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例中的信息识别方法,获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
对应上述图1至图5描述的信息识别方法,基于相同的技术构思,本说明书一个或多个实施例还提供了一种信息识别装置,图6为本说明书一个或多个实施例提供的信息识别装置的第一种模块组成示意图,该装置用于执行图1至图5描述的信息识别方法,如图6所示,该装置包括:
文本信息获取模块602,其获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
分词图谱确定模块604,其确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
关联程度确定模块606,其将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率
本说明书一个或多个实施例中的信息识别装置,获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
需要说明的是,本说明书中关于信息识别装置的实施例与本说明书中关于信息识别方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应的信息识别方法的实施,重复之处不再赘述。
进一步地,对应上述图1至图5所示的方法,基于相同的技术构思,本说明书一个或多个实施例还提供了一种信息识别设备,该设备用于执行上述的信息识别方法,如图7所示。
信息识别设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器701和存储器702,存储器702中可以存储有一个或一个以上存储应用程序或数据。其中,存储器702可以是短暂存储或持久存储。存储在存储器702的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对信息识别设备中的一系列计算机可执行指令。更进一步地,处理器701可以设置为与存储器702通信,在信息识别设备上执行存储器702中的一系列计算机可执行指令。信息识别设备还可以包括一个或一个以上电源703,一个或一个以上有线或无线网络接口704,一个或一个以上输入输出接口705,一个或一个以上键盘706等。
在一个具体的实施例中,信息识别设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对信息识别设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例中的信息识别设备,获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
需要说明的是,本说明书中关于信息识别设备的实施例与本说明书中关于信息识别方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应的信息识别方法的实施,重复之处不再赘述。
进一步地,对应上述图1至图5所示的方法,基于相同的技术构思,本说明书一个或多个实施例还提供了一种存储介质,用于存储计算机可执行指令,一种具体的实施例中,该存储介质可以为U盘、光盘、硬盘等,该存储介质存储的计算机可执行指令在被处理器执行时,能实现以下流程:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
本说明书一个或多个实施例中的存储介质存储的计算机可执行指令在被处理器执行时,获取待识别的多个目标文本信息;其中,该目标文本信息为针对历史事件所产生的文本信息文档;确定每个目标文本信息对应的文本分词关系图谱;其中,该文本分词关系图谱包括:文本分词节点和分词节点连接边;将确定出的文本分词关系图谱输入至预先训练好的神经网络模型,得到目标文本信息之间的信息关联程度;其中,该信息关联程度用于表征至少两个目标文本信息为针对同一历史事件所产生的文本信息文档的概率。通过针对每个目标文本信息构建文本分词关系图谱,利用预先训练好的神经网络模型将目标文本信息的文本分词关系图谱作为相似度匹配基础,来识别目标文本信息之间的文本信息关联程度,以便后续基于该文本信息关联程度对多个目标文本信息进行预设处理,提高了文本信息关联程度的确定准确度,从而提高了针对多个目标文本信息的预设处理精准度。
需要说明的是,本说明书中关于存储介质的实施例与本说明书中关于信息识别方法的实施例基于同一发明构思,因此该实施例的具体实施可以参见前述对应的信息识别方法的实施,重复之处不再赘述。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20 以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书一个或多个的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个是参照根据本说明书一个或多个实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书一个或多个的实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书一个或多个的实施例而已,并不用于限制本说明书一个或多个。对于本领域技术人员来说,本说明书一个或多个可以有各种更改和变化。凡在本说明书一个或多个的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书一个或多个的权利要求范围之内。
Claims (20)
1.一种信息识别方法,包括:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
2.根据权利要求1所述的方法,其中,在将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度之后,还包括:
基于所述信息关联程度,确定与同一历史事件关联的至少两个所述目标文本信息;
按照所述目标文本信息对应的历史事件标识,对所述多个目标文本信息进行去重处理,得到去重处理后的目标文本信息。
3.根据权利要求1所述的方法,其中,所述将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度,包括:
针对所述多个目标文本信息中的每个待识别文本组合,将该待识别文本组合对应的所述文本分词关系图谱输入至预先训练好的神经网络模型;
针对每个所述文本分词关系图谱,利用所述神经网络模型并基于本图谱节点特征信息和跨图谱节点特征信息,更新所述文本分词关系图谱中各文本分词节点的特征信息,得到更新后的文本分词关系图谱;以及,
基于所述待识别文本组合对应的各更新后的所述文本分词关系图谱,确定所述待识别文本组合中包含的目标文本信息之间的信息关联程度。
4.根据权利要求3所述的方法,其中,所述利用所述神经网络模型并基于本图谱节点特征信息和跨图谱节点特征信息,更新所述文本分词关系图谱中各文本分词节点的特征信息,得到更新后的文本分词关系图谱,包括:
利用所述神经网络模型中的图神经网络,基于待更新文本分词节点的相邻分词节点的特征信息和边特征信息,更新所述待更新文本分词节点的特征信息,得到初始更新后的文本分词关系图谱;
将所述待识别文本组合中各初始更新后的所述文本分词关系图谱输入至所述神经网络模型中的跨图注意力网络;
利用所述跨图注意力网络,基于待更新文本分词节点的跨图谱分词节点的特征信息,更新所述待更新文本分词节点的特征信息,得到最终更新后的文本分词关系图谱。
5.根据权利要求3所述的方法,其中,所述基于所述待识别文本组合对应的各更新后的所述文本分词关系图谱,确定所述待识别文本组合中包含的目标文本信息之间的信息关联程度,包括:
针对每个更新后的所述文本分词关系图谱,对该文本分词关系图谱中各更新后的节点特征向量进行向量汇总处理,得到该文本分词关系图谱对应的预设维度的汇总特征向量;
将所述待识别文本组合对应的各所述汇总特征向量进行串接处理,得到该待识别文本组合对应的综合特征向量;
将所述综合特征向量输入至所述神经网络模型中的全连接网络,得到所述待识别文本组合中包含的目标文本信息之间的信息关联程度。
6.根据权利要求3所述的方法,其中,所述针对所述多个目标文本信息中的每个待识别文本组合,将该待识别文本组合对应的所述文本分词关系图谱输入至预先训练好的神经网络模型,包括:
利用文本相似度匹配方式,在所述多个目标文本信息中确定两两所述目标文本信息之间的文本相似度;
若所述文本相似度大于预设相似度阈值,则将两个所述目标文本信息确定为待识别文本组合;
针对每个所述待识别文本组合,将该待识别文本组合对应的所述文本分词关系图谱输入至预先训练好的神经网络模型。
7.根据权利要求1所述的方法,其中,所述确定每个所述目标文本信息对应的文本分词关系图谱,包括:
针对每个所述目标文本信息,对所述目标文本信息进行关键词提取处理,得到该目标文本信息中包含的多个关键文本分词;
将每个所述关键文本分词确定为一个文本分词节点,以及将具有特定关联关系的两个所述关键文本分词之间的连线确定为分词节点连接边,得到初始分词关系图谱;
确定所述初始分词关系图谱中的所述文本分词节点的节点特征信息、以及所述分词节点连接边的边特征信息;
基于所述初始分词关系图谱、所述节点特征信息和所述边特征信息,构建所述目标文本信息对应的文本分词关系图谱。
8.根据权利要求7所述的方法,其中,所述确定所述初始分词关系图谱中的所述文本分词节点的节点特征信息、以及所述分词节点连接边的边特征信息,包括:
基于所述初始分词关系图谱中的各所述文本分词节点的特征向量,确定所述文本分词节点的节点特征信息;以及,
基于所述初始分词关系图谱中的各所述分词节点连接边的属性信息,确定所述分词节点连接边的边特征信息。
9.根据权利要求1所述的方法,其中,在获取待识别的多个目标文本信息之前,还包括:
获取模型训练样本数据;其中,所述模型训练样本数据包括:多个样本文本信息、以及所述样本文本信息之间的关联程度;
确定每个所述样本文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
利用深度学习方法,基于所述样本文本信息的所述文本分词关系图谱和所述关联程度,对初始神经网络模型中的模型参数进行迭代训练,得到训练好的神经网络模型。
10.一种信息识别装置,包括:
文本信息获取模块,其获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
分词图谱确定模块,其确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
关联程度确定模块,其将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
11.根据权利要求10所述的装置,其中,所述装置还包括:文本信息识别模块,其:
基于所述信息关联程度,确定与同一历史事件关联的至少两个所述目标文本信息;
按照所述目标文本信息对应的历史事件标识,对所述多个目标文本信息进行去重处理,得到去重处理后的目标文本信息。
12.根据权利要求10所述的装置,其中,所述关联程度确定模块,其:
针对所述多个目标文本信息中的每个待识别文本组合,将该待识别文本组合对应的所述文本分词关系图谱输入至预先训练好的神经网络模型;
针对每个所述文本分词关系图谱,利用所述神经网络模型并基于本图谱节点特征信息和跨图谱节点特征信息,更新所述文本分词关系图谱中各文本分词节点的特征信息,得到更新后的文本分词关系图谱;以及,
基于所述待识别文本组合对应的各更新后的所述文本分词关系图谱,确定所述待识别文本组合中包含的目标文本信息之间的信息关联程度。
13.根据权利要求12所述的装置,其中,所述关联程度确定模块,其:
利用所述神经网络模型中的图神经网络,基于待更新文本分词节点的相邻分词节点的特征信息和边特征信息,更新所述待更新文本分词节点的特征信息,得到初始更新后的文本分词关系图谱;
将所述待识别文本组合中各初始更新后的所述文本分词关系图谱输入至所述神经网络模型中的跨图注意力网络;
利用所述跨图注意力网络,基于待更新文本分词节点的跨图谱分词节点的特征信息,更新所述待更新文本分词节点的特征信息,得到最终更新后的文本分词关系图谱。
14.根据权利要求12所述的装置,其中,所述关联程度确定模块,其:
针对每个更新后的所述文本分词关系图谱,对该文本分词关系图谱中各更新后的节点特征向量进行向量汇总处理,得到该文本分词关系图谱对应的预设维度的汇总特征向量;
将所述待识别文本组合对应的各所述汇总特征向量进行串接处理,得到该待识别文本组合对应的综合特征向量;
将所述综合特征向量输入至所述神经网络模型中的全连接网络,得到所述待识别文本组合中包含的目标文本信息之间的信息关联程度。
15.根据权利要求12所述的装置,其中,所述关联程度确定模块,其:
利用文本相似度匹配方式,在所述多个目标文本信息中确定两两所述目标文本信息之间的文本相似度;
若所述文本相似度大于预设相似度阈值,则将两个所述目标文本信息确定为待识别文本组合;
针对每个所述待识别文本组合,将该待识别文本组合对应的所述文本分词关系图谱输入至预先训练好的神经网络模型。
16.根据权利要求10所述的装置,其中,所述分词图谱确定模块,其:
针对每个所述目标文本信息,对所述目标文本信息进行关键词提取处理,得到该目标文本信息中包含的多个关键文本分词;
将每个所述关键文本分词确定为一个文本分词节点,以及将具有特定关联关系的两个所述关键文本分词之间的连线确定为分词节点连接边,得到初始分词关系图谱;
确定所述初始分词关系图谱中的所述文本分词节点的节点特征信息、以及所述分词节点连接边的边特征信息;
基于所述初始分词关系图谱、所述节点特征信息和所述边特征信息,构建所述目标文本信息对应的文本分词关系图谱。
17.根据权利要求16所述的装置,其中,所述分词图谱确定模块,其:
基于所述初始分词关系图谱中的各所述文本分词节点的特征向量,确定所述文本分词节点的节点特征信息;以及,
基于所述初始分词关系图谱中的各所述分词节点连接边的属性信息,确定所述分词节点连接边的边特征信息。
18.根据权利要求10所述的装置,其中,所述装置还包括:神经网络训练模块,其:
获取模型训练样本数据;其中,所述模型训练样本数据包括:多个样本文本信息、以及所述样本文本信息之间的关联程度;
确定每个所述样本文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
利用深度学习装置,基于所述样本文本信息的所述文本分词关系图谱和所述关联程度,对初始神经网络模型中的模型参数进行迭代训练,得到训练好的神经网络模型。
19.一种信息识别设备,包括:
处理器;以及
被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
20.一种存储介质,用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下方法:
获取待识别的多个目标文本信息;其中,所述目标文本信息为针对历史事件所产生的文本信息文档;
确定每个所述目标文本信息对应的文本分词关系图谱;其中,所述文本分词关系图谱包括:文本分词节点和分词节点连接边;
将所述文本分词关系图谱输入至预先训练好的神经网络模型,得到所述目标文本信息之间的信息关联程度;其中,所述信息关联程度用于表征至少两个所述目标文本信息为针对同一历史事件所产生的文本信息文档的概率。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110100246.6A CN112434167B (zh) | 2021-01-26 | 2021-01-26 | 一种信息识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110100246.6A CN112434167B (zh) | 2021-01-26 | 2021-01-26 | 一种信息识别方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112434167A true CN112434167A (zh) | 2021-03-02 |
CN112434167B CN112434167B (zh) | 2021-04-20 |
Family
ID=74697244
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110100246.6A Active CN112434167B (zh) | 2021-01-26 | 2021-01-26 | 一种信息识别方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112434167B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113238646A (zh) * | 2021-04-20 | 2021-08-10 | 北京易华录信息技术股份有限公司 | 一种光存储集群的节能存储方法及装置 |
CN113326269A (zh) * | 2021-06-29 | 2021-08-31 | 深信服科技股份有限公司 | 一种资产识别方法、设备、装置及计算机可读存储介质 |
CN113378565A (zh) * | 2021-05-18 | 2021-09-10 | 北京邮电大学 | 多源数据融合的事件分析方法、装置、设备及存储介质 |
CN113590798A (zh) * | 2021-08-09 | 2021-11-02 | 北京达佳互联信息技术有限公司 | 对话意图识别、用于识别对话意图的模型的训练方法 |
CN117332282A (zh) * | 2023-11-29 | 2024-01-02 | 之江实验室 | 一种基于知识图谱的事件匹配的方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170024461A1 (en) * | 2015-07-23 | 2017-01-26 | International Business Machines Corporation | Context sensitive query expansion |
US20170177714A1 (en) * | 2014-07-14 | 2017-06-22 | International Business Machines Corporation | Automatic new concept definition |
CN110489751A (zh) * | 2019-08-13 | 2019-11-22 | 腾讯科技(深圳)有限公司 | 文本相似度计算方法及装置、存储介质、电子设备 |
CN111090755A (zh) * | 2019-11-29 | 2020-05-01 | 福建亿榕信息技术有限公司 | 一种文本关联关系判别方法及存储介质 |
-
2021
- 2021-01-26 CN CN202110100246.6A patent/CN112434167B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170177714A1 (en) * | 2014-07-14 | 2017-06-22 | International Business Machines Corporation | Automatic new concept definition |
US20170024461A1 (en) * | 2015-07-23 | 2017-01-26 | International Business Machines Corporation | Context sensitive query expansion |
CN110489751A (zh) * | 2019-08-13 | 2019-11-22 | 腾讯科技(深圳)有限公司 | 文本相似度计算方法及装置、存储介质、电子设备 |
CN111090755A (zh) * | 2019-11-29 | 2020-05-01 | 福建亿榕信息技术有限公司 | 一种文本关联关系判别方法及存储介质 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113238646A (zh) * | 2021-04-20 | 2021-08-10 | 北京易华录信息技术股份有限公司 | 一种光存储集群的节能存储方法及装置 |
CN113238646B (zh) * | 2021-04-20 | 2024-04-09 | 北京易华录信息技术股份有限公司 | 一种光存储集群的节能存储方法及装置 |
CN113378565A (zh) * | 2021-05-18 | 2021-09-10 | 北京邮电大学 | 多源数据融合的事件分析方法、装置、设备及存储介质 |
CN113378565B (zh) * | 2021-05-18 | 2022-11-04 | 北京邮电大学 | 多源数据融合的事件分析方法、装置、设备及存储介质 |
CN113326269A (zh) * | 2021-06-29 | 2021-08-31 | 深信服科技股份有限公司 | 一种资产识别方法、设备、装置及计算机可读存储介质 |
CN113590798A (zh) * | 2021-08-09 | 2021-11-02 | 北京达佳互联信息技术有限公司 | 对话意图识别、用于识别对话意图的模型的训练方法 |
CN113590798B (zh) * | 2021-08-09 | 2024-03-26 | 北京达佳互联信息技术有限公司 | 对话意图识别、用于识别对话意图的模型的训练方法 |
CN117332282A (zh) * | 2023-11-29 | 2024-01-02 | 之江实验室 | 一种基于知识图谱的事件匹配的方法及装置 |
CN117332282B (zh) * | 2023-11-29 | 2024-03-08 | 之江实验室 | 一种基于知识图谱的事件匹配的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN112434167B (zh) | 2021-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112434167B (zh) | 一种信息识别方法及装置 | |
CN108959246B (zh) | 基于改进的注意力机制的答案选择方法、装置和电子设备 | |
CN114595333B (zh) | 一种用于舆情文本分析的半监督方法和装置 | |
WO2021174783A1 (zh) | 近义词推送方法、装置、电子设备及介质 | |
US8457950B1 (en) | System and method for coreference resolution | |
CN110851598B (zh) | 文本分类方法、装置、终端设备及存储介质 | |
WO2020114100A1 (zh) | 一种信息处理方法、装置和计算机存储介质 | |
US9009029B1 (en) | Semantic hashing in entity resolution | |
CN111930809A (zh) | 数据处理方法、装置及设备 | |
CN110134852B (zh) | 一种文档的去重方法、设备及可读介质 | |
CN107357895B (zh) | 一种基于词袋模型的文本表示的处理方法 | |
US20200364216A1 (en) | Method, apparatus and storage medium for updating model parameter | |
CN110674297B (zh) | 舆情文本分类模型构建和舆情文本分类方法、装置及设备 | |
Zhang et al. | Continuous word embeddings for detecting local text reuses at the semantic level | |
Khan et al. | Machine learning approach for answer detection in discussion forums: an application of big data analytics | |
US10073890B1 (en) | Systems and methods for patent reference comparison in a combined semantical-probabilistic algorithm | |
WO2018213783A1 (en) | Computerized methods of data compression and analysis | |
CN110019820B (zh) | 一种病历中主诉与现病史症状时间一致性检测方法 | |
KR20120047622A (ko) | 디지털 콘텐츠 관리 시스템 및 방법 | |
Köksal et al. | Improving automated Turkish text classification with learning‐based algorithms | |
CN112446405A (zh) | 一种家电客服的用户意图引导方法及智能家电 | |
CN112818206A (zh) | 一种数据分类方法、装置、终端及存储介质 | |
CN112579774A (zh) | 模型训练方法、模型训练装置及终端设备 | |
WO2015159702A1 (ja) | 部分情報抽出システム | |
CN111625579A (zh) | 一种信息处理方法、装置及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40047376 Country of ref document: HK |