CN115982378A - 数据索引构建方法、装置、电子设备和计算机可读介质 - Google Patents
数据索引构建方法、装置、电子设备和计算机可读介质 Download PDFInfo
- Publication number
- CN115982378A CN115982378A CN202211621670.6A CN202211621670A CN115982378A CN 115982378 A CN115982378 A CN 115982378A CN 202211621670 A CN202211621670 A CN 202211621670A CN 115982378 A CN115982378 A CN 115982378A
- Authority
- CN
- China
- Prior art keywords
- data
- semantic information
- target
- index
- constructing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开的实施例公开了数据索引构建方法、装置、电子设备和计算机可读介质,数据处理技术领域。该方法的具体实施方式包括:对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;根据上述知识图谱中的语义信息,构建语义信息向量;根据上述语义信息向量构建数据索引。该实施方式通过对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱,根据上述知识图谱中的语义信息,构建语义信息向量,根据上述语义信息向量构建数据索引。能够利用知识图谱的实体进行语义拓展、利用实体和单词之间的交互获取更多的语义匹配信息等,并且能够提供更加精准快速的语义检索功能。
Description
技术领域
本公开的实施例涉及数据处理技术领域,具体涉及数据索引构建方法、装置、电子设备和计算机可读介质。
背景技术
相似案例检索是司法领域的一项重要任务,也是具有重要实践意义的应用方向,是司法实践中实现“类案同判”、“类案类判”的重要辅助手段,在司法领域拥有广泛的适用环境。
当前实现智能检索系统常常使用基于词向量的语义搜索算法。利用词向量方法,可以计算词汇间的语法和语义的线性相似度,所有词汇的语法和语义的线性相似度,是指词汇的语法相似度和语义相似度可进行近似的线性计算。
实际应用场景中纠纷案件存在较为明显和统一的类别区分,包括民间借贷纠纷、劳动纠纷、工伤纠纷等,且卷宗文本通常较长,如果只把每一份卷宗文本作为独立的数据进行处理,使用传统的文档检索,则数据库的占用空间将会较大,且没有充分利用到卷宗文件内在的关联与共性,得到的检索效果将会相对降低。
发明内容
有鉴于此,本公开实施例提供了一种数据索引构建方法、装置、电子设备和计算机可读介质,以解决现有技术中如何针对司法案件进行检索的问题。
本公开实施例的第一方面,提供了一种数据索引构建方法,包括:对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;根据上述知识图谱中的语义信息,构建语义信息向量;根据上述语义信息向量构建数据索引。
在一些实施例的一些可选的实现方式中,上述对初始数据进行抽取处理得到目标数据,包括:从上述初始数据中抽取初始实体信息和初始关系信息;对上述初始实体信息和初始关系信息进行数据清洗,得到目标实体信息和目标关系信息;根据上述目标实体信息和上述目标关系信息,确定目标数据。
在一些实施例的一些可选的实现方式中,上述基于上述目标数据集构建知识图谱,包括:根据上述目标数据确定三元组数据和属性数据;基于上述三元组数据以及上述属性数据构建知识图谱。
在一些实施例的一些可选的实现方式中,上述根据上述知识图谱中的语义信息,构建语义信息向量,包括:基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量。
在一些实施例的一些可选的实现方式中,上述基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量,包括:基于上述向量化召回优化算法确定初始处理模型;确定与上述知识图谱中的语义信息相关的训练集,并根据上述训练集对上述初始处理模型进行训练,得到目标处理模型;基于上述目标处理模型对上述知识图谱中的语义信息进行处理,得到语义信息向量。
在一些实施例的一些可选的实现方式中,上述根据上述语义信息向量构建数据索引,包括:确定索引构建模型,根据上述语义信息向量对上述索引构建模型进行训练,得到目标索引构建模型;基于上述目标索引构建模型,确定数据索引。
在一些实施例的一些可选的实现方式中,上述方法还包括:基于上述数据索引进行语义检索。
本公开实施例的第二方面,提供了一种数据索引构建装置,装置包括:图谱构建单元,被配置成对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;向量构建单元,被配置成根据上述知识图谱中的语义信息,构建语义信息向量;索引构建单元,被配置成根据上述语义信息向量构建数据索引。
在一些实施例的一些可选的实现方式中,数据索引构建装置的图谱构建单元被进一步配置成:从上述初始数据中抽取初始实体信息和初始关系信息;对上述初始实体信息和初始关系信息进行数据清洗,得到目标实体信息和目标关系信息;根据上述目标实体信息和上述目标关系信息,确定目标数据。
在一些实施例的一些可选的实现方式中,数据索引构建装置的图谱构建单元被进一步配置成:根据上述目标数据确定三元组数据和属性数据;基于上述三元组数据以及上述属性数据构建知识图谱。
在一些实施例的一些可选的实现方式中,数据索引构建装置的向量构建单元被进一步配置成:基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量。
在一些实施例的一些可选的实现方式中,上述基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量,包括:基于上述向量化召回优化算法确定初始处理模型;确定与上述知识图谱中的语义信息相关的训练集,并根据上述训练集对上述初始处理模型进行训练,得到目标处理模型;基于上述目标处理模型对上述知识图谱中的语义信息进行处理,得到语义信息向量。
在一些实施例的一些可选的实现方式中,数据索引构建装置的索引构建单元被进一步配置成:确定索引构建模型,根据上述语义信息向量对上述索引构建模型进行训练,得到目标索引构建模型;基于上述目标索引构建模型,确定数据索引。
在一些实施例的一些可选的实现方式中,数据索引构建装置被进一步配置成:基于上述数据索引进行语义检索。
本公开实施例的第三方面,提供了一种电子设备,包括存储器、处理器以及存储在存储器中并且可以在处理器上运行的计算机程序,该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法的步骤。
本公开的上述各个实施例中的一个实施例具有如下有益效果:首先,对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;然后,根据上述知识图谱中的语义信息,构建语义信息向量;最后,根据上述语义信息向量构建数据索引。本公开提供的数据索引构建方法可以通过对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱,根据上述知识图谱中的语义信息,构建语义信息向量,根据上述语义信息向量构建数据索引。能够利用知识图谱的实体进行语义拓展、利用实体和单词之间的交互获取更多的语义匹配信息等,并且能够提供更加精准快速的语义检索功能。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是根据本公开的数据索引构建方法的一些实施例的流程示意图;
图2a是根据本公开的数据索引构建方法的第一处理过程流程图;
图2b是根据本公开的数据索引构建方法的第二处理过程流程图;
图2c是根据本公开的数据索引构建方法的第三处理过程流程图;
图2d是根据本公开的数据索引构建方法的第四处理过程流程图;
图3是根据本公开的数据索引构建装置的一些实施例的结构示意图;
图4是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本公开实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本公开的描述。
下面将结合附图详细说明根据本公开实施例的一种数据索引构建方法、装置、电子设备和计算机可读介质。
图1是根据本公开的数据索引构建方法的一些实施例的流程示意图。
步骤S101,对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱。
在一些实施例中,数据索引构建方法的执行主体首先可以从上述初始数据中抽取初始实体信息和初始关系信息。然后,上述执行主体可以对上述初始实体信息和初始关系信息进行数据清洗,得到目标实体信息和目标关系信息。最后,上述执行主体可以根据上述目标实体信息和上述目标关系信息,确定目标数据。具体地,从上述初始数据中抽取初始实体信息和初始关系信息称之为知识抽取,采用了命名实体识别(NER,Named EntityRecognition)和基于要素抓取的要素提取方法,对初始数据调用针对性的阅读理解模型进行要素提取。
作为示例,上述执行主体可以基于矛盾纠纷调解数据的知识图谱来构建,数据基础可以为某市的脱敏矛盾纠纷调解卷宗,经过要素提取后,将原始文本数据中的实体和关系信息抽取出来,存入关系型数据库中。例如,提取结果可以参考以下表格:
在一些实施例中,上述执行主体可以根据上述目标数据确定三元组数据和属性数据。然后,基于上述三元组数据以及上述属性数据构建知识图谱。具体来说,知识图谱(Knowledge Graph)是结构化的语义知识库,使用符号形式描述物理世界中的概念及其相互关系,其基本组成单位是“实体-关系-实体”三元组,以及实体及其相关属性的键值对,实体间通过关系相互连接,构成网状的知识结构。
上述知识图谱的数据结构可表示为以下三元组模型:
G=(E,R,S),
其中,E={e1,e2,...,en}用于表示知识库中的实体集合,共包含有n种不同实体;R={r1,r2,...,rm}用于表示知识库中实体间关系的集合,共包含m种不同关系;代表知识库中的三元组集合。根据以上提取要素,命名实体识别方法抽取出实体和关系,构建知识图谱,当以“担保”要素构成的关系时,原始问题为“谁给原告做担保的?”,将其转化为“原告-担保-担保人”的三元组形式,“原告”和“担保人”为实体,“担保”为两个实体之间存在的关系。
进一步来说,经过知识抽取后得到的数据需要进行清洗优化,可以理解为知识融合。知识融合能使仍存在不规范、错漏、重复问题的数据在同一框架规范下进行异构数据整合、消歧、加工、推理验证、更新等步骤,将良莠不齐的知识进行清洗融合,形成高质量的知识库。知识融合主要包含实体消歧和指代消解,用于判断知识库中的同名实体是否代表同一含义,是否有其他实体也表示相同含义。实体消歧主要用于解决同名的实体出现歧义的问题,指代消解主要用于解决代词指代不清的问题,如两份纠纷调解数据中出现的两处“村长”,指代的可能并非为同一人,则需要修改或丰富实体名称对其进行消歧。对知识抽取得到的数据进行知识融合处理后,将处理得到的三元组数据存入数据库中。
步骤S102,根据上述知识图谱中的语义信息,构建语义信息向量。
在一些实施例中,上述执行主体可以基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量。这里,将知识图谱的语义信息向量化,该任务的数据基础为第一步中构建得到的知识图谱中丰富的语义信息,为了便于之后的构建索引和检索操作,通过向量化将实体关系形式的语义信息转化为向量形式。词向量(WordRepresentation)是自然语言处理(NLP,Natural Language Processing)领域中广泛使用的方法,将文本形式的单词表示成定长的连续的稠密向量,从而让计算机难以理解的文本数据能转化为便于计算机进行处理的数字化表示。
具体地,上述方法包括:上述执行主体可以基于上述向量化召回优化算法确定初始处理模型;确定与上述知识图谱中的语义信息相关的训练集,并根据上述训练集对上述初始处理模型进行训练,得到目标处理模型;基于上述目标处理模型对上述知识图谱中的语义信息进行处理,得到语义信息向量。作为示例,为实现对于司法案件智能检索中的向量化需求,采用对开放域问答的向量化召回优化算法之一,RocketQA模型作为基础,即初始处理模型。该主要在传统对偶模型基础上包含了三个优化方法,分别为跨批次负采样、困难样本去噪以及数据增强训练。在本司法案件智能检索系统中主要使用该模型作为基础实现向量化过程。具体包括:跨批次负采样(cross-batch negatives)。在使用多GPU并行训练时,将其他GPU批次内的全部段落作为当前问题的负样本,直接复用各个GPU上已经计算好的段落表示,从而减少额外的计算量。去噪的强负例采样(denoised hard negativesampling)。在模型训练中适当增加训练数据中的强负例的难度,帮助提升模型效果。在排好序的候选段落中进行采样时,越靠前的负例对模型来说难度越大,但由于难以避免的漏标注情况,直接采样很大概率会引入假负例,因此RocketQA模型使用交互模型(cross-encoder)的打分作为监督信息帮助去噪,在选择强负例时,避开交互模型给出高置信度的样例。通过这样的优化方法,RockerQA模型具有结构上的优势,能够编码更多的交互信息,给出可靠的监督信号,提升模型效果。数据增强(data augmentation)。在引入大量无标注的问题时,如本系统中针对的司法卷宗文件,RocketQA模型可利用交互模型以极低的成本得到大量弱监督数据,进一步增强模型性能。
作为示例,如图2a所示,C表示收集到的段落集合,QL表示与在C中的段落有对应标签的问题集合,QU表示没有对应段落标签的问题集合。DL表示包含C和QL的数据集,DU表示包含C和QU的数据集。具体包括如下步骤:
第一步,使用跨批次负采样方法训练一个对偶检索模型MD(0)。
第二步,使用DL数据集训练一个交互模型MC。此处的负采样使用的是对偶模型MD(0)对每个问题q从C中找出的排除了正例段落后的top-k相似段落。
第三步,训练一个对偶检索模型MD(1),通过引入去噪实现强负例采样。此处的负采样使用的是对偶模型MD(0)对每个问题Q从C中找出的top-k相似段落(排除正例段落),然后将相似段落使用模型MC进行预测,如果有高概率为正例,则将其移除,即实现了降噪操作。
通过模型MD(1)来为QU中的问题找到C中相似的top-k段落,使用模型MC来为top-k的段落完成标记操作,然后使用DL数据集和数据增强后的DU数据集来训练对偶检索模型MD(2)。通过这样训练流程得到的RocketQA模型用于在本司法案件智能检索系统中实现向量化的功能。
步骤S103,根据上述语义信息向量构建数据索引。
在一些实施例中,上述执行主体可以先确定索引构建模型,然后根据语义信息向量对上述索引构建模型进行训练,得到目标索引构建模型。具体地,上述执行主体以知识图谱数据作为输入的原始数据,用过训练和新增操作在全局范围构建出索引文件,以便后续执行查找任务。当知识图谱的数据有小范围更新时,可以在已有索引文件的基础上仅进行新增操作,在节省空间和时间的情况下完成索引文件的增量构建。将向量化后得到的结构化信息作为构建索引的原始数据,使用了现有的成熟工具Faiss框架。Faiss包含多种搜索任意大小向量集(向量集大小由RAM内存决定)的算法,以及用于算法评估和参数调整的支持代码。
具体来说,构建索引主要使用了倒排乘积量化(IVF-PQ)方法,可以分为乘积量化和倒排两部分。乘积量化(PQ,Product Quantization)可以理解为:在训练阶段,针对N维训练样本,以128维为例,将其切分为M个子空间,为了便于切分,选择的子空间个数需为能够整除向量维度的值,选择4个子空间为例。将原始数据的每一个向量切分成4段,每一段子向量为32维,即每一个子空间的维度为32维,在每个子空间中,对其子向量采用K-Means聚类方法,根据数据的实际情况选择恰当的聚类数目即簇心,以选择256个簇心为例,对第一个子空间,也就是原向量被切分出的第一段进行聚类得到256个簇心,再对另三个子空间进行同样的操作,最终得到256*4个簇心。聚类之后进行映射,将原始N维的向量映射到M个数字,对于被切分成M段的向量,每一段子向量分别找到对应其最近的簇心ID,4个子空间对应4个簇心ID,将一个原本128维的向量编码成一个由4个ID表示的向量,如图2b所示,实现量化操作。倒排(IVF,Inverted File System)可以理解为:使用倒排在乘积量化方法的基础上进一步提升查询速度,其目的是减少查询中需要计算距离的目标向量的个数,具体操作为在PQ乘积量化之前增加一个粗量化过程,先对N个训练样本采用K-Means进行聚类,根据数据的实际情况灵活选择聚类的数目,为了便于构建索引和后续查找,簇心数量不应设置得过大,以设置为1024为例。经过K-Means得到聚类中心后,针对每一个样本xi,找到其距离最近的类中心ci,两者相减得到样本xi的残差向量(xi-ci),再针对残差向量进行乘积量化操作。具体可结合图2b来理解。
在一些实施例的一些可选的实现方式中,上述方法还包括:基于上述数据索引进行语义检索。作为示例,对案例进行查询时的方法与构建索引的原理类似,首先进行与倒排过程相同的粗量化,同上假设簇心个数为1024,对查询向量计算其与1024个粗聚类簇心的残差向量,选择距离其最近的top N个簇,仅通过乘积量化计算查询向量与这些簇中的向量的距离,而不需要计算全部索引。使用乘积量化进行向量检索的过程如图2d所示,对于每一个查询向量,以相同的方法将128位向量切分成4段32维向量,计算每一段向量与之前粗聚类中选择好的top N个簇心的距离,得到一个4*top N的表,因为索引文件中的向量已经被量化成了4个簇心ID表示的形式,而查询向量的4段子向量与各自对应的top N个簇心距离已经计算出来,使用乘积量化计算查询向量和索引中向量的距离只需要查4次表,例如对索引中被筛选出的top N个簇底下的某个量化为[x,y,z,k]的向量,首先查表得到查询向量第一段子向量与其ID为x的簇心的距离d1,再查表得到查询向量第二段子向量与其ID为y的簇心的距离d2,并重复该操作得到4个距离d1、d2、d3、d4,查询向量与该索引向量的距离d=d1+d2+d3+d4,根据该距离进行排序,查找得到查询向量的相似向量。
本公开的上述各个实施例中的一个实施例具有如下有益效果:首先,对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;然后,根据上述知识图谱中的语义信息,构建语义信息向量;最后,根据上述语义信息向量构建数据索引。本公开提供的数据索引构建方法可以通过对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱,根据上述知识图谱中的语义信息,构建语义信息向量,根据上述语义信息向量构建数据索引。能够利用知识图谱的实体进行语义拓展、利用实体和单词之间的交互获取更多的语义匹配信息等,并且能够提供更加精准快速的语义检索功能。另外,本公开主要是在常规的特定领域检索系统基础上引入了知识图谱来表示数据,并将文本形式的数据向量化,基于向量形式的数据来实现用户所需的案例检索功能。本公开针对纠纷调解这个特定领域,从纠纷调解案例卷宗的数据特点出发,针对性地构建了民事纠纷调解的知识图谱,把原本孤立的每个案例数据通过存在的相同或相似关系关联起来,构建成为知识图谱形式的网络关系,充分利用了纠纷调解数据的共性和内部结构化信息,能够利用知识图谱的实体进行语义拓展、利用实体和单词之间的交互获取更多的语义匹配信息等。本公开对知识图谱数据进行向量化,将知识图谱中的实体关系数据转化为词向量的形式,利用知识图谱中的实体和关系信息进行词向量的增强表达,在文档向量中融入了知识图谱中的语义信息,更好的利用了纠纷调解领域数据本身的上下文语义信息,并通过计算向量相似度的方法达成更加精准快速的语义检索功能。
上述所有可选技术方案,可以采用任意结合形成本申请的可选实施例,在此不再一一赘述。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
图3是根据本公开的数据索引构建装置的一些实施例的结构示意图。如图3所示,该数据索引构建装置包括:图谱构建单元301、向量构建单元302和索引构建单元303。其中,图谱构建单元301,被配置成对初始数据进行抽取处理得到目标数据,基于上述目标数据集构建知识图谱;向量构建单元302,被配置成根据上述知识图谱中的语义信息,构建语义信息向量;索引构建单元303,被配置成根据上述语义信息向量构建数据索引。
在一些实施例的一些可选的实现方式中,数据索引构建装置的图谱构建单元301被进一步配置成:从上述初始数据中抽取初始实体信息和初始关系信息;对上述初始实体信息和初始关系信息进行数据清洗,得到目标实体信息和目标关系信息;根据上述目标实体信息和上述目标关系信息,确定目标数据。
在一些实施例的一些可选的实现方式中,数据索引构建装置的图谱构建单元301被进一步配置成:根据上述目标数据确定三元组数据和属性数据;基于上述三元组数据以及上述属性数据构建知识图谱。
在一些实施例的一些可选的实现方式中,数据索引构建装置的向量构建单元302被进一步配置成:基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量。
在一些实施例的一些可选的实现方式中,上述基于向量化召回优化算法,对上述知识图谱中的语义信息进行处理,构建语义信息向量,包括:基于上述向量化召回优化算法确定初始处理模型;确定与上述知识图谱中的语义信息相关的训练集,并根据上述训练集对上述初始处理模型进行训练,得到目标处理模型;基于上述目标处理模型对上述知识图谱中的语义信息进行处理,得到语义信息向量。
在一些实施例的一些可选的实现方式中,数据索引构建装置的索引构建单元303被进一步配置成:确定索引构建模型,根据上述语义信息向量对上述索引构建模型进行训练,得到目标索引构建模型;基于上述目标索引构建模型,确定数据索引。
在一些实施例的一些可选的实现方式中,数据索引构建装置被进一步配置成:基于上述数据索引进行语义检索。
可以理解的是,该装置中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置及其中包含的单元,在此不再赘述。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本公开实施例的实施过程构成任何限定。
图4是本公开实施例提供的计算机设备4的示意图。如图4所示,该实施例的计算机设备4包括:处理器401、存储器402以及存储在该存储器402中并且可以在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者,处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
示例性地,计算机程序403可以被分割成一个或多个模块/单元,一个或多个模块/单元被存储在存储器402中,并由处理器401执行,以完成本公开。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序403在计算机设备4中的执行过程。
计算机设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算机设备。计算机设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解,图4仅仅是计算机设备4的示例,并不构成对计算机设备4的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如,计算机设备还可以包括输入输出设备、网络接入设备、总线等。
处理器401可以是中央处理单元(Central Processing Unit,CPU),也可以是其它通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器402可以是计算机设备4的内部存储单元,例如,计算机设备4的硬盘或内存。存储器402也可以是计算机设备4的外部存储设备,例如,计算机设备4上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器402还可以既包括计算机设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及计算机设备所需的其它程序和数据。存储器402还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本公开的范围。
在本公开所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本公开各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。基于这样的理解,本公开实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,计算机程序可以存储在计算机可读存储介质中,该计算机程序在被处理器执行时,可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如,在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开的技术方案,而非对其限制;尽管参照前述实施例对本公开进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围,均应包含在本公开的保护范围之内。
Claims (10)
1.一种数据索引构建方法,包括:
对初始数据进行抽取处理得到目标数据,基于所述目标数据集构建知识图谱;
根据所述知识图谱中的语义信息,构建语义信息向量;
根据所述语义信息向量构建数据索引。
2.根据权利要求1所述的数据索引构建方法,其特征在于,所述对初始数据进行抽取处理得到目标数据,包括:
从所述初始数据中抽取初始实体信息和初始关系信息;
对所述初始实体信息和初始关系信息进行数据清洗,得到目标实体信息和目标关系信息;
根据所述目标实体信息和所述目标关系信息,确定目标数据。
3.根据权利要求2所述的数据索引构建方法,其特征在于,所述基于所述目标数据集构建知识图谱,包括:
根据所述目标数据确定三元组数据和属性数据;
基于所述三元组数据以及所述属性数据构建知识图谱。
4.根据权利要求1所述的数据索引构建方法,其特征在于,所述根据所述知识图谱中的语义信息,构建语义信息向量,包括:
基于向量化召回优化算法,对所述知识图谱中的语义信息进行处理,构建语义信息向量。
5.根据权利要求4所述的数据索引构建方法,其特征在于,所述基于向量化召回优化算法,对所述知识图谱中的语义信息进行处理,构建语义信息向量,包括:
基于所述向量化召回优化算法确定初始处理模型;
确定与所述知识图谱中的语义信息相关的训练集,并根据所述训练集对所述初始处理模型进行训练,得到目标处理模型;
基于所述目标处理模型对所述知识图谱中的语义信息进行处理,得到语义信息向量。
6.根据权利要求1所述的数据索引构建方法,其特征在于,所述根据所述语义信息向量构建数据索引,包括:
确定索引构建模型,根据所述语义信息向量对所述索引构建模型进行训练,得到目标索引构建模型;
基于所述目标索引构建模型,确定数据索引。
7.根据权利要求1所述的数据索引构建方法,其特征在于,所述方法还包括:
基于所述数据索引进行语义检索。
8.一种数据索引构建装置,包括:
图谱构建单元,被配置成对初始数据进行抽取处理得到目标数据,基于所述目标数据集构建知识图谱;
向量构建单元,被配置成根据所述知识图谱中的语义信息,构建语义信息向量;
索引构建单元,被配置成根据所述语义信息向量构建数据索引。
9.一种电子设备,包括存储器、处理器以及存储在所述存储器中并且可以在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211621670.6A CN115982378A (zh) | 2022-12-16 | 2022-12-16 | 数据索引构建方法、装置、电子设备和计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211621670.6A CN115982378A (zh) | 2022-12-16 | 2022-12-16 | 数据索引构建方法、装置、电子设备和计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115982378A true CN115982378A (zh) | 2023-04-18 |
Family
ID=85965839
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211621670.6A Pending CN115982378A (zh) | 2022-12-16 | 2022-12-16 | 数据索引构建方法、装置、电子设备和计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115982378A (zh) |
-
2022
- 2022-12-16 CN CN202211621670.6A patent/CN115982378A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111414393B (zh) | 一种基于医学知识图谱的语义相似病例检索方法及设备 | |
CN105930362B (zh) | 搜索目标识别方法、装置及终端 | |
CN112884005B (zh) | 一种基于sptag及卷积神经网的图像检索方法及装置 | |
CN112148843B (zh) | 文本处理方法、装置、终端设备和存储介质 | |
WO2023040493A1 (zh) | 事件检测 | |
CN107291895B (zh) | 一种快速的层次化文档查询方法 | |
CN109344263A (zh) | 一种地址匹配方法 | |
CN111339277A (zh) | 基于机器学习的问答交互方法及装置 | |
CN112559747A (zh) | 事件分类处理方法、装置、电子设备和存储介质 | |
CN115062134B (zh) | 知识问答模型训练及知识问答方法、装置和计算机设备 | |
CN110222192A (zh) | 语料库建立方法及装置 | |
CN116402166B (zh) | 一种预测模型的训练方法、装置、电子设备及存储介质 | |
CN115203421A (zh) | 一种长文本的标签生成方法、装置、设备及存储介质 | |
CN115982144A (zh) | 相似文本去重方法、装置、存储介质及电子装置 | |
CN116561264A (zh) | 一种基于知识图谱的智能问答系统的构建方法 | |
CN117235137B (zh) | 一种基于向量数据库的职业信息查询方法及装置 | |
CN118096452A (zh) | 一种案件辅助审判方法、装置、终端设备及介质 | |
CN115168537A (zh) | 语义检索模型的训练方法、装置、电子设备及存储介质 | |
CN116842142B (zh) | 一种医疗器械智能化检索系统 | |
CN112199958A (zh) | 概念词序列生成方法、装置、计算机设备及存储介质 | |
CN113868389B (zh) | 基于自然语言文本的数据查询方法、装置及计算机设备 | |
CN113743118B (zh) | 基于融合关系信息编码的法律文书中的实体关系抽取方法 | |
CN115982378A (zh) | 数据索引构建方法、装置、电子设备和计算机可读介质 | |
CN115221298A (zh) | 问答匹配方法、装置、电子设备及存储介质 | |
CN109299456B (zh) | 一种地名识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |