CN117520608A - 数据操作方法、装置、设备和介质 - Google Patents
数据操作方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN117520608A CN117520608A CN202311498440.XA CN202311498440A CN117520608A CN 117520608 A CN117520608 A CN 117520608A CN 202311498440 A CN202311498440 A CN 202311498440A CN 117520608 A CN117520608 A CN 117520608A
- Authority
- CN
- China
- Prior art keywords
- entity information
- preliminary
- information
- entity
- semantic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 238000003860 storage Methods 0.000 claims abstract description 18
- 238000013507 mapping Methods 0.000 claims description 76
- 238000010801 machine learning Methods 0.000 claims description 33
- 238000000605 extraction Methods 0.000 claims description 31
- 238000007781 pre-processing Methods 0.000 claims description 30
- 238000003058 natural language processing Methods 0.000 claims description 27
- 238000012545 processing Methods 0.000 claims description 24
- 239000013598 vector Substances 0.000 claims description 18
- 238000012550 audit Methods 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000004590 computer program Methods 0.000 description 15
- 239000012634 fragment Substances 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 230000015654 memory Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000003672 processing method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 230000004888 barrier function Effects 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 4
- 238000002347 injection Methods 0.000 description 4
- 239000007924 injection Substances 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000009849 deactivation Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 2
- 238000004138 cluster model Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000007621 cluster analysis Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/90335—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9032—Query formulation
- G06F16/90332—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computing Systems (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Machine Translation (AREA)
Abstract
本公开提供了一种数据操作方法,可以应用于人工智能技术领域。该数据操作方法,包括:提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及执行所述M个可执行的指令,得到返回结果。本公开还提供了一种数据操作装置、设备和存储。
Description
技术领域
本公开涉及人工智能技术领域,具体地涉及一种数据操作方法、装置、设备和介质。
背景技术
在一个典型的场景中,用户通过平台进行数据处理操作,以实现上层的业务逻辑的处理。目前,在用的部分自主查数平台,由于入口不统一,导致不同系统的数据需要从不同平台获取,不同平台间的业务逻辑和操作语句存在差异,这种差异在一定程度上导致了使用成本较高。同时,繁杂的业务逻辑和操作语句的学习成本也较高,这对用户而言是一笔不小的学习成本。
发明内容
鉴于上述问题,本公开提供了提高数据操作效率并降低数据操作使用成本的数据操作方法、装置、设备和介质。
根据本公开的第一个方面,提供了一种数据操作方法,包括:提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及执行所述M个可执行的指令,得到返回结果。
根据本公开的实施例,其中,所述提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系,包括:抽取所述提交信息中的实体信息,得到初步实体信息;对所述初步实体信息执行消歧处理,得到标准实体信息;获取所述提交信息中的语义关系。
根据本公开的实施例,所述抽取所述提交信息中的实体信息,得到初步实体信息,包括:对所述提交信息执行预处理,得到预处理结果;将所述预处理结果作为预设的第一机器学习模型的输入,得到实体识别结果表;基于所述实体识别结果表和预设的目标业务表,计算相似度,得到相似度结果表;以及去除所述相似度结果表中小于第一相似度阈值的实体信息,得到所述初步实体信息。
根据本公开的实施例,其中,所述将所述预处理结果作为预设的机器学习模型的输入,得到实体识别结果表,包括:将所述预处理结果转换为向量形式,得到向量结果;基于所述向量结果输出文本序列;以及基于所述文本序列,生成所述实体识别结果表。
根据本公开的实施例,其中,所述对所述初步实体信息执行消歧处理,得到标准实体信息,包括:基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,其中,所述第二机器学习模型包括聚类模型,所述基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,包括:获取初步实体信息、所述初步实体信息对应的指标项和标准实体信息;基于所述初步实体信息的指标项,通过所述聚类模型对所述初步实体信息分类,得到实体类别和第一映射关系,所述第一映射关系是所述初步实体信息和所述实体类别之间的映射关系;基于所述实体类别匹配所述标准实体信息,并结合所述第一映射关系生成第二映射关系,所述第二映射关系是所述标准实体信息和所述初步实体信息的映射关系;以及按照所述第二映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述指标项包括第一指标项和第二指标项,所述第一指标项是所述初步实体信息自身特征的指标项,所述第二指标项是所述初步实体信息所处上下文特征的指标项。
根据本公开的实施例,其中,所述预设的第二机器学习模型还包括自然语言处理模型,所述对所述初步实体信息执行消歧处理,得到标准实体信息,还包括:获取初步实体信息对应的上下文和标准实体信息的上下文;基于所述初步实体信息对应的上下文和所述标准实体信息的上下文,通过所述自然语言处理模型,计算相似度;在所述相似度满足预设规则的情况下,选取所述相似度作为第一相似度;基于所述第一相似度生成第三映射关系,所述第三映射关系是所述初步实体信息和所述标准实体信息的映射关系;以及按照所述第三映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述预设规则包括:按照排名选取所述第一相似度;或者按照阈值选取所述第一相似度。
根据本公开的实施例,其中,所述获取所述提交信息中的语义关系,包括:获取所述实体信息之间的初步词条;基于所述初步词条匹配预设的标准语义词条;以及在所述初步词条匹配预设的标准语义词条成功的情况下,将所述初步词条替换为所述标准语义词条并标记为语义关系。
根据本公开的实施例,其中,所述基于所述初步词条匹配预设的标准语义词条,包括:直接匹配所述初步词条匹配预设的标准语义词条;或者计算所述初步词条和所述预设的标准语义词条之间的相似度;选取相似度大于第二相似度阈值的初步词条。
根据本公开的实施例,其中,所述基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数,包括:基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合;以及将所述指令集合拆分为所述M个可执行的指令,所述M个可执行的指令中每个指令对应执行顺序。
根据本公开的实施例,其中,所述基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合,包括:基于所述实体信息和/或所述语义关系获取指令模板;以及将所述实体信息和/或所述语义关系注入所述指令模板,得到可执行的指令。
根据本公开的实施例,其中,所述执行所述M个可执行的指令,得到返回结果,包括:按照所述执行顺序,执行所述M个可执行的指令,得到返回结果。
本公开的第二方面提供了一种数据操作装置,包括:字符提取模块,用于提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;指令形成模块,用于基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及指令执行模块,用于执行所述M个可执行的指令,得到返回结果。
根据本公开的实施例,其中,所述字符提取模块,包括:实体抽取子模块、实体消歧子模块、语义抽取子模块以及字符串形成子模块,所述实体抽取子模块,用于抽取所述提交信息中的实体信息,得到初步实体信息;所述实体消歧子模块,用于对所述初步实体信息执行消歧处理,得到标准实体信息;所述语义抽取子模块,用于获取所述提交信息中的语义关系。
根据本公开的实施例,所述实体抽取子模块,包括:预处理单元、实体识别结果表生成单元、相似度结果表生成单元以及初步实体信息生成单元,所述预处理单元,用于对所述提交信息执行预处理,得到预处理结果;所述实体识别结果表生成单元,用于将所述预处理结果作为预设的第一机器学习模型的输入,得到实体识别结果表;所述相似度结果表生成单元,用于基于所述实体识别结果表和预设的目标业务表,计算相似度,得到相似度结果表;以及所述初步实体信息生成单元,用于去除所述相似度结果表中小于第一相似度阈值的实体信息,得到所述初步实体信息。
根据本公开的实施例,其中,所述实体识别结果表生成单元,还用于将所述预处理结果转换为向量形式,得到向量结果;基于所述向量结果输出文本序列;以及基于所述文本序列,生成所述实体识别结果表。
根据本公开的实施例,其中,所述实体消歧子模块,包括:机器学习消歧单元,所述机器学习消歧单元,用于基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,其中,所述第二机器学习模型包括聚类模型,所述机器学习消歧单元包括:第一获取子单元、聚类子单元、第二映射关系生成子单元以及第一转化子单元,所述第一获取子单元,用于获取初步实体信息、所述初步实体信息对应的指标项和标准实体信息;所述聚类子单元,用于基于所述初步实体信息的指标项,通过所述聚类模型对所述初步实体信息分类,得到实体类别和第一映射关系,所述第一映射关系是所述初步实体信息和所述实体类别之间的映射关系;所述第二映射关系生成子单元,用于基于所述实体类别匹配所述标准实体信息,并结合所述第一映射关系生成第二映射关系,所述第二映射关系是所述标准实体信息和所述初步实体信息的映射关系;以及所述第一转化子单元,用于按照所述第二映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述指标项包括第一指标项和第二指标项,所述第一指标项是所述初步实体信息自身特征的指标项,所述第二指标项是所述初步实体信息所处上下文特征的指标项。
根据本公开的实施例,其中,所述预设的第二机器学习模型还包括自然语言处理模型,所述机器学习消歧单元还包括:第二获取子单元、自然语言处理子单元、第一相似度选取子单元、第三映射关系生成子单元以及第二转化子单元,所述第二获取子单元,用于获取初步实体信息对应的上下文和标准实体信息的上下文;所述自然语言处理子单元,用于基于所述初步实体信息对应的上下文和所述标准实体信息的上下文,通过所述自然语言处理模型,计算相似度;所述第一相似度选取子单元,用于在所述相似度满足预设规则的情况下,选取所述相似度作为第一相似度;所述第三映射关系生成子单元,用于基于所述第一相似度生成第三映射关系,所述第三映射关系是所述初步实体信息和所述标准实体信息的映射关系;以及所述第二转化子单元,用于按照所述第三映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述预设规则包括:按照排名选取所述第一相似度;或者按照阈值选取所述第一相似度。
根据本公开的实施例,其中,所述语义抽取子模块包括:初步词条获取单元、标准词条匹配单元以及语义关系标记单元,所述初步词条获取单元,用于获取所述实体信息之间的初步词条;所述标准词条匹配单元,用于基于所述初步词条匹配预设的标准语义词条;以及所述语义关系标记单元,用于在所述初步词条匹配预设的标准语义词条成功的情况下,将所述初步词条替换为所述标准语义词条并标记为语义关系。
根据本公开的实施例,其中,所述初步词条获取单元包括:直接匹配子单元和相似度匹配子单元,所述直接匹配子单元,用于直接匹配所述初步词条匹配预设的标准语义词条;或者计算所述初步词条和所述预设的标准语义词条之间的相似度;所述相似度匹配子单元,用于选取相似度大于第二相似度阈值的初步词条。
根据本公开的实施例,其中,所述指令形成模块包括指令生成子模块和指令拆分子模块,所述指令生成子模块,用于基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合;以及所述指令拆分子模块,用于将所述指令集合拆分为所述M个可执行的指令,所述M个可执行的指令中每个指令对应执行顺序。
根据本公开的实施例,其中,所述指令生成子模块包括指令模板获取单元和注入单元,对于任意字符串片段,基于所述实体信息和/或所述语义关系获取指令模板;以及所述注入单元,用于将所述实体信息和/或所述语义关系注入所述指令模板,得到可执行的指令。
根据本公开的实施例,其中,所述指令执行模块包括指令执行子模块,所述指令执行子模块,用于按照所述执行顺序,执行所述M个可执行的指令,得到返回结果。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述数据操作方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述数据操作方法。
在本公开的实施例中,为了解决现有技术中存在的数据操作困难以及数据操作语句学习成本高的技术问题。本公开的实施例通过用户提交涉及数据操作的提交信息,该提交信息为自然语言,通过自然语言处理提炼出提交信息中关键的涉及数据操作信息,得到多个字符串片段,每个字符串片段包含有实体信息和语义关系,进而将这些字符串片段转化为数据库可识别的数据库操作指令,最后,通过执行数据库操作指令对数据执行相应的逻辑操作,使用户无需掌握确切针对不同数据库编写不同的数据操作语句,仅需使用自然语言输入,便可转化为相应的数据操作语句,进而完成数据操作,优化操作体验,打破跨系统查询的壁垒。
附图说明
通过以下参照附图对本公开的实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开的实施例的数据操作方法的应用场景图;
图2示意性示出了根据本公开的实施例的数据操作方法的流程图;
图3示意性示出了根据本公开的实施例的实体信息和语义关系提取方法的流程图;
图4示意性示出了根据本公开的实施例的实体信息抽取方法的流程图;
图5示意性示出了根据本公开的实施例的一种消歧处理方法的流程图;
图6示意性示出了根据本公开的实施例的另一种消歧处理方法的流程图;
图7示意性示出了根据本公开的实施例的语义关系获取方法的流程图;
图8示意性示出了根据本公开的实施例的指令形成方法的流程图;
图9示意性示出了根据本公开的实施例的数据操作装置的结构框图;以及
图10示意性示出了根据本公开的实施例的适于实现数据操作方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开的实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的特征相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在对本公开进行详细揭示之前,对本公开中常用的关键技术术语进行一一说明:
聚类:聚类分析是根据数据中发现的描述对象及其关系的信息,将数据分类分组。常用的聚类算法包括例如K均值算法、密度空间聚类算法以谱聚类算法等。
自然语言处理:(Natural Language Processing,简称NLP),研究人与计算机之间用自然语言进行有效通信的理论和方法。在自然语言处理领域至少存在Word2vec、OpenAI-GPT、CONV-KNRM、Match-Pyramid、循环神经网络(RecurrentNeural Networks,RNN)、卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-TermMemory,LSTM)、语义表示模型(Embeddings from LanguageModels,ELMo)、N元语法元素(N-Gram)模型、双向转换编码器(Bidirectional EncoderRepresentation fromTransformer,BERT)模型、深度结构化语义模型(Deep StructuredSematic Models,DSSM)、卷积深度结构化语义模型(Convolutional Deep StructuredSematic Models,CDSSM)、深度相关性匹配模型(Deep Relevance Matching Model,DRMM)等常见的自然语言处理模型。
勾稽关系:是指相互存在一种可检查验证的关系,可以反映出不同报表之间的业务逻辑关系。
现有技术中,业务应用通过不同的平台对后台不同的数据库进行操作,由于数据库之间的差异,致使后台针对数据库的访问也存在差异,进而导致现有技术中对于数据的操作效率较低。例如,用户需要对数据库中数据进行操作时,至少需要确切地知道应用名、表名、字段等信息,才能够实现数据库的操作,这对使用者而言,是大大的负担。
为了解决现有技术中存在的技术问题,本公开的实施例提供了一种数据操作方法,包括:提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及执行所述M个可执行的指令,得到返回结果。
在本公开的实施例中,为了解决现有技术中存在的数据操作困难以及数据操作语句学习成本高的技术问题。本公开的实施例通过用户提交涉及数据操作的提交信息,该提交信息为自然语言,通过自然语言处理提炼出提交信息中关键的涉及数据操作信息,得到多个字符串片段,每个字符串片段包含有实体信息和语义关系,进而将这些字符串片段转化为数据库可识别的数据库操作指令,最后,通过执行数据库操作指令对数据执行相应的逻辑操作,使用户无需掌握确切针对不同数据库编写不同的数据操作语句,仅需使用自然语言输入,便可转化为相应的数据操作语句,进而完成数据操作,优化操作体验,打破跨系统查询的壁垒。
图1示意性示出了根据本公开的实施例的数据操作方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103、网络104以及服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开的实施例所提供的数据操作方法一般可以由服务器105执行。相应地,本公开的实施例所提供的数据操作装置一般可以设置于服务器105中。本公开的实施例所提供的数据操作方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开的实施例所提供的数据操作装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图8对公开实施例的数据操作方法进行详细描述。
图2示意性示出了根据本公开的实施例的数据操作方法的流程图。
如图2所示,该实施例的数据操作方法包括操作S210~操作S230,该方法可以由服务器105执行。
在操作S2 10中,提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系。
其中,服务器105接收到的提交信息是基于自然语言形成的,即该提交信息的编写是非规范的、非直接可用以转化为数据操作语句的,提交信息中包含有关键的数据操作要素,提交信息中也包含有与数据操作无关的噪音,那么针对该提交信息应提取其中的关键的操作要素以形成多个字符串片段,进而,再通过字符串片段直接形成数据操作的语句,其中,该数据操作语句可以是针对数据库的操作语句,该数据操作语句也可以是针对非数据库的限定的操作语句,例如,针对WEB端的操作指令(例如,提交信息可以是“登录地区1中的账户A进行余额查询”,在该提交信息中的操作便至少包括限定区域为地区1和登录账户A。可以理解的是,该操作的过程中,并非仅对某账户的操作,还包括对于一些限定条件的选取,该限定条件可以是例如地区、网点等)。提交信息可以是由用户自行手动编写得到的,也可以由采集到的用户语音而转化得到的,例如,用户输入想要操作的相关内容,该相关内容可以通过文本或语音的方式。
其中,在文本方式下,提交信息可以是包括自然语言(如中文或英文)的文本,该提交信息的文本可以表示用于数据分析的问题或命令,例如,查询账户A中的余额、对账户A和账户B执行转账等操作;语音方式下,用户可通过语音输入提交内容的文本,例如,查询账户A中的余额、对账户A和账户B执行转账等操作。当然,操作的内容不限于金融业务的场景,也可以是其他的场景,在此不做限定。
其中,实体信息是指客观存在且相互区别的事物,在金融领域中至少可以理解为不同的账户、执行的操作类型、不同主体以及执行的数额等;语义关系,在知识图谱领域可以理解为实体之间的语义关系,在进行语义分析的过程中,需要对多个实体构成的非结构数据或半结构数据进行语义关系抽取,并形成实体关系的三元组,即(实体1,关系,实体2),该语义关系的抽取方式可以是按照句子级关系、语料级关系、限定域关系和开放域关系等进行的。针对语义关系是表不同实体之间的逻辑关系,在金融场景中,语义关系还可以进一步提炼并形成为业务层面的关系,具体地,在金融领域中抽取的语义关系包括:账户关系、客户关系、上下游关系、柜员关系、机构关系、清算关系、黑名单关系、动账关系以及不确定关系等。例如,“将客户A向客户B汇款”中,至少包括有实体“客户A”和实体“客户B”,语义关系“汇款”,进而该“汇款”关系为“动账关系”。
以下,将对本公开的实施例中的实体信息和语义关系提取方法进行详细揭示,如下所示:
图3示意性示出了根据本公开的实施例的实体信息和语义关系提取方法的流程图。
如图3所示,该实施例的实体信息和语义关系提取方法包括操作S310~操作S330,该操作S310~操作S330至少可以部分执行上述操作S210。
在操作S310中,抽取所述提交信息中的实体信息,得到初步实体信息。
其中,该初步实体信息是涉及操作的实体信息,在此阶段,该实体信息可能存在歧义,并未进行消歧处理。
以下,对初步实体信息的抽取方法进行详细揭示:
图4示意性示出了根据本公开的实施例的实体信息抽取方法的流程图。
如图4所示,该实施例的实体信息抽取方法包括操作S410~操作S440,该操作S410~操作S440至少可以部分执行上述操作S310。
在操作S410中,对所述提交信息执行预处理,得到预处理结果。
其中,针对提交信息文本的预处理主要为字符清洗、分词和去停用词。具体地,字符清洗:对输入的文本进行全角半角统一化处理,以及标点符号的匹配过滤;分词,采用LTP工具包进行分词,并引入了专业领域词典,以提升分词效果;去停用词,采用目标业务领域特殊停用词典,去除文本停用词。例如,托管业务领域特殊停用词典将停用词分为3类:一是“的”、“了”等无意义词;二是句子中广泛存在、高频出现的词汇;三是业务系统中无意义词汇。
在操作S420中,将所述预处理结果作为预设的第一机器学习模型的输入,得到实体识别结果表。
根据本公开的实施例,其中,所述将所述预处理结果作为预设的机器学习模型的输入,得到实体识别结果表,包括:将所述预处理结果转换为向量形式,得到向量结果;基于所述向量结果输出文本序列;以及基于所述文本序列,生成所述实体识别结果表。
具体地,所述预设的第一机器学习模型可以采用自然语言处理中常用的BERT-BiLSTM-CRF模型,所述BERT-BiLSTM-CRF模型包括:BERT模型、BiLSTM网络以及CRF模型,所述将所述预处理结果作为预设的机器学习模型的输入,得到实体识别结果表,包括:采用BERT-BiLSTM-CRF模型对文本预处理结果进行实体识别,得到实体识别结果表。BERT-BiLSTM-CRF模型包括BERT模型、BiLSTM网络以及CRF模型;首先,将文本预处理后的分词结果输入到所述BERT模型中,得到句子的向量表示;其次,将句子的向量表示输入到所述BiLSTM网络中,得到文本序列;最后,将文本序列采用CRF模型,得到实体识别结果表。
在操作S430中,基于所述实体识别结果表和预设的目标业务表,计算相似度,得到相似度结果表。
其中,实体识别结果表中包括后续将会用到的实体信息和噪音,在此基础上,还需要进一步去噪。可以通过与预先设置好的词条库中的词条进行匹配的方式实施。
在操作S440中,去除所述相似度结果表中小于第一相似度阈值的实体信息,得到所述初步实体信息。
具体地,对实体识别结果表与目标业务表进行相似度比较,得到相似度结果表。例如,根据所述实体识别结果表中每个实体与托管业务词条表中每一个实体的向量化表示,采用编辑距离、余弦相似度或杰拉德距离计算相似度值,得到相似度结果表。在相似度结果表中过滤掉相似度值小于预设阈值的词条,得到候选词条表(即初步实体信息)。
可以理解的是,在操作S310中的初步实体信息是涉及的关键要素的实体信息,该实体信息可能存在歧义,在不同的语句中,实体信息可能存在不同意思,因此,需要对该初步实体信息进行消歧处理。
在操作S320中,对所述初步实体信息执行消歧处理,得到标准实体信息。
具体地,实体消歧用于对所述命名实体为共指关系的候选指称向量进行实体消歧,获得各类所述需求信息消解后的命名实体。对于相同的实体名称,由于在不同的文件环境下,其表达的内容完全不同,需要进行实体消歧,在本公开的实施例中,可以采用聚类模型的方式进行消歧,或者也可以采用自然语言处理模型的方式进行消歧。
当每一初步实体信息的释义等于1时,则实体消歧完成,无需进行实体消歧;当每一初步实体信息的释义大于1时,则执行以下图5或图6的操作,以执行实体消歧,如下所示:
图5示意性示出了根据本公开的实施例的一种消歧处理方法的流程图。
如图5所示,该实施例的一种消歧处理方法包括操作S510~操作S540,该操作S510~操作S540至少可以部分执行上述操作S320。
根据本公开的实施例,其中,其中,所述对所述初步实体信息执行消歧处理,得到标准实体信息,包括:基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息。
其中,所述第二机器学习模型包括聚类模型。
在操作S510中,获取初步实体信息、所述初步实体信息对应的指标项和标准实体信息。
根据本公开的实施例,其中,所述指标项包括第一指标项和第二指标项,所述第一指标项是所述初步实体信息自身特征的指标项,所述第二指标项是所述初步实体信息所处上下文特征的指标项。
例如,第一指标项包括:是否为数字、是否为颜色等表征自身特征的指标项;第二指标项包括:句式(主动句或被动句)、是否为主语、是否为谓语、是否为宾语等表征上下文语句特征的指标项。
其中,标准实体信息是指预设设置的标准的实体信息,该标准实体信息可理解为标准模板,包含有实体信息以及实体信息的释义。
在操作S520中,基于所述初步实体信息的指标项,通过所述聚类模型对所述初步实体信息分类,得到实体类别和第一映射关系,所述第一映射关系是所述初步实体信息和所述实体类别之间的映射关系。
在操作S530中,基于所述实体类别匹配所述标准实体信息,并结合所述第一映射关系生成第二映射关系,所述第二映射关系是所述标准实体信息和所述初步实体信息的映射关系。
采用每一初步实体信息的指标项作为聚类模型的输入,可以输出该初步实体信息的实体类别(即释义),并记录初步实体信息的指标项和实体类别的第一映射关系;进一步地,再在第一映射关系的基础上,形成第二映射关系,其中,实体类别和标准实体信息存在对应关系;最后,可以将抽取的实体按照左右实体顺序两两生成候选实体对(实体表做笛卡尔积),为后续关系抽取做准备。
在操作S540中,按照所述第二映射关系,将所述初步实体信息转化为所述标准实体信息。
在后续关系抽取前,可以通过查看第二映射关系进行抽取,当然,也可以按照上述操作S540将初步实体信息转化为标准实体信息。
图6示意性示出了根据本公开的实施例的另一种消歧处理方法的流程图。
如图6所示,该实施例的另一种消歧处理方法包括操作S610~操作S650,该操作S610~操作S650至少可以部分执行上述操作S320。
根据本公开的实施例,其中,所述预设的第二机器学习模型还包括自然语言处理模型。
在操作S610中,获取初步实体信息对应的上下文和标准实体信息的上下文。
其中,初步实体信息对应的上下文即是该初步实体信息所处的语句;标准实体信息的上下文是指预设设置的标准的实体信息的上下文,该标准实体信息的上下文可理解为标准模板,包含有标准实体信息的上下文以及标准实体信息在所处上下文中的实体类别(即释义)。
在操作S620中,基于所述初步实体信息对应的上下文和所述标准实体信息的上下文,通过所述自然语言处理模型,计算相似度。
采用每一初步实体信息的上下文和标准实体信息的上下文作为自然语言处理模型的输入,可以输出该初步实体信息的上下文和标准实体信息的上下文之间两两的相似度,记录这些相似度。
在操作S630中,在所述相似度满足预设规则的情况下,选取所述相似度作为第一相似度。
根据本公开的实施例,其中,所述预设规则包括:按照排名选取所述第一相似度;或者按照阈值选取所述第一相似度。
通过以上得到的相似度,选取数值排名靠前的相似度作为第一相似度,或者选取数值大于预设阈值的相似度作为第一相似度。其中,第一相似度表征初步实体信息对应的上下文和标准实体信息的上下文释义极为相似。
在操作S640中,基于所述第一相似度生成第三映射关系,所述第三映射关系是所述初步实体信息和所述标准实体信息的映射关系。
在第一相似度的初步实体信息和标准实体信息两两对应关系的基础上,形成第三映射关系;进而,可以将抽取的实体按照左右实体顺序两两生成候选实体对(实体表做笛卡尔积),为后续关系抽取做准备。
在操作S650中,按照所述第三映射关系,将所述初步实体信息转化为所述标准实体信息。
在后续关系抽取前,可以通过查看第三映射关系进行抽取,当然,也可以按照上述操作S650将初步实体信息转化为标准实体信息
例如,对实体识别结果表中每个识别结果上下文句子与所述候选词条表中对应的托管业务词条采用C-DSSM模型确定句子之间的相似度;根据句子相似度对所述候选词条表中实体进行排序,如果排序在预定位置之前的实体的句子之间的相似度大于预设相似度阈值,则得到满足条件的结果集。
在操作S330中,获取所述提交信息中的语义关系。
具体地,对消歧后的各所述命名实体之间的语义关系进行关系抽取,例如针对实体1和实体2,从一段文本中获取这两个实体之间关系(r),可表示为r→(e1,e2),例如,给定一段文本“使用客户往来账户A1向安心账户B1汇款”,其中,实体1是“客户往来账户A1”,实体2是“安心账户B1”,通过分析句子中的词义分布及词汇之间的逻辑关系:“客户往来账户A1”和“安心账户B1”之间的语义关系为“汇款”,当然,在金融业务场景下,还可以进一步将“汇款”逻辑的语义关系归纳为“动账”的关系。
需要说明的是,当提交信息中提取的语义关系无法识别或无法进行归纳的情况下,则需要进行标准化的处理,将其转化为能够被识别归纳的词条。
图7示意性示出了根据本公开的实施例的语义关系获取方法的流程图。
如图7所示,该实施例的语义关系获取方法包括操作S710~操作S730,该操作S710~操作S730至少可以部分执行上述操作S330。
在操作S710中,获取所述实体信息之间的初步词条。
在操作S720中,基于所述初步词条匹配预设的标准语义词条。
根据本公开的实施例,其中,所述基于所述初步词条匹配预设的标准语义词条,包括:直接匹配所述初步词条匹配预设的标准语义词条;或者计算所述初步词条和所述预设的标准语义词条之间的相似度;选取相似度大于第二相似度阈值的初步词条。
可以理解的是,由于金融业务场景下语义关系的特性,即,初步词条和标准语义词条间存在的区别并不大,那么,针对这些提前设置好映射关系,直接匹配即可,例如,通常情况下针对转账服务人们通常使用“转账”、“给钱”和“转钱”等词条,那么可以预先设置这些表达同一意思的语义关系的词条的映射关系,并在后续语义关系提取时进行直接匹配即可,这样可以加快语义关系词条提取的效率。当然,也可以通过自然语言处理模型的方式,匹配初步词条和语义词条的相似度,在相似度超过阈值的情况下,判定为匹配成功。
在操作S730中,在所述初步词条匹配预设的标准语义词条成功的情况下,将所述初步词条替换为所述标准语义词条并标记为语义关系。
在匹配成功的情况下,将初步词条替换为标准语义词条,便于后续直接对该标注词条直接操作。
在操作S220中,基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数。
具体地,基于该实体信息和语义关系,将生成一组指令集合,不同的指令之间存在执行顺序,该指令集合的对象可以根据业务范围,涵盖例如地区表、账户表、客户表、柜员表等报表。
图8示意性示出了根据本公开的实施例的指令形成方法的流程图。
如图8所示,该实施例的指令形成方法包括操作S810~操作S820,该操作S810~操作S820至少可以部分执行上述操作S220。
在操作S810中,基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合。
具体地,预设的关联勾稽关系中存储有各种金融业务和各种业务表的对应关系,该关联勾稽关系用于明确实体信息所对应的业务表,由此可以得出待操作的业务表,进而,可以结合实体信息和语义关系生成指令。
根据本公开的实施例,其中,所述基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合,包括:基于所述实体信息和/或所述语义关系获取指令模板;以及将所述实体信息和/或所述语义关系注入所述指令模板,得到可执行的指令。
具体地,通过实体信息和/或语义关系作为标识,匹配预先设定好的指令模板,并将业务表、实体信息和语义关系作为参数填入该指令模板,形成一条指令。
在操作S820中,将所述指令集合拆分为所述M个可执行的指令,所述M个可执行的指令中每个指令对应执行顺序。
按照不同指令间的执行顺序,对整个指令集中的指令进行拆分,得到多个按照顺序执行的指令。
以金融业务场景为例,基于获取到的多个字符串片段生成数据库语法的一组指令集合,并结合规则模块中设置的各业务数据表的关联勾稽关系,拆分成可执行的多条指令,并进行指令顺序编号。例如,将接收到的提交信息【查询北京地区3网点下有效的安心账户专项资金托管子账户】识别为【查询】、【北京】、【地区】、【3】、【网点】、【有效的】、【安心账户专项资金托管子账户】这几个字符串,根据【安心账户专项资金托管子账户】明确所涉及的数据库后台表,并结合【北京】、【地区】、【3】、【网点】、【有效的】这几个查询条件在数据库后台表中进行【查询】操作,生成4条指令,具体为:(1)确认【查询】对应的数据库操作;(2)查找【安心账户专项资金托管子账户】所涉及的数据库后台表;(3)将【北京】、【地区】、【3】、【网点】、【有效的】置为查询条件;(4)完成数据库操作语句并执行查询操作。
在操作S230中,执行所述M个可执行的指令,得到返回结果。
根据本公开的实施例,其中,所述执行所述M个可执行的指令,得到返回结果,包括:按照所述执行顺序,执行所述M个可执行的指令,得到返回结果。
具体的,按照顺序编号执行指令,从业务全量数据(该业务全量数据将不同平台数据整合至统一平台上)中选取相关的报表,获取需求信息中所涉及到的数据,并对其进行过滤、分类、分析和汇总,得到最后的处理结果。例如,【查询北京地区3网点下有效的安心账户专项资金托管子账户】已生成4条指令(如上例),接下来将按照顺序编号执行指令:1、根据动词和数据库操作的对应关系,明确【查询】所涉及的数据库语句为select语句;2、根据名词和数据库后台报表对应关系,查到【安心账户专项资金托管子账户】所涉及的数据库后台表为account table;3、根据【北京】、【地区】、【3】、【网点】、【有效的】这几个条件,根据名词和报表字段对应关系,在account table中查到对应的报表字段,其中,【地区】对应“area”字段,【网点】对应“branch”字段等,并将【北京】和【3】分别设置为字段值,从而生成完整的查询条件;4、完成select语句并调用执行语句得到查询结果。
在本公开的实施例中,为了解决现有技术中存在的数据操作困难以及数据操作语句学习成本高的技术问题。本公开的实施例通过用户提交涉及数据操作的提交信息,该提交信息为自然语言,通过自然语言处理提炼出提交信息中关键的涉及数据操作信息,得到多个字符串片段,每个字符串片段包含有实体信息和语义关系,进而将这些字符串片段转化为数据库可识别的数据库操作指令,最后,通过执行数据库操作指令对数据执行相应的逻辑操作,使用户无需掌握确切针对不同数据库编写不同的数据操作语句,仅需使用自然语言输入,便可转化为相应的数据操作语句,进而完成数据操作,优化操作体验,打破跨系统查询的壁垒。
基于上述数据操作方法,本公开还提供了一种数据操作装置。以下将结合图9对该装置进行详细描述。
图9示意性示出了根据本公开的实施例的数据操作装置的结构框图。
如图9所示,该实施例的数据操作装置900包括字符提取模块910、指令形成模块920和指令执行模块930。
字符提取模块910用于提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系。在一实施例中,字符提取模块910可以用于执行前文描述的操作S210,在此不再赘述。
指令形成模块920用于基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数。在一实施例中,指令形成模块920可以用于执行前文描述的操作S220,在此不再赘述。
指令执行模块930用于执行所述M个可执行的指令,得到返回结果。在一实施例中,指令执行模块930可以用于执行前文描述的操作S230,在此不再赘述。
在本公开的实施例中,为了解决现有技术中存在的数据操作困难以及数据操作语句学习成本高的技术问题。本公开的实施例通过用户提交涉及数据操作的提交信息,该提交信息为自然语言,通过自然语言处理提炼出提交信息中关键的涉及数据操作信息,得到多个字符串片段,每个字符串片段包含有实体信息和语义关系,进而将这些字符串片段转化为数据库可识别的数据库操作指令,最后,通过执行数据库操作指令对数据执行相应的逻辑操作,使用户无需掌握确切针对不同数据库编写不同的数据操作语句,仅需使用自然语言输入,便可转化为相应的数据操作语句,进而完成数据操作,优化操作体验,打破跨系统查询的壁垒。
根据本公开的实施例,其中,所述字符提取模块,包括:实体抽取子模块、实体消歧子模块、语义抽取子模块以及字符串形成子模块,所述实体抽取子模块,用于抽取所述提交信息中的实体信息,得到初步实体信息;所述实体消歧子模块,用于对所述初步实体信息执行消歧处理,得到标准实体信息;所述语义抽取子模块,用于获取所述提交信息中的语义关系。
根据本公开的实施例,所述实体抽取子模块,包括:预处理单元、实体识别结果表生成单元、相似度结果表生成单元以及初步实体信息生成单元,所述预处理单元,用于对所述提交信息执行预处理,得到预处理结果;所述实体识别结果表生成单元,用于将所述预处理结果作为预设的第一机器学习模型的输入,得到实体识别结果表;所述相似度结果表生成单元,用于基于所述实体识别结果表和预设的目标业务表,计算相似度,得到相似度结果表;以及所述初步实体信息生成单元,用于去除所述相似度结果表中小于第一相似度阈值的实体信息,得到所述初步实体信息。
根据本公开的实施例,其中,所述实体识别结果表生成单元,还用于将所述预处理结果转换为向量形式,得到向量结果;基于所述向量结果输出文本序列;以及基于所述文本序列,生成所述实体识别结果表。
根据本公开的实施例,其中,所述实体消歧子模块,包括:机器学习消歧单元,所述机器学习消歧单元,用于基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,其中,所述第二机器学习模型包括聚类模型,所述机器学习消歧单元包括:第一获取子单元、聚类子单元、第二映射关系生成子单元以及第一转化子单元,所述第一获取子单元,用于获取初步实体信息、所述初步实体信息对应的指标项和标准实体信息;所述聚类子单元,用于基于所述初步实体信息的指标项,通过所述聚类模型对所述初步实体信息分类,得到实体类别和第一映射关系,所述第一映射关系是所述初步实体信息和所述实体类别之间的映射关系;所述第二映射关系生成子单元,用于基于所述实体类别匹配所述标准实体信息,并结合所述第一映射关系生成第二映射关系,所述第二映射关系是所述标准实体信息和所述初步实体信息的映射关系;以及所述第一转化子单元,用于按照所述第二映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述指标项包括第一指标项和第二指标项,所述第一指标项是所述初步实体信息自身特征的指标项,所述第二指标项是所述初步实体信息所处上下文特征的指标项。
根据本公开的实施例,其中,所述预设的第二机器学习模型还包括自然语言处理模型,所述机器学习消歧单元还包括:第二获取子单元、自然语言处理子单元、第一相似度选取子单元、第三映射关系生成子单元以及第二转化子单元,所述第二获取子单元,用于获取初步实体信息对应的上下文和标准实体信息的上下文;所述自然语言处理子单元,用于基于所述初步实体信息对应的上下文和所述标准实体信息的上下文,通过所述自然语言处理模型,计算相似度;所述第一相似度选取子单元,用于在所述相似度满足预设规则的情况下,选取所述相似度作为第一相似度;所述第三映射关系生成子单元,用于基于所述第一相似度生成第三映射关系,所述第三映射关系是所述初步实体信息和所述标准实体信息的映射关系;以及所述第二转化子单元,用于按照所述第三映射关系,将所述初步实体信息转化为所述标准实体信息。
根据本公开的实施例,其中,所述预设规则包括:按照排名选取所述第一相似度;或者按照阈值选取所述第一相似度。
根据本公开的实施例,其中,所述语义抽取子模块包括:初步词条获取单元、标准词条匹配单元以及语义关系标记单元,所述初步词条获取单元,用于获取所述实体信息之间的初步词条;所述标准词条匹配单元,用于基于所述初步词条匹配预设的标准语义词条;以及所述语义关系标记单元,用于在所述初步词条匹配预设的标准语义词条成功的情况下,将所述初步词条替换为所述标准语义词条并标记为语义关系。
根据本公开的实施例,其中,所述初步词条获取单元包括:直接匹配子单元和相似度匹配子单元,所述直接匹配子单元,用于直接匹配所述初步词条匹配预设的标准语义词条;或者计算所述初步词条和所述预设的标准语义词条之间的相似度;所述相似度匹配子单元,用于选取相似度大于第二相似度阈值的初步词条。
根据本公开的实施例,其中,所述指令形成模块包括指令生成子模块和指令拆分子模块,所述指令生成子模块,用于基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合;以及所述指令拆分子模块,用于将所述指令集合拆分为所述M个可执行的指令,所述M个可执行的指令中每个指令对应执行顺序。
根据本公开的实施例,其中,所述指令生成子模块包括指令模板获取单元和注入单元,对于任意字符串片段,基于所述实体信息和/或所述语义关系获取指令模板;以及所述注入单元,用于将所述实体信息和/或所述语义关系注入所述指令模板,得到可执行的指令。
根据本公开的实施例,其中,所述指令执行模块包括指令执行子模块,所述指令执行子模块,用于按照所述执行顺序,执行所述M个可执行的指令,得到返回结果。
根据本公开的实施例,字符提取模块910、指令形成模块920和指令执行模块930中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,字符提取模块910、指令形成模块920和指令执行模块930中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,字符提取模块910、指令形成模块920和指令执行模块930中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10示意性示出了根据本公开的实施例的适于实现数据操作方法的电子设备的方框图。
如图10所示,根据本公开的实施例的电子设备1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开的实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1003中,存储有电子设备1000操作所需的各种程序和数据。处理器1001、ROM 1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM1003中的程序来执行根据本公开的实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开的实施例的方法流程的各种操作。
根据本公开的实施例,电子设备1000还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。电子设备1000还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开的实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开的实施例所提供的物品推荐方法。
在该计算机程序被处理器1001执行时执行本公开的实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1009被下载和安装,和/或从可拆卸介质1011被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开的实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开的实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (16)
1.一种数据操作方法,包括:
提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;
基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及
执行所述M个可执行的指令,得到返回结果。
2.根据权利要求1所述的方法,其中,所述提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系,包括:
抽取所述提交信息中的实体信息,得到初步实体信息;
对所述初步实体信息执行消歧处理,得到标准实体信息;
获取所述提交信息中的语义关系。
3.根据权利要求2所述的方法,其中,所述抽取所述提交信息中的实体信息,得到初步实体信息,包括:
对所述提交信息执行预处理,得到预处理结果;
将所述预处理结果作为预设的第一机器学习模型的输入,得到实体识别结果表;
基于所述实体识别结果表和预设的目标业务表,计算相似度,得到相似度结果表;以及
去除所述相似度结果表中小于第一相似度阈值的实体信息,得到所述初步实体信息。
4.根据权利要求3所述的方法,其中,所述将所述预处理结果作为预设的机器学习模型的输入,得到实体识别结果表,包括:
将所述预处理结果转换为向量形式,得到向量结果;
基于所述向量结果输出文本序列;以及
基于所述文本序列,生成所述实体识别结果表。
5.根据权利要求2~4任一项所述的方法,其中,
所述对所述初步实体信息执行消歧处理,得到标准实体信息,包括:基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,
其中,所述第二机器学习模型包括聚类模型,
所述基于预设的第二机器学习模型对所述实体信息执行消歧处理,得到标准实体信息,包括:
获取初步实体信息、所述初步实体信息对应的指标项和标准实体信息;
基于所述初步实体信息的指标项,通过所述聚类模型对所述初步实体信息分类,得到实体类别和第一映射关系,所述第一映射关系是所述初步实体信息和所述实体类别之间的映射关系;
基于所述实体类别匹配所述标准实体信息,并结合所述第一映射关系生成第二映射关系,所述第二映射关系是所述标准实体信息和所述初步实体信息的映射关系;以及
按照所述第二映射关系,将所述初步实体信息转化为所述标准实体信息。
6.根据权利要求5所述的方法,其中,所述指标项包括第一指标项和第二指标项,所述第一指标项是所述初步实体信息自身特征的指标项,所述第二指标项是所述初步实体信息所处上下文特征的指标项。
7.根据权利要求5所述的方法,其中,所述预设的第二机器学习模型还包括自然语言处理模型,
所述对所述初步实体信息执行消歧处理,得到标准实体信息,还包括:
获取初步实体信息对应的上下文和标准实体信息的上下文;
基于所述初步实体信息对应的上下文和所述标准实体信息的上下文,通过所述自然语言处理模型,计算相似度;
在所述相似度满足预设规则的情况下,选取所述相似度作为第一相似度;
基于所述第一相似度生成第三映射关系,所述第三映射关系是所述初步实体信息和所述标准实体信息的映射关系;以及
按照所述第三映射关系,将所述初步实体信息转化为所述标准实体信息。
8.根据权利要求7所述的方法,其中,所述预设规则包括:
按照排名选取所述第一相似度;或者
按照阈值选取所述第一相似度。
9.根据权利要求2所述的方法,其中,所述获取所述提交信息中的语义关系,包括:
获取所述实体信息之间的初步词条;
基于所述初步词条匹配预设的标准语义词条;以及
在所述初步词条匹配预设的标准语义词条成功的情况下,将所述初步词条替换为所述标准语义词条并标记为语义关系。
10.根据权利要求9所述的方法,其中,所述基于所述初步词条匹配预设的标准语义词条,包括:直接匹配所述初步词条匹配预设的标准语义词条;或者计算所述初步词条和所述预设的标准语义词条之间的相似度;选取相似度大于第二相似度阈值的初步词条。
11.根据权利要求1、2、3、4、6、7、8、9和10任一项所述的方法,其中,所述基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数,包括:
基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合;以及
将所述指令集合拆分为所述M个可执行的指令,所述M个可执行的指令中每个指令对应执行顺序。
12.根据权利要求11所述的方法,其中,所述基于预设的关联勾稽关系、所述实体信息和所述语义关系生成指令集合,包括:
对于任意字符串片段,基于所述实体信息和/或所述语义关系获取指令模板;以及
将所述实体信息和/或所述语义关系注入所述指令模板,得到可执行的指令。
13.根据权利要求11所述的方法,其中,所述执行所述M个可执行的指令,得到返回结果,包括:
按照所述执行顺序,执行所述M个可执行的指令,得到返回结果。
14.一种数据操作装置,包括:
字符提取模块,用于提取来自用户的提交信息中涉及数据操作的信息,得到实体信息和所述实体信息之间的语义关系;
指令形成模块,用于基于所述实体信息和所述语义关系,形成M个可执行的指令,M为正整数;以及
指令执行模块,用于执行所述M个可执行的指令,得到返回结果。
15.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~13中任一项所述的方法。
16.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~13中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311498440.XA CN117520608A (zh) | 2023-11-10 | 2023-11-10 | 数据操作方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311498440.XA CN117520608A (zh) | 2023-11-10 | 2023-11-10 | 数据操作方法、装置、设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117520608A true CN117520608A (zh) | 2024-02-06 |
Family
ID=89763877
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311498440.XA Pending CN117520608A (zh) | 2023-11-10 | 2023-11-10 | 数据操作方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117520608A (zh) |
-
2023
- 2023-11-10 CN CN202311498440.XA patent/CN117520608A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8972408B1 (en) | Methods, systems, and articles of manufacture for addressing popular topics in a social sphere | |
US11170179B2 (en) | Systems and methods for natural language processing of structured documents | |
US10691770B2 (en) | Real-time classification of evolving dictionaries | |
US20130060769A1 (en) | System and method for identifying social media interactions | |
US10824816B2 (en) | Semantic parsing method and apparatus | |
US20210026835A1 (en) | System and semi-supervised methodology for performing machine driven analysis and determination of integrity due diligence risk associated with third party entities and associated individuals and stakeholders | |
CN110929043B (zh) | 业务问题提取方法及装置 | |
JP7297458B2 (ja) | 対話コンテンツ作成支援方法 | |
US20230140813A1 (en) | System and method for auto-populating electronic transaction process | |
CN109582788A (zh) | 垃圾评论训练、识别方法、装置、设备及可读存储介质 | |
CN107766498B (zh) | 用于生成信息的方法和装置 | |
CN113051380A (zh) | 信息生成方法、装置、电子设备和存储介质 | |
CN111538817A (zh) | 人机交互方法和装置 | |
CN111126073B (zh) | 语义检索方法和装置 | |
US20200356725A1 (en) | System and method for automatically tagging customer messages using artificial intelligence models | |
CN113761923A (zh) | 命名实体识别方法、装置、电子设备及存储介质 | |
CN116048463A (zh) | 基于标签管理的需求项内容智能推荐方法及装置 | |
US20230063713A1 (en) | Sentence level dialogue summaries using unsupervised machine learning for keyword selection and scoring | |
CN113095078A (zh) | 关联资产确定方法、装置和电子设备 | |
CN114201964A (zh) | 舆情风险识别方法、装置、电子设备及存储介质 | |
CN117520608A (zh) | 数据操作方法、装置、设备和介质 | |
CN113806541A (zh) | 情感分类的方法和情感分类模型的训练方法、装置 | |
US20200042594A1 (en) | Proposition identification in natural language and usage thereof | |
US20220343068A1 (en) | Intent detection via multi-hop unified syntactic graph | |
CN117556050B (zh) | 数据分类分级方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |