CN117112642A - 跨域数据引用完整性分析方法、装置、终端及存储介质 - Google Patents
跨域数据引用完整性分析方法、装置、终端及存储介质 Download PDFInfo
- Publication number
- CN117112642A CN117112642A CN202211445059.2A CN202211445059A CN117112642A CN 117112642 A CN117112642 A CN 117112642A CN 202211445059 A CN202211445059 A CN 202211445059A CN 117112642 A CN117112642 A CN 117112642A
- Authority
- CN
- China
- Prior art keywords
- field
- relation
- cross
- domain data
- semantic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 47
- 238000012549 training Methods 0.000 claims abstract description 49
- 238000005065 mining Methods 0.000 claims abstract description 40
- 238000000034 method Methods 0.000 claims abstract description 25
- 238000004590 computer program Methods 0.000 claims description 22
- 230000011218 segmentation Effects 0.000 claims description 13
- 238000012545 processing Methods 0.000 claims description 10
- 238000001914 filtration Methods 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000007637 random forest analysis Methods 0.000 description 7
- 230000010354 integration Effects 0.000 description 5
- 238000002790 cross-validation Methods 0.000 description 4
- 238000010845 search algorithm Methods 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000007667 floating Methods 0.000 description 3
- 230000001105 regulatory effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2465—Query processing support for facilitating data mining operations in structured databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种跨域数据引用完整性分析方法、装置、终端及存储介质。该方法包括:对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;基于训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;利用目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定待分析跨域数据的引用完整性。本发明能够基于目标字段关联关系判断模型提供可靠的引用完整性分析结果。
Description
技术领域
本发明涉及数据质量治理技术领域,尤其涉及一种跨域数据引用完整性分析方法、装置、终端及存储介质。
背景技术
随着数据要素市场的发展,数据将更加资产化,而数据资产化需要对数据进行更深度的整合,例如数据资产域为了更全面的业务分析,需要跨业务、跨领域、跨系统进行数据的归并整合。而保证数据完整性,尤其是引用完整性是提升数据资产化程度的必要手段。
目前,通常基于外键频率分布数值比较分析方法进行数据的引用完整性分析。然而,主外键描述是在业务域建模设计的时候定义的,但现代的信息化业务系统,由于弹性伸缩的需求,在模型落库时并不在数据库中体现主外键约束,而是体现在了软件的模型控制层。这就导致在数据溯源时,无法通过扫描Schema的方式获取主外键引用关系,以至于无法完成引用完整性分析。而且数据跨域整合后,原有系统级别的主外键关系描述无法表达归并整合后的数据引用关系,数据跨域整合也会导致主外键约束破坏,无法通过外键频率描述重构数据的相互引用关系,以至于无法实现资产域的引用完整性分析。
发明内容
本发明实施例提供了一种跨域数据关联关系分析方法、装置、终端及存储介质,以解决目前无法实现跨域数据的引用完整性分析的问题。
第一方面,本发明实施例提供了一种跨域数据引用完整性分析方法,包括:
对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;
基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;
基于所述训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;
利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定所述待分析跨域数据的引用完整性。
在一种可能的实现方式中,所述对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网,包括:
获取不同源数据库包含的各个字段之间的对应关系;
根据所述对应关系查询信息数据库,获得各个字段对应的字段语义描述;
对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以所述对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
在一种可能的实现方式中,所述获取不同源数据库包含的各个字段之间的对应关系,包括:
获取不同源数据库在预设时段的数据库操作日志,并对所述数据库操作日志进行除重处理;
对除重后的数据库操作日志中的每条日志进行词法语法解析,根据解析结果获取不同源数据库包含的各个字段之间的对应关系。
在一种可能的实现方式中,所述基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,包括:
从不同源数据库中提取关于库名、表名、字段名、字段类型和字段属性的数据,形成二维数据表;
对所述二维数据表中的每行数据进行两两组合,获得笛卡尔乘积表;
对所述笛卡尔乘积表中字段类型不同的组合进行过滤,并基于所述语义特征关系网确定过滤后的笛卡尔乘积表中每个组合的两个字段的相关状态值;
基于过滤后的笛卡尔乘积表和所述相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数;
根据过滤后的笛卡尔乘积表、所述相关状态值和所述语义相似度关系系数构建训练集。
在一种可能的实现方式中,所述基于过滤后的笛卡尔乘积表和所述相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数,包括:
基于过滤后的笛卡尔乘积表和所述相关状态值进行第一相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第一语义相似度关系系数;
基于过滤后的笛卡尔乘积表中每两个字段对应的数据值进行第二相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第二语义相似度关系系数。
在一种可能的实现方式中,所述利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,包括:
将所述待分析跨域数据输入所述目标字段关联关系判断模型,获得所述待分析跨域数据的字段关联关系初始预测结果;
对字段类型不同的字段关联关系初始预测结果进行过滤,获得所述待分析跨域数据的字段关联关系最终预测结果;
根据所述字段关联关系最终预测结果对所述待分析跨域数据进行溯源。
第二方面,本发明实施例提供了一种跨域数据引用完整性分析装置,包括:
提取模块,用于对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;
挖掘模块,用于基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;
训练模块,用于基于所述训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;
分析模块,用于利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定所述待分析跨域数据的引用完整性。
在一种可能的实现方式中,所述提取模块,用于获取不同源数据库包含的各个字段之间的对应关系;根据所述对应关系查询信息数据库,获得各个字段对应的字段语义描述;对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以所述对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
第三方面,本发明实施例提供了一种终端,包括存储器和处理器,所述存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,执行如上第一方面或第一方面的任一种可能的实现方式所述方法的步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上第一方面或第一方面的任一种可能的实现方式所述方法的步骤。
本发明实施例提供一种跨域数据引用完整性分析方法、装置、终端及存储介质,通过先对不同源数据库包含的各个字段进行关联语义特征提取,可以初步获得具有关联关系的各个字段的语义特征关系网;然后基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,能够进一步挖掘不同源数据库包含的各个字段的关联关系,形成可以最大化的反映不同源数据库之间字段关联关系的训练集;进而基于训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;并利用目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定待分析跨域数据的引用完整性。从而在基于不同源数据库的跨域数据需要进行引用完整性分析时,基于目标字段关联关系判断模型提供可靠的引用完整性分析结果。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的跨域数据引用完整性分析方法的实现流程图;
图2是本发明实施例提供的获取不同源数据库包含的各个字段之间的对应关系的示意图;
图3是本发明实施例提供的获取字段语义描述映射关系的示意图;
图4是本发明实施例提供的语义特征关系网的示意图;
图5是本发明实施例提供的随机森林算法的关系挖掘流程图;
图6是本发明实施例提供的网格搜索算法的智能调参流程图;
图7是本发明实施例提供的将待过滤的跨库表字段属性信息进行格式化规整的示意图;
图8是本发明实施例提供的将字段关联关系初始预测结果进行格式化规整的示意图;
图9是本发明实施例提供的跨域数据引用完整性分析装置的结构示意图;
图10是本发明实施例提供的终端的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图通过具体实施例来进行说明。
参见图1,其示出了本发明实施例提供的跨域数据引用完整性分析方法的实现流程图,详述如下:
在步骤101中,对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网。
本实施例中,由于数据资产域可能是跨业务、跨领域以及跨系统的数据整合,因此为了分析整合数据的引用完整性,确定整合数据来源于哪,需要确定整合数据的不同源数据库中库、表、字段、数据之间的关联关系。而不同源数据库中库、表、字段、数据之间的关联关系本质反映在字段之间的关联关系,因此可以对不同源数据库包含的各个字段进行关联语义特征提取,进而获得具有关联关系的各个字段的语义特征关系网。
示例性的,假如在源数据库A和源数据库B中,存在字段1=字段2,字段2=字段3,字段4=字段5,字段5=字段6,则可以基于字段1、字段2、字段3形成一个具有关联关系的语义特征关系网,基于字段4、字段5、字段6形成另一个具有关联关系的语义特征关系网。
可选的,对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网,可以包括:
获取不同源数据库包含的各个字段之间的对应关系。
根据对应关系查询信息数据库,获得各个字段对应的字段语义描述。
对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
可选的,获取不同源数据库包含的各个字段之间的对应关系,包括:
获取不同源数据库在预设时段的数据库操作日志,并对数据库操作日志进行除重处理。
对除重后的数据库操作日志中的每条日志进行词法语法解析,根据解析结果获取不同源数据库包含的各个字段之间的对应关系。
本实施例中,考虑现代的信息化业务系统可能无法通过扫描Schema的方式获取主外键引用关系以及数据跨域整合后,原有系统级别的主外键关系描述无法表达归并整合后的数据引用关系的问题,通过数据库操作日志,针对不同源数据库中业务操作所生成的动态查询语句确定业务关系的反射。
示例性的,可以先开启数据库操作日志,并获取一个月(即预设时段为一个月)的数据库操作日志,然后对数据库操作日志进行除重处理,在此基础上,对除重后的数据库操作日志中的每条日志进行词法语法解析,以取不同源数据库包含的各个字段之间的对应关系。
其中,以Mysql数据库为例进行说明,可以通过“show global variables like‘%log%’”命令查看log相关参数状态。其中,OFF为关闭状态,log_output是日志输出方式,1.FILE代表存储到文件,2.TABLE代表存储到mysql库下的表,log_error是错误日志存储位置。可以通过“show global variables like‘%general log%’”命令查看general_log相关参数状态。其中,OFF为关闭状态,general_log_file为文件名称。关闭状态时,安装目录下看不到这个文件,开启后在数据文件夹data目录下可以看到。然后通过“set globalgeneral log=‘ON’”命令可以设置general_log值为ON,即开启日志记录。在此基础上,可以通过例如“sed-n‘/220219/,/220318/p’”,“mdb112.log>mdb112_temp1.log”,“catmdb112_temp2.log|sort|uniq>mdb112_temp3.log”的命令截取指定时间范围内的日志记录并去重(即获取不同源数据库在预设时段的数据库操作日志,并对数据库操作日志进行除重处理)。
示例性的,对除重后的数据库操作日志中的每条日志进行词法语法解析,根据解析结果获取不同源数据库包含的各个字段之间的对应关系,可以利用例如SQL解析工具对每条SQL解析并提取对应关系。
以Python环境的pyparse库为例进行说明,首先可以通过“pip installsqlparse-0.4.1-py3-none-any.whl”命令安装Python3环境,然后通过“path/to/python3sql_extractor.py path/to/general_log”命令导入pyparse库并编写py脚本(sql_extractor.py),解析上一步输出的SQL日志文件。解析出的对应关系如图2所示。需要说明的是,本实施例仅为进行词法语法解析并获取各个字段之间的对应关系的一个示例,还可以通过诸如ANTLR4工具等词法语法解析工具对每条日志的SQL进行解析并提取对应关系。本实施例对进行词法语法解析并提取对应关系的具体手段不做限定。
在此基础上,根据获取的不同源数据库包含的各个字段之间的对应关系查询数据库Schema information信息,可以获取字段语义描述映射关系如图3所示,因此可以获得各个字段对应的字段语义描述。
获得各个字段对应的字段语义描述之后,可以通过例如ANSJ的分词器进行分析,并以名词分词为实体,根据提取出的各个字段之间的对应关系为边,进行图数据库的加载,形成语义特征关系网,例如图4所示。通过本实施例获得的具有关联关系的各个字段的语义特征关系网,可以用于下一步的语义相似度关系挖掘。
在步骤102中,基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集。
其中,通过步骤101可以提取不同源数据库中可以确定的字段之间的关联关系,在此基础上,为了提高后续获得的目标字段关联关系判断模型的实用性,还需要进一步进行语义特征泛化挖掘。
可选的,基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,可以包括:
从不同源数据库中提取关于库名、表名、字段名、字段类型和字段属性的数据,形成二维数据表。
对二维数据表中的每行数据进行两两组合,获得笛卡尔乘积表。
对笛卡尔乘积表中字段类型不同的组合进行过滤,并基于语义特征关系网确定过滤后的笛卡尔乘积表中每个组合的两个字段的相关状态值。
基于过滤后的笛卡尔乘积表和相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数。
根据过滤后的笛卡尔乘积表、相关状态值和语义相似度关系系数构建训练集。
本实施例中,从不同源数据库中提取关于库名、表名、字段名、字段类型和字段属性的数据形成的二维数据表如表1所示。其中,字段属性可以包括字段属性1、字段属性2、…字段属性n,其中n为可提取的字段属性个数。
表1二维数据表
对二维数据表中的每行数据进行两两组合,获得笛卡尔乘积表如表2所示。如表2所示,其中,组合1对应的库1表1中的字段1的字段类型为整数,库1表1中的字段2对应的字段类型为浮点数,两者字段类型不同,因此可以不必判断字段1和字段2的关联关系,因此可以删除组合1。同理也可以删除组合2。而组合3中库1表1中的字段2的字段类型为浮点数,库2表1中的字段1也为浮点数,因此需要进一步挖掘库1表1中的字段2与库2表1中的字段1的关联关系,因此需要保留组合3。按照这种方式对笛卡尔乘积表中字段类型不同的组合进行过滤后,可以获取需要进一步挖掘的所有组合,也即获取不同源数据库中可能具有关联关系的所有字段组合。在此基础上,由于语义特征关系网已经提取了不同源数据库中可以确定的字段之间的关联关系,因此,可以先基于语义特征关系网确定过滤后的笛卡尔乘积表中每个组合的两个字段的相关状态值。示例性的,可以在过滤后的笛卡尔乘积表中再增加一列表头为“是否相关”的列,若基于语义特征关系网确定某一组合的两个字段具有对应关系,则将该组合对应的“是否相关”赋值为“1”,否则赋值为“0”,作为该组合的两个字段的相关状态值。
表2笛卡尔乘积表
在此基础上,由于语义特征关系网确定的字段之间的关联关系具有一定局限性,因此可以再基于过滤后的笛卡尔乘积表和对应的相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数。
可选的,基于过滤后的笛卡尔乘积表和相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数,可以包括:
基于过滤后的笛卡尔乘积表和相关状态值进行第一相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第一语义相似度关系系数。
基于过滤后的笛卡尔乘积表中每两个字段对应的数据值进行第二相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第二语义相似度关系系数。
示例性的,第一相关系数可以为杰卡德相关系数。假设过滤后的笛卡尔乘积表中有关于“字段1”和“字段2”的50个组合,其中10个组合的相关状态值为“1”,40个组合的相关状态值为“0”。也即关于“字段1”的集合A中的元素为50,关于“字段2”的集合B中的元素为50,其中,集合A和集合B的交集为10(也即“字段1”和“字段2”的关联关系为相关的数量为10)。因此可以通过计算“字段1”和“字段2”的杰卡德相关系数。
示例性的,第二相关系数可以为皮尔逊相关系数、余弦相似度、欧式距离等,对于除杰卡德相关系数之外的相关系数,可以通过过滤后的笛卡尔乘积表中每两个字段对应的数据值进行计算。同样假设过滤后的笛卡尔乘积表中有关于“字段1”和“字段2”的50个组合,则可以提取“字段1”对应的50个数据值以及“字段2”对应的50个数据值,并判断“字段1”对应的50个数据值与“字段2”对应的50个数据值是否线性相关,在“字段1”对应的50个数据值与“字段2”对应的50个数据值线性相关时,基于皮尔逊相关系数、余弦相似度、欧式距离等相关系数的计算公式计算第二语义相似度关系系数。
其中,皮尔逊相关系数ρX,Y的计算公式为:
其中,X代表“字段1”对应的数据值构成的矩阵,Y代表“字段2”对应的数据值构成的矩阵。
其中,余弦相似度cosθ的计算公式为:
其中,代表“字段1”对应的数据值构成的向量,/>代表“字段2”对应的数据值构成的向量。
其中,欧式距离d(x,y)的计算公式为:
其中,xi代表“字段1”对应的数据值构成的n维空间中的第个i坐标点,yi代表“字段2”对应的数据值构成的n维空间中的第个i坐标点。
需要说明的是,本实施例中进行的第二相关系数计算并不局限于上述提到的皮尔逊相关系数、余弦相似度和欧式距离,还可以是其他相关系数的计算方法。本实施例在基于过滤后的笛卡尔乘积表和相关状态值计算得到第一语义相似度关系系数,并基于过滤后的笛卡尔乘积表中每两个字段对应的数据值计算得到第二语义相似度关系系数,可以对通过多种方式计算得到的第一语义相似度关系系数和第二语义相似度关系系数进行相互校正,进而进一步挖掘过滤后的笛卡尔乘积表中每两个字段的关联关系。
在步骤103中,基于训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型。
本实施例中,可以将训练集作为随机森林+网格搜索模型的数据输入,然后使用随机森林算法作为主分类器,完成实际的关系挖掘过程,并使用网格搜索算法对随机森林算法进行智能调参。其中,可以使用统计学的杰卡德系数、皮尔森系数、欧氏距离等作为随机森林算法的一个决策树,进行随机森林算法的维度扩展。具体关系挖掘参见图5。
其中,网格搜索算法是指定参数值的一种穷举搜索方法,可以通过将估计函数的参数通过交叉验证的方法进行优化来得到最优的学习算法。即将各个参数可能的取值进行排列组合,列出所有可能的组合结果生成“网格”。然后将各组合用于模型训练,并使用交叉验证对表现进行评估。在拟合函数尝试了所有的参数组合后,返回一个合适的分类器,自动调整至最佳参数组合。
交叉验证是将训练集数据划分为K(K为整数)等份,每次用K-1份数据用于训练,剩下的1份数据用于测试,这个过程一共需要进行K次,将最后K次使用实现选择好的评分方式的评分求平均返回,然后找出最大的一个评分所用的参数组合。这也就完成了交叉验证这一过程。网格搜索算法如图6。
本实施例基于训练集对随机森林+网格搜索模型进行训练,可以使模型充分学习数据库字段之间关系的匹配模式,等模型训练完成,即初步形成字段关联关系判断模型,也就是目标字段关联关系判断模型。进而可以对新的数据库中的两表关系进行预测,最终根据预测结果寻找新的数据库中的所有两表关系,大大增加查找效率。
由于本实施例不仅基于可以确定的字段之间的关联关系(也即语义特征关系网),还基于第一语义相似度关系系数和第二语义相似度关系系数,因此本实施例不仅针对确定能够找出的关系作出全面正确的解析,还能利用正确解析出的两表关系和数据库中库、表、字段、数据之间的关系结合机器学习的算法对所有库可能存在的两表关系做全局推导,预测出所有可能存在的关系,通过不断的探索和优化,获得的目标字段关联关系判断模型的预测推荐,能达到一个相当不错的准确率,进而为全面解决企业表关系溯源的难题提供了一个相对可靠的保证。
在步骤104中,利用目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定待分析跨域数据的引用完整性。
本实施例中,利用目标字段关联关系判断模型对待分析跨域数据进行溯源,可以通过溯源定位待分析跨域数据的出处,进而对待分析跨域数据的引用完整性进行治理。
可选的,利用目标字段关联关系判断模型对待分析跨域数据进行溯源,可以包括:
将待分析跨域数据输入目标字段关联关系判断模型,获得待分析跨域数据的字段关联关系初始预测结果。
对字段类型不同的字段关联关系初始预测结果进行过滤,获得待分析跨域数据的字段关联关系最终预测结果。
根据字段关联关系最终预测结果对待分析跨域数据进行溯源。
本实施例主要对目标字段关联关系判断模型输出的字段关联关系初始预测结果进行字段类型的比较,以清洗过滤掉字段类型不一致的相关关系。
其中,在对目标字段关联关系判断模型输出的字段关联关系初始预测结果进行字段类型的比较之前,可以先将待过滤的跨库表字段属性信息进行格式化规整,具体格式可以如图7所示。然后将字段关联关系初始预测结果进行格式化规整,具体格式可以如图8所示。然后遍历规整好的关联关系,并进行字段类型对比,剔除掉字段类型不一致的关联关系,获得待分析跨域数据的字段关联关系最终预测结果如表3所示。
表3待分析跨域数据的字段关联关系最终预测结果
本实施例可应用于政府机关、企事业单位等各类社会组织的信息化数据治理、数据分析挖掘、数据交易评估等工作。通过建立数据关联关系挖掘方法,最大化发挥数据关联价值,提升数据的可用性。
本发明实施例通过先对不同源数据库包含的各个字段进行关联语义特征提取,可以初步获得具有关联关系的各个字段的语义特征关系网;然后基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,能够进一步挖掘不同源数据库包含的各个字段的关联关系,形成可以最大化的反映不同源数据库之间字段关联关系的训练集;进而基于训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;并利用目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定待分析跨域数据的引用完整性。从而在基于不同源数据库的跨域数据需要进行引用完整性分析时,基于目标字段关联关系判断模型提供可靠的引用完整性分析结果。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
以下为本发明的装置实施例,对于其中未详尽描述的细节,可以参考上述对应的方法实施例。
图9示出了本发明实施例提供的跨域数据引用完整性分析装置的结构示意图,为了便于说明,仅示出了与本发明实施例相关的部分,详述如下:
如图9所示,跨域数据引用完整性分析装置包括:提取模块91、挖掘模块92、训练模块93和分析模块94。
提取模块91,用于对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;
挖掘模块92,用于基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;
训练模块93,用于基于所述训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;
分析模块94,用于利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定所述待分析跨域数据的引用完整性。
本发明实施例通过先对不同源数据库包含的各个字段进行关联语义特征提取,可以初步获得具有关联关系的各个字段的语义特征关系网;然后基于语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,能够进一步挖掘不同源数据库包含的各个字段的关联关系,形成可以最大化的反映不同源数据库之间字段关联关系的训练集;进而基于训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;并利用目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定待分析跨域数据的引用完整性。从而在基于不同源数据库的跨域数据需要进行引用完整性分析时,基于目标字段关联关系判断模型提供可靠的引用完整性分析结果。
在一种可能的实现方式中,提取模块91,可以用于获取不同源数据库包含的各个字段之间的对应关系;根据所述对应关系查询信息数据库,获得各个字段对应的字段语义描述;对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以所述对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
在一种可能的实现方式中,提取模块91,可以用于获取不同源数据库在预设时段的数据库操作日志,并对所述数据库操作日志进行除重处理;对除重后的数据库操作日志中的每条日志进行词法语法解析,根据解析结果获取不同源数据库包含的各个字段之间的对应关系。
在一种可能的实现方式中,挖掘模块92,可以用于从不同源数据库中提取关于库名、表名、字段名、字段类型和字段属性的数据,形成二维数据表;对所述二维数据表中的每行数据进行两两组合,获得笛卡尔乘积表;对所述笛卡尔乘积表中字段类型不同的组合进行过滤,并基于所述语义特征关系网确定过滤后的笛卡尔乘积表中每个组合的两个字段的相关状态值;基于过滤后的笛卡尔乘积表和所述相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数;根据过滤后的笛卡尔乘积表、所述相关状态值和所述语义相似度关系系数构建训练集。
在一种可能的实现方式中,挖掘模块92,可以用于基于过滤后的笛卡尔乘积表和所述相关状态值进行第一相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第一语义相似度关系系数;基于过滤后的笛卡尔乘积表中每两个字段对应的数据值进行第二相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第二语义相似度关系系数。
在一种可能的实现方式中,分析模块93,可以用于将所述待分析跨域数据输入所述目标字段关联关系判断模型,获得所述待分析跨域数据的字段关联关系初始预测结果;对字段类型不同的字段关联关系初始预测结果进行过滤,获得所述待分析跨域数据的字段关联关系最终预测结果;根据所述字段关联关系最终预测结果对所述待分析跨域数据进行溯源。
图10是本发明实施例提供的终端的示意图。如图10所示,该实施例的终端10包括:处理器100、存储器101以及存储在存储器101中并可在处理器100上运行的计算机程序102。处理器100执行计算机程序102时实现上述各个跨域数据引用完整性分析方法实施例中的步骤,例如图1所示的步骤101至步骤104。或者,处理器100执行计算机程序102时实现上述各装置实施例中各模块/单元的功能,例如图9所示模块/单元91至94的功能。
示例性的,计算机程序102可以被分割成一个或多个模块/单元,一个或者多个模块/单元被存储在存储器101中,并由处理器100执行,以完成本发明。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序102在终端10中的执行过程。例如,计算机程序102可以被分割成图9所示的模块/单元91至94。
终端10可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。终端10可包括,但不仅限于,处理器100、存储器101。本领域技术人员可以理解,图10仅仅是终端10的示例,并不构成对终端10的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如终端还可以包括输入输出设备、网络接入设备、总线等。
所称处理器100可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器101可以是终端10的内部存储单元,例如终端10的硬盘或内存。存储器101也可以是终端10的外部存储设备,例如终端10上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,存储器101还可以既包括终端10的内部存储单元也包括外部存储设备。存储器101用于存储计算机程序以及终端所需的其他程序和数据。存储器101还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个跨域数据引用完整性分析方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random AccessMemory,RAM)、电载波信号、电信信号以及软件分发介质等。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种跨域数据引用完整性分析方法,其特征在于,包括:
对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;
基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;
基于所述训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;
利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定所述待分析跨域数据的引用完整性。
2.根据权利要求1所述的跨域数据引用完整性分析方法,其特征在于,所述对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网,包括:
获取不同源数据库包含的各个字段之间的对应关系;
根据所述对应关系查询信息数据库,获得各个字段对应的字段语义描述;
对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以所述对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
3.根据权利要求2所述的跨域数据引用完整性分析方法,其特征在于,所述获取不同源数据库包含的各个字段之间的对应关系,包括:
获取不同源数据库在预设时段的数据库操作日志,并对所述数据库操作日志进行除重处理;
对除重后的数据库操作日志中的每条日志进行词法语法解析,根据解析结果获取不同源数据库包含的各个字段之间的对应关系。
4.根据权利要求1-3任一项所述的跨域数据引用完整性分析方法,其特征在于,所述基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集,包括:
从不同源数据库中提取关于库名、表名、字段名、字段类型和字段属性的数据,形成二维数据表;
对所述二维数据表中的每行数据进行两两组合,获得笛卡尔乘积表;
对所述笛卡尔乘积表中字段类型不同的组合进行过滤,并基于所述语义特征关系网确定过滤后的笛卡尔乘积表中每个组合的两个字段的相关状态值;
基于过滤后的笛卡尔乘积表和所述相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数;
根据过滤后的笛卡尔乘积表、所述相关状态值和所述语义相似度关系系数构建训练集。
5.根据权利要求4所述的跨域数据引用完整性分析方法,其特征在于,所述基于过滤后的笛卡尔乘积表和所述相关状态值进行相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的语义相似度关系系数,包括:
基于过滤后的笛卡尔乘积表和所述相关状态值进行第一相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第一语义相似度关系系数;
基于过滤后的笛卡尔乘积表中每两个字段对应的数据值进行第二相关系数计算,获得过滤后的笛卡尔乘积表中每两个字段对应的第二语义相似度关系系数。
6.根据权利要求1所述的跨域数据引用完整性分析方法,其特征在于,所述利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,包括:
将所述待分析跨域数据输入所述目标字段关联关系判断模型,获得所述待分析跨域数据的字段关联关系初始预测结果;
对字段类型不同的字段关联关系初始预测结果进行过滤,获得所述待分析跨域数据的字段关联关系最终预测结果;
根据所述字段关联关系最终预测结果对所述待分析跨域数据进行溯源。
7.一种跨域数据引用完整性分析装置,其特征在于,包括:
提取模块,用于对不同源数据库包含的各个字段进行关联语义特征提取,获得具有关联关系的各个字段的语义特征关系网;
挖掘模块,用于基于所述语义特征关系网对不同源数据库包含的各个字段进行语义相似度关系挖掘,并基于挖掘结果构建训练集;
训练模块,用于基于所述训练集对不同源数据库的字段关联关系进行训练,获得目标字段关联关系判断模型;
分析模块,用于利用所述目标字段关联关系判断模型对待分析跨域数据进行溯源,并基于溯源结果确定所述待分析跨域数据的引用完整性。
8.根据权利要求7所述的跨域数据引用完整性分析装置,其特征在于,所述提取模块,用于获取不同源数据库包含的各个字段之间的对应关系;根据所述对应关系查询信息数据库,获得各个字段对应的字段语义描述;对各个字段对应的字段语义描述进行分词,并以分词后的名词分词为实体,以所述对应关系为边,获得具有关联关系的各个字段的语义特征关系网。
9.一种终端,其特征在于,包括存储器和处理器,所述存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,执行如权利要求1至6中任一项所述的方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如上的权利要求1至6中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211445059.2A CN117112642A (zh) | 2022-11-18 | 2022-11-18 | 跨域数据引用完整性分析方法、装置、终端及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211445059.2A CN117112642A (zh) | 2022-11-18 | 2022-11-18 | 跨域数据引用完整性分析方法、装置、终端及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117112642A true CN117112642A (zh) | 2023-11-24 |
Family
ID=88807965
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211445059.2A Pending CN117112642A (zh) | 2022-11-18 | 2022-11-18 | 跨域数据引用完整性分析方法、装置、终端及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117112642A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117973544A (zh) * | 2024-03-26 | 2024-05-03 | 杭州朗目达信息科技有限公司 | 基于语义距离的文本单位推理方法装置、存储介质和终端 |
-
2022
- 2022-11-18 CN CN202211445059.2A patent/CN117112642A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117973544A (zh) * | 2024-03-26 | 2024-05-03 | 杭州朗目达信息科技有限公司 | 基于语义距离的文本单位推理方法装置、存储介质和终端 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111522816B (zh) | 基于数据库引擎的数据处理方法、装置、终端及介质 | |
CN112199366A (zh) | 数据表处理方法、装置及设备 | |
US11599539B2 (en) | Column lineage and metadata propagation | |
CN110457302A (zh) | 一种结构化数据智能清洗方法 | |
CN109471889B (zh) | 报表加速方法、系统、计算机设备和存储介质 | |
US20220358379A1 (en) | System, apparatus and method of managing knowledge generated from technical data | |
CN112559526A (zh) | 数据表导出方法、装置、计算机设备及存储介质 | |
CN117112642A (zh) | 跨域数据引用完整性分析方法、装置、终端及存储介质 | |
CN110109678B (zh) | 一种代码审计规则库生成方法、装置、设备及介质 | |
CN112527796B (zh) | 数据表处理方法、装置及计算机可读存储介质 | |
US11789903B1 (en) | Tagging tool for managing data | |
CN112699245A (zh) | 预算管理知识图谱的构建方法、装置及应用方法、装置 | |
CN110941952A (zh) | 一种完善审计分析模型的方法及装置 | |
CN113760864A (zh) | 数据模型的生成方法和装置 | |
Li | Feature and variability extraction from natural language software requirements specifications | |
CN111625579B (zh) | 一种信息处理方法、装置及系统 | |
CN115374222A (zh) | 一种知识图谱构建方法、装置和存储介质 | |
CN117389980B (zh) | 日志文件分析方法及装置、计算机设备和可读存储介质 | |
CN110909538A (zh) | 问答内容的识别方法、装置、终端设备及介质 | |
CN117951038B (zh) | 基于代码大模型的Rust语言文档测试自动生成方法及装置 | |
CN117573956B (zh) | 元数据管理方法、装置、设备及存储介质 | |
US11500886B2 (en) | Finding locations of tabular data across systems | |
CN115099922B (zh) | 财务数据查询方法、系统、可读存储介质及计算机设备 | |
US20230153226A1 (en) | System and Method for Identifying Performance Bottlenecks | |
CN117971800A (zh) | 一种基于大模型的数据质量sql脚本生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |