CN114528313A - 数据处理方法、装置和电子设备 - Google Patents
数据处理方法、装置和电子设备 Download PDFInfo
- Publication number
- CN114528313A CN114528313A CN202210254422.6A CN202210254422A CN114528313A CN 114528313 A CN114528313 A CN 114528313A CN 202210254422 A CN202210254422 A CN 202210254422A CN 114528313 A CN114528313 A CN 114528313A
- Authority
- CN
- China
- Prior art keywords
- target data
- blood relationship
- data table
- blood
- relationship
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种数据处理方法、装置和电子设备。其中,该方法应用于元数据搜索引擎,该方法包括:响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表;基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。该方式中,可以基于建表语句或血缘表查询目标数据表的血缘关系,相比于常见的自动解析方法和系统追踪方法,该方式无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
Description
技术领域
本发明涉及数据处理的技术领域,尤其是涉及一种数据处理方法、装置和电子设备。
背景技术
数据从产生、加工融合、流转流通到最终消亡,在数据之间自然会形成一种关系。可以借鉴人类社会中类似的一种关系来表达数据之间的这种关系,称之为数据的血缘关系。数据的血缘关系是元数据的组成部分之一。通过数据的血缘关系可以分析表和字段从数据源到当前表的血缘路径,以及血缘字段之间存在的关系是否满足,可以评判数据的一致性以及表设计的合理性,可以用于分析上游数据发生变化给下游数据带来的影响,在下游数据发生变化时可以追踪上游问题的源头,帮助我们更好地去理解数据。
一般来说,可以通过自动解析或系统追踪的方式去获取数据的血缘关系。其中,自动解析方法是当前获取数据的血缘关系的主要方法,其具体做法就是解析数据的SQL(Structured Query Language,结构化查询语言)语句、存储过程、ETL(Extract-Transform-Load,抽取、转换、加载)过程等文件,以确定数据的血缘关系。系统跟踪方法是通过数据加工流动过程中,由数据处理程序负责发送数据血缘信息,例如:在数据的注解部分增加对血缘的描述等。
然而,对于自动解析方法,由于数据的复杂代码和应用环境等原因,根据国际厂商的经验,自动解析方法可以仅覆盖到企业数据的70-95%,目前无法做到100%,数据的覆盖不够全面。对于系统跟踪方法,由于调度引擎的种类比较多,导致分析成本交过。获取SQL执行日志比较困难,就算获取到SQL执行日志,也需要长时间追踪和分析,还可能带来数据安全的问题,并且也只能覆盖一部分数据。
发明内容
有鉴于此,本发明的目的在于提供一种数据处理方法、装置和电子设备,以降低获取数据血缘关系的成本,提高数据的覆盖率。
第一方面,本发明实施例提供了一种数据处理方法,应用于元数据搜索引擎,方法包括:响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表;基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
在本发明较佳的实施例中,上述方法还包括:在创建目标数据表的过程中确定目标数据表的血缘关系;将目标数据表的血缘关系写入目标数据表的建表语句中;或者,将目标数据表的血缘关系写入目标数据表对应的血缘表中。
在本发明较佳的实施例中,上述将目标数据表的血缘关系写入目标数据表的建表语句中的步骤,包括:将目标数据表的血缘关系写入目标数据表中的指定字段内。
在本发明较佳的实施例中,上述基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系的步骤,包括:解析目标数据表中的指定字段,确定目标数据表的血缘关系。
在本发明较佳的实施例中,上述目标数据表设置于数据库中,数据库包括多个数据表和一个血缘表;上述将目标数据表的血缘关系写入目标数据表对应的血缘表中的步骤,包括:将目标数据表的血缘关系写入数据库的血缘表中,以使血缘表记录数据库中的各个数据表的血缘关系。
在本发明较佳的实施例中,上述基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系的步骤,包括:从数据库的血缘表中查找目标数据表的血缘关系。
在本发明较佳的实施例中,上述基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系的步骤之后,方法还包括:基于目标数据表的血缘关系生成目标数据表的血缘关系图。
在本发明较佳的实施例中,上述方法还包括:将目标数据表的血缘关系或血缘关系图发送至与元数据搜索引擎通信连接的终端设备中。
第二方面,本发明实施例还提供一种数据处理装置,应用于元数据搜索引擎,装置包括:目标数据表确定模块,用于响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表;血缘关系确定模块,用于基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
第三方面,本发明实施例还提供一种电子设备,包括处理器和存储器,存储器存储有能够被处理器执行的计算机可执行指令,处理器执行计算机可执行指令以实现上述的数据处理方法的步骤。
第四方面,本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机可执行指令,计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现上述的数据处理方法的步骤。
本发明实施例带来了以下有益效果:
本发明实施例提供的一种数据处理方法、装置和电子设备,可以响应用户的血缘关系查询操作,基于血缘关系查询操作对应的目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。该方式中,可以基于建表语句或血缘表查询目标数据表的血缘关系,相比于常见的自动解析方法和系统追踪方法,该方式无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
本公开的其他特征和优点将在随后的说明书中阐述,或者,部分特征和优点可以从说明书推知或毫无疑义地确定,或者通过实施本公开的上述技术即可得知。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种数据处理方法的流程图;
图2为本发明实施例提供的另一种数据处理方法的流程图;
图3为本发明实施例提供的一种数据处理方法的总体架构的示意图;
图4为本发明实施例提供的一种数据处理装置的结构示意图;
图5为本发明实施例提供的另一种数据处理装置的结构示意图;
图6为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
目前,数据从产生、加工融合、流转流通到最终消亡,在数据之间自然会形成一种关系。可以借鉴人类社会中类似的一种关系来表达数据之间的这种关系,称之为数据的血缘关系。数据的血缘关系是元数据的组成部分之一。通过数据的血缘关系可以分析表和字段从数据源到当前表的血缘路径,以及血缘字段之间存在的关系是否满足,可以评判数据的一致性以及表设计的合理性,可以用于分析上游数据发生变化给下游数据带来的影响,在下游数据发生变化时可以追踪上游问题的源头,帮助我们更好地去理解数据。
一般来说,可以通过自动解析或系统追踪的方式去获取数据的血缘关系。其中,自动解析方法是当前获取数据的血缘关系的主要方法,其具体做法就是解析数据的SQL语句、存储过程、ETL过程等文件,以确定数据的血缘关系。系统跟踪方法是通过数据加工流动过程中,由数据处理程序负责发送数据血缘信息,例如:在数据的注解部分增加对血缘的描述等。
然而,对于自动解析方法,由于数据的复杂代码和应用环境等原因,根据国际厂商的经验,自动解析方法可以仅覆盖到企业数据的70-95%,目前无法做到100%,数据的覆盖不够全面。对于系统跟踪方法,由于调度引擎的种类比较多,导致分析成本交过。获取SQL执行日志比较困难,就算获取到SQL执行日志,也需要长时间追踪和分析,还可能带来数据安全的问题,并且也只能覆盖一部分数据。基于此,本发明实施例提供的一种数据处理方法、装置和电子设备,具体设计一种数据血缘获取规范,无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
为便于对本实施例进行理解,首先对本发明实施例所公开的一种数据处理方法进行详细介绍。
本发明实施例提供了一种数据处理方法,应用于服务器,应用于元数据搜索引擎,元数据搜索引擎即元搜索引擎(META Search Engine)。元搜索引擎在接受用户的查询请求后,可以同时在多个搜索引擎上搜索,并将结果返回给用户。因此,有搜索引擎之上的搜索引擎之称,元搜索引擎具有提高搜索速度、智能化处理搜索结果、设置个性搜索功能,提高用户检索界面的友好性的功能,并且查全率和查准率都比较高。
元数据(Metadata)是描述其它数据的数据,或者说是用于提供某种资源的有关信息的结构数据。元数据是描述信息资源或数据等对象的数据,其使用目的在于:识别资源;评价资源;追踪资源在使用过程中的变化;实现简单高效地管理大量网络化数据;实现信息资源的有效发现、查找、一体化组织和对使用资源的有效管理。
基于上述描述,参见图1所示的一种数据处理方法的流程图,该数据处理方法包括如下步骤:
步骤S100,响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表。
用户可以在终端设备上执行血缘关系查询操作,其中,终端设备可以是手机、电脑、平板电脑、服务器等具有通信和交互功能的设备,用户执行血缘关系查询操作之后,本发明实施例中的元数据搜索引擎可以响应上述响应血缘关系查询操作,确定上述血缘关系查询操作对应的数据表,可以称为目标数据表。
数据表是由表名、表中的字段和表的记录三个部分组成的。设计数据表结构就是定义数据表文件名,确定数据表包含哪些字段,各字段的字段名、字段类型、及宽度,并将这些数据输入到计算机当中。举例来说,用户想要查询数据表A的血缘关系,可以在执行血缘关系查询操作时选择数据表A作为目标数据表。
步骤S102,基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
在确定目标数据表之后,本发明实施例可以基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。具体地,在目标数据表的建立过程中,可以在建表语句(表的字段)中通过COMMENT(注释)标注数据来源,例如在SQL语句中,COMMENT可以用于在生成的SQL语句中添加注释内容。因此,在查询目标数据表的血缘关系时,就可以基于SQL语句中的COMMENT(即目标数据表的建表语句)进行查询。
或者,在目标数据表的建立过程中,可以在目标数据表所属的数据库中创建一个血缘表,血缘表里的数据用来描述整个数据库所有的数据表的数据的来源,就像项目的README文件。因此,在查询目标数据表的血缘关系时,就可以基于目标数据表所属的数据库的血缘表(即目标数据表对应的血缘表)进行查询。
举例来说,用户在目标数据表的建立过程中,可以手工整理血缘关系,将血缘关系整理到血缘表里或建表语句里。元数据搜索引擎抓取可以数据库的血缘表,或者读取数据表的建表语句,然后分析出血缘关系,供用户搜索。
本发明实施例提供的一种数据处理方法,可以响应用户的血缘关系查询操作,基于血缘关系查询操作对应的目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。该方式中,可以基于建表语句或血缘表查询目标数据表的血缘关系,相比于常见的自动解析方法和系统追踪方法,该方式无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
本发明实施例提供了另一种数据处理方法,该方法在上述实施例的基础上实现;本实施例重点描述生成目标数据表的血缘关系图的具体实施方式。参见图2所示的另一种数据处理方法的流程图,本实施例中的数据处理方法包括如下步骤:
步骤S200,响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表。
本发明实施例中,用户在数据表的建立过中可以先将血缘关系写入建表语句或血缘表,例如:在创建目标数据表的过程中确定目标数据表的血缘关系;将目标数据表的血缘关系写入目标数据表的建表语句中;或者,将目标数据表的血缘关系写入目标数据表对应的血缘表中。
其中,血缘关系可以由用户手动整理,也可以由计算机通过自动解析或系统追踪的方式去获取数据的血缘关系。目标数据表的血缘关系可以写入目标数据表的建表语句中,也可以写入目标数据表对应的血缘表中。
具体地,目标数据表的血缘关系可以通过下述方式写入目标数据表的建表语句中:将目标数据表的血缘关系写入目标数据表中的指定字段内。参见下述代码:
通过上述代码,可以将目标数据表的血缘关系写入目标数据表中的COMMENT字段(即指定字段)内。
具体地,目标数据表的血缘关系可以通过写入目标数据表对应的血缘表:将目标数据表的血缘关系写入数据库的血缘表中,以使血缘表记录数据库中的各个数据表的血缘关系。
其中,目标数据表设置于数据库中,数据库包括多个数据表和一个血缘表。举例来说,目标数据表为数据表X,设置于数据库中,数据库中可以包括数据表X、数据表Y和数据表Z,数据库中还可以包括一个血缘表,其中,血缘表可以记录数据表X、数据表Y和数据表Z的血缘关系。
表名 | 字段名 | 方式 | 来源 | 范围 |
数据表1 | 映射 | 源:库:表: | 表级 | |
数据表2 | 字段名 | Function | 源:库:表:字段: | 字段级 |
数据表3 | 字段名 | 精度为2 | 源:库:表:字段: | 字段级 |
数据表4 | 字段名 | 视图 | 源:库:表:字段: | 字段级 |
表1一种血缘表
可以参见表1所示的一种血缘表,表1中的来源分别记载了数据表1、数据表2、数据表3和数据表4的血缘关系。
步骤S202,基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
参见图3所示的一种数据处理方法的总体架构的示意图,如图3所示,可以通过抓取建表语句或读取血缘表两种方式确定目标数据表的血缘关系。
具体地,可以通过下述步骤基于目标数据表的建表语句确定目标数据表的血缘关系:解析目标数据表中的指定字段,确定目标数据表的血缘关系。
例如,可以将目标数据表的血缘关系写入目标数据表中的COMMENT字段(即指定字段)内,因此,可以解析目标数据表中的COMMENT字段,从COMMENT字段确定目标数据表的血缘关系。
具体地,可以通过下述步骤基于目标数据表对应的血缘表确定目标数据表的血缘关系:从数据库的血缘表中查找目标数据表的血缘关系。
举例来说,目标数据表为数据表X,设置于数据库中,数据库中可以包括数据表X、数据表Y和数据表Z,数据库中还可以包括一个血缘表,其中,血缘表可以记录数据表X、数据表Y和数据表Z的血缘关系。因此,从数据库的血缘表中查找数据表X的血缘关系。
步骤S204,基于目标数据表的血缘关系生成目标数据表的血缘关系图。
如图3所示,在确定血缘关系之后,可以基于血缘关系生成目标数据表的血缘关系图,血缘关系图与血缘关系相比,可以更加直观地看出目标数据的血缘路径,可以提高血缘关系的观看效率。
在确定目标数据表的血缘关系或血缘关系图之后,还可以发送血缘关系或血缘关系图,例如:将目标数据表的血缘关系或血缘关系图发送至与元数据搜索引擎通信连接的终端设备中。其中,终端设备可以是手机、电脑、平板电脑、服务器等具有通信和交互功能的设备,以方便用户在终端设备查看目标数据表的血缘关系或血缘关系图。
本发明实施例提供的上述方法,可以响应用户的血缘关系查询操作,基于血缘关系查询操作对应的目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
本发明实施例提供的上述方法,用户在数据表的建立过中可以先将血缘关系写入建表语句或血缘表,其中,血缘关系可以由用户手动整理,也可以由计算机通过自动解析或系统追踪的方式去获取数据的血缘关系。例如:可以将目标数据表的血缘关系写入目标数据表中的指定字段内,或者,可以将目标数据表的血缘关系写入数据库的血缘表中,以使血缘表记录数据库中的各个数据表的血缘关系。
本发明实施例提供的上述方法,可以通过抓取建表语句或读取血缘表两种方式确定目标数据表的血缘关系。例如:解析目标数据表中的指定字段,确定目标数据表的血缘关系。又例如:从数据库的血缘表中查找目标数据表的血缘关系。
该方式中,可以基于建表语句或血缘表查询目标数据表的血缘关系,相比于常见的自动解析方法和系统追踪方法,该方式无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
对应于上述方法实施例,本发明实施例提供了一种数据处理装置,应用于元数据搜索引擎,参见图4所示的一种数据处理装置的结构示意图,该数据处理装置包括:
目标数据表确定模块41,用于响应血缘关系查询操作,确定血缘关系查询操作对应的目标数据表;
血缘关系确定模块42,用于基于目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。
本发明实施例提供的一种数据处理装置,可以响应用户的血缘关系查询操作,基于血缘关系查询操作对应的目标数据表的建表语句或者目标数据表对应的血缘表,确定目标数据表的血缘关系。该方式中,可以基于建表语句或血缘表查询目标数据表的血缘关系,相比于常见的自动解析方法和系统追踪方法,该方式无需解析SQL语句,解析血缘关系的方式较为简单,可以降低获取数据血缘关系的成本,可以获取所有数据的血缘关系,提高数据的覆盖率,还没有信息泄露的风险。
参见图5所示的另一种数据处理装置的结构示意图,该数据处理装置还包括:血缘关系写入模块43,与目标数据表确定模块41连接,血缘关系写入模块43用于在创建目标数据表的过程中确定目标数据表的血缘关系;将目标数据表的血缘关系写入目标数据表的建表语句中;或者,将目标数据表的血缘关系写入目标数据表对应的血缘表中。
上述血缘关系写入模块,用于将目标数据表的血缘关系写入目标数据表中的指定字段内。
上述血缘关系确定模块,用于解析目标数据表中的指定字段,确定目标数据表的血缘关系。
上述目标数据表设置于数据库中,数据库包括多个数据表和一个血缘表;上述血缘关系写入模块,用于将目标数据表的血缘关系写入数据库的血缘表中,以使血缘表记录数据库中的各个数据表的血缘关系。
上述血缘关系确定模块,用于从数据库的血缘表中查找目标数据表的血缘关系。
如图5所示,该数据处理装置还包括:血缘关系图生成模块44,与血缘关系确定模块42连接,血缘关系图生成模块44用于基于目标数据表的血缘关系生成目标数据表的血缘关系图。
如图5所示,该数据处理装置还包括:血缘关系或血缘关系图发送模块45,与血缘关系确定模块42连接,也与血缘关系图生成模块44连接,血缘关系或血缘关系图发送模块45用于将目标数据表的血缘关系或血缘关系图发送至与元数据搜索引擎通信连接的终端设备中。
本发明实施例所提供的数据处理装置,其实现原理及产生的技术效果和前述数据处理方法实施例相同,为简要描述,数据处理装置实施例部分未提及之处,可参考前述数据处理方法实施例中相应内容。
本发明实施例还提供了一种电子设备,用于运行上述数据处理方法;参见图6所示的一种电子设备的结构示意图,该电子设备包括存储器100和处理器101,其中,存储器100用于存储一条或多条计算机指令,一条或多条计算机指令被处理器101执行,以实现上述数据处理方法。
进一步地,图6所示的电子设备还包括总线102和通信接口103,处理器101、通信接口103和存储器100通过总线102连接。
其中,存储器100可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口103(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。总线102可以是ISA总线、PCI总线或EISA总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,图6中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
处理器101可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器101中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器101可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DigitalSignal Processor,简称DSP)、专用集成电路(Application Specific IntegratedCircuit,简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器100,处理器101读取存储器100中的信息,结合其硬件完成前述实施例的方法的步骤。
本发明实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令在被处理器调用和执行时,计算机可执行指令促使处理器实现上述数据处理方法,具体实现可参见方法实施例,在此不再赘述。
本发明实施例所提供的数据处理方法、装置和电子设备的计算机程序产品,包括存储了程序代码的计算机可读存储介质,程序代码包括的指令可用于执行前面方法实施例中的方法,具体实现可参见方法实施例,在此不再赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统和/或装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
另外,在本发明实施例的描述中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,电子设备,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在本发明的描述中,需要说明的是,术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”、“第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (11)
1.一种数据处理方法,其特征在于,应用于元数据搜索引擎,所述方法包括:
响应血缘关系查询操作,确定所述血缘关系查询操作对应的目标数据表;
基于所述目标数据表的建表语句或者所述目标数据表对应的血缘表,确定所述目标数据表的血缘关系。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在创建所述目标数据表的过程中确定所述目标数据表的血缘关系;
将所述目标数据表的血缘关系写入所述目标数据表的建表语句中;或者,将所述目标数据表的血缘关系写入所述目标数据表对应的血缘表中。
3.根据权利要求2所述的方法,其特征在于,将所述目标数据表的血缘关系写入所述目标数据表的建表语句中的步骤,包括:
将所述目标数据表的血缘关系写入所述目标数据表中的指定字段内。
4.根据权利要求3所述的方法,其特征在于,基于所述目标数据表的建表语句或者所述目标数据表对应的血缘表,确定所述目标数据表的血缘关系的步骤,包括:
解析所述目标数据表中的所述指定字段,确定所述目标数据表的血缘关系。
5.根据权利要求2所述的方法,其特征在于,所述目标数据表设置于数据库中,所述数据库包括多个数据表和一个血缘表;将所述目标数据表的血缘关系写入所述目标数据表对应的血缘表中的步骤,包括:
将所述目标数据表的血缘关系写入所述数据库的血缘表中,以使所述血缘表记录所述数据库中的各个所述数据表的血缘关系。
6.根据权利要求5所述的方法,其特征在于,基于所述目标数据表的建表语句或者所述目标数据表对应的血缘表,确定所述目标数据表的血缘关系的步骤,包括:
从所述数据库的血缘表中查找所述目标数据表的血缘关系。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:基于所述目标数据表的建表语句或者所述目标数据表对应的血缘表,确定所述目标数据表的血缘关系的步骤之后,所述方法还包括:
基于所述目标数据表的血缘关系生成所述目标数据表的血缘关系图。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
将所述目标数据表的血缘关系或血缘关系图发送至与所述元数据搜索引擎通信连接的终端设备中。
9.一种数据处理装置,其特征在于,应用于元数据搜索引擎,所述装置包括:
目标数据表确定模块,用于响应血缘关系查询操作,确定所述血缘关系查询操作对应的目标数据表;
血缘关系确定模块,用于基于所述目标数据表的建表语句或者所述目标数据表对应的血缘表,确定所述目标数据表的血缘关系。
10.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机可执行指令,所述处理器执行所述计算机可执行指令以实现权利要求1-8任一项所述的数据处理方法的步骤。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令在被处理器调用和执行时,所述计算机可执行指令促使处理器实现权利要求1-8任一项所述的数据处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210254422.6A CN114528313A (zh) | 2022-03-15 | 2022-03-15 | 数据处理方法、装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210254422.6A CN114528313A (zh) | 2022-03-15 | 2022-03-15 | 数据处理方法、装置和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114528313A true CN114528313A (zh) | 2022-05-24 |
Family
ID=81626071
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210254422.6A Pending CN114528313A (zh) | 2022-03-15 | 2022-03-15 | 数据处理方法、装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114528313A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116541887B (zh) * | 2023-07-07 | 2023-09-15 | 云启智慧科技有限公司 | 一种大数据平台数据安全保护方法 |
-
2022
- 2022-03-15 CN CN202210254422.6A patent/CN114528313A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116541887B (zh) * | 2023-07-07 | 2023-09-15 | 云启智慧科技有限公司 | 一种大数据平台数据安全保护方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11188552B2 (en) | Executing conditions with negation operators in analytical databases | |
CN111881011A (zh) | 日志管理方法、平台、服务器及存储介质 | |
CN111241122B (zh) | 任务监测方法、装置、电子设备和可读存储介质 | |
CN112929216A (zh) | 一种资产管理方法、装置、设备及可读存储介质 | |
CN111367976A (zh) | 基于java反射机制的excel文件数据的导出方法及装置 | |
CN111368227A (zh) | 一种url处理方法以及装置 | |
CN109271453B (zh) | 一种数据库容量的确定方法和装置 | |
CN114528313A (zh) | 数据处理方法、装置和电子设备 | |
CN113626558A (zh) | 一种基于智能推荐的字段标准化的方法和系统 | |
CN111435327B (zh) | 一种日志记录的处理方法、装置及系统 | |
CN113297245A (zh) | 获取执行信息的方法及装置 | |
CN114297236A (zh) | 一种数据血缘分析方法、终端设备及存储介质 | |
CN113448985A (zh) | 一种api接口生成方法、调用方法、装置及电子设备 | |
CN112579705B (zh) | 元数据采集方法、装置、计算机设备和存储介质 | |
CN114817162A (zh) | 数据流向的分析方法、装置及服务器 | |
CN109960687A (zh) | 一种文件处理系统及方法 | |
CN114818645B (zh) | 基于数据主体的自动化报告生成方法、装置、设备及介质 | |
CN114625595B (zh) | 一种业务系统动态配置信息的复核方法、装置和系统 | |
CN111752956B (zh) | 实体的关联变更方法及装置、电子设备 | |
CN114297228A (zh) | Es服务器查询方法、装置和计算机可读存储介质 | |
CN118484455A (zh) | 数据库事务的处理方法及装置、存储介质和电子设备 | |
CN112749223A (zh) | 一种接口日志配置化、结构化存储方法及系统 | |
CN115344602A (zh) | 数据实时聚合查询的方法、装置和电子设备 | |
CN117762969A (zh) | 数据采样方法、装置、设备、介质及产品 | |
CN118467781A (zh) | 通用网状数据库的实现方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |