CN114416774A - 跨平台多数据源取数方法、装置、电子设备及存储介质 - Google Patents
跨平台多数据源取数方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114416774A CN114416774A CN202210007105.4A CN202210007105A CN114416774A CN 114416774 A CN114416774 A CN 114416774A CN 202210007105 A CN202210007105 A CN 202210007105A CN 114416774 A CN114416774 A CN 114416774A
- Authority
- CN
- China
- Prior art keywords
- data
- data source
- target data
- query instruction
- source
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012545 processing Methods 0.000 claims description 90
- 230000015654 memory Effects 0.000 claims description 35
- 238000007493 shaping process Methods 0.000 claims description 31
- 230000003068 static effect Effects 0.000 claims description 25
- 230000006870 function Effects 0.000 claims description 23
- 238000004458 analytical method Methods 0.000 claims description 22
- 230000002159 abnormal effect Effects 0.000 claims description 20
- 230000000007 visual effect Effects 0.000 claims description 6
- 238000007405 data analysis Methods 0.000 claims description 5
- 238000012800 visualization Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000001914 filtration Methods 0.000 description 3
- 230000002547 anomalous effect Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
- G06F16/24558—Binary matching operations
- G06F16/2456—Join operations
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例涉及一种跨平台多数据源取数方法、装置、电子设备及存储介质,包括:从已接入的多个数据源中确定待查询的目标数据源;获取对所述目标数据源的数据查询指令;从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。由此,可以实现从已接入的多个数据源中选择目标数据源,实时地在目标数据源中对目标数据进行查询,提高工作效率。
Description
技术领域
本发明实施例涉及数据库技术领域,尤其涉及一种跨平台多数据源取数方法、装置、电子设备及存储介质。
背景技术
IT行业的下一个焦点聚焦在数据时代。目前,由于不同公司选择的数据存储方式不同,因此,业务人员可采用以下两种传统的数据获取方式,一是通过专门的途径下载数据文件,不同业务场景对研发资源有强依赖性,在此过程中耗时耗力。二是通过第三方客户端直接连接数据库,但不同的数据库,相应的查询语法存在一定的差异性,这导致业务人员学习成本比较高,并且不同数据库的来回切换,导致效率极低。
发明内容
鉴于此,为解决上述的技术问题,本发明实施例提供一种跨平台多数据源取数方法、装置、电子设备及存储介质。
第一方面,本发明实施例提供一种跨平台多数据源取数方法,包括:
从已接入的多个数据源中确定待查询的目标数据源;
获取对所述目标数据源的数据查询指令;
从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
在一可能的实施方式中,所述从已接入的多个数据源中确定待查询的目标数据源,包括:
基于可视化界面输出已接入的多个所述数据源;
将用户从多个所述数据源中选择的数据源确定为目标数据源。
在一可能的实施方式中,所述获取对所述目标数据源的数据查询指令,包括:
接收用户输入的原始数据查询指令;
对所述原始数据查询指令进行预设的变量加工处理,得到变量加工处理后的数据查询指令;
对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理;
对解析结果进行SQL动态组装,得到标准的对所述目标数据源的数据查询指令。
在一可能的实施方式中,在所述对所述变量加工处理后的数据查询指令进行SQL函数解析处理之前,所述方法还包括:
构建所述变量加工处理后的数据查询指令的SQL语法树;
根据所述SQL语法树确定所述变量加工处理后的数据查询指令是否存在敏感操作和/或语法错误;
若否,则执行所述对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理的步骤;
若是,则输出第一提示消息,所述第一提示消息用于指示所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误。
在一可能的实施方式中,在所述获取对所述目标数据源的数据查询指令之后,所述方法还包括:
获取用户配置的字段别名;
在所述得到待查询的目标数据之后,将所述目标数据的原始字段转换为对应的字段别名。
在一可能的实施方式中,所述基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据,包括:
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到所述目标数据源中,与所述数据查询指令相匹配的原始数据;
按照预设的整形规则,对所述原始数据进行整形处理,得到目标数据。
在一可能的实施方式中,在所述按照预设的整形规则,对所述原始数据进行整形处理之前,还包括:
确定所述原始数据是否存在异常;
若不存在,则执行所述按照预设的整形规则,对所述原始数据进行整形处理的步骤;
若存在,则调用异常处理模块对所述原始数据进行数据异常处理,并输出第二提示消息,所述第二提示消息用于提示所述原始数据存在异常。
在一可能的实施方式中,所述方法还包括:
将多个所述数据源进行接入,所述数据源包括动态数据源或静态数据源;
在所述数据源包括动态数据源的情况下,将所述动态数据源进行接入具体包括:接收用户输入的数据源的配置信息;将所述已配置的数据源接入已构建的数据源库中;
在所述数据源包括静态数据源的情况下,将所述静态数据源进行接入具体包括:接收静态的数据文件;对所述数据文件进行数据解析,得到所述数据源文件对应的目标数据源;将所述目标数据源接入已构建的数据源库中。
第二方面,本发明实施例提供一种跨平台多数据源取数装置,包括:
数据源确定模块,用于从已接入的多个数据源中确定待查询的目标数据源;
指令获取模块,用于获取对所述目标数据源的数据查询指令;
连接获取模块,用于从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
数据确定模块,用于基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
在一可能的实施方式中,所述数据源确定模块,包括:
数据源输出子模块,用于基于可视化界面输出已接入的多个所述数据源;
数据源确定子模块,用于将用户从多个所述数据源中选择的数据源确定为目标数据源。
在一可能的实施方式中,所述指令获取模块,包括:
指令接收子模块,用于接收用户输入的原始数据查询指令;
指令处理子模块,用于对所述原始数据查询指令进行预设的变量加工处理,得到变量加工处理后的数据查询指令;
指令解析子模块,用于对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理;
指令确定子模块,用于对解析结果进行SQL动态组装,得到标准的对所述目标数据源的数据查询指令。
在一可能的实施方式中,所述装置还包括:
语法树构建模块,用于在所述对所述变量加工处理后的数据查询指令进行SQL函数解析处理之前,构建所述变量加工处理后的数据查询指令的SQL语法树;
指令判断模块,用于根据所述SQL语法树确定所述变量加工处理后的数据查询指令是否存在敏感操作和/或语法错误;
第一步骤执行模块,用于若所述变量加工处理后的数据查询指令不存在敏感操作和/或语法错误,则执行所述对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理的步骤;
第一消息输出模块,用于若所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误,则输出第一提示消息,所述第一提示消息用于指示所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误。
在一可能的实施方式中,所述装置还包括:
别名获取模块,用于在所述获取对所述目标数据源的数据查询指令之后,获取用户配置的字段别名;
字段转换模块,用于在所述得到待查询的目标数据之后,将所述目标数据的原始字段转换为对应的字段别名。
在一可能的实施方式中,所述数据确定模块,包括:
原始数据确定子模块,用于基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到所述目标数据源中,与所述数据查询指令相匹配的原始数据;
目标数据确定子模块,用于按照预设的整形规则,对所述原始数据进行整形处理,得到目标数据。
在一可能的实施方式中,所述装置还包括:
异常确定模块,用于在所述按照预设的整形规则,对所述原始数据进行整形处理之前,确定所述原始数据是否存在异常;
第二步骤执行模块,用于若原始数据不存在异常,则执行所述按照预设的整形规则,对所述原始数据进行整形处理的步骤;
第二消息输出模块,用于若原始数据存在异常,则调用异常处理模块对所述原始数据进行数据异常处理,并输出第二提示消息,所述第二提示消息用于提示所述原始数据存在异常。
在一可能的实施方式中,所述装置还包括:
数据源接入模块,用于将多个所述数据源进行接入,所述数据源包括动态数据源或静态数据源;
所述数据源接入模块,包括:
第一接入子模块,用于在所述数据源包括动态数据源的情况下,将所述动态数据源进行接入具体包括:接收用户输入的数据源的配置信息;将所述已配置的数据源接入已构建的数据源库中;
第二接入子模块,用于在所述数据源包括静态数据源的情况下,将所述静态数据源进行接入具体包括:接收静态的数据文件;对所述数据文件进行数据解析,得到所述数据源文件对应的目标数据源;将所述目标数据源接入已构建的数据源库中。
第三方面,本发明实施例提供一种电子设备,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的跨平台多数据源取数程序,以实现第一方面中任一项所述的跨平台多数据源取数方法。
第四方面,本发明实施例提供一种存储介质,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现第一方面中任一项所述的跨平台多数据源取数方法。
本发明实施例提供的技术方案,通过从已接入的多个数据源中确定待查询的目标数据源,获取对目标数据源的数据查询指令,从已创建的数据源连接池中获取目标数据源的连接,数据源连接池包括多个数据源的连接,基于目标数据源的连接对目标数据源执行数据查询指令,得到待查询的目标数据。由此,可以实现在已接入的多个数据源中选择目标数据源,并实时地在目标数据源中对目标数据进行查询操作,提高数据查询效率,提升用户体验。
附图说明
图1为本发明实施例提供的一种跨平台多数据源取数方法的实施例流程图;
图2为本发明实施例提供的一种可供用户选择目标数据源的可视化界面示意图;
图3为本发明实施例提供的另一种跨平台多数据源取数方法的实施例流程图;
图4为本发明实施例提供的一种配置RDBMS类型数据源的可视化界面示意图;
图5为本发明实施例提供的一种配置API类型数据源的可视化界面示意图;
图6为本发明实施例提供的一种配置Nosql类型数据源的可视化界面示意图;
图7为本发明实施例提供的另一种配置Nosql类型数据源的可视化界面示意图;
图8为本发明实施例提供的一种已接入数据源列表的可视化界面示意图;
图9为本发明实施例提供的一种静态数据源数据获取的可视化界面示意图;
图10为本发明实施例提供的一种字段配置的可视化界面示意图;
图11为本发明实施例提供的一种跨平台多数据源取数装置的实施例框图;
图12为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面结合附图以具体实施例对本发明提供的跨平台多数据源取数方法做进一步的解释说明,实施例并不构成对本发明实施例的限定。
参见图1,为本发明实施例提供的一种跨平台多数据源取数方法的实施例流程图。如图1所示,该流程可包括以下步骤:
步骤101、从已接入的多个数据源中确定待查询的目标数据源。
上述数据源可包括但不限于:RDBMS(Relational Database Management System,关系数据库管理系统)、API(Application Programming Interface,应用程序接口)、Nosql、jdbc(Java Database Connectivity,Java数据库连接)、elasticsearch等。
在一实施例中,从已接入的多个数据源中确定待查询的目标数据源的具体实现可包括:基于可视化界面输出已接入的多个数据源,将用户从多个数据源中选择的数据源确定为目标数据源。其中,参见图2,为本发明实施例提供的一种可供用户选择目标数据源的可视化界面示意图。图中所示A1为数据源筛选区,用户可基于图2所示的可视化界面中从数据源筛选区A1中所示出的已接入的多个数据源中选择目标数据源。
通过这种处理方式,可以实现在已接入的多个数据源中选择目标数据源。
步骤102、获取对目标数据源的数据查询指令。
在一实施例中,获取对目标数据源的数据查询指令的具体实现可包括:接收用户输入的原始数据查询指令,对原始数据查询指令进行预设的变量加工处理,得到变量加工处理后的数据查询指令,对变量加工处理后的数据查询指令进行SQL(Structured QueryLanguage,结构化查询语言)函数解析处理,对解析结果进行SQL动态组装,得到标准的对目标数据源的数据查询指令。如图2所示,图中所示A2为指令编写区,在图中所示指令编写区A2中,用户可输入对目标数据源的数据查询指令。
上述变量加工处理是指对原始数据查询指令中的变量进行特殊处理,例如,设置原始数据查询指令中的变量以${开始,}结尾,|作为默认值分隔符等。
上述SQL函数解析处理是指对变量加工处理后的数据查询指令中的函数进行解析并填充,可包括:求和,最大值,最小值,展示首行,展示末行,平均数,计数,升序,降序,去重计数。
上述SQL动态组装是指对上述变量加工处理后的数据查询指令的解析结果按照标准SQL协议进行动态组装,可包括:排序,分组,having操作处理等。
在本发明实施例中,在对变量加工处理后的数据查询指令进行SQL函数解析处理之前,还可包括:构建变量加工处理后的数据查询指令的SQL语法树,根据SQL语法树确定变量加工处理后的数据查询指令是否存在敏感操作和/或语法错误,若确定变量加工处理后的数据查询指令不存在敏感操作和/或语法错误,则执行对变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理的步骤;若变量加工处理后的数据查询指令存在敏感操作和/或语法错误,则输出第一提示消息,第一提示消息用于指示变量加工处理后的数据查询指令存在敏感操作和/或语法错误,例如,第一提示消息为:指令存在错误。
其中,上述SQL语法树是对变量加工后的数据查询指令的结构进行分析,判断是否存在敏感操作和/或语法错误。
通过这种处理方式,可以对用户输入的原始数据查询指令进行处理,确定目标数据查询指令符合对目标数据源进行查询的标准,避免出现错误,提高效率。
步骤103、从已创建的数据源连接池中获取目标数据源的连接,数据源连接池包括多个数据源的连接。
其中,上述连接池负责分配、管理和释放数据源连接,它允许应用程序重复使用一个现有的数据源连接,而不是再重新建立一个。
步骤104、基于目标数据源的连接对目标数据源执行数据查询指令,得到待查询的目标数据。
在一实施例中,基于目标数据源的连接对目标数据源执行数据查询指令,得到待查询的目标数据的具体实现可包括:基于目标数据源的连接对目标数据源执行数据查询指令,得到目标数据源中,与数据查询指令相匹配的原始数据,按照预设的整形规则,对原始数据进行整形处理,得到目标数据。如图2所示,图中所示A3为结果显示区,可输出执行数据查询指令得到的目标数据。
通过这种处理方式,可以实现根据目标数据查询指令实时地在目标数据源中对目标数据进行查询操作。
上述整形处理可包括字段提取、数据整形。其中字段提取是指对原始数据中字段进行过滤,从原始数据中提取出目标字段数据(也即用户所查询的目标字段数据)。数据整形是指对提取出的目标字段数据进行转换处理,主要可包括:数据格式转换,自定义分组,日期格式转换,数据单位处理等。
在本发明实施例中,在按照预设的整形规则,对原始数据进行整形处理之前,还可包括:确定原始数据是否存在异常,若原始数据不存在异常,则执行按照预设的整形规则,对原始数据进行整形处理的步骤,若原始数据存在异常,则调用异常处理模块对原始数据进行数据异常处理,并输出第二提示消息,第二提示消息用于提示原始数据存在异常,例如,第二提示消息为:数据存在异常。
其中,上述异常可包括客户端异常、服务端异常、网络异常/IO异常、硬件异常等。
上述异常处理模块可以是预设的异常处理中心,该异常处理中心用于将客户端和/或服务端和/或硬件等的异常包装为可视化的语言,并通知客户端用户以及运维同事,以便于及时采取对应措施处理异常情况。
通过这种处理方式,可以判断根据数据查询指令输出的原始数据是否存在异常,并在原始数据存在异常的情况下,采取相应的异常处理措施。
至此,完成图1所示流程的相关描述。
通过图1所示流程可以看出,在本发明的技术方案中,通过从已接入的多个数据源中确定待查询的目标数据源,获取对目标数据源的数据查询指令,从已创建的数据源连接池中获取目标数据源的连接,数据源连接池包括多个数据源的连接,基于目标数据源的连接对目标数据源执行数据查询指令,得到待查询的目标数据。由此,可以实现在已接入的多个数据源中选择目标数据源,并实时地在目标数据源中对目标数据进行查询操作,提高数据查询效率,提升用户体验。
参见图3,为本发明实施例提供的另一种跨平台多数据源取数方法的实施例流程图。如图3所示,该流程可包括以下步骤:
步骤301、将多个数据源进行接入,数据源包括动态数据源或静态数据源。
在一实施例中,在数据源包括动态数据源的情况下,将动态数据源进行接入具体包括:接收用户输入的数据源的配置信息,将已配置的数据源接入已构建的数据源库中。其中,参见图4,为本发明实施例提供的一种配置RDBMS类型数据源的可视化界面示意图。如图4所示,在配置数据源中可选择的数据库类型可包括:hive2,mysql 5.7及以上,oracle,sqlserver,postgresql,h2及clickhouse。上述RDBMS类型数据源支持JDBC协议。
其中,上述hive是一个数据仓库工具,能将结构化的数据文件映射为一张数据库表,并提供SQL查询功能。
上述mysql是一种关系型数据库管理系统,可以将数据保存在不同的表中。在本发明实施例中,mysql5.7版本及5.7以上的版本与mysql5.7之前的版本主要区别在于连接驱动不一致,可能存在版本不兼容的情况,而mysql5.7版本由于既可以支持mysql5.7之前的版本,也可以支持mysql5.7版本及mysql5.7以上的版本。因此,可选择mysql 5.7及mysql5.7以上版本。
上述oracle是被广泛使用的一种数据库管理系统,作为一个通用的数据库系统,它具有完整的数据管理功能;作为一个关系数据库,它是一个完备关系的产品;作为分布式数据库,它实现了分布式处理功能。
上述postgresql是一个功能非常强大的、源代码开放的客户/服务器关系型数据库管理系统,支持大部分的SQL标准并且提供了很多其他现代特性,例如,复杂查询、外键、触发器、视图、事务完整性、多版本并发控制等。
上述h2是一个用Java开发的嵌入式数据库,它本身只是一个类库,即只有一个jar文件,可以直接嵌入到应用项目中。
上述clickhouse是一种开源式的列式存储数据库,主要用于在线分析处理查询,能够使用SQL查询实时生成分析数据报告。
参见图5,为本发明实施例提供的一种配置API类型数据源的可视化界面示意图。上述API类型数据源支持http/https协议Get/Post请求。参见图6,为本发明实施例提供的一种配置Nosql类型数据源的可视化界面示意图。如图6所示,为支持redis(RemoteDictionary Server,远程字典服务)单节点及哨兵模式的接入可视化界面的示意图。参见图7,为本发明实施例提供的另一种配置Nosql类型数据源(以mongodb为例)的可视化界面示意图。如图7所示,为支持mongodb接入可视化界面的示意图,mongodb是一个基于分布式文件存储的数据库。
参见图8所示,为本发明实施例提供的一种已接入数据源列表的可视化界面示意图。图8所示列表,为已接入数据源列表中序号从21至30的10个数据,每一行代表一组已接入数据源相关信息,包括序号、数据源名称、数据源类型。
在另一实施例中,在数据源包括静态数据源的情况下,将静态数据源进行接入具体包括:接收静态的数据文件,对数据文件进行数据解析,得到数据源文件对应的目标数据源,将目标数据源接入已构建的数据源库中。
上述数据文件可以是通过用户上传的数据文件,也可以是通过本地读取服务器指定路径下获得的数据文件,还可以是通过文件传输协议(File Transfer Protocol,FTP)在远程文件服务器上获得的数据文件。该数据文件可以是Excel和/或CSV类型格式文件。可参见图9,为本发明实施例提供的一种静态数据源数据获取的可视化界面示意图,图中所示B1为数据预览区,输出有静态表中前2行的数据,输出内容包括:商品、类别、销售额、单价及销售负责人。
此外,还可以配置定时刷新任务,将数据文件中的数据定时更新上传,同时前端可渲染出最新数据,在此过程中,可设置定时刷新任务的时间范围,在超出时间范围的最大日期时,自动取消定时刷新任务。
通过这种处理方式,可以实现动态数据源或静态数据源的接入,实现资源整合,以便于进行数据查询。
步骤302、从已接入的多个数据源中确定待查询的目标数据源。
步骤303、获取对目标数据源的数据查询指令。
步骤302和步骤303在图1所示流程的步骤101和步骤102中已做详细介绍,这里不再赘述。
步骤304、获取用户配置的字段别名。
其中,上述字段别名表示字段,可以由用户设置,以便于清楚直接地表达出字段的含义。
可参见图10,为本发明实施例提供的一种字段配置的可视化界面示意图。如图10所示,具体可包括字段名称,可视化类型、展示名称、格式、是否支持字段过滤。其中,上述字段名称是中间表英文名,展示名称是中间表中文名,是否支持字段过滤是高级属性配置区。上述可视化类型可包括:字符、数字、日期、地理纬度。
步骤305、从已创建的数据源连接池中获取目标数据源的连接,数据源连接池包括多个数据源的连接。
步骤306、基于目标数据源的连接对目标数据源执行数据查询指令,得到待查询的目标数据。
步骤305和步骤306在图1所示流程的步骤103和步骤104中已做详细介绍,这里不再赘述。
步骤307、将目标数据的原始字段转换为对应的字段别名。
由步骤304的描述可见,用户可配置字段别名,基于此,在输出目标数据时,可将目标数据中的原始字段转换为对应的字段别名。
例如,原始字段为student,用户所配置的该字段别名为学生,则最后在获得目标数据时,可将目标数据中字段student转换为学生。
通过这种处理方式,可以使输出的目标数据更加清楚,便于非本技术领域人员理解,提升用户体验。
与前述跨平台多数据源取数方法的实施例相对应,本发明还提供装置的实施例框图。
参见图11,为本发明实施例提供的一种跨平台多数据源取数装置的实施例框图。如图11所示,该装置包括:
数据源确定模块1101,用于从已接入的多个数据源中确定待查询的目标数据源;
指令获取模块1102,用于获取对所述目标数据源的数据查询指令;
连接获取模块1103,用于从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
数据确定模块1104,用于基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
在一可能的实施方式中,所述数据源确定模块1101,包括(图中未示出):
数据源输出子模块,用于基于可视化界面输出已接入的多个所述数据源;
数据源确定子模块,用于将用户从多个所述数据源中选择的数据源确定为目标数据源。
在一可能的实施方式中,所述指令获取模块1102,包括(图中未示出):
指令接收子模块,用于接收用户输入的原始数据查询指令;
指令处理子模块,用于对所述原始数据查询指令进行预设的变量加工处理,得到变量加工处理后的数据查询指令;
指令解析子模块,用于对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理;
指令确定子模块,用于对解析结果进行SQL动态组装,得到标准的对所述目标数据源的数据查询指令。
在一可能的实施方式中,所述装置还包括(图中未示出):
语法树构建模块,用于在所述对所述变量加工处理后的数据查询指令进行SQL函数解析处理之前,构建所述变量加工处理后的数据查询指令的SQL语法树;
指令判断模块,用于根据所述SQL语法树确定所述变量加工处理后的数据查询指令是否存在敏感操作和/或语法错误;
第一步骤执行模块,用于若所述变量加工处理后的数据查询指令不存在敏感操作和/或语法错误,则执行所述对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理的步骤;
第一消息输出模块,用于若所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误,则输出第一提示消息,所述第一提示消息用于指示所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误。
在一可能的实施方式中,所述装置还包括(图中未示出):
别名获取模块,用于在所述获取对所述目标数据源的数据查询指令之后,获取用户配置的字段别名;
字段转换模块,用于在所述得到待查询的目标数据之后,将所述目标数据的原始字段转换为对应的字段别名。
在一可能的实施方式中,所述数据确定模块1104,包括(图中未示出):
原始数据确定子模块,用于基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到所述目标数据源中,与所述数据查询指令相匹配的原始数据;
目标数据确定子模块,用于按照预设的整形规则,对所述原始数据进行整形处理,得到目标数据。
在一可能的实施方式中,所述装置还包括(图中未示出):
异常确定模块,用于在所述按照预设的整形规则,对所述原始数据进行整形处理之前,确定所述原始数据是否存在异常;
第二步骤执行模块,用于若原始数据不存在异常,则执行所述按照预设的整形规则,对所述原始数据进行整形处理的步骤;
第二消息输出模块,用于若原始数据存在异常,则调用异常处理模块对所述原始数据进行数据异常处理,并输出第二提示消息,所述第二提示消息用于提示所述原始数据存在异常。
在一可能的实施方式中,所述装置还包括(图中未示出):
数据源接入模块,用于将多个所述数据源进行接入,所述数据源包括动态数据源或静态数据源;
所述数据源接入模块,包括(图中未示出):
第一接入子模块,用于在所述数据源包括动态数据源的情况下,将所述动态数据源进行接入具体包括:接收用户输入的数据源的配置信息;将所述已配置的数据源接入已构建的数据源库中;
第二接入子模块,用于在所述数据源包括静态数据源的情况下,将所述静态数据源进行接入具体包括:接收静态的数据文件;对所述数据文件进行数据解析,得到所述数据源文件对应的目标数据源;将所述目标数据源接入已构建的数据源库中。
图12为本发明实施例提供的一种电子设备的结构示意图,图12所示的电子设备1200包括:至少一个处理器1201、存储器1202、至少一个网络接口1204和其他用户接口1203。电子设备1200中的各个组件通过总线系统1205耦合在一起。可理解,总线系统1205用于实现这些组件之间的连接通信。总线系统1205除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图12中将各种总线都标为总线系统1205。
其中,用户接口1203可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball))、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器1202可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-OnlyMemory,ROM)、可编程只读存储器(ProgrammableROM,PROM)、可擦除可编程只读存储器(ErasablePROM,EPROM)、电可擦除可编程只读存储器(ElectricallyEPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(RandomAccessMemory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(StaticRAM,SRAM)、动态随机存取存储器(DynamicRAM,DRAM)、同步动态随机存取存储器(SynchronousDRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(DoubleDataRateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(SynchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambusRAM,DRRAM)。本文描述的存储器1202旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器1202存储了如下的元素,可执行单元或者数据结构,或者他们的子集,或者他们的扩展集:操作系统12021和应用程序12022。
其中,操作系统12021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序12022,包含各种应用程序,例如媒体播放器(MediaPlayer)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序12022中。
在本发明实施例中,通过调用存储器1202存储的程序或指令,具体的,可以是应用程序12022中存储的程序或指令,处理器1201用于执行各方法实施例所提供的方法步骤,例如包括:
从已接入的多个数据源中确定待查询的目标数据源;
获取对所述目标数据源的数据查询指令;
从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
上述本发明实施例揭示的方法可以应用于处理器1201中,或者由处理器1201实现。处理器1201可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器1201中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器1201可以是通用处理器、数字信号处理器(DigitalSignalProcessor,DSP)、专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、现成可编程门阵列(FieldProgrammableGateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器1202,处理器1201读取存储器1202中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecificIntegratedCircuits,ASIC)、数字信号处理器(DigitalSignalProcessing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(ProgrammableLogicDevice,PLD)、现场可编程门阵列(Field-ProgrammableGateArray,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文所述功能的单元来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
本实施例提供的电子设备可以是如图12中所示的电子设备,可执行如图1和图3中跨平台多数据源取数方法的所有步骤,进而实现图1和图3中跨平台多数据源取数方法的技术效果,具体请参照图1和图3相关描述,为简洁描述,在此不作赘述。
本发明实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中,存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。
当存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述在电子设备侧执行的跨平台多数据源取数方法。
所述处理器用于执行存储器中存储的跨平台多数据源取数程序,以实现以下在电子设备侧执行的跨平台多数据源取数方法的步骤:
从已接入的多个数据源中确定待查询的目标数据源;
获取对所述目标数据源的数据查询指令;
从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (11)
1.一种跨平台多数据源取数方法,其特征在于,所述方法包括:
从已接入的多个数据源中确定待查询的目标数据源;
获取对所述目标数据源的数据查询指令;
从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
2.根据权利要求1所述的方法,其特征在于,所述从已接入的多个数据源中确定待查询的目标数据源,包括:
基于可视化界面输出已接入的多个所述数据源;
将用户从多个所述数据源中选择的数据源确定为目标数据源。
3.根据权利要求1所述的方法,其特征在于,所述获取对所述目标数据源的数据查询指令,包括:
接收用户输入的原始数据查询指令;
对所述原始数据查询指令进行预设的变量加工处理,得到变量加工处理后的数据查询指令;
对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理;
对解析结果进行SQL动态组装,得到标准的对所述目标数据源的数据查询指令。
4.根据权利要求3所述的方法,其特征在于,在所述对所述变量加工处理后的数据查询指令进行SQL函数解析处理之前,所述方法还包括:
构建所述变量加工处理后的数据查询指令的SQL语法树;
根据所述SQL语法树确定所述变量加工处理后的数据查询指令是否存在敏感操作和/或语法错误;
若否,则执行所述对所述变量加工处理后的数据查询指令进行结构化查询语言SQL函数解析处理的步骤;
若是,则输出第一提示消息,所述第一提示消息用于指示所述变量加工处理后的数据查询指令存在敏感操作和/或语法错误。
5.根据权利要求1所述的方法,其特征在于,在所述获取对所述目标数据源的数据查询指令之后,所述方法还包括:
获取用户配置的字段别名;
在所述得到待查询的目标数据之后,将所述目标数据的原始字段转换为对应的字段别名。
6.根据权利要求1所述的方法,其特征在于,所述基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据,包括:
基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到所述目标数据源中,与所述数据查询指令相匹配的原始数据;
按照预设的整形规则,对所述原始数据进行整形处理,得到目标数据。
7.根据权利要求6所述的方法,其特征在于,在所述按照预设的整形规则,对所述原始数据进行整形处理之前,所述方法还包括:
确定所述原始数据是否存在异常;
若不存在,则执行所述按照预设的整形规则,对所述原始数据进行整形处理的步骤;
若存在,则调用异常处理模块对所述原始数据进行数据异常处理,并输出第二提示消息,所述第二提示消息用于提示所述原始数据存在异常。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
将多个所述数据源进行接入,所述数据源包括动态数据源或静态数据源;
在所述数据源包括动态数据源的情况下,将所述动态数据源进行接入具体包括:接收用户输入的数据源的配置信息;将已配置的数据源接入已构建的数据源库中;
在所述数据源包括静态数据源的情况下,将所述静态数据源进行接入具体包括:接收静态的数据文件;对所述数据文件进行数据解析,得到所述数据源文件对应的目标数据源;将所述目标数据源接入已构建的数据源库中。
9.一种跨平台多数据源取数装置,其特征在于,所述装置包括:
数据源确定模块,用于从已接入的多个数据源中确定待查询的目标数据源;
指令获取模块,用于获取对所述目标数据源的数据查询指令;
连接获取模块,用于从已创建的数据源连接池中获取所述目标数据源的连接,所述数据源连接池包括多个所述数据源的连接;
数据确定模块,用于基于所述目标数据源的连接对所述目标数据源执行所述数据查询指令,得到待查询的目标数据。
10.一种电子设备,其特征在于,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的跨平台多数据源取数程序,以实现权利要求1~8中任一项所述的跨平台多数据源取数方法。
11.一种存储介质,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1~8中任一项所述的跨平台多数据源取数方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210007105.4A CN114416774A (zh) | 2022-01-05 | 2022-01-05 | 跨平台多数据源取数方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210007105.4A CN114416774A (zh) | 2022-01-05 | 2022-01-05 | 跨平台多数据源取数方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114416774A true CN114416774A (zh) | 2022-04-29 |
Family
ID=81271750
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210007105.4A Pending CN114416774A (zh) | 2022-01-05 | 2022-01-05 | 跨平台多数据源取数方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114416774A (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107615277A (zh) * | 2015-03-26 | 2018-01-19 | 卡斯维尔公司 | 用于查询数据源的系统和方法 |
CN110059106A (zh) * | 2019-03-18 | 2019-07-26 | 中科恒运股份有限公司 | 可视化数据查询方法及系统 |
CN110633292A (zh) * | 2019-09-19 | 2019-12-31 | 上海依图网络科技有限公司 | 一种异构数据库的查询方法、装置、介质、设备及系统 |
CN110716960A (zh) * | 2019-10-22 | 2020-01-21 | 北京锐安科技有限公司 | 一种数据库查询方法、装置、设备及存储介质 |
CN111259039A (zh) * | 2020-02-12 | 2020-06-09 | 平安科技(深圳)有限公司 | 数据库操作方法、装置、设备和计算机可读存储介质 |
CN112269799A (zh) * | 2020-11-09 | 2021-01-26 | 南京领行科技股份有限公司 | 一种数据查询方法、装置、设备和介质 |
CN112380180A (zh) * | 2020-11-17 | 2021-02-19 | 平安普惠企业管理有限公司 | 数据同步处理方法、装置、设备及存储介质 |
CN112860749A (zh) * | 2021-03-05 | 2021-05-28 | 中国农业银行股份有限公司广州分行 | 数据处理方法、装置、计算机设备和存储介质 |
CN113672781A (zh) * | 2021-08-20 | 2021-11-19 | 平安国际智慧城市科技股份有限公司 | 数据查询方法、装置、电子设备及存储介质 |
-
2022
- 2022-01-05 CN CN202210007105.4A patent/CN114416774A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107615277A (zh) * | 2015-03-26 | 2018-01-19 | 卡斯维尔公司 | 用于查询数据源的系统和方法 |
CN110059106A (zh) * | 2019-03-18 | 2019-07-26 | 中科恒运股份有限公司 | 可视化数据查询方法及系统 |
CN110633292A (zh) * | 2019-09-19 | 2019-12-31 | 上海依图网络科技有限公司 | 一种异构数据库的查询方法、装置、介质、设备及系统 |
CN110716960A (zh) * | 2019-10-22 | 2020-01-21 | 北京锐安科技有限公司 | 一种数据库查询方法、装置、设备及存储介质 |
CN111259039A (zh) * | 2020-02-12 | 2020-06-09 | 平安科技(深圳)有限公司 | 数据库操作方法、装置、设备和计算机可读存储介质 |
CN112269799A (zh) * | 2020-11-09 | 2021-01-26 | 南京领行科技股份有限公司 | 一种数据查询方法、装置、设备和介质 |
CN112380180A (zh) * | 2020-11-17 | 2021-02-19 | 平安普惠企业管理有限公司 | 数据同步处理方法、装置、设备及存储介质 |
CN112860749A (zh) * | 2021-03-05 | 2021-05-28 | 中国农业银行股份有限公司广州分行 | 数据处理方法、装置、计算机设备和存储介质 |
CN113672781A (zh) * | 2021-08-20 | 2021-11-19 | 平安国际智慧城市科技股份有限公司 | 数据查询方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6916403B2 (ja) | データへの論理的妥当性検査規則の指定および適用 | |
CN107368593B (zh) | 数据导入方法、装置及服务器 | |
US9104720B2 (en) | Generation of technical description of report from functional description of report | |
US8615526B2 (en) | Markup language based query and file generation | |
US10210240B2 (en) | Systems and methods for code parsing and lineage detection | |
CN106598612B (zh) | 一种数据库中数据表的操作方法及系统 | |
CN109491989B (zh) | 数据处理方法及装置、电子设备、存储介质 | |
US10296505B2 (en) | Framework for joining datasets | |
CN110968601A (zh) | 一种数据查询处理方法及装置 | |
CN106951231B (zh) | 一种计算机软件开发方法及装置 | |
WO2018176822A1 (zh) | 一种操作ElasticSearch的方法及装置 | |
CN113268500B (zh) | 业务处理方法、装置及电子设备 | |
CN107515866B (zh) | 一种数据操作方法、装置和系统 | |
US10762291B2 (en) | Automatic translation of spreadsheets into scripts | |
US20190004775A1 (en) | Systems and methods for code parsing and lineage detection | |
CN113297251A (zh) | 多源数据检索方法、装置、设备及存储介质 | |
CN114416774A (zh) | 跨平台多数据源取数方法、装置、电子设备及存储介质 | |
CN116227454A (zh) | 一种通用的自动化报告生成方法及系统 | |
CN116450890A (zh) | 图数据处理方法、装置、系统、电子设备及存储介质 | |
CN111008011A (zh) | 一个面向电力平台应用开发的系统构建器 | |
CN113608955B (zh) | 一种日志记录方法、装置、设备及存储介质 | |
CN115295109A (zh) | 医疗数据溯源方法及装置、存储介质、终端设备 | |
CN114817162A (zh) | 数据流向的分析方法、装置及服务器 | |
CN110750563A (zh) | 多模型数据处理方法、系统、装置、电子设备及存储介质 | |
CN111221846B (zh) | 一种sql语句的自动翻译方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220429 |
|
RJ01 | Rejection of invention patent application after publication |