CN109829017A - 一种面向大数据仓库实现存储扩展方法及系统 - Google Patents
一种面向大数据仓库实现存储扩展方法及系统 Download PDFInfo
- Publication number
- CN109829017A CN109829017A CN201811385159.4A CN201811385159A CN109829017A CN 109829017 A CN109829017 A CN 109829017A CN 201811385159 A CN201811385159 A CN 201811385159A CN 109829017 A CN109829017 A CN 109829017A
- Authority
- CN
- China
- Prior art keywords
- data
- warehouse
- adapter
- storage
- data warehouse
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本申请公开了一种面向大数据仓库实现存储扩展系统及方法所述系统包括:数据仓库;数据存储适配器,业务层根据自身需求获取相关所述数据仓库的所述数据存储适配器,所述数据存储适配器调用相应扩展点并进行相应的数据操作;数据存储SPI,用于提供统一的数据存储机制,各个所述数据仓库根据自身特点和SPI规范实现相应扩展点;配置中心,用于管理所有所述数据仓库的关键配置。与现有技术相比,本申请获得了如下好处:业务层与数据层实现了解耦;存储扩展的功能更加单一稳定;存储扩展可以独立部署和更新;实现了大数据平台的插拔式构建模式,提高了部署和开发效率;本发明适用于各种大数据平台,能够快速集成和扩展。
Description
技术领域
在传统的软件时代,企业应用的数据通常存储在ORM关系型数据库中,现有JDBC机制中能够实现对各种关系型数据库的存储操作。在如今互联网大数据时代,企业的数据存储在等非关系型的大数据仓库中,此时JDBC机制就无法应用于此类场景。本发明提供了一种方法,可应用于各种大数据框架下的数据存储开发,通过提供统一的处理机制屏蔽各种大数据存储的差异,开发者通过在设计中集成本发明,调用统一的接口就能够自动实现对各种大数据仓库的存储操作,接入方式简单且使用轻便。
背景技术
随着互联网技术和大数据技术的快速发展和普及,越来越多的企业为了提高数据存储和计算能力,将数据存储方式从传统的关系型数据库转向大数据仓库,传统的大数据开发模式是业务层根据自身需求,面向单种类型的大数据仓库进行数据存储的设计与实现,在项目初期数据仓库类型比较少的情况下,这种设计确实能满足需求并实现快速上线。
然而随着应用和需求的不断升级,企业应用的数据仓库种类越来越多,按照传统的开发模式,业务层就需要对每种大数据仓库都设计一套存储逻辑,可是实际上每种仓库的存储逻辑过程是类似的,所以这种设计模式容易导致应用中存在大量冗余的模块,与此同时,业务层和数据存储层存在强耦合关联,当存储层需要调整时需要同步修改业务层的设计。这些缺陷使得应用的开发和维护难度都非常大,应用的开发和上线周期会很长,开发效率极低,这是企业在应用的快速迭代和成本控制上必须思考和解决的问题。
综上,本发明提出了一种面向各种大数据仓库存储扩展的机制,通过封装统一数据存储API,并对现在主流的大数据仓库实现相应扩展,从而实现满足绝大多数企业的大数据应用的存储场景。
发明内容
本申请的目的在于克服上述问题或者至少部分地解决或缓解上述问题。
根据本申请的一个方面,提供了一种面向大数据仓库实现存储扩展系统,包括:数据仓库,用于存储数据信息;数据存储适配器,业务层根据自身需求获取相关所述数据仓库的所述数据存储适配器,所述数据存储适配器调用相应扩展点并进行相应的数据操作;数据存储SPI,用于提供统一的数据存储机制,各个所述数据仓库根据自身特点和SPI规范实现相应扩展点;配置中心,用于管理所有所述数据仓库的关键配置。
可选地,所述数据存储适配器包括:数据解码器,用于负责对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;数据路由器,用于通过数据类型和关键信息,匹配所述配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;仓库连接器,根据所述仓库路由信息连接指定的仓库;数据处理器,用于获取所述数据仓库连接之后,对转换后的数据进行存储和查询,并把处理结果通过适配器返回给业务调用层。
根据本申请的另一个方面,提供了一种面向大数据仓库实现存储扩展方法,包括如下步骤:S2:数据仓库持久化数据信息;S4:业务层根据自身需求获取相关数据仓库的适配器,适配器负责调用相应扩展点并进行相应的数据操作;S6:数据存储SPI提供统一的数据存储机制,各个数据仓库根据自身特点和SPI规范实现相应扩展点;S8:配置中心管理所有数据仓库的关键配置。
可选地,所属步骤S2包括:S22:对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;S24:通过数据类型和关键信息,匹配配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;S26:根据路由信息连接指定的仓库,部分数据库连接可能需要保持长连接并池化,具体需求根据业务场景在扩展点中自行实现即可;S28:获取数据仓库连接之后,对转换后的数据进行存储和查询等操作,并把处理结果通过适配器返回给业务调用层。
可选地,所述步骤S6为:业务层进行数据存储时,根据数据解析的扩展点转换成相应的数据对象,本发明提供了一种特定规则的二进制数据序列化协议,数据对象根据该协议序列化成对应的二进制数组之后存入到数据仓库中;当查询的时候,从数据仓库中读取到序列化的数据后进行反序列化,生成数据解析扩展点能识别的数据对象,数据解析扩展点转换成业务调用层需要的数据格式并返回给业务调用层。
可选地,为了屏蔽各种数据仓库查询条件的差异性,设置了一个统一的查询接口,各个数据仓库根据自身特点实现相关扩展点;业务层在执行数据查询的时候,指定查询条件并传递给数据处理适配器,适配器根据查询类型获得相应的查询扩展点,同时扩展点会根据查询条件组装成相应数据仓库能够识别的查询语句,连接扩展点根据查询条件,获取数据仓库路由并建立相应数据仓库的连接,获取连接之后执行查询语句,适配器获取数据库返回的结果集并进行数据解析,解析完成之后会返回业务层能够标识的数据格式。
可选地,所述步骤S24为:当进行数据操作的时候,首先从缓存中读取路由规则,如果缓存中不存在相关规则就从配置中心拉取并更新到缓存中;路由规则记录的是当前规则下数据的路由方向,但是并不记录通用的配置信息,所以需要从配置中心拉取相关的通用信息,根据路由规则,从待处理数据中取出关键字段匹配,匹配之后把新的路由信息和通用的配置信息进行合并,这样就能实现自动根据数据信息进行路由控制。
根据本申请的另一个方面,提供了一种计算机设备,包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述的方法。
根据本申请的另一个方面,提供了一种计算机可读存储介质,优选为非易失性可读存储介质,其内存储有计算机程序,所述计算机程序在由处理器执行时实现上述任一项所述的方法。
根据本申请的另一个方面,提供了一种计算机程序产品,包括计算机可读代码,当所述计算机可读代码由计算机设备执行时,导致所述计算机设备执行上述任一项所述的方法。
与现有技术相比,本申请通过SPI机制,实现大数据仓库存储的扩展,具有如下优点:
1)业务层与数据层实现了解耦
2)存储扩展的功能更加单一稳定
3)存储扩展可以独立部署和更新
4)实现了大数据平台的插拔式构建模式,提高了部署和开发效率
5)本发明适用于各种大数据平台,能够快速集成和扩展
根据下文结合附图对本申请的具体实施例的详细描述,本领域技术人员将会更加明了本申请的上述以及其他目的、优点和特征。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本申请的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解,这些附图未必是按比例绘制的。附图中:
图1是本申请一实施例中面向大数据仓库实现存储扩展系统的系统示意图;
图2是本申请一实施例中面向大数据仓库实现存储扩展系统的系统示意图;
图3是本申请一实施例中面向大数据仓库实现存储扩展方法的流程示意图;
图4是本申请一实施例中面向大数据仓库实现存储扩展方法的流程示意图;
图5是本申请一实施例中面向大数据仓库实现存储扩展方法的流程示意图;
图6是本申请一实施例中计算机设备的示意图;
图7是本申请一实施例中计算机可读存储介质的示意图。
具体实施方式
请参照图1,本申请一实施例中,一种面向大数据仓库实现存储扩展系统,包括:数据仓库,用于存储数据信息;数据存储适配器,业务层根据自身需求获取相关所述数据仓库的所述数据存储适配器,所述数据存储适配器调用相应扩展点并进行相应的数据操作;数据存储SPI,用于提供统一的数据存储机制,各个所述数据仓库根据自身特点和SPI规范实现相应扩展点;配置中心,用于管理所有所述数据仓库的关键配置。
请参照图2,在本申请一实施例中,所述数据存储适配器包括:数据解码器,用于负责对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;数据路由器,用于通过数据类型和关键信息,匹配所述配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;仓库连接器,根据所述仓库路由信息连接指定的仓库;数据处理器,用于获取所述数据仓库连接之后,对转换后的数据进行存储和查询,并把处理结果通过适配器返回给业务调用层。
请参照图1,本申请一实施例中,面向大数据仓库实现存储扩展方法,包括如下步骤:S2:数据仓库持久化数据信息;S4:业务层根据自身需求获取相关数据仓库的适配器,适配器负责调用相应扩展点并进行相应的数据操作;S6:数据存储SPI提供统一的数据存储机制,各个数据仓库根据自身特点和SPI规范实现相应扩展点;S8:配置中心管理所有数据仓库的关键配置。
请参照图2,在本申请一实施例中,所属步骤S2包括:S22:对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;S24:通过数据类型和关键信息,匹配配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;S26:根据路由信息连接指定的仓库,部分数据库连接可能需要保持长连接并池化,具体需求根据业务场景在扩展点中自行实现即可;S28:获取数据仓库连接之后,对转换后的数据进行存储和查询等操作,并把处理结果通过适配器返回给业务调用层。
请参照图3,在本申请一实施例中,所述步骤S6为:业务层进行数据存储时,根据数据解析的扩展点转换成相应的数据对象,本发明提供了一种特定规则的二进制数据序列化协议,数据对象根据该协议序列化成对应的二进制数组之后存入到数据仓库中;当查询的时候,从数据仓库中读取到序列化的数据后进行反序列化,生成数据解析扩展点能识别的数据对象,数据解析扩展点转换成业务调用层需要的数据格式并返回给业务调用层。
请参照图4,在本申请一实施例中,为了屏蔽各种数据仓库查询条件的差异性,设置了一个统一的查询接口,各个数据仓库根据自身特点实现相关扩展点;业务层在执行数据查询的时候,指定查询条件并传递给数据处理适配器,适配器根据查询类型获得相应的查询扩展点,同时扩展点会根据查询条件组装成相应数据仓库能够识别的查询语句,连接扩展点根据查询条件,获取数据仓库路由并建立相应数据仓库的连接,获取连接之后执行查询语句,适配器获取数据库返回的结果集并进行数据解析,解析完成之后会返回业务层能够标识的数据格式。
请参照图5,在本申请一实施例中,所述步骤S24为:当进行数据操作的时候,首先从缓存中读取路由规则,如果缓存中不存在相关规则就从配置中心拉取并更新到缓存中;路由规则记录的是当前规则下数据的路由方向,但是并不记录通用的配置信息,所以需要从配置中心拉取相关的通用信息,根据路由规则,从待处理数据中取出关键字段匹配,匹配之后把新的路由信息和通用的配置信息进行合并,这样就能实现自动根据数据信息进行路由控制。
本发明旨在提供一种通用的机制实现对各种大数据仓库的存储操作,但是目前大数据仓库类型非常多,使用的业务场景也比较复杂,而且每种仓库的使用方式和数据结构都有自身的特点,彼此之间的差异性很大。
为了实现本发明,在设计时需要解决如下关键技术难题:
难点一:数据存储时不同的仓库规定的数据结构是不同的,如何能够让应用的元数据能够适配多种数据仓库。
大数据应用中存在这样一种非常普遍的场景:将应用元数据从消息队列中取出之后,需要把完整信息存入分布式数据库中,同时一些关键字段可能要存入到索引类数据库中方便快速查询和聚合统计。显然这些数据仓库要求的格式是不同的,设计的时候需要去屏蔽这种差异,保证业务层进行数据存储时只需要传入元数据即可,而不需要去关心底层仓库要求的数据存储格式是什么。
难点二:数据查询时不同的仓库的查询语句是不同的,如何实现前台的查询条件与数据仓库的查询语句隔离
数据存储后需要支持多种维度的查询,不同的数据仓库要求的查询语句和格式是不同的,前端进行数据查询时只需要传入相关查询条件(比如关键字段、运行符以及分页标识等),业务层进行了基本的数据校验和仓库类型匹配之后调用数据存储层的查询接口即可,而不需要手动适配底层仓库的查询语句。
难点三:在一些复杂的场景下,某些特定数据需要存储在指定的数据仓库中,如何满足这种差异化需求。
在一些复杂的场景下,应用需要把特定的数据(比如一些重要租户的数据)存储在指定数据仓库,而其他的一些数据存储在通用的仓库中。业务层需要屏蔽这种数据差异,当业务层进行数据存储和查询时并不需要知道数据真正存储在哪个仓库中,只需要调用存储层的相应接口即可。
本发明基于SPI模式设计,提供通用的大数据仓库操作接口,应用根据自身需求实现相关扩展即可,每个扩展彼此独立运行,互不影响和依赖。
如图1所示,整体架构包含如下4个核心模块:
数据存储适配器:业务层根据自身需求获取相关数据仓库的适配器,适配器负责调用相应扩展点并进行相应的数据操作。
数据存储SPI:提供统一的数据存储机制,各个数据仓库根据自身特点和SPI规范实现相应扩展点。
配置中心:管理所有数据仓库的关键配置,包括集群信息、登录账号、常用配置等。
数据仓库:负责持久化需要存储的数据信息
数据存储SPI中数据流转的整体过程:
如图2所示,数据存储适配器主要包含如下4个功能模块:
数据解码器:负责对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式。
数据路由器:通过数据类型和关键信息,匹配配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息。
仓库连接器:根据路由信息连接指定的仓库,部分数据库连接可能需要保持长连接并池化,具体需求根据业务场景在扩展点中自行实现即可。
数据处理器:获取数据仓库连接之后,对转换后的数据进行存储和查询等操作,并把处理结果通过适配器返回给业务调用层。
问题一的解决方案:定义数据序列化协议和转换接口,转换成仓库要求的格式;
如图3所示,业务层进行数据存储时,根据数据解析的扩展点转换成相应的数据对象,本发明提供了一种特定规则的二进制数据序列化协议,数据对象根据该协议序列化成对应的二进制数组之后存入到数据仓库中。当查询的时候,从数据仓库中读取到序列化的数据后进行反序列化,生成数据解析扩展点能识别的数据对象,数据解析扩展点转换成业务调用层需要的数据格式并返回给业务调用层。
通过上述模式,能够实现语言的数据序列化远程传输,同时对业务调用层屏蔽了底层数据仓库要求的数据格式,扩展点只需要根据数据仓库的特点实现数据解析和序列化方式即可。
问题二的解决方案:封装统一查询条件生成接口,根据条件获取查询扩展点;
如图4所示,为了屏蔽各种数据仓库查询条件的差异性,设置了一个统一的查询接口,各个数据仓库根据自身特点实现相关扩展点。业务层在执行数据查询的时候,指定查询条件并传递给数据处理适配器,适配器根据查询类型获得相应的查询扩展点,同时扩展点会根据查询条件组装成相应数据仓库能够识别的查询语句,连接扩展点根据查询条件,获取数据仓库路由并建立相应数据仓库的连接,获取连接之后执行查询语句,适配器获取数据库返回的结果集并进行数据解析,解析完成之后会返回业务层能够标识的数据格式。
通过上述步骤,业务调用层就能实现自动查询而不需要关注底层数据需要的查询语句是什么样式,也不再需要关心数据正在存入哪些仓库中,只需要将相关查询条件交给数据存储适配器即可,当业务调用层修改或者扩展查询条件范围时,适配器能自动识别并构造出相应的查询语句而不需要做任何调整;与此同时,如果底层数据仓库发生了调整或者升级,只需要更新配置中心相应的配置信息就可以,业务调用层也不需要做任何调整,这样的设计真正实现了业务查询和底层仓库的功能解耦。
问题三的解决方案:配置中心管理路由规则,根据数据信息进行自动路由控制;
如图5所示,通过设置统一的配置中心管理数据流转的路由规则以及全局的通用信息,本发明中使用的配置中心是Apollo配置中心,实际生产中对配置中心类型并无要求。
当进行数据操作的时候,为了提高路由效率,首先从缓存中读取路由规则,如果缓存中不存在相关规则就从配置中心拉取并更新到缓存中。路由规则记录的是当前规则下数据的路由方向,但是并不记录通用的配置信息(比如超时时间、重试次数等),所以需要从配置中心拉取相关的通用信息,根据路由规则,从待处理数据中取出关键字段,比如租户信息、数据类型等匹配,匹配之后把新的路由信息和通用的配置信息进行合并,这样就能实现自动根据数据信息进行路由控制。
与现有技术相比,本申请通过SPI机制,实现大数据仓库存储的扩展,获得了如下好处:
1)业务层与数据层实现了解耦
2)存储扩展的功能更加单一稳定
3)存储扩展可以独立部署和更新
4)实现了大数据平台的插拔式构建模式,提高了部署和开发效率
5)本发明适用于各种大数据平台,能够快速集成和扩展
本申请还提供了一种计算机设备(请参照图6),包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上述任一项所述的方法。
本申请还提供了一种计算机可读存储介质(请参照图7),优选为非易失性可读存储介质,其内存储有计算机程序,其特征在于,所述计算机程序在由处理器执行时实现上述任意一项所述的方法。
本申请还提供了一种计算机程序产品,包括计算机可读代码,其特征在于,当所述计算机可读代码由计算机设备执行时,导致所述计算机设备执行上述任一项所述的方法。
本申请中的方法的步骤虽然是按照数字顺序编号,但并不意味着各个步骤的执行顺序一定要按照数字的顺序进行。有些步骤之间可以是并列执行的关系,甚至可以颠倒顺序执行,都属于本申请所要求的保护的范围内。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、获取其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令处理器完成,所述的程序可以存储于计算机可读存储介质中,所述存储介质是非短暂性(英文:non-transitory)介质,例如随机存取存储器,只读存储器,快闪存储器,硬盘,固态硬盘,磁带(英文:magnetic tape),软盘(英文:floppy disk),光盘(英文:optical disc)及其任意组合。
以上所述,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。
Claims (10)
1.一种面向大数据仓库实现存储扩展系统,其特征在于,包括:
数据仓库,用于存储数据信息;
数据存储适配器,业务层根据自身需求获取相关所述数据仓库的所述数据存储适配器,所述数据存储适配器调用相应扩展点并进行相应的数据操作;
数据存储SPI,用于提供统一的数据存储机制,各个所述数据仓库根据自身特点和SPI规范实现相应扩展点;
配置中心,用于管理所有所述数据仓库的关键配置。
2.根据权利要求1所述的面向大数据仓库实现存储扩展系统,其特征在于,所述数据存储适配器包括:
数据解码器,用于负责对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;
数据路由器,用于通过数据类型和关键信息,匹配所述配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;
仓库连接器,根据所述仓库路由信息连接指定的仓库;
数据处理器,用于获取所述数据仓库连接之后,对转换后的数据进行存储和查询,并把处理结果通过适配器返回给业务调用层。
3.一种面向大数据仓库实现存储扩展方法,其特征在于,包括如下步骤:
S2:数据仓库持久化数据信息;
S4:业务层根据自身需求获取相关数据仓库的适配器,适配器负责调用相应扩展点并进行相应的数据操作;
S6:数据存储SPI提供统一的数据存储机制,各个数据仓库根据自身特点和SPI规范实现相应扩展点;
S8:配置中心管理所有数据仓库的关键配置。
4.根据权利要求3所述的面向大数据仓库实现存储扩展系统,其特征在于,所属步骤S2包括:
S22:对源数据进行基本的校验,验证通过后解析并转换成相关仓库要求的数据格式;
S24:通过数据类型和关键信息,匹配配置中心的路由规则,根据匹配结果确定数据需要流向的实际仓库,生成相应的仓库路由信息;
S26:根据路由信息连接指定的仓库,部分数据库连接可能需要保持长连接并池化,具体需求根据业务场景在扩展点中自行实现即可;
S28:获取数据仓库连接之后,对转换后的数据进行存储和查询等操作,并把处理结果通过适配器返回给业务调用层。
5.根据权利要求4所述的面向大数据仓库实现存储扩展系统,其特征在于,所述步骤S6为:业务层进行数据存储时,根据数据解析的扩展点转换成相应的数据对象,本发明提供了一种特定规则的二进制数据序列化协议,数据对象根据该协议序列化成对应的二进制数组之后存入到数据仓库中;当查询的时候,从数据仓库中读取到序列化的数据后进行反序列化,生成数据解析扩展点能识别的数据对象,数据解析扩展点转换成业务调用层需要的数据格式并返回给业务调用层。
6.根据权利要求5所述的面向大数据仓库实现存储扩展系统,其特征在于,为了屏蔽各种数据仓库查询条件的差异性,设置了一个统一的查询接口,各个数据仓库根据自身特点实现相关扩展点;业务层在执行数据查询的时候,指定查询条件并传递给数据处理适配器,适配器根据查询类型获得相应的查询扩展点,同时扩展点会根据查询条件组装成相应数据仓库能够识别的查询语句,连接扩展点根据查询条件,获取数据仓库路由并建立相应数据仓库的连接,获取连接之后执行查询语句,适配器获取数据库返回的结果集并进行数据解析,解析完成之后会返回业务层能够标识的数据格式。
7.根据权利要求6所述的面向大数据仓库实现存储扩展系统,其特征在于,所述步骤S24为:当进行数据操作的时候,首先从缓存中读取路由规则,如果缓存中不存在相关规则就从配置中心拉取并更新到缓存中;路由规则记录的是当前规则下数据的路由方向,但是并不记录通用的配置信息,所以需要从配置中心拉取相关的通用信息,根据路由规则,从待处理数据中取出关键字段匹配,匹配之后把新的路由信息和通用的配置信息进行合并,这样就能实现自动根据数据信息进行路由控制。
8.一种计算机设备,包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求3-7中任一项所述的方法。
9.一种计算机可读存储介质,优选为非易失性可读存储介质,其内存储有计算机程序,其特征在于,所述计算机程序在由处理器执行时实现如权利要求3-7中任一项所述的方法。
10.一种计算机程序产品,包括计算机可读代码,其特征在于,当所述计算机可读代码由计算机设备执行时,导致所述计算机设备执行权利要求3-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811385159.4A CN109829017A (zh) | 2018-11-20 | 2018-11-20 | 一种面向大数据仓库实现存储扩展方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811385159.4A CN109829017A (zh) | 2018-11-20 | 2018-11-20 | 一种面向大数据仓库实现存储扩展方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109829017A true CN109829017A (zh) | 2019-05-31 |
Family
ID=66859728
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811385159.4A Pending CN109829017A (zh) | 2018-11-20 | 2018-11-20 | 一种面向大数据仓库实现存储扩展方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109829017A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112099767A (zh) * | 2019-06-17 | 2020-12-18 | 北京车和家信息技术有限公司 | 一种应用程序的开发方法、服务器及计算机可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101400100A (zh) * | 2008-10-13 | 2009-04-01 | 北京交通大学 | 一种移动组播路由优化方法 |
CN103136335A (zh) * | 2013-01-31 | 2013-06-05 | 北京千分点信息科技有限公司 | 一种基于数据平台的数据控制方法 |
US20130326616A1 (en) * | 2011-10-17 | 2013-12-05 | New Mexico Technical Research Foundation | Internet Monitoring and Alerting System |
CN108416568A (zh) * | 2018-02-09 | 2018-08-17 | 深圳太极云软技术股份有限公司 | 政务业务数据处理方法、装置及终端设备 |
-
2018
- 2018-11-20 CN CN201811385159.4A patent/CN109829017A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101400100A (zh) * | 2008-10-13 | 2009-04-01 | 北京交通大学 | 一种移动组播路由优化方法 |
US20130326616A1 (en) * | 2011-10-17 | 2013-12-05 | New Mexico Technical Research Foundation | Internet Monitoring and Alerting System |
CN103136335A (zh) * | 2013-01-31 | 2013-06-05 | 北京千分点信息科技有限公司 | 一种基于数据平台的数据控制方法 |
CN108416568A (zh) * | 2018-02-09 | 2018-08-17 | 深圳太极云软技术股份有限公司 | 政务业务数据处理方法、装置及终端设备 |
Non-Patent Citations (1)
Title |
---|
刘艳辉等: "数据交换平台的分布式应用研究", 《计算机工程与设计》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112099767A (zh) * | 2019-06-17 | 2020-12-18 | 北京车和家信息技术有限公司 | 一种应用程序的开发方法、服务器及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11294739B2 (en) | Application interface governance platform to harmonize, validate, and replicate data-driven definitions to execute application interface functionality | |
CN105677875B (zh) | 一种基于标准数据元素统一约束的可视化建模平台 | |
US11418409B2 (en) | System-on-chip (SoC) assembly, configurable IP generation and IP integration utilizing distributed computer systems | |
US11720418B2 (en) | Distillation of various application interface data structures distributed over distinctive repositories to form a data source of consolidated application interface data components | |
US8555248B2 (en) | Business object change management using release status codes | |
US9870202B2 (en) | Business object model layer interface | |
CN110032575A (zh) | 数据查询方法、装置、设备和存储介质 | |
US10002126B2 (en) | Business intelligence data models with concept identification using language-specific clues | |
US20080320019A1 (en) | Pluggable merge patterns for data access services | |
US20110022583A1 (en) | SQL Queries For Simple Network Management Protocol Management Information Base Tables | |
WO2010127551A1 (zh) | 用于对网络服务通信进行适配的方法、适配器和适配器系统 | |
CN109829017A (zh) | 一种面向大数据仓库实现存储扩展方法及系统 | |
US20080059577A1 (en) | Scalable logical model for edi and system and method for creating, mapping and parsing edi messages | |
CN112000343B (zh) | 使用Devops在Kubernetes中部署多版本服务的方法及系统 | |
US10747941B2 (en) | Tag mapping process and pluggable framework for generating algorithm ensemble | |
US11403313B2 (en) | Dynamic visualization of application and infrastructure components with layers | |
US20120136881A1 (en) | Exchanging data using data transformation | |
US20230359667A1 (en) | Infrastructure for queryable supergraph subset representations | |
CN104598216B (zh) | 用于实现业务智能报告的虚拟数据写回的方法和系统 | |
US7752229B2 (en) | Real-time identification of sub-assemblies containing nested parts | |
Srivastava | Learning Elasticsearch 7. x: Index, Analyze, Search and Aggregate Your Data Using Elasticsearch (English Edition) | |
US7797149B2 (en) | Integrating related data from incompatible systems for enhanced business functionality | |
Wang et al. | A multi‐version CIM‐based database platform for smart grid | |
CN113343036B (zh) | 基于关键拓扑结构分析的数据血缘关系解析方法和系统 | |
US20090285224A1 (en) | Service adaptation machine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190531 |