CN117648212B - 基于rpc的数据库调用方法、装置、设备及存储介质 - Google Patents
基于rpc的数据库调用方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117648212B CN117648212B CN202410119782.4A CN202410119782A CN117648212B CN 117648212 B CN117648212 B CN 117648212B CN 202410119782 A CN202410119782 A CN 202410119782A CN 117648212 B CN117648212 B CN 117648212B
- Authority
- CN
- China
- Prior art keywords
- database
- request
- rpc
- target
- calling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 230000004044 response Effects 0.000 claims abstract description 42
- 238000012545 processing Methods 0.000 claims description 53
- 230000001419 dependent effect Effects 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 17
- 238000007726 management method Methods 0.000 claims description 14
- 230000002159 abnormal effect Effects 0.000 claims description 10
- 230000002776 aggregation Effects 0.000 claims description 5
- 238000004220 aggregation Methods 0.000 claims description 5
- 238000012550 audit Methods 0.000 claims description 5
- 238000011161 development Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 230000004069 differentiation Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了一种基于RPC的数据库调用方法、装置、设备及存储介质。方法应用于数据库管理系统中的数据库代理设备,方法包括:接收调用终端发送的RPC请求;对RPC请求进行解析,提取RPC请求中的目标请求数据;根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与目标RPC接口对应的目标调用规则;根据目标调用规则以及目标请求数据生成RPC请求对应的SQL请求;基于SQL请求调用目标数据库;获取目标数据库基于SQL请求返回的响应数据,并将响应数据发送至调用终端。通过本申请实施例,数据库代理设备可以将调用者的RPC请求自动转换成SQL请求,降低了调用者调用数据库的复杂度。
Description
技术领域
本申请涉及互联网技术领域,尤其涉及一种基于RPC的数据库调用方法、装置、设备及存储介质。
背景技术
在信息化社会,充分有效地管理和利用各类信息资源,是进行科学研究和决策管理的前提条件。数据库技术是管理信息系统、办公自动化系统、决策支持系统等各类信息系统的核心部分,是进行科学研究和决策管理的重要技术手段。
然而,在现有技术中,当调用者需要对数据库进行调用时,调用者需要在调用终端手动输入结构化查询语言 (Structured Query Language,SQL)代码进行数据库的访问,调用数据库的操作比较复杂,数据库的调用效率低。
发明内容
本申请实施例提供了一种基于RPC的数据库调用方法、装置、设备及存储介质,可以降低调用者调用数据库的复杂度,提高对数据库调用的效率。
第一方面,本申请实施例提供了一种基于RPC的数据库调用方法,所述方法应用于数据库管理系统中的数据库代理设备,所述方法包括:
接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;
根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;
根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;
基于所述SQL请求调用目标数据库;
获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
第二方面,本申请实施例还提供了一种数据库代理装置,所述数据库代理装置部署在数据库管理系统中的数据库代理设备中,所述数据库代理装置包括:
收发单元,用于接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
处理单元,用于对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;基于所述SQL请求调用目标数据库;
所述收发单元,还用于获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
第三方面,本申请实施例还提供了一种数据库代理设备,其包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现上述方法。
第四方面,本申请实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时可实现上述方法。
本申请实施例提供了一种基于RPC的数据库调用方法、装置、设备及存储介质。其中,所述方法应用于数据库管理系统中的数据库代理设备,所述方法包括:接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;基于所述SQL请求调用目标数据库;获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。本申请实施例中,调用者可以通过调用目标RPC接口,向数据库代理设备发送RPC请求,由数据库代理设备将该RPC请求转换成SQL请求进行数据库的调用,无需手动输入代码进行数据库的访问,从而降低调用者调用数据库的复杂度,提高对数据库调用的效率。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的基于RPC的数据库调用方法的应用场景示意图;
图2为本申请实施例提供的基于RPC的数据库调用方法的流程示意图;
图3为本申请实施例提供的数据库代理设备的一个结构示意图;
图4为本申请实施例提供的数据库代理装置的示意性框图;
图5为本申请实施例提供的数据库代理设备的示意性框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和 “包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/ 或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
本申请实施例提供了一种基于远程过程调用协议(Remote Procedure CallProtocol,RPC)的数据库调用方法、装置、设备及存储介质。
该基于RPC的数据库调用方法的执行主体可以是本申请实施例提供的数据库代理设备,该数据库代理设备中集成了该数据库代理装置,其中,该数据库代理装置可以采用硬件或者软件的方式实现,该数据库代理设备可以为终端或服务器。
请参阅图1,图1为本申请实施例提供的基于RPC的数据库调用方法的应用场景示意图。该基于RPC的数据库调用方法应用于图1中的数据库管理系统中的数据库代理设备10中,数据库管理系统还包括调用终端20以及数据库30。
图2是本申请实施例提供的基于RPC的数据库调用方法的流程示意图。如图2所示,该方法包括以下步骤S110-S160。
S110、接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求。
本实施例中,调用者可以通过调用终端访问数据库代理设备,数据库代理设备中部署了多个RPC接口,当调用终端与数据库代理设备建立了RPC连接之后,数据库代理设备向调用终端暴露多个RPC接口,调用者可以通过该调用终端调用想要调用的RPC接口,例如调用目标PRC端口。
在调用时,还需要基于该目标PRC端口的要求填入目标请求数据,其中,该目标请求数据根据具体的接口类型,可以为所增加的数据、所删除的数据、需要查询的数据或修改的数据,在一些实施例中,该目标请求数据还包括调用者信息,例如调用者标识。
在一些实施例中,所述接收调用终端发送的RPC请求之后,所述方法还包括:
检测所述数据库代理设备对所述目标数据库的操作状态;若所述操作状态为异常状态,则将所述RPC请求存入消息队列;当所述操作状态从所述异常状态转变为正常状态时,从所述消息队列中提取所述RPC请求,并基于所述RPC请求调用所述目标数据库;
具体地,在一些实施例中,该消息队列为kafka或者rabbitmq,数据库代理设备操作数据库异常时(例如数据库故障),会将接收到的RPC请求数据存入消息队列,再从消息队列中提取该RPC请求,基于该RPC请求执行数据库操作。
此时,所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据,包括:若所述操作状态为正常状态,则对所述RPC请求进行解析,提取所述目标请求数据。
其中,调用终端通过RPC协议连接到数据库代理设备后,需要进行认证,并保存连接的会话,RPC连接断连后会话失效,数据库代理服务集中管理连接中的会话。
本实施例中的数据库代理设备可以根据配置连接数据库、KV键值数据库、消息队列等等数据存储服务,数据库代理设备通过连接池连接配置连接数据库、KV键值数据库以及消息队列等。
连接池是对代理服务进行连接的一个大的池子,当业务服务需要使用时可以在连接池中取出一个连接,使用过后将连接还给连接池。
S120、对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据。
本实施例中,当调用者通过目标RPC接口向数据库代理设备发送RPC请求时,数据库代理设备接收到该RPC请求之后,首先会对该RPC请求进行解析,具体地,对该RPC请求进行反序列化处理,提取目标请求数据。
具体地,RPC请求结构包含SELECT、WHERE、INSERT、UPDATE、DELETE、ORDER BY等等数据结构。
在一些常规的现有数据库代理中,是将获取到的SQL语句进行字符串解析,解析后再通过分库分表等逻辑,组装成新的SQL语句路由到目标数据库,而本实施例中的RPC是结构化的数据协议,数据库代理设备对RPC的解析效率比对SQL解析效率高,故数据库代理设备将RPC请求转换为SQL请求的效率也高,从而提高了调用者调用数据库的效率。
其中,常用的RPC协议有GRPC、BRPC、Thrift等等,比如GRPC定义RPC请求中目标请求数据的结构为:
message dbrequest{
string select = 1;
string where = 2;
string insert = 3;
string update = 4;
string orderby = 5;
}。
进一步地,为了使得数据库代理服务对不同业务人员进行统一管理,可以根据不同业务需求进行定制化开发,数据库的权限可以收拢到代理服务,数据库库表由代理服务开发人员统一设计、统一配置,在大规模的数据库设计中可以复用库表数据,避免数据库库表重复设计。
此时,所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据之后,所述方法还包括:
根据所述调用者标识以及预设的调用者标识与数据库权限的对应关系,从多个数据库中确定所述目标数据库,所述目标数据库的数据类型为关系型数据库或KV键值数据库。
通过上述权限管理,数据库代理设备可以区分业务线可以访问那些数据库,不能访问那些数据库,可以对数据库操作进行审计、告警。
S130、根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则。
本实施例中,数据库代理设备内预先设置有RPC接口与调用规则的对应关系,不同的调用者均可以通过该数据库代理设备进行数据库的调用。
可见,本实施例将数据库的调用均收敛到数据库代理设备,不同的开发人员统一数据库调用开发流程,在数据库代理设备中快速批量生成数据库调用RPC接口。并将数据的分库分表规则、缓存规则、连表规则以及事务调用规则等收敛到该数据库代理设备,将数据库的调用开发工作高度集成,避免数据库调用开发被不同部门重复开发的问题,降低调用者的开发成本。
此外,本实施例基于RPC协议(如GRPC、BRPC、Thrift)生成不同调用规则分别对应的RPC接口,RPC协议会自动生成不同语言的接口,具体地,RPC协议具有对应的RPC接口生成流程,通过数据库库表结构及其他配置(分库分表、数据库连表规则、事务调用方式等)生成RPC接口,对于不同语言的开发者,可生成的对应语言的RPC调用接口代码。在进行RPC接口的开发时,不需要针对不同的语言进行针对性开发,从而提高RPC接口的开发效率。
其中,所述目标调用规则包括分库分表规则、数据库缓存一致性规则、连表查询规则、聚合查询规则、事务提交规则、二阶段事务提交规则、三阶段事务提交规则、分布式事务提交规则、审计规则、限流规则以及告警规则中的至少一种规则。
S140、根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求。
本实施例中,当调用者执行RPC请求时,生成相应的SQL语句包括“SELECT”、“INSERT”、“UPDATE”或“DELETE”等执行数据库请求。
具体地,调用者调用目标RPC接口向数据库代理设备发送RPC请求,数据库代理设备将该数据库代理设备进行反序列化并通过对应的目标调用规则生成相对应的SQL语句。
S150、基于所述SQL请求调用目标数据库。
在一些实施例中,所述目标数据库包括多个子数据库;为了对第一数据库以及第二数据库进行一致性处理,所述基于所述SQL请求调用目标数据库,包括:
分别向各所述子数据库的依赖服务发送所述SQL请求的执行请求;若接收到各所述依赖服务分别返回的同意响应,则分别向各所述依赖服务发送所述SQL请求的提交请求,以使得各所述依赖服务基于所述SQL请求的提交请求完成对应子数据库的调用。
其中,该依赖服务用于对对应的子数据库进行读写操作。
在一些实施例中,数据库代理设备中还包括多个数据库代理,该RPC请求需要两个数据库代理才能完成,两个数据库代理之间可以通过消息队列进行连接,一个数据库代理A完成流程的一部分后,通过消息队列传输一个消息至另一个数据库代理B,由数据库代理B完成剩余流程。
可见,数据库代理设备通过消息队列完成分布式一致性数据库同步,通过消息队列也可完成数据库请求异常时的补偿操作,这样将调用者与数据库操作完全分离,已达到系统设计上的异步、解耦效果。
S160、获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
所述获取所述目标数据库基于所述SQL请求返回的响应数据之后,且在所述将所述响应数据发送至所述调用终端之前,所述方法还包括:
根据预设的RPC接口与数据处理规则的对应关系,从预设的多个数据处理规则中确定与所述目标RPC接口对应的目标数据处理规则;根据所述目标数据处理规则对所述响应数据进行处理,得到处理后数据,并将所述处理后数据作为所述响应数据。
其中,该目标数据处理规则可以为数据聚合处理(“SUM”、“AVERAGE”、“COUNT”)、排序处理和/或去重处理等等。
对于不同的数据处理规则,代码生成器预先需要生成相对应的方法,对于分库分表的数据返回结果,通过数据库代理设备进行处理,用以完成对应的数据处理操作(如聚合)等等。对于调用者来说,并不关心数据库代理设备如何进行数据处理的。
具体地,本实施例需要对响应数据进行序列化后再返回给调用终端。
需要说明的是,在本申请实施例中,在所述接收调用终端发送的RPC请求之前,所述方法还包括:
获取所述目标数据库的数据库配置信息;根据预设的代码生成器以及所述数据库配置信息生成多个调用代码;对各所述调用代码分别进行编译处理,得到多个所述调用规则;创建各所述调用规则分别对应的RPC接口,并构建所述RPC接口与调用规则的对应关系。
其中,本实施例中的数据库配置信息由开发人员输入,然后代码生成器以及所述数据库配置信息统一生成多个调用代码,再对调用代码分别进行编译处理,得到多个所述调用规则,并基于RPC协议创建各所述调用规则分别对应的RPC接口,以及构建所述RPC接口与调用规则的对应关系。
本实施例通过代码生成方式可以生成标准化的代码(调用规则),对于大量的数据库库表,通过配置可以快速生成一整套的RPC调用接口,生成的代码是高度抽象的。
本实施例中的调用规则为编译型语言,使用编译型语言生成数据库代理服务能有效提升RPC请求处理效率,并能够有效降低开发的复杂性。
其中,在数据库开发时,对于冷热数据常会用到KV键值数据库做为热数据缓存,数据库代理设备可以通过KV键值数据库做为缓存服务,通过标准化的代码(对应的调用规则)生成KV键值存储做热数据存储。
此外,本实施例针对二阶段、三阶段事务提交是在不同数据库之间进行的事务提交流程,同样可以通过代码生成器生成二阶段、三阶段事务提交的标准流程(对应的调用规则)。对于不同的业务数据处理流程,事务提交需要差异化的方法,代码生成器需要预留方法或通过引入脚本方式适配差异化需求,对于二阶段、三阶段事务生成的RPC接口名称是不同的。
具体地,请参阅图3,图3为本申请提供的数据库代理设备的一个结构示意图;包括RPC解析模块、SQL生成模块、事务提交模块、分库分表模块、会话保持模块、数据缓存模块、高可用模块、脚本处理模块以及连接管理模块,该数据库代理设备与调用终端以及关系型数据库、KV键值数据库以及消息队列这些存储服务连接。
综上所述,本申请实施例中,调用者可以通过调用目标RPC接口,向数据库代理设备发送RPC请求,由数据库代理设备将该RPC请求转换成SQL请求进行数据库的调用,无需手动输入代码进行数据库的访问,从而降低调用者调用数据库的复杂度,提高对数据库调用的效率。
具体地,由于数据库代理设备中已经生成了标准化的事务处理流程(调用规则),调用者只需输入需要请求数据数据库处理的数据,数据库代理设备即可根据被调用的调用接口对应的目标调用规则将RPC请求中的目标请求数据转换成SQL请求。
此外,本实施例通过数据库代理设备将RPC调用转换成SQL请求,这与常规的数据库代理服务有巨大差别,通过本方案大大降低了RPC调用者对数据库的操作,将数据库的调用收敛到数据库代理设备中,统一数据库调用开发流程,快速批量生成数据库调用RPC接口。将分库分表、分布式一致性事务处理、数据库缓存等调用规则收敛到数据库代理服务,还可以将数据库的开发工作高度集成,避免不同开发者对同一数据库进行重复开发,降低调用者的开发成本。
图4是本申请实施例提供的一种数据库代理装置400的示意性框图。如图4所示,对应于以上基于RPC的数据库调用方法,本申请还提供一种数据库代理装置400。该数据库代理装置400包括用于执行上述基于RPC的数据库调用方法的单元,该装置可以被配置于数据库管理系统中的数据库代理设备中。具体地,请参阅图4,该数据库代理装置400包括收发单元401以及处理单元402。
收发单元401,用于接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
处理单元402,用于对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;基于所述SQL请求调用目标数据库;
所述收发单元401,还用于获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
在一些实施例中,所述目标调用规则包括分库分表规则、数据库缓存一致性规则、连表查询规则、聚合查询规则、事务提交规则、二阶段事务提交规则、三阶段事务提交规则、分布式事务提交规则、审计规则、限流规则以及告警规则中的至少一种规则。
在一些实施例中,在所述收发单元401执行所述接收调用终端发送的RPC请求步骤之后,所述处理单元402还用于:
检测所述数据库代理设备对所述目标数据库的操作状态;若所述操作状态为异常状态,则将所述RPC请求存入消息队列;当所述操作状态从所述异常状态转变为正常状态时,从所述消息队列中提取所述RPC请求,并基于所述RPC请求调用所述目标数据库;
此时,所述处理单元402在执行所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据步骤时,具体用于:
若所述操作状态为正常状态,则对所述RPC请求进行解析,提取所述目标请求数据。
在一些实施例中,所述目标数据库包括多个子数据库;所述处理单元402在执行所述基于所述SQL请求调用目标数据库步骤时,具体用于:
分别向各所述子数据库的依赖服务发送所述SQL请求的执行请求;若接收到各所述依赖服务分别返回的同意响应,则分别向各所述依赖服务发送所述SQL请求的提交请求,以使得各所述依赖服务基于所述SQL请求的提交请求完成对应子数据库的调用。
在一些实施例中,在所述收发单元401执行所述获取所述目标数据库基于所述SQL请求返回的响应数据步骤之后,且执行所述将所述响应数据发送至所述调用终端步骤之前,所述处理单元402还用于:
根据预设的RPC接口与数据处理规则的对应关系,从预设的多个数据处理规则中确定与所述目标RPC接口对应的目标数据处理规则;根据所述目标数据处理规则对所述响应数据进行处理,得到处理后数据,并将所述处理后数据作为所述响应数据。
在一些实施例中,在所述收发单元401执行所述接收调用终端发送的RPC请求步骤之前,所述处理单元402还用于:
通过所述收发单元401获取所述目标数据库的数据库配置信息;根据预设的代码生成器以及所述数据库配置信息生成多个调用代码;对各所述调用代码分别进行编译处理,得到多个所述调用规则;创建各所述调用规则分别对应的RPC接口,并构建所述RPC接口与调用规则的对应关系。
在一些实施例中,在所述收发单元401执行所述目标请求数据包括调用者标识以及目标请求参数;所述处理单元402在所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据步骤之后,还用于:
根据所述调用者标识以及预设的调用者标识与数据库权限的对应关系,从多个数据库中确定所述目标数据库,所述目标数据库的数据类型为关系型数据库或KV键值数据库。
综上所述,本申请实施例中,调用者可以通过调用目标RPC接口,向数据库代理装置400发送RPC请求,由数据库代理装置400将该RPC请求转换成SQL请求进行数据库的调用,无需手动输入代码进行数据库的访问,从而降低调用者调用数据库的复杂度,提高对数据库调用的效率。
需要说明的是,所属领域的技术人员可以清楚地了解到,上述数据库代理装置400和各单元的具体实现过程,可以参考前述方法实施例中的相应描述,为了描述的方便和简洁,在此不再赘述。
上述数据库代理装置可以实现为一种计算机程序的形式,该计算机程序可以在如图5所示的数据库代理设备上运行。
请参阅图5,图5是本申请实施例提供的一种数据库代理设备的示意性框图。该数据库代理设备500可以是终端,也可以是服务器。
参阅图5,该数据库代理设备500包括通过系统总线501连接的处理器502、存储器和网络接口505,其中,存储器可以包括非易失性存储介质503和内存储器504。
该非易失性存储介质503可存储操作系统5031和计算机程序5032。该计算机程序5032包括程序指令,该程序指令被执行时,可使得处理器502执行一种基于RPC的数据库调用方法。
该处理器502用于提供计算和控制能力,以支撑整个数据库代理设备500的运行。
该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境,该计算机程序5032被处理器502执行时,可使得处理器502执行一种基于RPC的数据库调用方法。
该网络接口505用于与其它设备进行网络通信。本领域技术人员可以理解,图5中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的数据库代理设备500的限定,具体的数据库代理设备500可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
其中,所述处理器502用于运行存储在存储器中的计算机程序5032,以实现如下步骤:
接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;
根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;
根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;
基于所述SQL请求调用目标数据库;
获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
应当理解,在本申请实施例中,处理器502可以是中央处理单元 (CentralProcessing Unit,CPU),该处理器502还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路 (Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列 (Field-Programmable Gate Array,FPGA) 或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成。该计算机程序包括程序指令,计算机程序可存储于一存储介质中,该存储介质为计算机可读存储介质。该程序指令被该计算机系统中的至少一个处理器执行,以实现上述方法的实施例的流程步骤。
因此,本申请还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序,其中计算机程序包括程序指令。该程序指令被处理器执行时使处理器执行如下步骤:
接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;
根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;
根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求;
基于所述SQL请求调用目标数据库;
获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端。
所述存储介质可以是U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的。例如,各个单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
本申请实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本申请实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,终端,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (4)
1.一种基于RPC的数据库调用方法,其特征在于,所述方法应用于数据库管理系统中的数据库代理设备,所述方法包括:
接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
通过反序列化处理对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;
根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;
根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求,生成的SQL请求包括SELECT、INSERT、UPDATE或DELETE请求;
基于所述SQL请求调用目标数据库;
获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端;
所述目标调用规则包括分库分表规则、数据库缓存一致性规则、连表查询规则、聚合查询规则、事务提交规则、二阶段事务提交规则、三阶段事务提交规则、分布式事务提交规则、审计规则、限流规则以及告警规则中的至少一种规则;
所述接收调用终端发送的RPC请求之后,所述方法还包括:
检测所述数据库代理设备对所述目标数据库的操作状态;
若所述操作状态为异常状态,则将所述RPC请求存入消息队列;
当所述操作状态从所述异常状态转变为正常状态时,从所述消息队列中提取所述RPC请求,并基于所述RPC请求调用所述目标数据库;
所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据,包括:
若所述操作状态为正常状态,则对所述RPC请求进行解析,提取所述目标请求数据;
所述目标数据库包括多个子数据库;所述基于所述SQL请求调用目标数据库,包括:
分别向各所述子数据库的依赖服务发送所述SQL请求的执行请求,所述依赖服务用于对对应的子数据库进行读写操作;
若接收到各所述依赖服务分别返回的同意响应,则分别向各所述依赖服务发送所述SQL请求的提交请求,以使得各所述依赖服务基于所述SQL请求的提交请求完成对应子数据库的调用;
所述获取所述目标数据库基于所述SQL请求返回的响应数据之后,且在所述将所述响应数据发送至所述调用终端之前,所述方法还包括:
根据预设的RPC接口与数据处理规则的对应关系,从预设的多个数据处理规则中确定与所述目标RPC接口对应的目标数据处理规则;
根据所述目标数据处理规则对所述响应数据进行处理,得到处理后数据,并将所述处理后数据作为所述响应数据;
所述接收调用终端发送的RPC请求之前,所述方法还包括:
获取所述目标数据库的数据库配置信息;
根据预设的代码生成器以及所述数据库配置信息生成多个调用代码;
对各所述调用代码分别进行编译处理,得到多个所述调用规则;
创建各所述调用规则分别对应的RPC接口,并构建所述RPC接口与调用规则的对应关系;
所述目标请求数据包括调用者标识以及目标请求参数;所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据之后,所述方法还包括:
根据所述调用者标识以及预设的调用者标识与数据库权限的对应关系,从多个数据库中确定所述目标数据库,所述目标数据库的数据类型为关系型数据库或KV键值数据库;
所述数据库代理设备中还包括多个数据库代理,所述RPC请求通过两个数据库代理完成,两个数据库代理之间通过消息队列进行连接,一个数据库代理完成所述RPC请求对应流程的一部分,另一个数据库代理完成所述RPC请求对应流程的另一部分,所述数据库代理设备通过消息队列完成分布式一致性数据库同步,以及数据库请求异常时的补偿操作,实现调用者与数据库操作完全分离。
2.一种数据库代理装置,其特征在于,所述数据库代理装置部署在数据库管理系统中的数据库代理设备中,所述数据库代理装置包括:
收发单元,用于接收调用终端发送的RPC请求,所述RPC请求为调用者通过调用终端调用所述数据库代理设备中的目标RPC接口时生成的请求;
处理单元,用于通过反序列化处理对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据;根据预设的RPC接口与调用规则的对应关系,从预设的多个调用规则中确定与所述目标RPC接口对应的目标调用规则;根据所述目标调用规则以及所述目标请求数据生成所述RPC请求对应的SQL请求,生成的SQL请求包括SELECT、INSERT、UPDATE或DELETE请求;基于所述SQL请求调用目标数据库;
所述收发单元,还用于获取所述目标数据库基于所述SQL请求返回的响应数据,并将所述响应数据发送至所述调用终端;
所述目标调用规则包括分库分表规则、数据库缓存一致性规则、连表查询规则、聚合查询规则、事务提交规则、二阶段事务提交规则、三阶段事务提交规则、分布式事务提交规则、审计规则、限流规则以及告警规则中的至少一种规则;
在所述收发单元执行所述接收调用终端发送的RPC请求步骤之后,所述处理单元还用于:
检测所述数据库代理设备对所述目标数据库的操作状态;若所述操作状态为异常状态,则将所述RPC请求存入消息队列;当所述操作状态从所述异常状态转变为正常状态时,从所述消息队列中提取所述RPC请求,并基于所述RPC请求调用所述目标数据库;
所述处理单元在执行所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据步骤时,具体用于:
若所述操作状态为正常状态,则对所述RPC请求进行解析,提取所述目标请求数据;
所述目标数据库包括多个子数据库;所述处理单元在执行所述基于所述SQL请求调用目标数据库步骤时,具体用于:
分别向各所述子数据库的依赖服务发送所述SQL请求的执行请求,所述依赖服务用于对对应的子数据库进行读写操作;若接收到各所述依赖服务分别返回的同意响应,则分别向各所述依赖服务发送所述SQL请求的提交请求,以使得各所述依赖服务基于所述SQL请求的提交请求完成对应子数据库的调用;
在所述收发单元执行所述获取所述目标数据库基于所述SQL请求返回的响应数据步骤之后,且执行所述将所述响应数据发送至所述调用终端步骤之前,所述处理单元还用于:
根据预设的RPC接口与数据处理规则的对应关系,从预设的多个数据处理规则中确定与所述目标RPC接口对应的目标数据处理规则;根据所述目标数据处理规则对所述响应数据进行处理,得到处理后数据,并将所述处理后数据作为所述响应数据;
在所述收发单元执行所述接收调用终端发送的RPC请求步骤之前,所述处理单元还用于:
通过所述收发单元获取所述目标数据库的数据库配置信息;根据预设的代码生成器以及所述数据库配置信息生成多个调用代码;对各所述调用代码分别进行编译处理,得到多个所述调用规则;创建各所述调用规则分别对应的RPC接口,并构建所述RPC接口与调用规则的对应关系;
在所述收发单元执行所述目标请求数据包括调用者标识以及目标请求参数;所述处理单元在所述对所述RPC请求进行解析,提取所述RPC请求中的目标请求数据步骤之后,还用于:
根据所述调用者标识以及预设的调用者标识与数据库权限的对应关系,从多个数据库中确定所述目标数据库,所述目标数据库的数据类型为关系型数据库或KV键值数据库;
所述数据库代理设备中还包括多个数据库代理,所述RPC请求通过两个数据库代理完成,两个数据库代理之间通过消息队列进行连接,一个数据库代理完成所述RPC请求对应流程的一部分,另一个数据库代理完成所述RPC请求对应流程的另一部分,所述数据库代理设备通过消息队列完成分布式一致性数据库同步,以及数据库请求异常时的补偿操作,实现调用者与数据库操作完全分离。
3.一种数据库代理设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1所述的基于RPC的数据库调用方法。
4.一种存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1所述的基于RPC的数据库调用方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410119782.4A CN117648212B (zh) | 2024-01-29 | 2024-01-29 | 基于rpc的数据库调用方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410119782.4A CN117648212B (zh) | 2024-01-29 | 2024-01-29 | 基于rpc的数据库调用方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117648212A CN117648212A (zh) | 2024-03-05 |
CN117648212B true CN117648212B (zh) | 2024-04-09 |
Family
ID=90049926
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410119782.4A Active CN117648212B (zh) | 2024-01-29 | 2024-01-29 | 基于rpc的数据库调用方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117648212B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5721904A (en) * | 1993-12-20 | 1998-02-24 | Hitachi, Ltd. | Database access system and method of controlling access management to a database access system for a plurality of heterogeneous database servers using SQL |
CN110162408A (zh) * | 2018-02-11 | 2019-08-23 | 阿里巴巴集团控股有限公司 | 一种数据处理方法、装置、设备和机器可读介质 |
CN116089126A (zh) * | 2023-02-27 | 2023-05-09 | 中电云数智科技有限公司 | 一种数据实时采集方法、装置、设备及可读存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8005854B2 (en) * | 2003-03-14 | 2011-08-23 | Sybase, Inc. | System with methodology for executing relational operations over relational data and data retrieved from SOAP operations |
-
2024
- 2024-01-29 CN CN202410119782.4A patent/CN117648212B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5721904A (en) * | 1993-12-20 | 1998-02-24 | Hitachi, Ltd. | Database access system and method of controlling access management to a database access system for a plurality of heterogeneous database servers using SQL |
CN110162408A (zh) * | 2018-02-11 | 2019-08-23 | 阿里巴巴集团控股有限公司 | 一种数据处理方法、装置、设备和机器可读介质 |
CN116089126A (zh) * | 2023-02-27 | 2023-05-09 | 中电云数智科技有限公司 | 一种数据实时采集方法、装置、设备及可读存储介质 |
Non-Patent Citations (1)
Title |
---|
基于Geo-SQL语言的数字地形图质检规则库设计与实现;符彦等;《测绘技术装备》;20170925(第03期);第86-89页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117648212A (zh) | 2024-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8112434B2 (en) | Performance of an enterprise service bus by decomposing a query result from the service registry | |
JP5400305B2 (ja) | 式の処理を改良した方法、装置、およびコンピュータプログラム | |
CN110119292B (zh) | 系统运行参数查询方法、匹配方法、装置及节点设备 | |
US20040230667A1 (en) | Loosely coupled intellectual capital processing engine | |
US6622176B2 (en) | Interface device and method | |
US20110283019A1 (en) | Web-enabled mainframe | |
US11176044B2 (en) | Systems and methods for implementing overlapping data caching for object application program interfaces | |
US20230092752A1 (en) | System and method for development of gateway policies in an application programming interface environment | |
WO2021022714A1 (zh) | 跨区块链节点的消息处理方法及装置、设备、介质 | |
US11223686B2 (en) | Transport channel via web socket for OData | |
US11263542B2 (en) | Technologies for auto discover and connect to a rest interface | |
CN110858202A (zh) | 数据库查询语句中where子句的生成方法和生成装置 | |
US20220092038A1 (en) | System and method for customized graphql data-handling scripts | |
US20040230982A1 (en) | Assembly of business process using intellectual capital processing | |
CN111221852A (zh) | 基于大数据的混合查询处理方法及装置 | |
CN114969441A (zh) | 基于图数据库的知识挖掘引擎系统 | |
US10866960B2 (en) | Dynamic execution of ETL jobs without metadata repository | |
CN113760987A (zh) | 数据处理方法和数据处理平台 | |
CN117648212B (zh) | 基于rpc的数据库调用方法、装置、设备及存储介质 | |
US20240004778A1 (en) | Method for processing command, device for processing command, and electronic device | |
US20040230567A1 (en) | Integrating intellectual capital into an intellectual capital management system | |
CN115422225A (zh) | 分布式事务处理方法及事务管理器、中间件、系统 | |
CN111221841A (zh) | 基于大数据的实时处理方法及装置 | |
CN113760274B (zh) | 一种前端组件逻辑注入方法和装置 | |
US20040230618A1 (en) | Business intelligence using intellectual capital |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |