CN113282589A - 一种数据获取方法和装置 - Google Patents
一种数据获取方法和装置 Download PDFInfo
- Publication number
- CN113282589A CN113282589A CN202110672749.0A CN202110672749A CN113282589A CN 113282589 A CN113282589 A CN 113282589A CN 202110672749 A CN202110672749 A CN 202110672749A CN 113282589 A CN113282589 A CN 113282589A
- Authority
- CN
- China
- Prior art keywords
- data
- service
- data acquisition
- cluster
- identifier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2255—Hash tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2272—Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Abstract
本申请公开了数据获取方法和装置,涉及计算机技术领域,该方法包括接收数据获取请求,确定数据获取请求对应的数据标识;获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;从目标服务集群中获取数据标识对应的数据。从而,本申请通过将多个服务集群设置于哈希环上,并且进行散列分布,通过根据要获取的数据对应数据标识来确定要获取的数据具体位于哈希环上的哪个服务集群,并且从确定出的服务集群中找到要获取的数据的索引进而从目标服务集群的数据库中根据索引获取相应的数据。实现集群可部署,并且基于部署的集群突破使用人数的限制。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种数据获取方法和装置。
背景技术
目前,代码资源作为科技公司的核心资产,其重要性不言而喻。对于中大规模团队(例如,超过2000人)来讲,使用Git作为代码管理工具,并在此基础上搭建起来的服务的性能就会出现瓶颈,存在使用人数的限制。
在实现本申请过程中,发明人发现现有技术中至少存在如下问题:
对于中大规模团队,使用Git作为代码管理工具,并在此基础上搭建起来的服务的性能就会出现瓶颈,存在使用人数的限制。
发明内容
有鉴于此,本申请实施例提供一种数据获取方法和装置,能够解决现有的对于中大规模团队,使用Git作为代码管理工具,并在此基础上搭建起来的服务的性能就会出现瓶颈,存在使用人数的限制的问题。
为实现上述目的,根据本申请实施例的一个方面,提供了一种数据获取方法,包括:
接收数据获取请求,确定数据获取请求对应的数据标识;
获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;
从目标服务集群中获取数据标识对应的数据。
可选地,确定数据获取请求对应的数据标识,包括:
确定数据获取请求对应的数据名称;
对数据名称进行哈希运算,生成对应的哈希值,进而将哈希值确定为数据获取请求对应的数据标识。
可选地,确定位于哈希环上的目标服务集群,包括:
调用负载均衡服务,进而将哈希值除以服务集群个数,得到余数;
根据余数定位哈希环上的目标服务集群。
可选地,从目标服务集群中获取数据标识对应的数据,包括:
调用缓存服务,从目标服务集群中的远程字典服务数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,从目标服务集群中获取数据标识对应的数据,还包括:
调用监控服务实时检测数据标识对应的索引的获取状态,响应于从远程字典服务数据库中获取数据标识对应的索引时报错,切换为从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,从目标服务集群中获取数据标识对应的数据,还包括:
响应于从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引也报错,切换为从关系型数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,在从目标服务集群中获取数据标识对应的数据之前,方法还包括:
获取数据获取请求中的用户标识,进而调用后台服务对用户标识进行验证,响应于确定验证通过,执行数据获取进程。
可选地,在从目标服务集群中获取数据标识对应的数据之后,方法还包括:
调用分布式版本控制服务,提交数据标识对应的数据,以供用户调用。
另外,本申请还提供了一种数据获取装置,包括:
接收单元,被配置成接收数据获取请求,确定数据获取请求对应的数据标识;
目标服务集群确定单元,被配置成获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;
数据获取单元,被配置成从目标服务集群中获取数据标识对应的数据。
可选地,接收单元进一步被配置成:
确定数据获取请求对应的数据名称;
对数据名称进行哈希运算,生成对应的哈希值,进而将哈希值确定为数据获取请求对应的数据标识。
可选地,目标服务集群确定单元进一步被配置成:
调用负载均衡服务,进而将哈希值除以服务集群个数,得到余数;
根据余数定位哈希环上的目标服务集群。
可选地,数据获取单元进一步被配置成:
调用缓存服务,从目标服务集群中的远程字典服务数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,数据获取单元进一步被配置成:
调用监控服务实时检测数据标识对应的索引的获取状态,响应于从远程字典服务数据库中获取数据标识对应的索引时报错,切换为从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,数据获取单元进一步被配置成:
响应于从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引也报错,切换为从关系型数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
可选地,数据获取装置还包括验证单元,被配置成:
获取数据获取请求中的用户标识,进而调用后台服务对用户标识进行验证,响应于确定验证通过,执行数据获取进程。
可选地,数据获取装置还包括提交单元,被配置成:
调用分布式版本控制服务,提交数据标识对应的数据,以供用户调用。
另外,本申请还提供了一种数据获取电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上述的数据获取方法。
另外,本申请还提供了一种计算机可读介质,其上存储有计算机程序,程序被处理器执行时实现如上述的数据获取方法。
上述发明中的一个实施例具有如下优点或有益效果:本申请通过接收数据获取请求,确定数据获取请求对应的数据标识;获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;从目标服务集群中获取数据标识对应的数据。从而,本申请通过将多个服务集群设置于哈希环上,并且进行散列分布,通过根据要获取的数据对应的哈希值(即数据标识)来确定要获取的数据具体位于哈希环上的哪个服务集群(即目标服务集群),并且从确定出的服务集群中找到要获取的数据的索引进而从目标服务集群的数据库中根据索引获取相应的数据。从而实现集群可部署,并且基于部署的集群突破使用人数的限制。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本申请,不构成对本申请的不当限定。其中:
图1是根据本申请第一实施例的数据获取方法的主要流程的示意图;
图2是根据本申请第二实施例的数据获取方法的主要流程的示意图;
图3是根据本申请第三实施例的数据获取方法的应用场景示意图;
图4是根据本申请实施例的数据获取装置的主要模块的示意图;
图5是本申请实施例可以应用于其中的示例性系统架构图;
图6是适于用来实现本申请实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请第一实施例的数据获取方法的主要流程的示意图,如图1所示,数据获取方法包括:
步骤S101,接收数据获取请求,确定数据获取请求对应的数据标识。
本实施例中,数据获取方法的执行主体(例如,可以是服务器)可以通过有线连接或无线连接的方式,接收数据获取请求。数据获取请求可以包括代码获取请求,当然也可以包括图片获取请求,本申请对数据获取请求对应的要获取的数据类型和数据内容不做具体限定。数据获取请求对应的数据标识可以是数据获取地址对应的哈希值,例如代码获取地址对应的哈希值,也可以是数据名称对应的哈希值,例如图片名称对应的哈希值。
步骤S102,获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群。
执行主体在哈希环上预设服务集群,每一个服务集群可以包括一个负载均衡、后台服务A、后台服务B、服务监控、SQL数据库(例如PostgreSQL)、缓存服务(例如远程字典服务Remote Dictionary Server,Redis,是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API)、Git服务(例如Gitaly)。其中,服务监控主要是监控后台服务A、后台服务B、SQL数据库、缓存服务、Git服务的运行情况,比如cpu利用率,磁盘空间等。
执行主体可以确定预先设置在哈希(Hash)环上的服务集群的个数,进而调用负载均衡服务,基于一致性Hash原理,以将数据标识,例如代码获取地址对应的哈希值或图片名称对应的哈希值除以服务集群的个数得到余数,根据该余数确定位于哈希环上的目标服务集群。
其中,根据该余数确定位于哈希环上的目标服务集群,包括:执行主体可以计算出该余数在哈希环上的位置,然后以该位置为起点,将顺时针(或逆时针,本申请实施例根据预先在哈希环上的各服务集群中存储数据时所选用的时针方向来确定获取数据时所使用的时针方向)排到的第一个服务器集群确定为目标服务器集群。
步骤S103,从目标服务集群中获取数据标识对应的数据。
本实施例中,从目标服务集群中获取数据标识对应的数据,包括:
调用缓存服务,从目标服务集群中的远程字典服务数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
示例的,执行主体先从Redis里获取相关数据的索引,如果Redis缓存里没有,就去PostgreSQL数据库里查询,然后根据获取的索引去Gitaly获取对应的代码工程,这个Gitaly是Git服务存储代码的地方。
在本实施例的一些可选的实现方式中,从目标服务集群中获取数据标识对应的数据,还包括:
执行主体调用监控服务实时检测数据标识对应的索引的获取状态,响应于从远程字典服务数据库(即Redis)中获取数据标识对应的索引时报错,切换为从远程字典服务数据库(即Redis)对应的备份数据库(即Redis备份)中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引从数据库中获取对应的数据。
在本实施例的一些可选的实现方式中,从目标服务集群中获取数据标识对应的数据,还包括:
响应于从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引也报错,切换为从关系型数据库(即可以是PostgreSQL数据库)中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
本实施例中,集群内部数据库PostgreSQL和Redis主、备方式实现内部集群,从而可以实现扩展数据库和缓存性能。
在本实施例的一些可选的实现方式中,在从目标服务集群中获取数据标识对应的数据之前,数据获取方法还包括:获取数据获取请求中的用户标识,例如可以是用户名或者用户身份证号码或者是用户手机号,进而调用后台服务对用户标识进行验证,响应于确定验证通过,执行数据获取进程,以从确定出的目标服务集群中获取数据标识对应的数据,例如获取代码地址对应的哈希值对应的代码。
在本实施例的一些可选的实现方式中,在从目标服务集群中获取数据标识对应的数据之后,方法还包括:
调用分布式版本控制服务,可以向用户端提交数据标识对应的数据,以供用户调用。
本实施例通过接收数据获取请求,确定数据获取请求对应的数据标识;获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;从目标服务集群中获取数据标识对应的数据。从而,本申请通过将多个服务集群设置于哈希环上,并且进行散列分布,通过根据要获取的数据对应的哈希值(即数据标识)来确定要获取的数据具体位于哈希环上的哪个服务集群(即目标服务集群),并且从确定出的服务集群中找到要获取的数据的索引进而从目标服务集群的数据库中根据索引获取相应的数据。从而实现集群可部署,并且基于部署的集群突破使用人数的限制。
图2是根据本申请第二实施例的数据获取方法的主要流程示意图,如图2所示,数据获取方法包括:
步骤S201,接收数据获取请求,确定数据获取请求对应的数据标识。
步骤S201的原理与步骤S101的原理类似,此处不再赘述。
具体地,步骤S201还可以通过步骤S2011~步骤S2012来实现:
步骤S2011,确定数据获取请求对应的数据名称,例如当要获取图片时,可以确定要获取的图片的名称(即数据名称)。
步骤S2012,对数据名称进行哈希运算,生成对应的哈希值,进而将哈希值确定为数据获取请求对应的数据标识。
本实施例通过将数据获取请求进行解析,以确定数据获取请求对应的数据名称,该数据名称可以是图片名称或者是代码名称或者是其他类型数据的名称,本申请对数据名称的具体内容不做限定。并对数据名称计算哈希值,以准确确定出数据获取请求对应的数据标识。
步骤S202,获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群。
步骤S202的原理与步骤S102的原理类似,此处不再赘述。
具体地,步骤S202还可以通过步骤S2021~步骤S2022来实现:
步骤S2021,调用负载均衡服务,进而将哈希值除以服务集群个数,得到余数。
步骤S2022,根据余数定位哈希环上的目标服务集群。
具体地,执行主体可以确定余数在哈希环上的位置,进而将从该位置开始顺时针方向遇到的第一个服务集群确定为目标服务集群。
当然,执行主体可以确定余数在哈希环上的位置,进而将从该位置开始逆时针方向遇到的第一个服务集群确定为目标服务集群。
在本实施例中,在确定余数在哈希环上的位置对应的目标服务集群时所选用的时针方向根据预先在哈希环上的各服务集群中存储数据时所选用的时针方向而定。
本实施例通过基于哈希环确定数据获取请求对应的目标服务集群,可以提升数据获取效率。
步骤S203,从目标服务集群中获取数据标识对应的数据。
步骤S203的原理与步骤S103的原理类似,此处不再赘述。
图3是根据本申请第三实施例的数据获取方法的应用场景示意图。数据获取方法,应用于使用Git作为代码管理工具时,大中规模团队(超过2000人)的代码仓库管理存在使用人数的限制的场景。如图3所示,服务器303接收数据获取请求301,确定数据获取请求对应的数据标识302。服务器303获取数据标识302对应的哈希环O,确定位于哈希环O上的服务集群A、B、C、D、……、E集群(哈希环O上的服务集群的分布为示意,具体服务集群的分布情况可根据实际情况而定)的个数,进而调用负载均衡服务304,以根据服务集群A、B、C、D、……、E的个数对数据标识302取余数,以确定位于哈希环上的目标服务集群A。服务器303从目标服务集群A中获取数据标识对应的数据305。具体地,每一个服务集群的架构如图3中的F所示,也即每一个服务集群可以包括一个负载均衡、后台服务A、后台服务B、服务监控、SQL数据库、缓存服务、Git服务。其中,服务监控主要是监控后台服务A、后台服务B、SQL数据库、缓存服务、Git服务的运行情况,比如cpu利用率,磁盘空间等。可以理解的是,A、B、C、D、……、E中每一个服务集群的架构可以相同也可以不同。A、B、C、D、……、E中每一个服务集群对应的数据库可以相同也可以不同,本申请对此不作限定。
具体地,基于Gitlab-CE的小集群,可以由7台设备组成,一台设备安装配置HaProxy实现负载均衡,一台设备安装配置Postgresql实现SQL数据库功能,一台设备安装配置Redis实现缓存服务机制,一台设备安装配置Gitaly实现基本的Git服务功能,两台设备(分别对应后台服务A和后台服务B)配置Gitlab Rails实现Gitlab后台及前端访问服务,一台设备安装配置Prometheus实现服务监控功能,以上实现为一个集群,可以同时启动多个以上集群,然后通过HaProxy实现负载均衡,通过轮询或者一致性HASH方式访问不同的集群,实现访问压力的分担。在图3的F中与负载均衡模块还连接有封装的Git配置管理后台,该封装的Git配置管理后台,就是进行封装调用Gtilab接口的后台服务,调用的接口地址就是Load Balance负载均衡的URL地址,然后负载均衡再请求不同的Gitlab集群服务。以上是小集群的构造方式,示例的,执行主体可以在CentOS7 Linux发行版,下载或者在线安装Omnibus GitLab package,然后分别配置不同的模块。
本实施例的具体数据流转如下:
用户登录配置服务;选择代码工程,并获取工程地址;负载均衡根据工程地址转发选择不同集群;获取最终代码。
本实施例基于Gitlab开源项目,可以更快的扩展,能够满足代码仓库基本功能,同时支持更多的用户协同开发,对于高可用集群方案,为了节省开支,通过CE社区版进行扩展能实现更多用户的需求,通过后端对Gitlab进行封装,前端页面重新设计,满足基本的代码仓需求,通过调用Gitlab接口操作实现工程项目的创建,提交,修改,删除等。
本申请实施例可以充分利用开源Gitlab强大功能,并封装暴露相应的需求,通过Gitlab-CE小集群方案,实现高可用,高性能,同时支持更多用户协同开发。
图4是根据本申请实施例的数据获取装置的主要模块的示意图。如图4所示,数据获取装置包括接收单元401、目标服务集群确定单元402和数据获取单元403。
接收单元401,被配置成接收数据获取请求,确定数据获取请求对应的数据标识。
目标服务集群确定单元402,被配置成获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群。
数据获取单元403,被配置成从目标服务集群中获取数据标识对应的数据。
在一些实施例中,接收单元401进一步被配置成:确定数据获取请求对应的数据名称;对数据名称进行哈希运算,生成对应的哈希值,进而将哈希值确定为数据获取请求对应的数据标识。
在一些实施例中,目标服务集群确定单元402进一步被配置成:调用负载均衡服务,进而将哈希值除以服务集群个数,得到余数;根据余数定位哈希环上的目标服务集群。
在一些实施例中,数据获取单元403进一步被配置成:调用缓存服务,从目标服务集群中的远程字典服务数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
在一些实施例中,数据获取单元403进一步被配置成:调用监控服务实时检测数据标识对应的索引的获取状态,响应于从远程字典服务数据库中获取数据标识对应的索引时报错,切换为从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
在一些实施例中,数据获取单元403进一步被配置成:响应于从远程字典服务数据库对应的备份数据库中获取数据标识对应的索引也报错,切换为从关系型数据库中获取数据标识对应的索引,进而调用分布式版本控制服务,以根据索引获取对应的数据。
在一些实施例中,数据获取装置还包括图4中未示出的验证单元,被配置成:获取数据获取请求中的用户标识,进而调用后台服务对用户标识进行验证,响应于确定验证通过,执行数据获取进程。
在一些实施例中,数据获取装置还包括图4中未示出的提交单元,被配置成:调用分布式版本控制服务,提交数据标识对应的数据,以供用户调用。
需要说明的是,在本申请数据获取方法和数据获取装置在具体实施内容上具有相应关系,故重复内容不再说明。
图5示出了可以应用本申请实施例的数据获取方法或数据获取装置的示例性系统架构500。
如图5所示,系统架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是数据获取请求处理屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所提交的数据获取请求提供支持的后台管理服务器(仅为示例)。后台管理服务器可以接收数据获取请求,确定数据获取请求对应的数据标识;获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;从目标服务集群中获取数据标识对应的数据。从而,本申请通过将多个服务集群设置于哈希环上,并且进行散列分布,通过根据要获取的数据对应的哈希值(即数据标识)来确定要获取的数据具体位于哈希环上的哪个服务集群(即目标服务集群),并且从确定出的服务集群中找到要获取的数据的索引进而从目标服务集群的数据库中根据索引获取相应的数据。从而实现集群可部署,并且基于部署的集群突破使用人数的限制。
需要说明的是,本申请实施例所提供的数据获取方法一般由服务器505执行,相应地,数据获取装置一般设置于服务器505中。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本申请实施例的终端设备的计算机系统600的结构示意图。图6示出的终端设备仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图6所示,计算机系统600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM603中,还存储有计算机系统600操作所需的各种程序和数据。CPU601、ROM602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶征信授权查询处理器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本申请公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本申请所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括接收单元、目标服务集群确定单元和数据获取单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备接收数据获取请求,确定数据获取请求对应的数据标识;获取数据标识对应的哈希环,确定位于哈希环上的服务集群个数,进而调用负载均衡服务,以根据服务集群个数对数据标识取余数,以确定位于哈希环上的目标服务集群;从目标服务集群中获取数据标识对应的数据。
根据本申请实施例的技术方案,通过将多个服务集群设置于哈希环上,并且进行散列分布,通过根据要获取的数据对应的哈希值(即数据标识)来确定要获取的数据具体位于哈希环上的哪个服务集群(即目标服务集群),并且从确定出的服务集群中找到要获取的数据的索引进而从目标服务集群的数据库中根据索引获取相应的数据。从而实现集群可部署,并且基于部署的集群突破使用人数的限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (12)
1.一种数据获取方法,其特征在于,包括:
接收数据获取请求,确定所述数据获取请求对应的数据标识;
获取所述数据标识对应的哈希环,确定位于所述哈希环上的服务集群个数,进而调用负载均衡服务,以根据所述服务集群个数对所述数据标识取余数,以确定位于所述哈希环上的目标服务集群;
从所述目标服务集群中获取所述数据标识对应的数据。
2.根据权利要求1所述的方法,其特征在于,所述确定所述数据获取请求对应的数据标识,包括:
确定所述数据获取请求对应的数据名称;
对所述数据名称进行哈希运算,生成对应的哈希值,进而将所述哈希值确定为所述数据获取请求对应的数据标识。
3.根据权利要求2所述的方法,其特征在于,所述确定位于所述哈希环上的目标服务集群,包括:
调用负载均衡服务,进而将所述哈希值除以所述服务集群个数,得到余数;
根据所述余数定位所述哈希环上的目标服务集群。
4.根据权利要求1所述的方法,其特征在于,所述从所述目标服务集群中获取所述数据标识对应的数据,包括:
调用缓存服务,从所述目标服务集群中的远程字典服务数据库中获取所述数据标识对应的索引,进而调用分布式版本控制服务,以根据所述索引获取对应的数据。
5.根据权利要求4所述的方法,其特征在于,所述从所述目标服务集群中获取所述数据标识对应的数据,还包括:
调用监控服务实时检测所述数据标识对应的索引的获取状态,响应于从远程字典服务数据库中获取所述数据标识对应的索引时报错,切换为从所述远程字典服务数据库对应的备份数据库中获取所述数据标识对应的索引,进而调用分布式版本控制服务,以根据所述索引获取对应的数据。
6.根据权利要求5所述的方法,其特征在于,所述从所述目标服务集群中获取所述数据标识对应的数据,还包括:
响应于从所述远程字典服务数据库对应的备份数据库中获取所述数据标识对应的索引也报错,切换为从关系型数据库中获取所述数据标识对应的索引,进而调用分布式版本控制服务,以根据所述索引获取对应的数据。
7.根据权利要求1所述的方法,其特征在于,在所述从所述目标服务集群中获取所述数据标识对应的数据之前,所述方法还包括:
获取所述数据获取请求中的用户标识,进而调用后台服务对所述用户标识进行验证,响应于确定验证通过,执行数据获取进程。
8.根据权利要求1所述的方法,其特征在于,在所述从所述目标服务集群中获取所述数据标识对应的数据之后,所述方法还包括:
调用分布式版本控制服务,提交所述数据标识对应的数据,以供用户调用。
9.一种数据获取装置,其特征在于,包括:
接收单元,被配置成接收数据获取请求,确定所述数据获取请求对应的数据标识;
目标服务集群确定单元,被配置成获取所述数据标识对应的哈希环,确定位于所述哈希环上的服务集群个数,进而调用负载均衡服务,以根据所述服务集群个数对所述数据标识取余数,以确定位于所述哈希环上的目标服务集群;
数据获取单元,被配置成从所述目标服务集群中获取所述数据标识对应的数据。
10.根据权利要求9所述的装置,其特征在于,所述接收单元进一步被配置成:
确定所述数据获取请求对应的数据名称;
对所述数据名称进行哈希运算,生成对应的哈希值,进而将所述哈希值确定为所述数据获取请求对应的数据标识。
11.一种数据获取电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110672749.0A CN113282589A (zh) | 2021-06-17 | 2021-06-17 | 一种数据获取方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110672749.0A CN113282589A (zh) | 2021-06-17 | 2021-06-17 | 一种数据获取方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113282589A true CN113282589A (zh) | 2021-08-20 |
Family
ID=77284820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110672749.0A Pending CN113282589A (zh) | 2021-06-17 | 2021-06-17 | 一种数据获取方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113282589A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114153842A (zh) * | 2021-11-12 | 2022-03-08 | 广东广信通信服务有限公司 | 一种跨平台数据处理方法、系统、设备及介质 |
CN114553868A (zh) * | 2022-02-10 | 2022-05-27 | 中盈优创资讯科技有限公司 | 一种解决大规模网络统一网元调度的方法及装置 |
-
2021
- 2021-06-17 CN CN202110672749.0A patent/CN113282589A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114153842A (zh) * | 2021-11-12 | 2022-03-08 | 广东广信通信服务有限公司 | 一种跨平台数据处理方法、系统、设备及介质 |
CN114553868A (zh) * | 2022-02-10 | 2022-05-27 | 中盈优创资讯科技有限公司 | 一种解决大规模网络统一网元调度的方法及装置 |
CN114553868B (zh) * | 2022-02-10 | 2023-06-23 | 中盈优创资讯科技有限公司 | 一种解决大规模网络统一网元调度的方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111045833A (zh) | 接口调用的方法和装置 | |
CN113282589A (zh) | 一种数据获取方法和装置 | |
CN110795315A (zh) | 监控业务的方法和装置 | |
CN111338834B (zh) | 数据存储方法和装置 | |
CN112948498A (zh) | 一种分布式系统全局标识的生成方法和装置 | |
CN113128197A (zh) | 应用投产版本管理的方法和装置 | |
CN113641706A (zh) | 数据查询的方法和装置 | |
CN112688982B (zh) | 一种用户请求处理方法和装置 | |
CN115170152A (zh) | 一种数据分发方法、装置、设备和存储介质 | |
CN116861397A (zh) | 一种请求处理方法、装置、电子设备及计算机可读介质 | |
CN113779122A (zh) | 导出数据的方法和装置 | |
CN109213815B (zh) | 控制执行次数的方法、装置、服务器终端以及可读介质 | |
CN113704222A (zh) | 一种处理业务请求的方法和装置 | |
CN113760487A (zh) | 一种业务处理方法和装置 | |
CN113127416A (zh) | 数据查询方法和装置 | |
CN112214500A (zh) | 数据对比的方法、装置、电子设备和存储介质 | |
CN110262756B (zh) | 用于缓存数据的方法和装置 | |
CN113760886B (zh) | 提供数据服务的方法、装置、设备和计算机可读介质 | |
CN109446183B (zh) | 全局防重的方法和装置 | |
CN111291038B (zh) | 一种数据查询方法及装置 | |
CN114090524A (zh) | 一种Excel文件分布式导出方法和装置 | |
CN114490891A (zh) | 数据处理方法、装置、设备、介质和程序产品 | |
CN115033600A (zh) | 一种数据处理方法和数据处理装置 | |
CN112148528A (zh) | 一种实现自动容错的方法和装置 | |
CN117675846A (zh) | 缓存集群维护方法、装置、电子设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |