CN113885794B - 基于多云存储的数据访问方法、装置、计算机设备及介质 - Google Patents
基于多云存储的数据访问方法、装置、计算机设备及介质 Download PDFInfo
- Publication number
- CN113885794B CN113885794B CN202111063629.7A CN202111063629A CN113885794B CN 113885794 B CN113885794 B CN 113885794B CN 202111063629 A CN202111063629 A CN 202111063629A CN 113885794 B CN113885794 B CN 113885794B
- Authority
- CN
- China
- Prior art keywords
- node
- requests
- request
- access
- write
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 35
- 238000001514 detection method Methods 0.000 claims abstract description 33
- 238000004891 communication Methods 0.000 claims abstract description 18
- 230000000694 effects Effects 0.000 claims abstract description 13
- 238000012545 processing Methods 0.000 claims description 20
- 238000012544 monitoring process Methods 0.000 claims description 11
- 238000004458 analytical method Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000007493 shaping process Methods 0.000 description 2
- 230000000153 supplemental effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
- G06F3/0611—Improving I/O performance in relation to response time
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0629—Configuration or reconfiguration of storage systems
- G06F3/0631—Configuration or reconfiguration of storage systems by allocating resources to storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0653—Monitoring storage devices or systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/09—Mapping addresses
- H04L61/25—Mapping addresses of the same type
- H04L61/2503—Translation of Internet protocol [IP] addresses
- H04L61/251—Translation of Internet protocol [IP] addresses between different IP versions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Computer And Data Communications (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种基于多云存储的数据访问方法、装置、计算机设备及存储介质,包括:在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态,将节点状态为激活的节点,作为有效节点,采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点,并将访问请求中的读取请求发送到当前进行多云存储对象的站点,采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制,在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制,采用本发明提高了数据访问的效率。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种基于多云存储的数据访问方法、装置、计算机设备及介质。
背景技术
随着计算机技术的快速发展,越来越多的企业机构构建了网络服务,在用户进行网络访问时,通过对访问请求的响应,为用户提供需要的服务,在用户的访问请求数量较大时,往往会出现延迟较高的情形,使得用户体验不佳。
目前有通过架设集群服务,通过动态负载的方式进行访问请求的分发,来提高访问效率,但是,这种负载方式较为依赖存储的带宽和其他硬件配置,成本较高并存在瓶颈,对于复杂网络环境,依然存在访问效率低的问题。
发明内容
本发明实施例提供一种基于多云存储的数据访问方法、装置、计算机设备和存储介质,以提高数据访问请求的处理效率。
为了解决上述技术问题,本申请实施例提供一种基于多云存储的数据访问方法,包括:
在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态;
将所述节点状态为激活的节点,作为有效节点;
采用针对S3协议的调度算法,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点,并将所述访问请求中的读取请求发送到当前进行多云存储对象的站点;
采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制;
在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制。
可选地,所述通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态包括:
基于集群通信,向每个所述节点发送心跳包检测指令;
根据每个所述节点针对所述心跳包检测指令的反馈结果,确定每个所述节点对应的节点状态。
可选地,所述多云存储网关部署有ECS多数据中心,所述采用针对S3协议的调度算法,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点包括:
对所述每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,所述主机地址格式包括路径格式和虚拟主机格式;
基于所述主机地址格式,生成ECS多数据中心的全局负载均衡策略;
基于所述全局负载均衡策略,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点。
可选地,所述将所述访问请求中的读取请求发送到当前进行多云存储对象的站点包括:
对所述客户端的IP地址进行监测;
若所述客户端的IP地址为IPv6类型,对所述客户端地址进行转换,得到IPv4类型的IP地址;
基于所述IPv4类型的IP地址,对所述问请求中的读取请求进行存储处理。
可选地,所述采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制包括:
针对每个所述有效节点,获取所述写入请求总数A和每个写入请求的标识信息,其中,A为正整数;
获取补充令牌的时间点和当前时间点,并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt;
将所述时间间隔与预设间隔阈值T进行比较,得到比较结果;
按照所述比较结果对应的预设填充方式,计算可补充令牌数量M;
若M<A,则计算A与M的差值N,并从所述写入请求中选取N个请求作为待处理访问请求,并对所述待处理访问请求进行写入处理,其中N为正整数;
在所述待处理访问请求处理完成后,获取处理完成的待处理访问请求的标识信息,将所述处理完成的待处理访问请求的标识信息作为目标标识信息;
对标识信息为所述目标标识信息的写入请求进行移除,得到更新后的写入请求;
根据所述更新后的写入请求进行M次令牌填充,并依次执行所述写入请求。
可选地,所述按照所述比较结果对应的预设填充方式,计算可补充令牌数量M包括:
若比较结果为Δt≥T,则获取当前令牌数量E与预设的令牌上限F,按公式M=F-E计算所述可补充令牌数量M;
若比较结果为Δt<T,则按照如下公式计算所述可补充令牌数量M:
为了解决上述技术问题,本申请实施例还提供一种基于多云存储的数据访问装置,包括:
节点状态探测模块,用于在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态;
有效节点确定模块,用于将所述节点状态为激活的节点,作为有效节点;
请求调度分配模块,用于采用针对S3协议的调度算法,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点,并将所述访问请求中的读取请求发送到当前进行多云存储对象的站点;
第一访问控制模块,用于采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制;
第二访问控制模块,用于在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制。
可选地,节点状态探测模块包括:
心跳检测单元,用于基于集群通信,向每个所述节点发送心跳包检测指令;
状态确定单元,用于根据每个所述节点针对所述心跳包检测指令的反馈结果,确定每个所述节点对应的节点状态。
可选地,请求调度分配模块包括:
地址解析单元,用于对所述每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,所述主机地址格式包括路径格式和虚拟主机格式;
负载均衡策略生成单元,用于基于所述主机地址格式,生成ECS多数据中心的全局负载均衡策略;
写入请求调度单元,用于基于所述全局负载均衡策略,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点。
可选地,所述请求调度分配模块还包括:
地址监测单元,用于对所述客户端的IP地址进行监测;
地址转换单元,用于若所述客户端的IP地址为IPv6类型,对所述客户端地址进行转换,得到IPv4类型的IP地址;
存储单元,用于基于所述IPv4类型的IP地址,对所述问请求中的读取请求进行存储处理。
可选地,所述第一访问控制模块包括:
写入请求信息获取单元,用于针对每个所述有效节点,获取所述写入请求总数A和每个写入请求的标识信息,其中,A为正整数;
时间点获取单元,用于获取补充令牌的时间点和当前时间点,并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt;
时间对比单元,用于将所述时间间隔与预设间隔阈值T进行比较,得到比较结果;
可补充数量计算单元,用于按照所述比较结果对应的预设填充方式,计算可补充令牌数量M;
待处理访问请求确定单元,用于若M<A,则计算A与M的差值N,并从所述写入请求中选取N个请求作为待处理访问请求,并对所述待处理访问请求进行写入处理,其中N为正整数;
目标标识信息确定单元,用于在所述待处理访问请求处理完成后,获取处理完成的待处理访问请求的标识信息,将所述处理完成的待处理访问请求的标识信息作为目标标识信息;
写入请求更新单元,用于对标识信息为所述目标标识信息的写入请求进行移除,得到更新后的写入请求;
令牌填充单元,用于根据所述更新后的写入请求进行M次令牌填充,并依次执行所述写入请求。
可选地,所述可补充数量计算单元包括:
第一计算子单元,用于若比较结果为Δt≥T,则获取当前令牌数量E与预设的令牌上限F,按公式M=F-E计算所述可补充令牌数量M;
第二计算子单元,用于若比较结果为Δt<T,则按照如下公式计算所述可补充令牌数量M:
为了解决上述技术问题,本申请实施例还提供一种计算机设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述基于多云存储的数据访问方法的步骤。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述基于多云存储的数据访问方法的步骤。
本发明实施例提供的基于多云存储的数据访问方法、装置、计算机设备及存储介质,在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态,将节点状态为激活的节点,作为有效节点,采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点,并将访问请求中的读取请求发送到当前进行多云存储对象的站点,采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制,在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制,实现通过读写分离的调度方式减少了ECS存储系统的性能负荷并且节省了WAN带宽,提高了数据访问的效率。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请的应用环境示意图;
图2是本申请的基于多云存储的数据访问方法的一个实施例的流程图;
图3是根据本申请的基于多云存储的数据访问装置的一个实施例的结构示意图;
图4是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1,图1为本实施例数据数据访问请求的处理的应用环境示意图,ADC(Application data center)即移动ADC,是集中托管式数据应用中心,ESC为云数据库。
所有全局负载均衡会自动同步配置和性能数据。当任何一个数据中心的服务器均衡宕机,对整个DNS服务器没有影响。
请参阅图2,图2示出本发明实施例提供的一种基于多云存储的数据访问方法,详述如下:
S201:在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态。
具体地,在接收到客户端发送的数据访问请求时,对集群中的每个节点进行活性探测,以便确定节点状态。
需要说明的是,在集群中存在多个节点(节点服务器),由于节点自身的一些管控策略和性能等因素,会进行动态的上线下线,因而,为确保后续数据访问请求分发和处理的有效,需要先对节点的状态进行判断。
其中,节点状态包括激活、宕机和未激活。
S202:将节点状态为激活的节点,作为有效节点。
S203:采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点,并将访问请求中的读取请求发送到当前进行多云存储对象的站点。
具体地,在服务端,ECS部署支持多数据中心部署,用于支持多站点冗余,全局负载均衡在ECS多数据中心部署中是根据应用系统使用的地址格式来制定策略的,即路径格式(Path Style)和虚拟主机格式(Virtual Host)。本实施例中,考虑到S3协议的桶(Bucket)名称包含在HTTP Host Header包头中,需要DNS能够支持动态的地址方法.本实施例中,通过调度算法针对主机格式和地址格式确保客户端和后端存储节点的1:1映射关系,这个调度算法是专门针对存储系统的,实现支持动态全局主机解析,无论ECS多中心部署采用哪种地址格式,都可以无缝集成,提高资源利用率和数据访问的兼容性。
可选地,本实施例采用的调度算法为URL哈希算法。
可选地,为保障客户端对EMC等存储数据的不间断访问,本实施例通过对ECS节点应用级别的健康状况监测,当某个ECS节点不可用(无论是出于维护升级或者宕机等原因),我们产品会自动将该ECS节点标记为不可用并将客户端请求发送到其他健康的ECS节点.
可选地,通过SSL/TLS卸载,所有客户端的SSL/TLS安全加密连接在服务端上建立,并将非加密的流量发送到ECS节点,这样极大减少了ECS节点的性能消耗。
S204:采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制。
其中,令牌桶算法是网络流量整形(Traffic Shaping)和速率限制(RateLimiting)中最常使用的一种算法。典型情况下,令牌桶算法用来控制发送到网络上的数据的数目,并允许突发数据的发送。
其中,预设阈值可根据实际需要进行设定,此处不做限制。
具体通过令牌桶算法对每个有效节点的写入请求进行流量控制的实时过程,可参考后续实施例的描述,为避免重复,此处不再赘述。
S205:在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制。
具体地,根据应用系统的不同优先级采用不同的QoS控制,确保存储系统效率更高。
本实施例中,在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态,将节点状态为激活的节点,作为有效节点,采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点,并将访问请求中的读取请求发送到当前进行多云存储对象的站点,采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制,在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制,实现通过读写分离的调度方式减少了ECS存储系统的性能负荷并且节省了WAN带宽,提高了数据访问的效率。
在一具体可选实施方式中,步骤S203中,多云存储网关部署有ECS多数据中心,采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点包括:
对每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,主机地址格式包括路径格式和虚拟主机格式;
基于主机地址格式,生成ECS多数据中心的全局负载均衡策略;
基于全局负载均衡策略,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点。
在一具体可选实施方式中,步骤S203中,将访问请求中的读取请求发送到当前进行多云存储对象的站点包括:
对客户端的IP地址进行监测;
若客户端的IP地址为IPv6类型,对客户端地址进行转换,得到IPv4类型的IP地址;
基于IPv4类型的IP地址,对问请求中的读取请求进行存储处理。
本实施例中,通过对不同类型的IP地址进行转化,确保等EMC等商业存储支持Ipv6,有利于全局负载均衡的优化,提高数据访问的效率和资源利用率。
在一具体可选实施方式中,步骤S201中,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态包括:
基于集群通信,向每个节点发送心跳包检测指令;
根据每个节点针对心跳包检测指令的反馈结果,确定每个节点对应的节点状态。
具体地,通过向每个节点发送心跳包检测指令,判断与该心跳包对应的节点的网络连接端口的链接状态是否正常,并在链接状态处于正常时,节点将根据心跳包检测指令,与服务端进行交互响应。
应理解,通过心跳监控能够及时发现异常,例如在一段时间内没有收到节点服务器对心跳包的反馈,则确认该节点的链接状态存在异常,此时,将该节点从有效节点的列表中移除,避免后续将数据访问请求分发到该节点,同时,及时将该异常情况显示在服务端的交互界面上,以便维护人员及时分析和处理对应的集群节点上出现的相关异常问题。
其中,心跳包就是在目标主机和服务器间定时通知对方自己状态的一个自己定义的命令字,按照一定的时间间隔发送,类似于心跳,所以叫做心跳包。心跳包用于监控SOCKET的可用性,确保服务端与目标主机之间交互的稳定性。
本实施例中,通过心跳检测的方式,快速判断每个节点的状态,筛选出有效节点,提升有效节点筛选的效率。
在一具体可选实施方式中,步骤S204中,采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制包括:
针对每个有效节点,获取写入请求总数A和每个写入请求的标识信息,其中,A为正整数;
获取补充令牌的时间点和当前时间点,并计算当前时间点与补充令牌的时间点之间的时间间隔Δt;
将时间间隔与预设间隔阈值T进行比较,得到比较结果;
按照比较结果对应的预设填充方式,计算可补充令牌数量M;
若M<A,则计算A与M的差值N,并从写入请求中选取N个请求作为待处理访问请求,并对待处理访问请求进行写入处理,其中N为正整数;
在待处理访问请求处理完成后,获取处理完成的待处理访问请求的标识信息,将处理完成的待处理访问请求的标识信息作为目标标识信息;
对标识信息为目标标识信息的写入请求进行移除,得到更新后的写入请求;
根据更新后的写入请求进行M次令牌填充,并依次执行写入请求。
在一具体可选实施方式中,按照比较结果对应的预设填充方式,计算可补充令牌数量M包括:
若比较结果为Δt≥T,则获取当前令牌数量E与预设的令牌上限F,按公式M=F-E计算可补充令牌数量M;
若比较结果为Δt<T,则按照如下公式计算可补充令牌数量M:
具体地,在当前时间点与补充令牌的时间点之间的时间间隔小于预设间隔阈值时,无法确定是否会将令牌桶填满,此时,计算该时间间隔Δt内,节点服务器在固定的速率时最多能够补充的令牌数量/>并计算此时令牌桶最多可以补充的令牌数量F-E,若小于F-E,则可补充数量为/>若/>大于或等于F-E,则最多只能将令牌桶填满,即可补充数量为F-E。
值得说明的是,在时间间隔小于预设间隔阈值时,通过计算最多能够补充的令牌数量和最多可以补充的令牌数量,并将这两者进行比较,取其中值较小的一个作为可补充令牌数量,既充分利用了节点服务器的处理能力,又避免过多的非预期请求造成的异常。
在本实施例中,对得到的两种不同的比较结果,采用令牌桶的改进算法来进行限流,使得节点服务器资源可以被充分利用,同时也避免短时高频的访问对接口造成异常,有利于维持服务器接口高可用的特征。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
图3示出与上述实施例基于多云存储的数据访问方法一一对应的基于多云存储的数据访问装置的原理框图。如图3所示,该基于多云存储的数据访问装置包括节点状态探测模块31、有效节点确定模块32、请求调度分配模块33、第一访问控制模块34和第二访问控制模块35。各功能模块详细说明如下:
节点状态探测模块31,用于在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态;
有效节点确定模块32,用于将节点状态为激活的节点,作为有效节点;
请求调度分配模块33,用于采用针对S3协议的调度算法,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点,并将访问请求中的读取请求发送到当前进行多云存储对象的站点;
第一访问控制模块34,用于采用令牌桶算法对每个有效节点的写入请求进行流量控制,在写入请求的数量超过预设阈值时进行及时预警限制;
第二访问控制模块35,用于在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制。
可选地,节点状态探测模块31包括:
心跳检测单元,用于基于集群通信,向每个节点发送心跳包检测指令;
状态确定单元,用于根据每个节点针对心跳包检测指令的反馈结果,确定每个节点对应的节点状态。
可选地,请求调度分配模块33包括:
地址解析单元,用于对每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,主机地址格式包括路径格式和虚拟主机格式;
负载均衡策略生成单元,用于基于主机地址格式,生成ECS多数据中心的全局负载均衡策略;
写入请求调度单元,用于基于全局负载均衡策略,对访问请求进行调度分配,将访问请求中的写入请求平均分配到每个有效节点。
可选地,请求调度分配模块33还包括:
地址监测单元,用于对客户端的IP地址进行监测;
地址转换单元,用于若客户端的IP地址为IPv6类型,对客户端地址进行转换,得到IPv4类型的IP地址;
存储单元,用于基于IPv4类型的IP地址,对问请求中的读取请求进行存储处理。
可选地,第一访问控制模块34包括:
写入请求信息获取单元,用于针对每个有效节点,获取写入请求总数A和每个写入请求的标识信息,其中,A为正整数;
时间点获取单元,用于获取补充令牌的时间点和当前时间点,并计算当前时间点与补充令牌的时间点之间的时间间隔Δt;
时间对比单元,用于将时间间隔与预设间隔阈值T进行比较,得到比较结果;
可补充数量计算单元,用于按照比较结果对应的预设填充方式,计算可补充令牌数量M;
待处理访问请求确定单元,用于若M<A,则计算A与M的差值N,并从写入请求中选取N个请求作为待处理访问请求,并对待处理访问请求进行写入处理,其中N为正整数;
目标标识信息确定单元,用于在待处理访问请求处理完成后,获取处理完成的待处理访问请求的标识信息,将处理完成的待处理访问请求的标识信息作为目标标识信息;
写入请求更新单元,用于对标识信息为目标标识信息的写入请求进行移除,得到更新后的写入请求;
令牌填充单元,用于根据更新后的写入请求进行M次令牌填充,并依次执行写入请求。
可选地,可补充数量计算单元包括:
第一计算子单元,用于若比较结果为Δt≥T,则获取当前令牌数量E与预设的令牌上限F,按公式M=F-E计算可补充令牌数量M;
第二计算子单元,用于若比较结果为Δt<T,则按照如下公式计算可补充令牌数量M:
关于基于多云存储的数据访问装置的具体限定可以参见上文中对于基于多云存储的数据访问方法的限定,在此不再赘述。上述基于多云存储的数据访问装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中,也可以以软件形式存储于计算机设备中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图4,图4为本实施例计算机设备基本结构框图。
所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是,图中仅示出了具有组件连接存储器41、处理器42、网络接口43的计算机设备4,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器41至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或D界面显示存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器41可以是所述计算机设备4的内部存储单元,例如该计算机设备4的硬盘或内存。在另一些实施例中,所述存储器41也可以是所述计算机设备4的外部存储设备,例如该计算机设备4上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中,所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件,例如电子文件的控制的程序代码等。此外,所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中,所述处理器42用于运行所述存储器41中存储的程序代码或者处理数据,例如运行数据访问的程序代码。
所述网络接口43可包括无线网络接口或有线网络接口,该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有数据访问程序,所述数据访问程序可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于多云存储的数据访问方法的步骤。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (1)
1.一种基于多云存储的数据访问装置,其特征在于,应用于多云存储网关中,包括:
节点状态探测模块,用于在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态;
有效节点确定模块,用于将所述节点状态为激活的节点,作为有效节点;
请求调度分配模块,用于采用针对S3协议的调度算法,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点,并将所述访问请求中的读取请求发送到当前进行多云存储对象的站点;
第一访问控制模块,用于采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制;
第二访问控制模块,用于在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制;
所述请求调度分配模块包括:
地址解析单元,用于对所述每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,所述主机地址格式包括路径格式和虚拟主机格式;
负载均衡策略生成单元,用于基于所述主机地址格式,生成ECS多数据中心的全局负载均衡策略;
写入请求调度单元,用于基于所述全局负载均衡策略,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点;
通过数据访问装置实现数据访问方法包括以下步骤:
在接收到客户端发送的数据访问请求时,通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态;
将所述节点状态为激活的节点,作为有效节点;
采用针对S3协议的调度算法,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点,并将所述访问请求中的读取请求发送到当前进行多云存储对象的站点;
对所述每个有效节点的主机地址进行解析,得到每个有效节点的主机地址格式,其中,所述主机地址格式包括路径格式和虚拟主机格式;
基于所述主机地址格式,生成ECS多数据中心的全局负载均衡策略;
基于所述全局负载均衡策略,对所述访问请求进行调度分配,将所述访问请求中的写入请求平均分配到每个所述有效节点;
在服务端,ECS部署支持多数据中心部署,用于支持多站点冗余,全局负载均衡在ECS多数据中心部署中是根据应用系统使用的地址格式来制定策略的;
通过调度算法针对主机格式和地址格式确保客户端和后端存储节点的1:1映射关系;
所述调度算法为URL哈希算法:
通过对ECS节点应用级别的健康状况监测,当某个ECS节点不可用,将该ECS节点标记为不可用并将客户端请求发送到其他健康的ECS节点;
通过SSL/TLS卸载,所有客户端的SSL/TLS安全加密连接在服务端上建立,并将非加密的流量发送到ECS节点;
采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制;
在将读取请求发送到当前进行多云存储对象站点后,采用服务质量QOS对存储进行控制;
所述通过集群通信的方式,对集群中每个节点进行活性探测,得到节点状态包括:
基于集群通信,向每个所述节点发送心跳包检测指令;
根据每个所述节点针对所述心跳包检测指令的反馈结果,确定每个所述节点对应的节点状态;
所述将所述访问请求中的读取请求发送到当前进行多云存储对象的站点包括:
对所述客户端的IP地址进行监测;
若所述客户端的IP地址为IPv6类型,对所述客户端地址进行转换,得到IPv4类型的IP地址;
基于所述IPv4类型的IP地址,对所述问请求中的读取请求进行存储处理;
所述采用令牌桶算法对每个所述有效节点的写入请求进行流量控制,在所述写入请求的数量超过预设阈值时进行及时预警限制包括:
针对每个所述有效节点,获取所述写入请求总数A和每个写入请求的标识信息,其中,A为正整数;
获取补充令牌的时间点和当前时间点,并计算所述当前时间点与所述补充令牌的时间点之间的时间间隔Δt;
将所述时间间隔与预设间隔阈值T进行比较,得到比较结果;
按照所述比较结果对应的预设填充方式,计算可补充令牌数量M;
若M<A,则计算A与M的差值N,并从所述写入请求中选取N个请求作为待处理访问请求,并对所述待处理访问请求进行写入处理,其中N为正整数;
在所述待处理访问请求处理完成后,获取处理完成的待处理访问请求的标识信息,将所述处理完成的待处理访问请求的标识信息作为目标标识信息;
对标识信息为所述目标标识信息的写入请求进行移除,得到更新后的写入请求;
根据所述更新后的写入请求进行M次令牌填充,并依次执行所述写入请求;
所述按照所述比较结果对应的预设填充方式,计算可补充令牌数量M包括:
若比较结果为Δt≥T,则获取当前令牌数量E与预设的令牌上限F,按公式M=F-E计算所述可补充令牌数量M;
若比较结果为Δt<T,则按照如下公式计算所述可补充令牌数量M:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111063629.7A CN113885794B (zh) | 2021-09-10 | 2021-09-10 | 基于多云存储的数据访问方法、装置、计算机设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111063629.7A CN113885794B (zh) | 2021-09-10 | 2021-09-10 | 基于多云存储的数据访问方法、装置、计算机设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113885794A CN113885794A (zh) | 2022-01-04 |
CN113885794B true CN113885794B (zh) | 2024-01-26 |
Family
ID=79008769
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111063629.7A Active CN113885794B (zh) | 2021-09-10 | 2021-09-10 | 基于多云存储的数据访问方法、装置、计算机设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113885794B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114697372B (zh) * | 2022-05-31 | 2022-09-06 | 深圳市泛联信息科技有限公司 | 一种分布式系统中数据传输处理与存储方法、系统及介质 |
CN116560950A (zh) * | 2023-07-11 | 2023-08-08 | 山东盛德智能科技股份有限公司 | 一种用于电力营销系统监控的数据处理系统和方法 |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102118433A (zh) * | 2010-12-27 | 2011-07-06 | 网宿科技股份有限公司 | 多层次的分布式集群系统 |
CN103036994A (zh) * | 2012-12-18 | 2013-04-10 | 曙光信息产业(北京)有限公司 | 实现负载均衡的云存储系统 |
CN103973788A (zh) * | 2014-05-08 | 2014-08-06 | 浪潮电子信息产业股份有限公司 | 一种基于传输遍布式网络架构的负载均衡方法 |
CN104394224A (zh) * | 2014-11-28 | 2015-03-04 | 无锡华云数据技术服务有限公司 | 一种负载均衡系统 |
CN105323282A (zh) * | 2014-07-28 | 2016-02-10 | 神州数码信息系统有限公司 | 一种面向多租户的企业应用部署与管理系统 |
CN105872038A (zh) * | 2016-03-28 | 2016-08-17 | 汉柏科技有限公司 | 云桌面系统的高并发处理方法及装置 |
CN107241448A (zh) * | 2017-08-01 | 2017-10-10 | 成都鼎智汇科技有限公司 | 一种云存储节点负载均衡方法 |
CN108462736A (zh) * | 2018-01-21 | 2018-08-28 | 肖芳 | 一种面向QoS的云存储数据副本存储方法 |
CN108989487A (zh) * | 2018-09-06 | 2018-12-11 | 北京泰策科技有限公司 | 基于本地dns的cdn优化调度方法 |
CN109194539A (zh) * | 2018-08-13 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 数据管控方法、装置、计算机设备及存储介质 |
CN109194584A (zh) * | 2018-08-13 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 一种流量监控方法、装置、计算机设备及存储介质 |
CN110933190A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 一种客户端地址获取方法、装置、存储介质及计算机设备 |
CN110995883A (zh) * | 2019-12-04 | 2020-04-10 | 互联网域名系统北京市工程研究中心有限公司 | 基于EUI-64的DHCPv6固定地址配置的方法、系统及存储介质 |
CN111447150A (zh) * | 2020-02-29 | 2020-07-24 | 中国平安财产保险股份有限公司 | 访问请求限流方法、服务器及存储介质 |
CN111813513A (zh) * | 2020-06-24 | 2020-10-23 | 中国平安人寿保险股份有限公司 | 基于分布式的实时任务调度方法、装置、设备及介质 |
CN111913833A (zh) * | 2020-06-28 | 2020-11-10 | 华南理工大学 | 一种基于区块链的医疗物联网交易系统 |
CN113259428A (zh) * | 2021-05-11 | 2021-08-13 | 鸬鹚科技(深圳)有限公司 | 数据访问请求的处理方法、装置、计算机设备及介质 |
-
2021
- 2021-09-10 CN CN202111063629.7A patent/CN113885794B/zh active Active
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102118433A (zh) * | 2010-12-27 | 2011-07-06 | 网宿科技股份有限公司 | 多层次的分布式集群系统 |
CN103036994A (zh) * | 2012-12-18 | 2013-04-10 | 曙光信息产业(北京)有限公司 | 实现负载均衡的云存储系统 |
CN103973788A (zh) * | 2014-05-08 | 2014-08-06 | 浪潮电子信息产业股份有限公司 | 一种基于传输遍布式网络架构的负载均衡方法 |
CN105323282A (zh) * | 2014-07-28 | 2016-02-10 | 神州数码信息系统有限公司 | 一种面向多租户的企业应用部署与管理系统 |
CN104394224A (zh) * | 2014-11-28 | 2015-03-04 | 无锡华云数据技术服务有限公司 | 一种负载均衡系统 |
CN105872038A (zh) * | 2016-03-28 | 2016-08-17 | 汉柏科技有限公司 | 云桌面系统的高并发处理方法及装置 |
CN107241448A (zh) * | 2017-08-01 | 2017-10-10 | 成都鼎智汇科技有限公司 | 一种云存储节点负载均衡方法 |
CN108462736A (zh) * | 2018-01-21 | 2018-08-28 | 肖芳 | 一种面向QoS的云存储数据副本存储方法 |
CN109194584A (zh) * | 2018-08-13 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 一种流量监控方法、装置、计算机设备及存储介质 |
CN109194539A (zh) * | 2018-08-13 | 2019-01-11 | 中国平安人寿保险股份有限公司 | 数据管控方法、装置、计算机设备及存储介质 |
CN108989487A (zh) * | 2018-09-06 | 2018-12-11 | 北京泰策科技有限公司 | 基于本地dns的cdn优化调度方法 |
CN110933190A (zh) * | 2019-10-18 | 2020-03-27 | 平安科技(深圳)有限公司 | 一种客户端地址获取方法、装置、存储介质及计算机设备 |
CN110995883A (zh) * | 2019-12-04 | 2020-04-10 | 互联网域名系统北京市工程研究中心有限公司 | 基于EUI-64的DHCPv6固定地址配置的方法、系统及存储介质 |
CN111447150A (zh) * | 2020-02-29 | 2020-07-24 | 中国平安财产保险股份有限公司 | 访问请求限流方法、服务器及存储介质 |
CN111813513A (zh) * | 2020-06-24 | 2020-10-23 | 中国平安人寿保险股份有限公司 | 基于分布式的实时任务调度方法、装置、设备及介质 |
CN111913833A (zh) * | 2020-06-28 | 2020-11-10 | 华南理工大学 | 一种基于区块链的医疗物联网交易系统 |
CN113259428A (zh) * | 2021-05-11 | 2021-08-13 | 鸬鹚科技(深圳)有限公司 | 数据访问请求的处理方法、装置、计算机设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113885794A (zh) | 2022-01-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109218355B (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
US10355959B2 (en) | Techniques associated with server transaction latency information | |
US9930111B2 (en) | Techniques for web server management | |
JP6457447B2 (ja) | データセンターのネットワークトラフィックスケジューリング方法及び装置 | |
CN103201724B (zh) | 在高可用性虚拟机环境中提供高可用性应用程序 | |
US8191068B2 (en) | Resource management system, resource information providing method and program | |
WO2016119412A1 (zh) | 一种云平台上的资源伸缩方法和一种云平台 | |
Téllez et al. | A tabu search method for load balancing in fog computing | |
CN111818159B (zh) | 数据处理节点的管理方法、装置、设备及存储介质 | |
CN113885794B (zh) | 基于多云存储的数据访问方法、装置、计算机设备及介质 | |
US10659371B1 (en) | Managing throttling limits in a distributed system | |
US11489735B2 (en) | Dynamic network allocation apparatus, dynamic network allocation method and non-transitory computer-readable medium | |
CN104092756A (zh) | 一种基于dht机制的云存储系统的资源动态分配方法 | |
CN103533063A (zh) | 一种可实现web应用资源动态扩展的方法及装置 | |
CN109510878B (zh) | 一种长连接会话保持方法和装置 | |
CN111913818A (zh) | 一种确定服务间依赖关系的方法及相关装置 | |
CN103501347A (zh) | 资源分配方法及装置 | |
CN111092921B (zh) | 数据采集方法、装置及存储介质 | |
CN115277566B (zh) | 数据访问的负载均衡方法、装置、计算机设备及介质 | |
CN109769029B (zh) | 基于用电信息采集系统的通信连接方法及终端设备 | |
US9621438B2 (en) | Network traffic management | |
US11595471B1 (en) | Method and system for electing a master in a cloud based distributed system using a serverless framework | |
CN109962941B (zh) | 通信方法、装置以及服务器 | |
CN115499432A (zh) | 家庭终端算力资源管理系统及算力资源调度方法 | |
CN112685157B (zh) | 任务处理方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |