CN112019627B - 负载均衡方法、装置、计算机设备及计算机可读存储介质 - Google Patents
负载均衡方法、装置、计算机设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN112019627B CN112019627B CN202010901606.8A CN202010901606A CN112019627B CN 112019627 B CN112019627 B CN 112019627B CN 202010901606 A CN202010901606 A CN 202010901606A CN 112019627 B CN112019627 B CN 112019627B
- Authority
- CN
- China
- Prior art keywords
- end server
- address
- cache pool
- addresses
- load balancing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 38
- 238000004590 computer program Methods 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000012163 sequencing technique Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请属于数据处理技术领域,提供了一种负载均衡方法、装置、计算机设备及计算机可读存储介质,该方法包括:获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址;通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。本申请能够保证后端服务器集群的负载均衡,从而提升响应用户网络访问的速度。
Description
技术领域
本申请涉及数据处理技术领域,尤其涉及一种负载均衡方法、装置、计算机设备及计算机可读存储介质。
背景技术
随着互联网技术的发展,移动端与后端服务器之间数据交互量也日趋增多,通过部署后端服务器集群可以有效提高网络服务的效率。
目前,用户通过移动端触发的网络请求,需先通过DNS服务器进行DNS解析得到后端服务器IP地址,再链接解析得到的后端服务器IP地址,使得该后端服务器响应用户的网络请求,然而DNS解析非常耗时。为了避免DNS解析耗费的时间,相关技术中,会在移动端内置或者缓存多个解析后的后端服务器IP地址,前一个IP地址无法链接时,再链接下一个IP地址,这种方式,会导致后端服务器集群中的部分后端服务器负载过重导致宕机,用户的网络访问得不到响应或响应速度较慢。
发明内容
本申请的主要目的在于提供一种负载均衡方法、装置、计算机设备及计算机可读存储介质,旨在保证后端服务器集群的负载均衡,从而提升响应用户网络访问的速度。
第一方面,本申请提供了一种负载均衡方法,所述负载均衡方法应用于移动前端,所述方法包括:
获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;
当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址;
通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
可选地,所述预设AI算法包括预设回归线性算法;
所述根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址,包括:
根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力;
根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址。
可选地,所述根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,包括:
获取所述IP缓存池中各个后端服务器IP地址的特征值;
分别将所述IP缓存池中各个后端服务器IP地址的特征值,代入至所述预设回归线性算法计算公式y=f(x1)+f(x2)...+f(xn)中计算所述IP缓存池中各个后端服务器IP地址的服务能力,其中,
f(x1)=ax1+b
f(x2)=ax2+b
...
f(xn)=axn+b
其中,y表示后端服务器IP地址的服务能力,x1、x2...xn表示后端服务器IP地址的特征值,a、b为依据最小二乘法求解得到的权重值。
可选地,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力进行排序;
选取服务能力最大的后端服务器IP地址,作为目标后端服务器IP地址。
可选地,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力与预设阈值进行比对;
将服务能力大于预设阈值的各个后端服务器IP地址确定为备选后端服务器IP地址集合;
从所述备选后端服务器IP地址集合中随机挑选一个备选后端服务器IP地址作为目标后端服务器IP地址。
可选地,所述获取后端服务器集群的多个IP地址,包括:
通过拉取与后端服务器集群相连的接口获取后端服务器集群的多个IP地址。
可选地,所述负载均衡方法,还包括:
每间隔预设时间获取新增的后端服务器IP地址缓存至所述IP缓存池中,以对所述IP缓存池进行更新。
第二方面,本申请还提供了一种负载均衡装置,所述装置包括:
缓存模块,用于获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;
确定模块,用于当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址;
建立模块,用于通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
第三方面,本申请还提供了一种计算机设备,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如上述的负载均衡方法的步骤。
第四方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如上述的负载均衡方法。
本申请公开了一种负载均衡方法、装置、计算机设备及计算机可读存储介质,移动前端首先获取后端服务器集群的多个IP地址,并将后端服务器集群的多个IP地址缓存至IP缓存池中;当移动前端检测到移动端的访问请求时,根据预设AI算法,从IP缓存池中确定目标后端服务器IP地址;通过目标后端服务器IP地址建立与目标后端服务器的链接,并将访问请求发送至所述目标后端服务器。移动前端通过上述方式选择处理访问请求的后端服务器,不仅可以避免DNS解析过程,且能够实现对后端服务器集群资源的合理有效利用,从而保证了后端服务器集群的负载均衡,进而提升了响应用户访问请求的速度,提升了用户体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
为了更清楚地说明本申请实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种负载均衡方法的流程示意图;
图2为本申请实施例提供的另一种负载均衡方法的流程示意图;
图3为本申请实施例提供的又一种负载均衡方法的流程示意图
图4为本申请实施例提供的一种负载均衡装置的示意性框图;
图5为本申请一实施例涉及的计算机设备的结构示意框图。
本申请目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
附图中所示的流程图仅是示例说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解、组合或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
本申请的实施例提供了一种负载均衡方法、装置、设备及计算机可读存储介质。其中,该负载均衡方法主要应用于移动前端。
下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
请参照图1,图1为本申请的实施例提供的一种负载均衡方法的流程示意图。
如图1所示,该负载均衡方法包括步骤S101至步骤S103。
步骤S101,获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中。
其中,移动前端为后端服务器集群提供负载均衡服务。具体地,移动前端与后端服务器集群相连的接口上配置有每个后端服务器的IP地址,也即移动前端与后端服务器集群相连的接口上配置有后端服务器集群的多个IP地址。
在一实施例中,移动前端可以通过拉取接口的方式获得这多个IP地址。此外,后端服务器集群还可以将这多个IP地址下发给移动前端,使得移动前端获取到后端服务器集群的多个IP地址。
移动前端获取到后端服务器集群的多个IP地址之后,将这多个IP地址放入至移动前端的IP缓存池中。其中,IP缓存池是移动前端中一块用于缓存后端服务器集群IP地址的内存空间,将后端服务器集群的多个IP地址加载至IP缓存池中而不是移动前端的磁盘空间中进行缓存,可以避免后续访问IP地址时需遍历磁盘空间速度过慢的问题。缓存时可以按照获取到每个后端服务器IP地址的先后顺序,先获取到的先缓存;还可以按照后端服务器集群的不同类型将后端服务器集群的多个IP地址加载至IP缓存池中进行缓存。示例性的,后端服务器集群根据功能的不同可以分为web服务器、ftp服务器、数据库服务器、邮件服务器等几种类型,缓存时将后端服务器集群中属于web服务器的后端服务器的IP地址先加载至IP缓存池中进行缓存,其次再将后端服务器集群中属于ftp服务器的后端服务器的IP地址加载至IP缓存池中进行缓存,再次则将后端服务器集群中属于数据库服务器的后端服务器的IP地址加载至IP缓存池中进行缓存,最后将后端服务器集群中属于邮件服务器的后端服务器的IP地址加载至IP缓存池中进行缓存,当然,缓存顺序可以按照实际需要灵活进行设置。
步骤S102,当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址。
用户可以在移动端触发访问请求,当移动前端检测到移动端的访问请求时,根据预设AI算法,从其IP缓存池中确定目标后端服务器IP地址,也就是从IP缓存池中选取处理该访问请求的后端服务器的IP地址。
在一实施例中,如图2所示,所述预设AI算法包括预设回归线性算法,所述根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址,包括子步骤S1020至子步骤S1021。
子步骤S1020,根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力。
也即,该预设AI算法可以是回归线性算法,当移动前端检测到移动端的访问请求时,根据回归线性算法衡量IP缓存池中各个后端服务器IP地址的服务能力。
在一实施例中,所述根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,具体为:获取所述IP缓存池中各个后端服务器IP地址的特征值;分别将所述IP缓存池中各个后端服务器IP地址的特征值,代入至所述预设回归线性算法计算公式y=f(x1)+f(x2)...+f(xn)中计算所述IP缓存池中各个后端服务器IP地址的服务能力,其中,
f(x1)=ax1+b
f(x2)=ax2+b
...
f(xn)=axn+b
其中,y表示后端服务器IP地址的服务能力,x1、x2...xn表示后端服务器IP地址的特征值,a、b为依据最小二乘法求解得到的权重值。
具体地,IP缓存池中各个后端服务器IP地址还携带有相应的特征值,先访问IP缓存池,以读取IP缓存池中每个后端服务器IP地址的特征值,每个后端服务器IP地址的特征值包括IP历史命中次数、运营商特征、网络类型、地域GPS、首包时间等。然后根据每个后端服务器IP地址的特征值和预设回归线性算法,计算每个后端服务器IP地址的服务能力。预设回归线性算法公式如下:
y=f(x1)+f(x2)...+f(xn)
f(x1)=ax1+b
f(x2)=ax2+b
...
f(xn)=axn+b
其中,y表示后端服务器IP地址的服务能力,x1、x2...xn表示后端服务器IP地址的特征值,比如x1表示IP历史命中次数,x2表示运营商特征,x3表示网络类型、x4表示地域GPS,x5表示首包时间,xn表示IP地址的其他特征值,a、b为权重值,可以使用最小二乘法求解得到。
下面介绍使用最小二乘法求解得到权重值a、b的过程。
由于f(x1)=ax1+b就是用一条直线去拟合f(xi)与xi的之间的关系,而拟合效果根据损失函数来判定,为达到较好的拟合效果越好,使用最小二乘法求解得到对应的权重值a、b使得损失函数最小化。损失函数是凸函数,都有唯一的最小值点,损失函数J定义为:
其中,m表示样本个数,f(xi)是预测值,yi是真实值。
使用最小二乘法求解权重值a、b,即将J(a,b)分别对a和b求导,然后令其导数为0,得到:
也即求解得到了权重值a和b。
由此,通过每个后端服务器IP地址的特征值和上述预设回归线性算法即可计算得到每个后端服务器IP地址的服务能力。
子步骤S1021,根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址。
之后,根据每个后端服务器IP地址的服务能力,即可从IP缓存池中选取处理该访问请求的后端服务器IP地址(定义为目标后端服务器IP地址)。
在一实施例中,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,具体为:将所述IP缓存池中各个后端服务器IP地址的服务能力进行排序;选取服务能力最大的后端服务器IP地址,作为目标后端服务器IP地址。
即,根据IP缓存池中各个后端服务器IP地址的服务能力,从IP缓存池中选取目标后端服务器IP地址,可以是将IP缓存池中各个后端服务器IP地址的服务能力进行排序,选取服务能力最大的后端服务器IP地址,作为目标后端服务器IP地址。
在一实施例中,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,具体为:将所述IP缓存池中各个后端服务器IP地址的服务能力与预设阈值进行比对;将服务能力大于预设阈值的各个后端服务器IP地址确定为备选后端服务器IP地址集合;从所述备选后端服务器IP地址集合中随机挑选一个备选后端服务器IP地址作为目标后端服务器IP地址。
即,根据IP缓存池中各个后端服务器IP地址的服务能力,从IP缓存池中选取目标后端服务器IP地址,可以是将IP缓存池中各个后端服务器IP地址的服务能力与预设阈值进行比对,其中,该预设阈值作为衡量后端服务器IP地址服务能力的判定阈值,可以根据实际经验灵活进行设置,此处不作限定。将服务能力大于预设阈值的各个后端服务器IP地址确定为备选后端服务器IP地址集合,再从备选后端服务器IP地址集合中随机挑选一个备选后端服务器IP作为目标后端服务器IP地址。
通过上述方式,移动前端只需依据每个后端服务器IP地址的特征值衡量后端服务器集群的多个IP地址的服务能力,再依据后端服务器集群的多个IP地址的服务能力,便可选择适宜处理访问请求的后端服务器,相比于现有通过DNS服务器进行DNS解析得到后端服务器IP地址再链接解析得到的后端服务器IP地址的方式,更加灵活且速度更快,还能够实现对后端服务器集群资源的合理有效利用,从而保证了后端服务器集群的负载均衡,有助于网络加速以及减少后端服务器的并发。
步骤S103,通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
在确定目标后端服务器IP地址后,移动前端即可通过目标服务器IP地址建立与目标后端服务器的链接,将用户的访问请求发送至目标后端服务器,由目标后端服务器处理用户的访问请求,如此,确保了对用户访问请求的快速响应。
在一实施例中,如图3所示,所述负载均衡方法,还包括步骤S104。
步骤S104,每间隔预设时间获取新增的后端服务器IP地址,以对所述IP缓存池进行更新。
即,考虑到因业务量增加会增添后端服务器的情况,移动前端可以定期对其IP缓存池进行更新。需先确定新增的后端服务器IP地址。
需要说明的是,每个后端服务器的IP地址作为每个端服务器的唯一标识,都是由32位的二进制数值组成,通常使用点式十进制来表示,如192.168.1.6等,也就是说IP地址有两种表现形式-二进制和点式十进制,一个32位IP地址的二进制是由8个域位组成,即11000000 10101000 00000001 00000110(192.168.1.6)。每个IP地址具有唯一性,又可分为两部分,这两部分为网络号部分和主机号部分,其中,网络号表示其所属的网络段编号,主机号则表示该网段中该主机的地址编号。
由此,移动前端确定新增的后端服务器IP地址时,可以每间隔预设时间拉取移动前端与后端服务器集群相连的接口,或者每间隔预设时间接收一次后端服务器集群下发的IP地址,以获得IP地址;然后将获得的IP地址的网络号部分,一一与IP缓存池中已经缓存的IP地址的网络号部分进行比对,将获得的IP地址中网络号部分与已经缓存的IP地址的网络号部分不重合的IP地址确定为新增IP地址。
对于获得的IP地址中网络号部分与已经缓存的IP地址的网络号部分重合的IP地址,则一一将其主机号部分与IP缓存池中已经缓存的IP地址的主机号部分进行比对,将其中主机号部分与已经缓存的IP地址的主机号部分不重合的IP地址确定为新增IP地址。
之后,便可将新增的后端服务器IP地址缓存至其IP缓存池中,该预设时间可以根据实际需要灵活进行设置,此处不作限定。
上述提供的负载均衡方法,移动前端首先获取后端服务器集群的多个IP地址,并将后端服务器集群的多个IP地址缓存至IP缓存池中;当移动前端检测到移动端的访问请求时,根据预设AI算法,从IP缓存池中确定目标后端服务器IP地址;通过目标后端服务器IP地址建立与目标后端服务器的链接,并将访问请求发送至所述目标后端服务器。移动前端通过上述方式选择处理访问请求的后端服务器,不仅可以避免DNS解析过程,且能够实现对后端服务器集群资源的合理有效利用,从而保证了后端服务器集群的负载均衡,进而提升了响应用户访问请求的速度,提升了用户体验。
请参照图4,图4为本申请实施例提供的一种负载均衡装置的示意性框图。
如图4所示,该负载均衡装置400,包括:缓存模块401、确定模块402和建立模块403。
缓存模块401,用于获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;
确定模块402,用于当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址;
建立模块403,用于通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
需要说明的是,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的装置和各模块及单元的具体工作过程,可以参考前述负载均衡方法实施例中的对应过程,在此不再赘述。
上述实施例提供的装置可以实现为一种计算机程序的形式,该计算机程序可以在如图5所示的计算机设备上运行。
请参阅图5,图5为本申请实施例提供的一种计算机设备的结构示意性框图。该计算机设备可以是个人计算机(personal computer,PC)、服务器等具有数据处理功能的设备。
如图5所示,该计算机设备包括通过系统总线连接的处理器、存储器和网络接口,其中,存储器可以包括非易失性存储介质和内存储器。
非易失性存储介质可存储操作系统和计算机程序。该计算机程序包括程序指令,该程序指令被执行时,可使得处理器执行任意一种负载均衡方法。
处理器用于提供计算和控制能力,支撑整个计算机设备的运行。
内存储器为非易失性存储介质中的计算机程序的运行提供环境,该计算机程序被处理器执行时,可使得处理器执行任意一种负载均衡方法。
该网络接口用于进行网络通信,如发送分配的任务等。本领域技术人员可以理解,图5中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
应当理解的是,处理器可以是中央处理单元(Central Processing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
其中,在一个实施例中,所述处理器用于运行存储在存储器中的计算机程序,以实现如下步骤:
获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;当所述移动前端检测到移动端的访问请求时,根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址;通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
在一些实施例中,所述预设AI算法包括预设回归线性算法,所述处理器实现所述根据预设AI算法,从所述IP缓存池中确定目标后端服务器IP地址,包括:
根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力;
根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址。
在一些实施例中,所述处理器实现所述根据所述预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,包括:
获取所述IP缓存池中各个后端服务器IP地址的特征值;
分别将所述IP缓存池中各个后端服务器IP地址的特征值,代入至所述预设回归线性算法计算公式y=f(x1)+f(x2)...+f(xn)中计算所述IP缓存池中各个后端服务器IP地址的服务能力,其中,
f(x1)=ax1+b
f(x2)=ax2+b
...
f(xn)=axn+b
其中,y表示后端服务器IP地址的服务能力,x1、x2...xn表示后端服务器IP地址的特征值,a、b为依据最小二乘法求解得到的权重值。
在一些实施例中,所述处理器实现所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力进行排序;
选取服务能力最大的后端服务器IP地址,作为目标后端服务器IP地址。
在一些实施例中,所述处理器实现所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力与预设阈值进行比对;
将服务能力大于预设阈值的各个后端服务器IP地址确定为备选后端服务器IP地址集合;
从所述备选后端服务器IP地址集合中随机挑选一个备选后端服务器IP地址作为目标后端服务器IP地址。
在一些实施例中,所述处理器实现所述获取后端服务器集群的多个IP地址,包括:
通过拉取与后端服务器集群相连的接口获取后端服务器集群的多个IP地址。
在一些实施例中,所述处理器用于运行存储在存储器中的计算机程序,还实现如下步骤:
每间隔预设时间获取新增的后端服务器IP地址缓存至所述IP缓存池中,以对所述IP缓存池进行更新。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序中包括程序指令,所述程序指令被执行时所实现的方法可参照本申请负载均衡方法的各个实施例。
其中,所述计算机可读存储介质可以是前述实施例所述的计算机设备的内部存储单元,例如所述计算机设备的硬盘或内存。所述计算机可读存储介质也可以是所述计算机设备的外部存储设备,例如所述计算机设备上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。
进一步地,所述计算机可读存储介质可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据区块链节点的使用所创建的数据等。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以权利要求的保护范围为准。
Claims (8)
1.一种负载均衡方法,其特征在于,所述负载均衡方法应用于移动前端,包括以下步骤:
通过拉取与后端服务器集群相连的接口获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;
当所述移动前端检测到移动端的访问请求时,获取所述IP缓存池中各个后端服务器IP地址的特征值,根据所述特征值和预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,并根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,其中,所述特征值包括IP历史命中次数、运营商特征和网络类型;
通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
2.根据权利要求1所述的负载均衡方法,其特征在于,所述根据所述特征值和预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,包括:
分别将所述IP缓存池中各个后端服务器IP地址的特征值,代入至所述预设回归线性算法计算公式中计算所述IP缓存池中各个后端服务器IP地址的服务能力,其中,
其中,y表示后端服务器IP地址的服务能力,、/>.../>表示后端服务器IP地址的特征值,/>、/>为依据最小二乘法求解得到的权重值。
3.根据权利要求1所述的负载均衡方法,其特征在于,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力进行排序;
选取服务能力最大的后端服务器IP地址,作为目标后端服务器IP地址。
4.根据权利要求1所述的负载均衡方法,其特征在于,所述根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,包括:
将所述IP缓存池中各个后端服务器IP地址的服务能力与预设阈值进行比对;
将服务能力大于预设阈值的各个后端服务器IP地址确定为备选后端服务器IP地址集合;
从所述备选后端服务器IP地址集合中随机挑选一个备选后端服务器IP地址作为目标后端服务器IP地址。
5.根据权利要求1所述的负载均衡方法,其特征在于,所述负载均衡方法,还包括:
每间隔预设时间获取新增的后端服务器IP地址缓存至所述IP缓存池中,以对所述IP缓存池进行更新。
6.一种负载均衡装置,其特征在于,所述负载均衡装置包括:
缓存模块,用于通过拉取与后端服务器集群相连的接口获取后端服务器集群的多个IP地址,并将所述多个IP地址缓存至IP缓存池中;
确定模块,用于当移动前端检测到移动端的访问请求时,获取所述IP缓存池中各个后端服务器IP地址的特征值,根据所述特征值和预设回归线性算法确定所述IP缓存池中各个后端服务器IP地址的服务能力,并根据所述IP缓存池中各个后端服务器IP地址的服务能力,从所述IP缓存池中确定目标后端服务器IP地址,其中,所述特征值包括IP历史命中次数、运营商特征和网络类型;
建立模块,用于通过所述目标后端服务器IP地址建立与所述目标后端服务器的链接,并将所述访问请求发送至所述目标后端服务器。
7.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器、以及存储在所述存储器上并可被所述处理器执行的计算机程序,其中所述计算机程序被所述处理器执行时,实现如权利要求1至5中任一项所述的负载均衡方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,其中所述计算机程序被处理器执行时,实现如权利要求1至5中任一项所述的负载均衡方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010901606.8A CN112019627B (zh) | 2020-08-31 | 2020-08-31 | 负载均衡方法、装置、计算机设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010901606.8A CN112019627B (zh) | 2020-08-31 | 2020-08-31 | 负载均衡方法、装置、计算机设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112019627A CN112019627A (zh) | 2020-12-01 |
CN112019627B true CN112019627B (zh) | 2024-04-02 |
Family
ID=73516143
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010901606.8A Active CN112019627B (zh) | 2020-08-31 | 2020-08-31 | 负载均衡方法、装置、计算机设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112019627B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115051982B (zh) * | 2022-06-14 | 2023-12-01 | 北京天融信网络安全技术有限公司 | 基于ftp协议的信息处理方法、系统及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6330605B1 (en) * | 1998-11-19 | 2001-12-11 | Volera, Inc. | Proxy cache cluster |
CN110086895A (zh) * | 2019-04-11 | 2019-08-02 | 天津字节跳动科技有限公司 | 域名解析方法、装置、介质和电子设备 |
CN110351115A (zh) * | 2019-05-23 | 2019-10-18 | 中国平安财产保险股份有限公司 | 降低网络访问时延的方法、装置、计算机设备及存储介质 |
-
2020
- 2020-08-31 CN CN202010901606.8A patent/CN112019627B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6330605B1 (en) * | 1998-11-19 | 2001-12-11 | Volera, Inc. | Proxy cache cluster |
CN110086895A (zh) * | 2019-04-11 | 2019-08-02 | 天津字节跳动科技有限公司 | 域名解析方法、装置、介质和电子设备 |
CN110351115A (zh) * | 2019-05-23 | 2019-10-18 | 中国平安财产保险股份有限公司 | 降低网络访问时延的方法、装置、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112019627A (zh) | 2020-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11171969B2 (en) | Systems and methods for real-time configurable load determination | |
CN107426302B (zh) | 访问调度方法、装置、系统、终端、服务器及存储介质 | |
CN105282215B (zh) | 用于通过内容中心网络转发并响应兴趣的基于声誉的策略 | |
US20240259327A1 (en) | Software load balancer to maximize utilization | |
US7523454B2 (en) | Apparatus and method for routing a transaction to a partitioned server | |
CN108205541B (zh) | 分布式网络爬虫任务的调度方法及装置 | |
CN108494891A (zh) | 一种域名解析方法、服务器及系统 | |
CN113472852B (zh) | 一种cdn节点的回源方法、装置、设备以及存储介质 | |
US9152640B2 (en) | Determining file allocation based on file operations | |
JP2016149698A (ja) | パケット通信装置およびパケット受信処理方法 | |
CN112019627B (zh) | 负载均衡方法、装置、计算机设备及计算机可读存储介质 | |
CN114765630B (zh) | 多租户平台的数据访问方法、多租户平台及服务器 | |
WO2012114889A1 (ja) | アプリケーション構築配置システム、アプリケーション構築配置方法、およびプログラム | |
CN115118784A (zh) | 算力资源的调度方法、装置及系统 | |
JP5388134B2 (ja) | 計算機システム、及び、移動データ決定方法 | |
CN115562861A (zh) | 针对数据倾斜的数据处理的方法和装置 | |
CN112751945B (zh) | 一种分布式云服务的实现方法、装置、设备和存储介质 | |
JP3977298B2 (ja) | グリッドコンピューティングシステム | |
CN110098978B (zh) | 一种dns调度的测试方法、装置、网络设备及存储介质 | |
CN114124404A (zh) | 一种数据处理方法、装置、服务器及存储介质 | |
CN112491737A (zh) | 一种流量数据采集方法及装置 | |
CN109088913B (zh) | 请求数据的方法和负载均衡服务器 | |
CN113377866A (zh) | 一种虚拟化数据库代理服务的负载均衡方法及装置 | |
JP6155861B2 (ja) | データ管理方法、データ管理プログラム、データ管理システム及びデータ管理装置 | |
CN116436978B (zh) | 面向云计算的内存分配方法、内存获取方法、装置和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |