CN114900526B - 负载均衡方法及系统、计算机存储介质、电子设备 - Google Patents

Abstract

本公开涉及云计算技术领域，提供了一种负载均衡方法、负载均衡系统、介质、设备，其中，所述系统包括：预配置云主机资源池，所述云主机资源池中包括多个云主机，各所述云主机关联一预分配的IP段，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接。本公开提供了一种适用范围更广的负载均衡解决方案。

Description

负载均衡方法及系统、计算机存储介质、电子设备

技术领域

本公开涉及云计算技术领域，特别涉及一种负载均衡方法、负载均衡系统、计算机存储介质及电子设备。

背景技术

私有云裸金属架构(相对云上环境而言)上部署的Kubernetes集群，通常是无法使用LoadBalancer类型的服务的。因为Kubernetes本身没有为裸机群集提供网络负载均衡器(类型为LoadBalancer的服务)的实现。如果Kubernetes集群没有在公有云的IaaS(Infrastructure as a Service，基础设施即服务)平台上运行，则LoadBalancers将在创建时无限期地保持“挂起”状态，也就是说只有公有云厂商自家的Kubernetes支持LoadBalancer。

目前，一般是通过MetalLB负载均衡器来解决私有裸金属集群无法使用LoadBalancer类型服务的问题，MetalLB支持通过两种方式，即Layer2模式和BGP(BorderGateway Protocol，边界网关协议)模式。然而，Layer2模式存在因单点转发所导致的网络带宽受限问题，BGP模式无法有效应对节点故障，当某一节点宕机时会导致所有节点停止工作。

鉴于此，本领域亟需开发一种新的负载均衡方法及系统。

需要说明的是，上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。

发明内容

本公开的目的在于提供一种负载均衡方法、负载均衡系统、计算机存储介质及电子设备，进而至少在一定程度上克服了相关技术中需要借助负载均衡设备才能实现负载均衡功能的问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的第一方面，提供一种负载均衡方法，预配置云主机资源池，所述云主机资源池中包括多个云主机，各所述云主机关联一预分配的IP段，所述方法包括：响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机。

在本公开的示例性实施例中，所述方法还包括：周期性监测所述目标云主机的运行状态；响应于监测到所述目标云主机的运行状态异常，将所述目标云主机标记为不可调度状态；从所述云主机资源池中选取所述目标云主机的备用云主机，以通过所述备用云主机接替所述目标云主机。

在本公开的示例性实施例中，所述备用云主机满足以下条件：所述备用云主机的运行状态正常，且，所述备用云主机中空闲IP的数目满足预设数目条件。

在本公开的示例性实施例中，所述方法还包括：将所述目标云主机上存储的数据迁移至所述备用云主机上；从所述备用云主机关联的IP段中选取空闲IP，将所述空闲IP发送至域名服务器，以使所述域名服务器将所述目标云主机的空闲IP与所述域名的映射关系变更为所述备用云主机的空闲IP与所述域名的映射关系；将所述备用云主机标记为可调度状态，以通过所述备用云主机接替所述目标云主机。

根据本公开的第二方面，提供一种负载均衡方法，应用于目标云主机，所述方法包括：接收客户端通过预先创建的负载均衡实例发送的业务请求；基于所述负载均衡实例所关联的负载均衡策略，将所述业务请求转发至指定的后端服务。

在本公开的示例性实施例中，所述方法还包括：周期性监测所述后端服务的运行状态；响应于监测到所述后端服务的运行状态异常，则删除所述后端服务上存储的数据，并将所述后端服务标记为不可调度状态。

在本公开的示例性实施例中，所述后端服务的运行状态通过以下一个或多个参数确定：CPU占用率、内存占用率、磁盘占用率。

根据本公开的第三方面，提供一种负载均衡系统，包括：云主机管理模块和云主机资源池；所述云主机管理模块用于管理预配置的云主机资源池，所述云主机资源池中包括多个云主机，各所述云主机关联一预分配的IP段；所述云主机管理模块，用于响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机；所述目标云主机，用于接收客户端通过所述负载均衡实例发送的业务请求；基于所述负载均衡实例关联的负载均衡策略，将所述业务请求转发至指定的后端服务。

根据本公开的第四方面，提供一种计算机存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面和第二方面所述的负载均衡方法。

根据本公开的第五方面，提供一种电子设备，包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器配置为经由执行所述可执行指令来执行上述第一方面和第二方面所述的负载均衡方法。

由上述技术方案可知，本公开示例性实施例中的负载均衡方法、负载均衡系统、计算机存储介质及电子设备至少具备以下优点和积极效果：

在本公开的一些实施例所提供的技术方案中，一方面，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机，从各云主机对应的IP段中选取一空闲IP，并调用域名服务器存储至少两个空闲IP对应的域名，将域名返回至客户端，能够避免每次调用单个云主机进行请求转发所导致的当该云主机故障时导致业务中断的技术问题，提高系统的应急处理能力。进一步的，将目标ip关联至负载均衡实例，以使客户端通过负载均衡实例与目标云主机建立连接，提供了一种无需借助负载均衡设备便能实现负载均衡功能的新方案，降低了运维投入。

本公开应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本公开实施例中负载均衡方法的流程示意图；

图2示出本公开实施例中云主机管理模块对目标云主机进行故障监测的流程示意图；

图3示出本公开实施例中如何更新备用云主机的状态，以使备用云主机接替目标云主机的流程示意图；

图4示出本公开实施例中在云主机资源池中添加云主机的流程示意图；

图5示出本公开实施例中从云主机资源池中剔除故障云主机的流程示意图；

图6示出本公开实施例中创建负载均衡实例的流程示意图；

图7示出本公开实施例中删除负载均衡实例的流程示意图；

图8示出本公开实施例中如何管理云主机的流程示意图；

图9示出本公开实施例中云环境的负载均衡系统的结构示意图；

图10示出本公开示例性实施例中电子设备的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

本说明书中使用用语“一个”、“一”、“该”和“所述”用以表示存在一个或多个要素/组成部分/等；用语“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等；用语“第一”和“第二”等仅作为标记使用，不是对其对象的数量限制。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。

IaaS是一种云计算交付模式，它用虚拟化操作系统、工作负载管理软件、硬件、网络和存储服务的形式交付计算资源。它也可以包括操作系统和虚拟化技术到管理资源的交付。负载均衡器是一种把网络请求分散到一个服务器集群中的可用服务器上去，通过管理进入的Web(World Wide Web，全球广域网)数据流量和增加有效的网络带宽。

在私有云环境中通常没有云上环境所提供的LoadBalancer(当访问量很大的时候，用于分配任务给不繁忙的服务器)支持，因此，Kubernetes集群无法使用LoadBalancer类型的服务。

目前，为解决裸金属Kubernetes集群无法使用LoadBalancer类型服务的问题，通常会使用MetalLB。MetalLB是一个负载均衡器，专门解决裸金属Kubernetes集群中无法使用LoadBalancer类型服务的痛点。MetalLB使用标准化的路由协议，以便裸金属Kubernetes集群上的外部服务也尽可能地工作，即MetalLB能够帮助你在裸金属Kubernetes集群中创建LoadBalancer类型的Kubernetes服务。

MetalLB支持通过两种方式对外发布已分配的External IP，即Layer2模式和BGP模式。其中，在Layer2模式下，分配的External IP将会绑定在一个Node节点机器网卡上，通过ARP(地址发现协议)宣告此External IP，使其在本地网络中可达，此方式能够适用于任何以太网环境。BGP模式可以实现跨多节点负载均衡，还可以基于BGP的策略机制实现细粒度的流量控制。

然而，MetalLB的Layer2模式会存在单点问题，服务的所有流量经由单点转发，其网络带宽也可能会成为瓶颈。另外，Layer2模式需要ARP客户端配合，当故障转移发生时，MetalLB会发送ARP包宣告IP和MAC地址映射的变化，地址分配流程略为繁琐。

MetalLB的BGP模式，不能优雅处理故障转移，当某个持有External IP的节点宕机后，所有活动链接的客户端将收到“通信对端关闭连接”通知。另外，BGP路由器对数据包的源IP(Internet Protocol，网际互连协议)、目的IP、协议类型进行简单的哈希，并依据哈希值觉得决定发给哪个节点。而Kubernetes集群节点是不稳定的，当某个持有External IP的节点宕机时，大部分的活动链接会因为rehash(重新哈希处理)而导致不可用。

在本公开的实施例中，首先提供了一种负载均衡方法，至少在一定程度上克服相关技术中需要借助负载均衡设备才能实现负载均衡功能的问题。

图1示出本公开实施例中负载均衡方法的流程示意图，该负载均衡方法的执行主体可以是部署云主机管理模块的服务器。

参考图1，根据本公开的一个实施例的负载均衡方法包括以下步骤：

步骤S110，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；负载均衡实例用于对外提供客户端的访问入口；

步骤S120，从各候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个空闲IP对应的域名；其中，至少两个空闲IP对应同一域名；

步骤S130，将域名返回至客户端，以使客户端从域名服务器中获取到域名对应的目标IP；目标IP为至少两个空闲IP中任一；

步骤S140，基于目标IP创建负载均衡实例，以使客户端通过负载均衡实例与目标云主机建立连接；目标IP为负载均衡实例的IP，目标云主机为目标IP对应的候选云主机。

在图1所示实施例所提供的技术方案中，一方面，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机，从各云主机对应的IP段中选取一空闲IP，并调用域名服务器存储至少两个空闲IP对应的域名，将域名返回至客户端，能够避免每次调用单个云主机进行请求转发所导致的当该云主机故障时导致业务中断的技术问题，提高系统的应急处理能力。进一步的，将目标ip关联至负载均衡实例，以使客户端通过负载均衡实例与目标云主机建立连接，提供了一种无需借助负载均衡设备便能实现负载均衡功能的新方案，降低了运维投入。

以下对图1中的各个步骤的具体实现过程进行详细阐述：

负载均衡(Load Balance)指将负载(工作任务)进行平衡、分摊到多个单元上运行，从而提高并发处理能力。负载均衡的作用在于：第一，解决并发压力，提高应用处理性能(增加吞吐量，加强网络处理能力)；第二，提供故障转移，实现高可用；第三，通过添加或者减少服务器数量，提供网站伸缩性(扩展性)；第四，安全防护。

在本公开的示例性实施例中，可以预先配置云主机资源池，具体的，可以预先创建多个云主机，以形成云主机资源池(即云主机资源池中包括多个云主机)。

示例性的，在各个云主机创建完成之后，可以为每个云主机分配一IP段(每个IP段包含多个IP地址，例如：从192.168.0.1到192.168.255.255这就是一个IP段)，并在各个云主机上启动负载均衡服务。进一步的，可以向IaaS发送通知消息，以使IssS将该IP段的下一跳指向该云主机。

在配置好云主机资源池之后，若接收到负载均衡实例创建请求，则可以进入步骤S110，在步骤S110中，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；负载均衡实例用于对外提供客户端的访问入口。

本步骤中，在云主机管理模块接收到负载均衡实例创建请求时，可以从云主机资源池中调度至少两个候选云主机。通过调度至少两个候选云主机，能够保证在任一候选云主机故障时，有备用的云主机，保证业务的正常运行。

其中，负载均衡实例是一个运行的负载均衡服务，用于对外提供客户端的访问入口。

示例性的，可以根据随机算法从上述云主机资源池中调度至少两个候选云主机，或者，以预设的轮询调度算法从云主机资源池中调度至少两个候选云主机，可以根据实际情况自行设定，本公开对此不作特殊限定。

在步骤S120中，从各候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个空闲IP对应的域名；其中，至少两个空闲IP对应同一域名。

本步骤中，在从云主机资源池中调度至少两个候选云主机之后，云主机管理模块可以从各个候选云主机对应的IP段中各选取一空闲IP。进而，可以将上述空闲IP绑定在候选云主机的回送地址上，其中，回送地址(loopback address)即主机IP堆栈内部的IP，主要用于网络软件测试以及本地机进程间通信，无论什么程序，一旦使用回送地址发送数据，协议软件立即返回之，不进行任何网络传输。

在选取上述空闲IP之后，可以根据域名规则生成上述空闲IP对应的域名(所有的空闲IP对应同一域名)，进而，可以调用DNS域名服务器存储上述空闲IP与域名之间的映射关系，并将生成的域名返回至Kubernetes集群。示例性的，以选取出来的空闲IP为IP_1和IP_2，生成的域名为dn1为例进行说明，参考表1，表1示出DNS域名服务器中所存储的空闲IP与域名之间的映射关系。

表1

空闲IP	域名
		IP_1	dn1
IP_2	dn1

通过利用DNS域名服务器存储空闲IP与域名之间的映射关系，使得使用者只需了解易记的域名地址，而无需记忆一长串的IP(不直观，用户记忆十分不方便)。举例而言，当用户在浏览器中输入域名时，浏览器可以将域名转发至DNS域名服务器，以使DNS域名服务器确定域名对应的IP，待DNS域名服务器将IP返回给浏览器时，浏览器可以根据IP发出请求。

示例性的，可以基于以下命名规则为上述空闲IP注册域名：$lbname.$lbnamespace.$suffix。其中，lbname为负载均衡标识，示例性的，可以为序号或昵称；lbnamespace为负载均衡所属的组别，示例性的，可以把云主机资源池中的云主机分为多组，每组对应一个组别标识，则lbnamespace可以是候选云主机所属的组别标识；suffix为用户约定的私网子域名，可以根据实际情况自行设定，本公开对此不作特殊限定。

在步骤S130中，将域名返回至客户端，以使客户端从域名服务器中获取到域名对应的目标IP；目标IP为至少两个空闲IP中任一。

本步骤中，在注册好域名之后，可以将注册好的域名返回至客户端，进而，客户端可以向DNS域名服务器发送域名解析请求，以从DNS域名服务器中获取到上述域名对应的目标IP。具体的，域名服务器在接收到上述域名之后，可以通过随机或轮询的方式从上述域名所对应的空闲IP中选取一目标IP(例如：从表1中的IP_1和IP_2中选取IP_1作为目标IP)，并将上述目标IP返回至上述客户端。

在步骤S140中，基于目标IP创建负载均衡实例，以使客户端通过负载均衡实例与目标云主机建立连接；目标云主机为目标IP对应的候选云主机。

本步骤中，在确定出目标IP之后，可以基于上述目标IP创建负载均衡实例(由于负载均衡实例可以对外提供客户端的访问入口，从而，当确定了域名对应的目标IP后，相当于确定了与域名对应的负载均衡实例)，进而，客户端可以通过负载均衡实例与目标IP对应的目标云主机建立连接。

在与目标云主机建立连接之后，客户端可以向上述目标IP发送业务请求。目标云主机在接收到上述业务请求之后，可以根据上述负载均衡实例中所包含的负载均衡策略，将上述业务请求转发至指定的后端服务，以实现负载均衡功能。

其中，上述业务请求为客户端发出的，用于请求访问互联网或请求网络资源端，业务请求也可以称之为服务请求报文、访问请求报文、访问请求数据包、服务请求数据包、访问请求等，可以根据实际情况自行设定，本公开对此不作特殊限定。

示例性的，上述负载均衡策略可以是以下任意一种：

①轮询：对所有的后端服务轮询发送业务请求；

②最少连接及最少加权连接：最少连接(Least Connections)是在多个服务器中，与处理连接数(会话数)最少的服务器进行通信的算法。即使在每台服务器处理能力各不相同，每笔业务处理量也不相同的情况下，也能够在一定程度上降低服务器的负载。加权最少连接(Weighted Least Connection)为最少连接算法中的每台服务器附加权重的算法，该算法事先为每台服务器分配处理连接的数量，并将业务请求转至连接数最少的服务器上。

③随机算法：Random随机，按权重设置随机概率。在一个截面上碰撞的概率高，但调用量越大分布越均匀，而且按概率使用权重后也比较均匀，有利于动态调整提供者权重。

④IP散列：通过管理发送方IP和目的地IP的散列，将来自同一发送方的分组(或发送至同一目的地的分组)统一转发到相同服务器的算法。当客户端有一系列业务需要处理而必须和一个服务器反复通信时，该算法能够以流(会话)为单位，保证来自相同客户端的通信能够一直在同一服务器中进行处理。

⑤URL(Uniform Resource Locator，统一资源定位符)散列：通过管理客户端请求URL信息的散列，将发送至相同URL的请求转发至同一服务器的算法。

在本公开的示例性实施例中，上述目标云主机还可以周期性监测各后端服务的运行状态，示例性的，可以获取各个后端服务的CPU(Central Processing Unit，中央处理)占用率、内存占用率、磁盘占用率等参数，其中，上述参数均可以通过后端服务自带的任务管理器来获取，进而，可以根据上述参数确定后端服务的运行状态。示例性的，当CPU占用率/内存占用率/磁盘占用率大于或等于预设阈值时，可以确定上述后端服务的运行状态异常，当上述CPU占用率/内存占用率/磁盘占用率均小于上述预设阈值时，可以确定上述后端服务的运行状态正常。

从而，在监测出上述后端服务的运行状态异常时，可以将上述后端服务上存储的数据进行备份，进而，将该运行状态异常的后端服务剔除。

在本公开的示例性实施例中，上述云主机管理模块还可以对目标云主机进行故障监测，具体的，参考图2，图2示出本公开实施例中云主机管理模块对目标云主机进行故障监测的流程示意图，包含步骤S201-步骤S203：

在步骤S201中，周期性监测目标云主机的运行状态。

本步骤中，上述云主机管理模块可以周期性监测上述目标云主机的运行状态。示例性的，云主机管理模块可以每间隔2秒(具体时长可以根据实际实际情况自行设定，本公开对此不作特殊限定)向目标云主机发送一心跳检测报文，根据是否接收到该目标云主机的心跳响应报文来确定该目标云主机的运行状态是否正常。示例性的，若在预设时长内接收到上述目标云主机返回的心跳响应报文，则可以确定该目标云主机的运行状态正常，否则，确定出上述目标云主机的运行状态异常。

在步骤S202中，响应于监测到目标云主机的运行状态异常，将目标云主机标记为不可调度状态。

本步骤中，若监测到目标云主机的运行状态异常，则可以判断该目标云主机所绑定的IP段是否均已被释放(即当前时刻该IP段中所包含的多个IP均未被占用)，若是，则可以执行以下步骤S203，否则，可以执行等待逻辑，待上述IP段中的各IP均被释放之后，执行以下步骤S203。

在步骤S203中，从云主机资源池中选取目标云主机的备用云主机，以通过备用云主机接替目标云主机。

本步骤中，云主机管理模块可以从上述云主机资源池中选取目标云主机的备用云主机，以通过备用云主机接替上述目标云主机。

示例性的，云主机管理模块可以根据以下条件从云主机资源池中选取上述备用云主机：首先，筛选出所有运行状态正常的云主机(以下称第一集合)，进而，确定第一集合中各云主机的空闲IP的数目，从第一集合中筛选出空闲IP的数目满足预设数目条件的云主机(以下称第二集合)，进而，可以从该第二集合中随机选取一云主机作为上述备用云主机。

在选取上述备用云主机之后，可以先将该备用云主机标记为不可调度状态，即对该备用云主机进行上锁，以避免在备用云主机正式接替目标云主机之前的准备期间内，备用云主机的空闲IP被占用，导致空闲IP不足的情况。

在选取上述备用云主机并将备用云主机标记为不可调度状态之后，上述云主机管理模块还可以在将目标云主机上的数据迁移至备用云主机之后，更新备用云主机的状态，进而，控制备用云主机接替上述目标云主机。具体的，参考图3，图3示出本公开实施例中如何更新备用云主机的状态，以使备用云主机接替目标云主机的流程示意图，包含步骤S301-步骤S303：

在步骤S301中，将目标云主机上存储的数据迁移至备用云主机上。

本步骤中，可以将目标云主机上存储的数据迁移至上述备用云主机上。

在步骤S302中，从备用云主机关联的IP段中选取一空闲IP，将空闲IP发送至域名服务器，以使域名服务器将目标云主机的空闲IP与域名的映射关系变更为备用云主机的空闲IP与域名的映射关系。

本步骤中，可以从上述备用云主机上随机选取一空闲IP(例如：IP_3)，并将空闲IP发送至域名服务器，以使域名服务器将目标云主机的空闲IP与域名的映射关系变更为备用云主机的空闲IP与域名的映射关系。

从而，参考表2，上述域名服务器中存储的空闲IP与域名的映射关系变更为：

表2

空闲IP	域名
		IP_2	dn1
IP_3	dn1

从而，在目标云主机故障的情况下，本公开可以在客户端无感知的情况下，通过备用云主机接替该目标云主机，使得客户端仍可以通过域名连接到备用云主机，即客户端的访问形式未发生变化。

在步骤S303中，将备用云主机标记为可调度状态，以通过备用云主机接替目标云主机。

本步骤中，在域名服务器更新其中存储的空闲IP与域名之间的映射关系之后，可以将备用云主机标记为可调度状态，以实现通过备用云主机接替目标云主机。

示例性的，在将备用云主机标记为可调度状态之后，可以向应用方的管理人员发送告警通知，示例性的，告警内容可以是“目标云主机发生故障，已通过备用云主机接替上述目标云主机”，以向上述管理人员说明故障及故障应对情况，需要说明的是，具体的告警内容可以根据实际情况自行设定，本公开对此不作特殊限定。

参考图4，图4示出本公开实施例中在云主机资源池中添加云主机的流程示意图，包含步骤S401-步骤S405：

在步骤S401中，云主机管理模块创建云主机；

在步骤S402中，IPAM(IP管理模块)从Etcd(Etcd是一个高度一致的分布式键值存储，它提供了一种可靠的方式来存储需要由分布式系统或机器集群访问的数据)中获取未被绑定的IP段并发送至云主机管理模块，以使云主机管理模块为云主机绑定一个IP段；并将云主机与IP段的对应关系存储至Etcd中；

在步骤S403中，云主机管理模块初始化负载均衡服务；

在步骤S404中，云主机管理模块将创建好的云主机添加至云主机资源池中；

在步骤S405中，云主机管理模块向IaaS发送通知消息，以使IaaS将该新创建的云主机作为其所绑定的IP段的下一跳。

在创建好云主机之后，若监控到云主机的运行状态异常，则可以将该云主机从上述云主机资源池中剔除。参考图5，图5示出本公开实施例中从云主机资源池中剔除故障云主机的流程示意图，包含步骤S501-步骤S505：

在步骤S501中，开始；

在步骤S502中，云主机管理模块向IPAM发送消息，以使IPAM读取Etcd确定该云主机所绑定的IP段是否被释放；若未释放，则执行等待逻辑；

在步骤S503中，云主机管理模块若判断出IP段被释放，则终止云主机的运行；

在步骤S504中，云主机管理模块终止负载均衡服务；

在步骤S505中，云主机管理模块更新该云主机为不可调度状态；

在步骤S506中，云主机管理模块向IaaS发送通知消息，以使IaaS撤销该云主机所绑定的IP段的下一跳配置。

基于以上实施方式，本公开能够在某个云主机发生故障的时候，快速将其剔除，并利用备用云主机对其进行补位，保障负载均衡性能平稳。

参考图6，图6示出本公开实施例中创建负载均衡实例的流程示意图，包含步骤S601-步骤S606：

在步骤S601中，调度器遍历云主机资源池(向云主机管理模块发送消息，以使云主机管理模块获取云主机信息)；

在步骤S602中，调度器选取空闲IP最多的至少两个云主机两个候选云主机；

在步骤S603中，调度器从各云主机所绑定的IP段中选取空闲IP(向云主机管理模块发送消息，以确定未被占用的空闲)；

在步骤S604中，调度器向云主机管理模块发送状态更新通知，以使云主机管理模块更新云主机的状态为可调度；

在步骤S605中，调度器创建负载均衡实例，存入负载均衡实例池；

在步骤S606中，调度器调用DNS域名服务器，为空闲IP注册域名。

在创建好负载均衡实例之后，可以添加该负载均衡实例，并将空闲IP绑定至本地回送地址上，以及，将负载均衡实例关联的负载均衡策略同步至负载均衡配置中，进而，负载均衡服务管理模块更新负载均衡配置，以重新加载负载均衡服务。

参考图7，图7示出本公开实施例中删除负载均衡实例的流程示意图，包含步骤S701-步骤S705：

在步骤S701中，调度器更新负载均衡实例的状态为删除；

在步骤S702中，调度器注销域名；

在步骤S703中，调度器释放云主机所绑定的(向IPAM发送消息，以使IPAM释放云主机所绑定的)；

在步骤S704中，调度器删除负载均衡实例；

在步骤S705中，调度器向云主机管理模块发送状态更新通知，以使云主机管理模块更新云主机的状态为不可调度。

在删除负载均衡实例之后，负载均衡服务管理模块可以将空闲IP从本地回送地址上解绑，进而，负载均衡服务管理模块可以更新负载均衡配置，以重新加载负载均衡服务。

参考图8，图8示出本公开实施例中如何管理云主机的流程示意图，包含步骤S801-步骤S810：

在步骤S801中，云主机管理模块周期性遍历各云主机；

在步骤S802中，云主机管理模块检测各云主机是否处于正常状态；

若云主机处于正常状态，则进入步骤S803中，云主机管理模块检测负载均衡服务是否处于正常状态；若负载均衡服务处于正常状态，则进入步骤S804中，不动作；否则，进入步骤S805中，触发剔除云主机的机制；

在步骤S806中，云主机管理模块遍历云主机，通过调度器获取云主机信息，以确定故障云主机的备用云主机；

在步骤S807中，云主机管理模块锁定备用云主机；

在步骤S808中，云主机管理模块通过调度器迁移发生故障的目标云主机对应的负载均衡实例；

在步骤S809中，云主机管理模块将备用云主机标记为可调度状态；

在步骤S810中，云主机管理模块向相关管理人员发送告警通知，告警通知中包含故障云主机、备用云主机以及备份的负载均衡实例的相关信息。

基于以上技术方案，本公开提供了一种普遍适用的负载均衡方案，通过预配置云主机资源池，云主机资源池中部署了kubernetes集群，而客户端通过负载均衡实例可以与云主机资源池中的目标云主机建立连接，进而，通过目标云主机实现业务请求的转发。可见，该方案无需借助相关负载均衡设备提供了一种无需借助负载均衡设备便能从外部访问kubernetes集群进而实现负载均衡功能的新方案，适用于所有IaaS厂商的网络环境，降低了运维投入。

本公开还提供了一种负载均衡系统，图9示出本公开实施例中负载均衡系统的结构示意图；如图9所示，负载均衡系统900可以包括云主机管理模块910和云主机资源池920，云主机资源池中包括多个云主机9201，各云主机关联一预分配的IP段。其中：

云主机管理模块910，用于响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标云主机为所述目标IP对应的候选云主机；

所述目标云主机9201，用于接收客户端通过所述负载均衡实例发送的业务请求；基于所述负载均衡实例关联的负载均衡策略，将所述业务请求转发至指定的后端服务。

在本公开的示例性实施例中，云主机管理模块910，被配置为：

周期性监测所述目标云主机的运行状态；

响应于监测到所述目标云主机的运行状态异常，将所述目标云主机标记为不可调度状态；

从所述云主机资源池中选取所述目标云主机的备用云主机，以通过所述备用云主机接替所述目标云主机。

在本公开的示例性实施例中，所述备用云主机满足以下条件：

所述备用云主机的运行状态正常，且，所述备用云主机中空闲IP的数目满足预设数目条件。

在本公开的示例性实施例中，云主机管理模块910，被配置为：

将所述目标云主机上存储的数据迁移至所述备用云主机上；

从所述备用云主机关联的IP段中选取空闲IP，将所述空闲IP发送至域名服务器，以使所述域名服务器将所述目标云主机的空闲IP与所述域名的映射关系变更为所述备用云主机的空闲IP与所述域名的映射关系；

将所述备用云主机标记为可调度状态，以通过所述备用云主机接替所述目标云主机。

在本公开的示例性实施例中，目标云主机9201，被配置为：

周期性监测所述后端服务的运行状态；

响应于监测到所述后端服务的运行状态异常，则删除所述后端服务上存储的数据，并将所述后端服务标记为不可调度状态。

在本公开的示例性实施例中，所述后端服务的运行状态通过以下一个或多个参数确定：CPU占用率、内存占用率、磁盘占用率。

上述负载均衡系统中各模块的具体细节已经在对应的负载均衡方法中进行了详细的描述，因此此处不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。

本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如上述实施例中所述的方法。

此外，在本公开实施例中还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图10来描述根据本公开的这种实施方式的电子设备1000。图10显示的电子设备1000仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图10所示，电子设备1000以通用计算设备的形式表现。电子设备1000的组件可以包括但不限于：上述至少一个处理单元1010、上述至少一个存储单元1020、连接不同系统组件(包括存储单元1020和处理单元1010)的总线1030以及显示单元1040。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元1010执行，使得所述处理单元1010执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，所述处理单元1010可以执行如图1中所示的：步骤S110，响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；步骤S120，从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；步骤S130，将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；步骤S140，基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机。

存储单元1020可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)10201和/或高速缓存存储单元10202，还可以进一步包括只读存储单元(ROM)10203。

存储单元1020还可以包括具有一组(至少一个)程序模块10205的程序/实用工具10204，这样的程序模块10205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线1030可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备1000也可以与一个或多个外部设备1100(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备1000交互的设备通信，和/或与使得该电子设备1000能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口1050进行。并且，电子设备1000还可以通过网络适配器1060与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器1060通过总线1030与电子设备1000的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备1000使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

Claims (10)

1.一种负载均衡方法，其特征在于，预配置云主机资源池，所述云主机资源池中包括多个云主机，各所述云主机关联一预分配的IP段，所述方法包括：

响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；

从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；

将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；

基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

周期性监测所述目标云主机的运行状态；

响应于监测到所述目标云主机的运行状态异常，将所述目标云主机标记为不可调度状态；

从所述云主机资源池中选取所述目标云主机的备用云主机，以通过所述备用云主机接替所述目标云主机。

3.根据权利要求2所述的方法，其特征在于，所述备用云主机满足以下条件：

所述备用云主机的运行状态正常，且，所述备用云主机中空闲IP的数目满足预设数目条件。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

将所述目标云主机上存储的数据迁移至所述备用云主机上；

从所述备用云主机关联的IP段中选取空闲IP，将所述空闲IP发送至域名服务器，以使所述域名服务器将所述目标云主机的空闲IP与所述域名的映射关系变更为所述备用云主机的空闲IP与所述域名的映射关系；

将所述备用云主机标记为可调度状态，以通过所述备用云主机接替所述目标云主机。

5.一种负载均衡方法，其特征在于，应用于目标云主机，所述方法包括：接收客户端通过预先创建的负载均衡实例发送的业务请求；

基于所述负载均衡实例所关联的负载均衡策略，将所述业务请求转发至指定的后端服务；

在接收客户端通过预先创建的负载均衡实例发送的业务请求之前，所述方法还包括，通过云主机管理模块执行以下步骤：

响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；

从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；

将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；

基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

周期性监测所述后端服务的运行状态；

响应于监测到所述后端服务的运行状态异常，则删除所述后端服务上存储的数据，并将所述后端服务标记为不可调度状态。

7.根据权利要求6所述的方法，其特征在于，所述后端服务的运行状态通过以下一个或多个参数确定：CPU占用率、内存占用率、磁盘占用率。

8.一种负载均衡系统，其特征在于，包括：

云主机管理模块和云主机资源池；所述云主机管理模块用于管理预配置的云主机资源池，所述云主机资源池中包括多个云主机，各所述云主机关联一预分配的IP段；

所述云主机管理模块，用于响应于负载均衡实例创建请求，从云主机资源池中调度至少两个候选云主机；所述负载均衡实例用于对外提供客户端的访问入口；从各所述候选云主机对应的IP段中选取一空闲IP，调用域名服务器存储至少两个所述空闲IP对应的域名；其中，至少两个所述空闲IP对应同一域名；将所述域名返回至客户端，以使所述客户端从域名服务器中获取到所述域名对应的目标IP；所述目标IP为所述至少两个空闲IP中任一；基于所述目标IP创建所述负载均衡实例，以使所述客户端通过所述负载均衡实例与目标云主机建立连接；所述目标IP为所述负载均衡实例对应的IP，所述目标云主机为所述目标IP对应的候选云主机；

所述目标云主机，用于接收客户端通过所述负载均衡实例发送的业务请求；基于所述负载均衡实例关联的负载均衡策略，将所述业务请求转发至指定的后端服务。

9.一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至7中任意一项所述的负载均衡方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至7中任意一项所述的负载均衡方法。