CN106686129A - 一种负载均衡方法及系统 - Google Patents

一种负载均衡方法及系统 Download PDF

Info

Publication number
CN106686129A
CN106686129A CN201710058893.9A CN201710058893A CN106686129A CN 106686129 A CN106686129 A CN 106686129A CN 201710058893 A CN201710058893 A CN 201710058893A CN 106686129 A CN106686129 A CN 106686129A
Authority
CN
China
Prior art keywords
load
client
balancing device
destination server
request data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710058893.9A
Other languages
English (en)
Inventor
李东声
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tendyron Corp
Tendyron Technology Co Ltd
Original Assignee
Tendyron Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tendyron Technology Co Ltd filed Critical Tendyron Technology Co Ltd
Priority to CN201710058893.9A priority Critical patent/CN106686129A/zh
Publication of CN106686129A publication Critical patent/CN106686129A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/565Conversion or adaptation of application format or content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明提供一种负载均衡方法及系统,该方法包括:负载均衡设备接收客户端发送的第一请求数据包;并根据客户端与服务器的预设映射关系确定与客户端对应的目标服务器,并获取目标服务器的IP,目标服务器的虚拟IP与负载均衡设备的虚拟IP相同;负载均衡设备对第一请求数据包进行IP封装得到第二请求数据包,IP封装为在第一请求数据包中增加新IP头;以及按照新IP头向目标服务器发送第二请求数据包;目标服务器接收第二请求数据包,对第二请求数据包进行IP解封装,获得第一请求数据包,并对第一请求数据包进行处理,得到响应数据;目标服务器生成响应数据包,并按照响应数据包的IP头向客户端发送响应数据包。

Description

一种负载均衡方法及系统
技术领域
本发明涉及一种数据交互领域,尤其涉及一种负载均衡方法及系统。
背景技术
随着互联网技术的发展,客户端与服务器之间数据交互量也日趋增多,通过部署服务器集群可以有效提高网络服务的效率。现有在网络集群中通常会设置负载均衡设备,用来将客户端的数据包根据负载均衡算法分配到同一集群中的各个服务器中。一般情况下,客户端发起一次业务处理流程,例如一次交易流程通常需要与服务器进行多次数据交互,例如一次交易流程中可能会涉及到输入登录密码、输入金额、输入支付密码等等多次交互。
然而,采用现有的负载均衡算法,负载均衡设备可能会将同一客户端的一次业务处理流程中发起的多次数据交互分配给不同的服务器,从而导致该客户端的业务处理流程中断,例如在客户端发送登录请求时,负载均衡设备为该客户端分配服务器A来处理登录请求,服务器A验证该客户端的登录请求并通过后发送登录成功响应给客户端,接着客户端发送支付请求,此时,采用现有负载均衡算法负载均衡设备可能分配服务器B来处理支付请求,由于服务器B没有对客户端的登录请求进行过验证,此时服务器B可能会向客户端返回需要重新进行登录的响应,从而导致客户端本次的交易流程异常中断。
发明内容
本发明旨在解决上述问题。
本发明的主要目的在于提供一种负载均衡方法;
本发明的另一目的在于提供一种负载均衡系统。
为达到上述目的,本发明的技术方案具体是这样实现的:
本发明一方面提供了一种负载均衡方法,包括:负载均衡设备接收客户端发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述负载均衡设备的虚拟IP;所述负载均衡设备根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;所述目标服务器基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器的虚拟IP、目的IP为所述客户端的IP。
本发明一方面还提供一种负载均衡方法,包括:前置负载均衡设备接收客户端发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述前置负载均衡设备的IP;所述前置负载均衡设备基于所述原始请求数据包生成第一请求数据包,并根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,并向所述负载均衡设备发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述负载均衡设备的虚拟IP;所述负载均衡设备接收所述第一请求数据包;所述负载均衡设备根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;所述目标服务器基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器的虚拟IP、目的IP为所述前置负载均衡设备的IP;所述前置负载均衡设备接收所述响应数据包,并按照转发IP头向所述客户端转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述客户端的IP。
其中,所述负载均衡设备确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP包括:所述负载均衡设备在客户端与服务器的预设映射关系中查找是否与所述客户端对应的目标服务器;若未查找到,则所述负载均衡设备为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;若查找到,则所述负载均衡设备获取所述目标服务器的IP。
其中,所述负载均衡设备为所述客户端分配目标服务器,包括:所述负载均衡设备获取所述目标服务器的可用连接数;根据所述目标服务器的可用连接数为所述客户端分配目标服务器。
其中,还包括:所述负载均衡设备更新所述目标服务器的可用连接数;所述负载均衡设备更新所述目标服务器的可用连接数包括:所述负载均衡设备在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;或者,所述负载均衡设备接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;或者,所述负载均衡设备接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;或者,所述负载均衡设备定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
其中,所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。
本发明另一方面提供一种负载均衡系统,包括:负载均衡设备,用于接收客户端发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述负载均衡设备的虚拟IP,并用于根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;以及还用于按照所述新IP头向所述目标服务器发送所述第二请求数据包;所述目标服务器,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据,以及基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器的虚拟IP、目的IP为所述客户端的IP。
本发明另一方面还提供一种负载均衡系统,包括:前置负载均衡设备,用于接收客户端发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述前置负载均衡设备的IP;以及基于所述原始请求数据包生成第一请求数据包,并根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,并向所述负载均衡设备发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述负载均衡设备的虚拟IP;所述负载均衡设备,用于接收所述第一请求数据包;并根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;以及还用于按照所述新IP头向所述目标服务器发送所述第二请求数据包;所述目标服务器,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;并基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器的虚拟IP、目的IP为所述前置负载均衡设备的IP;所述前置负载均衡设备,还用于接收所述响应数据包,并按照转发IP头向所述客户端转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述客户端的IP。
其中,所述负载均衡设备,具体用于查找是否与所述客户端对应的目标服务器;所述负载均衡设备,具体还用于若未查找到,则为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;所述负载均衡设备,具体还用于若查找到,则所述负载均衡设备获取所述目标服务器的IP。
其中,所述负载均衡设备,具体用于获取所述目标服务器的可用连接数;并根据所述目标服务器的可用连接数为所述客户端分配目标服务器。
其中,所述负载均衡设备,还用于更新所述目标服务器的可用连接数;所述负载均衡设备,具体用于在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;或者,所述负载均衡设备,具体用于接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;或者,所述负载均衡设备,具体用于接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;或者,所述负载均衡设备,具体用于定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
其中,所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。
采用本发明提供的技术方案,在客户端的一次业务处理流程中,负载均衡设备接收到客户端的请求数据包后,按照该客户端与目标服务器的预设映射关系可以每次为该客户端确定同一个目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他附图。
图1为本发明实施例1提供的负载均衡方法的流程图;
图2为本发明实施例1提供的负载均衡系统的结构示意图;
图3为本发明实施例2提供的负载均衡方法的流程图;
图4为本发明实施例2提供的负载均衡系统的结构示意图。
具体实施方式
下面结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明的保护范围。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或数量或位置。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
下面将结合附图对本发明实施例作进一步地详细描述。
实施例1
本实施例中,负载均衡设备连接至一个或多个服务器,负载均衡设备与该一个或多个服务器属于同一网络集群,具有相同的虚拟IP(Internet Protocol、网络之间互连的协议)地址。该负载均衡设备在接收到客户端发送的数据包时,采用本发明的负载均衡方法从多个服务器中确定与客户端对应的目标服务器,并将来自客户端的数据包发送至目标服务器。
本实施例提供一种负载均衡方法,如图1所示,该方法包括如下步骤:
101、负载均衡设备接收客户端发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述负载均衡设备的虚拟IP;
其中,该客户端可以是读卡器、手机、个人电脑、电子签名设备、智能手环等具有网络通信功能的设备。
客户端与所述负载均衡设备可以处于同一局域网,也可以处于不同的网络环境中。可以理解的是,当客户端与负载均衡设备处于不同网络环境中,客户端与负载均衡设备需要借助网关、路由器等网络中转设备进行数据交互。
102、所述负载均衡设备根据客户端与目标服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;
其中,目标服务器可以对客户端发送的数据进行处理的设备。例如,客户端为身份证读卡器时,客户端向目标服务器发送身份证读取请求时,目标服务器可以对该身份证读取请求进行处理响应,以返回相应的身份证信息。
客户端与目标服务器的预设映射关系可以为客户端的唯一标识信息与服务器的IP的对应关系。该客户端与目标服务器的预设映射关系可以采用列表的形式存储在负载均衡设备上。
由于客户端与目标服务器在进行一次业务处理流程(例如一次交易流程)中可能存在多次数据交互,负载均衡设备通过该客户端与目标服务器的预设映射关系可以每次为同一客户端确定相同的目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。
103、所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;
其中,由于该负载均衡设备和目标服务器属于同一网络集群,该负载均衡设备的IP可以为负载均衡设备在该集群内局域网的IP,该目标服务器的IP可以是该目标服务器在该集群内局域网的IP。
负载均衡设备采用IP封装技术对第一请求数据包进行IP封装得到第二请求数据包后,该第二请求数据包将具备两个IP头,其中一个为新IP头,用于指示负载均衡设备按照新IP头中的目的IP进行数据发送,另一个为第一请求数据包的IP头,该IP头用于指示目标服务器处理完数据后,发送响应数据包时将该IP头中的源IP作为目的IP进行数据返回。
104、所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;
105、所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;
目标服务器接收到第二请求数据包后,由于新IP头中目的IP与自身IP匹配,则会执行IP解封装操作,以获得第一请求数据包,而第一请求数据包的IP头中目的IP为所述负载均衡设备的虚拟IP,而负载均衡设备的虚拟IP和目标服务器的虚拟IP相同,目标服务器也会确定该第一请求数据包的IP头中目的IP与自身IP匹配,则会对所述第一请求数据包进行处理,得到响应数据。
本实施例中,若负载均衡设备的虚拟IP和目标服务器的虚拟IP不相同,则目标服务器获得第一请求数据包后,由于第一请求数据包的IP头中目的IP为所述负载均衡设备的虚拟IP,目标服务器会判定该第一请求数据包的目的IP与目标服务器自身的IP不同,因而,目标服务器不会对第一请求数据包进行处理,从而导致客户端与目标服务器的数据交互出现异常。可见,本实施例中,将负载均衡设备的虚拟IP和目标服务器的虚拟IP设置为相同的虚拟IP,可以保证目标服务器接收到第二请求数据包并进行IP解封装后,对第一请求数据包进行正常处理。
106、所述目标服务器基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器的虚拟IP、目的IP为所述客户端的IP。
采用本实施例提供的负载均衡方法,一方面,在客户端的一次业务处理流程中,负载均衡设备接收到客户端的请求数据包后,按照该客户端与目标服务器的预设映射关系可以每次为该客户端确定同一个目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。另一方面,负载均衡设备接收到请求数据包后,采用IP封装技术对请求数据包进行IP封装后发送给目标服务器,目标服务器采用IP解封装技术还原出请求数据包,处理后,直接向客户端发送该响应数据包,而不会再通过负载均衡设备,减少了负载均衡设备的数据处理量,提高负载均衡设备处理请求数据包的处理能力。
由于负载均衡设备与服务器属于同一集群,当客户端与负载均衡设备采用TCP/IP协议(Transmission Control Protocol/Internet Protocol、传输控制协议/因特网互联协议)进行数据通信时,为避免客户端向负载均衡设备发送的请求数据包也被各个服务器直接接收到,本实施例中,在客户端向负载均衡设备发送第一请求数据包之前,可以配置各个服务器对接收到的MAC(Media Access Control、媒体访问控制)查询请求不进行MAC响应,例如,同一集群中的各个服务器接收MAC响应关闭指示信息,所述MAC响应关闭指示信息用于指示所述目标服务器对接收到的MAC查询请求不进行响应处理。而,同一集群中的负载均衡设备仍会正常对接收到的MAC请求进行响应。因而,当客户端发送MAC查询请求时,同一集群中的负载均衡设备正常进行MAC响应,也就是将自身的MAC地址返回给客户端,后续客户端可以与该负载均衡设备进行正常的数据交互。而,同一集群中的各个服务器由于不会进行MAC响应,因而客户端也无法收到各个服务器的MAC地址,后续客户端也无法直接向各个服务器直接发送请求数据包。
在本实施例的一种可选实现方式中,所述负载均衡设备确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP具体实现如下:所述负载均衡设备在客户端与服务器的预设映射关系中查找是否与所述客户端对应的目标服务器;若未查找到,说明负载均衡设备之前并没有记录该客户端与服务器的对应关系,例如首次给该客户端分配服务器时,则所述负载均衡设备为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;若查找到,说明负载均衡设备已经为该客户端分配过服务器,并记录在客户端与服务器的预设映射关系中,为保证该客户端业务处理流程的连续性,继续为该客户端分配同一服务器,则所述负载均衡设备获取所述目标服务器的IP。
本实施例中,属于同一集群中的负载均衡设备和服务器,负载均衡设备获取服务器的IP可以通过如下方式实现:例如,在负载均衡设备中预先配置各个服务器的IP,适用于服务器的IP为固定IP的场景;又如,负载均衡设备向服务器发送IP地址获取请求,接收服务器发送的服务器的IP,可以适用于服务器的IP为固定IP的场景,也可以适用于服务器的IP为动态IP的场景。
本实施例中,在客户端与服务器的预设映射关系中记录的是所述客户端的唯一标识信息与所述目标服务器的IP的对应关系,其中,所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;客户端在发送第一请求数据包时,在该第一请求数据包中携带IP地址和端口号,负载均衡设备可以从该第一请求数据包中获得该IP地址和端口号,并使用该IP地址和端口号唯一表示客户端;或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;客户端可以通过MAC响应向负载均衡设备发送客户端的MAC地址,负载均衡设备可以从MAC响应中获得该客户端的MAC地址;或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。不可逆运算例如可以是哈希运算,当然也可以为其他的不可逆运算,只要保证不同的数据经过不可逆运算后得到的数值互不相同即可。客户端的唯一标识信息采用不可逆运算得到的数值进行存储时,可以减少存储的数据量,另一方面由于不可逆运算获得的数值具有不可逆性,可以增加数据存储的安全性。
在本实施例的一种可选实现方式中,所述负载均衡设备为所述客户端分配目标服务器的实现方式如下:所述负载均衡设备获取所述目标服务器的可用连接数;根据所述目标服务器的可用连接数为所述客户端分配目标服务器。具体应用时,负载均衡设备可以维护并实时更新服务器状态表,该状态表中记载有各个服务器的实时状态,该各个服务器与负载均衡设备属于同一网络集群。初始时,负载均衡设备获取各个服务器的状态,该状态可以是各个服务器可用连接数,该可用连接数初始值可以为该服务器支持的最大可用连接数。本实施例中,服务器与一个客户端进行一次业务流程时客户端将占用该服务器的一个连接,基于该一个连接,客户端可以与服务器进行多次数据交互以完成一次业务流程(例如交易流程)。各个服务器各自支持的最大可用连接数可以通过预先在负载均衡设备中配置,也可以是各个服务器向负载均衡设备主动上报各自可以支持的最大可用连接数,负载均衡设备收到后保存到服务器状态表中。还可以是,负载均衡设备向各个服务器发送连接数查询请求,以请求服务器将各自的最大可用连接数上报。在此不做限制。
本实施例中,所述负载均衡设备可以通过如下方式更新所述目标服务器的可用连接数:所述负载均衡设备在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;例如,当负载均衡设备将该目标服务器分配给某一客户端时,则该负载均衡设备将该目标服务器的可用连接数相应减少一个。
或者,所述负载均衡设备接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;例如,客户端发送本次业务流程中最后数据包时,在该数据包中增加结束标识,用来指示该数据包为本次业务流程的最后一个数据包,则该目标服务器处理完该数据包后,则目标服务器向负载均衡设备发送结束本次连接通知信息,以通知该负载均衡设备不再需要与客户端进行数据交互,此时将释放一个连接,该负载均衡设备将目标服务器的可用连接数相应增加一个。
或者,所述负载均衡设备接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;客户端结束本次业务流程后,客户端可以向负载均衡设备发送结束本次连接通知信息,以通知负载均衡设备不再需要与服务器进行数据交互,此时将释放一个连接,该负载均衡设备将该目标服务器的可用连接数相应增加一个。
或者,所述负载均衡设备定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
实际应用时,负载均衡设备除了维护服务器的可用连接数外,还可以维护各个服务器的已用连接数,该已用连接数表示各个服务器已经被占用的连接数,当该已用连接数达到服务器的最大可用连接数或者可用连接数减少至零时,则负载均衡设备不再将该服务器分配给客户端,以保证服务器与已经建立连接的客户端之间数据处理的效率,也可以避免服务器超负荷进行数据处理。
本实施例中,负载均衡设备可以实时监测各个服务器的状态,如果服务器处于正常状态可以获得服务器的最大可用连接数、可用连接数和/或已用连接数等等状态信息,以便于均衡向服务器分配客户端,避免整个集群中出现部分服务器所连接的客户端过多甚至超出了该服务器所支持的最大可用连接数,服务器超负荷进行数据处理,而部分服务器处于空闲状态的情况。如果服务器处于故障状态,负载均衡设备可以在服务器状态表中标记该服务器的状态为异常,负载均衡设备在接收到客户单的请求时,也不再将该服务器分配给客户端,以提高客户端和负载均衡设备之间建立数据连接的成功率。
本实施例中,负载均衡设备根据各个服务器的可用连接数为客户端分配服务器,如果某个服务器的可用连接数未减少至零(或者已用连接数未达到最大可用连接数),则负载均衡设备可以将该服务器分配给客户端,如果某个服务器的可用连接数已减少至零(或者已用连接数已达到最大可用连接数),则负载均衡设备不再将该服务器分配给客户端,以保证服务器与已经建立连接的客户端之间数据处理的效率,也可以避免服务器超负荷进行数据处理。
相应地,如图2所示,本实施例还提供一种适用于上述负载均衡方法的负载均衡系统,包括:客户端20、负载均衡设备21和与该负载均衡设备相连的多个服务器(图2中以三个服务器为例,实际应用中不限于此,),目标服务器22是从该多个服务器中选中的,其中:
负载均衡设备21,用于接收客户端20发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端20的IP、目的IP为所述负载均衡设备21的虚拟IP,并用于根据客户端20与服务器的预设映射关系确定与所述客户端20对应的目标服务器22,并获取所述目标服务器22的IP,所述目标服务器22的虚拟IP与所述负载均衡设备21的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备21的IP、目的IP为所述目标服务器22的IP;以及还用于按照所述新IP头向所述目标服务器22发送所述第二请求数据包;其中,客户端20与所述负载均衡设备21可以处于同一局域网,也可以处于不同的网络环境中。可以理解的是,当客户端20与负载均衡设备21处于不同网络环境中,客户端20与负载均衡设备21需要借助网关进行数据交互。客户端20与目标服务器22的预设映射关系可以为客户端20的唯一标识信息与服务器的IP的对应关系。该客户端20与目标服务器22的预设映射关系可以采用列表的形式存储在负载均衡设备21上。目标服务器22是从与该负载均衡设备相连的多个服务器22中选中的。
由于客户端20与目标服务器22在进行一次业务处理流程(例如一次交易流程)中可能存在多次数据交互,负载均衡设备21通过该客户端20与目标服务器22的预设映射关系可以每次为同一客户端20确定相同的目标服务器22,以保证客户端20的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端20确定不同的目标服务器22,进而导致数据处理出现异常的问题。负载均衡设备21采用IP封装技术对第一请求数据包进行IP封装得到第二请求数据包后,该第二请求数据包将具备两个IP头,其中一个为新IP头,用于指示负载均衡设备21按照新IP头中的目的IP进行数据发送,另一个为第一请求数据包的IP头,该IP头用于指示目标服务器22处理完数据后,发送响应数据包时将该IP头中的源IP作为目的IP进行数据返回。
所述目标服务器22,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据,以及基于响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端20发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器22的虚拟IP、目的IP为所述客户端20的IP。其中,目标服务器22接收到第二请求数据包后,由于新IP头中目的IP与自身IP匹配,则会执行IP解封装操作,以获得第一请求数据包,而第一请求数据包的IP头中目的IP为所述负载均衡设备21的虚拟IP,而负载均衡设备21的虚拟IP和目标服务器22的虚拟IP相同,目标服务器22也会确定该第一请求数据包的IP头中目的IP与自身IP匹配,则会对所述第一请求数据包进行处理,得到响应数据。
采用本实施例提供的负载均衡系统,一方面,在客户端的一次业务处理流程中,负载均衡设备接收到客户端的请求数据包后,按照该客户端与目标服务器的预设映射关系可以每次为该客户端确定同一个目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。另一方面,负载均衡设备接收到请求数据包后,采用IP封装技术对请求数据包进行IP封装后发送给目标服务器,目标服务器采用IP解封装技术还原出请求数据包,处理后,直接向客户端发送该响应数据包,而不会再通过负载均衡设备,减少了负载均衡设备的数据处理量,提高负载均衡设备处理请求数据包的处理能力。
本实施例的一种可选实现方式中,所述负载均衡设备21,具体用于查找是否与所述客户端20对应的目标服务器22;
所述负载均衡设备21,具体还用于若未查找到(说明负载均衡设备21之前并没有记录该客户端20与服务器的对应关系,例如首次给该客户端20分配服务器时),则为所述客户端20分配目标服务器22,获取所述目标服务器22的IP,并记录所述客户端20的唯一标识信息与所述目标服务器22的IP的对应关系;
所述负载均衡设备21,具体还用于若查找到(说明负载均衡设备21已经为该客户端20分配过服务器,并记录在客户端20与服务器的预设映射关系中),则所述负载均衡设备21获取所述目标服务器22的IP。
本实施例的一种可选实现方式中,所述负载均衡设备21,具体用于获取所述目标服务器22的可用连接数;并根据所述目标服务器22的可用连接数为所述客户端20分配目标服务器22。该可用连接数初始值可以为该服务器支持的最大可用连接数。本实施例中,服务器与一个客户端20进行一次业务流程时客户端20将占用该服务器的一个连接,基于该一个连接,客户端20可以与服务器进行多次数据交互以完成一次业务流程(例如交易流程)。
本实施例的一种可选实现方式中,所述负载均衡设备21,还用于更新所述目标服务器22的可用连接数;
所述负载均衡设备21,具体用于在为所述客户端20分配目标服务器22之后,更新所述目标服务器22的可用连接数;
或者,所述负载均衡设备21,具体用于接收所述目标服务器22发送的结束本次连接通知信息,更新所述目标服务器22的可用连接数;
或者,所述负载均衡设备21,具体用于接收所述客户端20发送的结束本次连接通知信息,更新所述目标服务器22的可用连接数;
或者,所述负载均衡设备21,具体用于定期向所述目标服务器22发送状态查询请求,接收所述目标服务器22发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器22的可用连接数。
需要说明的是,本系统中负载均衡设备和目标服务器的更多细节描述还可以参见上述负载均衡方法中负载均衡设备和目标服务器的相关描述,在此不再赘述。
实施例2
本实施例与实施例1的区别在于:实施例1中适用于一个网络集群的场景,客户端直接与该网络集群中的负载均衡设备建立通信连接,并通过该网络集群中的负载均衡设备与目标服务器进行数据交互,而本实施例适用的应用场景中设有前置负载均衡设备和多个网络集群,每个网络集群中均设有负载均衡设备和多个服务器,各个网络集群中的负载均衡设备均连接至前置负载均衡设备。为便于理解,本文中前置负载均衡设备也称之为一级负载均衡设备,各个网络集群中的负载均衡设备称之为二级负载均衡设备,二级负载均衡设备连接至各自所属网络集群中的服务器。客户端首先向前置负载均衡设备发送数据包,由前置负载均衡设备从多个网络集群中选中一个网络集群中的负载均衡设备,之后该选中的负载均衡设备为该客户端分配目标服务器,并将数据包发送至目标服务器。下面将对本实施例提供的负载均衡方法进行详细介绍:
如图3所示,本实施例提供一种负载均衡方法,包括:
301、前置负载均衡设备接收客户端发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述前置负载均衡设备的IP;
其中,该客户端可以是读卡器、手机、个人电脑、电子签名设备、智能手环等具有网络通信功能的设备。
其中,客户端与所述前置负载均衡设备可以处于同一局域网,也可以处于不同的网络环境中。可以理解的是,当客户端与前置负载均衡设备处于不同网络环境中,客户端与前置负载均衡设备需要借助网关、路由器等网络中转设备进行数据交互。
302、所述前置负载均衡设备基于所述原始请求数据包生成第一请求数据包,并根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,并向所述负载均衡设备发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述负载均衡设备的虚拟IP;
其中,前置负载均衡设备的IP为真实的IP,客户端通过前置负载均衡设备的IP可以将数据包发送至该前置负载均衡设备。
前置负载均衡设备与各个网络集群中的负载均衡设备可以处于同一局域网中,此时负载均衡设备的IP和各个网络集群终端中的负载均衡设备的虚拟IP可以为该局域网内的IP。
本实施例中,该客户端与负载均衡设备的预设映射关系可以采用列表的形式存储在前置负载均衡设备中,客户端与负载均衡设备的预设映射关系可以为客户端的唯一标识信息与负载均衡设备的虚拟IP之间的对应关系。
当该客户端首次向前置负载均衡设备发送原始请求数据包时,前置负载均衡设备按照预设负载均衡算法(例如,随机分配算法、或者特定类型的客户端分配给固定的某个网络集群等等)从多个网络集群中选择某一个网络集群中的负载均衡设备,并将该负载均衡设备分配给该客户端,同时将该客户端的唯一标识信息与该负载均衡设备的虚拟IP的对应关系记录在所述客户端与负载均衡设备的预设映射关系中,并存储在前置负载均衡设备中,以便于后续该客户端再次发送数据包时,前置负载均衡设备可以根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,从而可以将该数据包发送至同一负载均衡设备,以保证数据交互的连续性。
303、所述负载均衡设备接收所述第一请求数据包;
304、所述负载均衡设备根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;
其中,客户端与目标服务器的预设映射关系可以为客户端的唯一标识信息与服务器的IP的对应关系。该客户端与目标服务器的预设映射关系可以采用列表的形式存储在负载均衡设备上。
由于客户端与目标服务器在进行一次业务处理流程(例如一次交易流程)中可能存在多次数据交互,负载均衡设备通过该客户端与目标服务器的预设映射关系可以每次为同一客户端确定相同的目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。
305、所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;
其中,由于该负载均衡设备和目标服务器属于同一网络集群,该负载均衡设备的IP可以为负载均衡设备在该集群内局域网的IP,该目标服务器的IP可以是该目标服务器在该集群内局域网的IP。
负载均衡设备采用IP封装技术对第一请求数据包进行IP封装得到第二请求数据包后,该第二请求数据包将具备两个IP头,其中一个为新IP头,用于指示负载均衡设备按照新IP头中的目的IP进行数据发送,另一个为第一请求数据包的IP头,该IP头用于指示目标服务器处理完数据后,发送响应数据包时将该IP头中的源IP作为目的IP进行数据返回。
306、所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;
307、所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;
目标服务器接收到第二请求数据包后,由于新IP头中目的IP与自身IP匹配,则会执行IP解封装操作,以获得第一请求数据包,而第一请求数据包的IP头中目的IP为所述负载均衡设备的虚拟IP,而负载均衡设备的虚拟IP和目标服务器的虚拟IP相同,目标服务器也会确定该第一请求数据包的IP头中目的IP与自身IP匹配,则会对所述第一请求数据包中携带的数据进行处理,得到响应数据。
本实施例中,若负载均衡设备的虚拟IP和目标服务器的虚拟IP不相同,则目标服务器获得第一请求数据包后,由于第一请求数据包的IP头中目的IP为所述负载均衡设备的虚拟IP,目标服务器会判定该第一请求数据包的目的IP与目标服务器自身的IP不同,因而,目标服务器不会对第一请求数据包进行处理,从而导致客户端与目标服务器的数据交互出现异常。可见,本实施例中,将负载均衡设备的虚拟IP和目标服务器的虚拟IP设置为相同的虚拟IP,可以保证目标服务器接收到第二请求数据包并进行IP解封装后,对第一请求数据包进行正常处理。
308、所述目标服务器基于响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器的虚拟IP、目的IP为所述前置负载均衡设备的IP;
其中,所述响应数据包携带的数据内容为所述响应数据。
309、所述前置负载均衡设备接收所述响应数据包,并按照转发IP头向所述客户端转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述客户端的IP。
采用本实施例提供的负载均衡方法,一方面,负载均衡设备接收到请求数据包后,采用IP封装技术对请求数据包进行IP封装后发送给目标服务器,目标服务器采用IP解封装技术还原出请求数据包,处理后得到响应数据包,直接向前置负载均衡设备发送该响应数据包,而不会再通过负载均衡设备,减少了负载均衡设备的数据处理量,提高负载均衡设备处理请求数据包的处理能力。另一方面,在客户端与目标服务器的一次业务处理流程(例如交易流程)中,前置负载均衡设备接收到数据包后,根据客户端与负载均衡设备的预设关系可以每次为客户端确定同一负载均衡设备,该负载均衡设备接收到请求数据包后,按照该客户端与目标服务器的预设映射关系可以每次为客户端确定同一目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。
由于负载均衡设备与服务器属于同一集群,当客户端与负载均衡设备采用TCP/IP协议进行数据通信时,为避免客户端向负载均衡设备发送的请求数据包也被服务器直接接收到,本实施例中,在客户端向负载均衡设备发送第一请求数据包之前,可以配置各个服务器对接收到的MAC查询请求不进行MAC响应,例如,同一集群中的各个服务器接收MAC响应关闭指示信息,所述MAC响应关闭指示信息用于指示所述目标服务器对接收到的MAC查询请求不进行响应处理。而,同一集群中的负载均衡设备仍会正常对接收到的MAC请求进行响应。因而,当客户端发送MAC查询请求时,同一集群中的负载均衡设备正常进行MAC响应,也就是将自身的MAC地址返回给客户端,后续客户端可以与该负载均衡设备进行正常的数据交互。而,同一集群中的各个服务器由于不会进行MAC响应,因而客户端也无法收到各个服务器的MAC地址,后续客户端也无法直接向各个服务器发送请求数据包。
在本实施例的一种可选实现方式中,所述负载均衡设备确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP具体实现如下:所述负载均衡设备在客户端与服务器的预设映射关系中查找是否与所述客户端对应的目标服务器;若未查找到,说明负载均衡设备之前并没有记录该客户端与服务器的对应关系,例如首次给该客户端分配服务器时,则所述负载均衡设备为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;若查找到,说明负载均衡设备已经为该客户端分配过服务器,并记录在客户端与服务器的预设映射关系中,为保证该客户端业务处理流程的连续性,继续为该客户端分配同一服务器,则所述负载均衡设备获取所述目标服务器的IP。
本实施例中,属于同一集群中的负载均衡设备和服务器,负载均衡设备获取服务器的IP可以通过如下方式实现:例如,在负载均衡设备中预先配置各个服务器的IP,适用于服务器的IP为固定IP的场景;又如,负载均衡设备向服务器发送IP地址获取请求,接收服务器发送的服务器的IP,可以适用于服务器的IP为固定IP的场景,也可以适用于服务器的IP为动态IP的场景。
本实施例中,在客户端与服务器的预设映射关系中记录的是所述客户端的唯一标识信息与所述目标服务器的IP的对应关系,其中,所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;客户端在发送第一请求数据包时,在该第一请求数据包中携带IP地址和端口号,通过该IP地址和端口号可以唯一表示客户端;或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;客户端可以通MAC响应向负载均衡设备发送客户端的MAC地址;或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。不可逆运算例如可以是哈希运算,当然也可以为其他的不可逆运算,只要保证不同的数据经过不可逆运算后得到的数值互不相同即可。客户端的唯一标识信息采用不可逆运算得到的数值进行存储时,可以减少存储的数据量,另一方面由于不可逆运算获得的数值具有不可逆性,可以增加数据存储的安全性。
在本实施例的一种可选实现方式中,所述负载均衡设备为所述客户端分配目标服务器的实现方式如下:所述负载均衡设备获取所述目标服务器的可用连接数;根据所述目标服务器的可用连接数为所述客户端分配目标服务器。具体应用时,负载均衡设备可以维护并实时更新服务器状态表,该状态表中记载有各个服务器的实时状态,该各个服务器与负载均衡设备属于同一网络集群。初始时,负载均衡设备获取各个服务器的状态,该状态可以是各个服务器可用连接数,该可用连接数初始值可以为该服务器支持的最大可用连接数。本实施例中,服务器与一个客户端进行一次业务流程时客户端将占用该服务器的一个连接,基于该一个连接,客户端可以与服务器进行多次数据交互以完成一次业务流程(例如交易流程)。各个服务器各自支持的最大可用连接数可以通过预先在负载均衡设备中配置,也可以是各个服务器向负载均衡设备主动上报各自可以支持的最大可用连接数,负载均衡设备收到后保存到服务器状态表中。还可以是,负载均衡设备向各个服务器发送连接数查询请求,以请求服务器将各自的最大可用连接数上报。在此不做限制。
本实施例中,所述负载均衡设备可以通过如下方式更新所述目标服务器的可用连接数:所述负载均衡设备在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;例如,当负载均衡设备将该目标服务器分配给某一客户端时,则该负载均衡设备将该目标服务器的可用连接数相应减少一个。
或者,所述负载均衡设备接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;例如,客户端发送本次业务流程中最后数据包时,在该数据包中增加结束标识,用来指示该数据包为本次业务流程的最后一个数据包,则该目标服务器处理完该数据包后,则目标服务器向负载均衡设备发送结束本次连接通知信息,以通知该负载均衡设备不再需要与客户端进行数据交互,此时将释放一个连接,该负载均衡设备将目标服务器的可用连接数相应增加一个。
或者,所述负载均衡设备接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;客户端结束本次业务流程后,客户端可以向负载均衡设备发送结束本次连接通知信息,以通知负载均衡设备不再需要与服务器进行数据交互,此时将释放一个连接,该负载均衡设备将该目标服务器的可用连接数相应增加一个。
或者,所述负载均衡设备定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
本实施例中,负载均衡设备可以实时监测各个服务器的状态,如果服务器处于正常状态可以获得服务器的最大可用连接数、可用连接数和/或已用连接数等等状态信息,以便于均衡向服务器分配客户端,避免整个集群中出现部分服务器所连接的客户端过多甚至超出了该服务器所支持的最大可用连接数,服务器超负荷进行数据处理,而部分服务器处于空闲状态的情况。如果服务器处于故障状态,负载均衡设备可以在服务器状态表中标记该服务器的状态为异常,负载均衡设备在接收到客户端的请求时,也不再将该服务器分配给客户端,以提高客户端和负载均衡设备之间建立数据连接的成功率。
实际应用时,负载均衡设备除了维护服务器的可用连接数外,还可以维护各个服务器的已用连接数和最大可用连接数,该已用连接数表示各个服务器已经被占用的连接数,当该已用连接数达到服务器的最大可用连接数或者可用连接数减少至零时,则负载均衡设备不再将该服务器分配给客户端,以保证服务器与已经建立连接的客户端之间数据处理的效率,也可以避免服务器超负荷进行数据处理。
本实施例中,负载均衡设备根据各个服务器的可用连接数为客户端分配服务器,如果某个服务器的可用连接数未减少至零(或者已用连接数未达到最大可用连接数),则负载均衡设备可以将该服务器分配给客户端,如果某个服务器的可用连接数已减少至零(或者已用连接数已达到最大可用连接数),则负载均衡设备不再将该服务器分配给客户端,以保证服务器与已经建立连接的客户端之间数据处理的效率,也可以避免服务器超负荷进行数据处理。
相应地,如图4所示,本实施例还提供一种适用于上述负载均衡方法的负载均衡系统,包括:客户端40、前置负载均衡设备41、以及与该前置负载均衡设备连接的多个网络集群中的负载均衡设备42(图4以两个网络集群为例,每个网络集群中均设有一个负载均衡设备42,实际应用中不限于此),以及在每个网络集群中与负载均衡设备连接的多个服务器(图4中一个网络集群的服务器个数以两个为例,另一个网络集群中的服务器个数以三个为例,实际应用中不限于此),其中目标服务器43是从多个服务器中选中的,其中:
前置负载均衡设备41,用于接收客户端40发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端40的IP、目的IP为所述前置负载均衡设备41的IP;以及基于所述原始请求数据包生成第一请求数据包,并根据所述客户端40与负载均衡设备42的预设映射关系确定与所述客户端40对应的负载均衡设备42,并向所述负载均衡设备42发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备41的IP、目的IP为所述负载均衡设备42的虚拟IP;其中,该客户端40与负载均衡设备42的预设映射关系可以采用列表的形式存储在前置负载均衡设备41中,客户端40与负载均衡设备42的预设映射关系可以为客户端40的唯一标识信息与负载均衡设备42的虚拟IP之间的对应关系。当该客户端40首次向前置负载均衡设备41发送原始请求数据包时,前置负载均衡设备41按照预设负载均衡算法(例如,随机分配算法)从多个网络集群中选择某一个网络集群中的负载均衡设备42,并将该负载均衡设备42分配给该客户端40,同时将该客户端40的唯一标识信息与该负载均衡设备42的虚拟IP的对应关系记录在所述客户端40与负载均衡设备42的预设映射关系中,并存储在前置负载均衡设备41中,以便于后续该客户端40再次发送数据包时,前置负载均衡设备41可以根据所述客户端40与负载均衡设备42的预设映射关系确定与所述客户端40对应的负载均衡设备42,从而可以将该数据包发送至同一负载均衡设备42,以保证数据交互的连续性。
所述负载均衡设备42,用于接收所述第一请求数据包;并根据客户端40与服务器的预设映射关系确定与所述客户端40对应的目标服务器43,并获取所述目标服务器43的IP,所述目标服务器43的虚拟IP与所述负载均衡设备42的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备42的IP、目的IP为所述目标服务器43的IP;以及还用于按照所述新IP头向所述目标服务器43发送所述第二请求数据包;其中,客户端40与目标服务器43的预设映射关系可以为客户端40的唯一标识信息与服务器的IP的对应关系。该客户端40与目标服务器43的预设映射关系可以采用列表的形式存储在负载均衡设备42上。由于客户端40与目标服务器43在进行一次业务处理流程(例如一次交易流程)中可能存在多次数据交互,负载均衡设备42通过该客户端40与目标服务器43的预设映射关系可以每次为同一客户端40确定相同的目标服务器43,以保证客户端40的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端40确定不同的目标服务器43,进而导致数据处理出现异常的问题。负载均衡设备42采用IP封装技术对第一请求数据包进行IP封装得到第二请求数据包后,该第二请求数据包将具备两个IP头,其中一个为新IP头,用于指示负载均衡设备42按照新IP头中的目的IP进行数据发送,另一个为第一请求数据包的IP头,该IP头用于指示目标服务器43处理完数据后,发送响应数据包时将该IP头中的源IP作为目的IP进行数据返回。
所述目标服务器43,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包中携带的数据进行处理,得到响应数据;并基于响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备41发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器43的虚拟IP、目的IP为所述前置负载均衡设备41的IP;
所述前置负载均衡设备41,还用于接收所述响应数据包,并按照转发IP头向所述客户端40转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备41的IP、目的IP为所述客户端40的IP。
在本实施例提供的负载均衡系统中,一方面,负载均衡设备接收到请求数据包后,采用IP封装技术对请求数据包进行IP封装后发送给目标服务器,目标服务器采用IP解封装技术还原出请求数据包,处理后得到响应数据包,直接向前置负载均衡设备发送该响应数据包,而不会再通过负载均衡设备,减少了负载均衡设备的数据处理量,提高负载均衡设备处理请求数据包的处理能力。另一方面,在客户端与目标服务器的一次业务处理流程(例如交易流程)中,前置负载均衡设备接收到数据包后,根据客户端与负载均衡设备的预设关系可以每次为同一客户端确定相同的负载均衡设备,该负载均衡设备接收到请求数据包后,按照该客户端与目标服务器的预设映射关系可以每次为同一客户端确定相同的目标服务器,以保证客户端的业务处理流程的连续性,有效避免在一次业务处理流程中为同一客户端确定不同的目标服务器,进而导致数据处理出现异常的问题。
本实施例的一种可选实现方式中,所述负载均衡设备42,具体用于查找是否与所述客户端40对应的目标服务器43;
所述负载均衡设备42,具体还用于若未查找到(说明负载均衡设备之前并没有记录该客户端与服务器的对应关系,例如首次给该客户端分配服务器时),则为所述客户端40分配目标服务器43,获取所述目标服务器的IP,并记录所述客户端40的唯一标识信息与所述目标服务器43的IP的对应关系;
所述负载均衡设备42,具体还用于若查找到(说明负载均衡设备已经为该客户端分配过服务器,并记录在客户端与服务器的预设映射关系中),则所述负载均衡设备42获取所述目标服务器43的IP。
本实施例的一种可选实现方式中,所述负载均衡设备42,具体用于获取所述目标服务器43的可用连接数;并根据所述目标服务器43的可用连接数为所述客户端分配目标服务器。该可用连接数初始值可以为该服务器支持的最大可用连接数。本实施例中,服务器与一个客户端进行一次业务流程时客户端将占用该服务器的一个连接,基于该一个连接,客户端可以与服务器进行多次数据交互以完成一次业务流程(例如交易流程)。
本实施例的一种可选实现方式中,所述负载均衡设备42,还用于更新所述目标服务器43的可用连接数;
所述负载均衡设备42,具体用于在为所述客户端40分配目标服务器43之后,更新所述目标服务器43的可用连接数;
或者,所述负载均衡设备42,具体用于接收所述目标服务器43发送的结束本次连接通知信息,更新所述目标服务器43的可用连接数;
或者,所述负载均衡设备42,具体用于接收所述客户端40发送的结束本次连接通知信息,更新所述目标服务器43的可用连接数;
或者,所述负载均衡设备42,具体用于定期向所述目标服务器43发送状态查询请求,接收所述目标服务器43发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器43的可用连接数。
需要说明的是,本系统中负载均衡设备和目标服务器的更多细节描述还可以参见本实施例中上述负载均衡方法中负载均衡设备和目标服务器的相关描述,在此不再赘述。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本发明的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本发明的实施例所属技术领域的技术人员所理解。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在不脱离本发明的原理和宗旨的情况下在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。本发明的范围由所附权利要求及其等同限定。

Claims (12)

1.一种负载均衡方法,其特征在于,包括:
负载均衡设备接收客户端发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述负载均衡设备的虚拟IP;
所述负载均衡设备根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;
所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;
所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;
所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;
所述目标服务器基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器的虚拟IP、目的IP为所述客户端的IP。
2.一种负载均衡方法,其特征在于,包括:
前置负载均衡设备接收客户端发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述前置负载均衡设备的IP;
所述前置负载均衡设备基于所述原始请求数据包生成第一请求数据包,并根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,并向所述负载均衡设备发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述负载均衡设备的虚拟IP;
所述负载均衡设备接收所述第一请求数据包;
所述负载均衡设备根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;
所述负载均衡设备对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;
所述负载均衡设备按照所述新IP头向所述目标服务器发送所述第二请求数据包;
所述目标服务器接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;
所述目标服务器基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器的虚拟IP、目的IP为所述前置负载均衡设备的IP;
所述前置负载均衡设备接收所述响应数据包,并按照转发IP头向所述客户端转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述客户端的IP。
3.根据权利要求1或2所述的方法,其特征在于,所述负载均衡设备确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP包括:
所述负载均衡设备在客户端与服务器的预设映射关系中查找是否与所述客户端对应的目标服务器;
若未查找到,则所述负载均衡设备为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;
若查找到,则所述负载均衡设备获取所述目标服务器的IP。
4.根据权利要求3所述的方法,其特征在于,
所述负载均衡设备为所述客户端分配目标服务器,包括:
所述负载均衡设备获取所述目标服务器的可用连接数;
根据所述目标服务器的可用连接数为所述客户端分配目标服务器。
5.根据权利要求4所述的方法,其特征在于,
还包括:所述负载均衡设备更新所述目标服务器的可用连接数;
所述负载均衡设备更新所述目标服务器的可用连接数包括:
所述负载均衡设备在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
6.根据权利要求3所述的方法,其特征在于,
所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;
或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;
或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;
或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。
7.一种负载均衡系统,其特征在于,包括:
负载均衡设备,用于接收客户端发送的第一请求数据包,所述第一请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述负载均衡设备的虚拟IP,并用于根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头为源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;以及还用于按照所述新IP头向所述目标服务器发送所述第二请求数据包;
所述目标服务器,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据,以及基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述客户端发送响应数据包,所述响应数据包的IP头为源IP为所述目标服务器的虚拟IP、目的IP为所述客户端的IP。
8.一种负载均衡系统,其特征在于,包括:
前置负载均衡设备,用于接收客户端发送的原始请求数据包,所述原始请求数据包的IP头中源IP为所述客户端的IP、目的IP为所述前置负载均衡设备的IP;以及基于所述原始请求数据包生成第一请求数据包,并根据所述客户端与负载均衡设备的预设映射关系确定与所述客户端对应的负载均衡设备,并向所述负载均衡设备发送所述第一请求数据包,所述第一请求数据包的IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述负载均衡设备的虚拟IP;
所述负载均衡设备,用于接收所述第一请求数据包;并根据客户端与服务器的预设映射关系确定与所述客户端对应的目标服务器,并获取所述目标服务器的IP,所述目标服务器的虚拟IP与所述负载均衡设备的虚拟IP相同;还用于对所述第一请求数据包进行IP封装得到第二请求数据包,所述IP封装为在所述第一请求数据包中增加新IP头,所述新IP头中源IP为所述负载均衡设备的IP、目的IP为所述目标服务器的IP;以及还用于按照所述新IP头向所述目标服务器发送所述第二请求数据包;
所述目标服务器,用于接收所述第二请求数据包,对所述第二请求数据包进行IP解封装,获得第一请求数据包,并对所述第一请求数据包进行处理,得到响应数据;并基于所述响应数据生成响应数据包,并按照所述响应数据包的IP头向所述前置负载均衡设备发送响应数据包,所述响应数据包的IP头中源IP为所述目标服务器的虚拟IP、目的IP为所述前置负载均衡设备的IP;
所述前置负载均衡设备,还用于接收所述响应数据包,并按照转发IP头向所述客户端转发所述响应数据包,所述转发IP头中源IP为所述前置负载均衡设备的IP、目的IP为所述客户端的IP。
9.根据权利要求7或8所述的系统,其特征在于,
所述负载均衡设备,具体用于查找是否与所述客户端对应的目标服务器;
所述负载均衡设备,具体还用于若未查找到,则为所述客户端分配目标服务器,获取所述目标服务器的IP,并记录所述客户端的唯一标识信息与所述目标服务器的IP的对应关系;
所述负载均衡设备,具体还用于若查找到,则所述负载均衡设备获取所述目标服务器的IP。
10.根据权利要求9所述的系统,其特征在于,
所述负载均衡设备,具体用于获取所述目标服务器的可用连接数;并根据所述目标服务器的可用连接数为所述客户端分配目标服务器。
11.根据权利要求10所述的系统,其特征在于,
所述负载均衡设备,还用于更新所述目标服务器的可用连接数;
所述负载均衡设备,具体用于在为所述客户端分配目标服务器之后,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备,具体用于接收所述目标服务器发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备,具体用于接收所述客户端发送的结束本次连接通知信息,更新所述目标服务器的可用连接数;
或者,所述负载均衡设备,具体用于定期向所述目标服务器发送状态查询请求,接收所述目标服务器发送的最新可用连接数,使用所述最新可用连接数更新所述目标服务器的可用连接数。
12.根据权利要求11所述的系统,其特征在于,
所述客户端的唯一标识信息包括:所述客户端的IP地址和端口号;
或者,所述客户端的唯一标识信息包括:所述客户端的MAC地址;
或者,所述客户端的唯一标识信息包括:对所述客户端的IP地址和端口号进行不可逆运算得到的数值;
或者,所述客户端的唯一标识信息包括:对所述客户端的MAC地址进行不可逆运算得到的数值。
CN201710058893.9A 2017-01-23 2017-01-23 一种负载均衡方法及系统 Pending CN106686129A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710058893.9A CN106686129A (zh) 2017-01-23 2017-01-23 一种负载均衡方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710058893.9A CN106686129A (zh) 2017-01-23 2017-01-23 一种负载均衡方法及系统

Publications (1)

Publication Number Publication Date
CN106686129A true CN106686129A (zh) 2017-05-17

Family

ID=58860263

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710058893.9A Pending CN106686129A (zh) 2017-01-23 2017-01-23 一种负载均衡方法及系统

Country Status (1)

Country Link
CN (1) CN106686129A (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107528885A (zh) * 2017-07-17 2017-12-29 阿里巴巴集团控股有限公司 一种业务请求处理方法及装置
CN107809342A (zh) * 2017-12-13 2018-03-16 深圳市智物联网络有限公司 一种负载均衡方法及负载均衡装置
CN108183926A (zh) * 2018-03-14 2018-06-19 北京奇艺世纪科技有限公司 一种数据包处理方法和装置
CN109358611A (zh) * 2018-12-28 2019-02-19 深圳市元征科技股份有限公司 一种车辆诊断软件预置方法、车辆诊断系统及相关设备
CN110460632A (zh) * 2019-06-26 2019-11-15 杨涛 一种订单优选的方法及系统
CN110602182A (zh) * 2019-08-27 2019-12-20 深圳前海达闼云端智能科技有限公司 服务调度方法、装置、系统、全局负载均衡器及客户端
CN111970315A (zh) * 2019-05-20 2020-11-20 北京车和家信息技术有限公司 推送消息的方法、装置及系统
CN112491066A (zh) * 2020-11-13 2021-03-12 北京京东尚科信息技术有限公司 负载均衡方法、装置、系统、目标负载均衡设备及介质
CN112565381A (zh) * 2020-11-30 2021-03-26 杭州迪普科技股份有限公司 一种数据包转发方法、装置及设备
CN113806091A (zh) * 2021-09-17 2021-12-17 中国联合网络通信集团有限公司 一种数据处理方法、装置及设备
CN113973086A (zh) * 2020-07-07 2022-01-25 中移(苏州)软件技术有限公司 一种数据传输方法、装置及存储介质
CN114640679A (zh) * 2022-03-14 2022-06-17 京东科技信息技术有限公司 数据包传输方法及装置、存储介质、电子设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101340371A (zh) * 2008-08-12 2009-01-07 杭州华三通信技术有限公司 一种会话保持方法和负载均衡设备
CN103491053A (zh) * 2012-06-08 2014-01-01 北京百度网讯科技有限公司 Udp负载均衡方法、系统及装置
CN104811488A (zh) * 2015-04-13 2015-07-29 深信服网络科技(深圳)有限公司 基于负载均衡设备的会话保持方法及系统和负载均衡设备
CN105530311A (zh) * 2015-12-25 2016-04-27 北京奇虎科技有限公司 负载分配方法和设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101340371A (zh) * 2008-08-12 2009-01-07 杭州华三通信技术有限公司 一种会话保持方法和负载均衡设备
CN103491053A (zh) * 2012-06-08 2014-01-01 北京百度网讯科技有限公司 Udp负载均衡方法、系统及装置
CN104811488A (zh) * 2015-04-13 2015-07-29 深信服网络科技(深圳)有限公司 基于负载均衡设备的会话保持方法及系统和负载均衡设备
CN105530311A (zh) * 2015-12-25 2016-04-27 北京奇虎科技有限公司 负载分配方法和设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张慧祥: "《网络控制与应用》", 31 August 2013 *

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107528885A (zh) * 2017-07-17 2017-12-29 阿里巴巴集团控股有限公司 一种业务请求处理方法及装置
CN107528885B (zh) * 2017-07-17 2021-01-26 创新先进技术有限公司 一种业务请求处理方法及装置
CN107809342A (zh) * 2017-12-13 2018-03-16 深圳市智物联网络有限公司 一种负载均衡方法及负载均衡装置
CN108183926A (zh) * 2018-03-14 2018-06-19 北京奇艺世纪科技有限公司 一种数据包处理方法和装置
CN109358611A (zh) * 2018-12-28 2019-02-19 深圳市元征科技股份有限公司 一种车辆诊断软件预置方法、车辆诊断系统及相关设备
CN111970315A (zh) * 2019-05-20 2020-11-20 北京车和家信息技术有限公司 推送消息的方法、装置及系统
CN110460632A (zh) * 2019-06-26 2019-11-15 杨涛 一种订单优选的方法及系统
CN110460632B (zh) * 2019-06-26 2022-06-24 杨涛 一种订单优选的方法及系统
CN110602182B (zh) * 2019-08-27 2022-02-01 达闼机器人有限公司 服务调度方法、装置、系统、全局负载均衡器及客户端
CN110602182A (zh) * 2019-08-27 2019-12-20 深圳前海达闼云端智能科技有限公司 服务调度方法、装置、系统、全局负载均衡器及客户端
CN113973086A (zh) * 2020-07-07 2022-01-25 中移(苏州)软件技术有限公司 一种数据传输方法、装置及存储介质
CN113973086B (zh) * 2020-07-07 2024-01-26 中移(苏州)软件技术有限公司 一种数据传输方法、装置及存储介质
CN112491066A (zh) * 2020-11-13 2021-03-12 北京京东尚科信息技术有限公司 负载均衡方法、装置、系统、目标负载均衡设备及介质
CN112491066B (zh) * 2020-11-13 2023-11-03 北京京东尚科信息技术有限公司 负载均衡方法、装置、系统、目标负载均衡设备及介质
CN112565381A (zh) * 2020-11-30 2021-03-26 杭州迪普科技股份有限公司 一种数据包转发方法、装置及设备
CN112565381B (zh) * 2020-11-30 2022-05-31 杭州迪普科技股份有限公司 一种数据包转发方法、装置及设备
CN113806091A (zh) * 2021-09-17 2021-12-17 中国联合网络通信集团有限公司 一种数据处理方法、装置及设备
CN114640679A (zh) * 2022-03-14 2022-06-17 京东科技信息技术有限公司 数据包传输方法及装置、存储介质、电子设备

Similar Documents

Publication Publication Date Title
CN106686129A (zh) 一种负载均衡方法及系统
CN101674307B (zh) 计算机网络内的安全服务的分级应用程序
CN108200146B (zh) 一种轻量级的微服务架构实现方法
CN101124565B (zh) 基于应用层消息的数据流量负载平衡
US8149866B2 (en) System and method for filtering communications at a network interface controller
US20050021755A1 (en) Virtual network environment
CN112751733B (zh) 一种链路检测方法、装置、设备、系统及交换机
CN106713499A (zh) 一种负载均衡方法、设备及系统
CN110554927A (zh) 基于区块链的微服务调用方法
CN105579990A (zh) 应用感知网络管理
US7333430B2 (en) Systems and methods for passing network traffic data
US10178033B2 (en) System and method for efficient traffic shaping and quota enforcement in a cluster environment
CN111064755B (zh) 一种数据保护方法、装置、计算机设备和存储介质
CN113259268A (zh) 一种支持冗余架构的网口与串口数据转发网关及方法
CN104067558A (zh) 具有控制模块和网络访问模块的网络访问装置
CN113409047B (zh) 基于区块链的数据处理方法、装置、设备及可读存储介质
CN117376032B (zh) 安全服务调度方法和系统、电子设备、存储介质
US11108588B2 (en) Configuration information to an internet of things multiplexer
US20070101019A1 (en) Apparatus, system, and method for managing response latency
CN114025010B (zh) 建立连接的方法和网络设备
CN104767684A (zh) 数据传输方法及相关装置和通信系统
CN113572700A (zh) 流量检测方法、系统、装置及计算机可读存储介质
CN108848156B (zh) 接入网关处理方法、装置及存储介质
CN111240867A (zh) 一种信息通讯系统及方法
CN108965494A (zh) 数据系统中数据传输方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170517

RJ01 Rejection of invention patent application after publication