CN102075409A - 请求消息处理方法、系统及负载均衡器设备 - Google Patents
请求消息处理方法、系统及负载均衡器设备 Download PDFInfo
- Publication number
- CN102075409A CN102075409A CN2009102261768A CN200910226176A CN102075409A CN 102075409 A CN102075409 A CN 102075409A CN 2009102261768 A CN2009102261768 A CN 2009102261768A CN 200910226176 A CN200910226176 A CN 200910226176A CN 102075409 A CN102075409 A CN 102075409A
- Authority
- CN
- China
- Prior art keywords
- server
- request message
- message
- destination server
- script
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/564—Enhancement of application control based on intercepted application data
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明实施例提供一种请求消息处理方法、系统及负载均衡器设备。该方法包括接收并解析请求端发送的请求消息,获取请求消息对应的脚本名以及请求消息的消息类型;根据脚本名对应的服务器列表以及消息类型,获取请求消息的目标服务器,并向目标服务器转发请求消息;接收目标服务器执行脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给请求端。本发明实施例中,负载均衡器通过简单的字符串匹配获取服务名和操作名,将大计算量放在服务器侧进行,解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,最大化负载均衡器的扇出能力,最大化地提高了组合引擎集群的吞吐量,满足组合引擎的大容量需求。
Description
技术领域
本发明实施例涉及通信技术领域,尤其涉及一种请求消息处理方法、系统及负载均衡器设备。
背景技术
互联网(Internet)技术的迅猛发展,已经应用到人们的生活、工作和学习等各方面并且产生了深远影响。一方面随着微处理器性能的提高和Internet基础设施的不断提升,越来越多的计算设备接入到Internet中。伴随着Internet基础能力的提升,各种应用也不断增长,各种基础服务能力也越来越丰富,人们的各种个性化需求更是爆发性增长,通过重用已有的各种服务能力组合出各种更具创新性的应用也是大势所趋。其中,组合引擎通过脚本流程化的方式串联各种服务产生新的应用是满足用户各种个性化需求非常重要的技术手段。
从系统容量的角度,应用系统的复杂化和用户群体的不断增加要求组合引擎运行的计算机系统具备不断增强的运算能力,系统在设计和建立之初所考虑的系统容量往往显得十分不足。若放弃原有系统而代之以更加强大的新系统,则不能保护原来的投资,增加系统的整体成本。系统容量的增加一般依靠增加运算部件的处理能力或者增加运算部件的数量来实现。传统的并行处理(parallel processing)和集群计算(cluster computing)技术经过多年的研究和发展,在体系结构、操作系统、并行算法和编程语言等多个方面都取得了显著的成果,有效解决了系统计算能力和容量扩充的问题。
负载均衡器作为集群计算的关键技术得到了广泛的应用,负载均衡技术主要有三方面特性:实现负载均衡算法、健康检测和会话保持。几乎所有的WEB应用程序都有会话状态例如记录用户是否登陆等。由于HTTP本身是无状态的,会话状态应当存在服务器中并与用户当前浏览会话相关联,这样当用户下次再请求相同WEB应用程序的页面时,便可以容易地重新获取。当负载均衡时,最佳的选择就是将特定的浏览器会话分发到上次相同的服务器中。各种负载均衡方案例如“Big-IP”中的“Cookie”插入方式,以及Oracle提供的商用组合引擎系统等都提供了较好的集群方案用于扩大系统的容量,满足用户需求,这些负载均衡方案在WEB集群方面能够起到比较大的作用。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:“Cookie”插入方式虽然能够很好的满足基于WEB的会话保持问题,针对来自同一客户端的请求能够很好的解决会话保持问题,但由于组合引擎中的一个实例可能来自多个客户端请求,因此该方法无法解决组合引擎的会话保持问题。另外,在Oracle提供的负载均衡解决方案中,前台的负载均衡器不用考虑系统的会话保持问题,所有的脚本状态都保存在后台数据库中,后续请求进入后可以通过数据库恢复该脚本的状态,然后继续执行。然而,数据库的恢复或者写入脚本状态都需要大量的资源,对系统的性能也会造成很大的影响,而且所有的状态都需要使用数据库进行持久化和恢复,可能产生性能瓶颈。
并且,由于组合引擎具有很多自身的特性,特别是组合引擎的会话连续方面不同于WEB应用普遍使用的机制,因此现有的各种负载均衡方案不能很好的满足组合引擎的需求。
发明内容
本发明实施例针对组合引擎负载均衡的需要,提供一种请求消息处理方法、系统及负载均衡器设备,以满足组合引擎的大容量需求。
本发明实施例提供一种请求消息处理方法,包括:
接收并解析请求端发送的请求消息,获取所述请求消息对应的脚本名以及所述请求消息的消息类型;
根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息;
接收所述目标服务器执行所述脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给所述请求端。
本发明实施例提供一种负载均衡器设备,包括:
第一处理模块,用于接收并解析请求端发送的请求消息,获取所述请求消息对应的脚本名以及所述请求消息的消息类型;
第二处理模块,用于根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息;
第三处理模块,用于接收所述目标服务器执行所述脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给所述请求端。
本发明实施例提供一种请求消息处理系统,包括请求端和数个服务器,还包括设置在所述请求端和所述数个服务器之间的、上述的负载均衡器设备。
本发明实施例提供的请求消息处理方法、系统及负载均衡器设备中,负载均衡器通过请求消息对应的脚本名以及请求消息的消息类型,将请求消息转发给目标服务器,由目标服务器进行响应并返回响应消息,负载均衡器选择合适的响应消息返给请求端。这样,负载均衡器通过简单的字符串匹配获取服务名和操作名,将大计算量放在服务器侧进行,解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,最大化负载均衡器的扇出能力,最大化地提高了组合引擎集群的吞吐量,满足组合引擎的大容量需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明请求消息处理方法实施例一流程图;
图2为本发明请求消息处理方法实施例二信令图;
图3为本发明负载均衡器设备实施例一结构示意图;
图4为本发明负载均衡器设备实施例二结构示意图;
图5为本发明请求消息处理系统实施例组成示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
组合引擎不同于现有的机制例如“http”的“cookie”技术,对于组合引擎而言,需要通过服务名、操作名和“correlation”值才能定位到具体的脚本实例上,其中服务名和操作名可以通过简单的字符串匹配获取,但是“correlation”值的获取,必须通过可扩展标记语言(Extensible Markup Language;以下简称:XML)解析器解析完整的简单对象访问协议(simple object access protocol;以下简称:SOAP)消息,并通过种在XML文档中查找信息的语言XML路径语言(XML Path Language;简称XPATH)进行定位后获取。
本发明实施例中可以将服务器视为组合引擎。以下结合一个实际的例子详细介绍服务名、操作名和“correlation”值。
下面就以一个完整的SOAP请求消息为例进行介绍,其中“WeatherService”为服务名,“getWeather”为操作名,“correlation”这个字段是由组合引擎上运行的脚本决定的,但此例中“Shenzhen”可能即为“correlation”值。在这里可以假设“Shenzhen”即为“correlation”值。
其中,XML解析和XPATH定位都需要占用大量的计算和存储资源,若将“correlation”值的获取也放在负载均衡器侧则会增大计算量,降低集群的吞吐量;同时若由负载均衡器获取“correlation”值并进行精确分发,还需要服务器实时把所有运行实例所要接收的“correlation”值上报给负载均衡器才能够进行匹配,因而会进一步的增加负载均衡器的计算量,进一步降低集群的吞吐量。
组合引擎针对于匹配合适的请求消息(服务名,操作名,“correlation”均与实例匹配)会接受并触发实例进行进一步的处理,假如服务器查询不到匹配的实例,则会拒绝该请求。针对组合引擎上述特性,本发明各实施例提出了一种基于冗余分发的负载均衡解决方案,即负载均衡器仅解析请求消息的服务名和操作名,通过服务名获取该请求消息对应的脚本名,通过操作名判断该请求消息是否为初始消息,如果是脚本的初始消息,则将该请求消息发送给合适的服务器;如果该请求消息不是脚本的初始消息,则将该请求消息群发给所有当前运行该脚本名对应脚本的服务器,负载均衡器接收服务器发送过来的响应消息,将其中合适的响应消息发送给请求端。本发明实施例根据组合引擎自身的特点,提出的基于分发冗余的负载均衡解决方案,能够解决组合引擎集群的会话保持问题,减少负载均衡器的计算任务。
图1为本发明请求消息处理方法实施例一流程图,如图1所示,该方法包括:
步骤100,接收并解析请求端发送的请求消息,获取所述请求消息对应的脚本名以及所述请求消息的消息类型;
设置于请求端和数个服务器之间的负载均衡器,用于对来自于不同请求端的请求消息在数个服务器之间进行分配,尽量保证数个服务器的负载均衡。当负载均衡器接收到一个请求端发来的请求消息后,首先对该请求消息进行解析,获得服务名和操作名。具体为,服务名可由“http url”字符串获取,操作名由“SOAP BODY”的下一层元素获取,即通过解析SOAP消息包头,通过简单的字符串匹配即可获取这两个参数。
负载均衡器在解析获得服务名和操作名两个参数后,根据服务名得到该请求消息对应的脚本名,并通过操作名判断该请求消息的消息类型,即该请求消息是不是该脚本名对应脚本的初始化消息。负载均衡器根据该请求消息是初始化消息,还是非初始化消息,可以做相应的处理。
步骤101,根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息;
若该请求消息的消息类型为初始化消息,则负载均衡器根据该脚本名对应的服务器列表以及获得的消息类型,获取转发该请求消息的目标服务器并转发请求消息的过程具体可以包括以下若干种情况,由于该请求消息为初始化消息,因此目标服务器的数量为1个。
首先查询当前正在服务该脚本名的服务器列表,所述服务器列表对应于各个脚本名,也就是说,每一个脚本名均对应有一个服务器列表,在该服务器列表中记录着运行该脚本名对应脚本实例的服务器信息,服务器信息可以为服务器地址,可以通过服务器列表获知曾运行过该脚本实例但未被从服务器列表中删除以及正在运行该脚本实例的服务器。记录在服务器列表中的服务器为网络部署时所有服务器中的一部分,也可以说是整个系统中的一部分服务器,当前没有运行该脚本实例的服务器没有被记录在该服务器列表中。查询获得脚本名对应的服务器列表后,判断该服务器列表是否为空,若为空,则说明之前没有服务器运行该脚本实例,而且根据组合引擎特点所有的服务器均能运行该脚本,因此负载均衡器可以在整个网络系统的所有服务器中选择一个服务器作为目标服务器,当然所选择的目标服务器要有一定的要求限制,例如为满足负载均衡,要求在未超载的服务器中选择当前负载最轻的服务器作为目标服务器。具体选择方式可以是从头至尾遍历整个服务器列表,找出所有未超载的服务器,并且在其中选出负载最轻的服务器。在选择出目标服务器后,负载均衡器将该请求消息转发到该目标服务器,并将该目标服务器的地址例如IP地址加入到脚本名对应的服务器列表中,以说明该服务器正运行该脚本实例。
负载均衡器在判断该服务器列表是否为空时,若通过判断获知该服务器列表不为空,则说明之前有服务器运行该脚本实例,则从服务器列表中记载的服务器中选择未超载的某一个服务器作为目标服务器,并将该请求消息转发给该选出的目标服务器。具体为,负载均衡器遍历该脚本名对应的服务器列表,获取第一个未超载的服务器,假如存在,则将请求消息转发到该服务器。
若上述过程中,遍历该脚本名对应的服务器列表后,没有发现未超载的服务器即该脚本名对应的服务器列表中所记载的所有服务器均已超载,则在整个系统的服务器中选择没有记录在该服务器列表中且未超载的服务器,即可以是没有记录在该服务器列表中且未超载的服务器中选择负载最轻的一服务器作为目标服务器,具体可以是遍历服务器列表外的所有服务器,即在整个系统的服务器中找出其中未超载的服务器,并且在其中选出负载最轻的服务器。在选择出目标服务器后,负载均衡器将该请求消息转发给该目标服务器,将该目标服务器的地址例如IP地址加入该服务器列表,以说明该服务器正运行该脚本实例。
若上述过程中,遍历该脚本名对应的服务器列表后,若没有发现未超载的服务器即该脚本名对应的服务器列表中的所有服务器均已超载;而且在遍历服务器列表外的所有服务器后即遍历整个系统的记载在该服务器列表之外的所有服务器后,获知仍然没有未超载的服务器,即所有服务器均已超载,则说明没有能够运行该脚本实例的服务器了,因此负载均衡器可以拒绝该请求消息,流程结束。
若该请求消息的消息类型不是初始化消息,则负载均衡器根据该脚本名对应的服务器列表以及获得的消息类型,获取转发该请求消息的目标服务器并转发请求消息的过程具体可以包括以下若干种情况,由于该请求消息不为初始化消息,因此目标服务器的数量可以为多个:
首先查询当前正在服务该脚本名对应脚本的服务器列表,判断该服务器列表是否为空,若为空,则说明之前没有服务器运行该脚本实例,则可以直接丢弃该请求消息即拒绝,流程结束。若获知该服务器列表不为空,则选择该脚本对应的服务器列表中所记载的所有服务器作为目标服务器,并将该请求消息转发给所有目标服务器。
在上述各种情况下,负载均衡器在将请求消息转发给目标服务器之前或者之后,还可以包括负载均衡器记录请求端和目标服务器之间的连接映射关系的步骤。负载均衡器将请求消息转发给确定的目标服务器后,为了保证目标服务器返回的响应消息能够准确地返回给对应的请求端,负载均衡器还要记录连接映射关系,具体可以将连接映射关系记录在服务器列表中,以记录将请求端发送的请求消息转发给了哪几个服务器。服务器列表的长度表明响应该请求端所发送的请求消息的服务器的数量,例如若请求消息为初始化消息,则该请求消息对应的服务器列表的列表长度为“1”。若服务器列表的列表长度为“2”,则表明负载均衡器将请求消息转发给了两个服务器。
步骤102,接收所述目标服务器执行所述脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给所述请求端。
负载均衡器将请求消息转发给确定的目标服务器后,目标服务器会接收并触发实例进行进一步的处理,若服务器查询不到匹配的实例,则会拒绝该请求即向负载均衡器返回拒绝消息。若服务器查询到匹配的实例,则执行该脚本实例,并向负载均衡器返回该服务器执行成功的响应消息。所述的满足返回条件的响应消息是指若有成功响应消息,则该成功响应消息满足返回条件;若没有成功响应消息,则最后一个失败响应消息为满足返回条件的响应消息。具体地,负载均衡器若接收到服务器返回的表示执行成功的响应消息,则可以直接将该成功响应消息返回给请求端。若所有的服务器均向负载均衡器返回拒绝消息,则负载均衡器将接收到的最后一个拒绝消息返回给请求端。
负载均衡器接收到目标服务器返回的响应消息后,若获知该请求消息对应的服务器列表的列表长度为“1”,则直接将目标服务器执行该脚本名对应的脚本而返回的响应消息转发给请求端。当负载均衡器获知服务器列表的列表长度为“1”时,可以直接将目标服务器返回的响应消息转发给请求端,包括两种情况:一种是,目标服务器正确运行脚本实例后,向负载均衡器返回成功响应消息;负载均衡器将成功响应消息转发给请求端。另一种是,例如当服务名正确,但操作名不匹配的时候,或者当服务名和操作名准确,但“correlation”值不匹配的时候,目标服务器向负载均衡器返回的是拒绝消息,此时负载均衡器也要将该拒绝消息转发给请求端。
负载均衡器接收到目标服务器返回的响应消息后,若获知该请求消息对应的服务器列表的列表长度大于“1”,则将数个目标服务器执行该脚本名对应的脚本而返回的数个响应消息中表示执行成功的响应消息转发给请求端。服务器列表的列表长度大于“1”,说明负载均衡器将请求消息同时发送给若干个服务器请求执行脚本实例,但是由于仅有一个服务器能够正确执行该脚本并返回表示执行成功的响应消息即成功响应消息,其他的服务器均返回拒绝消息。因此负载均衡器在接收到一拒绝消息后,可以直接丢弃该拒绝消息,并删除服务器列表的该连接映射关系,释放资源;在接收到成功响应消息后,可以根据服务器列表中记录的连接映射关系信息,将成功响应消息发送给请求端,并删除服务器列表的该连接映射关系即释放所有该连接映射关系对应的资源。若由于服务名正确,但操作名不匹配而引发的所有目标服务器均返回拒绝消息情况,或者由于服务名和操作名正确,当“correlation”值不匹配二引发的所有目标服务器均返回拒绝消息情况,负载均衡器则将接收到的最后一个拒绝消息,根据服务器列表中记录的连接映射关系信息直接返回给请求端,以表示该脚本实例运行失败。当然随后也要删除服务器列表的该连接映射关系,释放资源。
在上述过程中,负载均衡器接收到目标服务器返回的拒绝消息后,可以删除服务器列表的该连接映射关系即释放所有该连接映射关系对应的资源。
本发明实施例提供的请求消息处理方法,负载均衡器通过请求消息对应的脚本名以及请求消息的消息类型,将请求消息转发给目标服务器,由目标服务器进行响应并返回响应消息,负载均衡器选择成功响应消息返给请求端。这样,负载均衡器通过简单的字符串匹配获取服务名和操作名,将“correlation”值的获取放在服务器侧进行,解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,最大化负载均衡器的扇出能力,最大化地提高了组合引擎集群的吞吐量,满足组合引擎的大容量需求。
在上述各实施例中,在负载均衡器根据脚本名对应的服务器列表以及消息类型,获取转发该请求消息的目标服务器,并向目标服务器转发该请求消息后,还可以包括将该服务器列表中所记载的目标服务器的时间戳设置为当前时间。负载均衡器通过为目标服务器设置时间戳,以记录请求目标服务器执行脚本实例所发生的时间。
根据预设,整个系统中的所有服务器均要定期向负载均衡器上报当前未运行的脚本列表,当负载均衡器定期接收到上述的目标服务器上报的未运行的脚本列表并记录上报时间后,要比较上报时间和对应脚本名的服务器列表中目标服务器的时间戳,假如上报时间晚于对应的时间戳,则表明负载均衡器上该脚本名对应的服务器列表上的该目标服务器已经运行完该脚本,则负载均衡器可以将该目标服务器的地址例如IP地址从该服务器列表中删除。
本实施例通过记录服务器的时间戳,并通过定期收集服务器上运行的脚本信息,最小化运行一脚本名的服务器列表,减少执行一脚本的服务器数目,节省系统资源。
图2为本发明请求消息处理方法实施例二信令图,如图2所示,该方法包括:
步骤200,负载均衡器接收第一请求端发送过来的请求消息,解析该请求消息以获取服务名和操作名,通过服务名和操作名判断出该请求消息为一脚本的初始请求消息;
步骤201,负载均衡器遍历当前执行该脚本名的服务器列表,获得了第一个未超载的第一服务器,并将该请求消息转发给该第一服务器,记录该连接映射关系;
步骤202,负载均衡器接收从第一服务器发送过来的成功响应消息,通过该成功响应消息对应的连接映射关系获取该成功响应消息的请求端;
步骤203,负载均衡器将该成功响应消息转发给对应的第一请求端;
步骤204,负载均衡器接收从第二请求端发过来的请求消息;
步骤205,负载均衡器解析该请求消息,获取服务名和操作名,与脚本的初始消息进行匹配后得知该请求消息不是脚本的初始消息,获取正在执行该脚本名的服务器列表,该列表记载了第一服务器和第二服务器共两台服务器;将该请求消息转发给第一服务器,并记录连接映射关系;
步骤206,将该请求消息转发给第二服务器,记录连接映射关系;
步骤207,由于与第二服务器上运行的脚本不匹配,第二服务器返回“400reject”的拒绝消息,由于是拒绝消息,负载均衡器会删除连接映射关系中相关项;
步骤208,负载均衡器接收从第一服务器发送过来的成功响应消息,并根据连接映射关系获取该响应消息对应的请求端;
步骤209,将该响应消息发送给第二请求端并删除相关资源。
本实施例尽量减少负载均衡器与服务器的交互,由于需要用到“httpheader”解析、XML解析和XPATH才能完全正确的定位到该服务该请求消息的具体实例,把请求消息会话的判断放在服务器侧;对于会话内的请求将会分发到后台所有已有该业务过程执行语言(Business Process Execution Language;以下简称:BPEL)组合脚本执行的服务器上,正在处理该会话的服务器会正确处理该请求,其他服务器会拒绝该请求;脚本的初始请求消息只会在原服务该“BPEL”脚本的服务器负载达到临界点后才会分发到其他的服务器上,这样不但解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,满足组合引擎的大容量需求。
图3为本发明负载均衡器设备实施例一结构示意图,如图3所示,该负载均衡器设备包括第一处理模块11、第二处理模块12和第三处理模块13,其中:
第一处理模块11,用于接收并解析请求端发送的请求消息,获取请求消息对应的脚本名以及请求消息的消息类型;
第二处理模块12,用于根据脚本名对应的服务器列表以及消息类型,获取请求消息的目标服务器,并向目标服务器转发请求消息;
第三处理模块13,用于接收目标服务器执行脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给请求端。
具体地,设置于请求端和数个服务器之间的负载均衡器设备中的第一处理模块11接收请求端发送的请求消息,并解析获得服务名和操作名两个参数后,根据服务名得到该请求消息对应的脚本名,并通过操作名判断该请求消息的消息类型,即该请求消息是不是该脚本的初始化消息。负载均衡器设备根据该请求消息是初始化消息,还是非初始化消息,可以做相应的处理。第二处理模块12首先根据脚本名对应的服务器列表以及消息类型确定目标服务器,然后第二处理模块12再向目标服务器转发请求消息。当目标服务器运行脚本实例并返回响应消息后,负载均衡器设备通过第三处理模块13接收响应消息,并确定满足返回条件的响应消息,并返回给请求端。进一步地,第三处理模块13包括的第五处理子模块131用于将其中表示执行成功的响应消息返回给请求端;第三处理模块13还包括第六处理子模块132用于若目标服务器均返回拒绝消息,则将接收到的最后一个拒绝消息返回给请求端。
本实施例提供的负载均衡器设备具体工作方式可以参见上述各方法实施例。
本发明实施例提供的负载均衡器设备通过请求消息对应的脚本名以及请求消息的消息类型,将请求消息转发给目标服务器,由目标服务器进行响应并返回响应消息,负载均衡器设备选择成功响应消息返给请求端。这样,负载均衡器设备通过简单的字符串匹配获取服务名和操作名,将“correlation”值的获取放在服务器侧进行,解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,最大化负载均衡器设备的扇出能力,最大化地提高了组合引擎集群的吞吐量,满足组合引擎的大容量需求。
图4为本发明负载均衡器设备实施例二结构示意图,如图4所示,该负载均衡器设备包括第一处理模块11、第二处理模块12和第三处理模块13,基于上述实施例,第一处理模块11主要用于从传输层接收并解析各种请求消息,并将解析结果发送给第二处理模块12进行处理;第二处理模块12负责通过解析结果信息及当前系统的会话状态等信息,对请求消息进行调度,将请求消息发送给合适服务器。
进一步地,第二处理模块12包括以下任一子模块或其组合:
第一处理子模块121,用于若所述请求消息是初始化消息、且所述脚本名对应的服务器列表为空,则在整个系统的未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,并将所述目标服务器的地址加入所述脚本名对应的服务器列表;
第二处理子模块122,用于若所述请求消息是初始化消息、且所述脚本名对应的服务器列表不为空,则从所述服务器列表中记载的服务器中选择未超载的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器;
第三处理子模块123,用于若所述请求消息是初始化消息、所述脚本名对应的服务器列表不为空、且所述服务器列表记载的服务器均无未超载的服务器,则在整个系统的没有记录在所述服务器列表中且未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,将所述目标服务器的地址加入所述服务器列表;
第四处理子模块124,用于若所述请求消息不是初始化消息、则选择所述脚本名对应的服务器列表中所记载的所有服务器作为目标服务器,并将所述请求消息转发给所述目标服务器。
上述的各子模块的功能可参见上述各方法实施例,此处步骤赘述。
可选地,该负载均衡器设备还可以包括记录模块15用于存储请求端和目标服务器之间的连接映射关系。记录模块15主要用于存取各种会话信息,以保证会话的连续性。
可选地,该负载均衡器设备还可以包括释放模块16,该释放模块16与记录模块15连接,用于在服务器执行完脚本实例并返回响应消息后,负载均衡器设备将成功响应消息返回给请求端后,删除请求消息对应的服务器列表中的、请求端和目标服务器之间的连接映射关系。
可选地,该负载均衡器设备还可以包括更新模块17,用于在向目标服务器转发请求消息后,将服务器列表中所记载的目标服务器的时间戳设置为当前时间,并定期接收目标服务器上报的未运行的脚本列表,比较上报时间和对应脚本名的服务器列表中目标服务器的时间戳,若上报时间晚于时间戳,则删除服务器列表中目标服务器的地址。负载均衡器设备通过更新模块17不断更新服务器列表,节省系统资源。
另外,该负载均衡器设备还可以包括服务器监控管理模块,通过服务器监控管理模块来监控服务器的健康状况、负载状况,同时还要管理服务器的添加、删除等。
本发明实施例提供的负载均衡器设备,尽量减少负载均衡器与服务器的交互,把请求消息会话的判断放在服务器侧;对于会话内的请求将会分发到后台所有已有该“BPEL”组合脚本执行的服务器上,正在处理该会话的服务器会正确处理该请求,其他服务器会拒绝该请求;脚本的初始请求消息只会在原服务该“BPEL”脚本的服务器负载达到临界点后才会分发到其他的服务器上,这样不但解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,满足组合引擎的大容量需求。
图5为本发明请求消息处理系统实施例组成示意图,如图5所示,该请求消息处理系统包括请求端2和数个服务器3,还包括设置在所述请求端和所述数个服务器之间的负载均衡器设备1。其中,负载均衡器设备1接收请求端2的请求,通过上述的方法处理流程,将请求消息发送给后面的一台或者多台服务器3,然后从服务器3接收响应消息,将合适的响应消息转发给请求端2。本实施例提供的请求消息处理系统中涉及的负载均衡器设备,可以采用上述方法和装置实施例提供的负载均衡器设备,其功能和结构此处不再赘述。
本发明实施例提供的请求消息处理系统中,负载均衡器通过简单的字符串匹配获取服务名和操作名,将大计算量放在服务器侧进行,解决了组合引擎集群的会话保持问题,减少了负载均衡器的计算任务,最大化负载均衡器的扇出能力,最大化地提高了组合引擎集群的吞吐量,满足组合引擎的大容量需求。
本发明的装置、服务器和系统实施例中所提供各个单元之间的交互及相关信息均可以参考前述各个方法实施例提供的相关流程,具体功能和处理流程请参见前述各个实施例,在此不再赘述。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (11)
1.一种请求消息处理方法,其特征在于,包括:
接收并解析请求端发送的请求消息,获取所述请求消息对应的脚本名以及所述请求消息的消息类型;
根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息;
接收所述目标服务器执行所述脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给所述请求端。
2.根据权利要求1所述的请求消息处理方法,其特征在于,所述将其中满足返回条件的响应消息返回给所述请求端包括:
将其中表示执行成功的响应消息返回给所述请求端;或
若所述目标服务器均返回拒绝消息,则将接收到的最后一个拒绝消息返回给所述请求端。
3.根据权利要求1或2所述的请求消息处理方法,其特征在于,所述根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息包括:
若所述请求消息是初始化消息、且所述脚本名对应的服务器列表为空,则在整个系统的未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,并将所述目标服务器的地址加入所述脚本名对应的服务器列表;或
若所述请求消息是初始化消息、且所述脚本名对应的服务器列表不为空,则从所述服务器列表中记载的服务器中选择未超载的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器;或
若所述请求消息是初始化消息、所述脚本名对应的服务器列表不为空、且所述服务器列表记载的服务器均无未超载的服务器,则在整个系统的没有记录在所述服务器列表中且未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,将所述目标服务器的地址加入所述服务器列表;或
若所述请求消息是初始化消息、且整个系统中均无未超载的服务器,则直接拒绝所述请求消息;或
若所述请求消息不是初始化消息、则选择所述脚本名对应的服务器列表中所记载的所有服务器作为目标服务器,并将所述请求消息转发给所述目标服务器;或
若所述请求消息不是初始化消息、且所述脚本名对应的服务器列表为空,则直接拒绝所述请求消息。
4.根据权利要求2所述的请求消息处理方法,其特征在于,所述将其中表示执行成功的响应消息返回给所述请求端包括:
若所述请求消息对应的服务器列表的连接长度为1,则直接将所述目标服务器执行所述脚本名对应的脚本而返回的、表示执行成功的响应消息返回给所述请求端;或
若所述请求消息对应的服务器列表的连接长度大于1,则将所述目标服务器执行所述脚本名对应的脚本而返回的数个响应消息中表示执行成功的响应消息返回给所述请求端。
5.根据权利要求1或2所述的请求消息处理方法,其特征在于,所述根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息后,还包括:
将所述服务器列表中所记载的所述目标服务器的时间戳设置为当前时间。
6.根据权利要求5所述的请求消息处理方法,其特征在于,所述方法还包括:
定期接收所述目标服务器上报的未运行的脚本列表,比较所述目标服务器的上报时间和对应脚本名的服务器列表中所记载的所述目标服务器的时间戳,若所述上报时间晚于所述时间戳,则删除所述服务器列表中所述目标服务器的地址。
7.一种负载均衡器设备,其特征在于,包括:
第一处理模块,用于接收并解析请求端发送的请求消息,获取所述请求消息对应的脚本名以及所述请求消息的消息类型;
第二处理模块,用于根据所述脚本名对应的服务器列表以及所述消息类型,获取所述请求消息的目标服务器,并向所述目标服务器转发所述请求消息;
第三处理模块,用于接收所述目标服务器执行所述脚本名对应的脚本而返回的响应消息,并将其中满足返回条件的响应消息返回给所述请求端。
8.根据权利要求7所述的负载均衡器设备,其特征在于,所述第三处理模块包括:
第五处理子模块,用于将其中表示执行成功的响应消息返回给所述请求端;
第六处理子模块,用于若所述目标服务器均返回拒绝消息,则将接收到的最后一个拒绝消息返回给所述请求端。
9.根据权利要求7或8所述的负载均衡器设备,其特征在于,所述第二处理模块包括以下任一子模块或其组合:
第一处理子模块,用于若所述请求消息是初始化消息、且所述脚本名对应的服务器列表为空,则在整个系统的未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,并将所述目标服务器的地址加入所述脚本名对应的服务器列表;
第二处理子模块,用于若所述请求消息是初始化消息、且所述脚本名对应的服务器列表不为空,则从所述服务器列表中记载的服务器中选择未超载的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器;
第三处理子模块,用于若所述请求消息是初始化消息、所述脚本名对应的服务器列表不为空、且所述服务器列表记载的服务器均无未超载的服务器,则在整个系统的没有记录在所述服务器列表中且未超载的服务器中选择负载最轻的一服务器作为目标服务器,并将所述请求消息转发给所述目标服务器,将所述目标服务器的地址加入所述服务器列表;
第四处理子模块,用于若所述请求消息不是初始化消息、则选择所述脚本名对应的服务器列表中所记载的所有服务器作为目标服务器,并将所述请求消息转发给所述目标服务器。
10.根据权利要求7或8所述的负载均衡器设备,其特征在于,还包括:
更新模块,用于向所述目标服务器转发所述请求消息后,将所述服务器列表中所记载的所述目标服务器的时间戳设置为当前时间,并定期接收所述目标服务器上报的未运行的脚本列表,比较上报时间和对应脚本名的服务器列表中目标服务器的时间戳,若所述上报时间晚于所述时间戳,则删除所述服务器列表中所述目标服务器的地址。
11.一种请求消息处理系统,包括请求端和数个服务器,还包括设置在所述请求端和所述数个服务器之间的、如权利要求7至10任一所述的负载均衡器设备。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009102261768A CN102075409B (zh) | 2009-11-24 | 2009-11-24 | 请求消息处理方法、系统及负载均衡器设备 |
PCT/CN2010/078553 WO2011063718A1 (zh) | 2009-11-24 | 2010-11-09 | 请求消息处理方法、系统及负载均衡器设备 |
US13/480,141 US9357028B2 (en) | 2009-11-24 | 2012-05-24 | Method and system for processing request message, and load balancer device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2009102261768A CN102075409B (zh) | 2009-11-24 | 2009-11-24 | 请求消息处理方法、系统及负载均衡器设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102075409A true CN102075409A (zh) | 2011-05-25 |
CN102075409B CN102075409B (zh) | 2013-03-20 |
Family
ID=44033761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009102261768A Active CN102075409B (zh) | 2009-11-24 | 2009-11-24 | 请求消息处理方法、系统及负载均衡器设备 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9357028B2 (zh) |
CN (1) | CN102075409B (zh) |
WO (1) | WO2011063718A1 (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103973586A (zh) * | 2014-05-14 | 2014-08-06 | 江苏省无线电科学研究所有限公司 | 一种实现自动气象站无线组网负载平衡的方法 |
CN106161511A (zh) * | 2015-03-31 | 2016-11-23 | 华为技术有限公司 | 业务请求处理方法、相关装置及系统 |
CN106250454A (zh) * | 2012-04-28 | 2016-12-21 | 阿里巴巴集团控股有限公司 | 一种页面脚本的加载方法及装置 |
CN106952062A (zh) * | 2017-02-09 | 2017-07-14 | 浙江百倍云信息科技有限公司 | 一种智能物流的监控方法及系统 |
CN107729410A (zh) * | 2017-09-26 | 2018-02-23 | 广西电网有限责任公司电力科学研究院 | 一种适用于电力设备大数据的数据库引擎 |
CN108667934A (zh) * | 2018-05-11 | 2018-10-16 | 中国平安人寿保险股份有限公司 | 信息处理方法、装置、电子设备及存储介质 |
CN108696557A (zh) * | 2017-04-11 | 2018-10-23 | 北京京东尚科信息技术有限公司 | 信息处理系统、方法和装置 |
CN109361719A (zh) * | 2016-12-13 | 2019-02-19 | 上海仪电(集团)有限公司中央研究院 | 一种基于微服务的操作系统SaaS应用自动整合方法 |
CN109614208A (zh) * | 2018-10-18 | 2019-04-12 | 平安普惠企业管理有限公司 | 任务的优化处理方法、装置、计算机设备及存储介质 |
CN109688229A (zh) * | 2019-01-24 | 2019-04-26 | 江苏中云科技有限公司 | 一种负载均衡集群下会话保持系统 |
CN109756564A (zh) * | 2018-12-20 | 2019-05-14 | 广州市百果园信息技术有限公司 | 服务治理方法、装置及存储介质、计算机设备 |
CN109873731A (zh) * | 2017-12-05 | 2019-06-11 | 北京京东尚科信息技术有限公司 | 测试方法、装置和系统 |
CN110990146A (zh) * | 2019-11-01 | 2020-04-10 | 北京信安世纪科技股份有限公司 | 负载均衡方法、设备、系统及存储介质 |
CN112559189A (zh) * | 2020-12-21 | 2021-03-26 | 厦门亿联网络技术股份有限公司 | 业务请求的处理方法、装置、电子设备及存储介质 |
CN113163008A (zh) * | 2021-04-19 | 2021-07-23 | 深圳市欧瑞博科技股份有限公司 | 网络服务系统的连接智能管理方法、装置及其相关设备 |
CN113783912A (zh) * | 2020-08-25 | 2021-12-10 | 北京沃东天骏信息技术有限公司 | 请求分发方法、装置及存储介质 |
WO2023246309A1 (zh) * | 2022-06-23 | 2023-12-28 | 京东方科技集团股份有限公司 | 数据处理方法、装置及系统 |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8751638B2 (en) * | 2010-07-02 | 2014-06-10 | Futurewei Technologies, Inc. | System and method to implement joint server selection and path selection |
US8775628B2 (en) * | 2011-08-31 | 2014-07-08 | Metaswitch Networks Ltd. | Load balancing for SIP services |
CN104811488B (zh) * | 2015-04-13 | 2018-09-25 | 深信服网络科技(深圳)有限公司 | 基于负载均衡设备的会话保持方法及系统和负载均衡设备 |
CN104811503A (zh) * | 2015-05-21 | 2015-07-29 | 龙信数据(北京)有限公司 | 一种r统计建模系统 |
US10452439B2 (en) | 2016-11-28 | 2019-10-22 | Amazon Technologies, Inc. | On-demand code execution in a localized device coordinator |
US10608973B2 (en) | 2016-11-28 | 2020-03-31 | Amazon Technologies, Inc. | Embedded codes in messaging protocol communications |
US10216540B2 (en) | 2016-11-28 | 2019-02-26 | Amazon Technologies, Inc. | Localized device coordinator with on-demand code execution capabilities |
US10417049B2 (en) * | 2016-11-28 | 2019-09-17 | Amazon Technologies, Inc. | Intra-code communication in a localized device coordinator |
US10637817B2 (en) | 2016-11-28 | 2020-04-28 | Amazon Technologies, Inc. | Managing messaging protocol communications |
US10372486B2 (en) | 2016-11-28 | 2019-08-06 | Amazon Technologies, Inc. | Localized device coordinator |
US10783016B2 (en) | 2016-11-28 | 2020-09-22 | Amazon Technologies, Inc. | Remote invocation of code execution in a localized device coordinator |
CN109688187B (zh) * | 2018-09-07 | 2022-04-22 | 平安科技(深圳)有限公司 | 流量负载均衡方法、装置、设备及可读存储介质 |
US11200331B1 (en) | 2018-11-21 | 2021-12-14 | Amazon Technologies, Inc. | Management of protected data in a localized device coordinator |
CN109587239B (zh) * | 2018-12-03 | 2021-09-07 | 群蜂信息技术(上海)有限公司 | 一种访问请求的处理方法、服务器及存储介质 |
US11372654B1 (en) | 2019-03-25 | 2022-06-28 | Amazon Technologies, Inc. | Remote filesystem permissions management for on-demand code execution |
CN110098963B (zh) * | 2019-04-25 | 2022-05-13 | 广州小鹏汽车科技有限公司 | 一种服务器运维管控方法及系统 |
CN111562990B (zh) * | 2020-07-15 | 2020-10-27 | 北京东方通软件有限公司 | 一种基于消息的轻量级无服务器计算方法 |
CN112532687B (zh) * | 2020-11-03 | 2022-07-08 | 杭州朗澈科技有限公司 | kubernetes负载均衡器扩容方法和系统 |
CN115086003B (zh) * | 2022-06-10 | 2024-03-29 | 上海弘积信息科技有限公司 | 一种负载均衡集中管控系统的网页跳转后的免登录方法 |
CN117082068B (zh) * | 2023-08-25 | 2024-03-29 | 北京神州云合数据科技发展有限公司 | 报税服务器弹性扩容方法及系统 |
CN117596187B (zh) * | 2024-01-19 | 2024-04-30 | 融科联创(天津)信息技术有限公司 | 一种基于多云平台的服务器运维方法、装置、设备及介质 |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020010783A1 (en) * | 1999-12-06 | 2002-01-24 | Leonard Primak | System and method for enhancing operation of a web server cluster |
US6732175B1 (en) * | 2000-04-13 | 2004-05-04 | Intel Corporation | Network apparatus for switching based on content of application data |
US7237034B2 (en) * | 2000-09-18 | 2007-06-26 | Openwave Systems Inc. | Method and apparatus for controlling network traffic |
US8346848B2 (en) * | 2001-08-16 | 2013-01-01 | Juniper Networks, Inc. | System and method for maintaining statefulness during client-server interactions |
CN1235157C (zh) * | 2002-10-10 | 2006-01-04 | 华为技术有限公司 | 面向内容的负载均衡方法 |
CN1256669C (zh) * | 2002-12-27 | 2006-05-17 | 联想(北京)有限公司 | 一种异构机群管理系统及其信息处理方法 |
US7660894B1 (en) * | 2003-04-10 | 2010-02-09 | Extreme Networks | Connection pacer and method for performing connection pacing in a network of servers and clients using FIFO buffers |
US7904882B2 (en) * | 2003-10-16 | 2011-03-08 | Salesforce.Com, Inc. | Managing virtual business instances within a computer network |
US7587487B1 (en) * | 2003-12-10 | 2009-09-08 | Foundry Networks, Inc. | Method and apparatus for load balancing based on XML content in a packet |
US7464142B2 (en) * | 2003-12-12 | 2008-12-09 | International Business Machines Corporation | Port type agnostic proxy support for web services intermediates |
US20050198303A1 (en) * | 2004-01-02 | 2005-09-08 | Robert Knauerhase | Dynamic virtual machine service provider allocation |
US7448022B1 (en) * | 2004-02-10 | 2008-11-04 | Prasad Ram | Dynamic software composition in a component-based software system |
US20060080419A1 (en) * | 2004-05-21 | 2006-04-13 | Bea Systems, Inc. | Reliable updating for a service oriented architecture |
US8868779B2 (en) * | 2004-06-15 | 2014-10-21 | Accenture Global Services Limited | Method and apparatus to accomplish peer-to-peer application data routing between service consumers and service providers within a service oriented architecture |
US20060224773A1 (en) | 2005-03-31 | 2006-10-05 | International Business Machines Corporation | Systems and methods for content-aware load balancing |
CN1992621A (zh) * | 2005-12-27 | 2007-07-04 | 腾讯科技(深圳)有限公司 | 实现大容量网络直播的方法及其系统 |
CN101379757B (zh) * | 2006-02-07 | 2011-12-07 | 思科技术公司 | 在通信网络中提供电话服务以及实施策略的方法和系统 |
US20080140857A1 (en) * | 2006-03-21 | 2008-06-12 | Conner Peter A | Service-oriented architecture and methods for direct invocation of services utilizing a service requestor invocation framework |
CN101146211B (zh) | 2006-09-11 | 2010-06-02 | 思华科技(上海)有限公司 | 视频点播网络的负载均衡系统和方法 |
US20080134293A1 (en) * | 2006-11-30 | 2008-06-05 | James Storm | Method and system for providing distributed applications |
CN101207550B (zh) * | 2007-03-16 | 2010-09-15 | 中国科学技术大学 | 负载均衡系统及多种业务实现负载均衡的方法 |
CN101364971A (zh) * | 2007-08-10 | 2009-02-11 | 陈正伟 | 一种通讯机器人协议转换系统 |
US20090106456A1 (en) * | 2007-10-19 | 2009-04-23 | Urs Muller | Method and apparatus for interactions of web applications with the local host environment |
CN101247349A (zh) * | 2008-03-13 | 2008-08-20 | 华耀环宇科技(北京)有限公司 | 一种网络流量快速分配方法 |
CN101252591B (zh) * | 2008-04-03 | 2011-05-04 | 中国科学技术大学 | 实现上下行数据分离的方法和装置 |
CN101510870B (zh) * | 2008-04-23 | 2012-03-21 | 北京德瑞海普科技有限公司 | 基于脚本和模块驱动的代码级网络协议仿真验证组织方法 |
-
2009
- 2009-11-24 CN CN2009102261768A patent/CN102075409B/zh active Active
-
2010
- 2010-11-09 WO PCT/CN2010/078553 patent/WO2011063718A1/zh active Application Filing
-
2012
- 2012-05-24 US US13/480,141 patent/US9357028B2/en active Active
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106250454A (zh) * | 2012-04-28 | 2016-12-21 | 阿里巴巴集团控股有限公司 | 一种页面脚本的加载方法及装置 |
CN106250454B (zh) * | 2012-04-28 | 2020-04-14 | 阿里巴巴集团控股有限公司 | 一种页面脚本的加载方法及装置 |
CN103973586A (zh) * | 2014-05-14 | 2014-08-06 | 江苏省无线电科学研究所有限公司 | 一种实现自动气象站无线组网负载平衡的方法 |
US10389801B2 (en) | 2015-03-31 | 2019-08-20 | Huawei Technologies Co., Ltd. | Service request processing method, related apparatus, and system |
CN106161511A (zh) * | 2015-03-31 | 2016-11-23 | 华为技术有限公司 | 业务请求处理方法、相关装置及系统 |
CN106161511B (zh) * | 2015-03-31 | 2020-01-21 | 华为技术有限公司 | 业务请求处理方法、相关装置及系统 |
CN109361719B (zh) * | 2016-12-13 | 2021-03-09 | 上海仪电(集团)有限公司中央研究院 | 一种基于微服务的操作系统SaaS应用自动整合方法 |
CN109361719A (zh) * | 2016-12-13 | 2019-02-19 | 上海仪电(集团)有限公司中央研究院 | 一种基于微服务的操作系统SaaS应用自动整合方法 |
CN106952062A (zh) * | 2017-02-09 | 2017-07-14 | 浙江百倍云信息科技有限公司 | 一种智能物流的监控方法及系统 |
CN108696557A (zh) * | 2017-04-11 | 2018-10-23 | 北京京东尚科信息技术有限公司 | 信息处理系统、方法和装置 |
CN108696557B (zh) * | 2017-04-11 | 2021-08-10 | 北京京东尚科信息技术有限公司 | 信息处理系统、方法和装置 |
CN107729410A (zh) * | 2017-09-26 | 2018-02-23 | 广西电网有限责任公司电力科学研究院 | 一种适用于电力设备大数据的数据库引擎 |
CN109873731A (zh) * | 2017-12-05 | 2019-06-11 | 北京京东尚科信息技术有限公司 | 测试方法、装置和系统 |
CN108667934A (zh) * | 2018-05-11 | 2018-10-16 | 中国平安人寿保险股份有限公司 | 信息处理方法、装置、电子设备及存储介质 |
CN109614208A (zh) * | 2018-10-18 | 2019-04-12 | 平安普惠企业管理有限公司 | 任务的优化处理方法、装置、计算机设备及存储介质 |
CN109756564A (zh) * | 2018-12-20 | 2019-05-14 | 广州市百果园信息技术有限公司 | 服务治理方法、装置及存储介质、计算机设备 |
CN109756564B (zh) * | 2018-12-20 | 2022-03-01 | 广州市百果园信息技术有限公司 | 服务治理方法、装置及存储介质、计算机设备 |
CN109688229A (zh) * | 2019-01-24 | 2019-04-26 | 江苏中云科技有限公司 | 一种负载均衡集群下会话保持系统 |
CN110990146A (zh) * | 2019-11-01 | 2020-04-10 | 北京信安世纪科技股份有限公司 | 负载均衡方法、设备、系统及存储介质 |
CN113783912A (zh) * | 2020-08-25 | 2021-12-10 | 北京沃东天骏信息技术有限公司 | 请求分发方法、装置及存储介质 |
CN112559189A (zh) * | 2020-12-21 | 2021-03-26 | 厦门亿联网络技术股份有限公司 | 业务请求的处理方法、装置、电子设备及存储介质 |
CN113163008A (zh) * | 2021-04-19 | 2021-07-23 | 深圳市欧瑞博科技股份有限公司 | 网络服务系统的连接智能管理方法、装置及其相关设备 |
CN113163008B (zh) * | 2021-04-19 | 2023-03-24 | 深圳市欧瑞博科技股份有限公司 | 网络服务系统的连接智能管理方法、装置及其相关设备 |
WO2023246309A1 (zh) * | 2022-06-23 | 2023-12-28 | 京东方科技集团股份有限公司 | 数据处理方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
WO2011063718A1 (zh) | 2011-06-03 |
US20120233248A1 (en) | 2012-09-13 |
CN102075409B (zh) | 2013-03-20 |
US9357028B2 (en) | 2016-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102075409B (zh) | 请求消息处理方法、系统及负载均衡器设备 | |
CN106031130B (zh) | 具有边缘代理的内容传送网络架构 | |
US9888089B2 (en) | Client side cache management | |
JP3994057B2 (ja) | エッジ・サーバ・コンピュータを選択する方法およびコンピュータ・システム | |
CN104618506B (zh) | 一种众包的内容分发网络系统、方法与装置 | |
US9204180B2 (en) | Method, server and terminal for audio and video on demand | |
US8677011B2 (en) | Load distribution system, load distribution method, apparatuses constituting load distribution system, and program | |
KR101383905B1 (ko) | 해시 함수 결과를 이용한 서버 부하 분산 처리 방법 및 그 장치 | |
CN105681462B (zh) | 一种基于消息路由的集群系统及数据通信中转方法 | |
CN102355426A (zh) | 实现离线文件传输的方法和系统 | |
CN101409706A (zh) | 一种边缘网络中的数据分发方法、数据分发系统及相关设备 | |
CN102272747A (zh) | 用于管理远程用户界面的状态信息的方法和装置 | |
CN103597471A (zh) | 用于对计算机网络上的数据通信进行缓存的方法和系统 | |
CN101783771A (zh) | 一种实现负载均衡持续性的方法和设备 | |
CN102771080A (zh) | 使用缓存的高效媒体传送的系统和方法 | |
CN102055771B (zh) | 面向云服务的多并发业务流控制装置及控制方法 | |
CN103765858B (zh) | 用于在用户在通信网络内的浏览期间监视用户的方法和服务器 | |
US20140244609A1 (en) | System, Method and Device for Internet Search Based on Peer-to-Peer Network | |
CN101326493A (zh) | 用于多处理器服务器中的负载分配的方法和装置 | |
CN1954578A (zh) | 在基于消息的通信中的改进 | |
CN102143150A (zh) | 一种获取媒体内容的方法、设备及系统 | |
CN102257792B (zh) | 用于包括策略数据库的内容传递的方法 | |
CN101459650A (zh) | 业务路由方法、业务路由器、客户端设备及业务网络系统 | |
CN106209952B (zh) | 服务节点分配方法、装置、cdn管理服务器及系统 | |
CN101741877B (zh) | 媒体资源的操作方法、系统和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |