CN112003945A - 服务请求响应方法及装置 - Google Patents

Abstract

本公开涉及一种服务请求响应方法、装置、电子设备及计算机可读介质。该方法包括：获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。本公开涉及的服务请求响应方法、装置、电子设备及计算机可读介质，既能够保证用户请求获取到数据的时效性，也能够避免用户在一定时间后访问相同数据时在传输时间上的损耗。

Description

服务请求响应方法及装置

技术领域

本公开涉及计算机信息处理领域，具体而言，涉及一种服务请求响应方法、装置、电子设备及计算机可读介质。

背景技术

21世纪，全民网络普及的时代，人们都喜欢网上购物，方便、快捷、完全是不可或缺的标签。同时网络中的业务请求量也成迭代增长的趋势。

随着网络技术的不断发展，使用网络的用户数量和数据流量越来越大大流量的访问数据以及对服务器的性能和可靠性的要求越来越高，而在多用户访问服务器同一个资源的情况下，对服务器网络资源的负担也是比较大的，而服务器的更换成本高昂，服务器负载均衡设备以其便于维护以及成本较低的优势，被越来越多的集群服务器采用。

通过负载均衡设备的HTTP缓存技术，可以在很大程度上缓解服务器在大流量访问的情况下的性能以及网络压力状况。同时，可以通过对特定URL的HTTP缓存或者排除，可以精准对某些特定URL提高响应速度，优化用户体验。但是，目前的负载均衡的HTTP缓存技术还不成熟，在有些时候还会增加客户端接收响应的时间。

因此，需要一种新的服务请求响应方法、装置、电子设备及计算机可读介质。

在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解，因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

有鉴于此，本公开提供一种服务请求响应方法、装置、电子设备及计算机可读介质，既能够保证用户请求获取到数据的时效性，也能够避免用户在一定时间后访问相同数据时在传输时间上的损耗。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一方面，提出一种服务请求响应方法，该方法包括：获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。

在本公开的一种示例性实施例中，还包括：在所述负载均衡设备中建立缓存列表，所述缓存列表中包括多个服务器的统一资源定位器和其对应的请求信息、响应信息。

在本公开的一种示例性实施例中，还包括：基于所述缓存列表所述负载均衡设备周期性的获取多个服务器的请求信息；将所述请求信息依次发送给多个服务器；由所述多个服务器获取响应信息以更新所述缓存列表。

在本公开的一种示例性实施例中，还包括：在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器；所述负载均衡设备由所述服务器获取响应信息；所述负载均衡设备将所述响应信息发送至所述客户端。

在本公开的一种示例性实施例中，所述负载均衡设备由所述服务器获取响应信息，还包括：所述负载均衡设备将所述响应信息存储在缓存列表中。

在本公开的一种示例性实施例中，所述负载均衡设备将所述响应信息存储在缓存列表中，包括：在所述响应信息中的统一资源定位符地址满足缓存策略时，将所述响应信息存储在缓存列表中。

在本公开的一种示例性实施例中，基于所述请求信息在负载均衡设备的缓存中进行检索，包括：由所述请求信息中提取目标服务器的统一资源定位符地址；基于所述统一资源定位符地址在负载均衡设备的缓存中进行检索。

在本公开的一种示例性实施例中，在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端，包括：在所述缓存中存在对应于所述请求信息的响应信息，且所述响应信息未失效时，将所述响应信息发送至所述客户端。

根据本公开的一方面，提出一种服务请求响应装置，可应用负载均衡设备，该装置包括：信息模块，用于获取来自客户端的请求信息，所述请求信息为HTTP请求；检索模块，用于基于所述请求信息在负载均衡设备的缓存中进行检索；提取模块，用于在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。

在本公开的一种示例性实施例中，还包括：发送模块，用于在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器；所述负载均衡设备由所述服务器获取响应信息；所述负载均衡设备将所述响应信息发送至所述客户端。

根据本公开的一方面，提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如上文的方法。

根据本公开的一方面，提出一种计算机可读介质，其上存储有计算机程序，该程序被处理器执行时实现如上文中的方法。

根据本公开的服务请求响应方法、装置、电子设备及计算机可读介质，获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端的方式，既能够保证用户请求获取到数据的时效性，也能够避免用户在一定时间后访问相同数据时在传输时间上的损耗。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。

附图说明

通过参照附图详细描述其示例实施例，本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据一示例性实施例示出的一种服务请求响应方法及装置的应用场景图。

图2是根据一示例性实施例示出的一种服务请求响应方法的流程图。

图3是根据一示例性实施例示出的一种服务请求响应方法的流程图。

图4是根据另一示例性实施例示出的一种服务请求响应方法的流程图。

图5是根据一示例性实施例示出的一种服务请求响应装置的框图。

图6是根据一示例性实施例示出的一种电子设备的框图。

图7是根据一示例性实施例示出的一种计算机可读介质的框图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

应理解，虽然本文中可能使用术语第一、第二、第三等来描述各种组件，但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此，下文论述的第一组件可称为第二组件而不偏离本公开概念的教示。如本文中所使用，术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。

本领域技术人员可以理解，附图只是示例实施例的示意图，附图中的模块或流程并不一定是实施本公开所必须的，因此不能用于限制本公开的保护范围。

本公开中涉及的技术缩略语解释如下：

虚服务地址(VIP)是一个不与特定计算机或一个计算机中的网络接口卡(NIC)相连的IP地址。数据包被发送到这个VIP地址，但是所有的数据还是经过真实的网络接口。是IP技术的一种，增强网络管理，发挥出VLAN的优势，改变了网络结构,合理分配网络资源，均衡网络负载，有效降低网上广播信息,方便对用户的分组管理。

负载均衡(Load Balance)，是将业务请求分摊到多个操作单元上进行执行，从而共同完成工作任务。它有效的扩展了网络设备和服务器的带宽、增加吞吐量、将强网络数据处理能力、提高网络的灵活性和可用性。

Cache-Control为Http报文中用来控制缓存的开关之一。常用参数有：no-cache：no-cache，如果是请求报文，意味着客户端不使用缓存，需要直接向服务器发送请求；如果是响应报文，意味着服务器告知客户端不能使用缓存，需要从服务器取数据。max-age：xx秒，如果是请求报文，客户端向服务器申请的内容可以缓存在客户端中xx秒，在该时间范围内直接从缓存取数据，不需要从服务器读取；如果是响应报文，意味着服务器告诉客户端在xx秒时间范围内从缓存来取数据，不要来找服务器。

URL缓存列表，是根据响应报文URL，判断负载均衡设备需要对该报文进行缓存的配置选项。

URL排除列表，是根据响应报文URL，判断负载均衡设备不需要对该报文进行缓存的配置选项。

本公开的发明人发现，现有负载均衡设备把收到的服务端响应内容缓存起来，通过响应服务器URL以及客户端请求报文头部的校验，使客户端请求不需要与服务端交互也能取到响应数据，从而实现提高用户访问速度，减少服务器负载的作用。但是，在现有方案下，负载均衡设备的缓存操作是在负载均衡设备收到客户端触发服务器请求时，才会向服务器发起请求，并把服务请求响应的内容存储到负载均衡设备，以便下一次客户端请求到来时，通过对请求报文HTTP头部的判断，以实现客户端web访问加速。如果长时间没有客户端请求，在满足老化时间的情况下缓存就会失效，那么下一次相同的客户端请求发送过来时负载均衡设备又需要重新向服务器发起请求并缓存报文，无形之中增加了客户端收到的响应报文的回复时间。

为了解决负载均衡设备只能被动向服务器发送请求报文并进行缓存，本公开提出一种负载均衡设备根据最近的客户端请求，主动向服务器发送请求报文并更新缓存内容的技术，使下一次用户相同的请求信息到来时，回复给用户的信息是最新的服务器响应内容，不必再次向服务器发送请求报文，可以更快的响应客户端请求，也保证了客户端收到的响应内容的时效性。下面借助于具体的实施例对本公开的内容进行详细描述。

图1是根据一示例性实施例示出的一种服务请求响应方法、装置、电子设备及计算机可读介质的系统框图。

如图1所示，系统架构10可以包括终端设备101、102、103，负载均衡设备104和服务器105、106、107。还包括网络108，网络108用以在终端设备101、102、103和负载均衡设备104之间提供通信链路的介质。网络108还用以在负载均衡设备104和服务器105、106、107之间提供通信链路的介质。网络108可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过负载均衡设备104与服务器105、106、107。交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105、106、107可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果反馈给终端设备。

负载均衡设备104可将来自终端设备101、102、103的访问流量或者请求任务均衡地引导至服务器105、106、107中的一个或多个服务器或网络设备上进行处理，以此达到提高设备和服务器的带宽、增加吞吐量、增强数据处理能力、提高服务的可用性和稳定性的目的。

负载均衡设备104可例如获取来自客户端(终端设备101、102、103)的请求，所述请求信息为HTTP请求；负载均衡设备104可例如基于所述请求信息在缓存中进行检索；负载均衡设备104可例如在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端(终端设备101、102、103)。

负载均衡设备104还可例如在所述缓存中不存在对应于所述请求信息的响应信息时，将所述请求信息发送至服务器(服务器105、106、107)；负载均衡设备104还可例如由所述服务器获取响应信息；所述负载均衡设备将所述响应信息发送至所述客户端(终端设备101、102、103)。

负载均衡设备104还可例如在所述负载均衡设备中建立缓存列表，所述缓存列表中包括多个服务器的统一资源定位器和其对应的请求信息、响应信息。

负载均衡设备104还可例基于所述缓存列表所述负载均衡设备周期性的获取多个服务器的请求信息；将所述请求信息依次发送给多个服务器；由所述多个服务器获取响应信息以更新所述缓存列表。

负载均衡设备104可以是一个实体的负载均衡设备，还可例如为多个负载均衡设备组成，需要说明的是，本公开实施例所提供的服务请求响应方法可以由负载均衡设备104执行，相应地，服务请求响应装置可以设置于负载均衡设备104中。

图2是根据一示例性实施例示出的一种服务请求响应方法的流程图。服务请求响应方法20至少包括步骤S202至S210。

如图2所示，在S202中，获取来自客户端的请求信息，所述请求信息为HTTP请求。请求可为客户端的数据请求，访问请求、登陆请求等等，本公开不以此为限。

在S204中，基于所述请求信息在负载均衡设备的缓存中进行检索。包括：由所述请求信息中提取目标服务器的统一资源定位符(URL)地址；基于所述统一资源定位符地址在负载均衡设备的缓存中进行检索。

其中，负载均衡设备中事先存储缓存列表，缓存列表中存储了不同的服务器对不同请求的响应信息。在请求信息中提取待客户端访问的目标服务器的URL，然后基于URL确定缓存列表中是否存在其对应的响应信息。

在S206中，在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。更具体的，在所述缓存中存在对应于所述请求信息的响应信息，且所述响应信息未失效时，将所述响应信息发送至所述客户端。

可以在缓存类别中设置一个响应信息的失效时间，每次更新响应信息之后，同时记录响应信息的更新时间，在获取到客户请求之后，根据当前时间和响应信息的更新时间判断该响应信息是否已经超出了有效的时间范围，在响应信息有效时，将响应信息发送至客户端，在响应信息失效时，将客户端的请求信息发送至服务器。

在S208中，在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器。

在S210中，所述负载均衡设备由所述服务器获取响应信息并转发至所述客户端。还包括：所述负载均衡设备将所述响应信息存储在缓存列表中。

其中，所述负载均衡设备将所述响应信息存储在缓存列表中，包括：在所述响应信息中的统一资源定位符地址满足缓存策略时，将所述响应信息存储在缓存列表中。缓存策略中可包括URL禁止缓存列表，当响应信息中的URL不在禁止缓存列表中时，将所述响应信息进行缓存。

在一个具体的实施例中，在客户端第一次访问负载均衡设备虚服务地址，负载均衡设备转发请求报文给服务器，服务器回复请求报文给负载均衡设备，如果当服务器响应内容符合HTTP缓存策略，包括HTTP请求头部的验证，缓存策略中配置的服务器URL缓存列表，URL排除列表，负载均衡设备把响应报文存储至负载均衡设备为缓存策略开辟的缓存区中，并把响应报文转发给客户端。

客户端第二次访问相同服务器，负载均衡设备收到请求报文，因为负载设备已有相应响应内容的缓存，负载均衡设备不再向服务器转发请求报文，而是直接把缓存中的响应报文转发给客户端，以此达到客户端访问加速的目的。

根据本公开的服务请求响应方法，获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端的方式，既能够保证用户请求获取到数据的时效性，也能够避免用户在一定时间后访问相同数据时在传输时间上的损耗。

应清楚地理解，本公开描述了如何形成和使用特定示例，但本公开的原理不限于这些示例的任何细节。相反，基于本公开公开的内容的教导，这些原理能够应用于许多其它实施例。

图3是根据另一示例性实施例示出的一种服务请求响应方法的流程图。图3所示的流程30是对图2所示的流程的补充描述。

如图3所示，在S302中，在所述负载均衡设备中建立缓存列表，所述缓存列表中包括多个服务器的统一资源定位器和其对应的请求信息、响应信息。

在S304中，基于所述缓存列表所述负载均衡设备周期性的获取多个服务器的请求信息。负载均衡设备周期性的由缓存列表中读取请求信息。可基于URL地址编号依次读取。

在S306中，将所述请求信息依次发送给多个服务器。

在S308中，由所述多个服务器获取响应信息以更新所述缓存列表。向服务器发送请求报文并更新负载均衡设备中的缓存内容，以此保证缓存内容的时效性。在客户端超过一定时间后再次发送相同请求时，负载均衡设备把缓存内容及时的回复给客户，既减少了用户请求的响应时间，也降低了服务器负载压力。

根据本公开的服务请求响应方法，负载均衡设备实现了主动向服务器发送报文请求，对缓存内容进行更新，既保证了用户请求获取到数据的时效性，也避免了用户在一定时间后访问相同数据通过负载均衡设备转发数据传输时间上的浪费。

图4是根据另一示例性实施例示出的一种服务请求响应方法的流程图。图4所示的流程40是对本公开内容的详细描述。

如图4所示，在S402中，客户端发送请求信息。

在S404中，负载均衡设备中缓存为空，将请求信息转发至服务器。当有客户端发起对服务器的第一个请求时，负载均衡设备首先会检查本地缓存中是否存在该对象。如果不存在这个对象，负载均衡会将这个HTTP请求转发给后端的服务器。

在S406中，由服务器获取响应信息。服务器收到客户端的HTTP请求后，将响应内容回应给负载均衡设备。

在S408中，将响应信息进行缓存并发送给客户端。负载均衡设备收到服务器回复的响应报文后，根据响应报文的URL来判断是否与URL缓存列表相匹配，如果匹配就把响应报文存储到特定存储区，并把响应报文转发送给客户端，达到对HTTP响应内容缓存并转发给客户端的目的，如果要对包含某一个URL的内容不需要缓存，可以通过配置URL排除列表来实现。

在S410中，负载均衡设备定时发送请求信息。负载均衡设备把缓存内容对应的请求报文周期性的发给服务器，达到定期更新缓存内容的目的，方便客户端下次请求的信息仍然是最新的数据。

在S412中，接收服务器的响应信息并更新缓存。

在S414中，客户端再次发送同样的请求信息。

在S416中，负载均衡设备直接在缓存中读取响应信息并发送至客户端。客户端经过一段时间后向服务器发送请求信息，负载均衡设备把最新的缓存信息转发给客户端。

后续的其它客户端发起对服务器的访问请求时，如果负载均衡检测到内容缓存中已经存在该信息，并确认该对象并未失效的话，负载均衡直接将该对象返回给客户端，而无需服务器再次发送该对象。

本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时，执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。

此外，需要注意的是，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。

图5是根据一示例性实施例示出的一种服务请求响应装置的框图。如图5所示，服务请求响应装置50包括：信息模块502，检索模块504，提取模块506，发送模块508。

信息模块502用于获取来自客户端的请求信息，所述请求信息为HTTP请求；

检索模块504用于基于所述请求信息在负载均衡设备的缓存中进行检索；检索模块504还用于由所述请求信息中提取目标服务器的统一资源定位符地址；基于所述统一资源定位符地址在负载均衡设备的缓存中进行检索。

提取模块506用于在所述缓存中存在对应于所述请求信息的响应信息时，将所述响应信息发送至所述客户端。提取模块506还用于在所述缓存中存在对应于所述请求信息的响应信息，且所述响应信息未失效时，将所述响应信息发送至所述客户端。

发送模块508用于在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器；所述负载均衡设备由所述服务器获取响应信息；所述负载均衡设备将所述响应信息发送至所述客户端。发送模块508还用于所述负载均衡设备将所述响应信息存储在缓存列表中。

根据本公开的服务请求响应装置，获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端的方式，既能够保证用户请求获取到数据的时效性，也能够避免用户在一定时间后访问相同数据时在传输时间上的损耗。

图6是根据一示例性实施例示出的一种电子设备的框图。

下面参照图6来描述根据本公开的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同系统组件(包括存储单元620和处理单元610)的总线630、显示单元640等。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元610执行，使得所述处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本公开各种示例性实施方式的步骤。例如，所述处理单元610可以执行如图2，图3，图4中所示的步骤。

所述存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。

所述存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备600也可以与一个或多个外部设备600’(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，如图7所示，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。

所述软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现如下功能：获取来自客户端的请求信息，所述请求信息为HTTP请求；基于所述请求信息在负载均衡设备的缓存中进行检索；在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。

本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。

以上具体地示出和描述了本公开的示例性实施例。应可理解的是，本公开不限于这里描述的详细结构、设置方式或实现方法；相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。

Claims (10)

1.一种服务请求响应方法，可用于负载均衡设备，其特征在于，包括：

获取来自客户端的请求信息，所述请求信息为HTTP请求；

基于所述请求信息在负载均衡设备的缓存中进行检索；

在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。

2.如权利要求1所述的方法，其特征在于，还包括：

在所述负载均衡设备中建立缓存列表，所述缓存列表中包括多个服务器的统一资源定位器和其对应的请求信息、响应信息。

3.如权利要求2所述的方法，其特征在于，还包括：

基于所述缓存列表，所述负载均衡设备周期性的获取多个服务器的请求信息；

将所述请求信息依次发送给多个服务器；

由所述多个服务器获取响应信息以更新所述缓存列表。

4.如权利要求1所述的方法，其特征在于，还包括：

在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器；

所述负载均衡设备由所述服务器获取响应信息；

所述负载均衡设备将所述响应信息发送至所述客户端。

5.如权利要求4所述的方法，其特征在于，所述负载均衡设备由所述服务器获取响应信息，还包括：

所述负载均衡设备将所述响应信息存储在缓存列表中。

6.如权利要求5所述的方法，其特征在于，所述负载均衡设备将所述响应信息存储在缓存列表中，包括：

在所述响应信息中的统一资源定位符地址满足缓存策略时，将所述响应信息存储在缓存列表中。

7.如权利要求1所述的方法，其特征在于，基于所述请求信息在负载均衡设备的缓存中进行检索，包括：

由所述请求信息中提取目标服务器的统一资源定位符地址；

基于所述统一资源定位符地址在负载均衡设备的缓存中进行检索。

8.如权利要求1所述的方法，其特征在于，在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端，包括：

在所述缓存中存在对应于所述请求信息的响应信息，且所述响应信息未失效时，将所述响应信息发送至所述客户端。

9.一种服务请求响应装置，可用于负载均衡设备，其特征在于，包括：

信息模块，用于获取来自客户端的请求信息，所述请求信息为HTTP请求；

检索模块，用于基于所述请求信息在负载均衡设备的缓存中进行检索；

提取模块，用于在所述缓存中存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述响应信息发送至所述客户端。

10.如权利要求9所述的装置，其特征在于，还包括：

发送模块，用于在所述缓存中不存在对应于所述请求信息的响应信息时，所述负载均衡设备将所述请求信息发送至服务器；所述负载均衡设备由所述服务器获取响应信息；所述负载均衡设备将所述响应信息发送至所述客户端。

Images