CN113905091A - 用于对访问请求进行处理的方法及装置 - Google Patents

Abstract

本发明实施例公开了用于对访问请求进行处理的方法、装置、可读存储介质以及电子设备，包括：当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备；获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态；以及基于目标设备的运行状态对所述访问请求进行处理。本发明实现了对请求流量的统一控制，能够更加灵活的对访问请求和响应信息进行控制和处理。

Description

用于对访问请求进行处理的方法及装置

技术领域

本发明涉及计算机技术领域，尤其是用于对访问请求进行处理的方法、装置、可读存储介质以及电子设备。

背景技术

目前，在进行网络请求时，往往需要对发起的所有请求进行统一控制、管理以及实现对请求流量的限制以及对请求的紧急关闭等操作。然而，诸如nginx、haproxy等的正向代理服务器或反向代理服务器，在实际应用时不够灵活，无法对访问请求进行更加灵活的操作。例如，现有技术中，无法通过将实时的数据分析反馈给服务器来实现动态流量控制，以对请求方进行限流或紧急关闭出口等操作。

现有技术中，所有的数据采集方开发和维护各自的请求，不考虑统一的代理服务器对所有的请求进行统一的控制和处理。这种情况导致没有更加灵活的动态流量控制，从而可能会存在并发控制失败而导致目标服务器崩溃的情况。现有的代理服务器，无法支持更为灵活的应用层处理方式。

因此，需要一种技术，能够对访问请求进行处理以实现动态流量控制。

发明内容

为了解决现有技术中因访问请求过多面导致服务器崩溃的问题，本发明提出利用正向代理服务器实现的代理平台在应用层处理所有的HTTP访问请求。使用方不需要关心代理平台的处理逻辑，而所有访问请求可以被配置为代理平台中的统一服务器地址。在代理平台中可以针对不同的请求进行不同的处理逻辑，并且可在代理平台中统一为所有的访问请求使用统一的处理逻辑来对携带代理平台的服务器IP地址。根据这种方式，实现了对请求流量的统一控制，以可扩展的插件方式能够更加灵活的对访问请求和响应信息进行控制和处理。

基于本发明的一个方面，提供了一种用于对访问请求进行处理的方法，包括：

当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备；

获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态；以及

基于目标设备的运行状态对所述访问请求进行处理。

根据一个实例，当接收到来自源设备的访问请求时，还包括：

获取与所述源设备相关联的代理配置信息；

基于所述代理配置信息为所述源设备分配用于对访问请求进行处理的代理组件。

根据一个实例，在对访问请求进行解析以确定与访问请求相关联的目标设备之后，还包括：

在代理配置信息中进行检索，以确定与所述目标设备相关联的请求规则，所述请求规则包括：是否延迟发送访问请求、请求规则的有效时间段以及访问请求的发送时间段。

根据一个实例，其中在获取与目标设备相关联的状态信息之前，还包括：

获取目标设备所发送的每个响应信息；

基于每个响应信息更新与所述目标设备相关联的状态信息，其中所述状态信息包括响应状态值；

对与所述目标设备相关联的状态信息进行存储。

根据一个实例，所述响应信息包括：响应时长和响应状态码；

基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值；

基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值；

基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值。

根据一个实例，其中基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值包括：

计算所述目标设备在预设时间段内的多个响应时长的和值；

基于多个响应时长的和值以及多个响应时长的数量值，计算预设时间段内的多个响应时长的平均响应时长；

基于平均响应时长和预设标准响应时长确定响应时长的质量值。

根据一个实例，其中基于平均响应时长和预设标准响应时长确定响应时长的质量值包括：

将平均响应时长与预设标准响应时长的比值确定为响应时长的质量值。

根据一个实例，其中基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值包括：

确定所述目标设备在预设时间段内的多个响应状态码中的异常响应状态码的数量；

将异常响应状态码的数量与响应状态码的总数量的比值作为响应状态码的质量值。

根据一个实例，其中基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值包括：

对所述响应时长的质量值进行归一化，以获得经过归一化的响应时长的质量值；

对所述响应状态码的质量值进行归一化，以获得经过归一化的响应状态码的质量值；

获取响应时长的质量值的第一权重值和响应状态码的质量值的第二权重值；

基于经过归一化的响应时长的质量值和第一权重值，以及经过归一化的响应状态码的质量值和第二权重值进行加权计算以确定目标设备的响应状态值。

根据一个实例，其中基于状态信息确定目标设备的运行状态，包括：

对所述状态信息进行解析以获取响应状态值；

当所述响应状态值小于或等于第一阈值时，确定所述目标设备处于正常运行状态；

当所述响应状态值小于或等于第二阈值并且大于第一阈值时，确定所述目标设备处于异常运行状态；

当所述响应状态值大于第二阈值时，确定所述目标设备处于过载运行状态。

根据一个实例，其中基于目标设备的运行状态对所述访问请求进行处理包括：

当确定所述目标设备处于正常运行状态时，则将来自所述源设备的访问请求发送给目标设备；

当确定所述目标设备处于异常运行状态时，则延迟向所述目标设备发送来自所述源设备的访问请求，直到确定所述目标设备处于正常运行状态为止，或对去往目标设备的访问请求进行流量控制并且确定所述目标设备处于正常运行状态后，将来自所述源设备的访问请求发送给目标设备；

当确定所述目标设备处于过载运行状态时，则不向所述目标设备发送来自所述源设备的访问请求。

根据一个实例，其中将来自所述源设备的访问请求发送给目标设备包括：

基于为所述源设备所分配的代理组件为来自所述源设备的访问请求分配代理IP地址；

基于所述代理IP地址，将来自所述源设备的访问请求发送给目标设备。

根据一个实例，其中将来自所述源设备的访问请求发送给目标设备包括：

获取与所述目标设备相关联的请求规则，基于所述请求规则将来自所述源设备的访问请求发送给目标设备。

根据一个实例，其中基于目标设备的运行状态对所述访问请求进行处理之后，还包括，

从所述目标设备获取与来自源设备的访问请求相对应的响应信息，对访问请求和响应信息进行序列化并存储；

获取与所述源设备相关联的代理配置信息，对代理配置信息进行解析以获取所述目标设备的响应规则；

基于响应规则确定所述响应信息的响应状态。

根据一个实例，当确定所述响应信息的响应状态为异常响应时，将所述代理IP地址放置到代理黑名单中；

当确定所述响应信息的响应状态为无法连接时，则将为所述源设备分配用于对访问请求进行处理的代理组件删除。

根据一个实例，当确定所述响应信息的响应状态为正常响应时，将所述响应信息发送给所述源设备。

根据本发明的另一方面，提供一种用于对访问请求进行处理的装置，包括：

解析单元，用于当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备；

获取单元，用于获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态；以及

处理单元，用于基于目标设备的运行状态对所述访问请求进行处理。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述一种用于对访问请求进行处理的方法。

根据本发明的另一方面，提供了一种计算机程序，包括计算机可读代码，当所述计算机可读代码在设备上运行时，所述设备中的处理器执行用于实现上述一种用于对访问请求进行处理的方法。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述一种用于对访问请求进行处理的方法。

本发明通过对所有访问请求进行集中的统一处理和控制(例如，为所有访问请求统一分配代理IP地址)，可以在数据采集业务中，使用动态流量控制组件来对目标服务器进行访问保护并且节约服务资源。此外，可以在代理平台将所有的访问请求和响应信息进行保存，有效避免数据丢失。此外，本发明通过统一代理平台的代理封禁规则配置，将异常代理的判定逻辑交予用户自行配置。用户可以根据自身业务的需求，对目标服务器封禁IP的策略进行配置。此外，通过flink+Kafka等工具来进行实时的分析计算，将结果反馈给代理平台进行实时的限流或熔断处理以达到目标服务器进行保护。通过这种方式避免了在目标服务器较为脆弱，并且并发控制策略失效而导致对目标服务器崩溃的情况。此外，通过配置规则，用户可以根据自身业务需求来配置每个响应信息的健康状态判定规则，以达到对不同的项目采用不同代理的健康状态规则。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

通过结合附图对本发明实施例进行更详细的描述，本发明的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解，并且构成说明书的一部分，与本发明实施例一起用于解释本发明，并不构成对本发明的限制。在附图中，相同的参考标号通常代表相同部件或步骤。

图1是本发明一示例性实施例提供的用于对访问请求进行处理的方法的流程示意图；

图2是本发明一示例性实施例提供的用于对访问请求进行处理的系统的结构示意图；

图3是本发明一示例性实施例提供的用于对访问请求进行处理的装置的结构示意图；

图4是本发明一示例性实施例提供的电子设备的结构。

具体实施方式

下面，将参考附图详细地描述根据本发明的示例实施例。显然，所描述的实施例仅仅是本发明的一部分实施例，而不是本发明的全部实施例，应理解，本发明不受这里描述的示例实施例的限制。

应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

本领域技术人员可以理解，本发明实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。

还应理解，在本发明实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。

还应理解，对于本发明实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。

另外，本发明中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本发明中字符“/”，一般表示前后关联对象是一种“或”的关系。

还应理解，本发明对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，技术、方法和设备应当被视为说明书的一部分。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

本发明实施例可以应用于终端设备、计算机系统、服务器等电子设备，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与终端设备、计算机系统、服务器等电子设备一起使用的众所周知的终端设备、计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统﹑大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。

终端设备、计算机系统、服务器等电子设备可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

示例性方法

图1是本发明一示例性实施例提供的用于对访问请求进行处理的方法的流程示意图。本发明通过实时收集目标设备的响应信息数据，并将对数据的计算与分析结果及时反馈给代理平台使用，从而通过代理平台实现对请求流量的实时控制，达到对访问目标服务器网站的流量进行限流、熔断等操作。本发明以保护目标服务器为目的，通过配置中心用户可以根据自身业务需求来配置每个响应信息的健康状态判定规则，以达到对不同的项目采用不同的IP代理的健康状态规则。

如图1所示，对访问请求进行处理的方法包括：步骤101，当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备。源设备可以是任何类型的客户端，例如手机、移动终端、膝上型计算机或个人计算机等。目标设备可以是各种类型的服务器。

作为一个实施例，代理平台在接收到来自源设备的http访问请求时，利用请求中间件，对发出前的http访问请求进行处理，具体地，代理平台对http访问请求进行解析，确定与访问请求相关联的目标设备。例如，A客户通过客户端想要访问B网站的信息时，向B网站发出http访问请求；在根据http访问请求访问B网站之前，先访问代理平台，即将http访问请求发送给代理平台；代理平台接收http访问请求，确定B网站为客户端想要访问的目标网站。本发明通过代理平台对B网站的运行状态或工作状态进行判断，基于目标服务器的运行状态或工作状态的判断结果，允许或拒绝客户端对B网站的访问请求。通过对访问请求进行处理，本发明实现了对网络流量进行控制。

作为一个实施例，当接收到来自源设备的访问请求时，还包括：获取与所述源设备相关联的代理配置信息；基于所述代理配置信息为所述源设备分配用于对访问请求进行处理的代理组件。

作为一个实施例，在对访问请求进行解析以确定与访问请求相关联的目标设备之后，还包括：在代理配置信息中进行检索，以确定与所述目标设备相关联的请求规则，所述请求规则包括：是否延迟发送访问请求、请求规则的有效时间段以及访问请求的发送时间段。

例如，代理平台调用代理分配中间件为http访问请求进行的处理包括：根据客户端选择的代理分配逻辑来为http访问请求分配代理组件。随后，获取由用户通过客户端为目标设备(例如，目标网站的当前域名)配置的请求规则，例如，访问请求是否被延迟发送、在哪个时间段使用请求规则，或者在哪个阶段允许将访问请求发送给目标设备等。将所分配组件的相关信息返回给客户端。

步骤102，获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态。

作为一个实施例，在获取与目标设备相关联的状态信息之前，还包括：获取目标设备所发送的每个响应信息；基于每个响应信息更新与所述目标设备相关联的状态信息，其中所述状态信息包括响应状态值。还包括，对与所述目标设备相关联的状态信息进行存储。

作为一个实施例，在获取目标设备，例如B网站的状态信息之前还包括，获取B网站发送的每个响应信息(例如，B网站发送给多个不同的源设备的响应信息)，根据每个响应信息更新B网站的状态信息。可选地，所述响应信息包括：响应时长和响应状态码。其中状态信息用于指示目标设备或B网站的运行状态，并且可以包括响应状态值，响应状态值可由状态信息响应时长、响应状态码等来确定，并且用于对状态信息进行量化。

作为一个实施例，基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值；基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值；基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值。

具体地，其中基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值包括：计算所述目标设备在预设时间段内的多个响应时长的和值；基于多个响应时长的和值以及多个响应时长的数量值，计算预设时间段内的多个响应时长的平均响应时长；基于平均响应时长和预设标准响应时长确定响应时长的质量值。基于平均响应时长和预设标准响应时长确定响应时长的质量值包括：将平均响应时长与预设标准响应时长的比值确定为响应时长的质量值。例如，多个响应时长为10ms、5ms和6ms，并且预设标准响应时长为10ms，那么平均响应时长为(10+5+6)/3＝7ms，那么响应时长的质量值为7ms/10ms＝0.7。

具体地，基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值包括：确定所述目标设备在预设时间段内的多个响应状态码中的异常响应状态码的数量；将异常响应状态码的数量与响应状态码的总数量的比值作为响应状态码的质量值。响应状态码例如包括优秀、良好、正常和未连通。例如，异常响应状态码为未连通的响应状态码。举例来说，优秀为7次、良好为10次、正常为10次并且未连通为3次,那么异常响应状态码的数量为3，响应状态码的总数量为7+10+10+3＝30，可以计算响应状态码的质量值为3/30＝0.1。

作为一个实施例，基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值包括：对所述响应时长的质量值进行归一化，以获得经过归一化的响应时长的质量值；对所述响应状态码的质量值进行归一化，以获得经过归一化的响应状态码的质量值；获取响应时长的质量值的第一权重值和响应状态码的质量值的第二权重值；基于经过归一化的响应时长的质量值和第一权重值，以及经过归一化的响应状态码的质量值和第二权重值进行加权计算以确定目标设备的响应状态值。例如，归一化处理将响应时长的质量值和响应状态码的质量值均映射为0-100％之间的数值。例如，经过归一化的响应时长的质量值为60％、第一权重值0.5、经过归一化的响应状态码的质量值为20％并且第二权重值0.5，那么目标设备的响应状态值为0.5*60％+0.5*20％＝40％。

基于状态信息确定目标设备的运行状态，包括：对所述状态信息进行解析以获取响应状态值；当所述响应状态值小于或等于第一阈值时，确定所述目标设备处于正常运行状态；当所述响应状态值小于或等于第二阈值并且大于第一阈值时，确定所述目标设备处于异常运行状态；当所述响应状态值大于第二阈值时，确定所述目标设备处于过载运行状态。其中第一阈值例如是50％并且第二阈值为70％。应当理解的是，第一阈值和第二阈值可以取任意合理数值。

步骤103，基于目标设备的运行状态对访问请求进行处理。基于目标设备的运行状态对所述访问请求进行处理包括：当确定所述目标设备处于正常运行状态时，则将来自所述源设备的访问请求发送给目标设备；当确定所述目标设备处于异常运行状态时，则延迟向所述目标设备发送来自所述源设备的访问请求，直到确定所述目标设备处于正常运行状态为止，或对去往目标设备的访问请求进行流量控制并且确定所述目标设备处于正常运行状态后，将来自所述源设备的访问请求发送给目标设备；当确定所述目标设备处于过载运行状态时，则不向所述目标设备发送来自所述源设备的访问请求。

举例来说，通过代理平台的后端数据分析组件实时计算确定，当前http访问请求所涉及的目标服务器的运行状态。若当前http访问请求所涉及的目标服务器被后端数据分析组件判定为异常运行状态时，可以等待目标服务器恢复为正常运行状态后，再发送http访问请求，或对去往目标服务器的访问请求进行流量控制并且确定所述目标服务器处于正常运行状态后，再发送http访问请求。若当前http访问请求所涉及的目标服务器被后端数据分析组件判定为过载运行状态时，则关闭当前http访问请求的流量出口，从而对目标服务器进行保护，避免过大的并发请求导致目标服务器崩溃所造成的损失。若目标服务器已经无法处理请求。则不再发送请求，以节省代理平台的系统资源。若关闭当前http访问请求的流量出口，则直接返回关闭信息。

具体地，本发明在对目标服务器的运行状态进行判断后，进行目标服务器的访问。例如，A客户通过客户端想要访问的B网站时，代理平台对B网站的运行状态进行判断。当B网站的状态为正常运行状态时，则向B网站发起访问。而当B网站的判定为异常运行状态时，则延迟向B网站发起访问请求，或对访问请求进行流量控制后向B网站发起访问请求。而当B网站的判定为过载运行状态时，则关闭对B网站的访问请求，以实现对B网站的保护，并节省A客户的资源。

作为一个实例，将来自所述源设备的访问请求发送给目标设备包括：基于为所述源设备的所分配的代理组件为来自所述源设备的访问请求分配代理IP地址；基于所述代理IP地址，将来自所述源设备的访问请求发送给目标设备。根据A客户选择的代理分配逻辑为客户端分配代理IP地址，当目标B网站的运行状态为正常运行状态时，基于为A客户分配的代理IP地址向B网站发起访问请求。

可选地，将来自所述源设备的访问请求发送给目标设备包括：获取与所述目标设备相关联的请求规则，基于所述请求规则将来自所述源设备的访问请求发送给目标设备。作为一个实施例，本发明获取由用户A为目标服务器B域名配置的请求规则，例如，请求规则包括：是否延迟发送访问请求、请求规则的有效时间段以及访问请求的发送时间段等。

作为一个实例，基于目标设备的运行状态对所述访问请求进行处理之后，还包括，从所述目标设备获取与来自源设备的访问请求相对应的响应信息，对访问请求和响应信息进行序列化并存储；获取与所述源设备相关联的代理配置信息，对代理配置信息进行解析以获取所述目标设备的响应规则；基于响应规则确定所述响应信息的响应状态。

作为一个实例，当确定所述响应信息的响应状态为异常响应时，将所述代理IP地址放置到代理黑名单中；当确定所述响应信息的响应状态为无法连接时，则将为所述源设备分配用于对访问请求进行处理的代理组件删除。作为一个实例，当确定所述响应信息的响应状态为正常响应时，将所述响应信息发送给所述源设备。

作为一个实施例，本发明在接收到目标服务器的响应信息时，开始进入到响应中间件的处理逻辑，例如将http响应信息进入代理回收处理中间件。在进入代理回收处理逻辑后，若响应信息指示无法与目标服务器建立连接，则判定代理组件失效，删除这个代理组件并放入黑名单中。

作为一个实施例，本发明获取客户端为所请求的网站域名所配置的代理状态判断规则对目标服务器的运行状态进行判断。由代理平台的配置中心对代理状态判断规则进行配置，不起用户也可以根据自己的需求来配置域名响应状态判断规则。例如，当响应信息中包含某个内容或者响应状态码为用户所配置的异常状态码，则将响应信息判定为异常响应。本发明对目标服务器进行状态检测，检测是否满足用户配置的内容。若响应信息满足用户配置的异常状态码，则将访问请求使用的代理IP，放入代理IP黑名单中。如响应信息不满足用户配置的异常状态码，通过Kafka等消息中间件来进行数据的传输和通信等。

作为一个实例，代理平台可以将http响应信息的状态信息保存在中间件中。具体地，将http请求信息进行序列化处理，并将响应的状态信息的内容进行存储，有效避免数据丢失。

作为一个实例，将http响应信息可以由其它http响应中间件进行处理，以满足用户的各种需求，此处不再赘述。在完成对http响应信息的处理后，将响应信息返回给客户端。可选地，获取源设备自定义的状态信息判定规则，基于状态信息判定规则计算状态信息的响应状态值。作为一个实施例，本发明将http访问请求依次调用各种请求处理中间件，以满足用户的各种需求。为了保证代理平台的可扩展性，本发明代理平台采用了面向接口的设计模式，代理平台允许第三方的开发者开发自己的组件来对访问流量进行控制。第三方能够建立各自的流量控制规则，根据所建立的流量控制规则实现流量的控制。

图2是本发明一示例性实施例提供的对用于对访问请求进行处理的系统的结构示意图。如图2所示，本发明的客户端用户A发起对目标服务器B的访问请求，代理平台在接收到用户A的请求后，对请求进行处理，将处理后的请求发送给目标服务器B，目标服务器返回请求的数据内容至代理平台，代理平台对目标服务器B返回的内容进行处理，代理平台将目标服务器B的响应内容发送给用户。本发明通过分配请求代理的组件为用户A分配代理IP，通过流量控制组件判断目标服务器B的流量情况。

本发明的代理平台接收到目标服务器B的响应，会进入到响应处理组件，来对接收到的响应的内容进行处理，包括：通过代理回收组件回收代理IP组件:该组件会拿到这次响应的结果(即:是否成功访问)用来判断这个代理IP是否健康。

通过响应回收组件来回收响应状态，因每次响应都会有它的状态，有成功还是失败，还是稍后再试等。响应回收组件会将这些信息收集起来发送给在线统计分析程序，有在线统计分析程序来进行实时的数据分析和统计进行可视化的展示。

通过流量控制组件根据响应的状态来判断对方的服务器能否正常承受用户的访问。若流量控制组件判断目标服务器无法承受用户的访问流量，就会开启流量控制，以避免过多的请求流量导致目标服务器的崩溃。

作为一个实施例，本发明通过flink+Kafka的架构设计，对代理平台收集的请求信息进行实时处理分析，通过请求的响应时长以及响应状态码等信息来进行分析判断。例如：

I.目标服务器域名为www.example.com。收集信息为三分钟内平均响应时间为大于等于异常超时时间(如：60s)，异常状态码(503，501等标识为服务器异常的状态码等)占比高于阈值(例如：高于70％)等，例如70％～100％的请求无法成功建立连接等信息，通过加权平均等方法来判断当前目标服务器是否健康，或表示对方当前处理请求压力较大。

II.本发明将分析计算后的状态值保存起来，若该域名被标记为异常，则将该域名写入到异常域名队列中。流量控制处理中间件会判断请求的http域名是否在异常域名队列中，并且通过状态值来判断，对当前http域名进行如何处理例如：状态值介于50～70之间表示对方服务器压力较大，中间件会将进行延迟发送或者进行流量限制，状态值介于70～100时表示对方服务器濒临瘫痪，关闭该域名的出口流量。

III.本发明单独启动一个线程来获取异常域名队列中的异常域名发送嗅探请求进行健康检测。在一定时间内，嗅探请求的响应信息符合健康标准(例如，平均响应时间小于异常时间、异常状态码比例小于异常比例等信息)，则将被标记为异常的服务器域名标记为正常并将该域名从异常域名队列中移除。

本发明通过对所有请求进行集中的统一处理控制，可以在数据采集业务中，为所有请求统一分配代理IP，使用动态流量控制组件来对目标服务器进行保护和节约我方资源，并且可以在代理平台将所有的响应内容通过kafka将内容保存起来，而这一切客户端用户是无感的。

本发明通过统一的代理平台代理封禁规则配置中，将异常代理的判定逻辑交予用户自行配置，用户可以根据自身业务的需求，来对目标服务器封禁IP的策略进行配置。本发明通过flink+Kafka等工具来进行实时的分析计算，来反馈给代理平台进行实时的限流熔断处理以达到对方服务器进行保护，避免对方服务器较脆弱，因没有控制好并发而导致对方服务器崩溃的情况。

本发明通过实时的信息收集实时的数据计算将分析结果及时反馈给代理平台用以对请求流量的实时控制来达到对访问目标网站的流量进行限流、熔断等操作，以达到保护目标服务器的目的，通过配置中心用户可以根据自身业务需求来配置每个响应信息的健康状态判定规则，以达到对不同的项目采用不同的IP代理的健康状态规则。

图3是本发明一示例性实施例提供的对用于对访问请求进行处理的装置的结构示意图。装置包括：解析单元301、获取单元302以及处理单元303。

解析单元301用于当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备。

获取单元302用于获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态。

处理单元303用于基于目标设备的运行状态对所述访问请求进行处理。

作为一个实施例，解析单元301还包括：

获取子单元，用于获取与所述源设备相关联的代理配置信息；

分配子单元，用于基于所述代理配置信息为所述源设备分配用于对访问请求进行处理的代理组件。

作为一个实施例，解析单元301还包括：

检索子单元，在代理配置信息中进行检索，以确定与所述目标设备相关联的请求规则，所述请求规则包括：是否延迟发送访问请求、请求规则的有效时间段以及访问请求的发送时间段。

作为一个实施例，获取单元302具体用于，获取目标设备所发送的每个响应信息；基于每个响应信息更新与所述目标设备相关联的状态信息，其中所述状态信息包括响应状态值；对与所述目标设备相关联的状态信息进行存储。

其中响应信息包括：响应时长和响应状态码；

作为一个实施例，获取单元302具体用于基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值；基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值；基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值。

作为一个实施例，获取单元302具体用于计算所述目标设备在预设时间段内的多个响应时长的和值；基于多个响应时长的和值以及多个响应时长的数量值，计算预设时间段内的多个响应时长的平均响应时长；基于平均响应时长和预设标准响应时长确定响应时长的质量值。

作为一个实施例，获取单元302具体用于将平均响应时长与预设标准响应时长的比值确定为响应时长的质量值。

作为一个实施例，获取单元302具体用于确定所述目标设备在预设时间段内的多个响应状态码中的异常响应状态码的数量；将异常响应状态码的数量与响应状态码的总数量的比值作为响应状态码的质量值。

作为一个实施例，获取单元302具体用于对所述响应时长的质量值进行归一化，以获得经过归一化的响应时长的质量值；对所述响应状态码的质量值进行归一化，以获得经过归一化的响应状态码的质量值；获取响应时长的质量值的第一权重值和响应状态码的质量值的第二权重值；基于经过归一化的响应时长的质量值和第一权重值，以及经过归一化的响应状态码的质量值和第二权重值进行加权计算以确定目标设备的响应状态值。

作为一个实施例，获取单元302具体用于对所述状态信息进行解析以获取响应状态值；当所述响应状态值小于或等于第一阈值时，确定所述目标设备处于正常运行状态；当所述响应状态值小于或等于第二阈值并且大于第一阈值时，确定所述目标设备处于异常运行状态；当所述响应状态值大于第二阈值时，确定所述目标设备处于过载运行状态。

作为一个实施例，处理单元303具体用于，当确定所述目标设备处于正常运行状态时，则将来自所述源设备的访问请求发送给目标设备；当确定所述目标设备处于异常运行状态时，则延迟向所述目标设备发送来自所述源设备的访问请求，直到确定所述目标设备处于正常运行状态为止，或对去往目标设备的访问请求进行流量控制并且确定所述目标设备处于正常运行状态后，将来自所述源设备的访问请求发送给目标设备；当确定所述目标设备处于过载运行状态时，则不向所述目标设备发送来自所述源设备的访问请求。

作为一个实施例，处理单元303具体用于，基于为所述源设备的所分配的代理组件为来自所述源设备的访问请求分配代理IP地址；基于所述代理IP地址，将来自所述源设备的访问请求发送给目标设备。

作为一个实施例，处理单元303具体用于，获取与所述目标设备相关联的请求规则，基于所述请求规则将来自所述源设备的访问请求发送给目标设备。

作为一个实施例，处理单元303还用于从所述目标设备获取与来自源设备的访问请求相对应的响应信息，对访问请求和响应信息进行序列化并存储；获取与所述源设备相关联的代理配置信息，对代理配置信息进行解析以获取所述目标设备的响应规则；基于响应规则确定所述响应信息的响应状态。

作为一个实施例，处理单元303还用于，当确定所述响应信息的响应状态为异常响应时，将所述代理IP地址放置到代理黑名单中；当确定所述响应信息的响应状态为无法连接时，则将为所述源设备分配用于对访问请求进行处理的代理组件删除。处理单元303还用于当确定所述响应信息的响应状态为正常响应时，将所述响应信息发送给所述源设备。

示例性电子设备

图4是本发明一示例性实施例提供的电子设备的结构。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备，该单机设备可以与第一设备和第二设备进行通信，以从它们接收所采集到的输入信号。图4图示了根据本公开实施例的电子设备的框图。如图4所示，电子设备包括一个或多个处理器41和存储器42。

处理器41可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备中的其他组件以执行期望的功能。

存储器42可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器41可以运行所述程序指令，以实现上文所述的本公开的各个实施例的软件程序的对访问请求进行处理的方法以及/或者其他期望的功能。在一个示例中，电子设备还可以包括：输入装置43和输出装置44，这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。

此外，该输入装置43还可以包括例如键盘、鼠标等等。

该输出装置44可以向外部输出各种信息。该输出设备54可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。

当然，为了简化，图4中仅示出了该电子设备中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备还可以包括任何其他适当的组件。

示例性计算机程序产品和计算机可读存储介质

除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的对访问请求进行处理的方法中的步骤。

所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。

此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的对访问请求进行处理的方法中的步骤。

所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。

本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。

可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。

还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。

为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (20)

1.一种用于对访问请求进行处理的方法，其特征在于，包括：

当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备；

获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态；以及

基于目标设备的运行状态对所述访问请求进行处理。

2.根据权利要求1所述的方法，其特征在于，当接收到来自源设备的访问请求时，还包括：

获取与所述源设备相关联的代理配置信息；

基于所述代理配置信息为所述源设备分配用于对访问请求进行处理的代理组件。

3.根据权利要求2所述的方法，其特征在于，在对访问请求进行解析以确定与访问请求相关联的目标设备之后，还包括：

在代理配置信息中进行检索，以确定与所述目标设备相关联的请求规则，所述请求规则包括：是否延迟发送访问请求、请求规则的有效时间段以及访问请求的发送时间段。

4.根据权利要求1或3所述的方法，其特征在于，其中在获取与目标设备相关联的状态信息之前，还包括：

获取目标设备所发送的每个响应信息；

基于每个响应信息更新与所述目标设备相关联的状态信息，其中所述状态信息包括响应状态值；

对与所述目标设备相关联的状态信息进行存储。

5.根据权利要求4所述的方法，其特征在于，所述响应信息包括：响应时长和响应状态码；

基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值；

基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值；

基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值。

6.根据权利要求5所述的方法，其特征在于，其中基于所述目标设备在预设时间段内的多个响应时长，确定响应时长的质量值包括：

计算所述目标设备在预设时间段内的多个响应时长的和值；

基于多个响应时长的和值以及多个响应时长的数量值，计算预设时间段内的多个响应时长的平均响应时长；

基于平均响应时长和预设标准响应时长确定响应时长的质量值。

7.根据权利要求6所述的方法，其特征在于，其中基于平均响应时长和预设标准响应时长确定响应时长的质量值包括：

将平均响应时长与预设标准响应时长的比值确定为响应时长的质量值。

8.根据权利要求5所述的方法，其特征在于，其中基于所述目标设备在预设时间段内的多个响应状态码，确定响应状态码的质量值包括：

确定所述目标设备在预设时间段内的多个响应状态码中的异常响应状态码的数量；

将异常响应状态码的数量与响应状态码的总数量的比值作为响应状态码的质量值。

9.根据权利要求4所述的方法，其特征在于，其中基于所述响应时长的质量值和所述响应状态码的质量值确定目标设备的响应状态值包括：

对所述响应时长的质量值进行归一化，以获得经过归一化的响应时长的质量值；

对所述响应状态码的质量值进行归一化，以获得经过归一化的响应状态码的质量值；

获取响应时长的质量值的第一权重值和响应状态码的质量值的第二权重值；

基于经过归一化的响应时长的质量值和第一权重值，以及经过归一化的响应状态码的质量值和第二权重值进行加权计算以确定目标设备的响应状态值。

10.根据权利要求4所述的方法，其特征在于，其中基于状态信息确定目标设备的运行状态，包括：

对所述状态信息进行解析以获取响应状态值；

当所述响应状态值小于或等于第一阈值时，确定所述目标设备处于正常运行状态；

当所述响应状态值小于或等于第二阈值并且大于第一阈值时，确定所述目标设备处于异常运行状态；

当所述响应状态值大于第二阈值时，确定所述目标设备处于过载运行状态。

11.根据权利要求1或10所述的方法，其特征在于，其中基于目标设备的运行状态对所述访问请求进行处理包括：

当确定所述目标设备处于正常运行状态时，则将来自所述源设备的访问请求发送给目标设备；

当确定所述目标设备处于异常运行状态时，则延迟向所述目标设备发送来自所述源设备的访问请求，直到确定所述目标设备处于正常运行状态为止，或对去往目标设备的访问请求进行流量控制并且确定所述目标设备处于正常运行状态后，将来自所述源设备的访问请求发送给目标设备；

当确定所述目标设备处于过载运行状态时，则不向所述目标设备发送来自所述源设备的访问请求。

12.根据权利要求10所述的方法，其特征在于，其中将来自所述源设备的访问请求发送给目标设备包括：

基于为所述源设备所分配的代理组件为来自所述源设备的访问请求分配代理IP地址；

基于所述代理IP地址，将来自所述源设备的访问请求发送给目标设备。

13.根据权利要求1、3或10所述的方法，其特征在于，其中将来自所述源设备的访问请求发送给目标设备包括：

获取与所述目标设备相关联的请求规则，基于所述请求规则将来自所述源设备的访问请求发送给目标设备。

14.根据权利要求12所述的方法，其特征在于，其中基于目标设备的运行状态对所述访问请求进行处理之后，还包括，

从所述目标设备获取与来自源设备的访问请求相对应的响应信息，对访问请求和响应信息进行序列化并存储；

获取与所述源设备相关联的代理配置信息，对代理配置信息进行解析以获取所述目标设备的响应规则；

基于响应规则确定所述响应信息的响应状态。

15.根据权利要求14所述的方法，其特征在于，当确定所述响应信息的响应状态为异常响应时，将所述代理IP地址放置到代理黑名单中；

当确定所述响应信息的响应状态为无法连接时，则将为所述源设备分配用于对访问请求进行处理的代理组件删除。

16.根据权利要求14所述的方法，其特征在于，当确定所述响应信息的响应状态为正常响应时，将所述响应信息发送给所述源设备。

17.一种用于对访问请求进行处理的装置，其特征在于，包括：

解析单元，用于当接收到来自源设备的访问请求时，对访问请求进行解析以确定与访问请求相关联的目标设备；

获取单元，用于获取与目标设备相关联的状态信息，并基于状态信息确定目标设备的运行状态；以及

处理单元，用于基于目标设备的运行状态对所述访问请求进行处理。

18.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-16任一所述的方法。

19.一种计算机程序，包括计算机可读代码，其特征在于，当所述计算机可读代码在设备上运行时，所述设备中的处理器执行用于实现权利要求1-16任一所述的方法。

20.一种电子设备，其特征在于，所述电子设备包括：

处理器；

用于存储所述处理器可执行指令的存储器；

所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-16任一所述的方法。

Images