CN114285901A - 网络请求处理方法、装置与电子设备 - Google Patents

Abstract

本公开提供一种网络请求处理方法、装置与电子设备。网络请求处理方法包括：响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；根据每个所述请求特征的权重确定所述待处理请求的处理优先级；在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。本公开实施例可以兼顾服务器集群的负载均衡和网络请求的优先处理。

Description

网络请求处理方法、装置与电子设备

技术领域

本公开涉及信息技术领域，具体而言，涉及一种网络请求处理方法、装置与电子设备。

背景技术

随着互联网的快速发展，互联网应用的使用人数呈指数级增长。行业中基本采用服务器集群部署，来应对高并发、大数据量的数据请求，由此衍生出了数据请求的路由技术。

目前，针对服务器集群部署的请求处理算法有轮询算法、哈希算法等，这些请求路由分发方式均为针对服务器数据进行请求分发的请求路由方法，面对海量的数据请求，容易导致请求拥堵，重要请求无法及时被处理。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种网络请求处理方法、装置与电子设备，用于至少在一定程度上克服由于相关技术的限制和缺陷而导致的高并发场景下请求拥堵、重要请求难以及时被处理的问题。

根据本公开实施例的第一方面，提供一种网络请求处理方法，包括：响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；根据每个所述请求特征的权重确定所述待处理请求的处理优先级；在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理。

在本公开的一种示例性实施例中，所述预设均匀分配模型为伽尔顿板实验模型，所述伽尔顿板实验模型的输入端用于接收待处理请求，输出端连接多个所述第一服务器。

在本公开的一种示例性实施例中，还包括：

获取一个所述预设均匀分配模型的输出数据；

在所述预设均匀分配模型的输出数据不满足预设均匀分配条件时，增加所述预设均匀分配模型对应的请求特征的权重，所述预设均匀分配条件至少包括所述预设均匀分配模型对每个所述第一服务器的输出数量的方差大于预设方差值。

在本公开的一种示例性实施例中，还包括：

定时获取所述第一服务器和所述第二服务器的可用资源评估数据；

在所述第一服务器的可用资源评估数据大于第一预设值时，将所述第一服务器设置为第二服务器；

在所述第二服务器的可用资源评估数据小于等于所述第一预设值时，将所述第二服务器设置为第一服务器。

在本公开的一种示例性实施例中，所述根据每个所述请求特征的权重确定所述待处理请求的处理优先级包括：

根据每个所述请求特征的权重确定所述待处理请求的权重综合值；

根据所述权重综合值对应的处理优先级确定所述待处理请求的处理优先级。

在本公开的一种示例性实施例中，还包括：

获取预设时间段内每个所述处理优先级对应的请求数量，按照所述请求数量由多到少确定高于等于所述预设优先级的处理优先级的第一排序；

确定当前多个所述第二服务器的可用资源评估数据，按照所述第二服务器的可用资源评估数据确定多个所述第二服务器的第二排序；

根据所述第一排序与所述第二排序确定每个高于等于所述预设优先级的所述处理优先级与所述第二服务器的对应关系。

在本公开的一种示例性实施例中，所述请求特征的种类至少包括用户识别符、源IP地址、目的IP地址、请求种类。

根据本公开实施例的第二方面，提供一种网络请求处理装置，包括：

请求特征识别模块，设置为响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；

处理优先级确定模块，设置为根据每个所述请求特征的权重确定所述待处理请求的处理优先级；

均匀分配模块，设置为在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；

优先处理模块，设置为在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

根据本公开的第三方面，提供一种电子设备，包括：存储器；以及耦合到所述存储器的处理器，所述处理器被配置为基于存储在所述存储器中的指令，执行如上述任意一项所述的方法。

根据本公开的第四方面，提供一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如上述任意一项所述的网络请求处理方法。

本公开实施例通过基于请求本身的特征进行请求分发，将一般请求发送至均匀分配模型随机分配到第一处理器，将优先处理请求发送到对应的第二处理器进行处理，能够基于请求本身特征进行请求处理，在高并发场景下兼顾各服务器的负载均衡和重点请求的优先处理，避免重点请求在高并发、网络拥堵场景下无法得到及时处理。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本公开示例性实施例中网络请求处理方法的流程图。

图2是本公开一个实施例中伽尔顿板实验的示意图。

图3是本公开一个实施例中的确定第二服务器的流程图。

图4是本公开一个实施例中确定处理优先级与第二服务器的对应关系的流程图。

图5是本公开一个实施例中请求处理方法的总流程图。

图6是本公开示例性实施例中一种网络请求处理装置的方框图。

图7是本公开示例性实施例中一种电子设备的方框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。

此外，附图仅为本公开的示意性图解，图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

下面结合附图对本公开示例实施方式进行详细说明。

图1是本公开示例性实施例中网络请求处理方法的流程图。

参考图1，网络请求处理方法100可以包括：

步骤S11，响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；

步骤S12，根据每个所述请求特征的权重确定所述待处理请求的处理优先级；

步骤S13，在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；

步骤S14，在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

本公开实施例通过基于请求本身的特征进行请求分发，将一般请求发送至均匀分配模型随机分配到第一处理器，将优先处理请求发送到对应的第二处理器进行处理，能够基于请求本身特征进行请求处理，在高并发场景下兼顾各服务器的负载均衡和重点请求的优先处理，避免重点请求在高并发、网络拥堵场景下无法得到及时处理。

下面，对网络请求处理方法100的各步骤进行详细说明。

在步骤S11，响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重。

在本公开的一个实施例中，待处理请求的请求特征例如可以为发送该待处理请求的用户的用户识别符、该待处理请求的源IP地址、目的IP地址或者请求种类(例如数据读取或写入请求)等等，请求特征可以有多种，本领域技术人员可以根据实际场景自行设置需要分类处理的请求特征。

请求特征的获取方法例如为根据待处理请求的请求头获取用户识别符、根据待处理请求的请求参数获取请求种类等等。每个请求特征均可以设置有权重。每个请求特征的权重既可以为预先设置，也可以根据实时状态进行变化。

在步骤S12，根据每个所述请求特征的权重确定所述待处理请求的处理优先级。

在一个实施例中，可以根据每个请求特征的权重确定待处理请求的权重综合值，然后根据权重综合值对应的处理优先级确定待处理请求的处理优先级。可以将一个待处理请求对应的各请求特征的权重带入预设公式，以得到一个待处理请求对应的权重综合值。预设公式例如为求和公式，或者乘积公式等，本公开不以此为限。

例如，在预设时间段(例如一个小时)内处理一万条待处理请求时，每条待处理请求均可以提取出一到N个请求特征，这一万条待处理请求分别具有M个权重综合值，N、M分别是根据实际情况和预设公式设置的自然数。可以对预设时间段内的M个权重综合值按照由大到小进行排序，以得到每个权重综合值对应的处理优先级，M个权重综合值中的最大的权重综合值的处理优先级最高，M个权重综合值对应M个处理优先级。

在一些实施例中，也可以在一或多个请求特征的权重超过预设阈值时，直接将待处理请求设置为较高的处理优先级(例如将某位用户的请求的处理优先级直接设置为最高)，此时无需根据权重综合值确定待处理请求的处理优先级。

在步骤S13，在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理。

在一个实施例中，可以将处理优先级中的第百分之x个优先级设置为预设优先级。例如，当M等于100，即存在100个处理优先级时，可以设置x等于30，即设置排序在后70％的处理优先级通过预设均匀分配模型处理。预设优先级可以随着预设时间段内权重综合值即处理优先级的总数变化，也可以被固定设置为一个自然数序号，例如设置预设优先级为第5优先级，本公开对此不作特殊限制。

一个预设均匀分配模型可以与一个请求特征对应，以利于后续通过对预设均匀分配模型的数据分析调整各请求特征的权重。因此，在一个实施例中，可以将待处理请求发送至与其权重最高的请求特征对应的预设均匀分配模型进行处理。

在一个实施例中，预设均匀分配模型为伽尔顿板实验模型。

图2是本公开一个实施例中伽尔顿板实验的示意图。

参考图2，伽尔顿板是在一块竖直木板的上部规则地钉上铁钉，木板的下部用竖直隔板隔成等宽的狭槽，从顶部中央的漏斗形入口处可以投入小球，板前覆盖玻璃使小球不致落到槽外。小球从入口处投入，在下落过程中将与铁钉发生多次碰撞，最后落入某一槽中。

伽尔顿板实验通常是分别多次投入单个小球或者同时投入许多小球，观察比较小球在各个槽中的分布。实验结果发现：投入单个小球，小球与铁钉碰撞后落入哪个槽中完全是偶然的或者随机的。在小球数量小于一定数量时，伽尔顿板实验模型可以被视为均匀分配模型。

在本公开实施例中，通过计算机模拟伽尔顿板实验模型。首先，根据第一服务器的总数设置伽尔顿板实验模型的层级(层级越高，服务器越多)，采用0、1对输入模型的待处理请求进行是随机碰到铁钉的模拟(0为未碰到铁钉，1为碰到铁钉)，经过多次模拟后，得到待处理请求与输出端的第一服务器的对应关系，即随机将待处理请求分配给多个第一服务器中的一个。

可以设置一个伽尔顿板实验模型对应处理同一请求特征的待处理请求。在伽尔顿板实验模型处理的待处理请求的较少时，可视为将待处理请求均匀分配到各第一服务器进行处理，但是在伽尔顿板实验模型中，大量小球同时投入或单个小球分别多次投入，在小球数量超过一定数量之后，落入中间部位槽中的小球总是较多，而落入两侧槽中的小球总是较少。即，伽尔顿板实验模型处理的请求数量超过一阈值后，会出现必然的正态分布规律，某些第一服务器处理的请求数量明显多于另一些服务器，此时，说明该请求特征对应的待处理请求过多，已经不适用于使用伽尔顿板实验模型进行处理。

在一个实施例中，可以定时获取一个预设均匀分配模型的输出数据，在预设均匀分配模型的输出数据不满足预设均匀分配条件时，增加预设均匀分配模型对应的请求特征的权重。预设均匀分配条件例如可以为每个第一服务器的输出数量的方差大于预设方差值。例如，当伽尔顿板实验模型对各第一服务器分配的请求数量已经出现明显的正态分布特征(方差或标准差大于预设阈值)时，可以确定该伽尔顿板实验模型对应的请求特征已经不适宜用伽尔顿板实验模型来分配，此时，可以增加该请求特征的权重，以使该请求特征对应的待处理请求提升处理优先级，通过第二服务器进行专门处理。

一个请求特征的权重的增加量可以为固定值，也可以根据预设时段内的该请求特征对应的待处理请求的数量来确定，以使请求特征的权重与其对应的待处理请求的数量呈正比。

可以为每种需要检测的请求特征均设置一个对应的预设均匀分配模型处理，以使每个待处理请求在权重综合值较低时均可以被预设均匀分配模型处理。

在出现一个伽尔顿板实验模型的输出数据不满足预设均匀分配条件时，一方面可以增加该伽尔顿板实验模型对应的请求特征的权重，一方面可以删除当前该请求特征对应的伽尔顿板实验模型，新建一个与该请求特征对应的伽尔顿板实验模型，以重新实现待处理请求的均匀分配，实现服务器集群的负载均衡。

当然，在一些实施例中，还可以定时统计一个请求特征对应的待处理请求在预设时间段内的请求数量，在该请求数量较少时，降低该请求特征的权重。

在另一个实施例中，当一个请求特征的权重被设置为不可更改，且其对应的伽尔顿板实验模型不满足预设均匀分配条件时，也可以删除当前该请求特征对应的伽尔顿板实验模型，新建一个与该请求特征对应的伽尔顿板实验模型，以重新实现待处理请求的均匀分配，实现服务器集群的负载均衡。

通过将处理优先级较低的待处理请求通过预设均匀分配模型进行分配，可以实现服务器的负载均衡。

在步骤S14，在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

在一个实施例中，不同处理优先级的待处理请求可以使用相同的多个第二服务器来处理，也可以分别使用不同的第二服务器来处理。

服务器集群的承载能力会发生动态变化，可以定时通过算法推举出处理能力较大的一台或多台服务器作为第二服务器，承载优先级较高的请求的处理。或者，可预设第二服务器，并根据集群服务器的使用情况进行动态推举。

在本公开实施例中，第二服务器可以为根据服务器的可用资源数量动态推举而来。例如，将可用资源最多的服务器设置为第二服务器，进而通过第二服务器处理优先处理类请求对应的请求。

图3是本公开一个实施例中的确定第二服务器的流程图。

参考图3，在一个实施例中，确定第二服务器和第一服务器的过程可以包括：

步骤S31，定时获取所述第一服务器和所述第二服务器的可用资源评估数据；

步骤S32，在所述第一服务器的可用资源评估数据大于第一预设值时，将所述第一服务器设置为第二服务器；

步骤S33，在所述第二服务器的可用资源评估数据小于等于所述第一预设值时，将所述第二服务器设置为第一服务器。

可以定时(例如每个小时或每天)获取各服务器的可用资源数据，生成各服务器的可用资源评估数据。可用资源数据例如可以包括CPU利用率、内存利用率、网络带宽占用率等等，可用资源评估数据例如为根据各可用资源的数值按照预设权重进行换算(例如加权计算等方式)得到。可用资源评估数据例如为可用资源百分比，百分比越高则可用资源越多。或者，可用资源评估数据也可以为评估分数，评估分数越高则可用资源越多等。

在一个服务器的可用资源评估数据大于第一预设值时，将该服务器设置为第二服务器，专门用于处理优先处理类请求对应的待处理请求；在一个服务器的可用资源评估数据小于等于该第一预设值时，将该服务器设置为第一服务器，与其他第一服务器分摊处理待处理请求。

服务器集群中，各服务器均可以在某一时间成为第一服务器或第二服务器，第一服务器或第二服务器的范围定时更新，以实现根据实时负载情况实现网络请求的最优处理策略，兼顾服务器集群的负载均衡和优先请求的优先处理。

一个处理优先级对应的第二服务器可以为一个，也可以为多个，一个第二服务器可以仅用于处理一个处理优先级的待处理请求，也可以用于处理多个处理优先级的待处理请求。处理优先级与第二服务器的对应关系可以根据实际情况自行调整。

图4是本公开一个实施例中确定处理优先级与第二服务器的对应关系的流程图。

参考图4，在一个实施例中，确定处理优先级与第二服务器的对应关系的过程可以包括：

步骤S41，获取预设时间段内每个所述处理优先级对应的请求数量，按照所述请求数量由多到少确定高于等于所述预设优先级的处理优先级的第一排序；

步骤S42，确定当前多个所述第二服务器的可用资源评估数据，按照所述第二服务器的可用资源评估数据确定多个所述第二服务器的第二排序；

步骤S43，根据所述第一排序与所述第二排序确定每个高于等于所述预设优先级的所述处理优先级与所述第二服务器的对应关系。

其中，按照第二服务器的可用资源评估数据确定多个第二服务器的第二排序可以根据可用资源评估数据的生成规则，按照第二服务器的当前可用资源生成第二排序。

在图4所示实施例中，可以按照每个处理优先级对应的请求数量设置为各高于等于所述预设优先级的处理优先级分配第二服务器，将预设时间段内请求数量较多的处理优先级分配给可用资源较多的第二服务器进行处理。

即，在按照处理优先级的请求数量生成第一排序、按照第二服务器的可用资源生成第二排序后，可以按照每个第二服务器的可用资源的承载能力确定第二服务器与各处理优先级的对应关系。例如，当一个第二服务器的当前承载能力较高时，可以同时处理两个或多个处理优先级的待处理请求；当一个第二服务器的当前承载能力不足以处理完排序对应的处理优先级的待处理请求时，可以根据该处理优先级对应的待处理请求在预设时间段内的请求数量使用多个第二服务器处理该处理优先级对应的待处理请求。

一般情况下，应该优先设置一个第二服务器仅处理一个处理优先级，以避免不同优先级的待处理请求在同一台第二服务器中进行处理时出现优先级排序问题。因此，在设置多个第二服务器处理一个处理优先级的待处理请求时，这些第二服务器在第二排序中的序号可以连续，也可以不连续。例如，可以将第二排序的序号为3、4的第二服务器分配给第一排序的序号为3的处理优先级，也可以将第二排序的序号为3、8的第二服务器分配给第一排序的序号为3的处理优先级，以避免第二排序的序号为4的第二服务器(可用资源较多)的资源被浪费。

在其他一些实施例中，也可以按照处理优先级由高到低确定第一排序，再按照第一排序与第二排序的对应关系为各优先处理类请求分配第二服务器，本公开对此不作特殊限制。

总之，各请求特征对应的权重可以为实时变动的，既可以根据各请求特征的请求数量实时变动，也可以根据手动设置、自动判断等方式自动增加或减少一个请求特征的权重。对应的，处理优先级、预设优先级也可以根据请求特征的权重随时变化。

图5是本公开一个实施例中请求处理方法的总流程图。

参考图5，在一个实施例中，请求处理过程可以包括：

步骤S501，接收待处理请求，获取待处理请求的各请求特征的权重。

步骤S502，根据待处理请求的各请求特征的权重确定待处理请求的处理优先级。

步骤S503，判断该处理优先级是否低于预设优先级，如果是，进入步骤S504，否则，进入步骤S505。

步骤S504，通过模拟伽尔顿板实验模型将待处理请求分配到一个第一服务器。

步骤S505，将该待处理请求分配到该处理优先级对应的第二服务器。

步骤S506，定时获取每个伽尔顿板实验模型的输出数据。

步骤S507，判断输出数据是否不满足预设均匀分配条件，如果是，进入步骤S508将该伽尔顿板实验模型对应的请求特征设置增加权重并重新设置伽尔顿板实验模型后返回步骤S506，如果否，返回步骤S506。

步骤S509，定时获取各服务器的可用资源评估数据。

步骤S510，判断一个服务器的可用资源评估数据是否大于第一预设值，如果是，进入步骤S511将该服务器设置为第二服务器，否则，进入步骤S512将该服务器设置为第一服务器。

步骤S513，定时获取高于等于预设优先级的处理优先级的第一排序和第二服务器的第二排序，按照第一排序和第二排序的对应关系确定处理优先级与第二服务器的对应关系。

本公开实施例通过模拟伽尔顿板实验模型，将处理优先级较低的均匀路由到不同的第一服务器，可以实现服务器集群的负载均衡；通过对趋于集中的某些请求特征进行增加权重优先处理，可以增加待处理请求的处理优先级，并将处理优先级较高的待处理请求通过第二服务器专门处理；通过根据集群服务器的使用情况动态推举第二服务器，可以使用可用资源较多的第二服务器专门优先处理重点请求，在负载均衡的同时实现重点请求的优先处理。

本公开实施例将传统的针对服务器的请求路由方法，转变为针对请求本身的请求路由方法。通过对请求本身请求头和请求体的分析，得出请求特征，并赋予每个请求特征初始化权重值，可以同时实现针对高权重请求的优先处理以及对低权重请求的均匀分配。对比传统的请求路由算法可以实现对重点请求特征分配高权重，实现高权重请求的优先处理，且可以动态推举出VIP服务器(第二服务器)、动态调整各请求特征的权重高低。

下面是本公开实施例在实际应用中的一个示例。

1、对所有请求进行分析分类，根据用户类型将用户识别符的请求特征分为天翼防骚扰产品、天翼防骚扰+销售品，对天翼防骚扰+销售品的请求特征设置高权重，进行优先处理；

2、经过伽尔顿板实验模型模拟后，将天翼防骚扰产品均匀的分发至普通服务器(第一服务器)，将天翼防骚扰+销售品分发至VIP服务器(第二服务器)；

3、当海量请求经过分发后，同一请求特征的请求数量超过模型阈值后，对当前请求特征增加权重，优先处理；

4、VIP服务器根据读取各服务器的运行数据实时进行推举；

5、当用户退订天翼防骚扰+销售品后，该用户识别符的请求特征权重降低为普通用户，请求被分发至普通服务器，但若是该用户较为活跃(例如预设时间段内登录次数超过阈值)，则可以增加该用户识别符的请求特征权重。

对应于上述方法实施例，本公开还提供一种网络请求处理装置，可以用于执行上述方法实施例。

图6是本公开示例性实施例中一种网络请求处理装置的方框图。

参考图6，网络请求处理装置600可以包括：

请求特征识别模块61，设置为响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；

处理优先级确定模块62，设置为根据每个所述请求特征的权重确定所述待处理请求的处理优先级；

均匀分配模块63，设置为在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；

优先处理模块64，设置为在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

在本公开的一种示例性实施例中，所述预设均匀分配模型为伽尔顿板实验模型，所述伽尔顿板实验模型的输入端用于接收待处理请求，输出端连接多个所述第一服务器。

在本公开的一种示例性实施例中，网络请求处理装置600还设置为：

获取一个所述预设均匀分配模型的输出数据；

在所述预设均匀分配模型的输出数据不满足预设均匀分配条件时，增加所述预设均匀分配模型对应的请求特征的权重，所述预设均匀分配条件至少包括所述预设均匀分配模型对每个所述第一服务器的输出数量的方差大于预设方差值。

在本公开的一种示例性实施例中，网络请求处理装置600还设置为：

定时获取所述第一服务器和所述第二服务器的可用资源评估数据；

在所述第一服务器的可用资源评估数据大于第一预设值时，将所述第一服务器设置为第二服务器；

在所述第二服务器的可用资源评估数据小于等于所述第一预设值时，将所述第二服务器设置为第一服务器。

在本公开的一种示例性实施例中，处理优先级确定模块62还设置为：

根据每个所述请求特征的权重确定所述待处理请求的权重综合值；

根据所述权重综合值对应的处理优先级确定所述待处理请求的处理优先级。

在本公开的一种示例性实施例中，网络请求处理装置600还设置为：

获取预设时间段内每个所述处理优先级对应的请求数量，按照所述请求数量由多到少确定高于等于所述预设优先级的处理优先级的第一排序；

确定当前多个所述第二服务器的可用资源评估数据，按照所述第二服务器的可用资源评估数据确定多个所述第二服务器的第二排序；

根据所述第一排序与所述第二排序确定每个高于等于所述预设优先级的所述处理优先级与所述第二服务器的对应关系。

在本公开的一种示例性实施例中，所述请求特征的种类至少包括用户识别符、源IP地址、目的IP地址、请求种类。

由于装置600的各功能已在其对应的方法实施例中予以详细说明，本公开于此不再赘述。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。

所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。

下面参照图7来描述根据本发明的这种实施方式的电子设备700。图7显示的电子设备700仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图7所示，电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于：上述至少一个处理单元710、上述至少一个存储单元720、连接不同系统组件(包括存储单元720和处理单元710)的总线730。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元710执行，使得所述处理单元710执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如，所述处理单元710可以执行如本公开实施例所示的方法。

存储单元720可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)7201和/或高速缓存存储单元7202，还可以进一步包括只读存储单元(ROM)7203。

存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具7204，这样的程序模块7205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线730可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备700也可以与一个或多个外部设备800(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备700交互的设备通信，和/或与使得该电子设备700能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口750进行。并且，电子设备700还可以通过网络适配器760与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器760通过总线730与电子设备700的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备700使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。

根据本发明的实施方式的用于实现上述方法的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和构思由权利要求指出。

Claims (10)

1.一种网络请求处理方法，其特征在于，包括：

响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；

根据每个所述请求特征的权重确定所述待处理请求的处理优先级；

在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；

在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

2.如权利要求1所述的网络请求处理方法，其特征在于，所述预设均匀分配模型为伽尔顿板实验模型，所述伽尔顿板实验模型的输入端用于接收待处理请求，输出端连接多个所述第一服务器。

3.如权利要求2所述的网络请求处理方法，其特征在于，还包括：

获取一个所述预设均匀分配模型的输出数据；

在所述预设均匀分配模型的输出数据不满足预设均匀分配条件时，增加所述预设均匀分配模型对应的请求特征的权重，所述预设均匀分配条件至少包括所述预设均匀分配模型对每个所述第一服务器的输出数量的方差大于预设方差值。

4.如权利要求1所述的网络请求处理方法，其特征在于，还包括：

定时获取所述第一服务器和所述第二服务器的可用资源评估数据；

在所述第一服务器的可用资源评估数据大于第一预设值时，将所述第一服务器设置为第二服务器；

在所述第二服务器的可用资源评估数据小于等于所述第一预设值时，将所述第二服务器设置为第一服务器。

5.如权利要求1所述的网络请求处理方法，其特征在于，所述根据每个所述请求特征的权重确定所述待处理请求的处理优先级包括：

根据每个所述请求特征的权重确定所述待处理请求的权重综合值；

根据所述权重综合值对应的处理优先级确定所述待处理请求的处理优先级。

6.如权利要求1所述的网络请求处理方法，其特征在于，还包括：

获取预设时间段内每个所述处理优先级对应的请求数量，按照所述请求数量由多到少确定高于等于所述预设优先级的处理优先级的第一排序；

确定当前多个所述第二服务器的可用资源评估数据，按照所述第二服务器的可用资源评估数据确定多个所述第二服务器的第二排序；

根据所述第一排序与所述第二排序确定每个高于等于所述预设优先级的所述处理优先级与所述第二服务器的对应关系。

7.如权利要求1所述的网络请求处理方法，其特征在于，所述请求特征的种类至少包括用户识别符、源IP地址、目的IP地址、请求种类。

8.一种网络请求处理装置，其特征在于，包括：

请求特征识别模块，设置为响应请求到达消息获取待处理请求的各请求特征以及每个所述请求特征的权重；

处理优先级确定模块，设置为根据每个所述请求特征的权重确定所述待处理请求的处理优先级

均匀分配模块，设置为在所述处理优先级低于预设优先级时，将所述待处理请求发送至与一个所述请求特征对应的预设均匀分配模型，以将所述待处理请求随机分配到多个第一服务器中的一个进行处理；

优先处理模块，设置为在所述处理优先级高于等于所述预设优先级时，将所述待处理请求发送至与所述处理优先级对应的第二服务器进行处理。

9.一种电子设备，其特征在于，包括：

存储器；以及

耦合到所述存储器的处理器，所述处理器被配置为基于存储在所述存储器中的指令，执行如权利要求1-7任一项所述的网络请求处理方法。

10.一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如权利要求1-7任一项所述的网络请求处理方法。

Images