CN115190066B - 一种基于加权随机算法的计算路由权重比例方法 - Google Patents

Abstract

本发明公开了一种基于随机算法的计算路由权重比例的方法，属于互联网、金融、软件系统网关技术领域，可以解决在服务系统中有效地按照特定比例处理数据的问题。本发明当服务器接收服务请求调用时，可以加权随机算法获取路由名称，根据路由名称从配置文件中或者缓存中获取相关路由接口实例；若是获取路由名称或者路由接口实例失败，则服务器会重新计算各个路由权重比例(防止某个路由被禁用后，仍然出现在权重比例的份额中)，根据新生成的路由权重比例，使用加权随机算法获取随机一个路由名称。若成功获取路由接口实例，则继续业务数据处理；否则，请求调用结束。本发明用于计算路由权重比例，可以有效地将数据按照指定比例分发到各个路由中，进行业务处理。

Description

一种基于加权随机算法的计算路由权重比例方法

技术领域

本发明涉及计算机信息技术领域，提供了一种加权随机算法的计算路由权重比例方法，用于在多路由应用中分发数据，属于互联网行业应用服务器、金融行业应用服务器、互联网网关系统的服务和软件系统网关数据分发控制等技术领域。

背景技术

现在的很多应用都是面向互联网的，其背后的服务器就面临着高并发的难题，而且互联网应用服务器时时刻刻都面临着浪涌问题。作为应用的运营商，面临着有限的资源与无限甚至不可控的流量冲击的难题。为解决该问题，负载均衡概念被提了出来。而加权随机算法就是负载均衡算法中的一种。

目前的负载均衡算法有多种方案，比较普遍的是轮询法、随机算法、加权轮询法、加权随机算法等等。轮询法是将请求按顺序轮流地分配到后端服务器上，它均衡地对待后端的每一台服务器，而不关心服务器实际的连接数和当前的系统负载。随机算法，就是通过系统的随机算法，根据后端服务器的列表大小值来随机选取其中的一台服务器进行访问。加权轮询法，就是配置高、负载低的机器配置更高的权重，让其处理更多的请；而配置低、负载高的机器，给其分配较低的权重，降低其系统负载。加权随机算法，就是与加权轮询法一样，加权随机法也根据后端机器的配置，系统的负载分配不同的权重。

本文虽然使用加权随机算法，但是不同的是添加对各个路由的HTTP和端口的检测，确保了服务的安全性，防止了当一个路由出现问题时，服务器会以固定的速度接收服务请求，最终会因为此接口的问题导致整个服务器的雪崩的问题。在互联网和金融行业中，若因单个服务的性能问题导致服务器的雪崩，服务器一旦雪崩所有的服务就都将停止服务，互联网网站将不可访问，金融交易将会停摆，造成的损失是十分巨大的。

发明内容

针对上述研究的问题，本发明的目的在于提供一种加权随机算法的计算路由权重比例方法，解决了当路由HTTP链接出现问题，仍以固定的速度接收服务请求，最终会因为此接口的问题导致整个服务器的雪崩。

为了达到上述目的，本发明采用如下技术方案：

一种基于加权随机算法计算路由权重比例的方法，步骤如下：

步骤1：配置相关路由接口名称以及各个路由权重比例参数，配置路由HTTP链接状态以及各个路由是否禁用状态；

步骤2：各个路由权重比例维护，当设定的路由HTTP链接失败或者禁用后，根据现有有效路由生成一组新的路由权重比例，有效路由是指各个路由HTTP链接状态为“可用”的路由；

步骤3：获取缓存中各个路由的权重比例，若是权重比例为空，则需要重新计算当前有效路由的权重比例(防止无效路由信息出现在权重比例份额中)；

步骤4：对获取到的路由权重比例进行排序，根据随机算法获取一个随机数，用这个随机数与比例区间进行比较，获取该随机数对应的比例区间，进而获得路由名称，进行下一步骤；

步骤5：根据配置文件获取路由名称对应的路由接口实例，将数据分发到该路由中，继续处理业务逻辑。

上述技术方案中，所述各路由名称即为各标识，用于计算出路由名称，然后根据路由名称在内存map或者配置映射中获取路由接口实例。

上述技术方案中，当某路由出现异常后的处理方法，将该路由的HTTP链接状态设置为 false或者将该路由的可用状态禁用，在计算路由比例权重时，忽略该路由消息，生成一组的新的并且可用的路由权重比例，该步骤用于维护各个路由权重比例。

上述技术方案中，所述各个路由权重比例已经配置好了，并保存在内存或配置文件中，其中，配置文件中配置了路由名称与路由接口实例的映射。

上述技术方案中，所述步骤2中维护各个路由权重比例的具体步骤如下：

步骤2.1：获取各个路由的IP和端口port，通过检测ip端口是否正常通信，判断各个路由HTTP链接状态是否为“可用”，当路由的HTTP链接不正常时，设置路由的HTTP链接状态为“false”；

步骤2.2：获取到各个路由HTTP链接状态之后，判断各个路由HTTP链接状态与缓存中对应路由HTTP状态是否相同，若是相同则无操作，直接执行步骤2.3(各个路由HTTP链接状态是实时检查探测出来的实时是否可用状态，缓存中的是上一次或者说记录中的http状态，如果相同代表都可用不需要调整，如果有不相同，则需要重新分配)；若不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，用于调用权重重新分配方法，；

步骤2.3：判断从数据库获取的各个路由权重比例与缓存中权重比例是否相同，若是相同则结束路由权重比例维护步骤；若是不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，调用权重重新分配方法，；

步骤2.4：重新分配标志为ture，且存在某个或多个路由HTTP链接状态为false，则该路由的需要被重新分配，如果该路由在缓存中的路由权重比例小于0，则代表该路由本身就是配置不使用此路由，则无需重新配置；如果该路由在缓存中的路由权重比例大于0，则代表该路由本身是在使用的，此时需要重新分配，将此路由的比例份额按照优先级分配给其他路由HTTP链接状态为ture的路由比例上；

若重新分配标志为ture，且各个路由HTTP链接状态为true，当缓存中所有权重比例份额小于0，则代表本身没有配置，未初始化，则将各个权重比例份额设置为1；

步骤2.5：将新生的权重比例存入缓存中，以待下次判断。

上述技术方案中，所述步骤3中获取路由权重比例实现步骤如下：

步骤3.1：获取缓存中各个路由的权重比例，若是各个路由权重比例为空，则需要重新生成权重比例，执行步骤3.2；若是权重比例存在，则直接进行4步骤；

步骤3.2：当各个路由权重比例为空时，从缓存中获取设定的路由权重比例，判断各个路由的权重比例是否大于0，若是各个路由的权重比例全部小于0，则将各个路由的权重比例都设置为1，执行步骤3.3；若是存在路由权重比例大于0，则直接执行步骤3.3；

步骤3.3：将路由权重比例进行100等分，将路由权重比例划分在[0，100)的区间中，生成新的路由权重比例。

上述技术方案中，所述步骤4中获取路由接口实例的实现步骤如下：

步骤4.1：对获取到的各个路由的权重比例进行比例份额升序排列；

步骤4.2：根据随机算法生成一个随机数，将该随机数与权重比例进行比较，当该随机数小于某一个权重比例时，获取该权重比例对应的路由名称，进而根据配置参数获取路由名称对应的路由接口实例；

步骤4.3：根据获得的路由接口实例，将数据分发到该路由中处理数据。

本发明同现有技术相比，其有益效果表现在：

一、本发明通过采用权重比例的生成以及维护，当某个路由或者服务出现问题时，能及时修正路由权重比例，防止出现问题的路由或者服务器接受大批量的数据，从而造成服务器雪崩效应，同时提高的系统服务的适应性和灵活性；

二、本发明在服务中生成的路由权重比例存入内存中，从而减少了业务逻辑处理时间，提高了系统性能；

三、本发明通过内存映射与数据库参数表结合的方式，既能灵活的对各个接口的流量配置(即可通过配置表实现各个接口的个性化限流配置)，又能减少因多次读取配置表带来的性能损耗；

四、本发明可以自由设定各个路由或者服务器的访问比例，提高了系统服务的灵活性。

五、本发明在互联网应用服务器和网关领域，对服务器的保护是最大的，可以避免服务器的停摆。

附图说明

图1为本发明的流程示意图；

图2为本发明中维护权重比例流程示意图；

图3为本发明中构建权重比例以及应用示意图；

图4和图5为短信平台系统使用该案例的流程示意图。

具体实施方式

下面将结合附图及具体实施方式对本发明作进一步的描述。

而基于加权随机算法的计算路由权重比例方法，不会因某路由HTTP链接出现问题，导致整个服务器的雪崩。该方式通过路由权重比例的生成以及维护，在服务请求处理前先生成权重比例，在获取路由权重比例后才进行下一步业务逻辑处理。由于路由具有一定自我修复功能，所以服务在请求路由时，会根据路由的通信状况调节自身，可以避免因为某个路由的通讯问题导致整个服务器的雪崩。

系统(即指应用服务器)在处理业务逻辑之前生成路由权重比例，在生成之后，系统会定时维护路由权重比例；在系统接到请求后，获取路由权重比例，并且根据随机算法生成随机数，根据随机数获取路由名称，根据路由名称获取路由接口实例，开始业务处理。

具体实现步骤如下：

一种加权随机算法的计算路由权重比例方法，步骤如下：

步骤1：配置相关路由接口名称以及各个路由权重比例参数，配置各个路由HTTP链接状态以及各个路由是否禁用状态；

步骤2：各个路由权重比例维护，当设定的路由HTTP链接失败或者禁用后，根据现有有效路由生成一组新的路由权重比例，有效路由是指各个路由HTTP链接状态为“可用”的路由；

步骤2.1：获取各个路由的IP和端口port，通过检测ip端口是否正常通信，判断各个路由HTTP链接状态是否为“可用”，当路由的HTTP链接不正常时，设置路由的HTTP链接状态为“false”；

步骤2.2：获取到各个路由HTTP链接状态之后，判断各个路由HTTP链接状态与缓存中对应路由HTTP状态是否相同，若是相同则无操作，直接执行步骤2.3(各个路由HTTP链接状态是实时检查探测出来的实时是否可用状态，缓存中的是上一次或者说记录中的http状态，如果相同代表部可用不需要调整，如果有不相同，则需要重新分配)；若不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，用于调用权重重新分配方法，；

步骤2.3：判断从数据库获取的各个路由权重比例与缓存中权重比例是否相同，若是相同则结束路由权重比例维护步骤；若是不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，调用权重重新分配方法；

步骤2.4：重新分配标志为ture，且存在某个或多个路由HTTP链接状态为false，则该路由的需要被重新分配，如果该路由在缓存中的路由权重比例小于0，则代表该路由本身就是配置不使用此路由，则无需重新配置；如果该路由在缓存中的路由权重比例大于0，则代表该路由本身是在使用的，此时需要重新分配，将此路由的比例份额按照优先级分配给其他路由HTTP链接状态为ture的路由比例上；

若重新分配标志为ture，且各个路由HTTP链接状态为true，当缓存中所有权重比例份额小于0，则代表本身没有配置，未初始化，则将各个权重比例份额设置为1。

步骤2.5：将新生的权重比例存入缓存中，以待下次判断。

例如：存在路由A，B，，C，D，重新分配标志为ture，路由A的HTTP链接状态为 false，则A需要重新分配，如果原来的权重比例小于0，且B，C，D都配有权重比例，且HTTP 链接状态连接正常，则不需要配置(代表A本身不可用)；如果原来的权重比例大于0，且 B，C，D都配有权重比例，且HTTP链接状态连接正常，A的权重比例需要按照优先级分配到 B，C，D。如果ABCD权重比例都小于0，HTTP链接状态连接都是正常，代表原来没有配置，则全部配置为1，类似于初始化权重比例。

步骤3：获取缓存中各个路由的权重比例，若是权重比例为空，则需要重新计算当前有效路由的权重比例(防止无效路由信息出现在权重比例份额中)；

步骤3.1：获取缓存中各个路由的权重比例，若是各个路由权重比例为空，则需要重新生成权重比例，执行步骤3.2(一般用于初次使用，路由权重比例初次生成)；若是权重比例存在，则直接进行4步骤；

步骤3.2：当各个路由权重比例为空时，从缓存中获取设定的路由权重比例，判断各个路由的权重比例是否大于0，若是各个路由的权重比例全部小于0(如果权重比例为负数则代表不使用此路由通道，如果都为负数，则需要初始化路由参数。)，则将各个路由的权重比例都设置为1，执行步骤3.3；若是存在路由权重比例大于0，则直接执行步骤3.3；

步骤3.3：将路由权重比例进行100等分，将路由权重比例划分在[0，100)的区间中，生成新的路由权重比例。

步骤4：对获取到的路由权重比例进行排序，根据随机算法获取一个随机数，用这个随机数与比例区间进行比较，获取该随机数对应的比例区间，进而获得路由名称，进行下一步骤；

步骤4.1：对获取到的各个路由的权重比例进行比例份额升序排列；

步骤4.2：根据随机算法生成一个随机数，将该随机数与权重比例进行比较，当该随机数小于某一个权重比例时，获取该权重比例对应的路由名称，进而根据配置参数获取路由名称对应的路由接口实例；

步骤4.3：根据获得的路由接口实例，将数据分发到该路由中处理数据。

步骤5：根据配置文件获取路由名称对应的路由接口实例，将数据分发到该路由中，继续处理业务逻辑。

实施例

图4和图5为短信平台系统使用该案例的流程示意图。其中图4是该方案使用和构权重比例的应用，图5是路由权重比例的维护部分。

短信平台系统是这样一种web应用服务：它是整个互联网系统的基础服务部分，所有服务的短信请求调用都先经过短信平台系统转到各个对应的业务系统，然后在获得业务系统的响应之后，将结果返回服务请求调用方。短信平台系统是7x24小时不断运行的，无时无刻不在做接口调用转发操作，那么这个网关的作用就极其重要，一旦出现问题，则整个互联网系统就出现了问题。

造成短信平台系统出问题的有一个很重要的因素就是因为三方系统出现问题。

例如短信平台系统接A、B、C三个三方系统，因为可以自主设定权重比例，短信平台可以只开通A系统或者AB系统，但是当A系统HTTP通信出现问题后，若是不切换三方系统，各个应用系统服务的短信数据不断发往A系统，短信发送失败，影响到其他应用系统业务，而且数据开始堆积，系统主键形成雪崩效应。

如果在同等条件下使用该方案后，当系统发现A系统HTTP通信问题后，就会直接切换三方系统，从而避免了上述现象。

以上仅是本发明众多具体应用范围中的代表性实施例，对本发明的保护范围不构成任何限制。凡采用变换或是等效替换而形成的技术方案，均落在本发明权利保护范围之内。

Claims (5)

1.一种基于加权随机算法计算路由权重比例的方法，其特征在于，步骤如下：

步骤1：配置相关路由接口名称以及各个路由权重比例参数，配置路由HTTP链接状态以及各个路由是否禁用状态；

步骤2：维护各个路由权重比例，当设定的路由HTTP链接失败或者禁用后，根据现有有效路由生成一组新的路由权重比例，有效路由是指各个路由HTTP链接状态为“可用”的路由；

所述步骤2中维护各个路由权重比例的具体步骤如下：

步骤2.1： 获取各个路由的IP和端口port，通过检测ip端口是否正常通信，判断各个路由HTTP链接状态是否为“可用”，当路由的HTTP链接不正常时，设置路由的HTTP链接状态为“false”；

步骤2.2：获取到各个路由HTTP链接状态之后，判断各个路由HTTP链接状态与缓存中对应路由HTTP状态是否相同，若是相同则无操作，直接执行步骤2.3；若不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，用于调用权重重新分配方法；

步骤2.3：判断从数据库获取的各个路由权重比例与缓存中权重比例是否相同，若是相同则结束路由权重比例维护步骤；若是不同，则设置路由权重比例重新配置标志位true，执行步骤2.4，调用权重重新分配方法；

步骤2.4：重新分配标志为ture，且存在某个或多个路由HTTP链接状态为false，则该路由的需要被重新分配，如果该路由在缓存中的路由权重比例小于0，则代表该路由本身就是配置不使用此路由，则无需重新配置；如果该路由在缓存中的路由权重比例大于0，则代表该路由本身是在使用的，此时需要重新分配，将此路由的比例份额按照优先级分配给其他路由HTTP链接状态为ture的路由比例上；

若重新分配标志为ture，且各个路由HTTP链接状态为true,当缓存中所有权重比例份额小于0，则代表本身没有配置，未初始化，则将各个权重比例份额设置为1；

步骤2.5：将新生的权重比例存入缓存中，以待下次判断；

步骤3：获取缓存中各个路由的权重比例，若是权重比例为空，则需要重新计算当前有效路由的权重比例；

步骤4：对获取到的路由权重比例进行排序，根据随机算法获取一个随机数，用这个随机数与比例区间进行比较，获取该随机数对应的比例区间，进而获得路由名称，进行下一步骤；

步骤5：根据配置文件获取路由名称对应的路由接口实例，将数据分发到该路由中，继续处理业务逻辑。

2.根据权利要求1所述的一种基于加权随机算法的计算路由权重比例方法，其特征在于：所述各路由名称即为各标识，用于计算出路由名称，然后根据路由名称在内存map或者配置映射中获取路由接口实例。

3.根据权利要求2所述的一种基于加权随机算法的计算路由权重比例方法，其特征在于：当某路由出现异常后的处理方法，将该路由的HTTP链接状态设置为false或者将该路由的可用状态禁用，在计算路由比例权重时，忽略该路由，生成一组的新的并且可用的路由权重比例，该步骤用于维护各个路由权重比例。

4.根据权利要求3所述的一种基于加权随机算法的计算路由权重比例方法，其特征在于：所述各个路由权重比例已经配置好了，并保存在内存或配置文件中，其中，配置文件中配置了路由名称与路由接口实例的映射。

5.根据权利要求4所述的一种基于加权随机算法的计算路由权重比例方法，其特征在于：所述步骤3中获取路由权重比例实现步骤如下：

步骤3.1: 获取缓存中各个路由的权重比例，若是各个路由权重比例为空，则需要重新生成权重比例，执行步骤3.2；若是权重比例存在，则直接进行4步骤；

步骤3.2：当各个路由权重比例为空时，从缓存中获取设定的路由权重比例，判断各个路由的权重比例是否大于0，若是各个路由的权重比例全部小于0，则将各个路由的权重比例都设置为1,执行步骤3.3；若是存在路由权重比例大于0，则直接执行步骤3.3；

步骤3.3：将路由权重比例进行100等分，将路由权重比例划分在[0,100)的区间中，生成新的路由权重比例。

Images