CN108173938B - 服务器负载分流方法及装置 - Google Patents
服务器负载分流方法及装置 Download PDFInfo
- Publication number
- CN108173938B CN108173938B CN201711458249.7A CN201711458249A CN108173938B CN 108173938 B CN108173938 B CN 108173938B CN 201711458249 A CN201711458249 A CN 201711458249A CN 108173938 B CN108173938 B CN 108173938B
- Authority
- CN
- China
- Prior art keywords
- current limiting
- access request
- information
- current
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000012545 processing Methods 0.000 claims abstract description 26
- 238000004422 calculation algorithm Methods 0.000 claims description 11
- 241001522296 Erithacus rubecula Species 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 3
- 238000004590 computer program Methods 0.000 claims description 2
- 238000004891 communication Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 101001094649 Homo sapiens Popeye domain-containing protein 3 Proteins 0.000 description 1
- 101000608234 Homo sapiens Pyrin domain-containing protein 5 Proteins 0.000 description 1
- 101000578693 Homo sapiens Target of rapamycin complex subunit LST8 Proteins 0.000 description 1
- 102100027802 Target of rapamycin complex subunit LST8 Human genes 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1014—Server selection for load balancing based on the content of a request
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例涉及网络通讯技术领域,具体涉及一种服务器负载分流方法、一种服务器负载分流装置。所述方法包括:判断代理服务器是否接收到一访问请求;在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。本发明实施例通过根据访问请求的配置信息进行负载分流处理,从而实现在负载层实现分流,减轻应用服务器的压力。并且,通过读取当前时刻的限流信息,决定是否执行当前的访问请求,进而实现对负载的动态限流及动态分配。
Description
技术领域
本发明实施例涉及网络通讯技术领域,具体涉及一种服务器负载分流方法、一种服务器负载分流装置。
背景技术
随着互联网技术的飞速发展,由于商品数量增加、商品渠道增多以及各种商品的销售模式、销售流程及各种活动的上线流程也并不相同,使用户的访问数量在一些大型销售活动中成倍增加,使得服务器的负载承受能力及安全问题变得至关重要。
依据现有的服务器负载策略,当有大量的用户访问请求时,访问请求的数据压力主要集中在Web应用服务器上。并且,现有的服务器负载策略配置文件一般仅能通过手动或半手动的方式进行修改,黑名单防护的策略仅建立在Web应用层。同时,现有的服务器负载策略单一,也无法实现自定义的限流策略,对于不同渠道产生的不同流量无法做到灵活扩展。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明实施例的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种服务器负载分流方法、一种服务器负载分流装置,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
本发明实施例的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明实施例的实践而习得。
根据本发明实施例的第一方面,提供一种服务器负载分流方法,包括:
判断代理服务器是否接收到一访问请求;
在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。
可选的,所述根据所述访问请求的配置信息进行负载分流处理包括:
利用一预设脚本获取所述访问请求对应的渠道编号;
根据所述渠道编号向预设缓存中获取各所述渠道的配置信息。
可选的,所述渠道的配置信息包括:
所述渠道对应的对象数量及路由策略。
可选的,所述渠道的配置信息采用:
加权轮循、随机轮循、ip哈希、url哈希或自定义轮循中的任意一种。
可选的,所述限流配置数据的获取包括:
通过所述代理服务器中预设的一定时任务定时向预设数据库中获取所述限流配置数据。
可选的,所述方法还包括:
利用所述预设数据库统计当前时刻流量访问请求数量,并判断当前流量是否达到一阈值;
在判断当前时刻流量达到所述阈值时,生成所述限流信息并将其加入所述限流配置数据。
可选的,所述方法还包括:
在判断所述限流配置数据中包含一限流信息时,判断所述限流信息为完全限流或部分限流;
当判断所述限流信息为完全限流时,生成所述限流提示信息;或者,
当判断所述限流信息为部分限流时,利用令牌桶算法根据所述访问请求中url的参数进行动态限流。
可选的,所述访问请求中url的参数包括:
访问地址、手机号码、证件号码、IP地址或黑名单中的任意一种或多种。
可选的,所述方法还包括,当所述访问请求被限制时,对所述访问请求的数据包的处理包括:
丢弃所述访问请求的数据包;或者
将各所述访问请求生成队列,以便于根据所述队列满足所述令牌桶算法时依次处理所述访问请求;或者
为所述访问请求的数据包添加标记,并在负载过载时丢弃添加有所述标记的数据包。
根据本发明实施例的第二方面,提供一种服务器负载分流装置,包括:
请求接收模块,用于判断代理服务器是否接收到一访问请求;
负载分流模块,用于在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
限流检测模块,用于通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
限流执行模块,用于在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。
根据本发明实施例的第三方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述的服务器负载分流方法。
根据本发明实施例的第四方面,提供一种电子设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述的服务器负载分流方法。
本发明实施例所提供的服务器负载分流方法中,通过根据访问请求的配置信息进行负载分流处理,从而实现在负载层实现分流,减轻应用服务器的压力。并且,通过读取当前时刻的限流信息,决定是否执行当前的访问请求,进而实现对负载的动态限流及动态分配。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明实施例,并与说明书一起用于解释本发明实施例的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示意性示出本发明实施例中一种服务器负载分流方法的示意图;
图2示意性示出本发明实施例中一种负载分流处理的方法示意图;
图3示意性示出本发明实施例中一种限流信息的生成方法示意图;
图4示意性示出本发明实施例中一种限流模式的判断方法示意图;
图5示意性示出本发明实施例中一种服务器负载分流方法的流程图;
图6示意性示出本发明实施例中一种服务器负载分流装置的组成示意图;
图7示意性示出本发明实施例示例性实施例中一种服务器负载分流装置的另一种示意图;
图8示意性示出本发明实施例示例性实施例中一种服务器负载分流装置的再一种示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明实施例将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。
此外,附图仅为本发明实施例的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
本示例实施方式中首先提供了一种服务器负载分流方法,可以应用于对Web应用服务器的负载分配。参考图1中所示,上述的服务器负载分流方法可以包括以下步骤:
S1,判断代理服务器是否接收到一访问请求;
S2,在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
S3,通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
S4,在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。
本示例实施方式所提供的服务器负载分流方法,通过根据访问请求的配置信息进行负载分流处理,从而实现在负载层实现分流,减轻应用服务器的压力。并且,通过读取当前时刻的限流信息,决定是否执行当前的访问请求,进而实现对负载的动态限流及动态分配。
下面,将结合附图及实施例对本发明实施例中的服务器负载分流方法的各个步骤进行更详细的说明。
步骤S1,判断代理服务器是否接收到一访问请求。
在本发明实施例中,首先判断当前时刻是否有用户通过浏览器、客户端或其他渠道通过数据接口访问接口服务。举例来说,上述的访问请求可以是:用户登陆请求、渠道请求、商品数据查询请求、交易请求或权限请求等,本发明实施例对访问请求的具体类型不做特殊限定。
步骤S2,在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理。
本发明实施例中,在接收到一访问请求时,可以获取该访问请求的配置信息,并根据配置信息进行负载分流。举例来说,在本实施例中,Web应用服务器可以采用Open Resty服务器,所述Open Resty服务器具有标准的Nginx核心,能够将Web服务直接运行在Nginx服务内部。Nginx代理服务器可以作为Web应用服务器、反向代理服务器以及电子邮件(IMAP/POP3)代理服务器,具有稳定性高、功能集丰富、占用内存少以及并发能力强等优点。
具体来说,参考图2所示,上述的根据所述访问请求的配置信息进行负载分流处理可以包括:
步骤S21,利用一预设脚本获取所述访问请求对应的渠道编号;
步骤S22,根据所述渠道编号向预设缓存中获取各所述渠道的配置信息。
当访问请求进入Nginx服务器内部时,可以通过预设的Lua脚本获取用户访问请求中一特定参数:渠道编号。然后便可以根据该渠道编号从从预设缓存中获取每个渠道的特定配置信息。
举例来说,所述渠道的配置新可以包括该渠道可以容纳对应的对象数量及路由策略,即每个渠道分配的机器数量以及进入Web应用服务器的路由策略。同样的,配置信息也可以采用轮询选举的方式,例如:ip哈希、url哈希、随机轮循、加权轮询以及自定义化的策略,进而实现对负载服务器配置文件的自定义设置。同时,也能够对不同的渠道提供不同的配置策略,进而有效实现的负载分流。
步骤S3,通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配数据中是否包含一限流信息。
本发明实施例中,在对访问请求进行分流之后,可以通过Nginx服务器利用预设的一定时任务定时读取Open Resty服务器内存中的限流配置信息,所述定时任务可以利用Lua脚本实现。在获取限流配置信息后,判断当前的限流配置信息中是否存在一限流信息。
在本示例实施方式中,参考图3所示,上述的限流信息的获取方法具体可以包括:
步骤S301,利用所述预设数据库统计当前时刻流量访问请求数量,并判断当前流量是否达到一阈值;
步骤S302,在判断当前时刻流量达到所述阈值时,生成所述限流信息并将其加入所述限流配置数据。
上述数据库可以采用Redis数据库,该Redis数据库遵守BSD(Berkeley SoftwareDistribution)协议。
步骤S4,在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。
在本发明实施例中,当判断所述限流配置数据中没有限流信息时,则可以正常执行用户的访问请求。另外,参考图4所示,在判断所述限流配置数据中包含一限流信息,即检测到当前时刻流量达到预设阈值时,所述方法还可以包括:
步骤S41,判断所述限流信息为完全限流或部分限流;
步骤S42-1,当判断所述限流信息为完全限流时,生成所述限流提示信息;或者,
步骤S42-2,当判断所述限流信息为部分限流时,利用令牌桶算法根据所述访问请求中url的参数进行动态限流。
在判断为完全限流时,则可以向用户发送一限流提示信息。
若判断为部分限流时,则可以利用令牌桶算法根据所述访问请求中url(UniformResoure Locator,统一资源定位器)的参数进行动态限流。具体来说,令牌桶算法可以包括:假设用户配置的平均发送速率为r,桶中最多可以存放b个令牌;则每隔1/r秒一个令牌被加入到桶中,每秒会有r个令牌放入桶中。如果令牌到达时令牌桶已经满了,那么这个令牌会被丢弃。
当一个n个字节的数据包到达时,假设n个字节需要n个令牌(但不同大小的数据包,消耗的令牌数量可能不同),就从令牌桶中删除n个令牌;并将数据包发送到网络。如果令牌到达时,令牌桶中少于n个令牌,则不会删除令牌,并且认为这个数据包在流量限制之外,此时该数据包将被缓存或丢弃。并且令牌桶算法允许最长b个字节的突发,但从长期运行结果看,数据包的速率被限制成常量r。
此外,在本示例性示例中,当所述访问请求被限制时,对所述访问请求的数据包的处理包括:
丢弃所述访问请求的数据包;或者
将各所述访问请求生成队列,以便于根据所述队列满足所述令牌桶算法时依次处理所述访问请求;或者
为所述访问请求的数据包添加标记,并在负载过载时丢弃添加有所述标记的数据包。
基于上述内容,在本发明的其他实施例中,可选的,所述访问请求中url的参数可以包括:访问地址、手机号码、证件号码、IP地址或黑名单中的任意一种或多种。在进行部分限流时,可以根据上述url的参数设置限流规则。举例来说,可以设置为渠道限流、IP限流、黑名单限流、城市限流、手机号码限流或证件号码限流等。参考图4所示,在进行部分限流时,可以对预设的限流策略进行判断并执行对应的限流操作,从而可以在特殊情况下实现紧急限流。
在本发明的其他实施例中,也可以同时采用多种限流方式。例如,同时采用渠道限流和IP限流,或同时采用IP限流和黑名单限流等,本发明实施例对此不做特殊限定。
本发明实施例提供的负载分流方法,通过利用访问请求的配置文件进行分流,根据不同的渠道提供不同的限流放流算法,能够在负载层实现网络分流,进而有效减轻应用服务器压力。并且通过定时任务定时刷新限流配置信息,实现了负载策略的动态变化以及可自定义化,能够自定义负载策略,进而可以将Web应用服务器的压力均摊在负载上面。
需要注意的是,上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
进一步的,参考图6所示,本示例的实施方式中还提供一种服务器负载分流装置6,包括:请求接收模块61、负载分流模块62、限流检测模块63以及限流执行模块64。其中:
所述请求接收模块61可以用于判断代理服务器是否接收到一访问请求。
所述负载分流模块62可以用于在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
所述限流检测模块63可以用于通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
所述限流执行模块64可以用于在判断所述限流配置数据中包含一限流信息时,发送一限流提示信息。
上述的服务器负载分流装置中各模块的具体细节已经在对应的服务器负载分流方法中进行了详细的描述,因此此处不再赘述。
下面参照图7来描述根据本发明的这种实施方式的电子设备700。图7显示的电子设备700仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于:上述至少一个处理单元710、上述至少一个存储单元720、连接不同系统组件(包括存储单元720和处理单元710)的总线730。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元710执行,使得所述处理单元710执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。例如,所述处理单元710可以执行如图1中所示的步骤S1:判断代理服务器是否接收到一访问请求;步骤S2:在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;步骤S3:通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息。
存储单元720可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)7201和/或高速缓存存储单元7202,还可以进一步包括只读存储单元(ROM)7203。
存储单元720还可以包括具有一组(至少一个)程序模块7205的程序/实用工具7204,这样的程序模块7205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线730可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备700也可以与一个或多个外部设备701(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备700交互的设备通信,和/或与使得该电子设备700能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口750进行。并且,电子设备700还可以通过网络适配器760与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器760通过总线730与电子设备700的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备700使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行本发明实施例提供的方法。
在本发明实施例中,还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
参考图8所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明实施例,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其他实施例。本申请旨在涵盖本发明实施例的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明实施例的一般性原理并包括本发明实施例未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明实施例的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明实施例的范围仅由权利要求来限定。
Claims (8)
1.一种服务器负载分流方法,其特征在于,包括:
判断代理服务器是否接收到一访问请求;
在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
在判断所述限流配置数据中包含一限流信息时,判断所述限流信息为完全限流或部分限流;
当判断所述限流信息为完全限流时,生成并发送限流提示信息;或者,
当判断所述限流信息为部分限流时,利用令牌桶算法根据所述访问请求中url的参数进行动态限流,所述访问请求中url的参数包括访问地址、手机号码、证件号码、IP地址或黑名单中的任意一种或多种;
其中,所述根据所述访问请求的配置信息进行负载分流处理包括:
利用一预设脚本获取所述访问请求对应的渠道编号;
根据所述渠道编号向预设缓存中获取各所述渠道的配置信息,所述渠道的配置信息包括所述渠道对应的对象数量及路由策略。
2.根据权利要求1所述的服务器负载分流方法,其特征在于,所述渠道的配置信息采用加权轮循、随机轮循、ip哈希、url哈希或自定义轮循中的任意一种。
3.根据权利要求1所述的服务器负载分流方法,其特征在于,所述限流配置数据的获取包括:
通过所述代理服务器中预设的一定时任务定时向预设数据库中获取所述限流配置数据。
4.根据权利要求3所述的服务器负载分流方法,其特征在于,所述方法还包括:
利用所述预设数据库统计当前时刻流量访问请求数量,并判断当前流量是否达到一阈值;
在判断当前时刻流量达到所述阈值时,生成所述限流信息并将其加入所述限流配置数据。
5.根据权利要求1所述的服务器负载分流方法,其特征在于,所述方法还包括,当所述访问请求被限制时,对所述访问请求的数据包的处理包括:
丢弃所述访问请求的数据包;或者
将各所述访问请求生成队列,以便于根据所述队列满足所述令牌桶算法时依次处理所述访问请求;或者
为所述访问请求的数据包添加标记,并在负载过载时丢弃添加有所述标记的数据包。
6.一种服务器负载分流装置,其特征在于,包括:
请求接收模块,用于判断代理服务器是否接收到一访问请求;
负载分流模块,用于在判断接收到所述访问请求时,根据所述访问请求的配置信息进行负载分流处理;
限流检测模块,用于通过所述代理服务器读取预设内存中当前时刻的限流配置数据并判断所述限流配置数据中是否包含一限流信息;
限流执行模块,用于在判断所述限流配置数据中包含一限流信息时,判断所述限流信息为完全限流或部分限流;当判断所述限流信息为完全限流时,生成并发送限流提示信息;或者,当判断所述限流信息为部分限流时,利用令牌桶算法根据所述访问请求中url的参数进行动态限流,所述访问请求中url的参数包括访问地址、手机号码、证件号码、IP地址或黑名单中的任意一种或多种;
其中,所述负载分流模块设置为:
利用一预设脚本获取所述访问请求对应的渠道编号;
根据所述渠道编号向预设缓存中获取各所述渠道的配置信息,所述渠道的配置信息包括所述渠道对应的对象数量及路由策略。
7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1~5任一项所述的服务器负载分流方法。
8.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1~5任一项所述的服务器负载分流方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711458249.7A CN108173938B (zh) | 2017-12-28 | 2017-12-28 | 服务器负载分流方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711458249.7A CN108173938B (zh) | 2017-12-28 | 2017-12-28 | 服务器负载分流方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108173938A CN108173938A (zh) | 2018-06-15 |
CN108173938B true CN108173938B (zh) | 2021-01-29 |
Family
ID=62518927
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711458249.7A Active CN108173938B (zh) | 2017-12-28 | 2017-12-28 | 服务器负载分流方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108173938B (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109714265B (zh) * | 2018-12-25 | 2021-03-02 | 广州方硅信息技术有限公司 | 一种终端限流方法、服务器、系统及存储介质 |
CN111367651B (zh) * | 2018-12-26 | 2023-04-11 | 阿里巴巴集团控股有限公司 | 服务限流系统、方法、装置及电子设备 |
CN109617996B (zh) * | 2019-01-04 | 2022-04-12 | 平安科技(深圳)有限公司 | 文件上传及下载方法、服务器及计算机可读存储介质 |
CN109815716A (zh) * | 2019-01-08 | 2019-05-28 | 平安科技(深圳)有限公司 | 访问请求处理方法、装置、存储介质及服务器 |
CN109995669B (zh) * | 2019-04-09 | 2024-05-03 | 深圳前海微众银行股份有限公司 | 分布式限流方法、装置、设备及可读存储介质 |
CN110191160A (zh) * | 2019-05-10 | 2019-08-30 | 深圳前海微众银行股份有限公司 | 一种并发控制方法和装置 |
CN111988234A (zh) * | 2019-05-23 | 2020-11-24 | 厦门网宿有限公司 | 过载保护方法、装置、服务器及存储介质 |
CN112311684B (zh) * | 2019-07-31 | 2022-09-09 | 上海幻电信息科技有限公司 | 突发流量处理方法、计算机设备及可读存储介质 |
CN110430142B (zh) * | 2019-08-16 | 2023-07-18 | 北京百度网讯科技有限公司 | 用于控制流量的方法和装置 |
CN110515675A (zh) * | 2019-08-30 | 2019-11-29 | 中国工商银行股份有限公司 | 应用上线的方法、装置、系统和可读存储介质 |
CN111125719B (zh) * | 2019-12-25 | 2023-10-24 | 中信百信银行股份有限公司 | 一种提升代码安全检测效率的方法、装置、计算机设备、和可读存储介质 |
CN111343101B (zh) * | 2020-02-03 | 2023-04-28 | 江苏满运软件科技有限公司 | 服务器限流方法、装置、电子设备及可读存储介质 |
CN111585831B (zh) * | 2020-03-30 | 2022-10-21 | 福建天泉教育科技有限公司 | 异常应用的处理方法、存储介质 |
CN111796938B (zh) * | 2020-06-30 | 2024-05-17 | 中国工商银行股份有限公司 | 集群动态并发控制方法及装置 |
CN114615073B (zh) * | 2022-03-22 | 2024-07-26 | 广州方硅信息技术有限公司 | 访问流量控制方法及其装置、设备、介质 |
CN115190078B (zh) * | 2022-06-28 | 2024-06-14 | 上海砾阳软件有限公司 | 一种访问流量控制方法、装置、设备以及存储介质 |
CN115277713B (zh) * | 2022-07-27 | 2024-06-18 | 京东科技信息技术有限公司 | 负载均衡方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106612238A (zh) * | 2015-10-21 | 2017-05-03 | 阿里巴巴集团控股有限公司 | 流量控制方法、装置和系统 |
CN106998370A (zh) * | 2017-06-15 | 2017-08-01 | 北京微影时代科技有限公司 | 访问控制方法、装置以及系统 |
CN107105015A (zh) * | 2017-03-31 | 2017-08-29 | 北京奇艺世纪科技有限公司 | 一种数据流的分流方法及装置 |
CN107332861A (zh) * | 2017-08-11 | 2017-11-07 | 杭州亿方云网络科技有限公司 | 一种基于OAuth协议的开放平台架构系统 |
-
2017
- 2017-12-28 CN CN201711458249.7A patent/CN108173938B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106612238A (zh) * | 2015-10-21 | 2017-05-03 | 阿里巴巴集团控股有限公司 | 流量控制方法、装置和系统 |
CN107105015A (zh) * | 2017-03-31 | 2017-08-29 | 北京奇艺世纪科技有限公司 | 一种数据流的分流方法及装置 |
CN106998370A (zh) * | 2017-06-15 | 2017-08-01 | 北京微影时代科技有限公司 | 访问控制方法、装置以及系统 |
CN107332861A (zh) * | 2017-08-11 | 2017-11-07 | 杭州亿方云网络科技有限公司 | 一种基于OAuth协议的开放平台架构系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108173938A (zh) | 2018-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108173938B (zh) | 服务器负载分流方法及装置 | |
US10469512B1 (en) | Optimized resource allocation for virtual machines within a malware content detection system | |
US10944793B2 (en) | Rules-based network security policy modification | |
US8544075B2 (en) | Extending a customer relationship management eventing framework to a cloud computing environment in a secure manner | |
US9780994B2 (en) | Notification normalization | |
CN103607385A (zh) | 基于浏览器进行安全检测的方法和装置 | |
CN113765980A (zh) | 一种限流方法、装置、系统、服务器和存储介质 | |
CN111737022A (zh) | 一种基于微服务的接口调用方法、系统、设备及介质 | |
CN105681380B (zh) | 客户端离线化方法及其系统 | |
CN114095567A (zh) | 数据访问请求的处理方法、装置、计算机设备及介质 | |
JP2018129027A (ja) | ウェブページのアンチウィルススキャンを実行するためのシステム及び方法 | |
CN112887420A (zh) | 消息推送方法和装置、计算机可读存储介质、电子设备 | |
WO2023091215A1 (en) | Mapping an application signature to designated cloud resources | |
CN113905091B (zh) | 用于对访问请求进行处理的方法及装置 | |
CN114422439A (zh) | 接口限流方法、装置、计算机设备和存储介质 | |
US10936968B2 (en) | Ticket routing | |
CN113220481A (zh) | 请求处理及反馈方法、装置、计算机设备及可读存储介质 | |
CN110381537B (zh) | 一种基于QoE的带宽限速方法、装置、设备及存储介质 | |
EP4274160A1 (en) | System and method for machine learning based malware detection | |
US10616317B2 (en) | Method and system for affinity load balancing | |
CN112994934B (zh) | 数据交互方法、装置及系统 | |
CN112988417B (zh) | 消息处理方法、装置、电子设备及计算机可读介质 | |
US10250515B2 (en) | Method and device for forwarding data messages | |
CN115277506B (zh) | 负载均衡设备测试方法及系统 | |
CN104283727B (zh) | 对网络服务质量进行监控的方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: Floor 36, Zheshang Building, No. 718 Jianshe Avenue, Jiang'an District, Wuhan, Hubei 430019 Patentee after: TK.CN INSURANCE Co.,Ltd. Patentee after: TAIKANG INSURANCE GROUP Co.,Ltd. Address before: Taikang Life Building, 156 fuxingmennei street, Xicheng District, Beijing 100031 Patentee before: TAIKANG INSURANCE GROUP Co.,Ltd. Patentee before: TK.CN INSURANCE Co.,Ltd. |
|
CP03 | Change of name, title or address |