CN108073465A - 动态限流方法、Nginx服务器、存储介质及装置 - Google Patents

动态限流方法、Nginx服务器、存储介质及装置 Download PDF

Info

Publication number
CN108073465A
CN108073465A CN201711498370.2A CN201711498370A CN108073465A CN 108073465 A CN108073465 A CN 108073465A CN 201711498370 A CN201711498370 A CN 201711498370A CN 108073465 A CN108073465 A CN 108073465A
Authority
CN
China
Prior art keywords
current
limit threshold
current limit
target
default
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711498370.2A
Other languages
English (en)
Inventor
左德军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN201711498370.2A priority Critical patent/CN108073465A/zh
Publication of CN108073465A publication Critical patent/CN108073465A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0745Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in an input/output transactions management context
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0796Safety measures, i.e. ensuring safe condition in the event of error, e.g. for controlling element

Abstract

本发明公开了动态限流方法、Nginx服务器、存储介质及装置。本发明中采集性能参数,所述性能参数用于表征Nginx服务器的运行情况,根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值,在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值,在所述请求数量大于所述目标限流阈值时,进行限流操作,可以灵活地根据Nginx服务器的实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。

Description

动态限流方法、Nginx服务器、存储介质及装置
技术领域
本发明涉及计算机技术领域,尤其涉及动态限流方法、Nginx服务器、存储介质及装置。
背景技术
在高并发系统中,限流技术作为一种可以较好地限制系统的输入和输出流量的方法,可采用限流技术以实现对于系统的保护。并且,在限流技术的具体应用中,可通过预先设置一个预设流量阈值,将该预设流量阈值与在系统中实时采集到的当前流量数值进行比对,进而将系统的运行负载限制在预设流量阈值的范围内,也就实现了对于高平发系统的运行保护,防止并发量过大造成的服务器宕机。
但是,由于预设流量阈值是对于服务器运行性能的预判而确定的数值,可是,服务器的运行性能在实际运行环境中是可变的,比如,由于服务器长期处于过度运转导致运行性能实质上已大大降低,若依旧以之前的预设流量阈值去进行限流,则可能导致当前的服务器无法负载该运算量。
并且,Nginx服务器作为一种轻量级的服务器软件,在处理并发请求方面表现较好,故而,多采用Nginx服务器去处理高平发问题。但是,Nginx服务器依然是如上述采用预设流量阈值的方式去限制服务器的并发量,所以,在高并发系统中现有的限流方式存在无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供动态限流方法、Nginx服务器、存储介质及装置,旨在解决现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
为实现上述目的,本发明提供一种动态限流方法,所述动态限流方法包括以下步骤:
采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在所述请求数量大于所述目标限流阈值时,进行限流操作。
优选地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作,包括:
在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
优选地,所述采集性能参数,包括:
采集各软件接口的接口性能参数;
相应地,所述根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值,包括:
从各软件接口中选取目标软件接口;
根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值。
优选地,所述根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值,包括:
判断所述目标软件接口的接口性能参数是否大于所述目标软件接口的预设限流阈值;
在所述目标软件接口的接口性能参数大于所述目标软件接口的预设限流阈值时,将所述目标软件接口的接口性能参数设为目标限流阈值。
优选地,所述根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值之后,所述动态限流方法还包括:
采集硬件性能参数,所述硬件性能参数用于表征所述Nginx服务器的硬件运行情况;
判断所述硬件性能参数是否大于预设硬件参数阈值;
在所述硬件性能参数大于所述预设硬件参数阈值时,对所述目标限流阈值进行修改,以获得新的目标限流阈值。
优选地,所述接口性能参数包括接口访问次数;
相应地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:
判断所述目标软件接口的接口访问次数是否大于预设访问阈值;
在所述目标软件接口的接口访问次数大于所述预设访问阈值时,将所述目标软件接口对应的预设资源文件进行缓存,以生成对应的缓存文件;
在接收到对于所述目标软件接口的访问请求时,调用所述缓存文件进行请求响应。
优选地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:
在预设监控时间段内检测是否进行限流操作;
当在所述预设监控时间段内检测到未进行限流操作时,展示限流异常信息,以提示进行人工限流操作;
在接收到人工限流指令时,将预设Lua脚本发送至Redis数据库,以进行限流操作。
此外,为实现上述目的,本发明还提供一种Nginx服务器,所述Nginx服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的动态限流程序,所述动态限流程序配置为实现如上文所述动态限流方法的步骤。
此外,为实现上述目的,本发明还提供一种存储介质,所述存储介质上存储有动态限流程序,所述动态限流程序被处理器执行时实现如上文所述的动态限流方法的步骤。
此外,为实现上述目的,本发明还提供一种动态限流装置,所述动态限流装置包括:参数采集模块、阈值修改模块、请求统计模块与动态限流模块;
所述参数采集模块,用于采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
所述阈值修改模块,用于根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
所述请求统计模块,用于在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值
所述动态限流模块,用于在所述请求数量大于所述目标限流阈值时,进行限流操作。
本发明中通过根据Nginx服务器的性能参数动态地改变限流阈值,以实现限流操作,可以灵活地根据Nginx服务器的实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的Nginx服务器结构示意图;
图2为本发明动态限流方法第一实施例的流程示意图;
图3为本发明动态限流方法第二实施例的流程示意图;
图4为本发明动态限流方法第三实施例的流程示意图;
图5为本发明动态限流方法第四实施例的流程示意图;
图6为本发明动态限流装置第一实施例的结构框图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
参照图1,图1为本发明实施例方案涉及的硬件运行环境的Nginx服务器结构示意图。
如图1所示,该Nginx服务器可以包括:处理器1001,例如CPU,通信总线1002、用户接口1003,网络接口1004,存储器1005。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏(Display),可选用户接口1003还可以包括标准的有线接口、无线接口,对于用户接口1003的有线接口在本发明中可为USB接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器(non-volatile memory),例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
本领域技术人员可以理解,图1中示出的结构并不构成对Nginx服务器的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及动态限流程序。
在图1所示的Nginx服务器中,网络接口1004主要用于连接后台服务器,与所述后台服务器进行数据通信;用户接口1003主要用于连接外设;所述Nginx服务器通过处理器1001调用存储器1005中存储的动态限流程序,并执行以下操作:
采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在所述请求数量大于所述目标限流阈值时,进行限流操作。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
采集各软件接口的接口性能参数;
相应地,还执行以下操作:
从各软件接口中选取目标软件接口;
根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
判断所述目标软件接口的接口性能参数是否大于所述目标软件接口的预设限流阈值;
在所述目标软件接口的接口性能参数大于所述目标软件接口的预设限流阈值时,将所述目标软件接口的接口性能参数设为目标限流阈值。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
采集硬件性能参数,所述硬件性能参数用于表征所述Nginx服务器的硬件运行情况;
判断所述硬件性能参数是否大于预设硬件参数阈值;
在所述硬件性能参数大于所述预设硬件参数阈值时,对所述目标限流阈值进行修改,以获得新的目标限流阈值。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
判断所述目标软件接口的接口访问次数是否大于预设访问阈值;
在所述目标软件接口的接口访问次数大于所述预设访问阈值时,将所述目标软件接口对应的预设资源文件进行缓存,以生成对应的缓存文件;
在接收到对于所述目标软件接口的访问请求时,调用所述缓存文件进行请求响应。
进一步地,处理器1001可以调用存储器1005中存储的动态限流程序,还执行以下操作:
在预设监控时间段内检测是否进行限流操作;
当在所述预设监控时间段内检测到未进行限流操作时,展示限流异常信息,以提示进行人工限流操作;
在接收到人工限流指令时,将预设Lua脚本发送至Redis数据库,以进行限流操作。
本实施例中通过根据Nginx服务器的性能参数动态地改变限流阈值,以实现限流操作,可以灵活地根据Nginx服务器的实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
基于上述硬件结构,提出本发明动态限流方法的实施例。
参照图2,图2为本发明动态限流方法第一实施例的流程示意图。
在第一实施例中,所述动态限流方法包括以下步骤:
步骤S10:采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
可以理解的是,执行主体为Nginx服务器,当Nginx服务器通过限流技术来保证系统的稳定运行时,传统的实现方式为,Nginx服务器将预先设置一个预设流量阈值,将该预设流量阈值与在系统中实时采集到的当前流量数值进行比对,进而将系统的运行负载限制在预设流量阈值的范围内,但是,传统的实现方式未考虑到服务器运行情况的变化与当前的用户访问情况。所以,可通过实时采集服务器的性能参数,并根据采集到的性能参数来改变该预设流量阈值,也就使得Nginx服务器可根据服务器运行情况的变化来动态地进行限流。
在具体实现中,将对Nginx服务器的原生环境进行拓展,以使得Nginx服务器可采集本服务器的性能参数,所述性能参数用于表征所述Nginx服务器的运行情况,比如,中央处理器(Central Processing Unit,CPU)使用率、硬盘使用率、内存交换区(Paging Pace)使用率和输入输出流量峰值等参数,上述性能参数均可较好地体现Nginx服务器的健康状况。
步骤S20:根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
应当理解的是,在采集到可表征Nginx服务器的健康状况的性能参数后,可进一步地根据该性能参数去修改预设限流阈值。其中,所述预设限流阈值可为运维人员预先考虑到Nginx服务器的预期运行情况以及预期的用户访问量而设置的访问上限值,比如,所述预设限流阈值为可接收并处理的访问请求数量的最大值。但是,考虑到Nginx服务器的运行状况处于不断的变化中,并且,用户的访问量也处于不断的更变中,所以,将根据该实时采集到的性能参数去适应性地调整预设限流阈值,以获得目标限流阈值。比如,可将预设限流阈值设置10000次,在对预设限流阈值进行修改后,获得的目标限流阈值为8000次。
步骤S30:在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在具体实现中,在限流技术的常规实施中,可统计并发请求的数量,若统计出的并发请求的请求数量为9000次。
步骤S40:在所述请求数量大于所述目标限流阈值时,进行限流操作。
可以理解的是,因为请求数量为9000次,而目标限流阈值为8000次,请求数量大于目标限流阈值,则将进行限流操作,将Nginx服务器可接收并处理的请求限制至最高8000次。可见,若采用传统的限流策略,比较的依据依旧为预设限流阈值10000次,在上述情况下,则无需进行限流操作,但是,由于预设限流阈值为运维人员实现设置的理想运行指标,若Nginx服务器由于长时间运行过热或者运行负载过大,而导致可处理的请求数量降低,以预设限流阈值10000次作为限流指标,将对Nginx服务器的健康状况带来消极影响,甚至,导致Nginx服务器宕机。所以,通过对Nginx服务器的限流阈值进行实时改变,可以更好地适应Nginx服务器的当前运行情况。
进一步地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作,具体包括:在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
在具体实现中,进行限流操作的实施方式存在多种,比如,可通过限制访问请求的数量来进行限流等实施方式。其中,请求数量为9000次,而目标限流阈值为8000次,则可接收并执行8000次的请求,对于剩余的1000次请求可采用拒绝处理该请求的方式进行处理,以保障Nginx服务器的正常运行。当然,可将超出限流阈值的1000次请求进行缓存,当Nginx服务器存在额外的计算资源时,再去接收并执行该1000次请求。
本实施例中通过根据Nginx服务器的性能参数动态地改变限流阈值,以实现限流操作,可以灵活地根据Nginx服务器的实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
参照图3,图3为本发明动态限流方法第二实施例的流程示意图,基于上述图2所示的实施例,提出本发明动态限流方法的第二实施例。
在第二实施例中,所述步骤S10,具体包括:
步骤S10':采集各软件接口的接口性能参数;
可以理解的是,Nginx服务器可采集到的性能参数存在多种,并且,若考虑到用户可执行的不同的请求类型,还可基于具体的请求类型设置对应的限流阈值,从而在进行限流操作时可考虑进用户的实时访问状况。比如,在一个高平发量的网页访问场景中,存在大量用户同时去访问同一个购物网站,但是,该购物网站存在多种售卖的商品,每个商品都存在单独且对应的商品网页,比如展示A商品的A网页和展示B商品的B网页。容易理解的是,A网页和B网页可能存在差距较大的网页访问量,所以,对于A网页对应的软件接口和B网页对应的软件接口需要设置不同的访问次数峰值以实现差异性的限流操作,而对于不同网页对应的软件接口设置不同的访问次数峰值即为限流策略的一种。
当然,接口性能参数不一定为访问次数峰值,本实施例对此不作限制。
所述步骤S20,具体包括:
步骤S201:从各软件接口中选取目标软件接口;
在具体实现中,比如,采集到的各软件接口的接口性能参数可为,A网页对应的软件接口的当前访问次数为每秒800次,B网页对应的软件接口的当前访问次数为每秒50次。可先比较A网页对应的软件接口的当前访问次数与访问次数峰值,所以,可先将A网页对应的软件接口作为目标软件接口进行限流操作。
步骤S202:根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值。
可以理解的是,可根据A网页对应的软件接口的当前访问次数对A网页对应的软件接口的预设限流阈值进行修改,比如,若A网页对应的软件接口的预设访问次数峰值为每秒500次,由于A网页的当前访问次数每秒800次大于预设访问次数峰值每秒500次,可对A网页的预设访问次数峰值进行修改。对于修改上述预设访问次数峰值的具体方式,可为将A网页的预设访问次数峰值上调为每秒900次,以满足实际的用户访问情况。
当然,在对A网页软件接口作为目标软件接口进行限流操作后,还可将B网页对应的软件接口作为目标软件接口,进行预设限流阈值的修改。若各网页对应的软件接口的预设访问次数峰值均设置为每秒500次,由于B网页对应的软件接口的当前访问次数为每秒50次,可将B网页的预设访问次数峰值下调为每秒100次,通过根据不同的软件接口的接口性能参数进行差异化地限流操作,从而实现了在保证服务器的正常运行的情况下,对于不同需求的接口进行不同的限流设置。
本实施例中基于各软件接口的接口性能参数进行限流操作,既考虑到了各软件接口不同的访问情况,更灵活地对不同需求的接口进行不同的限流设置,也保证了服务器可以正常运行。
参照图4,图4为本发明动态限流方法第三实施例的流程示意图,基于上述图3所示的实施例,提出本发明动态限流方法的第三实施例。
在第三实施例中,步骤S202,具体包括:
步骤S2021:判断所述目标软件接口的接口性能参数是否大于所述目标软件接口的预设限流阈值;
步骤S2022:在所述目标软件接口的接口性能参数大于所述目标软件接口的预设限流阈值时,将所述目标软件接口的接口性能参数设为目标限流阈值。
在具体实现中,对于修改预设限流阈值的实施方式可为,将采集到的目标软件接口的接口性能参数作为目标限流阈值,该种实施方式更加符合当前用户的实时访问状况。比如,若软件接口的预设访问次数峰值为每秒500次,而当前访问次数每秒800次,则表明预先设置的预设访问次数峰值无法满足当前的用户需求,由于当前访问次数每秒800次为实时的访问状况,可直接将预设限流阈值设置为当前访问次数每秒800次。在后续的限流操作中,直接基于每秒800次进行限流判断,既保证了服务器的正常运行,也使得限流操作更加符合实时的访问情况。
进一步地,所述根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值之后,所述动态限流方法还包括:采集硬件性能参数,所述硬件性能参数用于表征所述Nginx服务器的硬件运行情况;判断所述硬件性能参数是否大于预设硬件参数阈值;在所述硬件性能参数大于所述预设硬件参数阈值时,对所述目标限流阈值进行修改,以获得新的目标限流阈值。
可以理解的是,在基于各软件接口的接口性能参数对预设限流阈值进行修改以获得目标限流阈值后,进一步地,在已经考虑各软件接口的差异化需求的前提下,若再兼顾服务器的硬件性能参数,最终确定的目标限流阈值也就实现了既考虑了用户对于软件接口的访问需求,也考虑到了服务器当前的运行情况。比如,若软件接口的预设访问次数峰值为每秒500次,而当前访问次数每秒800次,通过对当前访问次数进行修改,获得的修改后的预设访问次数峰值即目标限流阈值为每秒900次,确定的目标限流阈值每秒900次是充分考虑到了软件接口的访问情况。
但是,若再考虑到服务器的硬件性能参数,比如,当CPU使用率大于预设CPU使用率阈值时,将对目标限流阈值每秒900次进行修改,获得的新的目标限流阈值为每秒700次,因为,CPU使用率超出服务器的运行负荷,需要降低服务器的运行负载。因为,若监测到服务器的运行状况出现CPU使用率过大的情况,可对于各软件接口的目标限流阈值进行整体性地下调,以保证数据安全且利于后期对于服务器的维护。
当然,本实施例对于修改目标限流阈值的方式不作限制。
在本实施例中通过将所述目标软件接口的接口性能参数设为目标限流阈值,既保证了服务器的正常运行,也使得限流操作更加符合实时的访问情况;同时,在基于各软件接口的接口性能参数对预设限流阈值进行修改的前提下,在参考服务器的硬件性能参数进行限流阈值的修改,使得最终确定的目标限流阈值更加贴合服务器的实际运行性能。
参照图5,图5为本发明动态限流方法第四实施例的流程示意图,基于上述图3所示的实施例,提出本发明动态限流方法的第四实施例。
在第四实施例中,所述接口性能参数包括接口访问次数,所述步骤S40之后,所述动态限流方法还包括:
步骤S50:判断所述目标软件接口的接口访问次数是否大于预设访问阈值;
可以理解的是,在高平发场景下,可在Nginx服务器缓存访问频繁的热点数据,当接收访问该热点数据的请求时,直接通过该热点数据的缓存进行请求响应,可以显著地提高系统响应速度。
步骤S60:在所述目标软件接口的接口访问次数大于所述预设访问阈值时,将所述目标软件接口对应的预设资源文件进行缓存,以生成对应的缓存文件;
在具体实现中,将设置预设访问阈值以实现对于热点数据的判定,比如,当访问网页A的软件接口的当前访问次数每秒800次大于预设访问阈值750次时,可将该软件接口对应的预设资源文件进行缓存,所述预设资源文件包括用于显示网页A的图片及文字等信息。
步骤S70:在接收到对于所述目标软件接口的访问请求时,调用所述缓存文件进行请求响应。
可以理解的是,通过将预设资源文件进行缓存,以生成缓存文件。在后续用户访问网页A的软件接口时,可调用缓存文件以实现将网页A显示给用户,该种显示方式降低了服务器的运算量,也可解决频繁的访问带来的服务器负载过大的技术问题。
进一步地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:在预设监控时间段内检测是否进行限流操作;当在所述预设监控时间段内检测到未进行限流操作时,展示限流异常信息,以提示进行人工限流操作;在接收到人工限流指令时,将预设Lua脚本发送至Redis数据库,以进行限流操作。
可理解的是,除开上述通过Nginx服务器自主监测接口性能参数并完成对于限流阈值的修改的技术方案,还可通过运维人员人工完成限流阈值的修改操作以实现后续实际运行中的限流操作。比如,可结合Lua脚本和Redis数据库去实现限流策略的手动调整。其中,当运维人员在后台观察到服务器的监控数据出现明显运行异常且服务器未自调节限流策略时,可人工调节限流策略。
在具体实现中,比如,若在5分钟内检测到服务器自调节限流策略,即未根据目标限流阈值进行限流操作,服务器将向运维人员推送限流异常信息,以提示进行人工限流操作。运维人员在获悉服务器未进行限流策略的自调节后,可通过将预设Lua脚本发送至Redis数据库,以完成限流阈值的手动修改。
其中,Lua为一种灵活的脚本语言,在对Nginx服务器进行功能拓展方面,实现起来更加方便;Redis数据库是一种高性能的key-value数据库。
可以理解的是,由于使用预设Lua脚本进行限流阈值的自修改,可将多次修改以脚本形式进行发送,降低了网络时延;同时,由于Redis数据库把整个脚本作为一个整体去执行,保证了操作的原子性,也就不会出现竞态条件,降低了高并发环境下的并发风险。
进一步地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:响应于用户输入的程序发布指令,获得预设发布信息,所述预设发布信息用于确定将接收到待发布的新版本程序的各客户端;根据所述预设发布信息确定对应的目标客户端,向所述目标客户端发送所述新版本程序,以使所述目标客户端在接收到所述新版本程序后,进行程序的版本升级操作,并反馈新版本运行性能信息。
可以理解的时,还可通过Nginx服务器进行灰度发布。所述灰度发布是指,在针对应用程序的迭代开发并完成上线的过程中,为了保证大部分用户可以正常使用将原版本程序,可先将新版本程序只发布给小部分的用户,在影响范围较小的情况下,评估新版本程序的运行情况,以逐步实现新版本程序最终的全部发布。
在具体实现中,比如,Nginx服务器在获取到反馈的新版本运行性能信息后,可根据该新版本运行性能信息评估新版本程序的运行情况,以逐步实现新版本程序最终的全部发布。
此外,还可实时获取Nginx服务器的自身运行情况,以使服务器本身可以更加适应灰度发布的进度,比如,可对灰度发布的发布过程进行监控,当灰度发布出现问题时,即当Nginx服务器获取到目标客户端反馈的新版本运行异常信息时,可根据Nginx服务器的性能参数动态地调整限流策略,具体而言,若监控到在实施灰度发布的过程中出现新版本发布异常或者用户使用新版本的异常,则可让Nginx服务器暂停发布或者减缓发布的进程,防止继续进行版本发布导致大范围的用户出现使用问题,让使用风险限制在较小的范围内。
在本实施例中通过将热点数据进行缓存,显著地提高了系统响应速度。
此外,本发明实施例还提出一种存储介质,所述存储介质上存储有动态限流程序,所述动态限流程序被处理器执行时实现如下操作:
采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在所述请求数量大于所述目标限流阈值时,进行限流操作。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
采集各软件接口的接口性能参数;
相应地,还实现如下操作:
从各软件接口中选取目标软件接口;
根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
判断所述目标软件接口的接口性能参数是否大于所述目标软件接口的预设限流阈值;
在所述目标软件接口的接口性能参数大于所述目标软件接口的预设限流阈值时,将所述目标软件接口的接口性能参数设为目标限流阈值。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
采集硬件性能参数,所述硬件性能参数用于表征所述Nginx服务器的硬件运行情况;
判断所述硬件性能参数是否大于预设硬件参数阈值;
在所述硬件性能参数大于所述预设硬件参数阈值时,对所述目标限流阈值进行修改,以获得新的目标限流阈值。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
判断所述目标软件接口的接口访问次数是否大于预设访问阈值;
在所述目标软件接口的接口访问次数大于所述预设访问阈值时,将所述目标软件接口对应的预设资源文件进行缓存,以生成对应的缓存文件;
在接收到对于所述目标软件接口的访问请求时,调用所述缓存文件进行请求响应。
进一步地,所述动态限流程序被处理器执行时还实现如下操作:
在预设监控时间段内检测是否进行限流操作;
当在所述预设监控时间段内检测到未进行限流操作时,展示限流异常信息,以提示进行人工限流操作;
在接收到人工限流指令时,将预设Lua脚本发送至Redis数据库,以进行限流操作。
本实施例中通过根据Nginx服务器的性能参数动态地改变限流阈值,以实现限流操作,可以灵活地根据Nginx服务器的实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
此外,参照图6,本发明实施例还提出一种动态限流装置,所述动态限流装置包括:参数采集模块10、阈值修改模块20、请求统计模块30与动态限流模块40;
所述参数采集模块10,用于采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
可以理解的是,当Nginx服务器通过限流技术来保证系统的稳定运行时,传统的实现方式为,Nginx服务器将预先设置一个预设流量阈值,将该预设流量阈值与在系统中实时采集到的当前流量数值进行比对,进而将系统的运行负载限制在预设流量阈值的范围内,但是,传统的实现方式未考虑到服务器运行情况的变化与当前的用户访问情况。所以,可通过实时采集服务器的性能参数,并根据采集到的性能参数来改变该预设流量阈值,也就使得Nginx服务器可根据服务器运行情况的变化来动态地进行限流。
在具体实现中,将对Nginx服务器的原生环境进行拓展,以使得Nginx服务器可采集本服务器的性能参数,所述性能参数用于表征所述Nginx服务器的运行情况,比如,中央处理器(Central Processing Unit,CPU)使用率、硬盘使用率、内存交换区(Paging Pace)使用率和输入输出流量峰值等参数,上述性能参数均可较好地体现Nginx服务器的健康状况。
所述阈值修改模块20,用于根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
应当理解的是,在采集到可表征Nginx服务器的健康状况的性能参数后,可进一步地根据该性能参数去修改预设限流阈值。其中,所述预设限流阈值可为运维人员预先考虑到Nginx服务器的预期运行情况以及预期的用户访问量而设置的访问上限值,比如,所述预设限流阈值为可接收并处理的访问请求数量的最大值。但是,考虑到Nginx服务器的运行状况处于不断的变化中,并且,用户的访问量也处于不断的更变中,所以,将根据该实时采集到的性能参数去适应性地调整预设限流阈值,以获得目标限流阈值。比如,可将预设限流阈值设置10000次,在对预设限流阈值进行修改后,获得的目标限流阈值为8000次。
所述请求统计模块30,用于在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在具体实现中,在限流技术的常规实施中,可统计并发请求的数量,若统计出的并发请求的请求数量为9000次。
所述动态限流模块40,用于在所述请求数量大于所述目标限流阈值时,进行限流操作。
可以理解的是,因为请求数量为9000次,而目标限流阈值为8000次,请求数量大于目标限流阈值,则将进行限流操作,将Nginx服务器可接收并处理的请求限制至最高8000次。可见,若采用传统的限流策略,比较的依据依旧为预设限流阈值10000次,在上述情况下,则无需进行限流操作,但是,由于预设限流阈值为运维人员实现设置的理想运行指标,若Nginx服务器由于长时间运行过热或者运行负载过大,而导致可处理的请求数量降低,以预设限流阈值10000次作为限流指标,将对Nginx服务器的健康状况带来消极影响,甚至,导致Nginx服务器宕机。所以,通过对Nginx服务器的限流阈值进行实时改变,可以更好地适应Nginx服务器的当前运行情况。
进一步地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作,具体包括:在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
在具体实现中,进行限流操作的实施方式存在多种,比如,可通过限制访问请求的数量来进行限流等实施方式。其中,请求数量为9000次,而目标限流阈值为8000次,则可接收并执行8000次的请求,对于剩余的1000次请求可采用拒绝处理该请求的方式进行处理,以保障Nginx服务器的正常运行。当然,可将超出限流阈值的1000次请求进行缓存,当Nginx服务器存在额外的计算资源时,再去接收并执行该1000次请求。
本实施例中通过根据性能参数动态地改变限流阈值,以实现限流操作,可以灵活地根据实时运行情况以适应性地进行限流操作,从而克服了现有的限流方式存在的无法根据Nginx服务器的运行情况灵活地进行限流操作的技术问题。
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。词语第一、第二、以及第三等的使用不表示任何顺序,可将这些词语解释为名称。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种动态限流方法,其特征在于,所述动态限流方法包括以下步骤:
采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值;
在所述请求数量大于所述目标限流阈值时,进行限流操作。
2.如权利要求1所述的动态限流方法,其特征在于,所述在所述请求数量大于所述目标限流阈值时,进行限流操作,包括:
在所述请求数量大于所述目标限流阈值时,计算所述请求数量与所述目标限流阈值之间的差值,拒绝所述差值数量的访问请求。
3.如权利要求1所述的动态限流方法,其特征在于,所述采集性能参数,包括:
采集各软件接口的接口性能参数;
相应地,所述根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值,包括:
从各软件接口中选取目标软件接口;
根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值。
4.如权利要求3所述的动态限流方法,其特征在于,所述根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值,包括:
判断所述目标软件接口的接口性能参数是否大于所述目标软件接口的预设限流阈值;
在所述目标软件接口的接口性能参数大于所述目标软件接口的预设限流阈值时,将所述目标软件接口的接口性能参数设为目标限流阈值。
5.如权利要求3所述的动态限流方法,其特征在于,所述根据所述目标软件接口的接口性能参数对所述目标软件接口的预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值之后,所述动态限流方法还包括:
采集硬件性能参数,所述硬件性能参数用于表征所述Nginx服务器的硬件运行情况;
判断所述硬件性能参数是否大于预设硬件参数阈值;
在所述硬件性能参数大于所述预设硬件参数阈值时,对所述目标限流阈值进行修改,以获得新的目标限流阈值。
6.如权利要求3所述的动态限流方法,其特征在于,所述接口性能参数包括接口访问次数;
相应地,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:
判断所述目标软件接口的接口访问次数是否大于预设访问阈值;
在所述目标软件接口的接口访问次数大于所述预设访问阈值时,将所述目标软件接口对应的预设资源文件进行缓存,以生成对应的缓存文件;
在接收到对于所述目标软件接口的访问请求时,调用所述缓存文件进行请求响应。
7.如权利要求1至6中任一项所述的动态限流方法,其特征在于,所述在所述请求数量大于所述目标限流阈值时,进行限流操作之后,所述动态限流方法还包括:
在预设监控时间段内检测是否进行限流操作;
当在所述预设监控时间段内检测到未进行限流操作时,展示限流异常信息,以提示进行人工限流操作;
在接收到人工限流指令时,将预设Lua脚本发送至Redis数据库,以进行限流操作。
8.一种Nginx服务器,其特征在于,所述Nginx服务器包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行动态限流程序,所述动态限流程序被所述处理器执行时实现如权利要求1至7中任一项所述的动态限流方法的步骤。
9.一种存储介质,其特征在于,所述存储介质上存储有动态限流程序,所述动态限流程序被处理器执行时实现如权利要求1至7中任一项所述的动态限流方法的步骤。
10.一种动态限流装置,其特征在于,所述动态限流装置包括:参数采集模块、阈值修改模块、请求统计模块与动态限流模块;
所述参数采集模块,用于采集性能参数,所述性能参数用于表征Nginx服务器的运行情况;
所述阈值修改模块,用于根据所述性能参数对预设限流阈值进行修改,将修改后的所述预设限流阈值设为目标限流阈值;
所述请求统计模块,用于在接收到处于并发状态的各访问请求时,统计所述访问请求的请求数量,判断所述请求数量是否大于所述目标限流阈值
所述动态限流模块,用于在所述请求数量大于所述目标限流阈值时,进行限流操作。
CN201711498370.2A 2017-12-29 2017-12-29 动态限流方法、Nginx服务器、存储介质及装置 Pending CN108073465A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711498370.2A CN108073465A (zh) 2017-12-29 2017-12-29 动态限流方法、Nginx服务器、存储介质及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711498370.2A CN108073465A (zh) 2017-12-29 2017-12-29 动态限流方法、Nginx服务器、存储介质及装置

Publications (1)

Publication Number Publication Date
CN108073465A true CN108073465A (zh) 2018-05-25

Family

ID=62156185

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711498370.2A Pending CN108073465A (zh) 2017-12-29 2017-12-29 动态限流方法、Nginx服务器、存储介质及装置

Country Status (1)

Country Link
CN (1) CN108073465A (zh)

Cited By (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108845869A (zh) * 2018-05-31 2018-11-20 中国平安人寿保险股份有限公司 并发请求控制方法、装置、计算机设备和存储介质
CN108845910A (zh) * 2018-05-31 2018-11-20 康键信息技术(深圳)有限公司 大规模微服务系统的监控方法、装置及存储介质
CN109039937A (zh) * 2018-09-26 2018-12-18 深圳壹账通智能科技有限公司 动态限流方法、装置、计算机设备和存储介质
CN109257294A (zh) * 2018-09-07 2019-01-22 武汉斗鱼网络科技有限公司 基于redis的服务动态降级方法、装置、服务器及存储介质
CN109842565A (zh) * 2018-12-15 2019-06-04 平安科技(深圳)有限公司 接口限流方法、装置、电子设备及存储介质
CN110033246A (zh) * 2018-12-07 2019-07-19 阿里巴巴集团控股有限公司 网络支付限流控制方法和装置
CN110061930A (zh) * 2019-02-01 2019-07-26 阿里巴巴集团控股有限公司 一种数据流量的限制、限流值的确定方法和装置
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN110177075A (zh) * 2019-04-15 2019-08-27 深圳壹账通智能科技有限公司 异常访问拦截方法、装置、计算机设备及存储介质
CN110351357A (zh) * 2019-07-08 2019-10-18 中国平安人寿保险股份有限公司 服务器限流方法、装置、计算机设备以及存储介质
CN110401720A (zh) * 2019-07-31 2019-11-01 中国工商银行股份有限公司 信息处理方法、装置、系统、应用服务器和介质
CN110413416A (zh) * 2019-07-31 2019-11-05 中国工商银行股份有限公司 一种分布式服务器的限流方法及装置
CN110554918A (zh) * 2019-08-09 2019-12-10 北京字节跳动网络技术有限公司 限流方法、装置、电子设备和计算机可读存储介质
CN110768912A (zh) * 2019-10-21 2020-02-07 中国民航信息网络股份有限公司 Api网关限流方法及装置
CN110932988A (zh) * 2019-10-31 2020-03-27 北京三快在线科技有限公司 流量控制方法、装置、电子设备及可读存储介质
CN111062681A (zh) * 2019-11-19 2020-04-24 湖南强智科技发展有限公司 选课巡检方法、装置、服务器及存储介质
CN111262791A (zh) * 2020-01-08 2020-06-09 江苏满运软件科技有限公司 一种流量管控方法、装置、电子设备及存储介质
CN111262795A (zh) * 2020-01-08 2020-06-09 京东数字科技控股有限公司 基于服务接口的限流方法、装置、电子设备及存储介质
CN111273915A (zh) * 2018-11-16 2020-06-12 中移(杭州)信息技术有限公司 一种中间件配置优化方法、装置、终端设备和介质
CN111371772A (zh) * 2020-02-28 2020-07-03 深圳壹账通智能科技有限公司 基于redis的智能网关限流方法、系统和计算机设备
CN111585914A (zh) * 2019-02-15 2020-08-25 阿里巴巴集团控股有限公司 一种服务限流方法、装置、及电子设备
CN111782923A (zh) * 2020-06-24 2020-10-16 平安科技(深圳)有限公司 数据查询方法、装置、电子设备及存储介质
CN111796938A (zh) * 2020-06-30 2020-10-20 中国工商银行股份有限公司 集群动态并发控制方法及装置
CN111897701A (zh) * 2020-07-15 2020-11-06 中国工商银行股份有限公司 针对应用的告警处理方法、装置、计算机系统和介质
CN111931030A (zh) * 2020-07-30 2020-11-13 中粮招商局(深圳)粮食电子交易中心有限公司 基于异构系统的请求适配方法、装置、设备及存储介质
CN112764937A (zh) * 2021-01-29 2021-05-07 中国平安人寿保险股份有限公司 访问量控制方法、装置、计算机设备及存储介质
CN112783641A (zh) * 2019-11-11 2021-05-11 马上消费金融股份有限公司 一种服务接口流控方法及装置
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技(深圳)有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
CN113419856A (zh) * 2021-06-23 2021-09-21 平安银行股份有限公司 智能限流方法、装置、电子设备及存储介质
CN113590047A (zh) * 2021-08-11 2021-11-02 中国建设银行股份有限公司 数据库的筛查方法、装置、电子设备及存储介质
CN113676531A (zh) * 2021-08-16 2021-11-19 北京百度网讯科技有限公司 电商流量削峰方法、装置、电子设备及可读存储介质
CN113691457A (zh) * 2021-08-10 2021-11-23 中国银联股份有限公司 限流控制方法、装置、设备及存储介质
CN114006871A (zh) * 2021-10-25 2022-02-01 北京有竹居网络技术有限公司 流量控制方法、装置、容器和存储介质
CN114338539A (zh) * 2022-01-11 2022-04-12 平安科技(深圳)有限公司 并发控制方法及装置、网络设备、可读存储介质
CN114465767A (zh) * 2021-12-27 2022-05-10 天翼云科技有限公司 一种数据调度方法和设备
CN114666272A (zh) * 2022-03-11 2022-06-24 平安国际智慧城市科技股份有限公司 限流处理方法、装置、设备及存储介质
CN114745329A (zh) * 2022-03-30 2022-07-12 青岛海尔科技有限公司 流量控制方法和装置、存储介质及电子装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104767689A (zh) * 2014-01-07 2015-07-08 腾讯科技(深圳)有限公司 控制网络访问接入量的方法及服务器
CN105939350A (zh) * 2016-05-30 2016-09-14 北京京东尚科信息技术有限公司 网络访问控制方法和系统
CN107222426A (zh) * 2016-03-21 2017-09-29 阿里巴巴集团控股有限公司 控流的方法、装置及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104767689A (zh) * 2014-01-07 2015-07-08 腾讯科技(深圳)有限公司 控制网络访问接入量的方法及服务器
CN107222426A (zh) * 2016-03-21 2017-09-29 阿里巴巴集团控股有限公司 控流的方法、装置及系统
CN105939350A (zh) * 2016-05-30 2016-09-14 北京京东尚科信息技术有限公司 网络访问控制方法和系统

Cited By (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110099009B (zh) * 2018-01-31 2021-01-26 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN108845910B (zh) * 2018-05-31 2024-02-06 康键信息技术(深圳)有限公司 大规模微服务系统的监控方法、装置及存储介质
CN108845910A (zh) * 2018-05-31 2018-11-20 康键信息技术(深圳)有限公司 大规模微服务系统的监控方法、装置及存储介质
CN108845869A (zh) * 2018-05-31 2018-11-20 中国平安人寿保险股份有限公司 并发请求控制方法、装置、计算机设备和存储介质
CN109257294B (zh) * 2018-09-07 2022-04-12 武汉斗鱼网络科技有限公司 基于redis的服务动态降级方法、装置、服务器及存储介质
CN109257294A (zh) * 2018-09-07 2019-01-22 武汉斗鱼网络科技有限公司 基于redis的服务动态降级方法、装置、服务器及存储介质
CN109039937B (zh) * 2018-09-26 2023-05-12 深圳壹账通智能科技有限公司 动态限流方法、装置、计算机设备和存储介质
CN109039937A (zh) * 2018-09-26 2018-12-18 深圳壹账通智能科技有限公司 动态限流方法、装置、计算机设备和存储介质
CN111273915B (zh) * 2018-11-16 2023-04-28 中移(杭州)信息技术有限公司 一种中间件配置优化方法、装置、终端设备和介质
CN111273915A (zh) * 2018-11-16 2020-06-12 中移(杭州)信息技术有限公司 一种中间件配置优化方法、装置、终端设备和介质
CN110033246A (zh) * 2018-12-07 2019-07-19 阿里巴巴集团控股有限公司 网络支付限流控制方法和装置
CN110033246B (zh) * 2018-12-07 2024-01-12 创新先进技术有限公司 网络支付限流控制方法和装置
CN109842565A (zh) * 2018-12-15 2019-06-04 平安科技(深圳)有限公司 接口限流方法、装置、电子设备及存储介质
CN109842565B (zh) * 2018-12-15 2023-03-28 平安科技(深圳)有限公司 接口限流方法、装置、电子设备及存储介质
CN110061930A (zh) * 2019-02-01 2019-07-26 阿里巴巴集团控股有限公司 一种数据流量的限制、限流值的确定方法和装置
CN111585914B (zh) * 2019-02-15 2024-03-22 阿里巴巴集团控股有限公司 一种服务限流方法、装置、及电子设备
CN111585914A (zh) * 2019-02-15 2020-08-25 阿里巴巴集团控股有限公司 一种服务限流方法、装置、及电子设备
CN110177075B (zh) * 2019-04-15 2023-08-22 深圳壹账通智能科技有限公司 异常访问拦截方法、装置、计算机设备及存储介质
CN110177075A (zh) * 2019-04-15 2019-08-27 深圳壹账通智能科技有限公司 异常访问拦截方法、装置、计算机设备及存储介质
CN110351357A (zh) * 2019-07-08 2019-10-18 中国平安人寿保险股份有限公司 服务器限流方法、装置、计算机设备以及存储介质
CN110413416A (zh) * 2019-07-31 2019-11-05 中国工商银行股份有限公司 一种分布式服务器的限流方法及装置
CN110401720A (zh) * 2019-07-31 2019-11-01 中国工商银行股份有限公司 信息处理方法、装置、系统、应用服务器和介质
CN110413416B (zh) * 2019-07-31 2022-05-17 中国工商银行股份有限公司 一种分布式服务器的限流方法及装置
CN110554918A (zh) * 2019-08-09 2019-12-10 北京字节跳动网络技术有限公司 限流方法、装置、电子设备和计算机可读存储介质
CN110768912A (zh) * 2019-10-21 2020-02-07 中国民航信息网络股份有限公司 Api网关限流方法及装置
CN110768912B (zh) * 2019-10-21 2022-11-18 中国民航信息网络股份有限公司 Api网关限流方法及装置
CN110932988A (zh) * 2019-10-31 2020-03-27 北京三快在线科技有限公司 流量控制方法、装置、电子设备及可读存储介质
CN112783641A (zh) * 2019-11-11 2021-05-11 马上消费金融股份有限公司 一种服务接口流控方法及装置
CN111062681B (zh) * 2019-11-19 2023-10-13 湖南强智科技发展有限公司 选课巡检方法、装置、服务器及存储介质
CN111062681A (zh) * 2019-11-19 2020-04-24 湖南强智科技发展有限公司 选课巡检方法、装置、服务器及存储介质
CN111262795B (zh) * 2020-01-08 2024-02-06 京东科技控股股份有限公司 基于服务接口的限流方法、装置、电子设备及存储介质
CN111262791A (zh) * 2020-01-08 2020-06-09 江苏满运软件科技有限公司 一种流量管控方法、装置、电子设备及存储介质
CN111262795A (zh) * 2020-01-08 2020-06-09 京东数字科技控股有限公司 基于服务接口的限流方法、装置、电子设备及存储介质
CN111371772A (zh) * 2020-02-28 2020-07-03 深圳壹账通智能科技有限公司 基于redis的智能网关限流方法、系统和计算机设备
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技(深圳)有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
CN111782923A (zh) * 2020-06-24 2020-10-16 平安科技(深圳)有限公司 数据查询方法、装置、电子设备及存储介质
CN111796938A (zh) * 2020-06-30 2020-10-20 中国工商银行股份有限公司 集群动态并发控制方法及装置
CN111897701B (zh) * 2020-07-15 2023-08-11 中国工商银行股份有限公司 针对应用的告警处理方法、装置、计算机系统和介质
CN111897701A (zh) * 2020-07-15 2020-11-06 中国工商银行股份有限公司 针对应用的告警处理方法、装置、计算机系统和介质
CN111931030A (zh) * 2020-07-30 2020-11-13 中粮招商局(深圳)粮食电子交易中心有限公司 基于异构系统的请求适配方法、装置、设备及存储介质
CN112764937B (zh) * 2021-01-29 2022-04-15 中国平安人寿保险股份有限公司 访问量控制方法、装置、计算机设备及存储介质
CN112764937A (zh) * 2021-01-29 2021-05-07 中国平安人寿保险股份有限公司 访问量控制方法、装置、计算机设备及存储介质
CN113419856A (zh) * 2021-06-23 2021-09-21 平安银行股份有限公司 智能限流方法、装置、电子设备及存储介质
CN113691457B (zh) * 2021-08-10 2023-07-18 中国银联股份有限公司 限流控制方法、装置、设备及存储介质
CN113691457A (zh) * 2021-08-10 2021-11-23 中国银联股份有限公司 限流控制方法、装置、设备及存储介质
CN113590047A (zh) * 2021-08-11 2021-11-02 中国建设银行股份有限公司 数据库的筛查方法、装置、电子设备及存储介质
CN113590047B (zh) * 2021-08-11 2024-01-26 中国建设银行股份有限公司 数据库的筛查方法、装置、电子设备及存储介质
CN113676531A (zh) * 2021-08-16 2021-11-19 北京百度网讯科技有限公司 电商流量削峰方法、装置、电子设备及可读存储介质
CN113676531B (zh) * 2021-08-16 2023-10-31 北京百度网讯科技有限公司 电商流量削峰方法、装置、电子设备及可读存储介质
CN114006871A (zh) * 2021-10-25 2022-02-01 北京有竹居网络技术有限公司 流量控制方法、装置、容器和存储介质
CN114465767A (zh) * 2021-12-27 2022-05-10 天翼云科技有限公司 一种数据调度方法和设备
CN114338539A (zh) * 2022-01-11 2022-04-12 平安科技(深圳)有限公司 并发控制方法及装置、网络设备、可读存储介质
CN114666272B (zh) * 2022-03-11 2023-06-16 深圳平安智慧医健科技有限公司 限流处理方法、装置、设备及存储介质
CN114666272A (zh) * 2022-03-11 2022-06-24 平安国际智慧城市科技股份有限公司 限流处理方法、装置、设备及存储介质
CN114745329B (zh) * 2022-03-30 2024-03-22 青岛海尔科技有限公司 流量控制方法和装置、存储介质及电子装置
CN114745329A (zh) * 2022-03-30 2022-07-12 青岛海尔科技有限公司 流量控制方法和装置、存储介质及电子装置

Similar Documents

Publication Publication Date Title
CN108073465A (zh) 动态限流方法、Nginx服务器、存储介质及装置
CN108551465A (zh) 服务器并发数控制方法、装置、计算机设备及存储介质
CN103369601A (zh) 为手机客户端提供大并发处理及流量控制的方法
CN108495195A (zh) 一种网络直播排行榜生成方法、装置、设备及存储介质
DE102012207696A1 (de) Null-KlickTeilen von Anwendungskontext über verschiedene Vorrichtungen hinweg
DE202012004620U1 (de) Client-Vorrichtung zur Übertragung des Anwendungszustandes über verschiedene Vorrichtungen hinweg mit Kontrollpunkten
CN105095107A (zh) 清理缓存数据的方法及装置
CN103686354B (zh) 一种智能电视终端及统计上报按键使用行为的方法
CN103379002A (zh) 电信网络的自适应监测
CN108762924A (zh) 一种负载均衡的方法、装置和计算机可读存储介质
CN108268622A (zh) 返回页面的方法、装置及计算机可读存储介质
CN102880616A (zh) 浏览器页面加载方法及装置
CN103200272B (zh) 一种流媒体存储系统及存储方法
CN110247856A (zh) 服务器资源释放方法和装置
CN106487553A (zh) Vnf实例的处理方法、装置及vnfm
CN109639751A (zh) 区块链节点监控方法、装置、系统及计算机存储介质
CN109271253A (zh) 一种资源调配方法、装置及系统
CN105759938B (zh) 移动终端的节能方法和设备
CN108268578A (zh) 网页图片加载的方法及系统
CN109361947A (zh) 网络资源批量加载方法、智能电视、存储介质及装置
CN108512768B (zh) 一种访问量的控制方法及装置
CN110308985A (zh) 云专属服务器资源管理方法、装置、设备及存储介质
CN108874324B (zh) 一种访问请求处理方法、装置、设备及可读存储介质
CN107948318A (zh) 多节点间的缓存同步方法和系统
CN107623732A (zh) 一种基于云平台的数据存储方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20180525