CN117061526A - 一种基于全局与局部业务访问控制的访问高峰防拥塞方法 - Google Patents

一种基于全局与局部业务访问控制的访问高峰防拥塞方法 Download PDF

Info

Publication number
CN117061526A
CN117061526A CN202311314712.6A CN202311314712A CN117061526A CN 117061526 A CN117061526 A CN 117061526A CN 202311314712 A CN202311314712 A CN 202311314712A CN 117061526 A CN117061526 A CN 117061526A
Authority
CN
China
Prior art keywords
service
area
access
user
global
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202311314712.6A
Other languages
English (en)
Other versions
CN117061526B (zh
Inventor
刘国鹏
方理威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Personnel Examination Center Of Ministry Of Human Resources And Social Security
Original Assignee
Personnel Examination Center Of Ministry Of Human Resources And Social Security
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Personnel Examination Center Of Ministry Of Human Resources And Social Security filed Critical Personnel Examination Center Of Ministry Of Human Resources And Social Security
Priority to CN202311314712.6A priority Critical patent/CN117061526B/zh
Publication of CN117061526A publication Critical patent/CN117061526A/zh
Application granted granted Critical
Publication of CN117061526B publication Critical patent/CN117061526B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1014—Server selection for load balancing based on the content of a request
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/215—Flow control; Congestion control using token-bucket
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/10015—Access to distributed or replicated servers, e.g. using brokers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1025—Dynamic adaptation of the criteria on which the server selection is based
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/2866—Architectures; Arrangements
    • H04L67/2895—Intermediate processing functionally located close to the data provider application, e.g. reverse proxies
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/566—Grouping or aggregating service requests, e.g. for unified processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)

Abstract

本申请涉及一种基于全局与局部业务访问控制的访问高峰防拥塞方法，属于计算机技术领域，该方法包括：在用户访问系统登录区的全局访问层面，采用令牌排队机制，当对应应用业务区的请求总量超过对应的令牌发放总量时，提示用户等待；当存在等待中用户时启用等待缓冲区，为等待中用户提供纯静态网页的内容供用户阅读；当用户获取到令牌后，通过反向代理访问对应的各应用业务区；在用户访问应用业务区的局部访问层面，采用动态负载均衡排队机制，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力，综合调整反向代理分配比例。可以避免业务数据存在安全隐患、应用业务区的拥塞及某个区域业务出现雪崩效应的问题。

Description

一种基于全局与局部业务访问控制的访问高峰防拥塞方法
技术领域
本申请涉及基于全局与局部业务访问控制的访问高峰防拥塞方法，属于计算机技术领域。
背景技术
目前，一些公共服务网站由于在短时间内可能有大量用户访问，因此，具有访问量大、访问集中，有高并发、高峰值的特点。比如：人事考试公共服务网站为考生提供考试信息发布、网上报名、缴费、准考证打印、成绩查询、证书查询等服务内容，在报名阶段，会有大量用户集中访问网站以填写报考信息报名考试；在成绩查询阶段，会有大量用户集中访问查询考试成绩等。
为保障系统稳定运行，不被短时高峰流量冲垮，传统的一种内外网隔离穿透设计方法，包括：随着负载请求逐渐增加，任务队列的等待请求数量随之增大，由于单个服务器系统处理请求的数量有限，必定会抛弃部分请求，利用适应于容量有限单服务器的M/M/1/K/∞/排队模型进行负载请求的排队，可以有效降低请求的抛弃率；通过M/M/1/K/∞/排队模型所获得的系统中平均请求数和平均响应时间作为动态调整线程池大小的输入参数，由于负载过多，统一采用FCFS服务规则，屏蔽按照任务种类进行服务的复杂性。
然而，上述系统访问方式中访问与业务不分离，导致内网中的业务数据存在安全隐患，且用户访问直接对接应用服务器，导致安全隐患，且无法进行负载的均衡分配；另外，现有的负载均衡方式考虑因素的单一或者考虑多种因素时，采用多种条件阈值判断以及跳转等繁琐的控制调节方式，不能够通过动态平滑的方式调节。
公开号为CN113766576A，名称为服务质量管理方法、电子设备以及存储介质。方法包括：提取无线接入网的网络数据的用户访问特征；根据用户访问特征，确定网络数据对应的至少一个业务类型；向控制节点传输至少一个业务类型，使得控制节点针对至少一个业务类型进行服务质量管理。
公开号为CN103155512A，名称为用于对服务提供安全访问的系统和方法。在一个方面，全局服务器包括通信模块，其接收和处理来自发起终端的密钥交换发起消息以与终止终端建立加密通信信道。通信模块响应所接收的密钥交换发起消息，针对所接收的密钥交换发起消息执行加密通信建立处理。该加密通信建立处理包括认证发起终端；以及在发起终端被成功认证的情况下，将与所接收的密钥交换发起消息相对应的密钥生成数据发送到终止终端。密钥生成数据基于与发起终端相关联的数据来识别。
发明内容
本申请提供了一种基于全局与局部业务访问控制的访问高峰防拥塞方法，可以将系统交互登录访问与业务数据处理功能分离，避免业务数据存在安全隐患的问题。同时，在系统交互登录访问环节采用全局的动态令牌排队机制，防止系统登录区短时下发大量访问造成后续应用业务区的拥塞。在业务数据处理环节采用局部的动态负载均衡排队机制，避免单台业务服务器承载过多业务或者单台业务服务器宕机后，出现某个区域业务的雪崩效应。本申请提供的一种基于全局与局部业务访问控制的访问高峰防拥塞方法，包括：
在用户访问系统登录区的全局访问层面，采用令牌排队机制，系统登录区的服务器维护各应用业务区的令牌发放总量Ntoken，该令牌发放总量可以动态调节，用于保证系统登录区的排队数量小于各应用业务区的排队总量；当对应的应用业务区的请求总量超过对应的应用业务区的令牌发放总量时，提示用户等待；当存在等待中用户时，启用等待缓冲区，为等待中用户提供纯静态网页的内容供用户阅读；
当用户获取到令牌后，通过反向代理访问对应的各应用业务区；
在用户访问应用业务区的局部访问层面，采用动态负载均衡排队机制，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力，综合调整反向代理的分配比例，其中第i个应用业务区的每个单台业务服务器设置业务承载上限为NLOADi，反向代理的分配比例为R反向代理，高峰排队时长为B，业务平均办理周期为T业务，业务平均办理周期T业务是业务服务率μ的倒数，平均达到的负载数量为λ，其中反向代理R反向代理的调节公式如下：
，
使得反向代理的比例，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力四个因素进行综合动态调整，其中，反向代理用于将客户端发来的请求，按照一定规则分发给业务服务器，用于实现用户所在客户端与业务服务器之间的业务隔离。
可选地，在系统登录区使用tomcat session进行令牌的计数排队，保证系统登录区的服务器不被短时大量请求冲垮，在应用业务区使用redis控制单台业务服务器的业务承载上限，避免单台业务服务器承接过量的负载。
可选地，为应用业务区的服务器的服务范围进行区域划分，划分方式使得业务峰值高的区域单独分配服务器集群，而业务峰值低的区域合并后分配服务器集群，使得各个区域的资源保持相对的独立性。
可选地，还设置有后台管理区、系统登录区、应用业务区、和后台管理区分别使用独立数据库开展业务。
可选地，系统登录区使用只读数据库，以提高用户登录业务的响应性能。
可选地，应用业务区的应用数据库基于历史压力数据进行拆分，以避免达到应用数据库物理性能和连接次数的上限。
可选地，应用业务区的应用数据库与后台管理区的管理数据库之间通过消息队列机制进行数据同步，以使应用数据库中的数据有序推送至后台管理区，管理数据库中数据有序推送至应用业务区。
可选地，等待缓冲区使用CDN对纯静态网页的内容进行缓存。
可选地，在业务服务器的计算资源占用率超过预设阈值的情况下，为业务服务器的计算资源进行扩容。
可选地，纯静态网页的内容支持多点、多终端存储，并提供了本地、ftp/sftp、oss三种交互存储方式。
本申请的有益效果至少包括：
1、将系统交互登录访问与业务数据处理功能分离，并在系统交互登录访问环节采用全局的动态令牌排队机制，防止系统登录区短时下发大量访问造成后续应用业务区的拥塞；在业务数据处理环节采用局部的动态负载均衡排队机制，避免单台业务服务器承载过多业务或者单台业务服务器宕机后，出现某个区域业务的雪崩效应。
2、给出了用于动态调整反向代理的调节因素和具体的调节公式，可以有效避免单台业务服务器承载过多业务或者单台业务服务器宕机后，出现某个区域业务的雪崩效应。
3、如果设置一个固定的令牌发放总量，需要按照经验值反复实现以获取一个具有较大余量的固定值，而该固定的令牌发放总量可能会因为制定的过于保守以致太小，而使大量用户处于等待中，如果令牌发放总量设置的过大，又会导致应用业务区的负载压力过大，容易出现服务器过载而导致宕机，因此本申请动态调节该令牌发放总量，系统登录区的排队数量小于各应用业务区的排队总量即可。
上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，并可依照说明书的内容予以实施，以下以本申请的较佳实施例并配合附图详细说明如后。
附图说明
图1是根据本申请实施例所述的基于全局与局部业务访问控制的访问高峰防拥塞系统的结构示意图；
图2是根据本申请实施例所述的基于全局与局部业务访问控制的访问高峰防拥塞方法的流程图。
具体实施方式
下面结合附图和实施例，对本申请的具体实施方式作进一步详细描述。以下实施例用于说明本申请，但不用来限制本申请的范围。
图1是根据本申请实施例所述的基于全局与局部业务访问控制的访问高峰防拥塞系统的结构示意图，如图1所示，该系统至少包括：系统登录区、应用业务区以及等待缓冲区。
其中，系统登录区用于用户访问登录交互控制。系统登录区由至少一个web服务器构成。在一个示例中，用户使用的客户端（后文简称用户）通过网站服务访问系统登录区，该网站服务用于实现系统与客户端之间的可视化交互操作，为客户端提供系统对访问过程的响应情况。
可选地，在系统登录区使用tomcat session进行令牌的计数排队，保证系统登录区服务器不被短时大量请求冲垮。
可选地，系统登录区使用只读数据库，以提高用户登录业务的响应性能。
应用业务区用于用户访问对应的各业务。每个系统通常可以提供至少两种业务，比如：以人事考试公共服务网站为例，可以提供考试信息发布、网上报名、缴费、准考证打印、成绩查询和证书查询等业务。可选地，本系统设置有至少两个应用业务区，不同应用业务区用于供用户访问不同的业务。图1中以3个应用业务区为例进行说明（即，应用业务区1、应用业务区2以及应用业务区3），在实际实现时，应用业务区的数量也可以为更少或更多，本实施例不对应用业务区的数量作限定。
每个应用业务区由至少一个web服务器构成，各个应用业务区基于负载均衡原则通过反向代理的方式与系统登录区通信相连。另外，每个应用业务区具有对应的应用数据库以存储业务数据。例如，图1中与应用业务区1对应的应用数据库1、与应用业务区2对应的应用数据库2以及与应用业务区3对应的应用数据库3。
可选地，在应用业务区使用redis控制单台业务服务器的业务承载上限，避免单台业务服务器承接过量的负载。
本实施例中，系统为应用业务区的业务服务器的服务范围进行区域划分，划分方式使得业务峰值高的区域单独分配服务器集群，而业务峰值低的区域合并后分配服务器集群，使得各个区域的资源保持相对的独立性，避免一个区域的业务影响另一个区域。
可选地，区域划分时可以基于业务服务器的历史访问次数进行划分，比如：仍以人事考试公共服务网站为例，可以将应用业务区按照考生的报考考区结合历年的报考人数进行区域划分，使各个应用业务区的区域划分的人数基本一致。
等待缓冲区用于用户无法获取令牌时，向用户提供纯静态网页的内容供用户等待时阅读。示意性地，等待缓冲区使用CDN对纯静态网页的内容进行缓存，以减少静态资源分发压力。
本实施例中，将网站的纯静态网页的内容与动态网页的内容相分离。纯静态网页的内容采取无状态部署方式，仅对外提供信息发布、页面导航等服务，不保存用户输入的信息，比如：不保存用户的考试个人信息、登录信息等。这样，业务高峰资源挤兑时，可高效扩展静态资源服务器，有效保障考生可打开纯静态网页的内容。
可选地，纯静态网页的内容可配置网页防篡改措施，提高系统安全性。网站静态资源不与数据库进行交互，大大降低访问延迟，配合内容分发、负载均衡等技术可极大的提高网站访问速度。
纯静态网页的内容支持多节点、多终端存储，提供了本地、ftp/sftp、oss三种交互存储方式，方便网站管理。通过该系统可快速完成网站搭建，具有灵活性、高扩展性的特点。
可选地，系统还设置有后台管理区，以供管理者基于负载均衡原则访问。系统登录区、应用业务区和后台管理区分别使用独立数据库开展业务。
具体地，如上，系统登录区使用只读数据库，以提高用户登录业务的响应性能，仅用于登录业务。
可选地，对于应用业务区的应用数据库基于历史压力数据进行拆分，以避免达到应用数据库物理性能和连接次数的上限。即，应用数据库内进行分表设计，比如：根据不同考区业务量经验值，对应用数据库进行拆分，减少应用数据库整体压力，避免达到应用数据库服务器物理性能和连接池数的上限，避免出现服务器资源不足导致应用服务的整体宕机。
后台管理区的管理数据库独立运行，避免出现前台拥塞导致后台业务无法开展。具体地，后台管理区使用管理数据库，应用业务区的应用数据库与后台管理区的管理数据库之间通过消息队列机制进行数据同步，以使应用数据库中的数据有序推送至后台管理区，管理数据库中数据有序推送至应用业务区。比如：考生资格审核业务属于后台管理区的业务，应用业务区一般短时间有大量考生提交审核申请，极易造成应用数据库压力过大，系统堵塞，后台管理区的审核业务也无法完成。在本实施例中进行了前后台的拆分，前台的应用数据库中的数据定期投递至后台的管理数据库，管理数据库独立开展业务，不受前台的应用业务区访问压力影响。后台审核业务结束后将结果定期推送至前台的应用业务区。
具体地，本实施例采用用户登录的全局访问防拥塞与业务数据访问的局部访问防拥塞相结合的防拥塞机制，具体方法至少包括下述步骤1-3：
步骤1，在用户访问系统登录区的全局访问层面，采用令牌排队机制，系统登录区的服务器维护各应用业务区的令牌发放总量Ntoken，该令牌发放总量可以动态调节，用于保证系统登录区的排队数量小于各应用业务区的排队总量；当对应的应用业务区的请求总量超过对应的应用业务区的令牌发放总量时，提示用户等待；当存在等待中用户时，启用等待缓冲区，为等待中用户提供纯静态网页的内容供用户阅读。
本实施例中，将系统登录区与应用业务区进行分离，防止资源集中部署带来的雪崩效应。
在用户访问网站时，所有用户均需访问系统登录区换取令牌token，为保证系统登录区运行，在redis缓存中对全局和分区tomcat session进行计数，维护全局和各分区队列，保证系统登录区服务器不被冲垮。当在线人数超过阈值时提示用户等待。单台业务服务器使用tomcat服务的会话进行计数排队，当在线人数超过阈值时提示用户等待。
步骤2，当用户获取到令牌后，通过反向代理访问对应的各应用业务区。
步骤3，在用户访问应用业务区的局部访问层面，采用动态负载均衡排队机制，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力，综合调整反向代理的分配比例，其中第i个应用业务区的每个单台业务服务器设置业务承载上限为NLOADi，反向代理的分配比例为R反向代理，高峰排队时长为B，业务平均办理周期为T业务，业务平均办理周期T业务是业务服务率μ的倒数，平均达到的负载数量为λ，其中所述反向代理R反向代理的调节公式如下：
，
使得反向代理的比例，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力四个因素进行综合动态调整。其中，反向代理用于将客户端发来的请求，按照一定规则分发给业务服务器，用于实现用户所在客户端与业务服务器之间的业务隔离。
在业务服务器的计算资源占用率超过预设阈值的情况下，为业务服务器的计算资源进行扩容。
综上所述，本实施例提供的基于全局与局部业务访问控制的访问高峰防拥塞方法，通过将系统交互登录访问与业务数据处理功能分离，并在系统交互登录访问环节采用全局的动态令牌排队机制，防止系统登录区短时下发大量访问造成后续应用业务区的拥塞；在业务数据处理环节采用局部的动态负载均衡排队机制，避免单台业务服务器承载过多业务或者单台业务服务器宕机后，出现某个区域业务的雪崩效应。
另外，公开了用于动态调整反向代理的调节因素和具体的调节公式，可以有效避免单台业务服务器承载过多业务或者单台业务服务器宕机后，出现某个区域业务的雪崩效应。
另外，如果设置一个固定的令牌发放总量，需要按照经验值反复实现以获取一个具有较大余量的固定值，而该固定的令牌发放总量可能会因为制定的过于保守以致太小，而使大量用户处于等待中，如果令牌发放总量设置的过大，又会导致应用业务区的负载压力过大，容易出现服务器过载而导致宕机，因此本申请动态调节该令牌发放总量，系统登录区的排队数量小于各应用业务区的排队总量即可。
图2是本申请一个实施例提供的基于全局与局部业务访问控制的访问高峰防拥塞方法的流程图，本实施例以该方法应用于考试网站为例进行说明，该访问方法包括：
客户端发送访问请求后，系统先确定系统登录区的负载是否过大，具体可以确定系统登录区的排队数量是否小于各应用业务区的排队总量；若是，则将等待缓冲区中存储的纯静态网页的内容（如：考试须知等）返回给用户，供用户阅读；若否，则访问系统登录区，开始进行系统登录区的全局访问。
在进行系统登录区的全局访问阶段，在系统登录区确定当前用户需要登录的应用业务区的人数是否超过该应用业务区的最大在线人数。即，是否超过对应应用业务区的令牌发放总量。若是，则提示用户等待；当存在等待中用户时，启用等待缓冲区，为等待中用户提供纯静态网页的内容，如登录页面。若否，则确定用户名和密码是否正确。若不正确，则返回纯静态网页的内容，以提示登录信息错误。若正确，则将该用户名和密码作为用户关键信息以唯一key的方式存储至缓存，相应地，用户获取到令牌，之后可以基于动态负载均衡排队机制通过反向代理访问对应的各应用业务区。
在用户访问应用业务区的局部访问阶段，应用业务区首先确定缓存中存在唯一key信息。若不存在，则返回纯静态网页的内容，以提示业务区繁忙等信息。若存在，确定是否超过单台业务服务器的人数限制。若是，则返回纯静态网页内容，以提示业务区繁忙等信息。若否，则删除缓存中的用户唯一key信息，并增加对应应用业务区的在线人数。之后，将统计到的在线人数作为参数信息存储至对应业务服务器的session中，此时，用户成功登录网站，并成功访问对应的应用业务区。
这样，一方面将系统登录区与应用业务区进行分离，可以防止资源集中部署带来的雪崩效应；另一方面，使用多重缓存机制，使用redis对常用数据进行缓存，可以减少数据库访问压力；设置等待缓冲区，当系统登录区的服务器承载业务较重，无法提供服务时，启用等待缓冲区，该区纯静态发布，降低对服务器资源消耗，引导考生先阅读考试须知，再完成相关业务，可以有效应对业务高峰值、高并发访问，确保各项考试业务稳定运行。
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (10)

1.一种基于全局与局部业务访问控制的访问高峰防拥塞方法，设置系统登录区、应用业务区以及等待缓冲区，其中所述系统登录区用于用户访问登录交互控制，所述应用业务区用于用户访问对应的各业务，所述等待缓冲区用于用户无法获取令牌时，向用户提供纯静态网页的内容供用户等待时阅读，其特征在于：采用用户登录的全局访问防拥塞与业务数据访问的局部访问防拥塞相结合的防拥塞机制，具体包括：
在用户访问所述系统登录区的全局访问层面，采用令牌排队机制，所述系统登录区的服务器维护所述应用业务区的令牌发放总量Ntoken，所述令牌发放总量可以动态调节，用于保证所述系统登录区的排队数量小于所述应用业务区的排队总量；当对应的应用业务区的请求总量超过对应的应用业务区的令牌发放总量时，提示用户等待；当存在等待中用户时，启用所述等待缓冲区，为等待中用户提供所述纯静态网页的内容供用户阅读；
当用户获取到令牌后，通过反向代理访问对应的各应用业务区；
在用户访问所述应用业务区的局部访问层面，采用动态负载均衡排队机制，根据业务平均办理周期、平均达到的负载数量、高峰排队时长以及单台业务服务器的承载能力，综合调整所述反向代理的分配比例，其中第i个应用业务区的每个单台业务服务器设置业务承载上限为NLOADi，所述反向代理的分配比例为R反向代理，所述高峰排队时长为B，所述业务平均办理周期为T业务，所述业务平均办理周期T业务是业务服务率μ的倒数，所述平均达到的负载数量为λ，其中所述反向代理R反向代理的调节公式如下：
，
使得所述反向代理的比例，根据所述业务平均办理周期、所述平均达到的负载数量、所述高峰排队时长以及所述单台业务服务器的承载能力四个因素进行综合动态调整，其中，所述反向代理用于将客户端发来的请求，按照一定规则分发给所述业务服务器，用于实现用户所在客户端与所述业务服务器之间的业务隔离。
2.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：在所述系统登录区使用tomcat session进行令牌的计数排队，保证所述系统登录区的服务器不被短时大量请求冲垮，在所述应用业务区使用redis控制所述单台业务服务器的业务承载上限，避免所述单台业务服务器承接过量的负载。
3.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：为所述应用业务区的服务器的服务范围进行区域划分，划分方式使得业务峰值高的区域单独分配服务器集群，而业务峰值低的区域合并后分配服务器集群，使得各个区域的资源保持相对的独立性。
4.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：还设置有后台管理区；所述系统登录区、所述应用业务区、和所述后台管理区分别使用独立数据库开展业务。
5.如权利要求4所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：所述系统登录区使用只读数据库，以提高用户登录业务的响应性能。
6.如权利要求4所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：所述应用业务区的应用数据库基于历史压力数据进行拆分，以避免达到所述应用数据库物理性能和连接次数的上限。
7.如权利要求4所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：所述应用业务区的应用数据库与所述后台管理区的管理数据库之间通过消息队列机制进行数据同步，以使所述应用数据库中的数据有序推送至所述后台管理区，所述管理数据库中数据有序推送至所述应用业务区。
8.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：所述等待缓冲区使用CDN对所述纯静态网页的内容进行缓存。
9.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：在所述业务服务器的计算资源占用率超过预设阈值的情况下，为所述业务服务器的计算资源进行扩容。
10.如权利要求1所述的基于全局与局部业务访问控制的访问高峰防拥塞方法，其特征在于：所述纯静态网页的内容支持多点、多终端存储，并提供了本地、ftp/sftp、oss三种交互存储方式。
CN202311314712.6A 2023-10-12 2023-10-12 一种基于全局与局部业务访问控制的访问高峰防拥塞方法 Active CN117061526B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311314712.6A CN117061526B (zh) 2023-10-12 2023-10-12 一种基于全局与局部业务访问控制的访问高峰防拥塞方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311314712.6A CN117061526B (zh) 2023-10-12 2023-10-12 一种基于全局与局部业务访问控制的访问高峰防拥塞方法

Publications (2)

Publication Number Publication Date
CN117061526A true CN117061526A (zh) 2023-11-14
CN117061526B CN117061526B (zh) 2023-12-12

Family

ID=88661216

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311314712.6A Active CN117061526B (zh) 2023-10-12 2023-10-12 一种基于全局与局部业务访问控制的访问高峰防拥塞方法

Country Status (1)

Country Link
CN (1) CN117061526B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104994139A (zh) * 2015-06-10 2015-10-21 丁大砾 一种对高并发网络请求发快速响应的系统
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN110430278A (zh) * 2019-08-14 2019-11-08 平安普惠企业管理有限公司 负载均衡配置方法及装置
CN110933139A (zh) * 2019-11-05 2020-03-27 浙江工业大学 一种解决Web服务器高并发的系统及方法
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技（深圳）有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
WO2022012054A1 (zh) * 2020-07-17 2022-01-20 苏州浪潮智能科技有限公司 一种动态预防流量攻击的方法、系统、设备及存储介质
CN116095013A (zh) * 2022-12-29 2023-05-09 北京开科唯识技术股份有限公司 一种服务请求限流方法、装置及存储介质
CN116708450A (zh) * 2023-07-12 2023-09-05 南京亚信软件有限公司 负载均衡方法、装置、电子设备及计算机可读存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104994139A (zh) * 2015-06-10 2015-10-21 丁大砾 一种对高并发网络请求发快速响应的系统
CN110099009A (zh) * 2018-01-31 2019-08-06 北京易真学思教育科技有限公司 基于接口响应时间趋势的动态限流方法及计算机可读介质
CN110430278A (zh) * 2019-08-14 2019-11-08 平安普惠企业管理有限公司 负载均衡配置方法及装置
CN110933139A (zh) * 2019-11-05 2020-03-27 浙江工业大学 一种解决Web服务器高并发的系统及方法
WO2021114829A1 (zh) * 2020-06-09 2021-06-17 平安科技（深圳）有限公司 基于令牌桶的接口限流方法、装置、系统及可读存储介质
WO2022012054A1 (zh) * 2020-07-17 2022-01-20 苏州浪潮智能科技有限公司 一种动态预防流量攻击的方法、系统、设备及存储介质
CN116095013A (zh) * 2022-12-29 2023-05-09 北京开科唯识技术股份有限公司 一种服务请求限流方法、装置及存储介质
CN116708450A (zh) * 2023-07-12 2023-09-05 南京亚信软件有限公司 负载均衡方法、装置、电子设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN117061526B (zh) 2023-12-12

Similar Documents

Publication Publication Date Title
US9729557B1 (en) Dynamic throttling systems and services
US9442763B2 (en) Resource allocation method and resource management platform
US9984013B2 (en) Method, controller, and system for service flow control in object-based storage system
US10152353B2 (en) Account activity level based-system resource allocating method and device
US10095993B1 (en) Methods and apparatus for configuring granularity of key performance indicators provided by a monitored component
DE112018003482B4 (de) Serveranfrageverwaltung
CN102307133B (zh) 一种公有云平台虚拟机调度方法
US8972560B2 (en) Shaping virtual machine communication traffic
US8291424B2 (en) Method and system of managing resources for on-demand computing
US8706864B1 (en) Behavior monitoring and compliance for multi-tenant resources
US20030105797A1 (en) Dynamic load balancing among a set of servers
WO2015096408A1 (zh) 用户感知评估方法及系统
CN106302490A (zh) 一种基于Token的Web会话构建和服务调用方法
US10567492B1 (en) Methods for load balancing in a federated identity environment and devices thereof
EP3989495A1 (en) Burst traffic processing method, computer device and readable storage medium
CN107995013B (zh) 客服分配方法及装置
Vashistha et al. Comparative study of load balancing algorithms
CN105357239B (zh) 提供服务的方法和装置、获取服务的方法及装置
US11983568B2 (en) Allocation of heterogeneous computational resource
CN101635719B (zh) 动态调整互联网用户接入优先级的方法和系统
JP2010152818A (ja) サーバシステム
CN117061526B (zh) 一种基于全局与局部业务访问控制的访问高峰防拥塞方法
CN113315825A (zh) 分布式请求的处理方法、装置、设备及存储介质
CN113765969A (zh) 一种流量控制方法和装置
Ziafat et al. Optimal selection of VMs for resource task scheduling in geographically distributed clouds using fuzzy c‐mean and MOLP

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant