CN106656845A - 一种采用异步事件驱动实现web服务器负载均衡的方法 - Google Patents

一种采用异步事件驱动实现web服务器负载均衡的方法 Download PDF

Info

Publication number
CN106656845A
CN106656845A CN201611189166.8A CN201611189166A CN106656845A CN 106656845 A CN106656845 A CN 106656845A CN 201611189166 A CN201611189166 A CN 201611189166A CN 106656845 A CN106656845 A CN 106656845A
Authority
CN
China
Prior art keywords
resource
server
queue
web server
access
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611189166.8A
Other languages
English (en)
Inventor
宋健健
戴鸿君
于治楼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jinan Inspur Hi Tech Investment and Development Co Ltd
Original Assignee
Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jinan Inspur Hi Tech Investment and Development Co Ltd filed Critical Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority to CN201611189166.8A priority Critical patent/CN106656845A/zh
Publication of CN106656845A publication Critical patent/CN106656845A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/50—Queue scheduling
    • H04L47/62—Queue scheduling characterised by scheduling criteria
    • H04L47/622—Queue service order
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明涉及计算机WEB服务器技术领域，特别涉及一种采用异步事件驱动实现WEB服务器负载均衡的方法。本发明在网络拥塞的情况下，将客户端对服务器的访问依据其所请求服务器资源的不同进行分类，同时，将服务器的所有资源进行整合、分类、标记，同一种类型的资源形成一个资源队列。本发明的一种采用异步事件驱动实现WEB服务器负载均衡的方法，其能够提高资源队列的访问效率，从而降低HTTP请求的等待成本，实现Web服务器的负载均衡。

Description

一种采用异步事件驱动实现WEB服务器负载均衡的方法
技术领域
本发明涉及计算机WEB服务器技术领域，特别涉及一种采用异步事件驱动实现WEB服务器负载均衡的方法。
背景技术
服务器负载均衡是通过一定的资源调度算法，将外部传来的请求均匀分布到相应的处理模块，解决大量用户的并发访问服务，实现事件的并行处理。负载均衡具有两方面的含义：一是将大量的并发访问分担到多个节点进行处理，减少等待时间；二是将重负载、高频访问的时间进行节点的分担操作。
采用异步事件驱动模型可以同时执行多个任务，不必等待某一项任务完成，例如IO操作。采用异步方式有利于减少整体任务的执行时间，提高资源的利用率。
Web访问中的异步事件驱动模型，如图1所示。
现有技术下，大量的用户访问会导致服务器负载不均衡，在网络拥塞的情况下，资源队列的访问效率还是比较低，从而增加了HTTP请求的等待成本。
发明内容
为了解决现有技术的问题，本发明提供了一种采用异步事件驱动实现WEB服务器负载均衡的方法，其能够提高资源队列的访问效率，从而降低HTTP请求的等待成本，实现Web服务器的负载均衡。
本发明所采用的技术方案如下：
一种采用异步事件驱动实现WEB服务器负载均衡的方法，包括以下步骤：
A、将客户端对服务器的访问依据其所请求服务器资源的不同进行分类，同时，将服务器的所有资源进行整合、分类、标记，同一种类型的资源形成一个资源队列；
B、当客户端对服务器进行资源请求时，服务器响应资源请求事件，根据资源请求的类型进行搜索资源，查找对应的资源队列；
如果当前队列中的没有空闲资源，服务器同时进行其他资源队列的资源响应，并将已经获得的资源返回给客户端。
步骤B中，同时记录服务器经常被访问的资源队列，标记该队列为高频访问队列，并形成高优先级队列的访问副本。
本发明提供的技术方案带来的有益效果是：
服务器负载的均衡是建立在网络结构之上的一种调度策略，能够有效的扩展服务器的带宽和增加吞吐量，增强服务器的网络数据处理能力。本发明在网络拥塞的情况下，将客户端对服务器的访问依据其所请求服务器资源的不同进行分类，同时，将服务器的所有资源进行整合、分类、标记，同一种类型的资源形成一个资源队列。当客户端对服务器进行资源请求时，服务器响应资源请求事件，根据资源请求的类型进行搜索资源，查找对应的资源队列，如果当前队列中的没有空闲资源，服务器不会一直等待该资源的队列响应，而是同时进行其他资源队列的资源响应，并将已经获得的资源返回给客户端。在这一过程中记录服务器经常被访问的资源队列，标记该队列为高频访问队列，并形成高优先级队列的访问副本，提高该队列的资源访问效率，从而降低HTTP请求的等待成本，实现Web服务器的负载均衡。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为现有技术下的Web访问中的异步事件驱动模型；
图2为本发明的一种采用异步事件驱动实现WEB服务器负载均衡的方法的方法原理图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。
实施例一
大量的用户访问会导致服务器负载不均衡，要解决大量的并行访问问题，本实施例在服务器中，首先将服务器资源进行归类、整合、标记，将相同类型的资源划分到同一个资源队列中，给每一个资源队列进行标记，例如，资源队列A类。当大量用户进行并行访问服务器资源的时候，服务器依据资源类型进行划分访问，分担到不同的资源队列中，访问该资源列表的同类资源。服务器不需要等待该资源队列的响应才进行下一资源的访问，可以同时进行多个资源队列的同时访问，各资源队列分别对服务器进行响应，减少资源请求的等待时间。
在访问资源的同时，服务器记录下资源的访问频率，并随着资源访问次数的增加，逐步提高该资源队列的优先级，同时，将经常访问的资源定义为高频访问资源，由于对高频资源的访问是网络拥塞的主要原因，服务器生成高频资源的副本，通过副本分担资源的访问率，减轻该资源的负载，实现服务器的负载均衡。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种采用异步事件驱动实现WEB服务器负载均衡的方法，包括以下步骤：
A、将客户端对服务器的访问依据其所请求服务器资源的不同进行分类，同时，将服务器的所有资源进行整合、分类、标记，同一种类型的资源形成一个资源队列；
B、当客户端对服务器进行资源请求时，服务器响应资源请求事件，根据资源请求的类型进行搜索资源，查找对应的资源队列；
如果当前队列中的没有空闲资源，服务器同时进行其他资源队列的资源响应，并将已经获得的资源返回给客户端。
2.根据权利要求1所述的一种采用异步事件驱动实现WEB服务器负载均衡的方法，其特征在，所述的步骤B中，同时记录服务器经常被访问的资源队列，标记该队列为高频访问队列，并形成高优先级队列的访问副本。
CN201611189166.8A 2016-12-21 2016-12-21 一种采用异步事件驱动实现web服务器负载均衡的方法 Pending CN106656845A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611189166.8A CN106656845A (zh) 2016-12-21 2016-12-21 一种采用异步事件驱动实现web服务器负载均衡的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611189166.8A CN106656845A (zh) 2016-12-21 2016-12-21 一种采用异步事件驱动实现web服务器负载均衡的方法

Publications (1)

Publication Number Publication Date
CN106656845A true CN106656845A (zh) 2017-05-10

Family

ID=58833345

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611189166.8A Pending CN106656845A (zh) 2016-12-21 2016-12-21 一种采用异步事件驱动实现web服务器负载均衡的方法

Country Status (1)

Country Link
CN (1) CN106656845A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10915268B2 (en) 2017-12-22 2021-02-09 International Business Machines Corporation Event based runtime scheduling

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1249647A (zh) * 1998-09-16 2000-04-05 电话通有限公司 在网络不可用期间具有改善操作的无线移动设备
CN102790715A (zh) * 2011-05-23 2012-11-21 同济大学 一种基于互联网的资源分配系统及方法
CN103200208A (zh) * 2012-01-06 2013-07-10 湖南智源信息网络技术开发有限公司 一种基于频率的分发数据请求方法及装置
CN105306277A (zh) * 2015-11-19 2016-02-03 中国建设银行股份有限公司 消息队列的消息调度方法及消息调度装置
US20160127208A1 (en) * 2010-04-06 2016-05-05 Paypal, Inc. Method and system for synchronous and asynchronous monitoring

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1249647A (zh) * 1998-09-16 2000-04-05 电话通有限公司 在网络不可用期间具有改善操作的无线移动设备
US20160127208A1 (en) * 2010-04-06 2016-05-05 Paypal, Inc. Method and system for synchronous and asynchronous monitoring
CN102790715A (zh) * 2011-05-23 2012-11-21 同济大学 一种基于互联网的资源分配系统及方法
CN103200208A (zh) * 2012-01-06 2013-07-10 湖南智源信息网络技术开发有限公司 一种基于频率的分发数据请求方法及装置
CN105306277A (zh) * 2015-11-19 2016-02-03 中国建设银行股份有限公司 消息队列的消息调度方法及消息调度装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10915268B2 (en) 2017-12-22 2021-02-09 International Business Machines Corporation Event based runtime scheduling

Similar Documents

Publication Publication Date Title
US10574545B2 (en) Techniques for analytics-driven hybrid concurrency control in clouds
US10127086B2 (en) Dynamic management of data stream processing
CN115210693A (zh) 具有可预测时延的存储事务
JP6290462B2 (ja) ネットワーク・アクセス可能なブロック・ストレージのための協調アドミッション制御
US8462632B1 (en) Network traffic control
US20170068574A1 (en) Multiple pools in a multi-core system
CN106170016A (zh) 一种处理高并发数据请求的方法和系统
CN103338252B (zh) 一种分布式数据库并发存储虚拟请求机制的实现方法
US8626955B2 (en) Directing packets to a processor unit
Ullah et al. Task classification and scheduling based on K-means clustering for edge computing
US9110695B1 (en) Request queues for interactive clients in a shared file system of a parallel computing system
US8266630B2 (en) High-performance XML processing in a common event infrastructure
CN102394929A (zh) 一种面向会话的云计算负载均衡系统及其方法
WO2020019743A1 (zh) 流量控制方法及装置
CN107977271B (zh) 一种数据中心综合管理系统负载均衡方法
Tseng et al. Service-oriented virtual machine placement optimization for green data center
CN107070709B (zh) 一种基于底层numa感知的nfv实现方法
US20180097748A1 (en) Partitioned Topic Based Queue with Automatic Processing Scaling
CN108512782A (zh) 访问控制列表分组调整方法、网络设备和系统
Komarasamy et al. A novel approach for Dynamic Load Balancing with effective Bin Packing and VM Reconfiguration in cloud
Blanas et al. Topology-aware parallel data processing: Models, algorithms and systems at scale
Durga et al. Context-aware adaptive resource provisioning for mobile clients in intra-cloud environment
Shah et al. Saksham: resource aware block rearrangement algorithm for load balancing in hadoop
CN106656845A (zh) 一种采用异步事件驱动实现web服务器负载均衡的方法
US11888938B2 (en) Systems and methods for optimizing distributed computing systems including server architectures and client drivers

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170510