CN107247626A - 一种适用于高并发业务模块调度的方法 - Google Patents

一种适用于高并发业务模块调度的方法 Download PDF

Info

Publication number
CN107247626A
CN107247626A CN201710454404.1A CN201710454404A CN107247626A CN 107247626 A CN107247626 A CN 107247626A CN 201710454404 A CN201710454404 A CN 201710454404A CN 107247626 A CN107247626 A CN 107247626A
Authority
CN
China
Prior art keywords
business
module
business module
processing
high concurrent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710454404.1A
Other languages
English (en)
Inventor
王伟帅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Pioneer Cloud Software Co Ltd
Original Assignee
Shandong Pioneer Cloud Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Pioneer Cloud Software Co Ltd filed Critical Shandong Pioneer Cloud Software Co Ltd
Priority to CN201710454404.1A priority Critical patent/CN107247626A/zh
Publication of CN107247626A publication Critical patent/CN107247626A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5044—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种适用于高并发业务模块调度的方法，步骤包括：(1)将业务模块进行划分，分为多个业务模块，将各个业务模块分别部署于独立的服务器中；(2)分配模块将高并发业务随机分配至不同的业务模块；(3)评估模块对各个业务模块的业务数据处理情况进行记录，业务模块处理的并发业务数计为A，业务模块处理的平均响应时间值计为T，从而得到QPS为并发业务数/平均响应时间值，即对于第一业务模块：QPS1＝A1/T1，对于第二业务模块：QPS2＝A2/T2，对于第n业务模块：QPSn＝An/Tn。本发明采用上述方法，对于高并发数据的处理快速稳定，能够合理分配各个业务的处理路径，保证了系统的正常运行，避免了系统出现停滞的情况，提高了工作效率。

Description

一种适用于高并发业务模块调度的方法
技术领域：
本发明涉及一种适用于高并发业务模块调度的方法。
背景技术：
目前，在互联网迅猛发展的时代，高并发业务的场景不断增加，高并发数据的处理及存储已成为经常出现的场景，大量访问请求出现的情况下数据具有并发性高的特点。系统的吞吐量通常由QPS和并发数两个因素决定，每套系统的这两个值都有一个相对极限值，只要某一项达到系统最高值，系统的吞吐量就上不去了，如果压力继续增大，系统的吞吐量反而会下降，原因是系统超负荷工作，上下文切换、内存等等其它消耗也会导致系统性能下降，从而影响系统的正常运行，甚至造成系统崩溃停止运行，给采用该系统所进行的工作带来较大的影响。
发明内容：
本发明提供了一种适用于高并发业务模块调度的方法，其设计合理，对于高并发数据的处理快速稳定，能够合理分配各个业务的处理路径，保证了系统的正常运行，避免了系统出现停滞的情况，提高了工作效率，解决了现有技术中存在的问题。
本发明为解决上述技术问题所采用的技术方案是：
一种适用于高并发业务模块调度的方法，步骤包括：
(1)将业务模块进行划分，分为多个业务模块，将各个业务模块分别部署于独立的服务器中；
(2)分配模块将高并发业务随机分配至不同的业务模块；
(3)评估模块对各个业务模块的业务数据处理情况进行记录，业务模块处理的并发业务数计为A，业务模块处理的平均响应时间值计为T，从而得到QPS为并发业务数/平均响应时间值，即对于第一业务模块：QPS1＝A1/T1，对于第二业务模块：QPS2＝A2/T2，对于第n业务模块：QPSn＝An/Tn；
(4)评估模块对各个业务模块的业务数据处理情况进行评估，各个业务模块处理业务能力比为QPS1:QPS2：QPS3：QPSn；
(5)评估模块将各个业务模块的处理业务能力比反馈给分配模块，分配模块按照各个业务模块的处理业务能力比将总业务分配给各个业务模块。
在步骤(5)中，评估模块对各个业务模块的业务处理情况进行跟踪监测，当其中有业务模块的QPS小于阈值N时，评估模块判断该模块当前处理的业务量超出其处理能力范围，重新重复步骤(3)～(5)。
本发明采用上述方法，对于高并发数据的处理快速稳定，能够合理分配各个业务的处理路径，保证了系统的正常运行，避免了系统出现停滞的情况，提高了工作效率。
附图说明：
图1为本发明的方法流程框图。
具体实施方式：
为能清楚说明本方案的技术特点，下面通过具体实施方式，并结合其附图，对本发明进行详细阐述。
如图1中所示，一种适用于高并发业务模块调度的方法，步骤包括：
(1)将业务模块进行划分，分为多个业务模块，将各个业务模块分别部署于独立的服务器中；
(2)分配模块将高并发业务随机分配至不同的业务模块；
(3)评估模块对各个业务模块的业务数据处理情况进行记录，业务模块处理的并发业务数计为A，业务模块处理的平均响应时间值计为T，从而得到QPS为并发业务数/平均响应时间值，即对于第一业务模块：QPS1＝A1/T1，对于第二业务模块：QPS2＝A2/T2，对于第n业务模块：QPSn＝An/Tn；
(4)评估模块对各个业务模块的业务数据处理情况进行评估，各个业务模块处理业务能力比为QPS1:QPS2：QPS3：QPSn；
(5)评估模块将各个业务模块的处理业务能力比反馈给分配模块，分配模块按照各个业务模块的处理业务能力比将总业务分配给各个业务模块。
在高并发业务的处理中，将传统的单个业务模块进行处理分为多个业务模块同时进行处理，并根据不同业务模块处理能力对业务量进行分配，以适应各个业务处理模块的情况。
在步骤(5)中，评估模块对各个业务模块的业务处理情况进行跟踪监测，当其中有业务模块的QPS小于阈值N时，评估模块判断该模块当前处理的业务量超出其处理能力范围，重新重复步骤(3)～(5)。
当某一个业务模块在处理业务的过程中出现意外，影响该业务模块处理业务的速度时，该业务模块的A值会变小，同时T值会变大，此时QPS会减小，当该业务模块的QPS降低至预先设置的阈值N时，说明当前该业务模块无法应付其受到的业务量，需要对该业务模块进行减负操作，此时，触发评估模块的重新评估流程，实现对各个业务模块业务量的重新划分。从而使得系统能够始终保持较高的业务处理能力。
本发明采用适用于高并发业务模块调度的方法，对于高并发数据的处理快速稳定，能够合理分配各个业务的处理路径，保证了系统的正常运行，避免了系统出现停滞的情况，提高了工作效率。
上述具体实施方式不能作为对本发明保护范围的限制，对于本技术领域的技术人员来说，对本发明实施方式所做出的任何替代改进或变换均落在本发明的保护范围内。
本发明未详述之处，均为本技术领域技术人员的公知技术。

Claims (2)

1.一种适用于高并发业务模块调度的方法，其特征在于：步骤包括：
(1)将业务模块进行划分，分为多个业务模块，将各个业务模块分别部署于独立的服务器中；
(2)分配模块将高并发业务随机分配至不同的业务模块；
(3)评估模块对各个业务模块的业务数据处理情况进行记录，业务模块处理的并发业务数计为A，业务模块处理的平均响应时间值计为T，从而得到QPS为并发业务数/平均响应时间值，即对于第一业务模块：QPS1＝A1/T1，对于第二业务模块：QPS2＝A2/T2，对于第n业务模块：QPSn＝An/Tn；
(4)评估模块对各个业务模块的业务数据处理情况进行评估，各个业务模块处理业务能力比为QPS1:QPS2：QPS3：QPSn；
(5)评估模块将各个业务模块的处理业务能力比反馈给分配模块，分配模块按照各个业务模块的处理业务能力比将总业务分配给各个业务模块。
2.根据权利要求1所述的一种适用于高并发业务模块调度的方法，其特征在于：在步骤(5)中，评估模块对各个业务模块的业务处理情况进行跟踪监测，当其中有业务模块的QPS小于阈值N时，评估模块判断该模块当前处理的业务量超出其处理能力范围，重新重复步骤(3)～(5)。
CN201710454404.1A 2017-06-14 2017-06-14 一种适用于高并发业务模块调度的方法 Pending CN107247626A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710454404.1A CN107247626A (zh) 2017-06-14 2017-06-14 一种适用于高并发业务模块调度的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710454404.1A CN107247626A (zh) 2017-06-14 2017-06-14 一种适用于高并发业务模块调度的方法

Publications (1)

Publication Number Publication Date
CN107247626A true CN107247626A (zh) 2017-10-13

Family

ID=60018468

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710454404.1A Pending CN107247626A (zh) 2017-06-14 2017-06-14 一种适用于高并发业务模块调度的方法

Country Status (1)

Country Link
CN (1) CN107247626A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107885647A (zh) * 2017-12-12 2018-04-06 杭州时趣信息技术有限公司 一种检测单机能力的方法、系统和计算机可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104216765A (zh) * 2014-08-15 2014-12-17 东软集团股份有限公司 一种多线程并发处理业务的方法和系统
US8954997B2 (en) * 2010-04-23 2015-02-10 International Business Machines Corporation Resource affinity via dynamic reconfiguration for multi-queue network adapters
US20160196153A1 (en) * 2004-12-13 2016-07-07 Intel Corporation Method, System, and Apparatus for Dynamic Reconfiguration of Resources
CN106301864A (zh) * 2015-06-11 2017-01-04 腾讯科技（深圳）有限公司 一种服务器系统扩容方法、装置及扩容处理设备
CN106470163A (zh) * 2015-08-17 2017-03-01 腾讯科技（北京）有限公司 一种信息处理方法、装置和系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160196153A1 (en) * 2004-12-13 2016-07-07 Intel Corporation Method, System, and Apparatus for Dynamic Reconfiguration of Resources
US8954997B2 (en) * 2010-04-23 2015-02-10 International Business Machines Corporation Resource affinity via dynamic reconfiguration for multi-queue network adapters
CN104216765A (zh) * 2014-08-15 2014-12-17 东软集团股份有限公司 一种多线程并发处理业务的方法和系统
CN106301864A (zh) * 2015-06-11 2017-01-04 腾讯科技（深圳）有限公司 一种服务器系统扩容方法、装置及扩容处理设备
CN106470163A (zh) * 2015-08-17 2017-03-01 腾讯科技（北京）有限公司 一种信息处理方法、装置和系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107885647A (zh) * 2017-12-12 2018-04-06 杭州时趣信息技术有限公司 一种检测单机能力的方法、系统和计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN105718317A (zh) 一种任务调度方法及装置
US10346043B2 (en) Adaptive computing for data compression
CN108932163A (zh) 内存管理方法、装置、可读存储介质及终端
US10884667B2 (en) Storage controller and IO request processing method
CN111190745A (zh) 一种数据处理方法、装置及计算机可读存储介质
WO2016184048A1 (zh) 多核处理器cpu的频率管理方法及装置
CN107729137A (zh) 服务器、区块链验签解密的方法及存储介质
CN106055070B (zh) 终端功耗控制方法及装置
CN105430103A (zh) 一种基于多控存储的动态负载均衡系统
CN103782270A (zh) 流处理系统的管理方法和相关设备及系统
CN106131227A (zh) 负载平衡方法、元数据服务器系统及负载平衡系统
CN102685219B (zh) San存储系统中通过动态扩容提高存储资源利用率的方法
CN111222696A (zh) 电压暂降治理优化方法、装置、计算机设备和存储介质
CN107247626A (zh) 一种适用于高并发业务模块调度的方法
CN114448989B (zh) 调整消息分发的方法、装置、电子设备、存储介质及产品
CN106603256A (zh) 一种流量控制方法及装置
CN106528582B (zh) 数据库的备份方法和装置
CN103823712A (zh) 一种多cpu虚拟机系统的数据流处理方法和装置
CN104978235A (zh) 一种基于使用频率预测的负载均衡方法
Hong Sharp zero-queueing bounds for multi-server jobs
CN101776946B (zh) 一种基于对象存储系统的功耗控制方法
WO2018188405A1 (zh) 云应用资源的配置方法及装置
CN110049350A (zh) 视频转码处理方法、装置、计算机设备和存储介质
CN103747043A (zh) 一种cdn服务器调度方法、cdn控制中心及系统
CN111464456B (zh) 一种流量控制方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20171013

RJ01 Rejection of invention patent application after publication