CN114647499A - 异步作业任务并发控制方法、装置、电子设备和存储介质 - Google Patents
异步作业任务并发控制方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114647499A CN114647499A CN202210381186.4A CN202210381186A CN114647499A CN 114647499 A CN114647499 A CN 114647499A CN 202210381186 A CN202210381186 A CN 202210381186A CN 114647499 A CN114647499 A CN 114647499A
- Authority
- CN
- China
- Prior art keywords
- concurrency
- job task
- server
- asynchronous job
- total
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供了一种异步作业任务并发控制方法、装置、电子设备、存储介质和和程序产品,可用于金融领域及其他领域,异步作业任务并发控制方法包括:获取服务器资源使用信息和异步作业任务执行情况,异步作业任务执行情况包括第一总并发度;利用预先训练完成的并发度评估模型和服务器资源使用信息生成第二总并发度;根据第二总并发度调整服务器的异步作业任务执行情况。该方法得到的第二总并发度是基于服务器的实时资源使用情况而生成的,因此,通过该方法可以最大限度的利用服务器的资源去解决异步作业任务,有效地提高异步作业任务的执行效率。
Description
技术领域
本公开涉及大数据处理技术领域,尤其涉及一种异步作业任务并发控制方法、装置、电子设备、存储介质和程序产品。
背景技术
在网络监管查控领域,在相关机构的要求下,各协助执行机构每天都存在大量不同业务类型信息的查控义务。目前常用的方法是通过主动读取相关机构指令的模式进行业务办理,通过引入异步处理构件后,可以很方便的对各类交易的并发度进行控制。但是目前常规的并发控制方法是设置一个经验值,并在该经验值下进行控制。这时如果某类业务较少,但是其他业务较多时,并不能充分利用服务器的资源进行业务处理。
发明内容
鉴于上述问题,本公开提供了一种异步作业任务并发控制方法、装置、电子设备、存储介质和程序产品。
根据本公开的第一个方面,提供了一种异步作业任务并发控制方法,该方法包括:
获取服务器资源使用信息和异步作业任务执行情况;
利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度;
根据上述第二总并发度调整上述服务器的异步作业任务执行情况。
在本公开一实施例中,上述异步作业任务执行情况包括第一总并发度和每一个异步作业任务的第一子并发度,上述方法还包括:
利用预设的并发度分配模型,结合上述第一总并发度、上述第一子并发度和上述第二总并发度得到上述每一个异步作业任务的第二子并发度;
根据上述每一个异步作业任务的第二子并发度调整上述服务器的异步作业任务执行情况。
在本公开一实施例中,上述并发度分配模型为:
PJN=PJO*(PN/PO)
其中,PJN表示上述第二子并发度,取整数,PJO表示上述第一子并发度,PO表示上述第一总并发度,PN表示上述第二总并发度。
在本公开一实施例中,上述异步作业任务执行情况还包括待处理队列深度和平均执行时长,上述方法还包括:
结合上述待处理队列深度和平均执行时长优化上述并发度分配模型。
在本公开一实施例中,上述服务器资源使用信息包括:逻辑中央处理器使用信息、内存使用信息和磁盘IO使用信息;
上述逻辑中央处理器使用信息包括:用户使用率、系统使用率、空闲率;
上述内存使用信息包括:当前使用内存、空闲内存、虚拟内存使用率;
上述磁盘IO使用信息包括:磁盘活动百分比、磁盘每秒传输字节数、磁盘每秒磁盘IO请求数。
在本公开一实施例中,上述利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度包括:
将上述服务器资源使用信息输入上述预先训练完成的并发度评估模型得到第二总并发度PN;
PN=(C/X)*WC+(C/X)*(K-M)*WM+(C/X)*(K-O)*WO
其中,PN为上述第二总并发度,取整数,C表示上述服务器的逻辑中央处理器的数量,WC表示上述服务器的逻辑中央处理器的权重,M表示上述服务器的内存使用率,WM表示上述服务器的内存的权重,O表示上述服务器的磁盘IO的繁忙度,WO表示上述服务器的磁盘IO的繁忙度的权重,X和K为常数。
本公开的第二方面提供了一种异步作业任务并发控制装置,该装置包括:
第一获取模块,用于获取服务器资源使用信息和异步作业任务执行情况;
第一生成模块,用于利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度;
第一调整模块,用于根据上述第二总并发度调整上述服务器的异步作业任务执行情况。
本公开的第三方面提供了一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器执行根据执行上述异步作业任务并发控制方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述异步作业任务并发控制方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述异步作业任务并发控制方法。
本公开提供的异步作业任务并发控制方法包括:获取服务器资源使用信息和异步作业任务执行情况;利用预先训练完成的并发度评估模型和服务器资源使用信息生成第二总并发度;根据第二总并发度调整服务器的异步作业任务执行情况。该方法得到的第二总并核发度是基于服务器的实时资源使用情况而生成的,因此,通过该方法可以最大限度的利用服务器的资源去解决异步作业任务,有效地提高异步作业任务的执行效率。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开中的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他附图。
图1示意性示出了根据本公开实施例的一种异步作业任务并发控制方法的应用场景图;
图2示意性示出了本公开一实施例提供的一种异步作业任务并发控制方法的流程示意图;
图3示意性示出了本公开一实施例提供的另一种异步作业任务并发控制方法的流程示意图;
图4示意性示出了本公开一实施例提供的一种异步作业任务并发控制装置的结构框图;
图5示意性示出了本公开一实施例提供的另一种异步作业任务并发控制装置的结构框图;以及
图6示意性示出了根据本公开实施例的适于实现一种异步作业任务并发控制方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
附图中示出了一些方框图和/或流程图。应理解,方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。本公开的技术可以硬件和/或软件(包括固件、微代码等)的形式来实现。另外,本公开的技术可以采取存储有指令的计算机可读介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。在本公开的上下文中,计算机可读介质可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,计算机可读介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。计算机可读介质的具体示例包括:磁存储装置,如磁带或硬盘(HDD);光存储装置,如光盘(CD-ROM);存储器,如随机存取存储器(RAM)或闪存;和/或有线/无线通信链路。
本公开提供了一种异步作业任务并发控制方法,包括:获取服务器资源使用信息和异步作业任务执行情况;利用预先训练完成的并发度评估模型和服务器资源使用信息生成第二总并发度;根据第二总并发度调整服务器的异步作业任务执行情况。该方法得到的第二总并发度是基于服务器的实时资源使用情况而生成的,因此,通过该方法可以最大限度的利用服务器的资源去解决异步作业任务,有效地提高异步作业任务的执行效率。
本公开提供了一种异步作业任务并发控制方法、装置、电子设备、存储介质和程序产品。下面结合附图进行示例性说明。应注意,以下方法中各个操作的序号仅作为该操作的表示以便描述,而不应被看作表示该各个操作的执行顺序。除非明确指出,否则该方法不需要完全按照所示顺序来执行。
需要说明的是,本公开提供的一种异步作业任务并发控制方法、装置、电子设备、存储介质和程序产品可用于金融领域,也可用于除金融领域之外的任意领域,本公开对提供的一种异步作业任务并发控制方法、装置、电子设备、存储介质和程序产品的应用领域不做限定。
图1示意性示出了根据本公开实施例的一种异步作业任务并发控制方法的应用场景图。如图1所示,根据该实施例的应用场景图可以包括终端设备101、102、103,网络104和服务器/服务器集群105。网络104用以在终端设备101、102、103和服务器/服务器集群105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器/服务器集群105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以通过各种客户端应用与服务器/服务器集群105进行交互,以向服务器/服务器集群105发送各种请求或接收服务器/服务器集群105返回的结果。
终端设备101、102、103可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器服务器/服务器集群105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的一种异步作业任务并发控制方法一般可以由服务器/服务器集群105执行。相应地,本公开实施例所提供的一种分布式数据库资源管控装置一般可以设置于服务器/服务器集群105中。本公开实施例所提供的一种异步作业任务并发控制方法也可以由不同于服务器/服务器集群105且能够与终端设备101、102、103和/或服务器/服务器集群105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的一种异步作业任务并发控制装置也可以设置于不同于服务器/服务器集群105且能够与终端设备101、102、103和/或服务器/服务器集群105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器/服务器集群的数目仅仅是示意性的。根据实际需要,可以具有任意数目的终端设备、网络和服务器/服务器集群。
以下将基于图1描述的场景,通过图2~图3对公开实施例的一种异步作业任务并发控制方法进行详细描述。便于本领域技术人员能够更加清楚地了解本公开的技术方案。应当理解,以下说明仅是示例性的,以帮助本领域技术人员理解本公开的方案,并非用以限定本公开的保护范围。
图2示意性示出了本公开一实施例提供的一种异步作业任务并发控制方法的流程示意图。如图2所示,在本公开一实施例中,该方法包括操作S210~操作S230。
在操作S210,获取服务器资源使用信息和异步作业任务执行情况。
实时获取服务器资源使用信息,可以根据服务器资源使用信息的实时情况调整一部作业任务的执行情况,使服务器资源得到最大化利用,在本实施例中,上述服务器资源使用信息可以包括:逻辑中央处理器使用信息、内存使用信息和磁盘IO使用信息。上述逻辑中央处理器使用信息可以包括:用户使用率、系统使用率、空闲率等,上述内存使用信息可以包括:当前使用内存、空闲内存、虚拟内存使用率等,上述磁盘IO使用信息可以包括:磁盘活动百分比、磁盘每秒传输字节数、磁盘每秒磁盘IO请求数等。
在操作S220,利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度。
在本实施例中,将上述服务器资源使用信息输入预先训练完成的并发度评估模型便可得到第二总并发度PN,PN=(C/X)*WC+(C/X)*(K-M)*WM+(C/X)*(K-O)*WO,其中,PN为上述第二总并发度,取整数,C表示上述服务器的逻辑中央处理器的数量,WC表示上述服务器的逻辑中央处理器的权重,M表示上述服务器的内存使用率,WM表示上述服务器的内存的权重,O表示上述服务器的磁盘IO的繁忙度,WO表示上述服务器的磁盘IO的繁忙度的权重。权重根据交易是逻辑中央处理器计算型、大对象操作型、磁盘IO操作型等取经验值(0<=权重<=1),X和K为常数,在本实施例中,X可取经验值2,表示并发数不超过逻辑中央处理器个数的1/2,K取经验值0.8,表示资源使用率基准值不超过80%,比如当K-M<0时,表示此时内存不足,需要降低并发度。
在操作S230,根据上述第二总并发度调整上述服务器的异步作业任务执行情况。
在本实施例中,获取到服务器的实时资源使用信息之后,只需要利用预先训练好的并发度评估模型便可得到新的总并发度,即第二并发度,在得到第二总并发度之后便可根据第二总并发度调整异步作业任务的执行情况,例如,当前并发度为6,服务器当前有充足的可使用资源,此时将获取到的实时的服务器资源使用信息输入并发度评估模型得到第二总并发度8。通过该方法可以最大限度的利用服务器的资源去解决异步作业任务,有效地提高异步作业任务的执行效率。
应当理解,上述实施例中的关于第二总并发度的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。
图3示意性示出了本公开一实施例提供的另一种异步作业任务并发控制方法的流程示意图。
如图3所示,在本公开一实施例中,异步作业任务执行情况包括第一总并发度和每一个异步作业任务的第一子并发度,该方法包括操作S310~操作S340。
在操作S310,获取服务器资源使用信息和异步作业任务执行情况。
在操作S320,利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度。
在操作S330,利用预设的并发度分配模型,结合上述第一总并发度、上述第一子并发度和上述第二总并发度得到上述每一个异步作业任务的第二子并发度。
在本实施例中,总并发度下还存在多个子并发度,除了上述实施例中的根据第二总并发度调整异步作业任务执行情况之外,本公开还提供了另一种异步作业任务执行情况调整方法,即根据第二总并发度得到第二子并发度,根据第二子并发度调整异步作业任务执行情况,具体地,例如,将利用并发度评估模型得到的第二总并发度输入并发度分配模型,便可得到第二子并发度,上述并发度分配模型为:
PJN=PJO*(PN/PO);
其中,PJN表示上述第二子并发度,取整数,PJO表示上述第一子并发度,PO表示上述第一总并发度,PN表示上述第二总并发度。
在操作S340,根据上述每一个异步作业任务的第二子并发度调整上述服务器的异步作业任务执行情况。
在本实施例中,得到每一个异步作业任务的第二子并发度之后,便可根据第二子并发度调整异步作业任务执行情况,例如,当前总并发度(即第一总并发度)为6,表示同时有6个通道在作业,而第一子并发度为8,即每个通道有8个任务待处理,利用并发度评估模型得到第二总并发度为8,则可知第二子并发度为6。该方法在总并发度的基础上还设置了子并发度,通过该方法可以更细化的去利用服务器的资源去解决异步作业任务,进一步地提高异步作业任务的执行效率。
应当理解,上述实施例中的关于第一总并发度、第一子并发度、第二总并发度和第二子并发度的举例是示例性的,以帮助本领域技术人员理解本公开的技术方案,并非用以限制本公开的保护范围。
在本公开一实施例中,上述异步作业任务执行情况还包括待处理队列深度和平均执行时长,上述方法还包括:结合上述待处理队列深度和平均执行时长优化上述并发度分配模型。
在本实施例中,待处理队列深度和平均执行时长之间满足下列关系式:
TJ=QJ*TAVG
其中,TJ表示作业J的执行时长,QJ表示待处理队列深度,TAVG表示平均执行时长。采用下列公式对并发度分配模型进行优化,具体的公式为:
其中,TJN表示作业J的预计执行时长,TJO表示上一次执行作业J时的执行时长(若作业J为第一次执行,则TJO=TJN),S表示步长(默认为1),当作业J的预计执行时长TJN的增长率超过R时(R为常数),将作业J的并发度增加1个步长,在本实施例中,R为30%。
通过结合当前各异步处理作业的队列深度、平均耗时等,进一步优化并发度分配模型,可以更加精准的实现并发调整的策略,提升整体处理性能。基于上述一种异步作业任务并发控制方法,本公开还提供了一种异步作业任务并发控制装置。以下将结合图4和图5对该装置进行详细描述。
图4示意性示出了本公开一实施例提供的一种异步作业任务并发控制装置的结构框图。
如图4所示,在本公开一实施例中,该装置400包括:第一获取模块410、第一生成模块420和第一调整模块430。
第一获取模块410,用于获取服务器资源使用信息和异步作业任务执行情况。在一实施例中,第一获取模块410可以用于执行前文描述的操作S210,在此不再赘述。
第一生成模块420,用于利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度。在一实施例中,第一生成模块420可以用于执行前文描述的操作S220,在此不再赘述。
第一调整模块430,用于根据上述第二总并发度调整上述服务器的异步作业任务执行情况。在一实施例中,第一调整模块430可以用于执行前文描述的操作S230,在此不再赘述。
图5示意性示出了本公开一实施例提供的另一种异步作业任务并发控制装置的结构框图。
如图5所示,在本实施例中,该装置500包括:第二获取模块510、第二生成模块520、第三生成模块530和第二调整模块540。
第二获取模块510,用于获取服务器资源使用信息和异步作业任务执行情况。在一实施例中,第二获取模块510可以用于执行前文描述的操作S310,在此不再赘述。
第二生成模块520,用于利用预先训练完成的并发度评估模型和上述服务器资源使用信息生成第二总并发度。在一实施例中,第二生成模块520可以用于执行前文描述的操作S320,在此不再赘述。
第三生成模块530,用于利用预设的并发度分配模型,结合上述第一总并发度、上述第一子并发度和上述第二总并发度得到上述每一个异步作业任务的第二子并发度。在一实施例中,第二生成模块520可以用于执行前文描述的操作S330,在此不再赘述。
第二调整模块540,用于根据上述每一个异步作业任务的第二子并发度调整上述服务器的异步作业任务执行情况。在一实施例中,第二调整模块530可以用于执行前文描述的操作S340,在此不再赘述。
需要说明的是,装置部分实施例中各模块/单元/子单元等的实施方式、解决的技术问题、实现的功能、以及达到的技术效果分别与方法部分实施例中各对应的步骤的实施方式、解决的技术问题、实现的功能、以及达到的技术效果相同或类似,在此不再赘述。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,第一获取模块410、第一生成模块420和第一调整模块430中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,第一获取模块410、第一生成模块420和第一调整模块430中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一获取模块410、第一生成模块420和第一调整模块430中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图6示意性示出了根据本公开实施例的适于实现一种异步作业任务并发控制方法的电子设备的方框图。
如图6所示,根据本公开实施例的电子设备600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有电子设备600操作所需的各种程序和数据。处理器601、ROM602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。电子设备600还可以包括连接至I/O接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分606。通信部分606经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
本公开还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序包含如上文所述的一种异步作业任务并发控制方法。该计算机可读存储介质可以是上述实施例中描述的装置/设备中所包含的;也可以是单独存在,而未装配入该装置/设备中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的一种异步作业任务并发控制方法。
在该计算机程序被处理器601执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分609被下载和安装,和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管已经参照本公开的特定示例性实施例示出并描述了本公开,但是本领域技术人员应该理解,在不背离所附权利要求及其等同物限定的本公开的精神和范围的情况下,可以对本公开进行形式和细节上的多种改变。因此,本公开的范围不应该限于上述实施例,而是应该不仅由所附权利要求来进行确定,还由所附权利要求的等同物来进行限定。
Claims (10)
1.一种异步作业任务并发控制方法,其特征在于,包括:
获取服务器资源使用信息和异步作业任务执行情况;
利用预先训练完成的并发度评估模型和所述服务器资源使用信息生成第二总并发度;
根据所述第二总并发度调整所述服务器的异步作业任务执行情况。
2.根据权利要求1所述的异步作业任务并发控制方法,其特征在于,所述异步作业任务执行情况包括第一总并发度和每一个异步作业任务的第一子并发度,所述方法还包括:
利用预设的并发度分配模型,结合所述第一总并发度、所述第一子并发度和所述第二总并发度得到所述每一个异步作业任务的第二子并发度;
根据所述每一个异步作业任务的第二子并发度调整所述服务器的异步作业任务执行情况。
3.根据权利要求2所述的异步作业任务并发控制方法,其特征在于,所述并发度分配模型为:
PJN=PJO*(PN/PO)
其中,PJN表示所述第二子并发度,取整数,PJO表示所述第一子并发度,PO表示所述第一总并发度,PN表示所述第二总并发度。
4.根据权利要求3所述的异步作业任务并发控制方法,其特征在于,所述异步作业任务执行情况还包括待处理队列深度和平均执行时长,所述方法还包括:
结合所述待处理队列深度和所述平均执行时长优化所述并发度分配模型。
5.根据权利要求1所述的异步作业任务并发控制方法,其特征在于,所述服务器资源使用信息包括:逻辑中央处理器使用信息、内存使用信息和磁盘IO的使用信息;
所述逻辑中央处理器使用信息包括:用户使用率、系统使用率、空闲率;
所述内存使用信息包括:当前使用内存、空闲内存、虚拟内存使用率;
所述磁盘IO使用信息包括:磁盘活动百分比、磁盘每秒传输字节数、磁盘每秒磁盘IO请求数。
6.根据权利要求1所述的异步作业任务并发控制方法,其特征在于,所述利用预先训练完成的并发度评估模型和所述服务器资源使用信息生成第二总并发度包括:
将所述服务器资源使用信息输入所述预先训练完成的并发度评估模型得到第二总并发度PN;
PN=(C/X)*WC+(C/X)*(K-M)*WM+(C/X)*(K-O)*WO
其中,PN为所述第二总并发度,取整数,C表示所述服务器的逻辑中央处理器的数量,WC表示所述服务器的逻辑中央处理器的权重,M表示所述服务器的内存使用率,WM表示所述服务器的内存的权重,O表示所述服务器的磁盘IO的繁忙度,WO表示所述服务器的磁盘IO的繁忙度的权重,X和K为常数。
7.一种异步作业任务并发控制装置,其特征在于,包括:
第一获取模块,用于获取服务器资源使用信息和异步作业任务执行情况;
第一生成模块,用于利用预先训练完成的并发度评估模型和所述服务器资源使用信息生成第二总并发度;
第一调整模块,用于根据所述第二总并发度调整所述服务器的异步作业任务执行情况。
8.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储器,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据执行如权利要求1~6中任一项所述的异步作业任务并发控制方法。
9.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的异步作业任务并发控制方法。
10.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~6中任一项所述的异步作业任务并发控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210381186.4A CN114647499A (zh) | 2022-04-08 | 2022-04-08 | 异步作业任务并发控制方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210381186.4A CN114647499A (zh) | 2022-04-08 | 2022-04-08 | 异步作业任务并发控制方法、装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114647499A true CN114647499A (zh) | 2022-06-21 |
Family
ID=81997025
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210381186.4A Pending CN114647499A (zh) | 2022-04-08 | 2022-04-08 | 异步作业任务并发控制方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114647499A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117221331A (zh) * | 2023-11-08 | 2023-12-12 | 成都新希望金融信息有限公司 | 一种多通道分组并发配置方法 |
-
2022
- 2022-04-08 CN CN202210381186.4A patent/CN114647499A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117221331A (zh) * | 2023-11-08 | 2023-12-12 | 成都新希望金融信息有限公司 | 一种多通道分组并发配置方法 |
CN117221331B (zh) * | 2023-11-08 | 2024-01-19 | 成都新希望金融信息有限公司 | 一种多通道分组并发配置方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110198244B (zh) | 面向异构云服务的资源配置方法和装置 | |
CN109697055B (zh) | 生成移动App页面的方法及系统 | |
CN113765820A (zh) | 基于令牌桶的限流方法、装置、计算设备及介质 | |
CN107800779B (zh) | 优化负载均衡的方法及系统 | |
CN115170321A (zh) | 批量交易数据的处理方法和装置 | |
CN113076224B (zh) | 数据备份方法、数据备份系统、电子设备及可读存储介质 | |
CN114647499A (zh) | 异步作业任务并发控制方法、装置、电子设备和存储介质 | |
CN113132400B (zh) | 业务处理方法、装置、计算机系统及存储介质 | |
CN113535726A (zh) | 数据库扩容方法及装置 | |
CN114553614B (zh) | 带宽成本估算方法、装置、设备、介质和程序产品 | |
CN112182400B (zh) | 消息处理方法、消息处理装置、电子设备及存储介质 | |
CN114265692A (zh) | 服务调度方法、装置、设备以及存储介质 | |
CN114090247A (zh) | 用于处理数据的方法、装置、设备以及存储介质 | |
CN112632074A (zh) | 用于数据库的库存分配方法、装置、电子设备和介质 | |
CN115250276A (zh) | 分布式系统及数据处理的方法和装置 | |
CN113096295A (zh) | 排号方法、排号装置、电子设备及计算机可读存储介质 | |
CN112328391A (zh) | 资源分摊方法、装置及电子设备 | |
CN111580882A (zh) | 应用程序启动方法、装置、计算机系统和介质 | |
CN114268558B (zh) | 监控图的生成方法、装置、设备、介质 | |
CN115312208B (zh) | 接诊数据展示方法、装置、设备、介质 | |
CN110572331B (zh) | 消息处理方法及其系统 | |
CN117909077A (zh) | 资源分配方法、装置、设备及存储介质 | |
CN117170805A (zh) | 批量作业的处理方法、装置、电子设备和存储介质 | |
CN116737341A (zh) | 任务处理方法、装置、设备及存储介质 | |
CN116680081A (zh) | 任务处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |