CN117093232A - 任务部署的优化方法、装置、电子设备及存储介质 - Google Patents
任务部署的优化方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN117093232A CN117093232A CN202311114938.1A CN202311114938A CN117093232A CN 117093232 A CN117093232 A CN 117093232A CN 202311114938 A CN202311114938 A CN 202311114938A CN 117093232 A CN117093232 A CN 117093232A
- Authority
- CN
- China
- Prior art keywords
- task
- core
- combination
- deployment
- adjustment request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000005457 optimization Methods 0.000 title claims abstract description 61
- 238000013508 migration Methods 0.000 claims description 28
- 230000005012 migration Effects 0.000 claims description 28
- 230000004044 response Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 10
- 230000009286 beneficial effect Effects 0.000 abstract 1
- 238000013139 quantization Methods 0.000 abstract 1
- 238000004891 communication Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 12
- 238000013473 artificial intelligence Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000003058 natural language processing Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本公开提供了一种任务部署的优化方法、装置、电子设备及存储介质,涉及计算机技术领域。具体实施方案为:从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;根据统计信息获取任务调整请求,并基于任务调整请求对核心的第一任务组合进行优化,得到核心的第二任务组合;重新采集第二任务组合的统计信息及后续操作,以得到AMP系统负载均衡最优时的目标任务部署模式,其中目标任务部署模式包括每个核心最终的目标任务组合。由此,本方案可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能,提升AMP系统的容错空间。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种任务部署的优化方法、装置、电子设备及存储介质。
背景技术
当在一个核上新增一项任务时,会改变该核上的负载以及任务调度,同时影响其他任务的运行。目前仍需要对已测试过的任务部署模式进行测试覆盖,来确定任务运行时的性能,而且每调整一次任务部署模式都需要进行测试覆盖,开发效率不高,且很难找到最优解。
发明内容
本公开提供了一种用于任务部署的优化方法、装置、电子设备及存储介质。
根据本公开的一方面,提供了一种任务部署的优化方法,包括:从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集所述核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;根据所述统计信息获取任务调整请求,并基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合;重新采集所述第二任务组合的统计信息及后续操作,以得到所述AMP系统负载均衡最优时的目标任务部署模式,其中所述目标任务部署模式包括每个所述核心最终的目标任务组合。
根据本公开的另一方面,提供了一种任务部署的优化装置,包括:采集模块,用于从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集所述核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;优化模块,用于根据所述统计信息获取任务调整请求,并基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合;确定模块,用于重新采集所述第二任务组合的统计信息及后续操作,以得到所述AMP系统负载均衡最优时的目标任务部署模式,其中所述目标任务部署模式包括每个所述核心最终的目标任务组合。
根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述一方面实施例所述的任务部署的优化方法。
根据本公开另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其上存储有计算机程序/指令,所述计算机指令用于使所述计算机执行上述一方面实施例所述的任务部署的优化方法。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,所述计算机程序/指令被处理器执行时实现上述一方面实施例所述的任务部署的优化方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开实施例提供的一种任务部署的优化方法的流程示意图;
图2为本公开实施例提供的另一种任务部署的优化方法的流程示意图;
图3为本公开实施例提供的另一种任务部署的优化方法的流程示意图;
图4为本公开实施例提供的另一种任务部署的优化方法的流程示意图;
图5为本公开实施例提供的另一种任务部署的优化方法的流程示意图;
图6为本公开实施例提供的对任务部署进行优化的示意图;
图7为本公开实施例提供的一种任务部署的优化方法的交互示意图;
图8为本公开实施例提供的另一种任务部署的优化方法的流程示意图;
图9为本公开实施例提供的一种任务部署的优化装置的结构示意图;
图10为用来实现本公开实施例的任务部署的优化方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本公开实施例的任务部署的优化方法、装置和电子设备。
人工智能(Artificial Intelligence,简称AI),是研究使计算机来模拟人生的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术,也有软件层面的技术。人工智能硬件技术一般包括计算机视觉技术、语音识别技术、自然语言处理技术以及及其学习/深度学习、大数据处理技术、知识图谱技术等几大方面。
自然语言处理(Natural Language Processing,NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。自然语言处理主要应用于机器翻译、舆情监测、自动摘要、观点提取、文本分类、问题回答、文本语义对比、语音识别等方面。
深度学习(Deep Learning,简称DL),是机器学习(Machine Learning,简称ML)领域中一个新的研究方向,它被引入机器学习使其更接近于最初的目标——人工智能。深度学习是学习样本数据的内在律和表示层次,这些学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。深度学习是一个复杂的机器学习算法,在语音和图像识别方面取得的效果,远远超过先前相关技术。
智能搜索是结合了人工智能技术的新一代搜索引擎。他除了能提供传统的快速检索、相关度排序等功能,还能提供用户角色登记、用户兴趣自动识别、内容的语义理解、智能信息化过滤和推送等功能。
机器翻译(machine translation),又称为自动翻译,是利用计算机将一种自然语言(源语言)转换为另一种自然语言(目标语言)的过程。它是计算语言学的一个分支,是人工智能的目标之一。
大数据(Big data)指的是规模巨大、类型繁多且难以使用传统数据库和处理工具进行捕捉、管理和处理的数据集合。大数据不仅包括结构化数据(如数据库中的表格形式数据),还包括非结构化数据,如文本、图像、音频、视频等。大数据可以由“5V”特点来描述:大量(Volume)、高速(Velocity)、多样(Variety)、低价值密度(Value)、真实性(Veracity)。
自动驾驶(Autonomous Driving)是一种基于计算机和传感器技术的先进驾驶系统,旨在使汽车能够在没有人类干预的情况下自主地进行行驶和操作。自动驾驶系统采用先进的通信、计算机、网络和控制技术,对汽车实现实时、连续控制。采用现代通信手段,直接面对汽车,可实现车地间的双向数据通信,传输速率快,信息量大,后续追踪汽车和控制中心可以及时获知前行汽车的确切位置,使得运行管理更加灵活,控制更为有效,更加适应汽车自动驾驶的需求。
图1为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图1所示,该任务部署的优化方法,可包括:
S101,从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
需要说明的是,本公开实施例中任务部署的优化方法的执行主体可为具有数据任务部署的优化能力的硬件设备和/或驱动该硬件设备工作所需必要的软件。本公开实施例由第一设备执行,第一设备为待测试的目标设备,目标设备上搭载了非对称多处理(Asymmetric Multi-Processing,AMP)系统。可选地,执行主体可包括服务器、计算机、用户终端及其他智能设备。可选地,用户终端包括但不限于手机、电脑、智能语音交互设备等。可选地,服务器包括但不限于网络服务器、应用服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器等。
在一些实现中,可以通过对确定的初始任务组合进行随机分配,将任务组合部署在AMP系统的每个核心上。其中,初始任务组合的数量与AMP系统的核心数量相同,也就是说在AMP系统的每个核心上部署一个任务组合。
在一些实现中,可以基于任务类型,对多个任务进行组合,得到初始任务组合,同一任务组合中任务的类型相同。还可以基于AMP系统的核心数量,确定初始任务组合的数量,对多个任务进行平均分配,每个初始任务组合中的任务数量相同。比方,存在16个待处理的任务,AMP系统有4个核心,则每4个任务组成一个初始任务组合,共4个初始任务组合。
进一步地,第一设备可以采集部署在AMP系统的核心上的第一任务组合中的任务在被执行时的统计信息。可选地,第一任务组合可以是初始任务组合,还可以是对初始任务组合调整后的第一任务组合。
可选地,任务被执行时的统计信息包括但不限于:核心的负载、任务数量、执行响应时间、执行频率、优先级、中央处理器(Central Processing Unit,CPU)使用率、内存使用率等。
S102,根据统计信息获取任务调整请求,并基于任务调整请求对核心的第一任务组合进行优化,得到核心的第二任务组合。
在一些实现中,可以基于任务的性能指标,确定任务调整请求。可选地,若根据任务的统计信息,确定任务未能满足性能指标,则生成任务调整请求。其中,任务调整请求包括任务迁移请求和任务优先级更新请求。
可选地,可以基于任务迁移请求,对核心的第一任务组合进行优化,得到核心的第二任务组合。还可以基于任务优先级更新请求,对核心的第一任务组合进行优化,得到核心的第二任务组合。还可以基于任务迁移请求和任务优先级更新请求,一同对核心的第一任务组合进行优化,得到核心的第二任务组合。
在一些实现中,可以基于AMP系统对处理任务的需求,确定任务的性能指标。其中,性能指标包括不限于:每个核心CPU负载、每个核心内存(Memory Device,MEM)使用率、每个任务的执行响应时间、执行频率、优先级、所占核心等。比方,AMP系统监控一个外部事件,需要对外部事件的响应时间小于100ms,则任务的性能指标为响应时间小于100ms。
可以理解的是,任务迁移是将任务从当前的第一任务组合中迁移至另一第一任务组合中,也就是将该任务从一个核心迁移至另一核心。例如,将处于任务组合A中的任务1,从核心X迁移至核心Y,则迁移后任务1所处的任务组合为任务组合B。
可以理解的是,任务的优先级可以确定核心处理任务的先后顺序,更新任务的优先级就是更新核心处理任务的顺序,更新任务的优先级是在同一第一任务组合中进行的,也就是说,在同一核心上实现更新任务的优先级。
例如,将第一任务组合A部署在核心X上,包括任务1、任务2、任务3、任务4,其中任务1的优先级高于任务2的优先级高于任务3的优先级高于任务4的优先级。基于任务优先级更新请求,对任务1、任务2、任务3、任务4的优先级进行调整,得到优先级调整后的第二任务组合,则第二任务组合中的任务按照调整后的优先级排序为任务3、任务1、任务2、任务4。
S103,重新采集第二任务组合的统计信息及后续操作,以得到AMP系统负载均衡最优时的目标任务部署模式,其中目标任务部署模式包括每个核心最终的目标任务组合。
在一些实现中,基于任务调整请求对第一任务组合进行调整之后,重新采集第二任务组合的统计信息,并根据统计信息获取任务调整请求,对第二任务组合进行优化,得到核心的第三任务组合,按照上述过程进行多次任务优化的重复操作,直至得到AMP系统负载均衡最优时的目标任务组合。
可选地,将同一时刻部署在每个核心上的任务组合作为一个任务部署模式,则目标任务部署模式包括每个核心最终的目标任务组合。
在一些实现中,可以根据任务组合的统计信息,确定AMP系统负载均衡最优时的目标任务部署模式。可选地,可以将任务组合的统计信息进行可视化处理,如可视化为图表,根据图表信息并基于人工经验值,确定AMP系统负载均衡最优时的目标任务部署模式。还可以人工设置目标值,若任务组合的统计信息达到目标值,确定该任务组合为AMP系统负载均衡最优时的目标任务部署模式。例如,设置CPU占用率小于80%,当任一任务组合的CPU占用率达到小于80%,确定该任务组合为目标任务组合。
在一些实现中,在确定AMP系统负载均衡最优时的目标任务部署模式后,可以在AMP系统实际运行过程中,按照目标任务部署模式进行部署。例如,本公开可以应用于自动驾驶领域,按照目标任务部署模式对自动驾驶系统进行部署,通过合理分配资源和任务,可以提高自动驾驶系统的效率和性能,提升系统的稳定性,更好地满足自动驾驶的需求,提供高效可靠地自动驾驶。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求,并根据任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图2为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图2所示,该任务部署的优化方法,可包括:
S201,从在AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
在一些实现中,可以通过调用程序脚本自动对多个任务进行组合,得到初始任务组合,其中,初始任务组合的数量与AMP系统核心的数量相同。可选地,可以基于AMP系统的核心数量,确定初始任务组合的数量,进而对多个任务进行平均分配,得到初始任务组合。可选地,还可以基于任务类型,或者任务的数据量,对多个任务进行非平均分配,得到初始任务组合。
进一步地,向AMP系统的每个核心上随机部署初始任务组合,其中每个核心对应一个初始任务组合。实现将初始任务组合均匀分配至每个核心上,有利于实现更均衡的负载分配,提高AMP系统的性能。
步骤S201中采集统计信息的相关内容可参见上述实施例,这里不再赘述。
S202,根据统计信息获取任务调整请求,并基于任务调整请求对核心的第一任务组合进行优化,得到核心的第二任务组合。
S203,重新采集第二任务组合的统计信息,并进行后续操作。
步骤S202-S203的相关内容可参见上述实施例,这里不再赘述。
S204,确定每个核心同批部署的任务组合为一个任务部署模式。
S205,以每次任务部署优化得到的任务部署模式组成一个模式集合。
在一些实现中,将每个核心同批部署的任务组合作为一个任务部署模式,也就是说,将每个核心上同时执行的任务组合,作为一个任务部署模式。比方,所有的第一任务组合为同一批次,所有的第二任务组合为同一批次,则第一任务组合A、第一任务组合B、第一任务组合C为任务部署模式1,第二任务组合A、第二任务组合B、第二任务组合C、第二任务组合D为任务部署模式2。
可以理解的是,每次任务部署优化可以得到一个任务部署模式,例如,对第一任务组合A、第一任务组合B、第一任务组合C进行任务部署优化后,可以得到第二任务组合A、第二任务组合B、第二任务组合C、第二任务组合D,其中,第一任务组合A、第一任务组合B、第一任务组合C可以为称为任务部署模式1,而第二任务组合A、第二任务组合B、第二任务组合C、第二任务组合D可以称为任务部署模式2。
本公开实施例中,可以将所有的任务部署模式组合成一个模式集合,集合中包含了每次任务部署优化得到的任务部署模式。例如,模式集合中包括任务部署模式1、任务部署模式2、任务部署模式3、任务部署模式4。
S206,从模式集合包括的任务部署模式中,确定目标任务部署模式。
在一些实现中,可以基于每个任务部署模式下的AMP系统的负载,根据负载信息,判断AMP系统的负载均衡是否达到最优状态,将AMP系统的负载均衡达到最优状态的任务部署模式,作为目标任务部署模式。
可选地,通过获取每个任务部署模式下AMP系统的负载信息。其中,负载信息包括每个核心的CUP占用率、每个核心的MEM使用率等。
进一步地,根据负载信息,对模式集合包括的任务部署模式的负载均衡进行最优判定,并将负载均衡最优的任务部署模式,作为目标任务部署模式。以避免出现核心的负载过重,影响AMP系统的性能和稳定性,进一步增强了AMP系统的容错性。
可选地,可以基于经验值,设置AMP系统的负载均衡最优的目标值,若任务部署模式下AMP系统的负载均衡达到设置的目标值,则将该任务部署模式作为目标任务部署模式。
比方,设置AMP系统的负载均衡最优的目标值为CPU占用率<80%,MEM使用率<50%,若任务部署模式3下的AMP系统的CPU占用率为75%,MEM使用率为38%,均小于目标值,则任务部署模式3就是目标任务部署模式。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求,并根据任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,重复此操作,并将每个核心同批部署的任务组合为一个任务部署模式,从任务部署模式中,确定AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图3为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图3所示,该任务部署的优化方法,可包括:
S301,从在AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
步骤S301的相关内容可参见上述实施例,这里不再赘述。
S302,根据统计信息获取任务调整请求。
在一些实现中,可以基于任务的统计信息和性能指标,确定任务调整请求。其中,任务调整请求包括任务迁移请求和任务优先级更新请求。
可选地,可以根据任务的统计信息判断任务是否满足第一性能指标,若存在未满足第一性能指标的任务,则生成任务调整请求。可选地,任务未满足第一性能指标的任务调整请求为任务迁移请求,也可以为任务优先级更新请求。
可选地,基于任务统计信息确定核心的使用信息,进而根据核心的使用信息判断核心是否满足第二性能指标,若核心未满足第二性能指标,则生成任务调整请求。可选地,核心未满足第二性能指标的任务调整请求为任务优先级更新请求,或者,也可以为任务迁移请求。
S303,响应于任务调整请求包括任务迁移请求,根据任务迁移请求,确定AMP系统中一个或多个第一核心需迁入的第一任务,以及第一任务组合中需迁出的第二任务和第二任务迁移后的核心。
S304,针对每个第一核心,向迁移后的核心上迁移第二任务,并将第一任务迁入第一核心,得到第一核心的第二任务组合。
在一些实现中,根据任务的统计信息确定任务调整请求为任务迁移请求,可以基于任务调整请求,确定需要迁入第一核心上第一任务组合中的第一任务、迁出第一任务组合的第二任务,以及第二任务迁移后的核心。
示例性说明,第一核心X上的第一任务组合为第一任务组合A,第一任务组合A包括任务1、任务2、任务3和任务4。根据任务迁移请求,确定需要迁入第一任务组合A中的第一任务为任务n,需要迁出第一任务组合A中的第二任务为任务3,并将任务3迁移至的核心Y。
进一步地,为了实现任务迁移请求,向迁移后的核心迁移第二任务,并将第一任务迁移至第一核心上,得到对第一任务组合优化后的第二任务组合。
示例性说明,根据任务迁移请求确定核心X上迁入任务n,迁出任务3。将任务3迁移至核心Y上,并迁入任务n,则优化后的核心X上的第二任务组合包括任务1、任务2、任务4和任务n。
S305,重新采集第二任务组合的统计信息及后续操作,以得到AMP系统负载均衡最优时的目标任务部署模式,其中目标任务部署模式包括每个核心最终的目标任务组合。
步骤S305的相关内容可参见上述实施例,这里不再赘述。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求为任务迁移请求,对任务组合进行迁移优化,得到优化后的第二任务组合。可以避免任务在某个核心上过度集中,导致该核心的负载过重,影响AMP系统的性能和稳定性。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图4为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图4所示,该任务部署的优化方法,可包括:
S401,从在AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
S402,根据统计信息获取任务调整请求。
步骤S401-S402的相关内容可参见上述实施例,这里不再赘述。
S403,响应于任务调整请求包括任务优先级更新请求,根据优先级更新请求,确定一个或多个第二核心的第一任务组合内各任务的目标优先级。
在一些实现中,根据核心的使用信息未满足第二性能指标,则生成的任务调整请求为任务优先级更新请求,进而确定一个或多个第二核心上的第一任务组合中各任务的目标优先级。
可选地,针对任一类任务组合,可以基于任务组合中各任务的第一性能指标和/或任务属性信息,确定任务组合中各任务的优先级。例如,第一性能指标指示任务的执行响应时间小于100ms,则根据任务属性信息确定任务的响应时间,将响应时间小于100ms的任务视为优先级高,若响应时间小于100ms的程度越大,任务的优先级越高。
示例性说明,第二核心上的第一任务组合中包括任务1、任务2、任务3和任务4。各任务的第一性能指标为任务的执行响应时间小于100ms,任务1的执行响应时间为90ms,任务2的执行响应时间为120ms,任务3的执行响应时间为92ms,任务4的执行响应时间为70ms。则各任务的目标优先级为任务4的优先级高于任务1的优先级高于任务3的优先级高于任务2的优先级。
S404,针对每个第二核心,将第二核心的第一任务组合内各任务的优先级从当前优先级调整至目标优先级。
在一些实现中,基于确定的目标优先级,将第二核心上的第一任务组合中个任务的优先级,按照目标优先级进行调整,得到优先级调整后的第二任务组合。通过调整多个任务的优先级可以实现系统资源的合理利用,提高任务的响应能力,优化系统的性能。
需要说明的是,对第一任务组合进行优化,可以执行步骤S303-S304,对第一任务组合中的任务进行迁移,得到第二任务组合。还可以执行步骤S403-S404,调整第一任务组合内的各任务优先级,得到第二任务组合。还可以执行步骤S303-S304和步骤S403-S404,对第一任务组合中的部分任务进行迁移,同时对第一任务组合内的剩下的任务进行调整优先级,得到第二任务组合。
示例性说明,核心X上第一任务组合包括任务1、任务2、任务3、任务4、任务5,根据任务的统计信息和核心的使用信息,确定任务调整请求为任务迁移请求和任务优先级更新请求。任务调整请求指示将任务2迁移至核心Y上,并调整剩下各任务的优先级。确定第一任务组合中各任务的目标优先级为任务1的优先级高于任务3的优先级高于任务4的优先级高于任务5的优先级,则第二任务组合内各任务按照优先级排序为任务1、任务3、任务4、任务5。
S405,重新采集第二任务组合的统计信息及后续操作,以得到AMP系统负载均衡最优时的目标任务部署模式,其中目标任务部署模式包括每个核心最终的目标任务组合。
步骤S405的相关内容可参见上述实施例,这里不再赘述。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求为任务优先级更新请求,进而对任务组合进行优化,得到优化后的第二任务组合,可以提高AMP系统的性能和稳定性。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图5为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图5所示,该任务部署的优化方法,可包括:
S501,从在AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
在一些实现中,第一设备可以接收第二设备发送的任务的场景输入数据,并基于场景输入数据执行任务,其中,场景输入数据是执行任务所需的输入数据。基于场景输入数据执行任务可以适应不同场景的需求,进而第一设备可以采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
可以理解的是,第一设备是目标设备,搭载了AMP系统。第二设备是搭载了系统评估算法的外部设备,可以由第二设备的系统评估算法,生成任务调整请求,对第一任务组合进行优化。
S502,向第二设备发送统计信息。
在一些实现中,当第一设备采集到第一任务组合的组内任务被执行时的统计信息,可以将统计信息发送给第二设备,第二设备根据统计信息,基于任务的性能指标,生成任务调整请求。其中,任务调整请求包括任务迁移请求和/或任务优先级更新请求。
S503,接收第二设备发送的任务调整请求,其中任务调整请求由第二设备基于统计信息确定需对第一任务组合优化时发送。
在一些实现中,第二设备可以基于任务的统计信息,确定第一任务组合需要进行优化,生成对应的任务调整请求,并将任务调整请求发送给第一设备。第一设备通过接收任务调整请求,以对第一任务组合进行优化。
S504,根据统计信息获取任务调整请求,并基于任务调整请求对核心的第一任务组合进行优化,得到核心的第二任务组合。
S505,重新采集第二任务组合的统计信息及后续操作,以得到AMP系统负载均衡最优时的目标任务部署模式,其中目标任务部署模式包括每个核心最终的目标任务组合。
步骤S504-S505的相关内容可参见上述实施例,这里不再赘述。
根据本公开实施例提供的任务部署的优化方法,第一设备通过采集核心上当前部署的第一任务组合被执行时的统计信息,将统计信息发送给第二设备,第二设备基于统计信息确定任务调整请求,并发送给第一设备,第一设备基于任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图6示出的是对任务部署进行优化的示意图。如图6所示,上位机指的是第二设备,其上搭载了系统评估算法,下位机指的是待测试的第一设备,其上搭载了AMP系统。上位机可以控制数据源系统开始或者停止场景数据的输出到下位机,也就是说上位机可以基于场景输入数据控制任务执行,则下位机采集第一任务组合内的任务在被执行时的统计信息,并将统计信息上报给上位机。上位机接收到统计信息,基于系统评估算法可以确定任务调整请求,包括任务迁移请求和/或任务优先级更新请求。并将任务调整请求发送给下位机,进而下位机可以基于任务调整请求对第一任务组合进行优化,得到优化后的第二任务组合,重复此操作,直至得到AMP系统负载均衡最优时的目标任务部署模式。
图7为本公开实施例提供的一种任务部署的优化方法的交互示意图。
如图7所示,该任务部署的优化方法,可包括:
S701,第二设备向第一设备发送任务的场景输入数据。
S702,第一设备基于场景输入数据执行任务,并采集统计信息。
S703,第一设备向第二设备发送统计信息。
S704,第二设备基于统计信息生成任务调整请求。
S705,第二设备向第一设备发送任务调整请求。
S706,第一设备基于任务调整请求对任务组合进行优化。
根据本公开实施例提供的任务部署的优化方法,第一设备通过采集核心上当前部署的第一任务组合被执行时的统计信息,将统计信息发送给第二设备,第二设备基于统计信息确定任务调整请求,并发送给第一设备,第一设备基于任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
图8为本公开实施例提供的一种任务部署的优化方法的流程示意图。
如图8所示,该任务部署的优化方法,可包括:
S801,从在AMP系统的每个核心上部署各自的初始任务组合开始,采集核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;
S802,根据统计信息获取任务调整请求。
S803,响应于任务调整请求包括任务迁移请求和/或任务优先级更新请求,根据任务调整请求,对核心的第一任务组合进行优化,得到核心的第二任务组合。
S804,重新采集第二任务组合的统计信息,并进行后续操作。
S805,确定每个核心同批部署的任务组合为一个任务部署模式,并以每次任务部署优化得到的任务部署模式组成一个模式集合。
S806,从模式集合包括的任务部署模式中,确定目标任务部署模式。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求,并根据任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
与上述几种实施例提供的任务部署的优化方法相对应,本公开的一个实施例还提供了一种任务部署的优化装置,由于本公开实施例提供的任务部署的优化装置与上述几种实施例提供的任务部署的优化方法相对应,因此上述任务部署的优化方法的实施方式也适用于本公开实施例提供的任务部署的优化装置,在下述实施例中不再详细描述。
图9为本公开实施例提供的一种任务部署的优化装置的结构示意图。
如图9所示,本公开实施例的任务部署的优化装置900,包括采集模块901、优化模块902和确定模块903。
采集模块901,用于从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集所述核心上当前部署的第一任务组合的在组内任务被执行时的统计信息。
优化模块902,用于根据所述统计信息获取任务调整请求,并基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合。
确定模块903,用于重新采集所述第二任务组合的统计信息及后续操作,以得到所述AMP系统负载均衡最优时的目标任务部署模式,其中所述目标任务部署模式包括每个所述核心最终的目标任务组合。
在本公开的一个实施例中,所述确定模块903,还用于:确定每个所述核心同批部署的任务组合为一个任务部署模式;以每次任务部署优化得到的所述任务部署模式组成一个模式集合;从所述模式集合包括的所述任务部署模式中,确定所述目标任务部署模式。
在本公开的一个实施例中,所述确定模块903,还用于:获取每个所述任务部署模式下所述AMP系统的负载信息;根据所述负载信息,对所述模式集合包括的任务部署模式的负载均衡进行最优判定,并将负载均衡最优的任务部署模式,作为所述目标任务部署模式。
在本公开的一个实施例中,所述优化模块902,还用于:响应于所述任务调整请求包括任务迁移请求,根据所述任务迁移请求,确定所述AMP系统中一个或多个第一核心需迁入的第一任务,以及所述第一任务组合中需迁出的第二任务和所述第二任务迁移后的核心;针对每个所述第一核心,向所述迁移后的核心上迁移所述第二任务,并将所述第一任务迁入所述第一核心,得到所述第一核心的第二任务组合。
在本公开的一个实施例中,所述优化模块902,还用于:响应于所述任务调整请求包括任务优先级更新请求,根据所述优先级更新请求,确定一个或多个第二核心的第一任务组合内各任务的目标优先级;针对每个所述第二核心,将所述第二核心的第一任务组合内各任务的优先级从当前优先级调整至所述目标优先级。
在本公开的一个实施例中,所述优化模块902,还用于:根据所述任务的执行信息判断所述任务是否满足第一性能指标,若存在未满足所述第一性能指标的任务,则生成所述任务调整请求;和/或,根据所述核心的使用信息判断所述核心是否满足第二性能指标,若所述核心未满足所述第二性能指标,则生成所述任务调整请求。
在本公开的一个实施例中,所述优化模块902,还用于:向第二设备发送所述统计信息;接收所述第二设备发送的所述任务调整请求,其中所述任务调整请求由所述第二设备基于所述统计信息确定需对所述第一任务组合优化时发送。
在本公开的一个实施例中,所述装置还包括:针对任一类任务组合,基于所述任务组合中各任务的第一性能指标和/或任务属性信息,确定所述任务组合中各任务的优先级。
在本公开的一个实施例中,所述采集模块901,还用于:调用程序脚本自动对多个任务进行组合,得到所述初始任务组合,其中,所述初始任务组合的数量与所述AMP系统核心的数量相同。
在本公开的一个实施例中,所述采集模块901,还用于:向所述AMP系统的每个核心上随机部署所述初始任务组合,其中每个核心对应一个所述初始任务组合。
在本公开的一个实施例中,所述装置还包括:接收所述第二设备发送的所述任务的场景输入数据,并基于所述场景输入数据执行所述任务。
根据本公开实施例提供的任务部署的优化方法,通过采集核心上当前部署的第一任务组合被执行时的统计信息,基于统计信息确定任务调整请求,并根据任务调整请求对任务组合进行优化,得到优化后的第二任务组合。进一步地,重新采集第二任务组合的统计信息,确定第二任务组合的调整请求,对第二任务组合进行优化,直至得到AMP系统负载均衡最优时的目标任务部署模式,可以实现量化任务被执行时的性能指标,有助于评估AMP系统的性能。通过自动调整优化任务组合,可以使得AMP系统负载均衡达到最优,有利于提升AMP系统的容错空间,且有利于降低新增任务的难度。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图10示出了可以用来实施本公开的实施例的示例电子设备1000的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图10所示,设备1000包括计算单元1001,其可以根据存储在只读存储器(ROM)1002中的计算机程序/指令或者从存储单元1006载到随机访问存储器(RAM)1003中的计算机程序/指令,来执行各种适当的动作和处理。在RAM 1003中,还可存储设备1000操作所需的各种程序和数据。计算单元1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
设备1000中的多个部件连接至I/O接口1005,包括:输入单元1006如键盘、鼠标等;输出单元1007,例如各种类型的显示器、扬声器等;存储单元1008,例如磁盘、光盘等;以及通信单元1009,例如网卡、调制解调器、无线通信收发机等。通信单元1009允许设备1000通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元1001可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元1001的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元1001执行上文所描述的各个方法和处理,例如任务部署的优化方法。例如,在一些实施例中,任务部署的优化方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元1006些实施例中,计算机程序/指令的部分或者全部可以经由ROM 1002和/或通信单元1009而被载入和/或安装到设备1000上。当计算机程序/指令加载到RAM 1003并由计算单元1001执行时,可以执行上文描述的任务部署的优化方法的一个或多个步骤。备选地,在其他实施例中,计算单元1001可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行任务部署的优化方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序/指令中,该一个或者多个计算机程序/指令可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序/指令来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (25)
1.一种任务部署的优化方法,其中,由第一设备执行,所述方法包括:
从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集所述核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;
根据所述统计信息获取任务调整请求,并基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合;
重新采集所述第二任务组合的统计信息及后续操作,以得到所述AMP系统负载均衡最优时的目标任务部署模式,其中所述目标任务部署模式包括每个所述核心最终的目标任务组合。
2.根据权利要求1所述的方法,其中,所述得到所述AMP系统负载均衡最优时的目标任务部署模式,包括:
确定每个所述核心同批部署的任务组合为一个任务部署模式;
以每次任务部署优化得到的所述任务部署模式组成一个模式集合;
从所述模式集合包括的所述任务部署模式中,确定所述目标任务部署模式。
3.根据权利要求2所述的方法,其中,所述从所述模式集合包括的所述任务部署模式中,确定所述目标任务部署模式,包括:
获取每个所述任务部署模式下所述AMP系统的负载信息;
根据所述负载信息,对所述模式集合包括的任务部署模式的负载均衡进行最优判定,并将负载均衡最优的任务部署模式,作为所述目标任务部署模式。
4.根据权利要求1所述的方法,其中,所述基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合,包括:
响应于所述任务调整请求包括任务迁移请求,根据所述任务迁移请求,确定所述AMP系统中一个或多个第一核心需迁入的第一任务,以及所述第一任务组合中需迁出的第二任务和所述第二任务迁移后的核心;
针对每个所述第一核心,向所述迁移后的核心上迁移所述第二任务,并将所述第一任务迁入所述第一核心,得到所述第一核心的第二任务组合。
5.根据权利要求1或5所述的方法,其中,所述基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合,包括:
响应于所述任务调整请求包括任务优先级更新请求,根据所述优先级更新请求,确定一个或多个第二核心的第一任务组合内各任务的目标优先级;
针对每个所述第二核心,将所述第二核心的第一任务组合内各任务的优先级从当前优先级调整至所述目标优先级。
6.根据权利要求1-4中任一项所述的方法,其中,所述根据所述统计信息获取任务调整请求,包括:
根据所述任务的执行信息判断所述任务是否满足第一性能指标,若存在未满足所述第一性能指标的任务,则生成所述任务调整请求;和/或,
根据所述核心的使用信息判断所述核心是否满足第二性能指标,若所述核心未满足所述第二性能指标,则生成所述任务调整请求。
7.根据权利要求1-4中任一项所述的方法,其中,所述根据所述统计信息获取任务调整请求,包括:
向第二设备发送所述统计信息;
接收所述第二设备发送的所述任务调整请求,其中所述任务调整请求由所述第二设备基于所述统计信息确定需对所述第一任务组合优化时发送。
8.根据权利要求1-4中任一项所述的方法,其中,所述方法还包括:
针对任一类任务组合,基于所述任务组合中各任务的第一性能指标和/或任务属性信息,确定所述任务组合中各任务的优先级。
9.根据权利要求1-4中任一项所述的方法,其中,所述初始任务组合的确定过程,包括:
调用程序脚本自动对多个任务进行组合,得到所述初始任务组合,其中,所述初始任务组合的数量与所述AMP系统核心的数量相同。
10.根据权利要求9所述的方法,其中,所述调用程序脚本自动对多个任务进行组合,得到所述初始任务组合之后,还包括:
向所述AMP系统的每个核心上随机部署所述初始任务组合,其中每个核心对应一个所述初始任务组合。
11.根据权利要求7所述的方法,其中,所述方法还包括:
接收所述第二设备发送的所述任务的场景输入数据,并基于所述场景输入数据执行所述任务。
12.一种任务部署的优化装置,其中,由第一设备执行,所述装置包括:
采集模块,用于从在非对称多处理AMP系统的每个核心上部署各自的初始任务组合开始,采集所述核心上当前部署的第一任务组合的在组内任务被执行时的统计信息;
优化模块,用于根据所述统计信息获取任务调整请求,并基于所述任务调整请求对所述核心的第一任务组合进行优化,得到所述核心的第二任务组合;
确定模块,用于重新采集所述第二任务组合的统计信息及后续操作,以得到所述AMP系统负载均衡最优时的目标任务部署模式,其中所述目标任务部署模式包括每个所述核心最终的目标任务组合。
13.根据权利要求12所述的装置,其中,所述确定模块,还用于:
确定每个所述核心同批部署的任务组合为一个任务部署模式;
以每次任务部署优化得到的所述任务部署模式组成一个模式集合;
从所述模式集合包括的所述任务部署模式中,确定所述目标任务部署模式。
14.根据权利要求13所述的装置,其中,所述确定模块,还用于:
获取每个所述任务部署模式下所述AMP系统的负载信息;
根据所述负载信息,对所述模式集合包括的任务部署模式的负载均衡进行最优判定,并将负载均衡最优的任务部署模式,作为所述目标任务部署模式。
15.根据权利要求12所述的装置,其中,所述优化模块,还用于:
响应于所述任务调整请求包括任务迁移请求,根据所述任务迁移请求,确定所述AMP系统中一个或多个第一核心需迁入的第一任务,以及所述第一任务组合中需迁出的第二任务和所述第二任务迁移后的核心;
针对每个所述第一核心,向所述迁移后的核心上迁移所述第二任务,并将所述第一任务迁入所述第一核心,得到所述第一核心的第二任务组合。
16.根据权利要求12或16所述的装置,其中,所述优化模块,还用于:
响应于所述任务调整请求包括任务优先级更新请求,根据所述优先级更新请求,确定一个或多个第二核心的第一任务组合内各任务的目标优先级;
针对每个所述第二核心,将所述第二核心的第一任务组合内各任务的优先级从当前优先级调整至所述目标优先级。
17.根据权利要求12-15中任一项所述的装置,其中,所述优化模块,还用于:
根据所述任务的执行信息判断所述任务是否满足第一性能指标,若存在未满足所述第一性能指标的任务,则生成所述任务调整请求;和/或,
根据所述核心的使用信息判断所述核心是否满足第二性能指标,若所述核心未满足所述第二性能指标,则生成所述任务调整请求。
18.根据权利要求12-15中任一项所述的装置,其中,所述优化模块,还用于:
向第二设备发送所述统计信息;
接收所述第二设备发送的所述任务调整请求,其中所述任务调整请求由所述第二设备基于所述统计信息确定需对所述第一任务组合优化时发送。
19.根据权利要求12-15中任一项所述的装置,其中,所述装置还包括:
针对任一类任务组合,基于所述任务组合中各任务的第一性能指标和/或任务属性信息,确定所述任务组合中各任务的优先级。
20.根据权利要求12-15中任一项所述的装置,其中,所述采集模块,还用于:
调用程序脚本自动对多个任务进行组合,得到所述初始任务组合,其中,所述初始任务组合的数量与所述AMP系统核心的数量相同。
21.根据权利要求20所述的装置,其中,所述采集模块,还用于:
向所述AMP系统的每个核心上随机部署所述初始任务组合,其中每个核心对应一个所述初始任务组合。
22.根据权利要求18所述的装置,其中,所述装置还包括:
接收所述第二设备发送的所述任务的场景输入数据,并基于所述场景输入数据执行所述任务。
23.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1-11中任一项所述的方法。
24.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-11中任一项所述的方法。
25.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1-11中任一项所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311114938.1A CN117093232A (zh) | 2023-08-31 | 2023-08-31 | 任务部署的优化方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311114938.1A CN117093232A (zh) | 2023-08-31 | 2023-08-31 | 任务部署的优化方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117093232A true CN117093232A (zh) | 2023-11-21 |
Family
ID=88769458
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311114938.1A Pending CN117093232A (zh) | 2023-08-31 | 2023-08-31 | 任务部署的优化方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117093232A (zh) |
-
2023
- 2023-08-31 CN CN202311114938.1A patent/CN117093232A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112749344B (zh) | 信息推荐方法、装置、电子设备、存储介质及程序产品 | |
CN112000457B (zh) | 管理处理系统中的任务的方法、设备和计算机程序产品 | |
CN112508768B (zh) | 单算子多模型流水线推理方法、系统、电子设备及介质 | |
KR20210156243A (ko) | 딥러닝 프레임워크의 훈련 방법, 장치 및 저장 매체 | |
CN114500339B (zh) | 一种节点带宽监测方法、装置、电子设备及存储介质 | |
US20220391780A1 (en) | Method of federated learning, electronic device, and storage medium | |
CN113961765B (zh) | 基于神经网络模型的搜索方法、装置、设备和介质 | |
CN114065864A (zh) | 联邦学习方法、联邦学习装置、电子设备以及存储介质 | |
CN114911598A (zh) | 任务调度方法、装置、设备以及存储介质 | |
CN114819095A (zh) | 业务数据处理模型的生成方法、装置及电子设备 | |
CN114861059A (zh) | 资源推荐方法、装置、电子设备及存储介质 | |
CN113792876A (zh) | 骨干网络的生成方法、装置、设备以及存储介质 | |
CN116756282A (zh) | 任务处理方法、服务器、语言预测系统和人机交互系统 | |
CN117271884A (zh) | 确定推荐内容的方法、装置、电子设备及存储介质 | |
CN116932147A (zh) | 流式作业处理方法、装置、电子设备及介质 | |
CN115412401B (zh) | 训练虚拟网络嵌入模型及虚拟网络嵌入的方法和装置 | |
CN114035906B (zh) | 虚拟机迁移方法、装置、电子设备及存储介质 | |
CN117093232A (zh) | 任务部署的优化方法、装置、电子设备及存储介质 | |
CN109688177B (zh) | 一种数据同步方法及装置、设备、存储介质 | |
CN115660049A (zh) | 模型处理方法、装置、电子设备以及存储介质 | |
CN114969444A (zh) | 数据的处理方法、装置、电子设备和存储介质 | |
CN114036250A (zh) | 高精地图任务处理方法、装置、电子设备和介质 | |
CN113408632A (zh) | 提高图像分类准确性的方法、装置、电子设备及存储介质 | |
CN115827526B (zh) | 数据处理方法、装置、设备以及存储介质 | |
CN113343147B (zh) | 信息处理方法、装置、设备、介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |