CN118158220A - 一种面向异构编码分布式计算的节点选择方法及系统 - Google Patents
一种面向异构编码分布式计算的节点选择方法及系统 Download PDFInfo
- Publication number
- CN118158220A CN118158220A CN202311375603.5A CN202311375603A CN118158220A CN 118158220 A CN118158220 A CN 118158220A CN 202311375603 A CN202311375603 A CN 202311375603A CN 118158220 A CN118158220 A CN 118158220A
- Authority
- CN
- China
- Prior art keywords
- node
- nodes
- heterogeneous
- distributed computing
- performance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010187 selection method Methods 0.000 title claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 45
- 238000005457 optimization Methods 0.000 claims abstract description 33
- 208000001613 Gambling Diseases 0.000 claims abstract description 8
- 230000002787 reinforcement Effects 0.000 claims abstract description 6
- 238000004422 calculation algorithm Methods 0.000 claims description 26
- 238000004364 calculation method Methods 0.000 claims description 25
- 230000006870 function Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 claims description 4
- 238000012546 transfer Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims description 2
- 238000005303 weighing Methods 0.000 abstract description 2
- 238000012545 processing Methods 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种面向异构编码分布式计算的节点选择方法及系统。所述方法包括:根据异构编码分布式计算系统的任务执行场景,构建优化问题,使用中心极限定理对原问题进行近似得到一个新的问题,再把优化目标中的分母项转移到约束条件中,将问题转换成一个整数规划问题;在节点性能已知的情况下使用基于拉格朗日松弛的方法选择合适的节点集;若节点性能未知,则利用基于强化学习的多臂赌博机方法,通过设置与节点被选择次相关的界限来平衡探索和利用,估计出节点的性能,再使用基于拉格朗日松弛的方法选择合适的节点集。本发明在性能未知的编码分布式计算环境中选择合适的节点集以达到权衡成本与成功概率的要求。
Description
技术领域
本发明涉及分布式计算领域,具体涉及一种面向异构编码分布式计算的节点选择方法及系统。
背景技术
分布式计算系统的提出是为了保证大数据规模下任务处理的时效性,在大规模分布式系统中,由于会频繁的出现资源共享和竞争、软硬件故障等问题,节点死机、随机降速都是一个非常普遍的现象。然而随着事件驱动和时间敏感计算(如人工智能认知服务、增强现实和虚拟现实)的增加,各种应用程序对实时响应的要求越来越高,这意味着请求的计算必须在指定的期限内完成,为了增加系统的容错率以及对缓慢节点的容忍程度,编码的技术被引入到分布式计算中。
编码分布式计算可以为系统增加额外的冗余,以最大可分距离(MaximumDistance Separable,MDS)编码为例,它允许任意一组最快的节点来决定计算的总体延迟,可以有效降低问题节点造成长时延的风险。如今编码分布式计算在分布式计算系统中得到了广泛的研究和应用,系统中冗余的大小取决于编码系数的选择。直观来看,冗余越大任务处理的时延越小,然而这可能会导致更大的成本浪费,但降低成本又可能会增加任务的响应时间,因此,在低时延、高成本效益的要求下,实时计算任务的性能和计算成本之间存在着一种权衡,如何权衡成本与任务的成功概率是一个重要且现实的问题。
在实际场景中,规模分布式系统通常由具有不同计算性能和计算成本的异构节点组成。异构场景极大的依赖于哪些节点被选择参与计算,不同性能的节点一般具有和性能呈正相关的计算成本,当每个节点的计算成本不同时,工作负载的总计算成本取决于节点的选择。目前多数研究编码分布式计算中节点选择问题的工作都忽略了节点选择所涉及的成本开销,同时也并没有面向有严格时间限制的实时性需求很高的应用或任务;一些考虑了节点计算成本和实时性需求的工作主要都集中在节点数量的选择上,而忽略了节点的异构性,同时研究主要面向的是具体的矩阵计算任务,无法适用于如DNN(Deep NeuralNetworks)之类的计算任务。基于以上不足,本发明考虑在异构的大规模分布式计算系统中,通过选择合适的节点集,在满足总计算成本限制的情况下,使计算任务的成功概率最大化。
发明内容
发明目的:针对现有技术的不足,本发明提供一种面向异构编码分布式计算的节点选择方法及系统,在节点性能已知的情况下通过选择更合适的节点,能够有效提高参与计算的节点集的成功概率,并且在节点性能未知的情况下能够合理平衡探索和利用,较为准确地估计出各个节点的性能。
技术方案:为了实现以上发明目的,本发明的技术方案如下:
一种面向异构编码分布式计算的节点选择方法,包括以下步骤:
根据异构编码分布式计算系统的任务执行场景,构建优化问题:在一个具有n个异构节点的编码分布式计算系统中,对于每个新到达的任务请求都要选择S∈[n]个节点参与计算,S大于等于最少可解码所需数量k,计算任务具有规定的截止时间d,节点i在d时间内完成计算的成功概率为pi,同时具有ci的计算开销,要求在满足总开销限制b的情况下,通过选择|S|个节点,最大化任务的成功概率Pk(S),优化目标表示为:maxS∈[n]Pk(S),s.t.∑i∈Sci≤b;
使用中心极限定理对原问题进行近似得到一个新的问题,再把优化目标中的分母项转移到约束条件中,将问题转换成一个整数规划问题;
在节点性能已知的情况下使用基于拉格朗日松弛的方法选择合适的节点集;在节点性能未知的情况下,则利用基于强化学习的多臂赌博机方法,通过设置与节点被选择次相关的界限来平衡探索和利用,估计出节点的性能,再使用基于拉格朗日松弛的方法选择合适的节点集。
优选地,对原问题进行近似和转化包括:
对原问题使用中心极限定理进行近似处理,得到原优化问题转换为:/>s.t.∑i∈sci≤b;
令xi表示节点i是否被选中,若节点i被选中则xi=1,否则xi=0,将上述优化问题重新被表述为:s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n],定义该问题为P1;
增加一个新的实数t来将分母项转移到约束条件中,使问题P1转换为线性问题:max∑i∈[n]pixi,s.t.∑i∈[n]pi(1-pi)xi≤t,∑i∈[n]cixi≤b,xi∈{0,1},i∈[n],定义该问题为P2(t)。
优选地,基于拉格朗日松弛的方法选择合适的节点集包括以下步骤:
基于问题P2(t),引入一个松驰项λ,将与pi有关的约束条件移到优化目标上,得到问题LR-P2(t):max∑i∈[n]pixi+λ(t-∑i∈[n]pi(1-pi)xi),s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n];
λ是一个大于0的拉格朗日乘子项,在LR-P2(t)中,去掉λt这一常数项,得到了新的优化问题LR-P3(λ):max∑i∈[n](pi-λpi(1-pi))xi,s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n];
对于每一个固定的λ,用动态规划方法在伪多项式时间内求解问题LR-P3(λ),或采用完全多项式近似方法得到近优的解。
优选地,在求解问题LR-P3(λ)时,通过固定增量迭代的增加λ值,进行迭代求解,包括:
在每轮迭代中,为λ增加一个步长大小,判断此时λ是否达到预定义的范围之内的最大值1,若小于1,进入节点选择处理,所有节点拥有成功概率pi和计算成本ci,根据拉格朗日松弛之后的优化问题LR-P3(λ):max∑i∈[n](pi-λpi(1-pi))xi,s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n],其中pi-λpi(1-pi)为节点i在背包问题中的价值,ci为节点i在背包问题中的重量,总成本限制b为背包问题中背包的总容量,使用背包算法对该问题解得一个节点集S。
优选地,所述方法在得到节点集S后,利用动态规划算法为已知的节点集计算其任务成功概率,将不同λ对应下得到的节点集的成功概率进行比较,保留最优节点集。
优选地,基于强化学习的多臂赌博机方法进行节点性能估计,包括以下步骤:
在每轮迭代中,首先进入识别阶段,识别当前的边界值B和所有节点中最少的被选择次数D,若D<B则进入探索阶段,否则进入利用阶段,其中B为一个与轮次r有关的函数值;
探索阶段分为两种情况进行处理,当D=0时,对节点进行随机排序,并在成本b的限制范围之内选择前|S|个节点;当D>0时,计算每个节点的UCB权重值并根据权重值从大到小在成本b的限制范围之内选择前|S|个节点;
在利用阶段,根据估计的节点信息空间,使用所提出的基于拉格朗日松弛的节点选择方法进行节点选择。
本发明还提供一种编码分布式计算系统,系统由n个异构节点构成,对于每个新到达的任务请求都选择S∈[n]个节点参与计算,参与计算的这些节点是通过本发明所述的面向异构编码分布式计算的节点选择方法方法被选择的。
本发明还提供一种计算机设备,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如上所述的面向异构编码分布式计算的节点选择方法的步骤。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的面向异构编码分布式计算的节点选择方法的步骤。
本发明与现有技术相比,具有如下优点和有益效果:提供一种面向异构编码分布式计算的节点选择方法,在总成本约束下最大化节点集的计算成功概率。通过对节点选择问题进行建模和近似处理,并在新优化问题上提出了一种基拉格朗日松弛的节点选择算法(LAG-R),在节点性能和成本已知的情况下通过使用所提出的算法在总成本限制范围之内来选择合适的节点执行任务,从而提升整个计算的成功概率;并且考虑了节点性能未知的情况,并提出了一种基于多臂赌博机的方法(MAB-B)来估计节点的性能。本发明的节点选择算法和性能估计算法能在性能未知的编码分布式计算环境中选择合适的节点集以达到权衡成本与成功概率的要求。
附图说明
图1是一个编码分布式计算系统的任务执行示意图;
图2是面向异构编码分布式计算的节点选择方法流程图;
图3是原优化目标和近似处理后的优化目标近似程度对比图;
图4是节点集成功概率随λ增加的变化曲线图;
图5是LAG-R节点选择算法流程图;
图6是MAB-B节点性能估计算法流程图。
具体实施方式
下面结合附图对本发明的技术方案作进一步说明。
图1为一个编码分布式计算系统的任务执行流程图。在一个具有n个异构节点的编码分布式计算系统中,时延敏感的计算模型A分割成k份,并使用(n,k)MDS编码成n份,部署在n个节点上,任务向量x到达系统请求计算y=Ax,系统需要在n个节点中选择大于等于最小解码数量k个节点来参与计算,主节点将任务向量x发送给参与计算的节点,节点i在本地计算被分割编码后的部分子计算模型A′i与任务向量的计算结果,并将结果A′ix发送给主节点,当主节点收到任意k个计算结果后,即可解码得到计算目标y,计算完成。
参照图2,本发明提供一种面向异构编码分布式计算的节点选择方法,包括如下步骤:
步骤S1,对原始问题进行建模表述如下:
在一个具有n([n]={1,2,...,n})个异构节点的编码分布式计算系统中,对于每个新到达的任务请求x都要选择S∈[n]个节点参与计算,S需要大于等于最少可解码所需数量k。计算任务具有规定的截止时间d,节点i在d时间内完成计算的成功概率为pi,同时具有ci的计算开销。要求在满足总开销限制b的情况下,通过选择|S|个节点,最大化任务的成功概率Pk(S)。优化目标建模如下:
可以理解,原问题直接求解是困难的。本发明通过建立一个与原优化问题等价的特殊二维背包问题来证明这一点。这里,建立一个从背包问题到节点选择问题的多项式时间约束来证明该问题是NP-hard的。背包问题定义如下:给定一个有n个物品的集合{1,...,n},每个物品i有一个大小和一个价值/>背包的总容量为/>旨在找到一个物品集合,在不超过背包容量的限制范围内最大化背包能获得的总价值。将两个问题建立联系,则对任意节点i∈[n],有/>ci=si,b=B,此外,令k=1,这样MDS编码本质上就变成了复制策略,对于每个节点集S,有:/> 因此,最大化背包问题中的物品总价值和最大化节点选择问题中的任务成功概率是等价的,原节点选择问题是NP-hard的得证。
步骤S2,近似该优化问题,得到新的易于求解的形式。
本法明使用中心极限定理对原问题进行近似,得到一个新的问题,再把优化目标中的分母项转移到约束条件中,将该非整数规划问题转换成一个整数规划问题。图3为原优化目标和近似处理后的优化目标近似程度对比图。具体地,对原问题使用中心极限定理对节点集的成功概率Pk(S)进行近似处理,处理过程如下:
其中Ii为一个取值为0或1的随机变量,若节点i在截止时间之前完成子任务,则Ii=1,否则Ii=0。设k=100,每个节点的成功概率pi随机从(0,1)中均匀选择,随着被选节点数量的增加,Pk(S)的准确值与近似后的概率值之间的相似程度如图3所示。
得到因此原优化问题可以转换为:
令xi表示节点i是否被选中,若节点i被选中则xi=1,否则xi=0,因此上述优化问题可重新被表述为:
定义该问题为P1。
由于该优化问题为非线性的,因此增加一个新的实数t来将分母项转移到约束条件中,使其转换为线性问题:
定义该问题为P2(t)。
步骤S3,在节点性能已知的情况下使用基于拉格朗日松弛的方法选择合适的节点集。在节点性能未知的场景下,则利用基于强化学习的多臂赌博机方法,通过设置与节点被选择次相关的界限来平衡探索和利用,估计出节点的性能,再进行节点集的选择。
这里的节点性能主要指的就是节点的计算能力,具体来讲是节点对于一个计算任务的成功概率。
本发明提出一种基于拉格朗日松弛的节点选择算法,以下简称为LAG-R,用于选择合适的节点集,包括以下步骤:
首先引入一个松驰项λ,将与pi有关的约束条件移到优化目标上,得到问题LR-P2(t):
λ是一个大于0的拉格朗日乘子项。对于任意的λ>0,LR-P2(t)的最优目标值总是P2(t)的最优目标值的上界,因此为了获得更严格的P2(t)的最有目标值上界,需要探索λ的最优取值。在LR-P2(t)中,λt可看作一个常数项,因此去掉这一项就得到了新的优化问题LR-P3(λ):
当0<λ<1时,pi-λpi(1-pi)≥0,可以很容易验证LR-P3(λ)问题等价于经典的背包问题,其中每个节点i有一个重量ci和价值pi-λpi(1-pi),背包总容量为b,因此对于每一个固定的λ,该问题可以用动态规划方法在伪多项式时间内求解,或采用完全多项式近似方案在O(n3/ε)时间内找到一个(1-ε)近优的解。
对于任意0<λ<1,求解LR-P3(λ)会得到原节点选择问题的一个可行解,因此可以通过调节λ的大小来使Pk(S)最大化。经过仿真实验可知所选节点集的成功概率随着λ的增加呈阶梯先上升后下降,因此本发明采用增量的方法,每次步长为0.01,在预定义的范围内寻找最优值。对于每一个固定λ,在得到一个节点集后,本发明还提出了一种动态规划算法来快速计算节点集的成功概率精确值,并将不同λ下的节点集成功概率精确值进行比较,成功概率最高的节点集则为该算法认为的最优解,对应的λ则认为是最优λ。
图4为在b=150时节点集成功概率随λ增加的变化曲线图。在不同的λ值下,LAG-R节点选择算法得到的节点集的成功概率呈现阶梯式先增后减的变化,因此存在一个最优的λ*,在λ*下LAG-R得到的节点集为最优节点集,该节点集下对应的成功概率为算法能得到的最大成功概率。
图5为LAG-R节点选择算法流程图。
算法开始之后先初始化相关参数:临时存放当前节点集成功概率的参数temp=0,拉格朗日乘子项λ=0,存放最优节点集参数S*为空,λ每次迭代增加的步长η=0.01。
进行迭代,为λ增加一个步长大小,判断此时λ是否达到预定义的范围之内的最大值1,若小于1,进入节点选择处理,所有节点拥有成功概率pi和计算成本ci,根据拉格朗日松弛之后的优化问题LR-P3(λ):max∑i∈[n](pi-λpi(1-pi))xi,s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n],其中pi-λpi(1-pi)为节点i在背包问题中的价值,ci为节点i在背包问题中的重量,总成本限制b为背包问题中背包的总容量,因此使用背包算法可对该问题解得一个节点集S。
得到S后,本发明提出一种动态规划算法可以为已知的节点集快速计算其任务成功概率:假设节点集S={s1,s2,...,s|S|}∈[n],令Sj={s1,...,sj},Sj表示含有前j个节点的S的一个子集,即,S中有节点1到|S|,共|S|个,Sj中有节点1到节点j,共j个,根据全概率公式可以很容易的看出,对于任意1≤j≤|S|,有:
因此基于这个递归方程,可以使用动态规划方法在O(k|S|)时间之内精确的计算Pk(S)。
判断计算的Pk(S)是否大于temp,若大于,则将当前算法得到的节点集S赋给最优节点集S*,并更新temp的值为Pk(S),然后循环迭代。
若大于1,停止迭代,输出当前记录的最优λ下对应的最优节点集S*,算法结束。
本发明提出一种基于多臂赌博机的节点性能估计方法,以下简称为MAB-B,主要过程如下:设置一个边界参数B来确定是否探索完全,B为一个与轮次r有关的函数值。在最开始先进行初始化,然后进入迭代循环,在每个轮次r时,首先进入识别阶段,识别当前的边界值B和所有节点中最少的被选择次数D,若D<B则进入探索阶段,否则进入利用阶段。若D<B,进入探索阶段,分为两种情况进行处理,当D=0时,对节点进行随机排序,并在成本b的限制范围之内选择前|S|个节点;当D>0时,计算每个节点的UCB(Upper Confidence Bound)权重值并根据权重值从大到小在成本b的限制范围之内选择前|S|个节点。若D≥B进入利用阶段,根据估计的节点信息空间,使用所提出的LAG-R节点选择算法进行节点选择。在更新阶段,根据当前轮次的节点运行结果在信息空间中更新被选中节点的信息情况。
图6为MAB-B节点性能估计算法流程图。具体步骤如下:
算法开始之后先初始化相关参数:对任意节点i(i∈[n]),被选择次数计数器Di=0,估计成功概率初始轮次r=0。
轮次+1获得当前轮次r,判断此时是否达到最大迭代轮次限制R,若r<R,计算边界值B,B为一个与轮次r有关的衰减函数,用来平衡探索和开发:其中γ为一个实数参数体现r的增长情况,实施例中取γ=1/3,表明该边界值随着t的增长,增加速度越来越缓慢。获取当前轮次的最小节点选择数D:D=mini∈[n]Di。如果D<B,则进入探索阶段,否则进入开发阶段。
当D<B,进入探索阶段。此时分为两种情况:当D=0,说明仍有节点从未被选中,此时算法会按每个节点的当前估计成功概率进行随机排序,并在成本限制b的范围内选择前|S|个节点参与计算,并在计算完成后对参与计算的节点进行信息更新;当D>0,说明每个节点都至少被选中了1次,这意味着每个节点都有至少一次的真实成功概率,此时计算每个节点的UCB权重,UCB权重是利用UCB方法的思想,通过将每个节点的置信度值定义为其权重,并根据权重进行节点选择,使探索更加完整:任意节点i(i∈[n])在轮次r处的权值为其中参数σ表示探索的重要程度,/>为节点i在前r轮被选中的次数,实施例中取σ=2。计算完成后根据每个节点的权重值由大到小排序,在b限制内选择前|S|个节点参与计算,并在计算完成后对参与计算的节点进行信息更新。
当D≥B,进入开发阶段。根据估计的所有节点成功概率情况,使用所提出的LAG-R算法进行节点选择,并在计算完成后对参与计算的节点进行信息更新。
被选中的节点完成本轮计算后需要进行信息更新。首先观察每个节点本轮是否成功完成子任务计算,将节点i在r轮的成功情况记为当/>说明节点i在第r轮成功完成计算,当/>说明节点i在第r轮未能在规定时间内完成计算。根据观察到的/>更新参与计算的节点i的相关信息:更新估计成功概率/>更新节点i的被选择次数Di←Di+1。进行下一轮次的计算。
若r≥R,则迭代结束。
本发明还提供一种编码分布式计算系统,系统由n个异构节点构成,对于每个新到达的任务请求都选择S∈[n]个节点参与计算,参与计算的这些节点是通过本发明所述的面向异构编码分布式计算的节点选择方法方法被选择的。
本发明还提供一种计算机设备,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如上所述的面向异构编码分布式计算的节点选择方法的步骤。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的面向异构编码分布式计算的节点选择方法的步骤。
以上实施例仅用以说明本发明的技术方案而非对其限制,尽管参照上述实施例对本发明进行了详细的说明,所属领域的普通技术人员应当理解:依然可以对本发明的具体实施方式进行修改或者等同替换,而未脱离本发明精神和范围的任何修改或者等同替换,其均应涵盖在本发明的权利要求保护范围之内。
Claims (10)
1.一种面向异构编码分布式计算的节点选择方法,其特征在于,包括以下步骤:
根据异构编码分布式计算系统的任务执行场景,构建优化问题:在一个具有n个异构节点的编码分布式计算系统中,对于每个新到达的任务请求都要选择S∈[n]个节点参与计算,S大于等于最少可解码所需数量k,计算任务具有规定的截止时间d,节点i在d时间内完成计算的成功概率为pi,同时具有ci的计算开销,要求在满足总开销限制b的情况下,通过选择|S|个节点,最大化任务的成功概率Pk(S),优化目标表示为:maxS∈[n]Pk(S),s.t.∑i∈Sci≤b;
使用中心极限定理对原问题进行近似得到一个新的问题,再把优化目标中的分母项转移到约束条件中,将问题转换成一个整数规划问题;
在节点性能已知的情况下使用基于拉格朗日松弛的方法选择合适的节点集;在节点性能未知的情况下,则利用基于强化学习的多臂赌博机方法,通过设置与节点被选择次相关的界限来平衡探索和利用,估计出节点的性能,再使用基于拉格朗日松弛的方法选择合适的节点集。
2.根据权利要求1所述的方法,其特征在于,对原问题进行近似和转化包括:
对原问题使用中心极限定理进行近似处理,得到原优化问题转换为:/>
令xi表示节点i是否被选中,若节点i被选中则xi=1,否则xi=0,将上述优化问题重新被表述为:定义该问题为P1;
增加一个新的实数t来将分母项转移到约束条件中,使问题P1转换为线性问题:max∑i∈[n]pixi,s.t.∑i∈[n]pi(1-pi)xi≤t,Σi∈[n]cixi≤b,xi∈{0,1},i∈[n],定义该问题为P2(t)。
3.根据权利要求2所述的方法,其特征在于,基于拉格朗日松弛的方法选择合适的节点集包括以下步骤:
基于问题P2(t),引入一个松驰项λ,将与pi有关的约束条件移到优化目标上,得到问题LR-P2(t):max∑i∈[n]pixi+λ(t-∑i∈[n]pi(1-pi)xi),s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n];
λ是一个大于0的拉格朗日乘子项,在LR-P2(t)中,去掉λt这一常数项,得到了新的优化问题LR-P3(λ):max∑i∈[n](pi-λpi(1-pi))xi,s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n];
对于每一个固定的λ,用动态规划方法在伪多项式时间内求解问题LR-P3(λ),或采用完全多项式近似方法得到近优的解。
4.根据权利要求3所述的方法,其特征在于,在求解问题LR-P3(λ)时,通过固定增量迭代的增加λ值,进行迭代求解,包括:
在每轮迭代中,为λ增加一个步长大小,判断此时λ是否达到预定义的范围之内的最大值1,若小于1,进入节点选择处理,所有节点拥有成功概率pi和计算成本ci,根据拉格朗日松弛之后的优化问题LR-P3(λ):max∑i∈[n](pi-λpi(1-pi))xi,s.t.∑i∈[n]cixi≤b,xi∈{0,1},i∈[n],其中pi-λpi(1-pi)为节点i在背包问题中的价值,ci为节点i在背包问题中的重量,总成本限制b为背包问题中背包的总容量,使用背包算法对该问题解得一个节点集S。
5.根据权利要求4所述的方法,其特征在于,所述方法在得到节点集S后,利用动态规划算法为已知的节点集计算其任务成功概率,将不同λ对应下得到的节点集的成功概率进行比较,保留最优节点集。
6.根据权利要求1所述的方法,其特征在于,基于强化学习的多臂赌博机方法进行节点性能估计,包括以下步骤:
在每轮迭代中,首先进入识别阶段,识别当前的边界值B和所有节点中最少的被选择次数D,若D<B则进入探索阶段,否则进入利用阶段,其中B为一个与轮次r有关的函数值;
探索阶段分为两种情况进行处理,当D=0时,对节点进行随机排序,并在成本b的限制范围之内选择前|S|个节点;当D>0时,计算每个节点的UCB权重值并根据权重值从大到小在成本b的限制范围之内选择前|S|个节点;
在利用阶段,根据估计的节点信息空间,使用所提出的基于拉格朗日松弛的节点选择方法进行节点选择。
7.根据权利要求6所述的方法,其特征在于,边界值B的计算函数如下:
其中γ为一个实数参数。
8.一种编码分布式计算系统,系统由n个异构节点构成,对于每个新到达的任务请求都选择S∈[n]个节点参与计算,其特征在于,参与计算的这些节点是通过权利要求1-7中任一项所述的面向异构编码分布式计算的节点选择方法方法被选择的。
9.一种计算机设备,其特征在于,包括:一个或多个处理器;存储器;以及一个或多个程序,其中所述一个或多个程序被存储在所述存储器中,并且被配置为由所述一个或多个处理器执行,所述程序被处理器执行时实现如权利要求1-7中任一项所述的面向异构编码分布式计算的节点选择方法的步骤。
10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的面向异构编码分布式计算的节点选择方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311375603.5A CN118158220A (zh) | 2023-10-21 | 2023-10-21 | 一种面向异构编码分布式计算的节点选择方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311375603.5A CN118158220A (zh) | 2023-10-21 | 2023-10-21 | 一种面向异构编码分布式计算的节点选择方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118158220A true CN118158220A (zh) | 2024-06-07 |
Family
ID=91299106
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311375603.5A Pending CN118158220A (zh) | 2023-10-21 | 2023-10-21 | 一种面向异构编码分布式计算的节点选择方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118158220A (zh) |
-
2023
- 2023-10-21 CN CN202311375603.5A patent/CN118158220A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Tong et al. | A scheduling scheme in the cloud computing environment using deep Q-learning | |
CN110688219B (zh) | 基于反向混沌布谷鸟搜索的自适应权重负载均衡算法 | |
CN110659678B (zh) | 一种用户行为分类方法、系统及存储介质 | |
CN112214301B (zh) | 面向智慧城市基于用户偏好的动态计算迁移方法及装置 | |
CN114580636B (zh) | 基于三目标联合优化的神经网络轻量化部署方法 | |
CN108399105B (zh) | 一种基于改进头脑风暴算法的软硬件划分方法 | |
CN116644804B (zh) | 分布式训练系统、神经网络模型训练方法、设备和介质 | |
CN112286686A (zh) | 一种基于pso优化的边缘计算任务调度算法 | |
Mao et al. | Graph mapping offloading model based on deep reinforcement learning with dependent task | |
Zhu et al. | Taming unstructured sparsity on GPUs via latency-aware optimization | |
CN117271101A (zh) | 一种算子融合方法、装置、电子设备及存储介质 | |
CN118158220A (zh) | 一种面向异构编码分布式计算的节点选择方法及系统 | |
CN113163004A (zh) | 一种工业互联网边缘任务卸载决策方法、装置及存储介质 | |
Jeon et al. | Intelligent resource scaling for container based digital twin simulation of consumer electronics | |
CN112199172A (zh) | 一种面向异构多核处理器的混合式任务调度方法 | |
CN116933546A (zh) | 电热综合系统日前随机优化调度分布式求解方法及系统 | |
CN116451585A (zh) | 基于目标检测模型的自适应实时学习任务调度方法 | |
CN115454611A (zh) | 一种基于改进粒子群优化算法的任务调度方法 | |
CN115033361A (zh) | 一种基于改进的麻雀搜索的异构多核处理器任务调度方法 | |
CN115220818A (zh) | 基于深度强化学习的实时依赖型任务卸载方法 | |
CN113469341A (zh) | 一种基于版本差异的流水线并行训练节点权重分配方法 | |
CN115080225A (zh) | 一种单源最短路径计算方法与系统 | |
CN114466014A (zh) | 一种服务调度方法、装置、电子设备及存储介质 | |
Joshua Samuel Raj et al. | Evolutionary Algorithm Based Task Scheduling in IoT Enabled Cloud Environment. | |
CN118133969B (zh) | 一种大语言模型推理加速方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination |