CN117687762B - 一种考虑隐私约束的多数据中心协同调度方法及系统 - Google Patents
一种考虑隐私约束的多数据中心协同调度方法及系统 Download PDFInfo
- Publication number
- CN117687762B CN117687762B CN202410118331.9A CN202410118331A CN117687762B CN 117687762 B CN117687762 B CN 117687762B CN 202410118331 A CN202410118331 A CN 202410118331A CN 117687762 B CN117687762 B CN 117687762B
- Authority
- CN
- China
- Prior art keywords
- data center
- scheduling
- model
- task
- tasks
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 34
- 238000005457 optimization Methods 0.000 claims abstract description 25
- 230000009471 action Effects 0.000 claims description 36
- 238000004220 aggregation Methods 0.000 claims description 30
- 230000002776 aggregation Effects 0.000 claims description 29
- 230000007613 environmental effect Effects 0.000 claims description 14
- 230000005611 electricity Effects 0.000 claims description 9
- 238000013468 resource allocation Methods 0.000 claims description 9
- 230000005540 biological transmission Effects 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 7
- 238000006116 polymerization reaction Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 claims description 4
- 238000010276 construction Methods 0.000 claims description 3
- 230000001186 cumulative effect Effects 0.000 claims 2
- 238000011478 gradient descent method Methods 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 10
- 230000002787 reinforcement Effects 0.000 description 5
- 238000005265 energy consumption Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种考虑隐私约束的多数据中心协同调度方法及系统,涉及任务调度领域。包括:多个数据中心分别构建多个任务的调度策略模型;模型的输入层包括任务特征、计算资源特征以及环境特征;模型的输出层包括调度策略;将多个数据中心的调度策略模型构建无向图;调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型;利用调度策略优化模型得到多个数据中心的任务调度策略。本发明解决了多个数据中心主体间隐私保护的问题。
Description
技术领域
本发明涉及任务调度领域,具体涉及一种考虑隐私约束的多数据中心协同调度方法及系统。
背景技术
数据中心作为数字时代的主要基础设施,随着规模和数量的不断增长,其能耗也在显著增加。数据中心的能耗构成中,对用户提交的任务进行计算所产生的能耗占了绝大部分,这也是目前数据中心行业都在重点关注的问题。计算任务具有独特的运行属性,比如延时容忍性和计算需求可规范性。借助这些属性,我们可以在时间和空间维度进行计算任务调度,使得数据中心具有时空维度的用能灵活性。具体而言,借助规范化容器编排技术,不同的数据中心可以将本地用户提交的任务传输到其他地理位置的数据中心进行计算处理,也可以将时延容忍性高的任务延后一段时间进行计算。在保证用户服务质量的同时,数据中心可以灵活的安排任务计算的时间和地点,通过将任务策略性地调度到具有更低电价或更高服务器可用性的数据中心,可以优化协同任务处理,有效地响应电网的电价信号,实现算力和电力的协同,以充分利用数据中心的能源灵活性。
专利CN103107954A提出了一种基于绿色能源感知的调度方法,对于到达单体数据中心的计算任务进行了时序上的调度安排,使其更好地消纳太阳能。但其没有考虑空间上多个数据中心间的调度。为了解决以上问题,目前的主要技术方法是通过一个中央化的任务调度器,对任务进行集中式的管理调度。这个调度器具有全局的视野,即它可以观测到所有数据中心的资源状态和计算策略。在现实应用中具有很大的局限性,主要原因有两点:1.这种中央化的模式无法保证不同数据中心主体的运行隐私,比如公司利润、调度策略、用户群体等商业机密。这使得现实生活中数据中心进行协同合作十分困难。2.现实生活中的用户任务是高并发的,一小时10万个任务同时到达,在处理这种大规模计算任务调度的时候,中央化的调度方式要把多个数据中心的所有任务汇集到一起进行调度,计算量过大,可能出现求解困难或者求解时间太长的缺陷。本发明提出了一种基于联邦强化学习的分散式的协同调度框架,可以使得多个数据中心主体在保护个体隐私的情况下,进行协同合作调度,可以解决隐私和中央化计算规模过大的问题。专利CN104123182A提出了一种基于主从架构的MapReduce任务跨数据中心调度系统及方法,对MapReduce这类型的任务进行了跨地理位置的多数据中心间的调度,使得数据中心的计算资源被更充分地利用。但是其只针对于MapReduce这一类任务进行调度,并且没有考虑多个数据中心主体间隐私保护的问题。因此,目前仍然需要一种考虑隐私约束的多数据中心协同调度方法及系统,能够解决空间上多个数据中心间的调度时,多个数据中心主体间隐私保护的问题。
发明内容
本发明所要解决的技术问题是现有技术在空间上多个数据中心间的调度时,如何解决多个数据中心主体间隐私保护的问题,目的在于提供一种考虑隐私约束的多数据中心协同调度方法及系统,解决上述技术问题。
本发明通过下述技术方案实现:
一种考虑隐私约束的多数据中心协同调度方法,包括:多个数据中心分别构建多个任务的调度策略模型;上述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;上述调度策略模型的输出层包括多个任务的调度策略;将多个数据中心的上述调度策略模型构建无向图;多个数据中心的上述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型;利用上述调度策略优化模型得到多个数据中心的所有任务的上述调度策略。
上述调度策略包括任务位置放置动作和计算资源分配动作;上述任务位置放置动作用于判断任务为本地数据中心处理或其他数据中心处理;上述计算资源分配动作用于当任务判断为上述本地数据中心处理时分配计算资源。
上述任务特征包括任务执行阶段、当前任务计算进程,以及剩余待执行任务。
上述计算资源特征包括数据中心的总计算资源和当前可用计算资源;上述环境特征包括当前时间和当前电价。
上述调度策略模型的损失目标函数为:
;
其中,表示数据中心;/>表示数据中心/>的上述调度策略模型的参数;/>表示/>的损失目标值;/>表示/>下的上述调度策略;/>是由/>形成的轨迹;s表示上述调度策略模型输入层的状态变量;/>表示上述调度策略模型输出层的动作变量;/>表示在s状态下采取/>动作的概率;/>表示轨迹/>在s状态下采取/>动作累积的回报奖励。
上述回报奖励包括任务计算收入、能耗负成本、传输负成本以及超时罚款。
上述每个数据中心与相邻数据中心的模型参数进行聚合,包括:两个相邻的数据中心通过联邦聚合的方式进行参数聚合,聚合参数方程如下,
;
其中,是上述调度策略模型的随机参数;/>表示聚合后的/>;/>是数据中心的相邻邻居总数,/>。
上述聚合参数方程通过如下聚合目标函数更新:
;
其中,表示/>的聚合目标值;/>表示第/>个数据中心的聚合权重系数;/>表示/>的损失目标值。
一种考虑隐私约束的多数据中心协同调度系统,包括:调度训练模块:多个数据中心分别构建多个任务的调度策略模型;上述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;上述调度策略模型的输出层包括多个任务的调度策略;图构建模块:将多个数据中心的上述调度策略模型构建无向图;参数聚合模块:多个数据中心的上述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型;任务调度模块:利用上述调度策略优化模型得到多个数据中心的所有任务的上述调度策略。
本发明与现有技术相比,具有如下的优点和有益效果:
本发明提供了一种考虑隐私约束的多数据中心协同调度方法,其利用数据中心的任务特征、计算资源特征和环境特征训练得到多个任务的调度策略模型;在此基础上,利用多个数据中心的调度策略模型构建无向图,在对多个数据中心的调度策略模型进行多轮训练后,根据无向图得到相邻的数据中心,将相邻数据中心的模型参数进行聚合,从而利用优化后的模型得到多个数据中心的所有任务的调度策略。数据中心在聚合模型的基础上继续分散式的训练本地的策略,实现分散协同调度,同时,每个数据中心只需要上传自己的模型参数,然后获得一个聚合模型参数,并且,数据中心无法直接反推出其他数据中心的真实参数信息,但可以隐式的学习到其他数据中心的行为特征,以此实现了隐私信息保护情况下的协同任务调度。本发明能够实现多个数据中心主体之间的的任务协同调度,并且保证多个数据中心间隐私保护。
附图说明
为了更清楚地说明本发明示例性实施方式的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。在附图中:
图1为本申请实施例1考虑隐私约束的多数据中心协同调度方法的流程图;
图2为本申请实施例2考虑隐私约束的多数据中心协同调度系统的原理图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,下面结合实施例和附图,对本发明作进一步的详细说明,本发明的示意性实施方式及其说明仅用于解释本发明,并不作为对本发明的限定。
实施例1
如图1所示,本申请实施例提供一种考虑隐私约束的多数据中心协同调度方法,包括:多个数据中心分别构建多个任务的调度策略模型;上述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;上述调度策略模型的输出层包括多个任务的调度策略;将多个数据中心的上述调度策略模型构建无向图;多个数据中心的上述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型;利用上述调度策略优化模型得到多个数据中心的所有任务的上述调度策略。
每个数据中心具有自己的用户群体,用户在每一个时间步向数据中心提交计算任务。到达数据中心的所有任务被存放在任务队列中,数据在一个分散式的框架下,依据自己计算资源的利用率,当前环境特征比如电价来对任务队列中的任务进行优化决策。决策包括决定任务的处理地点,即是本地处理还是转移到其他数据中心处理,以及对本地处理的任务分配计算资源。
上述调度策略包括任务位置放置动作和计算资源分配动作;上述任务位置放置动作用于判断任务为本地数据中心处理或其他数据中心处理;上述计算资源分配动作用于当任务判断为上述本地数据中心处理时分配计算资源。
上述任务特征包括任务执行阶段、当前任务计算进程,以及剩余待执行任务。
上述计算资源特征包括数据中心的总计算资源和当前可用计算资源;上述环境特征包括当前时间和当前电价。
其中,多个任务分配的计算资源总和不超过上述当前可用计算资源。
本发明提出将上述每个数据中心的决策过程建立成了一个深度强化学习模型。构建深度强化学习模型需要定义该马尔可夫决策过程(MDP)中的状态,动作以及奖励函数。本发明构建的MDP模型如下:数据中心共有个,每个数据中心有独特的编号。对于每个数据中心/>,其状态变量/>包括:(1)数据中心队列中任务的特征;(2)数据中心的计算资源特征;(3)环境特征。动作变量/>为任务位置放置动作,计算资源分配动作/>两个层级。
用户在每一个时间步向数据中心提交的计算任务j,被分为可转移的通用任务和不可转移的本地任务/>,表示为:
。
对于通用任务,可以放置到任意一个数据中心进行执行,对于本地任务则该动作的动作空间只有本地数据中心。当数据中心决策完成哪些任务去其余数据中心执行后,对于留在本地的任务,则进行第二个层级的动作,即计算资源分配动作。任务受到其执行顺序的影响,并不是每个任务当前都是可计算的,对于可计算的任务,数据中心为其分配计算资源,并且要求分配的计算资源总和不超过当前数据中心可用的计算资源数量,即。
上述调度策略模型的损失目标函数为:
;
其中,表示数据中心;/>表示数据中心/>的上述调度策略模型的参数;/>表示/>的损失目标值;/>表示/>下的上述调度策略;/>是由/>形成的轨迹;s表示上述调度策略模型输入层的状态变量;/>表示上述调度策略模型输出层的动作变量;/>表示在s状态下采取/>动作的概率;/>表示轨迹/>在s状态下采取/>动作累积的回报奖励。
上述回报奖励包括任务计算收入、能耗负成本、传输负成本以及超时罚款。
表示从t开始到当前T结束的轨迹,即t时刻到T时刻的状态变量、动作变量和回报奖励组成的列表。
数据中心执行动作后的回报奖励函数/>为四项奖励成本的求和。第一项是计算任务获得的收入,该收入是根据用户提交的任务信息所确定的。第二项是负的能耗成本,根据计算量带来的能耗乘以时变的电价得到。第三项是负的传输成本,数据中心间进行传输需要占用带宽资源,产生一个较小的传输成本。第四项是负的截止时间违反惩罚,根据用户的服务质量要求,每个任务有其自己的截止完成时间,如果在该时间前不能完成计算,则需要受到惩罚。根据上述定义的一步的回报奖励函数可以推导出一个长期累计的回报奖励函数:
;
其中,,/>是折扣因子,代表了对于未来收益和当前收益的权衡。
表示数据中心/>从t时刻到当前T时刻形成的轨迹,包括t时刻到T时刻的数据中心状态变量、动作变量和奖励组成的列表。状态变量表示多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;动作变量表示任务位置放置动作和计算资源分配动作;回报奖励表示当前可用计算资源,即任务计算收入、能耗负成本、传输负成本,以及超时罚款。
表示为:
。
是数据中心/>从t时刻到当前T时刻,轨迹/>累积的回报奖励总值:
;
其中,,/>是折扣因子。
上述每个数据中心与相邻数据中心的模型参数进行聚合,包括:两个相邻的数据中心通过联邦聚合的方式进行参数聚合,聚合参数方程如下,
;
其中,是上述调度策略模型的随机参数;/>表示聚合后的/>;/>是数据中心的相邻邻居总数,/>。
上述聚合参数方程通过如下聚合目标函数更新:
;
其中,表示/>的聚合目标值;/>表示第/>个数据中心的聚合权重系数;/>表示/>的损失目标值。/>用于将单个数据中心的损失函数进行组合,以构成聚合目标函数。
MDP模型构建完成后,使用深度神经网络对数据中心的决策模型进行表征,该神经网络的网络结构的输入变量为上述状态变量,输出则为动作变量的优化决策值。基于上述模型,本发明构建了一个分散式的协同优化框架,实现多个数据中心的协同调度。
本发明将含有多个数据中心主体的网络构建成一个无向图,表示为:
;
其中,为节点,每个节点代表一个数据中心的调度策略模型,/>为连接两个节点的边。在这个图结构下,本发明提出了一种分散式联邦学习方法进行迭代更新,以实现多数据中心主体在保护隐私的前提下进行电力算力协同调度。
每个数据中心都是一个深度强化学习模型,其神经网络参数使用代表。在本地训练/>轮之后,每个数据中心与自己相邻的邻居进行参数聚合,相邻邻居即两个节点直接相连的邻居。通过联邦聚合的方式,使得数据中心互相学习其他主体的行为策略。 通过这种聚合方式更新/>,并将聚合后的模型参数/>反馈给各个数据中心。
本发明实施例中,用于实现计及隐私约束的多数据中心算力电力协同优化的算法框架如下:
输入:通讯轮次,训练次数/>,最大训练迭代次数E;
输出:多数据中心协同任务调度策略;
1. 初始化:迭代次数,训练次数/>,随机模型参数/>;
2. 如果,进入步骤3;否则算法结束;
3. 如果;计算/>,并将聚合模型参数反馈给各个数据中心;
4. 如果t<T,进入步骤5;否则进入步骤7;
5. 对每个数据中心,根据策略/>形成的轨迹,计算/>;
6. 更新每个数据中心的模型参数;
7. 。
本发明(CASEI)对比现有的完全中央化的调度(CASE II)和完全分散式的算法(CASE III),在相同的电价和任务到达情况下,本发明的算法在优化效果和时间上均具有优点。下表1为三种算法的优化结果对比:
表1
由上述可知,本发明所提出的算法与完全中央式的调度优化结果十分接近,但是中央式的算法需要知道全局信息,不可以保护数据中心的隐私,而本发明提出的算法在优化结果近似的情况下可以保护数据中心的隐私。同时,本发明提出的算法比完全分散式算法的优化结果成本降低了18.62%,违反率降低了30.77%,具有明显改善。由实验结果可以得到,本发明所提出的算法收敛后的成本与完全中央式的算法十分接近,但收敛速度要快将近10个episode,每一个episode时间大约为35分钟。在收敛速度上有了很大的提升。完全分散式的算法虽然收敛速度快,但是其最终优化结果的成本要高出很多。
本发明实施例提出了一种基于联邦强化学习模型的多数据中心算力电力协同调度方法,其可以实现隐私保护的多主体数据中心间的协同任务调度。提出了对数据中心决策过程的建模方法,并基于模型提出了分散式联邦学习迭代更新框架和优化算法。
实施例2
如图2所示,本申请实施例提供一种考虑隐私约束的多数据中心协同调度系统,包括:调度训练模块:多个数据中心分别构建多个任务的调度策略模型;上述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;上述调度策略模型的输出层包括多个任务的调度策略;图构建模块:将多个数据中心的上述调度策略模型构建无向图;参数聚合模块:多个数据中心的上述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型;任务调度模块:利用上述调度策略优化模型得到多个数据中心的所有任务的上述调度策略。
本申请实施例与实施例1的原理相同,在此不做重复描述。
综上,本发明给出一种考虑隐私约束的多数据中心协同调度方法及系统:
本发明提供了一种考虑隐私约束的多数据中心协同调度方法,其利用数据中心的任务特征、计算资源特征和环境特征训练得到多个任务的调度策略模型;在此基础上,利用多个数据中心的调度策略模型构建无向图,在对多个数据中心的调度策略模型进行多轮训练后,根据无向图得到相邻的数据中心,将相邻数据中心的模型参数进行聚合,从而利用优化后的模型得到多个数据中心的所有任务的调度策略。数据中心在聚合模型的基础上继续分散式的训练本地的策略,实现分散协同调度,同时,每个数据中心只需要上传自己的模型参数,然后获得一个聚合模型参数,并且,数据中心无法直接反推出其他数据中心的真实参数信息,但可以隐式的学习到其他数据中心的行为特征,以此实现了隐私信息保护情况下的协同任务调度。本发明能够实现多个数据中心主体之间的的任务协同调度,并且保证多个数据中心间隐私保护。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种考虑隐私约束的多数据中心协同调度方法,其特征在于,包括:
多个数据中心分别构建多个任务的调度策略模型;所述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;所述调度策略模型的输出层包括多个任务的调度策略;
将多个数据中心的所述调度策略模型构建无向图;
多个数据中心的所述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型,包括:
两个相邻的数据中心通过联邦聚合的方式进行参数聚合,聚合参数方程如下,
;
其中,是所述调度策略模型的随机参数;/>表示聚合后的/>;/>是数据中心的相邻邻居总数,/>;
所述调度策略模型的损失目标函数为:
;
其中,表示数据中心;/>表示数据中心/>的所述调度策略模型的参数;/>表示/>的损失目标值;/>表示/>下的所述调度策略;/>是由/>形成的轨迹;s表示所述调度策略模型输入层的状态变量;a表示所述调度策略模型输出层的动作变量;a|s表示在s状态下采取a动作的概率;/>表示轨迹/>在s状态下采取a动作累积的回报奖励;
数据中心从t时刻到当前T时刻,形成的轨迹/>表示为:;数据中心/>从t时刻到当前T时刻,轨迹/>在s状态下采取a动作累积的所述回报奖励/>表示为: ;其中,/>,/>是折扣因子,代表对于未来收益和当前收益的权衡;
利用所述调度策略优化模型得到多个数据中心的所有任务的所述调度策略。
2.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述调度策略包括任务位置放置动作和计算资源分配动作;所述任务位置放置动作用于判断任务为本地数据中心处理或其他数据中心处理;所述计算资源分配动作用于当任务判断为所述本地数据中心处理时分配计算资源。
3.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述任务特征包括任务执行阶段、当前任务计算进程,以及剩余待执行任务。
4.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述计算资源特征包括数据中心的总计算资源和当前可用计算资源;所述环境特征包括当前时间和当前电价。
5.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述回报奖励包括任务计算收入、能耗负成本、传输负成本以及超时罚款。
6.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述损失目标函数采用梯度下降法更新,其更新公式为:
;
其中,是/>的更新值,/>为更新步长。
7.根据权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法,其特征在于,所述聚合参数方程通过如下聚合目标函数更新:
;
其中,表示/>的聚合目标值;/>表示第/>个数据中心的聚合权重系数;表示/>的损失目标值。
8.用于权利要求1所述的一种考虑隐私约束的多数据中心协同调度方法的系统,其特征在于,包括:
调度训练模块:多个数据中心分别构建多个任务的调度策略模型;所述调度策略模型的输入层包括各数据中心构建的多个任务的任务特征、该数据中心的计算资源特征,以及环境特征;所述调度策略模型的输出层包括多个任务的调度策略;
图构建模块:将多个数据中心的所述调度策略模型构建无向图;
参数聚合模块:多个数据中心的所述调度策略模型进行多轮训练后,每个数据中心与相邻数据中心的模型参数进行聚合,得到调度策略优化模型,包括:
两个相邻的数据中心通过联邦聚合的方式进行参数聚合,聚合参数方程如下,
;
其中,是所述调度策略模型的随机参数;/>表示聚合后的/>;/>是数据中心的相邻邻居总数,/>;
所述调度策略模型的损失目标函数为:
;
其中,表示数据中心;/>表示数据中心/>的所述调度策略模型的参数;/>表示/>的损失目标值;/>表示/>下的所述调度策略;/>是由/>形成的轨迹;s表示所述调度策略模型输入层的状态变量;a表示所述调度策略模型输出层的动作变量;a|s表示在s状态下采取a动作的概率;/>表示轨迹/>在s状态下采取a动作累积的回报奖励;
数据中心从t时刻到当前T时刻,形成的轨迹/>表示为:;数据中心/>从t时刻到当前T时刻,轨迹/>在s状态下采取a动作累积的所述回报奖励/>表示为: ;其中,/>,/>是折扣因子,代表对于未来收益和当前收益的权衡;
任务调度模块:利用所述调度策略优化模型得到多个数据中心的所有任务的所述调度策略。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410118331.9A CN117687762B (zh) | 2024-01-29 | 2024-01-29 | 一种考虑隐私约束的多数据中心协同调度方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410118331.9A CN117687762B (zh) | 2024-01-29 | 2024-01-29 | 一种考虑隐私约束的多数据中心协同调度方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117687762A CN117687762A (zh) | 2024-03-12 |
CN117687762B true CN117687762B (zh) | 2024-04-26 |
Family
ID=90130390
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410118331.9A Active CN117687762B (zh) | 2024-01-29 | 2024-01-29 | 一种考虑隐私约束的多数据中心协同调度方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117687762B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114546608A (zh) * | 2022-01-06 | 2022-05-27 | 上海交通大学 | 一种基于边缘计算的任务调度方法 |
CN115237581A (zh) * | 2022-09-21 | 2022-10-25 | 之江实验室 | 一种面向异构算力的多策略智能调度方法和装置 |
CN116360939A (zh) * | 2023-03-02 | 2023-06-30 | 国网浙江省电力有限公司电力科学研究院 | 基于可信计算的多任务调度方法、系统、设备及存储介质 |
CN116708443A (zh) * | 2023-07-24 | 2023-09-05 | 中国电信股份有限公司 | 多层次算力网络任务调度方法及装置 |
-
2024
- 2024-01-29 CN CN202410118331.9A patent/CN117687762B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114546608A (zh) * | 2022-01-06 | 2022-05-27 | 上海交通大学 | 一种基于边缘计算的任务调度方法 |
CN115237581A (zh) * | 2022-09-21 | 2022-10-25 | 之江实验室 | 一种面向异构算力的多策略智能调度方法和装置 |
CN116360939A (zh) * | 2023-03-02 | 2023-06-30 | 国网浙江省电力有限公司电力科学研究院 | 基于可信计算的多任务调度方法、系统、设备及存储介质 |
CN116708443A (zh) * | 2023-07-24 | 2023-09-05 | 中国电信股份有限公司 | 多层次算力网络任务调度方法及装置 |
Non-Patent Citations (2)
Title |
---|
Online job scheduling scheme for low-carbon data center operation: An information and energy nexus perspective;Wenyu Liu 等;《Applied Energy》;20230313(第338期);第1-12页 * |
能源互联网背景下数据中心与电力系统协同优化(一):数据中心能耗模型;丁肇豪 等;《中国电机工程学报》;20220505;第42卷(第9期);第3161-3176页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117687762A (zh) | 2024-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Fan et al. | A hybrid heuristic optimization of maintenance routing and scheduling for offshore wind farms | |
CN113282368B (zh) | 一种用于变电站巡视的边缘计算资源调度方法 | |
CN109753751B (zh) | 一种基于机器学习的mec随机任务迁移方法 | |
CN113992676B (zh) | 端边云架构和完全信息下分层联邦学习的激励方法及系统 | |
Chen et al. | Multiuser computation offloading and resource allocation for cloud–edge heterogeneous network | |
An et al. | A distributed and resilient bargaining game for weather-predictive microgrid energy cooperation | |
Jiang et al. | Data-driven coordinated charging for electric vehicles with continuous charging rates: A deep policy gradient approach | |
CN113326994A (zh) | 一种考虑源荷储互动的虚拟电厂能量协同优化方法 | |
CN111813539A (zh) | 一种基于优先级与协作的边缘计算资源分配方法 | |
CN108429256A (zh) | 电力系统运行优化方法及终端设备 | |
CN106600080A (zh) | 一种数据网络与电力网络耦合模型参与系统经济调度方法 | |
CN115686846B (zh) | 边缘计算中融合图神经网络和强化学习的容器集群在线部署方法 | |
CN114938372B (zh) | 一种基于联邦学习的微网群请求动态迁移调度方法及装置 | |
Bi et al. | Green energy forecast-based bi-objective scheduling of tasks across distributed clouds | |
Gu et al. | Service management and energy scheduling toward low-carbon edge computing | |
CN114546608A (zh) | 一种基于边缘计算的任务调度方法 | |
Gao et al. | Mean field evolutionary dynamics in dense-user multi-access edge computing systems | |
CN115409431A (zh) | 一种基于神经网络的分布式电力资源调度方法 | |
CN113821346B (zh) | 基于深度强化学习的边缘计算中计算卸载与资源管理方法 | |
Wang | Edge artificial intelligence-based affinity task offloading under resource adjustment in a 5G network | |
Habachi et al. | Eagle strategy based crow search algorithm for solving unit commitment problem in smart grid system | |
Saputra et al. | Federated learning meets contract theory: energy-efficient framework for electric vehicle networks | |
CN117687762B (zh) | 一种考虑隐私约束的多数据中心协同调度方法及系统 | |
Tsang et al. | On-Chain and Off-Chain Data Management for Blockchain-Internet of Things: A Multi-Agent Deep Reinforcement Learning Approach | |
Qiu et al. | Local integrated energy system operational optimization considering multi‐type uncertainties: A reinforcement learning approach based on improved TD3 algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |