CN113391824A - 计算卸载方法、电子设备、存储介质以及计算机程序产品 - Google Patents
计算卸载方法、电子设备、存储介质以及计算机程序产品 Download PDFInfo
- Publication number
- CN113391824A CN113391824A CN202110730095.2A CN202110730095A CN113391824A CN 113391824 A CN113391824 A CN 113391824A CN 202110730095 A CN202110730095 A CN 202110730095A CN 113391824 A CN113391824 A CN 113391824A
- Authority
- CN
- China
- Prior art keywords
- node
- unloading
- task
- target node
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 84
- 238000004590 computer program Methods 0.000 title claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 73
- 230000005540 biological transmission Effects 0.000 claims abstract description 41
- 238000005265 energy consumption Methods 0.000 claims abstract description 29
- 238000004364 calculation method Methods 0.000 claims description 42
- 230000015654 memory Effects 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 27
- 238000004891 communication Methods 0.000 description 18
- 238000004422 calculation algorithm Methods 0.000 description 15
- 230000009471 action Effects 0.000 description 14
- 230000001360 synchronised effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 230000007704 transition Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/60—Software deployment
- G06F8/61—Installation
- G06F8/62—Uninstallation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
- G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/504—Resource capping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/509—Offload
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
本申请实施例提供了一种计算卸载方法、电子设备、存储介质以及计算机程序产品。该方法应用于天地一体化网络,该天地一体化网络包括多个计算节点,该方法包括:该多个计算节点中的目标节点接收待处理任务,并获取其算力信息以及该至少一个第一节点各自的算力信息和传输信息,该至少一个第一节点为该多个计算节点中除目标节点之外的节点,并根据其算力信息以及该至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略,再根据该卸载策略对该待处理任务进行计算卸载,实现了对待处理任务的有效卸载,进而实现了在低能耗、低时延的情况下完成数据处理的任务。
Description
技术领域
本申请实施例涉及数据处理技术领域,并且更具体地,涉及计算卸载方法、电子设备、存储介质以及计算机程序产品。
背景技术
天地一体化网络是一个能够实现空间信息实时采集、传输和处理的网络系统。由于天地一体化网络中存在卫星数量不足、卫星类型单一、在轨升级困难等问题,使得天地一体化网络面临着计算资源受限、能力迥异的困境。因此,如何利用有限的计算资源,在低能耗、低时延的情况下完成数据处理的任务是当前亟待解决的问题。
发明内容
本申请实施例提供了一种计算卸载方法、电子设备、存储介质以及计算机程序产品,能够通过对待处理任务的有效卸载,实现在低能耗、低时延的情况下完成数据处理的任务。
第一方面,提供一种计算卸载方法,该方法应用于天地一体化网络,所该天地一体化网络包括多个计算节点,该方法包括:
该多个计算节点中的目标节点接收待处理任务;
该目标节点获取其算力信息以及该至少一个第一节点各自的算力信息和传输信息,该至少一个第一节点为多个计算节点中除该目标节点之外的节点;
该目标节点根据其算力信息以及该至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略;
该目标节点根据该卸载策略对该待处理任务进行计算卸载。
第二方面,提供一种电子设备,该电子设备为天地一体化网络中的多个计算节点中的任一节点,该电子设备包括:
接收单元,用于接收待处理任务;
获取单元,用于获取其算力信息以及该至少一个第一节点各自的算力信息和传输信息,该至少一个第一节点为该多个计算节点中除该电子设备之外的节点;
处理单元,用于根据其算力信息以及该至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略;
该处理单元还用于根据该卸载策略对该待处理任务进行计算卸载。
第三方面,提供一种电子设备,包括:处理器和存储器,该存储器用于存储计算机程序,该处理器用于调用并运行该存储器中存储的计算机程序,执行如第一方面或其各实现方式中的方法。
第四方面,提供一种计算机可读存储介质,用于存储计算机程序,计算机程序使得计算机执行如第一方面或其各实现方式中的方法。
第五方面,提供一种计算机程序产品,包括计算机程序指令,该计算机程序指令使得计算机执行如第一方面或其各实现方式中的方法。
第六方面,提供一种计算机程序,计算机程序使得计算机执行如第一方面或其各实现方式中的方法。
本申请实施例中,目标节点根据获取的该目标节点的算力信息以及与其连接的至少一个第一节点各自的算力信息和传输信息,确定卸载策略,进而根据该卸载策略进行计算卸载。实现了对待处理任务的有效卸载,进而实现了在低能耗、低时延的情况下完成数据处理的任务。
附图说明
图1为本申请实施例提供的一种天地一体化网络100的结构示意图;
图2为本申请实施例提供的一种计算卸载方法200的流程示意图;
图3为本申请实施例提供的另一种计算卸载方法300的流程示意图;
图4为本申请实施例提供的另一种计算卸载方法400的流程示意图;
图5为本申请实施例提供的另一种计算卸载方法500的流程示意图;
图6为本申请实施例提供的一种电子设备600的示意性框图;
图7为本申请实施例提供的一种电子设备700示意性结构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。针对本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例的执行主体为电子设备,该电子设备可以是一种通信系统中的任一计算节点(同下文中的目标节点),并与该通信系统中的其他至少一个计算节点(同下文中的第一节点)通过有线或者无线的方式连接,本实施例对通信系统的类型不做限定,但尤其适用于天地一体化网络。下面结合图1对天地一体化网络进行说明。
图1为本申请实施例提供的一种天地一体化网络100的结构示意图。结合图1所示,天地一体化网络100包括深空层、天基层和地面陆基层,在一些场景中,天地一体化网络100还包括海基层。示例性的,在深空层中部署有天基骨干网络,在天基层中部署有天基边缘接入网络,在地面陆基层部署有地基骨干网络。在每层的网络中分别部署有一至多个计算节点,示例性的,天基骨干网络中部署有一至多个高轨骨干节点(卫星),天基边缘接入网络中部署有各种卫星或者卫星组,例如导航星座、气象卫星、小卫星编队、遥感卫星/星座或者其他卫星。地基骨干网络中部署有一直多个地基骨干节点、地面卫星、基站等。
在上述天地一体化网络中,若出现大型复杂任务,或者紧急任务,则网络中的计算节点由于计算能力受限不能高效执行任务,甚至导致任务处理失败。
为了解决上述问题,本申请提出一种计算卸载方案,根据目标节点自身的算力信息以及与目标节点连接的至少一个第一节点各自的算力信息和传输信息,确定卸载策略,进而将目标节点的任务进行计算卸载,进而实现利用有限的计算资源,在低能耗、低时延的情况下完成对待处理任务的处理。
为了便于更好的理解本申请的技术方案,下面对本申请相关的计算卸载进行说明。
计算卸载(Computation Offloading),也称任务卸载,应用于计算能力不足或者存储资源受限的各类计算节点。使待处理任务分布到有足够计算资源和存储资源的计算节点进行处理。
下面将对本申请实施例技术方案进行详细阐述:
图2为本申请实施例提供的一种计算卸载方法200的流程示意图。如图2所示,该方法包括:
S201:多个计算节点中的目标节点接收待处理任务;
S202:获取目标节点的算力信息以及至少一个第一节点各自的算力信息和传输信息,至少一个第一节点为多个计算节点中除目标节点之外的节点;
S203:根据目标节点的算力信息以及至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略;
S204:根据该卸载策略对该待处理任务进行计算卸载。
可选的,目标节点或者任一第一节点的算力信息均可以包括以下示例中的至少一种:中央处理器(Central Processing Unit,CPU)的总计算能力、CPU的剩余计算能力、CPU的利用率、CPU的处理速度。
可选的,任一第一节点的传输信息可以包括以下示例中的至少一项:该第一节点与目标节点之间的距离、第一节点相对于目标节点的速度矢量(相对速度和方向)、第一节点与目标节点之间的无线通信网络的传输速度。
针对上述S202,在一种具体的实现方式中,目标节点可以直接读取其算力信息,或者,结合图3所示,目标节点可以通过环境感知系统读取其CPU利用率和CPU处理速度。
可选的,至少一个第一节点可以是在通信系统中与目标节点连接的全部或者部分计算节点。
针对上述S202,作为一种示例,目标节点可以通过环境感知系统读取至少一个第一节点各自的算力信息和传输信息。作为另一种示例,目标节点可以向每个第一节点发送计算卸载请求,并接收每个第一节点发送的计算卸载响应,可选的,该计算卸载响应携带有算力信息和传输信息,例如第一节点的轨道信息、第一节点与目标节点之间的距离、第一节点相对于目标节点的速度矢量(相对速度和方向)、第一节点与目标节点之间的无线通信网络的传输速度,或,第一节点的CPU)的总计算能力、CPU的剩余计算能力、CPU的利用率或CPU的处理速度中的至少一种。
针对上述S203,说明如下:
示例性的,目标节点可以根据获取的其自身的算力信息,计算其处理待处理任务所需的时耗和能耗;并且,目标节点可以根据获取的每个第一节点的算力信息和传输信息,确定该第一节点处理该待处理任务所需的时耗和能耗。进而比较目标节点和每个第一节点,确定该待处理任务需要目标节点处理,或者由哪个或者哪些卸载节点进行处理,或者由目标节点和哪个或者哪些卸载节点共同进行处理。
需要说明的是,第一节点的时耗应包括处理待处理任务的时耗和传输时耗,传输时耗包括接收目标节点发送任务数据的时耗和向目标节点发送处理结果的时耗。
可选的,上述S203中确定的卸载策略可以包括至少一个卸载节点和/或卸载方式。可选的,卸载方式包括:部分卸载、全部卸载或本地处理。
可选的,在确定卸载策略时,可以结合待处理任务的任务类型,将该任务类型对应的第一节点作为卸载节点。
示例性的,上述S204中,在卸载方式指示对待处理任务进行全部卸载的情况下,目标节点可以根据至少一个卸载节点的算力信息,将所述待处理任务划分为与至少一个卸载节点中每个卸载节点对应的子任务,并将至少一个子任务分别卸载至对应的卸载节点,使每个卸载节点分别对各自的子任务进行处理。
示例性的,上述S204中,在卸载方式指示对待处理任务进行部分卸载的情况下,目标节点可以根据目标节点的算力信息和至少一个卸载节点各自的算力信息,将待处理任务划分为与目标节点对应的本地子任务和与至少一个卸载节中每个卸载节点对应的卸载子任务,并将至少一个卸载子任务分别卸载至对应的卸载节点。
可选的,在S204之后,目标节点接收至少一个卸载节点发送的数据处理结果,以完成任务处理过程。
作为一种示例,当卸载方式指示对待处理任务进行全部卸载的情况下,目标节点可以接收至少一个卸载节点中每个卸载节点发送的卸载任务处理结果,并根据卸载任务处理结果,得到待处理任务的处理结果。
作为另一种示例,当卸载方式指示对待处理任务进行部分卸载的情况下,目标节点可以接收至少一个卸载节点中每个卸载节点发送的卸载任务处理结果,并对目标节点对应的本地子任务进行处理得到本地任务处理结果,再根据每个卸载节点发送的卸载任务处理结果和目标节点的本地任务处理结果,得到待处理任务的处理结果。
在一些实施例中,在目标节点在预设时间内未接收到卸载任务处理结果的情况下,目标节点可以对至少一个卸载节点分别对应的至少一个卸载子任务进行处理,得到卸载任务处理结果。进一步的,若存在目标节点对应的本地子任务,则目标节点根据卸载任务处理结果和本地任务处理结果得到待处理任务的处理结果;若不存在目标节点对应的本地子任务,则目标节点将卸载任务处理结果作为待处理任务的处理结果。
在一些实施例中,目标节点可以根据其算力信息确定其卸载参数,并根据至少一个第一节点各自的算力信息和传输信息,分别确定至少一个第一节点各自的卸载参数;并根据其卸载参数和至少一个第一节点各自的卸载参数,确定卸载方式和/或至少一个卸载节点。
示例性的,目标节点可以根据其算力信息,确定目标节点处理该任务所需的时耗信息和能耗信息,并基于预设的能耗权重或时延权重,对目标节点的能耗信息和时耗信息进行加权运算,得到目标节点的卸载评估值。
示例性的,目标节点针对至少一个第一节点中的每个第一节点,根据该第一节点的算力信息确定能耗信息,并根据第一节点的算力信息和传输信息确定时耗信息;并基于预设的能耗权重或时延权重,对第一节点的能耗信息和时耗信息进行加权运算,得到第一节点的卸载参数。
需要说明的是,能耗权重和时延权重的和等于1。
可选的,待处理任务的任务类型中可以指示该任务是时延敏感任务或者非时延敏感任务。在待处理任务是时延敏感任务时,应设置时延权重大于能耗权重,在待处理任务是非时延敏感任务时,应设置时延权重小于能耗权重。目标节点可以根据任务类型的指示选择对应的能耗权重或时延权重。
在一些实施例中,目标节点通过马尔科夫决策模型,根据其算力信息以及所述至少一个第一节点各自的算力信息和传输信息,确定所述卸载策略。
示例性的,目标节点可以将目标节点的算力信息以及至少一个第一节点各自的算力信息和传输信息输入马尔科夫决策模型,以得到卸载策略。
例如,将天地一体化网络中的计算卸载问题转化为马尔科夫决策问题。马尔科夫决策的过程可以表示为:M=(S,A,Psa,R),其中,代表一个马尔科夫过程中的所有状态的集合,si代表第i步所处的状态;代表所有动作的集合,ai代表第i步采取的动作;Psa代表采取动作后从当前状态转移到某一状态的概率,具体表达的含义是,在当前s∈S的状态下,选择动作a∈A后,改变当前状态s到下一状态s'的概率分布;R表示奖励函数,如果状态为s动作为a的选择,转移到的下个状态为s′,那么奖励函数可记为r(s′|s,a)。将马尔科夫过程应用到计算卸载算法中,分析计算卸载的状态转换过程,建立有效的卸载网络模型,即马尔科夫模型。
示例性的,目标节点可以通过马尔科夫决策模型和,Q学习算法或深度Q学习(DeepQ-learning,DQN)算法,根据其算力信息以及所述至少一个第一节点各自的算力信息和传输信息,确定所述卸载策略。
在天地一体化网络中,本申请中的计算卸载环境是一个有限状态的马尔科夫过程,当目标节点在所有计算节点offloadee集合中选择某一offloadee,环境接收该动作并作出相应的状态转移,并根据奖赏函数计算出奖励值。如果此动作导致的奖励值为正值则说明此后选择offloadee的可能性会增加,反之,如果此奖励值为负值,趋势会减弱。
在天地一体化网络环境中,各目标节点和卸载节点之间的相对位置和网络带宽都是动态变化的,为任务的卸载决策带来了很大的挑战。以往提及的算法大多只考虑当前环境,没有考虑天地一体化网络的动态特点,这样会带来两个问题:第一,不能充分利用卸载节点的资源;第二,在降低时延方面,效果不够明显。为了解决这两个问题,本论文提出了基于Q学习的最优卸载策略算法,下面给出如何得到使得任务卸载过程时延和能耗总开销最小的最佳卸载策略。
Q学习算法中目标节点通过即时动作值和累积奖励值进行状态的转移决策,针对计算卸载的马尔科夫模型,当目标节点进行计算卸载时,对周围的信道状态进行估计,对计算能力进行监测。
Q学习算法Q-learning虽然可以通过获得最大的奖励来解决问题,但并不理想。如果采用Q-learning,这意味着对于每个状态-动作组,我们需要计算并将其对应的Q值存储在一个表中。但在实际问题中,天地一体化网络卸载环境复杂多变,可能的状态可能超过1万。在Q表中存储所有的Q值,会导致矩阵Q(s,a)非常大。这样就很难得到足够的样本来遍历每个状态,从而导致算法的失败。因此,本实施例提出使用深度神经网络来估计Q(s,a),而不是计算每个状态动作对的Q值。
因此,本申请实施例中,目标节点根据获取的该目标节点的算力信息以及与其连接的至少一个第一节点各自的算力信息和传输信息,确定卸载策略,进而根据该卸载策略进行计算卸载。实现了对待处理任务的有效卸载,进而实现了在低能耗、低时延的情况下完成数据处理的任务。
结合图3所示,在一些实施例中,本申请实施例量化了计算卸载执行的衡量指标,用于衡量是否达到时延最小化、存储最小化、能耗最小化、性能最优化、安全最大化、鲁棒最大化,建立卸载模型,提出卸载算法,对计算卸载策略进行了仿真分析;计算卸载执行过程可以总结为如下:当网络中存在目标节点的卸载请求时,目标节点首先通过环境感知系统搜集并分析各种资源信息(终端的CPU利用率、处理速度、网络连接等),同时搜集并分析覆盖该目标节点的卸载站点(即至少一个第一节点)的业务容量和处理速度、无线网络的信道条件等;根据卸载任务的任务类型进行选择卸载站点(即至少一个卸载节点),例如天基骨干节点、边缘接入节点、地基骨干节点中的至少一种,并且根据不同的卸载站点进行卸载方式的选取,执行的任务分为两类:本地部分和卸载部分,前者在本地执行,而后者通过无线网络卸载到卸载站点执行;一旦处理完成后,立即将结果返回。而任务卸载的算法主要是综合考虑各项度量指标(任务执行能耗最低、任务完成时间最短、用户偏好等),卸载决策模块(例如部署有马尔科夫模型的模块)是其中最核心的部分,感知最佳的卸载站点,融合卸载端和多个卸载站点构成的多个卸载渠道,并且可以结合Q/DQN算法,做出最优卸载决策。
图4为本申请实施例提供的另一种计算卸载方法400的流程示意图。结合图4所示,该方法包括:
(1)任务分类
对于每一个设备端的任务,都可以分为两类:1)不可卸载任务:此类任务必须在本地执行。2)可卸载任务:此类任务既可以在本地执行,也可以卸载到天地一体化网络中的其他计算节点上执行,具体是否执行卸载操作,取决于通信开销与计算开销之间的博弈。这个过程是指把任务从本地卸载到天地一体化网络中的卸载站点执行,可以降低终端设备的计算开销,但同时数据传输会引入额外的通信开销。当计算量很大而通信量很小时可以选择卸载,而当计算量很小而通信量特别大的情况下不卸载,介于两种情况之间的任务,需要对通信开销与计算开销进行动态博弈。
(2)建立任务卸载模型
针对天地一体化网络的结构特点,本论文建立了任务卸载到三种不同卸载站点的任务卸载模型。三种不同卸载站点包括天基骨干节点、地基骨干节点和边缘接入节点。因为三者在天地一体化网络中的位置、本身的计算能力都有较大差别,因此对其分别进行建模,以得到更精确的时延、能耗等开销的计算表达式。同时,也考虑了任务之间的关联性,有些任务很特殊,必须在它的前一个任务执行完毕后,才可以执行,对于这类需求,建模过程中引入了就绪时间的概念。最后,对卸载站点还进行了细划分,将其划分为通信受限和计算受限两种类型。
(3)发送卸载请求
(4)卸载网络的选择
任务计算卸载过程中,需要选取合适的卸载网络,才能保证任务卸载的顺利完成。在本论文中,在建立通信模型时,利用马尔科夫信道模型对信道进行估计。同时利用自由空间的颠簸传输损耗的Friis公式和三次样条插值的无线信号强度衰减模型计算出卸载站点与卸载终端的通信连接时间,即驻留时间,并以此为依据计算出当前卸载站点能够提供给卸载任务的计算能力。
(5)卸载站点响应
该响应包括:卸载节点的轨道信息、卸载节点与目标节点之间的距离、卸载节点相对于目标节点的速度矢量(相对速度和方向)、卸载节点与目标节点之间的无线通信网络的传输速度,或,卸载节点的CPU)的总计算能力、CPU的剩余计算能力、CPU的利用率或CPU的处理速度中的至少一种。
(6)卸载任务分类
(7)根据能够在给定时间内完成任务选择可卸载站点
(8)马尔科夫决策过程
计算卸载的最终目标也是得到最优的卸载策略,因此根据实际的服务场景构建基于马尔科夫链的计算卸载过程。综合考虑本论在前文中给出的任务卸载执行模型、信道模型、卸载网络选择的特点,将天地一体化网络中的计算卸载问题转化为马尔科夫决策过程(MDP)。在每个阶段,对于K+1个站点,我们有K+1个动作选择。我们将状态s的动作集定义为As,并且在阶段t采取的动作由at∈As表示。
(9)最优卸载策略
确定卸载策略可以基于一下至少一项:获取天地一体化网络资源信息,对待处理任务特征进行分析(如数据量、计算量等),设置时延权重和能耗权重,使通信开销与计算开销进行博弈。
对于计算卸载的卸载策略,本论文采用基于Q学习和基于DQN的算法来更新策略。利用动作值函数寻找最优的策略,寻找到对于每个状态来说的最佳动作,完成任务最优卸载。计算卸载环境是一个有限状态的马尔科夫过程,当终端在所有卸载站点集合中选择某一个卸载站点,环境接收该动作并作出相应的状态转移,并根据奖赏函数计算出奖励值,根据奖励值进行策略更新,最后得到最优的卸载策略。
最终实现减少处理待处理任务的时耗、降低能耗以及负载均衡。
图5为本申请实施例提供的另一种计算卸载方法500的流程示意图。结合图5所示,该方法包括:
目标节点向卸载决策系统发送计算卸载请求,并接收卸载决策系统发送的计算卸载响应;目标节点通过卸载决策系统感知、检查自身的算力信息以及卸载端的至少一个第一节点的算力信息和传输信息,该至少一个第一节点可以为天基骨干节点、边缘接入节点、地基骨干节点中的至少一个;进而目标节点通过卸载决策系统基于Q学习算法确定卸载策略,卸载决策系统将卸载策略发送至目标节点,目标节点按照卸载策略与卸载端的至少一个卸载节点建立通信连接,并向至少一个卸载节点进行计算卸载;至少一个卸载节点在完成任务处理后向目标节点发送处理结果。
需要说明的是,图5中的卸载决策系统可以作为一种软件系统部署于目标节点中,或者可以是部署于目标节点之外的其他设备。
上文结合图2至图5,详细描述了本申请的方法实施例,下文结合图6和图7,详细描述本申请的装置实施例,应理解,装置实施例与方法实施例相互对应,类似的描述可以参照方法实施例。
图6为本申请实施例提供的一种电子设备600的示意性框图。如图6所示,该电子设备600包括:
接收单元610,用于接收待处理任务;
获取单元620,用于获取其算力信息以及该至少一个第一节点各自的算力信息和传输信息;
处理单元630,用于根据其算力信息以及该至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略;
该处理单元630还用于根据该卸载策略对该待处理任务进行计算卸载。
可选的,卸载策略包括至少一个卸载节点和/或卸载方式。
在一些实施例中,处理单元630具体用于:
根据该至少一个卸载节点的算力信息,将该待处理任务划分为与该至少一个卸载节点分别对应的至少一个子任务;
将该至少一个子任务分别卸载至对应的卸载节点。
在一些实施例中,处理单元630具体用于:
根据电子设备的算力信息和该至少一个卸载节点各自的算力信息,将该待处理任务划分为与该电子设备对应的本地子任务和与该至少一个卸载节分别对应的至少一个卸载子任务;
将该至少一个卸载子任务分别卸载至对应的卸载节点。
在一些实施例中,处理单元630具体用于:
根据其算力信息确定其卸载参数,并根据该至少一个第一节点各自的算力信息和传输信息,分别确定该至少一个第一节点各自的卸载参数;
根据其卸载参数和该至少一个第一节点各自的卸载参数,确定该卸载方式和/或该至少一个卸载节点。
在一些实施例中,处理单元630具体用于:
针对该至少一个第一节点中的每个第一节点,根据该第一节点的算力信息确定能耗信息,并根据该第一节点的算力信息和传输信息确定时耗信息;
基于预设的能耗权重或时延权重,对该第一节点的能耗信息和时耗信息进行加权运算,得到该第一节点的卸载参数。
在一些实施例中,接收单元610还用于:接收该至少一个卸载节点发送的卸载任务处理结果;处理单元630还用于:根据该卸载任务处理结果和/或该目标节点的本地任务处理结果,得到该待处理任务的处理结果。
在一些实施例中,处理单元630还用于:在预设时间内未接收到该卸载任务处理结果的情况下,对该至少一个卸载节点分别对应的至少一个卸载子任务进行处理,得到该卸载任务处理结果。
在一些实施例中,处理单元630具体用于:
通过马尔科夫决策模型和/或Q学习算法,根据其算力信息以及该至少一个第一节点各自的算力信息和传输信息,确定该待处理任务的卸载策略。
上述实施例提供的电子设备,可以执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图7为本申请实施例提供的一种电子设备700示意性结构图。如图7所示的电子设备包括处理器710,处理器710可以从存储器中调用并运行计算机程序,以实现本申请实施例中的方法。
可选地,如图7所示,电子设备700还可以包括存储器720。其中,处理器710可以从存储器720中调用并运行计算机程序,以实现本申请实施例中的方法。
其中,存储器720可以是独立于处理器710的一个单独的器件,也可以集成在处理器710中。
可选地,如图7所示,电子设备700还可以包括收发器730,处理器710可以控制该收发器730与其他设备进行通信,具体地,可以向其他设备发送信息或数据,或接收其他设备发送的信息或数据。
其中,收发器730可以包括发射机和接收机。收发器730还可以进一步包括天线,天线的数量可以为一个或多个。
可选地,该电子设备700可以实现本申请实施例的各个方法中终端设备对应的相应流程,为了简洁,在此不再赘述。
应理解,本申请实施例的处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法实施例的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
可以理解,本申请实施例中的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data RateSDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambus RAM,DR RAM)。应注意,本文描述的系统和方法的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
应理解,上述存储器为示例性但不是限制性说明,例如,本申请实施例中的存储器还可以是静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synch link DRAM,SLDRAM)以及直接内存总线随机存取存储器(Direct Rambus RAM,DR RAM)等等。也就是说,本申请实施例中的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
本申请实施例还提供了一种计算机可读存储介质,用于存储计算机程序。
可选的,该计算机可读存储介质可应用于本申请实施例中的终端设备或服务器,并且该计算机程序使得计算机执行本申请实施例的各个方法中由的相应流程,为了简洁,在此不再赘述。
本申请实施例还提供了一种计算机程序产品,包括计算机程序指令。
可选的,该计算机程序产品可应用于本申请实施例中的终端设备或服务器,并且该计算机程序指令使得计算机执行本申请实施例的各个方法中的相应流程,为了简洁,在此不再赘述。
本申请实施例还提供了一种计算机程序。
可选的,该计算机程序可应用于本申请实施例中的终端设备或服务器,当该计算机程序在计算机上运行时,使得计算机执行本申请实施例的各个方法中的相应流程,为了简洁,在此不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的设备、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。针对这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
Claims (12)
1.一种计算卸载方法,其特征在于,所述方法应用于天地一体化网络,所述天地一体化网络包括多个计算节点,所述方法包括:
所述多个计算节点中的目标节点接收待处理任务;
所述目标节点获取其算力信息以及至少一个第一节点各自的算力信息和传输信息,所述至少一个第一节点为所述多个计算节点中除所述目标节点之外的节点;
所述目标节点根据其算力信息以及所述至少一个第一节点各自的算力信息和传输信息,确定所述待处理任务的卸载策略;
所述目标节点根据所述卸载策略对所述待处理任务进行计算卸载。
2.根据权利要求1所述的方法,其特征在于,所述卸载策略包括至少一个卸载节点和/或卸载方式,所述至少一个卸载节点为所述至少一个第一节点中的部分或者全部节点,所述卸载方式用于指示对所述待处理任务进行全部卸载或部分卸载。
3.根据权利要求2所述的方法,其特征在于,在所述卸载方式指示对所述待处理任务进行全部卸载的情况下,所述目标节点根据所述卸载策略对所述待处理任务进行计算卸载,包括:
所述目标节点根据所述至少一个卸载节点的算力信息,将所述待处理任务划分为与所述至少一个卸载节点分别对应的至少一个子任务;
所述目标节点将所述至少一个子任务分别卸载至对应的卸载节点。
4.根据权利要求2所述的方法,其特征在于,在所述卸载方式指示对所述待处理任务进行部分卸载的情况下,所述目标节点根据所述卸载策略对所述待处理任务进行计算卸载,包括:
所述目标节点根据所述目标节点的算力信息和所述至少一个卸载节点各自的算力信息,将所述待处理任务划分为与所述目标节点对应的本地子任务和与所述至少一个卸载节点分别对应的至少一个卸载子任务;
所述目标节点将所述至少一个卸载子任务分别卸载至对应的卸载节点。
5.根据权利要求2至4任一项所述的方法,其特征在于,所述目标节点根据其算力信息以及所述至少一个第一节点各自的算力信息和传输信息,确定待处理任务的卸载策略,包括:
所述目标节点根据其算力信息确定其卸载参数,并根据所述至少一个第一节点各自的算力信息和传输信息,分别确定所述至少一个第一节点各自的卸载参数;
所述目标节点根据其卸载参数和所述至少一个第一节点各自的卸载参数,确定所述至少一个卸载节点和/或所述卸载方式。
6.根据权利要求5所述的方法,其特征在于,所述目标节点根据所述至少一个第一节点各自的算力信息和传输信息,分别确定所述至少一个第一节点各自的卸载参数,包括:
所述目标节点针对所述至少一个第一节点中的每个第一节点,根据所述第一节点的算力信息确定能耗信息,并根据所述第一节点的算力信息和传输信息确定时耗信息;
所述目标节点基于预设的能耗权重或时延权重,对所述第一节点的能耗信息和时耗信息进行加权运算,得到所述第一节点的卸载参数。
7.根据权利要求2至4任一项所述的方法,其特征在于,所述方法还包括:
所述目标节点接收所述至少一个卸载节点发送的卸载任务处理结果;
根据所述卸载任务处理结果和/或所述目标节点的本地任务处理结果,得到所述待处理任务的处理结果。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
在预设时间内未接收到所述卸载任务处理结果的情况下,所述目标节点对所述至少一个卸载节点分别对应的至少一个卸载子任务进行处理,得到所述卸载任务处理结果。
9.一种电子设备,其特征在于,所述电子设备为天地一体化网络中的多个计算节点中的任一节点,所述电子设备包括:
接收单元,用于接收待处理任务;
获取单元,用于获取其算力信息以及至少一个第一节点各自的算力信息和传输信息,所述至少一个第一节点为所述多个计算节点中除所述电子设备之外的节点;
处理单元,用于根据其算力信息以及所述至少一个第一节点各自的算力信息和传输信息,确定所述待处理任务的卸载策略;
所述处理单元还用于根据所述卸载策略对所述待处理任务进行计算卸载。
10.一种电子设备,其特征在于,包括:处理器和存储器;
所述存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,执行如权利要求1至8任一项所述的方法。
11.一种计算机可读存储介质,其特征在于,用于存储计算机程序,所述计算机程序使得计算机执行如权利要求1至8任一项所述的方法。
12.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110730095.2A CN113391824A (zh) | 2021-06-29 | 2021-06-29 | 计算卸载方法、电子设备、存储介质以及计算机程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110730095.2A CN113391824A (zh) | 2021-06-29 | 2021-06-29 | 计算卸载方法、电子设备、存储介质以及计算机程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113391824A true CN113391824A (zh) | 2021-09-14 |
Family
ID=77624623
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110730095.2A Pending CN113391824A (zh) | 2021-06-29 | 2021-06-29 | 计算卸载方法、电子设备、存储介质以及计算机程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113391824A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114710485A (zh) * | 2022-02-21 | 2022-07-05 | 联想(北京)有限公司 | 处理方法和处理装置 |
CN115250142A (zh) * | 2021-12-31 | 2022-10-28 | 中国科学院上海微系统与信息技术研究所 | 一种基于深度强化学习的星地融合网络多节点计算资源分配方法 |
CN116841754A (zh) * | 2023-08-31 | 2023-10-03 | 中国电子信息产业集团有限公司第六研究所 | 一种低轨卫星边缘计算服务系统及方法 |
CN117155791A (zh) * | 2023-10-31 | 2023-12-01 | 浪潮电子信息产业股份有限公司 | 基于集群拓扑结构的模型部署方法、系统、设备及介质 |
WO2023246757A1 (zh) * | 2022-06-21 | 2023-12-28 | 维沃移动通信有限公司 | 算力服务方法、装置及终端 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111726826A (zh) * | 2020-05-25 | 2020-09-29 | 上海大学 | 一种基站密集型边缘计算网络中的在线任务卸载方法 |
CN112181665A (zh) * | 2020-10-21 | 2021-01-05 | 中国联合网络通信集团有限公司 | 一种低轨卫星的任务优化方法和装置 |
CN112616152A (zh) * | 2020-12-08 | 2021-04-06 | 重庆邮电大学 | 一种基于独立学习的移动边缘计算任务卸载方法 |
-
2021
- 2021-06-29 CN CN202110730095.2A patent/CN113391824A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111726826A (zh) * | 2020-05-25 | 2020-09-29 | 上海大学 | 一种基站密集型边缘计算网络中的在线任务卸载方法 |
CN112181665A (zh) * | 2020-10-21 | 2021-01-05 | 中国联合网络通信集团有限公司 | 一种低轨卫星的任务优化方法和装置 |
CN112616152A (zh) * | 2020-12-08 | 2021-04-06 | 重庆邮电大学 | 一种基于独立学习的移动边缘计算任务卸载方法 |
Non-Patent Citations (1)
Title |
---|
宋晓诗 等: "面向5G的MEC系统关键技术", 中兴通讯技术, no. 01, 10 January 2018 (2018-01-10), pages 25 - 29 * |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115250142A (zh) * | 2021-12-31 | 2022-10-28 | 中国科学院上海微系统与信息技术研究所 | 一种基于深度强化学习的星地融合网络多节点计算资源分配方法 |
CN115250142B (zh) * | 2021-12-31 | 2023-12-05 | 中国科学院上海微系统与信息技术研究所 | 一种基于深度强化学习的星地融合网络多节点计算资源分配方法 |
CN114710485A (zh) * | 2022-02-21 | 2022-07-05 | 联想(北京)有限公司 | 处理方法和处理装置 |
CN114710485B (zh) * | 2022-02-21 | 2023-10-27 | 联想(北京)有限公司 | 处理方法和处理装置 |
WO2023246757A1 (zh) * | 2022-06-21 | 2023-12-28 | 维沃移动通信有限公司 | 算力服务方法、装置及终端 |
CN116841754A (zh) * | 2023-08-31 | 2023-10-03 | 中国电子信息产业集团有限公司第六研究所 | 一种低轨卫星边缘计算服务系统及方法 |
CN116841754B (zh) * | 2023-08-31 | 2023-12-15 | 中国电子信息产业集团有限公司第六研究所 | 一种低轨卫星边缘计算服务系统及方法 |
CN117155791A (zh) * | 2023-10-31 | 2023-12-01 | 浪潮电子信息产业股份有限公司 | 基于集群拓扑结构的模型部署方法、系统、设备及介质 |
CN117155791B (zh) * | 2023-10-31 | 2024-02-13 | 浪潮电子信息产业股份有限公司 | 基于集群拓扑结构的模型部署方法、系统、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113391824A (zh) | 计算卸载方法、电子设备、存储介质以及计算机程序产品 | |
CN112148492B (zh) | 一种考虑多用户移动性的服务部署和资源分配方法 | |
CN111447005B (zh) | 软件定义卫星网络的链路规划方法和装置 | |
CN111813539B (zh) | 一种基于优先级与协作的边缘计算资源分配方法 | |
CN117041330B (zh) | 一种基于强化学习的边缘微服务细粒度部署方法及系统 | |
CN116541106A (zh) | 计算任务卸载方法、计算设备及存储介质 | |
CN115454527A (zh) | 一种多无人机移动边缘计算的飞行控制与计算卸载方法及系统 | |
CN113850372A (zh) | 神经网络模型训练方法、装置、系统和存储介质 | |
CN111783932B (zh) | 训练神经网络的方法和装置 | |
CN115549750B (zh) | 卫星接入选择方法和装置、电子设备和存储介质 | |
CN114217881B (zh) | 任务卸载方法及相关装置 | |
CN113543065A (zh) | 一种基于强化学习的通信资源分配方法及其相关设备 | |
CN110933728B (zh) | 虚拟化无线传感网络的映射方法、装置、存储介质 | |
KR20220010419A (ko) | 동적 예측 신뢰도 임계값 선택에 기반한 저복잡도 인공지능 모델 학습을 위한 전자 장치 및 학습 방법 | |
CN113676954A (zh) | 大规模用户任务卸载方法、装置、计算机设备和存储介质 | |
CN109412971B (zh) | 基于行动价值函数学习的数据分流方法、电子设备 | |
CN113163408A (zh) | 一种无线资源分配方法及装置 | |
CN113326112B (zh) | 一种基于块坐标下降法的多无人机任务卸载和迁移方法 | |
US20230214646A1 (en) | Method and system for searching deep neural network architecture | |
CN118157999B (zh) | 模型训练方法、装置、终端及存储介质 | |
CN117938231A (zh) | Leo卫星网络的卫星切换方法、系统、电子设备及存储介质 | |
CN117689036A (zh) | 一种ai模型优化方法及装置 | |
CN115660302A (zh) | 5g基站能量共享调控方法、系统、电子设备和存储介质 | |
CN118265053A (zh) | 通信辅助感知场景下的高效数据增强优化方法及相关设备 | |
CN118201023A (zh) | 路径规划方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |