CN111338760A - 边缘计算的服务实例跨节点伸缩方法和装置 - Google Patents
边缘计算的服务实例跨节点伸缩方法和装置 Download PDFInfo
- Publication number
- CN111338760A CN111338760A CN202010124895.5A CN202010124895A CN111338760A CN 111338760 A CN111338760 A CN 111338760A CN 202010124895 A CN202010124895 A CN 202010124895A CN 111338760 A CN111338760 A CN 111338760A
- Authority
- CN
- China
- Prior art keywords
- service instance
- edge computing
- computing node
- service
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000006399 behavior Effects 0.000 claims abstract description 52
- 230000005012 migration Effects 0.000 claims abstract description 29
- 238000013508 migration Methods 0.000 claims abstract description 29
- 230000007246 mechanism Effects 0.000 claims description 40
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 12
- 230000010076 replication Effects 0.000 claims description 10
- 230000008602 contraction Effects 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000012423 maintenance Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000001934 delay Effects 0.000 description 2
- 230000008014 freezing Effects 0.000 description 2
- 238000007710 freezing Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000007596 consolidation process Methods 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000002922 simulated annealing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Retry When Errors Occur (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请涉及一种边缘计算的服务实例跨节点伸缩方法和装置。所述方法包括：接收服务实例的伸缩请求，根据伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延，根据第一排队时延和第二排队时延，确定服务实例进行作业的平均时延，根据平均时延、当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型，根据决策模型，确定伸缩请求对应的伸缩行为，伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并，根据伸缩行为进行服务实例跨节点伸缩。采用本方法能够在节点伸缩时大幅度减小用户服务中断时间。
Description
技术领域
本申请涉及计算机技术领域，特别是涉及一种边缘计算的服务实例跨节点伸缩方法和装置。
背景技术
微服务架构是当前软件开发使用的主流架构之一，相比于传统的单体式软件开发方法，其可以将一个大型软件分解为若干具有特定功能的服务模块，并进行独立的部署和运维，因此具有易伸缩，模块化程度高，方便按需部署等优点，被广泛应用于分布式软件的开发中。随着边缘计算的不断发展，微服务架构不断与边缘计算模式相融合，基于微服务架构设计的服务模块被大量部署于云端和边缘计算节点上，采用分布式的方式，向用户就近按需提供相应的服务，逐渐成为了边缘计算中采用的主流技术之一。通常情况下，每个服务模块部署于一个单独的“容器(Docker)”中，从而实现了资源和环境的隔离，使得服务的按需部署和灵活运维成为了可能，以下将服务模块与承载它的容器合称为一个服务实例，如图1所示，展示了传统技术中边缘计算架构。
近年来，随着物联网(IoT)、车联网、虚拟增强现实(AR/VR)等新型业务的发展，用户终端逐渐从PC和智能手机，延伸到了传感器、汽车、无人机等设备中，导致用户节点的移动性大大增加，同时也导致了整个网络的拓扑和状态产生了剧烈的变化，网络弱连接或间歇连接的状况时有发生，连接的质量和速率亦大幅波动，使得边缘计算和微服务的应用场景，逐渐由传统的静态网络演化到动态网络，进而对于其采用的各项技术提出了更加严峻的挑战。然而，微服务架构最初是为可靠网络设计的软件架构，在动态网络中使用时，则逐渐暴露出了以下几个问题：
(1)首先，微服务架构虽然具备较为完备的高可用、多实例和透明重连机制，然而其主要关注服务层面的服务治理和运维，对于网络层面的拓扑变化，连接状态变化等缺少相应的监测机制和应对机制，因此，难以及时观察到网络状态的变化并做出有效的应对；
(2)其次，微服务架构虽然具有较为初步的按需部署和自适应伸缩机制，但是由于其设计为在可靠网络中应用，服务实例无法根据用户的移动性及时调整当前的部署位置，因此降低了服务的可用性和服务质量；
(3)最后，当前的微服务架构缺少服务实例的跨节点调度算法，无法根据当前的网络状态，各个边缘计算节点的资源状况以及用户的服务需求，对服务实例的最优部署位置进行计算，并对调度行为进行判断，因此，难以实现服务质量的最优化，和系统运维成本的最小化。
为了解决上述问题，传统技术中仅考虑如何对服务实例进行调度，没有综合考虑到服务实例迁移时的开销问题，导致服务中断时间长。
发明内容
基于此，有必要针对上述技术问题，提供一种能够解决服务实例跨节点伸缩导致服务中断时间长问题的边缘计算的服务实例跨节点伸缩方法和装置。
一种边缘计算的服务实例跨节点伸缩方法，所述方法包括：
接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；
根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；
根据所述伸缩行为进行服务实例跨节点伸缩。
在其中一个实施例中，所述伸缩行为是服务实例复制时；还包括：通过容器的CRIU机制，给待复制的当前服务实例设置Checkpoint指令，将Checkpoint指令传输至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到复制后的目标服务实例；所述目标服务实例与所述当前服务实例共享同一挂载卷；释放所述当前服务实例中的预先保留的用户业务请求，将所述用户业务请求迁移至所述目标服务实例中。
在其中一个实施例中，所述伸缩行为是服务实例扩展；还包括：通过容器的CRIU机制，给待扩展的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；当满足服务实例重建条件时，保留所述当前服务实例中的一部分用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的一部分用户请求，并将保留的一部分用户请求迁移至目标服务实例中。
在其中一个实施例中，还包括：根据所述Checkpoint指令和复制得到的挂载卷与上一时刻生成的Checkpoint指令和复制得到的挂载卷进行比较，得到容量差异；当所述容量差异小于预先设置的阈值时，则确定满足服务实例重建条件；当所述容量差异大于预先设置的阈值时，则确定不满足服务实例重建条件，并且将生成Checkpoint指令和复制得到的挂载卷保存为上一时刻生成的Checkpoint指令和复制得到的挂载卷。
在其中一个实施例中，所述伸缩行为是服务实例迁移；还包括：通过容器的CRIU机制，给待迁移的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；当满足服务实例重建条件时，保留所述当前服务实例中的全部用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中。
在其中一个实施例中，所述伸缩行为是服务实例合并；还包括：通过容器的CRIU机制，给待合并的第一服务实例和第二服务实例设置Checkpoint指令，对所述第一服务实例和第二服务实例的挂载卷进行复制；将所述Checkpoint指令和复制后得到的挂载卷，计算迁移所需的数据量；根据所述数据量，确定是否满足服务实例的新建条件；当满足服务实例的新建条件时，保留所述第一服务实例和所述第二服务实例中的全部用户请求；将所述Checkpoint指令和复制后得到的挂载卷发送至目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的所述第一服务实例和所述第二服务实例中的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中，以及对所述第一服务实例和所述第二服务实例的服务网关对所述目标服务实例的用户业务进行分配。
在其中一个实施例中，还包括：当所述数据量小于阈值时，则满足服务实例的新建条件；当所述数据量大于阈值时，则不满足服务实例的新建条件，将所述Checkpoint指令和复制后得到的挂载卷传输至所述目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并。
在其中一个实施例中，还包括：根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型为：
r1≥x1rs,r2≥x2rs
其中，μc表示性能参数中每个服务实例的服务强度，ymn表示0或1的变量，当ymn为1时表示将第n个用户业务分配给当前边缘计算节点的第m个服务实例上，否则为0；zmn表示0或1的变量，当zmn为1时表示将第n个用户业务分配给目标边缘计算节点的第m个服务实例上，否则为0；dmn表示在目标边缘计算节点处理用户业务n的往返时延；x1和x2分别表示当前边缘计算节点中服务实例数量和目标边缘计算节点中服务实例数量；λn表示第n个用户业务的到达率；α表示调节参数；r1和r2分别表示当前边缘计算节点中的可用资源和目标边缘计算节点中的可用资源；rs表示部署服务实例所需资源。
一种边缘计算的服务实例跨节点伸缩装置，所述装置包括：
请求模块，用于接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
时延计算模块，用于根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
模型建立模块，用于根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
节点伸缩模块，用于根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；根据所述伸缩行为进行服务实例跨节点伸缩。
一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；
根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；
根据所述伸缩行为进行服务实例跨节点伸缩。
上述边缘计算的服务实例跨节点伸缩方法、装置和计算机设备，通过计算当前边缘计算节点和目标边缘计算节点的排队时延，确定作业的平均时延，然后根据时延，当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型，可以通过决策模型，确定进行何种伸缩行为，伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并，从而在面对复杂网络状况下，可以自动决策进行何种伸缩行为，并且通过决策模型，可以大幅度减少节点伸缩的所需时间，从而大幅度的减少服务中断时间。
附图说明
图1为一个传统技术中边缘计算架构的示意性结构图；
图2为一个实施例中边缘计算架构的示意性结构图；
图3为一个实施例中边缘计算的服务实例跨节点伸缩方法的示意性流程图；
图4为一个实施例中服务实例复制步骤的流程示意图；
图5为一个实施例中服务实例扩展步骤的流程示意图；
图6为一个实施例中服务实例迁移步骤的流程示意图；
图7为一个实施例中服务实例合并步骤的流程示意图；
图8为一个实施例中边缘计算的服务实例跨节点伸缩装置的结构框图；
图9为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的边缘计算的服务实例跨节点伸缩方法，可以应用于服务器中。其中，服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。具体的，服务器的架构如图2所述，服务器主要包括以下几个模块：
(1)配置中心：配置中心包含了所有服务的基本配置信息，当新生成一个服务实例时，不需要对服务实例进行手动配置，而是自动从配置中心拉取配置，完成服务实例的部署和应用。
(2)镜像仓库：服务部署到容器中之后，将整个服务实例储存为容器镜像，当需要新生成一个服务实例时，拉取镜像即可完成所有的服务部署过程，同时该镜像也包含了除了服务配置之外，所有的服务运行环境和依赖；
(3)数据同步中心：服务实例通过挂载卷来存储用户相关的数据，为了保证服务实例在迁移前后的一致性，需要数据同步模块保证，服务实例迁移前后用户相关数据不出现遗失、冲突等问题；
(4)实例迁移算法：在接收到服务实例迁移请求后，实例迁移算法根据目标边缘计算节点的用户调用时延、边缘计算节点中的可用资源、用户的业务请求等，计算服务实例需要执行的动作；
(5)服务实例治理模块：服务实例治理模块主要工作在边缘计算中心中，负责容器镜像的拉取，服务配置的拉取以及服务迁移和生成的执行等；
(6)信息采集模块：信息采集模块主要工作在边缘计算中心中，负责采集边缘计算中心与服务调用者之间的时延信息，边缘计算中心的可用资源信息，服务的调用需求等；
(7)负载均衡模块：该模块主要工作在服务网关中，负责根据一定的负载均衡规则和参数，将用户对于服务的调用请求，分发给各个服务实例。
值得说明的是，容器Docker具备CRIU(Checkpoint/Restore In UserSpace)机制，该机制是Docker提供的一种应用冻结与保存机制，其通过建立Checkpoint将Docker中应用的状态进行完整的保存，并可以进行储存、传输、更新、删除等操作，并且能够通过restore命令，方便地在另外的计算节点中重现和恢复该服务实例。
在一个实施例中，如图3所示，提供了一种边缘计算的服务实例跨节点伸缩方法，以该方法应用于服务器为例进行说明，包括以下步骤：
步骤302，接收服务实例的伸缩请求。
服务实例配置在边缘计算节点的容器中，服务实例的伸缩一般发生在服务违例之后或边缘计算节点的资源消耗达到一定资源之后，确定服务实例伸缩发生的条件和阈值一般需要根据系统的特点、用户需求和应用的特征来确定，本步骤对伸缩请求已下达的情况下进行分析。
步骤304，根据伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延。
第一排队时延指的是在当前边缘计算节点中，每个服务实例的排队时延，第一排队时延可以表示为：
其中，μc表示性能参数中每个服务实例的服务强度，ymn表示0或1的变量，当ymn为1时表示将第n个用户业务分配给当前边缘计算节点的第m个服务实例上，否则为0；λn表示第n个用户业务的到达率，lmn表示在当前边缘计算节点处理用户业务n的往返时延。
第二排队时延值得是在目标边缘计算节点中，每个服务实例的排队时延，第二排队时延可以表示为：
其中，zmn表示0或1的变量，当zmn为1时表示将第n个用户业务分配给目标边缘计算节点的第m个服务实例上，否则为0，dmn表示在目标边缘计算节点处理用户业务n的往返时延。
步骤306，根据第一排队时延和第二排队时延，确定服务实例进行作业的平均时延。
通过第一排队时延和第二排队时延，可以计算所有用户业务的总时延为：
从而可以得到每个用户业务的平均时延表示为：
步骤308，根据平均时延、当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型。
在进行服务实例伸缩时，根据当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，在资源允许的条件下，使得每个用户业务的平均时延尽量小，因此可以进一步得到决策模型。
步骤310，根据决策模型，确定伸缩请求对应的伸缩行为。
通过决策模型，可以确定具体的伸缩行为，伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并。
步骤312，根据伸缩行为进行服务实例跨节点伸缩。
跨节点指的是在不同边缘计算节点之间进行伸缩。
上述边缘计算的服务实例跨节点伸缩方法中，通过计算当前边缘计算节点和目标边缘计算节点的排队时延，确定作业的平均时延，然后根据时延，当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型，可以通过决策模型，确定进行何种伸缩行为，伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并，从而在面对复杂网络状况下，可以自动决策进行何种伸缩行为，并且通过决策模型，可以大幅度减少节点伸缩的所需时间，从而大幅度的减少服务中断时间。
在其中一个实施例中，如图4所示，伸缩行为可以是服务实例复制，那么在根据服务实例复制进行服务实例跨节点伸缩的步骤包括：
步骤402，通过容器的CRIU机制，给待复制的当前服务实例设置Checkpoint指令，将Checkpoint指令传输至目标边缘计算节点。
步骤404，通过容器的CRIU机制，在目标边缘计算节点执行restore指令，得到复制后的目标服务实例。
目标服务实例与当前服务实例共享同一挂载卷，值得说明的是，挂载卷用于存储服务实例中用户相关数据。
步骤406，释放当前服务实例中的预先保留的用户业务请求，将用户业务请求迁移至目标服务实例中。
本实施例中，通过复制服务实例，可以在原服务实例存在网络故障或者其他故障时，也可以满足用户的业务需求。
在其中一个实施例中，如图5所示，伸缩行为是服务实例扩展，根据服务实例扩展进行服务实例跨节点伸缩的步骤包括：
步骤502，通过容器的CRIU机制，给待扩展的当前服务实例设置Checkpoint指令，对当前服务实例的挂载卷进行复制。
步骤504，根据Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件。
步骤506，当满足服务实例重建条件时，保留当前服务实例中的一部分用户请求，将Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点。
步骤508，通过容器的CRIU机制，在目标边缘计算节点执行restore指令，得到目标服务实例。
步骤510，释放保留的一部分用户请求，并将保留的一部分用户请求迁移至目标服务实例中。
本实施例中，在当前服务实例不足以满足用户业务需求时，可以对当前服务实例进行扩展，即在目标边缘计算节点新建目标服务实例，并将当前服务实例中的一部分用户业务转移至目标服务实例。
在另一个实施例中，为了保证用户业务不中断，设置阈值以确定是否满足服务实例重建条件，具体步骤如下：当容量差异小于预先设置的阈值时，则确定满足服务实例重建条件，当容量差异大于预先设置的阈值时，则确定不满足服务实例重建条件，并且将生成Checkpoint指令和复制得到的挂载卷保存为上一时刻生成的Checkpoint指令和复制得到的挂载卷。本实施例中，由于Checkpoint指令和挂载卷的传输需要耗费较长的时间，这一过程可能导致用户业务中断，通过采用更新的策略，即容器通过更新机制对Checkpoint指令和挂载卷进行更新，更新的时间消耗较少，因此通过比较容量差异，当容量差异大于阈值时，执行的是更新操作，当容量差异小于阈值时，则同时执行更新和重建的步骤，从而可以重建目标服务实例。通过这种方式，可以极大的缩短服务中断的时间。
在其中一个实施例中，如图6所示，伸缩行为是服务实例迁移，根据服务实例迁移进行服务实例跨节点伸缩的步骤包括：
步骤602，通过容器的CRIU机制，给待迁移的当前服务实例设置Checkpoint指令，对当前服务实例的挂载卷进行复制。
步骤604，根据Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件。
步骤606，当满足服务实例重建条件时，保留当前服务实例中的全部用户请求，将Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点。
步骤608，通过容器的CRIU机制，在目标边缘计算节点执行restore指令，得到目标服务实例。
步骤610，释放保留的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中。
本实施例中，服务实例迁移和服务实例扩展的过程相似，唯一的区别是服务实例扩展是迁移部分用户业务，而服务实例迁移是迁移全部用户业务。同时，重建的判断过程也是相同的。
在其中一个实施例中，如图7所示，伸缩行为是服务实例合并，根据服务实例合并进行服务实例跨节点伸缩的步骤包括：
步骤702，通过容器的CRIU机制，给待合并的第一服务实例和第二服务实例设置Checkpoint指令，对第一服务实例和第二服务实例的挂载卷进行复制。
步骤704，将Checkpoint指令和复制后得到的挂载卷，计算迁移所需的数据量。
步骤706，根据数据量，确定是否满足服务实例的新建条件。
步骤708，当满足服务实例的新建条件时，保留第一服务实例和第二服务实例中的全部用户请求。
步骤710，将Checkpoint指令和复制后得到的挂载卷发送至目标边缘计算节点，在目标边缘计算节点中对Checkpoint指令和复制后得到的挂载卷分别进行合并。
步骤712，通过容器的CRIU机制，在目标边缘计算节点执行restore指令，得到目标服务实例。
步骤714，释放保留的第一服务实例和第二服务实例中的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中，以及对第一服务实例和第二服务实例的服务网关对目标服务实例的用户业务进行分配。
本实施例中，在特定的网络情况下，需要对两个服务实例进行合并，因此，合并后，新的服务实例需要处理原第一服务实例和第二服务实例的用户业务。
在其中一个实施例中，根据数据量，确定是否满足服务实例的新建条件的步骤包括：当所述数据量小于阈值时，则满足服务实例的新建条件，当数据量大于阈值时，则不满足服务实例的新建条件，将Checkpoint指令和复制后得到的挂载卷传输至目标边缘计算节点，在目标边缘计算节点中对Checkpoint指令和复制后得到的挂载卷分别进行合并。本实施例和服务实例扩展中服务实例重建条件的判断过程相似，区别在于，第一服务实例和第二服务实例的Checkpoint指令和复制后得到的挂载卷传输至目标边缘计算节点之后，需要进行合并操作。
在其中一个实施例中，根据平均时延、当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型具体包括：根据平均时延、当前边缘计算节点的性能参数以及目标边缘计算节点的性能参数，构建决策模型为：
r1≥x1rs,r2≥x2rs
其中，μc表示性能参数中每个服务实例的服务强度，ymn表示0或1的变量，当ymn为1时表示将第n个用户业务分配给当前边缘计算节点的第m个服务实例上，否则为0；zmn表示0或1的变量，当zmn为1时表示将第n个用户业务分配给目标边缘计算节点的第m个服务实例上，否则为0；lmn表示在当前边缘计算节点处理用户业务n的往返时延，dmn表示在目标边缘计算节点处理用户业务n的往返时延；x1和x2分别表示当前边缘计算节点中服务实例数量和目标边缘计算节点中服务实例数量；λn表示第n个用户业务的到达率，α表示调节参数；r1和r2分别表示当前边缘计算节点中的可用资源和目标边缘计算节点中的可用资源；rs表示部署服务实例所需资源。
本实施例中，决策模型的目标函数是能够最小化用户时延以提高服务质量，第一条约束保证了每个服务实例都能够满足分配给其的业务需求，第二条约束保证了每个业务是不可分割的，仅能被分配到某一个实例，第三条约束了部署的实例数量不能无限多其中α为调节参数，第四条约束保证了每个边缘计算节点的可用资源，应大于部署服务实例所需的资源。
根据第三条约束和第四条约束可以解出不同的x1和x2值的组合，在每种组合下，模型为变量为ymn和zmn的0-1规划问题。然后，解每个0-1规划问题获得时延最小值，最终，所有时延最小值中最小的一组x1和x2，即为最优解。0-1规划问题的求解，可以使用遗传算法、模拟退火算法等智能算法。当x1≠0，x2＝0时，说明需要在当前边缘计算节点上对服务实例进行复制或需要对服务实例进行合并；当x1≠0且x2≠0时，说明需要在目标边缘计算节点上进行服务实例的扩展；当x1＝0且x2≠0时，说明需要将当前边缘计算节点的服务实例迁移到目标节点。
应该理解的是，虽然图3-7的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图3-7中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，如图8所示，提供了一种边缘计算的服务实例跨节点伸缩装置，包括：请求模块802、时延计算模块804、模型建立模块806和节点伸缩模块808，其中：
请求模块802，用于接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
时延计算模块804，用于根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
模型建立模块806，用于根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
节点伸缩模块808，用于根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；根据所述伸缩行为进行服务实例跨节点伸缩。
在其中一个实施例中，伸缩行为是服务实例复制时；节点伸缩模块808还用于通过容器的CRIU机制，给待复制的当前服务实例设置Checkpoint指令，将Checkpoint指令传输至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到复制后的目标服务实例；所述目标服务实例与所述当前服务实例共享同一挂载卷；释放所述当前服务实例中的预先保留的用户业务请求，将所述用户业务请求迁移至所述目标服务实例中。
在其中一个实施例中，所述伸缩行为是服务实例扩展；节点伸缩模块808还用于通过容器的CRIU机制，给待扩展的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；当满足服务实例重建条件时，保留所述当前服务实例中的一部分用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的一部分用户请求，并将保留的一部分用户请求迁移至目标服务实例中。
在其中一个实施例中，节点伸缩模块808还用于根据所述Checkpoint指令和复制得到的挂载卷与上一时刻生成的Checkpoint指令和复制得到的挂载卷进行比较，得到容量差异；当所述容量差异小于预先设置的阈值时，则确定满足服务实例重建条件；当所述容量差异大于预先设置的阈值时，则确定不满足服务实例重建条件，并且将生成Checkpoint指令和复制得到的挂载卷保存为上一时刻生成的Checkpoint指令和复制得到的挂载卷。
在其中一个实施例中，所述伸缩行为是服务实例迁移，节点伸缩模块808还用于通过容器的CRIU机制，给待迁移的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；当满足服务实例重建条件时，保留所述当前服务实例中的全部用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中。
在其中一个实施例中，所述伸缩行为是服务实例合并；节点伸缩模块808还用于通过容器的CRIU机制，给待合并的第一服务实例和第二服务实例设置Checkpoint指令，对所述第一服务实例和第二服务实例的挂载卷进行复制；将所述Checkpoint指令和复制后得到的挂载卷，计算迁移所需的数据量；根据所述数据量，确定是否满足服务实例的新建条件；当满足服务实例的新建条件时，保留所述第一服务实例和所述第二服务实例中的全部用户请求；将所述Checkpoint指令和复制后得到的挂载卷发送至目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并；通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；释放保留的所述第一服务实例和所述第二服务实例中的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中，以及对所述第一服务实例和所述第二服务实例的服务网关对所述目标服务实例的用户业务进行分配。
在其中一个实施例中，节点伸缩模块808还用于当所述数据量小于阈值时，则满足服务实例的新建条件；当所述数据量大于阈值时，则不满足服务实例的新建条件，将所述Checkpoint指令和复制后得到的挂载卷传输至所述目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并。
在其中一个实施例中，模型建立模块806还用于根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型为：
r1≥x1rs,r2≥x2rs
其中，μc表示性能参数中每个服务实例的服务强度，ymn表示0或1的变量，当ymn为1时表示将第n个用户业务分配给当前边缘计算节点的第m个服务实例上，否则为0；zmn表示0或1的变量，当zmn为1时表示将第n个用户业务分配给目标边缘计算节点的第m个服务实例上，否则为0；dmn表示在目标边缘计算节点处理用户业务n的往返时延；x1和x2分别表示当前边缘计算节点中服务实例数量和目标边缘计算节点中服务实例数量；λn表示第n个用户业务的到达率；α表示调节参数；r1和r2分别表示当前边缘计算节点中的可用资源和目标边缘计算节点中的可用资源；rs表示部署服务实例所需资源。
关于边缘计算的服务实例跨节点伸缩装置的具体限定可以参见上文中对于边缘计算的服务实例跨节点伸缩方法的限定，在此不再赘述。上述边缘计算的服务实例跨节点伸缩装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图9所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储服务实例数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种边缘计算的服务实例跨节点伸缩方法。
本领域技术人员可以理解，图9中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，提供了一种计算机设备，包括存储器和处理器，该存储器存储有计算机程序，该处理器执行计算机程序时实现上述实施例中方法的步骤。
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中方法的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种边缘计算的服务实例跨节点伸缩方法，所述方法包括：
接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；
根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；
根据所述伸缩行为进行服务实例跨节点伸缩。
2.根据权利要求1所述的方法，其特征在于，所述伸缩行为是服务实例复制时；
所述根据所述伸缩行为进行服务实例跨节点伸缩，包括：
通过容器的CRIU机制，给待复制的当前服务实例设置Checkpoint指令，将Checkpoint指令传输至目标边缘计算节点；
通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到复制后的目标服务实例；所述目标服务实例与所述当前服务实例共享同一挂载卷；
释放所述当前服务实例中的预先保留的用户业务请求，将所述用户业务请求迁移至所述目标服务实例中。
3.根据权利要求1所述的方法，其特征在于，所述伸缩行为是服务实例扩展；
所述根据所述伸缩行为进行服务实例跨节点伸缩，包括：
通过容器的CRIU机制，给待扩展的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；
根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；
当满足服务实例重建条件时，保留所述当前服务实例中的一部分用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；
通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；
释放保留的一部分用户请求，并将保留的一部分用户请求迁移至目标服务实例中。
4.根据权利要求3所述的方法，其特征在于，所述根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件，包括：
根据所述Checkpoint指令和复制得到的挂载卷与上一时刻生成的Checkpoint指令和复制得到的挂载卷进行比较，得到容量差异；
当所述容量差异小于预先设置的阈值时，则确定满足服务实例重建条件；
当所述容量差异大于预先设置的阈值时，则确定不满足服务实例重建条件，并且将生成Checkpoint指令和复制得到的挂载卷保存为上一时刻生成的Checkpoint指令和复制得到的挂载卷。
5.根据权利要求3所述的方法，其特征在于，所述伸缩行为是服务实例迁移；
所述根据所述伸缩行为进行服务实例跨节点伸缩，包括：
通过容器的CRIU机制，给待迁移的当前服务实例设置Checkpoint指令，对所述当前服务实例的挂载卷进行复制；
根据所述Checkpoint指令和复制得到的挂载卷，确定是否满足服务实例重建条件；
当满足服务实例重建条件时，保留所述当前服务实例中的全部用户请求，将所述Checkpoint指令和复制得到的挂载卷发送至目标边缘计算节点；
通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；
释放保留的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中。
6.根据权利要求1所述的方法，其特征在于，所述伸缩行为是服务实例合并；
所述根据所述伸缩行为进行服务实例跨节点伸缩，包括：
通过容器的CRIU机制，给待合并的第一服务实例和第二服务实例设置Checkpoint指令，对所述第一服务实例和第二服务实例的挂载卷进行复制；
将所述Checkpoint指令和复制后得到的挂载卷，计算迁移所需的数据量；
根据所述数据量，确定是否满足服务实例的新建条件；
当满足服务实例的新建条件时，保留所述第一服务实例和所述第二服务实例中的全部用户请求；
将所述Checkpoint指令和复制后得到的挂载卷发送至目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并；
通过容器的CRIU机制，在所述目标边缘计算节点执行restore指令，得到目标服务实例；
释放保留的所述第一服务实例和所述第二服务实例中的全部用户请求，并将保留的全部用户请求迁移至目标服务实例中，以及对所述第一服务实例和所述第二服务实例的服务网关对所述目标服务实例的用户业务进行分配。
7.根据权利要求6所述的方法，其特征在于，根据所述数据量，确定是否满足服务实例的新建条件，包括：
当所述数据量小于阈值时，则满足服务实例的新建条件；
当所述数据量大于阈值时，则不满足服务实例的新建条件，将所述Checkpoint指令和复制后得到的挂载卷传输至所述目标边缘计算节点，在所述目标边缘计算节点中对所述Checkpoint指令和复制后得到的挂载卷分别进行合并。
8.根据权利要求1至7任一项所述的方法，其特征在于，根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型，包括：
根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型为：
r1≥x1rs,r2≥x2rs
其中，μc表示性能参数中每个服务实例的服务强度，ymn表示0或1的变量，当ymn为1时表示将第n个用户业务分配给当前边缘计算节点的第m个服务实例上，否则为0；zmn表示0或1的变量，当zmn为1时表示将第n个用户业务分配给目标边缘计算节点的第m个服务实例上，否则为0；lmn表示在当前边缘计算节点处理用户业务n的往返时延，dmn表示在目标边缘计算节点处理用户业务n的往返时延；x1和x2分别表示当前边缘计算节点中服务实例数量和目标边缘计算节点中服务实例数量；λn表示第n个用户业务的到达率；α表示调节参数；r1和r2分别表示当前边缘计算节点中的可用资源和目标边缘计算节点中的可用资源；rs表示部署服务实例所需资源。
9.一种边缘计算的服务实例跨节点伸缩装置，其特征在于，所述装置包括：
请求模块，用于接收服务实例的伸缩请求；所述服务实例配置在边缘计算节点的容器中；
时延计算模块，用于根据所述伸缩请求，获取当前边缘计算节点的第一排队时延和目标边缘计算节点的第二排队时延；根据所述第一排队时延和所述第二排队时延，确定所述服务实例进行作业的平均时延；
模型建立模块，用于根据所述平均时延、所述当前边缘计算节点的性能参数以及所述目标边缘计算节点的性能参数，构建决策模型；
节点伸缩模块，用于根据所述决策模型，确定所述伸缩请求对应的伸缩行为；所述伸缩行为包括：服务实例复制、服务实例扩展、服务实例迁移以及服务实例合并；根据所述伸缩行为进行服务实例跨节点伸缩。
10.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至8中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010124895.5A CN111338760B (zh) | 2020-02-27 | 2020-02-27 | 边缘计算的服务实例跨节点伸缩方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010124895.5A CN111338760B (zh) | 2020-02-27 | 2020-02-27 | 边缘计算的服务实例跨节点伸缩方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111338760A true CN111338760A (zh) | 2020-06-26 |
| CN111338760B CN111338760B (zh) | 2023-04-25 |
Family
ID=71183801
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010124895.5A Active CN111338760B (zh) | 2020-02-27 | 2020-02-27 | 边缘计算的服务实例跨节点伸缩方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111338760B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111857977A (zh) * | 2020-09-21 | 2020-10-30 | 腾讯科技（深圳）有限公司 | 弹性伸缩方法、装置、服务器和存储介质 |
| EP3972222A1 (en) * | 2020-09-21 | 2022-03-23 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, apparatus, electronic device, readable storage medium and program for adjusting instance number |
| CN114697337A (zh) * | 2020-12-25 | 2022-07-01 | 中移动信息技术有限公司 | 排队方法、调度方法、装置、系统及计算机存储介质 |
| CN117174240A (zh) * | 2023-10-26 | 2023-12-05 | 中国科学技术大学 | 一种基于大模型领域迁移的医疗影像报告生成方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108509276A (zh) * | 2018-03-30 | 2018-09-07 | 南京工业大学 | 一种边缘计算环境中的视频任务动态迁移方法 |
| CN109413676A (zh) * | 2018-12-11 | 2019-03-01 | 西北大学 | 一种超密异构网络中联合下上行的边缘计算迁移方法 |
| CN109905888A (zh) * | 2019-03-21 | 2019-06-18 | 东南大学 | 移动边缘计算中联合优化迁移决策和资源分配方法 |
| CN109905859A (zh) * | 2019-01-14 | 2019-06-18 | 南京信息工程大学 | 一种用于车联网应用的高效边缘计算迁移方法 |
| CN110187973A (zh) * | 2019-05-31 | 2019-08-30 | 浙江大学 | 一种面向边缘计算的服务部署优化方法 |
| CN110380891A (zh) * | 2019-06-13 | 2019-10-25 | 中国人民解放军国防科技大学 | 一种边缘计算服务资源配置方法、装置与电子设备 |
| CN110839075A (zh) * | 2019-11-08 | 2020-02-25 | 重庆大学 | 边缘计算环境下基于粒子群的服务迁移方法 |
-
2020
- 2020-02-27 CN CN202010124895.5A patent/CN111338760B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108509276A (zh) * | 2018-03-30 | 2018-09-07 | 南京工业大学 | 一种边缘计算环境中的视频任务动态迁移方法 |
| CN109413676A (zh) * | 2018-12-11 | 2019-03-01 | 西北大学 | 一种超密异构网络中联合下上行的边缘计算迁移方法 |
| CN109905859A (zh) * | 2019-01-14 | 2019-06-18 | 南京信息工程大学 | 一种用于车联网应用的高效边缘计算迁移方法 |
| CN109905888A (zh) * | 2019-03-21 | 2019-06-18 | 东南大学 | 移动边缘计算中联合优化迁移决策和资源分配方法 |
| CN110187973A (zh) * | 2019-05-31 | 2019-08-30 | 浙江大学 | 一种面向边缘计算的服务部署优化方法 |
| CN110380891A (zh) * | 2019-06-13 | 2019-10-25 | 中国人民解放军国防科技大学 | 一种边缘计算服务资源配置方法、装置与电子设备 |
| CN110839075A (zh) * | 2019-11-08 | 2020-02-25 | 重庆大学 | 边缘计算环境下基于粒子群的服务迁移方法 |
Non-Patent Citations (2)
| Title |
|---|
| SHIQIANG WANG: "《Dynamic Service Migration in Mobile Edge Computing Based on Markov Decision Process》" * |
| TIAGO GAMA RODRIGUES: "《Hybrid Method for Minimizing Service Delay in Edge Cloud Computing Through VM Migration and Transmission Power Control》" * |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111857977A (zh) * | 2020-09-21 | 2020-10-30 | 腾讯科技（深圳）有限公司 | 弹性伸缩方法、装置、服务器和存储介质 |
| CN111857977B (zh) * | 2020-09-21 | 2020-12-25 | 腾讯科技（深圳）有限公司 | 弹性伸缩方法、装置、服务器和存储介质 |
| EP3972222A1 (en) * | 2020-09-21 | 2022-03-23 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, apparatus, electronic device, readable storage medium and program for adjusting instance number |
| KR20220039530A (ko) * | 2020-09-21 | 2022-03-29 | 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. | 인스턴스 수 조절 방법, 장치, 전자 기기 및 판독 가능한 저장 매체 |
| US11711285B2 (en) | 2020-09-21 | 2023-07-25 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method, apparatus, electronic device and readable storage medium for adjusting instance number |
| KR102565409B1 (ko) * | 2020-09-21 | 2023-08-09 | 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. | 인스턴스 수 조절 방법, 장치, 전자 기기 및 판독 가능한 저장 매체 |
| CN114697337A (zh) * | 2020-12-25 | 2022-07-01 | 中移动信息技术有限公司 | 排队方法、调度方法、装置、系统及计算机存储介质 |
| CN114697337B (zh) * | 2020-12-25 | 2023-07-21 | 中移动信息技术有限公司 | 排队方法、调度方法、装置、系统及计算机存储介质 |
| CN117174240A (zh) * | 2023-10-26 | 2023-12-05 | 中国科学技术大学 | 一种基于大模型领域迁移的医疗影像报告生成方法 |
| CN117174240B (zh) * | 2023-10-26 | 2024-02-09 | 中国科学技术大学 | 一种基于大模型领域迁移的医疗影像报告生成方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111338760B (zh) | 2023-04-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111338760B (zh) | 边缘计算的服务实例跨节点伸缩方法和装置 | |
| CN111371603B (zh) | 应用于边缘计算的服务实例部署方法和装置 | |
| CN107888425B (zh) | 移动通信系统的网络切片部署方法和装置 | |
| JP6863091B2 (ja) | 管理装置、管理方法及び管理プログラム | |
| CN107612771B (zh) | 一种基于动态迁移的sdn网络负载均衡方法 | |
| CN112291335B (zh) | 移动边缘计算中的优化任务调度方法 | |
| CN106445473B (zh) | 一种容器部署方法及装置 | |
| US20200133657A1 (en) | Method, electronic device and computer readable storage medium of storage management | |
| CN102932409B (zh) | 一种虚拟机在线迁移的方法和系统 | |
| CN113626192A (zh) | 用于对算子节点进行扩缩容调整的方法、装置及系统 | |
| CN113835899A (zh) | 针对分布式图学习的数据融合方法及装置 | |
| CN111552483A (zh) | 一种云服务部署方法、装置、设备、介质 | |
| CN112163675A (zh) | 一种模型的联合训练方法、设备及存储介质 | |
| US10216593B2 (en) | Distributed processing system for use in application migration | |
| CN112328170A (zh) | 一种云硬盘的扩容方法、装置、计算机设备和存储介质 | |
| CN110490316B (zh) | 基于神经网络模型训练系统的训练处理方法、训练系统 | |
| CN114691372A (zh) | 一种多媒体端边云系统的群体智能控制方法 | |
| Rust et al. | Resilient distributed constraint optimization in physical multi-agent systems | |
| CN117170799A (zh) | 容器迁移方法、装置、计算机设备和存储介质 | |
| CN110113217B (zh) | 微服务管理方法、装置、管理平台及存储介质 | |
| CN116881012A (zh) | 一种容器应用垂直扩容方法、装置、设备及可读存储介质 | |
| CN112291299B (zh) | 基于AI Station推理平台的同步方法、装置、设备及存储介质 | |
| CN114138408B (zh) | 克隆卷创建的方法、装置、计算机设备和存储介质 | |
| EP3923203A1 (en) | Updating a neural network model on a computation device | |
| CN111092821A (zh) | 一种基于动态迁移的sdn网络负载均衡方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |