CN111371603B - 应用于边缘计算的服务实例部署方法和装置 - Google Patents

应用于边缘计算的服务实例部署方法和装置 Download PDF

Info

Publication number
CN111371603B
CN111371603B CN202010124356.1A CN202010124356A CN111371603B CN 111371603 B CN111371603 B CN 111371603B CN 202010124356 A CN202010124356 A CN 202010124356A CN 111371603 B CN111371603 B CN 111371603B
Authority
CN
China
Prior art keywords
service
edge computing
computing node
deployment
delay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010124356.1A
Other languages
English (en)
Other versions
CN111371603A (zh
Inventor
李焓丹
陈顺
黄廖若
寇力
宋爽
熊原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changsha Yuanben Information Technology Co ltd
Original Assignee
Changsha Yuanben Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changsha Yuanben Information Technology Co ltd filed Critical Changsha Yuanben Information Technology Co ltd
Priority to CN202010124356.1A priority Critical patent/CN111371603B/zh
Publication of CN111371603A publication Critical patent/CN111371603A/zh
Application granted granted Critical
Publication of CN111371603B publication Critical patent/CN111371603B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/145—Network analysis or design involving simulating, designing, planning or modelling of a network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0852—Delays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45595—Network integration; Enabling network access in virtual machine instances

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请涉及一种应用于动态网络环境下边缘计算的服务实例部署方法和装置。所述方法包括：获取服务调用对象与边缘计算节点的往返时延、边缘计算节点中服务实例的服务速率、边缘计算节点上服务调用对象发送的服务请求的到达率以及边缘计算节点的服务实例数量，根据往返时延、服务速率、到达率以及服务实例数量，得到各个服务请求的平均往返时延，根据平均往返时延、边缘计算节点中实际服务实例数量以及边缘计算节点中服务请求数量，得到各个服务请求的响应时延，根据响应时延以及边缘计算节点的性能参数，构建部署模型，根据部署模型输出边缘计算节点中服务实例的部署数据。采用本方法能够对服务实例进行全局部署。

Description

应用于边缘计算的服务实例部署方法和装置
技术领域
本申请涉及计算机技术领域，特别是涉及一种应用于边缘计算的服务实例部署方法和装置
背景技术
微服务架构作为当前最流行的软件开发架构，由于其具备的易伸缩，模块化，灵活性高等特点，越来越多的应用于边缘计算中，采用分布式的服务部署方式，在数据中心与边缘计算节点，按需向用户提供服务。如图1所示，在实践中通常将服务部署于“容器(Docker)”中，将各个服务运行所需的环境和资源进行隔离，从而进一步实现了微服务的按需部署和灵活运维。为了方便起见，下文将服务与承载它的容器合称为“服务实例”。
如图1所示，为了向位于不同位置的用户提供服务，需要将服务实例分布式地部署于边缘计算节点中，在当前的微服务治理框架中，主要根据边缘节点的资源消耗情况和服务的计算需求进行服务实例的部署，从而实现各个计算节点的负载均衡，最大化整个系统的可用性。但是，这种服务部署模式并未考虑服务实例位于不同边缘计算节点时，对用户响应时延的影响，而这一指标直接关系到用户调用服务时的用户体验和经济收益，是各种服务和应用最关心的指标之一。因此，当前的服务部署和使用方式，需要依托可靠的网络连接和强劲的服务器来确保用户的服务质量。然而，近年来随着智能驾驶、物联网(IoT)、虚拟(增强)现实(VR/AR)等新型技术的发展，网络终端由传统的移动电话，PC等延伸到汽车、传感器、无人机等，导致节点的移动性大大增加，同时，由于器件功耗限制、基站切换速率等因素的影响，网络弱连接和间歇性连接的问题也逐渐涌现。因此，在这些应用场景和环境条件下，采用当前的服务部署模式可能无法像在可靠网络环境中那样，保证用户具有较短的响应时延，同时，由于缺失灵活的服务调度和迁移手段，也无法根据用户响应时延进行最优化的服务部署和调整。
在传统的服务部署方法中，服务部署和业务分配往往是两个独立的过程，缺少全局性优化，以确定每个边缘节点上部署的服务实例数量，以及其需要处理的用户服务请求数量，然而，一个服务的用户响应时延往往是由服务实例部署的位置，以及其处理的业务量共同决定的，因此，仅仅实现最优的服务部署可能无法实现最优的用户响应时延。
发明内容
基于此，有必要针对上述技术问题，提供一种能够解决边缘计算中服务实例部署无法全局优化问题的应用于边缘计算的服务实例部署方法和装置。
一种应用于边缘计算的服务实例部署方法，所述方法包括：
在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；
根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延；
根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型；
根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
在其中一个实施例中，还包括：判断是否进行服务实例的部署优化；当所述服务请求产生SLA违例时，则确定进行服务实例的部署优化；或，所述响应时延大于阈值时，则确定进行服务实例的部署优化。
在其中一个实施例中，还包括：根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延为：
Figure BDA0002393961530000021
其中，Tsc表示平均往返时延，下标sc表示服务调用对象和边缘计算节点的调用关系；μc表示服务速率；λcs表示到达率，到达率为连续变量；xcs表示服务实例数量，服务实例数量为变量；lcs表示往返时延。
在其中一个实施例中，还包括：根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延为：
Figure BDA0002393961530000031
其中T表示响应时延，s表示边缘计算节点中所述服务请求数量，c表示边缘计算节点中实际服务实例数量，s、c均为已知常数。
在其中一个实施例中，还包括：根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型为：
Figure BDA0002393961530000032
Figure BDA0002393961530000033
λcs≤xcs·μc
Figure BDA0002393961530000034
其中，min表示对响应时延计算最小值，s.t表示约束函数，λc表示所述服务请求总数；rc表示部署服务实例所需资源；rs表示边缘计算节点的可用资源总量。
在其中一个实施例中，还包括：根据所述部署数据，进行所述服务实例在各个边缘计算节点之间的迁移、生成与更新。
一种应用于边缘计算的服务实例部署装置，所述装置包括：
数据获取模块，用于在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
时延计算模块，用于根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延；
部署模块，用于根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型；根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
在其中一个实施例中，还包括判断模块；判断模块用于判断是否进行服务实例的部署优化；判断模块用于当所述服务请求产生SLA违例时，则确定进行服务实例的部署优化；或，所述响应时延大于阈值时，则确定进行服务实例的部署优化。
一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；
根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延；
根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型；
根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：
在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；
根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延；
根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型；
根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
上述应用于边缘计算的服务实例部署方法、装置、计算机设备和存储介质，通过获取到往返时延、服务速率、到达率以及服务实例数量，可以计算到服务请求的平均往返时间，然后考虑全局信息，计算得到各个服务请求的响应时延，一般而言，对于微服务架构而言，响应时延越小，则系统性能越好，从而，根据响应时延和边缘计算节点的性能参数，构建部署模型，模数模型是一个优化函数，通过求解部署模型，可以输出边缘计算节点中服务实例的部署数据，从而全局对边缘计算节点进行部署。
附图说明
图1为传统技术中边缘计算架构的结构示意图；
图2为一个实施例中边缘计算框架的结构示意图；
图3为一个实施例中应用于边缘计算的服务实例部署方法的流程示意图；
图4为一个实施例中应用于边缘计算的服务实例部署装置的结构框图；
图5为一个实施例中计算机设备的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本申请提供的应用于边缘计算的服务实例部署方法，可以应用于服务器中。其中，服务器可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
具体的，如图2所示，本发明的服务器中主要由三个部分组成：数据中心，边缘计算节点，服务调用对象。其中数据中心具有全局视图，能够获取各个边缘计算节点的剩余计算资源，服务实例部署情况，以及各个服务实例当前的处理时延；边缘计算节点作为承载容器和服务实例的服务器或集群，是向用户提供服务的实体，由于服务调用对象的移动性和网络的不可靠性，消息的往返时延可能会随时变化，因此也是用户响应时延的重要组成部分；服务调用对象是服务的实际使用者，通过Http、Ftp、SAMBA等协议获取边缘计算节点提供的各种服务，需要的注意的是，服务调用对象不仅仅可以是个人用户、移动计算机、设备等，也可以是其他边缘计算节点或其他服务。
本发明提供的应用于边缘计算的服务实例部署方法主要工作在以下6个功能模块，具体为:
服务调用记录模块，工作在服务实例的容器中，记录服务调用次数对象等，用于计算服务请求的到达率。
信道时延记录模块，工作在边缘计算节点中，用于记录服务调用对象与边缘计算节点的往返时延，往返时延包括传输时延和传播时延，但不包括排队时延。
信息收集模块，工作在数据中心，负责与边缘计算节点的交互，并收集边缘计算节点与当前网络状况信息
优化计算模块，存储实例部署的核心算法，工作在数据中，根据信息收集模块收集的各种参数，变量和数据，计算当前网络和系统状态下，服务实例的最优部署位置。
服务负载均衡模块，分为两个部分，一部分在数据中心中，其根据优化计算模块计算的业务分配方案，将负载均衡参数下发到服务网关或各个服务调用者，另一部分工作在服务网关或各个服务调用者中，根据下发的参数控制服务请求的对象，实现特定的服务业务分配方案。
服务实例调度与迁移模块，责按照服务实例最优部署方案，对服务实例进行跨节点的调度和节点，使之符合当前的最优状态。
在一个实施例中，如图3所示，提供了一种应用于边缘计算的服务实例部署方法，以该方法应用于服务器为例进行说明，包括以下步骤：
步骤302，在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、边缘计算节点中服务实例的服务速率、边缘计算节点上服务调用对象发送的服务请求的到达率以及边缘计算节点的所述服务实例数量。
往返时延包括传输时延和传播时延，用于量化服务调用对象与边缘计算节点之间的访问速度。服务速率指的是服务实例处理服务请求的能力，到达率通过记录服务请求访问服务实例的频率得到的，对于确定的框架中，边缘计算节点中的服务实例数量是确定的，在优化过程中，由于服务实例的新增删减等操作，服务实例数量是变动的。
步骤304，根据往返时延、服务速率、到达率以及服务实例数量，得到各个服务请求的平均往返时延。
平均往返试验指的是服务请求从发出到返回所需的平均时间，其与当前网络状况，边缘计算节点的处理能力有关。
步骤306，根据平均往返时延、边缘计算节点中实际服务实例数量以及边缘计算节点中服务请求数量，得到各个所述服务请求的响应时延。
响应时延指的是每个服务请求的平均往返时延进行叠加得到，通过响应时延可以得到时延的全局信息，从而更好的全局部署做铺垫。
步骤308，根据响应时延以及边缘计算节点的性能参数，构建部署模型。
边缘计算节点的性能参数指的是所能处理的服务请求总数、服务实例的计算资源等，部署模型是一种优化模型，优化模型包括一个优化函数，该优化函数基于响应时延，然后通过边缘计算节点的性能参数作为约束。
步骤310，根据部署模型输出边缘计算节点中服务实例的部署数据。
通过对部署模型进行求解，可以得到个边缘计算节点所需部署的服务实例数量。
上述应用于边缘计算的服务实例部署方法中，通过获取到往返时延、服务速率、到达率以及服务实例数量，可以计算到服务请求的平均往返时间，然后考虑全局信息，计算得到各个服务请求的响应时延，一般而言，对于微服务架构而言，响应时延越小，则系统性能越好，从而，根据响应时延和边缘计算节点的性能参数，构建部署模型，模数模型是一个优化函数，通过求解部署模型，可以输出边缘计算节点中服务实例的部署数据，从而全局对边缘计算节点进行部署。
在其中一个实施例中，还需要判断是否进行服务实例的部署优化。具体的判断过程包括：当服务请求产生SLA违例时，则确定进行服务实例的部署优化；或，响应时延大于阈值时，则确定进行服务实例的部署优化。本实施例中，SLA Service-Level Agreement)违例指的是服务等级协议违例，通过判断可以自动监控边缘计算框架是否需要重新部署，从而使边缘计算框架可以趋于最佳状态。
在其中一个实施例中，计算平均往返时延包括：各个服务请求的平均往返时延为：
Figure BDA0002393961530000081
其中，Tsc表示平均往返时延，下标sc表示服务调用对象和边缘计算节点的调用关系；μc表示服务速率；λcs表示到达率，到达率为连续变量；xcs表示服务实例数量，服务实例数量为变量；lcs表示往返时延。本实施例中，将均往返时延和服务实例数量设置为变量，便于进行优化决策。
在其中一个实施例中，计算响应时延的步骤包括：根据平均往返时延、边缘计算节点中实际服务实例数量以及边缘计算节点中所述服务请求数量，得到各个服务请求的响应时延为：
Figure BDA0002393961530000082
其中T表示响应时延，s表示边缘计算节点中服务请求数量，c表示边缘计算节点中实际服务实例数量，s、c均为已知常数。本实施例中，通过计算响应时延，可以确定边缘计算框架的全局信息，便于进行全局的决策部署。
在其中一个实施例中，构建部署模型的步骤包括：根据响应时延以及边缘计算节点的性能参数，构建部署模型为：
Figure BDA0002393961530000083
Figure BDA0002393961530000084
λcs≤xcs·μc
Figure BDA0002393961530000085
其中，min表示对响应时延计算最小值，s.t表示约束函数，λc表示服务请求总数；rc表示部署服务实例所需资源；rs表示边缘计算节点的可用资源总量。
本实施例中，其中目标函数的意义是优化本模型，用于在各个服务实例部署完毕之后，能够最小化所有服务请求的总调用响应时延。第一个约束条件保证了分配给各个边缘计算节点的服务请求，等于该服务请求的总请求数量，用服务请求的到达率表示，也就是各个边缘节点的服务到达率等于该服务的总请求到达率。所有边缘计算节点上部署的服务实例个数等于整个系统中单位时间内的服务到达速率。第二个约束条件保证了，对于每个服务请求来说，在每个边缘计算节点上，服务强度总大于服务请求的到达率，也就是说分配的服务实例总能够满足用户的调用需求。第三个约束条件保证了，缘计算节点的计算资源必须能够满足部署在该节点上所有服务实例的资源需求。
在其中一个实施例中，在确定部署数据之后，还需要判断是否动态调整服务实例的部署，若是，则根据部署数据，进行服务实例在各个边缘计算节点之间的迁移、生成与更新。若否，则通过负载均衡的方式，向服务调用对象或者服务网关下发负载均衡参数。
具体的，根据上述部署模型可知，到达率λcs为连续变量，xcs表示整数变量，该模型为混合整数规划问题，不存在解析解。可以采用计算机辅助计算工具yalmip求解该问题，其求解步骤如下：
(1)、创建决策变量：
创建整型变量xcs；
>>x＝intvar(|C|,|S|)://其中|C|为服务的数量，|S|为边缘计算节点的数量；
创建连续型变量λcs，用变量y表示：
(2)、添加约束；
令y(c,0)+y(c,1)+……+y(c,|S|)＝k(c)
>>F＝set(k(1)+k(2)+……+k(n)＝lamda,”arrival rate”)；//添加约束1
>>F＝F+set(y(c,s)<＝x(c,s)*u(c),”process rate”)；//添加约束2，共|C|*|S|个约束
>>F＝F+set(x(0,s)*o(0)+x(1,s)*o(1)+……+x(|C|,s)*o(|C|)<＝r(s),”resource constraint”)；//添加约束3，共|S|个约束。
(3)、参数配置；
>>ops＝sdpsettings('solver','lpsolve','verbose',2)；
'solver'参数指定程序用lpsolve求解器；'verbose'指定显示冗余度(冗余度越大，你就可以看到越详细的求解过程信息)。
(4)求解模型；
>>result＝solvesdp(F,f,ops)
求解一个数学规划(最小化)问题，该问题的目标函数由f指定，约束由F指定，ops指定求解参数，最后的结果存储在result结构体中。
应该理解的是，虽然图3的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图3中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
在一个实施例中，如图4所示，提供了一种应用于边缘计算的服务实例部署装置，包括：数据获取模块402、时延计算模块404和部署模块406，其中：
数据获取模块402，用于在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
时延计算模块404，用于根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延；
部署模块406，用于根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型；根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
在其中一个实施例中，还包括：判断模块；判断模块用于判断是否进行服务实例的部署优化；判断模块用于当所述服务请求产生SLA违例时，则确定进行服务实例的部署优化；或，所述响应时延大于阈值时，则确定进行服务实例的部署优化。
在其中一个实施例中，时延计算模块404还用于根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延为：
Figure BDA0002393961530000111
其中，Tsc表示平均往返时延，下标sc表示服务调用对象和边缘计算节点的调用关系；μc表示服务速率；λcs表示到达率，到达率为连续变量；xcs表示服务实例数量，服务实例数量为变量；lcs表示往返时延。
在其中一个实施例中，时延计算模块404还用于根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延为：
Figure BDA0002393961530000112
其中T表示响应时延，s表示边缘计算节点中所述服务请求数量，c表示边缘计算节点中实际服务实例数量，s、c均为已知常数。
在其中一个实施例中，部署模块406还用于根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型为：
Figure BDA0002393961530000113
Figure BDA0002393961530000114
λcs≤xcs·μc
Figure BDA0002393961530000115
其中，min表示对响应时延计算最小值，s.t表示约束函数，λc表示所述服务请求总数；rc表示部署服务实例所需资源；rs表示边缘计算节点的可用资源总量。
在其中一个实施例中，部署模块406还用于根据所述部署数据，进行所述服务实例在各个边缘计算节点之间的迁移、生成与更新。
关于应用于边缘计算的服务实例部署装置的具体限定可以参见上文中对于应用于边缘计算的服务实例部署方法的限定，在此不再赘述。上述应用于边缘计算的服务实例部署装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图5所示。该计算机设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储服务实例数据。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种应用于边缘计算的服务实例部署方法。
本领域技术人员可以理解，图5中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，提供了一种计算机设备，包括存储器和处理器，该存储器存储有计算机程序，该处理器执行计算机程序时实现上述实施例中方法的步骤。
在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述实施例中方法的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (8)

1.一种应用于边缘计算的服务实例部署方法，所述方法包括：
在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；
根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延：
Figure FDA0003683738500000011
其中T表示响应时延；
根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型：
Figure FDA0003683738500000012
Figure FDA0003683738500000013
λcs≤xcs·μc
Figure FDA0003683738500000014
其中，min表示对响应时延计算最小值，s.t表示约束函数，λc表示所述服务请求总数；rc表示部署服务实例所需资源；rs表示边缘计算节点的可用资源总量；s表示边缘计算节点中所述服务请求数量，c表示边缘计算节点中实际服务实例数量，s、c均为已知常数；下标cs表示服务调用对象和边缘计算节点的调用关系；μc表示服务速率；λcs表示到达率，到达率为连续变量；xcs表示服务实例数量，服务实例数量为变量；lcs表示往返时延；
根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
2.根据权利要求1所述的方法，其特征在于，在获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量之前，所述方法还包括：
判断是否进行服务实例的部署优化；
所述判断是否进行服务实例的部署优化，包括：
当所述服务请求产生SLA违例时，则确定进行服务实例的部署优化；
或，所述响应时延大于阈值时，则确定进行服务实例的部署优化。
3.根据权利要求1所述的方法，其特征在于，所述根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延，包括：
根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延为：
Figure FDA0003683738500000021
其中，Tsc表示平均往返时延。
4.根据权利要求1至3任一项所述的方法，其特征在于，在根据所述部署模型输出所述边缘计算节点中服务实例的部署数据之后，所述方法还包括：
根据所述部署数据，进行所述服务实例在各个边缘计算节点之间的迁移、生成与更新。
5.一种应用于边缘计算的服务实例部署装置，其特征在于，所述装置包括：
数据获取模块，用于在边缘网络动态变化的情况下，获取服务调用对象与边缘计算节点的往返时延、所述边缘计算节点中服务实例的服务速率、所述边缘计算节点上所述服务调用对象发送的服务请求的到达率以及所述边缘计算节点的所述服务实例数量；
时延计算模块，用于根据所述往返时延、所述服务速率、所述到达率以及所述服务实例数量，得到各个所述服务请求的平均往返时延；根据所述平均往返时延、所述边缘计算节点中实际服务实例数量以及所述边缘计算节点中所述服务请求数量，得到各个所述服务请求的响应时延：
Figure FDA0003683738500000022
其中T表示响应时延；
部署模块，用于根据所述响应时延以及所述边缘计算节点的性能参数，构建部署模型：
Figure FDA0003683738500000031
Figure FDA0003683738500000032
λcs≤xcs·μc
Figure FDA0003683738500000033
其中，min表示对响应时延计算最小值，s.t表示约束函数，λc表示所述服务请求总数；rc表示部署服务实例所需资源；rs表示边缘计算节点的可用资源总量；s表示边缘计算节点中所述服务请求数量，c表示边缘计算节点中实际服务实例数量，s、c均为已知常数；下标cs表示服务调用对象和边缘计算节点的调用关系；μc表示服务速率；λcs表示到达率，到达率为连续变量；xcs表示服务实例数量，服务实例数量为变量；lcs表示往返时延；根据所述部署模型输出所述边缘计算节点中服务实例的部署数据。
6.根据权利要求5所述的装置，其特征在于，所述装置还包括：判断模块；
判断模块用于判断是否进行服务实例的部署优化；
判断模块用于当所述服务请求产生SLA违例时，则确定进行服务实例的部署优化；
或，所述响应时延大于阈值时，则确定进行服务实例的部署优化。
7.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至4中任一项所述方法的步骤。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1至4中任一项所述的方法的步骤。
CN202010124356.1A 2020-02-27 2020-02-27 应用于边缘计算的服务实例部署方法和装置 Active CN111371603B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010124356.1A CN111371603B (zh) 2020-02-27 2020-02-27 应用于边缘计算的服务实例部署方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010124356.1A CN111371603B (zh) 2020-02-27 2020-02-27 应用于边缘计算的服务实例部署方法和装置

Publications (2)

Publication Number Publication Date
CN111371603A CN111371603A (zh) 2020-07-03
CN111371603B true CN111371603B (zh) 2022-09-13

Family

ID=71210052

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010124356.1A Active CN111371603B (zh) 2020-02-27 2020-02-27 应用于边缘计算的服务实例部署方法和装置

Country Status (1)

Country Link
CN (1) CN111371603B (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110995780A (zh) * 2019-10-30 2020-04-10 北京文渊佳科技有限公司 Api调用方法、装置、存储介质及电子设备
CN111988168B (zh) * 2020-07-24 2021-11-26 北京邮电大学 边缘服务部署方法、装置及电子设备
CN112152938B (zh) * 2020-08-19 2022-11-22 鹏城实验室 一种云虚拟环境中往返时延的确定方法
CN111966502A (zh) * 2020-09-21 2020-11-20 北京百度网讯科技有限公司 用于调整实例数的方法、装置、电子设备及可读存储介质
CN112130931B (zh) * 2020-09-27 2023-01-06 联想(北京)有限公司 一种应用部署方法、节点、系统及存储介质
CN114513770B (zh) * 2020-10-29 2024-01-30 伊姆西Ip控股有限责任公司 部署应用的方法、系统和介质
CN112486666A (zh) * 2020-11-03 2021-03-12 深圳市中博科创信息技术有限公司 一种模型驱动的参考架构方法及平台
CN112764938B (zh) * 2021-02-02 2024-02-06 腾讯科技（深圳）有限公司 云服务器资源管理方法、装置、计算机设备和存储介质
CN112910708B (zh) * 2021-02-07 2023-03-03 中国工商银行股份有限公司 分布式服务调用方法及装置
CN114944993A (zh) * 2021-02-08 2022-08-26 中国电信股份有限公司 微服务的扩缩容方法和装置
CN113472844B (zh) * 2021-05-26 2023-06-16 北京邮电大学 面向车联网的边缘计算服务器部署方法、装置及设备
CN113934515A (zh) * 2021-12-17 2022-01-14 飞诺门阵(北京)科技有限公司 一种基于数据域和计算域的容器组调度方法、装置
CN114546396B (zh) * 2022-01-10 2024-05-28 东北大学 微服务的动态编排优化方法
CN115576973B (zh) * 2022-09-30 2023-04-11 北京领雾科技有限公司 一种业务部署方法、装置、计算机设备和可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8069240B1 (en) * 2007-09-25 2011-11-29 United Services Automobile Association (Usaa) Performance tuning of IT services
CN103546542A (zh) * 2013-09-29 2014-01-29 北京航空航天大学 服务器负载均衡方法和装置
CN106027288A (zh) * 2016-05-10 2016-10-12 华北电力大学 一种配电线路信息监测业务通信流量预测方法
CN108848170A (zh) * 2018-06-22 2018-11-20 山东大学 一种基于nagios监控的雾集群管理系统与方法
CN110187973A (zh) * 2019-05-31 2019-08-30 浙江大学 一种面向边缘计算的服务部署优化方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8069240B1 (en) * 2007-09-25 2011-11-29 United Services Automobile Association (Usaa) Performance tuning of IT services
CN103546542A (zh) * 2013-09-29 2014-01-29 北京航空航天大学 服务器负载均衡方法和装置
CN106027288A (zh) * 2016-05-10 2016-10-12 华北电力大学 一种配电线路信息监测业务通信流量预测方法
CN108848170A (zh) * 2018-06-22 2018-11-20 山东大学 一种基于nagios监控的雾集群管理系统与方法
CN110187973A (zh) * 2019-05-31 2019-08-30 浙江大学 一种面向边缘计算的服务部署优化方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
《Deploying QoS-assured service function chains with stochastic prediction models on VNF latency》;Tsung-Han Lei. et al.;《2017 IEEE Conference on Network Function Virtualization and Software Defined Networks (NFV-SDN)》;20171211;全文 *
《移动边缘计算环境下基于资产配置理论的服务部署策略研究》;陈曦;《万方知识服务平台》;20190822;全文 *
一种基于动态规划的vEPC服务功能链部署方法;王琛等;《计算机应用研究》;20170727(第07期);全文 *
一种支持性能优化的软件部署描述语言;骆慧等;《计算机工程》;20170615(第06期);全文 *

Also Published As

Publication number Publication date
CN111371603A (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
CN111371603B (zh) 应用于边缘计算的服务实例部署方法和装置
US20140325503A1 (en) Cloud infrastructure-based management system and method for maintenance and deployment of application system
JP6380110B2 (ja) リソース制御システム、制御パターン生成装置、制御装置、リソース制御方法及びプログラム
Mechalikh et al. PureEdgeSim: A simulation framework for performance evaluation of cloud, edge and mist computing environments
Kim et al. Multi-agent reinforcement learning-based resource management for end-to-end network slicing
CN110519783B (zh) 基于增强学习的5g网络切片资源分配方法
CN112148492B (zh) 一种考虑多用户移动性的服务部署和资源分配方法
CN113434253B (zh) 集群资源调度方法、装置、设备及存储介质
CN112689007B (zh) 资源分配方法、装置、计算机设备和存储介质
CN112698952A (zh) 计算资源统一管理方法、装置、计算机设备及存储介质
Benedetti et al. Reinforcement learning applicability for resource-based auto-scaling in serverless edge applications
Badri et al. A sample average approximation-based parallel algorithm for application placement in edge computing systems
EP4068092A1 (en) Managing computer workloads across distributed computing clusters
Schlegel et al. Towards autonomous mobile agents with emergent migration behaviour
CN110430236B (zh) 一种部署业务的方法以及调度装置
CN112738723B (zh) 网络资源的调配方法、装置和计算机可读存储介质
CN115955685B (zh) 多智能体协同路由方法、设备及计算机存储介质
Ray et al. Trace-driven modeling and verification of a mobility-aware service allocation and migration policy for mobile edge computing
CN113050955A (zh) 一种自适应ai模型部署方法
CN111143033A (zh) 基于可伸缩操作系统的操作执行方法及装置
Skarin et al. An assisting model predictive controller approach to control over the cloud
CN114936089A (zh) 资源调度方法、系统、设备及存储介质
CN114153714A (zh) 基于日志信息的容量调整方法、装置、设备及存储介质
Liu et al. Computation Offloading and Task Scheduling with Fault-Tolerance for Minimizing Redundancy in Edge Computing
Gaivoronski Stochastic optimization problems in telecommunications

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant