CN117527590A - 基于边缘网络的微服务部署与请求路由方法、系统及介质 - Google Patents
基于边缘网络的微服务部署与请求路由方法、系统及介质 Download PDFInfo
- Publication number
- CN117527590A CN117527590A CN202410012232.2A CN202410012232A CN117527590A CN 117527590 A CN117527590 A CN 117527590A CN 202410012232 A CN202410012232 A CN 202410012232A CN 117527590 A CN117527590 A CN 117527590A
- Authority
- CN
- China
- Prior art keywords
- micro
- service
- edge
- deployment
- industrial application
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000011156 evaluation Methods 0.000 claims abstract description 41
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 39
- 238000004519 manufacturing process Methods 0.000 claims abstract description 38
- 238000009826 distribution Methods 0.000 claims abstract description 35
- 238000012545 processing Methods 0.000 claims abstract description 34
- 238000000638 solvent extraction Methods 0.000 claims abstract description 12
- 230000006854 communication Effects 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 18
- 238000004891 communication Methods 0.000 claims description 17
- 239000011159 matrix material Substances 0.000 claims description 11
- 238000003860 storage Methods 0.000 claims description 11
- 238000013508 migration Methods 0.000 claims description 8
- 230000005012 migration Effects 0.000 claims description 8
- 239000013598 vector Substances 0.000 claims description 5
- 230000008901 benefit Effects 0.000 abstract description 7
- 230000006870 function Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 9
- 238000005265 energy consumption Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 101100391182 Dictyostelium discoideum forI gene Proteins 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0894—Policy-based network configuration management
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0803—Configuration setting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5041—Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
- H04L41/5051—Service on demand, e.g. definition and deployment of services in real time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5041—Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
- H04L41/5054—Automatic deployment of services triggered by the service manager, e.g. service implementation by automatic configuration of network components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/121—Shortest path evaluation by minimising delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/125—Shortest path evaluation based on throughput or bandwidth
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种基于边缘网络的微服务部署与请求路由方法、系统及介质，其方法包括以下步骤：获取各工业应用请求流，按照预设处理顺序依次处理各工业应用请求；在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径；通过建立基于智能工厂边缘网络的微服务部署路由模型，并结合核心划分算法与自循环评估算法同时确定微服务的部署方案与请求路由方案，有效提升了工厂生产效益。
Description
技术领域
本发明涉及边缘计算技术领域，特别涉及一种基于边缘网络的微服务部署与请求路由方法、系统及介质。
背景技术
随着移动互联网的发展，网络流量和服务请求呈现爆炸式增长，数以万计的移动设备以及传感设备被运用在各行各业以及日常生活中。在这样的背景下，移动互联网企业与智能应用生产商在面对网络应用的高速迭代时运维成本大幅度上升，于是纷纷从单体式、分层式、分布式、面向服务架构转向微服务架构，即用一组轻量级、松耦合的服务取代传统的大型网络应用。微服务的优势在于更低的开发成本与运维成本以及更灵活的可扩展性，每个微服务模块可以进行独立开发、更新与部署，只关注特定的业务功能，且在面对迅猛变化的用户需求时可以独立进行扩展。
在智能工厂生产制造领域，同样越来越依赖网络连接来引入新服务并提高效率。已有一些智能工厂向微服务架构演进，以支持eMBB、URLLC、mMTC业务场景。这些微服务相互之间进行大量通信，以支持各种大规模的实时在线应用功能，每个微服务实例都可以根据工业服务和用例的特定QoS要求进行调整。但随着网络业务的增长，服务种类逐渐增多，与低服务粒度一同到来的是微服务系统的高复杂度，一个服务请求从入口节点到达出口节点，期间通常需要经过多个微服务实例，并且需要满足不同的性能需求，这是一个巨大的挑战，因为网络无法针对某种服务进行优化，更无法通过一刀切的方式满足不同的需求，因此如何优化微服务部署与请求路由成为了关键。
目前有许多文献针对边缘场景中微服务的部署展开了研究，主要集中于微服务实例的相关资源编排，也有相当的文献关注了微服务实例之间的通信过程，从优化请求应答性能的角度进行了通信路径的编排。但是大规模在线应用程序的整体性能同时取决于服务部署和请求路由，因此需同时考虑优化微服务部署与请求路由。
发明内容
本发明提供一种基于边缘网络的微服务部署与请求路由方法、系统及介质，通过建立基于智能工厂边缘网络的微服务部署路由模型，并结合核心划分算法与自循环评估算法同时确定微服务的部署方案与请求路由方案，有效提升了工厂生产效益。
第一方面，提供一种基于边缘网络的微服务部署与请求路由方法，所述边缘网络包括集中控制器及与所述集中控制器通信连接的多个边缘节点，每个所述边缘节点包括交换机及与所述交换机均通信连接的多个边缘服务器；包括以下步骤：
获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求；
在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；
基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
根据第一方面，在第一方面的第一种可能的实现方式中，所述“对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数”步骤，具体包括以下步骤：
基于服务强度约束为需部署在多个边缘服务器上的各微服务分别配置初始核心数；
当检测到一个工业应用请求在各边缘节点的停留总时延大于等于容忍时延时，则计算各微服务增配单位核心时对应的各节点停留时延增益值，为数值最大的节点停留时延增益值对应的微服务增配单位核心，并根据增配的单位核心更新各微服务配置的初始核心数；
直至检测到一个工业应用请求在各边缘节点的停留总时延小于容忍时延时，得到各微服务对应所需核心数。
根据第一方面，在第一方面的第二种可能的实现方式中，所述“基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤，具体包括以下步骤：
在各边缘节点中查找并获取存在先序微服务的先序边缘节点集合；
以所述先序边缘节点集合中的每个边缘节点为基准节点，使用节点评估函数对其余候选边缘节点进行评估、对应生成评估矩阵；
将候选边缘节点对应的所述评估矩阵进行列求和后压缩为行向量，以得到候选边缘节点的部署概率分布；
根据候选边缘节点的部署概率分布，以对一个工业应用请求在各候选边缘节点的对应边缘服务器上部署微服务；
搜索先序微服务所在的先序边缘节点与候选边缘节点之间符合预设约束条件的最短路径作为一个工业应用请求路由路径。
根据第一方面的第二种可能的实现方式中，在第一方面的第三种可能的实现方式中，所述节点评估函数的具体公式如下：
；
式中，为候选边缘节点/>与基准节点/>之间的直连链路剩余带宽，为候选边缘节点/>与基准节点/>之间的直连链路时延，/>为候选边缘节点/>上的剩余可用资源，/>为候选边缘节点/>上已经为微服务/>分配的核心数，/>为权重系数；/>为两个边缘节点/>与/>之间的链路时延。
根据第一方面，在第一方面的第四种可能的实现方式中，所述“基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤之后，具体包括以下步骤：
以通用生产场景下的微服务部署与请求路由路径方案为基准方案；
根据高低负载阈值获取高负载边缘节点集合及低负载边缘节点集合；
计算所述高负载边缘节点集合中各微服务路由路径组合的对应节点相关度，并选取小于相关度阈值的节点相关度对应的微服务路由路径组合；
在基于边缘网络吞吐量不变的情况下，依次将一组微服务路由路径组合迁移至低负载边缘节点中，并将迁移后的方案更新为基准方案，直至完成所有微服务路由路径组合的迁移，获得低峰生产时段下的微服务部署与请求路由路径方案。
根据第一方面，在第一方面的第五种可能的实现方式中，所述“获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求”步骤，具体包括以下步骤：
获取各工业应用请求一一对应的SP值，按照SP值从大至小的顺序依次处理对应的各工业应用请求。
第二方面，提供了一种基于边缘网络的微服务部署与请求路由系统，包括：
请求流获取模块，用于获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求；
核心部署模块，与所述请求流获取模块通信连接，用于在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；以及，
路由部署模块，与所述请求流获取模块通信连接，用于基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
第三方面，提供了一种存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述基于边缘网络的微服务部署与请求路由方法。
与现有技术相比，本发明的优点如下：通过建立基于智能工厂边缘网络的微服务部署路由模型，并结合核心划分算法与自循环评估算法同时确定微服务的部署方案与请求路由方案，有效提升了工厂生产效益。
附图说明
图1是本发明一种基于边缘网络的微服务部署与请求路由方法的一实施例的流程示意图；
图2是本发明的边缘网络结构示意图；
图3是本发明的微服务部署及请求路由示意图；
图4是本发明一种基于边缘网络的微服务部署与请求路由方法的又一实施例的流程示意图；
图5是本发明一种基于边缘网络的微服务部署与请求路由系统的结构示意图。
具体实施方式
现在将详细参照本发明的具体实施例，在附图中例示了本发明的例子。尽管将结合具体实施例描述本发明，但将理解，不是想要将本发明限于所述的实施例。相反，想要覆盖由所附权利要求限定的在本发明的精神和范围内包括的变更、修改和等价物。应注意，这里描述的方法步骤都可以由任何功能块或功能布置来实现，且任何功能块或功能布置可被实现为物理实体或逻辑实体、或者两者的组合。
为了使本领域技术人员更好地理解本发明，下面结合附图和具体实施方式对本发明作进一步详细说明。
注意：接下来要介绍的示例仅是一个具体的例子，而不作为限制本发明的实施例必须为如下具体的步骤、数值、条件、数据、顺序等等。本领域技术人员可以通过阅读本说明书来运用本发明的构思来构造本说明书中未提到的更多实施例。
参见图1，本发明实施例提供一种基于边缘网络的微服务部署与请求路由方法，所述边缘网络包括集中控制器及与所述集中控制器通信连接的多个边缘节点，每个所述边缘节点包括交换机及与所述交换机均通信连接的多个边缘服务器；包括以下步骤：
S100，获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求；
S200，在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；
S300，基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
优选地，在本申请另外的实施例中，所述“S100，获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求”步骤，具体包括以下步骤：
获取工业应用请求流一一对应的SP值（请求优先级），按照SP值从大至小的顺序依次处理对应的各工业应用请求。
具体地，本实施例中，同时参见图2所示，交换机负责数据转发路由，边缘服务器负责请求处理，每个交换机连接所处边缘节点下的所有边缘服务器，同一边缘节点内边缘服务器与交换机、边缘服务器与边缘服务器之间的通信时延可忽略不计，同一边缘节点内的一组边缘服务器中包含不同数量的内核，以单个内核作为容器占用的最小资源单位，边缘节点之间将以太网电缆作为通信链路，以构成连通的边缘网络拓扑，通信链路提供传输带宽并存在链路时延。支持多种微服务同时部署在边缘节点的服务器上，不同微服务的组合构成具有不同功能的微服务链，每个微服务可实例化多个镜像，每一类工业应用请求对应一种微服务链。边缘节点接收到应用请求后，受逻辑集中控制器调度，由交换机和边缘服务器协同将请求根据对应服务链上的微服务顺序依次处理并路由，以完成用户需求。
具体过程如下：当工业应用请求流进入边缘网络时，根据网络状态与请求的性能需求选择所需微服务实例之一，并将该请求路由至选定实例上，待该微服务执行完毕，所在边缘节点将该请求路由至后序微服务实例处，直至所有微服务实例执行完毕。
对于一个工业应用请求流，在通用生产场景下，微服务部署与请求路由方案为基准方案，该基准方案包括：S200，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；S300，基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
同时参见图3所示，本发明在通用生产场景下，微服务部署与请求路由方案为基准方案如下：
步骤一：首先根据各工业应用请求流的/>值进行排序，优先处理/>值更高的请求流，并依据顺序逻辑依次解决/>所请求微服务/>的部署问题；
步骤二：使用核心划分算法计算每个微服务实例需要的核心数；
步骤三：判断剩余资源数量与/>的大小关系，当/>时，/>部署失败，回退网络状态，并处理下一条工业应用请求流；
步骤四：使用自循环部署评估算法得到候选边缘节点的部署概率分布H；
步骤五：依据候选边缘节点的部署概率分布H进行微服务实例的部署，并搜索先序微服务实例所在的节点与候选边缘节点之间符合约束的最短路径作为路由路径，更新网络资源状态，若候选节点上的剩余可用资源/>不足，则依据H继续放置实例，直至满足该微服务实例的资源需求；
步骤六：执行过程中，若某个微服务部署失败，则代表该请求执行失败，回退网络状态，执行下一条请求，所有请求执行完毕后，得到通用生产场景下的微服务部署方案与请求路由方案。
因此，本发明通过建立基于智能工厂边缘网络的微服务部署路由模型，并结合核心划分算法与自循环评估算法同时确定微服务的部署方案与请求路由方案，有效提升了工厂生产效益。
需要说明的是，通用生产场景就是指高峰生产时段的工厂，在这个场景下网络资源会被各种工业应用占用，大量生产环节的请求会进入到边缘网络中/等待响应，在此过程中系统能耗达到峰值。
优选地，在本申请另外的实施例中，所述“S200，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数”步骤，具体包括以下步骤：
S210，基于服务强度约束为需部署在多个边缘服务器上的各微服务分别配置初始核心数；
S220，当检测到一个工业应用请求在各边缘节点的停留总时延大于等于容忍时延时，则计算各微服务增配单位核心时对应的各节点停留时延增益值，为数值最大的节点停留时延增益值对应的微服务增配单位核心，并根据增配的单位核心更新各微服务配置的初始核心数；
S230，直至检测到一个工业应用请求在各边缘节点的停留总时延小于容忍时延时，得到各微服务对应所需核心数。
具体地，本实施例中，
步骤一：基于服务强度约束为部署在多个边缘服务器上的各微服务分别配置初始核心数；
步骤二：计算并比较各边缘节点停留总时延（请求流在该边缘节点上的排队时延与处理时延）与容忍时延，当边缘节点停留总时延高于容忍时延时，依次计算增配单位核心时各微服务实例的节点停留时延增益值；
步骤三：为微服务链中最大的微服务增配单位核心；
步骤四：重复步骤二与步骤三，直至边缘节点停留总时延低于容忍时延，得到每个微服务实例需要的核心数。
优选地，在本申请另外的实施例中，所述“S300，基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤，具体包括以下步骤：
S310，在各边缘节点中查找并获取存在先序微服务的先序边缘节点集合；
S320，以所述先序边缘节点集合中的每个边缘节点为基准节点，使用节点评估函数对其余候选边缘节点进行评估、对应生成评估矩阵；
S330，将候选边缘节点对应的所述评估矩阵进行列求和后压缩（对一个矩阵进行列求和，这个过程将其从矩阵压缩为一个一维向量）为行向量，以得到候选边缘节点的部署概率分布；
S340，根据候选边缘节点的部署概率分布，以对一个工业应用请求在各候选边缘节点的对应边缘服务器上部署微服务；
S350，搜索先序微服务所在的先序边缘节点与候选边缘节点之间符合预设约束条件的最短路径作为一个工业应用请求路由路径。
具体地，本实施例中，
步骤一：查找所有先序微服务实例的部署节点，若为首个微服务，则先序节点为入口节点，得到先序节点集合/>；
步骤二：以中每个边缘节点为基准节点，使用节点评估函数/>对工厂边缘网络中所有可用节点进行评估，生成评估矩阵/>；
步骤三：将所有评估矩阵列求和后压缩为行向量/>，向量中每个元素对应每个边缘节点/>的最终评估得分，依此计算得到候选边缘节点的部署概率分布H。
需要说明的是，最终评估得分是针对各个节点是否适合部署做出打分，而得到的节点概率分布在[0,1]区间内，可以理解为，评估得分越高则节点概率越高，但他们中间的计算过程可以有很多种，每种都会造成不同的结果。
优选地，在本申请另外的实施例中，所述节点评估函数的具体公式如下：
；
式中，为候选边缘节点/>与基准节点/>之间的直连链路剩余带宽，为候选边缘节点/>与基准节点/>之间的直连链路时延，/>为候选边缘节点/>上的剩余可用资源，/>为候选边缘节点/>上已经为微服务/>分配的核心数，为权重系数；/>为两个边缘节点/>与/>之间的链路时延。
同时参见图4所示，优选地，在本申请另外的实施例中，所述“S300，基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤之后，具体包括以下步骤：
以通用生产场景下的微服务部署与请求路由路径方案为基准方案；
根据高低负载阈值获取高负载边缘节点集合及低负载边缘节点集合；
计算所述高负载边缘节点集合中各微服务路由路径组合的对应节点相关度，并选取小于相关度阈值的节点相关度对应的微服务路由路径组合；
在基于边缘网络吞吐量不变的情况下，依次将一组微服务路由路径组合迁移至低负载边缘节点中，并将迁移后的方案更新为基准方案，直至完成所有微服务路由路径组合的迁移，获得低峰生产时段下的微服务部署与请求路由路径方案。
具体地，本实施例中，低峰生产时段是指工厂的生产低峰期，因为工厂中存在生产环节的周期性波动以及系统的调整与维护，在生产低峰期主要是处理一些非实时应用以及非关键生产任务，此时应该采取相应的节能策略来减少生产支出。
步骤一：取得通用生产场景下的微服务部署方案与请求路由方案并作为基准方案；
步骤二：根据高低负载阈值确定高负载边缘节点集合与低负载边缘节点集合；
步骤三：计算高负载边缘节点中各微服务实例组合/>的节点相关度；
节点相关度与微服务实例在边缘节点上占用的核心比例有关，占用的比例越高相关度就越高;各微服务路由路径组合的节点相关度与其在边缘节点上占用的核心比例主要呈正相关关系，也可以直接用占用的核心比例表示，因为相关度只用于大小对比，没有具体量纲。
步骤四：根据相关度阈值，将低相关度的各微服务实例组合迁移至不同的低负载边缘节点，若在保证吞吐量不变的同时拥有更低能耗，则更新为临时最优方案；
步骤五：完成对一组实例组合的所有迁移尝试后，将更新为/>，用于下一组实例组合的迁移计算，完成所有实例组合的迁移计算后，根据最终的/>获得低峰生产时段下的微服务部署方案与请求路由方案。
需要说明的是，在进行核心划分算法及自循环评估算法计算时，需考虑最大化边缘网络吞吐、最小化资源支出目标函数、边缘网络资源、转发路由、请求性能、服务强度等约束，这些约束均为系统预设约束条件。
一、边缘网络吞吐量为该生产周期内完成各工业应用请求流的到达率之和，则边缘网络吞吐量的目标函数（最大化边缘网络吞吐）为：
；
式中，表示该生产周期中工业应用请求流/>的到达率，/>是一个二元变量，当请求/>执行成功时置1，反之置0。
二、边缘网络的资源支出主要分为两大部分：边缘服务器资源支出以及通信链路资源支出，其中边缘服务器资源支出包括边缘服务器静态启动成本以及动态部署支出，通信链路资源支出包括链路带宽资源支出，则边缘网络的资源支出目标函数（最小化资源支出目标函数）为：
；
式中，是边缘服务器静态启动成本，/>则是关于节点资源的支出函数，与微服务/>占用边缘服务器/>的核心数/>呈正相关，/>是二元变量，当/>=1时表示边缘节点/>中存在部署有微服务的服务器，反之则不存在，/>是关于带宽资源的支出函数，与链路/>中所占用的带宽资源数/>呈正相关，/>与/>是标准化系数。
三、边缘网络资源包括边缘节点计算资源与链路带宽资源，两者均有限，因此存在以下资源约束：
；
式中，表示边缘节点/>的总核心数，/>表示通信链路/>的总带宽。
四、请求流可以同时路由至不同边缘节点的同种微服务，所有应用请求必须得到完全服务，因此存在以下请求路由约束：
；
式中，表示执行请求/>时边缘节点/>上微服务/>的实例完成服务后路由至边缘节点/>上微服务/>的实例的概率。
五、请求性能约束主要包括时延约束与资源需求约束，根据请求流路由概率，接收到的总到达率如下：
；
式中，表示边缘节点/>上的微服务/>实际接收的/>到达率。
基于队列模型对应用请求的端到端通信过程进行分析，通信时延包括传输时延、传播时延、排队时延以及处理时延，请求流在微服务实例/>处的排队时延/>与处理时延/>如下：
；
式中，表示单位核心对于微服务/>的处理能力。
通信过程中请求从源节点至目标节点期间的多条路由路径表示为/>，其中为单条路由中的路径集合，链路延迟/>表示为：
；
式中，为传输时延，/>为传播时延，/>为边缘节点/>和边缘节点/>之间的直连链路。
请求的执行时延低于时延需求时，请求执行成功，则时延约束为：
；
式中，表示/>所请求的微服务顺序逻辑集合，/>表示/>的时延需求。
路由路径集合中，每一条链路的剩余带宽资源都满足请求/>的带宽需求时，请求执行成功，则带宽约束为：
;
式中，表示链路/>的剩余带宽资源，/>表示请求/>的带宽需求。
六、根据队列模型，要求保证每个微服务实例服务稳定性，存在以下服务强度约束：
；
式中，表示边缘节点/>上微服务/>的服务强度。
同时参见图5所示，本发明实施例还提供了一种基于边缘网络的微服务部署与请求路由系统，包括：
请求流获取模块，用于获取各工业应用请求流，按照预设处理顺序依次处理各工业应用请求流；
核心部署模块，与所述请求流获取模块通信连接，用于在通用生产场景下，对于一个工业应用请求流，基于核心划分算法计算部署在多个边缘服务器上的各微服务对应所需核心数；以及，
路由部署模块，与所述请求流获取模块通信连接，用于基于自循环部署评估算法得到一个工业应用请求流在各边缘节点之间的路由路径。
因此，本发明通过建立基于智能工厂边缘网络架构的微服务部署路由模型，并结合核心划分算法与自循环评估算法同时确定微服务的部署方案与请求路由方案，提出通用场景下的微服务部署策略与请求路由策略，优化系统吞吐量与能耗。
同时针对通用场景下的微服务部署策略与请求路由策略，在资源受限的情况下，对边缘节点中的微服务实例组合迁移优化，保证在不影响系统吞吐量的情况下实现系统能耗的降低，得到低峰生产时段下的微服务部署方案与请求路由方案。
因此，本发明充分利用异构节点中的有限资源，以应对不同性能需求的并发工业应用请求，实现了工厂边缘网络系统针对高吞吐、低时延、低能耗三者在不同生产场景下的优化与权衡，有效提升了工厂生产效益。
具体的，本实施例与上述方法实施例一一对应，各个模块的功能在相应的方法实施例中已经进行详细说明，因此不再一一赘述。
基于同一发明构思，本申请实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现上述方法的所有方法步骤或部分方法步骤。
本发明实现上述方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，RandomAccess Memory）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
基于同一发明构思，本申请实施例还提供一种电子设备，包括存储器和处理器，存储器上储存有在处理器上运行的计算机程序，处理器执行计算机程序时实现上述方法中的所有方法步骤或部分方法步骤。
所称处理器可以是中央处理单元（Central Processing Unit，CPU），还可以是其他通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现成可编程门阵列（Field-Programmable Gate Array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，处理器是计算机装置的控制中心，利用各种接口和线路连接整个计算机装置的各个部分。
存储器可用于存储计算机程序和/或模块，处理器通过运行或执行存储在存储器内的计算机程序和/或模块，以及调用存储在存储器内的数据，实现计算机装置的各种功能。存储器可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序（例如声音播放功能、图像播放功能等）；存储数据区可存储根据手机的使用所创建的数据（例如音频数据、视频数据等）。此外，存储器可以包括高速随机存取存储器，还可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡（SmartMedia Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、服务器或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器和光学存储器等）上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备（系统）、服务器和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。
Claims (8)
1.一种基于边缘网络的微服务部署与请求路由方法，所述边缘网络包括集中控制器及与所述集中控制器通信连接的多个边缘节点，每个所述边缘节点包括交换机及与所述交换机均通信连接的多个边缘服务器；其特征在于，包括以下步骤：
获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求；
在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；
基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
2.如权利要求1所述的基于边缘网络的微服务部署与请求路由方法，其特征在于，所述“对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数”步骤，具体包括以下步骤：
基于服务强度约束为需部署在多个边缘服务器上的各微服务分别配置初始核心数；
当检测到一个工业应用请求在各边缘节点的停留总时延大于等于容忍时延时，则计算各微服务增配单位核心时对应的各节点停留时延增益值，为数值最大的节点停留时延增益值对应的微服务增配单位核心，并根据增配的单位核心更新各微服务配置的初始核心数；
直至检测到一个工业应用请求在各边缘节点的停留总时延小于容忍时延时，得到各微服务对应所需核心数。
3.如权利要求1所述的基于边缘网络的微服务部署与请求路由方法，其特征在于，所述“基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤，具体包括以下步骤：
在各边缘节点中查找并获取存在先序微服务的先序边缘节点集合；
以所述先序边缘节点集合中的每个边缘节点为基准节点，使用节点评估函数对其余候选边缘节点进行评估、对应生成评估矩阵；
将候选边缘节点对应的所述评估矩阵进行列求和后压缩为行向量，以得到候选边缘节点的部署概率分布；
根据候选边缘节点的部署概率分布，以对一个工业应用请求在各候选边缘节点的对应边缘服务器上部署微服务；
搜索先序微服务所在的先序边缘节点与候选边缘节点之间符合预设约束条件的最短路径作为一个工业应用请求路由路径。
4.如权利要求3所述的基于边缘网络的微服务部署与请求路由方法，其特征在于，所述节点评估函数的具体公式如下：
；
式中，为候选边缘节点/>与基准节点/>之间的直连链路剩余带宽，/>为候选边缘节点/>与基准节点/>之间的直连链路时延，/>为候选边缘节点/>上的剩余可用资源，/>为候选边缘节点/>上已经为微服务/>分配的核心数，/>为权重系数；/>为两个边缘节点/>与/>之间的链路时延。
5.如权利要求1所述的基于边缘网络的微服务部署与请求路由方法，其特征在于，所述“基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径”步骤之后，具体包括以下步骤：
以通用生产场景下的微服务部署与请求路由路径方案为基准方案；
根据高低负载阈值获取高负载边缘节点集合及低负载边缘节点集合；
计算所述高负载边缘节点集合中各微服务路由路径组合的对应节点相关度，并选取小于相关度阈值的节点相关度对应的微服务路由路径组合；
在基于边缘网络吞吐量不变的情况下，依次将一组微服务路由路径组合迁移至低负载边缘节点中，并将迁移后的方案更新为基准方案，直至完成所有微服务路由路径组合的迁移，获得低峰生产时段下的微服务部署与请求路由路径方案。
6.如权利要求1所述的基于边缘网络的微服务部署与请求路由方法，其特征在于，所述“获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求”步骤，具体包括以下步骤：
获取各工业应用请求一一对应的SP值，按照SP值从大至小的顺序依次处理对应的各工业应用请求。
7.一种基于边缘网络的微服务部署与请求路由系统，其特征在于，包括：
请求流获取模块，用于获取工业应用请求流，按照预设处理顺序依次处理各工业应用请求；
核心部署模块，与所述请求流获取模块通信连接，用于在通用生产场景下，对于一个工业应用请求，基于核心划分算法计算需部署在多个边缘服务器上的各微服务对应所需核心数；以及，
路由部署模块，与所述请求流获取模块通信连接，用于基于自循环部署评估算法得到各边缘服务器的部署概率分布，根据所述部署概率分布在各边缘服务器上部署微服务，并在部署微服务后确定一个工业应用请求路由路径。
8.一种存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述基于边缘网络的微服务部署与请求路由方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410012232.2A CN117527590B (zh) | 2024-01-04 | 2024-01-04 | 基于边缘网络的微服务部署与请求路由方法、系统及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410012232.2A CN117527590B (zh) | 2024-01-04 | 2024-01-04 | 基于边缘网络的微服务部署与请求路由方法、系统及介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN117527590A true CN117527590A (zh) | 2024-02-06 |
| CN117527590B CN117527590B (zh) | 2024-05-21 |
Family
ID=89751679
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410012232.2A Active CN117527590B (zh) | 2024-01-04 | 2024-01-04 | 基于边缘网络的微服务部署与请求路由方法、系统及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117527590B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180349121A1 (en) * | 2017-05-30 | 2018-12-06 | International Business Machines Corporation | Dynamic deployment of an application based on micro-services |
| CN111371616A (zh) * | 2020-03-05 | 2020-07-03 | 南京大学 | 一种面向numa架构服务器的虚拟网络功能链部署方法和系统 |
| CN114020455A (zh) * | 2021-10-27 | 2022-02-08 | 中国联合网络通信集团有限公司 | 一种服务功能的编排方法、装置及计算机可读存储介质 |
| WO2022027776A1 (zh) * | 2020-08-03 | 2022-02-10 | 威胜信息技术股份有限公司 | 边缘计算网络任务调度与资源分配方法和边缘计算系统 |
| CN114338504A (zh) * | 2022-03-15 | 2022-04-12 | 武汉烽火凯卓科技有限公司 | 一种基于网络边缘系统的微服务部署和路由方法 |
| CN115941678A (zh) * | 2022-09-28 | 2023-04-07 | 北京邮电大学 | 云边缘协同服务链部署方法及装置 |
| CN117097806A (zh) * | 2023-08-28 | 2023-11-21 | 湖北省楚天云有限公司 | 一种微服务调用图部署和请求路由联合优化方法及系统 |
-
2024
- 2024-01-04 CN CN202410012232.2A patent/CN117527590B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180349121A1 (en) * | 2017-05-30 | 2018-12-06 | International Business Machines Corporation | Dynamic deployment of an application based on micro-services |
| CN111371616A (zh) * | 2020-03-05 | 2020-07-03 | 南京大学 | 一种面向numa架构服务器的虚拟网络功能链部署方法和系统 |
| WO2022027776A1 (zh) * | 2020-08-03 | 2022-02-10 | 威胜信息技术股份有限公司 | 边缘计算网络任务调度与资源分配方法和边缘计算系统 |
| CN114020455A (zh) * | 2021-10-27 | 2022-02-08 | 中国联合网络通信集团有限公司 | 一种服务功能的编排方法、装置及计算机可读存储介质 |
| CN114338504A (zh) * | 2022-03-15 | 2022-04-12 | 武汉烽火凯卓科技有限公司 | 一种基于网络边缘系统的微服务部署和路由方法 |
| CN115941678A (zh) * | 2022-09-28 | 2023-04-07 | 北京邮电大学 | 云边缘协同服务链部署方法及装置 |
| CN117097806A (zh) * | 2023-08-28 | 2023-11-21 | 湖北省楚天云有限公司 | 一种微服务调用图部署和请求路由联合优化方法及系统 |
Non-Patent Citations (1)
| Title |
|---|
| 肖少东: "《面向多核系统的网络功能链部署性能研究》", 信息科技辑, no. 201907, 31 July 2019 (2019-07-31) * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN117527590B (zh) | 2024-05-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114338504B (zh) | 一种基于网络边缘系统的微服务部署和路由方法 | |
| CN109669768B (zh) | 一种面向边云结合架构的资源分配和任务调度方法 | |
| CN109656713B (zh) | 一种基于边缘计算框架的容器调度方法 | |
| CN113708972A (zh) | 一种服务功能链部署方法、装置、电子设备及存储介质 | |
| CN103530182A (zh) | 一种作业调度方法和装置 | |
| CN111371616B (zh) | 一种面向numa架构服务器的虚拟网络功能链部署方法和系统 | |
| CN113472597B (zh) | 分布式卷积神经网络细粒度的参数传输调度方法及装置 | |
| CN113784373A (zh) | 云边协同网络中时延和频谱占用联合优化方法及系统 | |
| CN113132456B (zh) | 一种基于截止时间感知的边云协同任务调度方法及系统 | |
| CN110933000B (zh) | 分布式数据多阶段聚合方法、设备、服务器和存储介质 | |
| CN116233262A (zh) | 基于边缘网络架构的微服务部署与请求路由方法及系统 | |
| CN114691372A (zh) | 一种多媒体端边云系统的群体智能控制方法 | |
| CN112862083B (zh) | 一种边缘环境下的深度神经网络推断方法及装置 | |
| CN112213956B (zh) | 一种自动驾驶仿真任务调度方法、装置、设备及可读介质 | |
| CN117527590B (zh) | 基于边缘网络的微服务部署与请求路由方法、系统及介质 | |
| CN114546493A (zh) | 核共享方法及装置、处理核、电子设备、介质 | |
| Nishanbayev et al. | Evaluating the effectiveness of a software-defined cloud data center with a distributed structure | |
| CN115955685A (zh) | 多智能体协同路由方法、设备及计算机存储介质 | |
| CN115509715A (zh) | 一种分布式任务调度方法、装置和电子设备 | |
| CN115633083A (zh) | 一种电力通信网业务编排方法、装置及存储介质 | |
| Sato et al. | Program file placement strategies for machine-to-machine service network platform in dynamic scenario | |
| JP2012038275A (ja) | 取引計算シミュレーションシステム、方法及びプログラム | |
| CN114866612B (zh) | 一种电力微服务卸载方法及装置 | |
| CN117201319B (zh) | 一种基于边缘计算的微服务部署方法及系统 | |
| Fan et al. | Shuffle scheduling for MapReduce jobs based on periodic network status |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |