CN116233262A - 基于边缘网络架构的微服务部署与请求路由方法及系统 - Google Patents

基于边缘网络架构的微服务部署与请求路由方法及系统 Download PDF

Info

Publication number
CN116233262A
CN116233262A CN202310504377.XA CN202310504377A CN116233262A CN 116233262 A CN116233262 A CN 116233262A CN 202310504377 A CN202310504377 A CN 202310504377A CN 116233262 A CN116233262 A CN 116233262A
Authority
CN
China
Prior art keywords
micro
service
request
deployment
routing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310504377.XA
Other languages
English (en)
Other versions
CN116233262B (zh
Inventor
彭凯
徐晓慧
徐博
吴婧尧
王良源
郭佳璐
何建文
胡毅
李志康
彭聪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hubei Chutianyun Co ltd
Huazhong University of Science and Technology
Original Assignee
Hubei Chutianyun Co ltd
Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hubei Chutianyun Co ltd, Huazhong University of Science and Technology filed Critical Hubei Chutianyun Co ltd
Priority to CN202310504377.XA priority Critical patent/CN116233262B/zh
Publication of CN116233262A publication Critical patent/CN116233262A/zh
Application granted granted Critical
Publication of CN116233262B publication Critical patent/CN116233262B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Abstract

本发明公开了一种基于边缘网络架构的微服务部署与请求路由方法及系统，所述方法包括：基于边缘网络架构确定微服务部署策略和路由请求策略，边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，根据微服务部署策略和路由请求策略确定微服务部署与请求路由方法。相较于现有技术服务部署和请求路由被认为是两个独立部分，会使服务质量的提升陷入局部最优，对全局性能优化是不利的，本发明基于边缘网络架构确定微服务部署策略和路由请求策略，并充分利用二者的强耦合关系，使系统在一定约束下能支持不同类型的请求业务，同时应对海量的移动用户请求，从而有效降低系统对用户请求的响应延迟。

Description

基于边缘网络架构的微服务部署与请求路由方法及系统
技术领域
本发明涉及边缘计算技术领域，尤其涉及一种基于边缘网络架构的微服务部署与请求路由方法及系统。
背景技术
近年来，随着互联网的发展，微服务在快速开发和复杂企业应用开发中的优势逐渐显现出来。松散耦合和轻量级的微服务正在逐渐取代单片应用。同时移动边缘计算（Mobile Edge Computing MEC）也成为信息和通信技术的热门研究领域之一。移动边缘计算与传统的单片应用程序相比，微服务方便了软件开发、更新、维护，带来了强大的可靠性和可扩展性。
目前，领先的网络服务公司已经开发了多种微服务框架实现了微服务的部署。这些微服务相互之间进行大量通信，以支持各种大规模的实时在线应用功能，在移动边缘云中，这些对时间敏感的应用程序每秒会接收海量的服务请求。但存在大量的用户请求和复杂的请求服务链，微服务间的通信和用户请求路由已经变得十分复杂。
现有技术中服务部署和请求路由被认为是两个独立的组成部分，虽然这种方式有效的简化了两种模块的维护和开发，但会使服务质量的提升陷入局部最优，对全局性能的优化显然是不利的。因此，如何减少运行在大规模微服务实例上的大规模实时在线应用程序的服务响应延迟问题成为一个亟待解决的问题。
上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供了一种基于边缘网络架构的微服务部署与请求路由方法及系统，旨在解决如何减少运行在大规模微服务实例上的大规模实时在线应用程序的服务响应延迟的技术问题。
为实现上述目的，本发明提供了一种基于边缘网络架构的微服务部署与请求路由方法，所述基于边缘网络架构的微服务部署与请求路由方法，包括以下步骤：
基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，
根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
可选地，所述基于边缘网络架构确定微服务部署策略和路由请求策略的步骤，包括：
基于边缘网络架构确定任一边缘服务器上分别部署的微服务实例数目、各微服务实例部署位置、计算资源约束、请求路由约束及服务能力约束；
通过所述计算资源约束、所述请求路由约束及所述服务能力约束对部署决策变量做松弛处理，得到连续线性变量；
根据所述连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策；
根据所述微服务实例数目、各微服务实例部署位置及所述分数服务部署决策生成微服务部署策略；
根据所述分数服务部署决策和所述请求路由决策及所述请求路由约束确定路由请求策略。
可选地，所述基于所述边缘网络架构确定任一边缘服务器上计算资源约束、请求路由约束及服务能力约束的步骤，包括：
基于所述边缘网络架构确定任一边缘服务器对应的核心数量；
根据所述核心数量和所述部署决策变量确定计算资源约束；
所述计算资源约束为：
Figure SMS_1
，
式中，
Figure SMS_2
为边缘服务器/>
Figure SMS_3
的核心数量，/>
Figure SMS_4
为部署决策变量；
所述请求路由约束为：
Figure SMS_5
，
Figure SMS_6
，
式中，
Figure SMS_7
为在边缘服务器/>
Figure SMS_8
完成微服务/>
Figure SMS_9
后路由用户请求流至边缘服务器/>
Figure SMS_10
中微服务/>
Figure SMS_11
的概率；
确定任一核心处理请求能力和任一边缘服务器中微服务实例处的总用户请求达到率；
根据任一核心处理请求能力和所述总用户请求达到率确定服务能力约束；
所述服务能力约束为：
Figure SMS_12
式中，
Figure SMS_13
为边缘服务器/>
Figure SMS_14
中微服务/>
Figure SMS_15
的实例处总用户请求达到率，/>
Figure SMS_16
为任一核心处理请求能力。
可选地，所述根据所述连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的步骤，包括：
根据所述连续线性变量和混合整数线性规划问题生成线性规划问题；
基于线性规划问题通过线性求解器得到分数服务部署决策和请求路由决策。
可选地，所述根据所述微服务实例数目、各微服务实例部署位置及所述分数服务部署决策生成微服务部署策略的步骤，包括：
基于
Figure SMS_17
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数；
基于所述最小化请求延迟目标函数根据辅助变量对所述分数服务部署决策进行舍入调整，得到微服务部署策略。
可选地，所述基于
Figure SMS_18
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数的步骤，包括：
基于
Figure SMS_19
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置通过预设时间成本公式确定用户请求经过任一边缘服务器上微服务所花费的时间成本；
所述预设时间成本公式为：
Figure SMS_20
式中，
Figure SMS_23
为在边缘服务器/>
Figure SMS_24
中微服务/>
Figure SMS_26
的实例处总用户请求达到率，/>
Figure SMS_22
为微服务/>
Figure SMS_25
在边缘服务器/>
Figure SMS_27
上部署的微服务实例数目，/>
Figure SMS_28
为时间成本，/>
Figure SMS_21
为任一核心处理请求能力；
根据所述用户请求的路由路径、任一边缘服务器之间的传播延迟时间和所述时间成本通过预设路径下传播延迟公式建立最小化请求延迟目标函数；
所述预设路径下传播延迟公式为：
Figure SMS_29
式中，
Figure SMS_30
为第/>
Figure SMS_31
条用户请求的路由路径，/>
Figure SMS_32
为边缘服务器/>
Figure SMS_33
与边缘服务器/>
Figure SMS_34
之间的传播延迟时间；
所述最小化请求延迟目标函数为：
Figure SMS_35
式中，
Figure SMS_37
为用户请求/>
Figure SMS_40
中包含的微服务集合，/>
Figure SMS_43
为在边缘服务器/>
Figure SMS_38
完成微服务/>
Figure SMS_41
后路由用户请求流至边缘服务器/>
Figure SMS_44
中微服务/>
Figure SMS_46
的概率，
Figure SMS_36
为路径/>
Figure SMS_39
中的第/>
Figure SMS_42
个元素，/>
Figure SMS_45
为最小化请求延迟目标函数。
可选地，所述根据所述分数服务部署决策和所述请求路由决策及所述请求路由约束确定路由请求策略的步骤，包括：
对所述分数服务部署决策进行归一化处理，得到任一边缘服务器部署概率；
基于所述请求路由约束根据任一边缘服务器部署概率通过预设概率公式得到任一边缘服务器中的微服务转移概率；
所述预设概率公式为：
Figure SMS_47
式中，
Figure SMS_48
为边缘服务器/>
Figure SMS_49
中的微服务/>
Figure SMS_50
转移到/>
Figure SMS_51
上/>
Figure SMS_52
的概率；
根据任一边缘服务器中微服务转移概率确定转出概率集合；
对所述转出概率集合进行求和计算，得到转出概率总和；
根据所述转出概率总和对所述微服务转移概率进行调整，得到路由请求策略。
可选地，所述根据所述转出概率总和对所述微服务转移概率进行调整，得到路由请求策略的步骤，包括：
根据所述转出概率总和确定概率比值；
根据所述概率比值对所述转出概率集合中各元素进行缩放，得到路由请求策略。
此外，为实现上述目的，本发明还提出一种基于边缘网络架构的微服务部署与请求路由系统，所述基于边缘网络架构的微服务部署与请求路由系统包括：
获取模块，用于基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，
确定模块，用于根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
此外，为实现上述目的，本发明还提出一种基于边缘网络架构的微服务部署与请求路由设备，所述设备包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的基于边缘网络架构的微服务部署与请求路由程序，所述基于边缘网络架构的微服务部署与请求路由程序配置为实现如上文所述的基于边缘网络架构的微服务部署与请求路由方法的步骤。
此外，为实现上述目的，本发明还提出一种存储介质，所述存储介质上存储有基于边缘网络架构的微服务部署与请求路由程序，所述基于边缘网络架构的微服务部署与请求路由程序被处理器执行时实现如上文所述的基于边缘网络架构的微服务部署与请求路由方法的步骤。
本发明边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，然后基于边缘网络架构确定微服务部署策略和路由请求策略，之后根据微服务部署策略和路由请求策略确定微服务部署与请求路由方法。相较于现有技术服务部署和请求路由被认为是两个独立部分，会使服务质量的提升陷入局部最优，对全局性能优化是不利的，而本发明基于边缘网络架构确定微服务部署策略和路由请求策略，并充分利用微服务部署策略和路由请求策略之间的强耦合关系，使系统在一定约束下能支持不同类型的请求业务，同时应对海量的移动用户请求，从而有效降低系统对用户请求的响应延迟。
附图说明
图1是本发明实施例方案涉及的硬件运行环境的基于边缘网络架构的微服务部署与请求路由设备的结构示意图；
图2为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的流程示意图；
图3为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的一种边缘节点网络架构结构示意图；
图4为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署及请求路由示意图；
图5为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署与请求路由联合优化算法流程图；
图6为本发明基于边缘网络架构的微服务部署与请求路由系统第一实施例的结构框图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
参照图1，图1为本发明实施例方案涉及的硬件运行环境的基于边缘网络架构的微服务部署与请求路由设备结构示意图。
如图1所示，该基于边缘网络架构的微服务部署与请求路由设备可以包括：处理器1001，例如中央处理器（Central Processing Unit，CPU），通信总线1002、用户接口1003，网络接口1004，存储器1005。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏（Display）、输入单元比如键盘（Keyboard），可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口（如无线保真（Wireless-Fidelity，Wi-Fi）接口）。存储器1005可以是高速的随机存取存储器（Random Access Memory，RAM），也可以是稳定的非易失性存储器（Non-VolatileMemory，NVM），例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储系统。
本领域技术人员可以理解，图1中示出的结构并不构成对基于边缘网络架构的微服务部署与请求路由设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
如图1所示，作为一种存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及基于边缘网络架构的微服务部署与请求路由程序。
在图1所示的基于边缘网络架构的微服务部署与请求路由设备中，网络接口1004主要用于与网络服务器进行数据通信；用户接口1003主要用于与用户进行数据交互；本发明基于边缘网络架构的微服务部署与请求路由设备中的处理器1001、存储器1005可以设置在基于边缘网络架构的微服务部署与请求路由设备中，所述基于边缘网络架构的微服务部署与请求路由设备通过处理器1001调用存储器1005中存储的基于边缘网络架构的微服务部署与请求路由程序，并执行本发明实施例提供的基于边缘网络架构的微服务部署与请求路由方法。
本发明实施例提供了一种基于边缘网络架构的微服务部署与请求路由方法，参照图2，图2为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的流程示意图。
本实施例中，所述基于边缘网络架构的微服务部署与请求路由方法包括以下步骤：
步骤S10：基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上。
易于理解的是，本实施例的执行主体可以是具有数据处理、网络通讯和程序运行等功能的基于边缘网络架构的微服务部署与请求路由设备，也可以为其他具有相似功能的计算机设备等，本实施例并不加以限制。
应理解的是，大规模在线应用程序的整体性能取决于服务部署和请求路由。一方面服务部署的效果依赖微服务实例之间的通信过程；另一方面请求路由需要将服务部署实例作为先例。因此，为了提升移动边缘云中微服务支持的大规模在线应用程序服务质量，需要同时考虑微服务部署和请求路由。
在本实施例中，参考图3，图3为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的一种边缘节点网络架构结构示意图，图中提供了一种边缘节点网络架构，由一个包含若干基站和若干台边缘服务器的大型边缘节点组成。基站负责数据转发，边缘服务器负责请求处理和路由，基站互相连接构成一个连通图，基站之间通过无线传输进行相互连接，每个基站连接多台边缘服务器，一个基站与连接其上的边缘服务器构成一个小型边缘云网络，小型边缘云网络内的服务器通过基站的数据转发与其他小型边缘网络内的服务器通信，位于同一小型边缘网络内服务器之间的通信时延可忽略不计。
微服务与传统服务的区别在于，微服务将应用程序划分为多个具有特定功能的模块，模块之间相互协作共同完成用户请求。为了保证服务质量，每种微服务具有多个实例，用户请求可在多个实例中进行选择以完成自身需求。多个微服务按照一定的顺序组合成一个线性链，即微服务链，一种微服务链对应一种用户请求。用户请求到达系统后，由交换机和服务器协同将请求根据对应服务链上的微服务顺序依次处理并路由，以完成用户需求。
在本实施例中当用户请求到达边缘节点时，根据第一个微服务实例当前的状态为请求选择一个预测时延较低的实例并将该请求路由至选中的实例上，待第一个微服务功能完成，所在服务器根据路由算法为请求选择第二个微服务的实例。以此类推，当链上的每个微服务执行完毕，最终将结果返回给用户。
还需要说明的是，微服务部署于边缘节点的服务器上。不同的微服务按照一定的顺序组成具有特定功能的微服务链。当用户请求到达边缘云网络，系统会根据用户请求对应的微服务链的构成，在系统中选择合适的微服务实例依次完成用户请求。
在具体实现中，基于构建的边缘节点的网络架构对微服务部署策略和路由请求策略进行联合优化，得到最优微服务部署与请求路由方案，因此，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的处理方式还可以为基于边缘网络架构确定任一边缘服务器上分别部署的微服务实例数目、各微服务实例部署位置、计算资源约束、请求路由约束及服务能力约束，通过计算资源约束、请求路由约束及服务能力约束对部署决策变量做松弛处理，得到连续线性变量，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策，根据微服务实例数目、各微服务实例部署位置及分数服务部署决策生成微服务部署策略，根据分数服务部署决策和请求路由决策及请求路由约束确定路由请求策略。
还应理解的是，微服务部署策略包括确定在边缘节点的服务器上部署的各个微服务实例的具体数目以及各个微服务实例在边缘节点的服务器上的部署位置等。路由请求策略包括各用户请求在边缘节点的服务器之间的具体路由路径等。
进一步地，边缘节点的计算资源有限，不能无限制的部署所有微服务，因此，基于边缘网络架构确定任一边缘服务器对应的核心数量，根据核心数量和所述部署决策变量确定计算资源约束；
计算资源约束为：
Figure SMS_53
式中，
Figure SMS_54
为边缘服务器/>
Figure SMS_55
的核心数量，/>
Figure SMS_56
为部署决策变量；
边缘节点只能将用户请求路由到那些部署了微服务
Figure SMS_57
的节点，并且每条用户请求中每个微服务/>
Figure SMS_58
的总请求必须完全服务，因此，请求路由约束为：
Figure SMS_59
Figure SMS_60
式中，
Figure SMS_61
为在边缘服务器/>
Figure SMS_62
完成微服务/>
Figure SMS_63
后路由用户请求流至边缘服务器/>
Figure SMS_64
中微服务/>
Figure SMS_65
的概率。
为保持边缘网络稳定性，要求部署在边缘节点
Figure SMS_66
上的每种微服务，到达率不能超过服务能力。因此，确定任一核心处理请求能力和任一边缘服务器中微服务实例处的总用户请求达到率；根据任一核心处理请求能力和所述总用户请求达到率确定服务能力约束；
服务能力约束为：
Figure SMS_67
式中，
Figure SMS_68
为边缘服务器/>
Figure SMS_69
中微服务/>
Figure SMS_70
的实例处总用户请求达到率，/>
Figure SMS_71
为任一核心处理请求能力。/>
进一步地，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的处理方式为根据连续线性变量和混合整数线性规划问题生成线性规划问题，基于线性规划问题通过线性求解器得到分数服务部署决策和请求路由决策。
在本实施例中，将离散整数决策变量
Figure SMS_72
松弛为连续线性变量，混合整数线性规划问题变为线性规划问题，使用线性求解器在多项式时间内进行最优求解，获得分数部署决策值/>
Figure SMS_73
以及请求路由决策值/>
Figure SMS_74
。
进一步地，根据微服务实例数目、各微服务实例部署位置及分数服务部署决策生成微服务部署策略的处理方式为基于
Figure SMS_75
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数；基于最小化请求延迟目标函数根据辅助变量对分数服务部署决策进行舍入调整，得到微服务部署策略。
进一步地，基于
Figure SMS_76
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数的处理方式为基于/>
Figure SMS_77
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置通过预设时间成本公式确定用户请求经过任一边缘服务器上微服务所花费的时间成本，其中本实施例中微服务实例部署位置可以为边缘服务器/>
Figure SMS_78
。
预设时间成本公式为：
Figure SMS_79
式中，
Figure SMS_80
为在边缘服务器/>
Figure SMS_81
中微服务/>
Figure SMS_82
的实例处总用户请求达到率，/>
Figure SMS_83
为微服务/>
Figure SMS_84
在边缘服务器/>
Figure SMS_85
上部署的微服务实例数目，/>
Figure SMS_86
为时间成本。
为了能正确分析用户请求的响应延迟，除了用户请求的逗留时延外，用户请求在边缘节点之间存在请求路由，因此需要考虑节点之间的网络传播延迟。定义变量
Figure SMS_87
表示用户请求/>
Figure SMS_88
路由路径集合，请求的路由路径遵循用户请求链中包含的微服务顺序。第/>
Figure SMS_89
条请求路由的路径/>
Figure SMS_90
包含该路径下经过的边缘节点。
根据用户请求的路由路径、任一边缘服务器之间的传播延迟时间和时间成本通过预设路径下传播延迟公式建立最小化请求延迟目标函数；
预设路径下传播延迟公式为：
Figure SMS_91
式中，
Figure SMS_92
为第/>
Figure SMS_93
条用户请求的路由路径，/>
Figure SMS_94
为边缘服务器/>
Figure SMS_95
与边缘服务器/>
Figure SMS_96
之间的传播延迟时间；
最小化请求延迟目标函数为：
Figure SMS_97
，
式中，
Figure SMS_100
为用户请求/>
Figure SMS_102
中包含的微服务集合，/>
Figure SMS_105
为在边缘服务器/>
Figure SMS_99
完成微服务/>
Figure SMS_103
后路由用户请求流至边缘服务器/>
Figure SMS_106
中微服务/>
Figure SMS_108
的概率，
Figure SMS_98
为路径/>
Figure SMS_101
中的第/>
Figure SMS_104
个元素，/>
Figure SMS_107
为最小化请求延迟目标函数。
在具体实现中，基于分数服务部署决策
Figure SMS_114
运用舍入思想，获得次优整数解即微服务部署策略/>
Figure SMS_111
的处理方式为：步骤一：针对每一个边缘云节点/>
Figure SMS_121
定义一个标签值/>
Figure SMS_110
并初始化为0；步骤二：使辅助变量/>
Figure SMS_119
等于最优分数解/>
Figure SMS_118
的四舍五入值；步骤三：判断
Figure SMS_123
与最优分数解/>
Figure SMS_113
的大小关系，当/>
Figure SMS_122
时/>
Figure SMS_109
加上/>
Figure SMS_125
；反之，/>
Figure SMS_115
减去/>
Figure SMS_124
；步骤四：当/>
Figure SMS_117
时，更新/>
Figure SMS_126
，并使/>
Figure SMS_112
向下取整；否则，/>
Figure SMS_120
按照常规的四舍五入；步骤五：获得次优整数部署决策即微服务部署策略/>
Figure SMS_116
。
进一步地，根据分数服务部署决策和请求路由决策及请求路由约束确定路由请求策略的处理方式可以为对分数服务部署决策进行归一化处理，得到任一边缘服务器部署概率，基于请求路由约束根据任一边缘服务器部署概率通过预设概率公式得到任一边缘服务器中的微服务转移概率；
预设概率公式为：
Figure SMS_127
/>
式中，
Figure SMS_128
为边缘服务器/>
Figure SMS_129
中的微服务/>
Figure SMS_130
转移到/>
Figure SMS_131
上/>
Figure SMS_132
的概率；
根据任一边缘服务器中微服务转移概率确定转出概率集合，对转出概率集合进行求和计算，得到转出概率总和，根据转出概率总和对微服务转移概率进行调整，得到路由请求策略。
根据转出概率总和对微服务转移概率进行调整，得到路由请求策略的处理方式可以为根据转出概率总和确定概率比值；根据概率比值对所述转出概率集合中各元素进行缩放，得到路由请求策略。
在具体实现中，步骤一：对分数服务部署决策
Figure SMS_137
进行归一化，同时，对于用户请求/>
Figure SMS_139
中包含的微服务/>
Figure SMS_148
，定义/>
Figure SMS_135
表示微服务/>
Figure SMS_152
所部署的边缘节点集合；步骤二：遍历用户请求/>
Figure SMS_134
中所包含的微服务/>
Figure SMS_153
，以及/>
Figure SMS_141
中包含的边缘节点，则边缘节点/>
Figure SMS_146
中的微服务/>
Figure SMS_133
转移到/>
Figure SMS_151
上/>
Figure SMS_143
的概率为/>
Figure SMS_149
；步骤三：定义/>
Figure SMS_142
为边缘节点/>
Figure SMS_150
处微服务/>
Figure SMS_140
的转出概率集合，对/>
Figure SMS_145
求和；步骤四：根据集合/>
Figure SMS_144
之和/>
Figure SMS_147
，计算/>
Figure SMS_136
与1比值，对集合/>
Figure SMS_154
中的各元素进行对应比值的缩放，得到请求路由概率矩阵即路由请求策略/>
Figure SMS_138
。
步骤S20：根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
可以理解的是，基于边缘网络架构建立以计算资源约束、请求路由约束以及服务能力约束的时延模型；每个微服务具有多个实例（镜像），微服务实例部署策略包括确定各个微服务实例的具体数目以及各个微服务实例在边缘节点的服务器上的部署位置，可参见图4，图4为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署及请求路由示意图，图中用户请求路由策略包括设计请求在服务器之间的具体路由路径；微服务实例部署和请求路由的联合优化策略充分利用两者的耦合关系，即以实例部署作为请求路由策略的前置条件，以请求路由后得到的时延作为衡量部署策略优劣的标准。算法同时对上述两个问题进行优化，最终得到最优的微服务部署和请求路由方案，最终此网络架构可处理高并发海量场景下的用户请求。
在本实施例中，参考图5，图5为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署与请求路由联合优化算法流程图，图中步骤一：根据计算资源、请求路由以及服务能力约束，最小化请求延迟目标函数，并对整数部署决策变量
Figure SMS_163
做松弛处理，基于线性规划求解器获得分数部署决策值/>
Figure SMS_166
以及请求路由决策值
Figure SMS_173
。步骤二：针对每一个边缘云节点/>
Figure SMS_160
定义一个标签值/>
Figure SMS_176
并初始化为0；步骤三：使辅助变量/>
Figure SMS_169
等于最优分数解/>
Figure SMS_181
的四舍五入值；步骤四：判断/>
Figure SMS_184
与最优分数解/>
Figure SMS_192
的大小关系，当/>
Figure SMS_155
时/>
Figure SMS_172
加上/>
Figure SMS_164
；反之，
Figure SMS_174
减去/>
Figure SMS_186
；步骤五：当/>
Figure SMS_194
时，更新/>
Figure SMS_159
，并使/>
Figure SMS_175
向下取整；否则，/>
Figure SMS_182
按照常规的四舍五入；步骤六：获得次优整数部署决策/>
Figure SMS_190
；步骤七：对部署决策变量/>
Figure SMS_156
进行归一化，同时，对于用户请求/>
Figure SMS_171
中包含的微服务/>
Figure SMS_158
，定义/>
Figure SMS_170
表示微服务/>
Figure SMS_180
所部署的边缘节点集合；步骤八：遍历用户请求/>
Figure SMS_189
中所包含的微服务/>
Figure SMS_157
，以及
Figure SMS_168
中包含的边缘节点，则边缘节点/>
Figure SMS_187
中的微服务/>
Figure SMS_195
转移到/>
Figure SMS_188
上/>
Figure SMS_196
的概率为
Figure SMS_183
；步骤九：定义/>
Figure SMS_191
为边缘节点/>
Figure SMS_162
处微服务/>
Figure SMS_177
的转出概率集合，对/>
Figure SMS_165
求和；步骤十：根据集合/>
Figure SMS_178
之和/>
Figure SMS_185
，计算/>
Figure SMS_193
与1比值；步骤十一：对集合/>
Figure SMS_167
中的各元素进行对应比值的缩放，得到请求路由概率矩阵/>
Figure SMS_179
，其中同一节点的
Figure SMS_161
自适应缩放，转移概率总和为1。
还需要说明的是，对微服务实例部署和请求路由进行联合优化，以请求路由后计算得到的响应时延为评估标准对当前部署方案进行评价，不同的部署方案有不同的路由策略和响应时延。
在本实施例中边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，然后基于边缘网络架构确定微服务部署策略和路由请求策略，之后根据微服务部署策略和路由请求策略确定微服务部署与请求路由方法。相较于现有技术服务部署和请求路由被认为是两个独立部分，会使服务质量的提升陷入局部最优，对全局性能优化是不利的，而本实施例以微服务实例部署方案为前置条件，以请求路由结果计算得到的响应时延为评估标准对实例部署方案进行评价，从而充分利用二者的强耦合关系。此系统在一定的约束下能支持不同类型的业务，同时能应对海量的移动用户请求。此外，本实施例还考虑了不同微服务之间的相互依赖性，通过充分考虑各微服务之间的通信依赖关系，有效降低了系统对用户请求的响应时延，提升了用户应用体验。
参照图6，图6为本发明基于边缘网络架构的微服务部署与请求路由系统第一实施例的结构框图。
如图6所示，本发明实施例提出的基于边缘网络架构的微服务部署与请求路由系统包括：
获取模块6001，用于基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上。
应理解的是，大规模在线应用程序的整体性能取决于服务部署和请求路由。一方面服务部署的效果依赖微服务实例之间的通信过程；另一方面请求路由需要将服务部署实例作为先例。因此，为了提升移动边缘云中微服务支持的大规模在线应用程序服务质量，需要同时考虑微服务部署和请求路由。
在本实施例中，参考图3，图3为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的一种边缘节点网络架构结构示意图，图中提供了一种边缘节点网络架构，由一个包含若干基站和若干台边缘服务器的大型边缘节点组成。基站负责数据转发，边缘服务器负责请求处理和路由，基站互相连接构成一个连通图，基站之间通过无线传输进行相互连接，每个基站连接多台边缘服务器，一个基站与连接其上的边缘服务器构成一个小型边缘云网络，小型边缘云网络内的服务器通过基站的数据转发与其他小型边缘网络内的服务器通信，位于同一小型边缘网络内服务器之间的通信时延可忽略不计。
微服务与传统服务的区别在于，微服务将应用程序划分为多个具有特定功能的模块，模块之间相互协作共同完成用户请求。为了保证服务质量，每种微服务具有多个实例，用户请求可在多个实例中进行选择以完成自身需求。多个微服务按照一定的顺序组合成一个线性链，即微服务链，一种微服务链对应一种用户请求。用户请求到达系统后，由交换机和服务器协同将请求根据对应服务链上的微服务顺序依次处理并路由，以完成用户需求。
在本实施例中当用户请求到达边缘节点时，根据第一个微服务实例当前的状态为请求选择一个预测时延较低的实例并将该请求路由至选中的实例上，待第一个微服务功能完成，所在服务器根据路由算法为请求选择第二个微服务的实例。以此类推，当链上的每个微服务执行完毕，最终将结果返回给用户。
还需要说明的是，微服务部署于边缘节点的服务器上。不同的微服务按照一定的顺序组成具有特定功能的微服务链。当用户请求到达边缘云网络，系统会根据用户请求对应的微服务链的构成，在系统中选择合适的微服务实例依次完成用户请求。
在具体实现中，基于构建的边缘节点的网络架构对微服务部署策略和路由请求策略进行联合优化，得到最优微服务部署与请求路由方案，因此，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的处理方式还可以为基于边缘网络架构确定任一边缘服务器上分别部署的微服务实例数目、各微服务实例部署位置、计算资源约束、请求路由约束及服务能力约束，通过计算资源约束、请求路由约束及服务能力约束对部署决策变量做松弛处理，得到连续线性变量，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策，根据微服务实例数目、各微服务实例部署位置及分数服务部署决策生成微服务部署策略，根据分数服务部署决策和请求路由决策及请求路由约束确定路由请求策略。
还应理解的是，微服务部署策略包括确定在边缘节点的服务器上部署的各个微服务实例的具体数目以及各个微服务实例在边缘节点的服务器上的部署位置等。路由请求策略包括各用户请求在边缘节点的服务器之间的具体路由路径等。
进一步地，边缘节点的计算资源有限，不能无限制的部署所有微服务，因此，基于边缘网络架构确定任一边缘服务器对应的核心数量，根据核心数量和所述部署决策变量确定计算资源约束；
计算资源约束为：
Figure SMS_197
式中，
Figure SMS_198
为边缘服务器/>
Figure SMS_199
的核心数量，/>
Figure SMS_200
为部署决策变量；
边缘节点只能将用户请求路由到那些部署了微服务
Figure SMS_201
的节点，并且每条用户请求中每个微服务/>
Figure SMS_202
的总请求必须完全服务，因此，请求路由约束为：
Figure SMS_203
Figure SMS_204
式中，
Figure SMS_205
为在边缘服务器/>
Figure SMS_206
完成微服务/>
Figure SMS_207
后路由用户请求流至边缘服务器/>
Figure SMS_208
中微服务/>
Figure SMS_209
的概率。
为保持边缘网络稳定性，要求部署在边缘节点
Figure SMS_210
上的每种微服务，到达率不能超过服务能力。因此，确定任一核心处理请求能力和任一边缘服务器中微服务实例处的总用户请求达到率；根据任一核心处理请求能力和所述总用户请求达到率确定服务能力约束；
服务能力约束为：
Figure SMS_211
式中，
Figure SMS_212
为边缘服务器/>
Figure SMS_213
中微服务/>
Figure SMS_214
的实例处总用户请求达到率，/>
Figure SMS_215
为任一核心处理请求能力。
进一步地，根据连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的处理方式为根据连续线性变量和混合整数线性规划问题生成线性规划问题，基于线性规划问题通过线性求解器得到分数服务部署决策和请求路由决策。
在本实施例中，将离散整数决策变量
Figure SMS_216
松弛为连续线性变量，混合整数线性规划问题变为线性规划问题，使用线性求解器在多项式时间内进行最优求解，获得分数部署决策值/>
Figure SMS_217
以及请求路由决策值/>
Figure SMS_218
。
进一步地，根据微服务实例数目、各微服务实例部署位置及分数服务部署决策生成微服务部署策略的处理方式为基于
Figure SMS_219
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数；基于最小化请求延迟目标函数根据辅助变量对分数服务部署决策进行舍入调整，得到微服务部署策略。
进一步地，基于
Figure SMS_220
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数的处理方式为基于/>
Figure SMS_221
排队理论的先到先服务和处理器共享原则根据微服务实例数目和各微服务实例部署位置通过预设时间成本公式确定用户请求经过任一边缘服务器上微服务所花费的时间成本，其中本实施例中微服务实例部署位置可以为边缘服务器/>
Figure SMS_222
。
预设时间成本公式为：
Figure SMS_223
式中，
Figure SMS_224
为在边缘服务器/>
Figure SMS_225
中微服务/>
Figure SMS_226
的实例处总用户请求达到率，/>
Figure SMS_227
为微服务/>
Figure SMS_228
在边缘服务器/>
Figure SMS_229
上部署的微服务实例数目，/>
Figure SMS_230
为时间成本。
为了能正确分析用户请求的响应延迟，除了用户请求的逗留时延外，用户请求在边缘节点之间存在请求路由，因此需要考虑节点之间的网络传播延迟。定义变量
Figure SMS_231
表示用户请求/>
Figure SMS_232
路由路径集合，请求的路由路径遵循用户请求链中包含的微服务顺序。第/>
Figure SMS_233
条请求路由的路径/>
Figure SMS_234
包含该路径下经过的边缘节点。
根据用户请求的路由路径、任一边缘服务器之间的传播延迟时间和时间成本通过预设路径下传播延迟公式建立最小化请求延迟目标函数；
预设路径下传播延迟公式为：
Figure SMS_235
式中，
Figure SMS_236
为第/>
Figure SMS_237
条用户请求的路由路径，/>
Figure SMS_238
为边缘服务器/>
Figure SMS_239
与边缘服务器/>
Figure SMS_240
之间的传播延迟时间；
最小化请求延迟目标函数为：
Figure SMS_241
式中，
Figure SMS_243
为用户请求/>
Figure SMS_247
中包含的微服务集合，/>
Figure SMS_250
为在边缘服务器/>
Figure SMS_244
完成微服务/>
Figure SMS_246
后路由用户请求流至边缘服务器/>
Figure SMS_249
中微服务/>
Figure SMS_252
的概率，/>
Figure SMS_242
为路径/>
Figure SMS_245
中的第/>
Figure SMS_248
个元素，/>
Figure SMS_251
为最小化请求延迟目标函数。
在具体实现中，基于分数服务部署决策
Figure SMS_257
运用舍入思想，获得次优整数解即微服务部署策略/>
Figure SMS_255
的处理方式为：步骤一：针对每一个边缘云节点/>
Figure SMS_269
定义一个标签值/>
Figure SMS_254
并初始化为0；步骤二：使辅助变量/>
Figure SMS_266
等于最优分数解/>
Figure SMS_260
的四舍五入值；步骤三：判断
Figure SMS_267
与最优分数解/>
Figure SMS_261
的大小关系，当/>
Figure SMS_264
时/>
Figure SMS_253
加上/>
Figure SMS_265
；反之，/>
Figure SMS_258
减去/>
Figure SMS_268
；步骤四：当/>
Figure SMS_262
时，更新/>
Figure SMS_270
，并使
Figure SMS_256
向下取整；否则，/>
Figure SMS_263
按照常规的四舍五入；步骤五：获得次优整数部署决策即微服务部署策略/>
Figure SMS_259
。
进一步地，根据分数服务部署决策和请求路由决策及请求路由约束确定路由请求策略的处理方式可以为对分数服务部署决策进行归一化处理，得到任一边缘服务器部署概率，基于请求路由约束根据任一边缘服务器部署概率通过预设概率公式得到任一边缘服务器中的微服务转移概率；
预设概率公式为：
Figure SMS_271
式中，
Figure SMS_272
为边缘服务器/>
Figure SMS_273
中的微服务/>
Figure SMS_274
转移到/>
Figure SMS_275
上/>
Figure SMS_276
的概率；
根据任一边缘服务器中微服务转移概率确定转出概率集合，对转出概率集合进行求和计算，得到转出概率总和，根据转出概率总和对微服务转移概率进行调整，得到路由请求策略。
根据转出概率总和对微服务转移概率进行调整，得到路由请求策略的处理方式可以为根据转出概率总和确定概率比值；根据概率比值对所述转出概率集合中各元素进行缩放，得到路由请求策略。
在具体实现中，步骤一：对分数服务部署决策
Figure SMS_287
进行归一化，同时，对于用户请求/>
Figure SMS_280
中包含的微服务/>
Figure SMS_296
，定义/>
Figure SMS_281
表示微服务/>
Figure SMS_294
所部署的边缘节点集合；步骤二：遍历用户请求/>
Figure SMS_283
中所包含的微服务/>
Figure SMS_293
，以及/>
Figure SMS_279
中包含的边缘节点，则边缘节点/>
Figure SMS_290
中的微服务
Figure SMS_277
转移到/>
Figure SMS_289
上/>
Figure SMS_282
的概率为/>
Figure SMS_297
；步骤三：定义/>
Figure SMS_286
为边缘节点/>
Figure SMS_295
处微服务/>
Figure SMS_288
的转出概率集合，对/>
Figure SMS_298
求和；步骤四：根据集合/>
Figure SMS_285
之和/>
Figure SMS_292
，计算/>
Figure SMS_278
与1的比值，对集合/>
Figure SMS_291
中的各元素进行对应比值的缩放，得到请求路由概率矩阵即路由请求策略/>
Figure SMS_284
。
确定模块6002，用于根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
可以理解的是，基于边缘网络架构建立以计算资源约束、请求路由约束以及服务能力约束的时延模型；每个微服务具有多个实例（镜像），微服务实例部署策略包括确定各个微服务实例的具体数目以及各个微服务实例在边缘节点的服务器上的部署位置，可参见图4，图4为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署及请求路由示意图，图中用户请求路由策略包括设计请求在服务器之间的具体路由路径；微服务实例部署和请求路由的联合优化策略充分利用两者的耦合关系，即以实例部署作为请求路由策略的前置条件，以请求路由后得到的时延作为衡量部署策略优劣的标准。算法同时对上述两个问题进行优化，最终得到最优的微服务部署和请求路由方案，最终此网络架构可处理高并发海量场景下的用户请求。
在本实施例中，参考图5，图5为本发明基于边缘网络架构的微服务部署与请求路由方法第一实施例的微服务部署与请求路由联合优化算法流程图，图中步骤一：根据计算资源、请求路由以及服务能力约束，最小化请求延迟目标函数，并对整数部署决策变量
Figure SMS_308
做松弛处理，基于线性规划求解器获得分数部署决策值/>
Figure SMS_321
以及请求路由决策值
Figure SMS_332
。步骤二：针对每一个边缘云节点/>
Figure SMS_307
定义一个标签值/>
Figure SMS_319
并初始化为0；步骤三：使辅助变量/>
Figure SMS_325
等于最优分数解/>
Figure SMS_334
的四舍五入值；步骤四：判断/>
Figure SMS_327
与最优分数解/>
Figure SMS_336
的大小关系，当/>
Figure SMS_306
时/>
Figure SMS_315
加上/>
Figure SMS_330
；反之，/>
Figure SMS_339
减去/>
Figure SMS_331
；步骤五：当/>
Figure SMS_340
时，更新/>
Figure SMS_303
，并使/>
Figure SMS_322
向下取整；否则，/>
Figure SMS_326
按照常规的四舍五入；步骤六：获得次优整数部署决策/>
Figure SMS_335
；步骤七：对部署决策变量/>
Figure SMS_299
进行归一化，同时，对于用户请求/>
Figure SMS_316
中包含的微服务/>
Figure SMS_305
，定义/>
Figure SMS_313
表示微服务/>
Figure SMS_324
所部署的边缘节点集合；步骤八：遍历用户请求/>
Figure SMS_333
中所包含的微服务/>
Figure SMS_301
，以及
Figure SMS_314
中包含的边缘节点，则边缘节点/>
Figure SMS_309
中的微服务/>
Figure SMS_320
转移到/>
Figure SMS_329
上/>
Figure SMS_338
的概率为
Figure SMS_310
；步骤九：定义/>
Figure SMS_318
为边缘节点/>
Figure SMS_302
处微服务/>
Figure SMS_312
的转出概率集合，对/>
Figure SMS_304
求和；步骤十：根据集合/>
Figure SMS_317
之和/>
Figure SMS_328
，计算/>
Figure SMS_337
与1的比值；步骤十一：对集合/>
Figure SMS_311
中的各元素进行对应比值的缩放，得到请求路由概率矩阵/>
Figure SMS_323
，其中同一节点的/>
Figure SMS_300
自适应缩放，转移概率总和为1。
还需要说明的是，对微服务实例部署和请求路由进行联合优化，以请求路由后计算得到的响应时延为评估标准对当前部署方案进行评价，不同的部署方案有不同的路由策略和响应时延。
在本实施例中边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，然后基于边缘网络架构确定微服务部署策略和路由请求策略，之后根据微服务部署策略和路由请求策略确定微服务部署与请求路由方法。相较于现有技术服务部署和请求路由被认为是两个独立部分，会使服务质量的提升陷入局部最优，对全局性能优化是不利的，而本实施例以微服务实例部署方案为前置条件，以请求路由结果计算得到的响应时延为评估标准对实例部署方案进行评价，从而充分利用二者的强耦合关系。此系统在一定的约束下能支持不同类型的业务，同时能应对海量的移动用户请求。此外，本实施例还考虑了不同微服务之间的相互依赖性，通过充分考虑各微服务之间的通信依赖关系，有效降低了系统对用户请求的响应时延，提升了用户应用体验。
本发明基于边缘网络架构的微服务部署与请求路由系统的其他实施例或具体实现方式可参照上述各方法实施例，此处不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质（如只读存储器/随机存取存储器、磁碟、光盘）中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种基于边缘网络架构的微服务部署与请求路由方法，其特征在于，所述基于边缘网络架构的微服务部署与请求路由方法，包括以下步骤：
基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，
根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
2.如权利要求1所述的方法，其特征在于，所述基于所述边缘网络架构确定微服务部署策略和路由请求策略的步骤，包括：
基于所述边缘网络架构确定任一边缘服务器上分别部署的微服务实例数目、各微服务实例部署位置、计算资源约束、请求路由约束及服务能力约束；
通过所述计算资源约束、所述请求路由约束及所述服务能力约束对部署决策变量做松弛处理，得到连续线性变量；
根据所述连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策；
根据所述微服务实例数目、各微服务实例部署位置及所述分数服务部署决策生成微服务部署策略；
根据所述分数服务部署决策和所述请求路由决策及所述请求路由约束确定路由请求策略。
3.如权利要求2所述的方法，其特征在于，所述基于所述边缘网络架构确定任一边缘服务器上计算资源约束、请求路由约束及服务能力约束的步骤，包括：
基于所述边缘网络架构确定任一边缘服务器对应的核心数量；
根据所述核心数量和所述部署决策变量确定计算资源约束；
所述计算资源约束为：
Figure QLYQS_1
，
式中，
Figure QLYQS_2
为边缘服务器/>
Figure QLYQS_3
的核心数量，/>
Figure QLYQS_4
为部署决策变量；
所述请求路由约束为：
Figure QLYQS_5
，
Figure QLYQS_6
，
式中，
Figure QLYQS_7
为在边缘服务器/>
Figure QLYQS_8
完成微服务/>
Figure QLYQS_9
后路由用户请求流至边缘服务器/>
Figure QLYQS_10
中微服务/>
Figure QLYQS_11
的概率；
确定任一核心处理请求能力和任一边缘服务器中微服务实例处的总用户请求达到率；
根据任一核心处理请求能力和所述总用户请求达到率确定服务能力约束；
所述服务能力约束为：
Figure QLYQS_12
，
式中，
Figure QLYQS_13
为边缘服务器/>
Figure QLYQS_14
中微服务/>
Figure QLYQS_15
的实例处总用户请求达到率，/>
Figure QLYQS_16
为任一核心处理请求能力。
4.如权利要求3所述的方法，其特征在于，所述根据所述连续线性变量和线性规划问题得到分数服务部署决策和请求路由决策的步骤，包括：
根据所述连续线性变量和混合整数线性规划问题生成线性规划问题；
基于线性规划问题通过线性求解器得到分数服务部署决策和请求路由决策。
5.如权利要求4所述的方法，其特征在于，所述根据所述微服务实例数目、各微服务实例部署位置及所述分数服务部署决策生成微服务部署策略的步骤，包括：
基于
Figure QLYQS_17
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数；
基于所述最小化请求延迟目标函数根据辅助变量对所述分数服务部署决策进行舍入调整，得到微服务部署策略。
6.如权利要求5所述的方法，其特征在于，所述基于
Figure QLYQS_18
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置建立最小化请求延迟目标函数的步骤，包括：
基于
Figure QLYQS_19
排队理论的先到先服务和处理器共享原则根据所述微服务实例数目和各微服务实例部署位置通过预设时间成本公式确定用户请求经过任一边缘服务器上微服务所花费的时间成本；
所述预设时间成本公式为：
Figure QLYQS_20
，
式中，
Figure QLYQS_22
为在边缘服务器/>
Figure QLYQS_25
中微服务/>
Figure QLYQS_27
的实例处总用户请求达到率，/>
Figure QLYQS_23
为微服务
Figure QLYQS_24
在边缘服务器/>
Figure QLYQS_26
上部署的微服务实例数目，/>
Figure QLYQS_28
为时间成本，/>
Figure QLYQS_21
为任一核心处理请求能力；
根据所述用户请求的路由路径、任一边缘服务器之间的传播延迟时间和所述时间成本通过预设路径下传播延迟公式建立最小化请求延迟目标函数；
所述预设路径下传播延迟公式为：
Figure QLYQS_29
，
式中，
Figure QLYQS_30
为第/>
Figure QLYQS_31
条用户请求的路由路径，/>
Figure QLYQS_32
为边缘服务器/>
Figure QLYQS_33
与边缘服务器/>
Figure QLYQS_34
之间的传播延迟时间；
所述最小化请求延迟目标函数为：
Figure QLYQS_35
，
式中，
Figure QLYQS_38
为用户请求/>
Figure QLYQS_41
中包含的微服务集合，/>
Figure QLYQS_44
为在边缘服务器/>
Figure QLYQS_37
完成微服务/>
Figure QLYQS_40
后路由用户请求流至边缘服务器/>
Figure QLYQS_43
中微服务/>
Figure QLYQS_46
的概率，/>
Figure QLYQS_36
为路径/>
Figure QLYQS_39
中的第/>
Figure QLYQS_42
个元素，/>
Figure QLYQS_45
为最小化请求延迟目标函数。
7.如权利要求4所述的方法，其特征在于，所述根据所述分数服务部署决策和所述请求路由决策及所述请求路由约束确定路由请求策略的步骤，包括：
对所述分数服务部署决策进行归一化处理，得到任一边缘服务器部署概率；
基于所述请求路由约束根据任一边缘服务器部署概率通过预设概率公式得到任一边缘服务器中的微服务转移概率；
所述预设概率公式为：
Figure QLYQS_47
，
式中，
Figure QLYQS_48
为边缘服务器/>
Figure QLYQS_49
中的微服务/>
Figure QLYQS_50
转移到/>
Figure QLYQS_51
上/>
Figure QLYQS_52
的概率；
根据任一边缘服务器中微服务转移概率确定转出概率集合；
对所述转出概率集合进行求和计算，得到转出概率总和；
根据所述转出概率总和对所述微服务转移概率进行调整，得到路由请求策略。
8.如权利要求7所述的方法，其特征在于，所述根据所述转出概率总和对所述微服务转移概率进行调整，得到路由请求策略的步骤，包括：
根据所述转出概率总和确定概率比值；
根据所述概率比值对所述转出概率集合中各元素进行缩放，得到路由请求策略。
9.一种基于边缘网络架构的微服务部署与请求路由系统，其特征在于，所述基于边缘网络架构的微服务部署与请求路由系统包括：
获取模块，用于基于边缘网络架构确定微服务部署策略和路由请求策略，所述边缘网络架构包括多个基站和多台边缘服务器，任一基站连接多台边缘服务器，多种微服务部署在任一边缘服务器上，
确定模块，用于根据所述微服务部署策略和所述路由请求策略确定微服务部署与请求路由方法。
CN202310504377.XA 2023-05-07 2023-05-07 基于边缘网络架构的微服务部署与请求路由方法及系统 Active CN116233262B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310504377.XA CN116233262B (zh) 2023-05-07 2023-05-07 基于边缘网络架构的微服务部署与请求路由方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310504377.XA CN116233262B (zh) 2023-05-07 2023-05-07 基于边缘网络架构的微服务部署与请求路由方法及系统

Publications (2)

Publication Number Publication Date
CN116233262A true CN116233262A (zh) 2023-06-06
CN116233262B CN116233262B (zh) 2023-07-21

Family

ID=86589540

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310504377.XA Active CN116233262B (zh) 2023-05-07 2023-05-07 基于边缘网络架构的微服务部署与请求路由方法及系统

Country Status (1)

Country Link
CN (1) CN116233262B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116915686A (zh) * 2023-09-08 2023-10-20 三峡高科信息技术有限责任公司 异构多边缘云协同微服务部署与路由联合优化方法及系统
CN117692503A (zh) * 2024-02-04 2024-03-12 国网湖北省电力有限公司信息通信公司 动态微服务图部署和概率请求路由的联合优化方法及系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180270327A1 (en) * 2017-03-17 2018-09-20 International Business Machines Corporation Automatic interdependency resolution for micro-service deployments
CN109542457A (zh) * 2018-11-21 2019-03-29 四川长虹电器股份有限公司 一种边缘计算网络的分布式应用分发部署的系统及方法
US20200162378A1 (en) * 2018-11-19 2020-05-21 Zhan Ma Method And System For Accelerating Interactive-Streaming-Based Applications Via Cloud Overlay Networks
US20200396225A1 (en) * 2019-06-17 2020-12-17 Sap Se Microservice Deployment
CN113950081A (zh) * 2021-10-08 2022-01-18 东北大学 一种多单元移动边缘计算中面向微服务的动态服务迁移和请求路由方法
CN114201180A (zh) * 2021-09-24 2022-03-18 国网江苏省电力有限公司信息通信分公司 微服务部署方法、可读存储介质及设备
CN114338504A (zh) * 2022-03-15 2022-04-12 武汉烽火凯卓科技有限公司 一种基于网络边缘系统的微服务部署和路由方法
US20220116478A1 (en) * 2021-12-23 2022-04-14 Dan Biederman Microservice latency reduction
US20220225065A1 (en) * 2021-01-14 2022-07-14 Verizon Patent And Licensing Inc. Systems and methods to determine mobile edge deployment of microservices
CN115529316A (zh) * 2022-09-30 2022-12-27 湖北省楚天云有限公司 一种基于云计算中心网络架构的微服务部署方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180270327A1 (en) * 2017-03-17 2018-09-20 International Business Machines Corporation Automatic interdependency resolution for micro-service deployments
US20200162378A1 (en) * 2018-11-19 2020-05-21 Zhan Ma Method And System For Accelerating Interactive-Streaming-Based Applications Via Cloud Overlay Networks
CN109542457A (zh) * 2018-11-21 2019-03-29 四川长虹电器股份有限公司 一种边缘计算网络的分布式应用分发部署的系统及方法
US20200396225A1 (en) * 2019-06-17 2020-12-17 Sap Se Microservice Deployment
US20220225065A1 (en) * 2021-01-14 2022-07-14 Verizon Patent And Licensing Inc. Systems and methods to determine mobile edge deployment of microservices
CN114201180A (zh) * 2021-09-24 2022-03-18 国网江苏省电力有限公司信息通信分公司 微服务部署方法、可读存储介质及设备
CN113950081A (zh) * 2021-10-08 2022-01-18 东北大学 一种多单元移动边缘计算中面向微服务的动态服务迁移和请求路由方法
US20220116478A1 (en) * 2021-12-23 2022-04-14 Dan Biederman Microservice latency reduction
CN114338504A (zh) * 2022-03-15 2022-04-12 武汉烽火凯卓科技有限公司 一种基于网络边缘系统的微服务部署和路由方法
CN115529316A (zh) * 2022-09-30 2022-12-27 湖北省楚天云有限公司 一种基于云计算中心网络架构的微服务部署方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张晶;黄小锋;李春阳;: "微服务框架的设计与实现", 计算机系统应用, no. 06 *
李国燕;任雅娟;刘毅;乔富强;刘艺柱;: "一种面向SDN/NFV的多目标优化服务功能链部署策略", 传感器与微系统, no. 09 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116915686A (zh) * 2023-09-08 2023-10-20 三峡高科信息技术有限责任公司 异构多边缘云协同微服务部署与路由联合优化方法及系统
CN116915686B (zh) * 2023-09-08 2023-12-29 三峡高科信息技术有限责任公司 异构多边缘云协同微服务部署与路由联合优化方法及系统
CN117692503A (zh) * 2024-02-04 2024-03-12 国网湖北省电力有限公司信息通信公司 动态微服务图部署和概率请求路由的联合优化方法及系统
CN117692503B (zh) * 2024-02-04 2024-04-26 国网湖北省电力有限公司信息通信公司 动态微服务图部署和概率请求路由的联合优化方法及系统

Also Published As

Publication number Publication date
CN116233262B (zh) 2023-07-21

Similar Documents

Publication Publication Date Title
CN116233262B (zh) 基于边缘网络架构的微服务部署与请求路由方法及系统
Ouyang et al. Adaptive user-managed service placement for mobile edge computing: An online learning approach
Deng et al. Optimal application deployment in resource constrained distributed edges
Zhao et al. Distributed redundant placement for microservice-based applications at the edge
Lee et al. An online secretary framework for fog network formation with minimal latency
CN114338504B (zh) 一种基于网络边缘系统的微服务部署和路由方法
Binh et al. An evolutionary algorithm for solving task scheduling problem in cloud-fog computing environment
Wang et al. Maptask scheduling in mapreduce with data locality: Throughput and heavy-traffic optimality
CN113098714B (zh) 基于强化学习的低时延网络切片方法
Liu et al. Performance modeling of representative load sharing schemes for clustered servers in multiaccess edge computing
Zhang et al. Distributed resource allocation for data center networks: A hierarchical game approach
Wang et al. Service placement for collaborative edge applications
CN109151077A (zh) 一种基于目标导向的计算卸载方法
CN106060145A (zh) 一种分布式多云数据中心中基于收益的请求访问控制方法
CN109005211B (zh) 一种无线城域网环境下的微云部署及用户任务调度方法
Huang et al. Distributed resource allocation for network slicing of bandwidth and computational resource
Fountoulakis et al. An end-to-end performance analysis for service chaining in a virtualized network
Liu et al. Request scheduling combined with load balancing in mobile-edge computing
CN115955685B (zh) 多智能体协同路由方法、设备及计算机存储介质
Henna et al. Distributed and collaborative high-speed inference deep learning for mobile edge with topological dependencies
CN115051998B (zh) 自适应边缘计算卸载方法、装置及计算机可读存储介质
Chousainov et al. An analytical framework of a C-RAN supporting random, quasi-random and bursty traffic
Dimitriou On the power series approximations of a structured batch arrival two-class retrial system with weighted fair orbit queues
Akutsu et al. Analyzing vertical and horizontal offloading in federated cloud and edge computing systems
CN114666263A (zh) 高动态的智能路由确定方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant