CN116192962B - 一种面向云边端计算的通信聚合方法及系统 - Google Patents
一种面向云边端计算的通信聚合方法及系统 Download PDFInfo
- Publication number
- CN116192962B CN116192962B CN202310188675.2A CN202310188675A CN116192962B CN 116192962 B CN116192962 B CN 116192962B CN 202310188675 A CN202310188675 A CN 202310188675A CN 116192962 B CN116192962 B CN 116192962B
- Authority
- CN
- China
- Prior art keywords
- micro
- physical server
- communication
- services
- service
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004891 communication Methods 0.000 title claims abstract description 106
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000002776 aggregation Effects 0.000 title claims abstract description 29
- 238000004220 aggregation Methods 0.000 title claims abstract description 29
- 238000012544 monitoring process Methods 0.000 claims abstract description 21
- 238000004590 computer program Methods 0.000 claims description 13
- 238000003860 storage Methods 0.000 claims description 7
- 230000003993 interaction Effects 0.000 claims description 5
- 230000004044 response Effects 0.000 abstract description 7
- 238000005457 optimization Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 11
- 238000004458 analytical method Methods 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 239000003795 chemical substances by application Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
Landscapes
- Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种面向云边端计算的通信聚合方法及系统,本发明方法包括监测微服务之间的通信关系和流量,基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;监测各个物理服务器的资源可用状况;根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器。本发明以不同微服务之间的通信约束为依据,通过基于图聚类的微服务分组、微服务分组调度,在不影响微服务调用关系的前提下实现动态优化调度,将存在大量通信需求的微服务分组调度到相同的物理服务器,达到了微服务通信聚合的目的,从全局角度实现了微服务应用跨节点开销最小化,有效降低服务的响应时间,改善用户体验。
Description
技术领域
本发明涉及云边端计算机系统的通信技术领域,具体涉及一种面向云边端计算的通信聚合方法及系统。
背景技术
随着物联网、虚拟现实、人工智能等具有大数据量、低延迟、实时处理等特征的应用的快速增长,越来越多的业务服务以容器为载体被部署到网络边缘。传统高性能计算机以批处理方式运行,难以满足云计算虚拟化及动态需求,而传统的单体应用在边缘场景下通常被拆分为多个微服务,为满足资源受限、动态调整等需求,微服务之间以松耦合的方式组织,对外呈现完整的功能。因此,微服务的调度也成为了边缘计算中的重要问题。
相较于云数据中心稳定的网络链接和完善的环境保障条件,边缘场景是一个动态变化的任务场景,一方面面临网络链路不稳定、任务资源可用状况波动频繁以及节点资源受限等多种因素影响,另一方面边缘应用对实时性要求更高,边缘计算的目的就是希望能够在边缘侧完成数据的收集和处理,避免将计算任务迁移至数据中心带来额外的带宽资源消耗,同时缩短应用的响应时间和保证隐私安全,提升用户体验。因此,不合理的微服务调度结果将导致微服务之间存在频繁的跨节点通信,不仅会增加带宽资源的消耗,而且会增加服务响应的时间,同时还带来潜在的安全风险。现有微服务通信聚合方法主要从资源约束的角度出发,一是以提高单节点的资源利用率为目的,将具有不同资源需求的微服务调度到同一节点上;二是以平衡节点资源可用状况率为目的将微服务平均调度到不同节点上;三是以保证应用正常运行为目的在外界资源可用状况增大时将微服务调度到资源充足的节点上。这些方法虽然能够平衡节点资源效率和应用服务质量,但是没有考虑到微服务之间的通信约束,使得应用存在较大的跨节点通信开销,增加了应用的响应时间。
发明内容
本发明要解决的技术问题:针对现有技术的上述问题,提供一种面向云边端计算的通信聚合方法及系统,本发明旨在实现微服务通信聚合,从全局角度实现了微服务应用跨节点开销最小化,有效降低服务的响应时间,改善用户体验。
为了解决上述技术问题,本发明采用的技术方案为:
一种面向云边端计算的通信聚合方法,包括:
S101,监测微服务之间的通信关系和流量,基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;监测各个物理服务器的资源可用状况;
S102,根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器。
可选地,步骤S101中监测微服务之间的通信关系和流量是通过物理服务器上基于eBPF的网络插件实现。
可选地,步骤S101中基于微服务之间的通信关系和流量构建加权无向图包括:将微服务抽象为加权无向图的顶点,加权无向图中的边表示两个微服务之间存在调用关系,将微服务间交互的流量大小量化为边的权重,从而得到建加权无向图。
可选地,步骤S101中根据加权无向图生成微服务分组包括:基于微服务之间的通信关系和流量,采用指定的聚类算法对加权无向图进行聚类,并基于聚类得到的聚类簇进行分割,得到与多个聚类簇一一对应的微服务分组。
可选地,步骤S101中物理服务器的资源可用状况包括CPU资源可用状况、内存资源可用状况、I/O资源可用状况中的至少一种。
可选地,步骤S102中根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器包括:
S201,针对每一个微服务分组:将该微服务分组中所有微服务的资源需求相加得到该微服务分组的资源需求总量,检测各个物理服务器当前的资源可用总量,将资源可用总量大于该微服务分组的资源需求总量的物理服务器作为该微服务分组的候选物理服务器列表;
S202,计算各个微服务分组之间的组间流量,并基于组间流量来为每个微服务分组在候选物理服务器列表中选择物理服务器,使得两个微服务分组之间的组间流量、两个微服务分组对应物理服务器之间的物理通信链路距离负相关,组间流量越大则物理通信链路距离越近。
可选地,步骤S102之后还包括判断各个物理服务器中存在同一个微服务分组内多个微服务请求另一物理服务器上同一微服务的情形是否成立,若成立则在该物理服务器上为另一物理服务器上被请求的微服务构建缓存以减少两个物理服务器之间的通信流量。
此外,本发明还提供一种面向云边端计算的通信聚合系统,包括:
流量监测程序单元,用于监测微服务之间的通信关系和流量,
资源可用状况监测程序单元,用于监测各个物理服务器的资源可用状况;
微服务分组程序单元,用于基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;
微服务调度程序单元,用于根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器。
此外,本发明还提供一种面向云边端计算的通信聚合系统,包括相互连接的微处理器和存储器,所述微处理器被编程或配置以执行所述面向云边端计算的通信聚合方法。
此外,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序用于被微处理器编程或配置以执行所述面向云边端计算的通信聚合方法。
和现有技术相比,本发明主要具有下述优点:
1、本发明在微服务调度过程中以不同微服务之间的通信约束为依据,通过通信流量采集与分析、基于图聚类的微服务分组、微服务分组调度,在不影响微服务调用关系的前提下实现动态优化调度,将存在大量通信需求的微服务分组调度到相同的物理服务器,达到了微服务通信聚合的目的,从全局角度实现了微服务应用跨节点开销最小化,有效降低服务的响应时间,改善用户体验。
2、本发明不仅适用于边缘计算场景,所涉及的通信流量采集与分析、基于图聚类的微服务分组、微服务分组调度和本地缓存构建等方法同样适用于云数据中心环境中由于微服务规模巨大导致跨节点通信成为瓶颈、需要对微服务通信进行聚合的场景。
附图说明
图1为本发明实施例方法的基本流程示意图。
图2为本发明实施例中微服务的加权无向图示例。
图3为本发明实施例中微服务分组示意图。
图4为本发明实施例中微服务分组到物理服务器的调度示意图。
图5为本发明实施例方法的完整流程示意图。
图6为本发明实施例系统的基本流程示意图。
具体实施方式
如图1所示,本实施例面向云边端计算的通信聚合方法包括:
S101,监测微服务之间的通信关系和流量,基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;监测各个物理服务器(云边端的边缘服务器集群中的服务节点)的资源可用状况;
S102,根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器。
流量监测与分析是生成微服务间依赖关系的基础环节。流量监测模块通过在应用运行时持续监测微服务间的通信关系和流量,为微服务分组提供关键信息。本实施例中,步骤S101中监测微服务之间的通信关系和流量是通过物理服务器上基于eBPF的网络插件实现。微服务之间的流量信息获取由部署在每个服务器上的监测代理完成。为提高流量获取的效率和精度,采用基于eBPF技术的高性能网络插件完成,安全、高效、灵活的抓取微服务间交互的网络数据包,支持以json文件的格式供流量信息分析使用。
通过对监测代理生成的json文件进行解析可以得到微服务间的流量基本信息、源地址信息和目的地址信息,其中涵盖了通信双方的地址、端口、命名空间和标签等内容。在此基础上,将微服务抽象为图的顶点,图中的边表示两个微服务之间存在调用关系,将微服务间交互的数据量大小量化为边的权重,实现微服务到加权无向图的映射。本实施例中,步骤S101中基于微服务之间的通信关系和流量构建加权无向图包括:将微服务抽象为加权无向图的顶点,加权无向图中的边表示两个微服务之间存在调用关系,将微服务间交互的流量大小量化为边的权重,从而得到建加权无向图。图2为本实施例中微服务的加权无向图示例,其中a~l分别表示12个微服务,wi表示第i个边的权重,例如微服务a和微服务e之间的边的权重为w1。
本实施例中,步骤S101中根据加权无向图生成微服务分组包括:基于微服务之间的通信关系和流量,采用指定的聚类算法对加权无向图进行聚类,并基于聚类得到的聚类簇进行分割,得到与多个聚类簇一一对应的微服务分组。参见图3,本实施例中针对12个微服务聚类后得到四个微服务分组,在图3中分别采用椭圆形进行表示,椭圆形内部的实现边则为组内通信,椭圆形之间的边为组间通信。基于微服务之间的通信关系和流量,采用指定的聚类算法对加权无向图进行聚类,将微服务之间的通信特征分析转化为聚类问题,图的分割结果对应微服务的分组,从而实现了面向云边端计算的通信聚合。需要说明的是,采用指定的聚类算法对加权无向图进行聚类时,可根据需要采用所需的图聚类算法,本实施例仅仅涉及图聚类算法的应用,并不涉及图聚类算法的改进,故其实现细节在此不再详述。
本实施例中,步骤S101中物理服务器的资源可用状况包括CPU资源可用状况、内存资源可用状况、I/O资源可用状况,此外基于微服务对于资源的需求不同,骤S101中物理服务器的资源可用状况也可以为CPU资源可用状况、内存资源可用状况、I/O资源可用状况中的一种或两种,在此不再详述。
本实施例中,步骤S102中根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器包括:
S201,针对每一个微服务分组:将该微服务分组中所有微服务的资源需求相加得到该微服务分组的资源需求总量,检测各个物理服务器当前的资源可用总量,将资源可用总量大于该微服务分组的资源需求总量的物理服务器作为该微服务分组的候选物理服务器列表;
S202,计算各个微服务分组之间的组间流量,并基于组间流量来为每个微服务分组在候选物理服务器列表中选择物理服务器,使得两个微服务分组之间的组间流量、两个微服务分组对应物理服务器之间的物理通信链路距离负相关,组间流量越大则物理通信链路距离越近。
除微服务间的通信流量信息外,本实施例中会将每个物理服务器的负载信息(可用资源信息)上报,从而可基于微服务分组模块生成的分组结果,结合每个物理服务器的负载状态,采用给定的调度算法为每个微服务分组选择合适的物理服务器,从而实现微服务分组到物理服务器的映射,例如本实施例中得到的微服务分组和物理服务器(节点1~节点4)的映射关系如图4所示。需要说明的是,基于组间流量来为每个微服务分组选择物理服务器可根据需要采用所需的人工或智能调度方式,只要满足约束条件“使得两个微服务分组之间的组间流量、两个微服务分组对应物理服务器之间的物理通信链路距离负相关,组间流量越大则物理通信链路距离越近”,即可实现通信链路感知的调度策略的调度机制,优先将相互之间流量较大的分组调度至物理位置上相近的物理服务器上(如同一机架或机房内),在提高通信质量的同时,可减少对上行链路带宽的占用。
例如作为一种可选的实施方式,本实施例中的调度方式为:
S301,将每一个微服务分组的和其他微服务分组的组间流量求和作为该微服务分组的组间总流量;
S302,在所有的微服务分组构成的微服务分组列表中,遍历选择组间总流量最大的一个微服务分组作为当前微服务分组;
S303,针对与当前微服务分组存在组间流量的其他微服务分组,首先筛选出已分配物理服务器的其他微服务分组,并将已分配物理服务器按照其他微服务分组、当前微服务分组的组间流量大小排序得到的组间流量优选物理服务器列表;
S304,将当前微服务分组的组间流量优选物理服务器列表、候选物理服务器列表取并集,并从并集中选择一个物理服务器分配给当前微服务分组;从并集中选择一个物理服务器分配给当前微服务分组时,可采用随机选择、优先选择资源可用总量最大的物理服务器等策略;
S305,判断微服务分组列表是否为空,若为空则结束并退出,否则,跳转S302。
为了进一步降低微服务间跨节点通信的开销,如图5所示,本实施例步骤S102之后还包括判断各个物理服务器中存在同一个微服务分组内多个微服务请求另一物理服务器上同一微服务的情形是否成立,若成立则在该物理服务器上为另一物理服务器上被请求的微服务构建缓存以减少两个物理服务器之间的通信流量。通过上述方式,可识别出一组内多个微服务请求另一节点上同一微服务的情形,在相应分组所在的物理服务器上构建数据缓存,进一步减少跨节点的通信流量。
如图6所示,本实施例还提供一种面向云边端计算的通信聚合系统,包括:
流量监测程序单元,用于监测微服务之间的通信关系和流量,
资源可用状况监测程序单元,用于监测各个物理服务器(物理服务器1~物理服务器N,分别为边缘服务器集群中的N个节点)的资源可用状况;
微服务分组程序单元,用于基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;
微服务调度程序单元,用于根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器。
参见图6,本实施例中还包括缓存管理程序单元,用于判断各个物理服务器中存在同一个微服务分组内多个微服务请求另一物理服务器上同一微服务的情形是否成立,若成立则在该物理服务器上为另一物理服务器上被请求的微服务构建缓存以减少两个物理服务器之间的通信流量。通过上述方式,可识别出一组内多个微服务请求另一节点上同一微服务的情形,在相应分组所在的物理服务器上构建数据缓存,进一步减少跨节点的通信流量。微服务分组程序单元会将分组信息以及分组间的连接信息传递给微服务调度程序单元,微服务调度程序单元从中识别出一组内多个微服务请求另一节点上同一微服务的情形,在相应分组所在的物理服务器上构建数据缓存,从而能够达到进一步减少跨节点的通信流量的目的。
综上所述,本实施例方法在微服务调度过程中以不同微服务之间的通信约束为依据,通过通信流量采集与分析、基于图聚类的微服务分组、微服务分组调度和本地缓存构建,在不影响微服务调用关系的前提下实现动态优化调度,将存在大量通信需求的微服务调度到相同的物理服务器,同时根据微服务跨节点通信流量情况在相应节点构建数据缓存,从全局角度实现了微服务应用跨节点开销最小化,有效降低服务的响应时间,改善用户体验。本实施例方法通过把微服务根据相互之间的通信流量进行分组,将相互间具有较大通信流量的微服务划分为同一组并调度至同一物理节点,从而提高同组内微服务之间的通信性能并降低应用整体的跨节点通信开。本实施例方法通过为物理服务器节点构建缓存机制,能够减少不同微服务实例对相同数据的访问开销,进一步降低跨节点通信需求。本实施例方法尽管面向的是边缘计算场景,所涉及的通信流量采集与分析、基于图聚类的微服务分组、微服务分组调度和本地缓存构建等方法同样适用于云数据中心环境中由于微服务规模巨大导致跨节点通信成为瓶颈、需要对微服务通信进行聚合的场景。
此外,本实施例还提供一种面向云边端计算的通信聚合系统,包括相互连接的微处理器和存储器,所述微处理器被编程或配置以执行前述面向云边端计算的通信聚合方法。此外,本实施例还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序用于被微处理器编程或配置以执行前述面向云边端计算的通信聚合方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可读存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式,本发明的保护范围并不仅局限于上述实施例,凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理前提下的若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (6)
1.一种面向云边端计算的通信聚合方法,其特征在于,包括:
S101,监测微服务之间的通信关系和流量,基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;监测各个物理服务器的资源可用状况;所述基于微服务之间的通信关系和流量构建加权无向图包括:将微服务抽象为加权无向图的顶点,加权无向图中的边表示两个微服务之间存在调用关系,将微服务间交互的流量大小量化为边的权重,从而得到加权无向图;所述根据加权无向图生成微服务分组包括:基于微服务之间的通信关系和流量,采用指定的聚类算法对加权无向图进行聚类,并基于聚类得到的聚类簇进行分割,得到与多个聚类簇一一对应的微服务分组;
S102,根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器,包括:S201,针对每一个微服务分组:将该微服务分组中所有微服务的资源需求相加得到该微服务分组的资源需求总量,检测各个物理服务器当前的资源可用总量,将资源可用总量大于该微服务分组的资源需求总量的物理服务器作为该微服务分组的候选物理服务器列表;S202,计算各个微服务分组之间的组间流量,并基于组间流量来为每个微服务分组在候选物理服务器列表中选择物理服务器,使得两个微服务分组之间的组间流量、两个微服务分组对应物理服务器之间的物理通信链路距离负相关,组间流量越大则物理通信链路距离越近;
步骤S102之后还包括判断各个物理服务器中存在同一个微服务分组内多个微服务请求另一物理服务器上同一微服务的情形是否成立,若成立则在该物理服务器上为另一物理服务器上被请求的微服务构建缓存以减少两个物理服务器之间的通信流量。
2.根据权利要求1所述的面向云边端计算的通信聚合方法,其特征在于,步骤S101中监测微服务之间的通信关系和流量是通过物理服务器上基于eBPF的网络插件实现。
3.根据权利要求1所述的面向云边端计算的通信聚合方法,其特征在于,步骤S101中物理服务器的资源可用状况包括CPU资源可用状况、内存资源可用状况、I/O资源可用状况中的至少一种。
4.一种面向云边端计算的通信聚合系统,其特征在于,包括:
流量监测程序单元,用于监测微服务之间的通信关系和流量,
资源可用状况监测程序单元,用于监测各个物理服务器的资源可用状况;
微服务分组程序单元,用于基于微服务之间的通信关系和流量构建加权无向图,并根据加权无向图生成微服务分组;所述基于微服务之间的通信关系和流量构建加权无向图包括:将微服务抽象为加权无向图的顶点,加权无向图中的边表示两个微服务之间存在调用关系,将微服务间交互的流量大小量化为边的权重,从而得到加权无向图;所述根据加权无向图生成微服务分组包括:基于微服务之间的通信关系和流量,采用指定的聚类算法对加权无向图进行聚类,并基于聚类得到的聚类簇进行分割,得到与多个聚类簇一一对应的微服务分组;
微服务调度程序单元,用于根据各个物理服务器的资源可用状况为每个微服务分组选择物理服务器,包括:S201,针对每一个微服务分组:将该微服务分组中所有微服务的资源需求相加得到该微服务分组的资源需求总量,检测各个物理服务器当前的资源可用总量,将资源可用总量大于该微服务分组的资源需求总量的物理服务器作为该微服务分组的候选物理服务器列表;S202,计算各个微服务分组之间的组间流量,并基于组间流量来为每个微服务分组在候选物理服务器列表中选择物理服务器,使得两个微服务分组之间的组间流量、两个微服务分组对应物理服务器之间的物理通信链路距离负相关,组间流量越大则物理通信链路距离越近;还包括判断各个物理服务器中存在同一个微服务分组内多个微服务请求另一物理服务器上同一微服务的情形是否成立,若成立则在该物理服务器上为另一物理服务器上被请求的微服务构建缓存以减少两个物理服务器之间的通信流量。
5.一种面向云边端计算的通信聚合系统,包括相互连接的微处理器和存储器,其特征在于,所述微处理器被编程或配置以执行权利要求1~3中任意一项所述面向云边端计算的通信聚合方法。
6.一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,其特征在于,所述计算机程序用于被微处理器编程或配置以执行权利要求1~3中任意一项所述面向云边端计算的通信聚合方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310188675.2A CN116192962B (zh) | 2023-02-27 | 2023-02-27 | 一种面向云边端计算的通信聚合方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310188675.2A CN116192962B (zh) | 2023-02-27 | 2023-02-27 | 一种面向云边端计算的通信聚合方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116192962A CN116192962A (zh) | 2023-05-30 |
CN116192962B true CN116192962B (zh) | 2023-11-14 |
Family
ID=86432502
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310188675.2A Active CN116192962B (zh) | 2023-02-27 | 2023-02-27 | 一种面向云边端计算的通信聚合方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116192962B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111596924A (zh) * | 2020-06-18 | 2020-08-28 | 南方电网科学研究院有限责任公司 | 一种微服务划分方法和装置 |
CN112148484A (zh) * | 2020-09-14 | 2020-12-29 | 北京大学 | 一种基于耦合度的微服务在线分配方法与系统 |
CN112783649A (zh) * | 2021-01-19 | 2021-05-11 | 苏州博纳讯动软件有限公司 | 一种面向云计算的交互感知的容器化微服务资源调度方法 |
CN113064700A (zh) * | 2021-04-30 | 2021-07-02 | 中国工商银行股份有限公司 | 容器部署方法及装置 |
CN113064712A (zh) * | 2021-04-16 | 2021-07-02 | 上海交通大学 | 基于云边环境的微服务优化部署控制方法、系统及集群 |
CN114911615A (zh) * | 2022-05-06 | 2022-08-16 | 江苏安超云软件有限公司 | 微服务运行时智能预测调度的方法及应用 |
-
2023
- 2023-02-27 CN CN202310188675.2A patent/CN116192962B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111596924A (zh) * | 2020-06-18 | 2020-08-28 | 南方电网科学研究院有限责任公司 | 一种微服务划分方法和装置 |
CN112148484A (zh) * | 2020-09-14 | 2020-12-29 | 北京大学 | 一种基于耦合度的微服务在线分配方法与系统 |
CN112783649A (zh) * | 2021-01-19 | 2021-05-11 | 苏州博纳讯动软件有限公司 | 一种面向云计算的交互感知的容器化微服务资源调度方法 |
CN113064712A (zh) * | 2021-04-16 | 2021-07-02 | 上海交通大学 | 基于云边环境的微服务优化部署控制方法、系统及集群 |
CN113064700A (zh) * | 2021-04-30 | 2021-07-02 | 中国工商银行股份有限公司 | 容器部署方法及装置 |
CN114911615A (zh) * | 2022-05-06 | 2022-08-16 | 江苏安超云软件有限公司 | 微服务运行时智能预测调度的方法及应用 |
Also Published As
Publication number | Publication date |
---|---|
CN116192962A (zh) | 2023-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114138486B (zh) | 面向云边异构环境的容器化微服务编排方法、系统及介质 | |
AU2015229200B2 (en) | Coordinated admission control for network-accessible block storage | |
US8423646B2 (en) | Network-aware virtual machine migration in datacenters | |
CN105491138B (zh) | 一种基于负载率分级触发的分布式负载调度方法 | |
US11044173B1 (en) | Management of serverless function deployments in computing networks | |
CN107122233B (zh) | 一种面向tsn业务的多vcpu自适应实时调度方法 | |
CN105900063A (zh) | 多处理环境中的调度方法和装置 | |
CN107977271B (zh) | 一种数据中心综合管理系统负载均衡方法 | |
CN113490279B (zh) | 一种网络切片配置方法及装置 | |
Janakiraman et al. | Improved artificial bee colony using monarchy butterfly optimization algorithm for load balancing (IABC-MBOA-LB) in cloud environments | |
Li et al. | Enabling elastic stream processing in shared clusters | |
De Souza et al. | Boosting big data streaming applications in clouds with BurstFlow | |
Zhou et al. | Strategy optimization of resource scheduling based on cluster rendering | |
CN114625500A (zh) | 云环境下拓扑感知的微服务应用调度的方法及应用 | |
CN110167031B (zh) | 一种面向集中式基站的资源分配方法、设备及存储介质 | |
US11150932B2 (en) | Virtual disk management for virtual disks accessed from compute only nodes | |
Abdullah et al. | A reliable, TOPSIS-based multi-criteria, and hierarchical load balancing method for computational grid | |
Lu et al. | An efficient load balancing algorithm for heterogeneous grid systems considering desirability of grid sites | |
CN116192962B (zh) | 一种面向云边端计算的通信聚合方法及系统 | |
CN112398917A (zh) | 面向多站融合架构的实时任务调度方法和装置 | |
US11625273B1 (en) | Changing throughput capacity to sustain throughput for accessing individual items in a database | |
Patel et al. | An improved approach for load balancing among heterogeneous resources in computational grids | |
Shubair | Enhancement of task scheduling technique of big data cloud computing | |
CN114461369A (zh) | 一种面向复杂应用场景的自适应数据调度系统及方法 | |
CN113656150A (zh) | 深度学习算力虚拟化系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |