CN116567095B - 一种云计算的分布式调度第三方服务网格系统及方法 - Google Patents
一种云计算的分布式调度第三方服务网格系统及方法 Download PDFInfo
- Publication number
- CN116567095B CN116567095B CN202310845981.9A CN202310845981A CN116567095B CN 116567095 B CN116567095 B CN 116567095B CN 202310845981 A CN202310845981 A CN 202310845981A CN 116567095 B CN116567095 B CN 116567095B
- Authority
- CN
- China
- Prior art keywords
- service
- request
- endpoint
- standard
- endpoints
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000004044 response Effects 0.000 claims abstract description 148
- 238000012545 processing Methods 0.000 claims abstract description 9
- 238000004891 communication Methods 0.000 claims abstract description 5
- 230000008569 process Effects 0.000 claims description 28
- 238000012986 modification Methods 0.000 claims description 17
- 230000004048 modification Effects 0.000 claims description 17
- 238000012544 monitoring process Methods 0.000 claims description 17
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000004458 analytical method Methods 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 8
- 238000013507 mapping Methods 0.000 claims description 7
- 238000004590 computer program Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/63—Routing a service request depending on the request content or context
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
- H04L67/62—Establishing a time schedule for servicing the requests
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供一种云计算的分布式调度第三方服务网格系统及方法，涉及服务网格技术领域，包括请求捕获模块、请求响应模块以及终端处理器，所述请求捕获模块以及请求响应模块与终端处理器通讯连接；所述请求捕获模块通过服务网格使用动态路由规则确定请求的发送端需要的服务请求；所述请求响应模块将服务请求分配到微服务端点进行处理；所述终端处理器包括跟踪单元以及存储单元；本发明通过对现有的第三方服务网格进行优化，以解决现有的服务网格因服务路由的服务端口数量较多，无法根据服务请求及时有效地找到合适的服务端口的问题。
Description
技术领域
本发明涉及服务网格技术领域，尤其涉及一种云计算的分布式调度第三方服务网格系统及方法。
背景技术
服务网格用于控制应用的不同部分之间如何共享数据，与用于管理此类通信的其他系统不同，服务网格内置于应用程序中的专用基础架构层。这个可见的基础架构层可以记录应用的不同部分是否能正常交互，因此，随着应用的不断发展，它在优化通信和避免停机方面就显得更加有用。
现有的应用的服务网格会将请求从一项服务路由到下一项路由，从而优化所有移动组件的协同工作方式，但例如在申请公开号为CN114205280A的中国专利中，公开了基于容器云和服务网格的应用发布方法及流量路由方法，该方法实现了自动生成容器云和服务网格的资源配置，降低了人工在容器云和服务网格中采用灰度发布方式发布应用的门槛，上述方法也仅仅用于调配服务网格的资源，现有的技术中还存在因服务路由的服务端口数量较多，无法根据服务请求及时有效地找到合适的服务端口，导致服务请求无法及时被解决的问题，有鉴于此，有必要对现有的第三方服务网格进行优化。
发明内容
针对现有技术存在的不足，本发明通过对服务请求的捕获和响应的过程进行分布式跟踪，对服务网格的服务端口进行分类以及筛选，以解决现有的服务网格因服务路由的服务端口数量较多，无法根据服务请求及时有效地找到合适的服务端口的问题。
为实现上述目的，第一方面，本发明提供一种云计算的分布式调度第三方服务网格系统，包括请求捕获模块、请求响应模块以及终端处理器，所述请求捕获模块以及请求响应模块与终端处理器通讯连接；
所述请求捕获模块通过服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
所述请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；
所述终端处理器包括跟踪单元以及存储单元；
所述跟踪单元用于对请求捕获模块与请求响应模块的运行过程进行分布式跟踪；
所述存储单元用于存储若干服务端点。
进一步地，所述请求捕获模块配置有请求建立策略，所述请求建立策略包括：
获取请求端发送的路由信息，将请求端发送的路由信息记为特殊路由信息，使用动态路由规则将特殊路由信息转换为服务路由表，记为待定路由表，所述动态路由规则为服务网格根据路由器之间交换的路由信息自动建立的服务路由表。
进一步地，所述请求捕获模块还配置有请求分析策略，所述请求分析策略包括：获取请求端至请求捕获模块的接收端的总链路，记为常规链路1至常规链路N；
获取请求端至请求捕获模块的接收端的总结点，记为常规结点1至常规结点M；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规链路，记为特殊链路1至特殊链路Q；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规结点，记为特殊结点1至特殊结点P；
获取特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序，基于特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序使用动态路由规则对待定路由表进行修改，将修改后的待定路由表记为标准路由表；
通过路由确定得到标准路由表对应的服务请求，记为标准请求。
进一步地，所述请求响应模块配置有服务检索策略，所述服务检索策略包括：
获取若干服务端点，基于若干服务类型将若干服务端点分为第一服务端点集群至第Z服务端点集群，所述若干服务类型为基于若干行业中的名词得到服务关键词，基于服务关键词将若干行业对应的服务类型分为若干服务类型；
获取标准请求，获取标准请求中的服务关键词，记为标准关键词，基于若干服务类型获取标准关键词对应的服务端点集群，记为第一标准集群至第X标准集群，其中，X大于等于1。
进一步地，所述请求响应模块配置有服务确定策略，所述服务确定策略包括：
获取标准请求、第一标准集群至第X标准集群以及动态路由规则的修改数据，所述动态路由规则的修改数据为将待定路由表修改为标准路由表时的改动数据；
获取第一标准集群至第X标准集群的每个标准集群与动态路由规则的修改数据相关性最大的服务端点，记为第一标准端点至第X标准端点；
获取第一标准端点至第X标准端点最近一次响应的延迟，记为第一历史延迟至第X历史延迟，获取第一历史延迟至第X历史延迟中小于等于标准延迟的历史延迟，记为第一可选延迟至第C可选延迟，将第一可选延迟至第C可选延迟对应的服务端点记为第一可选端点至第C可选端点，其中C小于等于X；
进一步地，所述服务确定策略还包括：将第一标准比例的标准请求发送到第一可选端点至第C可选端点，获取第一可选端点至第C可选端点的响应时间，记为第一响应时间至第C响应时间，获取第一响应时间至第C响应时间的最小值，记为最佳响应时间；
获取最佳响应时间对应的可选端点，记为最佳端点，所述最佳端点为标准请求的服务端点；
获取第一可选端点至第C可选端点对应的响应时间中小于等于标准响应时间的可选端点，记为待定端点集群，其中，待定端点集群中不包含最佳端点。
进一步地，所述请求响应模块配置有服务运行策略，所述服务运行策略包括：
将标准请求发送至最佳端点；
当最佳端点在最佳响应时间内对标准请求进行响应时，获取最佳端点对标准请求的响应时间以及响应类型，将最佳端点对标准请求的响应时间记为检测响应时间；
基于响应类型获取历史数据中响应类型对应的平均响应时间，当检测响应时间大于平均响应时间时，将最佳端点记为可优化端点；
当检测响应时间小于等于平均响应时间时，继续运行；
当最佳端点未在最佳响应时间内对标准请求进行响应时，获取待定端点集群中的任意一个可选端点，记为备选端点，将标准请求发送至备选端点，以此类推；
当待定端点集群中所有可选端点均无法在最佳响应时间内对标准请求进行响应时，则标准请求达到服务请求的过期时间，将标准请求记为无法服务请求，所述过期时间为对标准请求进行服务的最大时间。
进一步地，所述请求响应模块配置有服务反馈策略，所述服务反馈策略包括：
在服务网格运行第一运行时间后，获取所有服务端点被标记为可优化端点的次数以及时间点；
将第一间隔时间内被标记为可优化端点的次数大于等于第一次数阈值的服务端点记为宕机端点，将第一运行时间内被标记为可优化端点的次数大于等于第二次数阈值的服务端点记为故障端点，将故障端点从第一服务端点集群至第Z服务端点集群中剔除，将宕机端点进行重启，向工作人员发送故障端点以及宕机端点。
进一步地，所述服务反馈策略还包括反馈更新子策略，所述反馈更新子策略包括：将被标记为可优化端点且未被标记为故障端点以及宕机端点的服务端点记为更新端点，对更新端点进行备份，将备份后的更新端点发送至工作人员，工作人员在对更新端点进行优化后，将优化后的更新端点在第一服务端点集群至第Z服务端点集群中进行更替。
进一步地，所述跟踪单元配置有分布式跟踪策略，所述分布式跟踪策略包括：
在常规结点1至常规结点M以及常规链路1至常规链路N上放置第一数量的监控计算机，所述监控计算机用于对常规结点1至常规结点M以及常规链路1至常规链路N的运行状态进行监控，将发现故障的常规链路或常规结点发送至工作人员；
当确定特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序时，将第一数量的监控计算机均匀分布到特殊链路1至特殊链路Q以及特殊结点1至特殊结点P对每个特殊结点以及特殊链路的数据进行分布式计算；
在服务检索策略中使用第二数量的检索计算机对服务关键词的获取进行分布式搜索，将分布式搜索得到的数据记为搜索数据；
在服务确定策略以及服务运行策略的数据传输中，通过分布式跟踪对数据传输过程中使用的传输计算机的行为数据进行备份，将备份后的数据以及搜索数据发送至度量系统中，基于度量系统的分析结果对数据传输过程中使用的计算机进行调整。
第二方面，本发明还提供一种云计算的分布式调度第三方服务网格方法，包括：
步骤S1，通过请求捕获模块对服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
步骤S2，通过请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；
步骤S3，对请求捕获模块与请求响应模块的运行过程进行分布式跟踪。
本发明的有益效果：本发明通过对请求端至请求捕获模块的接收端的链路以及结点使用分布式跟踪，在未确认特殊结点以及特殊链路时对所有链路以及所有结点的运行状况进行实时监控，在确认特殊结点以及特殊链路时调取第一监控数量的计算机用于对特殊结点以及特殊链路进行分布式计算，这样的好处在于，在总链路以及总结点空闲时能对链路以及结点进行监控保护，在确认特殊链路以及特殊结点后能够加快对特殊链路以及特殊结点的计算，从而提高整体的服务响应效率，减少服务响应的时间；
本发明还通过标准关键词对服务端点进行分类，根据标准请求的服务关键词将若干服务端点集群分为第一标准集群至第X标准集群，根据第一标准集群至第X标准集群中的服务端点与标准请求的相关性，筛选出第一标准端点至第X标准端点，根据第一标准端点至第X标准端点最近一次响应的延迟，筛选出最佳端点以及待定端点集群，这样的好处在于可对服务端点进行分类，根据标准请求的类型找到适合标准请求的服务端点以及待定端点集群，有利于后续对服务端点的使用；
本发明还通过将标准请求发送到最佳端点，当超过平均响应时间且最佳端点未响应后，将最佳端点标记为可优化端点并将标准请求发送到待定端点集群中的任意一个可选端点，这样的好处在于可以防止标准请求在同一个最佳端点上始终无法响应导致响应超时，还可以将出现问题的服务端点进行标记，有利于后续对服务端点进行改进。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其他特征、目的和优点将会变得更明显：
图1为本发明的系统的原理框图；
图2为本发明的方法的步骤流程图。
具体实施方式
应该指出，以下详细说明都是示例性的，旨在对本发明提供进一步的说明。除非另有指明，本发明使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本发明的示例性实施方式。
在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
实施例一
请参阅图1所示，第一方面，本申请提供一种云计算的分布式调度第三方服务网格系统，包括请求捕获模块、请求响应模块以及终端处理器，请求捕获模块以及请求响应模块与终端处理器通讯连接；
请求捕获模块通过服务网格使用动态路由规则确定请求的发送端需要的服务请求，路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
请求捕获模块配置有请求建立策略，请求建立策略包括：
获取请求端发送的路由信息，将请求端发送的路由信息记为特殊路由信息，使用动态路由规则将特殊路由信息转换为服务路由表，记为待定路由表，动态路由规则为服务网格根据路由器之间交换的路由信息自动建立的服务路由表，在具体实施过程中，服务路由表可以被修改，被修改后的服务路由表可以表示请求端发送的具体请求；
请求捕获模块还配置有请求分析策略，请求分析策略包括：获取请求端至请求捕获模块的接收端的总链路，记为常规链路1至常规链路N；
获取请求端至请求捕获模块的接收端的总结点，记为常规结点1至常规结点M；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规链路，记为特殊链路1至特殊链路Q；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规结点，记为特殊结点1至特殊结点P；
在具体实施过程中，特殊链路被常规链路包含，特殊结点被常规结点包含，常规链路以及常规结点可以生成无数条连通发送端至接收端的连接通路，特殊链路以及特殊结点可以表示其中一条连接通路；
获取特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序，基于特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序使用动态路由规则对待定路由表进行修改，将修改后的待定路由表记为标准路由表；
通过路由确定得到标准路由表对应的服务请求，记为标准请求；
在具体实施过程中，路由确定可以通过标准路由表中的信息，确定路由指向是从路由到生产环境的微服务端点还是路由到软件生命周期阶段环境的微服务端点；或是路由到本地数据中心的微服务端点还是路由到云服务提供商的云主机中的微服务端点；
请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，微服务端点为用于解决服务请求的服务端口；
请求响应模块配置有服务检索策略，服务检索策略包括：
获取若干服务端点，基于若干服务类型将若干服务端点分为第一服务端点集群至第Z服务端点集群，若干服务类型为基于若干行业中的名词得到服务关键词，基于服务关键词将若干行业对应的服务类型分为若干服务类型；
获取标准请求，获取标准请求中的服务关键词，记为标准关键词，基于若干服务类型获取标准关键词对应的服务端点集群，记为第一标准集群至第X标准集群，其中，X大于等于1；
在具体实施过程中，默认可以通过标准关键词找到一个以上的服务端点集群，当实际情况中未能找到一个及以上的服务端点集群时，将标准请求记为无法服务请求；
请求响应模块配置有服务确定策略，服务确定策略包括：
获取标准请求、第一标准集群至第X标准集群以及动态路由规则的修改数据，动态路由规则的修改数据为将待定路由表修改为标准路由表时的改动数据；
获取第一标准集群至第X标准集群的每个标准集群与动态路由规则的修改数据相关性最大的服务端点，记为第一标准端点至第X标准端点；
在具体实施过程中，修改数据相关性为通过查找动态路由规则对标准服务表的修改以及服务端点可执行的修改进行相关性分析，分析得出每个标准集群中相关性最大的服务端点；
获取第一标准端点至第X标准端点最近一次响应的延迟，记为第一历史延迟至第X历史延迟，获取第一历史延迟至第X历史延迟中小于等于标准延迟的历史延迟，记为第一可选延迟至第C可选延迟，将第一可选延迟至第C可选延迟对应的服务端点记为第一可选端点至第C可选端点，其中C小于等于X；
将第一标准比例的标准请求发送到第一可选端点至第C可选端点，获取第一可选端点至第C可选端点的响应时间，记为第一响应时间至第C响应时间，获取第一响应时间至第C响应时间的最小值，记为最佳响应时间；
在具体实施过程中，第一标准比例为30%，这一步是为了通过标准请求的一小部分进行响应测试，获取响应时间最短的服务端点为标准请求进行服务；
获取最佳响应时间对应的可选端点，记为最佳端点，最佳端点为标准请求的服务端点；
获取第一可选端点至第C可选端点对应的响应时间中小于等于标准响应时间的可选端点，记为待定端点集群，其中，待定端点集群中不包含最佳端点；
在具体实施过程中，待定端点集群作为最佳端点的备选服务端点，当最佳端点出现故障时，通过获取待定端点集群中的服务端点为标准请求进行服务；
请求响应模块配置有服务运行策略，服务运行策略包括：
将标准请求发送至最佳端点；
当最佳端点在最佳响应时间内对标准请求进行响应时，获取最佳端点对标准请求的响应时间以及响应类型，将最佳端点对标准请求的响应时间记为检测响应时间；
基于响应类型获取历史数据中响应类型对应的平均响应时间，当检测响应时间大于平均响应时间时，将最佳端点记为可优化端点；
在具体实施过程中，响应类型获取历史数据中响应类型对应的平均响应时间可以作为最佳端点进行响应的时间的基准，最佳端点是通过筛选出来响应最快的服务端点，如果无法在平均响应时间内完成响应，说明最佳端点无法满足标准请求的所有需求，需要对最佳端点进行优化；
当检测响应时间小于等于平均响应时间时，继续运行；
当最佳端点未在最佳响应时间内对标准请求进行响应时，获取待定端点集群中的任意一个可选端点，记为备选端点，将标准请求发送至备选端点，以此类推；
在具体实施过程中，若备选端点仍无法响应，则再从待定端点集群中随机选取一个服务端点作为备选端点进行响应，直至待定端点集群中的可选端点数为0；
当待定端点集群中所有可选端点均无法在最佳响应时间内对标准请求进行响应时，则标准请求达到服务请求的过期时间，此次服务请求失败，将标准请求记为无法服务请求，过期时间为对标准请求进行服务的最大时间；
请求响应模块配置有服务反馈策略，服务反馈策略包括：
在服务网格运行第一运行时间后，获取所有服务端点被标记为可优化端点的次数以及时间点；
将第一间隔时间内被标记为可优化端点的次数大于等于第一次数阈值的服务端点记为宕机端点，将第一运行时间内被标记为可优化端点的次数大于等于第二次数阈值的服务端点记为故障端点，将故障端点从第一服务端点集群至第Z服务端点集群中剔除，将宕机端点进行重启，向工作人员发送故障端点以及宕机端点；
在具体实施过程中，第一运行时间为1h，第一间隔时间为1min，第一次数阈值为5，第二次数阈值为2，这一步是为了排除服务端点中的故障端点以及宕机端点，防止因故障端点或宕机端点的数量过多导致数据运算量过大；
服务反馈策略还包括反馈更新子策略，反馈更新子策略包括：将被标记为可优化端点且未被标记为故障端点以及宕机端点的服务端点记为更新端点，对更新端点进行备份，将备份后的更新端点发送至工作人员，工作人员在对更新端点进行优化后，将优化后的更新端点在第一服务端点集群至第Z服务端点集群中进行更替；
终端处理器包括跟踪单元以及存储单元；
跟踪单元用于对请求捕获模块与请求响应模块的运行过程进行分布式跟踪；
跟踪单元配置有分布式跟踪策略，分布式跟踪策略包括：
在常规结点1至常规结点M以及常规链路1至常规链路N上放置第一数量的监控计算机，所述监控计算机用于对常规结点1至常规结点M以及常规链路1至常规链路N的运行状态进行监控，将发现故障的常规链路或常规结点发送至工作人员；
当确定特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序时，将第一数量的监控计算机均匀分布到特殊链路1至特殊链路Q以及特殊结点1至特殊结点P对每个特殊结点以及特殊链路的数据进行分布式计算；
在服务检索策略中使用第二数量的检索计算机对服务关键词的获取进行分布式搜索，将分布式搜索得到的数据记为搜索数据；
在服务确定策略以及服务运行策略的数据传输中，通过分布式跟踪对数据传输过程中使用的传输计算机的行为数据进行备份，将备份后的数据以及搜索数据发送至度量系统中，基于度量系统的分析结果对数据传输过程中使用的计算机进行调整；
存储单元用于存储若干服务端点。
实施例二
请参阅图2所示，第二方面，本申请提供一种云计算的分布式调度第三方服务网格方法，包括：
步骤S1，通过请求捕获模块对服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
步骤S1包括如下子步骤：
步骤S101，获取请求端发送的路由信息，将请求端发送的路由信息记为特殊路由信息，使用动态路由规则将特殊路由信息转换为服务路由表，记为待定路由表，动态路由规则为服务网格根据路由器之间交换的路由信息自动建立的服务路由表，在具体实施过程中，服务路由表可以被修改，被修改后的服务路由表可以表示请求端发送的具体请求；
步骤S102，获取请求端至请求捕获模块的接收端的总链路，记为常规链路1至常规链路N；
获取请求端至请求捕获模块的接收端的总结点，记为常规结点1至常规结点M；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规链路，记为特殊链路1至特殊链路Q；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规结点，记为特殊结点1至特殊结点P；
在具体实施过程中，特殊链路被常规链路包含，特殊结点被常规结点包含，常规链路以及常规结点可以生成无数条连通发送端至接收端的连接通路，特殊链路以及特殊结点可以表示其中一条连接通路；
步骤S103，获取特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序，基于特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序使用动态路由规则对待定路由表进行修改，将修改后的待定路由表记为标准路由表；
步骤S104，通过路由确定得到标准路由表对应的服务请求，记为标准请求；
在具体实施过程中，路由确定可以通过标准路由表中的信息，确定路由指向是从路由到生产环境的微服务端点还是路由到软件生命周期阶段环境的微服务端点；或是路由到本地数据中心的微服务端点还是路由到云服务提供商的云主机中的微服务端点；
步骤S2，通过请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；
步骤S2包括如下子步骤：
步骤S201，获取若干服务端点，基于若干服务类型将若干服务端点分为第一服务端点集群至第Z服务端点集群，若干服务类型为基于若干行业中的名词得到服务关键词，基于服务关键词将若干行业对应的服务类型分为若干服务类型；
获取标准请求，获取标准请求中的服务关键词，记为标准关键词，基于若干服务类型获取标准关键词对应的服务端点集群，记为第一标准集群至第X标准集群，其中，X大于等于1；
在具体实施过程中，默认可以通过标准关键词找到一个以上的服务端点集群，当实际情况中未能找到一个及以上的服务端点集群时，将标准请求记为无法服务请求；
步骤S202，获取标准请求、第一标准集群至第X标准集群以及动态路由规则的修改数据，动态路由规则的修改数据为将待定路由表修改为标准路由表时的改动数据；
获取第一标准集群至第X标准集群的每个标准集群与动态路由规则的修改数据相关性最大的服务端点，记为第一标准端点至第X标准端点；
在具体实施过程中，修改数据相关性为通过查找动态路由规则对标准服务表的修改以及服务端点可执行的修改进行相关性分析，分析得出每个标准集群中相关性最大的服务端点；
步骤S203获取第一标准端点至第X标准端点最近一次响应的延迟，记为第一历史延迟至第X历史延迟，获取第一历史延迟至第X历史延迟中小于等于标准延迟的历史延迟，记为第一可选延迟至第C可选延迟，将第一可选延迟至第C可选延迟对应的服务端点记为第一可选端点至第C可选端点，其中C小于等于X；
将第一标准比例的标准请求发送到第一可选端点至第C可选端点，获取第一可选端点至第C可选端点的响应时间，记为第一响应时间至第C响应时间，获取第一响应时间至第C响应时间的最小值，记为最佳响应时间；
在具体实施过程中，第一标准比例为30%，这一步是为了通过标准请求的一小部分进行响应测试，获取响应时间最短的服务端点为标准请求进行服务；
步骤S204，获取最佳响应时间对应的可选端点，记为最佳端点，最佳端点为标准请求的服务端点；
获取第一可选端点至第C可选端点对应的响应时间中小于等于标准响应时间的可选端点，记为待定端点集群，其中，待定端点集群中不包含最佳端点；
在具体实施过程中，待定端点集群作为最佳端点的备选服务端点，当最佳端点出现故障时，通过获取待定端点集群中的服务端点为标准请求进行服务；
步骤S205，将标准请求发送至最佳端点；
当最佳端点在最佳响应时间内对标准请求进行响应时，获取最佳端点对标准请求的响应时间以及响应类型，将最佳端点对标准请求的响应时间记为检测响应时间；
基于响应类型获取历史数据中响应类型对应的平均响应时间，当检测响应时间大于平均响应时间时，将最佳端点记为可优化端点；
在具体实施过程中，响应类型获取历史数据中响应类型对应的平均响应时间可以作为最佳端点进行响应的时间的基准，最佳端点是通过筛选出来响应最快的服务端点，如果无法在平均响应时间内完成响应，说明最佳端点无法满足标准请求的所有需求，需要对最佳端点进行优化；
当检测响应时间小于等于平均响应时间时，继续运行；
步骤S206，当最佳端点未在最佳响应时间内对标准请求进行响应时，获取待定端点集群中的任意一个可选端点，记为备选端点，将标准请求发送至备选端点，以此类推；
在具体实施过程中，若备选端点仍无法响应，则再从待定端点集群中随机选取一个服务端点作为备选端点进行响应，直至待定端点集群中的可选端点数为0；
当待定端点集群中所有可选端点均无法在最佳响应时间内对标准请求进行响应时，则标准请求达到服务请求的过期时间，此次服务请求失败，将标准请求记为无法服务请求，过期时间为对标准请求进行服务的最大时间；
步骤S207，在服务网格运行第一运行时间后，获取所有服务端点被标记为可优化端点的次数以及时间点；
将第一间隔时间内被标记为可优化端点的次数大于等于第一次数阈值的服务端点记为宕机端点，将第一运行时间内被标记为可优化端点的次数大于等于第二次数阈值的服务端点记为故障端点，将故障端点从第一服务端点集群至第Z服务端点集群中剔除，将宕机端点进行重启，向工作人员发送故障端点以及宕机端点；
在具体实施过程中，第一运行时间为1h，第一间隔时间为1min，第一次数阈值为5，第二次数阈值为2，这一步是为了排除服务端点中的故障端点以及宕机端点，防止因故障端点或宕机端点的数量过多导致数据运算量过大；
步骤S208，将被标记为可优化端点且未被标记为故障端点以及宕机端点的服务端点记为更新端点，对更新端点进行备份，将备份后的更新端点发送至工作人员，工作人员在对更新端点进行优化后，将优化后的更新端点在第一服务端点集群至第Z服务端点集群中进行更替；
步骤S3，对请求捕获模块与请求响应模块的运行过程进行分布式跟踪；
步骤S3包括如下子步骤：
步骤S301，在常规结点1至常规结点M以及常规链路1至常规链路N上放置第一数量的监控计算机，所述监控计算机用于对常规结点1至常规结点M以及常规链路1至常规链路N的运行状态进行监控，将发现故障的常规链路或常规结点发送至工作人员；
步骤S302，当确定特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序时，将第一数量的监控计算机均匀分布到特殊链路1至特殊链路Q以及特殊结点1至特殊结点P对每个特殊结点以及特殊链路的数据进行分布式计算；
在步骤S201中使用第二数量的检索计算机对服务关键词的获取进行分布式搜索，将分布式搜索得到的数据记为搜索数据；
步骤S303，在步骤S202以及步骤S205的数据传输中，通过分布式跟踪对数据传输过程中使用的传输计算机的行为数据进行备份，将备份后的数据以及搜索数据发送至度量系统中，基于度量系统的分析结果对数据传输过程中使用的计算机进行调整。
实施例三
第三方面，本申请提供一种存储介质，其上存储有计算机程序，计算机程序被处理器执行时，运行如上任意一项方法中的步骤。通过上述技术方案，计算机程序被处理器执行时，执行上述实施例的任一可选的实现方式中的方法，以实现以下功能：首先通过请求捕获模块对服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；然后通过请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；最后对请求捕获模块与请求响应模块的运行过程进行分布式跟踪。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质上实施的计算机程序产品的形式。其中，存储介质可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器（Static Random AccessMemory，简称SRAM），电可擦除可编程只读存储器（Electrically Erasable ProgrammableRead-Only Memory，简称EEPROM），可擦除可编程只读存储器（Erasable ProgrammableRead Only Memory，简称EPROM），可编程只读存储器（Programmable Red-Only Memory，简称PROM），只读存储器（Read-OnlyMemory，简称ROM），磁存储器，快闪存储器，磁盘或光盘。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和／或方框图一个方框或多个方框中指定的功能。
以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。
Claims (6)
1.一种云计算的分布式调度第三方服务网格系统，其特征在于，包括请求捕获模块、请求响应模块以及终端处理器，所述请求捕获模块以及请求响应模块与终端处理器通讯连接；
所述请求捕获模块通过服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
所述请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；
所述终端处理器包括跟踪单元以及存储单元；
所述跟踪单元用于对请求捕获模块与请求响应模块的运行过程进行分布式跟踪；
所述存储单元用于存储若干服务端点；
所述请求捕获模块配置有请求建立策略，所述请求建立策略包括：
获取请求端发送的路由信息，将请求端发送的路由信息记为特殊路由信息，使用动态路由规则将特殊路由信息转换为服务路由表，记为待定路由表，所述动态路由规则为服务网格根据路由器之间交换的路由信息自动建立的服务路由表；
所述请求捕获模块还配置有请求分析策略，所述请求分析策略包括：获取请求端至请求捕获模块的接收端的总链路，记为常规链路1至常规链路N；
获取请求端至请求捕获模块的接收端的总结点，记为常规结点1至常规结点M；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规链路，记为特殊链路1至特殊链路Q；
获取特殊路由信息从请求端至请求捕获模块的接收端经过的常规结点，记为特殊结点1至特殊结点P；
获取特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序，基于特殊路由信息经过特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序使用动态路由规则对待定路由表进行修改，将修改后的待定路由表记为标准路由表；
通过路由确定得到标准路由表对应的服务请求，记为标准请求；
所述请求响应模块配置有服务检索策略，所述服务检索策略包括：
获取若干服务端点，基于若干服务类型将若干服务端点分为第一服务端点集群至第Z服务端点集群，所述若干服务类型为基于若干行业中的名词得到服务关键词，基于服务关键词将若干行业对应的服务类型分为若干服务类型；
获取标准请求，获取标准请求中的服务关键词，记为标准关键词，基于若干服务类型获取标准关键词对应的服务端点集群，记为第一标准集群至第X标准集群，其中，X大于等于1；
所述请求响应模块配置有服务确定策略，所述服务确定策略包括：
获取标准请求、第一标准集群至第X标准集群以及动态路由规则的修改数据，所述动态路由规则的修改数据为将待定路由表修改为标准路由表时的改动数据；
获取第一标准集群至第X标准集群的每个标准集群与动态路由规则的修改数据相关性最大的服务端点，记为第一标准端点至第X标准端点；
获取第一标准端点至第X标准端点最近一次响应的延迟，记为第一历史延迟至第X历史延迟，获取第一历史延迟至第X历史延迟中小于等于标准延迟的历史延迟，记为第一可选延迟至第C可选延迟，将第一可选延迟至第C可选延迟对应的服务端点记为第一可选端点至第C可选端点，其中C小于等于X；
所述服务确定策略还包括：将第一标准比例的标准请求发送到第一可选端点至第C可选端点，获取第一可选端点至第C可选端点的响应时间，记为第一响应时间至第C响应时间，获取第一响应时间至第C响应时间的最小值，记为最佳响应时间；
获取最佳响应时间对应的可选端点，记为最佳端点，所述最佳端点为标准请求的服务端点；
获取第一可选端点至第C可选端点对应的响应时间中小于等于标准响应时间的可选端点，记为待定端点集群，其中，待定端点集群中不包含最佳端点；
所述请求响应模块配置有服务运行策略，所述服务运行策略包括：
将标准请求发送至最佳端点；
当最佳端点在最佳响应时间内对标准请求进行响应时，获取最佳端点对标准请求的响应时间以及响应类型，将最佳端点对标准请求的响应时间记为检测响应时间；
基于响应类型获取历史数据中响应类型对应的平均响应时间，当检测响应时间大于平均响应时间时，将最佳端点记为可优化端点；
当检测响应时间小于等于平均响应时间时，继续运行；
当最佳端点未在最佳响应时间内对标准请求进行响应时，获取待定端点集群中的任意一个可选端点，记为备选端点，将标准请求发送至备选端点，以此类推；
当待定端点集群中所有可选端点均无法在最佳响应时间内对标准请求进行响应时，则标准请求达到服务请求的过期时间，将标准请求记为无法服务请求，所述过期时间为对标准请求进行服务的最大时间。
2.根据权利要求1所述的一种云计算的分布式调度第三方服务网格系统，其特征在于，所述请求响应模块配置有服务反馈策略，所述服务反馈策略包括：
在服务网格运行第一运行时间后，获取所有服务端点被标记为可优化端点的次数以及时间点；
将第一间隔时间内被标记为可优化端点的次数大于等于第一次数阈值的服务端点记为宕机端点，将第一运行时间内被标记为可优化端点的次数大于等于第二次数阈值的服务端点记为故障端点，将故障端点从第一服务端点集群至第Z服务端点集群中剔除，将宕机端点进行重启，向工作人员发送故障端点以及宕机端点。
3.根据权利要求2所述的一种云计算的分布式调度第三方服务网格系统，其特征在于，所述服务反馈策略还包括反馈更新子策略，所述反馈更新子策略包括：将被标记为可优化端点且未被标记为故障端点以及宕机端点的服务端点记为更新端点，对更新端点进行备份，将备份后的更新端点发送至工作人员，工作人员在对更新端点进行优化后，将优化后的更新端点在第一服务端点集群至第Z服务端点集群中进行更替。
4.根据权利要求3所述的一种云计算的分布式调度第三方服务网格系统，其特征在于，所述跟踪单元配置有分布式跟踪策略，所述分布式跟踪策略包括：
在常规结点1至常规结点M以及常规链路1至常规链路N上放置第一数量的监控计算机，所述监控计算机用于对常规结点1至常规结点M以及常规链路1至常规链路N的运行状态进行监控，将发现故障的常规链路或常规结点发送至工作人员；
当确定特殊链路1至特殊链路Q以及特殊结点1至特殊结点P的顺序时，将第一数量的监控计算机均匀分布到特殊链路1至特殊链路Q以及特殊结点1至特殊结点P对每个特殊结点以及特殊链路的数据进行分布式计算。
5.根据权利要求4所述的一种云计算的分布式调度第三方服务网格系统，其特征在于，所述分布式跟踪策略还包括：在服务检索策略中使用第二数量的检索计算机对服务关键词的获取进行分布式搜索，将分布式搜索得到的数据记为搜索数据；
在服务确定策略以及服务运行策略的数据传输中，通过分布式跟踪对数据传输过程中使用的传输计算机的行为数据进行备份，将备份后的数据以及搜索数据发送至度量系统中，基于度量系统的分析结果对数据传输过程中使用的计算机进行调整。
6.一种云计算的分布式调度第三方服务网格方法，基于权利要求1-5任意一项所述的一种云计算的分布式调度第三方服务网格系统实现，其特征在于，包括：
步骤S1，通过请求捕获模块对服务网格使用动态路由规则确定请求的发送端需要的服务请求，所述路由规则为路由表的路由记录与后端服务之间所建立起的映射关系；
步骤S2，通过请求响应模块基于请求捕获模块获取的服务请求，将服务请求分配到微服务端点进行处理，所述微服务端点为用于解决服务请求的服务端口；
步骤S3，对请求捕获模块与请求响应模块的运行过程进行分布式跟踪。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310845981.9A CN116567095B (zh) | 2023-07-11 | 2023-07-11 | 一种云计算的分布式调度第三方服务网格系统及方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310845981.9A CN116567095B (zh) | 2023-07-11 | 2023-07-11 | 一种云计算的分布式调度第三方服务网格系统及方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116567095A CN116567095A (zh) | 2023-08-08 |
| CN116567095B true CN116567095B (zh) | 2023-12-08 |
Family
ID=87490212
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310845981.9A Active CN116567095B (zh) | 2023-07-11 | 2023-07-11 | 一种云计算的分布式调度第三方服务网格系统及方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116567095B (zh) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109194753A (zh) * | 2018-09-11 | 2019-01-11 | 四川长虹电器股份有限公司 | 一种服务网格中事件处理的方法 |
| US11563636B1 (en) * | 2022-02-15 | 2023-01-24 | International Business Machines Corporation | Dynamic management of network policies between microservices within a service mesh |
-
2023
- 2023-07-11 CN CN202310845981.9A patent/CN116567095B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109194753A (zh) * | 2018-09-11 | 2019-01-11 | 四川长虹电器股份有限公司 | 一种服务网格中事件处理的方法 |
| US11563636B1 (en) * | 2022-02-15 | 2023-01-24 | International Business Machines Corporation | Dynamic management of network policies between microservices within a service mesh |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116567095A (zh) | 2023-08-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108632365B (zh) | 服务资源调整方法、相关装置和设备 | |
| US10909018B2 (en) | System and method for end-to-end application root cause recommendation | |
| CN111600746B (zh) | 网络故障定位方法、装置及设备 | |
| CN111966289B (zh) | 基于Kafka集群的分区优化方法和系统 | |
| CN105005521A (zh) | 测试方法及装置 | |
| CN104092748A (zh) | 一种应用app运行控制的方法及装置 | |
| CN104346264A (zh) | 系统事件日志处理系统及方法 | |
| CN112256433B (zh) | 基于Kafka集群的分区迁移方法和装置 | |
| US20240036563A1 (en) | Method and system for determining maintenance time of pipe networks of natural gas | |
| CN111181800A (zh) | 测试数据处理方法、装置、电子设备及存储介质 | |
| CN111399764A (zh) | 数据存储方法、读取方法、装置、设备及存储介质 | |
| CN111314174A (zh) | 基于区块链和sdn边缘计算网络系统的网络拨测方法及装置 | |
| CN104850394A (zh) | 分布式应用程序的管理方法和分布式系统 | |
| CN115328741A (zh) | 一种异常处理方法、装置、设备和存储介质 | |
| CN106789301B (zh) | 一种生成web网关的运行日志的方法及装置 | |
| CN113885794B (zh) | 基于多云存储的数据访问方法、装置、计算机设备及介质 | |
| CN106789142B (zh) | 资源配置的方法和装置 | |
| CN110399273A (zh) | 监控节点及其配置更新方法、设备及存储介质 | |
| CN116567095B (zh) | 一种云计算的分布式调度第三方服务网格系统及方法 | |
| CN112600703A (zh) | 网络设备远程访问故障定位方法及装置 | |
| CN102546652B (zh) | 一种服务器负载平衡系统及方法 | |
| EP4336883A1 (en) | Modeling method, network element data processing method and apparatus, electronic device, and medium | |
| CN115426356A (zh) | 一种分布式定时任务锁更新控制执行方法和装置 | |
| CN115329143A (zh) | 有向无环图评估方法、装置、设备及存储介质 | |
| CN112039696B (zh) | 一种网络拓扑结构的生成方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |