CN113364648A - 流量控制方法、系统、装置、服务设备及存储介质 - Google Patents
流量控制方法、系统、装置、服务设备及存储介质 Download PDFInfo
- Publication number
- CN113364648A CN113364648A CN202110622601.6A CN202110622601A CN113364648A CN 113364648 A CN113364648 A CN 113364648A CN 202110622601 A CN202110622601 A CN 202110622601A CN 113364648 A CN113364648 A CN 113364648A
- Authority
- CN
- China
- Prior art keywords
- traffic
- degradation
- service
- service device
- service equipment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000015556 catabolic process Effects 0.000 claims abstract description 209
- 238000006731 degradation reaction Methods 0.000 claims abstract description 209
- 238000012545 processing Methods 0.000 claims abstract description 140
- 238000004590 computer program Methods 0.000 claims description 12
- 238000011144 upstream manufacturing Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 3
- 238000005111 flow chemistry technique Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000001960 triggered effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0876—Network utilisation, e.g. volume of load or congestion level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请实施例提供了一种流量控制方法、系统、装置、服务设备及存储介质,涉及流量处理技术领域。所述方法包括:确定第一服务设备的流量处理信息,流量处理信息用于指示服务设备中流量的处理情况;根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,第一服务设备用于承接并处理第二服务设备传送的流量;按照第二服务设备的流量降级方案,对第二服务设备中的流量进行降级处理。采用本申请实施例提供的技术方案,能够提高包括多个服务设备的流量控制系统对服务设备的流量控制效率。
Description
技术领域
本申请实施例涉及流量处理技术领域,特别涉及一种流量控制方法、系统、装置、服务设备及存储介质。
背景技术
如今的互联网技术与人民生活息息相关,后台的服务设备经常需要在有限的时间内处理大量的流量。
在相关技术中,当第一服务设备自身的负载数据过高时,触发降级处理机制,对第一服务设备中的流量进行降级处理。但是,在上述相关技术中,若第一服务设备上游的第二服务设备传送给第一服务设备的流量过多,会影响对第一服务设备的流量控制效率。
发明内容
本申请实施例提供了一种流量控制方法、系统、装置、服务设备及存储介质,能够提高包括多个服务设备的流量控制系统对服务设备的流量控制效率。
所述技术方案如下:
根据本申请实施例的一个方面,提供了一种流量控制方法,所述方法包括:
确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
根据所述第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
根据本申请实施例的一个方面,提供了一种流量控制系统,所述系统包括由多个服务设备组成的服务链,所述多个服务设备中的第二服务设备,用于:
确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
根据所述第一服务设备的流量处理信息,确定所述第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
根据本申请实施例的一个方面,提供了一种流量控制装置,所述装置包括:
确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
根据所述第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
根据本申请实施例的一个方面,提供了一种服务设备,所述服务设备包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序由所述处理器加载并执行以实现上述流量控制方法。
根据本申请实施例的一个方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机程序,所述计算机程序由处理器加载并执行以实现上述流量控制方法。
根据本申请实施例的一个方面,提供了一种计算机程序产品,所述计算机程序产品由处理器加载并执行以实现上述流量控制方法。
本申请实施例提供的技术方案可以包括如下有益效果:
通过根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,由于第二服务设备位于第一服务设备的上游,从而通过对第二服务设备中的流量进行降级处理,减少第二服务设备传送给第一服务设备的流量,以减少第一服务设备的负载压力,从而提高对第一服务设备的流量控制效率。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本申请。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个实施例提供的流量控制系统的示意图;
图2是本申请一个实施例提供的流量控制方法的流程图;
图3是本申请另一个实施例提供的流量控制方法的流程图;
图4是本申请另一个实施例提供的流量控制系统的示意图;
图5是本申请另一个实施例提供的流量控制方法的流程图;
图6是本申请一个实施例提供的流量控制装置的框图;
图7是本申请另一个实施例提供的流量控制装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的方法的例子。
请参考图1,其示出了本申请一个实施例提供的流量控制系统的示意图。在一些实施例中,该系统包括由多个服务设备组成的服务链,该系统10可以包括由多个服务设备组成的服务链。可选地,该系统10包括第一服务设备11和第二服务设备12。
其中,第一服务设备11用于承接并处理第二服务设备12传送的流量,并将处理后的流量返回至第二服务设备12中;第二服务设备12用于根据第一服务设备11的流量处理信息,对第二服务设备12中的流量进行降级处理。第一服务设备11和第二服务设备12之间建立有通信连接。服务设备是指具备数据计算、处理和存储能力的电子设备。服务设备可以是独立的物理服务设备,也可以是多个物理服务设备构成的服务设备集群或者分布式系统,还可以是提供云计算服务的云服务设备。
可选地,第二服务设备12,用于:确定第一服务设备的流量处理信息,流量处理信息用于指示服务设备中流量的处理情况;根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,第一服务设备用于承接并处理第二服务设备传送的流量;按照第二服务设备的流量降级方案,对第二服务设备中的流量进行降级处理。
在一些实施例中,该系统10还包括第三服务设备13,第二服务设备12和第三服务设备13之间建立有通信连接。可选地,第一服务设备11、第二服务设备12和第三服务设备13之间组成的服务链,即为该系统10。第三服务设备13用于向第二服务设备12传送流量。
本申请实施例提供的方法,各步骤的执行主体可以是第二服务设备12。下面,通过几个实施例对本申请技术方案进行介绍说明。
请参考图2,其示出了本申请一个实施例提供的流量控制方法的流程图。在本实施例中,主要以该方法应用于上文介绍的第二服务设备中来举例说明。该方法可以包括如下几个步骤(201~203):
步骤201,确定第一服务设备的流量处理信息。
可选地,流量处理信息用于指示服务设备中流量的处理情况,如第一服务设备需要处理的流量,以及其中被降级处理的流量。在一些实施例中,流量是指请求获取服务或数据的服务请求。
步骤202,根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案。
可选地,第一服务设备所提供的服务位于第二服务设备所提供的服务的下游,第一服务设备用于承接并处理第二服务设备传送的流量。若第二服务设备传送给第一服务设备的流量过高,会导致第一服务设备负载较高且流量处理情况较差(如较多流量被迫降级处理)。因而,可以根据第一服务设备中流量的处理情况,调整第二服务设备传送给第一服务设备的流量,也即,第二服务设备将其中的部分流量降级处理,降级处理后的流量不再传送给第一服务设备,从而减少第一服务设备的负载压力,优化第一服务设备的流量处理情况(如减少第一服务设备中被降级处理的流量的比例)。
显然,针对第一服务设备不同的流量处理情况,第二服务设备可以对应有不同的流量降级方案。例如,第一服务设备的流量处理情况越差,第二服务设备对应的流量降级方案的降级力度越大。又例如,若第一服务设备的流量处理情况较为良好,第二服务设备中的流量可以无需进行降级处理。
步骤203,按照第二服务设备的流量降级方案,对第二服务设备中的流量进行降级处理。
可选地,按照第二服务设备的流量降级方案对应的流量降级比例,随机选取该流量降级比例的流量进行降级处理。
在一些实施例中,对于第二服务设备中需要被降级处理的流量,向第三服务设备返回对应的兜底数据。如图1所示,第三服务设备13为第二服务设备12的上游设备。可选地,兜底数据为服务请求对应的默认值。在另一些实施例中,对流量进行降级处理,是指针对服务请求直接返回空值。
综上所述,本申请实施例提供的技术方案中,通过根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,由于第二服务设备位于第一服务设备的上游,从而通过对第二服务设备中的流量进行降级处理,减少第二服务设备传送给第一服务设备的流量,以减少第一服务设备的负载压力,从而提高对第一服务设备的流量控制效率。
请参考图3,其示出了本申请另一个实施例提供的流量控制方法的流程图。在本实施例中,主要以该方法应用于上文介绍的第二服务设备中来举例说明。
该方法可以包括如下几个步骤(301~307):
步骤301,接收第一服务设备返回到第二服务设备中的流量,识别出其中被第一服务设备降级处理的流量。
可选地,第一服务设备根据自身的负载数据,确定第一服务设备的流量降级比例,并按照第一服务设备的流量降级比例,对第一服务设备中的部分或全部流量进行降级处理。在一些实施例中,第一服务设备处理后的流量,会返回到第二服务设备中,第二服务设备能够识别出这些返回的流量中,哪些流量被正常处理了,哪些流量被降级处理了。
步骤302,将被第一服务设备降级处理的流量,比上第一服务设备返回到第二服务设备中的流量,得到第一服务设备的流量降级比例。
也即,第一服务设备处理并返回到第二服务设备的流量中,被降级处理的流量所占的比例,即为第一服务设备的流量降级比例。
步骤303,获取降级配置信息,降级配置信息包括至少一组比例数值区间与流量降级比例之间的对应关系。
在一些实施例中,流量控制系统或第二服务设备配置有降级配置信息,可以用于指示第二服务设备的流量降级方案。在一个示例中,比例数值区间0~20%对应于流量降级比例10%、比例数值区间20%~30%对应于流量降级比例20%、比例数值区间30%~50%对应于流量降级比例30%、比例数值区间50%~70%对应于流量降级比例50%、比例数值区间70%~100%对应于流量降级比例70%。
步骤304,确定第一服务设备的流量降级比例所属的目标比例数值区间。
在一些实施例中,将第一服务设备的流量降级比例与至少一组比例数值进行匹配,确定第一服务设备的流量降级比例所属的目标比例数值区间。例如,按照上述步骤303中的示例,若第一服务设备的流量降级比例为35%,则目标比例数值区间为30%~50%;若第一服务设备的流量降级比例为58%,则目标比例数值区间为50%~70%。
步骤305,将目标比例数值区间对应的流量降级比例,确定为第二服务设备的第一流量降级比例。
在一些实施例中,按照降级配置信息和目标比例数值区间,确定第二服务设备的第一流量降级比例。示例性地,按照上述步骤303中的示例,若目标比例数值区间为30%~50%,则第二服务设备的第一流量降级比例为30%;若目标比例数值区间为50%~70%,则第二服务设备的第一流量降级比例为50%。
步骤306,基于不同类型的流量的优先级,确定第二服务设备中被降级处理的流量为目标类型的流量。
在一些实施例中,不同类型的流量对应有不同的优先级,优先级越高的类型的流量的重要程度越高,优先级越低的类型的流量的重要程度越低,因而低优先级的类型的流量会优先被降级处理。在一个示例中,服务接口包括重要接口和非重要接口,重要接口的优先级高于非重要接口的优先级,因而来自于非重要接口的流量优先被降级处理。
在一些实施例中,该方法还包括如下几个步骤:
1、获取第二服务设备的第一流量降级比例的各个比例区间,分别与流量的类型之间的对应关系信息;
2、将与第二服务设备的第一流量降级比例所在的比例区间对应的类型,确定为目标类型。
在一些实施例中,当第一流量降级比例较高时,对应降级的流量的类型数量较多。例如,将流量划分为核心用户的流量、重要用户的流量和普通用户的流量。其中,核心用户的流量的优先级,高于重要用户的流量的优先级;重要用户的流量的优先级,高于普通用户的流量的优先级。在一个示例中,比例区间0~40%对应的流量为普通用户的流量;比例区间40%~80%对应的流量为普通用户的流量和重要用户的流量。若第一流量降级比例为20%,则目标类型的流量为普通用户的流量;若第一流量降级比例为60%,则目标类型的流量为普通用户的流量和重要用户的流量。可选地,优先保证核心用户(也可称为白名单用户)的流量能够被正常处理。
步骤307,基于第二服务设备的第一流量降级比例,对目标类型的部分或全部流量进行降级处理。
在一些实施例中,按照第一流量降级比例,对第二服务设备中的流量进行降级,其中,被降级的流量属于目标类型的流量。在一个示例中,第一流量降级比例为40%,对于100个单位的总流量,其中目标类型的流量为50个单位,则需要从50个单位的目标类型的流量中,选取40个单位的目标类型的流量进行降级处理,其余的60个单位的流量进行正常处理并会被进一步传送给第一服务设备。
在一些实施例中,响应于第一服务设备的流量降级比例小于第一降级阈值,停止对第二服务设备中的流量进行降级处理,或降低第二服务设备的第一流量降级比例。若检测到第一服务设备的流量降级比例降低到小于第一降级阈值,表示第一服务设备的负载压力较小,可以降低对第二服务设备的依靠、或不依靠第二服务设备来控制第一服务设备的负载压力了,因而第二服务设备可以停止对流量进行降级处理,或降低第二服务设备的第一流量降级比例。
其中,第一降级阈值可以为0、5%、10%、20%等等,第一降级阈值还可以为其他数值。可选地,第一降级阈值的具体数值由相关技术人员根据实际情况进行设定,本申请实施例对此不作具体限定。
在一些实施例中,对于第二服务设备及其的上游的第三服务设备之间,同样存在跨层级的流量控制方法,也即,第三服务设备也可以通过识别第二服务设备的流量降级比例,确定自身的流量降级比例并对第三服务设备中的流量进行降级处理。第二服务设备与第三服务设备之间的流量控制关系,可以参考第一服务设备与第二服务设备之前的流量控制关系,此处不再赘述。
综上所述,本申请实施例提供的技术方案,通过将流量划分类型,优先对优先级较低的流量进行降级处理,从而保证了第二服务设备在应对第一服务设备的高负载的情况中,优先级较高的类型的流量尽可能不被降级处理,从而保证了优先级较高的类型的流量的稳定性。
另外,本申请实施例中,对于由多个服务设备串联起来的服务链,通过不同层级的服务设备之间跨层级的流量控制,从而使得该服务链的多个服务设备之间互相影响协调、以控制流量的传输和处理的流量控制系统,并提升了该流量控制系统整体的流量控制效率。
在一些可能的实现方式中,该方法还包括如下几个步骤:
1、获取第二服务设备的负载数据,负载数据用于指示服务设备调用的处理资源和/或内存资源的量。
在一些实施例中,处理资源是指服务设备中处理单元(如CPU(CentralProcessing Unit,中央处理器))的总处理性能,服务设备调用的处理资源的量,可以表示为处理单元被调用的处理资源的占比(如50%、70%、80%、90%等)。在一些实施例中,服务设备调用的内存资源的量,可以指服务设备的内存单元(如内存储器)中存储的数据量,占内存单元的总控件的比例(如45%、70%、80%、95%等)。可选地,负载数据还可以通过识别待处理流量、时延、网络带宽等各项系统指标综合评估得到。
2、根据第二服务设备的负载数据,确定第二服务设备的第二流量降级比例。
在一些实施例中,根据第二服务设备自身的负载数据,若第二服务设备自身的负载压力就比较大,那么,可以按照该负载数据,确定第二服务设备的第二流量降级比例以便于对第二服务设备中的流量进行降级处理,以降低第二服务设备的负载压力。
在一些实施例中,该方法还包括如下步骤:
(1)获取降级配置信息,降级配置信息包括第二服务设备的负载数据,与第二服务设备的第二流量降级比例之间的对应关系;
(2)根据第二服务设备的负载数据和降级配置信息,确定第二服务设备的第二流量降级比例。
在该实施例中,从预先设定的降级配置信息中,查询确定第二服务设备的负载数据对应的第二流量降级比例。在一个示例中,降级配置信息规定,服务设备中,CPU被调用的处理资源的占比在70%~80%之间、或被调用的内存资源的占比在70%~80%之间时,对应的第二流量降级比例为30%;CPU被调用的处理资源的占比在80%~90%之间、或被调用的内存资源的占比在80%~90%之间时,对应的第二流量降级比例为50%;CPU被调用的处理资源的占比在90%~100%之间时、或被调用的内存资源的占比在90%~100%之间,对应的第二流量降级比例为60%。
3、按照第二服务设备的第二流量降级比例,对第二服务设备中的流量进行降级处理。
可选地,将第二流量降级比例的流量进行降级处理,降级处理的过程可以参考上述图2实施例的步骤203,此处不再赘述。
在一些实施例中,该方法还包括如下步骤:
1、根据第一服务设备的流量处理信息,确定第二服务设备的第一流量降级比例;
2、根据第二服务设备的第一流量降级比例和第二服务设备的第二流量降级比例,确定第二服务设备的综合流量降级比例;
3、按照第二服务设备的综合流量降级比例,对第二服务设备中的流量进行降级处理。
在上述实现方式中,第二服务设备在根据第一服务设备的流量处理情进行流量降级的同时,还会根据自身负载情况进行流量降级,从而同时降低第一服务设备和第二服务设备对流量的负载压力,提升流量控制系统整体的流量控制效率。
请参考图4,其示出了本申请另一个实施例提供的流量控制系统的示意图。可选地,该流量控制系统属于视频服务系统40,用于向用户提供视频播放服务。其中,该视频服务系统40包括第一机房41和第二机房42,第一机房41和第二机房42中都包括由接入服务设备、视频服务设备、关系服务设备和用户服务设备按序组成的服务链。
在一些实施例中,第二机房42中的用户服务设备43宕机,则,由第一机房41中的用户服务设备44承接并处理来自第二机房42中的关系服务设备45的流量。此时,用户服务设备44的负载压力过大,触发用户服务设备44对流量进行降级处理。第一机房41中的关系服务设备46和第二机房42中的关系服务设备45都识别到用户服务设备44的流量降级比例为40%,按照预先设定的降级配置信息,第一机房41中的关系服务设备46和第二机房42中的关系服务设备45的流量降级比例为20%,则第一机房41中的关系服务设备46和第二机房42中的关系服务设备45分别按照20%的流量降级比例对自身的流量进行降级处理。
可选地,第一机房中的视频服务设备47识别到关系服务设备46的流量竞技比例为20%,视频服务设备47按照降级配置信息也对20%的流量进行降级处理,从而使得视频服务设备47、关系服务设备46和用户服务设备44的负载都保持在一个稳定且不过高的水平,实现级联降级,进而提升服务链整体的流量处理效率。
可选地,当检测到用户服务设备44的负载较低且流量降级比例为0(即流量正常处理的比例为100%),则用户服务设备44、关系服务设备45和关系服务设备46、视频服务设备47依次停止对流量进行降级处理,系统40恢复稳定,正常运行。
下面,结合图5对本申请实施例提供的流量控制方法进行总结介绍。如图5所示,该方法可以包括如下几个步骤(501~506):
步骤501,判断第二服务设备的负载是否过高,若是,则执行步骤504;若否,则执行步骤503;
步骤502,判断是否触发级联降级,若是,则执行步骤504;若否,则执行步骤503;
步骤503,正常处理流量;
步骤504,触发流量降级机制;
步骤505,判断流量是否命中降级比例,若是,则执行步骤506;若否,则执行步骤503;
步骤506,向第二服务设备的上游服务设备返回兜底数据或空值。
下述为本申请装置实施例,可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节,请参照本申请方法实施例。
请参考图6,其示出了本申请一个实施例提供的流量控制装置的框图。该装置具有实现上述流量控制方法示例的功能,所述功能可以由硬件实现,也可以由硬件执行相应的软件实现。该装置可以是上文介绍的第二服务设备,也可以设置在第二服务设备上。该装置600可以包括:信息确定模块610、方案确定模块620和流量处理模块630。
所述信息确定模块610,用于确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况。
所述方案确定模块620,用于根据所述第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量。
所述流量处理模块630,用于按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
综上所述,本申请实施例提供的技术方案中,通过根据第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,由于第二服务设备位于第一服务设备的上游,从而通过对第二服务设备中的流量进行降级处理,减少第二服务设备传送给第一服务设备的流量,以减少第一服务设备的负载压力,从而提高对第一服务设备的流量控制效率。
在示例性实施例中,所述信息确定模块610,用于:
接收所述第一服务设备返回到所述第二服务设备中的流量,识别出其中被所述第一服务设备降级处理的流量;
将被所述第一服务设备降级处理的流量,比上所述第一服务设备返回到所述第二服务设备中的流量,得到所述第一服务设备的流量降级比例。
在示例性实施例中,所述方案确定模块620,用于:
获取降级配置信息,所述降级配置信息包括至少一组比例数值区间与流量降级比例之间的对应关系;
确定所述第一服务设备的流量降级比例所属的目标比例数值区间;
将所述目标比例数值区间对应的流量降级比例,确定为所述第二服务设备的第一流量降级比例。
在示例性实施例中,所述流量处理模块630,还用于响应于所述第一服务设备的流量降级比例小于第一降级阈值,停止对所述第二服务设备中的流量进行降级处理,或降低所述第二服务设备的第一流量降级比例。
在示例性实施例中,如图7所示,所述流量处理模块630,包括:类型确定子模块631和流量处理子模块632。
所述类型确定子模块631,用于基于不同类型的流量的优先级,确定所述第二服务设备中被降级处理的流量为目标类型的流量。
所述流量处理子模块632,用于基于所述第二服务设备的第一流量降级比例,对所述目标类型的部分或全部流量进行降级处理。
在示例性实施例中,如图7所示,所述类型确定子模块631,用于:
获取所述第二服务设备的第一流量降级比例的各个比例区间,分别与流量的类型之间的对应关系信息;
将与所述第二服务设备的第一流量降级比例所在的比例区间对应的类型,确定为所述目标类型。
在示例性实施例中,如图7所示,所述装置600还包括:数据获取模块640和比例确定模块650。
所述数据获取模块640,用于获取所述第二服务设备的负载数据,所述负载数据用于指示服务设备调用的处理资源和/或内存资源的量。
所述比例确定模块650,用于根据所述第二服务设备的负载数据,确定所述第二服务设备的第二流量降级比例。
所述流量处理模块630,还用于按照所述第二服务设备的第二流量降级比例,对所述第二服务设备中的流量进行降级处理。
在示例性实施例中,如图7所示,所述比例确定模块650,还用于根据所述第一服务设备的流量处理信息,确定所述第二服务设备的第一流量降级比例。
所述比例确定模块650,还用于根据所述第二服务设备的第一流量降级比例和所述第二服务设备的第二流量降级比例,确定所述第二服务设备的综合流量降级比例。
所述流量处理模块630,还用于按照所述第二服务设备的综合流量降级比例,对所述第二服务设备中的流量进行降级处理。
在示例性实施例中,如图7所示,所述比例确定模块650,用于:
获取降级配置信息,所述降级配置信息包括所述第二服务设备的负载数据,与所述第二服务设备的第二流量降级比例之间的对应关系;
根据所述第二服务设备的负载数据和所述降级配置信息,确定所述第二服务设备的第二流量降级比例。
在示例性实施例中,如图7所示,所述流量处理模块630,用于对于所述第二服务设备中需要被降级处理的流量,向第三服务设备返回对应的兜底数据,所述第三服务设备为所述第二服务设备的上游设备。
需要说明的是,上述实施例提供的装置,在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的装置与方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
在示例性实施例中,还提供了一种服务设备,所述服务设备包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序由所述处理器加载并执行以实现上述流量控制方法。
在示例性实施例中,还提供了一种计算机可读存储介质,所述存储介质中存储有计算机程序,所述计算机程序在被处理器执行时以实现上述流量控制方法。
可选地,上述计算机可读存储介质可以包括:ROM(Read-Only Memory,只读存储器)、RAM(Random-Access Memory,随机存储器)、SSD(Solid State Drives,固态硬盘)或光盘等。其中,随机存取记忆体可以包括ReRAM(Resistance Random Access Memory,电阻式随机存取记忆体)和DRAM(Dynamic Random Access Memory,动态随机存取存储器)。
在示例性实施例中,还提供了一种计算机程序产品,当该计算机程序产品被处理器执行时,其用于实现上述流量控制方法。
应当理解的是,在本文中提及的“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
以上所述仅为本申请的示例性实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (14)
1.一种流量控制方法,其特征在于,所述方法包括:
确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
根据所述第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
2.根据权利要求1所述的方法,其特征在于,所述确定第一服务设备的流量处理信息,包括:
接收所述第一服务设备返回到所述第二服务设备中的流量,识别出其中被所述第一服务设备降级处理的流量;
将被所述第一服务设备降级处理的流量,比上所述第一服务设备返回到所述第二服务设备中的流量,得到所述第一服务设备的流量降级比例。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第一服务设备的流量处理信息,确定所述第二服务设备的流量降级方案,包括:
获取降级配置信息,所述降级配置信息包括至少一组比例数值区间与流量降级比例之间的对应关系;
确定所述第一服务设备的流量降级比例所属的目标比例数值区间;
将所述目标比例数值区间对应的流量降级比例,确定为所述第二服务设备的第一流量降级比例。
4.根据权利要求2所述的方法,其特征在于,所述方法还包括:
响应于所述第一服务设备的流量降级比例小于第一降级阈值,停止对所述第二服务设备中的流量进行降级处理,或降低所述第二服务设备的第一流量降级比例。
5.根据权利要求2所述的方法,其特征在于,所述按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理,包括:
基于不同类型的流量的优先级,确定所述第二服务设备中被降级处理的流量为目标类型的流量;
基于所述第二服务设备的第一流量降级比例,对所述目标类型的部分或全部流量进行降级处理。
6.根据权利要求5所述的方法,其特征在于,所述确定所述第二服务设备中被降级处理的流量为目标类型的流量,包括:
获取所述第二服务设备的第一流量降级比例的各个比例区间,分别与流量的类型之间的对应关系信息;
将与所述第二服务设备的第一流量降级比例所在的比例区间对应的类型,确定为所述目标类型。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述第二服务设备的负载数据,所述负载数据用于指示服务设备调用的处理资源和/或内存资源的量;
根据所述第二服务设备的负载数据,确定所述第二服务设备的第二流量降级比例;
按照所述第二服务设备的第二流量降级比例,对所述第二服务设备中的流量进行降级处理。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
根据所述第一服务设备的流量处理信息,确定所述第二服务设备的第一流量降级比例;
根据所述第二服务设备的第一流量降级比例和所述第二服务设备的第二流量降级比例,确定所述第二服务设备的综合流量降级比例;
按照所述第二服务设备的综合流量降级比例,对所述第二服务设备中的流量进行降级处理。
9.根据权利要求7所述的方法,其特征在于,所述根据所述第二服务设备的负载数据,确定所述第二服务设备的第二流量降级比例,包括:
获取降级配置信息,所述降级配置信息包括所述第二服务设备的负载数据,与所述第二服务设备的第二流量降级比例之间的对应关系;
根据所述第二服务设备的负载数据和所述降级配置信息,确定所述第二服务设备的第二流量降级比例。
10.根据权利要求1至9任一项所述的方法,其特征在于,所述按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理,包括:
对于所述第二服务设备中需要被降级处理的流量,向第三服务设备返回对应的兜底数据,所述第三服务设备为所述第二服务设备的上游设备。
11.一种流量控制系统,其特征在于,所述系统包括由多个服务设备组成的服务链,所述多个服务设备中的第二服务设备,用于:
确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
根据所述第一服务设备的流量处理信息,确定所述第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
12.一种流量控制装置,其特征在于,所述装置包括:
信息确定模块,用于确定第一服务设备的流量处理信息,所述流量处理信息用于指示服务设备中流量的处理情况;
方案确定模块,用于根据所述第一服务设备的流量处理信息,确定第二服务设备的流量降级方案,所述第一服务设备用于承接并处理所述第二服务设备传送的流量;
流量处理模块,用于按照所述第二服务设备的流量降级方案,对所述第二服务设备中的流量进行降级处理。
13.一种服务设备,其特征在于,所述服务设备包括处理器和存储器,所述存储器中存储有计算机程序,所述计算机程序由所述处理器加载并执行以实现上述权利要求1至10任一项所述的流量控制方法。
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序由处理器加载并执行以实现上述权利要求1至10任一项所述的流量控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110622601.6A CN113364648B (zh) | 2021-06-04 | 2021-06-04 | 流量控制方法、系统、装置、服务设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110622601.6A CN113364648B (zh) | 2021-06-04 | 2021-06-04 | 流量控制方法、系统、装置、服务设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113364648A true CN113364648A (zh) | 2021-09-07 |
CN113364648B CN113364648B (zh) | 2024-02-13 |
Family
ID=77532026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110622601.6A Active CN113364648B (zh) | 2021-06-04 | 2021-06-04 | 流量控制方法、系统、装置、服务设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113364648B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115226050A (zh) * | 2022-06-22 | 2022-10-21 | 百果园技术(新加坡)有限公司 | 流量分配方法、装置、设备、存储介质及程序产品 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9277452B1 (en) * | 2013-03-07 | 2016-03-01 | Dragonwave, Inc. | Adaptive modulation and priority-based flow control in wireless communications |
CN106921587A (zh) * | 2015-12-28 | 2017-07-04 | 阿里巴巴集团控股有限公司 | 消息流量控制方法、装置及相关系统 |
US9843520B1 (en) * | 2013-08-15 | 2017-12-12 | Avi Networks | Transparent network-services elastic scale-out |
US10284660B1 (en) * | 2016-03-14 | 2019-05-07 | Amazon Technologies, Inc. | Data flow tokens to trace execution of services in a service provider network |
CN110958137A (zh) * | 2019-11-14 | 2020-04-03 | 百度在线网络技术(北京)有限公司 | 流量管理方法、装置及电子设备 |
-
2021
- 2021-06-04 CN CN202110622601.6A patent/CN113364648B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9277452B1 (en) * | 2013-03-07 | 2016-03-01 | Dragonwave, Inc. | Adaptive modulation and priority-based flow control in wireless communications |
US9843520B1 (en) * | 2013-08-15 | 2017-12-12 | Avi Networks | Transparent network-services elastic scale-out |
CN106921587A (zh) * | 2015-12-28 | 2017-07-04 | 阿里巴巴集团控股有限公司 | 消息流量控制方法、装置及相关系统 |
US10284660B1 (en) * | 2016-03-14 | 2019-05-07 | Amazon Technologies, Inc. | Data flow tokens to trace execution of services in a service provider network |
CN110958137A (zh) * | 2019-11-14 | 2020-04-03 | 百度在线网络技术(北京)有限公司 | 流量管理方法、装置及电子设备 |
Non-Patent Citations (1)
Title |
---|
龙新征;彭一明;李若淼;: "基于微服务框架的信息服务平台", 东南大学学报(自然科学版), no. 1, pages 52 - 56 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115226050A (zh) * | 2022-06-22 | 2022-10-21 | 百果园技术(新加坡)有限公司 | 流量分配方法、装置、设备、存储介质及程序产品 |
CN115226050B (zh) * | 2022-06-22 | 2024-04-19 | 百果园技术(新加坡)有限公司 | 流量分配方法、装置、设备、存储介质及程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN113364648B (zh) | 2024-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109660607B (zh) | 一种业务请求分发方法、接收方法、装置及服务器集群 | |
CN111614570B (zh) | 一种用于服务网格的流量控制系统及方法 | |
WO2021258753A1 (zh) | 一种业务处理方法、装置及电子设备和存储介质 | |
CN107819797B (zh) | 访问请求处理方法和装置 | |
CN106936925A (zh) | 负载均衡方法和系统 | |
CN109800204B (zh) | 数据分配方法及相关产品 | |
CN111045808B (zh) | 一种分布式网络任务调度方法及装置 | |
CN111190745A (zh) | 一种数据处理方法、装置及计算机可读存储介质 | |
CN105871983A (zh) | 一种选择服务器的方法及装置 | |
CA3030504A1 (en) | Blockchain network and task scheduling method therefor | |
CN112866136A (zh) | 业务数据处理方法和装置 | |
CN113114517B (zh) | 网络切片下基于节点特征的网络资源动态备份方法及系统 | |
CN110740164A (zh) | 服务器确定方法、调控方法、装置、设备及存储介质 | |
CN112711479A (zh) | 服务器集群的负载均衡系统、方法、装置和存储介质 | |
CN111641563A (zh) | 基于分布式场景的流量自适应方法与系统 | |
CN110838987B (zh) | 队列限流方法、存储介质 | |
CN106603256B (zh) | 一种流量控制方法及装置 | |
CN111913852A (zh) | 存储系统的健康管理方法和装置 | |
CN113364648A (zh) | 流量控制方法、系统、装置、服务设备及存储介质 | |
CN113377866B (zh) | 一种虚拟化数据库代理服务的负载均衡方法及装置 | |
CN109144666A (zh) | 一种跨云平台的资源处理方法及系统 | |
CN113127146A (zh) | 一种异构动态随机调度方法及系统 | |
CN112395058A (zh) | 任务调控装置、方法和系统 | |
CN111258751A (zh) | 一种控制资源访问的方法、装置及介质 | |
CN116405500B (zh) | 基于数据分析和云计算数据分析系统资源管理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |