CN108667938B - 切换流量的方法、装置及服务器 - Google Patents

Abstract

本说明书提供一种切换流量的方法、装置及服务器，该切换流量方法中，提供了一种目标比例随时间推移而增长的设定策略，基于该策略，流量能够逐步从源业务模块切换至目的业务模块，实现了自动、平滑的切换流量方案，能够避免直接全部切流导致的服务器预热不足而出错率高等问题。

Description

切换流量的方法、装置及服务器

技术领域

本说明书涉及互联网技术领域，尤其涉及切换流量的方法、装置及服务器。

背景技术

在互联网技术领域，常常面临高并发场景，服务侧的某些业务会接收到大量的处理请求。在此类场景中，可能会涉及切换流量的处理。流量表征处理请求的数量，切换流量是指，在出现业务异常或数量质量出现问题等情况时，将分配给出现问题业务的流量切换至稳定可靠的业务。基于此，需要提供稳定可靠的切换流量方案。

发明内容

为克服相关技术中存在的问题，本说明书提供了切换流量的方法、装置及服务器。

根据本说明书实施例的第一方面，提供一种切换流量的方法，所述方法应用于服务器，所述服务器用于承接流量，并分配流量给业务模块，所述方法包括：

获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长。

可选的，所述设定策略还包括：

所述目标比例增长的时间间隔为设定值。

可选的，所述设定策略还包括：

所述目标比例的增长幅度为设定值。

可选的，所述设定策略还包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。

可选的，所述目的业务模块运行于未承接流量的服务集群，所述设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器。

可选的，所述目的业务模块运行于已承接流量的服务集群，所述设定策略还包括：基于服务集群中服务器的负载情况分配选取的流量。

根据本说明书实施例的第二方面，提供一种切换流量的装置，所述装置应用于服务器，所述服务器用于承接流量，并分配流量给业务模块，所述装置包括：

指令获取模块，用于：获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

切换模块，用于：按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长。

可选的，所述设定策略还包括：

所述目标比例增长的时间间隔为设定值。

可选的，所述设定策略还包括：

所述目标比例的增长幅度为设定值。

可选的，所述设定策略还包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。

可选的，所述目的业务模块运行于未承接流量的服务集群，所述设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器。

可选的，所述目的业务模块运行于已承接流量的服务集群，所述设定策略还包括：基于服务集群中服务器的负载情况分配选取的流量。

根据本说明书实施例的第三方面，提供一种服务器，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：

获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长。

本说明书的实施例提供的技术方案可以包括以下有益效果：

本说明实施例方案的目标是平滑地切换流量，为了实现该目标，本实施例提供了一种目标比例随时间推移而增长的设定策略，基于该策略，流量能够逐步从源业务模块切换至目的业务模块，实现了自动、平滑的切换流量方案，能够避免直接全部切流导致的服务器预热不足而出错率高等问题。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本说明书。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本说明书的实施例，并与说明书一起用于解释本说明书的原理。

图1A、图1B和图1C分别是本说明书根据一示例性实施例示出的一种切换流量的方法的场景示意图。

图2A是本说明书根据一示例性实施例示出的一种切换流量的方法的流程图。

图2B是本说明书根据一示例性实施例示出的一种切换流量示意图。

图3是本说明书切换流量的装置所在服务器的一种硬件结构图。

图4是本说明书根据一示例性实施例示出的一种切换流量的装置的框图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本说明书的一些方面相一致的装置和方法的例子。

在本说明书使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书。在本说明书和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本说明书可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

互联网技术领域中，常常会有切换流量的需求。例如新上线业务功能常常会出现不稳定或错误的情况，需要将新上线业务功能的流量切换至稳定的旧业务模块。本说明书实施例的方案可应用于切换流量场景，根据实际业务需要，切换流量场景可以涉及多种不同的架构，本说明书列举几个例子进行说明。

如图1A所示，是本说明书根据一示例性实施例示出的一种切换流量的场景示意图，图1A中包括若干个发起处理请求的请求发起方，以及用于承接流量的一服务器，运行于该服务器上的模块可以包括有：业务模块1、业务模块2以及切流模块。作为例子，切流模块可应用本实施例所提供的切换流量的方法，在需要时，将分配给业务模块1的流量切换至业务模块2。

图1A中示出了一个服务器的例子，在其他例子中，还可以是服务集群架构。如图1B所示，图1B中示出了一服务集群，服务集群中包括若干个服务器，每个服务器的架构如图1A所示，包括有业务模块1、业务模块2以及切流模块。作为例子，当需要切流时，每个服务器中的切流模块都可应用本实施例所提供的切换流量的方法，在需要时，将分配给业务模块1的流量切换至业务模块2。

在其他例子中，还可以是多服务集群的架构，如图1C所示，是本说明书根据一示例性实施例示出的另一种切换流量的场景示意图，图1C中包括两个服务集群及负载服务器，每个服务集群中包括有若干个服务器。业务模块1运用于服务集群1中，业务模块2运行于服务集群2中。负载服务器用于承接流量，并将流量分配给服务集群。可以理解，图1C中为了示例方便，以一个负载服务器为例，在其他例子中，负载服务器的功能还可以是采用若干个负载服务器所构成的负载服务集群实现。

可以理解，上述三个例子只是示例，实际应用中资源分配场景还可以涉及其他主体和架构，本实施例对此不做限定。

在上述切换流量场景的基础上，本说明书提供一种切换流量的方法，参见图2A所示，所述方法应用于服务器，所述服务器用于承接流量，并分配流量给业务模块，包括以下步骤：

在步骤202中，获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识。

在步骤204中，按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块。所述设定策略包括：所述目标比例随时间推移而增长。

其中，切换指令在不同应用场景下，可以通过不同方式获取到。例如，可以是由技术人员监控业务模块的处理情况，在发现业务功能不稳定或出现较多错误的情况下，由技术人员触发切换指令。在其他例子中，也可以是由业务系统等主体自动触发切换指令，例如业务系统根据触发条件，检测到流量严重积压、或者是有大量的处理请求未处理、或者是出现较多的错误处理等等情况而自动触发，具体方式本实施例对此不作限定。其中，切换指令可以携带有源业务模块标识和目的业务模块标识，通过源业务模块标识可以确定源业务模块，通过目的业务模块标识可以确定目的业务模块。

在出现上述情况后，需要一种稳定可靠的切换流量方案，本说明实施例方案的目标是平滑地切换流量，为了实现该目标，本实施例提供了一种目标比例随时间推移而增长的设定策略，基于该策略，流量能够逐步从源业务模块切换至目的业务模块，实现了自动、平滑的切换流量方案，能够避免直接全部切流导致的服务器预热不足而出错率高等问题。

其中，目标比例的取值范围可以是大于0但小于或等于100％的范围，目标比例大于0，表征需要有一定比例的流量从源业务模块切换至目的业务模块；实际使用中，目标比例具体取值可以根据需要灵活配置，例如可以根据需要设定上限值，比如目标比例的上限值可以是低于100％的任意值，以上限值为90％为例，表示切流的最终目标是切换90％的流量至目的业务模块，当目标比例持续增长至设定上限值90％，则切流目标达成。可以理解，目标比例的最大值可以是100％，表示源业务模块的流量将全部切换至目的业务模块，源业务模块不再承接流量，流量全部由目的业务模块处理，切流任务完成。

其中，该目标比例随时间推移而增长的具体方式，在实际应用中可以灵活配置，作为例子：目标比例可以与如下参数呈相关增长：当前时间与切换流量开始时间的间隔，也就是说，目标比例会持续地增长，一直增长到上限值。在其他例子中，也可以是间断性地增长，作为例子，可以是：切流开始时，目标比例设置为10％(该数值可以灵活设置)，之后每隔N毫秒更新目标比例(N可以是固定值，也可以是动态变动的数值)，所更新的目标比例大于上一次的目标比例。在一些例子中，目标比例增长的时间间隔也可以是随机的，每一次的增长幅度可以是固定值，也可以是随机值。在另一些例子中，目标比例增长的时间间隔可以为设定值，也就是说，目标比例按照设定的时间间隔增长，例如，可以是每隔5毫秒增长一次等等；每一次增长的幅度(也即是增长相对量)，也可以灵活配置，例如可以是动态变化，也可以是设定值等等。

接下来列举一个例子说明设定策略的实现过程，在实际应用中，本领域技术人员可以根据需要灵活实现该设定策略，本实施例对此不做限定。

本实施例中可以设计若干个切流状态位，个数可以根据切流平滑程度自行配置，并将流量平均分配在不同的状态位下，并记录状态位更新时间。本实施例中的目的比例是100％，以4个状态位为例，表示将切流的过程分为4个阶段完成。

当切流开始时，所有状态位启动，并记录切流开始时间。同时，由于所有状态位启动，将若干个状态位的当前时刻与预先设置的时间间隔(本实施例以5秒、10秒、15秒及20秒为例)进行对比。

当某一个状态位的更新时间，与当前时间间隔超过预先设计的间隔。则触发切流，否则不切流。示例如下表格：

如该表格所示，在14点5分05秒，触发需要切流的控制，修改所有状态位，并记录状态位修改时间为14点5分05秒。

根据事先设定好的间隔时间5秒、10秒、15秒及20秒，从14点5分05秒开始的5秒内，目标比例为25％，则选取25％的流量切换至目的业务模块。作为例子，当前时间是14点5分08秒，该时间与状态变更点间隔3秒，低于间隔5秒，因此处于第一个状态位内。假设当前时间是14点5分16秒，该时间与状态变更点间隔8秒，大于间隔5秒但小于间隔10秒，因此处于第二个状态位内，目标比例是50％。依次类推，直至14点5分20秒开始，目标比例是100％，实现全部流量切换。具体的，可以参考图2B所示，从切流开始，随着时间推移，目标比例每间隔5秒增长一次，直到100％时，切流任务完成。

本说明实施例中，确定有目标比例，可以从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块。其中，选取流量的方式可以灵活配置，基于此，本实施例中，设定策略还可以包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。在一些例子中，采用随机选取的方式，选取过程中无需进行额外处理，可以保证选取效率。在另一些例子中，可能某些处理请求较为重要，希望能够获得快速准确地处理，则可以基于处理请求的优先级选取。其中，处理请求的优先级的确定可以灵活配置，实际使用中，可以是基于发起处理请求的用户特性划分处理请求的优先级，可以是基于业务属性划分处理请求的优先级等等。可选的，处理请求可以携带有用户标识、一项或多项业务属性信息等等，在选取时，可以通过读取处理请求所携带的信息而确定处理请求的优先级。

实际应用中，目的业务模块可以运行于服务集群中，服务集群包含有若干个服务器，假设服务集群是由新增的服务器构成，各个服务器暂未承接流量，在流量较大的情况，如何合理地分配流量，也将影响到业务处理的稳定性。基于此，本实施例提供了一种流量分配的方式，其中，设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器，使得各个服务器能够获得数量相当的处理请求，使得各个服务器能够快速地对处理请求进行响应。

在另一些例子中，目的业务模块也可能是旧有的业务模块，目的业务模块运行于已承接流量的服务集群，则设定策略可以包括：基于服务集群中服务器的负载情况分配选取的流量。在服务集群已承接流量的情况下，各个服务器可能具有不同的负载情况，本实施例可以基于服务集群中服务器的负载情况分配选取的流量，可以使流量得到合理分配。

与前述切换流量的方法的实施例相对应，本说明书还提供了切换流量的装置及其所应用的服务器的实施例。

本说明书切换流量的装置的实施例可以应用在服务器上。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在切换流量的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图3所示，为本说明书切换流量的装置所在服务器的一种硬件结构图，除了图3所示的处理器310、内存330、网络接口320、以及非易失性存储器340之外，实施例中装置331所在的服务器，通常根据该服务器的实际功能，还可以包括其他硬件，对此不再赘述。

如图4所示，图4是本说明书根据一示例性实施例示出的一种切换流量的装置，所述装置应用于服务器，所述服务器用于承接流量，并分配流量给业务模块，所述装置包括：

指令获取模块41，用于：获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

切换模块42，用于：按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长。

可选的，所述设定策略还包括：

所述目标比例增长的时间间隔为设定值。

可选的，所述设定策略还包括：

所述目标比例的增长幅度为设定值。

可选的，所述设定策略还包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。

可选的，所述目的业务模块运行于未承接流量的服务集群，所述设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器。

可选的，所述目的业务模块运行于已承接流量的服务集群，所述设定策略还包括：基于服务集群中服务器的负载情况分配选取的流量。

根据本说明书实施例的第三方面，提供一种服务器，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：

获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长。

上述切换流量的装置中各个模块的功能和作用的实现过程具体详见上述切换流量的方法中对应步骤的实现过程，在此不再赘述。

对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本说明书方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

本领域技术人员在考虑说明书及实践这里申请的发明后，将容易想到本说明书的其它实施方案。本说明书旨在涵盖本说明书的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本说明书的一般性原理并包括本说明书未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本说明书的真正范围和精神由下面的权利要求指出。

应当理解的是，本说明书并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本说明书的范围仅由所附的权利要求来限制。

以上所述仅为本说明书的较佳实施例而已，并不用以限制本说明书，凡在本说明书的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书保护的范围之内。

Claims (13)

1.一种切换流量的方法，所述方法应用于服务器集群中的服务器，所述服务器集群中的服务器包括有至少两个业务模块，所述服务器用于承接流量，并分配流量给业务模块，所述方法用于将处于不稳定状态的源业务模块的流量全部切换至目的业务模块，所述方法包括：

获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长，直至所述源业务模块的流量全部切换至目的业务模块。

2.根据权利要求1所述的方法，所述设定策略还包括：

所述目标比例增长的时间间隔为设定值。

3.根据权利要求1所述的方法，所述设定策略还包括：

所述目标比例的增长幅度为设定值。

4.根据权利要求1所述的方法，所述设定策略还包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。

5.根据权利要求1所述的方法，所述目的业务模块运行于未承接流量的服务集群，所述设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器。

6.根据权利要求1所述的方法，所述目的业务模块运行于已承接流量的服务集群，所述设定策略还包括：基于服务集群中服务器的负载情况分配选取的流量。

7.一种切换流量的装置，所述装置应用于服务器集群中的服务器，所述服务器集群中的服务器包括有至少两个业务模块，所述服务器用于承接流量，并分配流量给业务模块，所述装置用于将处于不稳定状态的源业务模块的流量全部切换至目的业务模块，所述装置包括：

指令获取模块，用于：获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

切换模块，用于：按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长，直至所述源业务模块的流量全部切换至目的业务模块。

8.根据权利要求7所述的装置，所述设定策略还包括：

所述目标比例增长的时间间隔为设定值。

9.根据权利要求7所述的装置，所述设定策略还包括：

所述目标比例的增长幅度为设定值。

10.根据权利要求7所述的装置，所述设定策略还包括：选取目标比例的流量的方式包括：随机选取或基于处理请求的优先级选取。

11.根据权利要求7所述的装置，所述目的业务模块运行于未承接流量的服务集群，所述设定策略还包括：将选取的流量平均分配给所述服务集群中的服务器。

12.根据权利要求7所述的装置，所述目的业务模块运行于已承接流量的服务集群，所述设定策略还包括：基于服务集群中服务器的负载情况分配选取的流量。

13.一种切换流量的服务器，所述服务器是服务器集群中的服务器，所述服务器集群中的服务器包括有至少两个业务模块，所述服务器用于将处于不稳定状态的源业务模块的流量全部切换至目的业务模块，所述服务器包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为：

获取切换指令，所述切换指令携带源业务模块标识和目的业务模块标识；

按照设定策略，从分配给源业务模块的流量中选取目标比例的流量切换至目的业务模块；所述设定策略包括：所述目标比例随时间推移而增长，直至所述源业务模块的流量全部切换至目的业务模块。

Images