CN111385328B - 业务请求的处理方法、系统及电子设备 - Google Patents

业务请求的处理方法、系统及电子设备 Download PDF

Info

Publication number
CN111385328B
CN111385328B CN201811632890.2A CN201811632890A CN111385328B CN 111385328 B CN111385328 B CN 111385328B CN 201811632890 A CN201811632890 A CN 201811632890A CN 111385328 B CN111385328 B CN 111385328B
Authority
CN
China
Prior art keywords
service
service node
traffic
node
transferred
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811632890.2A
Other languages
English (en)
Other versions
CN111385328A (zh
Inventor
刘川
贾超峰
黄莹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
3600 Technology Group Co ltd
Original Assignee
3600 Technology Group Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 3600 Technology Group Co ltd filed Critical 3600 Technology Group Co ltd
Priority to CN201811632890.2A priority Critical patent/CN111385328B/zh
Publication of CN111385328A publication Critical patent/CN111385328A/zh
Application granted granted Critical
Publication of CN111385328B publication Critical patent/CN111385328B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00—Network arrangements, protocols or services for addressing or naming
    • H04L61/45—Network directories; Name-to-address mapping
    • H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
    • H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种业务请求的处理方法、系统及电子设备，方法包括：监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；若是，则向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。该方式通过对第一服务节点的业务量信息进行监控，当业务量信息满足业务转移条件时，则将第一服务节点的一些业务量请求转移给第二服务节点进行处理，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。

Description

业务请求的处理方法、系统及电子设备
技术领域
本发明涉及互联网技术领域，具体涉及一种业务请求的处理方法、系统及电子设备。
背景技术
在海量服务的后台开发中，经常会遇到业务过载的情况，业务过载也就是当前负载已经超过了系统的最大处理能力。造成业务过载的原因有很多，常见的有业务请求突增，例如，服务节点每秒能够处理的业务请求是100个，但业务请求量突然大幅度增加，实际上每秒的业务请求1000个，服务节点出现了业务过载。业务过载情况的出现，会导致服务卡顿甚至服务完全不可用，从而影响用户的使用体验。
目前，针对服务节点的过载保护方法有很多，其中，负载均衡的方式通过将业务请求量进行分流，以减少单个服务节点的业务请求量，从而控制服务节点的带宽，是一种能够有效防止服务节点业务过载的方法。
但是，发明人在实现本发明的过程中发现，现有技术中的过载保护方法通常是在业务请求的分发操作之前执行，对于已经分发至各个服务节点的业务请求则无法实施过载保护策略。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的业务请求的处理方法、系统及电子设备。
根据本发明的一个方面，提供了一种业务请求的处理方法，包括：
监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；
若是，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
可选地，判断业务量信息是否满足预设的业务转移条件具体包括：
根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；
若是，确定业务量信息满足预设的业务转移条件。
可选地，根据业务量信息确定第一服务节点的当前业务峰值具体包括：
根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；
按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。
可选地，按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值具体包括：
按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。
可选地，第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点具体包括：
第一服务节点根据业务转移指令中包含的指令参数信息和/或第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
第一服务节点根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。
可选地，第一服务节点根据业务转移指令中包含的第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量进一步包括：
第一服务节点根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。
可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。
可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。
可选地，第一服务节点为CDN节点，并且业务请求包括域名解析请求。
根据本发明的另一方面，提供了一种业务请求的处理系统，包括：服务代理装置以及第一服务节点；其中，服务代理装置包括：监控模块、判断模块以及发送模块；
监控模块，适于监控第一服务节点的业务量信息；
判断模块，适于判断业务量信息是否满足预设的业务转移条件；
发送模块，适于若业务量信息满足预设的业务转移条件，向第一服务节点发送业务转移指令；
第一服务节点，适于根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
可选地，判断模块进一步适于：
根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；
若是，确定业务量信息满足预设的业务转移条件。
可选地，判断模块进一步适于：
根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；
按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。
可选地，判断模块进一步适于：
按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。
可选地，第一服务节点进一步适于：根据业务转移指令中包含的指令参数信息和/或第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。
可选地，第一服务节点进一步用于：
根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。
可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。
可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。
可选地，第一服务节点为CDN节点，并且业务请求包括域名解析请求。
根据本发明的又一方面，提供了一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行上述业务请求的处理方法对应的操作。
根据本发明的再一方面，提供了一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如上述业务请求的处理方法对应的操作。
根本发明所提供的业务请求的处理方法、系统及电子设备，方法包括：监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；若是，则向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。该方式通过对第一服务节点的业务量信息进行监控，当业务量信息满足业务转移条件时，则将第一服务节点的一些业务量请求转移给第二服务节点进行处理，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。该方式能够在业务请求的分发操作之后，针对已经分发至各个服务节点的业务请求实施过载保护。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了根据本发明一个实施例的业务请求的处理方法的流程示意图；
图2示出了根据本发明另一个实施例的业务请求的处理方法的流程示意图；
图3示出了根据本发明又一个实施例的业务请求的处理系统的结构示意图。
图4示出了根据本发明实施例的一种电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的业务请求的处理方法的流程示意图，本实施的执行主体具体为预设的代理服务器，当然，本发明的方案并不以此为限。如图1所示，该方法包括：
步骤S101，监控第一服务节点的业务量信息。
过载保护方法中一个重要环节就是对服务节点的业务量进行实时地监控，以便根据监控得到的业务量信息判断服务节点是否或者可能会出现业务过载的情况。监控第一服务节点的业务量信息是一个持续执行的步骤。
其中，第一服务节点的业务量信息可以是接收的业务请求的数量信息、网络带宽信息、网络流量信息和/或其他能够评估第一服务节点的负载情况的业务量信息，本发明对业务量信息的具体内涵不做限定。
步骤S102，判断业务量信息是否满足预设的业务转移条件；若是，则执行步骤S103；若否，则跳转执行步骤S101。
判断业务量信息是否满足预设的业务转移条件，若满足，则启动过载保护策略；若不满足，则继续对第一服务节点的业务量信息进行监控。其中，预设的业务转移条件可以是针对业务请求的数量的限制条件，也可以是针对网络带宽的限制条件、或者也可以是针对业务请求的流量预估值的条件。总之，若业务量信息满足预设的业务转移条件，则表明第一服务节点可能或者已经出现业务过载的情况，因此，本领域技术人员可以根据实际需要设置预设的业务转移条件。
例如，根据第一服务节点接收到的业务请求的数量进行判断，当第一服务节点接收到的业务请求的数量超过了预设数量阈值的时候，则判定业务量信息满足预设的业务转移条件；或者当服务节点的带宽值超过了预设带宽阈值的时候，则判定业务量信息满足预设的业务转移条件。
步骤S103，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
当代理服务器判断出业务量信息满足预设的业务转移条件，则需要将第一服务节点的一些业务请求转移到其他节点进行处理，以减少第一服务节点处理的业务请求，防止业务过载。具体地，代理服务器向第一服务节点发送业务转移指令，第一服务节点根据业务转移指令确定待转移的业务请求，并将待转移的业务请求转移至第二服务节点，由第二服务节点对接收到的待转移的业务请求进行处理。
由此可知，根据本实施例所提供的业务请求的处理方法，监控第一服务节点的业务量信息，然后判断业务量信息是否满足预设的业务转移条件，若是，则向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。该方式通过对第一服务节点的业务量信息进行监控，当业务量信息满足业务转移条件时，则将第一服务节点的一些业务量请求转移给第二服务节点进行处理，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。该方式能够在业务请求的分发操作之后，针对已经分发至各个服务节点的业务请求实施过载保护。
图2示出了根据本发明另一个实施例的业务请求的处理方法的流程示意图，如图2所示，该方法包括：
步骤S201，监控第一服务节点的业务量信息。
实时地监控第一服务节点的业务量信息，例如业务请求的数量信息，网络流量信息和/或网络带宽信息等等，总之，业务量信息能够表示第一服务节点的负载情况，本发明对业务量信息的具体内涵不做限定。
步骤S202，根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值。
本实施例中，预设的业务转移条件具体是针对于业务量峰值的限制条件，因此，需要根据监控得到的第一服务节点的业务量信息确定当前业务量峰值。
首先，根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值。其中，与当前时间点相对应的预设周期具体指的是与当前时间相邻并且在当前时间之前的一个时间段，预设周期的长度以及预设周期内的多个时间点均可以根据实际需要进行设置。举例来说，设置预设周期的长度为6分钟，每相邻两个时间点之间的时间间隔1分钟或者2分钟，那么，与当前时间相对应的预设周期也就是当前时间之前的6分钟这个时间段。在此情况下，监控第一服务节点的业务量信息的步骤具体为：每隔一分钟采集第一服务节点的业务量数值。
步骤S203，按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。
例如，对多个时间点所对应的业务量数值求平均值，或者求取多个时间点所对应的业务量数值的中位数等等，总之，当前业务量峰值能够准确地表示第一服务节点当前的负载情况。
可选地，步骤S203具体可以包括：按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。首先对各个时间点所对应的业务量数值进行排序，按照业务量数值的大小进行升序排列或者降序排列，排序之后的各个业务量数值的中位值就是第一服务节点的当前业务量峰值。其中，优选的方案为按照业务量数值的大小进行升序排列，根据升序排列所确定的中位值的准确性更高，与第一服务节点当前的负载情况更加吻合。
步骤S204，判断当前业务峰值是否达到预设峰值阈值；若是，则执行步骤S205；若否，则跳转执行步骤S201。
其中，预设峰值阈值是一个可调的数值，可根据实际需要进行调整。若当前业务峰值达到预设峰值阈值，则表明第一服务节点的业务量信息满足预设的业务转移条件，则执行步骤S205，对第一服务节点的业务请求进行转移；若当前业务峰值未达到预设峰值阈值，则继续监控第一服务节点的业务量信息。
步骤S205，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
向第一服务节点发送业务转移指令，第一服务节点根据接收到的业务转移指令确定待转移的业务请求，第一服务节点将待转移的业务请求转移至第二服务节点。其中，确定待转移的业务请求包括两个层面的任务，第一：确定待转移的业务请求的数量，举例来说，第一服务节点所对应的请求有1000个，而第一服务节点每秒能够处理的请求为100个，若仅将200个业务请求转移出去，第一服务节点的负载压力还是很大，因此，需要确定一个合理的待转移的业务请求的数量；第二：确定具体将那些业务请求转移出去，例如，按照各个业务请求的请求时间将距离当前时间最近或者最远的预设数量的业务请求转移出去。
本实施例中，确定待转移的业务请求的数量具体可以包括以下两种实施方式：
第一种方式：第一服务节点根据业务转移指令中包含的指令参数信息，确定待转移的业务请求的数量。其中，指令参数信息具体可以是当前业务量峰值，例如，当前网络流量或者网络带宽的峰值。
第二种方式：第一服务节点根据业务转移指令中包含的第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量。可选地，第一服务节点根据对应的业务请求的总量以及预设百分比，确定待转移的业务请求的数量。
其中，预设百分比是可调的，实时地根据第一服务节点的负载情况进行调节，例如，若业务请求的总量较大，则可以将预设百分比设置得较大。进一步地，为了更加准确地进行负载均衡，还可以根据第一服务节点所对应的各个业务请求的业务量预估值确定预设百分比，当每一个业务请求的业务量预估值都能够明确时，那么就能够确定各个业务请求的业务量总和具体超出第一服务节点能够负载的业务量的程度，则可以根据超出的部分确定待转移的业务请求的数量占第一服务节点所对应的业务请求的总量的比例。
其中，业务请求的业务量预估值具体指的是业务请求能够产生的数据量。业务量预估值可以根据历史数据进行预测，举例来说，针对同一域名，获取历史数据中不同时期该域名所对应的资源的数据量，求取中位数或者平均数得到该域名的业务量预估值。当然，本发明对此不做限定。
上述两种方式的都是根据第一服务节点当前的负载情况确定待转移的业务请求的数量，具体实施时，可单独采取上述两种方式中的一种来确定待转移的业务请求的数量，或者结合上述两种方式来确定待转移的业务请求的数量，本发明对此不做限定。
在确定了待转移的业务请求的数量之后，则需要确定具体将那些业务请求转移到第二服务节点。具体地，第一服务节点根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。可选地，待转移的业务请求根据业务请求的接收时间确定，例如，按照时间先后顺序，将先接收的还未处理的20％的业务请求确定为待转移的业务请求，或者将后接收的20％的业务请求确定为待转移的业务请求。进一步可选地，待转移的业务请求根据业务请求的业务量预估值确定，例如，按照业务量预估值从大到小的排列规则对各个业务请求排序，将业务量预估值排在前20％的业务请求确定为待转移的业务请求。
实际应用中，还可以对每一个资源能够占用的网络资源进行限制，假如一个资源占用的网络资源超过了一定的阈值，则把该资源的业务请求转移给第二服务节点，当然，本发明的方案并不以此为限。
其中，第一服务节点向客户端返回重定向协议，客户端根据协议去访问第二服务节点，从而达到将待转移的业务转移至第二服务节点的效果。例如，向待转移的业务请求对应的客户端返回http协议中的302状态码，302状态码中写第二服务节点的IP地址，浏览器在接收到302状态码时，提取第二服务节点的IP地址，向第二服务节点的IP地址发起业务请求。
另外，本实施例的方法可应用于CDN调度系统中，那么第一服务节点具体为CDN节点，第一服务节点的业务请求具体为域名解析请求。
由此可知，本实施例的方法通过实时地监控第一服务节点的业务量信息，并实时根据监控到的业务量信息确定当前业务量峰值，能够更加准确地评估第一服务节点的负载压力，并且当判定出业务量信息满足业务转移条件时，启动业务转移策略对业务请求进行转移，结合多方面因素确定待转移的业务请求，通过上述方式提升业务均衡的准确性，减少第一服务节点需要处理的业务请求量，通过对业务进行分流达到控制第一服务节点的带宽的效果，能够避免突增的业务请求对第一服务节点的强烈冲击，从而保证第一服务节点始终能够正常提供服务。
图3示出了根据本发明又一个实施例的业务请求的处理系统的结构示意图，如图3所示，该系统包括：服务代理装置31以及第一服务节点32；其中，服务代理装置31包括：监控模块311、判断模块312以及发送模块313；
监控模块311，适于监控第一服务节点的业务量信息；
判断模块312，适于判断业务量信息是否满足预设的业务转移条件；
发送模块313，适于若业务量信息满足预设的业务转移条件，向第一服务节点发送业务转移指令；
第一服务节点32，适于根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
可选地，判断模块312进一步适于：
根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；
若是，确定业务量信息满足预设的业务转移条件。
可选地，判断模块311进一步适于：
根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；
按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。
可选地，判断模块311进一步适于：
按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点32的当前业务量峰值。
可选地，第一服务节点32进一步适于：根据业务转移指令中包含的指令参数信息和/或第一服务节点32所对应的业务请求的总量，确定待转移的业务请求的数量；根据第一服务节点32所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。
可选地，第一服务节点32进一步用于：
根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。
可选地，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。
可选地，业务量信息具体包括：网络流量信息和/或网络带宽信息。
可选地，第一服务节点32为CDN节点，并且业务请求包括域名解析请求。
上述各个模块的具体结构和工作原理可参照方法实施例中相应步骤的描述，此处不再赘述。
本申请实施例提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的业务请求的处理方法。
图4示出了根据本发明实施例的一种电子设备的结构示意图，本发明具体实施例并不对电子设备的具体实现做限定。
如图4所示，该电子设备可以包括：处理器(processor)402、通信接口(Communications Interface)404、存储器(memory)406、以及通信总线408。
其中：
处理器402、通信接口404、以及存储器406通过通信总线408完成相互间的通信。
通信接口404，用于与其它设备比如客户端或其它服务器等的网元通信。
处理器402，用于执行程序410，具体可以执行上述业务请求的处理方法实施例中的相关步骤。
具体地，程序410可以包括程序代码，该程序代码包括计算机操作指令。
处理器402可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。电子设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器406，用于存放程序410。存储器406可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序410具体可以用于使得处理器402执行以下操作：
监控第一服务节点的业务量信息，判断业务量信息是否满足预设的业务转移条件；
若是，向第一服务节点发送业务转移指令，以供第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点。
在一种可选的方式中，程序410具体可以进一步用于使得处理器402执行以下操作：
根据业务量信息确定第一服务节点的当前业务峰值，判断当前业务峰值是否达到预设峰值阈值；
若是，确定业务量信息满足预设的业务转移条件。
在一种可选的方式中，程序410具体可以进一步用于使得处理器402执行以下操作：
根据业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；
按照预设处理规则对多个时间点所对应的业务量数值进行处理，得到第一服务节点的当前业务量峰值。
在一种可选的方式中，程序410具体可以进一步用于使得处理器402执行以下操作：
按照预设排序规则对各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到第一服务节点的当前业务量峰值。
在一种可选的方式中，程序410具体可以进一步用于使得处理器402执行以下操作：
第一服务节点根据业务转移指令中包含的指令参数信息和/或第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
第一服务节点根据第一服务节点所对应的业务请求以及待转移的业务请求的数量确定待转移的业务请求，将待转移的业务请求转移至第二服务节点。
在一种可选的方式中，程序410具体可以进一步用于使得处理器402执行以下操作：
第一服务节点根据预设百分比以及第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，预设百分比根据第一服务节点所对应的各个业务请求的业务量预估值确定。
在一种可选的方式中，待转移的业务请求根据业务请求的接收时间确定；和/或，待转移的业务请求根据业务请求的业务量预估值确定。
在一种可选的方式中，业务量信息具体包括：网络流量信息和/或网络带宽信息。
在一种可选的方式中，第一服务节点为CDN节点，并且业务请求包括域名解析请求。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的电子设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (14)

1.一种业务请求的处理方法，包括：
监控第一服务节点的业务量信息，判断所述业务量信息是否满足预设的业务转移条件；
若是，向所述第一服务节点发送业务转移指令，以供所述第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点；
所述判断所述业务量信息是否满足预设的业务转移条件，包括：
根据所述业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；
按照预设排序规则对所述各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到所述第一服务节点的当前业务量峰值；
判断所述当前业务量峰值是否达到预设峰值阈值；
若所述当前业务量峰值达到预设峰值阈值，确定所述业务量信息满足预设的业务转移条件；
若所述当前业务量峰值未达到预设峰值阈值，则继续监控所述第一服务节点的业务量信息。
2.根据权利要求1所述的方法，其中，所述第一服务节点根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点具体包括：
所述第一服务节点根据所述业务转移指令中包含的指令参数信息和/或所述第一服务节点所对应的业务请求的总量，确定所述待转移的业务请求的数量；
所述第一服务节点根据所述第一服务节点所对应的业务请求以及所述待转移的业务请求的数量确定待转移的业务请求，将所述待转移的业务请求转移至第二服务节点。
3.根据权利要求2所述的方法，其中，所述第一服务节点根据所述业务转移指令中包含的所述第一服务节点所对应的业务请求的总量，确定所述待转移的业务请求的数量进一步包括：
第一服务节点根据预设百分比以及所述第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，所述预设百分比根据所述第一服务节点所对应的各个业务请求的业务量预估值确定。
4.根据权利要求2所述的方法，其中，所述待转移的业务请求根据业务请求的接收时间确定；和/或，所述待转移的业务请求根据业务请求的业务量预估值确定。
5.根据权利要求1所述的方法，其中，所述业务量信息具体包括：网络流量信息和/或网络带宽信息。
6.根据权利要求1所述的方法，其中，所述第一服务节点为CDN节点，并且所述业务请求包括域名解析请求。
7.一种业务请求的处理系统，包括：服务代理装置以及第一服务节点；其中，所述服务代理装置包括：监控模块、判断模块以及发送模块；
所述监控模块，适于监控第一服务节点的业务量信息；
所述判断模块，适于判断所述业务量信息是否满足预设的业务转移条件；
所述发送模块，适于若所述业务量信息满足预设的业务转移条件，向所述第一服务节点发送业务转移指令；
所述第一服务节点，适于根据接收到的业务转移指令将待转移的业务请求转移至第二服务节点；
所述判断模块，还适于根据所述业务量信息，确定与当前时间相对应的预设周期内的多个时间点所对应的业务量数值；按照预设排序规则对所述各个时间点所对应的业务量数值进行排序处理，确定排序之后的各个业务量数值的中位值，得到所述第一服务节点的当前业务量峰值；判断所述当前业务量峰值是否达到预设峰值阈值；若所述当前业务量峰值达到预设峰值阈值，确定所述业务量信息满足预设的业务转移条件；若所述当前业务量峰值未达到预设峰值阈值，则继续监控所述第一服务节点的业务量信息。
8.根据权利要求7所述的系统，其中，所述第一服务节点进一步适于：根据所述业务转移指令中包含的指令参数信息和/或所述第一服务节点所对应的业务请求的总量，确定所述待转移的业务请求的数量；
根据所述第一服务节点所对应的业务请求以及所述待转移的业务请求的数量确定待转移的业务请求，将所述待转移的业务请求转移至第二服务节点。
9.根据权利要求8所述的系统，其中，所述第一服务节点进一步用于：
根据预设百分比以及所述第一服务节点所对应的业务请求的总量，确定待转移的业务请求的数量；
其中，所述预设百分比根据所述第一服务节点所对应的各个业务请求的业务量预估值确定。
10.根据权利要求8所述的系统，其中，所述待转移的业务请求根据业务请求的接收时间确定；和/或，所述待转移的业务请求根据业务请求的业务量预估值确定。
11.根据权利要求7所述的系统，其中，所述业务量信息具体包括：网络流量信息和/或网络带宽信息。
12.根据权利要求7所述的系统，其中，所述第一服务节点为CDN节点，并且所述业务请求包括域名解析请求。
13.一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-6中任一项所述的业务请求的处理方法对应的操作。
14.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-6中任一项所述的业务请求的处理方法对应的操作。
CN201811632890.2A 2018-12-29 2018-12-29 业务请求的处理方法、系统及电子设备 Active CN111385328B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811632890.2A CN111385328B (zh) 2018-12-29 2018-12-29 业务请求的处理方法、系统及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811632890.2A CN111385328B (zh) 2018-12-29 2018-12-29 业务请求的处理方法、系统及电子设备

Publications (2)

Publication Number Publication Date
CN111385328A CN111385328A (zh) 2020-07-07
CN111385328B true CN111385328B (zh) 2024-04-05

Family

ID=71220882

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811632890.2A Active CN111385328B (zh) 2018-12-29 2018-12-29 业务请求的处理方法、系统及电子设备

Country Status (1)

Country Link
CN (1) CN111385328B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113329053B (zh) * 2021-04-26 2022-06-10 国网浙江省电力有限公司嘉兴供电公司 一种基于电力业务特征的5g网络虚拟映射方法及装置
CN113190274B (zh) * 2021-05-08 2022-09-27 杭州网易云音乐科技有限公司 节点处理方法及系统、节点、介质、计算设备
CN113467910B (zh) * 2021-06-30 2024-05-28 乐视云网络技术(北京)有限公司 基于业务等级的过载保护调度方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6419855A (en) * 1987-06-10 1989-01-23 Hitachi Ltd Variable routing system
US6381649B1 (en) * 1999-02-05 2002-04-30 Pluris, Inc. Data flow monitoring at a network node using periodically incremented counters for comparison to predetermined data flow thresholds
CN101442435A (zh) * 2008-12-25 2009-05-27 华为技术有限公司 分布式系统的业务数据管理方法、装置及分布式系统
CN103078933A (zh) * 2012-12-29 2013-05-01 深圳先进技术研究院 一种确定数据迁移时机的方法和装置
CN105025105A (zh) * 2015-07-27 2015-11-04 广州华多网络科技有限公司 请求处理方法和装置
CN105557011A (zh) * 2013-07-03 2016-05-04 中兴通讯股份有限公司 一种应用于蜂窝系统的多基站协同方法、系统和基站
CN105959405A (zh) * 2016-06-24 2016-09-21 北京兰云科技有限公司 Cdn视频调度系统、方法以及cdn调度服务器和客户端
CN107196865A (zh) * 2017-06-08 2017-09-22 中国民航大学 一种负载感知的自适应阈值过载迁移方法
CN107291752A (zh) * 2016-04-01 2017-10-24 中国电信股份有限公司 基于业务感知的数据迁移控制方法和系统
CN107872402A (zh) * 2017-11-15 2018-04-03 北京奇艺世纪科技有限公司 全局流量调度的方法、装置及电子设备
CN108921333A (zh) * 2016-11-25 2018-11-30 口碑(上海)信息技术有限公司 一种业务量的预测方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8751627B2 (en) * 2009-05-05 2014-06-10 Accenture Global Services Limited Method and system for application migration in a cloud

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6419855A (en) * 1987-06-10 1989-01-23 Hitachi Ltd Variable routing system
US6381649B1 (en) * 1999-02-05 2002-04-30 Pluris, Inc. Data flow monitoring at a network node using periodically incremented counters for comparison to predetermined data flow thresholds
CN101442435A (zh) * 2008-12-25 2009-05-27 华为技术有限公司 分布式系统的业务数据管理方法、装置及分布式系统
CN103078933A (zh) * 2012-12-29 2013-05-01 深圳先进技术研究院 一种确定数据迁移时机的方法和装置
CN105557011A (zh) * 2013-07-03 2016-05-04 中兴通讯股份有限公司 一种应用于蜂窝系统的多基站协同方法、系统和基站
CN105025105A (zh) * 2015-07-27 2015-11-04 广州华多网络科技有限公司 请求处理方法和装置
CN107291752A (zh) * 2016-04-01 2017-10-24 中国电信股份有限公司 基于业务感知的数据迁移控制方法和系统
CN105959405A (zh) * 2016-06-24 2016-09-21 北京兰云科技有限公司 Cdn视频调度系统、方法以及cdn调度服务器和客户端
CN108921333A (zh) * 2016-11-25 2018-11-30 口碑(上海)信息技术有限公司 一种业务量的预测方法及装置
CN107196865A (zh) * 2017-06-08 2017-09-22 中国民航大学 一种负载感知的自适应阈值过载迁移方法
CN107872402A (zh) * 2017-11-15 2018-04-03 北京奇艺世纪科技有限公司 全局流量调度的方法、装置及电子设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
EcoFlow: An Economical and Deadline-Driven Inter-Datacenter Video Flow Scheduling System;Lin, Yuhua;2015 IEEE 35th International Conference on Distributed Computing Systems;20160913;全文 *
STLBM:一种基于服务自主迁移的网格负载均衡模型;郑金娥;杜乐;尚世锋;杨广文;;微计算机应用(05);全文 *
一种WDM网状网中基于故障感知的业务量疏导算法;王冕;刘成耀;;重庆文理学院学报(自然科学版);20100418(02);全文 *

Also Published As

Publication number Publication date
CN111385328A (zh) 2020-07-07

Similar Documents

Publication Publication Date Title
CN111385328B (zh) 业务请求的处理方法、系统及电子设备
US10404790B2 (en) HTTP scheduling system and method of content delivery network
US8103774B2 (en) System and method for load-balancing in a resource infrastructure running application programs
US7523454B2 (en) Apparatus and method for routing a transaction to a partitioned server
CN103179217B (zh) 一种用于web应用服务器群组的负载均衡方法和装置
US20130268678A1 (en) Method and Apparatus for Facilitating Fulfillment of Requests on a Communication Network
CN111432247B (zh) 流量调度方法、装置、服务器及存储介质
WO2017101366A1 (zh) Cdn服务节点的调度方法及服务器
CN112866394B (zh) 一种负载均衡方法、装置、系统、计算机设备和存储介质
CN104639645A (zh) 网络负载均衡方法、装置及集群服务系统
CN111030945B (zh) 容灾方法、容灾网关、存储介质、装置以及系统
CN110769040B (zh) 一种访问请求的处理方法、装置、设备及存储介质
CN104426694A (zh) 一种调整虚拟机资源的方法和装置
CN105847377A (zh) 集群网络的请求拥塞过载处理方法及系统
CN115086331A (zh) 云设备调度方法、装置及系统、电子设备及存储介质
CN116708450A (zh) 负载均衡方法、装置、电子设备及计算机可读存储介质
CN108111567A (zh) 实现服务器负载均匀的方法及系统
CN107026899A (zh) 一种基于动态链接库的高效易用稳定的负载均衡服务器
Kontogiannis et al. ALBL: an adaptive load balancing algorithm for distributed web systems
CN107659511B (zh) 一种过载控制方法、主机和存储介质以及程序产品
CN112988405B (zh) 微服务自动降级方法、装置及计算设备
CN109445934B (zh) 查询请求的分配方法及系统
CN112118275B (zh) 过载处理方法、物联网平台及计算机可读存储介质
CN112887225B (zh) Epc网络中基于sp业务的流速控制方法及系统
CN115174479B (zh) 一种流量控制方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20240311

Address after: Room 03, 2nd Floor, Building A, No. 20 Haitai Avenue, Huayuan Industrial Zone (Huanwai), Binhai New Area, Tianjin, 300450

Applicant after: 3600 Technology Group Co.,Ltd.

Country or region after: China

Address before: 100088 room 112, block D, 28 new street, new street, Xicheng District, Beijing (Desheng Park)

Applicant before: BEIJING QIHOO TECHNOLOGY Co.,Ltd.

Country or region before: China

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant