JP6549538B2 - Congestion control apparatus and congestion control method - Google Patents
Congestion control apparatus and congestion control method Download PDFInfo
- Publication number
- JP6549538B2 JP6549538B2 JP2016162397A JP2016162397A JP6549538B2 JP 6549538 B2 JP6549538 B2 JP 6549538B2 JP 2016162397 A JP2016162397 A JP 2016162397A JP 2016162397 A JP2016162397 A JP 2016162397A JP 6549538 B2 JP6549538 B2 JP 6549538B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual servers
- congestion control
- resource usage
- virtual
- new calls
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Description
本発明は、仮想化構成のサーバにおいて輻輳を制御する技術に関する。 The present invention relates to a technique for controlling congestion in a server of a virtualization configuration.
呼制御処理を行う音声通信サーバには、輻輳によりサーバ負荷が増加した際に、リソース不足による性能劣化を防止するための輻輳制御が組み込まれている。迅速に輻輳を検出して新規呼の受信を一時的に規制することで、輻輳を沈静化し、大規模障害を回避できる。 A voice communication server that performs call control processing incorporates congestion control for preventing performance degradation due to lack of resources when server load increases due to congestion. By quickly detecting congestion and temporarily restricting the reception of new calls, it is possible to calm down congestion and avoid large-scale failures.
従来、音声通信サーバは1つのハードウェア上で1つのアプリケーションを動作させて構成していた。1つのハードウェアに対し1つのアプリケーションを動作させる構成における輻輳制御は、図5に示すように、ハードウェア性能の限界値に基づいてCPU使用率の上限値を設定しておき、CPU使用率が上限値に到達または近づいた際、新規呼の受信を破棄する規制制御を行う。 Conventionally, a voice communication server is configured by operating one application on one hardware. As shown in FIG. 5, in congestion control in a configuration in which one application is operated for one hardware, the upper limit value of the CPU utilization is set based on the limit value of the hardware performance, and the CPU utilization is When the upper limit is reached or approached, restriction control is performed to discard the reception of a new call.
近年、仮想化技術の浸透により、1つのハードウェア上で複数のアプリケーションを動作させる傾向にある。 In recent years, with the penetration of virtualization technology, there is a tendency to operate multiple applications on one hardware.
1つのハードウェア(物理サーバ)上で複数のアプリケーション(仮想サーバ)を動作させる仮想化構成における輻輳制御としては、仮想サーバ単位でリソース消費量を管理する方法と、仮想サーバのリソース消費量を合計して管理する方法が考えられる。 As congestion control in a virtualization configuration in which multiple applications (virtual servers) are operated on one hardware (physical server), a method of managing resource consumption in units of virtual servers, and total resource consumption of virtual servers Can be managed.
仮想サーバ単位でリソース消費量を管理する方法では、図6に示すように、仮想サーバA,Bのそれぞれに個別のハードウェア性能限界を設定する。そして、仮想サーバA,BのそれぞれでCPU使用率がハードウェア性能限界に達したか否かを判定し、CPU使用率がハードウェア性能限界に達した仮想サーバAは規制制御を行って新規呼を受信しない。CPU使用率がハードウェア性能限界に達していない仮想サーバBは規制制御を行わない。 In the method of managing resource consumption on a per virtual server basis, as shown in FIG. 6, individual hardware performance limits are set for each of the virtual servers A and B. Then, each of the virtual servers A and B determines whether the CPU utilization has reached the hardware performance limit, and the virtual server A having the CPU utilization reaching the hardware performance limit performs restriction control and performs a new call. Do not receive The virtual server B whose CPU utilization has not reached the hardware performance limit does not perform restriction control.
仮想サーバのリソース消費量を合計して管理する方法では、図7に示すように、複数の仮想サーバA,Bでハードウェア性能限界を共有する。仮想サーバそれぞれのCPU使用率を合計した値がハードウェア性能限界に達したか否かを判定し、CPU使用率の合計値がハードウェア性能限界に達した場合は、いずれの仮想サーバも規制制御を行って新規呼を受信しない。 In the method of totalizing and managing the resource consumption of the virtual server, as shown in FIG. 7, a plurality of virtual servers A and B share the hardware performance limit. It is determined whether the value obtained by totaling the CPU utilization of each virtual server has reached the hardware performance limit, and if the total value of the CPU utilization has reached the hardware performance limit, any virtual server is also subjected to restriction control Do not receive new calls.
しかしながら、上記の方法は、それぞれに課題が存在する。 However, each of the methods described above has a problem.
仮想サーバ単位でリソース消費量を管理する方法では、物理サーバのリソースには余力が存在するにもかかわらず、仮想サーバAは新規呼を受信しない規制が発生してしまう。そのため、物理サーバトータルでの性能を最大限に活かすことができないという問題があった。 In the method of managing resource consumption on a per virtual server basis, although there is a surplus of resources of the physical server, the virtual server A is restricted from receiving new calls. Therefore, there is a problem that it is not possible to make the best use of the total performance of physical servers.
仮想サーバのリソース消費量を合計して管理する方法では、一方の仮想サーバAのCPU使用率が大きくなると他方の仮想サーバBで使用できるリソースの上限が低くなり、仮想サーバA,B間での均衡性が損なわれるという問題があった。 In the method of managing the sum of resource consumption of virtual servers, when the CPU utilization of one virtual server A increases, the upper limit of resources that can be used by the other virtual server B decreases, and the virtual server A and B have a lower upper limit. There was a problem that the balance was lost.
本発明は、上記に鑑みてなされたものであり、仮想化構成のサーバにおいてリソースの有効活用とリソースの均衡性を考慮して輻輳制御を行うことを目的とする。 The present invention has been made in view of the above, and it is an object of the present invention to perform congestion control in a server of a virtualization configuration in consideration of effective utilization of resources and balance of resources.
第1の本発明に係る輻輳制御装置は、仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御装置であって、前記複数の仮想サーバそれぞれのリソース使用量を取得する取得手段と、前記複数の仮想サーバのリソース使用量の合計値が第1閾値に達した場合、前記複数の仮想サーバのそれぞれのリソース使用量に基づいて前記複数の仮想サーバのそれぞれが受信する新規呼の数を規制する第1規制手段と、前記複数の仮想サーバのリソース使用量の合計値が第2閾値に達した場合、前記複数の仮想サーバのそれぞれが新規呼を受信しないように規制する第2規制手段と、を有することを特徴とする。 A congestion control apparatus according to a first aspect of the present invention is a congestion control apparatus for controlling congestion of a plurality of virtual servers operating in a virtualization configuration, and obtaining means for obtaining resource usage of each of the plurality of virtual servers The number of new calls received by each of the plurality of virtual servers based on the resource usage of each of the plurality of virtual servers when the total value of the resource usage of the plurality of virtual servers reaches a first threshold A second restriction unit that restricts each of the plurality of virtual servers not to receive a new call when the total value of the resource usage of the plurality of virtual servers reaches a second threshold. And means.
第2の本発明に係る輻輳制御方法は、仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御方法であって、前記複数の仮想サーバそれぞれのリソース使用量を取得するステップと、前記複数の仮想サーバのリソース使用量の合計値が第1閾値に達した場合、前記複数の仮想サーバのそれぞれのリソース使用量に基づいて前記複数の仮想サーバのそれぞれが受信する新規呼の数を規制するステップと、前記複数の仮想サーバのリソース使用量の合計値が第2閾値に達した場合、前記複数の仮想サーバのそれぞれが新規呼を受信しないように規制するステップと、を有することを特徴とする。 A congestion control method according to a second aspect of the present invention is a congestion control method for controlling congestion of a plurality of virtual servers operating in a virtualization configuration, and acquiring resource usage of each of the plurality of virtual servers; When the total value of the resource usage of the plurality of virtual servers reaches a first threshold, the number of new calls received by each of the plurality of virtual servers is determined based on the resource usage of each of the plurality of virtual servers Providing a restricting step, and restricting each of the plurality of virtual servers not to receive a new call when the total value of resource usage of the plurality of virtual servers reaches a second threshold. It features.
本発明によれば、仮想化構成のサーバにおいてリソースの有効活用とリソースの均衡性を考慮して輻輳制御を行うことができる。 According to the present invention, congestion control can be performed in consideration of effective utilization of resources and balance of resources in a server having a virtualization configuration.
以下、本発明の実施の形態について図面を用いて説明する。 Hereinafter, embodiments of the present invention will be described using the drawings.
図1は、本実施の形態における輻輳制御装置の構成を示す機能ブロック図である。図1に示す輻輳制御装置1は、仮想化部11、取得部12、及び規制部13を備える。
FIG. 1 is a functional block diagram showing a configuration of a congestion control device in the present embodiment. The congestion control device 1 illustrated in FIG. 1 includes a
仮想化部11は、仮想化技術を用いて、1つのハードウェア(物理サーバ)のリソースを共有して複数の仮想サーバA,Bを動作させる。本実施の形態の仮想サーバA,Bは、新規呼を受信して所定の呼処理を実行する呼処理サーバである。なお、図1では仮想サーバA,Bの2つのみを図示しているが、仮想化部11上で動作する仮想サーバA,Bの数を2台に限定するものではない。
The
取得部12は、仮想化部11で動作中の各仮想サーバA,Bによって使用されるリソース(CPU、メモリなど)の消費量あるいは各仮想サーバA,Bの負荷量を取得する。
The
規制部13は、仮想サーバA,Bのリソース消費量が所定の条件を満たすときに、各仮想サーバA,Bのリソース消費量に基づいて各仮想サーバA,Bの新規呼の受信を規制する。具体的には、仮想サーバA,Bのリソース消費量の合計値が所定のしきい値に満たない場合は規制を発動しない。仮想サーバA,Bのリソース消費量の合計値が所定のしきい値に達した場合は、仮想サーバA,Bのリソース消費量の比率に基づいて規制の度合いを調整し、物理サーバの性能限界に近づくほど仮想サーバA,B間でリソース消費量の均衡が取れるように、仮想サーバA,Bで新規呼を受信する数を規制する(1次規制)。仮想サーバA,Bのリソース消費量の合計値が物理サーバの性能限界に達した場合は、全ての仮想サーバA,Bで新規呼の受信を規制し、新規呼を受け付けない(2次規制)。なお、所定のしきい値は物理サーバの性能限界より低く設定する。
When the resource consumption of the virtual servers A and B satisfies a predetermined condition, the restricting
次に、本実施の形態における輻輳制御装置の処理の流れについて説明する。 Next, the flow of processing of the congestion control device in the present embodiment will be described.
図2は、本実施の形態における輻輳制御装置の処理の流れを示すフローチャートである。 FIG. 2 is a flowchart showing a flow of processing of the congestion control device in the present embodiment.
取得部12が各仮想サーバA,BのCPU使用率(リソース消費量)を取得し、規制部13は、仮想サーバA,BのCPU使用率の合計値がしきい値に達したか否かを判定する(ステップS11)。CPU使用率の合計値がしきい値に達していない場合は規制をしない(ステップS11のNo)。なお、ステップS11の判定方法として別の判定方法を用いてもよい。例えば、仮想サーバA,BのCPU使用率の比が所定の割合を超えたか否かを判定する。あるいは、仮想サーバA,BのいずれかのCPU使用率が所定の値(例えば50%)に達したか否かを判定する。
The
CPU使用率の合計値がしきい値に達した場合(ステップS11のYes)、規制部13は、仮想サーバA,B間でCPU使用率の均衡が取れるように1次規制を開始する(ステップS12)。
When the total value of the CPU utilization reaches the threshold (Yes in step S11), the
具体的な規制方法について図3,4を用いて説明する。図3は、CPU使用率の合計値がしきい値(図中の「規制動作発動閾値」)に達したときの仮想サーバA,BのCPU使用率を示す図である。図3に示すように、仮想サーバAのCPU使用率と仮想サーバBのCPU使用率の比率がM:Nであったとする。この場合、図4に示すように、規制部13は、単位時間あたりの仮想サーバAの新規呼の受信数と仮想サーバBの新規呼の受信数の比率がN:MつまりCPU使用率の逆数の比率となるように受信する新規呼の数を規制する。これにより、仮想サーバA,BのCPU使用率の比率は性能限界に近づくほど均衡が取れるようになる。なお、規制する方法は仮想サーバA,BのCPU使用率の均衡が取れるようになるものであればよい。
A specific control method will be described using FIGS. FIG. 3 is a diagram showing the CPU utilization of the virtual servers A and B when the total value of the CPU utilization reaches a threshold (“regulatory operation triggering threshold” in the drawing). As shown in FIG. 3, it is assumed that the ratio of the CPU utilization of virtual server A to the CPU utilization of virtual server B is M: N. In this case, as shown in FIG. 4, the
1次規制を開始後、規制部13は、仮想サーバA,BのCPU使用率の合計値が性能限界に達したか否かを判定する(ステップS13)。CPU使用率の合計値が性能限界に達していない場合は1次規制を続ける(ステップS13のNo)。
After starting the primary restriction, the
CPU使用率の合計値が性能限界に達した場合(ステップS13のYes)、規制部13は、仮想サーバA,Bで新規呼の受信を規制し、新規呼を受け付けない2次規制を開始する(ステップS14)。
If the total value of the CPU utilization reaches the performance limit (Yes in step S13), the restricting
その後、輻輳状態が解消し、CPU使用率の合計値が性能限界に満たなくなると、規制を徐々に解除する。具体的には、CPU使用率の合計値が性能限界に達していないが、所定のしきい値以上の場合は、2次規制から1次規制にする。CPU使用率の合計値が所定のしきい値に達しなくなると規制をしない。 After that, when the congestion state disappears and the total value of CPU utilization does not reach the performance limit, the restriction is gradually released. Specifically, if the total value of the CPU utilization has not reached the performance limit, but is equal to or greater than a predetermined threshold, the secondary regulation is changed to the primary regulation. There is no restriction when the total value of CPU utilization does not reach a predetermined threshold.
以上説明したように、本実施の形態によれば、仮想化部11上で動作する仮想サーバA,BのCPU使用率の合計値が所定のしきい値に達した場合は、仮想サーバA,Bそれぞれが単位時間あたりに受信する新規呼の数の比率が仮想サーバA,Bそれぞれのリソース使用量の逆数の比率となるように新規呼の受信数を規制し、仮想化部11上で動作する仮想サーバA,BのCPU使用率の合計値が物理サーバの性能限界に達した場合は、新規呼を受信しないように規制することにより、仮想サーバA,BのCPU使用率の均衡を取りつつ、物理サーバのリソースを有効活用することが可能となる。
As described above, according to the present embodiment, when the total value of the CPU utilization of virtual servers A and B operating on
1…輻輳制御装置
11…仮想化部
12…取得部
13…規制部
1
Claims (4)
前記複数の仮想サーバそれぞれのリソース使用量を取得する取得手段と、
前記複数の仮想サーバのリソース使用量の合計値が第1閾値に達した場合、前記複数の仮想サーバのそれぞれのリソース使用量に基づいて前記複数の仮想サーバのそれぞれが受信する新規呼の数を規制する第1規制手段と、
前記複数の仮想サーバのリソース使用量の合計値が第2閾値に達した場合、前記複数の仮想サーバのそれぞれが新規呼を受信しないように規制する第2規制手段と、
を有することを特徴とする輻輳制御装置。 A congestion control apparatus for controlling congestion of a plurality of virtual servers operating in a virtualization configuration, comprising:
Acquisition means for acquiring the resource usage of each of the plurality of virtual servers;
When the total value of the resource usage of the plurality of virtual servers reaches a first threshold, the number of new calls received by each of the plurality of virtual servers is determined based on the resource usage of each of the plurality of virtual servers First regulation means to regulate,
Second restricting means for restricting each of the plurality of virtual servers not to receive a new call when the total value of resource usage of the plurality of virtual servers reaches a second threshold;
A congestion control apparatus characterized by having:
前記複数の仮想サーバそれぞれのリソース使用量を取得するステップと、
前記複数の仮想サーバのリソース使用量の合計値が第1閾値に達した場合、前記複数の仮想サーバのそれぞれのリソース使用量に基づいて前記複数の仮想サーバのそれぞれが受信する新規呼の数を規制するステップと、
前記複数の仮想サーバのリソース使用量の合計値が第2閾値に達した場合、前記複数の仮想サーバのそれぞれが新規呼を受信しないように規制するステップと、
を有することを特徴とする輻輳制御方法。 A congestion control method for controlling congestion of a plurality of virtual servers operating in a virtualization configuration, comprising:
Acquiring resource usage of each of the plurality of virtual servers;
When the total value of the resource usage of the plurality of virtual servers reaches a first threshold, the number of new calls received by each of the plurality of virtual servers is determined based on the resource usage of each of the plurality of virtual servers Steps to regulate,
Restricting each of the plurality of virtual servers not to receive a new call when the total value of resource usage of the plurality of virtual servers reaches a second threshold;
A congestion control method characterized by comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016162397A JP6549538B2 (en) | 2016-08-23 | 2016-08-23 | Congestion control apparatus and congestion control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016162397A JP6549538B2 (en) | 2016-08-23 | 2016-08-23 | Congestion control apparatus and congestion control method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018032919A JP2018032919A (en) | 2018-03-01 |
JP6549538B2 true JP6549538B2 (en) | 2019-07-24 |
Family
ID=61303852
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016162397A Active JP6549538B2 (en) | 2016-08-23 | 2016-08-23 | Congestion control apparatus and congestion control method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6549538B2 (en) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012156800A (en) * | 2011-01-26 | 2012-08-16 | Nippon Telegr & Teleph Corp <Ntt> | Server device and communication method of the same |
JP5537600B2 (en) * | 2012-05-15 | 2014-07-02 | 株式会社Nttドコモ | Control node and communication control method |
JP6244894B2 (en) * | 2013-12-24 | 2017-12-13 | 富士通株式会社 | COMMUNICATION SYSTEM, COMMUNICATION METHOD, AND CALL CONTROL SERVER DEVICE |
JP6363492B2 (en) * | 2014-12-18 | 2018-07-25 | 日本電信電話株式会社 | Call control system, load distribution device, and operation method of call control system |
-
2016
- 2016-08-23 JP JP2016162397A patent/JP6549538B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018032919A (en) | 2018-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bonald et al. | Multi-resource fairness: Objectives, algorithms and performance | |
US12107769B2 (en) | Throttling queue for a request scheduling and processing system | |
US10999381B2 (en) | System and method for throttling service requests having non-uniform workloads | |
Jia et al. | Cloudlet load balancing in wireless metropolitan area networks | |
CN107800768B (en) | Open platform control method and system | |
WO2017028724A1 (en) | Service request adjustment method and device | |
WO2015101091A1 (en) | Distributed resource scheduling method and device | |
Tomita et al. | Congestion control method with fair resource allocation for cloud computing environments | |
CN106792923B (en) | Method and device for configuring QoS strategy | |
CN108200185B (en) | Method and device for realizing load balance | |
JP6549538B2 (en) | Congestion control apparatus and congestion control method | |
US20200142822A1 (en) | Multi-tenant cloud elastic garbage collector | |
Min et al. | Abc: dynamic configuration management for microbrick-based cloud computing systems | |
WO2016173133A1 (en) | Load sharing implementation method, interface machine, service processor and system | |
Wu et al. | iShare: Balancing I/O performance isolation and disk I/O efficiency in virtualized environments | |
Banerjee et al. | Priority based K-Erlang distribution method in cloud computing | |
US9537742B2 (en) | Automatic adjustment of application launch endpoints | |
JP6600250B2 (en) | Control device and program for packet transfer device having multi-core CPU | |
US9781130B1 (en) | Managing policies | |
JP6718844B2 (en) | Congestion control device and congestion control method | |
JP6233141B2 (en) | Database system, database server, database server program, database client, and database client program | |
EP3932030A1 (en) | Network bandwidth apportioning | |
JP5611419B1 (en) | Band control management device, mass communication user band control method, and mass communication user band control program | |
US10042682B2 (en) | Copy message from application buffer to send buffer within kernel | |
Unuvar et al. | Configuring cloud admission policies under dynamic demand |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180830 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190610 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190625 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190627 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6549538 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |