JP6718844B2 - 輻輳制御装置及び輻輳制御方法 - Google Patents

輻輳制御装置及び輻輳制御方法 Download PDF

Info

Publication number
JP6718844B2
JP6718844B2 JP2017125970A JP2017125970A JP6718844B2 JP 6718844 B2 JP6718844 B2 JP 6718844B2 JP 2017125970 A JP2017125970 A JP 2017125970A JP 2017125970 A JP2017125970 A JP 2017125970A JP 6718844 B2 JP6718844 B2 JP 6718844B2
Authority
JP
Japan
Prior art keywords
virtual servers
congestion control
resource usage
cpu usage
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017125970A
Other languages
English (en)
Other versions
JP2019009709A (ja
Inventor
友宏 佐藤
友宏 佐藤
石禾 幹生
幹生 石禾
山下 康治
康治 山下
木村 修治
修治 木村
義和 中村
義和 中村
諒 長岡
諒 長岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2017125970A priority Critical patent/JP6718844B2/ja
Publication of JP2019009709A publication Critical patent/JP2019009709A/ja
Application granted granted Critical
Publication of JP6718844B2 publication Critical patent/JP6718844B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は、仮想化構成のサーバにおいて輻輳を制御する技術に関する。
従来、音声通信サーバは1つのハードウェア上で1つのアプリケーションを動作させて構成していた。この構成における輻輳制御では、ハードウェア性能の限界値に基づいてCPU使用率の上限値を設定しておき、CPU使用率が上限値に到達または近づいた際、新規呼を受け付けずに破棄する。
仮想化技術の浸透により、1つのハードウェア上で複数のアプリケーションを動作させる傾向にある。非特許文献1には、仮想化構成の呼処理サーバにおける輻輳制御技術が記載されている。非特許文献1の輻輳制御では、ハードウェアのCPU使用率がしきい値に達すると、仮想サーバそれぞれのCPU使用率に基づいて新規呼の受信量の度合いを調整する。これにより、仮想サーバ間でCPU使用率の均衡をとりつつ、リソースを有効活用することができる。
丸山、外6名、「呼処理サーバ仮想化構成における輻輳制御技術」、2016年ソサイエティ大会講演論文集、一般社団法人電子情報通信学会、2016年、B−6−25
非特許文献1の輻輳制御では、各仮想サーバの受信する新規呼の数がいずれも増加する状況においては、仮想サーバ間のリソースの均衡利用とリソースの有効活用を達成することができた。
しかしながら、一部の仮想サーバの受信する新規呼の数が増加しない状況、及び各仮想サーバの受信する新規呼の数がいずれも減少する状況においては、非特許文献1の輻輳制御では、ハードウェア性能を十分に利用できず、不要なトラヒック破棄が生じるという問題があった。
本発明は、上記に鑑みてなされたものであり、仮想化構成のサーバにおいて、リソースをより有効に利用し、不要なトラヒック破棄を抑制することを目的とする。
第1の本発明に係る輻輳制御装置は、仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御装置であって、前記複数の仮想サーバが動作する物理サーバのリソース使用量と前記複数の仮想サーバそれぞれのリソース使用量を取得する取得手段と、前記物理サーバのリソース使用量が第1しきい値に達し、かつ、前記複数の仮想サーバそれぞれのリソース使用量のいずれもが第2しきい値に達した場合、前記複数の仮想サーバそれぞれのリソース使用量に基づいて前記複数の仮想サーバそれぞれが受信する新規呼の数を規制する規制手段と、を有することを特徴とする。
上記輻輳制御装置において、前記規制手段は、前記物理サーバのリソース使用量又は前記複数の仮想サーバの受信する新規呼の数が所定の増加傾向以上の場合に前記新規呼の数を規制することを特徴とする。
第2の本発明に係る輻輳制御方法は、仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御方法であって、前記複数の仮想サーバが動作する物理サーバのリソース使用量と前記複数の仮想サーバそれぞれのリソース使用量を取得するステップと、前記物理サーバのリソース使用量が第1しきい値に達し、かつ、前記複数の仮想サーバそれぞれのリソース使用量のいずれもが第2しきい値に達した場合、前記複数の仮想サーバそれぞれのリソース使用量に基づいて前記複数の仮想サーバそれぞれが受信する新規呼の数を規制するステップと、を有することを特徴とする。
上記輻輳制御方法において、前記規制するステップは、前記物理サーバのリソース使用量又は前記複数の仮想サーバの受信する新規呼の数が所定の増加傾向以上の場合に前記新規呼の数を規制することを特徴とする。
本発明によれば、仮想化構成のサーバにおいて、リソースをより有効に利用し、不要なトラヒック破棄を抑制することができる。
本実施形態の輻輳制御装置の構成を示す機能ブロック図である。 物理サーバ、仮想サーバのCPU使用率の変化を示すグラフである。 物理サーバのCPU使用率の変化の例を示すグラフである。 本実施形態の輻輳制御装置の輻輳制御開始の判定処理の流れを示すフローチャートである。 第1のケースにおいて仮想サーバに入力されるトラヒック量の変化を示す図である。 第1のケースを従来方法で輻輳制御した場合のシミュレーション結果を示す図である。 第1のケースを本実施形態の方法で輻輳制御した場合のシミュレーション結果を示す図である。 第2のケースにおいて仮想サーバに入力されるトラヒック量の変化を示す図である。 第2のケースを従来方法で輻輳制御した場合のシミュレーション結果を示す図である。 第2のケースを本実施形態の方法で輻輳制御した場合のシミュレーション結果を示す図である。
以下、本発明の実施の形態について図面を用いて説明する。
図1は、本実施形態の輻輳制御装置の構成を示す機能ブロック図である。図1に示す輻輳制御装置1は、仮想化部11、取得部12、及び規制部13を備える。
仮想化部11は、仮想化技術を用いて、1つのハードウェア(物理サーバ)のリソースを共有して複数の仮想サーバA,Bを動作させる。本実施形態の仮想サーバA,Bは、新規呼を受信して所定の呼処理を実行する呼処理サーバである。なお、図1では仮想サーバA,Bの2つのみを図示しているが、仮想化部11上で動作する仮想サーバA,Bの数を2台に限定するものではない。
取得部12は、仮想化部11の使用するリソース(CPU、メモリなど)の使用量・使用率(以下、リソース使用量又はCPU使用率と呼ぶ)と仮想サーバA,Bそれぞれのリソース使用量を取得する。仮想化部11のリソース使用量は、仮想サーバA,Bそれぞれのリソース使用量を合計して求めてもよい。
取得部12は、仮想化部11のリソース使用量の増減傾向を求める。なお、仮想サーバA,Bで処理する新規呼の量が増加すれば仮想化部11のリソース使用量も増加するので、取得部12は、仮想サーバA,Bが受信する新規呼の量を取得し、新規呼の増減傾向を求めてもよい。
規制部13は、仮想化部11のリソース使用量が制御開始しきい値に達し、仮想サーバA,Bのリソース使用量のそれぞれが仮想サーバのしきい値に達し、かつ、仮想化部11のリソース使用量の増加傾向が所定以上の場合、仮想サーバA,Bそれぞれのリソース使用量に基づいて新規呼の受信を規制する輻輳制御を開始する。つまり、仮想化部11、仮想サーバA,Bのいずれかのリソース使用量が所定のしきい値に達していない場合は、規制部13は輻輳制御を開始しない。また、仮想化部11のリソース使用量の増加傾向が所定以上でない場合は、規制部13は輻輳制御を開始しない。
また、規制部13は、仮想化部11のリソース使用量がハードウェアしきい値に達した場合、全ての仮想サーバA,Bで新規呼を受け付けない輻輳制御を開始する。
なお、制御開始しきい値は、仮想サーバのしきい値より高く設定し、ハードウェアしきい値は、制御開始しきい値より高く、仮想化部11の性能限界より低く設定する。仮想サーバのしきい値は、仮想サーバA,Bで共通にしてもよいし、仮想サーバA,Bごとに違う値を設定してもよい。
ここで、リソース使用量に基づく輻輳制御の開始判定について説明する。
図2は、物理サーバ(仮想化部11)、仮想サーバA,BのCPU使用率の変化を示すグラフである。図2には、物理サーバのCPU使用率に対する制御開始しきい値と、仮想サーバA,BのCPU使用率に対する仮想サーバのしきい値を図示している。
図2の例では、時刻t1において仮想サーバBのCPU使用率が仮想サーバのしきい値を超え、時刻t2において物理サーバのCPU使用率が制御開始しきい値を超えている。時刻t2では、物理サーバのCPU使用率が制御開始しきい値を超えているが、仮想サーバAのCPU使用率は仮想サーバのしきい値を超えていないので、規制部13は、輻輳制御を開始しない。時刻t3において仮想サーバAのCPU使用率が仮想サーバのしきい値を超え、物理サーバ、仮想サーバA,BのCPU使用率のいずれもが所定のしきい値を超えているので、時刻t3から輻輳制御を開始する。
続いて、リソース使用量の増減傾向の判定について説明する。
本実施形態では、リソース使用量の増減傾向の判定について、瞬間変動を考慮して、設定時間内のリソース使用量の和とその前の時間のリソース使用量の和で比較する。
図3は、物理サーバのCPU使用率の変化の例を示すグラフである。図3の例では、Δt3,Δt4,Δt5,Δt6のそれぞれの時刻におけるCPU使用率が4,4,1,7であった。
設定時間間隔を3、増加傾向の判定しきい値を20%増として、Δt7時の増減傾向の判定について説明する。Δt4〜Δt6までの時間内のCPU使用率の和は4+1+7=12である。その前のΔt3〜Δt5までの時間内のCPU使用率の和は4+4+1=9である。それぞれの和を比較すると、12÷9=1.3となり、20%増の判定しきい値を超えた増加傾向であると判定される。
なお、新規呼の受信数の増減傾向を判定する場合も同様に適用できる。
次に、本実施形態の輻輳制御装置の動作について説明する。
図4は、本実施形態の輻輳制御装置の輻輳制御開始の判定処理の流れを示すフローチャートである。
規制部13は、仮想化部11のCPU使用率がハードウェアしきい値に達したか否か判定する(ステップS11)。
仮想化部11のCPU使用率がハードウェアしきい値に達してした場合(ステップS11のYES)、規制部13は、全ての仮想サーバA,Bで新規呼の受信を受け付けない輻輳制御を開始する(ステップS12)。
仮想化部11のCPU使用率がハードウェアしきい値に達していない場合(ステップS11のNO)、規制部13は、仮想化部11のCPU使用率が制御開始しきい値に達したか否か、仮想サーバA,BのCPU使用率の全てが仮想サーバのしきい値に達したか否か、及び仮想化部11のCPU使用率が所定の増加傾向であるか否かを判定する(ステップS13〜S15)。
ステップS13〜S15のいずれかの条件を満たさない場合(ステップS13〜S15のNO)、規制部13は輻輳制御を行わない。
ステップS13〜S15の全ての条件を満たす場合、規制部13は、仮想サーバA,B間でCPU使用率の均衡がとれるように輻輳制御を開始する(ステップS16)。
仮想サーバA,B間でCPU使用率の均衡がとれる輻輳制御は、例えば、以下の方法で行う。時刻Δt0において、仮想サーバAと仮想サーバBのCPU使用率がそれぞれM0,N0であったとする。時刻Δt1時に仮想サーバAで受信した新規呼の数がa1、仮想サーバBで受信した新規呼の数がb1のとき、仮想サーバAが処理する新規呼の数は、b1×N0/M0(ただしa1以下の値)とし、仮想サーバBが処理する新規呼の数は、a1×M0/N0(ただしb1以下の値)とする。処理できない新規呼は破棄する。次の時刻Δt2では、時刻Δt1時の仮想サーバA,BのCPU使用率M1,N1を用い、時刻Δt2時に受信する新規呼の数a2,b2に基づいて、仮想サーバA,Bで処理する新規呼の数を決定する。
輻輳制御を開始した後、仮想化部11のCPU使用率がハードウェアしきい値を下回った場合は、ステップS12の新規呼を受け付けない輻輳制御を停止する。
ステップS13〜S15のいずれかの条件を満たさなくなった場合は、ステップS16の仮想サーバA,B間でCPU使用率の均衡をとる輻輳制御を停止する。
次に、本実施形態で改善した、従来方法ではハードウェア性能を十分に利用できない2つのケースについて説明する。
下記の考えに基づき、従来方法と本実施形態のCPU使用率のシミュレーションを行った。
・CPU使用率は処理トラヒック量に比例して増加
・処理トラヒック量は一定の割合で減少
例えば、Δt0時の処理トラヒック量が100で、Δt1時の入力トラヒック量が30であり、各時間における処理トラヒック量の減少率が10%であったとする。このとき、Δt1時のCPU使用率は100×(1−0.1)+30=120で計算する。
第1のケースは、仮想サーバAは入力トラヒック量が増減せず、仮想サーバBは入力トラヒック量が増加するケースである。
図5は、第1のケースにおいて仮想サーバA,Bに入力されるトラヒック量の変化を示している。横軸は時間、縦軸は入力トラヒック量である。
図6に、第1のケースを従来方法で輻輳制御した場合のシミュレーション結果を示す。横軸に時間、縦軸にCPU使用率をとり、仮想サーバA,BのCPU使用率と物理サーバのCPU使用率の変化を示している。
図6に示すように、従来方法では、物理サーバのCPU使用率が制御開始しきい値に達すると、仮想サーバA,B間でCPU使用率の均衡をとる輻輳制御が開始する。そのため、物理サーバのCPU使用率が制御開始しきい値付近で推移してしまい、物理サーバに余力のある場合であっても、輻輳制御により新規呼を破棄している。
図7に、第1のケースを本実施形態の方法で輻輳制御した場合のシミュレーション結果を示す。横軸に時間、縦軸にCPU使用率をとり、仮想サーバA,BのCPU使用率と物理サーバのCPU使用率の変化を示している。
図7に示すように、本実施形態では、物理サーバのCPU使用率が制御開始しきい値に達しても、仮想サーバA,BのいずれかのCPU使用率が仮想サーバのしきい値に達していない場合は、仮想サーバA,B間でCPU使用率の均衡をとる輻輳制御は開始しない。仮想サーバAへの入力トラヒック量は増加しないので、仮想サーバAのCPU使用率は仮想サーバのしきい値に達しない。仮想サーバBのCPU使用率が増加することで、物理サーバのCPU使用率がハードウェアしきい値に達すると、全ての仮想サーバA,Bで新規呼を受け付けない輻輳制御が開始する。
第1のケースでは、本実施形態の輻輳制御により物理サーバのCPU使用率はハードウェアしきい値近辺で推移し、本実施形態は従来方法よりもリソースが有効利用されることがわかる。
第2のケースは、仮想サーバA,B両方の入力トラヒック量が減少するケースである。
図8は、第2のケースにおいて仮想サーバA,Bに入力されるトラヒック量の変化を示している。横軸は時間、縦軸は入力トラヒック量である。
図9に、第2のケースを従来方法で輻輳制御した場合のシミュレーション結果を示す。横軸に時間、縦軸にCPU使用率をとり、仮想サーバA,BのCPU使用率と物理サーバのCPU使用率の変化を示している。
図9に示すように、従来方法では、物理サーバのCPU使用率が制御開始しきい値に達すると、仮想サーバA,B間でCPU使用率の均衡をとる輻輳制御が開始する。そのため、物理サーバのCPU使用率が制御開始しきい値を超えている間は、入力トラヒック量が減少傾向であっても輻輳制御されて、新規呼を破棄する。
図10に、第2のケースを本実施形態の方法で輻輳制御した場合のシミュレーション結果を示す。横軸に時間、縦軸にCPU使用率をとり、仮想サーバA,BのCPU使用率と物理サーバのCPU使用率の変化を示している。
図10に示すように、本実施形態では、物理サーバ及び仮想サーバA,BのCPU使用率が所定のしきい値に達していても、入力トラヒック量が減少傾向であるので、仮想サーバA,B間でCPU使用率の均衡をとる輻輳制御を開始しない。物理サーバのCPU使用率が制御開始しきい値を超えても輻輳制御しないので新規呼は破棄されない。入力トラヒック量は減少傾向であるので、輻輳制御しなくても、仮想サーバA,Bで処理すべき処理トラヒック量が減り、CPU使用率も減少する。
第2のケースでは、本実施形態は、入力トラヒック量が減少傾向であるときは輻輳制御しないので、本実施形態は従来方法よりもリソースが有効利用されることがわかる。
以上説明したように、本実施形態によれば、仮想化部11のCPU使用率が制御開始しきい値に達し、仮想サーバA,BそれぞれのCPU使用率のいずれもが仮想サーバのしきい値に達した場合に、仮想サーバA,B間でCPU使用率の均衡がとれるように輻輳制御を開始することにより、仮想サーバA,Bのいずれかの入力トラヒック量が少ない場合は輻輳制御を開始しないので、リソースを有効利用することができ、不要なトラヒック破棄を抑制できる。
本実施形態によれば、仮想化部11のCPU使用率が所定の増加傾向以上の場合に輻輳制御を開始することで、仮想サーバA,Bの入力トラヒック量が減少する状況では輻輳制御を開始しないので、リソースを有効利用することができ、不要なトラヒック破棄を抑制できる
1…輻輳制御装置
11…仮想化部
12…取得部
13…規制部

Claims (4)

  1. 仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御装置であって、
    前記複数の仮想サーバが動作する物理サーバのリソース使用量と前記複数の仮想サーバそれぞれのリソース使用量を取得する取得手段と、
    前記物理サーバのリソース使用量が第1しきい値に達し、かつ、前記複数の仮想サーバそれぞれのリソース使用量のいずれもが第2しきい値に達した場合、前記複数の仮想サーバそれぞれのリソース使用量に基づいて前記複数の仮想サーバそれぞれが受信する新規呼の数を規制する規制手段と、
    を有することを特徴とする輻輳制御装置。
  2. 前記規制手段は、前記物理サーバのリソース使用量又は前記複数の仮想サーバの受信する新規呼の数が所定の増加傾向以上の場合に前記新規呼の数を規制することを特徴とする請求項1に記載の輻輳制御装置。
  3. 仮想化構成で動作する複数の仮想サーバの輻輳を制御する輻輳制御方法であって、
    前記複数の仮想サーバが動作する物理サーバのリソース使用量と前記複数の仮想サーバそれぞれのリソース使用量を取得するステップと、
    前記物理サーバのリソース使用量が第1しきい値に達し、かつ、前記複数の仮想サーバそれぞれのリソース使用量のいずれもが第2しきい値に達した場合、前記複数の仮想サーバそれぞれのリソース使用量に基づいて前記複数の仮想サーバそれぞれが受信する新規呼の数を規制するステップと、
    を有することを特徴とする輻輳制御方法。
  4. 前記規制するステップは、前記物理サーバのリソース使用量又は前記複数の仮想サーバの受信する新規呼の数が所定の増加傾向以上の場合に前記新規呼の数を規制することを特徴とする請求項3に記載の輻輳制御方法。
JP2017125970A 2017-06-28 2017-06-28 輻輳制御装置及び輻輳制御方法 Active JP6718844B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017125970A JP6718844B2 (ja) 2017-06-28 2017-06-28 輻輳制御装置及び輻輳制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017125970A JP6718844B2 (ja) 2017-06-28 2017-06-28 輻輳制御装置及び輻輳制御方法

Publications (2)

Publication Number Publication Date
JP2019009709A JP2019009709A (ja) 2019-01-17
JP6718844B2 true JP6718844B2 (ja) 2020-07-08

Family

ID=65025956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017125970A Active JP6718844B2 (ja) 2017-06-28 2017-06-28 輻輳制御装置及び輻輳制御方法

Country Status (1)

Country Link
JP (1) JP6718844B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012046386A1 (ja) * 2010-10-07 2012-04-12 日本電気株式会社 サーバシステム、管理装置、サーバ管理方法、およびプログラム
JP2012156800A (ja) * 2011-01-26 2012-08-16 Nippon Telegr & Teleph Corp <Ntt> サーバ装置およびその通信方法
JP5537600B2 (ja) * 2012-05-15 2014-07-02 株式会社Nttドコモ 制御ノード及び通信制御方法
JP2017028563A (ja) * 2015-07-24 2017-02-02 株式会社日立製作所 ネットワークコントローラ、ネットワークシステム、仮想サーバリソース制御方法

Also Published As

Publication number Publication date
JP2019009709A (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
Jia et al. Cloudlet load balancing in wireless metropolitan area networks
US11706154B2 (en) Load adaptation architecture framework for orchestrating and managing services in a cloud computing system
US20170201574A1 (en) Method, system, and device for allocating resources in a server
US11966792B2 (en) Resource processing method of cloud platform, related device, and storage medium
US10652360B2 (en) Access scheduling method and apparatus for terminal, and computer storage medium
CN106357559B (zh) 带宽分配的方法及装置
WO2015101091A1 (zh) 一种分布式资源调度方法及装置
KR20180047070A (ko) 동적인 에지 컴퓨팅을 수행하는 방법 및 장치
CN111078391A (zh) 一种业务请求处理方法、装置及设备
CN104619034B (zh) 一种lte通信系统中面向实时业务的分组调度方法
US20150212973A1 (en) Integrated utility based data processing methods
WO2017070057A1 (en) Distributed load balancing for access points
CN108200185B (zh) 一种实现负载均衡的方法及装置
JP6718844B2 (ja) 輻輳制御装置及び輻輳制御方法
WO2015184612A1 (zh) 一种资源调度方法,及装置
CN107491352B (zh) 一种资源调度方法及装置
EP3336700A1 (en) Service system and control method of the same
CN112685167A (zh) 资源使用方法、电子设备和计算机程序产品
WO2016173133A1 (zh) 一种实现负荷分担的方法、接口机、业务处理机及系统
CN106790368A (zh) 一种分布式系统中的资源调度方法和装置
US9537742B2 (en) Automatic adjustment of application launch endpoints
WO2021018058A1 (zh) 系统过负荷控制方法及装置
WO2016086818A1 (zh) 一种在存储阵列中划分硬盘域的方法及控制器、存储阵列
JP6549538B2 (ja) 輻輳制御装置及び輻輳制御方法
WO2016017161A1 (ja) 仮想計算機システム、スケジューリング方法、および、プログラム記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R150 Certificate of patent or registration of utility model

Ref document number: 6718844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150