JP5544522B2 - 負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム - Google Patents
負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム Download PDFInfo
- Publication number
- JP5544522B2 JP5544522B2 JP2011137163A JP2011137163A JP5544522B2 JP 5544522 B2 JP5544522 B2 JP 5544522B2 JP 2011137163 A JP2011137163 A JP 2011137163A JP 2011137163 A JP2011137163 A JP 2011137163A JP 5544522 B2 JP5544522 B2 JP 5544522B2
- Authority
- JP
- Japan
- Prior art keywords
- server device
- server
- arrangement
- request
- load
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Computer And Data Communications (AREA)
Description
また、図1のトランザクション処理システムを構成する各装置の台数は、図1に例示した台数に限定されず、任意の台数としてもよい。
ここで、クライアント1からは、ロードバランサ2という出入り口を介して、分散システム9があたかも単一の装置で動作するシステムとして見えるため、分散システム9内の装置構成を柔軟に変更する(装置の追加や削除など)ことができる。よって、クライアント1は、分散システム9の内部構成を意識することなく、ロードバランサ2のアドレスのみ把握していればよい。
処理サーバ5は、振り分けサーバ4からの要求を受け、データ管理装置6内のトランザクションのデータにアクセスすることで、トランザクションの要求を処理する。
なお、処理サーバ5とデータ管理装置6とは1:1で接続されており、あるトランザクションのデータは、ある1台のデータ管理装置6が格納している。よって、要求されたトランザクションのデータを管理するデータ管理装置6を収容する処理サーバ5を、振り分けサーバ4が選択する必要がある。
よって、負荷調整サーバ10は、分散システム9に対して、サーバ装置8間の負荷の偏りを調整するための制御を実行する(詳細は、図2以下の説明で、明らかにする)。
なお、図1では、負荷調整サーバ10をサーバ装置8と独立の装置として稼働させる形態を図示したが、負荷調整サーバ10の各構成要素を、各サーバ装置8に組み込む形態(負荷調整用サーバ装置8とする形態)としてもよい。
サーバ装置制御部22は、負荷監視部21によって負荷の偏りが検出されたサーバ装置8について、分散システム9からの切り離し(離脱)を行った後、そのサーバ装置8が担当するデータ配置マップ23の範囲を変更(高負荷なら減少させ、低負荷なら増加させる)した後、再度、そのサーバ装置8を分散システム9へと組み込む。
なお、切り離し(離脱)とは、ロードバランサ2からみて、トランザクションの割当先の候補から、負荷の偏りが検出されたサーバ装置8を除外する旨を指す。また、再度組み込むとは、ロードバランサ2からみて、トランザクションの割当先の候補に対して、組み込むサーバ装置8を追加する旨を指す。
配置IDとは、1つ以上のトランザクションのデータに対して割り当てられるIDであり、同じ配置IDが割り当てられるトランザクションのデータは、同じ1つのデータ管理装置6内に配置IDと対応づけて格納される。
トランザクションのデータとは、トランザクションを処理するときに必要なデータであり、例えば、呼処理における呼の識別子、発信者、受信者、状態遷移を含む。トランザクションの状態遷移とは、話し中、呼び出し中などの呼の状態を示すパラメータである。
さらに、各サーバ装置8の負荷の一例として、各サーバ装置8の担当範囲である円弧の角度の大きさを例示する。例えば、サーバ装置8cの担当範囲は、配置ID「70度〜39度」なので、サーバ装置8cの負荷は、(70度−39度−1度)=30である。
まず、図2(b)のデータ配置マップ23において、負荷調整サーバ10は、サーバ装置8a(配置A)の負荷が、他のサーバ装置8よりも相対的に高くなっている(負荷=225)ことを検出する。
「a」を(所定のサーバ装置8の負荷値)とし、「A」を(全サーバ装置8の負荷値の平均値)とすると、(所定のサーバ装置8の相対負荷値)は、以下のいずれかの計算式で計算できる。
平均からの差分値の絶対値を計算する式は、次の通りである。
(所定のサーバ装置8の相対負荷値)=|(a)−(A)|
平均値からの乖離率の絶対値を計算する式は、次の通りである。
(所定のサーバ装置8の相対負荷値)=|(a−A)÷A|
一方、サーバ装置8の負荷値として、サーバ装置8の負荷の理論値として、データ配置マップ23における配置IDの範囲を用いてもよい。この理論値を用いることにより、他のサーバ装置8の稼働状況(CPU使用率など)を測定すること無くサーバ装置8の負荷値を取得できるため、各サーバ装置8でID空間の状況を見て自律的にID更新を行うことができる。
相対負荷値が高負荷に偏っているサーバ装置8とは、例えば、そのサーバ装置8の相対負荷値(例えば、200度)が、他のサーバ装置8の負荷平均値(例えば、100度)よりも、所定閾値(例えば、80度)を超える分、偏っているサーバ装置8である(200>100+80)。
相対負荷値が低負荷に偏っているサーバ装置8とは、例えば、そのサーバ装置8の相対負荷値(例えば、50度)が、他のサーバ装置8の負荷平均値(例えば、100度)よりも、所定閾値(例えば、30度)を下回る分、偏っているサーバ装置8である(50<100−30)。
よって、第1処理サーバ5から第2処理サーバ5に対して、第1処理サーバ5で消去したトランザクションを行うためのセッションを、引き継ぐ必要がある。そのため、各処理サーバ5は、それぞれ自身が有しているセッションに関するデータを、他の処理サーバ5との間で共有(データ同期)しておく。そして、第2処理サーバ5は、引き継がれたセッションを介して、クライアント1との間でトランザクションを再実施する。
そして、サーバ装置制御部22は、配置IDが変更されたサーバ装置8を、再度、分散システム9に組み込む。なお、S13で説明したように、組み込まれたサーバ装置8が新規に担当する分の配置IDについて、他のサーバ装置8からの引き継ぎ処理を行う。
S101において、サーバ装置8cは、自装置を分散システム9へと組み込む旨の組み込み要求を、負荷調整サーバ10に通知する。なお、サーバ装置8cは、S101の開始前は、分散システム9へと組み込まれていない状態(遊休状態)である。よって、遊休状態のサーバ装置8は、負荷調整サーバ10に対して組み込み要求を送信するようにしてもよいし、負荷調整サーバ10が遊休状態のサーバ装置8のリストをリソースプールとして管理しておき、負荷調整サーバ10がリソースプールから任意のサーバ装置8を組み込み対象として選択することで、S101の処理を代替してもよい。
S103において、負荷調整サーバ10は、S101への応答としての組み込みOKの通知を、S102で更新されたデータ(データ配置マップ23およびサーバ装置リスト24)を含めてサーバ装置8cに送信する。
S104において、負荷調整サーバ10は、S102で更新されたデータを含めたシステム更新通知を、ブロードキャストで各サーバ装置8(サーバ装置8bなど)に通知する。
次に、S111〜S115は、図3(b)の配置B(サーバ装置8b)の切り離し処理(S13)を詳細に説明するものである。
S112において、サーバ装置8bは、S111を受けて、自装置の分散システム9からの離脱を要求するための離脱要求を、負荷調整サーバ10に通知する。
S113において、負荷調整サーバ10は、S112で離脱要求されたサーバ装置8bを分散システム9から離脱させる。この離脱により、負荷調整サーバ10は、図3(b)で示すように、サーバ装置8bの配置B(175)をデータ配置マップ23から削除するとともに、サーバ装置リスト24のサーバ装置8bのレコードにおける「配置ID」列を空欄にする。
S114において、負荷調整サーバ10は、S113の結果を通知する離脱OKの通知を、サーバ装置8bに送信する。
S115において、負荷調整サーバ10は、S113で更新されたデータを含めたシステム更新通知を、ブロードキャストで各サーバ装置8(サーバ装置8cなど)に通知する。
分散システム9は、セッション制御などの通信制御をクラスタシステムとして実施する。各サーバ装置8への処理の負荷分散には、例えば、コンシステント・ハッシュ手法が用いられる。ここで、各サーバ装置8の負荷の偏りは、主に、各サーバ装置8が担当する配置IDの範囲の大きさの偏りによって発生するので、配置IDの範囲を適宜変更する負荷調整サーバ10を導入することにより、配置IDの範囲を均等にする。
また、各サーバ装置8の負荷の偏りを求める別の方法として、各サーバ装置8のリソース使用率(CPU使用率やメモリ使用率など)を用いてもよい。
これにより、サーバ装置8間での負荷の偏りを是正し、サーバ装置8の利用効率を向上させることができる。
2 ロードバランサ
4 振り分けサーバ
5 処理サーバ
6 データ管理装置
8 サーバ装置
9 分散システム
10 負荷調整サーバ
21 負荷監視部
22 サーバ装置制御部
23 データ配置マップ
24 サーバ装置リスト
Claims (7)
- クライアントからの要求を受けて、その要求を処理する複数台のサーバ装置に対して要求を分散させる分散システムで実行される負荷調整方法であって、
前記各サーバ装置は、自身のデータ管理装置において、要求を処理するにあたりアクセスされるデータを配置IDと対応づけて格納し、
前記分散システムの前記各サーバ装置と接続されている負荷調整サーバは、
前記サーバ装置ごとにその前記サーバ装置内の前記データ管理装置に格納される配置IDの範囲を示すデータ配置マップを記憶手段に格納しており、
前記各サーバ装置上でそれぞれ計測された前記各サーバ装置内のリソース使用率を、前記各サーバ装置の負荷値として取得し、前記各サーバ装置間の負荷値を比較して、相対的に負荷値が他の前記サーバ装置よりも偏っている所定の前記サーバ装置を選択し、
前記所定のサーバ装置上で稼働しているセッションを他の前記サーバ装置へと引き継いで、要求を分散させる対象から前記所定のサーバ装置を除外することで、前記所定のサーバ装置を前記分散システムから離脱させ、
前記データ配置マップにおいて前記所定のサーバ装置に対応する配置IDの範囲を変更し、
変更された前記データ配置マップが示す配置IDの範囲における要求を分散させる対象に前記所定のサーバ装置を追加することで、前記所定のサーバ装置を前記分散システムへと組み込むことを特徴とする
負荷調整方法。 - クライアントからの要求を受けて、その要求を処理する複数台のサーバ装置に対して要求を分散させる分散システムで実行される負荷調整方法であって、
前記各サーバ装置は、自身のデータ管理装置において、要求を処理するにあたりアクセスされるデータを配置IDと対応づけて格納し、
前記分散システムの前記各サーバ装置と接続されている負荷調整サーバは、
前記サーバ装置ごとにその前記サーバ装置内の前記データ管理装置に格納される配置IDの範囲を示すデータ配置マップを記憶手段に格納しており、
前記データ配置マップに示される配置IDの範囲の大きさを、前記各サーバ装置の負荷値として取得し、前記各サーバ装置間の負荷値を比較して、相対的に負荷値が他の前記サーバ装置よりも偏っている所定の前記サーバ装置を選択し、
前記所定のサーバ装置上で稼働しているセッションを他の前記サーバ装置へと引き継いで、要求を分散させる対象から前記所定のサーバ装置を除外することで、前記所定のサーバ装置を前記分散システムから離脱させ、
前記データ配置マップにおいて前記所定のサーバ装置に対応する配置IDの範囲を変更し、
変更された前記データ配置マップが示す配置IDの範囲における要求を分散させる対象に前記所定のサーバ装置を追加することで、前記所定のサーバ装置を前記分散システムへと組み込むことを特徴とする
負荷調整方法。 - クライアントからの要求を受けて、その要求を処理する複数台のサーバ装置に対して要求を分散させる分散システムに対して負荷調整を行う負荷調整サーバであって、
前記各サーバ装置は、自身のデータ管理装置において、要求を処理するにあたりアクセスされるデータを配置IDと対応づけて格納し、
前記分散システムの前記各サーバ装置と接続されている前記負荷調整サーバは、
前記サーバ装置ごとにその前記サーバ装置内の前記データ管理装置に格納される配置IDの範囲を示すデータ配置マップを記憶手段に格納しており、
前記各サーバ装置上でそれぞれ計測された前記各サーバ装置内のリソース使用率を、前記各サーバ装置の負荷値として取得し、前記各サーバ装置間の負荷値を比較して、相対的に負荷値が他の前記サーバ装置よりも偏っている所定の前記サーバ装置を選択し、
前記所定のサーバ装置上で稼働しているセッションを他の前記サーバ装置へと引き継いで、要求を分散させる対象から前記所定のサーバ装置を除外することで、前記所定のサーバ装置を前記分散システムから離脱させ、
前記データ配置マップにおいて前記所定のサーバ装置に対応する配置IDの範囲を変更し、
変更された前記データ配置マップが示す配置IDの範囲における要求を分散させる対象に前記所定のサーバ装置を追加することで、前記所定のサーバ装置を前記分散システムへと組み込むことを特徴とする
負荷調整サーバ。 - クライアントからの要求を受けて、その要求を処理する複数台のサーバ装置に対して要求を分散させる分散システムに対して負荷調整を行う負荷調整サーバであって、
前記各サーバ装置は、自身のデータ管理装置において、要求を処理するにあたりアクセスされるデータを配置IDと対応づけて格納し、
前記分散システムの前記各サーバ装置と接続されている前記負荷調整サーバは、
前記サーバ装置ごとにその前記サーバ装置内の前記データ管理装置に格納される配置IDの範囲を示すデータ配置マップを記憶手段に格納しており、
前記データ配置マップに示される配置IDの範囲の大きさを、前記各サーバ装置の負荷値として取得し、前記各サーバ装置間の負荷値を比較して、相対的に負荷値が他の前記サーバ装置よりも偏っている所定の前記サーバ装置を選択し、
前記所定のサーバ装置上で稼働しているセッションを他の前記サーバ装置へと引き継いで、要求を分散させる対象から前記所定のサーバ装置を除外することで、前記所定のサーバ装置を前記分散システムから離脱させ、
前記データ配置マップにおいて前記所定のサーバ装置に対応する配置IDの範囲を変更し、
変更された前記データ配置マップが示す配置IDの範囲における要求を分散させる対象に前記所定のサーバ装置を追加することで、前記所定のサーバ装置を前記分散システムへと組み込むことを特徴とする
負荷調整サーバ。 - 請求項3または請求項4に記載の負荷調整サーバに対して、前記所定のサーバ装置を選択する処理、前記所定のサーバ装置を前記分散システムから離脱させる処理、前記所定のサーバ装置に対応する配置IDの範囲を変更する処理、および、前記所定のサーバ装置を前記分散システムへと組み込む処理を実行させるための負荷調整プログラム。
- クライアントからの要求を受けて、その要求を処理する複数台のサーバ装置に対して要求を分散させる分散システムに対して負荷調整を行う複数台のサーバ装置のうちの負荷調整用サーバ装置であって、
前記各サーバ装置は、自身のデータ管理装置において、要求を処理するにあたりアクセスされるデータを配置IDと対応づけて格納し、
前記負荷調整用サーバ装置は、
前記サーバ装置ごとにその前記サーバ装置内の前記データ管理装置に格納される配置IDの範囲を示すデータ配置マップを記憶手段に格納しており、
前記データ配置マップに示される配置IDの範囲の大きさを、前記各サーバ装置の負荷値として取得し、前記各サーバ装置間の負荷値を比較して、相対的に負荷値が他の前記サーバ装置よりも偏っている所定の前記サーバ装置を選択し、
前記所定のサーバ装置上で稼働しているセッションを他の前記サーバ装置へと引き継いで、要求を分散させる対象から前記所定のサーバ装置を除外することで、前記所定のサーバ装置を前記分散システムから離脱させ、
前記データ配置マップにおいて前記所定のサーバ装置に対応する配置IDの範囲を変更し、
変更された前記データ配置マップが示す配置IDの範囲における要求を分散させる対象に前記所定のサーバ装置を追加することで、前記所定のサーバ装置を前記分散システムへと組み込むことを特徴とする
負荷調整用サーバ装置。 - 請求項6に記載の負荷調整用サーバ装置に対して、前記所定のサーバ装置を選択する処理、前記所定のサーバ装置を前記分散システムから離脱させる処理、前記所定のサーバ装置に対応する配置IDの範囲を変更する処理、および、前記所定のサーバ装置を前記分散システムへと組み込む処理を実行させるための負荷調整プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011137163A JP5544522B2 (ja) | 2011-06-21 | 2011-06-21 | 負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011137163A JP5544522B2 (ja) | 2011-06-21 | 2011-06-21 | 負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013004000A JP2013004000A (ja) | 2013-01-07 |
JP5544522B2 true JP5544522B2 (ja) | 2014-07-09 |
Family
ID=47672480
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011137163A Expired - Fee Related JP5544522B2 (ja) | 2011-06-21 | 2011-06-21 | 負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5544522B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5956364B2 (ja) * | 2013-02-25 | 2016-07-27 | 日本電信電話株式会社 | クラスタシステム |
JP5945252B2 (ja) * | 2013-07-12 | 2016-07-05 | 日本電信電話株式会社 | 分散処理システム |
JP6259408B2 (ja) * | 2015-02-26 | 2018-01-10 | 日本電信電話株式会社 | 分散処理システム |
JP6383336B2 (ja) * | 2015-08-10 | 2018-08-29 | 日本電信電話株式会社 | サーバ管理装置およびサーバ管理方法 |
KR102341377B1 (ko) * | 2019-11-27 | 2021-12-20 | 주식회사 가토랩 | 딥러닝 프라이빗 클라우드 서비스 시스템의 서비스 제공 방법 |
CN114710498B (zh) * | 2022-03-18 | 2024-03-01 | 深圳极联信息技术开发有限公司 | 一种支持高并发访问的负载均衡方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09218858A (ja) * | 1996-02-14 | 1997-08-19 | Hitachi Ltd | 分散型データベース管理システム |
-
2011
- 2011-06-21 JP JP2011137163A patent/JP5544522B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2013004000A (ja) | 2013-01-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5544522B2 (ja) | 負荷調整方法、負荷調整サーバ、負荷調整用サーバ装置、および、負荷調整プログラム | |
WO2020253266A1 (zh) | 一种提供边缘服务的方法、装置和设备 | |
JP6378057B2 (ja) | 接続制御装置、接続制御方法、接続制御システムおよびコンピュータプログラム | |
US9621648B2 (en) | Peer-to-peer architecture for web traffic management | |
WO2010100859A1 (ja) | 分散システム | |
WO2016139938A1 (ja) | シンクライアントシステム、接続管理装置、仮想マシン稼働装置、方法、および、記憶媒体 | |
JP2006285316A (ja) | サーバ性能計測方法及びサーバ性能計測システム並びにこれらに用いるコンピュータプログラム | |
US20120233313A1 (en) | Shared scaling server system | |
US20160344582A1 (en) | Call home cluster | |
JP5596716B2 (ja) | リソース管理装置、リソース管理システム、リソース管理方法およびリソース管理プログラム | |
US20160234129A1 (en) | Communication system, queue management server, and communication method | |
JP6116102B2 (ja) | クラスタシステム、および、負荷分散方法 | |
JP5735899B2 (ja) | サービス提供システム、ファイル更新方法、および分散管理装置 | |
CN110008029B (zh) | ceph元数据集群目录分配方法、系统、装置及可读存储介质 | |
WO2021083196A1 (zh) | 网络流量的迁移方法及装置 | |
JP2009086741A (ja) | 異種ノード混在の分散環境における分散処理制御方法、そのシステム及びそのプログラム | |
JP2016144186A (ja) | 通信情報制御装置、中継システム、通信情報制御方法、および、通信情報制御プログラム | |
JP5287623B2 (ja) | 仮想サーバ管理システム、画像処理システム、仮想サーバ管理装置及び制御プログラム | |
CN106101175A (zh) | 设备管控方法、装置和系统 | |
JP2011070435A (ja) | 計算機システム、リクエスト処理方法及びサーバ装置 | |
CN106792843B (zh) | 一种设备管理方法及装置 | |
US20240176762A1 (en) | Geographically dispersed hybrid cloud cluster | |
US20140258540A1 (en) | Management system and method | |
JP2004139366A (ja) | キャッシュ配置方法 | |
JP2013054514A (ja) | 仲介装置、機器管理システムおよびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20130201 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130809 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140408 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140410 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140411 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5544522 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |