JP6368699B2 - Load distribution apparatus and load distribution method - Google Patents
Load distribution apparatus and load distribution method Download PDFInfo
- Publication number
- JP6368699B2 JP6368699B2 JP2015239899A JP2015239899A JP6368699B2 JP 6368699 B2 JP6368699 B2 JP 6368699B2 JP 2015239899 A JP2015239899 A JP 2015239899A JP 2015239899 A JP2015239899 A JP 2015239899A JP 6368699 B2 JP6368699 B2 JP 6368699B2
- Authority
- JP
- Japan
- Prior art keywords
- processing
- load
- site
- processing server
- local
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、データセンタの複数の処理サーバに対して、クライアントからリクエストされた情報処理を実行させるサーバを決定する負荷分散装置および負荷分散方法に関する。 The present invention relates to a load distribution apparatus and a load distribution method for determining a server that executes information processing requested by a client for a plurality of processing servers in a data center.
サーバ構成技術や仮想化技術の発達、激甚災害対策等により、地域や国をまたいでデータセンタが接続され、そのデータセンタ内に複数の処理サーバが存在するようになった。点在する処理サーバに対して負荷を分散するため、ロードバランサのような負荷分散装置を設置し、当該負荷分散装置を用いて要求信号（リクエスト）を処理サーバに振り分け、各処理サーバの負荷を分散させることが一般的である。
例えば、非特許文献１では、各処理サーバの負荷状態（ＣＰＵ使用率など）や応答時間を考慮して振分先の処理サーバを決定し、負荷分散を実現している。
Due to the development of server configuration technology, virtualization technology, and severe disaster countermeasures, data centers are connected across regions and countries, and there are multiple processing servers in the data center. In order to distribute the load to the scattered processing servers, a load distribution device such as a load balancer is installed, and the load distribution device is used to distribute request signals (requests) to the processing servers. It is common to disperse.
For example, in Non-Patent
しかし、地域や国をまたいで信号を処理サーバに振り分けることによって、当該信号において、地域や国をまたぐ分の処理遅延が生じることになる。処理遅延が生じると、例えば通信制御サーバにおいては、後続信号が先行信号を追い抜いたりすることも考えられ問題となる。
一方で、処理遅延を防止するため、拠点内の処理サーバへ優先して信号を割り振ると、拠点内の処理サーバのみ負荷が重くなってしまい、ハードウェアリソースの非効率化や不要なスケーリングにつながってしまう。
非特許文献１に記載の負荷分散方法は、応答時間や処理サーバの負荷を考慮して処理サーバを決定している。しかし、全ての処理サーバの負荷状態や応答時間を収集する必要があるため、処理サーバが地域や国をまたいで存在していた場合は、情報を収集するための信号が増大しネットワーク帯域を圧迫する可能性がある。
However, when a signal is distributed to processing servers across regions and countries, a processing delay corresponding to the region and country is caused in the signal. When the processing delay occurs, for example, in the communication control server, it is considered that the subsequent signal may overtake the preceding signal.
On the other hand, in order to prevent processing delay, if a signal is assigned with priority to the processing server in the base, only the processing server in the base becomes heavy, leading to inefficient hardware resources and unnecessary scaling. End up.
The load distribution method described in
このような背景に鑑みて本発明がなされたのであり、本発明は、処理サーバの情報を収集するための信号量を減らしつつ、応答時間と処理サーバの処理負荷を減らすことができる負荷分散装置および負荷分散方法を提供することを課題とする。 The present invention has been made in view of such a background, and the present invention provides a load distribution apparatus capable of reducing the response time and the processing load of the processing server while reducing the signal amount for collecting information of the processing server. It is another object of the present invention to provide a load balancing method.
前記した課題を解決するため、請求項１に記載の発明は、自身が設置された自拠点の複数の処理サーバ、または前記自拠点から離隔した他拠点の複数の処理サーバに対して、クライアントからリクエストされた情報処理を実行させる処理サーバを決定する負荷分散装置であって、前記自拠点の処理サーバの処理の限界値である負荷制限値を記憶する記憶部と、前記自拠点の処理サーバの負荷情報を取得する負荷情報取得部と、取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記他拠点の処理サーバに振り分けるべき信号を前記自拠点の処理サーバに振り分ける自拠点戻信号数を算出する信号数算出部と、算出した前記自拠点戻信号数分を、前記他拠点から自拠点の処理サーバに振り分ける振分部と、を備える負荷分散装置とした。
In order to solve the above-described problem, the invention according to
また、請求項４に記載の発明は、自身が設置された自拠点の複数の処理サーバ、または前記自拠点から離隔した他拠点の複数の処理サーバに対して、クライアントからリクエストされた情報処理を実行させる処理サーバを決定する負荷分散装置の負荷分散方法であって、前記負荷分散装置は、前記自拠点の処理サーバの処理の限界値である負荷制限値を記憶部に記憶しており、前記自拠点の処理サーバの負荷情報を取得する負荷情報取得ステップと、取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記他拠点の処理サーバに振り分けるべき信号を前記自拠点の処理サーバに振り分ける自拠点戻信号数を算出する信号数算出ステップと、算出した前記自拠点戻信号数分を、前記他拠点から自拠点の処理サーバに振り分ける振分ステップと、実行する負荷分散方法とした。
In addition, the invention according to
このようにすることで、負荷分散装置は、処理サーバの負荷情報を自拠点の処理サーバからしか取得しないので、他拠点の処理サーバから取得する場合と比べて、迅速に、処理サーバの負荷状態や応答時間を取得することが可能となる。これにより、処理サーバの決定に際し、よりタイムリーな情報で負荷分散処理が可能となり、かつ、ネットワーク帯域をも圧迫することも少ない効果がある。特に、処理サーバが地域や国をまたいで存在していた場合に、情報を収集するための信号が増大しネットワーク帯域を圧迫するという問題を解決することができる。 By doing so, the load balancer acquires the load information of the processing server only from the processing server at its own site, so the load status of the processing server is more rapid than when acquiring from the processing server at the other site. And the response time can be acquired. Thereby, when determining the processing server, load distribution processing can be performed with more timely information, and the network bandwidth is hardly reduced. In particular, when the processing server exists across regions and countries, it is possible to solve the problem that the signal for collecting information increases and the network bandwidth is compressed.
また、請求項２に記載の発明は、前記信号数算出部は、前記自拠点の処理サーバで処理した場合の処理ＴＡＴ（Turn Around Time）と、前記他拠点の処理サーバで処理した場合の処理ＴＡＴとに基づいて、前記リクエストをあらかじめ決めた順序で各前記処理サーバに振り分ける場合の処理応答時間の変動を示す平均信号処理ＴＡＴ変動率を算出するとともに、前記自拠点の処理サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記自拠点戻信号数を評価するスコアを算出し、前記振分部は、取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲の中から、最大の前記スコアとなる前記自拠点戻信号分を、前記他拠点から自拠点の処理サーバに振り分けることを特徴とする。
Further, the invention according to
このようにすることで、処理サーバの負荷と応答時間の両面を考慮して、処理負荷を制限しつつ、応答時間をできるだけ早めることができる。換言すれば、自拠点の処理サーバの処理負荷をギリギリまで上げてＴＡＴを減らすことができる。 In this way, it is possible to make the response time as fast as possible while limiting the processing load in consideration of both the load of the processing server and the response time. In other words, it is possible to reduce the TAT by increasing the processing load of the processing server at the local site to the limit.
また、請求項３に記載の発明は、前記負荷情報取得部が、前記自拠点の処理サーバのＣＰＵ使用率を負荷情報として取得することを特徴とする。
The invention according to
このようにすることで、各処理サーバのＣＰＵ使用率は比較的取得が容易であるため、各処理サーバの処理負荷をタイムリーで取得でき、負荷分散動作に直ちに反映させることができる。 In this way, since the CPU usage rate of each processing server is relatively easy to acquire, the processing load of each processing server can be acquired in a timely manner and can be immediately reflected in the load distribution operation.
本発明によれば、処理サーバの情報を収集するための信号量を減らしつつ、応答時間と処理サーバの処理負荷を減らすことができる負荷分散装置および負荷分散方法を提供することができる。 ADVANTAGE OF THE INVENTION According to this invention, the load distribution apparatus and load distribution method which can reduce a response time and the processing load of a processing server can be provided, reducing the signal amount for collecting the information of a processing server.
以下、図面を参照して本発明を実施するための形態（以下、「本実施形態」という）における負荷分散装置等について説明する。
図１は、本実施形態に係る負荷分散装置が適用される分散システムを示す構成図である。
図１に示すように、２つのデータセンタ（ＤＣ：Data Center）１１，１２が存在している。データセンタ１１（自拠点）とデータセンタ１２（他拠点）とは、地域や国をまたいで存在可能である。例えば、データセンタ１１は東京（日本）を拠点とし、データセンタ１２はワシントンＤ.Ｃ.（米国）を拠点とする。データセンタ１１とデータセンタ１２間は、広帯域と低遅延のネットワーク１３で接続される。ただし、データセンタ１１とデータセンタ１２には、信号の拠点間遅延がある。
Hereinafter, a load balancer and the like in a mode for carrying out the present invention (hereinafter referred to as “the present embodiment”) will be described with reference to the drawings.
FIG. 1 is a configuration diagram illustrating a distributed system to which a load distribution apparatus according to the present embodiment is applied.
As shown in FIG. 1, there are two data centers (DC: Data Center) 11 and 12. The data center 11 (own site) and the data center 12 (other sites) can exist across regions and countries. For example, the
本明細書において、自拠点とは、負荷分散装置１００が置かれている拠点をいう。ここでは、自拠点は、データセンタ１１である。他拠点とは、負荷分散装置１００（自身）が置かれている拠点とは別の離れた拠点をいう。ここでは、他拠点は、データセンタ１２である。
データセンタ１１内には、複数（複数台）の処理サーバ２１〜２３が収容されており、各処理サーバ２１〜２３は、負荷分散装置１００にデータセンタ内ネットワークで接続されている。また、データセンタ１２は、複数の処理サーバ２４〜２７がデータセンタ内ネットワークで接続されている。
データセンタ１１は、クライアント３１〜３４がネットワークで接続されて構成される。
クライアント３１〜３４は、ユーザの端末や対向システムであり、データセンタ１１，１２の処理サーバ２１〜２７に対して、アプリケーションの処理を要求する。
In this specification, the own site refers to a site where the
In the
The
The
負荷分散装置１００は、データセンタ１１（自拠点）に存在している。負荷分散装置１００は、データセンタ１１またはデータセンタ１２の処理サーバ２１〜２７に対してクライアント３１〜３４からの要求信号（リクエスト）の振分を行っている。負荷分散装置１００は、クライアント３１〜３４からの要求を受け、データセンタ１１またはデータセンタ１２の処理サーバ２１〜２７のうちの１台を選択し、その選択した処理サーバに処理を依頼する。選択された処理サーバは、クライアント３１〜３４からのアプリケーションの要求を処理する。
このように、負荷分散装置１００は、自身が設置された自拠点の処理サーバ２１〜２３、または自拠点から離隔した他拠点の処理サーバ２４〜２７に対して、クライアント３１〜３４からリクエストされた情報処理を実行させる処理サーバを決定する。負荷分散装置１００の詳細構成については後記する。
The
As described above, the
なお、負荷分散装置１００は、分散システムで動作するプログラムの一例としての分散処理ミドルウェアであってもよく、分散システム内の複数台の処理サーバ２１〜２７に処理を振り分けるロードバランサのいずれでもよい。
The
また、図１の分散システムを構成する各装置は、ＣＰＵ（Central Processing Unit）とメモリとハードディスク（記憶手段）とネットワークインタフェースとを有するコンピュータとして構成され、このコンピュータは、ＣＰＵが、メモリ上に読み込んだプログラムを実行することにより、各処理部を動作させる。
また、図１の分散システムを構成する各装置の台数は、図１に例示した台数に限定されず、任意の台数としてもよい。
1 is configured as a computer having a CPU (Central Processing Unit), a memory, a hard disk (storage means), and a network interface. The computer reads the CPU into the memory. Each processing unit is operated by executing the program.
Further, the number of devices constituting the distributed system in FIG. 1 is not limited to the number illustrated in FIG. 1 and may be an arbitrary number.
負荷分散装置１００の詳細について説明する。
図１に示すように、負荷分散装置１００は、負荷情報取得部１１０と、情報格納部１２０（記憶部）と、信号数算出部１３０と、振分部１４０と、を備える。
Details of the
As shown in FIG. 1, the
<負荷情報取得部１１０>
負荷情報取得部１１０は、自拠点の処理サーバ２１〜２３の負荷情報（例えば、ＣＰＵ使用率、メモリ使用率等がある。本実施形態では、ＣＰＵ使用率を例に採る）を定期的に収集（取得）する。負荷情報取得部１１０は、収集したＣＰＵ使用率（負荷情報）を情報格納部１２０に格納するとともに、振分部１４０に通知する。
<Load
The load
<情報格納部１２０>
情報格納部１２０は、取得したＣＰＵ使用率（負荷情報）や自拠点（ここではデータセンタ１１）の処理サーバ２１〜２３のＣＰＵ限界値（負荷制限値）、データセンタ１１とデータセンタ１２間の処理遅延時間値（拠点間遅延）、自拠点の処理サーバ数、自拠点以外（すなわち他拠点）の処理サーバ数などを拠点情報２００として格納する。情報格納部１２０が保持する拠点情報２００については、図２により後記する。
<
The
<信号数算出部１３０>
信号数算出部１３０は、後記（方法１）を実行する場合、自拠点の処理サーバ数と他拠点の処理サーバ数と他拠点から自拠点で処理するために戻す自拠点戻信号数Ｓ（後記）とを用いて自拠点の処理サーバの負荷変動を示す処理サーバの負荷変動率Ａを算出する。ここで自拠点戻信号数Ｓは、ｎ（ｎは自然数）個あり、Ｓ＝０からＳ＝ｎまで、後記する式（１）に順次当てはめて、自拠点の処理サーバの負荷変動率Ａを求める。なお、自拠点戻信号数Ｓ決定の詳細については実施例１：（方法１）（図５〜図９）で後記する。
そして、信号数算出部１３０は、取得したＣＰＵ使用率（負荷情報）の最大値と自拠点の処理サーバの負荷変動率Ａとに基づいて、ＣＰＵ限界値（負荷制限値）を超えない範囲で、他拠点の処理サーバ２４〜２７が処理すべき信号を自拠点の処理サーバ２１〜２３で処理する自拠点戻信号数Ｓを決定する。
<Signal
When executing the following method (method 1), the signal
And the signal
また、信号数算出部１３０は、後記（方法２）を実行する場合、自拠点の処理サーバ数と他拠点の処理サーバ数と他拠点から自拠点で処理するために戻す自拠点戻信号数Ｓと、自拠点の処理サーバで処理した場合の処理ＴＡＴ（Turn Around Time）（応答時間）と、他拠点の処理サーバで処理した場合の処理ＴＡＴとを用いて、リクエストをあらかじめ決めた順序で各処理サーバに振り分ける場合の応答時間の変動を示す平均信号処理ＴＡＴ変動率Ｂを算出する。ここで自拠点戻信号数Ｓは、ｎ（ｎは自然数）個あり、Ｓ＝０からＳ＝ｎまで、後記する式（２）に順次当てはめて、平均信号処理ＴＡＴ変動率Ｂを求める。
In addition, when executing the following method (method 2), the signal
そして、信号数算出部１３０は、自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂとを用いて、他拠点の処理サーバ２４〜２７が処理すべき信号を自拠点の処理サーバ２１〜２３で処理する自拠点戻信号数Ｓの範囲を算出する。具体的には、信号数算出部１３０は、情報格納部１２０から拠点情報２００（後記図２参照）を参照し、取得した負荷情報の中の最大値と自拠点の処理サーバの負荷変動率Ａを乗算し、あらかじめ設定されている自拠点の処理サーバのＣＰＵ限界値（負荷制限値）を超えない自拠点戻信号数Ｓの範囲を算出し、算出した自拠点戻信号数Ｓの範囲の中で最大の自拠点戻信号数を評価するスコアとなる自拠点戻信号数Ｓを決定する。すなわち、信号数算出部１３０は、自拠点の処理サーバのＣＰＵ使用率の最大値をＡ倍しても自拠点の処理サーバのＣＰＵ限界値（負荷制限値）を超えないような最大自拠点戻信号数の範囲を算出し、この最大自拠点戻信号数を超えない範囲で最も高いスコアとなる自拠点戻信号数Ｓを決定する。なお、スコア算出による自拠点戻信号数Ｓ決定の詳細については実施例２：（方法２）（図１０〜図１３）で後記する。
Then, the signal
ここで、負荷分散装置１００は、各処理サーバに均等にリクエストを振り分けるラウンドロビン（静的分散方式の1つ）を採る場合、上記平均信号処理ＴＡＴ変動率Ｂは、例えばラウンドロビンの１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂである。なお、処理サーバの処理能力に応じてリクエストの分散比率を変えて各処理サーバの負荷を均等にする重み付きラウンドロビンに適用し、この重み付きラウンドロビンにおいて、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂを算出する態様でもよい。
Here, when the
<振分部１４０>
振分部１４０は、クライアント３１〜３４からの要求信号（リクエスト）を受け取ると、あらかじめ決められた方法（例えばラウンドロビン方式）によって振分先の処理サーバを決める。
<
Upon receiving the request signals (requests) from the
また、振分部１４０は、後記（方法１）を実行する場合、算出した自拠点戻信号数Ｓ分だけ、本来他拠点の処理サーバに振り分けていた信号を自拠点の処理サーバ２１〜２３に振り分ける。具体的には、振分部１４０は、振分先の処理サーバが自拠点以外（すなわち他拠点）の処理サーバ２４〜２７だった場合、決定した自拠点戻信号数Ｓの分だけ、自拠点の処理サーバ２１〜２３に振り分ける（実施例１：（方法１）で後記）。
Further, when executing the postscript (method 1), the allocating
また、振分部１４０は、後記（方法２）を実行する場合、自拠点の処理サーバのＣＰＵ限界値（負荷制限値）を超えない自拠点戻信号数Ｓの範囲の中で最大のスコアとなる自拠点戻信号数Ｓ分を、他拠点から自拠点の処理サーバ２１〜２３に振り分ける（実施例２：（方法２）で後記）。
In addition, when executing the postscript (method 2), the allocating
図２は、図１の負荷分散装置１００の情報格納部１２０が格納する拠点情報２００を示す図である。
図２に示すように、情報格納部１２０は、拠点情報２００として、自拠点の処理サーバのＣＰＵ限界値（負荷制限値）、拠点間遅延、自拠点の処理サーバ数、他拠点の処理サーバ数、自拠点の処理サーバ２１〜２３の使用率（処理サーバ２１のＣＰＵ使用率、処理サーバ２２のＣＰＵ使用率、および処理サーバ２３のＣＰＵ使用率）を格納する。なお、上記ＣＰＵ限界値を格納しておくことで、上記ＣＰＵ使用率の最大値をＡ（自拠点の処理サーバの負荷変動率）倍した場合の比較から、自拠点戻信号数Ｓを決定することができる。
FIG. 2 is a diagram illustrating the
As shown in FIG. 2, the
図２の例では、自拠点の処理サーバのＣＰＵ限界値は、「８０」(ＣＰＵ限界値の最大値を１００％とした場合、その８０％)である。
拠点間遅延は、「１０００」(１０００[ｍｓ])である。
自拠点の処理サーバ数は、自拠点（データセンタ１１）内に３つの処理サーバ２１〜２３（図１参照）を有するので「３」である。
他拠点の処理サーバ数は、他拠点（データセンタ１２）内に４つの処理サーバ２４〜２７（図１参照）を有するので「４」である。
自拠点の処理サーバ２１のＣＰＵ使用率は、「３５」（ＣＰＵ使用率の最大値を１００％とした場合、その３５％。以下同様。)、処理サーバ２２のＣＰＵ使用率は、「３４」、処理サーバ２３のＣＰＵ使用率は、「３４」である。
In the example of FIG. 2, the CPU limit value of the local processing server is “80” (80% when the maximum value of the CPU limit value is 100%).
The inter-base delay is “1000” (1000 [ms]).
The number of processing servers at the local site is “3” because there are three processing
The number of processing servers at other bases is “4” because there are four processing servers 24-27 (see FIG. 1) in the other base (data center 12).
The CPU usage rate of the
以下、上述のように構成された負荷分散装置１００の負荷分散方法について説明する。
［原理説明］
まず、本発明の基本的な考え方について述べる。
本発明は、処理サーバの処理負荷を考慮しながら、本来であれば他拠点の処理サーバへ振り分けられる信号を自拠点の処理サーバへ振り分ける（戻す）。
ここで、自拠点の処理サーバ数をＮｍ、他拠点の処理サーバ数をＮｎ、本来他拠点で処理する信号を自拠点の処理サーバで処理する１ラウンドあたりの自拠点戻信号数をＳ（０≦Ｓ≦Ｎｎ）とすると、自拠点の処理サーバの負荷変動率Ａは、次式（１）で示される。
Hereinafter, a load distribution method of the
[Principle explanation]
First, the basic concept of the present invention will be described.
The present invention distributes (returns) a signal that is originally distributed to a processing server at another site to the processing server at its own site, while considering the processing load of the processing server.
Here, the number of processing servers at its own base is Nm, the number of processing servers at other bases is Nn, and the number of own-site return signals per round in which signals processed originally at other bases are processed by the processing server at its own base is S (0 ≦ S ≦ Nn), the load fluctuation rate A of the processing server at the local site is expressed by the following equation (1).
自拠点の処理サーバの負荷変動率Ａ＝（Ｎｍ＋Ｓ）／Ｎｍ …（１） Load fluctuation rate A = (Nm + S) / Nm (1)
また、自拠点の処理サーバで処理した場合の処理ＴＡＴ（Turn Around Time）（応答時間）を１としたとき、他拠点の処理サーバで処理した場合の処理ＴＡＴをＤとすると、平均信号処理ＴＡＴ変動率Ｂ（１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂ）は、次式（２）で示される。 Further, when the processing TAT (Turn Around Time) (response time) when processing is performed at the processing server at the local site is 1, and the processing TAT when processing is performed at the processing server at another base is D, the average signal processing TAT The fluctuation rate B (average signal processing TAT fluctuation rate B in one round) is expressed by the following equation (2).
平均信号処理ＴＡＴ変動率Ｂ＝（（Ｎｍ＋Ｓ）＋Ｄ＊（Ｎｎ-Ｓ））／（Ｎｍ＋Ｄ＊Ｎｎ） …（２） Average signal processing TAT fluctuation rate B = ((Nm + S) + D * (Nn−S)) / (Nm + D * Nn) (2)
負荷分散装置１００は、自拠点戻信号数Ｓを決定する方法として（方法１）と、（方法２）と、を備える。
The
（方法１）：自拠点の処理サーバの負荷変動率Ａを用いて自拠点戻信号数Ｓを決定する。
負荷分散装置１００は、自拠点の各処理サーバのＣＰＵ使用率（負荷情報）を取得し、取得した負荷情報の中の最大値と自拠点の処理サーバの負荷変動率Ａを乗算する。あらかじめ設定されている処理サーバのＣＰＵ限界値（負荷制限値）を超えない範囲で最大の自拠点戻信号数Ｓを算出し、算出した自拠点戻信号数Ｓまで他拠点信号を自拠点の処理サーバで処理するようにする。
(Method 1): The own site return signal number S is determined using the load fluctuation rate A of the processing server at the own site.
The
（方法２）：自拠点の処理サーバの負荷変動率Ａを用いて最大自拠点戻信号数の範囲を算出し、最大自拠点戻信号数の範囲中で最大のスコアとなる自拠点戻信号数Ｓを決定する。
負荷分散装置１００は、自拠点の各処理サーバのＣＰＵ使用率（負荷情報）を取得し、取得した負荷情報の中の最大値と自拠点の処理サーバの負荷変動率Ａを乗算する。あらかじめ設定されている処理サーバの負荷制限値を超えない自拠点戻信号数Ｓの範囲を算出する。算出した自拠点戻信号数Ｓの範囲の中で最大のスコアとなる自拠点戻信号数Ｓの値で他拠点信号を自拠点の処理サーバで処理するようにする。上記スコアは、自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂを用いて算出される評価関数で表される値である。例えば、スコアの一例として、自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂから算出される減少関数を評価関数として用いる。この減少関数は、自拠点の処理サーバの負荷変動率Ａまたは平均信号処理ＴＡＴ変動率Ｂが減少すると、スコアが上昇する値（例えば１／（Ａ＊Ｂ））である。
(Method 2): The range of the maximum local site return signal number is calculated using the load fluctuation rate A of the processing server of the local site, and the local site return signal number that becomes the maximum score in the range of the maximum local site return signal number S is determined.
The
上記（方法１）または（方法２）により、自拠点戻信号数Ｓが決定した後、負荷分散装置１００は、本来他拠点の処理サーバに振り分けられる信号（本来他拠点の処理サーバが処理するはずだった信号）を自拠点戻信号数Ｓ分だけ、自拠点の処理サーバで処理するように自拠点の処理サーバへ振り分ける。その際、負荷分散装置１００は、自拠点のどの処理サーバを選択するかは、負荷分散装置１００がこれまで用いていた振分アルゴリズムに従えばよい。
After the self-site return signal number S is determined by the above (Method 1) or (Method 2), the
まず、上記（方法１）の具体的動作例について説明する。
［実施例１：（方法１）の動作例］
上記（方法１）は、自拠点の処理サーバの処理負荷をギリギリまで上げてＴＡＴを減らす手法を提供する。
図３および図４を参照して負荷分散装置１００の負荷分散方法の（方法１）動作について説明する。
図３は、負荷分散装置１００の負荷分散動作を説明する図である。図１と同一構成部には同一符号を付している。
図３に示すように、データセンタ１１（自拠点）とデータセンタ１２（他拠点）とは、国をまたいで存在しているので、信号の拠点間遅延がある。
図３において、自拠点（データセンタ１１）内の負荷分散装置１００から各処理サーバ２１〜２７に伸びる矢印（細実線矢印、破線矢印、太実線矢印）は、負荷分散装置１００が各処理サーバ２１〜２７に信号を振り分けることを示している。例えば、負荷分散装置１００は、図３の細実線矢印（→印）に示すように、データセンタ１１とデータセンタ１２の処理サーバ２１〜２３，２５〜２７に対してクライアントからの要求信号の振分を行っている。
First, a specific operation example of the above (Method 1) will be described.
[Example 1: Operation example of (Method 1)]
The above (Method 1) provides a method of reducing TAT by increasing the processing load of the processing server at its own site to the limit.
With reference to FIG. 3 and FIG. 4, the (method 1) operation of the load distribution method of the
FIG. 3 is a diagram for explaining the load distribution operation of the
As shown in FIG. 3, since the data center 11 (own site) and the data center 12 (other sites) exist across countries, there is a delay between signals.
In FIG. 3, arrows (thin solid line arrow, broken line arrow, thick solid line arrow) extending from the
原理説明の（方法１）で述べたように、負荷分散装置１００は、自拠点の処理サーバの負荷変動率Ａを用いて自拠点戻信号数Ｓを算出し、算出した自拠点戻信号数Ｓまで本来他拠点の処理サーバに振り分けられる信号を自拠点戻信号数Ｓ分だけ、自拠点の処理サーバに振り分ける。図３の符号ａおよび白抜き矢印（⇒印）に示すように、本来であれば他拠点の処理サーバ２４に振り分けられる信号（破線矢印参照）を自拠点の処理サーバ２１へ振り分ける（太実線矢印参照）。
As described in (Method 1) of the principle explanation, the
図４は、図３の負荷分散装置１００によって、他拠点の処理サーバ２４〜２７に振り分ける信号を自拠点の処理サーバ２１〜２３で処理する負荷分散動作を表にして説明する図である。図４は、１ラウンドあたりの自拠点戻信号数Ｓが１の場合の振分例を示す。図４の縦軸は処理サーバによってシーケンシャル処理される信号１〜１４を示し、横軸は処理サーバ２１〜２７（自拠点の処理サーバ２１〜２３と他拠点の処理サーバ２４〜２７）を示す。図４において、実線の白丸（○印）は信号が該当処理サーバに振り分けられることを示している。例えば、図４の信号１と自拠点の処理サーバ２１とが交差する位置の実線の白丸（○印）は、信号１が自拠点の処理サーバ２１に振り分けられることを示している。また、図４において、破線の白丸（破線○印）は、本来他拠点の処理サーバに振り分けられる信号が自拠点の処理サーバに振り分けられた（戻された）ことを示している。例えば、図４の信号４と自拠点の処理サーバ２１とが交差する位置の実線の白丸（○印）は、本来他拠点の処理サーバ２４に振り分けられる信号４が自拠点の処理サーバ２１に振り分けられることを示している。
FIG. 4 is a diagram illustrating the load distribution operation in which the
図４に示すように、１ラウンドあたりの自拠点戻信号数Ｓが１の場合、自拠点戻信号数Ｓが１であるので、１ラウンドあたり他拠点の処理サーバに振り分けられる信号の１つを自拠点の処理サーバへ振り分ける。すなわち、図４の符号ａおよび破線の白丸（破線○印）に示すように、本来であれば他拠点の処理サーバ２４（図３参照）に振り分けられる信号を自拠点の処理サーバ２１（図３参照）へ振り分ける。また、図４の符号ｂおよび破線の白丸（破線○印）に示すように、本来であれば他拠点の処理サーバ２５（図３参照）に振り分けられる信号を自拠点の処理サーバ２２（図３参照）へ振り分ける。
As shown in FIG. 4, when the local site return signal number S per round is 1, the local site return signal number S is 1. Therefore, one signal distributed to the processing servers at other sites per round is obtained. Distribute to the processing server at your site. That is, as indicated by a symbol a in FIG. 4 and a white circle with a broken line (dashed circle mark), a signal that is normally distributed to the
図４の符号ｃおよび破線の枠囲みに示すように、１ラウンドあたりの自拠点戻信号数Ｓが１の場合の振分例の効果は下記の通りである。
すなわち、他拠点の処理サーバ２４〜２７に振り分けられる信号の１つを自拠点の処理サーバ２１〜２３へ振り分けることで、自拠点の処理サーバ２１〜２３の負荷は４／３倍になった。また、１ラウンドにおける平均信号処理ＴＡＴ変動率Ｂは、前記式（２）にＮｍ「３」とＮｎ「４」を代入することで、（４＋Ｄ＊３）／（３＋Ｄ＊４）倍となることが分かる。他拠点の処理サーバ２４〜２７に振り分けられていた信号が自拠点の処理サーバ２１〜２３により多く振り分けられるので、本負荷分散動作を実施しない場合と比べて、迅速に取得が可能であり、よりタイムリーな情報で負荷分散処理が可能となり、かつ、ネットワーク帯域も圧迫することも少ない効果がある。
As shown in the reference symbol c and the dashed box in FIG. 4, the effects of the example of distribution when the number S of local return signals per round is 1 are as follows.
That is, by assigning one of the signals distributed to the
図５は、負荷分散装置１００の（方法１）の負荷分散のシーケンス例を示すフローチャートである。図６は、図５のシーケンス例を説明する図である。図３と同一構成部には同一符号を付している。
図５のステップＳ１０１において、負荷分散装置１００の負荷情報取得部１１０（図１参照）は、定期的に自拠点の処理サーバ２１〜２３のＣＰＵ使用率（負荷情報）を取得する。図６の符号ａに示すように、負荷情報取得部１１０は、処理サーバ２１のＣＰＵ使用率「４５」、処理サーバ２２のＣＰＵ使用率「４４」、処理サーバ２３のＣＰＵ使用率「４７」を取得する。
FIG. 5 is a flowchart illustrating a load balancing sequence example of the (method 1) of the
In step S101 of FIG. 5, the load information acquisition unit 110 (see FIG. 1) of the
図５のステップＳ１０２において、負荷情報取得部１１０は、取得した情報を情報格納部１２０に格納し、振分部１４０（図１参照）に通知する。図７は、情報格納部１２０が保持する拠点情報２００を示す図である。図７の例では、情報格納部１２０は、自拠点の処理サーバ２１〜２３のＣＰＵ限界値「８０」、拠点間遅延「１０００」、自拠点の処理サーバ数「３」、他拠点の処理サーバ数「４」を格納している。
In step S102 of FIG. 5, the load
図５のステップＳ１０３において、信号数算出部１３０（図１参照）は、情報格納部１２０から拠点情報２００（図７参照）を取り出し、自拠点の処理サーバ数と他拠点の処理サーバ数と自拠点戻信号数Ｓとを用いて、式（１）に、Ｓ＝０からＳ＝ｎまでを順次当てはめて、自拠点戻信号数Ｓ毎の自拠点の処理サーバの負荷変動率Ａを算出する。図８は、信号数算出部１３０により算出された自拠点戻信号数Ｓ、および自拠点の処理サーバの負荷変動率Ａの算出例を示す図である。図８に示すように、自拠点戻信号数Ｓ「０」，「１」，…である場合にそれぞれ対応する自拠点の処理サーバ２１〜２３の負荷変動率Ａ「１」，「１．３３」，…が算出される。
In step S103 of FIG. 5, the signal number calculation unit 130 (see FIG. 1) retrieves the base information 200 (see FIG. 7) from the
図５のステップＳ１０４において、信号数算出部１３０は、取得したＣＰＵ使用率（負荷情報）の最大値と自拠点の処理サーバの負荷変動率Ａとに基づいて、ＣＰＵ限界値（負荷制限値）を超えない範囲で、本来他拠点の処理サーバに振り分けられる信号を自拠点の処理サーバ２１〜２３に振り分ける（戻す）自拠点戻信号数Ｓを決定する（詳細は後記する）。
In step S104 in FIG. 5, the signal
図５のステップＳ１０５において、振分部１４０は、クライアント３１〜３４（図１参照）からの要求信号を受け取ると、あらかじめ決められた方法（例えばラウンドロビン方式）によって振分先の処理サーバを決める。特に、振分部１４０は、振分先の処理サーバが自拠点以外（すなわち他拠点）の処理サーバ２４〜２７だった場合、算出した自拠点戻信号数Ｓの分だけ、本来他拠点の処理サーバに振り分けられる信号を自拠点の処理サーバ２１〜２３に振り分ける。
In step S105 of FIG. 5, when the
本例の場合、図６の符号ａに示すように、取得された自拠点の処理サーバ２１〜２３のＣＰＵ使用率（負荷情報）は、処理サーバ２１のＣＰＵ使用率「４５」、処理サーバ２２のＣＰＵ使用率「４４」、処理サーバ２３のＣＰＵ使用率「４７」であり、ＣＰＵ使用率の最大値は、処理サーバ２３の「４７」である。また、図７に示すように、情報格納部１２０には、拠点情報２００として、自拠点の処理サーバのＣＰＵ限界値「８０」、拠点間遅延「１０００」、自拠点の処理サーバ数「３」、他拠点の処理サーバ数「４」が格納されている。さらに、信号数算出部１３０は、図８に示す自拠点戻信号数Ｓおよび自拠点の処理サーバの負荷変動率Ａを算出している。
In the case of this example, as indicated by the symbol a in FIG. 6, the CPU usage rate (load information) of the acquired
この場合、図８の符号ａに示すように、振分部１４０は、取得したＣＰＵ使用率の最大値「４７」を、自拠点戻信号数Ｓ「２」のときの自拠点の処理サーバの負荷変動率Ａ「１．６７」基にして、１．６７倍してもＣＰＵ限界値「８０」を超えないため、自拠点戻信号数Ｓは「２」と決定される。振分部１４０は、２信号を自拠点の処理サーバ２１〜２３へ振り分ける。
In this case, as shown by reference symbol a in FIG. 8, the allocating
２信号を自拠点の処理サーバ２１〜２３へ振り分ける具体例について、図９を参照して説明する。
図９は、図６ないし図８の算出例において、他拠点の処理サーバ２４〜２７に振り分ける信号を自拠点の処理サーバ２１〜２３で処理する負荷分散動作を表にして説明する図である。図９は、ラウンドロビンで負荷分散を行っていて、２信号を自拠点の処理サーバ２１〜２３で処理するようにする場合を例に採る。
図９の縦軸は処理サーバ２１〜２７によってシーケンシャル処理される信号１〜２１を、横軸は処理サーバ２１〜２７（自拠点の処理サーバ２１〜２３と他拠点の処理サーバ２４〜２７）をそれぞれ示す。図９において、実線の白丸（○印）は信号が該当処理サーバに振り分けられることを示している。また、破線の白丸（破線○印）は、本来他拠点の処理サーバに振り分けられる信号が自拠点の処理サーバに振り分けられた（戻された）ことを示している。
A specific example of distributing the two signals to the
FIG. 9 is a diagram illustrating the load distribution operation for processing the signals distributed to the
9, the vertical axis represents
図９の符号ａに示すように、自拠点戻信号数Ｓが「２」であるので、２信号の自拠点の処理サーバ２１〜２３への振り分けを開始する。図９の破線以下の信号の振り分けにおいて、他拠点の処理サーバ２４〜２７に振り分けられる信号の２つを自拠点の処理サーバ２１〜２３へ振り分ける。この例では、図９の符号ｂおよび破線の白丸（破線○印）に示すように、信号１１，１２は本来であれば他拠点の処理サーバ２４，２５に振り分けられる信号を自拠点の処理サーバ２１，２２へ振り分ける。また、図９の符号ｃおよび破線の白丸（破線○印）に示すように、信号２０，２１は本来であれば他拠点の処理サーバ２６，２７に振り分けられる信号を自拠点の処理サーバ２０，２１へ振り分ける。
As indicated by the symbol a in FIG. 9, since the local site return signal number S is “2”, distribution of the two signals to the
（方法１）の負荷分散によれば、処理サーバの負荷と応答時間の両面を考慮して、処理負荷を制限しつつ、応答時間をできるだけ早めることができ、自拠点の処理サーバ２１〜２３の処理負荷をギリギリまで上げてＴＡＴを減らすことができる。 According to the load distribution of (Method 1), it is possible to speed up the response time as much as possible while limiting the processing load in consideration of both the load of the processing server and the response time. TAT can be reduced by increasing the processing load to the limit.
次に、上記（方法２）の具体的動作例について説明する。
［実施例２：（方法２）の動作例］
上記（方法２）は、処理負荷とＴＡＴから算出されるスコアを最大にする手法を提供する。
Next, a specific operation example of the above (Method 2) will be described.
[Example 2: Operation example of (Method 2)]
The above (Method 2) provides a method for maximizing the score calculated from the processing load and TAT.
図１０は、負荷分散装置１００の（方法２）の負荷分散のシーケンス例を示すフローチャートである。図１１は、図１０のシーケンス例を説明する図である。図３と同一構成部には同一符号を付している。
図１０のステップＳ１０１において、負荷分散装置１００の負荷情報取得部１１０（図１参照）は、定期的に自拠点の処理サーバ２１〜２３のＣＰＵ使用率（負荷情報）を取得する。図１１の符号ａに示すように、負荷情報取得部１１０は、処理サーバ２１のＣＰＵ使用率「３５」、処理サーバ２２のＣＰＵ使用率「３４」、処理サーバ２３のＣＰＵ使用率「３４」を取得する。
FIG. 10 is a flowchart illustrating a load balancing sequence example of the (method 2) of the
In step S101 of FIG. 10, the load information acquisition unit 110 (see FIG. 1) of the
図１０のステップＳ１０２において、負荷情報取得部１１０は、取得した情報を情報格納部１２０に格納し、振分部１４０（図１参照）に通知する。前記図７は、情報格納部１２０が保持する拠点情報２００を示す図である。前記図７の例では、情報格納部１２０は、自拠点の処理サーバ２１〜２３のＣＰＵ限界値「８０」、拠点間遅延「１０００」、自拠点の処理サーバ数「３」、他拠点の処理サーバ数「４」を格納している。
In step S102 of FIG. 10, the load
図１０のステップＳ２０３において、信号数算出部１３０（図１参照）は、情報格納部１１０から拠点情報２００（図７参照）を取り出し、自拠点戻信号数Ｓ毎の自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂとスコアとを算出する。図１２は、振分部１４０により算出された自拠点戻信号数Ｓ、自拠点の処理サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率Ｂ、およびスコアの算出例を示す図である。なお、スコアは、減少関数（１／（Ａ＊Ｂ））を用いている。自拠点の処理サーバの負荷変動率Ａは、前記式（１）にＮｍ「３」を代入することによって算出され、また平均信号処理ＴＡＴ変動率Ｂは、前記式（２）にＮｍ「３」とＮｎ「４」を代入することで算出される。例えば、自拠点戻信号数Ｓ「１」の場合には、Ｎｍ「３」とＳ「１」を前記式（１）に導入して自拠点の処理サーバの負荷変動率Ａ「１．３３」が算出され、またＮｍ「３」とＮｎ「４」とＳ「１」を前記式（２）に導入して平均信号処理ＴＡＴ変動率Ｂ「０．７５」が算出される。また、Ｓ「１」の場合のスコアは、減少関数（１／（Ａ＊Ｂ））に、Ａ「１．３３」とＢ「０．７５」を代入することで、スコア「０．９９」が算出される。同様にして、Ｓ「２」の場合には、自拠点の処理サーバの負荷変動率Ａ「１．６７」、平均信号処理ＴＡＴ変動率Ｂ「０．５１」、スコア「１．１８」が算出され、Ｓ「３」の場合には、自拠点の処理サーバの負荷変動率Ａ「２」、平均信号処理ＴＡＴ変動率Ｂ「０．２６」、スコア「１．９０」が算出され、Ｓ「４」の場合には、自拠点の処理サーバの負荷変動率Ａ「２．３３」、平均信号処理ＴＡＴ変動率Ｂ「０．０２」、スコア「２４．６７」が算出される。
In step S203 of FIG. 10, the signal number calculation unit 130 (see FIG. 1) extracts the base information 200 (see FIG. 7) from the
図１０のステップＳ２０４において、振分部１４０は、クライアント３１〜３４（図１参照）からの要求信号を受け取ると、あらかじめ決められた方法（例えばラウンドロビン方式）によって振分先の処理サーバを決める。特に、振分部１４０は、振分先の処理サーバが自拠点以外（すなわち他拠点）の処理サーバ２４〜２７だった場合、最大自拠点戻信号数を超えない範囲で最も高いスコアとなる最大自拠点戻信号数の分だけ、本来他拠点の処理サーバに振り分けられる信号を自拠点の処理サーバ２１〜２３に振り分ける。
In step S204 of FIG. 10, when the
本例の場合、図１１に示すように、取得された自拠点の処理サーバ２１〜２３のＣＰＵ使用率（負荷情報）は、処理サーバ２１のＣＰＵ使用率「３５」、処理サーバ２２のＣＰＵ使用率「３４」、処理サーバ２３のＣＰＵ使用率「３４」であり、ＣＰＵ使用率の最大値は、処理サーバ２１の「３５」である。また、前記図７に示すように、情報格納部１２０には、拠点情報２００として、自拠点の処理サーバのＣＰＵ限界値「８０」、拠点間遅延「１０００」、自拠点の処理サーバ数「３」、他拠点の処理サーバ数「４」が格納されている。さらに、信号数算出部１３０は、図１２に示す自拠点戻信号数Ｓ、自拠点の処理サーバの負荷変動率Ａ、平均信号処理ＴＡＴ変動率Ｂ、およびスコアを算出している。
In the case of this example, as shown in FIG. 11, the CPU usage rate (load information) of the acquired
この場合、図１２の符号ａに示すように、振分部１４０は、取得したＣＰＵ使用率の最大値「３５」を２倍してもＣＰＵ限界値「８０」を超えないため、自拠点戻信号数Ｓ「３」が最大自拠点戻信号数の範囲となり、この最大自拠点戻信号数の範囲の３信号を自拠点の処理サーバ２１〜２３へ振り分けることが可能である。ちなみに、この最大自拠点戻信号数をそのまま自拠点戻信号数Ｓとして決定する方法が前記（方法１）に対応する。
In this case, as shown by the symbol a in FIG. 12, the allocating
一方、図１２の符号ｂに示すように、振分部１４０は、最大自拠点戻信号数を超えない範囲で最も高いスコアは自拠点戻信号数Ｓが「３」のため、自拠点戻信号数Ｓ「３」の範囲の中で最も高いスコアであるスコア「１．９０」が選ばれ、そして該スコア「１．９０」が示すＳ「３」が決定される。この例では、スコアから自拠点戻信号数Ｓを決定した場合もＳ「３」が決定され、３信号を自拠点の処理サーバ２１〜２３に振り分けることができる。
On the other hand, as shown by the symbol b in FIG. 12, the allocating
図１２の例では、自拠点の処理サーバの負荷変動率Ａのみを用いて、自拠点戻信号数Ｓを決定する方法（方法１）によるＳ「３」と（図１２の符号ａ参照）、最大自拠点戻信号数の範囲の中で最大のスコアとなる自拠点戻信号数Ｓを決定する方法（方法２）によるＳ「３」と（図１２の符号ｂ参照）、が同じ結果となっているが、決定される自拠点戻信号数Ｓが両者で異なる場合もあり得る。すなわち、スコアの値によっては最大自拠点戻信号数の範囲の中から、スコアの値がより高い別の自拠点戻信号数Ｓが決定されることは有り得る。両者による自拠点戻信号数Ｓが異なった場合、（方法２）による自拠点戻信号数Ｓの決定を優先させる。
このように、（方法２）では、（方法１）で得られた最大自拠点戻信号数の範囲から、最も評価の高い自拠点戻信号数Ｓを決定するので、より信頼度の高い自拠点戻信号数Ｓを得ることができる。その結果、より最適な自拠点戻信号数Ｓ分だけ他拠点から自拠点の処理サーバに振り分けることができるので、負荷分散のさらなる最適化を図ることができ、より一層処理負荷を制限しつつ、応答時間をできるだけ早めることができる。
In the example of FIG. 12, S “3” by the method (method 1) for determining the local site return signal number S using only the load fluctuation rate A of the processing server at the local site (see symbol a in FIG. 12), S “3” obtained by the method (method 2) for determining the number S of local site return signals S having the maximum score in the range of the maximum number of local site return signals (see symbol b in FIG. 12) has the same result. However, there may be a case where the determined number S of returning signals from the own site differs between the two. That is, depending on the score value, it is possible that another own base return signal number S having a higher score value is determined from the range of the maximum self base return signal number. When the number S of own site return signals by the two is different, priority is given to the determination of the number S of own site return signals by (Method 2).
In this way, in (Method 2), the highest number of own site return signals S is determined from the range of the maximum number of own site return signals obtained in (Method 1). The number S of return signals can be obtained. As a result, since it is possible to distribute from the other bases to the processing server at the local site by the optimal number of local site return signals S, further optimization of load distribution can be achieved, while further limiting the processing load, Response time can be accelerated as much as possible.
３信号を自拠点の処理サーバ２１〜２３へ振り分ける具体例について、図１３を参照して説明する。
図１３は、（方法２）において、他拠点の処理サーバに振り分ける信号を自拠点の処理サーバで処理する負荷分散動作を表にして説明する図である。図１３は、ラウンドロビンで負荷分散を行っていて、３信号を自拠点の処理サーバ２１〜２３で処理するようにする場合を例に採る。
図１３の縦軸は処理サーバによってシーケンシャル処理される信号１〜１４を、横軸は処理サーバ２１〜２７（自拠点の処理サーバ２１〜２３と他拠点の処理サーバ２４〜２７）をそれぞれ示す。図１３において、実線の白丸（○印）は信号が該当処理サーバに振り分けられることを示している。また、破線の白丸（破線○印）は、本来他拠点の処理サーバに振り分けられる信号が自拠点の処理サーバに振り分けられた（戻された）ことを示している。
A specific example in which the three signals are distributed to the
FIG. 13 is a diagram illustrating, in a table, a load distribution operation in which a signal distributed to a processing server at another site is processed by the processing server at its own site in (Method 2). FIG. 13 shows an example in which load distribution is performed by round robin and three signals are processed by the
The vertical axis in FIG. 13 indicates
自拠点戻信号数Ｓが「３」であるので、図１３の符号ａに示すように３信号の自拠点の処理サーバへ２１〜２３の振り分けを開始する。図１３の破線以下の信号の振り分けにおいて、他拠点の処理サーバ２４〜２７に振り分けられる信号の３つを自拠点の処理サーバ２１〜２３へ振り分ける。この例では、図１３の破線以下の破線の白丸（破線○印）に示すように、信号１１，１２，１３は本来であれば他拠点の処理サーバ２４，２５，２６に振り分けられる信号を自拠点の処理サーバ２１，２２，２３へ振り分ける。
Since the number S of own site return signals is “3”, the distribution of 21 to 23 is started to the processing server at the own site of 3 signals as indicated by reference symbol a in FIG. In the distribution of signals below the broken line in FIG. 13, three of the signals distributed to the
（方法２）の負荷分散によれば、処理サーバの負荷と応答時間と評価関数を用いたスコアをもとに、算出されるスコアを最大にする自拠点戻信号数Ｓの値で他拠点信号を自拠点の処理サーバ２１〜２３で処理するようにすることで、より一層処理負荷を制限しつつ、応答時間をできるだけ早めることができる。
According to the load distribution in (Method 2), based on the load of the processing server, the response time, and the score using the evaluation function, the signal of the other base is obtained with the value of the number S of local return signals that maximizes the calculated score. Is processed by the
なお、上記（方法２）では、信号数算出部１３０は、自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂから減少関数（評価関数）を用いてスコアを算出しているが、平均信号処理ＴＡＴ変動率Ｂを用いるものであればよく、評価関数に基づくスコアを算出しないものでもよい。すなわち、自拠点の処理サーバの負荷変動率Ａと平均信号処理ＴＡＴ変動率Ｂを用いて自拠点戻信号数Ｓを決定するものであれば、どのようなものでもよい。
また、自拠点の処理サーバの負荷変動率Ａを用いることなく、平均信号処理ＴＡＴ変動率Ｂのみを用いるものでもよい。この場合には、あらかじめＴＡＴ変動率Ｂ目標値を設定し、実測値との差値等から自拠点戻信号数Ｓを求めることができる。
In the above (Method 2), the signal
Further, only the average signal processing TAT fluctuation rate B may be used without using the load fluctuation rate A of the processing server at its own site. In this case, the TAT fluctuation rate B target value can be set in advance, and the local site return signal number S can be obtained from the difference value from the actual measurement value or the like.
以上説明したように、本実施形態の負荷分散装置１００は、自拠点の処理サーバのＣＰＵ限界値（負荷制限値）を記憶する情報格納部１２０と、自拠点の処理サーバのＣＰＵ使用率（負荷情報）を取得する負荷情報取得部１１０と、取得したＣＰＵ使用率の最大値と自拠点の処理サーバの負荷変動率Ａとに基づいて、ＣＰＵ限界値を超えない範囲で、他拠点の処理サーバに振り分けるべき信号を自拠点の処理サーバに振り分ける自拠点戻信号数Ｓを算出する信号数算出部１３０と、算出した自拠点戻信号数Ｓ分を、他拠点から自拠点の処理サーバに振り分ける振分部１４０と、を備える。
As described above, the
これにより、負荷分散装置１００は、処理サーバの負荷情報を自拠点の処理サーバ２１〜２３からしか取得しないので、他拠点の処理サーバ２４〜２７から取得する場合と比べて、迅速に、処理サーバの負荷状態や応答時間を取得することが可能となる。よって、処理サーバの決定に際し、よりタイムリーな情報で負荷分散処理が可能となり、かつ、ネットワーク帯域も圧迫することも少ない効果がある。特に、処理サーバが地域や国をまたいで存在していた場合に、情報を収集するための信号が増大しネットワーク帯域を圧迫するという問題を解決することができる。
Thereby, since the
また、本実施形態では、ＣＰＵ限界値を超えない範囲で、本来他拠点の処理サーバ２４〜２７が処理すべき信号を自拠点の処理サーバ２１〜２３に戻す振分を行っている。換言すれば、負荷分散装置１００は、自拠点の処理サーバ２１〜２３への信号の振り分けを最適化するようにしているので、他拠点の処理サーバ２４〜２７への信号の振分を、より減らすことで、処理遅延を防止しつつ、自拠点の処理サーバ２１〜２３に過度の処理負荷をかけないようにしてハードウェアリソースの非効率化や不要なスケーリングを抑制することができる。
Further, in the present embodiment, within a range that does not exceed the CPU limit value, the distribution of the signals that should be processed by the
なお、他拠点の処理サーバに振り分けられる信号を自拠点の処理サーバへ振り分ける（戻す）動作は、信号を他拠点から自拠点へ巻き取るイメージとなっている。この点で、自拠点の処理サーバへの「振り分け（戻す）」は、「巻き取り」と呼称してもよい。 The operation of distributing (returning) the signal distributed to the processing server at the other site to the processing server at the own site is an image of winding the signal from the other site to the own site. In this respect, “sorting (returning)” to the processing server at the local site may be referred to as “winding”.
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上述文書中や図面中に示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。
In addition, among the processes described in the above embodiment, all or part of the processes described as being performed automatically can be performed manually, or the processes described as being performed manually can be performed. All or a part can be automatically performed by a known method. In addition, the processing procedures, control procedures, specific names, and information including various data and parameters shown in the above-described document and drawings can be arbitrarily changed unless otherwise specified.
Further, each component of each illustrated apparatus is functionally conceptual, and does not necessarily need to be physically configured as illustrated. That is, the specific form of distribution / integration of each device is not limited to the one shown in the figure, and all or a part of the distribution / integration may be functionally or physically distributed in arbitrary units according to various loads or usage conditions. Can be integrated and configured.
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行するためのソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、ＳＳＤ（Solid State Drive）等の記録装置、又は、ＩＣ（Integrated Circuit）カード、ＳＤ（Secure Digital）カード、光ディスク等の記録媒体に保持することができる。また、本明細書において、時系列的な処理を記述する処理ステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）をも含むものである。 Each of the above-described configurations, functions, processing units, processing means, and the like may be realized by hardware by designing a part or all of them with, for example, an integrated circuit. Further, each of the above-described configurations, functions, and the like may be realized by software for interpreting and executing a program that realizes each function by the processor. Information such as programs, tables, and files for realizing each function is stored in a memory, a hard disk, a recording device such as an SSD (Solid State Drive), an IC (Integrated Circuit) card, an SD (Secure Digital) card, an optical disk, etc. It can be held on a recording medium. Further, in this specification, the processing steps describing time-series processing are not limited to processing performed in time series according to the described order, but are not necessarily performed in time series, either in parallel or individually. The processing (for example, parallel processing or object processing) is also included.
１１ データセンタ（自拠点）
１２ データセンタ（他拠点）
２１〜２３ 自拠点の処理サーバ
２４〜２７ 他拠点の処理サーバ
３１〜３４ クライアント
１００ 負荷分散装置
１１０ 負荷情報取得部
１２０ 情報格納部（記憶部）
１３０ 信号数算出部
１４０ 振分部
２００ 拠点情報
Ａ 自拠点の処理サーバの負荷変動率
Ｂ 平均信号処理ＴＡＴ変動率
Ｓ 自拠点戻信号数
11 Data center (own site)
12 Data center (other bases)
21-23 Processing server at own site 24-27 Processing server at other site 31-34
130 Signal
Claims (4)
前記自拠点の処理サーバの処理の限界値である負荷制限値を記憶する記憶部と、
前記自拠点の処理サーバの負荷情報を取得する負荷情報取得部と、
取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記他拠点の処理サーバに振り分けるべき信号を前記自拠点の処理サーバに振り分ける自拠点戻信号数を算出する信号数算出部と、
算出した前記自拠点戻信号数分を、前記他拠点から自拠点の処理サーバに振り分ける振分部と、
を備えることを特徴とする負荷分散装置。 A load balancer that determines a processing server that executes information processing requested by a client for a plurality of processing servers at its own site where it is installed or a plurality of processing servers at other sites separated from the own site. There,
A storage unit that stores a load limit value that is a limit value of processing of the processing server at the local site;
A load information acquisition unit that acquires load information of the processing server at the local site;
Based on the acquired maximum value of the load information and the load fluctuation rate of the processing server indicating the load fluctuation of the processing server at the local site, it should be distributed to the processing servers at the other sites within a range not exceeding the load limit value. A signal number calculation unit for calculating the number of return signals of the own site that distributes the signal to the processing server of the own site;
A distribution unit that distributes the calculated number of return signals from the local site to the processing server of the local site from the other site;
A load balancer comprising:
前記自拠点の処理サーバの負荷変動率と前記平均信号処理ＴＡＴ変動率とを基に、前記自拠点戻信号数を評価するスコアを算出し、
前記振分部は、取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲の中から、最大の前記スコアとなる前記自拠点戻信号分を、前記他拠点から自拠点の処理サーバに振り分ける
ことを特徴とする請求項１に記載の負荷分散装置。 The signal number calculation unit determines the request in advance based on a processing TAT (Turn Around Time) when processed by the processing server at the local site and a processing TAT when processed by the processing server at the other site. And calculating an average signal processing TAT variation rate indicating variation in processing response time when allocating to each of the processing servers in a predetermined order,
Based on the load fluctuation rate of the processing server at the local site and the average signal processing TAT fluctuation rate, a score for evaluating the local site return signal number is calculated,
Based on the acquired maximum value of the load information and the load fluctuation rate of the processing server at the local site, the allocating unit has the self score that has the maximum score from a range that does not exceed the load limit value. The load distribution apparatus according to claim 1, wherein the base return signal is distributed from the other bases to a processing server at the local base.
ことを特徴とする請求項１または請求項２に記載の負荷分散装置。 The load distribution apparatus according to claim 1, wherein the load information acquisition unit acquires the CPU usage rate of the processing server at the local site as load information.
前記負荷分散装置は、
前記自拠点の処理サーバの処理の限界値である負荷制限値を記憶部に記憶しており、
前記自拠点の処理サーバの負荷情報を取得する負荷情報取得ステップと、
取得した前記負荷情報の最大値と前記自拠点の処理サーバの負荷変動を示す処理サーバの負荷変動率とに基づいて、前記負荷制限値を超えない範囲で、前記他拠点の処理サーバに振り分けるべき信号を前記自拠点の処理サーバに振り分ける自拠点戻信号数を算出する信号数算出ステップと、
算出した前記自拠点戻信号数分を、前記他拠点から自拠点の処理サーバに振り分ける振分ステップと、
を実行する負荷分散方法。 A load balancer that determines a processing server that executes information processing requested by a client with respect to a plurality of processing servers at its own site where it is installed, or a plurality of processing servers at other sites separated from the own site. A load balancing method,
The load balancer is
A load limit value that is a limit value of processing of the processing server at the local site is stored in a storage unit,
A load information acquisition step of acquiring load information of the processing server at the local site;
Based on the acquired maximum value of the load information and the load fluctuation rate of the processing server indicating the load fluctuation of the processing server at the local site, it should be distributed to the processing servers at the other sites within a range not exceeding the load limit value. A signal number calculating step of calculating the number of return signals of the own site that distributes the signal to the processing server of the own site;
A distribution step of distributing the calculated number of the return signals of the local site to the processing server of the local site from the other sites;
Load balancing method to execute.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015239899A JP6368699B2 (en) | 2015-12-09 | 2015-12-09 | Load distribution apparatus and load distribution method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015239899A JP6368699B2 (en) | 2015-12-09 | 2015-12-09 | Load distribution apparatus and load distribution method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017107353A JP2017107353A (en) | 2017-06-15 |
| JP6368699B2 true JP6368699B2 (en) | 2018-08-01 |
Family
ID=59059734
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015239899A Active JP6368699B2 (en) | 2015-12-09 | 2015-12-09 | Load distribution apparatus and load distribution method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6368699B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6835683B2 (en) * | 2017-08-07 | 2021-02-24 | 日本電信電話株式会社 | Dispersion method |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3698073B2 (en) * | 2001-06-13 | 2005-09-21 | 日本電信電話株式会社 | Server selection apparatus, method, program, and recording medium recording the program |
| JP2005004676A (en) * | 2003-06-16 | 2005-01-06 | Fujitsu Ltd | Adaptive distributed processing system |
| JP4101251B2 (en) * | 2005-05-24 | 2008-06-18 | 富士通株式会社 | Load distribution program, load distribution method, and load distribution apparatus |
| JP2011113268A (en) * | 2009-11-26 | 2011-06-09 | Nomura Research Institute Ltd | Cloud facade management system |
| JP5724687B2 (en) * | 2011-07-04 | 2015-05-27 | 富士通株式会社 | Information processing apparatus, server selection method, and program |
| US20130151688A1 (en) * | 2011-12-07 | 2013-06-13 | Alcatel-Lucent Usa Inc. | Optimization mechanisms for latency reduction and elasticity improvement in geographically distributed data centers |
| JP5962100B2 (en) * | 2012-03-19 | 2016-08-03 | 富士通株式会社 | Message relay device, message relay method, and program |
-
2015
- 2015-12-09 JP JP2015239899A patent/JP6368699B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017107353A (en) | 2017-06-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107026907B (en) | Load balancing method, load balancer and load balancing system | |
| CN109218355B (en) | Load balancing engine, client, distributed computing system and load balancing method | |
| US10637916B2 (en) | Method and device for storage resource allocation for video cloud storage | |
| CN108463988B (en) | System for network file access for load balancing | |
| US10044797B2 (en) | Load balancing of distributed services | |
| US20180241843A1 (en) | Adjusting cloud-based execution environment by neural network | |
| US20150196841A1 (en) | Load balancing system and method for rendering service in cloud gaming environment | |
| US20160156567A1 (en) | Allocation method of a computer resource and computer system | |
| CN108933829A (en) | A kind of load-balancing method and device | |
| WO2015001850A1 (en) | Task allocation determination device, control method, and program | |
| US20170093963A1 (en) | Method and Apparatus for Allocating Information and Memory | |
| KR101448413B1 (en) | Method and apparatus for scheduling communication traffic in atca-based equipment | |
| US20180145883A1 (en) | Server, computer program product, and communication system | |
| JP6368699B2 (en) | Load distribution apparatus and load distribution method | |
| US9501321B1 (en) | Weighted service requests throttling | |
| JP6748359B2 (en) | Connection number control program, distribution device, and connection number control method | |
| JP2017162059A (en) | Information processing device, control method, and program | |
| CN113268329A (en) | Request scheduling method, device and storage medium | |
| JP6660322B2 (en) | Load distribution device and load distribution method | |
| CN110609744B (en) | Method, apparatus and computer program product for processing computing tasks | |
| JP6383336B2 (en) | Server management apparatus and server management method | |
| JP6325995B2 (en) | Distributed system, load balancing method and program | |
| JP6696941B2 (en) | Load balancer and load balancing method | |
| CN113377539A (en) | Processing method and device for realizing load balance | |
| US20140019623A1 (en) | Virtual server system, management server device, and system managing method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171221 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180626 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180703 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180709 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6368699 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |