JP2013225204A - Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction - Google Patents
Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction Download PDFInfo
- Publication number
- JP2013225204A JP2013225204A JP2012096685A JP2012096685A JP2013225204A JP 2013225204 A JP2013225204 A JP 2013225204A JP 2012096685 A JP2012096685 A JP 2012096685A JP 2012096685 A JP2012096685 A JP 2012096685A JP 2013225204 A JP2013225204 A JP 2013225204A
- Authority
- JP
- Japan
- Prior art keywords
- server
- servers
- load
- traffic volume
- optimum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
Description
本発明は、ネットワークにおけるトラフィック量（通信量）を計測し、そこから今後のトラフィック量（通信量）予測を行う事で、サーバの最適稼働台数を計算し、かつ、自動で稼働台数を調整する負荷分散方法及び装置に関する。 The present invention measures the traffic volume (communication volume) in the network and predicts the future traffic volume (communication volume) from that, thereby calculating the optimum operating number of servers and automatically adjusting the operating number. The present invention relates to a load balancing method and apparatus.
従来、サーバ・クライアントのトラフィックを行うネットワークのサーバ側にサーバの負荷を均一にする負荷分散装置を設けることが公知である（例えば、文献１〜２参照）。このような従来の負荷分散装置は、図１７に示すように、例えば、現在稼働中の３台のサーバの中で＃３のＣＰＵ使用率が最も少なければ、サーバ＃３に次のトラフィック（通信）が振り分けられる。このようにして、各サーバの負荷が順次均一化されていくものである。 2. Description of the Related Art Conventionally, it is known to provide a load distribution device that equalizes server load on the server side of a network that performs server / client traffic (see, for example, Documents 1 and 2). As shown in FIG. 17, for example, such a conventional load balancer has the next traffic (communication) to server # 3 if the CPU usage rate of # 3 is the lowest among the three servers currently in operation. ). In this way, the load on each server is made uniform in sequence.
しかし、上記従来の負荷分散装置は、トラフィック量やサーバのＣＰＵ使用率など、現在の値のみから判断し、最も使用率の少ないサーバへトラフィック（通信）を振り分ける動作を行う負荷分散装置である。そして、振分けるための判断基準は、トラフィック量やサーバＣＰＵ使用率以外に、サーバメモリ使用率やコネクション数を利用するものなど他にも方法があるが、どれも現時点の数値から算出している。また、夜間等のトラフィック量の極端に少ない時間帯でもサーバの電源ＯＦＦ・ＯＮは行わず、全稼働しているため、電力消費の無駄が多い。 However, the conventional load balancer is a load balancer that performs an operation of allocating traffic (communication) to a server with the lowest usage rate based on only current values such as traffic volume and server CPU usage rate. In addition to the traffic volume and server CPU usage rate, there are other methods such as those that use server memory usage rate and the number of connections, but all are calculated from the current values. . In addition, the server is not turned off and on even in a time zone where the traffic volume is extremely small, such as at night.
これに対して、夜間等のトラフィック量の少ない時間帯にトラフィック量処理に必要なサーバ数のみ残し、不要なサーバの電源ＯＦＦ・ＯＮを行なって、電力消費を節約する装置も知られている。 On the other hand, there is also known an apparatus that saves power consumption by leaving only the number of servers necessary for traffic volume processing in a time zone where traffic volume is small, such as at night, and turning off and on unnecessary servers.
このような従来のサーバの電源ＯＦＦ・ＯＮを行なう装置においても、トラフィック量予測はしないため、人がサーバの電源ＯＦＦ・ＯＮ可否や実施時間を判断し、オペレーションする必要があった。しかし、トラフィック量予測を行わないで、現時点の通信量だけからサーバ電源ＯＦＦの可否を判断すると、例えば、社員が出社して、平日朝8時に突然通信ピークを迎える会社の場合等のように、突然トラフィック量が増えた場合に対応しきれない問題がある。このように、単に人手によるサーバの電源ＯＦＦ・ＯＮ制御は、トラフィック量の急激な変動に対応できず、稼働サーバ数の不足によりトラフィック処理に障害が生じるリスクがある。 Even in such a conventional apparatus for turning off / on the server power, the traffic volume is not predicted, so that it is necessary for a person to determine whether or not the server can be turned off / on and to determine the operation time. However, without predicting the traffic volume, if it is determined whether or not the server power supply can be turned off based on only the current traffic volume, for example, in the case of a company where employees come to the office and suddenly reach a communication peak at 8:00 on weekdays, There is a problem that cannot cope with sudden increase in traffic volume. As described above, the server power OFF / ON control simply by hand cannot cope with a rapid change in the traffic volume, and there is a risk that the traffic processing may fail due to the shortage of the number of active servers.
また、従来のサーバの電源ＯＦＦ・ＯＮを行なう装置において、夜間などサーバへのアクセスが少ない場合一部のサーバのみで運用を行い、該運用計画を予め定めた電力計画テーブルに基づき行う装置も公知である(文献３参照）。 In addition, in a conventional server power off / on device, when only a few servers are accessed, such as at night, only a part of the servers are operated, and the operation plan is based on a predetermined power plan table. (See Document 3).
しかし、上記公知例の電力計画テーブルは、事前に手入力で設定されるものであり、トラフィック量予測を自動的に行うものではない。 However, the power plan table of the known example is set manually in advance, and does not automatically perform traffic volume prediction.
この場合、まずトラフィック量予測のために、人が事前にデータを収集・分析しておく必要がある。さらに、該分析後に適切なタイミングでサーバ電源ＯＦＦ・ＯＮを行なうため、トラフィック量を監視する必要がある。 In this case, first, it is necessary for a person to collect and analyze data in advance for traffic volume prediction. Furthermore, since the server power supply is turned OFF / ON at an appropriate timing after the analysis, it is necessary to monitor the traffic volume.
また、上記従来例には、トラフィック量が減少する時間になって一部のサーバの電源をＯＦＦする場合、当該サ-バに接続中のセッションをどのように処理するかに関するサーバのＯＦＦ順序に関する詳細な説明がない。 Further, in the above conventional example, when the power of some servers is turned off at the time when the traffic volume decreases, the server turn-off order relating to how to process a session connected to the server is related. There is no detailed explanation.
本発明は、負荷分散装置がトラフィック量予測を行い、稼働サーバ台数を自動で最適化する負荷分散方法及び装置を実現することを目的とする。 An object of the present invention is to realize a load distribution method and apparatus in which a load distribution apparatus predicts a traffic amount and automatically optimizes the number of active servers.
上記目的を達成するため、本発明に係る負荷分散装置は、複数のクライアントと複数のサーバ間にトラフィックを形成し、該サーバにクライアントからのセッションを割り当てる負荷分散装置において、上記負荷分散装置内に上記トラフィック量を収集するトラフィック・データベース及び該トラフィック量に対応したサーバ最適稼働台数テーブル・データベースを有し、曜日、特異日毎における各時刻毎のトラフィック量を一定期間自動的に収集して該収集されたトラフィック量の平均値を算出し、該算出された平均値に基づいて前記サーバ最適稼働台数を求め、該求められたサーバ最適稼働台数になるようにサーバの電源のＯＮ・ＯＦＦ制御を行うことを特徴とする。 In order to achieve the above object, a load balancer according to the present invention is a load balancer that forms traffic between a plurality of clients and a plurality of servers, and allocates a session from the client to the server. A traffic database that collects the traffic volume and a server optimal operation number table database corresponding to the traffic volume, and automatically collects the traffic volume at each time of day of the week and specific day for a certain period. Calculating the average value of the traffic volume obtained, obtaining the optimum server operating number based on the calculated average value, and performing server power ON / OFF control so that the obtained server optimum operating number is obtained. It is characterized by.
さらに、前記平均値に標準偏差を加算し、前記サーバ最適稼働台数を求めることを特徴とする。また、前記サーバ最適台数が、現在稼働中のサーバ稼働台数と一致する制御を行うことや前記稼働中のサーバに対する負荷が均一になるように自動的に制御することを特徴とする。 Furthermore, a standard deviation is added to the average value, and the optimum number of operating servers is obtained. The optimum number of servers may be controlled so as to coincide with the number of currently operating servers, or automatically controlled so that the load on the operating servers is uniform.
さらにまた、現在の稼働サーバ台数がサーバ最適台数を超えて稼働サーバを減らす場合は、前記負荷分散装置は、まず、その時稼働中の各サーバのセッション数をモニターし、セッション数の少ない順に停止サーバ候補を２，３台選択し、次いで、該停止サーバ候補には次のセッションを接続しないように負荷分散装置が制御すると共に、負荷分散装置は上記停止サーバ候補のセッションをモニターし、最も早くセッションが０となったサーバにマジックパケットを送出して当該サーバを停止させることを特徴とする。 Furthermore, when the current number of operating servers exceeds the optimal number of servers and the number of operating servers is reduced, the load balancer first monitors the number of sessions of each server that is operating at that time, and stops the servers in ascending order of the number of sessions. Two or three candidates are selected, and then the load balancer controls so that the next session is not connected to the stopped server candidate, and the load balancer monitors the session of the stopped server candidate and the earliest session A magic packet is transmitted to a server whose value is 0, and the server is stopped.
あるいは、本発明に係る負荷分散方法は、クライアントと複数のサーバ間にトラフィックを形成し、該サーバにクライアントからのセッションを割り当てる負荷分散方法において、上記負荷分散装置内に上記トラフィック量を収集するトラフィック・データベース及び該トラフィック量に対応したサーバ最適稼働台数テーブル・データベースを有し、曜日、特異日毎における各時刻毎のトラフィック量を一定期間自動的に収集するステップ、該収集されたトラフィック量の平均値を算出し、該算出された平均値に基づいて前記サーバ最適稼働台数を求めるステップ、該求められたサーバ最適稼働台数になるようにサーバの電源のＯＮ・ＯＦＦ制御を行うステップからなることを特徴とする。 Alternatively, the load distribution method according to the present invention is a load distribution method in which traffic is formed between a client and a plurality of servers, and a session from the client is allocated to the server. A database and a server optimum operation number table corresponding to the traffic volume; a database, a step of automatically collecting the traffic volume at each time of day of the week and each specific day for a certain period, and an average value of the collected traffic volume And calculating the server optimum operating number based on the calculated average value, and controlling the server power ON / OFF so as to obtain the server optimum operating number obtained. And
さらに、算出された平均値に基づいて前記サーバ最適稼働台数を求めるステップが、前記平均値に標準偏差を加算し、前記サーバ最適稼働台数を求めるステップを含むことを特徴とする。また、求められたサーバ最適稼働台数になるようにサーバの電源のＯＮ・ＯＦＦを行うステップが、前記サーバ最適台数が現在稼働中のサーバ稼働台数と一致する制御を行うステップを含むことや前記稼働中のサーバに対する負荷が均一になるように自動的に制御することを特徴とする。 Furthermore, the step of obtaining the optimum server operation number based on the calculated average value includes a step of obtaining a server optimum operation number by adding a standard deviation to the average value. In addition, the step of turning the server power ON / OFF so as to obtain the optimum server operation number includes the step of performing the control in which the optimum server number coincides with the server operation number currently in operation. It is characterized by automatically controlling so that the load on the server inside is uniform.
さらにまた、現在の稼働サーバ台数がサーバ最適台数を超えて稼働サーバを減らす場合は、前記負荷分散装置が、まず、その時稼働中の各サーバのセッション数をモニターするステップ、セッション数の少ない順に停止サーバ候補を２，３台選択し、次いで、該停止サーバ候補には次のセッションを接続しないように負荷分散装置が制御するステップを有すると共に、前記負荷分散装置は上記停止サーバ候補のセッションをモニターし、最も早くセッションが０となったサーバにマジックパケットを送出して当該サーバを停止させるステップを有することを特徴とする。 Furthermore, when the current number of operating servers exceeds the optimal number of servers and the number of operating servers is reduced, the load balancer first monitors the number of sessions of each server that is currently operating, and stops in the order of decreasing number of sessions. The server has a step of selecting two or three server candidates, and then the load balancer controls so that the next session is not connected to the stopped server candidate, and the load balancer monitors the session of the stopped server candidate. And a step of sending a magic packet to the server whose session is 0 earliest and stopping the server.
本発明の負荷分散方法及び装置を用いれば、人によるサーバ利用状況の調査／予測作業を無くなり、サーバの電源ＯＦＦ・ＯＮ制御も自動で行われるので、判断ミスやオペレーションミスの防止、および稼働工数の減少になる。 By using the load balancing method and apparatus of the present invention, the server usage status investigation / prediction work by humans is eliminated, and the server power OFF / ON control is also automatically performed. Decrease.
以下、図１〜図１７を参照しながら本発明に係る負荷分散方法及び装置の各種処理について、詳細に説明する。 Hereinafter, various processes of the load distribution method and apparatus according to the present invention will be described in detail with reference to FIGS.
図１は、本発明の負荷分散装置の概念図である。クライアント２〜６からのトラフィックはスイッチング回路７を経て負荷分散装置1に入力され、負荷分散装置１はスイッチング回路８を経て負荷分散対象サーバ９〜１３に対してトラフィック１４を割り当てる。図２に示すように、負荷分散装置1は、内部にトラフィック・データベース１６及びサーバ最適稼働台数テーブル・データベース１５を有している。 FIG. 1 is a conceptual diagram of a load distribution apparatus according to the present invention. Traffic from the clients 2 to 6 is input to the load balancer 1 via the switching circuit 7, and the load balancer 1 assigns traffic 14 to the load balancing target servers 9 to 13 via the switching circuit 8. As shown in FIG. 2, the load balancer 1 has a traffic database 16 and a server optimum operation number table database 15 therein.
図３に示すごとく、負荷分散装置1は、クライアント〜サーバ間のトラフィック・データを定期的に収集している。また、図４に示すごとく、上記収集したトラフィック・データに基づき、将来の時刻毎の最適稼働台数をサーバの最適稼働台数テーブル１５を参照して予測する。 As shown in FIG. 3, the load balancer 1 regularly collects traffic data between the client and the server. Further, as shown in FIG. 4, based on the collected traffic data, the optimum operating number for each future time is predicted with reference to the optimum operating number table 15 of the server.
そして、図５に示すように、上記のように適正稼働台数を計算し、マジックパケットを送出することによりサーバ稼働台数を最適化のため起動・停止の調整をする。なお、マジックパケットとは、受取った装置（サーバ）が電源ＯＦＦ・ＯＮするパケットのことであり公知の技術である。 Then, as shown in FIG. 5, the appropriate number of operating units is calculated as described above, and the start / stop adjustment is performed to optimize the number of operating servers by sending out magic packets. The magic packet is a packet for turning off / on the power of the received device (server) and is a known technique.
上記のように、本発明の負荷分散方法及び装置には、トラフィック量の予測機能を備える。本発明の負荷分散方法及び装置は、このトラフィック量の予測値に基づき、その時のトラフィック量のブレ幅（マージン）を計算し、該ブレ幅の上限値や下限値をその時点のトラフィック量が越えた時、自動でサーバの電源ＯＦＦ・ＯＮを行なうものであり、その時点のトラフィック量がブレ幅の上限値や下限値以内である場合は、予測トラフィック量から計算される最適サーバ稼働台数に自動的に設定される。 As described above, the load distribution method and apparatus according to the present invention includes a traffic amount prediction function. The load distribution method and apparatus according to the present invention calculates the blur width (margin) of the traffic volume based on the predicted value of the traffic volume, and the traffic volume at that time exceeds the upper limit value and the lower limit value of the blur width. Automatically turn off / on the server, and if the traffic volume at that time is within the upper limit or lower limit of the blur width, the server is automatically set to the optimum number of operating servers calculated from the predicted traffic volume. Is set automatically.
図６は、本発明の負荷分散方法及び装置の全体フローを示す。
本発明の負荷分散方法及び装置は、上記トラフィック量の予測機能を備えるために日々のトラフィック量の推移（時刻毎の平均値）を該負荷分散装置内に蓄積しておく（Ｓ１）。負荷分散装置が収集したトラフィック量から、時刻毎のサーバ最適稼働台数を算出する（Ｓ２）。
FIG. 6 shows the overall flow of the load balancing method and apparatus of the present invention.
The load distribution method and apparatus of the present invention accumulates daily traffic volume transitions (average value for each time) in the load distribution apparatus in order to have the traffic volume prediction function (S1). From the amount of traffic collected by the load balancer, the optimum number of servers operating at each time is calculated (S2).
次いで、負荷分散装置が、時刻毎に算出したサーバ最適稼働台数になるように最適化を行う（Ｓ３）。バーストトラフィック時には、負荷分散装置がサーバ最適稼働台数を変動させる（Ｓ４）。なお、上記Ｓ４ステップは、バーストトラフィックを常時監視し、バーストトラフィックが生じた時のみ稼働するステップである。 Next, the load balancer performs optimization so that the optimal number of operating servers calculated for each time is reached (S3). At the time of burst traffic, the load balancer fluctuates the optimal server operation number (S4). Note that the step S4 is a step in which burst traffic is constantly monitored and is operated only when burst traffic occurs.
図７は、本発明の負荷分散方法及び装置のサーバ最適稼働台数の決定フローを示す。
収集したトラフィック量から、収集した時刻毎に、平均と標準偏差を算出する（Ｓ１１）。次に、これに時刻毎に平均と標準偏差を加算し、これを「予測最大トラフィック量」と定義する（Ｓ１２）。なお、加算する標準偏差を何σにするかは必要度と機器の性能に応じて任意に定められる。
FIG. 7 shows a flow for determining the optimum server operation number of the load balancing method and apparatus of the present invention.
From the collected traffic volume, an average and a standard deviation are calculated for each collected time (S11). Next, an average and a standard deviation are added to this every time, and this is defined as “predicted maximum traffic amount” (S12). It should be noted that how much σ the standard deviation to be added is arbitrarily determined according to the necessity and the performance of the device.
次に、「予測最大トラフィック量」から、「サーバ最適稼働台数」を算出する（Ｓ１３）。この場合、算出計算式は任意だが、例えば、１００Ｍｂｐｓ毎にサーバ1台必要といったように予め決めておく。 Next, “optimum number of servers in operation” is calculated from “predicted maximum traffic volume” (S13). In this case, the calculation formula is arbitrary, but is determined in advance such that, for example, one server is required every 100 Mbps.
図８は、本発明の負荷分散方法及び装置におけるサーバ最適稼働台数のさらに詳しいフローチャートを示す。 FIG. 8 shows a more detailed flowchart of the optimum server operation number in the load balancing method and apparatus of the present invention.
現在のトラフィック量を測定し、予め定めた閾値を越えたかどうかを検知する（Ｓ２１）。ここで、該閾値は「予測最大トラフィック量＋任意の一定値」であって、このステップＳ２１は、図６における「バーストトラフィック」の検知を行うステップ（Ｓ４）と同じである。閾値を越えた場合は、トラフィックがバーストしたものと判断し、Ｓ２４に移行する。Ｓ２４は、図６のＳ４のごとく、負荷分散装置がサーバ最適稼働台数を変動させる。 The current traffic volume is measured, and it is detected whether or not a predetermined threshold value is exceeded (S21). Here, the threshold value is “predicted maximum traffic amount + any fixed value”, and step S21 is the same as the step (S4) of detecting “burst traffic” in FIG. If the threshold is exceeded, it is determined that the traffic has burst, and the process proceeds to S24. In S24, as in S4 of FIG. 6, the load balancer varies the optimum server operation number.
トラフィックがバーストしていない場合、Ｓ２２に移行し、「現在のサーバ稼働台数」が「サーバ最適稼働台数」以下であるかどうかを検知し（Ｓ２２）、以下である場合はＳ２５に移行し、負荷分散装置がマジックパケットを送信して、最適稼働台数となるまでサーバを起動する（Ｓ２５）。
「現在のサーバ稼働台数」が「サーバ最適稼働台数」以下でなければ、Ｓ２３に移行し、「現在のサーバ稼働台数」が「サーバ最適稼働台数」より大きいかどうかを検知する（Ｓ２３）。
If the traffic is not bursting, the process proceeds to S22, where it is detected whether or not the “current server operation number” is equal to or less than the “server optimum operation number” (S22). The distribution apparatus transmits a magic packet and starts up the server until the optimum number of operating machines is reached (S25).
If the “current server operating number” is not equal to or less than the “server optimal operating number”, the process proceeds to S23 to detect whether the “current server operating number” is larger than the “server optimal operating number” (S23).
もし、「現在のサーバ稼働台数」が「サーバ最適稼働台数」より大きい場合は、Ｓ２６に移行し、負荷分散装置がマジックパケットを送信して最適稼働台数となるまでサーバを停止する（Ｓ２６）。 If the “current server operation number” is larger than the “server optimum operation number”, the process proceeds to S26, and the load distribution apparatus transmits a magic packet to stop the server until the optimum operation number is reached (S26).
このようにして、予測トラフィック量に対して最適なサーバ稼働数でサーバ群の運用が実現できる。 In this way, the server group can be operated with the optimum number of server operations for the predicted traffic volume.
図９は、本発明の負荷分散方法及び装置におけるバーストトラフィック発生時の台数増加対応フローを示す。 FIG. 9 shows a flow for increasing the number of units when burst traffic occurs in the load balancing method and apparatus of the present invention.
図８のＳ２４において、バーストトラフィック発生が発生したら、負荷分散装置がマジックパケットを送信して、バーストトラフィックに見合うようにサーバ稼働台数を増やす（Ｓ３１）。 If burst traffic occurs in S24 of FIG. 8, the load balancer transmits a magic packet to increase the number of servers that can be used to match the burst traffic (S31).
この場合、算出計算式は任意だが、前述のごとく、例えば、100Mbps毎にサーバ1台必要のように予め決めておく。 In this case, the calculation formula is arbitrary, but as described above, for example, it is determined in advance so that one server is required every 100 Mbps.
図１０は、図６のＳ１で行う収集トラフィック量の計測例である。トラフィック量は、曜日によって大きく変動する。休日や祭日は、トラフィック量が減少し、また、特異日（例えば、月末とか、休日の次の日等）には増加する傾向がある。 FIG. 10 is a measurement example of the collected traffic volume performed in S1 of FIG. The amount of traffic varies greatly depending on the day of the week. On holidays and holidays, the amount of traffic decreases, and on special days (for example, at the end of the month or the day after holidays), there is a tendency to increase.
さらに、時間帯によっても大きく変動する。夜中にはトラフィック量は減少し、また、日中には増加する。図１０の表は、ある月の月曜日のトラフィック量の変動例を示す。 Furthermore, it varies greatly depending on the time zone. Traffic volume decreases at night and increases during the day. The table in FIG. 10 shows an example of fluctuations in traffic volume on Monday of a certain month.
曜日、時間帯、特異日等の変動パラメータは過去数年分のデータから解析し、上記収集トラフィック量のデータは、パラメータ毎に集積する。 Fluctuating parameters such as day of the week, time zone, and peculiar day are analyzed from data for the past several years, and the collected traffic volume data is accumulated for each parameter.
図１１は、図１０の表に対応させたトラフィック量の平均値と標準偏差を計算したものである。図１２は、予測最大トラフィック量の値として「平均値＋２σ」の値を採用し、その値を図１１の表に対応させて表示したものである。 FIG. 11 shows an average value and standard deviation of the traffic volume corresponding to the table of FIG. FIG. 12 employs a value of “average value + 2σ” as the value of the predicted maximum traffic volume, and displays the value corresponding to the table of FIG.
上記トラフィック量のブレ幅（マージン）は、例えば、標準偏差値（２σ）を用い、該ブレ幅の範囲が「平均値＋２σ」以内であれば、上記のごとく、予測トラフィック量から計算される最適サーバ稼働台数に自動的に設定される。「平均値＋２σ」以内の確率（時間率）は、約９５％である。すなわち、急なバーストでもない限り、「平均値＋２σ」に対応したサーバ台数を稼働しておけば、サーバ台数はほぼ間に合う計算である。 As the blur amount (margin) of the traffic amount, for example, a standard deviation value (2σ) is used, and if the range of the blur width is within “average value + 2σ”, the optimum amount calculated from the predicted traffic amount as described above. Automatically set to the number of operating servers. The probability (time ratio) within “average value + 2σ” is about 95%. That is, as long as there is no sudden burst, if the number of servers corresponding to “average value + 2σ” is operated, the number of servers can be calculated almost in time.
なお、この場合、前述の如く、何Mbps毎に１台のサーバが必要とするかの値は予め設定しておき、そこから予測トラフィック量に基づいて最適サーバ稼働台数を求めている。 In this case, as described above, the value of how many Mbps one server is required is set in advance, and the optimum number of operating servers is obtained based on the predicted traffic volume.
前述の如く、サーバ稼働台数の最適化は、負荷分散装置から、マジックパケットを送出することにより自動でサーバを電源ＯＦＦ・ＯＮして調整する。なお、マジックパケットを出す判断の詳細ロジックは、後述する。 As described above, the optimization of the number of operating servers is adjusted by automatically turning off / on the server by sending a magic packet from the load balancer. The detailed logic for determining the magic packet will be described later.
ある時刻における前記平均トラフィック量２１と予測最大トラフィック量「平均値＋２σ」２２を図式化したものが図１４（ａ）に示される。このときの最適サーバ稼働台数２３が図１４（ｂ）に示される。 FIG. 14A shows a diagram of the average traffic volume 21 and the predicted maximum traffic volume “average value + 2σ” 22 at a certain time. The optimum number of operating servers 23 at this time is shown in FIG.
図１４のグラフを１日分連続表示したものが、図１５である。これに基づき計算された最大サーバ稼働台数のグラフが図１６に示される。３１は平均トラフィック量、３２は予測最大トラフィック量「平均値＋２σ」、３３は最適サーバ稼働台数を示す。 FIG. 15 shows the graph of FIG. 14 continuously displayed for one day. A graph of the maximum number of operating servers calculated based on this is shown in FIG. 31 indicates an average traffic volume, 32 indicates a predicted maximum traffic volume “average value + 2σ”, and 33 indicates an optimum number of operating servers.
図８のＳ２６におけるサーバの停止順序は、以下のとおりである。
図８の２５の如く、サーバを増やす場合は問題がないが、サーバを減らす場合、例えば、図１の１４の如く、クライアントからサーバへのセッションが形成されている時の該セッションを他のサーバに切り換えることは困難である。
The server stop order in S26 of FIG. 8 is as follows.
When the number of servers is increased as shown in 25 of FIG. 8, there is no problem. However, when the number of servers is decreased, for example, as shown in FIG. 1, the session from the client to the server is formed as another server. It is difficult to switch to
従って、現在の稼働サーバ台数がサーバ最適台数を超えて、稼働サーバを減らす場合は、まず、その時稼働中の各サーバのセッション数をモニターし、セッション数の少ない順に停止サーバ候補を２，３台選択する。次いで、該停止サーバ候補には、次のセッションを接続しないように負荷分散装置が制御する。その後、負荷分散装置は上記停止サーバ候補のセッションをモニターし、最も早くセッションが０となったサーバにマジックパケットを送出して当該サーバを停止させる。同時に、残りの停止候補サーバは復旧させ、通常の稼働状況に戻す。 Therefore, when the current number of active servers exceeds the optimal number of servers and the number of active servers is reduced, first, monitor the number of sessions of each server that is operating at that time, and stop server candidates in order of increasing number of sessions. select. Next, the load balancer controls not to connect the next session to the stop server candidate. Thereafter, the load balancer monitors the stopped server candidate session, and sends a magic packet to the server whose session is zeroed earliest to stop the server. At the same time, the remaining stop candidate servers are restored and returned to normal operating status.
本発明の負荷分散方法及び装置を用いれば、自動的にサーバが最適台数に設定できるので、人によるサーバ利用状況の調査/予測作業が無くなり、判断ミスやオペレーションミスの防止、および稼働工数の減少になる。 By using the load balancing method and apparatus of the present invention, the number of servers can be automatically set to the optimum number, so that there is no need for investigation / prediction of server usage by humans, prevention of judgment errors and operation errors, and reduction of operation man-hours. become.
従って、運用の手間が省けるので、産業上の利用性は高い。 Therefore, since the labor of operation can be saved, industrial applicability is high.
１ 負荷分散装置
２ クライアント
３ クライアント
４ クライアント
５ クライアント
６ クライアント
７ スイッチング回路
８ スイッチング回路
９ サーバ
１０ サーバ
１１ サーバ
１２ サーバ
１３ サーバ
１５ サーバ最適台数テーブル・データベース
１６ トラフィック・データベース
DESCRIPTION OF SYMBOLS 1 Load distribution apparatus 2 Client 3 Client 4 Client 5 Client 6 Client 7 Switching circuit 8 Switching circuit 9 Server 10 Server 11 Server 12 Server 13 Server 15 Server optimal number table database 16 Traffic database
Claims (10)
上記負荷分散装置内に上記トラフィック量を収集するトラフィック・データベース及び該トラフィック量に対応したサーバ最適稼働台数テーブル・データベースを有し、
曜日、特異日毎における各時刻毎のトラフィック量を一定期間自動的に収集して該収集されたトラフィック量の平均値を算出し、該算出された平均値に基づいて前記サーバ最適稼働台数を求め、該求められたサーバ最適稼働台数になるようにサーバの電源のＯＮ・ＯＦＦ制御を行うことを特徴とする負荷分散装置。 In a load balancer that forms traffic between a plurality of clients and a plurality of servers, and allocates a session from the client to the server,
The load balancer has a traffic database for collecting the traffic volume and a server optimum operation number table database corresponding to the traffic volume,
The traffic volume at each time of day of the week and each special day is automatically collected for a certain period to calculate the average value of the collected traffic volume, and the optimum server operation number is obtained based on the calculated average value, A load distribution apparatus that performs power ON / OFF control of a server so as to obtain the optimum number of servers to be operated.
上記負荷分散装置内に上記トラフィック量を収集するトラフィック・データベース及び該トラフィック量に対応したサーバ最適稼働台数テーブル・データベースを有し、
曜日、特異日毎における各時刻毎のトラフィック量を一定期間自動的に収集するステップ、
該収集されたトラフィック量の平均値を算出し、該算出された平均値に基づいて前記サーバ最適稼働台数を求めるステップ、
該求められたサーバ最適稼働台数になるようにサーバの電源のＯＮ・ＯＦＦ制御を行うステップからなることを特徴とする負荷分散方法。 In a load balancing method of forming traffic between a client and a plurality of servers and assigning a session from the client to the server,
The load balancer has a traffic database for collecting the traffic volume and a server optimum operation number table database corresponding to the traffic volume,
Automatically collecting traffic volume at each time of day and day of the week for a certain period of time;
Calculating an average value of the collected traffic volume, and obtaining the optimum number of operating servers based on the calculated average value;
A load distribution method comprising a step of performing ON / OFF control of a server power so as to obtain the optimum number of operating servers.
前記負荷分散装置が、まず、その時稼働中の各サーバのセッション数をモニターするステップ、セッション数の少ない順に停止サーバ候補を２，３台選択し、次いで、該停止サーバ候補には次のセッションを接続しないように負荷分散装置が制御するステップを有すると共に、
前記負荷分散装置は上記停止サーバ候補のセッションをモニターし、最も早くセッションが０となったサーバにマジックパケットを送出して当該サーバを停止させるステップを有することを特徴とする前記請求項６〜９の内、いずれか１項記載の負荷分散方法。 If the current number of active servers exceeds the optimal number of servers and the number of active servers is reduced,
The load balancer first monitors the number of sessions of each server in operation at that time, selects two or three stop server candidates in ascending order of the number of sessions, and then selects the next session as the stop server candidate. The load balancer has a step of controlling so as not to connect,
The load balancing apparatus includes a step of monitoring a session of the stop server candidate and sending a magic packet to a server whose session is 0 earliest to stop the server. The load balancing method according to any one of the above.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012096685A JP2013225204A (en) | 2012-04-20 | 2012-04-20 | Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012096685A JP2013225204A (en) | 2012-04-20 | 2012-04-20 | Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2013225204A true JP2013225204A (en) | 2013-10-31 |
Family
ID=49595223
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2012096685A Pending JP2013225204A (en) | 2012-04-20 | 2012-04-20 | Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2013225204A (en) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017509075A (en) * | 2014-03-06 | 2017-03-30 | 華為技術有限公司Ｈｕａｗｅｉ Ｔｅｃｈｎｏｌｏｇｉｅｓ Ｃｏ．，Ｌｔｄ． | Data processing method, control node, and stream calculation system in stream calculation system |
| KR20180008236A (en) * | 2016-07-14 | 2018-01-24 | 주식회사 팀스톤 | Computer-executable method of monitoring server load, apparatus performing the same and medium storage storing the same |
| JP2018045671A (en) * | 2016-09-18 | 2018-03-22 | バイドゥ ネットコム サイエンス アンド テクノロジー（ペキン） カンパニー リミテッド | Method and apparatus for scheduling cloud server |
| JP2018097708A (en) * | 2016-12-15 | 2018-06-21 | 富士通株式会社 | Information processor, information processing system, information processing program and information processing method |
| CN110266525A (en) * | 2019-06-04 | 2019-09-20 | 湖北五五互联科技有限公司 | CDN server quantity configuration method, equipment and computer readable storage medium |
| JP2020017189A (en) * | 2018-07-27 | 2020-01-30 | Ｎｅｃプラットフォームズ株式会社 | Server controller, server control method, and server control program |
| JP7214287B1 (en) | 2022-07-26 | 2023-01-30 | 北京穿楊科技有限公司 | Resource allocation determination method, device, computing device and computer program |
| KR102676139B1 (en) | 2021-08-02 | 2024-06-26 | 제노테크 주식회사 | MONITEORING SYSTEM FOR IoT SERVICE AND MONITORING |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090158074A1 (en) * | 2007-12-12 | 2009-06-18 | Electronics And Telecommunications Research Institute | Cluster system with reduced power consumption and power management method thereof |
| JP2011013870A (en) * | 2009-07-01 | 2011-01-20 | Hitachi Ltd | Load distribution system |
| JP2011076469A (en) * | 2009-09-30 | 2011-04-14 | Nomura Research Institute Ltd | Load management device, information processing system and load management method |
| JP2011090594A (en) * | 2009-10-26 | 2011-05-06 | Hitachi Ltd | Apparatus and method for managing server |
| WO2011118424A1 (en) * | 2010-03-25 | 2011-09-29 | 日本電気株式会社 | Machine operation plan creation device, machine operation plan creation method, and machine operation plan creation program |
| JP2011191851A (en) * | 2010-03-12 | 2011-09-29 | Osaka Gas Co Ltd | System and method for switching of application |
-
2012
- 2012-04-20 JP JP2012096685A patent/JP2013225204A/en active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090158074A1 (en) * | 2007-12-12 | 2009-06-18 | Electronics And Telecommunications Research Institute | Cluster system with reduced power consumption and power management method thereof |
| JP2011013870A (en) * | 2009-07-01 | 2011-01-20 | Hitachi Ltd | Load distribution system |
| JP2011076469A (en) * | 2009-09-30 | 2011-04-14 | Nomura Research Institute Ltd | Load management device, information processing system and load management method |
| JP2011090594A (en) * | 2009-10-26 | 2011-05-06 | Hitachi Ltd | Apparatus and method for managing server |
| JP2011191851A (en) * | 2010-03-12 | 2011-09-29 | Osaka Gas Co Ltd | System and method for switching of application |
| WO2011118424A1 (en) * | 2010-03-25 | 2011-09-29 | 日本電気株式会社 | Machine operation plan creation device, machine operation plan creation method, and machine operation plan creation program |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017509075A (en) * | 2014-03-06 | 2017-03-30 | 華為技術有限公司Ｈｕａｗｅｉ Ｔｅｃｈｎｏｌｏｇｉｅｓ Ｃｏ．，Ｌｔｄ． | Data processing method, control node, and stream calculation system in stream calculation system |
| US10097595B2 (en) | 2014-03-06 | 2018-10-09 | Huawei Technologies Co., Ltd. | Data processing method in stream computing system, control node, and stream computing system |
| KR20180008236A (en) * | 2016-07-14 | 2018-01-24 | 주식회사 팀스톤 | Computer-executable method of monitoring server load, apparatus performing the same and medium storage storing the same |
| KR101910866B1 (en) | 2016-07-14 | 2018-10-23 | 주식회사 팀스톤 | Computer-executable method of monitoring server load, apparatus performing the same and medium storage storing the same |
| JP2018045671A (en) * | 2016-09-18 | 2018-03-22 | バイドゥ ネットコム サイエンス アンド テクノロジー（ペキン） カンパニー リミテッド | Method and apparatus for scheduling cloud server |
| JP2018097708A (en) * | 2016-12-15 | 2018-06-21 | 富士通株式会社 | Information processor, information processing system, information processing program and information processing method |
| JP2020017189A (en) * | 2018-07-27 | 2020-01-30 | Ｎｅｃプラットフォームズ株式会社 | Server controller, server control method, and server control program |
| JP7092345B2 (en) | 2018-07-27 | 2022-06-28 | Ｎｅｃプラットフォームズ株式会社 | Server controller, server control method and server control program |
| CN110266525A (en) * | 2019-06-04 | 2019-09-20 | 湖北五五互联科技有限公司 | CDN server quantity configuration method, equipment and computer readable storage medium |
| KR102676139B1 (en) | 2021-08-02 | 2024-06-26 | 제노테크 주식회사 | MONITEORING SYSTEM FOR IoT SERVICE AND MONITORING |
| JP7214287B1 (en) | 2022-07-26 | 2023-01-30 | 北京穿楊科技有限公司 | Resource allocation determination method, device, computing device and computer program |
| JP2024016782A (en) * | 2022-07-26 | 2024-02-07 | 北京穿楊科技有限公司 | Resource allocation determination method, apparatus, computing apparatus, and computer program |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2013225204A (en) | Load distribution method and device which automatically optimize number of operation servers based on traffic volume prediction | |
| JP4720295B2 (en) | Abnormality detection system and maintenance system | |
| WO2016135913A1 (en) | Storage battery, storage battery monitoring method, and monitor controller | |
| JP6083476B2 (en) | Log data collection system, terminal device, and log data collection method | |
| CN104901823B (en) | A kind of alarm threshold generation method, service feature index monitoring method and device | |
| CN101155085A (en) | Method and device for real-time flux prediction and real-time flux monitoring and early warning | |
| CN105872061B (en) | A kind of server set group managing means, apparatus and system | |
| JP6540709B2 (en) | Communication aggregation system, control device, processing load control method and program | |
| JP2010213183A (en) | Apparatus and method for selection of route, and program | |
| JP5287853B2 (en) | Optimization evaluation system, optimization evaluation apparatus, optimization evaluation method, and optimization evaluation program | |
| EP3499818B1 (en) | Method and device for load processing | |
| US20140192647A1 (en) | Network apparatus, performance control method, and network system | |
| JP2019516060A (en) | Method for optimizing filter life cycle during replacement and system for monitoring a ventilation system | |
| CN111989653A (en) | Utilization based dynamic resource reallocation using two thresholds and a time window | |
| JP2017028431A (en) | Transmission device and traffic measuring method | |
| US10171572B2 (en) | Server pool management | |
| CN107196863A (en) | A kind of code rate adjustment method and electronic equipment | |
| JP5787365B2 (en) | Power control apparatus, power control system, power control method, and program | |
| JP6841589B2 (en) | Abnormality sign monitoring system | |
| EP3025452A1 (en) | Monitoring network use of resources | |
| JP4499123B2 (en) | Reception control method and reception control system | |
| JP4674862B2 (en) | Traffic volume estimation method, traffic volume estimation device, traffic volume estimation program, and packet discard prevention method using the traffic volume estimation method | |
| Huang et al. | Learning-aided stochastic network optimization with imperfect state prediction | |
| CN112838957B (en) | Flow prediction system with intelligent scheduling function | |
| JP2014112779A (en) | Data transmission controller, data transmission control method, and computer program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140606 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150114 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150120 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150526 |