JP4729549B2 - Load control method, apparatus and program - Google Patents
Load control method, apparatus and program Download PDFInfo
- Publication number
- JP4729549B2 JP4729549B2 JP2007249366A JP2007249366A JP4729549B2 JP 4729549 B2 JP4729549 B2 JP 4729549B2 JP 2007249366 A JP2007249366 A JP 2007249366A JP 2007249366 A JP2007249366 A JP 2007249366A JP 4729549 B2 JP4729549 B2 JP 4729549B2
- Authority
- JP
- Japan
- Prior art keywords
- server
- type
- load control
- request
- response
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Computer And Data Communications (AREA)
- Information Transfer Between Computers (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Description
本発明は、負荷制御方法及び装置及びプログラムに係り、特に、特定のサーバへ通信が集中しサーバが過負荷に陥らないよう、負荷分散を行う負荷制御装置及び方法及びプログラムに関する。詳しくは、処理内容に応じてサーバを複数種類設置しており、処理が進むに従ってサーバの種類が変遷する場合における負荷制御方法及び装置及びプログラムに関する。 The present invention relates to a load control method, apparatus, and program, and more particularly, to a load control apparatus, method, and program for performing load distribution so that communication is concentrated on a specific server and the server does not fall into an overload. Specifically, the present invention relates to a load control method, apparatus, and program in a case where a plurality of types of servers are installed according to the processing contents, and the types of servers change as processing proceeds.
従来技術として、サーバのリソース情報を用いて転送先を決定する技術がある。これは、コンテンツにおける特徴毎に当該コンテンツを配信するコンテンツサーバを決定するための選択基準を設定し、クライアント装置から要求されたコンテンツを配信するコンテンツサーバを要求されたコンテンツの特性に該当する選択基準に基づいて決定する技術である(例えば、特許文献1参照)。 As a conventional technique, there is a technique for determining a transfer destination using resource information of a server. This sets a selection criterion for determining a content server that distributes the content for each feature in the content, and a selection criterion corresponding to the characteristics of the requested content server that distributes the content requested by the client device. (See, for example, Patent Document 1).
また、コンテンツの配信の際にサーバから直接配信する技術がある(例えば、非特許文献1参照)。 In addition, there is a technique for directly distributing content from a server when content is distributed (for example, see Non-Patent Document 1).
以下に、従来の負荷制御装置を用いた負荷制御方法について説明する。図8は、従来の負荷制御システムの構成を示す。 Below, the load control method using the conventional load control apparatus is demonstrated. FIG. 8 shows a configuration of a conventional load control system.
クライアント装置1がサーバ5,6にアクセスしようとした場合、負荷制御装置4に対してアクセスし、負荷制御装置4は、そのリクエストを最適なサーバ5または6のいずれかに転送する。サーバ5または6からのリプライは、同じく負荷制御装置4に送られ、負荷制御装置4がリクエストの送信元であるクライアント装置1に転送する。負荷制御装置4に対して新たなクライアント装置から新しいリクエストが送られるたびに、最適なサーバを選択して転送することにより、負荷分散を行う。
以下では、例えば、特許文献1に示される従来技術における課題を図9を参照して説明する。
Below, the subject in the prior art shown by
クライアント装置7またはクライアント装置8からWebサーバ11〜13への送られるリクエストは、負荷制御装置10を経由し、パケットの流れb、aの順にで送られ、また、Webサーバからのレスポンスは、パケットの流れa,bの順に負荷制御装置10を経由してクライアント装置7,8に送られる。ストリームサーバ14〜18の場合も同様にパケットの流れd、cの順に負荷制御装置10を経由してクライアント装置7,8に送られる。すなわち、ストリームサーバ14〜18からクライアント装置へ配信されるコンテンツとしての映像ストリームもこの負荷制御装置10を通って配信されるため、高精細映像のコンテンツなど帯域が大きい場合や、クライアント装置7,8の同時接続数が多い場合などに負荷制御装置10がボトルネックとなり配信がうまく行えない場合がある。
Requests sent from the
また、非特許文献1のDSR(Direct Server Return)構成に示される従来技術における課題を図10を参照して説明する。
Further, a problem in the prior art shown in the DSR (Direct Server Return) configuration of
DSR構成の場合、各サーバ27〜29へのリクエストは、パケットの流れe、fや、パケットの流れg、hのように負荷制御装置を経由するが、各サーバからクライアントへの送信は、パケットの流れi,jのように、サーバからクライアント装置23,24へ直接コンテンツとしての映像ストリームを配信することが可能である。このため、ダウンロードにおける問題は生じにくいが、コンテンツを取得するリクエストや、コンテンツを制御するためのコマンドの送信などの、ストリームサーバ30〜34へのリクエストが常に負荷制御装置26を経由し、選択された最適なストリームサーバへ転送されるため、そもそもコンテンツへのリクエストが集中した場合や、例えば、ビデオオンデマンドで早送り、巻き戻しなどを多用した場合などのコマンドのリクエストが集中した場合、負荷制御装置26がボトルネックとなる可能性がある。
In the case of the DSR configuration, requests to the servers 27 to 29 pass through the load control device as in packet flows e and f and packet flows g and h, but transmission from each server to the client It is possible to distribute a video stream as content directly from the server to the
このように、従来技術ではコンテンツへのアクセスやコンテンツ配信時に負荷制御装置を経由することによるボトルネックが懸念される。 As described above, in the prior art, there is a concern about bottlenecks caused by going through the load control device when accessing content or distributing content.
本発明は、上位の点に鑑みなされたもので、負荷制御装置によるボトルネックが生じないよう、コンテンツへのアクセス及びコンテンツ配信時共に負荷制御装置を経由せずに、かつ、最適なサーバの負荷分散が可能な負荷制御装置及び方法及びプログラムを提供することを目的とする。 The present invention has been made in view of the upper point, and it is possible to access the content and distribute the content without going through the load control device and to optimize the server load so that the bottleneck due to the load control device does not occur. An object of the present invention is to provide a load control device, method, and program capable of distribution.
図1は、本発明の原理を説明するための図である。 FIG. 1 is a diagram for explaining the principle of the present invention.
本発明(請求項1)は、1台以上のクライアント装置と処理内容に応じた2種類以上のサーバとの間に配置され、該クライアント装置から受信したリクエストを該サーバのいずれかに転送し、該リクエストに対して該サーバから返却されるレスポンスを該クライアント装置に転送する負荷制御装置を有するシステムにおける負荷制御方法において、
負荷制御装置は、
クライアント装置からリクエストを取得する第1の種別のサーバ及び、該リクエストを実際に処理する第2の種別のサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して(ステップ1)、サーバID、アドレス、サーバ種別と共に記憶手段に格納する(ステップ2)状態監視ステップと、
クライアント装置からのリクエストを受信し(ステップ3)、記憶手段に保持されているサーバ状態情報を参照して、該リクエストの処理内容に応じて接続する第1の種別のサーバを選択する(ステップ4)第1の種別サーバ選択ステップと、
第1の種別のサーバにリクエストを送信するリクエスト転送ステップ(ステップ5)と、
第1の種別のサーバからリクエストに対するレスポンスを取得し(ステップ6)、記憶手段のサーバ状態情報を参照して、該レスポンスに記載されている処理を行う処理能力に余裕がある第2の種別のサーバを選択する(ステップ7)第2の種別サーバ選択ステップと、
第2の種別サーバ選択ステップで選択された第2の種別のサーバのアドレスをレスポンスに書き込むレスポンス書き換えステップ(ステップ8)と、
レスポンス書き換えステップで第2の種別のサーバのアドレスに書き換えられたレスポンスをクライアント装置に送信するレスポンス送信ステップ(ステップ9)と、を行い、
クライアント装置は、
負荷制御装置から受信した書き換えられたレスポンスのアドレスに基づいて、第2の種別のサーバと接続するステップを行う(ステップ10)。
The present invention (Claim 1) is arranged between one or more client devices and two or more types of servers according to processing contents, and transfers a request received from the client device to any of the servers, In a load control method in a system having a load control device that transfers a response returned from the server to the client device in response to the request,
The load control device
The state of the first type server that acquires a request from the client device and the state of the second type server that actually processes the request are periodically monitored, and a parameter indicating the load state of the server is used as server state information. Collecting (step 1) and storing it in the storage means together with the server ID, address and server type (step 2), a state monitoring step;
Receiving a request from the client device (step 3), by referring to the server state information held in memorize means, for selecting the first server type to be connected in accordance with the processing contents of the request (step 4) a first type server selection step;
A request transfer step (step 5) for transmitting a request to the first type of server;
A response to the request is acquired from the server of the first type (step 6), the server type information of the storage unit is referred to, and the second type of the second type with sufficient processing capacity to perform the processing described in the response is obtained. selecting a server (step 7) and the second type server selection step,
A response rewriting step (step 8) for writing the address of the second type server selected in the second type server selection step in the response;
A response transmission step (step 9) of transmitting the response rewritten to the address of the second type server in the response rewriting step to the client device;
The client device
Based on the address of the rewritten response received from the load control device, a step of connecting to the second type server is performed (step 10).
また、本発明(請求項2)は、状態監視ステップにおいて、
サーバ毎に、サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、記憶手段に格納し、
第2の種別サーバ選択ステップにおいて、
記憶手段から各サーバのパラメータを読み出して、各パラメータ毎に最も数値が小さいサーバに得点を与え、合計得点が最も高いサーバを、第2の種別のサーバとして選択する。
Further, the present invention (Claim 2) is the state monitoring step,
As server status information for each server,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of the stores in the memorize means,
In the second type server selection step,
The parameters of each server are read from the storage means, a score is given to the server with the smallest numerical value for each parameter , and the server with the highest total score is selected as the second type server.
本発明(請求項3)は、1台以上のクライアント装置と処理内容に応じた2種類以上のサーバとの間に配置され、該クライアント装置から受信したリクエストを該サーバのいずれかに転送し、該リクエストに対して該サーバから返却されるレスポンスを該クライアント装置に転送する請求項1記載の負荷制御方法を行う2台以上の負荷制御装置を有するシステムにおける負荷制御方法であって、
各負荷制御装置は、
各負荷制御装置に直接接続されるサーバの状態を定期的に監視し、所定の閾値以内の該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して、提供可能なコンテンツ種別、サーバID、アドレス、サーバ種別と共に記憶手段に格納する第1のサーバ状態情報収集ステップと、
クライアント装置からのリクエストを受信し、記憶手段を参照して、該リクエストの内容に応じて、接続する第1の種別のサーバを選択する第1の種別サーバ選択ステップと、
第1の種別のサーバにリクエストを送信するリクエスト転送ステップと、
記憶手段に格納されている情報を他の負荷制御装置と交換する状態情報交換ステップと、
他の負荷制御装置から取得した情報を記憶手段に格納する第2のサーバ状態情報収集ステップと、
他の負荷制御装置から取得した情報を含む記憶手段を参照して、クライアント装置の接続する宛先として、リクエストに対して提供可能なコンテンツ種別を有し、処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択ステップと、
第1の種別のサーバから受信したレスポンスに、第2の種別サーバ選択ステップで選択された第2の種別のサーバのアドレスを書き込むレスポンス書き換えステップと、
レスポンス書き換えステップで書き換えられたレスポンスをクライアント装置に送信するレスポンス送信ステップと、を行い、
クライアント装置は、
負荷制御装置から受信した書き換えられたレスポンスに基づいて、第2の種別のサーバと接続するステップを行う。
The present invention (Claim 3) is arranged between one or more client devices and two or more types of servers according to processing contents, and transfers a request received from the client devices to any of the servers, the response to be returned from the server in response to the request a load control method in a system having two or more load control device which performs load control method according to claim 1 Symbol placement transferred to the client device,
Each load control device
Periodically monitor the state of the server directly connected to each load control device, collect parameters representing the load state of the server within a predetermined threshold as server state information, and provide the content type, server ID, A first server status information collection step for storing the address and server type in the storage means;
Receiving a request from the client device, by referring to the storage means, a first type server selection step in accordance with the contents of the request, selects the first server type to be connected,
A request forwarding step for sending a request to a first type of server;
And status information exchanging step for exchanging a storage unit that is stored in the information with other load control device,
A second server state information collecting step of storing the information obtained from the other of the load control device in the storage means,
By referring to the storage hands stage including information obtained from the other load control device, as the destination of connection of the client device includes a providable content type for the request, the second type there is sufficient processing capacity A second type server selection step of selecting a server of
The response received from the first server type, and response rewriting step of writing the address of the server of the second type selected by the second type server selection step,
A response transmission step of transmitting the response rewritten in the response rewriting step to the client device,
The client device
Based on the rewritten response received from the load control device, a step of connecting to the second type server is performed.
また、本発明(請求項4)は、第1のサーバ状態情報収集ステップにおいて、
自負荷制御装置に直接接続されるサーバから、サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、記憶手段に格納し、
状態情報交換ステップにおいて、
記憶手段から各サーバ毎の、各パラメータの全て、または、いずれかの組み合わせ、または、いずれか1つを他の負荷制御装置に対して送信する。
Moreover, this invention (Claim 4) is the first server status information collecting step.
As server status information from the server directly connected to the self-load control device ,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of the stores in the memorize means,
In the state information exchange step,
All or each combination or any one of the parameters for each server is transmitted from the storage means to the other load control device.
図2は、本発明の原理構成図である。 FIG. 2 is a principle configuration diagram of the present invention.
本発明(請求項5)は、1台以上のクライアント装置と処理内容に応じた2種類以上のサーバとの間に配置され、該クライアント装置から受信したリクエストを該サーバのいずれかに転送し、該リクエストに対して該サーバから返却されるレスポンスを該クライアント装置に転送する負荷制御装置であって、
クライアント装置及びサーバとの通信を行う通信手段100と、
種類の異なる各サーバ毎に、サーバ群の代表ホスト名またはアドレス、処理対象情報、サーバ状態情報を格納する記憶手段200と、
クライアント装置からリクエストを取得する第1の種別のサーバ及び、該リクエストを実際に処理する第2の種別のサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して、サーバID、アドレス、サーバ種別と共に記憶手段200に格納する状態監視手段300と、
クライアント装置から受信したリクエストの内容に基づいて、記憶手段200に保持されているサーバ状態情報を参照して、該リクエストの処理内容に応じて接続する第1の種別のサーバを選択する第1の種別サーバ選択手段410と、
該リクエストを、通信手段100を介して該第1の種別のサーバに転送するリクエスト転送手段と、
第1の種別のサーバからリクエストに対するレスポンスを取得し、記憶手段200のサーバ状態情報を参照して、該レスポンスに記載されている処理を行う処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択手段420と、
第2の種別サーバ選択手段420で選択されたサーバのアドレスを、レスポンスに書き込み、クライアント装置に通信手段100を介して送信するレスポンス書き換え手段600と、を有する。
The present invention (Claim 5) is arranged between one or more client devices and two or more types of servers according to processing contents, and transfers a request received from the client device to any of the servers, A load control device that transfers a response returned from the server to the client device to the client device,
Communication means 100 for communicating with a client device and a server;
Storage means 200 for storing the representative host name or address of the server group, processing target information, server status information for each different type of server;
The state of the first type server that acquires a request from the client device and the state of the second type server that actually processes the request are periodically monitored, and a parameter indicating the load state of the server is used as server state information. State monitoring means 300 that collects and stores the server ID, address, and server type together with the storage means 200;
Based on the content of the request received from the client device, the server status information held in the
And request transferring means for transferring the request via the
Obtain a response to the request from the first type server , refer to the server status information in the storage means 200, and select the second type server with sufficient processing capacity to perform the processing described in the response Second type server selection means 420 for
A
また、本発明(請求項6)は、状態監視手段300において、
サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、記憶手段200に格納する手段を含み、
第2の種別サーバ選択手段420において、
記憶手段200から各サーバのパラメータを読み出して、各パラメータ毎に最も数値が小さいサーバに得点を与え、合計得点が最も高いサーバを、第2の種別のサーバとして選択する手段を含む。
Further, the present invention (Claim 6) is provided in the state monitoring means 300.
As server status information,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of comprises means for storing the memorize means 200,
In the second type server selection means 420,
It includes means for reading out the parameters of each server from the storage means 200, giving a score to the server having the smallest numerical value for each parameter, and selecting the server having the highest total score as the second type server.
本発明(請求項7)は、1台以上のクライアント装置と処理内容に応じた2種類以上のサーバとの間に配置され、該クライアント装置から受信したリクエストを該サーバのいずれかに転送し、該リクエストに対して該サーバから返却されるレスポンスを該クライアント装置に転送する負荷制御装置が複数台存在するシステムにおける負荷制御装置であって、
クライアント装置、サーバ及び他の負荷制御装置との通信を行う通信手段と、
他の負荷制御装置から取得したサーバ状態情報及び、自負荷制御装置に直接接続される種類の異なる各サーバ毎の、サーバ群の代表ホスト名またはアドレス、処理対象情報、サーバ状態情報を格納する記憶手段と、
各負荷制御装置に直接接続されるサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して、提供可能なコンテンツ種別、サーバID、アドレス、サーバ種別と共に記憶手段に格納する第1のサーバ状態情報収集手段と、
クライアント装置からのリクエストを受信し、記憶手段を参照して、該リクエストの内容に応じて接続する第1の種別のサーバを選択する第1の種別サーバ選択手段と、
第1の種別のサーバにリクエストを送信するリクエスト転送手段と、
記憶手段に格納されている情報を他の負荷制御装置と交換する状態情報交換手段と、
他の負荷制御装置から取得した情報を記憶手段に格納する第2のサーバ状態情報収集手段と、
他の負荷制御装置から取得した情報を含む記憶手段を参照して、クライアント装置の接続する宛先として、リクエストに対して提供可能なコンテンツ種別を有し、処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択手段と、
第1の種別のサーバから受信したレスポンスに、第2の種別サーバ選択手段で選択された第2の種別のサーバのアドレスを書き込むレスポンス書き換え手段と、
レスポンス書き換え手段で書き換えられたレスポンスをクライアント装置に送信するレスポンス送信手段と、を有する。
The present invention (Claim 7) is arranged between one or more client devices and two or more types of servers according to processing contents, and transfers a request received from the client device to any of the servers, A load control device in a system having a plurality of load control devices that transfer a response returned from the server to the client device in response to the request,
Communication means for communicating with the client device, the server and other load control devices;
Other load control device and the acquired server state information from the storage of the own load control device connected directly to the different respective servers, the representative host name or address of the server group, the processing object information, the server status information Storage means for
Periodically monitor the status of the server directly connected to each load control device, collect parameters representing the load status of the server as server status information, and provide the content type, server ID, address, and server type that can be provided First server state information collecting means for storing in the storage means;
Receiving a request from the client device, by referring to the stored hand stage, a first type server selection means for selecting the first server type to be connected in accordance with the contents of the request,
A request transfer means for transmitting a request to the first type of server;
Status information exchange means for exchanging information stored in the storage means with other load control devices;
Second server state information collecting means for storing information acquired from another load control device in the storage means;
With reference to storage means including information acquired from another load control device , the second type of content having a content type that can be provided for the request as a destination to which the client device is connected and having a sufficient processing capacity Second type server selection means for selecting a server;
The response received from the first server type, and response rewriting means for writing the address of the server of the second type selected by the second type server selection means,
Response sending means for sending the response rewritten by the response rewriting means to the client device.
また、本発明(請求項8)は、第1のサーバ状態情報収集手段において、
自負荷制御装置に直接接続されるサーバから、サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、記憶手段に格納する手段を含み、
状態情報交換手段は、
記憶手段から各サーバ毎の、各パラメータの全て、または、いずれかの組み合わせ、または、いずれか1つを他の負荷制御装置に対して送信する手段を含む。
Further, the present invention (Claim 8) is the first server status information collecting means,
As server status information from the server directly connected to the self-load control device ,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of comprises means for storing the memorize means,
State information exchange means
Means for transmitting all or any combination of each parameter or any one of the parameters for each server from the storage means to another load control device.
本発明(請求項9)は、請求項5乃至8のいずれか1項に記載の負荷制御装置を構成する各手段としてコンピュータを機能させる負荷制御プログラムである。 The present invention (Claim 9) is a load control program for causing a computer to function as each means constituting the load control device according to any one of Claims 5 to 8.
処理が進むに従って、サーバの種類が変遷する場合において、クライアント装置が次の処理を行うサーバに関する情報を、現在のサーバから得られるレスポンスに記載された情報によって得ることは、例えば、Webサーバからストリームサーバやアプリケーションサーバへの遷移など、一般に広く行われている技術である。 When the server type changes as processing proceeds, it is possible to obtain information on the server on which the client device performs the next processing by information described in the response obtained from the current server, for example, from a Web server. This is a technique that is generally performed widely, such as transition to a server or application server.
本発明によれば、この第1の種別のサーバから得られる、次の処理を行うべき第2の種別のサーバの情報をクライアント装置に転送することにより、クライアント装置が最適なサーバへ接続することが可能となる。直接接続することによって、従来技術のようにコンテンツやサービスを提供する第2の種別のサーバへのリクエストが負荷制御装置を経由することなく、また、第2の種別のサーバからのコンテンツ配信もクライアント装置へ直接行われることにより、ボトルネックを回避することが可能となる。 According to the present invention, the client device connects to the optimum server by transferring the information of the second type server to be processed next obtained from the first type server to the client device. Is possible. By connecting directly, a request to the second type server that provides content and services as in the prior art does not pass through the load control device, and content distribution from the second type server is also performed by the client. By being performed directly on the apparatus, it is possible to avoid bottlenecks.
また、複数の負荷分散装置との間でリモートでサーバの情報を交換することにより、ローカルの負荷分散のみならず、グローバルな負荷分散が可能となる。 In addition, by remotely exchanging server information with a plurality of load distribution apparatuses, not only local load distribution but also global load distribution is possible.
以下、図面と共に本発明の実施の形態を説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[第1の実施の形態]
図3は、本発明の第1の実施の形態における負荷制御システムの構成を示す。
[First Embodiment]
FIG. 3 shows the configuration of the load control system according to the first embodiment of the present invention.
同図に示すシステムは、クライアント装置41,42、ネットワーク43、負荷制御装置44及び2種類のサーバ群から構成され、サーバ群としてWebサーバ45〜47と映像・音声コンテンツを提供するストリームサーバ48〜52が存在する。
The system shown in FIG. 1 includes client devices 41 and 42, a network 43, a
負荷制御装置44は、クライアント装置41,42とWebサーバ45〜47及びストリームサーバ48〜52の間に配置され、クライアント装置41,42から受信したリクエストをWebサーバ45〜47のいずれかに転送し、リクエストに対するWebサーバからのレスポンスを、選択したストリームサーバ48〜52のいずれかのアドレスに書き換えてクライアント装置に転送する。
The
クライアント装置41,42は、負荷制御装置44にリクエストを送信し、負荷制御装置44から所望のコンテンツを取得可能なストリームサーバのアドレスを含むレスポンスを取得し、負荷制御装置44を介在させないで、直接ストリームサーバからコンテンツを取得する。
The client apparatuses 41 and 42 transmit a request to the
図4は、本発明の第1の実施の形態における負荷制御装置の構成を示す。 FIG. 4 shows the configuration of the load control device according to the first embodiment of the present invention.
負荷制御装置44は、通信部100、サーバ情報記憶部200、サーバ管理部300、書き換え部600から構成される。
The
サーバ管理部300は、Webサーバ44〜47、ストリームサーバ48〜52のトラフィックの状態を定期的に監視すると共に、監視したサーバの状態情報、サーバの種別、サーバIDまたはアドレス等を取得してサーバ情報記憶部443に格納することにより管理する。
The
サーバ管理部300がサーバを監視することにより取得する状態情報のパラメータは、
・サーバの演算装置の負荷;
・サーバのメモリの使用量;
・サーバ内の温度;
・サーバに対して接続しているクライアント装置の数;
・サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数;
・サーバが使用しているネットワークの帯域;
であり、サーバ毎にサーバ情報記憶部200に格納する。
The parameter of the status information acquired by the
-Server computing device load;
-Server memory usage;
・ Temperature in the server;
The number of client devices connected to the server;
The number of client devices currently in use among the client devices connected to the server;
-Network bandwidth used by the server;
And stored in the server
サーバ選択部400は、クライアント装置41,42からのリクエストに基づいて、サーバ情報記憶部200を参照して、リクエストを転送する適切なサーバを決定する。このとき、サーバ選択部400は、クライアント装置41,42からのリクエストを受信すると、当該リクエストの処理要求(例えば、Windows Mediaメタファイル要求)に基づいて、サーバ情報記憶部200を参照してWebサーバ群から1つのWebサーバ(第1の種別のサーバ)を選択する。そして、選択されたWebサーバに対してリクエストを転送し、当該リクエストに対応するレスポンス(例えば、Windows Mediaメタファイル)を受信する。次に、当該レスポンスに基づいて、サーバ情報記憶部200を参照し、実質的に処理を行うストリームサーバ(第2の種別のサーバ)を選択する。
The
Webサーバからのレスポンスに指定されているストリームサーバが複数存在しているため、この中から1つのストリームサーバを選択する方法として以下のような方法がある。 Since there are a plurality of stream servers specified in the response from the Web server, there are the following methods for selecting one stream server from these.
<ストリームサーバの選択方法>
1) サーバ情報記憶部200から各サーバの少なくとも1つの状態情報のパラメータを読み出して、最も数値が小さいサーバに得点を与え、その合計得点が最も高いサーバを選択する。なお、利用するパラメータは、上記の少なくとも1つ、または、全てのパラメータ、または、いくつかのパラメータの組み合わせのいずれかとする。
<How to select a stream server>
1) Read at least one status information parameter of each server from the server
これにより、最も負荷の少ないサーバを容易に選択することができる。 As a result, it is possible to easily select the server with the least load.
2) サーバ情報記憶部200から各サーバの状態情報の少なくとも1つのパラメータを読み出して、予めサーバ毎に設定された閾値または、全サーバ共通で設定された閾値と比較して、閾値以下のサーバのみを選択候補とし、その中から上記1)の方法により合計得点を求め、最も合計得点の高いサーバを選択する。また、閾値と比較して当該閾値を超えている場合には、閾値を下回るまで選択対象から除外するものとする。
2) Read at least one parameter of the status information of each server from the server
このようにサーバ毎に最適な制限値を設けることによって、コンテンツを直接クライアント装置に提供するサーバ(ストリームサーバ)に性能差がある場合においても、特定のサーバが過負荷に陥ることなく、サービスを継続することができる。 In this way, by setting an optimal limit value for each server, even when there is a performance difference in the server (stream server) that provides the content directly to the client device, the service can be performed without overloading a specific server. Can continue.
また、サーバ情報記憶部200から読み出した全てのサーバのパラメータが閾値を超えていて、選択対象となるサーバが存在しない場合には、予め設定された時間待ち合わせ、再度サーバ情報記憶部200からパラメータを読み出して、上記の判定を行う。このとき、再度全てのサーバのパラメータが閾値を超えている場合には、通信部100を介して、クライアント装置41,42にビジーを通知するか、または、ビジー処理を行うサーバがある場合には、当該サーバにクライアント装置からのリクエストと共に、ビジー状態を通知する。
Further, when the parameters of all the servers read from the server
これにより、システム全体の許容量を越えるほどのアクセスが集中した場合でも、システムが過負荷に陥ることなく運用が可能であり、かつ、条件を満たさないからといって即拒絶するのではなく、予め設定した時間サーバが再び選択可能となるのを待つことによって、クライアントの無駄なリロードを抑え、システム全体の効率を高めることが期待できる。 As a result, even if access is concentrated so as to exceed the allowable capacity of the entire system, it is possible to operate without overloading the system, and not to reject immediately because the condition is not satisfied, By waiting for the server to be selectable again for a preset time, it can be expected to suppress unnecessary reloading of the client and increase the efficiency of the entire system.
書き換え部600は、サーバ選択部400において、ストリームサーバ(第2の種別のサーバ)が選択されると、当該サーバのアドレスをWebサーバからのレスポンスに書き込み、通信部100を介してクライアント装置に送信する。
When the
以下では、Webサーバ45〜47とストリームサーバ48〜52の2種からなるサーバ群を例とし、クライアント装置41,42は、Webサーバ45〜47のいずれかにアクセスし、希望するストリームサーバを選択することによって、ストリームサーバとコンテンツの情報を得るものである。例えば、ストリームサーバとして、Microsoft社のWindows Media Serverを用いる場合は、Webサーバから返されるストリームサーバとコンテンツの情報を記したレスポンスとして、Windows Mediaメタファイルと呼ばれる形式を取得することができる。
In the following, a server group consisting of two types of
以下に、一連の処理について説明する。 A series of processing will be described below.
図5は、本発明の第1の実施の形態における処理のシーケンスチャートである。 FIG. 5 is a sequence chart of processing in the first embodiment of the present invention.
以下では、クライアント装置41からリクエストが送信され、Webサーバ46、ストリームサーバ48を選択するものとして説明する。また、Webサーバを選択するための、代表ホスト名、アドレス、処理内容等のWebのサーバ情報は、予め収集されてサーバ情報記憶部200に格納されているものとする。
In the following description, it is assumed that a request is transmitted from the client device 41 and the
各ストリームサーバ48〜52からは、データが流れるネットワーク43とは別ネットワークを形成し、パケットの流れCのように、各サーバの状態を、例えば、SNMP(Simple Network Management Protocol)を用いて定期的に取得し(ステップ101)、各ストリームサーバから取得したサーバ情報のパラメータの閾値と所定の閾値とを比較して、閾値以内のパラメータを持つサーバ情報をサーバ情報記憶部200に格納する(ステップ102)。 Each stream server 48 to 52 forms a network separate from the network 43 through which data flows, and the state of each server is periodically changed using, for example, SNMP (Simple Network Management Protocol) as in the packet flow C. (Step 101), the server information parameter obtained from each stream server is compared with a predetermined threshold value, and server information having parameters within the threshold value is stored in the server information storage unit 200 (Step 102). ).
クライアント装置41にとっては、負荷制御装置44がWebサーバ群45〜47を代表するホスト名及びアドレスで見えているため、クライアント装置41は、Webサーバ45〜47のいずれかに対してWindows Mediaメタファイルを要求するためのリクエストをパケットの流れAに沿ってネットワーク43を介して負荷制御装置44に送信する(ステップ103)。
Since the
負荷制御装置44は、クライアント装置41からリクエストを受信すると、サーバ選択部400は、当該リクエストに基づいてサーバ情報記憶部200を参照して、当該リクエストを送信可能なWebサーバを選択する(ステップ104)。Webサーバの選択には、従来の負荷制御装置が行っている選択手段、例えば、最も少ないコネクション数のWebサーバを選択する、などの方法を用いる。ここでは、Webサーバ46を選択したものとする。
When the
負荷制御装置44は、Webサーバ46に対してパケットの流れBに沿ってリクエストを送信する(ステップ105)。
The
次に、Webサーバ46よりWindows Mediaメタファイルがレスポンスとしてパケットの流れBに沿って負荷制御装置44に送信される(ステップ106)。
Next, the Windows Media metafile is transmitted from the
負荷制御装置44のサーバ選択部400は、Webサーバ46から取得したレスポンスに基づいて、サーバ情報記憶部200を参照して、最適なストリームサーバを選択する(ステップ107)。ここでは、ストリームサーバ49を選択したものとする。このとき、どのサーバも選択できなかった場合には、所定の時間待ち合わせを行い、再度、サーバを選択し、所定の待ち時間を経過してもサーバが選択できない場合には、ビジー通知をリクエスト送信元のクライアント装置41に送信する(ステップ108)。
The
ストリームサーバが選択された場合には、負荷制御装置44の書き換え部600は、選択したストリームサーバ49の情報(アドレス)を用いてWindows Mediaメタファイルを書き換え(ステップ109)、書き換えたWindows Mediaメタファイルをクライアント装置41に送信する(ステップ110)。
When the stream server is selected, the
クライアント装置41は、取得したWindows Mediaメタファイル内に記述されているアドレスを用いてストリームサーバ49へ接続する(ステップ111)。これにより、クライアント装置41は、パケットの流れDに沿ってストリームサーバ49と通信を行うことができる。
The client device 41 connects to the
上記のように本実施の形態によれば、クライアント装置41は、負荷制御装置44を経由することなくストリームサーバ49に直接アクセスし、コンテンツを取得することができ、負荷制御装置44によるボトルネックを解消することができる。
As described above, according to the present embodiment, the client device 41 can directly access the
[第2の実施の形態]
第1の実施の形態では、1つの負荷制御装置において負荷制御を行う例を説明したが、本実施の形態では、第1の実施の形態で示した負荷制御装置を複数台用い、収集した各サーバの各パラメータを負荷制御装置同士で交換する例を説明する。
[Second Embodiment]
In the first embodiment, an example of performing load control in one load control device has been described. However, in this embodiment, a plurality of load control devices shown in the first embodiment are used and collected. An example in which each parameter of the server is exchanged between load control devices will be described.
図6は、本発明の第2の実施の形態における負荷制御システムの構成を示す。 FIG. 6 shows the configuration of the load control system in the second embodiment of the present invention.
同図に示すシステムは、クライアント装置57,58と、拠点59,63,69のシステムがネットワークを介して接続されている。
In the system shown in the figure,
拠点59には、1台の負荷制御装置60とWebサーバ群61、ストリームサーバ群62があり、拠点63には1台の負荷制御装置64とストリームサーバ群65があり、拠点66には、1台の負荷制御装置67とストリームサーバ群68がある。
The
各拠点の各負荷制御装置60,64,67は、前述の図4と同様の構成を有し、サーバ情報記憶部200には、全てのサーバ群の情報が格納される。
Each
本実施の形態における負荷制御装置の構成は、図4に示す構成と同様であるが、通信部100は、自装置配下のサーバ及びクライアント装置のみならず、他の負荷制御装置との送受信を行う。また、サーバ管理部300は、第1の実施の形態の機能に加えて、他の負荷制御装置から取得したサーバ情報も管理し、サーバ情報記憶部200に格納する。
The configuration of the load control device in the present embodiment is the same as the configuration shown in FIG. 4, but the
図7は、本発明の第2の実施の形態における処理のシーケンスチャートである。 FIG. 7 is a sequence chart of processing in the second embodiment of the present invention.
以下では、拠点59の負荷制御装置60において、拠点63の負荷制御装置64及び拠点66の負荷制御装置67からサーバ情報を収集し、クライアント装置57からのリクエストに応じる例を説明する。
Hereinafter, an example will be described in which server information is collected from the load control device 64 of the base 63 and the
最初に、各負荷制御装置60、64,67では、当該負荷制御装置配下のWebサーバ群及びストリームサーバ群からサーバ情報を定期的に収集し(ステップ201)、収集したサーバ情報のパラメータの値と所定の閾値を比較して、閾値以内のパラメータを各負荷制御装置内のサーバ情報記憶部200に格納する(ステップ202)。なお、各負荷制御装置におけるサーバ情報の収集及びサーバ情報のパラメータと所定の閾値の比較は、前述の第1の実施の形態で示した方法と同様である。
First, each
負荷制御装置64,67は、閾値をチェックしたパラメータからなるサーバ情報を負荷制御装置60に対して、パケットの流れA,Bに従って送信する(ステップ203)。
The
負荷制御装置60は、他の負荷制御装置64,67から受信したサーバ情報(ストリームサーバのパラメータ)をサーバ情報記憶部200にサーバ毎に格納する(ステップ204)。
The load control device 60 stores the server information (stream server parameters) received from the other
ここで、負荷制御装置60がクライアント装置57からリクエストを受信すると(ステップ205)、当該リクエストに基づいて、サーバ情報記憶部200を参照してWebサーバ群61の中から1つのWebサーバを選択する(ステップ206)。選択方法については、第1の実施の形態と同様である。選択されたWebサーバに対してクライアント装置57からのリクエストを送信する(ステップ207)。Webサーバは、リクエストに対するレスポンスを負荷制御装置60に返却する(ステップ208)。Webサーバを選択する処理及びWebサーバからのレスポンスを送信する処理については、第1の実施の形態と同様である。
Here, when the load control device 60 receives a request from the client device 57 (step 205), based on the request, the server
負荷制御装置60は、Webサーバから取得したレスポンスに基づいて、サーバ情報記憶部200を参照して、格納されている全てのサーバの中から提供可能コンテンツの種別及び状態情報のパラメータに基づいてストリームサーバを選択する(ステップ209)。ここでは、拠点66のストリームサーバ群68のストリームサーバが選択されたものとする。Webサーバから返却されたレスポンスに選択されたストリームサーバのアドレスを書き込み(ステップ210)、クライアント装置57に送信する(ステップ211)。これにより、クライアント装置57と拠点66のストリームサーバ群の1つのストリームサーバが接続される(ステップ212)。
The load control device 60 refers to the server
なお、上記の例では、Webサーバ群61を配下に持つ負荷制御装置60が、他の負荷制御装置64,67からリモート情報を採取する例を示しているが、全ての拠点にWebサーバが存在し、互いにサーバ情報を送信しあう構成としてもよい。この場合、各拠点のWebサイトのうちどこに接続するかは、DNSラウンドロビン等の既存技術を利用することで実現可能である。
In the above example, the load control device 60 having the
また、各負荷分散制御装置同士が代表値のみを互いにやり取りする場合は、最適なサーバを表す情報としてサーバ群の代表となるサーバ名(サーバID)または、アドレスが得られることがある。この場合、実際に接続するサーバの情報を得るには、代表するホスト名または、アドレスに接続を試みた際に、再度、書き換え部600においてレスポンスの書き換えを行い、最終的な接続先を得るようにしてもよい。
In addition, when each load balancing control device exchanges only a representative value with each other, a server name (server ID) or an address representing a server group may be obtained as information representing an optimum server. In this case, in order to obtain information on the server to be actually connected, when a connection is attempted to a representative host name or address, the
本実施の形態によれば、ローカルの負荷分散だけではなく、グローバルに負荷分散が可能となり、サイトが接続するネットワークの帯域の負荷分散を行うことができる。 According to the present embodiment, not only local load distribution but also global load distribution is possible, and load distribution of a network band to which a site is connected can be performed.
なお、上記の負荷制御装置の機能をプログラムとして構築し、負荷制御装置として利用されるコンピュータにインストールして実行させる、または、ネットワークを介して流通させることが可能である。 The functions of the load control device described above can be constructed as a program and installed in a computer used as the load control device for execution or distributed via a network.
また、構築されたプログラムを、ハードディスクや、フレキシブルディスク、CD−ROM等の可搬記憶媒体に格納し、コンピュータにインストールするまたは、配布することも可能である。 Further, the constructed program can be stored in a portable storage medium such as a hard disk, a flexible disk, or a CD-ROM, and can be installed or distributed in a computer.
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。 The present invention is not limited to the above-described embodiment, and various modifications and applications can be made within the scope of the claims.
本発明は、サーバのリソースの過負荷を分散するためのシステムに適用可能である。 The present invention is applicable to a system for distributing an overload of server resources.
41,42,57,58 クライアント装置
44,60,64,67 負荷制御装置
45,46,47 Webサーバ
48,49,50,51,52 ストリームサーバ
61 Webサーバ群
62,65,68 ストリームサーバ群
59,63,66 拠点
100 通信手段、通信部
200 記憶手段、サーバ情報記憶部
300 状態監視手段、サーバ管理部
400 サーバ選択部
410 1の種別サーバ選択手段
420 第2の種別サーバ選択手段
600 レスポンス書き換え手段
41, 42, 57, 58
Claims (9)
前記負荷制御装置は、
前記クライアント装置からリクエストを取得する第1の種別のサーバ及び、該リクエストを実際に処理する第2の種別のサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して、サーバID、アドレス、サーバ種別と共に記憶手段に格納する状態監視ステップと、
前記クライアント装置からのリクエストを受信し、前記記憶手段に保持されている前記サーバ状態情報を参照して、該リクエストの処理内容に応じて接続する第1の種別のサーバを選択する第1の種別サーバ選択ステップと、
前記前記第1の種別のサーバに前記リクエストを送信するリクエスト転送ステップと、
前記第1の種別のサーバから前記リクエストに対するレスポンスを取得し、前記記憶手段の前記サーバ状態情報を参照して、該レスポンスに記載されている処理を行う処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択ステップと、
前記第2の種別サーバ選択ステップで選択された前記第2の種別のサーバのアドレスを前記レスポンスに書き込むレスポンス書き換えステップと、
前記レスポンス書き換えステップで前記第2の種別のサーバのアドレスに書き換えられた前記レスポンスを前記クライアント装置に送信するレスポンス送信ステップと、を行い、
前記クライアント装置は、
前記負荷制御装置から受信した前記書き換えられたレスポンスのアドレスに基づいて、前記第2の種別のサーバと接続するステップを行う
ことを特徴とする負荷制御方法。 Arranged between one or more client devices and two or more types of servers according to the processing content, forwards the request received from the client device to one of the servers, and returns the request to the server In a load control method in a system having a load control device that transfers a response to the client device,
The load control device includes:
The status of the first type of server that acquires a request from the client device and the status of the second type of server that actually processes the request are periodically monitored, and a parameter indicating the load status of the server is set as server status information. A state monitoring step for collecting the data and storing it in the storage means together with the server ID, address, and server type ;
Receiving a request from the client device, by referring to the server state information held in the storage means, a first type for selecting the first server type to be connected in accordance with the processing contents of the request A server selection step;
A request transfer step of transmitting the request to the server of the first type;
Obtain a response to the request from the server of the first type, refer to the server status information in the storage means, and have a second type of processing capacity to perform the processing described in the response A second type server selection step of selecting a server;
And response rewriting step of writing the address of the server of the second type server selection selected the second type in step to said response,
A response transmission step of transmitting the response rewritten to the address of the second type server in the response rewriting step to the client device;
The client device is
A load control method comprising performing a step of connecting to the second type of server based on the address of the rewritten response received from the load control device.
サーバ毎に、前記サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、前記記憶手段に格納し、
前記第2の種別サーバ選択ステップにおいて、
前記記憶手段から各サーバのパラメータを読み出して、各パラメータ毎に最も数値が小さいサーバに得点を与え、合計得点が最も高いサーバを、前記第2の種別のサーバとして選択する
請求項1記載の負荷制御方法。 In the state monitoring step,
For each server, as the server status information,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of stored before term memory unit,
In the second type server selection step,
The load according to claim 1 , wherein parameters of each server are read from the storage means, a score is given to a server having the smallest numerical value for each parameter, and a server having the highest total score is selected as the server of the second type. Control method.
各負荷制御装置は、
各負荷制御装置に直接接続されるサーバの状態を定期的に監視し、所定の閾値以内の該サーバの負荷状態を表すパラメータをサーバ状態情報として収集して、提供可能なコンテンツ種別、サーバID、アドレス、サーバ種別と共に記憶手段に格納する第1のサーバ状態情報収集ステップと、
前記クライアント装置からのリクエストを受信し、前記記憶手段を参照して、該リクエストの内容に応じて、接続する第1の種別のサーバを選択する第1の種別サーバ選択ステップと、
前記第1の種別のサーバに前記リクエストを送信するリクエスト転送ステップと、
前記記憶手段に格納されている情報を他の負荷制御装置と交換する状態情報交換ステップと、
前記他の負荷制御装置から取得した前記情報を前記記憶手段に格納する第2のサーバ状態情報収集ステップと、
前記他の負荷制御装置から取得した情報を含む前記記憶手段を参照して、前記クライアント装置の接続する宛先として、前記リクエストに対して提供可能なコンテンツ種別を有し、処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択ステップと、
前記第1の種別のサーバから受信したレスポンスに、前記第2の種別サーバ選択ステップで選択された前記第2の種別のサーバのアドレスを書き込むレスポンス書き換えステップと、
前記レスポンス書き換えステップで書き換えられたレスポンスを前記クライアント装置に送信するレスポンス送信ステップと、を行い、
前記クライアント装置は、
前記負荷制御装置から受信した前記書き換えられたレスポンスに基づいて、前記第2の種別のサーバと接続するステップを行う
ことを特徴とする負荷制御方法。 Arranged between one or more client devices and two or more types of servers according to the processing content, forwards the request received from the client device to one of the servers, and returns the request to the server the response is a load control method in a system having two or more load control device which performs load control method to forward to the client device,
Each load control device
Periodically monitor the state of the server directly connected to each load control device, collect parameters representing the load state of the server within a predetermined threshold as server state information, and provide the content type, server ID, A first server status information collection step for storing the address and server type in the storage means;
Receiving a request from the client device, by referring to the storage means, a first type server selection step in accordance with the contents of the request, selects the first server type to be connected,
A request transfer step of transmitting the request to the first type of server;
And status information exchanging step of exchanging said that is stored in the storage means information and other load control device,
A second server state information collecting step of storing the information acquired from the second load control device in the storage unit,
The other with reference to said memory hand stage including the information obtained from the load control device, as the destination of connection of the client device includes a content type that can be provided to the request, there is a margin in the processing capacity A second type server selection step of selecting a second type of server;
The response received from the server of the first type, and response rewriting step of writing the address of the server of the second type server selection step at the selected second type,
A response transmission step of transmitting the response rewritten in the response rewriting step to the client device, and
The client device is
A load control method comprising the step of connecting to the second type of server based on the rewritten response received from the load control device.
自負荷制御装置に直接接続されるサーバから、前記サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、前記記憶手段に格納し、
前記状態情報交換ステップにおいて、
前記記憶手段から各サーバ毎の、各パラメータの全て、または、いずれかの組み合わせ、または、いずれか1つを、前記他の負荷制御装置に対して送信する
請求項3記載の負荷制御方法。 In the first server status information collecting step,
From the server directly connected to the self-load control device, as the server status information,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of stored before term memory unit,
In the state information exchange step,
The load control method according to claim 3 , wherein all of the parameters, any combination, or any one of the parameters for each server is transmitted from the storage unit to the other load control device.
前記クライアント装置及び前記サーバとの通信を行う通信手段と、
種類の異なる各サーバ毎に、サーバ群の代表ホスト名またはアドレス、処理対象情報、サーバ状態情報を格納する記憶手段と、
前記クライアント装置からリクエストを取得する第1の種別のサーバ及び、該リクエストを実際に処理する第2の種別のサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータを前記サーバ状態情報として収集して、サーバID、アドレス、サーバ種別と共に前記記憶手段に格納する状態監視手段と、
前記クライアント装置から受信したリクエストの内容に基づいて、前記記憶手段に保持されている前記サーバ状態情報を参照して、該リクエストの処理内容に応じて接続する第1の種別のサーバを選択する第1の種別サーバ選択手段と、
前記リクエストを、前記通信手段を介して該第1の種別のサーバに転送するリクエスト転送手段と、
前記第1の種別のサーバから前記リクエストに対するレスポンスを取得し、前記記憶手段の前記サーバ状態情報を参照して、該レスポンスに記載されている処理を行う処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択手段と、
前記第2の種別サーバ選択手段で選択されたサーバのアドレスを、前記レスポンスに書き込み、前記クライアント装置に前記通信手段を介して送信するレスポンス書き換え手段と、
を有することを特徴とする負荷制御装置。 Arranged between one or more client devices and two or more types of servers according to the processing content, forwards the request received from the client device to one of the servers, and returns the request to the server A load control device that transfers the response to the client device,
Communication means for communicating with the client device and the server;
Storage means for storing the representative host name or address of the server group, processing target information, server status information for each different type of server;
The state of the first type server that obtains a request from the client device and the state of the second type server that actually processes the request are periodically monitored, and a parameter indicating the load state of the server is set as the server state. Status monitoring means that collects as information and stores in the storage means together with a server ID, address, and server type ;
Based on the content of the request received from the client device, by referring to the server state information held in the storage means, first selecting the first server type to be connected in accordance with the processing contents of the request 1 type server selection means;
And request transferring means for transferring the request to the server of the first type via the communication means,
Obtain a response to the request from the server of the first type, refer to the server status information in the storage means, and have a second type of processing capacity to perform the processing described in the response Second type server selection means for selecting a server;
A response rewriting means for writing the address of the server selected by the second type server selecting means to the response and transmitting it to the client device via the communication means;
A load control device comprising:
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、前記記憶手段に格納する手段を含み、
第2の種別サーバ選択手段は、
前記記憶手段から各サーバのパラメータを読み出して、各パラメータ毎に最も数値が小さいサーバに得点を与え、合計得点が最も高いサーバを、前記第2の種別のサーバとして選択する手段を含む
請求項5記載の負荷制御装置。 The state monitoring means, as the server state information,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of comprising means for storing before term memory unit,
The second type server selection means is:
It reads the parameters for each server from the storage means, the most numerically given score is less server for each parameter, the highest server total score, according to claim 5 including means for selecting as said second type server The load control device described.
前記クライアント装置、前記サーバ及び他の負荷制御装置との通信を行う通信手段と、
他の負荷制御装置から取得したサーバ状態情報及び、自負荷制御装置に直接接続される種類の異なる各サーバ毎の、サーバ群の代表ホスト名またはアドレス、処理対象情報、サーバ状態情報を格納する記憶手段と、
各負荷制御装置に直接接続されるサーバの状態を定期的に監視し、該サーバの負荷状態を表すパラメータを前記サーバ状態情報として収集して、提供可能なコンテンツ種別、サーバID、アドレス、サーバ種別と共に前記記憶手段に格納する第1のサーバ状態情報収集手段と、
前記クライアント装置からのリクエストを受信し、前記記憶手段を参照して、該リクエストの内容に応じて接続する第1の種別のサーバを選択する第1の種別サーバ選択手段と、
前記第1の種別のサーバに前記リクエストを送信するリクエスト転送手段と、
前記記憶手段に格納されている前記情報を他の負荷制御装置と交換する状態情報交換手段と、
他の負荷制御装置から取得した前記情報を前記記憶手段に格納する第2のサーバ状態情報収集手段と、
前記他の負荷制御装置から取得した前記情報を含む前記記憶手段を参照して、前記クライアント装置の接続する宛先として、前記リクエストに対して提供可能なコンテンツ種別を有し、処理能力に余裕がある第2の種別のサーバを選択する第2の種別サーバ選択手段と、
前記第1の種別のサーバから受信したレスポンスに、前記第2の種別サーバ選択手段で選択された前記第2の種別のサーバのアドレスを書き込むレスポンス書き換え手段と、
前記レスポンス書き換え手段で書き換えられたレスポンスを前記クライアント装置に送信するレスポンス送信手段と、
を有することを特徴とする負荷制御装置。 Arranged between one or more client devices and two or more types of servers according to the processing content, forwards the request received from the client device to one of the servers, and returns the request to the server A load control device in a system having a plurality of load control devices that transfer the response to the client device,
Communication means for communicating with the client device, the server and other load control devices;
Other load control device and the acquired server state information from the storage of the own load control device connected directly to the different respective servers, the representative host name or address of the server group, the processing object information, the server status information Storage means for
Periodically monitor the state of the server directly connected to each load control device, collect parameters representing the load state of the server as the server state information, and provide the content type, server ID, address, server type Together with first server status information collecting means for storing in the storage means,
Receiving a request from the client device, by referring to the storage hands stage, a first type server selection means for selecting the first server type to be connected in accordance with the contents of the request,
Request transfer means for transmitting the request to the first type of server;
And status information exchanging means for exchanging the information stored in said storage means with another load control device,
Second server state information collecting means for storing the information obtained from another load control device in the storage means;
With reference to the storage means including the information acquired from the other load control device , the client device has a content type that can be provided for the request as a destination to which the client device is connected , and has a sufficient processing capacity Second type server selection means for selecting a second type of server;
The response received from the server of the first type, and a response rewriting means for writing the address of the server of the second type server selection means has been the second type selection, the
Response sending means for sending the response rewritten by the response rewriting means to the client device;
A load control device comprising:
自負荷制御装置に直接接続されるサーバから、前記サーバ状態情報として、
サーバの演算装置の負荷、
サーバのメモリの使用量、
サーバ内の温度、
サーバに対して接続しているクライアント装置の数、
サーバに対して接続しているクライアント装置のうち、現在使用中のクライアント装置の数、
サーバが使用しているネットワークの帯域、
の少なくとも1つのパラメータを取得して、前記記憶手段に格納する手段を含み、
前記状態情報交換手段は、
前記記憶手段から各サーバ毎の、各パラメータの全て、または、いずれかの組み合わせ、または、いずれか1つを、前記他の負荷制御装置に対して送信する手段を含む
請求項7記載の負荷制御装置。 The first server status information collecting means includes:
From the server directly connected to the self-load control device, as the server status information,
Load of server computing device,
Server memory usage ,
Every time the temperature in the server,
The number of client devices connected to the server ,
Of the client devices connected to the server, the number of client devices currently in use ,
Bandwidth of the network that the server is using,
And obtaining at least one parameter of comprises means for storing before term memory unit,
The state information exchanging means
All from said storage means for each server, for each parameter or, any combination, or any one, the load control of claim 7, including means for transmitting to said another load controller apparatus.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007249366A JP4729549B2 (en) | 2007-09-26 | 2007-09-26 | Load control method, apparatus and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007249366A JP4729549B2 (en) | 2007-09-26 | 2007-09-26 | Load control method, apparatus and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009080642A JP2009080642A (en) | 2009-04-16 |
JP4729549B2 true JP4729549B2 (en) | 2011-07-20 |
Family
ID=40655347
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007249366A Active JP4729549B2 (en) | 2007-09-26 | 2007-09-26 | Load control method, apparatus and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4729549B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9497039B2 (en) | 2009-05-28 | 2016-11-15 | Microsoft Technology Licensing, Llc | Agile data center network architecture |
US8416692B2 (en) * | 2009-05-28 | 2013-04-09 | Microsoft Corporation | Load balancing across layer-2 domains |
US9391716B2 (en) | 2010-04-05 | 2016-07-12 | Microsoft Technology Licensing, Llc | Data center using wireless communication |
JP5984552B2 (en) * | 2012-07-20 | 2016-09-06 | キヤノン株式会社 | Load balancing system, load balancing system control method, and computer program |
US9954751B2 (en) | 2015-05-29 | 2018-04-24 | Microsoft Technology Licensing, Llc | Measuring performance of a network using mirrored probe packets |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000132524A (en) * | 1998-10-23 | 2000-05-12 | Fujitsu Ltd | Wide area load distribution device and method therefor |
JP2006127262A (en) * | 2004-10-29 | 2006-05-18 | Shinano Kenshi Co Ltd | Load distribution method and load distribution system in content distribution system |
JP2006221450A (en) * | 2005-02-10 | 2006-08-24 | Nec Access Technica Ltd | Load distribution device, load distribution method and load distribution program |
JP2006277569A (en) * | 2005-03-30 | 2006-10-12 | Toshiba Corp | Load distribution system, load distribution device, real server and load distribution method |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3784137B2 (en) * | 1997-06-04 | 2006-06-07 | 富士通株式会社 | Load balancing system |
-
2007
- 2007-09-26 JP JP2007249366A patent/JP4729549B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000132524A (en) * | 1998-10-23 | 2000-05-12 | Fujitsu Ltd | Wide area load distribution device and method therefor |
JP2006127262A (en) * | 2004-10-29 | 2006-05-18 | Shinano Kenshi Co Ltd | Load distribution method and load distribution system in content distribution system |
JP2006221450A (en) * | 2005-02-10 | 2006-08-24 | Nec Access Technica Ltd | Load distribution device, load distribution method and load distribution program |
JP2006277569A (en) * | 2005-03-30 | 2006-10-12 | Toshiba Corp | Load distribution system, load distribution device, real server and load distribution method |
Also Published As
Publication number | Publication date |
---|---|
JP2009080642A (en) | 2009-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20110087783A1 (en) | Allocating resources of a node in a server farm | |
KR101548021B1 (en) | Method For Managing Network | |
CN1331333C (en) | Parallel information delivery method based on peer-to-peer enabled distributed computing technology and the system thereof | |
JP5640649B2 (en) | Data communication method and information processing apparatus | |
US7490140B2 (en) | Peer data transfer orchestration | |
US20110271275A1 (en) | Software distribution management method of computer system and computer system for software distribution management | |
CN105103524B (en) | For realizing the method and system of the high usage in network | |
CN103581245A (en) | Content delivery method and system of content delivery network | |
JP4729549B2 (en) | Load control method, apparatus and program | |
EP2649759A1 (en) | Technique for managing traffic at a router | |
KR20090097034A (en) | Peer selction method and system in peer to peer communication | |
CN102158518B (en) | Data transmission method in content distribution network (CDN), network node and system | |
CN102420863A (en) | Rapid file distribution system, method thereof and apparatus thereof | |
CN101535979A (en) | Management of storage resource devices | |
CN102377662A (en) | Routing cache negotiation method and system facing to bandwidth adaptation in video monitoring | |
US9544371B1 (en) | Method to discover multiple paths to disk devices cluster wide | |
JP5200424B2 (en) | Information management method and information processing apparatus | |
US7783784B1 (en) | Method and apparatus for adaptive selection of algorithms to load and spread traffic on an aggregation of network interface cards | |
US7433306B2 (en) | Method for identifying selected applications utilizing a single existing available bit in frame headers | |
KR20140125223A (en) | Method for collecting information with management interface in contents network based on information centric networking, content network management system, and node apparatus | |
JP5351839B2 (en) | Order processing method, program, and network system | |
JP4046562B2 (en) | Load balancing method | |
JP2006127262A (en) | Load distribution method and load distribution system in content distribution system | |
JP6163094B2 (en) | Message delivery system, message delivery method, and message delivery program | |
KR101525541B1 (en) | Contents delivery network service system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100727 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100927 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110405 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110418 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4729549 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140422 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |