JP2010232748A - リクエスト制御型サーバシステム - Google Patents
リクエスト制御型サーバシステム Download PDFInfo
- Publication number
- JP2010232748A JP2010232748A JP2009075374A JP2009075374A JP2010232748A JP 2010232748 A JP2010232748 A JP 2010232748A JP 2009075374 A JP2009075374 A JP 2009075374A JP 2009075374 A JP2009075374 A JP 2009075374A JP 2010232748 A JP2010232748 A JP 2010232748A
- Authority
- JP
- Japan
- Prior art keywords
- traffic
- network
- server system
- request
- network server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 ネットワークサーバシステムにおいてネットワークの利用効率改善によるサービス品質保証を行なうこと。
【解決手段】 ネットワークサーバシステム内のトラフィックの監視を実行するトラフィックモニタ装置が、リクエスト発生元のサーバに対して輻輳通知を行なうことで、リクエストの制御・抑制を実施する。
【選択図】 図3
【解決手段】 ネットワークサーバシステム内のトラフィックの監視を実行するトラフィックモニタ装置が、リクエスト発生元のサーバに対して輻輳通知を行なうことで、リクエストの制御・抑制を実施する。
【選択図】 図3
Description
本発明はサーバを用いるネットワークサーバシステムに関し、さらに詳しくは、ネットワークサーバシステムにおいて省電力にサービス品質を確保するための技術に関する。
大規模なネットワークサーバシステムは、非特許文献1にて示されているように、それぞれのサーバの取り扱う処理内容を特化した階層化サーバシステムが考案されている。すなわち、階層化サーバシステムでは、図1に示すようにフロントエンドサーバ13とアプリケーションサーバ15とデータベースサーバ(ストレージ)17との3種類のサーバを有しており、12、14、16のネットワークスイッチによって接続された構造をとる。クライアントからのリクエストはサーバシステム外のネットワークから11のゲートウェイと12のスイッチを経由してフロントエンドサーバに送信されるが、一方でアプリケーションサーバやストレージと直接通信を行うことができない。また、フロントエンドサーバは14のスイッチを介してアプリケーションサーバと通信が可能であるが、17のストレージと直接通信を行うことはできない構造となっている。このように、それぞれのサーバが通信可能な相手を階層的に分離することで、各サーバの役割を特化している様子を階層化と呼ぶ。
一方で、このような階層化されたネットワークサーバシステムは、ネットワークの構造の複雑化と機器の増加に伴い、保守性能に問題を抱えていた。そこで、非特許文献2に示されているように、12、14、16のスイッチを統合した、改良型の階層化ネットワークサーバシステムとして、図2の統合型ネットワークサーバシステムが存在する。
統合型サーバシステムでは、21の統合スイッチに22のフロントエンドサーバと23のアプリケーションサーバと24のストレージが接続した形態で実現される。また、統合型ネットワークサーバシステムでは、スイッチに全てのサーバが接続した形態をとっており、サーバの階層的な切り分けは論理的に実現される。すなわち、外部ネットワークからのクライアントのリクエストは21の統合スイッチを経由して22のフロントエンドサーバに渡された後、再度21の統合スイッチを経由して適切なアプリケーションサーバ23に渡される。アプリケーションサーバは統合スイッチ21を経由してストレージ24と通信を行い、統合スイッチ21を経由してフロントエンドサーバ22に演算結果を返信する。フロントエンドサーバ22は演算結果を受けて、クライアントに結果を返信する。
このように、統合型サーバシステムでは、全ての通信が統合スイッチを経由する構成とすることで、スイッチの集約を可能とし、装置コストの削減、機器設置コストの削減、メンテナンス性の向上などの効果が得られた。
Dell Enterprise ソリューションhttp://www1.jp.dell.com/content/topics/segtopic.aspx/solutions/enterprise_solutions/solutions?c=jp&cs=jppad1&l=ja&s=pad&~section=3phased
Cisco Application Networking Services(ANS) - テクノロジー解説 - Cisco Systemshttp://www.cisco.com/web/JP/news/cisco_news_letter/tech/ace/index.html
非特許文献1、非特許文献2に代表される従来のネットワークサーバシステムでは、ユーザから多くのリクエストを受信した際に、ネットワークサーバシステム内においてトラフィックが増加し、ネットワークの輻輳によりサービス品質が劣化することを防ぐことができないという課題が存在した。
そこで本発明の目的は、ネットワークサーバシステムにて発生するネットワークの輻輳を抑止し、サービス品質を向上することである。
上記目的を実現するために、本発明のネットワークサーバシステムは、階層化された複数のサーバがネットワークを介して相互に通信を行なうことによって、ユーザからのリクエストに応じた処理を行なうシステムであり、サーバ間の通信トラフィックを監視するトラフィックモニタ装置を有し、前記トラフィックモニタ装置が、トラフィックの監視においてネットワークの輻輳または輻輳の兆候を検出した際に、ユーザからのリクエストを受信するサーバに対して輻輳を通知する機能と、輻輳の通知を受信したサーバが、輻輳または輻輳の兆候が検出されたネットワークにおいてトラフィックが発生する原因となるユーザからのリクエストを廃棄する機能とを有することと、前記トラフィックモニタ装置が、ユーザからのリクエストを受信するサーバより他の階層のサーバへの演算処理要求を受け取り、トラフィック監視情報を考慮して他の階層のサーバへ振り分けるロードバランシング機能を有していることを特徴とする。
本発明のネットワークサーバシステムでは、ネットワークシステム上でのトラフィックの輻輳の兆候を検出し、ユーザからのリクエストを受信するサーバにおけるリクエストの廃棄を行なうことにより、トラフィックの輻輳を抑止することができる。これによりネットワークサーバシステムのサービス品質の向上が実現できる。
本発明を実現する実施例は図3に示す構成をとる。本発明の実施例のネットワークサーバシステムは、統合スイッチ(31)とパケットモニタ装置(32)とフロントエンドサーバ(33)とアプリケーションサーバ(34)とストレージ(35)とを有する。
統合スイッチ31は、パケットモニタ装置32と、全てのフロントエンドサーバ33と、全てのストレージ35と、サービスを提供する対象がアクセスを行うための経路である外部ネットワークと、ネットワーク回線を通じて接続される。そして、ネットワーク回線より送信されるパケットを受信し、前記パケットの有する情報を元に、いずれのネットワーク回線から出力するかを選択し、前記パケットを選択したネットワーク回線から出力するパケット転送機能を有する。また、本統合スイッチ31は入力ポートやパケットヘッダ情報を元に、仮想的なネットワークの分割を実施することによって、外部ネットワークから、アプリケーションサーバやストレージに直接アクセスすることを防止する機能を有する。
パケットモニタ装置32は、アプリケーションサーバ34の数の2倍より1つ多い数のネットワークポート(ポート)をもつ。パケットモニタ装置は、全てのアプリケーションサーバ34と1本のネットワーク回線を通じて接続される。また、統合スイッチ31とアプリケーションサーバの数より1つ多い数のネットワーク回線を通じて接続された構成をとる。これらのポートのうち、アプリケーションサーバ34と接続しているポートと統合スイッチ31と接続しているポートのうち1つを除いたポートはそれぞれ1対1でパケットを受け渡す。すなわち、統合ルータ31から見て、1つのポートを除いてパケットモニタ装置は透過的に見える。すなわち、統合スイッチ31から送信されたパケットを単一のアプリケーションサーバ34へ送信する機能と、アプリケーションサーバ34から送信されたパケットを統合スイッチ31へ送信する機能をもつ。また、統合スイッチ31から送信されたパケットのトラフィック量を監視し、監視したトラフィック量より当該ネットワーク回線の輻輳の兆候を検出した際に、統合スイッチ31を経由してフロントエンドサーバ33に対して、前記ネットワーク回線が輻輳状態にあることを通知する機能を有する。統合スイッチ31と接続しているポートのうちアプリケーションサーバ34と接続しているポートと1対1でパケットを受け渡す機能を有さない1つのポートでは受信したパケットをロードバランシングしてアプリケーションサーバに対して送信する機能を有する。本ロードバランシングでは、本パケットモニタ装置が保有するロードバランシング情報と前記統合スイッチより受信したパケットのトラフィック量とを反映した動的なパケットの振り分けを実施することを特徴とする。
上記を実現するパケットモニタ装置32を図6に示す。パケットモニタ装置32は、トラフィック監視回路321と輻輳通知回路322とロードバランシング回路323を有する。また、統合スイッチ31と接続するネットワークポート3243とアプリケーションサーバ34と接続するネットワークポート3244を有する。これらのネットワークポートは、ネットワークポート3243からネットワークポート3244へ向かうパケットを伝送する回線3241と、ネットワークポート3244からネットワークポート3243へ向かうパケットを伝送する回線3242とによって接続されている。統合スイッチ31からアプリケーションサーバ34に向かうパケットを伝送する回線3241では信号が分岐され、対応するトラフィック監視部321に伝送される。トラフィック監視回路321は単位時間あたりの回線のトラフィック量を監視し、トラフィック量を輻輳通知回路322とロードバランシング回路323に通知する。輻輳通知回路322ではトラフィック監視回路321より通知されたトラフィック監視情報から、トラフィックの増加による輻輳を検出した際に、ネットワークポート3243dから統合スイッチを経由してフロントエンドサーバ33に対して、輻輳通知を行なう。輻輳の判定は、単位時間辺りのトラフィック量が、閾値を超えた際に輻輳と判定する方法を用いる。また、トラフィック量の絶対値だけではなく、トラフィックの増減の傾向をも考慮した輻輳判定を用いることも可能である。前記輻輳通知は、輻輳の兆候が確認されているネットワークポートの情報が含まれたパケットによって行なわれ、通知は全てのフロントエンドサーバに対して、個別に、またはマルチキャストアドレスを用いて行なわれる。輻輳通知回路322は輻輳が解除されない場合において、一定時間毎に通知を行なう。また、輻輳通知回路322は輻輳と判定した回線のトラフィック量を継続的に監視し、トラフィックが減少し閾値を下回るなどした際に輻輳が解消されたと判定する。輻輳通知回路322は輻輳が解消したと判定すると、ネットワークポート3243dから統合スイッチを経由してフロントエンドサーバ33に対して、輻輳解消通知を行なう。輻輳解消通知の内容と形態は輻輳通知に準ずる。
ロードバランシング回路323ではネットワークポート3243dより受信されたロードバランシング対象のパケットの、転送先を判定し、前記転送先であるアプリケーションサーバのトラフィック量を鑑みてロードバランシングを実施する。転送先の候補であるアプリケーションサーバのうち、輻輳の兆候が見られるものに対しては転送先候補から外す動作を行なう。
フロントエンドサーバ33は、統合スイッチ31より送信されるクライアントのリクエストを識別し、リクエスト内容に応じて、アプリケーションサーバ34に対してリクエストを転送する機能を有する。また、アプリケーションサーバ34よりもたらされるレスポンスを識別し、リクエスト元のクライアントに対して返信を行なう。さらに、トラフィックモニタ装置より送信された輻輳通知を受信した際には、通知に対応したネットワーク回線と接続しているアプリケーションサーバ宛てリクエストの発生を抑止する。すなわち、代替となるアプリケーションサーバが存在する場合には該当アプリケーションサーバへリクエストを送信し、代替となるアプリケーションサーバが存在しない場合にはリクエストを廃棄する。また、フロントエンドサーバでは、輻輳通知を受信した後に、輻輳解消通知を受信した場合と、一定時間輻輳通知を受信しなかった場合において、輻輳が解消したものと判断し、リクエストの発生の抑止を解除する。
アプリケーションサーバ34はトラフィックモニタ装置32とネットワーク回線を介して接続している。アプリケーションサーバ34は、統合スイッチ31とトラフィックモニタ装置32を経由して転送された、フロントエンドサーバ33からのリクエストに応じてアプリケーション処理を行う。また、トラフィックモニタ装置32と統合スイッチ31を経由して、ストレージ35に対して、アプリケーション処理のために必要なデータを送信する要求や保有データの更新の要求を行う。ストレージ35からのレスポンスは、統合スイッチ31とトラフィックモニタ装置32を経由して転送される。アプリケーション処理が終了すると、アプリケーションサーバ34はトラフィックモニタ装置32とアプリケーションサーバ34を経由してフロントエンドサーバに対して返信を行なう。
ストレージ35は、統合スイッチ31とネットワーク回線を介して接続している。ストレージ35は、トラフィックモニタ装置32と統合スイッチ31を経由して転送された、アプリケーションサーバからの要求に応じて、保有するデータに対して読み出し及び書き込みを実施する。また、ストレージ35は統合スイッチ31とトラフィックモニタ装置32を経由して、アプリケーションサーバ34に対してレスポンスを実施する。
以上の構成を用いることによって、統合スイッチ31からアプリケーションサーバ33へ向かうトラフィックを、トラフィックモニタ装置32において監視し、輻輳の兆候が発生した際に、フロントエンドサーバ33において該当するアプリケーションサーバへ向かうリクエストの発生を抑制する効果と、ロードバランシング対象のリクエストのロードバランシング先から該当するアプリケーションサーバを除外する効果とを得る。これらの効果により、ネットワークシステムにおける輻輳が抑止されサービス品質の向上が見込める。
本発明は一般的にネットワークを介して構築されたサーバシステムにおいて利用できる。
3241 信号を統合サーバ31よりアプリケーションサーバ34に中継する回線
3242 信号をアプリケーションサーバ34より統合サーバ31に中継する回線
3243 統合サーバ31と接続するネットワークポート
3244 アプリケーションサーバ34と接続するネットワークポート
3242 信号をアプリケーションサーバ34より統合サーバ31に中継する回線
3243 統合サーバ31と接続するネットワークポート
3244 アプリケーションサーバ34と接続するネットワークポート
Claims (10)
- クライアント端末と接続され、それぞれネットワークを介して接続された複数のサーバ及びトラフィックモニタ装置を備えたネットワークサーバシステムであって、
前記複数のサーバは、前記クライアント端末より送信されたリクエストに応じて演算処理を実行し、
前記トラフィックモニタ装置は、前記ネットワークを流れるトラフィックの一部または全部を監視し、
前記監視の結果に基づいて前記リクエストを制御することを特徴とするネットワークサーバシステム。 - 請求項1記載のネットワークサーバシステムであって、
前記トラフィックモニタ装置において監視された前記トラフィックのトラフィック量に基づいて前記リクエストを制御することを特徴とするネットワークサーバシステム。 - 請求項1記載のネットワークサーバシステムであって、
前記トラフィックモニタ装置において監視された前記トラフィックのトラフィック量とトラフィックの変動量に基づいて前記リクエストを制御することを特徴とするネットワークサーバシステム。 - 請求項2または3に記載のネットワークサーバシステムであって、
前記サーバが前記ネットワークを介して相互に通信を行なうことによって、前記クライアント端末からのリクエストに応じた処理を実行することを特徴とするネットワークサーバシステム。 - 請求項4記載のネットワークサーバシステムであって、
前記トラフィックモニタ装置が、前記複数のサーバのうち特定の種類のサーバに対して、前記クライアント端末からのリクエストを制御する起因となる信号を送信し、
前記特定の種類のサーバが前記リクエストの制御を実行することを特徴とするネットワークサーバシステム。 - 請求項4記載のネットワークサーバシステムであって、
さらに別サーバと接続されており、
前記トラフィックモニタ装置が、前記クライアント端末からのリクエストまたは別サーバより転送された演算処理要求を受信し、監視している前記トラフィックのトラフィック量の、絶対値、または絶対値と変動量に基づいて、前記複数のサーバに対して前記クライアント端末からのリクエストまたは前記別サーバより転送された演算処理要求を振り分けることを特徴とするネットワークサーバシステム。 - 請求項4記載のネットワークサーバシステムであって、
さらに別サーバと接続されており、
前記トラフィックモニタ装置が、前記クライアント端末からのリクエストまたは前記別サーバより転送された演算処理要求を受信し、監視している前記トラフィックのトラフィック量の、絶対値、または絶対値と変動量と、前記トラフィックモニタ装置が保有する内部情報に基づいて、前記複数のサーバに対して前記クライアント端末からのリクエストまたは前記別サーバより転送された演算処理要求を振り分けることを特徴とするネットワークサーバシステム。 - 請求項4記載のネットワークサーバシステムであって、
前記複数のサーバが、前記複数のサーバのそれぞれの種類毎に通信可能な前記クライアント端末及び前記サーバの少なくともいずれか一つが制限されていることを特徴とするネットワークサーバシステム。 - 請求項1記載のネットワークサーバシステムであって、
前記トラフィックモニタ装置が、前記ネットワークを構成するネットワーク回線のトラフィックの絶対値または絶対値と変動量の双方を監視し、前記監視の結果に基づいて、前記ネットワーク回線の帯域を越えるトラフィックの発生、または輻輳が発生する兆候を検出した際に、前記複数のサーバのうち前記クライアント端末からのリクエストを扱う機能を有する全てのサーバに対して、前記ネットワーク回線が輻輳していることを示す信号を送信し、前記信号を受信した前記サーバが、前記ネットワーク回線を経由するトラフィックを発生する原因となる前記リクエストを制御することを特徴とするネットワークサーバシステム。 - 請求項1記載のネットワークサーバシステムであって、
前記トラフィックモニタ装置が、前記ネットワークを構成する中継装置内部を経由するトラフィックの絶対値または絶対値と変動量の双方を監視し、前記監視の結果に基づいて、前記ネットワーク回線の帯域を越えるトラフィックの発生、または輻輳が発生する兆候を検出した際に、前記複数のサーバのうち前記クライアント端末からのリクエストを扱う機能を有する全てのサーバに対して、前記中継装置内部の該当箇所が輻輳していることを示す信号を送信し、前記信号を受信した前記サーバが、前記中継装置内部の該当箇所を経由するトラフィックを発生する原因となる前記リクエストを制御することを特徴とするネットワークサーバシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009075374A JP2010232748A (ja) | 2009-03-26 | 2009-03-26 | リクエスト制御型サーバシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009075374A JP2010232748A (ja) | 2009-03-26 | 2009-03-26 | リクエスト制御型サーバシステム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010232748A true JP2010232748A (ja) | 2010-10-14 |
Family
ID=43048184
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009075374A Pending JP2010232748A (ja) | 2009-03-26 | 2009-03-26 | リクエスト制御型サーバシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010232748A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013026749A (ja) * | 2011-07-19 | 2013-02-04 | Nippon Telegr & Teleph Corp <Ntt> | 通信装置及びネットワーク管理方法及びプログラム |
JP2013101530A (ja) * | 2011-11-09 | 2013-05-23 | Nec Corp | サービス連携装置、サービス連携方法およびサービス連携プログラム |
-
2009
- 2009-03-26 JP JP2009075374A patent/JP2010232748A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013026749A (ja) * | 2011-07-19 | 2013-02-04 | Nippon Telegr & Teleph Corp <Ntt> | 通信装置及びネットワーク管理方法及びプログラム |
JP2013101530A (ja) * | 2011-11-09 | 2013-05-23 | Nec Corp | サービス連携装置、サービス連携方法およびサービス連携プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11588757B2 (en) | Traffic management in a network switching system with remote physical ports | |
US8677011B2 (en) | Load distribution system, load distribution method, apparatuses constituting load distribution system, and program | |
JP6670109B2 (ja) | ネットワーク内のスケーラブルなフロー及び輻輳制御 | |
Hafeez et al. | Detection and mitigation of congestion in SDN enabled data center networks: A survey | |
US9455915B2 (en) | Hierarchical congestion control with congested flow identification hardware | |
GB2556446B (en) | Virtual router with dynamic flow offload capability | |
US20150372911A1 (en) | Communication path management method | |
WO2011074516A1 (ja) | ネットワークシステムとその制御方法、及びコントローラ | |
EP2667548A1 (en) | Network traffic volume distribution method, network node, and system | |
US20130003748A1 (en) | Relay apparatus and relay control method | |
US20120170462A1 (en) | Traffic flow control based on vlan and priority | |
US9858239B2 (en) | Efficient and scalable method for handling RX packet on a MR-IOV array of NICS | |
CN103314552B (zh) | 使用非统一接收器的基于组的组播方法 | |
CN105391647B (zh) | 一种流量控制的方法及系统 | |
US8630296B2 (en) | Shared and separate network stack instances | |
US10135761B2 (en) | Switch device, control method, and storage medium | |
US20080151919A1 (en) | Out of band flow control | |
JP2010232748A (ja) | リクエスト制御型サーバシステム | |
Khan et al. | RecFlow: SDN-based receiver-driven flow scheduling in datacenters | |
JP6606032B2 (ja) | 輻輳通知装置、および、輻輳通知方法 | |
Rezaei et al. | Superways: A datacenter topology for incast-heavy workloads | |
KR101466938B1 (ko) | 비대칭 트래픽 환경에서 가입자별 트래픽 제어 장치 및 방법 | |
Dong et al. | Meet: rack-level pooling based load balancing in datacenter networks | |
JP3791304B2 (ja) | ゲートウェイ装置及びマルチキャスト通信システム | |
Gao et al. | HPLB: High precision load balancing based on in-band network telemetry in data center networks |