JP7052634B2 - 負荷分散システム及び負荷分散方法 - Google Patents

負荷分散システム及び負荷分散方法 Download PDF

Info

Publication number
JP7052634B2
JP7052634B2 JP2018152527A JP2018152527A JP7052634B2 JP 7052634 B2 JP7052634 B2 JP 7052634B2 JP 2018152527 A JP2018152527 A JP 2018152527A JP 2018152527 A JP2018152527 A JP 2018152527A JP 7052634 B2 JP7052634 B2 JP 7052634B2
Authority
JP
Japan
Prior art keywords
flow
application information
application
packet
entry
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018152527A
Other languages
English (en)
Other versions
JP2020028048A (ja
Inventor
明寛 木村
伸也 河野
英雄 土屋
昭宏 岡田
克真 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2018152527A priority Critical patent/JP7052634B2/ja
Priority to PCT/JP2019/031781 priority patent/WO2020036162A1/ja
Priority to US17/267,945 priority patent/US11757779B2/en
Publication of JP2020028048A publication Critical patent/JP2020028048A/ja
Application granted granted Critical
Publication of JP7052634B2 publication Critical patent/JP7052634B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2441Traffic characterised by specific attributes, e.g. priority or QoS relying on flow classification, e.g. using integrated services [IntServ]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/12Avoiding congestion; Recovering from congestion
    • H04L47/125Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Description

本発明は、負荷分散システム及び負荷分散方法に関する。
ルータ等のパケット転送装置の負荷を分散させる技術が従来から知られている。例えば、パケットの転送先として複数のパケット転送装置と複数の転送経路とを用意し、それぞれの転送経路にトラヒックを均等に印加することで、パケット転送装置の負荷を分散する技術が知られている。また、このような負荷分散技術として、ECMP(Equal Cost Multi Path)又はECMPルーティングと呼ばれる技術も知られている。ECMPは、上述した複数の転送経路のうち、等コストとなる転送経路にトラヒックを均等に印加する負荷分散技術である。
ECMPを用いた負荷分散システムにおいて、パケット転送装置の出力物理ポートの出力バッファを監視し、この出力バッファの使用量又はパケット流量が閾値を超えた場合、転送経路を切り替える技術が知られている(例えば、特許文献1)。
パケット転送装置における転送容量の指標として、bps(bits per second)で表されるデータ量の転送容量と、pps(packets per second)で表されるパケット数の転送容量とがある。また、これらの転送容量には、パケット転送装置に固有の上限値がある。例えば、パケット転送装置をネットワーク仮想化技術により実現した場合、bpsは物理NIC(Network Interface Card)のラインレートに律速されることがあり、ppsはOS(Operating System)やアプリケーション等のソフトウェアのパケット処理速度に律速されることがある。
ECMPでは、フロー特性、すなわちロングパケット中心のフローかショートパケット中心のフローかを考慮していないため、パケット転送装置が転送するパケット長に偏りがある場合に、パケット転送装置の転送容量を最大限に活用することができないことがある。ここで、フローとは、フローを識別するフロー識別子が同一のパケット(トラヒック)又はパケット群のことを言う。フロー識別子は、パケットに含まれるヘッダ情報により特定され、例えば、5-tuple(送信元IP(Internet Protocol)アドレス、宛先IPアドレス、送信元ポート番号、宛先ポート番号、プロトコル番号)、あるいは、L7情報(例えば、L7のヘッダ情報等)のことを言う。
例えば、動画等のトラヒックはロングパケットが多いという性質がある。このため、動画等のトラヒックが集中した場合、データ量の転送容量は枯渇する一方で、パケット数の転送容量には余裕がある状態となる。他方で、例えば、VoIP(Voice over Internet Protocol)やテレメトリング等のトラヒックはショートパケットが多いという性質がある。このため、VoIPやテレメトリング等のトラヒックが集中した場合、データ量の転送容量には余裕がある一方で、パケット数の転送容量が枯渇する状態となる。
そこで、フロー特性を考慮して負荷を分散する技術がある。例えば、宅内装置(Customer Premises Equipment)の一部機能を仮想化するvCPE(Virtualized CPE)をホストするサーバの負荷分散を、サーバのbps及びppsの観点での負荷状態とフローのパケット長に基づいて行う負荷分散方式がある(例えば、非特許文献1)。
特開2004-350078号公報
木村 明寛、宮本 克真、河野 伸也、土屋 英雄、岡田 昭宏、「フロー特性に基づくvCPEサーバの負荷分散方式」、電子情報通信学会2018年総合大会講演論文集,Vol.2018年_通信(2),p.90 b-6-90
フロー特性に基づいて負荷分散を行う場合、いかにフロー特性を効率良く正確に特定するかが課題となる。
本発明の実施の形態は、上記の点に鑑みてなされたもので、フロー特性を効率良く正確に特定することを目的とする。
上記目的を達成するため、本発明の実施の形態は、パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報を記憶するアプリ情報記憶手段と、入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手段と、前記取得手段により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手段と、を有することを特徴とする。
フロー特性を効率良く正確に特定することを目的とする。
図1は、本発明の実施の形態における負荷分散システムの全体構成の一例を示す図である。 図2は、実施例における負荷分散システムの機能構成の一例を示す図である。 図3は、実施例におけるアプリ情報データベースのエントリの一例を示す図である。 図4は、実施例におけるアプリ情報キャッシュのエントリの一例を示す図である。 図5は、実施例におけるアプリ情報キャッシュの使用方法を説明するための図である。 図6は、実施例におけるECMP経路テーブルの一例を示す図である。 図7は、実施例における負荷分散システムの処理の流れの一例を示す図である。 図8は、実施例におけるECMP経路テーブルの変更処理の流れの一例を説明するための図である。 図9は、実施例におけるパケット転送処理の流れの一例を説明するための図である。 図10は、実施例におけるアプリ情報キャッシュへの登録処理の流れの一例を説明するための図である。 図11は、エントリ特定処理の流れの一例を説明するための図である。 図12は、コンピュータのハードウェア構成の一例を示す図である。
以下、本発明の実施の形態について説明する。本発明の実施の形態では、フロー特性を特定し、特定したフロー特性に基づいて、負荷分散を行う負荷分散システム1について説明する。また、以降では、フロー特性には、ロングパケットが多いフローであることを示す「高bpsフロー」と、ショートパケットが多いフローであることを示す「高ppsフロー」とがあるものとする。
<全体構成>
まず、本発明の実施の形態における負荷分散システム1の全体構成について、図1を参照しながら説明する。図1は、本発明の実施の形態における負荷分散システム1の全体構成の一例を示す図である。
図1に示すように、本発明の実施の形態における負荷分散システム1には、負荷監視装置10と、第1のパケット転送装置20と、第2のパケット転送装置30と、アプリ情報データベース40と、アプリ判定装置50とが含まれる。
負荷監視装置10は、例えばコンピュータ又はコンピュータシステム等であり、負荷分散対象である第2のパケット転送装置30のトラヒック流量を監視する。そして、負荷監視装置10は、第2のパケット転送装置30のトラヒック流量が所定の閾値を超えた場合(又は、所定の閾値を下回った場合)に、負荷分散の実施(又は負荷分散の解除)を示す命令を第1のパケット転送装置20に送信する。
第1のパケット転送装置20は、例えばルータ等であり、ネットワークN1側からのパケットを第2のパケット転送装置30に転送する。このとき、第1のパケット転送装置20は、負荷分散に用いられる所定のテーブルを参照して、複数の第2のパケット転送装置30のうち、フロー特性に応じた第2のパケット転送装置30に当該パケットを転送する。
また、第1のパケット転送装置20は、負荷監視装置10からの命令に応じて、負荷分散に用いられる所定のテーブルを変更する。
第2のパケット転送装置30は、例えばルータ等であり、第1のパケット転送装置20から転送されたパケットをネットワークN2側に転送する。以降では、複数の第2のパケット転送装置30の各々を区別する場合は、「第2のパケット転送装置30-1」、「第2のパケット転送装置30-2」等と表す。
アプリ情報データベース40は、フロー毎にアプリ種別及びフロー特性をアプリ情報として記憶するデータベースである。ここで、アプリとはアプリケーションであり、アプリ種別はアプリケーションの種別であり、フロー特性はアプリケーションのフロー特性である。アプリ判定装置50は、例えばコンピュータ又はコンピュータシステム等であり、アプリ情報データベース40を用いてフローのアプリ情報を検索する。
なお、図1に示す負荷分散システム1の構成は一例であって、他の構成であっても良い。例えば、第1のパケット転送装置20及び第2のパケット転送装置30は、ネットワーク仮想化技術によってコンピュータ上等に構築された仮想的なルータ等であっても良い。
(実施例)
以降では、本発明の実施の形態における負荷分散システム1の実施例について説明する。
<機能構成>
まず、実施例における負荷分散システム1の機能構成について、図2を参照しながら説明する。図2は、実施例における負荷分散システム1の機能構成の一例を示す図である。
図2に示すように、実施例における負荷監視装置10は、流量監視部101と、負荷分散決定部102と、命令送信部103とを有する。
流量監視部101は、第2のパケット転送装置30の統計情報から、これらの第2のパケット転送装置30のトラヒック流量をデータ量(bps)及びパケット数(pps)それぞれの観点で監視する。すなわち、流量監視部101は、各第2のパケット転送装置30について、監視結果として、データ量(bps)及びパケット数(pps)を得る。以降では、監視結果とした得られたデータ量(bps)を「bps結果値」、監視結果として得られたパケット数(pps)を「pps結果値」と表す。
負荷分散決定部102は、負荷分散を実施又は解除するかを決定する。すなわち、負荷分散決定部102は、bps結果値が、予め設定されたbps閾値を超えたか又は下回ったかを判定する。同様に、負荷分散決定部102は、pps結果値が、予め設定されたpps閾値を超えたか又は下回ったかを判定する。
そして、負荷分散決定部102は、bps結果値がbps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、bps結果値がbps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、pps結果値がpps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
命令送信部103は、負荷分散決定部102によって負荷分散を実施すると決定された場合又は負荷分散を解除すると判定された場合、所定の命令を第1のパケット転送装置20に送信する。
ここで、命令には、「閾値種別」と、「命令種別」と、「対象装置の識別情報」とが含まれる。「閾値種別」は、監視結果が超えた閾値又は監視結果が下回った閾値の種別であり、bps閾値を示す情報又はpps閾値を示す情報のいずれかが設定される。「命令種別」は、負荷分散の実施又は解除のいずれであるかを示す情報が設定される。「対象装置の識別情報」は、監視結果が閾値を超えた又は下回った第2のパケット転送装置30の識別情報であり、例えば、当該第2のパケット転送装置30のIPアドレスが設定される。ただし、「対象装置の識別情報」には、IPアドレス以外にも、例えば、当該第2のパケット転送装置30のID、MAC(Media Access Control)アドレス、ホスト名等が設定されても良い。
アプリ情報データベース40は、フロー識別子とアプリ種別及びフロー特性とを対応付けるデータベースである。図3は、実施例におけるアプリ情報データベース40のエントリの一例を示す図である。図3は、フロー識別子が5-tupleである場合を示す。図3に示すように、アプリ情報データベース40のエントリには、「送信元IPアドレス」と、「送信元ポート番号」と、「宛先IPアドレス」と、「宛先ポート番号」と、「プロトコル番号」と、「アプリ種別」と、「フロー特性」とが含まれる。
「送信元IPアドレス」には、パケットの送信元のIPアドレスが設定される。「送信元ポート番号」には、パケットの送信元のポート番号が設定される。「宛先IPアドレス」には、パケットの宛先のIPアドレスが設定される。「宛先ポート番号」には、パケットの宛先のポート番号が設定される。「プロトコル番号」には、プロトコルの種別を示す番号が設定される。「アプリ種別」には、フローのアプリケーションの種別が設定される。例えば、アプリケーションの種別には、「動画」、「VoIP」、「テレメトリング」がある。「フロー特性」には、フローが「高bpsフロー」であるか「高ppsフロー」であるかが設定される。
なお、アプリ情報データベース40のエントリに「送信元IPアドレス」と「送信元ポート番号」は含まれなくても良い。例えば、図3では、「宛先IPアドレス」が「10.0.0.100」であり「宛先ポート番号」が「443」であり「プロトコル番号」が「6」であるフローの「アプリ種別」は「動画」であり、「フロー特性」は「高bpsフロー」である。ここで、「宛先ポート番号」の「443」はHTTPS(Hypertext Transfer Protocol Secure)で使用されるポート番号であり、「プロトコル番号」の「6」はプロトコルがTCP(Transmission Control Protocol)であることを示す。
アプリ情報データベース40は、例えば、RAM(Random Access Memory)や補助記憶装置、専用のメモリ装置等により実現される。
アプリ判定装置50は、アプリ情報検索部51を有する。アプリ情報検索部51は、第1のパケット転送装置20からフロー識別子を受け取り、フロー識別子をキーとしてアプリ情報データベース40を検索し、アプリ種別及びフロー特性を特定する。そして、アプリ情報検索部51は、特定したアプリ種別及びフロー特性をフロー識別子と共に第1のパケット転送装置20に送信する。
また、図2に示すように、実施例における第1のパケット転送装置20は、命令受信部201と、経路テーブル変更部202と、入力ポート203と、フロー情報取得部204と、アプリ判定部205と、経路決定部206と、ルーティング部207と、出力ポート208と、入力バッファ209とを有する。これら各機能部は、例えば、第1のパケット転送装置20にインストールされた1以上のプログラムがCPU等に実行させる処理により実現される。
命令受信部201は、負荷監視装置10からの命令を受信する。経路テーブル変更部202は、命令受信部201が受信した命令に応じて、ECMP経路テーブル1000を変更する。ECMP経路テーブル1000は、エントリとして経路情報を格納しているテーブルである。なお、ECMP経路テーブル1000は、例えば、補助記憶装置や専用のメモリ装置等に格納されている。実施例におけるECMP経路テーブル1000の詳細については後述する。
入力ポート203は、ネットワークN1側からのパケットを受信する。そして、入力ポート203は、受信したパケットを入力バッファ209に格納する。なお、入力バッファ209は、受信したパケットを一時的に格納しておくための記憶領域であり、例えばRAMや補助記憶装置、専用のメモリ装置等により実現される。
フロー情報取得部204は、入力バッファ209に格納されているパケットのフロー識別子(例えば、5-tuple)からハッシュ値を生成する。また、フロー情報取得部204は、フローテーブル2000を参照して、生成したハッシュ値と一致するハッシュ値が含まれるエントリが存在するか否かを判定する。フローテーブル2000は、エントリとして、ハッシュ値と、出力ポート208を示す情報(出力ポート情報)とが対応付けられたフロー転送情報を格納しているテーブルである。出力ポート情報は、複数の出力ポート208のうちのいずれか1つの出力ポート208を特定するための情報である。なお、フローテーブル2000は、例えば、RAMや補助記憶装置、専用のメモリ装置等に格納されている。
そして、フロー情報取得部204は、該当のエントリが存在すると判定した場合、当該エントリをルーティング部207に通知する。一方で、フロー情報取得部204は、該当のエントリが存在しないと判定した場合、当該パケットを新規フローのパケットと判断して、該当のエントリが存在しない旨をアプリ判定部205に通知する。このとき、フロー情報取得部204は、フロー識別子とハッシュ値とをアプリ判定部205に通知する。
なお、フローテーブル2000に格納されているエントリ(フロー転送情報)は、例えば、経路決定部206等によって所定の時間毎に削除(クリア)されても良い。
アプリ判定部205は、フロー情報取得部204からの通知に応じて、アプリ情報キャッシュ3000を検索し、受信パケットのフローに対応するアプリ種別及びフロー特性を特定する。アプリ判定部205は、フロー識別子をキーとしてアプリ情報キャッシュ3000を検索する。
図4は、実施例におけるアプリ情報キャッシュ3000のエントリの一例を示す図である。図4に示すように、アプリ情報キャッシュ3000のエントリには、図3に示したアプリ情報データベース40のエントリと同様に、「送信元IPアドレス」と、「送信元ポート番号」と、「宛先IPアドレス」と、「宛先ポート番号」と、「プロトコル番号」と、「アプリ種別」と、「フロー特性」とが含まれる。
また、アプリ情報キャッシュ3000のエントリには、「タイムスタンプ」が含まれる。「タイムスタンプ」には、アプリ情報キャッシュ3000に登録された年月日及び時分秒が設定される。
アプリ情報キャッシュ3000を検索してアプリ種別及びフロー特性を特定することができなかった場合、すなわち受信パケットのフローに対応するエントリがアプリ情報キャッシュ3000にない場合には、アプリ判定部205は、アプリ判定装置50にフロー識別子を送信してアプリ種別及びフロー特性の特定を依頼する。
また、アプリ判定部205は、アプリ判定装置5から取得したアプリ種別及びフロー特性をフロー識別子と対応付けてアプリ情報キャッシュ3000に登録する。アプリ情報キャッシュ3000は、3つのエリアに分けて使用され、アプリ判定部205は、アプリ種別に基づいて3つのエリアの中の1つのエリアに登録する。
図5は、実施例におけるアプリ情報キャッシュ3000の使用方法を説明するための図である。図5に示すように、アプリ情報キャッシュ3000は、優先度が低いLRU(Least Recently Used)エリアと、優先度が中の自動登録エリアと、優先度が高い手動登録エリアに分けられる。
ここで、優先度は、アプリ情報キャッシュ3000が一杯になってエントリの置換が行われる場合に、アプリ情報キャッシュ3000から削除される順番を示す。優先度が低いほど優先的に削除される。
なお、図5では、各エリアは連続したエリアとして示されているが、各エリアは不連続のエリアであり、各エリアのエントリはリスト構造等により管理される。
LRUエリアには、通常のアプリのフローについてのエントリが登録される。エントリの置換が行われる場合に、LRUアルゴリズムにしたがって置換が行われる。
自動登録エリアには、優先してキャッシュする必要のあるアプリのフローについてのエントリが登録される。例えば、低遅延性が要求されるアプリのフローのエントリが自動登録エリアに登録される。エントリの置換が行われる場合に、LRUエリアと自動登録エリアの中から、LRUアルゴリズムにしたがって置換が行われる。ただし、自動登録エリアのエントリについては、「タイムスタンプ」から計算される経過時間に任意の重み係数ω(0<ω<1)を掛けた値が用いられる。自動登録エリアのエントリが削除された場合には、削除されたエントリは、LRUエリアのエントリに置換される。
手動登録エリアは、ユーザやオペレータ等により、明示的に登録されたエントリがキャッシュされるエリアである。エントリの置換が行われる場合に、LRUエリアと自動登録エリアの中から、LRUアルゴリズムにしたがって置換が行われる。ただし、自動登録エリアのエントリについては、経過時間に任意の重み係数ω(0<ω<1)を掛けた値が用いられる。アプリ情報キャッシュ3000の全領域が手動登録エリアとなっている場合、アプリ判定部205は、エラーを通知する。手動登録エリアのエントリが削除された場合には、削除されたエントリは、LRUエリアのエントリに置換される。
また、アプリ判定部205は、特定したアプリ種別及びフロー特性を経路決定部206に通知する。このとき、アプリ判定部205は、例えば、5-tupleと、アプリ種別と、フロー特性と、ハッシュ値とを経路決定部206に通知する。
なお、アプリ情報データベース40及びアプリ情報キャッシュ3000のエントリから「フロー特性」を除き、アプリ情報検索部51及びアプリ判定部205は、それぞれアプリ情報データベース40及びアプリ情報キャッシュ3000からアプリ種別を検索しても良い。この場合、アプリ判定部205は、アプリ種別とフロー特性の対応関係に基づいて、アプリ種別からフロー特性を特定する。
図2に戻って、経路決定部206は、ECMP経路テーブル1000を参照して、アプリ判定部205が特定したフロー特性から出力ポート208を決定する。また、経路決定部206は、決定した出力ポート208を示す情報と、ハッシュ値とを対応付けたフロー転送情報をフローテーブル2000に格納する。そして、経路決定部206は、フローテーブル2000に格納したエントリ(フロー転送情報)をルーティング部207に通知する。
ルーティング部207は、フロー情報取得部204又は経路決定部206から通知されたエントリ(フロー転送情報)に含まれる出力ポート情報を取得する。そして、ルーティング部207は、取得した出力ポート情報が示す出力ポート208に当該パケットを送信する。
出力ポート208は、ルーティング部207から受け取ったパケットを出力する。ここで、出力ポート208は、例えば、第2のパケット転送装置30毎に存在する。例えば、出力ポート208には、第2のパケット転送装置30-1に対応する出力ポート208-1、第2のパケット転送装置30-2に対応する出力ポート208-2等がある。なお、出力ポート208は、物理ポートであっても良いし、論理ポートであっても良い。
ここで、実施例におけるECMP経路テーブル1000について、図6を参照しながら説明する。図6は、実施例におけるECMP経路テーブル1000の一例を示す図である。
図6に示すように、実施例におけるECMP経路テーブル1000には、エントリとして経路情報が格納されている。また、経路情報には、「宛先ネットワーク」と、「サブネットマスク」と、「ゲートウェイのリスト」と、「出力ポート情報」と、「データ量(bps)の負荷状態」と、「パケット数(pps)の負荷状態」とが含まれる。
「宛先ネットワーク」には、パケットの転送先のネットワークのIPアドレス又はdefaultが設定される。「サブネットマスク」には、宛先ネットワークに対応するサブネットマスクが設定される。
「ゲートウェイのリスト」には、宛先ネットワークに対応するゲートウェイ(第2のパケット転送装置30)のIPアドレスが設定される。なお、「ゲートウェイのリスト」には、1つの宛先ネットワークに対して、1つ以上のゲートウェイのIPアドレスが設定される。
「出力ポート情報」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対する出力ポート208を示す情報がそれぞれ設定される。
図6に示す例では、ゲートウェイ「192.168.1.0」に対して、出力ポート208-1を示す「eth0」が対応付けられている。これは、ゲートウェイ「192.168.1.0」からパケットを送信する場合、出力ポート208-1から送信されることを示している。
同様に、例えば、ゲートウェイ「192.168.1.1」に対して、出力ポート208-2を示す「eth1」が対応付けられている。これは、ゲートウェイ「192.168.1.1」からパケットを送信する場合、出力ポート208-2から送信されることを示している。他のゲートウェイについても同様である。
「データ量(bps)の負荷状態」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対して、当該ゲートウェイにおけるデータ量(bps)の負荷状態が設定される。ここで、図6に示す例では、「データ量(bps)の負荷状態」に「0」が設定されている場合、該当のゲートウェイにおけるデータ量(bps)の負荷状態が「低負荷」であることを示している。一方で、「データ量(bps)の負荷状態」に「1」が設定されている場合、該当のゲートウェイにおけるデータ量(bps)の負荷状態が「高負荷」であることを示している。
「パケット数(pps)の負荷状態」には、「ゲートウェイのリスト」に設定されている各ゲートウェイ(のIPアドレス)に対して、当該ゲートウェイにおけるパケット数(pps)の負荷状態が設定される。ここで、図6に示す例では、「パケット数(pps)の負荷状態」に「0」が設定されている場合、該当のゲートウェイにおけるパケット数(pps)の負荷状態が「低負荷」であることを示している。一方で、「パケット数(pps)の負荷状態」に「1」が設定されている場合、該当のゲートウェイにおけるパケット数(pps)の負荷状態が「高負荷」であることを示している。
このように、実施例におけるECMP経路テーブル1000には、宛先ネットワーク毎に、当該宛先ネットワークに対する1以上のゲートウェイと、これらの各ゲートウェイの出力ポート情報及び負荷状態とが含まれる経路情報が格納されている。
後述するように、実施例では、各ゲートウェイ(第2のパケット転送装置30)の負荷状態が閾値を超えた場合(又は下回った場合)に、当該ゲートウェイに対応する負荷状態を変更すると共に、パケットを転送する際に、フロー特性に応じて低負荷状態のゲートウェイからパケットを送信することで、負荷分散が行われる。
<分散システムの処理>
以降では、実施例における負荷分散システム1の処理について、図7を参照しながら説明する。図7は、実施例における負荷分散システム1の処理の流れの一例を示す図である。
まず、負荷監視装置10の流量監視部101は、負荷分散対象の第2のパケット転送装置30-1及び30-2の統計情報からトラヒック流量をbpsとppsの観点で監視する(1)。そして、流量監視部101は、監視結果を負荷分散決定部102に通知する(2)。
次に、負荷分散決定部102は、流量監視部101の監視結果が予め定めるbps閾値、又はpps閾値のいずれかを上回ると、負荷分散の実施を決定する。逆に、閾値を下回ると、負荷分散決定部102は、負荷分散の解除を決定する。また、負荷分散決定部102は、決定内容を命令送信部103に通知する(3)。
次に、命令送信部103は、負荷分散決定部102の決定に基づき命令を第1のパケット転送装置20に送信する(4)。命令は(i)閾値種別(bps閾値かpps閾値か)、(ii)命令種別(実施か解除か)、及び(iii)対象装置の識別情報からなる。対照装置の識別情報は、例えば装置のID、IPアドレス、MACアドレス、ホスト名がある。
次に、第1のパケット転送装置20の命令受信部201は、負荷監視装置10からの命令を受信し、受信した命令の内容((i)閾値種別、(ii)命令種別、(iii)対象装置の識別情報)を経路テーブル変更部202へ通知する(5)。
次に、経路テーブル変更部202は、命令に基づきECMP経路テーブル1000の内容を変更する(6)。ECMP経路テーブル1000は、経路情報をエントリとして保持する。エントリは、宛先ネットワーク、サブネットマスク、ゲートウェイのリスト、ゲートウェイに対応する出力ポート208、及びゲートウェイの負荷状態情報からなる。
次に、入力ポート203は、受信したパケットを入力バッファ209に格納する(7)。
次に、入力バッファ209は、パケットを一時的にバッファし、パケットの5-tupleをフロー識別子とし、フローテーブル2000への登録状況をフロー情報取得部204に問い合わせる(8)。
次に、フロー情報取得部204は、フロー識別子からハッシュ値を生成してハッシュ値をキーにフローテーブル2000を参照し、フロー識別子で識別されるフローの登録状況を確認する(9)。フローテーブル2000に当該フローが登録されている場合、負荷分散システム1は、以降(10)-(18)の手続きを省略する。
フローテーブル2000に当該フローが登録されていない場合、フロー情報取得部204は、フロー識別子及びハッシュ値をアプリ判定部205に通知し、フローテーブル2000への登録の通知(18)を待つ(10)。
次に、アプリ判定部205は、フロー識別子をキーにアプリ情報キャッシュ3000を参照し、フロー識別子で識別されるフローのキャッシュ状況を確認する(11)。当該フローがキャッシュされている場合、負荷分散システム1は、以降(12)-(14)の手続きを省略する。
当該フローがキャッシュされていない場合、アプリ判定部205は、フロー識別子をアプリ判定装置50のアプリ情報検索部51に通知する(12)。
次に、アプリ情報検索部51は、フロー識別子をキーに、アプリ情報データベース40を参照する(13)。
そして、アプリ情報検索部51は、アプリ情報データベース40の参照結果をアプリ判定部205に通知する(14)。このとき、一致するエントリがある場合は、アプリ情報検索部51は、フロー識別子、アプリ種別及びフロー特性を通知する。一致するエントリがない場合は、アプリ情報検索部51は、一致するエントリがないことを通知する。
次に、アプリ判定部205は、フロー識別子、アプリ種別、フロー特性及びハッシュ値を経路決定部206に通知する(15)。また、アプリ判定部205は、フロー識別子、アプリ種別及びフロー特性を対応付けてアプリ情報キャッシュ3000に登録する。
次に、経路決定部206は、アプリ判定部205の通知内容とECMP経路テーブル1000とを照らし合わせ、出力ポート208を決定する(16)。
そして、経路決定部206は、決定した出力ポート情報をフローテーブル2000に登録する(17)。
そして、経路決定部206は、フロー情報取得部204にフローテーブル2000への登録完了を通知する(18)。
次に、フロー情報取得部204は、入力バッファ209にフローテーブル2000への登録状況を通知する(19)。
次に、入力バッファ209は、フロー情報取得部204からフローテーブル2000への登録状況の通知を受信した場合か、あるいは、あらかじめ定める一定時間を経過すると、パケットをルーティング部207に送信する(20)。
次に、ルーティング部207は、パケットの5-tupleをキーにフローテーブル2000を参照し、フローエントリがある場合はフローエントリにしたがって出力ポート208を決定する。フローエントリが未登録の場合、ルーティング部207は、ラウンドロビンで出力ポート208を決定し、フローテーブル2000にフローエントリを追加する(21)。
そして、ルーティング部207は、決定した出力ポート208にパケットを転送する(22)。
<ECMP経路テーブルの変更処理>
以降では、実施例におけるECMP経路テーブル1000の変更処理について、図8を参照しながら説明する。図8は、実施例におけるECMP経路テーブル1000の変更処理の流れの一例を説明するための図である。
まず、負荷監視装置10の流量監視部101は、第2のパケット転送装置30の統計情報から、これらの第2のパケット転送装置30のbps結果値及びpps結果値を取得する(ステップS101)。ここで、流量監視部101は、例えば、所定の時間毎に、各第2のパケット転送装置30のbps結果値及びpps結果値を取得する。なお、統計情報は、例えば、netstat等により取得することができる。
次に、負荷監視装置10の負荷分散決定部102は、負荷分散を実施又は解除するかを決定する(ステップS102)。すなわち、負荷分散決定部102は、bps結果値がbps閾値を超えたか又は下回ったかを判定する。同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたか又は下回ったかを判定する。なお、bbs閾値及びpps閾値は、全ての第2のパケット転送装置30で同一の値が決められても良いし、第2のパケット転送装置30毎に値が決められても良い。又は、例えば、1以上の第2のパケット転送装置30を所定の基準でグループ化した上で、グループ毎に値が決められても良い。
そして、負荷分散決定部102は、bps結果値がbps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、bps結果値がbps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
同様に、負荷分散決定部102は、pps結果値がpps閾値を超えたと判定した場合、負荷分散を実施すると決定する。一方で、負荷分散決定部102は、pps結果値がpps閾値を下回ったと判定した場合、負荷分散を解除すると決定する。
ステップS102において、負荷分散の実施及び負荷分散の解除のいずれも決定されなかった場合、負荷監視装置10は、上記のステップS101に戻る。
一方で、ステップS102において、負荷分散の実施又は負荷分散の解除の少なくとも一方が決定された場合、負荷監視装置10の命令送信部103は、所定の命令を第1のパケット転送装置20に送信する(ステップS103)。
第1のパケット転送装置20の命令受信部201は、負荷監視装置10からの命令を受信する(ステップS104)。
次に、第1のパケット転送装置20の経路テーブル変更部202は、命令受信部201が受信した命令に応じて、ECMP経路テーブル1000を変更する(ステップS105)。
具体的には、例えば、「閾値種別」に「bps閾値」、「命令種別」に「負荷分散の実施」、「対象装置の識別情報」に「192.168.1.0」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.0」であるゲートウェイに対する「データ量(bps)の負荷状態」を「1」に変更する。
同様に、例えば、「閾値種別」に「bps閾値」、「命令種別」に「負荷分散の解除」、「対象装置の識別情報」に「192.168.1.2」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.2」であるゲートウェイに対する「データ量(bps)の負荷状態」を「0」に変更する。
同様に、例えば、「閾値種別」に「pps閾値」、「命令種別」に「負荷分散の実施」、「対象装置の識別情報」に「192.168.1.1」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.1」であるゲートウェイに対する「パケット数(pps)の負荷状態」を「1」に変更する。
同様に、例えば、「閾値種別」に「pps閾値」、「命令種別」に「負荷分散の解除」、「対象装置の識別情報」に「192.168.1.0」がそれぞれ設定されている通知を受信した場合、経路テーブル変更部202は、ECMP経路テーブル1000の各エントリについて、IPアドレスが「192.168.1.0」であるゲートウェイに対する「パケット数(pps)の負荷状態」を「0」に変更する。
以上のように、実施例における負荷分散システム1は、負荷分散対象である第2のパケット転送装置30のbps結果値又はpps結果値が閾値を超えた場合又は下回った場合、ECMP経路テーブル1000に格納されている各エントリにおいて、これらの第2のパケット転送装置30の負荷状態を変更する。これにより、ECMP経路テーブル1000に格納されている各エントリによって、各第2のパケット転送装置30の負荷状態(データ量(bps)の負荷状態及びパケット数(pps)の負荷状態)が管理される。
<パケット転送処理>
以降では、実施例におけるパケット転送処理について、図9を参照しながら説明する。図9は、実施例におけるパケット転送処理の流れの一例を説明するための図である。
まず、第1のパケット転送装置20の入力ポート203は、ネットワークN1側からのパケットを受信する(ステップS201)。
次に、入力ポート203は、上記のステップS201で受信したパケットを入力バッファ209に格納する(ステップS202)。
次に、第1のパケット転送装置20のフロー情報取得部204は、入力バッファ209に格納されているパケットのフロー識別子(例えば、5-tuple)からハッシュ値を生成する(ステップS203)。なお、ハッシュ値の生成に用いられるハッシュ関数は任意のものを用いることができる。
次に、フロー情報取得部204は、上記のステップS203で生成したハッシュ値と一致するハッシュ値が含まれるエントリ(フロー転送情報)がフローテーブル2000に格納されているか否かを判定する(ステップS204)。
ステップS204において、当該エントリがフローテーブル2000に格納されていると判定された場合、第1のパケット転送装置20は、後述するステップS212の処理に進む。
一方で、ステップS204において、当該エントリがフローテーブル2000に格納されていないと判定された場合、フロー情報取得部204は、フロー識別子とハッシュ値を第1のパケット転送装置20のアプリ判定部205に通知し、アプリ判定部205は、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されているか否かを判定する(ステップS205)。
ステップS205において、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されていると判定された場合、第1のパケット転送装置20は、後述するステップS209の処理に進む。
一方で、ステップS205において、フロー識別子で識別されるフローのアプリ種別及びフロー特性がアプリ情報キャッシュ3000に登録されていないと判定された場合、アプリ判定部205は、アプリ判定装置50のアプリ情報検索部51にアプリ種別及びフロー特性の特定を依頼する(ステップS206)。
次に、アプリ情報検索部51は、フロー識別子をキーとしてアプリ情報データベース40を検索し、検索されたアプリ種別とフロー特性をフロー識別子と共にアプリ判定部205に送信する(ステップS207)。
次に、アプリ判定部205は、フロー識別子、アプリ種別及びフロー特性を対応付けてアプリ情報キャッシュ3000に登録する(ステップS208)。
そして、アプリ判定部205は、フロー識別子、アプリ種別、フロー特性及びハッシュ値を第1のパケット転送装置20の経路決定部206に通知する。この結果、経路決定部206は、フロー識別子で識別されるフローのフロー特性が「高bpsフロー」又は「高ppsフロー」のいずれであるかを特定する(ステップS209)。
次に、経路決定部206は、ECMP経路テーブル1000を参照して、上記のステップS209で特定したフロー特性から出力ポート208を決定する(ステップS210)。経路決定部206は、例えば、次のS1~S3の手順により出力ポート208を決定する。
S1)まず、経路決定部206は、アプリ判定部205から通知されたフロー識別子に含まれる宛先IPアドレスのネットワークアドレスに対応するエントリをECMP経路テーブル1000から検索する。このとき、経路決定部206は、例えば、ロンゲストマッチでエントリを検索する。当該ネットワークアドレスに対応するエントリが検索された場合、経路決定部206は、このエントリを参照する。一方で、当該ネットワークアドレスに対応するエントリが検索されなかった場合、経路決定部206は、宛先ネットワークに「default」が設定されているエントリを参照する。
S2)次に、経路決定部206は、フロー特性に応じて、参照しているエントリに含まれる「ゲートウェイのリスト」の中から低負荷状態のゲートウェイを検索する。
例えば、上記のステップS209で特定したフロー特性が「高bpsフロー」である場合、経路決定部206は、当該エントリに含まれる「ゲートウェイのリスト」のうち、「データ量(bps)の負荷状態」に「0」が設定されているゲートウェイを上から順番に検索する。
一方で、例えば、上記のステップS209で特定したフロー特性が「高ppsフロー」である場合、経路決定部206は、当該エントリに含まれる「ゲートウェイのリスト」のうち、「パケット数(pps)の負荷状態」に「0」が設定されているゲートウェイを上から順番に検索する。
S3)そして、経路決定部206は、上記のS2で検索されたゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。
なお、上記のS2でゲートウェイが検索されなかった場合、経路決定部206は、高負荷状態のゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。例えば、上記のステップS209で特定したフロー特性が「高bpsフロー」で、「データ量(bps)の負荷状態」に「0」が設定されているゲートウェイが存在しない場合、経路決定部206は、「データ量(bps)の負荷状態」に「1」が設定されているゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。同様に、例えば、上記のステップS209で特定したフロー特性が「高ppsフロー」で、「パケット数(pps)の負荷状態」に「0」が設定されているゲートウェイが存在しない場合、経路決定部206は、「パケット数(pps)の負荷状態」に「1」が設定されているゲートウェイに対応する出力ポート情報が示す出力ポート208を、当該パケットの出力ポート208に決定する。
ここで、同一の宛先ネットワークに対する出力ポート208をラウンドロビンで変更したい場合は、経路決定部206は、決定した出力ポート208に対応するゲートウェイを、「ゲートウェイのリスト」の最後尾に移動させても良い。例えば、図6に示すECMP経路テーブル1000において、宛先ネットワーク「default」のゲートウェイ「192.168.1.0」の出力ポート情報「eth0」が出力ポート208に決定された場合、このゲートウェイ「192.168.1.0」をリストの最後尾(すなわち、ゲートウェイ「192.168.1.2」の後ろ)に移動させても良い。これにより、同一の宛先ネットワークに対する出力ポート208をラウンドロビンで変更することで、更なる負荷分散が期待できる。
次に、経路決定部206は、アプリ判定部205から通知されたハッシュ値と、上記のステップS210で決定した出力ポート208を示す情報(出力ポート情報)とを対応付けたフロー転送情報をフローテーブル2000に格納する(ステップS211)。
次に、第1のパケット転送装置20のルーティング部207は、該当のエントリ(上記のステップS204でハッシュ値が一致すると判定されたエントリ又は上記のステップS211で格納されたエントリ)から出力ポート情報を取得する(ステップS212)。そして、ルーティング部207は、取得した出力ポート情報が示す出力ポート208に当該パケットを送信する。
次に、第1のパケット転送装置20の出力ポート208は、ルーティング部207から受け取ったパケットを送信する(ステップS213)。
以上のように、アプリ判定部205は、フロー識別子で識別されるフローのフロー特性をアプリ情報キャッシュ3000を参照して特定する。このため、アプリ判定部205は、フロー特性を効率良く特定することができる。また、アプリ判定部205は、アプリ情報キャッシュ3000にフロー識別子で識別されるフローの情報が登録されていない場合には、アプリ情報データベース40に基づいてフロー特性を特定する。このため、アプリ判定部205は、フロー特性を正確に特定することができる。
<アプリ情報キャッシュへの登録処理>
以降では、実施例におけるアプリ情報キャッシュ3000への登録処理について、図10を参照しながら説明する。図10は、実施例におけるアプリ情報キャッシュ3000への登録処理の流れの一例を説明するための図である。
まず、第1のパケット転送装置20のアプリ判定部205は、アプリ情報キャッシュ3000にフローの情報を登録するエントリを特定するエントリ特定処理を行う(ステップS301)。そして、アプリ判定部205は、特定したエントリにフローの情報及びタイムスタンプを格納する(ステップS302)。
そして、アプリ判定部205は、登録が手動登録であるか否かを判定する(ステップS303)。ここで、登録が手動登録である場合とは、ユーザやオペレータによりアプリ情報キャッシュ3000への登録が行われる場合である。
ステップS303において、登録が手動登録であると判定された場合、アプリ判定部205は、登録したエントリのエリアを手動登録エリアに置換する(ステップS304)。
一方で、ステップS303において、登録が手動登録でないと判定された場合、アプリ判定部205は、登録したエントリが優先エントリであるか否かを判定する(ステップS305)。ここで、優先エントリとは、自動登録エリアに登録されるエントリである。
ステップS305において、登録したエントリが優先エントリであると判定された場合、アプリ判定部205は、登録したエントリのエリアを自動登録エリアに置換する(ステップS306)。
なお、エントリ特定処理において特定されたエントリのエリアはLRUエリアであるので、ステップS305において、登録したエントリが優先エントリでないと判定された場合には、登録したエントリのエリアの置換は不要である。
図11は、エントリ特定処理の流れの一例を説明するための図である。図11に示すように、アプリ判定部205は、アプリ情報キャッシュ3000に空エントリがあるか否かを判定する(ステップS401)。
ステップS401において、空エントリがあると判定された場合、アプリ判定部205は、空エントリの識別情報を返却する(ステップS402)。
一方で、ステップS401において、空エントリがないと判定された場合、アプリ判定部205は、LRUエリアへの登録であるか否かを判定する(ステップS403)。
ステップS403において、LRUエリアへの登録であると判定された場合には、アプリ判定部205は、LRUエリアからLRUに基づいて、置換されるエントリを特定する(ステップS404)。
一方で、ステップS403において、LRUエリアへの登録でないと判定された場合には、アプリ判定部205は、LRUエリアと自動登録エリアからLRUに基づいて、置換されるエントリを特定する(ステップS405)。ただし、アプリ判定部205は、自動登録エリアのエントリについては、削除するエントリの特定に際して、経過時間に任意の重み係数ωを掛けた値を用いる。また、削除されるエントリが自動登録エリアのエントリである場合には、削除されるエントリのエリアはLRUエリアに置換される。
そして、アプリ判定部205は、特定したエントリの識別情報を返却する(ステップS406)。
以上のように、実施例における負荷分散システム1は、第1のパケット転送装置20から第2のパケット転送装置30にパケットを転送する際に、当該パケットによるフローのフロー特性に応じて、低負荷状態の第2のパケット転送装置30に当該パケットを転送する。これにより、実施例における負荷分散システム1では、第2のパケット転送装置30の負荷分散を実現することができる。このため、例えば、或る第2のパケット転送装置30に高bpsフローのパケットが集中する事態や高ppsフローのパケットが集中する事態を防止することができ、第2のパケット転送装置30の転送容量を最大限に活かすことができるようになる。
また、実施例における負荷分散システム1は、アプリ情報データベース40にフロー識別子に対応付けてアプリケーションのフロー特性を含むアプリ情報を記憶する。そして、アプリ判定装置50が、アプリ情報データベース40をフロー識別子をキーとして検索してアプリ情報を取得し、第1のパケット転送装置20に送信する。このため、第1のパケット転送装置20は、フロー特性を正確に特定することができる。
また、実施例における負荷分散システム1は、アプリ情報データベース40の一部をアプリ情報キャッシュ3000にキャッシュする。このため、第1のパケット転送装置20は、フロー特性を効率良く特定することができる。
また、実施例における負荷分散システム1は、アプリ情報キャッシュ3000をLRUエリアと、LRUエリアよりエントリが置換されにくい自動登録エリアと、エントリが置換されない手動登録エリアに分ける。そして、アプリ判定部205は、アプリ情報に含まれるアプリ種別に基づいてLRUエリア又は自動登録エリアにキャッシュ情報を登録する。このため、第1のパケット転送装置20は、アプリケーションの種別に応じてアプリ情報キャッシュ3000からエントリを削除されにくくすることができ、特定のアプリケーションについてフロー特性をより効率良く特定することができる。
また、実施例における負荷分散システム1では、アプリ判定部205は、自動登録エリアにエントリを登録する場合でLRUに基づいてエントリを置換する場合に、自動登録エリア又はLRUエリアから、置換されるエントリを特定する。このとき、アプリ判定部205は、自動登録エリアのエントリについては経過時間にωを掛けた値を用いて、置換されるエントリを特定する。したがって、アプリ判定部205は、自動登録エリアのエントリをLRUエリアのエントリより削除されにくくすることができる。
<ハードウェア構成>
最後に、本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50のハードウェア構成について説明する。本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50は、例えば図12に示すコンピュータ500を1台以上用いることにより実現される。図12は、コンピュータ500のハードウェア構成の一例を示す図である。
図12に示すコンピュータ500は、CPU(Central Processing Unit)501と、RAM502と、ROM(Read Only Memory)503と、外部I/F504と、通信I/F505と、補助記憶装置506とを有する。これら各ハードウェアは、それぞれがバスBを介して通信可能に接続されている。
CPU501は、ROM503や補助記憶装置506等からプログラムやデータをRAM502上に読み出して処理を実行する演算装置である。
RAM502は、プログラムやデータを一時保持する揮発性の半導体メモリである。ROM503は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリである。ROM503には、例えば、OS設定やネットワーク設定等が格納されている。
外部I/F504は、外部装置とのインタフェースである。外部装置には、記録媒体504a等がある。コンピュータ500は、外部I/F504を介して、記録媒体504a等の読み取りや書き込み等を行うことができる。
記録媒体504aには、例えば、フレキシブルディスク、CD(Compact Disc)、DVD(Digital Versatile Disk)、SDメモリカード(Secure Digital memory card)、USB(Universal Serial Bus)メモリカード等がある。
通信I/F505は、他の装置と通信を行うためのインタフェースである。なお、第1のパケット転送装置20及び第2のパケット転送装置30は、複数の通信I/F505を有する。
補助記憶装置506は、例えばHDD(Hard Disk Drive)やSSD(Solid State Drive)等であり、プログラムやデータを格納している不揮発性の記憶装置である。補助記憶装置506に格納されているプログラムやデータには、例えば、OS、当該OS上において各種機能を実現するアプリケーションプログラム等がある。
本発明の実施の形態における負荷監視装置10、第1のパケット転送装置20、第2のパケット転送装置30及びアプリ判定装置50は、図12に示すコンピュータ500を1台以上用いることにより、上述した各種処理を実行することができる。例えば、負荷監視装置10が有する各機能部は、補助記憶装置506に格納された1以上のプログラムがCPU501等に実行させる処理により実現される。また、例えば、第1のパケット転送装置20が有する各機能部は、補助記憶装置506に格納された1以上のプログラムがCPU501等に実行させる処理や通信I/F505等により実現される。
なお、負荷監視装置10は、例えばディスプレイ等の表示装置と、例えばキーボードやマウス等の入力装置とのうちの少なくとも一方を有していても良い。
本発明は、具体的に開示された上記の実施の形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、上記の実施の形態では、負荷分散を行うパケット転送装置を第1のパケット転送装置20、負荷分散の対象となるパケット転送装置を第2のパケット転送装置30としたが、これは、或るパケット転送装置が常に第1のパケット転送装置20又は第2のパケット転送装置30のいずれかとして機能することを意味するものではない。例えば、同一のパケット転送装置が第1のパケット転送装置20として機能し、かつ、第2のパケット転送装置30としても機能しても良い。
1 負荷分散システム
10 負荷監視装置
20 第1のパケット転送装置
30 第2のパケット転送装置
40 アプリ情報データベース
50 アプリ判定装置
51 アプリ情報検索部
101 流量監視部
102 負荷分散決定部
103 命令送信部
201 命令受信部
202 経路テーブル変更部
203 入力ポート
204 フロー情報取得部
205 アプリ判定部
206 経路決定部
207 ルーティング部
208 出力ポート
209 入力バッファ
N1、N2 ネットワーク

Claims (4)

  1. パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報を記憶するアプリ情報記憶手段と、
    入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手段と、
    前記取得手段により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手段と、
    を有し、
    前記アプリ情報は、アプリケーションの種別をさらに含み、
    前記アプリ情報記憶手段が記憶する情報の一部が、エントリが置換される際に置換されにくさに基づいて複数の領域に分けてキャッシュされるキャッシュ記憶手段をさらに有し、
    前記取得手段は、前記キャッシュ記憶手段から前記アプリ情報を取得し、前記キャッシュ記憶手段から前記アプリ情報を取得できない場合に、前記アプリ情報記憶手段から前記アプリ情報を取得し、前記種別に基づいて前記複数の領域のうちのいずれかの領域に該アプリ情報を前記フロー識別子に対応付けて登録することを特徴とする負荷分散システム。
  2. 前記複数の領域は、エントリが削除されることのない第1領域と、エントリが削除される第3領域と、前記第3領域よりもエントリが削除されにくい第2領域とを含み、
    前記取得手段は、前記種別が優先的にキャッシュされるアプリケーションであることを示す場合に、前記第2領域に前記アプリ情報を登録し、優先的にキャッシュされるアプリケーションでないことを示す場合に、前記第3領域に該アプリ情報を登録することを特徴とする請求項に記載の負荷分散システム。
  3. 前記取得手段は、前記種別が優先的にキャッシュされるアプリケーションであることを示す場合には、前記キャッシュ記憶手段のエントリをLRUに基づいて置換する際に、前記第2領域のエントリについては前記キャッシュ記憶手段に登録されてからの経過時間に1より小さい正数の重み係数を乗じた値を用いて、前記第2領域又は前記第3領域から、置換されるエントリを選択することを特徴とする請求項に記載の負荷分散システム。
  4. パケットにより構成されるフローのアプリケーションのフロー特性を含むアプリ情報を該パケットのフローを識別するフロー識別子に対応付けた情報をアプリ情報記憶手段に記憶する記憶手順、
    入力ポートがパケットを受信すると、該パケットにより構成されるフローのアプリ情報を前記アプリ情報記憶手段から取得する取得手順と、
    前記取得手順により取得されたアプリ情報に含まれるフロー特性に応じて、複数のパケット転送装置のうち、該フロー特性のフローによる負荷が少ないことを示す負荷状態のパケット転送装置に対して前記入力ポートが受信したパケットを出力する出力手順と、
    を負荷分散システムが実行し、
    前記アプリ情報は、アプリケーションの種別をさらに含み、
    前記アプリ情報記憶手段が記憶する情報の一部が、エントリが置換される際に置換されにくさに基づいて複数の領域に分けてキャッシュ記憶手段にキャッシュするキャッシュ記憶手順を前記負荷分散システムがさらに実行し、
    前記取得手順は、前記キャッシュ記憶手段から前記アプリ情報を取得し、前記キャッシュ記憶手段から前記アプリ情報を取得できない場合に、前記アプリ情報記憶手段から前記アプリ情報を取得し、前記種別に基づいて前記複数の領域のうちのいずれかの領域に該アプリ情報を前記フロー識別子に対応付けて登録することを特徴とする負荷分散方法。
JP2018152527A 2018-08-13 2018-08-13 負荷分散システム及び負荷分散方法 Active JP7052634B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018152527A JP7052634B2 (ja) 2018-08-13 2018-08-13 負荷分散システム及び負荷分散方法
PCT/JP2019/031781 WO2020036162A1 (ja) 2018-08-13 2019-08-09 負荷分散システム及び負荷分散方法
US17/267,945 US11757779B2 (en) 2018-08-13 2019-08-09 Load distribution system and load distribution method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018152527A JP7052634B2 (ja) 2018-08-13 2018-08-13 負荷分散システム及び負荷分散方法

Publications (2)

Publication Number Publication Date
JP2020028048A JP2020028048A (ja) 2020-02-20
JP7052634B2 true JP7052634B2 (ja) 2022-04-12

Family

ID=69525402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018152527A Active JP7052634B2 (ja) 2018-08-13 2018-08-13 負荷分散システム及び負荷分散方法

Country Status (3)

Country Link
US (1) US11757779B2 (ja)
JP (1) JP7052634B2 (ja)
WO (1) WO2020036162A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7466949B2 (ja) 2022-12-15 2024-04-15 株式会社サンセイアールアンドディ 遊技機

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186649A (ja) 2011-03-04 2012-09-27 Nec Corp 通信切替システム、通信切替方法、及びプログラム
WO2015023256A1 (en) 2013-08-12 2015-02-19 Hewlett-Packard Development Company, L.P. Application-aware network management

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7684432B2 (en) * 2003-05-15 2010-03-23 At&T Intellectual Property I, L.P. Methods of providing data services over data networks and related data networks, data service providers, routing gateways and computer program products
JP2004350078A (ja) 2003-05-23 2004-12-09 Fujitsu Ltd 方路分散伝送システム
TW200904074A (en) * 2007-07-12 2009-01-16 Netklass Technology Inc Method for transmitting data in virtual WAN and system thereof
US8295284B1 (en) * 2010-02-02 2012-10-23 Cisco Technology, Inc. Dynamic, conditon-based packet redirection
US8345688B2 (en) * 2010-02-23 2013-01-01 Google Inc. System and method for managing flow of packets
US9450780B2 (en) * 2012-07-27 2016-09-20 Intel Corporation Packet processing approach to improve performance and energy efficiency for software routers

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012186649A (ja) 2011-03-04 2012-09-27 Nec Corp 通信切替システム、通信切替方法、及びプログラム
WO2015023256A1 (en) 2013-08-12 2015-02-19 Hewlett-Packard Development Company, L.P. Application-aware network management

Also Published As

Publication number Publication date
JP2020028048A (ja) 2020-02-20
US20220182325A1 (en) 2022-06-09
WO2020036162A1 (ja) 2020-02-20
US11757779B2 (en) 2023-09-12

Similar Documents

Publication Publication Date Title
US10075396B2 (en) Methods and systems for managing distributed media access control address tables
US10404622B2 (en) Servers, switches, and systems with virtual interface to external network connecting hardware and integrated networking driver
US10135714B2 (en) Servers, switches, and systems with switching module implementing a distributed network operating system
US9680714B2 (en) Methods, systems, and fabrics implementing a distributed network operating system
US9742697B2 (en) Integrated server with switching capabilities and network operating system
US10257066B2 (en) Interconnect congestion control in a storage grid
US8095675B2 (en) Priority and bandwidth specification at mount time of NAS device volume
US7836212B2 (en) Reflecting bandwidth and priority in network attached storage I/O
US9304782B2 (en) Network switch, systems, and servers implementing boot image delivery
US10581734B2 (en) Methods, systems, and fabrics implementing a distributed network operating system
JP6888566B2 (ja) 負荷分散システム及び負荷分散方法
JP7052634B2 (ja) 負荷分散システム及び負荷分散方法
CN114008979A (zh) 具有隔离虚拟网络集成的无服务器分组处理服务
JP7003873B2 (ja) 負荷分散システム及び負荷分散方法
WO2020162185A1 (ja) 負荷分散システム及び負荷分散方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220301

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220314

R150 Certificate of patent or registration of utility model

Ref document number: 7052634

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150