JP2006319749A - 輻輳制御方法および輻輳制御装置 - Google Patents

輻輳制御方法および輻輳制御装置 Download PDF

Info

Publication number
JP2006319749A
JP2006319749A JP2005141181A JP2005141181A JP2006319749A JP 2006319749 A JP2006319749 A JP 2006319749A JP 2005141181 A JP2005141181 A JP 2005141181A JP 2005141181 A JP2005141181 A JP 2005141181A JP 2006319749 A JP2006319749 A JP 2006319749A
Authority
JP
Japan
Prior art keywords
congestion
flow
malignant
procedure
communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005141181A
Other languages
English (en)
Other versions
JP4222567B2 (ja
Inventor
Rie Hayashi
理恵 林
Takashi Miyamura
崇 宮村
Akira Misawa
明 三澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2005141181A priority Critical patent/JP4222567B2/ja
Publication of JP2006319749A publication Critical patent/JP2006319749A/ja
Application granted granted Critical
Publication of JP4222567B2 publication Critical patent/JP4222567B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

【課題】 一部のフローに通信量が偏る事象に対して、輻輳を解消するようにトポロジを変更すること。
【解決手段】 輻輳検知部20が、輻輳を検知する輻輳検知手順と、通過装置特定部30が、輻輳検知手順が検知した輻輳について、パスの通信量から輻輳に関する悪性フローの通過装置を特定する通過装置特定手順と、悪性フロー特定部40が、通過装置特定手順が特定した通過装置に関するフロー計測結果をもとに、悪性フローを特定する悪性フロー特定手順と、通信制御部70が、悪性フロー特定手順により特定された悪性フローの通信制御を通信装置に対して実行する通信制御手順と、トポロジ変更部80が、通信制御手順の後に制御対象ネットワークのトポロジを変更するトポロジ変更手順と、を実行する。
【選択図】 図1

Description

本発明は、輻輳制御方法および輻輳制御装置に関する。
ATM(Asynchronous Transfer Mode)網や、MPLS(Multi Protocol Label Switching)などのコネクション型網で輻輳が起きた場合の従来の輻輳制御方法は、専用サーバが網端の全通信装置からトラヒック情報を収集して網全体のトラヒックマトリクスを作成し、その時のトラヒックマトリクスに合ったトポロジにするためのパス再配置を行うというトラヒックエンジニアリング(非特許文献1参照)(図11)や、OSPF(Open Shortest Path First)のメトリックを変更することで経路変更を行うものであった(非特許文献2参照)。なお、メトリックとは、送信元から宛先までの距離のことである。距離ベクトル型のルーティングプロトコルでは送信者が宛先にIPパケットを送り、到着するまでにいくつのルータを経由したかを示すホップ数をメトリックにしている。
K. Sato, N. Yamanaka, Y. Takigawa, M. Koga, S. Okamoto, K. Shiomoto, E. Oki, W. Imajuku著、"GMPLS-based photonic multilayer router (Hikari router) architecture: an overview of traffic engineering and signaling technology"、IEEE Communications Magazine volume 40,Issue 3, pp. 96-101,March 2002. B. Fortz and M. Thorup著、"Optimizing OSPF/IS-IS Weights in a Changing World"、IEEE Journal on Selected Areas in Communications,volume 20,Issue 4,pp. 756-767,May 2002
従来の輻輳制御方法は、輻輳を発生させる要因となる悪性フローと、大多数の一般ユーザのフローとを区別することなく、網全体の情報を用いて、網全体のトラヒックエンジニアリングやOSPFのメトリック変更を行っていた。
なお、利用可能な帯域を可能な限り使用するようなアプリケーションが普及している。これらのアプリケーションにより発生する悪性フローの数は、全体に占めるフロー数は僅かにも関わらず、悪性フローの帯域占有率は大きい為、輻輳を起こして大多数のユーザのフローに影響を与える。
このような悪性フローを制御するには、従来の輻輳制御方法では不十分である。従来の輻輳制御方法は、一部のフローに通信量が偏るような事象は、想定されていない。そのため、従来の輻輳制御方法によってトポロジを変更しても、しばらくすると悪性フローに帯域を再び占有され、大多数のユーザのスループットが上がらない、という問題があった。
そこで、本発明は、前記した問題を解決し、一部のフローに通信量が偏る事象に対して、輻輳を解消するようにトポロジを変更することを主な目的とする。
前記課題を解決するために、本発明は、コネクション型ネットワークであり、フローを中継する通信装置を有する制御対象ネットワークにおいて、発生した輻輳の要因となる悪性フローを制御する輻輳制御方法であって、コンピュータが、輻輳検知部と、通過装置特定部と、悪性フロー特定部と、通信制御部と、トポロジ変更部とを有し、前記輻輳検知部が、前記制御対象ネットワーク内で輻輳を検知する輻輳検知手順と、前記通過装置特定部が、前記輻輳検知手順が検知した輻輳について、前記制御対象ネットワークの論理トポロジを参照して、パスの通信量から輻輳に関する悪性フローの通過装置を特定する通過装置特定手順と、前記悪性フロー特定部が、前記通過装置特定手順が特定した前記通過装置に関するフロー計測結果をもとに、悪性フローを特定する悪性フロー特定手順と、前記通信制御部が、前記悪性フロー特定手順により特定された悪性フローの通信制御を前記通信装置に対して実行する通信制御手順と、前記トポロジ変更部が、前記通信制御手順の後に前記制御対象ネットワークの論理トポロジを変更するトポロジ変更手順と、を実行することを特徴とする。
これにより、公平に帯域を利用しているユーザまで規制してしまうことなく、悪性フローの特徴的なフロー情報から帯域制御対象を特定し、必要以上に帯域を制御してユーザのスループットを低下させずに最適な制御度合いで帯域制御を行うことができる。
本発明は、前記悪性フロー特定手順が複数の悪性フローを特定した場合、前記通信制御手順が制御する悪性フローの順序を特定する制御順序特定手順を、コンピュータがさらに実行することを特徴とする。
これにより、輻輳に影響を与えている度合いの高い悪性フローを優先的に制御することで、輻輳を回復するまでの時間が短縮化する。
本発明は、前記輻輳検知手順、前記通過装置特定手順、前記悪性フロー特定手順、前記通信制御手順、および、前記トポロジ変更手順のうち、いずれか1つの手順を実行するコンピュータが、他の手順を実行するコンピュータとは異なるコンピュータであることを特徴とする。
これにより、輻輳発生を判断するためのフロー情報が一箇所にまとまるため、広範囲の網の状況が一度に分かり、ネットワークの管理者にとって管理がしやすいという利点がある。
本発明は、前記輻輳検知手順、前記通過装置特定手順、前記悪性フロー特定手順、前記通信制御手順、および、前記トポロジ変更手順のうち、少なくとも1つの手順を実行するコンピュータが、前記通信装置であることを特徴とする。
これにより、輻輳発生を判断するためのフロー情報が分散されるため、部分的な障害に強いという利点がある。
本発明は、前記通過装置特定手順が、LSP(Label Switched Path)両端の前記通信装置のフロー通信総量の差分が所定値より大きいLSPの始点となる前記通信装置を前記通過装置と特定することを特徴とする。
これにより、多くの情報を収集統計することなく、少ない情報から簡単に輻輳、および、悪性フローの通過装置を特定することができる。
本発明は、前記通過装置特定手順が、(LSP内フロー通信総量/LSP内フロー数)の商が所定値より大きいLSPの始点となる前記通信装置を前記通過装置と特定することを特徴とする。
これにより、悪性フローを含むLSPを特定することができるため、より簡易な方法で悪性フローの通過箇所を正確に特定することができる。
本発明は、前記悪性フロー特定手順が、パラメータが閾値以上のフローを悪性フローと特定することを特徴とする。
これにより、悪性フロー特定部は、フローを計測した通信装置とのやり取りだけで悪性フローを特定できるため、悪性フローを短時間で特定することができる。
本発明は、前記悪性フロー特定手順が、パラメータが閾値以上かつ輻輳の発生した装置を通過するフローを悪性フローと特定することを特徴とする。
これにより、悪性フローの候補が輻輳の発生した通信装置を通過しているか否かを確認するため、明確に悪性フローを特定することができる。
本発明は、前記悪性フロー特定手順が、パラメータが閾値以上かつ輻輳の発生した装置のパケットと前記通過装置のパケットとを照合してアドレスが一致するフローを悪性フローと特定することを特徴とする。
これにより、悪性フローの候補が輻輳の発生した通信装置を通過しているか否かを確認するため、明確に悪性フローを特定することができる。
本発明は、前記制御順序特定手順が決定した順序に従って、輻輳が緩和されるまで、順番に悪性フローを通信制御する輻輳緩和検出手順を、コンピュータがさらに実行することを特徴とする。
これにより、フローを順番に通信制御する過程で輻輳の発生した通信装置の輻輳状態を確認することで、輻輳原因のフローを特定できると同時に、無関係なフローの通信制御を避けることができる。
本発明は、前記輻輳緩和検出手順を実行する前に、前記悪性フロー特定手順が特定した複数の悪性フローを一括して通信制御することを特徴とする。
これにより、N個のフロー全てを所定量分絞ることで、素早く輻輳を緩和することができる。
本発明は、前記通信制御が、輻輳および悪性フローの情報をもとに算出したフローレートで通信制御を行うことを特徴とする。
これにより、輻輳状態を確認しながらフローレート決めることが可能なため、必要以上に通信制御することを防ぎ、ユーザのスループットを最大限高く保持しておくことができる。
本発明は、前記輻輳および悪性フローの情報が、前記通過装置から送信するモニタリングパケットをもとに収集することを特徴とする。
これにより、輻輳を緩和するのに適したフローレートX[bps]が分かり、その結果、輻輳緩和に必要な最低限の通信制御だけを行い悪性フローの帯域を絞りすぎてしまうのを避け、ユーザのスループットを最大限高く保持しておくことができる。
本発明は、前記輻輳および悪性フローの情報が、輻輳の発生した装置のパケット損失率とすることを特徴とする。
これにより、輻輳を緩和するのに適したフローレートが分かり、その結果、輻輳緩和に必要な最低限の通信制御だけを行い悪性フローの帯域を絞りすぎてしまうのを避け、ユーザのスループットを最大限高く保持しておくことができる。
本発明は、コネクション型ネットワークであり、フローを中継する通信装置を有する制御対象ネットワークにおいて、発生した輻輳の要因となる悪性フローを制御する輻輳制御装置であって、前記制御対象ネットワーク内で輻輳を検知する輻輳検知部と、前記輻輳検知部が検知した輻輳について、前記制御対象ネットワークの論理トポロジを参照して、パスの通信量から輻輳に関する悪性フローの通過装置を特定する通過装置特定部と、前記通過装置特定部が特定した前記通過装置に関するフロー計測結果をもとに、悪性フローを特定する悪性フロー特定部と、前記悪性フロー特定部により特定された悪性フローの通信制御を前記通信装置に対して実行する通信制御部と、前記通信制御部の後に前記制御対象ネットワークの論理トポロジを変更するトポロジ変更部と、を有することを特徴とする。
これにより、公平に帯域を利用しているユーザまで規制してしまうことなく、悪性フローの特徴的なフロー情報から帯域制御対象を特定し、必要以上に帯域を制御してユーザのスループットを低下させずに最適な制御度合いで帯域制御を行うことができる。
本発明は、前記悪性フロー特定部が複数の悪性フローを特定した場合、前記通信制御部が制御する悪性フローの順序を特定する制御順序特定部を、さらに有することを特徴とする。
これにより、輻輳に影響を与えている度合いの高い悪性フローを優先的に制御することで、輻輳を回復するまでの時間が短縮化する。
本発明では、各パスにおける平均フローサイズを求めることで悪性フローが通るパスを特定し、パスの始点までさかのぼり、輻輳に関わるフローだけを的確に帯域制御することで、一部のフローに通信量が偏る事象に対して、輻輳を解消するようにトポロジを変更することができる。
以下に、本発明が適用される輻輳制御システムの一実施形態について、図面を参照して詳細に説明する。まず、本実施形態の輻輳制御システムの構成について、図1から図5を参照して説明する。
図1は、制御対象ネットワーク10を示す構成図である。制御対象ネットワーク10は、輻輳を制御する通信網であり、輻輳制御装置1、および、通信装置12(制御対象ネットワーク10の外部とは接続しないコアルータ14、制御対象ネットワーク10の外部との接続回線を有するエッジルータ16)を接続する。そして、ユーザ端末18は、通信装置12を介して通信を行う端末であり、フローを発生させる。なお、制御対象ネットワーク10は、パス上でフローを通信するコネクション型ネットワークである。輻輳の発生した通信装置12を輻輳装置とする。
エッジルータ16は、制御対象ネットワーク内の通信装置12であり、制御対象ネットワーク10の外部との接続回線を有する。悪性フローが通過するエッジルータ16を通過装置とし、通過装置は悪性フローを発生させるユーザ端末18と輻輳装置とを結ぶ経路上に位置する。エッジルータ16は、自装置を識別するタグを通過するフローに付ける。そして、エッジルータ16は、輻輳が発生したら、パケットに付されたエッジルータ16を識別するタグをカウントすることで、LSP(Label‐Switched Path)または回線単位のフロー計測を行う。
図2は、制御対象ネットワーク10で発生する輻輳を制御する輻輳制御装置1を示す構成図である。輻輳制御装置1は、演算処理を行う際に用いられる記憶手段としてのメモリと、前記演算処理を行う演算処理装置とを少なくとも備えるコンピュータとして構成される。なお、メモリは、RAM(Random Access Memory)などにより構成される。演算処理は、CPU(Central Processing Unit)によって構成される演算処理装置が、メモリ上のプログラムを実行することで、実現される。
輻輳制御装置1は、輻輳検知部20と、通過装置特定部30と、悪性フロー特定部40と、通信制御部70と、トポロジ変更部80とを有する。さらに、輻輳制御装置1は、制御順序特定部60を有していてもよい。まず、輻輳検知部20は、制御対象ネットワーク10からデータ収集して輻輳を検知するものである。次に、通過装置特定部30は、輻輳検知部20が推定した輻輳から、輻輳に関する悪性フローの通過装置を特定するものである。そして、悪性フロー特定部40は、通過装置特定部30が特定した通過装置から悪性フローを特定するものである。さらに、制御順序特定部60は、悪性フロー特定部40によって特定された悪性フローに対して通信制御の順序を決定するものである。そして、通信制御部70は、通信制御の指示に従い、悪性フローの通信制御を行うものである。さらに、トポロジ変更部80は、悪性フローの通信制御が行われた後、制御対象ネットワーク10のトポロジを変更するものである。以下、輻輳制御装置1の各構成要素を、具体的に説明する。
通過装置特定部30は、タグと網内通信装置12との対応データベースを持つ。データベースを参照して悪性フローを制御するための指示を出すべき悪性フロー特定部40に通知する。悪性フローの通過装置の候補を推定し、輻輳発生を関係のある悪性フロー特定部40に情報通知・指示を行う。
通信制御部70は、悪性フローの通信制御を行う。通信制御は、例えば、悪性フローのフローレートを下げることである。なお、通信制御部70は、通信制御が行われた旨の通知メッセージを、トポロジ変更部80に通知する。通知メッセージには、悪性フローに関する情報を含めてもよい。
トポロジ変更部80は、トラヒックエンジニアリング(非特許文献1参照)、OSPFのメトリック変更(非特許文献2参照)などにより、制御対象ネットワーク10のトポロジを変更する。トポロジの変更は、制御対象ネットワーク10に発生した輻輳を緩和することを目的とする。本実施形態では、通信制御部70が悪性フローを制御した後に、トポロジを変更することにより、従来のトポロジ変更手段が制御できなかった悪性フローが発生していても、効果的に輻輳の緩和を行うことができる。
なお、本明細書におけるトポロジとは、コネクション型網におけるパス(コネクション)のトポロジ(論理トポロジ)である。そして、トラヒックエンジニアリング、OSPFのメトリック変更などによって実現されるトポロジの変更は、例えば、以下に示すパスへの操作として実現され、トポロジを最適化する。これにより、ネットワークリソースの節約やコスト削減が期待できる。
・既に稼働しているパスの経路を現在の場所から別の場所へと移動するパスの再配置
・パスの使用帯域などを変更するパスのパラメータ変更
・既に稼働しているパスをネットワークから取り除くパスの削除
・まだ稼働していないパスを新たにネットワーク上に生成するパスの新規作成
図3は、輻輳検知部20を示す構成図である。輻輳検出情報管理部22は、輻輳検出に必要なフロー情報を制御対象ネットワーク10のコアルータ14から定期的に収集して保持する。フロー情報は、例えば、コアルータ14から定期的に収集した入力パケット情報、および、破棄パケット情報である。通過装置分析部24は、輻輳検出情報管理部22の情報を基にして通過装置を特定するアルゴリズムを備え、収集した情報を基に悪性フローの通過装置の候補を特定する。
通信装置管理部26は、通信装置12の装置ID(IDentifier)と悪性フロー特定部40との対応データベースを持ち、通過装置分析部24が分析した、悪性フローの通過装置の候補から、輻輳発生を通知すべき悪性フロー特定部40を決定する。輻輳発生通知部28は、通信装置管理部26が決定した悪性フロー特定部40に輻輳発生を通知する。制御インターフェース29は、外部と情報を送受信するための制御インターフェースである。
なお、輻輳発生通知部28は、悪性フロー特定部40の他に、経路計算手段にも、輻輳発生を通知してもよい。経路計算手段は、ルーティングプロトコルなどを動作させて、通信装置12がフローを中継する経路を示す経路表(ルーティングテーブル)を作成する。経路計算手段は、輻輳発生の通知を受けることにより、輻輳装置や輻輳が発生したネットワークを通過しないように、経路を計算する。経路計算手段は、輻輳が発生した網内にあってもよいし、別の事業者網にあってもよい。
図4は、悪性フロー特定部40を示す構成図である。トリガ制御部42は、悪性フローの通過装置の候補に関する情報の通知を通過装置特定部30から受け、フロー計測開始トリガをエッジルータヘ通知する。フロー情報管理部44は、エッジルータ16から収集したフロー毎のパケットカウント情報を保持する。悪性フロー分析部46は、フロー毎のパケットカウント情報を基にして悪性フローを特定するアルゴリズムを備え、収集したフロー情報から悪性フローを特定する。
分析アルゴリズム管理部48は、悪性フロー分析部46が悪性フローを特定する場合に使用するアルゴリズムを保持する。悪性フロー通知部50は、特定した悪性フローを制御順序特定部60、または、通信制御部70に通知する。制御指示部52は、悪性フロー制御を通信制御部70に指示する。なお、悪性フローが複数検出されたときには、その悪性フローの制御順序は、制御順序分析部64が決定した順序に従ってもよい。制御インターフェース54は、外部と情報を送受信するための制御インターフェースである。
図5は、制御順序特定部60を示す構成図である。悪性フロー情報管理部62は、悪性フロー特定部40から収集した悪性フロー情報を保持する。制御順序分析部64は、悪性フロー情報管理部62の悪性フロー情報を基にして、悪性フローを制御する順番と制御度合いを決定するアルゴリズムを備える。制御インターフェース68は、外部と情報を送受信するための制御インターフェースである。
輻輳状態確認部66は、輻輳検知部20から輻輳状態の情報を収集する。輻輳状態の情報は、悪性フローの通信制御を行うか否か、行う場合には制御度合いなどを決定するために参照される。輻輳状況を確認して引き続き通信制御が必要だと判断した場合には、悪性フロー特定部40が次の悪性フローを通信制御するよう指示する。
図6は、以上説明した輻輳制御装置1により行われる輻輳制御処理を示すフローチャートである。
まず、輻輳検知部20は、パスの端点(始点、終点)のエッジルータ16からフロー情報を定期的に収集して、輻輳が発生しているか否かを定期的にチェックする(S12)。輻輳発生をチェックする方法としては、通信装置12が持つフロー情報を収集してパケット損失率などを計算して輻輳か否かを判断するパッシブ方式、pingなどの試験パケットを網内に流し、戻ってきた時の遅延や損失から輻輳か否かを判断するアクティブ方式、などがある。
そして、輻輳検知部20は、制御対象ネットワーク10内で輻輳発生を検出すると(S14)、検出情報を通過装置特定部30に通知する。
そして、通過装置特定部30は、通知を受け、悪性フローの通過装置を特定するために、通過装置の特定情報を取得する(S16)。通過装置の特定情報は、例えば、パケットに付されたタグを装置IDごとにカウントした統計情報である。
さらに、通過装置特定部30は、取得した通過装置の特定情報をもとに、通信装置管理部26を参照して、悪性フローの通過装置の候補を特定する(S18)。なお、通信装置12の数が多いようなネットワーク構成では、悪性フロー特定部40を複数設置し、各悪性フロー特定部40に担当する通信装置12を割り当てるような分散処理の構成をとることとしてもよい。そのときには、輻輳制御装置1は通信装置12の装置IDと、担当する悪性フロー特定部40との対応をデータベースに格納する。そして、通過装置特定部30は、S18で特定した通過装置に対応する悪性フロー特定部40を、データベースから取得する。データベースからの取得は、悪性フロー特定部40と通信装置12の数が多い場合などは、最終的に悪性フローを特定するためのフロー計測を行う通過装置までさかのぼるために、数回にわたって絞り込みを行ってもよい。
そして、通過装置特定部30は、S18で特定した悪性フロー特定部40に、輻輳発生と、その輻輳の通過装置の情報を通知する。そして、悪性フロー特定部40は、通知を受け、悪性フローの通過装置であるエッジルータ16に、悪性フローを特定するためのフロー計測を開始させるトリガを出す(S20)。さらに、エッジルータ16は、トリガを受けてフロー計測を開始し、所定時間のフロー計測結果を悪性フロー特定部40に渡す(S22)。
そして、悪性フロー特定部40は、フロー計測結果を受け取り、受け取った情報から悪性フローを特定する(S24)。さらに、悪性フロー特定部40は、悪性フローを特定したら、そのフローの特徴的な情報(悪性フローのレートや持続時間、アドレスなど)を制御順序特定部60に通知して、制御する順番の決定を依頼する。
そして、図7に示すように、制御順序特定部60は、通知された悪性フローについて、制御する順番を決める(S26)。悪性フローを制御する順番は、例えば、悪性フロー特定部40から受け取ったフロー情報でサイズが大きいフロー順、辞書列順(アドレスの番号の若い順、情報が到着した時間順など)、ラウンドロビンのアルゴリズムによって算出された順、制御順序特定部60が収集した網情報から決める順、が挙げられる。
そして、悪性フロー特定部40は、制御順序特定部60が決めた順番に従って、通信制御部70に特定した悪性フローを通信制御するように指示する(S28)。そして、通信制御部70は、悪性フローの通信(帯域など)を制御する(S30)。さらに、トポロジ変更部80は、通信制御部70からの通知を受け、制御対象ネットワーク10のトポロジを変更する(S32)。
以下、悪性フローの通過装置の特定処理(S18)の方式を具体的に説明する。輻輳制御装置1は、以下の方式のいずれかの方式により、通過装置を特定する。
Figure 2006319749
まず、フローがLSP内を通過するようなコネクション型のネットワークにおいて、通過するフローが悪性フローであるか否かを判定するための特徴について説明する。LSPを流れる悪性フローの特徴として、全体のフロー数における悪性フロー数は少ないが、悪性フローの帯域占有率は大きいことが挙げられる。
キューを通過したパケットは、そのアドレス毎にあて先に向かうLSPに振り分けられる。ある所定時間のLSPを見ると、サイズが大きく悪性フローになりやすいフローを多く収容するLSP(図8(a)参照)、少数のサイズが大きいフローと数多くの通常フローとを収容するLSP(図8(b)参照)、通常サイズのフローを収容するLSP(図8(c)参照)など、様々なパターンのLSPが存在する。
方式1−Aでは、以下の特徴を活用する。パケットがキューに入りきらないなどして輻輳が起きると、パケットの優先度が全て等しい場合にはランダムにパケットが破棄される為、フローサイズが大きい程破棄されるパケット数が増える。そこで、破棄されたパケットの統計を取ればサイズが大きいフローを特定することができる。
そこで、図9に示す方式1−Aは、LSP両端の通信装置12のフローの通信総量の差分が所定値より大きいLSPから通過装置を特定する手法である。つまり、通過装置特定部30が、予め保持している網のLSPとその始終点通信装置データベースとを参考にして、該当網のLSP両端の始終点通信装置12が持つLSP流入フローの通信総量とLSP流出フローの通信総量を収集してその差分を計算することで網内で損失したフローの通信総量を求め、値が閾値以上の場合にそのLSPが経由する通信装置12で輻輳が起きたと判断し、そのLSPの始点通信装置12を通過装置と特定する。
方式1−Bでは、以下の特徴を活用する。ある所定時間でノードから出力されるパケット数には限りがある為、輻輳原因となるフローを収容したLSPは、平均フローサイズが大きい。なお、平均フローサイズは、(フローの通信総量/フロー数)の商である。
そこで、図10に示す方式1−Bは、平均フローサイズが所定値より大きいLSPから通過装置を特定する手法である。つまり、通過装置特定部30が、予め保持している網のLSPとその経路情報のデータベースを参考にして、輻輳が起きた通信装置12を通過するLSPを通るフローの通信総量とフロー数の情報とを、輻輳が起きた通信装置12またはLSP端の通信装置12から収集し、平均フローサイズが大きいLSPの始点通信装置12を通過装置と特定する。
なお、方式1−Aまたは方式1−Bで特定した通過装置において、例えば、通信装置を識別するIDをパケットに予め付与してそのIDを参照したり、カプセリングした通信装置のアドレスを参照したり、ユーザ端末のアドレスを参照するなど、他の方式を併用して最終的に通過装置を特定してもよい。また、閾値と比較する値(フローの通信総量の差分、または、平均フローサイズ)の上位X本の始点を通過装置としてもよいし、閾値以上のLSP全ての始点を通過装置としてもよい。
以下、悪性フローの特定処理(S24)の方式を具体的に説明する。輻輳制御装置1は、以下の方式のいずれかの方式により、悪性フローを特定する。
Figure 2006319749
方式2−Aは、パラメータが閾値以上のフローを悪性フローと特定する手法である。つまり、悪性フロー特定部40は、悪性フローの通過装置の候補において測定されたフロー情報の中から、予め決めたパラメータが閾値以上のフロー全て、または閾値以上のフローの上位X個を、悪性フローと特定する。
方式2−Bは、パラメータが閾値以上かつ輻輳装置を通過するフローを悪性フローと特定する手法である。つまり、悪性フロー特定部40は、悪性フローの通過装置の候補において測定したフロー情報の中から、予め決めたパラメータが閾値以上のフロー全て、または閾値以上のフローの上位X個を選択し、該当フローの経路情報を、ルーティングデータベースを持つ経路計算部が持つ経路情報を参照して、該当フローが輻輳装置を通過しているかを確認して、その結果から、予め決めたパラメータが閾値以上でかつ輻輳装置を通過しているフローを、悪性フローと特定する。
方式2−Cは、パラメータが閾値以上かつパケットのアドレスが一致するフローを悪性フローと特定する手法である。つまり、悪性フロー特定部40は、輻輳発生の前後に輻輳装置のキューに溜まっていたパケットの情報を保持する手段からそのパケット情報を受け取り、その情報と、悪性フローの通過装置の候補から収集したフロー情報の中で予め決めたパラメータが閾値データベースに保持している閾値よりも大きいフロー全て、または上位X個のフローの情報とを照合する。
そして、方式2−Cでは、輻輳装置のパケット情報に含まれるパケットのアドレスと、通過装置の候補が計測したフロー情報に含まれるパケットのアドレスが一致した場合、悪性フローの候補が輻輳装置を通過していると判断し、予め決めたパラメータが閾値データベースに保持している閾値よりも大きく、かつ輻輳装置を通過しているフローを、悪性フローと特定する。
なお、方式2−A〜方式2−Cにおいて、パラメータの例としては、あるX分間の間に到着するパケット数をサンプリング率fでカウントした値がある。ある所定時間の間にエッジルータ16に到着するパケット数が多いフローは、帯域占有率が大きいと確率論的に推定して、パケットカウント値が閾値以上のフローを悪性フローと特定する。パラメータの他の例としては、バーストサイズや持続時間などがある。
以下、悪性フローの制御処理(S30)の方式を具体的に説明する。輻輳制御装置1は、以下の方式のいずれかの方式により、悪性フローを制御する。
Figure 2006319749
方式3−Aは、通信制御部70がN個の悪性フローを順番に制御する手法である。つまり、特定したN個の悪性フローを通信制御する場合に、制御順序特定部60が、N個の悪性フローの情報を悪性フロー特定部40から受け取り、通信制御する順番を決めて、その順番に従って悪性フロー特定部40に指示を出し、悪性フロー特定部40が対象の通信制御部70に指示を出し、通信制御部70が通信制御を行う。制御順序特定部60はその間に輻輳検知部20から輻輳状況に関する情報を受け取り、輻輳が緩和されるまで順番に通信制御を指示する。輻輳が緩和されなければ次の順番の通信制御部70に対応する悪性フロー特定部40に指示を出す。
方式3−Bは、通信制御部70がN個の悪性フローを一括して制御した後、順番に制御する手法である。つまり、特定したN個の悪性フローを通信制御する場合に、制御順序特定部60が、N個の悪性フローを通信制御する順番を決めて、始めにN個のフロー全てを所定量通信制御して、その後に方式3−Aによって悪性フロー特定部40に指示を出す。
方式3−Cは、通信制御部70が輻輳緩和されるまで、フローレートの算出とそのフローレートでの制御を繰り返す手法である。つまり、特定したN個の悪性フローを通信制御する場合に、制御順序特定部60は、輻輳検知部20が確認する輻輳状態の情報を制御順序特定部60が参照して、その情報と、悪性フロー特定部40から受け取る悪性フロー情報とをパラメータとして、フローレート計算アルゴリズムを用いて各悪性フローの制御後のフローレートを決定し、そのフローレートで通信制御するように悪性フロー特定部40に指示を出し、そこからさらに悪性フロー特定部40は通信制御部70に指示を出す。
具体的には、通信制御部70が通信制御を行う間に、輻輳状態確認部66が輻輳装置から取得した最新の輻輳状態を確認しながら、輻輳状態が解消するまで、順番に通信制御の指示を通信制御部70に出す。なお、フローレート計算アルゴリズムは、例えば、以下の数式1である。数式1の変数について、Rがフローレート[bps]、Dが受信したデータ量[bit]、Tがカウント時間[秒]である。
R=D/T…(数式1)
方式3−Dは、通信制御部70がモニタリングパケットで輻輳状態を監視し、輻輳状態に適したフローレートで制御する手法である。つまり、特定したN個の悪性フローを通信制御する場合に、悪性フローの通過装置からpingなどのモニタリングパケットを飛ばして、悪性フロー特定部40が網の輻輳状態を監視しながら輻輳緩和に適したフローレートを前記フローレート計算アルゴリズムを用いて計算して、悪性フローを通信制御する。
方式3−Eは、通信制御部70がパケット損失率から算出したフローレートで制御する手法である。つまり、特定したN個の悪性フローを通信制御する場合に、輻輳検知部20が定期的に測定する輻輳装置のパケット損失率の情報を制御順序特定部60が参照し、そこから前記フローレート計算アルゴリズムを用いて制御すべきフローレートX[bps]を算出することで、適切なフローレートで悪性フローを通信制御する。
なお、方式3−A〜方式3−Eにおいて、複数の通信制御が並列に行われてもよいし、制御順序特定部60が決めた順番に従って行われてもよい。
以上説明した本発明は、以下のようにその趣旨を逸脱しない範囲で広く変形実施することができる。
例えば、フロー計測(S22)は、トリガの発行(S20)を契機に行うこととしたが、トリガの有無に関わらず、バックグラウンド処理として、事前にフロー計測を行っていてもよい。これにより、フロー計測に関するレスポンスが早くなり、輻輳制御によるネットワークの復旧にかかる時間を短縮できる。
また、悪性フローを制御するための順序決定処理(S26)は、省略してもよい。省略することが必要な一例として、悪性フローが1つしか見つからない場合、悪性フローを1つずつ順に制御するだけの復旧時間もとれないほどの緊急の復旧を要する場合が挙げられる。そして、順序決定を省略したときには、複数の悪性フローに対して一斉に通信制御する(S30)。これにより、輻輳制御によるネットワークの復旧にかかる時間を短縮できる。
さらに、図2の輻輳制御装置1は、各構成要素を1台の筐体に収容することとしたが、この構成はあくまで一例にすぎず、輻輳制御装置1を構成する筐体の台数を複数として構成し、各構成要素を分散して配置してもよい。そして、輻輳制御装置1の各構成要素は、同じネットワーク内にあっても、異なるネットワークにあってもいい。ネットワークが異なる場合、それらのネットワークは同一の事業者でも異なる事業者でもいい。異なる事業者のネットワークに各機能がある場合、その間にアドレス変換機能を持つエージェントがある。これにより、複数の輻輳制御装置1のCPUがそれぞれ演算を行うので、負荷分散を実現することができる。
また、輻輳制御装置1の各構成要素と、別の機能を有する装置とを同じ筐体に収容してもよい。例えば、通信制御部70を通信装置12に内蔵し、通信制御処理(S30)のメッセージパッシングを、筐体外のネットワーク回線ではなく筐体内の内部バス上で実現したり、通信制御部70に加えて制御順序特定部60も、通信装置12に内蔵するようにしてもよい。同様に、悪性フロー特定部40をエッジルータ16に内蔵し、フロー計測(S20、S22)のメッセージパッシングを、筐体外のネットワーク回線ではなく筐体内の内部バス上で実現する。これにより、内部バスの高速通信およびネットワーク回線の負荷回避を実現できる。
なお、本明細書では、輻輳制御装置1が、コアルータで14もなくエッジルータ16でもない、第三の装置として、ネットワーク上に存在する図1のような構成を集中型と呼び、輻輳制御装置の少なくとも1つの構成要素が、通信装置(コアルータ14またはエッジルータ16)に内蔵されている構成を分散型と呼ぶことにする。
さらに、輻輳制御装置1の各構成要素は、CPUが各構成要素の専用装置に記憶されたプログラムを実行することで実現されるようになっていてもよいし、通信装置12の機能ブロックに記憶されたプログラムを実行することで実現されるようになっていてもよい。
また、輻輳制御装置1の各構成要素は、プロセスを複数起動するなどして、複数存在することとしてもよい。複数の構成要素それぞれに、担当する通信装置12を割り当てる。これにより、通信装置12が多いときでも、複数の構成要素間でのデータ並列処理が実現でき、輻輳を抑制するのに要する時間を短縮化できるとともに、処理相手として通信を行う通信装置数が減るため、装置数に対するスケーラビリティが上がり、管理がしやすい、という利点がある。
ここで、輻輳制御装置1の各構成要素と、担当する通信装置12との対応情報は、動的に作成してもよいし、静的に作成することとしてもよい。動的に作成する一例としては、同一機能を有する複数の構成要素のうち、他の構成要素よりも現在の計算負荷が小さい構成要素に、優先的に通信装置12を割り当てる方式が挙げられる。一方、静的に作成する一例としては、管理者があらかじめ作成しておいた構成要素と通信装置12との対応情報を格納するデータベースを参照する方式が挙げられる。
さらに、制御対象ネットワーク10の形式(回線種別や通信プロトコルなど)は、特定のものに限定されることはない。例えば、制御対象ネットワーク10は、TDM(Time Division Multiplexing)やWDM(Wavelength Division Multiplexing)などの回線交換ネットワーク、またはIP(Internet Protocol)やイーサネット(登録商標)、IPのパケットにラベルをつけて転送するMPLSのネットワークとしてもよい。各通信装置同士はそのノードが存在するネットワークレイヤよりも相対的に下位に位置する下位レイヤのパスを設定することで提供される論理パスで接続される。この通信装置12は、例えば、MPLS網のMPLSルータでも、パケット網のルータでもよい。
本発明の一実施形態に関する制御対象ネットワークを示す構成図である。 本発明の一実施形態に関する輻輳制御装置を示す構成図である。 本発明の一実施形態に関する輻輳検知部を示す構成図である。 本発明の一実施形態に関する悪性フロー特定部を示す構成図である。 本発明の一実施形態に関する制御順序特定部を示す構成図である。 本発明の一実施形態に関する輻輳制御処理を示すフローチャートである。 本発明の一実施形態に関する輻輳に対して順番に行う通信制御処理を示す説明図である。 本発明の一実施形態に関するLSPが収容するフローを示す説明図である。 本発明の一実施形態に関するLSP両端におけるフローの通信総量の差分の算出を示す説明図である。 本発明の一実施形態に関するLSP内のフローの評価を示す説明図である。 本発明の一実施形態に関するトラヒックエンジニアリングを示す説明図である。
符号の説明
1 輻輳制御装置
10 制御対象ネットワーク
12 通信装置
20 輻輳検知部
30 通過装置特定部
40 悪性フロー特定部
60 制御順序特定部
70 通信制御部
80 トポロジ変更部

Claims (16)

  1. コネクション型ネットワークであり、フローを中継する通信装置を有する制御対象ネットワークにおいて、発生した輻輳の要因となる悪性フローを制御する輻輳制御方法であって、
    コンピュータが、輻輳検知部と、通過装置特定部と、悪性フロー特定部と、通信制御部と、トポロジ変更部とを有し、
    前記輻輳検知部が、前記制御対象ネットワーク内で輻輳を検知する輻輳検知手順と、
    前記通過装置特定部が、前記輻輳検知手順が検知した輻輳について、前記制御対象ネットワークの論理トポロジを参照して、パスの通信量から輻輳に関する悪性フローの通過装置を特定する通過装置特定手順と、
    前記悪性フロー特定部が、前記通過装置特定手順が特定した前記通過装置に関するフロー計測結果をもとに、悪性フローを特定する悪性フロー特定手順と、
    前記通信制御部が、前記悪性フロー特定手順により特定された悪性フローの通信制御を前記通信装置に対して実行する通信制御手順と、
    前記トポロジ変更部が、前記通信制御手順の後に前記制御対象ネットワークの論理トポロジを変更するトポロジ変更手順と、
    を実行することを特徴とする輻輳制御方法。
  2. 前記悪性フロー特定手順が複数の悪性フローを特定した場合、前記通信制御手順が制御する悪性フローの順序を特定する制御順序特定手順を、コンピュータがさらに実行することを特徴とする請求項1に記載の輻輳制御方法。
  3. 前記輻輳検知手順、前記通過装置特定手順、前記悪性フロー特定手順、前記通信制御手順、および、前記トポロジ変更手順のうち、いずれか1つの手順を実行するコンピュータが、他の手順を実行するコンピュータとは異なるコンピュータであることを特徴とする請求項1または請求項2に記載の輻輳制御方法。
  4. 前記輻輳検知手順、前記通過装置特定手順、前記悪性フロー特定手順、前記通信制御手順、および、前記トポロジ変更手順のうち、少なくとも1つの手順を実行するコンピュータが、前記通信装置であることを特徴とする請求項1または請求項2に記載の輻輳制御方法。
  5. 前記通過装置特定手順は、LSP(Label Switched Path)両端の前記通信装置のフロー通信総量の差分が所定値より大きいLSPの始点となる前記通信装置を前記通過装置と特定することを特徴とする請求項1ないし請求項4のいずれか1項に記載の輻輳制御方法。
  6. 前記通過装置特定手順は、(LSP内フロー通信総量/LSP内フロー数)の商が所定値より大きいLSPの始点となる前記通信装置を前記通過装置と特定することを特徴とする請求項1ないし請求項4のいずれか1項に記載の輻輳制御方法。
  7. 前記悪性フロー特定手順は、パラメータが閾値以上のフローを悪性フローと特定することを特徴とする請求項1ないし請求項4のいずれか1項に記載の輻輳制御方法。
  8. 前記悪性フロー特定手順は、パラメータが閾値以上かつ輻輳の発生した装置を通過するフローを悪性フローと特定することを特徴とする請求項1ないし請求項4のいずれか1項に記載の輻輳制御方法。
  9. 前記悪性フロー特定手順は、パラメータが閾値以上かつ輻輳の発生した装置のパケットと前記通過装置のパケットとを照合してアドレスが一致するフローを悪性フローと特定することを特徴とする請求項1ないし請求項4のいずれか1項に記載の輻輳制御方法。
  10. 前記制御順序特定手順が決定した順序に従って、輻輳が緩和されるまで、順番に悪性フローを通信制御する輻輳緩和検出手順を、コンピュータがさらに実行することを特徴とする請求項2ないし請求項4のいずれか1項に記載の輻輳制御方法。
  11. 前記輻輳緩和検出手順を実行する前に、前記悪性フロー特定手順が特定した複数の悪性フローを一括して通信制御することを特徴とする請求項10に記載の輻輳制御方法。
  12. 前記通信制御は、輻輳および悪性フローの情報をもとに算出したフローレートで通信制御を行うことを特徴とする請求項10または請求項11に記載の輻輳制御方法。
  13. 前記輻輳および悪性フローの情報は、前記通過装置から送信するモニタリングパケットをもとに収集することを特徴とする請求項12に記載の輻輳制御方法。
  14. 前記輻輳および悪性フローの情報は、輻輳の発生した装置のパケット損失率とすることを特徴とする請求項12に記載の輻輳制御方法。
  15. コネクション型ネットワークであり、フローを中継する通信装置を有する制御対象ネットワークにおいて、発生した輻輳の要因となる悪性フローを制御する輻輳制御装置であって、
    前記制御対象ネットワーク内で輻輳を検知する輻輳検知部と、
    前記輻輳検知部が検知した輻輳について、前記制御対象ネットワークの論理トポロジを参照して、パスの通信量から輻輳に関する悪性フローの通過装置を特定する通過装置特定部と、
    前記通過装置特定部が特定した前記通過装置に関するフロー計測結果をもとに、悪性フローを特定する悪性フロー特定部と、
    前記悪性フロー特定部により特定された悪性フローの通信制御を前記通信装置に対して実行する通信制御部と、
    前記通信制御部の後に前記制御対象ネットワークの論理トポロジを変更するトポロジ変更部と、
    を有することを特徴とする輻輳制御装置。
  16. 前記悪性フロー特定部が複数の悪性フローを特定した場合、前記通信制御部が制御する悪性フローの順序を特定する制御順序特定部を、さらに有することを特徴とする請求項15に記載の輻輳制御装置。
JP2005141181A 2005-05-13 2005-05-13 輻輳制御方法および輻輳制御装置 Expired - Fee Related JP4222567B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005141181A JP4222567B2 (ja) 2005-05-13 2005-05-13 輻輳制御方法および輻輳制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005141181A JP4222567B2 (ja) 2005-05-13 2005-05-13 輻輳制御方法および輻輳制御装置

Publications (2)

Publication Number Publication Date
JP2006319749A true JP2006319749A (ja) 2006-11-24
JP4222567B2 JP4222567B2 (ja) 2009-02-12

Family

ID=37539994

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005141181A Expired - Fee Related JP4222567B2 (ja) 2005-05-13 2005-05-13 輻輳制御方法および輻輳制御装置

Country Status (1)

Country Link
JP (1) JP4222567B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008199429A (ja) * 2007-02-15 2008-08-28 Nippon Telegr & Teleph Corp <Ntt> 通信網における帯域管理方法、帯域管理装置、およびそのためのプログラム
WO2014061529A1 (ja) * 2012-10-15 2014-04-24 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
JP2015501119A (ja) * 2012-01-11 2015-01-08 エヌイーシー ラボラトリーズ アメリカ インクNEC Laboratories America, Inc. ネットワーク自己保護
CN114745750A (zh) * 2022-03-29 2022-07-12 国网河南省电力公司 网络切片下拥塞链路检测方法、装置和电子设备

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008199429A (ja) * 2007-02-15 2008-08-28 Nippon Telegr & Teleph Corp <Ntt> 通信網における帯域管理方法、帯域管理装置、およびそのためのプログラム
JP4586183B2 (ja) * 2007-02-15 2010-11-24 日本電信電話株式会社 通信網における帯域管理方法、帯域管理装置、およびそのためのプログラム
JP2015501119A (ja) * 2012-01-11 2015-01-08 エヌイーシー ラボラトリーズ アメリカ インクNEC Laboratories America, Inc. ネットワーク自己保護
WO2014061529A1 (ja) * 2012-10-15 2014-04-24 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
CN104756448A (zh) * 2012-10-15 2015-07-01 三菱电机株式会社 信息处理装置、信息处理方法和程序
JPWO2014061529A1 (ja) * 2012-10-15 2016-09-05 三菱電機株式会社 情報処理装置及び情報処理方法及びプログラム
CN114745750A (zh) * 2022-03-29 2022-07-12 国网河南省电力公司 网络切片下拥塞链路检测方法、装置和电子设备

Also Published As

Publication number Publication date
JP4222567B2 (ja) 2009-02-12

Similar Documents

Publication Publication Date Title
US10819605B2 (en) Method, apparatus, and system for implementing delay measurement
CN113315682B (zh) 生成信息传输性能警告的方法、系统和装置
US8427958B2 (en) Dynamic latency-based rerouting
EP3146682B1 (en) Method and system for managing flows in a network
WO2020086160A1 (en) Scalable distributed end-to-end performance delay measurement for segment routing policies
US20070064611A1 (en) Method for monitoring packet loss ratio
US20170195203A1 (en) Method, apparatus, and system for implementing packet loss detection
US11843615B2 (en) Attack response point selecting apparatus and attack response point selecting method
CN110557342B (zh) 用于分析和减轻丢弃的分组的设备
WO2021093465A1 (zh) 发送报文、接收报文以进行oam的方法、装置及系统
KR20140088206A (ko) 네트워크 측정 트리거들을 사용하는 서비스 보장
JP4222567B2 (ja) 輻輳制御方法および輻輳制御装置
Shirali-Shahreza et al. Empowering software defined network controller with packet-level information
JP4532253B2 (ja) フレーム転送装置及びフレームのループ抑止方法
JP6407092B2 (ja) 負荷分散装置、負荷分散方法及びプログラム
JP2000278264A (ja) データネットワーク監視方法
JP4313779B2 (ja) 輻輳制御方法、輻輳制御プログラム、および、輻輳制御装置
JP4222565B2 (ja) 輻輳制御方法、輻輳制御装置、タグ付け装置、および、廃棄装置
JP2008211690A (ja) ネットワーク制御方法
JP4871775B2 (ja) 統計情報収集装置
Senthilkumaran et al. Memory and load-aware traffic rerouting (mltr) in openflow-based sdn
JP2006174156A (ja) ネットワーク輻輳規模判定方法及びシステム
Zainiar et al. Robustness metrics for optical networks
JP4222566B2 (ja) 輻輳制御方法、輻輳制御プログラム、および、輻輳制御システム
JP2005039362A (ja) パケット通信システムの経路制御方法及び経路制御システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20081114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081114

R150 Certificate of patent or registration of utility model

Ref document number: 4222567

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111128

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121128

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131128

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees