JP2012129759A - パケット中継装置 - Google Patents

パケット中継装置 Download PDF

Info

Publication number
JP2012129759A
JP2012129759A JP2010278748A JP2010278748A JP2012129759A JP 2012129759 A JP2012129759 A JP 2012129759A JP 2010278748 A JP2010278748 A JP 2010278748A JP 2010278748 A JP2010278748 A JP 2010278748A JP 2012129759 A JP2012129759 A JP 2012129759A
Authority
JP
Japan
Prior art keywords
line
packet
devices
ports
packet relay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010278748A
Other languages
English (en)
Other versions
JP5211146B2 (ja
Inventor
Hideki Hinosugi
英樹 日野杉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alaxala Networks Corp
Original Assignee
Alaxala Networks Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alaxala Networks Corp filed Critical Alaxala Networks Corp
Priority to JP2010278748A priority Critical patent/JP5211146B2/ja
Priority to US13/312,162 priority patent/US8929205B2/en
Priority to EP20110193182 priority patent/EP2466827A1/en
Publication of JP2012129759A publication Critical patent/JP2012129759A/ja
Application granted granted Critical
Publication of JP5211146B2 publication Critical patent/JP5211146B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/55Prevention, detection or correction of errors
    • H04L49/557Error correction, e.g. fault recovery or fault tolerance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/70Virtual switches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/24Multipath
    • H04L45/245Link aggregation, e.g. trunking

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

【課題】
複数の装置を連携させて仮想的に一台に見立てることができるパケット中継装置において、パケット中継装置間を接続する制御ポートの帯域不足が発生する場合、帯域不足によってネットワークシステム上のボトルネックになり、パケット廃棄が多く発生する恐れがある。
【解決手段】
複数の装置を連携させて仮想的に1台に見立てることができるパケット中継装置において、リンク最適化調整やパケット解析部を具備することによって、通信の流れ方や通信量などを自動的で判断し、主に稼動させる回線を最適化することによって、制御ポートに流れるトラフィックを管理して、制御ポートの帯域不足を補う。
【選択図】 図7

Description

複数のパケット中継エンジンを具備するパケット中継装置、または、システムに関する通信処理技術に関する。
ルータやスイッチといったパケット中継装置が用いられるネットワークは、図1のような階層型ネットワークで構築されるが多い。階層型ネットワークは、すべてのパケット中継装置間を通信ケーブルで接続するフルメッシュ型の構成に比べて、通信ケーブル数の削減により、少ないパケット中継装置の数で大規模なネットワークを構築できる利点がある一方、上流のパケット中継装置で障害が発生すると波及範囲が大きいという問題がある。
したがって、階層型ネットワークの上流の階層に配置されるパケット中継装置には高い可用性が求められる。可用性は、システム障害の発生する確率とシステム障害発生時の普及時間の短さから計算され、可用性を高めるためにシステム障害発生率の低減に加え、障害が発生した時に速やかにシステムを復旧させる事が重要となる。
可用性を高める手法は、特許文献1、特許文献2、非特許文献1の特徴を備えたパケット中継装置が知られている。特許文献1に開示されるパケット中継装置は、全てのモジュールを冗長化、あるモジュールで故障が発生しても予備モジュールを起動することで継続稼動できる特徴を有する。特許文献2に開示されるパケット中継装置は、装置単体ではモジュールが冗長化されていないが、複数の装置を仮想的に一台に見せることによって冗長化を行い、パケット中継装置で障害が発生しても、仮想的にグループ化された他のパケット中継装置にて継続稼動できる特徴(以降、装置間スタック技術と呼ぶ)を有する。
非特許文献1に開示されるリンクアグリゲーションは、装置間の接続する通信ケーブルを複数接続して、複数のケーブルを論理的に1本にまとめて使用することができる手段を提供することで伝送路の冗長性を確保する特徴を有する。なお、非特許文献1のリンクアグリゲーションは、特許文献1や特許文献2に開示されるパケット中継装置上と併用することで可用性が高めることができる。
図1に代表的な階層型ネットワークの例を示す。図1では、3つの階層構造のうち、単一の装置内で冗長化可能なパケット中継装置101が最上位のコア層に配備され、当該装置は特許文献1に開示されるパケット中継装置の特徴を有し、複数の装置を仮想的に一台の装置に見立てて頂上化可能なパケット中継装置102が中間のディストリビューション層に配備され、特許文献2に開示されるパケット中継装置の特徴を有する。
装置の冗長化機能を有しないパケット中継装置103は最下位のアクセス層に配備され、特許文献1や特許文献2に記載されるような高可用性の技術を具備していない。一般的に、特許文献1に記述されるようなパケット中継装置101は高可用である一方で、機器コストが高いために波及範囲の大きな階層に設置されることが多い。なお、各パケット中継装置間を接続する通信ケーブルは、非特許文献1のリンクアグリゲーション104によって伝送路が冗長化されている。
特許文献1によって開示されるパケット中継装置は、装置単体でモジュールが冗長化され、障害発生時にバックアップモジュールに高速な切り替えを行うため、図2のようなクロスコネクション構造を採用されている。
図2のパケット中継装置200は、装置内にコントロール部201、フォワーディング部202、回線部203を具備し、それぞれが冗長化されている。フォワーディング部202の内部には、パケットの宛先を決定するパケット中継エンジン204が存在し、パケット中継エンジン204はパケットをどこに配送するかの情報が格納される宛先テーブル205が具備されている。パケット中継エンジン204は、パケットを受信すると宛先テーブル205を参照して、パケットをどの回線部203から出力するかを決定する。
パケット中継装置200のコントロール部201、フォワーディング部202、回線部203は、隣接する部位に対して、複数のブロックと交差して繋がるクロスコネクション構造をとっている。このため、例えば、運用に用いていたフォワーディング部202Aに障害が発生した場合、回線部203Aとフォワーディング部202Bを接続する経路を選択する単純な切り替え処理によってフォワーディング部202Bによって継続運用が可能になる。
このように切り替えが行われる際、パケット中継エンジン204内の宛先テーブル205に関して、パケット中継装置内でリアルタイムに同期(同じ状態にしておくこと)を取ることによって、運用系に障害が発生して、バックアップのフォワーディング部202Bが使用されることがあっても、宛先テーブル205の再学習を実施することなく、通信が行うことができるようになるために通信断が発生する時間を小さくすることができる。
このように特許文献1によって開示されるパケット中継装置は、クロスコネクション構造の採用と宛先テーブル205の同期化によって、障害発生時の復旧時間を短縮、結果として、可用性が優れる一方で、ハードウェア構造の複雑化によって部品点数/消費電力/コスト/設置スペースの増加を招く問題がある。特許文献1に開示されるパケット中継装置においても例外なく、上記問題が存在する。
特許文献2によって開示されるパケット中継装置は、複数のパケット中継装置を仮想的に一台に見せて冗長化を図る装置間スタック技術を有する。特許文献2では図3のような構成が開示されている。図3に示すパケット中継装置300は、装置内にコントロール部301、フォワーディング部302、回線部303が1つずつ具備されており、図2に示したパケット中継装置200との違いは、各部が装置内単体で冗長化いないが、装置間スタックを使って複数の装置を仮想的に一台のパケット中継装置として見立てている点である。
なお、装置間スタックを実現するには、各種デバイスの設定やパケット中継エンジン304内の宛先テーブル305の同期化など、装置間スタックを構成するパケット中継装置の同士で同期を取る為のスタックポート306が必要になる。スタックポート306には、各種デバイスの設定やパケット中継装置間の同期化に使用する制御情報のやり取りの他、パケット中継装置300を跨って通信が必要な場合の伝送路にもなる。
そして、スタックポート306の回線帯域が流入するトラフィック量に比べて小さい場合にはスタックポート306が輻輳し、パケット廃棄(ブロッキング)が発生する。このようなブロッキングを回避するためには、スタックポート306の回線帯域を多く確保する必要があり、図4の(a)のように24本の回線を具備するパケット中継装置300で装置間スタックを構成して、スタックポート306として12本を割り当てた場合、スタックポート306のブロッキングを回避できるが、外部の通信機器と接続することができるインタフェースは、1台のパケット中継装置あたり12本にしかならない。図4の(b)のようにスタックポートを4本のみ割当てる場合、外部の通信機器と接続することができるインタフェースは、1台のパケット中継装置あたり20本の割当てが可能になるが、前述のブロッキングの問題が発生する可能性がある。
以上のように、スタックポートでのブロッキングを回避するためにはスタックポートに多くの回線帯域を割り当てておく必要がある。一方で、スタックポートに多くの回線帯域を割当てることによって、効率的なネットワークシステムの構成が阻害されてしまい、ネットワークの構築コストが高くなる問題が生ずる。
本発明が解決しようとする課題は、複数のパケット中継装置を接続して仮想的に1台の装置として振る舞いを行うことができるネットワークシステムを効率的(部品点数/消費電力/コスト/設置スペースの削減を含む)に構成するための技術を提供することである。
上記した課題の少なくとも一部を解決するため本願では複数台が仮想的に1台として機能する装置であって、第1の装置と第2の装置を仮想的に1台とした場合、前記第1および第2の装置を両装置が有するポートの一部により接続し、前記第1および第2の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、前記論理回線内には転送用の物理回線と予備の物理回線が存在し、一部の前記論理回線内の転送用の物理回線の障害により前記第1および第2の装置間のトラフィックが所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置を提供する。
本発明を用いることにより、効率的なネットワークシステムを低コストで実現することが可能となる。
階層型ネットワークの構成例を示す図の一例 クロスコネクション構造を採用したパケット中継装置の構成例を示す図の一例 装置間スタック技術を用いたパケット中継装置の構成例を示す図の一例 装置間スタック技術を用いた際のスタックポート本数の影響を示す図の一例 一般的な装置間スタック技術を用いた通常運用時、及び、障害発生時の通信経路の例を示す図の一例 ネットワーク中継装置を用いた通常運用時、及び、障害発生時の通信経路の例を示す図の一例 ネットワーク中継装置を示す図の一例 ネットワーク中継装置を示す図の一例 本発明に係るスタック型ネットワークの構成例を示す図の一例 LAG設定テーブルの一例 通信可否マトリックステーブルの一例 集計テーブルの一例 パケット中継装置においてパケット受信からパケット送信に至るまでの全体の処理の流れを示すフローチャートを示す図の一例 リンク最適化制御の判定処理の流れを示すフローチャートを示す図の一例 回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施する前の状態を示すスタック型ネットワークの構成例を示す図の一例 LAG設定テーブルの一例 通信可否マトリックステーブルの一例 回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施した後の状態を示すスタック型ネットワークの構成例を示す図の一例 LAG設定テーブルの一例 通信可否マトリックステーブルの一例 集計テーブルの一例
最初に装置間スタックを用いた場合の簡単なネットワーク構成を例に挙げて、通常運用時、障害時の処理概要を説明する。
図5に装置間スタックを用いたパケット中継装置のネットワークシステムの構成例を示す。装置間スタックを用いたネットワークシステムは、一方のパケット中継装置300Aもしくは300Bが故障しても伝送経路を確保できるようにするため、隣接するパケット中継装置と接続する通信ケーブルを異なるパケット中継装置300A、300Bとそれぞれに接続される回線どうしでリンクアグリゲーションのグループを組むことによって可用性を高める効果がある。
なお、図5(a)に示される通常運用時の場合、リンクアグリゲーションのグループに属する回線のうち、パケット中継装置300Aに接続される回線をアクティブポートに指定して、パケット中継装置300Bに接続される回線をバックアップポートに指定することによって、スタックポート306を経由して転送するデータ通信が発生しなくなる。このように通常運用時においては、運用者のコンフィグレーション(設定)によって、スタックポート306を経由する通信量を低減することが可能である。
また、図5(b)に示されるアクティブポートの回線障害が発生した場合、回線障害が発生したリンクアグリゲーションのグループのパケット中継装置300Aに接続されるアクティブポートの縮退処理の結果として、パケット中継装置300Bに接続される回線をバックアップポートからアクティブポートに遷移させる処理が行われる。リンクアグリゲーションではこのように回線障害が発生した場合、バックアップポートをアクティブポートに遷移させることによって通信の継続性を担保することが出来る。
その一方、図5(b)に示される様な装置間スタックを用いたパケット中継装置のネットワークシステムの構成例では、回線障害によってスタックポート306を経由してデータ通信が行われるようになる。回線障害が発生した場合、通信の継続性が担保される一方、スタックポート306の回線帯域が十分に確保されていないと、帯域不足によってネットワークシステム上のボトルネックになり、パケット廃棄が発生する恐れがある。
図6に本発明に係る装置間スタックを用いたパケット中継装置のネットワークシステムの構成例を示す。本発明に係る装置間スタックを用いたネットワークシステムは、一方のパケット中継装置300Aもしくは300Bが故障しても伝送経路を確保できるようにするため、隣接するパケット中継装置と接続する通信ケーブルを異なるパケット中継装置300A、300Bとそれぞれに接続される回線どうしでリンクアグリゲーションのグループを組むことによって可用性を高める効果がある。
なお、図6(a)に示される通常運用時の場合、リンクアグリゲーションのグループに属する回線のうち、パケット中継装置300Aに接続される回線をアクティブポートに指定して、パケット中継装置300Bに接続される回線をバックアップポートに指定することによって、スタックポート306を経由して転送するデータ通信が発生しなくなる。
次に、図6(b)を用いて障害発生時の動作について説明する。回線障害が発生したリンクアグリゲーションのグループのパケット中継装置300Aに接続されるアクティブポートの縮退処理の結果として、パケット中継装置300Bに接続される回線をバックアップポートからアクティブポートに遷移させる処理が行われることは従来技術と同様であるが、リンクアグリゲーションで回線障害が発生していないグループに関してもアクティブポート・バックアップポートの状態遷移処理を実施することによって、回線障害発生時にスタックポート306にデータ通信が流れることを極力排除することを可能とする。
図6(b)の例では、パケット中継装置103とパケット中継装置300Aの間で回線障害が発生しているため、従来技術同様に通常時にバックアップポートであったパケット中継装置103とパケット中継装置300Aの間の回線用のポートをアクティブポートに変更する。
このままでは、パケット中継装置101とパケット中継装置103との通信はスタックポート306を経由してしまう。そこで、本来障害の発生していないパケット中継装置101とパケット中継装置300Aの間の回線用のポートをバックアップポートにし、パケット中継装置101とパケット中継装置300Bの間の回線用をアクティブにしている。こうすることによって、パケット中継装置101とパケット中継装置103との通信は全てスタックポート306を経由することなくパケット中継装置300Bを通過することとなる。
また、本発明に係るパケット中継装置のネットワークシステムでは、スタックポート306に流れているデータパターン及び通信量を監視して、リンクアグリゲーションのアクティブポート・バックアップポートの選定を動的に選定することによってスタックポート306にデータ通信が流れることを極力排除することを可能とする。
これらの本発明技術(論理的にグループを組んでいるリンクアグリゲーション内の状態だけではなく、様々な条件を加味した上でアクティブポートを選定するメカニズム)を適用することによって、複数のパケット中継装置を接続して仮想的に1台の装置として振る舞いを行うことができるネットワークシステムを効率的(部品点数/消費電力/コスト/設置スペースの削減を含む)に構成する技術を提供することが可能となる。
図7に本実施例に係るパケット中継装置の構成を示す。パケット中継装置700は、コントロール部701と、フォワーディング部702と、回線部703と、パケット解析部708から成る。フォワーディング部702の内にはパケット中継エンジン704が具備され、パケット中継エンジン704の内には宛先テーブル705が具備される。コントロール部701の内にはリンク最適化調整部707が具備される。パケット解析部708の内には集計テーブル709、LAG設定テーブル710、通信可否マトリックステーブル711が具備される。また、回線部703に属する1本以上の物理回線をスタックポート706に定義し、装置間スタック技術を実現するための制御フレームやパケット中継装置間を跨って通信する必要があるデータトラフィックの通信経路として使用する。なお、装置間スタックを構成するために使用するスタックポート706はリンクアグリゲーションによる論理的に複数の回線を一本に見せる技術などによって帯域幅の増速が可能である。
次に、図7の各ブロックの詳細な説明をする。コントロール部701は、運用者のコンフィグレーション(設定)を受け付け、その設定情報に基づいて、フォワーディング部702、回線部703、パケット解析部708の設定及び情報のやり取りを行う装置全体の管理を行うマネジメント部であり、図9に示す装置間スタックを構成する装置、回線ごとにリンクアグリゲーションのどのグループに属するかを示すLAG Group IDの情報を持つ。
また、コントロール部701はリンク最適化調整部707を具備している。リンク最適化調整部707は、装置間スタックで構成される物理回線で構成されるリンクアグリゲーションのグループに関して、装置構成の状況をチェックし、グループ内のどの回線をアクティブポートまたはバックアップポートとして定義するのかを決定する手段を備え、その結果をコントロール部701に伝達して、他部位の設定を行う機能を備える。リンク最適化調整部707の状況判定方法については後述する。
フォワーディング部702は、内部にパケット中継エンジン704、宛先テーブル705を具備し、回線部703からパケット情報を受信すると、フォワーディング部702の中のパケット中継エンジン部704にてパケット情報に含まれる宛先情報(宛先Macアドレス、宛先IPアドレスなど)を抽出して、その抽出された宛先情報と宛先テーブル705を照合してパケットの出力先を決定する。
また、パケット情報に含まれていた宛先情報がマルチキャストやブロードキャストの場合には、パケット情報を複数の回線部703にコピーして出力する機能を具備する。なお、出力先がリンクアグリゲーションで構成されている論理回線である場合、該当のリンクアグリゲーショングループに属する物理回線部703のうち、アクティブポートに属するインタフェースにパケットを転送する。また、フォワーディング部702はパケットを回線部703に転送する際にパケット情報をパケット解析部708にコピーする機能(ミラーリング)を具備する。
回線部703は、外部の通信装置からパケットを受信してフォワーディング部702にパケットを転送、フォワーディング部702からパケットを受信して外部の通信装置に対してパケットを転送する役割を担う。回線部703の用途として、装置間スタックを構成するために必要な制御情報を伝播するためのスタックポート706としての役割にも使用が可能である。
パケット解析部708は、前記フォワーディング部702からミラーリングされたパケット情報を受信して解析、解析結果を分類して格納するための集計テーブル709を具備する。図11に集計テーブル709に格納されるデータ情報を示す。集計テーブル709は、装置間スタックで構成されるパケット中継装置のうち、最初にパケット情報を受信したパケット中継装置の受信装置ID及び受信回線番号と、最終的にパケット情報を出力するパケット中継装置の送信装置ID及び送信回線番号及びパケット送信する際の出力優先度の情報の組み合わせごとに通信量情報が格納される。
図9にスタック型ネットワークの構成例を示す。パケット中継装置300Aの各回線がアクティブポート、パケット中継装置300Bの各回線がバックアップポートに設定されていて、各回線がリンクが正常であることからリンクアグリゲーションのステータス状態も、装置1の各回線がアクティブポート、装置2の各回線がバックアップポートの状態になっている。
図9の例では、パケット中継装置300A、Bの下流のスイッチは全てパケット中継装置300A、Bの両方へ回線接続されており、両装置への回線をリンクアグリゲーションでグループ化している。上流のスイッチもパケット中継装置300A、Bの両方へ回線接続されており、両装置への回線をリンクアグリゲーションでグループ化している。すなわち、パケット中継装置300A、Bにより通信経路を2重化している構成であるといえる。
図10(a)(b)を用いてパケット中継装置300が有する設定に関して説明する。
図10(a)はリンクアグリゲーションの設定を行うためのLAG設定テーブルである。図10の例では図9の構成のリンクアグリゲーションの設定を表している。装置ID「1」のパケット中継装置300Aでは、回線番号(またはポート番号でもよい)「1」「2」「3」「4」がそれぞれLAG Group ID「1」「2」「3」「4」のグループに属し、Active/Backup Settingは全て「Active」に設定されている。Active/Backup Settingはそのポートをアクティブにするかバックアップにするかの設定である。
また、Active/Backup Statusは全て「Active」になっている。Active/Backup Statusは実際のそのポートの状態を示している。定期的にポートの状態を検知し設定する。現状は「Active」に設定された全てのポートの状態が「Active」なので問題がない状態であることを表している。
図10(b)は各ポート間で通信の可否を設定するための通信可否マトリックステーブルである。テーブルの送信元ポートと宛先ポートは装置IDと回線番号の組み合わせで表す。「1/1」は装置ID「1」の回線番号「1」を意味する。図10(b)の例では、リンクアグリゲーショングループの1と2、1と3、2と3間の通信が禁止されており、通信が可能なポートが限定されている。「1/4」と「1/1」「1/2」「1/3」のみが通信できる状態であり「2/1」「2/2」「2/3」「2/4」はそれぞれバックアップ用のポートなので運用上の通信制限がかけられている状態である。
次に図11を用いて通信トラフィック量を監視する集計テーブルについて説明する。集計テーブルは受信装置ID,受信回線番号、送信装置ID、送信回線番号、通信量情報からなるテーブルである。
図11の例では、3行目のレコードは受信装置ID「1」,受信回線番号「1」、送信装置ID「2」、送信回線番号「2」、通信量情報「341Mbps」となっている。これらの情報からパケット中継装置300Aのポート1からパケット中継装置300Bのポート2に341Mbpsのトラフィックが生じており、スタックポートにもこれだけのトラフィックが生じていることを表す。
尚、図9、図10の装置構成の例では回線異常がない限りはスタックポートにトラフィックが生じていることは無いが、図11は説明のためにスタックポートにトラフィックが生じている例を示している。
図12に本発明に掛かるパケット中継装置においてパケット受信からパケット送信に至るまでの全体の処理の流れを示すフローチャートを示す。本発明に掛かるパケット中継装置にパケット1200を入力すると、回線部703はパケット受信処理1201を行い、パケットが壊れていないかの検査を行う。情報が破損しておらず正常であると判断されるパケット情報は、回線部703からフォワーディング部702に転送される。パケット情報を受け取ったフォワーディング部702はパケット転送などの制御に必要なキー情報(宛先MACアドレスや宛先IPアドレスなど)を抽出するパケット解析1202の処理を行う。フォワーディング部702は、抽出したキー情報と宛先テーブル705に格納されている情報を参照して、該当パケットをどのパケットポートに出力するべきかを判断するパケット転送先決定1203の処理を行う。フォワーディング部702は、パケットの転送先が決定すると該パケットをパケット解析部708で解析する必要があるかどうかと判定する。パケット解析対象1204の判定処理を行う。
パケット解析部にて監視が必要であるかの条件はコントロール部701の設定及び前述のキー情報から判断を行う。パケット解析の必要がないと判定された場合(1204のno)、パケット転送先決定1203の処理で決定された部位にパケット情報を出力するパケット配送処理1211を行い、回線部703にて外部にパケット情報を転送するパケット送信処理1112を行う。パケット解析の必要があると判定された場合(1204のyes)、パケットを複製してパケット解析部708にパケットを伝達するパケットミラーリング1205の処理を行う。
なお、パケットミラーリング1205の処理を行う際、前述のパケット解析1202で解析したキー情報についてもコピーして転送しても良い。前記のパケットミラーリング1205によって複製されたパケット情報をパケット解析部708にて受信すると、パケット解析1206を行い、パケット情報分類1207によって受信したパケット情報を受信装置ID/受信回線番号/送信装置ID/送信回線番号/出力優先度で分類して、分類された情報に対する通信量を集計テーブル709に格納する集計テーブル更新1208の処理を行う。コントロール部701の内部にあるリンク最適化調整部707は、定期的に集計テーブル709を参照し、リンク最適化制御1209を実施する。リンク最適化制御の判定処理の流れを示すフローチャートを図13に記載しており、後で説明する。リンク最適化制御の結果、最適なリンクアグリゲーションの状態が現在の状態と異なる場合には、リンクアグリゲーション状態遷移1210によって状態を変更する。その後、パケット情報を出力するパケット配送処理1211を行い、回線部703にて外部にパケット情報を転送するパケット送信処理1212を行う。
図13に本発明に掛かるリンク最適化制御の判定処理の流れを示すフローチャートを示す。本発明に掛かるリンク最適化制御では、リンク最適化調整部707はスタックポート706における廃棄率を調査するためにフォワーディング部702に格納されているスタックポートの廃棄統計情報を参照するスタックポート廃棄率確認1301を実施する。さらに、前手順にて確認したスタックポート廃棄率と、運用者があらかじめ設定した廃棄率閾値を比較する廃棄率閾値比較1302を実施する。廃棄率閾値との比較の結果、運用者があらかじめ設定した廃棄率閾値よりも廃棄が少なくて、リンクアグリゲーションの状態遷移を検討する必要がないと判断される場合(1302のno)、処理を完了する。廃棄率閾値との比較の結果、運用者があらかじめ設定した廃棄率閾値よりも廃棄が多くて、リンクアグリゲーションの状態遷移を検討する必要があると判断される場合(1302のyes)、リンク最適化調整部707は、コントロール部701の内部に具備されている通信可否マトリックステーブル1001を参照する通信マトリックステーブル確認1303を実施する。
さらに、前手順にて確認した通信マトリックステーブルの状態にて、最適化が必要であるかどうかを判断する最適化要否の判断処理1304を実施して、リンクアグリゲーションの状態遷移の最適化処理が必要であると判断(1304のyes)すれば、リンクアグリゲーションの状態遷移処理1305を実施した後に、スタックポート廃棄率確認1301に戻る。処理1303、1304の詳細は図14−17を用いて後述する。
次に、リンクアグリゲーションの状態遷移の最適化処理が必要でないと判断(1304のno)すれば、リンク最適化調整部707は集計テーブル709を参照する集計テーブル確認1306を実施する。さらに、前手順にて確認した集計テーブルの状態にて、最適化が必要であるかどうかを判断する最適化要否1307の判断処理を実施して、リンクアグリゲーションの状態遷移の最適化処理が必要であると判断(1307のyes)すれば、リンクアグリゲーションの状態遷移処理1308を実施した後に、スタックポート廃棄率確認1301に戻る。
次に処理1303、1304を詳細に説明する。
図14は図9の装置構成でパケット中継装置300Aの回線3(1/3)で回線障害が起きたときの状態でリンクアグリゲーションの最適化処理を実施していない場合のリンクアグリゲーションの状態を指し示している。すなわち従来のリンクアグリゲーションにおける処理のみが実施された状態である。
一般的なリンクアグリゲーションの処理では、リンクアグリゲーションを組んだグループ内での障害によってのみ、状態線をするので回線障害が発生している回線が属するLAG Group IDのみリンクアグリゲーションの状態遷移が発生する。図14をみるとパケット中継装置300Aの回線3(1/3)がリンクダウンしたため、回線3(1/3)と同じグループ内のパケット中継装置300Bの回線3(2/3)がアクティブポートになっている。
図15(a)に図14おけるLAG設定テーブルを示す。図15(a)を図10(a)と比較するとActive/Backup Statusでは回線3(1/3)がLink downとなっており、代わりに回線3(2/3)がActiveとなっているのがわかる。
図15(b)に図14における通信可否マトリックステーブルを示す。図10(b)と比較すると回線3(1/3)と上流の回線回線4(1/4)が通信不可になっているため、代わりに回線3(2/3)と上流の回線回線4(1/4)が通信可になっている。また、回線3(1/3)の通信に関わる部分に関してはすべて通信不可に遷移される。
その結果として、リンクアグリゲーショングループ1〜3のアクティブポートはパケット中継装置300A、リンクアグリゲーショングループ4のアクティブポートはパケット中継装置300Bになり、リンクアグリゲーショングループ3の回線による上流スイッチとの通信では必ずスタックポートを通過することになる。いいかえればスタックポートにトラフィックが生じていることとなる。
次にリンクアグリゲーションの最適化処理を実施した後の装置構成と各種テーブルを説明する。
図16は本実施例に係る技術を使用して、回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施した後の状態を示すスタック型ネットワークの構成例を示す図である。図16では、パケット中継装置300Bの回線3(2/3)だけでなく、パケット中継装置300Bの全てのポートをアクティブポートにしている。併せてパケット中継装置300Aの全てのポートをバックアップポートにしている。
これにより、全てのトラフィックがパケット中継装置300Bのみを通過することになるため、スタックポートにトラフィックが発生しなくなる。
処理1303、1304のリンクアグリゲーションの最適化処理では、このように全てのアクティブポートを1台に設定することができる場合は、そうすることによりスタックポートにトラフィックを発生させないようにしている。
実際に処理1303、1304を行う場合は、図15(a)および図15(b)または片方のテーブルを参照して、全てのアクティブポートを1台に設定することができるかを判断する。図17(a)、図17(b)は実際に全てのアクティブポートをパケット中継装置300Bに設定し終わったときのテーブルである。図15と比較すると、リンクダウンしたポート以外もアクティブとバックアップを切り替えていることが分かる。
次に処理1306、1307を詳細に説明する。
集計テーブルによる最適か処理は、処理1303、1304のように片方の装置のポートを全てアクティブにできないような場合に、集計テーブルを参照していずれの装置のポートをアクティブにすれば、スタックポートのトラフィックを減らせるかを判断し、設定を行う処理である。
集計テーブルの例を図18に示す。図18の集計テーブル1800は図11とフォーマットが異なりマトリックス状になっているが、図11と図18のどちらの形式でも良いし、これ以外の形式でもよい。各ポート間でのトラフィックを管理できればよい。尚、図18の例は図14、図16の設定におけるトラフィックを表しているものではない。説明の便宜上、パケット中継装置300A,Bの両方にアクティブのポートが存在する状態でのトラフィックである。ただし、システム構成は図14,16と同じである。
図18のような集計テーブルの状態で、スタックポートに負荷を掛けている要因であるのは、送信元ポート(1/1)から入力されて宛先ポート(2/2)に出力されるトラフィックが大きいことが判る。また、送信元ポート(1/1)の出力トラフィックの宛先は、パケット中継装置300A,Bのそれぞれのポートにトラフィックが流れているが、パケット中継装置300A宛てのトラフィックの合計帯域は宛先ポート(1/3)の1GBと宛先ポート(1/4)の3GBの合計4GBに対して、パケット中継装置300B宛てのトラフィックの合計帯域は宛先ポート(2/2)の合計10GBである。逆に、宛先ポート(1/1)となるトラフィックは、パケット中継装置300Aからのトラフィックの合計帯域は送信元ポート(1/3)の1GBと送信元ポート(1/4)の3GBの合計4GBに対して、パケット中継装置300Bからのトラフィックの合計帯域は送信元ポート(2/2)からの合計5GBである。このような条件化では、リンク最適化調整部707は回線1/1とリンクアグリゲーショングループを組んでいるバックアップポートの回線(2/2)をアクティブポートに遷移させた方がスタックポートに流れ込む通信量を軽減することができると判断できる。
以上のように、処理1303、1304または処理1306、1307のいずれか、もしくは両方を行うことによりスタックポートに生じるトラフィックを動的に減らすことができる。これにより、従来の装置に比べ、スタックポートへまわすポートの数を減らし、より多くのポートを通常の装置間のデータ通信に回せるため効率のよいシステムを構築できる。
図8に本発明に係るパケット中継装置の別の実施形態を示す。本発明に係る実施例2のパケット中継装置800は、コントロール部801と、フォワーディング部802と、回線部803と、パケット解析部808から成る。フォワーディング部802の内にはパケット中継エンジン804が具備され、パケット中継エンジン804の内には宛先テーブル805が具備される。コントロール部801の内にはリンク最適化調整部807が具備される。
パケット解析部808の内には集計テーブル809、LAG設定テーブル810、通信可否マトリックステーブル811が具備される。また、フォワーディング部802の間を1本以上の物理回線で接続してスタックポート806に定義し、フォワーディング部の同期化に必要な制御フレームやフォワーディング部802を跨って通信する必要があるデータトラフィックの通信経路として使用する。なお、フォワーディング部802を接続するために使用するスタックポート706はリンクアグリゲーションによる論理的に複数の回線を一本に見せる技術によって帯域幅の増速が可能である。
図8のパケット中継装置800は、図7のパケット中継装置700A,700Bの2台の装置を一台の装置に集約、パケット中継装置間を接続していたスタックポート706をパケット中継装置内の内部インタフェースとしてスタックポート806を定義している以外は同条件である。スタックポートが外部、もしくは、内部のインタフェースなのかの違いだけであって、本発明に係る技術に関する本質的な違いではない。また、図7、図8に記載した実施例では、パケット中継装置またはパケット中継エンジンの数は2個で記載をしているが、3個以上で構成されるネットワークシステムに適用が可能である。
101…単一の装置内で冗長化可能なパケット中継装置
102…複数の装置を仮想的に一台の装置に見立てて頂上化可能なパケット中継装置
103…装置の冗長化機能を有しないパケット中継装置
104…リンクアグリゲーション
200、300、700、800…パケット中継装置
201、301、701、801…コントロール部
202、302、702、802…フォワーディン部
203、303、703、803…回線部
204、304、704、804…パケット中継エンジン
205、305、705、805…宛先テーブル
306、706、806…スタックポート
707、807…リンク最適化調整部
708、808…パケット解析部
709、809…集計テーブル
1000、1500、1700…LAG設定テーブル
1001、1501、1701…通信可否マトリックステーブル
1100、1800…集計テーブル情報

Claims (14)

  1. 複数台が仮想的に1台として機能する装置であって、
    第1の装置と第2の装置を仮想的に1台とした場合、
    前記第1および第2の装置を両装置が有するポートの一部により接続し、
    前記第1および第2の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、
    前記論理回線内には転送用の物理回線と予備の物理回線が存在し、
    一部の前記論理回線内の転送用の物理回線の障害により前記第1および第2の装置間のトラフィックが所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置。
  2. 請求項1記載の装置であって、
    送信元ポートと宛先ポートの組み合わせでトラフィックを監視するパケット解析部を有し、
    当該パケット解析部により前記第1および第2の装置間のトラフィックが所定の閾値以上に達したかを判定することを特徴とする装置。
  3. 請求項1記載の装置であって、
    各装置のポート間の通信可否を管理する通信可否記憶部を有し、
    当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
  4. 請求項2記載の装置であって、
    前記第1および第2の装置のそれぞれのポート間でのトラフィックを集計する集計記憶部を有し、
    当該集計記憶部を参照して前記第1および第2の装置間のトラフィックが所定の閾値を以上に達したかを判断することを特徴とする装置。
  5. 複数台が仮想的に1台として機能する装置であって、
    第1の装置と第2の装置を仮想的に1台とした場合、
    前記第1および第2の装置を両装置が有するポートの一部により接続し、
    前記第1および第2の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、
    前記論理回線内には転送用の物理回線と予備の物理回線が存在し、
    一部の前記論理回線内の転送用の物理回線の障害により前記第1および第2の装置間のパケット廃棄率が所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置。
  6. 請求項5記載の装置であって、
    送信元ポートと宛先ポートの組み合わせでパケット廃棄率を監視するパケット解析部を有し、
    当該パケット解析部により前記第1および第2の装置間のパケット廃棄率が所定の閾値以上に達したかを判定することを特徴とする装置。
  7. 請求項5記載の装置であって、
    各装置のポート間の通信可否を管理する通信可否記憶部を有し、
    当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
  8. 複数台が仮想的に1台として機能する装置であって、
    仮想的に1台とした複数の前記装置間を各装置のポートの一部により相互に接続し、
    複数の前記装置のポートの一部を集約して扱う論理回線を複数設定し、
    前記論理回線の一部の故障により、前記装置間のトラフィックが所定の閾値を超えた場合、故障が発生した論理回線以外の論理回線でも運用系と待機系のポートを切り替えることを特徴とする装置。
  9. 請求項8記載の装置であって、
    送信元ポートと宛先ポートの組み合わせでトラフィックを監視するパケット解析部を有し、
    当該パケット解析部により複数の前記装置間のトラフィックが所定の閾値以上に達したかを判定することを特徴とする装置。
  10. 請求項8記載の装置であって、
    各装置のポート間の通信可否を管理する通信可否記憶部を有し、
    当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
  11. 請求項9記載の装置であって、
    複数の前記装置のそれぞれのポート間でのトラフィックを集計する集計記憶部を有し、
    当該集計記憶部を参照して複数の前記装置間のトラフィックが所定の閾値を以上に達したかを判断することを特徴とする装置。
  12. 複数台が仮想的に1台として機能する装置であって、
    仮想的に1台とした複数の前記装置間を各装置のポートの一部により相互に接続し、
    複数の前記装置のポートの一部を集約して扱う論理回線を複数設定し、
    前記論理回線の一部の故障により、前記装置間のパケット廃棄率が所定の閾値を超えた場合、故障が発生した論理回線以外の論理回線でも運用系と待機系のポートを切り替えることを特徴とする装置。
  13. 請求項12記載の装置であって、
    送信元ポートと宛先ポートの組み合わせでパケット廃棄率を監視するパケット解析部を有し、
    当該パケット解析部により複数の前記装置間のパケット廃棄率が所定の閾値以上に達したかを判定することを特徴とする装置。
  14. 請求項12記載の装置であって、
    各装置のポート間の通信可否を管理する通信可否記憶部を有し、
    当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
JP2010278748A 2010-12-15 2010-12-15 パケット中継装置 Expired - Fee Related JP5211146B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010278748A JP5211146B2 (ja) 2010-12-15 2010-12-15 パケット中継装置
US13/312,162 US8929205B2 (en) 2010-12-15 2011-12-06 Packet relay apparatus
EP20110193182 EP2466827A1 (en) 2010-12-15 2011-12-13 Packet relay apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010278748A JP5211146B2 (ja) 2010-12-15 2010-12-15 パケット中継装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2013032741A Division JP5651722B2 (ja) 2013-02-22 2013-02-22 パケット中継装置

Publications (2)

Publication Number Publication Date
JP2012129759A true JP2012129759A (ja) 2012-07-05
JP5211146B2 JP5211146B2 (ja) 2013-06-12

Family

ID=45349057

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010278748A Expired - Fee Related JP5211146B2 (ja) 2010-12-15 2010-12-15 パケット中継装置

Country Status (3)

Country Link
US (1) US8929205B2 (ja)
EP (1) EP2466827A1 (ja)
JP (1) JP5211146B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013102546A (ja) * 2013-02-22 2013-05-23 Alaxala Networks Corp パケット中継装置
JP2014060567A (ja) * 2012-09-18 2014-04-03 Nec Corp ネットワークスイッチ、ネットワークスイッチ制御方法、及びネットワークスイッチ制御プログラム
JP2015039138A (ja) * 2013-08-19 2015-02-26 日立金属株式会社 ネットワーク中継システムおよびスイッチ装置
WO2015097741A1 (ja) * 2013-12-24 2015-07-02 株式会社日立製作所 ネットワークシステム
WO2017010443A1 (ja) * 2015-07-14 2017-01-19 日本電気株式会社 無線伝送装置、障害通知方法およびプログラム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5850068B2 (ja) * 2012-02-10 2016-02-03 日本電気株式会社 制御装置、通信システム、通信方法およびプログラム
CN103944838B (zh) * 2013-01-22 2017-07-14 新华三技术有限公司 堆叠系统及其实现方法
CN103490948A (zh) * 2013-09-06 2014-01-01 华为技术有限公司 网络性能的预测方法及装置
US9716657B1 (en) * 2013-09-27 2017-07-25 Google Inc. TCP connection resiliency in multipath networks
JP6095583B2 (ja) 2014-01-09 2017-03-15 アラクサラネットワークス株式会社 データ転送装置システム及びネットワークシステム
US10567309B2 (en) * 2017-10-05 2020-02-18 Facebook, Inc. Switch with side port

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250067A (ja) * 1994-03-14 1995-09-26 Fujitsu Ltd 伝送装置の制御システム
JP2000270002A (ja) * 1999-03-17 2000-09-29 Fujitsu Ltd Lan中継装置
JP2003515258A (ja) * 1999-08-13 2003-04-22 アバイア テクノロジー コーポレーション 能動−受動フロースイッチフェイルオーバ技術
JP2007096676A (ja) * 2005-09-28 2007-04-12 Fujitsu Ltd ネットワーク構成装置およびネットワーク構成方法
JP2007324935A (ja) * 2006-05-31 2007-12-13 Fujitsu Ltd ネットワーク構成装置
JP2008078893A (ja) * 2006-09-20 2008-04-03 Fujitsu Ltd ネットワークの冗長方法及び中位スイッチ装置
US20110016243A1 (en) * 2009-07-16 2011-01-20 Hangzhou H3C Technologies Co., Ltd. Method and device of load-sharing in irf stack

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4764733B2 (ja) 2006-02-01 2011-09-07 アラクサラネットワークス株式会社 ネットワーク中継装置
EP2304904B1 (en) * 2008-06-27 2012-09-26 Telefonaktiebolaget LM Ericsson (publ) Method and system for link aggregation
US20100157800A1 (en) * 2008-12-19 2010-06-24 Inventec Corporation Method for processing network traffic loading balance
US9294946B2 (en) * 2010-08-27 2016-03-22 Qualcomm Incorporated Adaptive automatic detail diagnostic log collection in a wireless communication system

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07250067A (ja) * 1994-03-14 1995-09-26 Fujitsu Ltd 伝送装置の制御システム
JP2000270002A (ja) * 1999-03-17 2000-09-29 Fujitsu Ltd Lan中継装置
JP2003515258A (ja) * 1999-08-13 2003-04-22 アバイア テクノロジー コーポレーション 能動−受動フロースイッチフェイルオーバ技術
JP2007096676A (ja) * 2005-09-28 2007-04-12 Fujitsu Ltd ネットワーク構成装置およびネットワーク構成方法
JP2007324935A (ja) * 2006-05-31 2007-12-13 Fujitsu Ltd ネットワーク構成装置
JP2008078893A (ja) * 2006-09-20 2008-04-03 Fujitsu Ltd ネットワークの冗長方法及び中位スイッチ装置
US20110016243A1 (en) * 2009-07-16 2011-01-20 Hangzhou H3C Technologies Co., Ltd. Method and device of load-sharing in irf stack

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014060567A (ja) * 2012-09-18 2014-04-03 Nec Corp ネットワークスイッチ、ネットワークスイッチ制御方法、及びネットワークスイッチ制御プログラム
JP2013102546A (ja) * 2013-02-22 2013-05-23 Alaxala Networks Corp パケット中継装置
JP2015039138A (ja) * 2013-08-19 2015-02-26 日立金属株式会社 ネットワーク中継システムおよびスイッチ装置
WO2015097741A1 (ja) * 2013-12-24 2015-07-02 株式会社日立製作所 ネットワークシステム
JPWO2015097741A1 (ja) * 2013-12-24 2017-03-23 株式会社日立製作所 ネットワークシステム
WO2017010443A1 (ja) * 2015-07-14 2017-01-19 日本電気株式会社 無線伝送装置、障害通知方法およびプログラム
US10461995B2 (en) 2015-07-14 2019-10-29 Nec Corporation Wireless transmission device, fault notification method, and program

Also Published As

Publication number Publication date
EP2466827A1 (en) 2012-06-20
JP5211146B2 (ja) 2013-06-12
US8929205B2 (en) 2015-01-06
US20120155254A1 (en) 2012-06-21

Similar Documents

Publication Publication Date Title
JP5211146B2 (ja) パケット中継装置
US9288105B2 (en) N-node virtual link trunking (VLT) systems fault management
US9276815B2 (en) N-node virtual link trunking (VLT) systems management plane
CN101588304B (zh) 一种vrrp的实现方法和设备
CN103560955B (zh) 冗余设备切换方法及装置
JP5941404B2 (ja) 通信システム、経路切替方法及び通信装置
CN102364900B (zh) 一种irf系统中基于frr的数据传输方法和设备
KR20100116578A (ko) 산업 이더넷 네트워크를 기반으로 한 장애 처리 방법, 시스템 및 교환 장치
CN102148677A (zh) 一种更新地址解析协议表项的方法及核心交换机
CN101436945B (zh) 一种组播业务故障保护的方法、系统及装置
WO2009111969A1 (zh) 以太环网中边缘端口阻塞的方法、以太环网系统和设备
WO2017113929A1 (zh) 一种软件定义网络中控制转发设备集群的方法及控制器
JP2007208369A (ja) ネットワークシステム及びネットワークシステムのノード冗長方法
CN112437027A (zh) 交换芯片、交换设备、堆叠系统及转发报文的方法
CN111901133B (zh) 一种组播切换方法、装置、网络设备和存储介质
US20050240797A1 (en) Restoration mechanism for network topologies
CN100426743C (zh) 内部可靠互连的通信设备
JP5651722B2 (ja) パケット中継装置
WO2009152700A1 (zh) 管理网络设备端口状态的方法、系统及中转设备
JP6457962B2 (ja) ノード装置及び冗長ネットワークの通信方法
CN101141367A (zh) 提高快速环网可靠性的方法、系统和节点设备
CN110213162B (zh) 一种面向大规模计算机系统的容错路由方法
CN102045259A (zh) 分组交换设备以及管理用户业务的方法
CN101146037A (zh) 多框级联系统、业务处理方法
JP2013192022A (ja) ネットワーク装置、リンクアグリゲーションシステム及びそれらに用いる冗長化方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120521

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130225

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160301

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5211146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees