JP2006135975A - SoftRouterプロトコルの分離 - Google Patents

SoftRouterプロトコルの分離 Download PDF

Info

Publication number
JP2006135975A
JP2006135975A JP2005318066A JP2005318066A JP2006135975A JP 2006135975 A JP2006135975 A JP 2006135975A JP 2005318066 A JP2005318066 A JP 2005318066A JP 2005318066 A JP2005318066 A JP 2005318066A JP 2006135975 A JP2006135975 A JP 2006135975A
Authority
JP
Japan
Prior art keywords
network
fes
protocol
ces
architecture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005318066A
Other languages
English (en)
Other versions
JP4790376B2 (ja
Inventor
Furquan A Ansari
アーメド アンサリ ファーキュアン
Martin Havemann
ハヴマン マーチン
V Lakshman Tirunell
ヴイ.ラクシュマン ティルネル
Thyagarajan Nandagopal
ナンダゴパル ザヤガラジャン
Ramachandran Ramjee
ラムジー ラマチャンドラン
Thomas Y Woo
ワイ.ウー トマス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nokia of America Corp
Original Assignee
Lucent Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lucent Technologies Inc filed Critical Lucent Technologies Inc
Publication of JP2006135975A publication Critical patent/JP2006135975A/ja
Application granted granted Critical
Publication of JP4790376B2 publication Critical patent/JP4790376B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/64Routing or path finding of packets in data switching networks using an overlay routing layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/52Multiprotocol routers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/60Router architectures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/40Network security protocols

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

【課題】ルータの制御エンティティをその転送コンポーネントから分離することによりルータを 分解し、それらの間の動的バインディングを可能にするSoftRouterアーキテクチャを提供すること。
【解決手段】SoftRouterアーキテクチャでは、制御プレーン機能は、数ネットワーク・ホップだけ離れている転送要素を制御する少数のスマート・サーバ上に集約され、実装される。動的バインディング・プロトコルにより、ネットワーク規模の制御プレーンのフェイルオーバーを実行する。ネットワーク安定性は、ルーティング・プロトコルを集約し、リモートでホスティングすることにより改善される。この結果、収束が高速化され、処理されるプロトコル・メッセージが少なくなり、障害発生後のルート変更回数が減る。SoftRouterアーキテクチャは、多数の転送要素406を管理し、ネットワーク規模の制御のサポートを強化するスマート制御エンティティ402、404を備える。
【選択図】図1

Description

本発明は、2004年11月1日出願された「SoftRouter:Router Disaggregation」という表題の仮出願第60/623,885号(整理番号Lakshman 35−2−23−62−31)の利益を主張するものである。さらに、本出願は、本出願と同じ日に出願された同時係属出願「SoftRouter」(整理番号Lakshman 35−2−23−62−31(LCNT/126770))、「SoftRouter Protocol Failovers」(整理番号Ansari 3−42−4−25−35(LCNT/127306))、「SoftRouter Separate Control Network」(整理番号Lakshman 43−64−36(LCNT/127307))、「SoftRouter Feature Server」(整理番号Lakshman 44−65−37(LCNT/127308))、「SoftRouter Dynamic Binding Protocol」(整理番号Ansari 4−3−45−5−26−38(LCNT/127309))に関係する。仮出願および関連出願は、すべて参照により本明細書に組み込まれる。
本発明は、一般に、ネットワーキングの分野に関するものであり、特に、 分解ルータ・ネットワークにおけるルーティング・プロトコルに関するものである。
インターネットが非常に大きな成功を収めたことで、新しい機能およびサービスの開発および展開がひっきりなしに続き、次第にその技術的基盤では間に合わなくなってきた。これは、IPネットワークにおける機能の現在の配分のアーキテクチャリングを変更すれば、ネットワークの安定性、ネットワーク運用の簡素化、および新しいネットワーク・プロトコルおよびサービスの柔軟な導入にとって著しく有益であろうとの考えに信憑性を与えた。
従来のルータ・アーキテクチャは複雑になりつつある。従来のルータ・アーキテクチャは、単純なコア・ネットワークを目指すエンドツーエンド・アーキテクチャ設計原理にもかかわらず、今日では、次第に複雑化してきている。新しい機能がRFC(Requests For Comments)で定義されるとともに、ルータには制御プレーンの複雑さがますます加わる。これらの機能は、ルーティング(例えば、BGPベースのMPLS−VPN)、トラフィック・エンジニアリング(例えば、OSPF−TE)、セキュリティなどを含む。実際、IPルータのコード複雑度は、現在では、電話交換機のコード複雑度に匹敵している。それとは対照的に、大規模なハードウェア集積化(例えば、ASIC)が急速に進み、市販チップが入手しやすくなるにつれ、徐々に、転送パスの実装が容易になってきた。
従来のIPネットワークは、比較的自律的に動作するルータを使用して構築される。ネットワークのいたる所の多くの点に潜在的に管理しにくい複雑度が存在する。これは、多くの望ましくない帰結を導く。第1に、制御点が複数あると、運用の複雑さ(例えば、構成間違い設定)が著しく高まる。第2に、いくつかの特定の状況において、これらの自律的ルータの非協調アクションのため、せいぜい部分的に最適なパフォーマンス(例えば、回復時間が長い)にしかならず、最悪の場合にはネットワークが不安定になる可能性がある。最後に、新しい機能を導入するには、多数のルータへのアップグレードを必要とする場合があり、この作業は複雑であり、また間違いを犯しがちである。
ルーティング・ポリシー実施およびトラフィック・エンジニアリングなどの多くの高度なネットワーク管理タスクであれば、ネットワーク規模のビューを利用できることで著しい恩恵を受けるであろう。例えば、BGPによってネットワークの安定性および運用のいくつかの共通の問題が引き起こされる場合、それらの問題は、BGPを個々のルータから自律的システム(AS)規模のスコープを持つ単一エンティティに移動することにより解決されるであろう。同様に、多くの管理機能は、ネットワーク規模のビューを必要とし、それなしでは、ネットワークは振動と安定性の悪さを露呈しうる。しかし、ネットワーク規模の制御は、自律的で複雑なルータからなる今日のネットワークでは実行が困難であり、また厄介でもある。
従来のルータ・アーキテクチャでは、制御と転送を統合している。制御プレーン機能を実装する制御プロセッサは、転送機能を実装し、同じルータ・バックプレーンを共有することが多いライン・カードと同じ場所に配置される。制御プロセッサは、同じ場所に配置されているライン・カードにのみ制御機能を提供し、またその逆も同様であり、同じ場所に配置されている(複数の)コントローラに故障が生じた場合に、ライン・カードを管理できないようなシナリオに至る。
従来のルータ・アーキテクチャでは、基礎となるテーマは、現在のルータ制御および転送機能の深い相互の絡み合いである。これらの機能を縮小して、ごく少数の標準パケット転送機能のみをサポートし、すべての制御プロトコルおよび非転送関係状態および制御処理をネットワーク規模の制御の一次機能を持つ少数の高機能なネットワーク・ベースの制御エンティティに移行することにより、ルータの 分解を行いネットワーク・エンティティの大半をできる限り黙らせる必要がある。
仮出願第60/623,885号 同時係属出願「SoftRouter」(整理番号Lakshman 35−2−23−62−31(LCNT/126770)) 同時係属出願「SoftRouter Protocol Failovers」(整理番号Ansari 3−42−4−25−35(LCNT/127306)) 同時係属出願「SoftRouter Separate Control Network」(整理番号Lakshman 43−64−36(LCNT/127307)) 同時係属出願「SoftRouter Feature Server」(整理番号Lakshman 44−65−37(LCNT/127308)) 同時係属出願「SoftRouter Dynamic Binding Protocol」(整理番号Ansari 4−3−45−5−26−38(LCNT/127309))
従来技術のさまざまな欠点は、多くの実施形態を持つSoftRouterプロトコル分離の本発明により解決される。
一実施形態は、第1の転送要素(FE)集合、第1の制御要素(CE)、および第1のネットワーク要素(NE)を含むネットワーク・アーキテクチャである。第1のFE集合は、多数のFEである。第1のCEは、第1のFE集合を制御し、第1のFE集合内のそれぞれのFEの代わりに一方の第1のプロトコル・プロセスを実行する。第1のCEは、第1のFE集合内のFEから物理的に遠い位置にある。第1のCEは、第1のFE集合内のそれぞれのFEに動的にバインドされる。第1のNEは、第1のCEおよび第1のFE集合を含む。
他の実施形態は、多数のFE、多数のCE、およびCE間の内部境界ゲートウェイ・プロトコル(I−BGP)完全メッシュを含むネットワーク・アーキテクチャである。それぞれのCEは、他のCE異なる、FEの集合を制御する。CEは、FEから物理的に遠い位置にある。それぞれのCEは、標準プロトコルを使用してその制御されたFEと通信する。
さらに他の実施形態は、コア・ルータ、コア・ルータに接続されたコア・ネットワーク、転送要素(FE)、CE、およびPOP(Point Of Presence)Ethernet(登録商標)ネットワークを含む、ネットワーク・アーキテクチャである。それぞれのCEは、複数のFEを制御する。それぞれのCEは、制御されるFEに動的にバインドされる。それぞれのCEは、制御されるFEから物理的に遠い位置にある。それぞれのCEは、標準プロトコルを介してその制御されたFEと通信する。POP Ethernet(登録商標)ネットワークは、コア・ルータによりコア・ネットワークに接続され、CEに接続され、さらにFEに接続される。
本発明の教示は、付属の図面とともに以下の説明を考察することによりよく理解できる。
理解しやすくするために、できる限り、これらの図に共通の同一の要素を示すために同一の参照番号を使用した。
本発明は、主に、SoftRouterアーキテクチャの実施例の実施形態の一般的背景状況の範囲内において説明されるが、ただし、当業者および本明細書の教示による情報を得た者であれば、分離概念を使用して、ネットワーク・アーキテクチャの他のさまざまな実施形態を生み出すことができること、および本発明は、ローカル・エリア・ネットワーク(LAN)、メトロポリタン・エリア・ネットワーク(MAN)、ワイド・エリア・ネットワーク(WAN)、および他のネットワーク、多くの開放型システム間相互接続(OSI)層、ゲートウェイ・プロトコル、シリアル回線プロトコル、プロトコル・スタック・ルーティングおよびブリッジング・プロトコル、多くの他のプロトコル、トラフィック管理、光学、エッジ/コア・ルーティング、無線、ケーブル、データ・センター、補助信号経路(ASP)、故障管理、構成管理、アカウンティング管理、パフォーマンス管理、セキュリティ管理、その他のネットワーク管理、企業、政府、軍事アプリケーション、およびその他の多くの異なる種類のネットワーキング特性およびアプリケーションに適用可能であることを理解するであろう。
インターネットワーキングにオープンな標準ベースのプロトコルを使用してルータのハードウェアをルータのソフトウェアから分離することには、多くの利点がある。分離概念は、各コンポーネントのサプライヤを分断することで、ハードウェア・ベンダの参入を阻害している壁を低くし、新規ハードウェア市場参入者に供給するキャリア・クラス・ルーティング・ソフトウェアの開発に独立系ソフトウェア・ベンダ(ISV)が投資する意欲を高める。この分離概念を利用することにより、それぞれのコンポーネントがそれ独自の革新曲線から逸れることなく辿れるようにできる。ハードウェア・メーカーは、最低のコストで最高の単位密度当たり速度を達成することに集中して、資本支出を低減することができ、またソフトウェア・メーカーは、新しいアプリケーションおよびマネジャビリティに集中して、経常経費を下げつつ収益を高めることができる。
アーキテクチャの概要
SoftRouterアーキテクチャの実施例の一実施形態では、制御プレーン機能の実装とパケット転送機能とを分けることによりルータの 分解を行う。この 分解を実現するネットワーク・アーキテクチャの他の実施形態も、本発明の範囲内にある。本発明は、この 分解の概念およびネットワーク・アーキテクチャに対するその密接な関係を対象とする。SoftRouterアーキテクチャの実施例では、すべての制御プレーン機能は、転送エンジンと同じ場所に配置される必要のない別の制御エンティティ上に実装される。協調構成変更は少数のスマート・ネットワーク要素のみで行えばよく、AS内のすべてのネットワーク要素で行う必要がないため、すべての非転送関係状態および制御処理を少数のネットワーク・ベースの制御エンティティに移行することにより、ネットワーク規模の目標を単純化することが可能になる。さらに、コントローラと転送エンジンとの関連は動的であり、制御を行うことができる制御エンティティによる転送エンジンの柔軟な制御が可能である。
SoftRouterアーキテクチャの実施例は、ネットワーク内の転送エンティティと制御エンティティとの間の動的バインディングを確立し、維持するための動的バインディング・プロトコルを含む。ドメイン内およびドメイン間ルーティングは、ドメイン内プロトコルOSPFのパフォーマンス改善を含む、パフォーマンスが改善されたSoftRouterアーキテクチャの実施例において適合される。
インターネットワーキングにオープンな標準ベースのプロトコルを使用してルータのハードウェアをルータのソフトウェアから分離することには、多くの利点がある。分離概念は、各コンポーネントのサプライヤを分断することで、ハードウェア・ベンダの参入を阻害している壁を低くし、新規ハードウェア市場参入者に供給するキャリア・クラス・ルーティング・ソフトウェアの開発に独立系ソフトウェア・ベンダ(ISV)が投資する意欲を高める。この分離概念を利用することにより、それぞれのコンポーネントがそれ独自の革新曲線から逸れることなく辿れるようにできる。ハードウェア・メーカーは、最低のコストで最高の単位密度当たり速度を達成することに集中して、資本支出を低減することができ、またソフトウェア・メーカーは、新しいアプリケーションおよびマネジャビリティに集中して、経常経費を下げつつ収益を高めることができる。
SoftRouterアーキテクチャの実施例の一実施形態は、新しく出てくるアプリケーションにより要求される複雑なIP機能を分離する1つのアプローチである。SoftRouterは、複雑さの共有を中央に集中し、複雑さの共有を可能にする。SoftRouterでは、IP転送機能を過度に妨げることなく新機能のスケーラブルな導入を果たせる。
図1は、集積化された制御およびトランスポート・プレーンを備える従来のルータ100を示している。従来のルータ100は、ソフトウェア102およびハードウェア104を備え、専用インターフェイス106を通じて通信する。
それとは対照的に、図2は、標準プロトコルを使用して通信する別々のハードウェア内の制御プレーンとトランスポート・プレーンを分離するSoftRouterアーキテクチャ200の実施例の高水準抽象化を示している。SoftRouterアーキテクチャ200は、制御要素およびフィーチャ・サーバ・コンポーネント202、および標準ベースのプロトコル206を使用して通信するパケット転送要素コンポーネント204を備える。
図3は、相互接続された多数のルータ300を備える従来のルータ・アーキテクチャを示す。
図4は、SoftRouterアーキテクチャ400の実施例の一実施形態を示している。SoftRouterアーキテクチャ400のこの実施形態では、ソフトウェア・サーバは、制御要素(CE)402およびフィーチャ・サーバ(FS)404を含む。CE 402は、従来のルーティング、例えば、内部ゲートウェイ・プロトコル(IGP)(例えば、開放型最短経路優先(OSPF))および外部ゲートウェイ・プロトコル(EGP)(例えば、境界ゲートウェイ・プロトコル(BGP))の両方に関与する。FS 404は、付加価値機能およびネットワーク・ベース・アプリケーション、例えば、QoS、VPN、およびモバイルIPに関与する。CE 402およびFS 404は、両方とも、転送要素(FE)406とインターフェイスする。CE 402およびFS 404は、それぞれ相手との追加インターフェイスを備えることができる。SoftRouterアーキテクチャの実施例は、ソフトウェア・ベースのルート・コントローラ(SoftRouter)をハードウェア・ベースのトランスポートおよびパケット転送から分離して、中央に集中させる。
SoftRouterアーキテクチャの実施例におけるルータの 分解により、制御機能と転送機能とが分離される。この分離は、論理的に行われるだけでなく(例えば、モジュール型アプリケーション・プログラミング・インターフェイス(API)で正しく定義されたインターフェイスの使用)、実際、制御は、転送が実行される場所から数ホップ分だけ物理的に隔てられている(つまり、別のネットワーク要素内で実行される)。
ネットワーク・エンティティ
FE 406は、トラフィックの実際の転送およびスイッチングを実行するネットワーク要素である。構造上、FE 406は、それぞれ次々に複数のポートの終端となる複数のライン・カード、および一方のライン・カードから他方のライン・カードへデータ・トラフィックを往復するスイッチ・ファブリックを備えることができるという点で従来のルータと類似している。しかし、ローカルで実行される高度な制御ロジック(例えば、OSPFまたはBGPのようなルーティング・プロセス)がないため、FE 406は従来のルータと異なる。その代わりに、制御ロジックはリモートでホスティングされる。
CE 402は、サーバなどの汎用コンピューティング要素である。これは、エンド・ホストと同様にネットワークに接続するが、ただし、通常、複数のFE 406を介してネットワークにマルチホーミングで接続されるため、単一のリンクに障害が発生してもネットワークから切断されることはない。CE 402は、FE 406の代わりに、制御ロジックを実行し、したがって、それらを制御する。従来のルータに通常存在する制御ロジックは、OSPFおよびBGPのようなルーティング・プロトコルだけでなく資源予約プロトコル(RSVP)、ラベル配布プロトコル(LDP)、モバイルIPなどのプロトコルをも含めて、CE 402に移行することができる。
FE 406は、リンク間でデータ・トラフィックを転送する機能を実行する。この機能は、特にパケット転送、ラベル・スイッチング、および光スイッチングなど、さまざまな形態を取りうる。パケット転送は、レイヤ2(媒体アクセス制御(MAC)ベースのスイッチング)およびレイヤ3(最長プレフィックス一致)転送の両方を含む。ラベル・スイッチングは、例えば、MPLS転送を含む。データ・パス転送機能は、ラベル・スワッピング、プッシング、およびポッピングを含むことができる。光スイッチングでは、トラフィックは、リンク間で、時間スイッチング、波長スイッチング、または空間スイッチングが可能である。これらの場合のそれぞれにおいて、スイッチング機能は、ネットワーク内のCE 402により計算され、インストールされる単純ローカル・テーブルにより駆動される。そこで、FE 406がローカル・データ構造にのみ基づいてその作業を遂行できることは、FE 406は低機能であるが高速であるように設計され、より複雑なロジックはリモートにあるそれでありながら高機能なCE 402に委ねられていることを意味している。
FE 406およびCE 402は、両方とも、物理ネットワーク要素であることに加えて論理エンティティと理解される。特に、FE 406は、トラフィックを相互に切り換えられるポートの集合体として論理的に定義される。例えば、FE 406は、単一のライン・カード上のすべてのポートを含むことができるが、この場合、物理パケット・スイッチ全体は複数の論理FE 406で構成される。FE 406は、さらに、複数の物理スイッチにまたがってもよいが、CEは複数のFEを制御することができる。同様に、CE 402は、FEの代わりに制御を行うためにインスタンス化された論理プロセスとして理解することができ、また実際にそれを実行するサーバ・マシンから区別することができる。特に、物理CEサーバ・マシン(PCE)は、それぞれ複数のFE 406からなる異なる集合体にサービスを提供する、複数のCE 402プロセスをホスティングすることができる。その逆に、同じFE 406にサービスを提供する複数のCE 402プロセス(それぞれ、内部ゲートウェイ・プロトコル(IGP)および外部ゲートウェイ・プロトコル(EGP)などの異なる制御目的に合わせてインスタンス化される)を異なるPCE上でホスティングすることも可能である。FE 406およびCE 402の物理的および論理的定義は、入れ換えて使用できる。
図5は、ネットワーク要素500を例示するSoftRouterアーキテクチャの実施例の一実施形態を示している。ルータという概念は、SoftRouterアーキテクチャの実施例では厳密には必要とされないが、ネットワークのルーティングに関する面を理解するために、何らかの同等の概念を用意することが有用である。この目的のために、ネットワーク要素(NE)500の概念は、FE 406およびそれらのFE 406を制御するそれぞれのCE 402からなる論理グループとして高水準の定義が行われる。特定のNE 500グループは、暗黙のうちに、FE間の各リンクを内部(またはNE内)または外部(またはNE間)のいずれかとして分類する。内部リンクは、同じNE 500に属する2つのポートを接続し、外部リンクは、異なるNE 500に属する2つのポートを接続する。NE 500の概念は、NE内およびNE間ルーティングが異なるアプローチに従う場合に有用である。
制約を加えることなく、NE 500の上記の定義は柔軟に対応できる。例えば、この定義では、ネットワークの非連結部分の中の2つのFE 406が同じNE 500に属すようにできる。また、これにより、FE 406が物理要素内の完全にすべてのポートを含み、(複数の)制御CE 402が同じ要素上の同じ場所に配置される従来のルータ・モデルが可能になる。
クラスタ化されたルーティングでは、NE 500を構成するFE 406は、切れ目のないクラウドの一部である。つまり、NE 500のすべてのポートは、NE 500の内部のリンクを介してお互いから到達可能であるということである。物理的に、これは、隣接する物理FE 406の単一のNE 500内へのクラスタ化を表す。本社では複数のルータが背中合わせで接続されているというのが通常のシナリオである。ルーティングの観点からは、NE 500に対するこのクラスタ化ベースの定義は、著しい簡素化をもたらしうる。ルーティングの面でNE 500の個数が減ることにより、NE間のルーティングの複雑さが減じ、異なる、場合によっては複雑さの少ないルーティング・プロトコルをNE内ルーティングに採用することができる。
FE 406とCE 402との制御関係は、バインディングと正式に呼ばれる。より正確には、FE 406とCE 402との間バインディングは、CE 402がFE 406の代わりに特定の制御機能を実行していることを意味する。複数のプロトコル(例えば、IGPおよびEGP、またはさらには1つのプロトコルの複数のインスタンス)がFE 406の動作に必要になる場合があるため、FE 406は複数のCE 402バインディングを持ちうる。
プロトコル
SoftRouterアーキテクチャの実施例は、さまざまなプロトコルを含む。SoftRouterアーキテクチャの実施例に従って設計されたネットワークの運用には、動的バインディング・プロトコルおよびFE/CEトランスポート・プロトコルを含む、さまざまな多数のプロトコルが使用される。FE 406とCE 402との間のバインディングは、CE 402およびFE 406を発見するプロトコルを介して確立され、さらに、ネットワークの接続途絶に直面したときもこれらのバインディングを維持する。動的バインディング・プロトコルの最も一般的な場合には、FE 406は、利用可能な任意のCE 402にバインドすることができ、CE 402は、任意のFE 406に対する制御機能を実行し、それによって、回復力を最大限発揮し、構成オーバーヘッドを最小限にとどめることができる。この動的バインディング機能は、制御機能と転送機能とが独立している 分解ルータ群の概念の1つの特徴である。FE/CEトランスポート・プロトコルは、2つの部分、つまりデータおよび制御を持つ。データ部については、FE/CEトランスポート・プロトコルは、FE 406とCE 402との間のルーティング・プロトコル・パケットのトンネリングをサポートしており、そのため、FE 406により受信されたルーティング・プロトコル・パケットをCE 402に送信して処理させることができる。制御部については、バインディングが確立されると、FE 406およびCE 402は、FE/CEトランスポート・プロトコルを使用して、状態情報を伝達し、制御を実行する。アップリンク(FE 406からCE 402)方向では、この制御部は、リンクおよび転送状態情報(例えば、リンク・アップ/ダウン信号)をCE 402に供給する。ダウンリンク方向では、FE/CEトランスポート・プロトコルは、構成および制御情報を伝送する(例えば、リンク、転送情報ベース(FIB)の有効/無効を設定する)。転送および制御要素の分離などの知られているプロトコル(ForCES)を、FE/CEトランスポート・プロトコルに使用することができる。
いくつかの特徴
SoftRouterアーキテクチャの実施例は、動的バインディング、および分散制御の度合いを変えられること、という2つの特徴を持つ。SoftRouterアーキテクチャの実施例では、FE 406は、いつでもネットワーク上のCE 402に動的にバインドすることができ、またその逆も可能である。このため、制御プレーンの設計および配備の自由度が向上し、その結果、弾力性、運用の複雑さ、スケーラビリティ、管理、およびセキュリティが改善される。それと対照的に、従来のモデルにおける静的バインディングでは、インターネット制御プレーンの再設計に関して信頼性が低く、また柔軟性も低い。分散制御には、弾力性などの利点があるが、これもまた、何らかのネットワークの不安定性を生じる可能性がある。例えば、BGPのルート・リフレクタを使用することには、振動問題が伴い、OSPFなどのフラッディング・ベースのリンク状態プロトコルでは、複数の障害が生じると、更新の嵐が吹きまくる可能性がある。SoftRouterアーキテクチャの実施例では、さまざまな程度の分散制御が可能である。特に、SoftRouterアーキテクチャの実施例の複数の実施形態では、FE 406のクラスタ化の仕方、およびCE 402上での制御の集約の仕方を変えることにより、さまざまな程度の分散制御を実装する。制御ポイントが少ないということは、ネットワークの分割などの障害条件に対する脆弱性が高いが、ネットワーク安定性は潜在的によい可能性があることを意味する。従来の完全分散ルーティングおよび完全集中ルーティングは両方とも、SoftRouterアーキテクチャの実施例の可能な数多くの実施形態のうちの2つの極端な実装にすぎない。
動的制御バインディング
SoftRouterアーキテクチャの実施例の動的バインディング機能では、FE 406をCE 402から数ホップ分だけ隔てることができる。このような柔軟性は、転送要素の初期構成の複雑度が高まることと引き換えに実現される。SoftRouterモデルでは、ブートアップ後に、FE 406は、サーバ上に常駐するリモートCE 402からインターフェイスのIPアドレスを含む、構成情報を取得する。これは、パラドックスを引き起こす可能性がある、つまり、CE 402を発見し、それにパケットを送信するために、FE 406はルーティング情報を必要とするが、ルーティング情報は、CE 402から発せられると想定されている。このパラドックスは、SoftRouterアーキテクチャの実施例の一部である発見プロトコルを使用して解決される。この発見プロトコルにより、FE 406およびCE 402はお互いを発見し合い、IPルーティングに基づかない、それらのエンティティの間のルーティング可能な経路を維持する。動的バインディング・プロセスは、さらに、CE 402負荷分散、CE−FEバインディング回復性を改善する制約クラスタ化アルゴリズム、およびフェイルオーバーなどの強化された機能をサポートし、ネットワークの可用性を向上させる。また、これらの機能を使用することにより、ネットワーク計画を改善し、ネットワーク規模の制御を適切に行うことができる。
動的バインディング・プロトコル
動的バインディング・プロトコルの実施形態は、FE 406用のバインディング・サービスおよびFE−CEメッセージ用のルーティング・サービスを提供する。動的バインディング・プロトコルは、ネットワーク内で動作する他のプロトコルとは無関係に、独立したプロトコルとしてネットワークの存続期間中、すべての要素(FE 406およびCE 402)上で連続実行される。最低でも、それぞれのFE 406およびCE 402は、一意的な識別子として働く事前構成された8進数文字列(FEID/CEID)を持つ。動的バインディング・プロトコルは、トランスポート独立であり、レイヤ2またはレイヤ3のネットワーク上で動作可能である。例えば、これは、ループ回避のため高速スパニング・ツリー・プロトコルとのレイヤ2ブリッジングを使用して、Ethernet(登録商標)ネットワークまたはFE 406およびCE 402内で実行することができる。異機種ネットワークでは、発見プロトコルは、ソース・ルーティングまたはブリッジングとともにレイヤ3アドレス指定を使用することができる。動的バインディング・プロトコルは、発見、関連付け、フェイルオーバーによる障害検出、およびトランスポート・トンネルの4つのコンポーネントを持つ。
発見
動的バインディング・プロトコルの発見コンポーネントを使用することにより、FE 406はそれを管理できるCE 402を発見することができる。このCE 402は、そのFE 406用の管理側CEと呼ばれる。発見コンポーネントが構成プロセスの高速な発見を行えるようにするために、CE 402到達可能性情報がそれぞれのFE 406に配信される。新しくブートされるFE 406は、ただ、ネットワーク内のすべてのCE 402への到達可能性情報を取得するために近隣要素に問い合わせを行うだけである。CE 402到達可能性情報を配信するために、FE 406は、要請メッセージを近隣要素に、定期的にブロードキャストする。近隣要素がCE 402の場合、これは、そのIDを広告することにより応答する。近隣要素がFE 406の場合、これは、すべてのすでに学習されているCE 402への到達可能性情報で応答する。ソース・ルーティングについては、到達可能性情報は、CE 402のIDのほかに、CE 402に到達するソース経路、および情報の新鮮さを示す有効期間パラメータを含む。
ソース・ルーティングの場合、FE 406は、その近隣要素を知っている必要がある。CE 402の広告またはFE 406到達可能性メッセージを近隣要素から受信すると、FE 4065は近隣FEIDまたはCEIDを受信されたソース経路に追加する。CE 402は、受信されたパケット内でソース・ルートを逆転することにより、FE 406へのソース経路を導く。(FE 406は、常に、CE 402と一番最初のパケット交換を開始する。)近隣要素は、すべての発見プロトコル対応インターフェイス上でhelloメッセージを定期的に送信することによりそれ自体を広告する。そこで、それぞれのノード(FE/CE)は、helloメッセージがもはや受信されなくなった場合、近隣要素のリストを保持する。
IPアドレス指定を使用する発見プロセスでは、ブートアップ時に、それぞれのFE 406は、そのインターフェイス用のランダムに選ばれた一時IPアドレスをFEIDとともに使用して、事前構成ソース・ルーティングを実行する。これらのIPアドレスは、制御されるアドレス空間、例えば、10.x.x.xのようなプライベート・サブネット・アドレス・プールから選択される。CE 402は、事前構成されており、したがって、有効なIPアドレスを持つ。すべてのメッセージは、IP制限ブロードキャストまたはマルチキャストを使用し、未構成のFE 406および構成済みのFE 406またはCE 402のピアリングを行う遷移フェーズにおいて共通である異なるサブネットのIPアドレス間でのパケット交換を行えるようにする。IPアドレス指定は、直接の近隣要素とのパケットの交換にしか使用されない。したがって、一時IPアドレスは、リンク毎に一意であればよい。
それぞれのFE 406は、ネットワーク計画時にネットワーク管理者により1つの一次CEおよび少なくとも1つのバックアップCEを割り当てられる。この情報は、CE 402で構成され、任意選択により、FE 406でも構成される。通常、この割当は、CE 402に対する負荷、CE 402とFE 406との間の距離、およびそれらの間のリンクの信頼性などのファクタを考慮して、先験的に行われる。
この関連付けプロセスでは、FE 406とその一次CEおよびバックアップCEとの間のアクティブな関連付けを確立し、維持するよう努める。管理側CEは、関連付けられたCE 402のリストからFE 406により選択され、一次CEは常に他のCE 402よりも好まれる。FE 406は、ネットワーク管理者により事前に構成されるか、または分散クラスタ化アルゴリズムを使用して得られたバインディングを使用して最良のCE 402と動的に関連付けされる。FE 406は、関連付けメッセージを送信することによりCE 402と関連付けされる。CE 402は、FE 406を管理できる場合にFE 406を受け入れ、そうでなければ拒絶する。CE 402に知られている場合、その拒絶は、任意選択により、FE 406に対する一次CEおよびバックアップCEのIDを含むことができる。受け入れられた場合、FE 406は、その一次CEまたはバックアップCEとの接触に進むか、または他のCE 402との接触による探索を継続する。
障害検出および修復
動的バインディング・プロトコルは、CE 402の障害を検出し、修復するメカニズムを備える。FE 406とCE 402との間で関連付けが行われた後、その関連付けが有効かどうか、FE 406により開始されたハートビート・メッセージを通じて定期的に調査が行われる。ハートビート・メッセージがCE 402からどのような応答も引き出さない場合、CE 402への経路はもはや有効でない、またはCE 402はもはや生きていないことを意味する。その後、FE 406は、アクティベート・メッセージを送信することによりバックアップCEの1つにフェイルオーバーする。バックアップCEは、アクティベート・メッセージの受信を確認し、その後管理側CEとなる。CE 402は、変更を受け入れたFEからの受信確認なしではCE 402との関連付けを解除できない。このことは、現在の管理側CEがまだ生きている限り、管理側CEを変更することを望んでいるFE 406についても当てはまる。
トランスポート・トンネル
動的バインディング・プロトコルは、スロー・パス(つまり、必ずしも最短経路ではない、ソースでルーティングまたはブリッジングされた経路)と呼ばれる、FE 406とその関連付けられたCE 402との間の基本的なトランスポート・トンネルをセットアップし、他のすべての通信手段が失敗した場合に上位レイヤ・プロトコル(例えば、OSPF)のCE−FE通信を行えるようにする。これらのトンネルは、信頼性がなく、順序通りの配信は保証されない。これらのスロー・パス・トンネルは、FE 406に有効なルーティング・テーブルがインストールされていない場合、例えば、FE 406が初期化中であるか、またはFE 406が異なる管理側CEに切り換え中である場合など、ごくまれにしか使用されない。
これら4つのコンポーネントの組み合わせにより、動的バインディング・プロトコルでネットワーク内のFE 406とCE 402との間の動的バインディングをアクティブに発見し、維持することができる。
負荷分散、クラスタ化、およびフェイルオーバー
動的バインディング・プロトコルでは、数ホップ分だけ隔てられているCE 402とFE 406の間の動的バインディングに対応できる。このため、FE 406およびCE 402では、管理側CEおよび被管理FE集合をそれぞれ決定する際にさまざまな選択肢を利用できる。さまざまな設計の選択は、それらの選択に構造を課すことにメリットがあるかどうか、およびもしあれば使用すべき基準に応じて行うことができる。これらの選択を調整することにより、ネットワーク内の決定論的挙動、ネットワーク管理者の管理下での制御範囲の拡大、およびネットワーク計画の改善が可能になる。これらの利点があれば、所定のCE 402により管理されるFE 406を割り当てるために、管理されるFE 406の個数に関する所定のCE 402上の負荷、FE 406とその管理側CEとの間の平均距離(ホップ数を単位とする)、およびCE 402上の負荷に悪影響を及ぼすことなくフェイルオーバーをどのように素早く実行できるかといった基準を使用する。これらの基準は、所定の数のCE 402が配置されている場所を設計者が選択する、ネットワーク計画の背景状況において扱われる。
CEの配置
SoftRouterアーキテクチャの実施例の実施形態を設計するために、(1)k個のCE 402間に負荷を分散し、(2)それぞれのFE 406とその関連付けられたCE 402との間の平均距離が最小になるように、FE 406のネットワーク内にk個のCE 402を配置することが望ましい。k個のCE 402を配置する場所に制約はない、およびFE 406は任意のCEにより管理されるように割り当てることができるという初期仮定が置かれる。一次CEの集合にわたるFE 405の負荷は、分散され、それと同時に、FE 406とその一次CEとの間の平均距離が最小にされる。リンクは、異なる遅延またはフェイルオーバー特性を持つことがあり、CE 402の位置は、選択される。どのようなCEサーバもできる限り過負荷にならないようにするのが望ましい。また、FE 406とその一次CEとの間の平均距離を最小にし、通信待ち時間を短縮し、CE 402上で実行するルーティング・プロトコルに障害発生を素早く通知できるようにすることが望ましい。さらに、FE 406がその一次CEに近いほど、発見プロセスは速く収束する。そのため、すべてのCE 402の能力が等しければ、FEネットワークをほぼ等しいサイズの複数のクラスタに分割することで、負荷分散することと、管理側CEとFE 406との間の平均距離を最小にすることというこれらの二重の目標が達成される。
このk辺均等分配問題では、目標は、グラフを等しいサイズの複数のクラスタに分割する場合に、各クラスタ内の辺の重みを最小にすることである。この最適化問題は、NP完全と呼ばれる。多項式時間内に、ただし近似に対する厳密な限界なしで、完了する実現に基づけば、この問題に対するほぼ最適な解が得られる。再帰的グラフ2分割法では、グラフを2つのサブグラフに再帰的に分割することによりk辺分割が得られ、それらのサブグラフの一方は、サイズ[n/k]に設定される。再帰的グラフ2分割法は、ネットワークが適切に連結している場合には、十分うまく働く。
図6は、20ノードおよび44リンクを持つ典型的なTier 1 POPレベルISPトポロジ上で使用されるような再帰的2分割法を示している。このネットワークの直径は4である。CE 402の個数は、2から7までの範囲であり、それらの結果は、CEクラスタ1つ当たりのFE 406の個数および管理側CEからFE 406までの距離に基づく図7の表にまとめられている。CEは、単一のFE 406に接続される。CE 402が複数のFE 406との直接リンクを持つ場合、距離測定基準はさらに小さくなる。
フェイルオーバー
CE 402フェイルオーバーは、FE 406とその管理側CEとの間の関連付けがタイムアウトになった場合に発生する。これは、管理側CEがダウンしたという理由で、またはFE 406がハートビート交換のため管理側CEへの有効な経路を発見できない場合に発生しうる。その後、CEフェイルオーバーが実行され、FEは、他の関連付けられたCE 402があればそれに切り換わる。その後、新しいCE 402は新しい管理側CEになる。
フェイルオーバーは、最小の遅延で発生する必要がある。したがって、所定のFE 406についてどのCE 402がバックアップCEとして指定されるかが決定される。FE 506は、複数のバックアップCEを、それらの間の優先順位順で持ちうる。SoftRouterアーキテクチャの実施例の実施形態では、バックアップCEを選択する基準は、最短フェイルオーバー時間を含む。
バックアップCEは、各バックアップCEと前のバックアップCEおよび一次CEとの経路重なり量が最小となるように選択される。一次CEからFE 406への経路は、FE 406から選択されたバックアップCEへの経路との重なりが最小であるのが好ましい。同様に、第2のバックアップCEは、FE 406への経路とFE 406から一次CEおよび第1のバックアップCEの両方への最短経路との重なりが最小になるように選択される。複数のリンクまたはCE/FE障害が存在しても、接続性が確実に維持されるようにすることが1つの目標である。
バックアップCEを使用しているFE 406は、条件が許せば、常に、その一次CEに再関連付けをしてそれに切り換えようとする。このため、負荷分散アルゴリズムにより決定されるように、すべてのCE 402上の負荷はほとんど等しいことが保証される。
プロトタイプの実装
図7は、プロトタイプ・テストベッドの実施例のブロック図である。SoftRouterアーキテクチャの実施例の実現可能性を検証するために、FE 406およびCE 402として動作する市販のルータとPCとの混合を使用するテストベッドでプロトタイプの実装を行った。このテストベッドは、6個のNE 500(それぞれのNEは、図8において同じ形状を持つコンポーネントにより示されている)、Cisco(商標)7200ルータ700、Juniper(商標)M−20ルータ702、ホストPC 704、サーバPC 705、およびネットワーク・モニタPC(図に示されていない)を含み、すべてEthernet(登録商標)を介して相互接続されている。それぞれのNE 500は、一次CEおよびバックアップCEに接続された少なくとも1つまたは複数のFE 406を含む。FE 406は、特定の一次CEおよびバックアップCEを選択するように事前構成されている。通常動作時には、一次CEは管理側CEとして選択される。NE 500の一次CEおよびバックアップCEは、2つの異なるPCE、PCE1 706、およびPCE2 708上でホスティングされる。それぞれのPCEは、高性能制御サーバからなるクラスタを表しているが、簡単のためテストベッドでは単一サーバとして実装されている。
一次CE(つまり、CE1p 710、CE2p 712、CE6p 714)は、PCE2 708および制御FE1 716{FE2a 718、FE2b 720}およびFE6 722上でそれぞれホスティングされる。対応するバックアップCE(つまり、CE1b 724、CE2b 726、CE6b 728)は、PCE1 706上でホスティングされる。一次CE(つまり、CE3p 730、CE4p 732、CE5p 734)は、PCE1 706および制御FE 406{FE3a 736、FE3b 738、FE3c 740}、FE4 742、およびFE5 744上でそれぞれホスティングされる。対応するバックアップCE(つまり、CE3b 746、CE4b 748、CE5b 750)は、PCE2 708上でホスティングされる。
テストベッド・トポロジは、3種類のNE 500、つまり(1)少なくとも1つの直接リンクを持つNE 500のCE 402およびFE 406(つまり、NE1、NE2、NE3)、(2)CE 402とFE 406との間で数ホップ分だけ隔てられているNE 500のCE 402およびFE 406(NE4、NE5、NE6)を受け入れる。
このプロトタイプの動的バインディング・プロトコルの挙動を評価するために3つの実験が計画された。実験1では、ネットワーク規模のブートの場合に、すべてのCE 402情報がネットワーク全体に伝播するまでの継続時間を決定する。実験2では、リンクおよびノードに障害が発生した場合に、ソース・ルート収束時間を測定する。実験3では、管理側CEに障害が発生した場合にバックアップCEへのフェイルオーバー時間を測定する。ネットワーク・イベントは、FE 406のローカル上でタイム・スタンプが記録され、ネットワーク・モニタPC(図に示されていない)に送信される。すべてのFE 406は、ネットワーク・イベントを相互に関連付けるためネットワーク・タイム・プロトコル(NTP)を介して時間同期がとられる。実験毎に、3回測定を行い、その結果の平均をとった。すべての測定時間は秒単位である。
実験1
実験1では、動的バインディング・プロトコルは、すべてのCE 402およびFE 406上で同時に起動された。CE 402伝播時間は、すべてのCE 402に関して最後のFE 406が学習するのに要した時間であり、表1に示されている。
Figure 2006135975
これらの結果から、PCE1 706およびPCE2 708から出たCE 402情報は最終的に、すべてのFE 406に到達し、2つの重なり合う波で伝播することがわかる。FE1 716、FE3a 736、およびFE4 742は、両方の波が交差する最初のノードであり、したがって、それらのノードは、ネットワーク内のすべてのCE 402に気づく最初のノードになる。
実験2
実験2では、リンクおよびノードの障害が動的バインディング・プロトコルの収束時間に及ぼす影響について調べる。リンクFE2b−FE4 752が、最初に切断され、再び接続された。切断後、FE4 742は、リンク障害を発見し、FE3b 738により伝播された情報によりソース・ルートを調整した。その後、この情報は、FE6 722に受け渡された。再接続の後、FE4 742はFE2b 720からPCE2 708上のCE 402へのより短いルートの情報を受け取り、それをFE6 722に伝播した。表2は、ソース・ルート収束時間を示している。
Figure 2006135975
ノード障害では、ノードFE1 716が停止される。ノード障害の後、FE2a 718およびFE3a 736は、最初に、FE1 716がダウンしていることを発見する。これらは、FE1 716を伴うすべてのソース・ルートを除去し、そのような情報の伝播を停止する。その近隣要素は、次の伝播サイクルで無効なルートを発見し、それらをソース・ルート・テーブルから除去する。並行して、PCE1 706およびPCE2 708上の一次CEおよびバックアップCEへのより長い代替えルートが選択される。FE4 742が蒔いた情報のみを通じてバックアップCEへの新しいルートに関して学習するので、FE3a 736、FE3c 740、およびFE5 744は、収束する最後のノードである。ノードFE1 716が再起動されると、同様のパターンが観察され、その際に、ノードFE1 716、FE2a 718、およびFE3a 736が最初に収束し、FE1 716から2および3ホップだけ離れているFE3b 738、FE3c 740、およびFE5 744が続く。収束時間は、ネットワーク内のすべてのCE 402について学習するのに要する時間を示す。
実験3
実験3では、フェイルオーバーのシナリオでは、CE3p 730プロセスが終了し、これは、FE3a 736、FE3b 738、およびFE3c 740にハートビート・タイムアウトを引き起こす。それぞれのFE 406は、独立にタイムアウトを検出し、CE3b 746に切り替わる。タイムアウトとバックアップCEのアクティベーションとの間の平均時間は、FE3a 736では0.8秒、FE3b 738では1秒、FE3c 740では1.1秒である。
動的バインディングがリンクまたはCE/FE障害発生後バックグラウンドで実行されている間、対応する管理側CEによりインストールされたFIBに基づいてネットワーク内で転送が続いている。OSPFなどの上位レイヤのルーティング・プロトコルによる障害検出が瞬間的でなければ、動的バインディング・プロトコルにより達成される収束時間は、上位レイヤのルーティング・プロトコルの収束時間よりも短い。したがって、動的バインディング・プロトコルは、ほとんどの場合、ネットワーク・ルーティングの挙動の残り部分に対し有害な影響を及ぼさない。
本発明のさまざまな実施形態では、プロトコル集約、高信頼性、およびブートストラッピングのパラドックスといった技術的難題に取り組む。CEサーバでの単一プロトコル・インスタンス化で複数のFEを管理する場合にOSPF/BGPのようなプロトコルを動作させる方法、CEサーバを配置すべき場所を決定する方法、どのCEサーバがどのFEを管理するかを決定する方法がある。ブートストラッピングのパラドックスは、FEがCEサーバへのパケットのルーティングのため更新された転送テーブルを必要とするという点で一種の鶏が先か卵が先かの問題であるが、CEサーバのみが転送テーブルを更新できる。
ルーティング・プロトコル
ルーティング・プロトコルは、SoftRouterアーキテクチャの実施例の一実施形態などの 分解ルータ・ネットワーク内で動作する。ルーティング・プロトコルは、CE 402でリモート動作し、転送テーブルおよびその他の情報をFE 406にダウンロードすることにより1つまたは複数のFE 406を制御する。SoftRouterアーキテクチャの実施例は、ドメイン内ルーティングおよびドメイン間ルーティングの両方のプロトコル実現を含む。
ドメイン内ルーティング
OSPFなどのドメイン内ルーティング・プロトコルは、SoftRouterアーキテクチャの実施例に移行される。OSPFは、リンク状態広告(LSA)を高い信頼度で近隣ルータにフラッディングすることにより、OSPFを実行しているそれぞれのルータがネットワーク全体のトポロジを記述している同一のリンク状態データベースを維持できるようにするリンク状態プロトコルである。図9および10は、従来のルータ・アーキテクチャおよびSoftRouterアーキテクチャの実施例におけるOSPFプロトコル実行の差を強調して示している。
図8は、それぞれのルータ300が、自リンク状態データベース(LSDB)を保持するOSPFインスタンス800を実行する、従来技術のネットワークを示す。Nノード・ネットワークでは、N個のLSDBは同期をとられなければならない。この従来のアーキテクチャでは、ネットワーク内のすべてのルータがOSPFインスタンス800の自コピーを実行するが、図10に示されているSoftRouterアーキテクチャの実施例では、CEのみがOSPFインスタンス800を実行する。
図9は、それぞれのCE 402が複数のFE 406の代わりにOSPFインスタンス800を実行するSoftRouterアーキテクチャの実施例の一実施形態を示す。Nノード・ネットワークでは、それぞれのCEが10個のFE 406を管理する場合、N/10個のCEのみがある。したがって、N/10個のLSDBの同期をとるだけでよく、そのため収束が高速化される。CEは、それが制御する複数のFE 406の代わりに、リモートでOSPFインスタンス800を実行する。図10に示されているSoftRouterアーキテクチャの実施例および図8に示されている従来のアーキテクチャにおけるFE 406の総数は同じである。しかし、CE 402の総数は、図8に示されている従来のアーキテクチャよりも図9に示されているSoftRouterアーキテクチャの実施例のほうが少ない。さらに、ネットワーク間のOSPFインスタンス800の総数は、図8に示されている従来のアーキテクチャよりも図9に示されているSoftRouterアーキテクチャの実施例のほうが少ない。
OSPFインスタンス800は、複数のFE 406を管理し、ネットワーク全体に対するルートを計算する。1つのOSPFインスタンス800で複数のFE 406を管理できるようにする際に1つの問題が生じるが、それは、内部リンク、つまり、単一のOSPFインスタンス800により管理されるFE 406を接続するリンクを管理することである。内部リンクは、図9中に二重線で示されている。SoftRouterアーキテクチャの実施例の複数の実施形態は、内部リンクを管理するために、(1)内部リンクおよび重みを他のOSPF近隣要素に広告する、(2)それぞれのNE 500をOSPF領域として構成し、その結果内部リンクに関する要約広告を出力する、または(3)別々の内部リンク・ルーティング・プロトコルを使用し、その結果内部リンクについての広告を行わない、という3つのアプローチを含む。
第1のアプローチは、計算されるルートは、従来の分散OSPFを使用して計算されるルートと同一であるという点で従来の分散OSPF実装(1つのFE 406について1つのOSPFインスタンス)に最も近い近似である。つまり、内部リンクは、外部リンクと同一のものとして取り扱われる。この第1のアプローチでは、従来のアーキテクチャに比べてOSPFプロセスの数が少なく、メッセージ処理のオーバーヘッドが低いため、ネットワーク内で交換されるOSPFプロトコル・メッセージはそれでも少ない。
第2のアプローチでは、OSPF領域の構成に固有の自然な階層をSoftRouterアーキテクチャの実施例内のNE 500の定義を表す階層と一致させようとする。この第2のアプローチでは、それぞれのNE 500は、OSPF領域として定義され、1領域につき単一のOSPFプロセスが1つある。この結果、内部リンクが他のOSPFプロセスに要約広告の形で広告される。この第2のアプローチでは、内部リンクの障害/振動のため、ネットワーク全体のルート変更の形で比較的わずかの摂動が生じる。しかし、この第2のアプローチでは、ルーティングはOSPF領域にまたがって最適であることを保証されないため、現在のアーキテクチャに存在する最適なルーティングを犠牲にする。これは、元の配備で構成されたOSPF領域はなかったと仮定している。
第3のアプローチは、3つのアプローチのうち最も積極的な最適化である。第3のアプローチでは、内部リンクと外部リンクの定義の間の厳密な境界を維持する従来の挙動は保持され、内部リンクはOSPF近隣要素に広告されない(例えば、内部リンクは筐体内のバックプレーン/スイッチ・ファブリックであってよいし、FE 406を接続する非常に高速なリンクであってもよい)。ある意味で、第3のアプローチは、NE 500を構築する際に採用される戦略をそっくりまねている。3つのアプローチのうち、第3のアプローチを使用した場合、交換されるメッセージが最少となり、障害を原因とするルート変更が最少になり、収束時間が最短となる。しかし、最適なルーティングは、従来のルータ内のバックプレーン/スイッチ・ファブリックについて仮定されているように、内部リンクが本当にゼロ・コストの場合にのみ達成される。
最後に、3つのアプローチすべてに共通なのは、SoftRouterアーキテクチャの実施例における異なるOSPFプロトコル・インスタンス化800の間でOSPFプロトコル・メッセージをどのように交換するかという問題である。少なくとも2つの可能性があり、OSPFプロトコル・メッセージをCE 402からFE 406にトンネリングして、FE 406がOSPFプロトコル・メッセージを発しているかのようにすべての近隣要素に見せるか、またはOSPFプロトコル・メッセージをCE 402同士の間で直接交換する。前者のオプションでは、NE 500と従来のルータとの相互運用性が可能になるが、後者のオプションは、2つのCE 402間で重複するメッセージ交換(つまり、2つのNE 500が複数のリンクにより接続されている場合)がなくなるためより効率的である。
実装
上で説明されたこれら3つのアプローチのうち好ましいのは、最も積極的な最適化を行う3番目である。さらに、従来のルータとの相互運用性のため、CE 402からFE 406にプロトコル・メッセージをトンネリングし、その後、通常のOSPFメッセージとしてFE近隣要素に送信する戦略が採用される。つまり、CE 402とFE 406との間のすべての制御プロトコルおよび管理メッセージは、FE/CEトランスポート・プロトコルを使用してトンネリングされるということである。
OSPFプロトコルについて実験を実行、実施するテストベッドのセットアップは、図7に示されているものと同じである。OSPFは、動的バインディング・プロトコルが収束し、初期CE/FEバインディングが実行された後にのみ起動される。上述のように、CE 402毎に1つのOSPFインスタンス800が実行され、1つまたは複数のFE 406を制御することができる。例えば、図7のCE3p 730は、FE3a 736、FE3b 738、およびFE3c 740を制御し、単一エンティティ(NE3)を形成する役割を持つが、CE4p 732およびCE5p 734は、それぞれFE4 742およびFE5 744を制御する役割を持つ。OSPFの観点から、それぞれのCE 402は、ネットワーク内のノードとして見られ、OSPF近隣要素は、基礎となる物理的FE 406近隣要素に基づいて確定される。
OSPF近隣要素が確定され、ネットワーク内のすべてのノードがそのリンク状態データベースを収束させた後、OSPFはダイクストラの最短経路優先(SPF)アルゴリズムを実行してルーティング・テーブルを決定する。ルーティング情報が、他のすべてのルーティング・プロトコル(例えば、BGP、静的)からルート情報を集約し、FIBにダウンロードされる必要がある所定のデスティネーションに対し可能な最良のルートを選択するルーティング・テーブル・マネージャ(RTM)に注入される。SoftRouterアーキテクチャの実施例における転送エンジンはリモート・デバイス上に配置されているため、ルート入力情報は、ルート更新メッセージ上でFE/CEトランスポート・プロトコルを使用してCE 402からFE 406に伝送される。FE 406は、このメッセージを受信して、情報を転送エンジンにダウンロードし、更新の成功に関してCE 402に応答を返す。ルートを更新できなかった場合、CE 402は、この更新メッセージを再びFE 406に送信する作業を再試行する。
実験結果および測定基準
図7に示されているテストベッドで実験が行われた。SoftRouterアーキテクチャの実施例におけるOSPFルーティング・プロトコルのパフォーマンスが評価され、従来のアーキテクチャのものと比較される。すべての結果は、10回の実験から得られた値を平均することにより計算された。(1)ネットワーク収束時間、(2)プロトコル・メッセージ・カウント、および(3)ルート変更カウントの3つの測定基準が評価された。ネットワーク収束時間は、イベント変更が検出されてからネットワーク内のすべてのルータが更新されたルーティング・テーブル・エントリとともに定常状態に到達するまでに実行される結合として定義される。イベントは、リンクまたはノードの障害もしくは回復とすることが可能である。収束時間が小さい場合、ネットワークが変更を受けた後に素早く安定になるとロバストなネットワークであることを示す。検出時間は両方のアーキテクチャで共通であり、知られている方法により最適化することができるため、イベント検出はこの測定基準の一部として含まれない。プロトコル・メッセージ・カウントは、ネットワークが安定するまで障害イベントに続いてネットワーク内のルータにより処理されるOSPFプロトコル・メッセージの個数として定義される。これは、障害の結果としての処理負荷のスパイクの測定である。短時間のうちにメッセージ・カウントが高い場合、輻輳が発生している可能性があり、パケットの喪失、プロトコル状態マシン内のタイムアウト、およびネットワーク不安定が生じることになる。ルート変更カウントは、ネットワークが安定するまで障害イベントに続いてネットワーク内のルータにおいて変更されたルートの個数として定義される。これもまた、短時間のうちに何回もルート変更があると、ネットワーク安定性にマイナス影響を及ぼす可能性がある。
収束時間
従来のルータ・アーキテクチャとSoftRouterアーキテクチャの実施例の間の異なるパフォーマンス測定基準を比較するために、(1)単一のリンクおよび(2)単一のノード(複数リンク)に対する障害およびその後の回復という2つの事例が評価される。これらの実験で、FE5aとFE6aとの間のリンクは、単一のリンク障害シナリオに使用され、ノードFE6aは、単一のノード障害シナリオに使用された。同じコアOSPF実装および既定の構成値は、従来のアーキテクチャとSoftRouterアーキテクチャの実施例との比較に使用された。SPFホールド・タイマーおよびSPF遅延タイマーは、障害/定常状態への回復の間の時間であるOSPF収束時間を決定する際に重要な役割を果たす。SoftRouterアーキテクチャの実施例では、SPFホールド時間(つまり、連続するSPF実行の間に待つ時間)は、既定値である10秒に設定され、SPF遅延時間(つまり、データベース変更を受け取った後でさえもSPFを実行するまでに待つ時間)は5秒に設定される。これらのタイマーは、あまりに頻繁なSPF計算を行わないようにすることによりルーティングの不安定さを防いだ。
実施された実験に対する障害/定常状態への回復の後の平均OSPF収束時間は、従来のアーキテクチャおよびSoftRouterアーキテクチャの実施例について以下の表3にまとめられている。以下の表に示されているように、SoftRouterアーキテクチャの実施例に対する結果は、従来のアプローチに対する結果よりもわずかによい。SoftRouterアーキテクチャのOSPF近隣要素の総数は従来のアーキテクチャに比べて少ない(SoftRouterアーキテクチャの実施例では単一NE 500として振る舞う複数のデバイスを集約できるため)のでSoftRouterアーキテクチャの実施例は、一般に、よいと期待されるが、収束時間はリンク状態データベース同期処理に関わるさまざまなOSPFタイマーにより決定されるため(また、要素の個数の全体的低減はあまり大きくない、つまり、11ノードから8ノードにすぎないという事実から)、差は小さい。
Figure 2006135975
メッセージおよびルート変更カウント
SoftRouterアーキテクチャの実施例と従来のアーキテクチャの間で他の2つのパフォーマンス測定基準の結果を比較した。OSPFメッセージの総数をルート更新/変更の総数と比較した。リンクまたはノードが故障するか、または回復する(または、新しく現れる)と、OSPFは、ネットワーク全体を通してフラッディングされるリンク更新メッセージをトリガする。すべてのノードに関するリンク状態データベースが同期し、定常状態に到達すると、ダイクストラのSPFアルゴリズムを使用して、それぞれのデスティネーションの最短経路が計算され、それに応じて、ルートが更新される。表4は、従来のアーキテクチャ(TR)およびSoftRouterアーキテクチャ(SR)の実施例に対する結果をまとめたものである。表4は、両方の測定基準において、SoftRouterアーキテクチャの実施例が最後には得することを示している。またもや、これは、全ノードおよびSoftRouterアーキテクチャの実施例における対応する近接要素の個数が少ないからである。そのため、OSPFは収束が速かっただけでなく、SoftRouterアーキテクチャの実施例ではフラッディングされたメッセージも少なく、引き起こされたルート変更の回数も少ない。
Figure 2006135975
シミュレーション結果
より大きなトポロジの場合にこれらの測定基準に対する障害の影響について、シミュレーションで調べた。SoftRouterアーキテクチャの実施例で可能な最適化を評価するために、シミュレータを使用した。シミュレータは、シミュレートされるネットワーク内の各ルータについて実際のソフトウェア・プログラム(ospfd)のコピーを実行し、これにより、従来のアーキテクチャに合わせて最適化されているOSPF実装を使用し高忠実度の評価を行えた。このシミュレータは、以下のようにSoftRouterアーキテクチャの実施例においてOSPFパフォーマンスを評価するために拡張された。転送および制御プレーンは分離された。ソフトウェア・プログラムは、CE 402上でリモートから実行された。複数ルータ(FE 406)という概念がソフトウェア・プログラムに導入された。外部および内部リンクという概念もソフトウェア・プログラムに導入された。単一のリンク状態データベースが、ソフトウェア・プログラム内で維持され、実行されたが、それぞれのFE 406の観点からダイクストラのSPFアルゴリズムを実行することにより導かれるFE 406毎に一意的なルーティング・テーブルに対応するように修正された。OSPFのアプローチ1および3のシミュレーションを行い、従来のアーキテクチャと対比して、SoftRouterアーキテクチャの実施例における性能向上の範囲を例示した。
評価では、Nノード・リングおよび完全メッシュ・トポロジが、標準的なISPポップ・レベル・トポロジ(20ノード、44リンクのTier 1 ISPトポロジ、図6を参照)とともに考察された。リンク伝播遅延は、すべてのリンクについて10ミリ秒に設定された。この3つのパフォーマンス測定基準は、これらのトポロジが、リンクまたはノード障害/回復などの変更を受けたときに評価された。
収束時間
単一リンク障害の後の収束時間測定基準に対する結果を得た。SPF計算の実行回数を決定する、SPF遅延タイマーは、1秒に設定された。従来のルータ・アーキテクチャ(TR)のパフォーマンスを、1ノードにつき1つのOSPFプロセスで、SoftRouterアーキテクチャ(SR)の実施例におけるOSPF最適化アプローチ1のパフォーマンスと比較した。アプローチ1では、TRとSRの両方の結果として、収束後、ルーティング変更の回数は同じであり、ルーティング・テーブルは同一になった。ネットワーク全体を管理する1つのCE 402および2つのCE 402の事例を考察した。すべてのCE 402は、制御されるすべてのFEから高々、N/10ホップだけ離れている。(この条件で感度分析も実行した。)ネットワーク全体を管理する1つのCE 402の事例は、OSPFプロトコル・メッセージ交換が実行されないことを意味する。CE 402は、リンク障害イベントを通知されると、すべてのFE 406に対するすべてのペアSPF計算を単純に実行し、更新されたFIBをFE 406にダウンロードした。ネットワーク全体に対し1つのCE 402を用意することは大きなネットワークについてはスケーラブルでない場合があるが、小規模から中規模までのネットワークについては非常に効率的であると考えられる。さらに、1つの論理CE 402があるとしても、CE 402は、ホット・フェイルオーバーを採用し、リンク接続性の高い、丈夫なマルチブレード・ラック・サーバ上に実装することができ、その結果可用性を高められる。
図10は、実験により得られた平均収束時間とリング・トポロジ内のノードの個数とを対比したグラフである。それぞれのデータ点は、100回の実験から得られた収束時間の平均である。すべての場合において、収束時間は、一般に、ノードの個数が増えるとともに増大した。しかし、従来のアーキテクチャでは、収束時間の増大率は、SoftRouterアーキテクチャの実施例における増大率に比べてかなり高い。これは、N個のOSPFプロセスを実行するオーバーヘッドが高く、その結果、従来のアーキテクチャではメッセージ処理負荷が高くなるからである。最後に、ネットワーク全体に対する1つのCE 402のSoftRouterアーキテクチャの実施例のインスタンス化の結果として収束時間は最低となるが、それは、OSPFプロトコル処理オーバーヘッドが非常に小さいからである。
図11は、実験により得られた平均収束時間と異なる20ノード・トポロジとを対比したグラフである(つまり、リング、ISP、およびメッシュ)。従来のアーキテクチャでは、ノード次数がリンクからISPへ増えると、収束時間は、1640msから1481msに改善した。しかし、トポロジが完全接続メッシュになると、収束時間はわずかに増大した(1481msから1511msに)。これは、複数の経路に到着するOSPFメッセージが増え、それらを処理する負荷がかかったためである。SoftRouterアーキテクチャの実施例の場合、収束時間値は、すべてのアーキテクチャについて低かった。さらに、CE 402とFE 406との間の最悪の距離(両方の場合においてN/10ホップに設定)で収束時間が決まるので、リング・トポロジとISPトポロジとの収束時間値の差はごくわずかしかない
図12は、実験により得られた平均収束時間と100ノード・リング・トポロジのSPF遅延タイマー値とを対比したグラフである。あるOSPFベンダの実装ではSPF遅延タイマーの標準値は5秒である。SPF遅延タイマー値を小さくすることにより収束時間を積極的に短縮できるかどうかを調べるために、SPF遅延タイマーを50ミリ秒から5秒までの範囲で変えた。SoftRouterアーキテクチャの実施例の場合のCE 402は、すべてのFE 406から高々10ホップだけ離れており、ネットワーク全体を管理するCE 402が1つ存在した。図12から、SPF遅延タイマーは、収束時間を決定するうえで大きな役割を果たすことは明らかである。SPFの計算はコンピュータを集中的に使用するが、それでも数ミリ秒程度要するだけである。そのため、SPF遅延値(特に、数秒程度の場合)および伝播遅延(リングなどの直径の大きなネットワークの場合)は支配的になる傾向があった。
図13は、1つのCE 402がSoftRouterアーキテクチャの実施例を管理する、実験により得られた平均収束時間とリング・トポロジ内のノードの個数とを対比したグラフである。CE 402の配置に対する感度は、CE 402がこのFE 406から離れている距離である最悪の場合のホップ数を変えることにより評価された。CE 402でOSPF計算が実行されたため、FE 406とCE 402との間にメッセージ待ち時間があるため、SoftRouterアーキテクチャの実施例のオーバーヘッドは高かった。SPF遅延タイマーは、収束時間の積極的短縮を考慮して50ミリ秒に設定された。
SoftRouterアーキテクチャの実施例における最悪の場合の収束時間は、CE 402がFE 406からN/2ホップだけ離れている場合に対応していた(N/2はリングに対するネットワーク直径である)。この場合、SoftRouterアーキテクチャの実施例および従来のルータ・アーキテクチャの収束時間はほとんど同じであった(図13ではラインは重なっている)。これは、従来のルータ・アーキテクチャの最悪の場合の伝播遅延(ネットワーク直径)がSoftRouterアーキテクチャの実施例における最悪の場合の伝播遅延(CE−FE距離)と同じだからである。
そのため、リンク障害後の収束時間は、SPF遅延タイマーが任意に小さくされた場合に伝播遅延により決まった。しかし、SPF遅延タイマーはネットワークの不安定性を防ぐので、SPF遅延タイマーに対する非常に小さな値は、100個のOSPFプロセスを使用する従来のルータ・アーキテクチャのネットワークの不安定を引き起こし、したがって、1〜3個のOSPFプロセスを使用するSoftRouterアーキテクチャの実施例のネットワークの不安定を引き起こす可能性がかなり高い。
図14は、実験により得られた障害回復時間とノードの個数とを対比したグラフである。ms単位の平均障害回復時間を縦軸に、ノード数(0、10、...、100)を横軸に示す。図7に示されているデータは、Nノード・リング・ネットワーク上のシミュレーションから得られたデータである。このシミュレーションでは、イベントは単一リンク障害であり、最短経路優先(SPF)遅延タイマーは1秒に設定され、これがSPF計算の実行回数を決定する。このシミュレーションでのSoftRouterアーキテクチャの実施例では、CEはそのFEから高々N/10ホップだけ離れていると仮定される。SoftRouterアーキテクチャの実施例では、OSPFプロセスは数桁少なく、障害回復が速くなる。このシミュレーションでは、SoftRouterアーキテクチャの実施例に対する最低障害回復時間はネットワーク全体に対するルーティング計算を実行する1つのCE/OSPFプロセス分である。
図15は、実験により得られた障害回復時間と50msのSPF遅延時間についてのノードの個数との対比を示すグラフである。50msのSPF遅延タイマーは、わずかのOSPFインスタンスを使用するSoftRouterアーキテクチャの実施例の場合には現実的であるが、この設定だと、数百個のOSPFインスタンスを使用する従来アーキテクチャではネットワークの不安定性が生じる可能性がある。50msの障害回復時間は、SoftRouterネットワークの実施例が1つまたは2つの一次CE/OSPFプロセスにより管理される場合に実現可能であり、CEからそのFEまでの伝播遅延は小さい。CEを慎重に配置することは、SoftRouterアーキテクチャの実施例の実施形態を設計する作業の一部である。
メッセージおよびルート変更カウント
20ノードのリング、メッシュ、およびISPトポロジを使用して、ネットワークの変更に続いて発生するOSPFメッセージおよびルート変更の数を決定する一連の実験を実施した。SoftRouterアーキテクチャの実施例の場合、1つのCE 402にネットワーク全体を管理させることは、交換されるプロトコル・メッセージは0個であろうから、メッセージングのオーバーヘッドに関して最適であろう。上述のように、ネットワークが地理的に分散している場合、ネットワークを管理する2つまたは3つのCE 402は、FE 406とCE 402との間の伝播待ち時間を短縮し、その結果、収束が高速化される。そこで、SoftRouterアーキテクチャの実施例を管理する3つのCE 402の場合に対する控えめな結果が提示されている。
従来の分散OSPF実装(TR)は、シミュレートされ、SoftRouterアーキテクチャの実施例のアプローチ1および3は、SR1およびSR3として識別される。SR1は、すべての内部リンクを広告するので、TRと比較してルート変更回数が減るが、ネットワーク内のOSPFインスタンス800が少ないため、SR1は交換されるOSPFメッセージの数を大幅に減らす。SR3は、さらに、内部リンクを広告しないことによりSR1を最適化し、その結果、ルート変更はSR1よりも少なくなる。
Figure 2006135975
表6に、結果が示されている。まず、ネットワークの平均ノード次数が増えると、変更イベントの後のOSPFメッセージおよびルート変更の数が増大することが観察された。そこで、メッシュ・トポロジは最高のメッセージ・カウント数およびルート変更回数を示し、その後にISPトポロジが続き、最後に、リング・トポロジが続いた。
第2に、SR1は、TRと比較してネットワーク内で処理される全OSPFメッセージの数を大幅に減らし、リングおよびISPトポロジの場合に、単一のCE 402により処理される最大OSPFメッセージを大幅に減らすことが観察された。メッセージ削減の利得割合は、リング・トポロジについては最高、メッシュ・トポロジについては最低であった。これは、リング(メッシュ)トポロジは最低数(最高数)の外部リンクを持つためであり、SR1はすべての外部リンク上で近隣要素を確立した。SR1は、さらに、2つのNE 500間の並列外部リンク上で近隣要素を確立しないことにより最適化することが可能であり、その結果、交換されるメッセージがさらに削減される。
第3に、SR1は、TRと比較してルート変更測定基準に関する低減を行わないことが観察されたが、それは、SR1が、同一のルーティング・パフォーマンスをTRとして達成するためにすべてのリンクを広告するからである。SR3は、内部リンクを広告しないので、TR/SR1と比較してルート変更回数を大幅に減らすことができた。内部リンクが、互いに近いFE 406を接続する高帯域幅リンクであった場合、内部リンクは、ゼロ・コスト・リンクとみなすことが可能であり、したがって、SR3は、そのようなネットワークに適しているであろう。ここでもまた、前のように、ネットワーク内の全ルート変更の割合削減は、リング・トポロジからメッシュ・トポロジへと外部リンクの割合が増大するとともに減った。
最後に、ISPトポロジに対する結果を考察した。SR1は、ノード障害の後に処理されるメッセージの総数を553から22に減らし、任意のノードにより処理されるメッセージの最大数を64から10(84%の削減)に減らすことができた。従来のルータ・アーキテクチャでは、ISPトポロジ内のすべてのノードは、障害の後のわずかの時間内に最大メッセージ・カウントを処理できなければならない。それとは対照的に、SoftRouterアーキテクチャの実施例のCE 402は、最速のプロセッサを備えるサーバであり、低速の制御用プロセッサを備える従来のルータ・アーキテクチャよりも少ないメッセージを処理する。さらに、SR3では、ネットワーク内のルート変更回数も、1095から409に減らされた。したがって、アプローチSR1/SR3を使用するSoftRouterアーキテクチャの実施例は、ネットワーク障害の結果として生じる過負荷シナリオを処理できる装備を持ち、そのため、ネットワークの安定性が向上する。
結果のまとめ
障害の後のOSPF収束は、信頼できるフラッディング・メカニズムのおかげで現在の分散ネットワークではきわめて効率的である。現在のネットワーク内の収束時間の支配的部分は、SPF遅延タイマーによるものである。数百個のOSPFプロセスが含まれる現在のネットワークのネットワーク不安定性を軽減するために既定のSPF遅延タイマー値である5秒が必要であるが、SoftRouterアーキテクチャの実施例においてOSPF最適化を行えば、SPF遅延タイマー設定を積極的な設定にすることにより収束時間を約10ms以下に下げることができるが、それはネットワーク全体を管理するために2つまたは3つのOSPFのみがあればよいからである。最後に、SoftRouterアーキテクチャの実施例におけるCE 402とFE 406との間の待ち時間は、収束時間に関して大きな役割を果たし、したがって、上述のような慎重な計画を行うことで、CE 402をそのFE 406に近づけることができる。
SoftRouterアーキテクチャの実施例におけるOSPF最適化は、現在のネットワークと比較して、メッセージ処理およびルート変更のおかげで過負荷の低減にさらに劇的な影響を持つ。より少ないOSPFプロセスでネットワーク内のすべてのルータを管理できるようにすることにより、3つのCE 402がネットワークを管理する場合であっても、メッセージ・カウントを最大約80%まで削減できる。メッセージ・カウント削減は、1つのCE 402の場合には100%となる。さらに、NE 500の内部リンクがOSPFメッセージで広告されない場合、ルート変更回数も、著しく減らせる。したがって、SoftRouterアーキテクチャの実施例の実施形態では、ネットワーク安定性は、収束時間、メッセージ・カウント、およびルート変更回数により測定されるが、より少ないCE 402にネットワーク内のすべてのFE 406を管理させることにより著しく改善できる。
ドメイン間ルーティング
ドメイン間ルーティング・プロトコル、特にBGPは、SoftRouterアーキテクチャの実施例において配備され、その結果多くの利点が得られる。
図16は、ルート・リフレクタを持つ従来技術のネットワークを示している。このネットワークは、ルート・リフレクタを備えるBGPの標準的な配備である。外部BGP(E−BGP)1606を使用する大きなASネットワーク1604内には複数のルート・リフレクタ・クライアント1600およびリフレクタ1602がある。この配備には、2つの主要な欠点がある。特に、特定の条件の下では、ネットワーク1604は、ルータの部分集合が安定したルーティング状態に到達しなくてもルーティング情報を交換することができる永続的なルート振動状態に入る可能性がある。ルート・リフレクタ・アーキテクチャに関する他の問題は、内部BGP(I−BGP)の信頼性である。1つのI−BGPセッションの障害は完全メッシュI−BGPアーキテクチャの場合の2つのルータのみに影響するが、2つのルート・リフレクタ1602の間のセッションの同じ障害により、ネットワーク1604が分割され、その結果、信頼性が著しく低下する可能性がある。
図17は、SoftRouterアーキテクチャの実施例の一実施形態を示している。BGP ASネットワーク1706内には、FE/CEプロトコル・クライアント1700、l−BGPメッシュ1702があり、より小さなE−BGP 1704通信が実行される。図17には、CE 402間で維持できる完全I−BGPメッシュ1702が示されている。これは、図16に示されている従来技術のBGP ASネットワーク1604でのようにルート・リフレクタ1600を使用して発生しうるネットワーク不安定性を排除する。CE 402は、1:N冗長性を採用して信頼性を高めることができる。FE 406は、単純なFE/CEプロトコルを実行するだけでよい。SoftRouterアーキテクチャの実施例におけるBGP配備の場合では、BGPを実行するCE 402の個数は、通常、ルータの個数よりも少なくとも1桁小さい。そのため、完全I−BGPメッシュは、CE 402間で容易に維持できる。CE 402は、標準プロトコルを使用して適切な転送テーブルをすべてのFE 406にダウンロードする。したがって、永続的なルート振動問題は、SoftRouterアーキテクチャの実施例では自明な形で解決され(ルート・リフレクタがないため)、その結果、ネットワークの可用性が高まる。さらに、SoftRouterアーキテクチャの実施例では、I−BGPメッシュは、ルータの制御用プロセッサでの1:1冗長性に比べて、1:N(N>1)などのより高い冗長度を採用するサーバ間に置かれる。そのため、CE 402がマルチホーミングで接続され、フェイルオーバーのためネットワーク内に複数のCE 402があると仮定すれば、BGPの安定性および信頼性は、SoftRouterアーキテクチャの実施例では大幅に改善することができる。SoftRouterアーキテクチャの実施例のBGPの実装では、IGPおよびI−BGPではなく標準プロトコルを使用してFE 406と通信するので、FE 406上のソフトウェアが簡素化され、またI−BGPメッシュが単一のAS内のCE 402サーバ間で使用される。
SoftRouterアーキテクチャの実施例では、プロトコル集約、ネットワーク設計、およびブートストラッピングのパラドックスなどの多くの技術的難題を克服している。CE 402の単一のプロトコル・インスタンス化では複数のFE 406を管理する場合に、OSPF/BGPのようなプロトコルがどのように動作するかが決定された。OSPFの場合、予備段階の結果から、SoftRouterネットワークの実施例が1つまたは2つの一次CE/OSPFプロセスにより管理される場合に約50msの障害回復時間が実現可能であり、CE402からそのFE 406までの伝播遅延は小さいことがわかる。BGPの場合、完全BGPメッシュは、少数のCE 406間で維持され、ルート/リフレクタ・アーキテクチャの場合に発生しうるネットワークの不安定性をなくすことができる。CE 402をネットワーク設計にどのように入れ、どのCE 402でどのFE 406を管理すべきかが決定された。再帰的グラフ2分割法に基づく方法の実施例では、CE 402をどこに入れ、それぞれのCE 402でFE 406のどの集合を管理すべきかを識別している。ブートストラッピングのパラドックス(つまり、FE 406は、パケットをCE 402にルーティングするために更新された転送テーブルを必要とするが、CE 402のみが転送テーブルを更新できる)は、この循環性を破る発見プロトコルの実施例により解決された。このプロトコルを使用すると、それぞれのFE 406はCE 402にバインドすることができ、それらの間に単純なルーティング機能を提供する。
SoftRouterアーキテクチャの実施例の一応用例では、微分機能をEthernet(登録商標)に付加する。Metro Ethernet(登録商標)の配備は急速に拡大中である。仮想パス・リンク(VPL)は、広域配備の重要な機能であるが、純粋なEthernet(登録商標)スイッチングからは逸脱している。MPLS転送ハードウェアおよびIP制御プレーンが必要である。新しいチップでは、転送サポート機能を集積化している。VPLに対する制御プレーンの必要条件には、複雑なソフトウェアを実行するためのEthernet(登録商標)スイッチが含まれる。SoftRouterアーキテクチャの実施例は、すべてのEthernet(登録商標)スイッチ上で複雑なIPソフトウェアを必要としないことによりネットワークを簡素化するCE 402を含む。カスタマイズされた経路計算を有効にすると、微分機能を持つCE 402を使用できる。
SoftRouterアーキテクチャの実施例の他の応用例では、POPでのルーティングを統合する。POPに対する総コストは、SoftRouterアーキテクチャを使用することで著しく低減できるが、それは、専用ハードウェアではない市販のハードウェア、複数のベンダによる標準ベースのFE 406を使用しており、またルータ・インターフェイスに対するEthernet(登録商標)のような価格決定力を持つからである。オープン・ソース・ベースのルーティング・ソフトウェアでは、多数のコントリビュータからなる大規模なコミュニティ間に分散している開発能力を活用する。必要なコントローラは比較的少なくて済む。今日、15個のルータがあるPOPは、30個のコントローラを持つが(1:1の冗長性)、SoftRouterネットワークでは、2つから4つ程度のCE 402しか必要でない。
図18は、SoftRouterアーキテクチャの実施例の一実施形態によるPOP(Point Of Presence)における統合ルーティングを示す。SoftRouterアーキテクチャの実施例のさらに他の応用例では、POPでのルーティングを統合する。POP Ethernet(登録商標)ネットワーク1802は、コア・ルータ1804によりコア・ネットワーク1806に接続される。POP Ethernet(登録商標)ネットワーク1802は、さらに、SoftRouterサーバ(CE)402、認証、許可、およびアカウンティング(AAA)サーバ1808に接続される。デジタル加入者回線多重化装置(DSLAM)1810およびエッジ・ルータ1812(例えば、 IP/ATM/FrameRelay)は、FE 406に接続され、これらは、POP Ethernet(登録商標)ネットワーク1802に接続される。POPに対する総コストは、SoftRouterを使用することで著しく低減できるが、それは、専用ハードウェアではない市販のハードウェア、複数のベンダによる標準ベースのFE 406を使用しており、またルータ・インターフェイスに対するEthernet(登録商標)のような価格決定力を持つからである。オープン・ソース・ベースのルーティング・ソフトウェアでは、多数のコントリビュータからなる大規模なコミュニティ間に分散している開発能力を活用する。必要なコントローラは比較的少なくて済む。今日、15個のルータがあるPOPは、30個のコントローラを持つが(1:1の冗長性)、SoftRouterネットワークでは、2つから4つ程度のCE 402しか必要でない。
要約すると、ルータ・ネットワークは、次第に複雑化してきているということである。新しいアプリケーションおよびパフォーマンス要件が出現することで、より多くの機能がIPに付加される。ルータにあまりも多くのIP機能が組み込まれる結果、ネットワークの複数のルータ内で複雑な機能が重複することになる。SoftRouterアーキテクチャの実施例ではルータのハードウェアをソフトウェアから分離する方法で、この問題に対処し、またこの方法は、他の主要な利点についても有望である。SoftRouterアーキテクチャの一実施例では、ルータの制御およびトランスポート・プレーンは、トランスポート・プレーンがパケット転送要素を含み、制御プレーンが制御要素サーバおよびフィーチャ・サーバを含むように分離される。制御プレーンおよびトランスポート・プレーンは、標準プロトコルを使用して通信する。この概念のいくつかの利点として、複雑な機能の集中化、コスト低減、オープンAPIおよびインクリメンタルな配備による新しいアプリケーションの導入の高速化および低コスト化、およびとりわけ、スケーラビリティ、信頼性、およびセキュリティの向上が挙げられる。
図19は、コンピュータを示す高水準のブロック図である。コンピュータ1900を採用して、本発明のいくつかの実施形態を実装できる。コンピュータ1900は、プロセッサ1930とともに、さまざまなプログラム1944およびデータ1946を格納するためのメモリ1940を備える。メモリ1940は、さらに、プログラム1944をサポートするオペレーティング・システム1942を格納することもできる。
プロセッサ1930は、電源、クロック回路、キャッシュ・メモリなどの従来のサポート回路とともに、メモリ1940に格納されているソフトウェア・ルーチンの実行を補助する回路と連携する。したがって、本明細書でソフトウェア方法として説明される工程のいくつかは、ハードウェア内に、例えば、プロセッサ1930と連携してさまざまな方法工程を実行する回路として実装することができる。コンピュータ1900は、さらに、コンピュータ1900と通信するさまざまな機能要素間のインターフェイスを形成する入出力(I/O)回路も備える。
コンピュータ1900は、本発明によりさまざま機能を実行するようにプログラムされた汎用コンピュータとして示されているが、本発明は、ハードウェアで、例えば、特定用途向け集積回路(ASIC)またはフィールド・プログラマブル・ゲート・アレイ(FPGA)として実装することができる。したがって、本明細書で説明されている工程段階は、ソフトウェア、ハードウェア、またはそれらの組み合わせにより等しく実行されるものとして広く解釈することを意図されている。
本発明は、コンピュータ命令がコンピュータにより処理されると、本発明に方法および/または技術が呼び出されるか、または何らかの方法により提供されるようにコンピュータの動作を適合させるコンピュータ・プログラム製品として実装することができる。本発明の方法を呼び出す命令は、固定または取り外し可能媒体に格納するか、放送媒体または他の信号伝送媒体でデータストリームを介して送信するか、および/または命令に従って動作するコンピューティング・デバイス内の作業用メモリ内に格納することができる。
本発明は、コスト低減、新しい収益機会、スケーラビリティの増大、信頼性の付加、およびセキュリティの向上を含む、顧客向けに多くの利点を有する。コスト低減は、資本支出が低く、専用制御プレーン・サーバを備える商品化された標準ベースのハードウェアのおかげであり、これは管理点が少ないこと、また運用費用が少ないことを意味する。オープン・アプリケーション・プログラミング・インターフェイス(API)およびインクリメンタルな配備を利用して容易に追加される新しいサービスをサポートするネットワーク・ベースのアプリケーションは、集中化された管理を通じて簡素化されるので新しい収益機会ができる。集中化された制御プレーン・サーバはきちんと確立されているサーバ・スケーリング技術を使用して容易に拡張できるため、スケーラビリティが高い。転送要素は、縮小されたソフトウェアおよびサーバ・ベースの制御プレーン内に容易に実装できる他の信頼性増強メカニズム(例えば、フェイルオーバーおよび過負荷制御)の利用によりロバスト性を高められるため、信頼性がさらに向上する。集中化された制御プレーン・サーバは、境界線防御システム、例えば、ファイヤウォールを使用することで容易にセキュリティ保護できるため、セキュリティが向上する。
資本支出および運用支出が少ない。SoftRouterアーキテクチャの実施例では、制御要素と転送要素の革新曲線を分ける。ハードウェアのベンダは、高速化および高密度化に力を注ぐことができる。新しいソフトウェア・ベンダが市場に参入し、アプリケーションおよび扱いやすい管理機能の実現に集中できる。参入した競争力のある企業は低価格化をもたらすであろう。CEは、高価なルータ制御基板の代わりに安価な汎用コンピューティング・ブレードで構成される。制御サーバは、多数のルータにより共有され、その結果、効率が向上する。複数のCEを備えることで、サーバ・プラットフォームの中央演算処理装置(CPU)価格対性能比曲線を利用する。FEは、ほとんどの場合、ハードウェア・ベースであり、ほとんど管理を要せず、レイヤ2デバイスに類似している。制御プレーン・サーバが少ないということは、管理点が少ないということである。構成設定を間違える可能性も少なくなる。
SoftRouterアーキテクチャの実施例は、従来のネットワークよりも信頼性が高くなるように設計されている。FEソフトウェアは、CEソフトウェアよりも1桁単純であり、FEはよりロバストである。これらの要素の間のCEおよびフェイルオーバーの戦略的配置により、CEに接続できず複数の転送要素の島が立ち往生する重大なネットワーク分割の場合を除き、ネットワーク側で事前に指定された数の障害を処理することができる。
制御点は比較的少なく、ルータの収束が高速化され、ネットワーク安定性が向上する。障害発生後に同期するOSPFリンク状態データベースの数が少ない。障害検出時間が変わらないと仮定すると、収束はより速い。これらのサーバ間の完全メッシュI−BGPが実現可能である。BGPルート・リフレクタ・アーキテクチャに関するいくつかのネットワーク不安定性問題を解消できる。
セキュリティは、従来モデルと比較してSoftRouterアーキテクチャでは改善されている。専用ルータ・オペレーティング・システム(OS)は、Linuxなどのオープン・ソースの制御用ソフトウェアほどは広くテストされていない。ルータOSへの攻撃が、最近増えてきている。制御ブレードは、1、2台よりも多数あったほうがよい。悪意あるトラフィックにより生じる過負荷は、SoftRouterアーキテクチャの実施例のサーバ内の多数の制御ブレードに分散させることができる。さらに、侵入検出を行うため、複数のSoftRouterブレード・サーバ内で高度な統計分析を実行することもできる。制御ブレードを保護するファイヤウォールを別に用意することは何もないよりもましである。SoftRouterアーキテクチャの実施例の複数の実施形態で使用する制御プレーン・サーバが少ないほど、専用ファイヤウォールを使用するセキュリティ対策が容易に行える。独立信号ネットワークは、共有信号ネットワークよりもよい。SoftRouterアーキテクチャの実施例の複数の実施形態では、独立の信号ネットワークが制御サーバを接続することが可能である。
ルータを転送および制御要素に 分解することは、上述のSoftRouterアーキテクチャの実施例の複数の実施形態の基盤である。転送要素は、パケット・フィルタリング、IPパケット・ヘッダ上の最長プレフィックス照合、トラフィック管理、およびスイッチングなどの、ほとんど繰り返しのハードウェア集約パケットの処理タスクを実行する。これらの転送要素は、すべてのトラフィックをトランスポートし、またネットワーク全体に分散される。制御要素は、少なく、ネットワーク内の戦略的な位置に配置され、現在のルータのすべての制御ロジックを具現化する。その結果、転送要素に比べていっそうソフトウェア集約的で複雑なものとなっている。従来のルータは、高々2つの制御要素と同じ場所に配置された(静的に関連付けられた)転送要素の集合からなる。本発明では、制御要素を特定の転送要素から数ネットワーク・ホップだけ離すことができ、転送要素と制御要素との間のバインディングが動的である新しいパラダイムを導入する。SoftRouterアーキテクチャの実施例のいくつかの実施形態には、安定性改善および信頼性向上を含む多数の技術上の利点がある。シミュレーションおよびテストベッドの結果を基に、これらの利点を定量化した。少数の制御要素が多数の転送要素に対するルート計算を実行するアーキテクチャは、ルータを簡素化するだけでなく、制御プレーン状態のネットワーク規模のビューにアクセスしやすくする潜在的能力を持つ。
前記の説明は本発明のさまざまな実施形態を対象としているが、本発明の基本的範囲から逸脱することなく本発明の他の実施形態およびさらなる実施形態を考案することができる。したがって、本発明の適切な範囲は、請求項により決定されるものとする。
従来のルータを示すブロック図である。 SoftRouterアーキテクチャの実施例の高水準抽象化を示すブロック図である。 従来のルータ・アーキテクチャを示すブロック図である。 SoftRouterアーキテクチャの実施例の実施形態を示すブロック図である。 ネットワーク要素を例示するSoftRouterアーキテクチャの実施例の実施形態を示すブロック図である。 20ノードおよび44リンクの標準的なTier 1 POP(Point Of Presence)レベルのインターネット・サービス・プロバイダ(ISP)トポロジ上で使用されるような再帰的二分法を示すブロック図である。 プロトタイプ・テストベッドの実施例のブロック図である。 それぞれのルータが自リンク状態データベース(LSDB)を保持する開放型最短経路優先(OSPF)インスタンスを実行する、従来技術のネットワークを示すブロック図である。 それぞれの制御要素(CE)が複数の転送要素(FE)の代わりにOSPFインスタンスを実行するSoftRouterアーキテクチャの実施例の実施形態を示すブロック図である。 実験により得られた平均収束時間とリング・トポロジ内のノードの個数とを対比したグラフである。 実験により得られた平均収束時間と異なる20ノード・トポロジとを対比したグラフである。 実験により得られた平均収束時間と100ノード・リング・トポロジのSPF遅延タイマー値とを対比したグラフである。 実験により得られた平均収束時間とリング・トポロジ内のノードの個数とを対比したグラフである。 実験により得られた障害回復時間とノードの個数とを対比したグラフである。 実験により得られた障害回復時間と50msの最短経路優先(SPF)遅延時間についてのノードの個数との対比を示すグラフである。 ルート・リフレクタを備える従来技術のネットワークを示すブロック図である。 SoftRouterアーキテクチャの実施例の実施形態を示すブロック図である。 SoftRouterアーキテクチャの実施例の一実施形態によるPOP(Point Of Presence)における統合ルーティングを示すブロック図である。 POPにおけるSoftRouterネットワークの実施形態を示すブロック図である。

Claims (10)

  1. ネットワーク・アーキテクチャであって、
    複数の転送要素(FE)を含む第1のFE集合と、
    第1のFEを制御する第1の制御要素(CE)であって、前記第1のFE集合内のそれぞれのFEの代わりに1つの第1のプロトコル・プロセスを提供し、前記第1のFE集合内の前記複数のFEから物理的に遠い位置にあり、前記第1のFE集合内のそれぞれのFEに動的にバインドされる第1の制御要素(CE)と、
    前記第1のCEおよび前記第1のFE集合を含む第1のネットワーク要素(NE)とを含むネットワーク・アーキテクチャ。
  2. 複数CEは、前記第1のNE内の前記第1のFE集合を制御する請求項1に記載のネットワーク・アーキテクチャ。
  3. さらに、
    前記第1のFE集合内の複数のFEと異なる複数のFEを含む第2のFE集合と、
    前記第2のFE集合を制御し、前記第2のFE集合の代わりに1つの第2のプロトコル・プロセスを実行し、前記第2のFE集合から物理的に遠い位置にある第2のCEと、
    前記第2のCEおよび前記第2のFE集合を含む第2のNEとを含む請求項1に記載のネットワーク・アーキテクチャ。
  4. 前記単一プロトコル・プロセスは、前記第1のNEの前記複数のFEを管理し、前記第1のNEの前記複数のFEについてドメイン内ルートを計算する請求項3に記載のネットワーク・アーキテクチャ。
  5. 前記内部リンクおよび前記内部リンクの重みは、近隣要素に広告される請求項4に記載のネットワーク・アーキテクチャ。
  6. ネットワーク・アーキテクチャであって、
    複数の転送要素(FE)と、
    複数の制御要素(CE)であって、それぞれのCEは前記他のCEと異なる、前記FEの集合を制御し、前記複数のFEから物理的に遠い位置にある複数のCEと、
    前記複数のCEの間の完全内部境界ゲートウェイ・プロトコル(I−BGP)メッシュとを含み、
    それぞれのCEは、プロトコルを使用してその制御される複数のFEと通信するネットワーク・アーキテクチャ。
  7. さらに、ドメイン内ルーティングおよびドメイン間ルーティングを含む請求項6に記載のネットワーク・アーキテクチャ。
  8. ネットワーク・アーキテクチャであって、
    複数のコア・ルータと、
    前記コア・ルータに接続されるコア・ネットワークと、
    複数の転送要素(FE)と、
    複数の制御要素(CE)であって、それぞれのCEは前記複数のFEのうちの複数を制御し、それぞれのCEはその制御される複数のFEに動的にバインドされ、それぞれのCEはその制御される複数のFEから物理的に遠い位置にあり、それぞれのCEは標準プロトコルを介してその制御される複数のFEと通信する複数のCEと、
    前記コア・ルータにより前記複数のコア・ネットワークに接続され、前記複数のCEに接続され、前記複数のFEに接続されるPoint−Of−Presence(POP)(登録商標)ネットワークとを含むネットワーク・アーキテクチャ。
  9. ネットワーク・アーキテクチャであって、
    複数のFEであって、それぞれのFEはそのFEの代わりにプロトコル・プロセスを提供する少なくとも1つのCEにより制御可能である複数のFEを含み、
    それぞれのFEは、前記CEから物理的に遠い位置にあり、
    それぞれのFEは、前記CEに動的にバインドされるネットワーク・アーキテクチャ。
  10. ネットワーク・アーキテクチャであって、
    複数のFEを制御する、それぞれのFEの代わりにプロトコル・プロセスを提供するCEと、
    それぞれのFEに前記CEを動的にバインドする動的バインディング・プロトコルとを含み、
    前記CEは、前記FEから物理的に遠い位置にあるネットワーク・アーキテクチャ。
JP2005318066A 2004-11-01 2005-11-01 SoftRouterプロトコルの分離 Expired - Fee Related JP4790376B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US62388504P 2004-11-01 2004-11-01
US60/623885 2004-11-01
US11/147,472 US8068408B2 (en) 2004-11-01 2005-06-08 Softrouter protocol disaggregation
US11/147472 2005-06-08

Publications (2)

Publication Number Publication Date
JP2006135975A true JP2006135975A (ja) 2006-05-25
JP4790376B2 JP4790376B2 (ja) 2011-10-12

Family

ID=35457257

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005318066A Expired - Fee Related JP4790376B2 (ja) 2004-11-01 2005-11-01 SoftRouterプロトコルの分離

Country Status (6)

Country Link
US (2) US8068408B2 (ja)
EP (1) EP1653688B1 (ja)
JP (1) JP4790376B2 (ja)
KR (1) KR101237862B1 (ja)
CN (1) CN1783841B (ja)
DE (1) DE602005018431D1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008054129A (ja) * 2006-08-25 2008-03-06 Nippon Telegr & Teleph Corp <Ntt> 機能分散型通信装置および経路制御方法
JP2008206028A (ja) * 2007-02-22 2008-09-04 Nippon Telegr & Teleph Corp <Ntt> 機能分散型通信装置、構成要素結合制御方法、およびプログラム
JP2009200721A (ja) * 2008-02-20 2009-09-03 Nippon Telegr & Teleph Corp <Ntt> 機能分散型パケット転送システムおよびその制御方法
US8116228B2 (en) 2006-12-22 2012-02-14 Nec Corporation Network path control system, path control device, and path control method
JP2013030863A (ja) * 2011-07-27 2013-02-07 Nec Corp スイッチ装置の制御システム、その構成制御装置および構成制御方法
US8526437B2 (en) 2008-12-25 2013-09-03 Hitachi, Ltd. Communication system and communication control device
US9866500B2 (en) 2012-02-29 2018-01-09 Nec Corporation Communication apparatus, communication method, communication system and program
US10412001B2 (en) 2011-09-22 2019-09-10 Nec Corporation Communication terminal, communication method, and program
JP2023505696A (ja) * 2019-12-12 2023-02-10 コンチネンタル オートモーティヴ ゲゼルシャフト ミット ベシュレンクテル ハフツング 通信ネットワークを介して接続されたネットワークデバイス間の時刻同期を最適化する方法

Families Citing this family (196)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7792987B1 (en) * 2003-04-21 2010-09-07 Juniper Networks, Inc. Supporting virtual private networks using a first network topology for forwarding and a subset of the first network topology or a smaller topology for signaling
US7376078B1 (en) * 2004-03-24 2008-05-20 Juniper Networks, Inc. Selective replay of a state information within a computing device
US20060090003A1 (en) * 2004-10-22 2006-04-27 Microsoft Corporation Rendezvousing resource requests with corresponding resources
US8953432B2 (en) * 2004-11-01 2015-02-10 Alcatel Lucent Softrouter dynamic binding protocol
US8068408B2 (en) * 2004-11-01 2011-11-29 Alcatel Lucent Softrouter protocol disaggregation
US9100266B2 (en) * 2004-11-01 2015-08-04 Alcatel Lucent SoftRouter protocol failovers
US9014181B2 (en) * 2004-11-01 2015-04-21 Alcatel Lucent Softrouter separate control network
US7978708B2 (en) * 2004-12-29 2011-07-12 Cisco Technology, Inc. Automatic route tagging of BGP next-hop routes in IGP
US7417947B1 (en) 2005-01-05 2008-08-26 Juniper Networks, Inc. Routing protocol failover between control units within a network router
US7684351B2 (en) * 2005-02-07 2010-03-23 Cisco Technology, Inc. Inter-domain optimization trigger in PCE-based environment
ES2383613T3 (es) 2005-10-05 2012-06-22 Nortel Networks Limited Formación de puentes del estado de enlaces de proveedores
US8059647B2 (en) * 2005-10-05 2011-11-15 Nortel Networks Limited Multicast implementation in a link state protocol controlled ethernet network
US20070101019A1 (en) * 2005-11-03 2007-05-03 Cromer Daryl C Apparatus, system, and method for managing response latency
US7551627B2 (en) * 2005-11-18 2009-06-23 At&T Intellecutal Property I, L.P. Offloading routing functions from network routers
US7835378B2 (en) * 2006-02-02 2010-11-16 Cisco Technology, Inc. Root node redundancy for multipoint-to-multipoint transport trees
US20080107027A1 (en) * 2006-11-02 2008-05-08 Nortel Networks Limited Engineered paths in a link state protocol controlled Ethernet network
WO2008093174A1 (en) * 2007-02-02 2008-08-07 Groupe Des Ecoles Des Telecommuinications (Get) Institut National Des Telecommunications (Int) Autonomic network node system
EP1976200A1 (en) * 2007-03-30 2008-10-01 British Telecommunications Public Limited Company Network bootstrapping
US7796537B2 (en) * 2007-04-17 2010-09-14 Cisco Technology, Inc. Creating non-transit nodes in a link network
CN101068214B (zh) * 2007-06-26 2013-01-30 华为技术有限公司 一种路由收敛方法和设备
EP2582092A3 (en) 2007-09-26 2013-06-12 Nicira, Inc. Network operating system for managing and securing networks
US8238314B2 (en) * 2007-09-27 2012-08-07 Alcatel Lucent Method and apparatus for providing a distributed forwarding plane for a mobility home agent
US8396988B2 (en) * 2007-12-19 2013-03-12 At&T Intellectual Property I, L.P. Method and system for survival of data plane through a total control plane failure
US8996683B2 (en) * 2008-06-09 2015-03-31 Microsoft Technology Licensing, Llc Data center without structural bottlenecks
US8325720B2 (en) * 2008-07-17 2012-12-04 NETBRAIN Technologies, Inc System and method for simulating IP network routing
CN102177685B (zh) * 2008-07-31 2015-03-25 泰克莱克股份有限公司 用于使用采用域名系统(dns)分配给互联网协议(ip)网络服务器的别名主机名标识符来抑制去往ip网络服务器的业务的方法、系统和计算机可读介质
CN101340372B (zh) * 2008-08-21 2012-09-19 中国移动通信集团公司 号码自动路由方法、更新方法、撤销方法、路由器及设备
KR101460848B1 (ko) 2009-04-01 2014-11-20 니시라, 인크. 가상 스위치를 구현 및 관리하는 방법 및 장치
US9065743B2 (en) * 2009-12-24 2015-06-23 At&T Intellectual Property I, L.P. Determining connectivity in a failed network
JPWO2011083780A1 (ja) 2010-01-05 2013-05-13 日本電気株式会社 通信システム、制御装置、処理規則の設定方法、パケットの送信方法およびプログラム
US9813252B2 (en) 2010-03-23 2017-11-07 Juniper Networks, Inc. Multicasting within a distributed control plane of a switch
US8903942B2 (en) * 2010-03-23 2014-12-02 Juniper Networks, Inc. Methods and apparatus for forwarding-state transport in a distributed control plane
EP2572277A1 (en) * 2010-05-19 2013-03-27 Hughes Systique India Private Limited Method and system for efficient inter- process communication in a high availability system
IN2012CN10350A (ja) * 2010-06-15 2015-07-31 Tekelec Inc
US8964528B2 (en) 2010-07-06 2015-02-24 Nicira, Inc. Method and apparatus for robust packet distribution among hierarchical managed switching elements
US8842679B2 (en) 2010-07-06 2014-09-23 Nicira, Inc. Control system that elects a master controller instance for switching elements
US10103939B2 (en) 2010-07-06 2018-10-16 Nicira, Inc. Network control apparatus and method for populating logical datapath sets
US9680750B2 (en) 2010-07-06 2017-06-13 Nicira, Inc. Use of tunnels to hide network addresses
US9525647B2 (en) 2010-07-06 2016-12-20 Nicira, Inc. Network control apparatus and method for creating and modifying logical switching elements
CN101909021A (zh) * 2010-07-27 2010-12-08 清华大学 Bgp网关设备及利用该设备实现通断网关功能的方法
CN101917414B (zh) * 2010-07-28 2013-06-05 清华大学 Bgp分类网关设备及利用该设备实现网关功能的方法
CN102377661A (zh) * 2010-08-24 2012-03-14 鸿富锦精密工业(深圳)有限公司 刀片服务器及在其中建立刀片最短传输路径的方法
US20140051068A1 (en) 2010-09-07 2014-02-20 The Regents Of The University Of California Control of dna movement in a nanopore at one nucleotide precision by a processive enzyme
US8908686B1 (en) * 2010-12-08 2014-12-09 Juniper Networks, Inc. Distributed generation of hierarchical multicast forwarding structures
JP5967090B2 (ja) * 2010-12-10 2016-08-10 日本電気株式会社 通信システム、制御装置、ノードの制御方法およびプログラム
US10033585B2 (en) * 2010-12-15 2018-07-24 Juniper Networks, Inc. Methods and apparatus related to a switch fabric system having a multi-hop distributed control plane and a single-hop data plane
US9282060B2 (en) * 2010-12-15 2016-03-08 Juniper Networks, Inc. Methods and apparatus for dynamic resource management within a distributed control plane of a switch
US8665883B2 (en) * 2011-02-28 2014-03-04 Alcatel Lucent Generalized multi-homing for virtual private LAN services
US8547908B2 (en) 2011-03-03 2013-10-01 Tekelec, Inc. Methods, systems, and computer readable media for enriching a diameter signaling message
WO2012129171A2 (en) * 2011-03-18 2012-09-27 Tekelec, Inc. Methods, systems, and computer readable media for configurable diameter address resolution
US9043452B2 (en) 2011-05-04 2015-05-26 Nicira, Inc. Network control apparatus and method for port isolation
US8559314B2 (en) 2011-08-11 2013-10-15 Telefonaktiebolaget L M Ericsson (Publ) Implementing OSPF in split-architecture networks
US10091028B2 (en) 2011-08-17 2018-10-02 Nicira, Inc. Hierarchical controller clusters for interconnecting two or more logical datapath sets
US8958298B2 (en) 2011-08-17 2015-02-17 Nicira, Inc. Centralized logical L3 routing
US20130070761A1 (en) * 2011-09-20 2013-03-21 International Business Machines Corporation Systems and methods for controlling a network switch
US9137107B2 (en) 2011-10-25 2015-09-15 Nicira, Inc. Physical controllers for converting universal flows
US9288104B2 (en) 2011-10-25 2016-03-15 Nicira, Inc. Chassis controllers for converting universal flows
US9178833B2 (en) 2011-10-25 2015-11-03 Nicira, Inc. Chassis controller
US9203701B2 (en) 2011-10-25 2015-12-01 Nicira, Inc. Network virtualization apparatus and method with scheduling capabilities
WO2013074827A1 (en) 2011-11-15 2013-05-23 Nicira, Inc. Architecture of networks with middleboxes
US9137142B2 (en) * 2012-03-31 2015-09-15 Juniper Networks, Inc. Reduced traffic loss for border gateway protocol sessions in multi-homed network connections
JP5883946B2 (ja) * 2012-04-18 2016-03-15 ニシラ, インコーポレイテッド ネットワーク転送状態の算出ならびに伝播のためのトランザクションの使用
US8879392B2 (en) 2012-04-26 2014-11-04 Hewlett-Packard Development Company, L.P. BGP security update intercepts
CN102739774B (zh) * 2012-05-28 2015-05-27 中国科学院软件研究所 一种云计算环境下的取证方法及系统
US9231892B2 (en) 2012-07-09 2016-01-05 Vmware, Inc. Distributed virtual switch configuration and state management
US9049233B2 (en) 2012-10-05 2015-06-02 Cisco Technology, Inc. MPLS segment-routing
US9369371B2 (en) 2012-10-05 2016-06-14 Cisco Technologies, Inc. Method and system for path monitoring using segment routing
CN102932170B (zh) * 2012-10-22 2016-06-22 中兴通讯股份有限公司 网元负载不均检测处理方法、装置及其系统
WO2014069502A1 (ja) * 2012-10-31 2014-05-08 日本電気株式会社 通信システム、経路情報交換装置、通信ノード、経路情報の転送方法及びプログラム
US9979595B2 (en) 2012-12-18 2018-05-22 Juniper Networks, Inc. Subscriber management and network service integration for software-defined networks having centralized control
US8711855B1 (en) 2012-12-18 2014-04-29 Juniper Networks, Inc. Topology discovery, control channel establishment, and datapath provisioning within an aggregation network with centralized control
US9100285B1 (en) 2012-12-18 2015-08-04 Juniper Networks, Inc. Dynamic control channel establishment for software-defined networks having centralized control
US10411997B1 (en) 2012-12-27 2019-09-10 Sitting Man, Llc Routing methods, systems, and computer program products for using a region scoped node identifier
US10404583B1 (en) 2012-12-27 2019-09-03 Sitting Man, Llc Routing methods, systems, and computer program products using multiple outside-scope identifiers
US10374938B1 (en) 2012-12-27 2019-08-06 Sitting Man, Llc Routing methods, systems, and computer program products
US10447575B1 (en) 2012-12-27 2019-10-15 Sitting Man, Llc Routing methods, systems, and computer program products
US10476787B1 (en) 2012-12-27 2019-11-12 Sitting Man, Llc Routing methods, systems, and computer program products
US10404582B1 (en) 2012-12-27 2019-09-03 Sitting Man, Llc Routing methods, systems, and computer program products using an outside-scope indentifier
US10411998B1 (en) 2012-12-27 2019-09-10 Sitting Man, Llc Node scope-specific outside-scope identifier-equipped routing methods, systems, and computer program products
US10419335B1 (en) 2012-12-27 2019-09-17 Sitting Man, Llc Region scope-specific outside-scope indentifier-equipped routing methods, systems, and computer program products
US10904144B2 (en) 2012-12-27 2021-01-26 Sitting Man, Llc Methods, systems, and computer program products for associating a name with a network path
US10397101B1 (en) 2012-12-27 2019-08-27 Sitting Man, Llc Routing methods, systems, and computer program products for mapping identifiers
US10212076B1 (en) 2012-12-27 2019-02-19 Sitting Man, Llc Routing methods, systems, and computer program products for mapping a node-scope specific identifier
US10419334B1 (en) 2012-12-27 2019-09-17 Sitting Man, Llc Internet protocol routing methods, systems, and computer program products
US10397100B1 (en) 2012-12-27 2019-08-27 Sitting Man, Llc Routing methods, systems, and computer program products using a region scoped outside-scope identifier
US10587505B1 (en) 2012-12-27 2020-03-10 Sitting Man, Llc Routing methods, systems, and computer program products
CN103051560B (zh) * 2013-01-07 2015-06-03 浙江工商大学 一种转发和控制分离系统中拥塞控制的实现方法
US9565160B2 (en) 2013-03-11 2017-02-07 Cisco Technology, Inc. Advertisement of adjacency segment identifiers
US9559954B2 (en) 2013-03-11 2017-01-31 Cisco Technology, Inc. Indexed segment ID
US9537769B2 (en) 2013-03-15 2017-01-03 Cisco Technology, Inc. Opportunistic compression of routing segment identifier stacks
US9537718B2 (en) 2013-03-15 2017-01-03 Cisco Technology, Inc. Segment routing over label distribution protocol
US9374302B2 (en) 2013-04-26 2016-06-21 Brocade Communications Systems, Inc. Distributed methodology for peer-to-peer transmission of stateful packet flows
CN104168194B (zh) * 2013-05-15 2018-01-02 华为技术有限公司 集群网络路径控制方法、设备和集群网络系统
US9432215B2 (en) 2013-05-21 2016-08-30 Nicira, Inc. Hierarchical network managers
CN103401695B (zh) * 2013-06-21 2017-02-22 浙江工商大学 基于转发与控制网络件架构中控制件失效检测和恢复方法
US9432252B2 (en) 2013-07-08 2016-08-30 Nicira, Inc. Unified replication mechanism for fault-tolerance of state
US9559870B2 (en) 2013-07-08 2017-01-31 Nicira, Inc. Managing forwarding of logical network traffic between physical domains
US9887960B2 (en) 2013-08-14 2018-02-06 Nicira, Inc. Providing services for logical networks
US9952885B2 (en) 2013-08-14 2018-04-24 Nicira, Inc. Generation of configuration files for a DHCP module executing within a virtualized container
US9973382B2 (en) 2013-08-15 2018-05-15 Nicira, Inc. Hitless upgrade for network control applications
US9503371B2 (en) 2013-09-04 2016-11-22 Nicira, Inc. High availability L3 gateways for logical networks
US9577845B2 (en) 2013-09-04 2017-02-21 Nicira, Inc. Multiple active L3 gateways for logical networks
US9455901B2 (en) 2013-10-04 2016-09-27 Nicira, Inc. Managing software and hardware forwarding elements to define virtual networks
US10148484B2 (en) 2013-10-10 2018-12-04 Nicira, Inc. Host side method of using a controller assignment list
US9977685B2 (en) 2013-10-13 2018-05-22 Nicira, Inc. Configuration of logical router
US10063458B2 (en) 2013-10-13 2018-08-28 Nicira, Inc. Asymmetric connection with external networks
CN106453095B (zh) * 2013-12-12 2019-07-05 安科讯(福建)科技有限公司 基于is-is模块的路由快速收敛的方法
US9762488B2 (en) 2014-03-06 2017-09-12 Cisco Technology, Inc. Segment routing extension headers
US9313129B2 (en) 2014-03-14 2016-04-12 Nicira, Inc. Logical router processing by network controller
US9590901B2 (en) 2014-03-14 2017-03-07 Nicira, Inc. Route advertisement by managed gateways
US9419855B2 (en) 2014-03-14 2016-08-16 Nicira, Inc. Static routes for logical routers
US9225597B2 (en) 2014-03-14 2015-12-29 Nicira, Inc. Managed gateways peering with external router to attract ingress packets
US9503321B2 (en) 2014-03-21 2016-11-22 Nicira, Inc. Dynamic routing for logical routers
US9647883B2 (en) 2014-03-21 2017-05-09 Nicria, Inc. Multiple levels of logical routers
US9893988B2 (en) 2014-03-27 2018-02-13 Nicira, Inc. Address resolution using multiple designated instances of a logical router
US9413644B2 (en) 2014-03-27 2016-08-09 Nicira, Inc. Ingress ECMP in virtual distributed routing environment
US9602422B2 (en) 2014-05-05 2017-03-21 Nicira, Inc. Implementing fixed points in network state updates using generation numbers
US9401858B2 (en) * 2014-06-30 2016-07-26 Cisco Technology, Inc. Loop avoidance during network convergence in switched networks
US9807001B2 (en) 2014-07-17 2017-10-31 Cisco Technology, Inc. Segment routing using a remote forwarding adjacency identifier
US9547516B2 (en) 2014-08-22 2017-01-17 Nicira, Inc. Method and system for migrating virtual machines in virtual infrastructure
US9634928B2 (en) 2014-09-29 2017-04-25 Juniper Networks, Inc. Mesh network of simple nodes with centralized control
US10250443B2 (en) 2014-09-30 2019-04-02 Nicira, Inc. Using physical location to modify behavior of a distributed virtual network element
US9768980B2 (en) 2014-09-30 2017-09-19 Nicira, Inc. Virtual distributed bridging
US10511458B2 (en) 2014-09-30 2019-12-17 Nicira, Inc. Virtual distributed bridging
US10020960B2 (en) 2014-09-30 2018-07-10 Nicira, Inc. Virtual distributed bridging
US9948554B2 (en) 2014-12-11 2018-04-17 At&T Intellectual Property I, L.P. Multilayered distributed router architecture
US10257089B2 (en) 2014-10-30 2019-04-09 At&T Intellectual Property I, L.P. Distributed customer premises equipment
GB2537338A (en) 2014-11-28 2016-10-19 Aria Networks Ltd Modeling a border gateway protocol network
US10129180B2 (en) 2015-01-30 2018-11-13 Nicira, Inc. Transit logical switch within logical router
US10341221B2 (en) 2015-02-26 2019-07-02 Cisco Technology, Inc. Traffic engineering for bit indexed explicit replication
US10038628B2 (en) 2015-04-04 2018-07-31 Nicira, Inc. Route server mode for dynamic routing between logical and physical networks
US9923760B2 (en) 2015-04-06 2018-03-20 Nicira, Inc. Reduction of churn in a network control system
US9942058B2 (en) 2015-04-17 2018-04-10 Nicira, Inc. Managing tunnel endpoints for facilitating creation of logical networks
US10554484B2 (en) 2015-06-26 2020-02-04 Nicira, Inc. Control plane integration with hardware switches
US10348625B2 (en) 2015-06-30 2019-07-09 Nicira, Inc. Sharing common L2 segment in a virtual distributed router environment
US9819581B2 (en) 2015-07-31 2017-11-14 Nicira, Inc. Configuring a hardware switch as an edge node for a logical router
US9847938B2 (en) 2015-07-31 2017-12-19 Nicira, Inc. Configuring logical routers on hardware switches
US9967182B2 (en) 2015-07-31 2018-05-08 Nicira, Inc. Enabling hardware switches to perform logical routing functionalities
US10129142B2 (en) 2015-08-11 2018-11-13 Nicira, Inc. Route configuration for logical router
US10075363B2 (en) 2015-08-31 2018-09-11 Nicira, Inc. Authorization for advertised routes among logical routers
US10313186B2 (en) 2015-08-31 2019-06-04 Nicira, Inc. Scalable controller for hardware VTEPS
US10204122B2 (en) 2015-09-30 2019-02-12 Nicira, Inc. Implementing an interface between tuple and message-driven control entities
US10230576B2 (en) 2015-09-30 2019-03-12 Nicira, Inc. Managing administrative statuses of hardware VTEPs
US9948577B2 (en) 2015-09-30 2018-04-17 Nicira, Inc. IP aliases in logical networks with hardware switches
US10263828B2 (en) 2015-09-30 2019-04-16 Nicira, Inc. Preventing concurrent distribution of network data to a hardware switch by multiple controllers
US9979593B2 (en) 2015-09-30 2018-05-22 Nicira, Inc. Logical L3 processing for L2 hardware switches
US10095535B2 (en) 2015-10-31 2018-10-09 Nicira, Inc. Static route types for logical routers
US10250553B2 (en) 2015-11-03 2019-04-02 Nicira, Inc. ARP offloading for managed hardware forwarding elements
US9998375B2 (en) 2015-12-15 2018-06-12 Nicira, Inc. Transactional controls for supplying control plane data to managed hardware forwarding elements
US9917799B2 (en) 2015-12-15 2018-03-13 Nicira, Inc. Transactional controls for supplying control plane data to managed hardware forwarding elements
US9992112B2 (en) 2015-12-15 2018-06-05 Nicira, Inc. Transactional controls for supplying control plane data to managed hardware forwarding elements
US10333849B2 (en) 2016-04-28 2019-06-25 Nicira, Inc. Automatic configuration of logical routers on edge nodes
US10484515B2 (en) 2016-04-29 2019-11-19 Nicira, Inc. Implementing logical metadata proxy servers in logical networks
US10841273B2 (en) 2016-04-29 2020-11-17 Nicira, Inc. Implementing logical DHCP servers in logical networks
US11019167B2 (en) 2016-04-29 2021-05-25 Nicira, Inc. Management of update queues for network controller
US10091161B2 (en) 2016-04-30 2018-10-02 Nicira, Inc. Assignment of router ID for logical routers
US10263881B2 (en) 2016-05-26 2019-04-16 Cisco Technology, Inc. Enforcing strict shortest path forwarding using strict segment identifiers
US10182035B2 (en) 2016-06-29 2019-01-15 Nicira, Inc. Implementing logical network security on a hardware switch
US10153973B2 (en) 2016-06-29 2018-12-11 Nicira, Inc. Installation of routing tables for logical router in route server mode
US10560320B2 (en) 2016-06-29 2020-02-11 Nicira, Inc. Ranking of gateways in cluster
US10454758B2 (en) 2016-08-31 2019-10-22 Nicira, Inc. Edge node cluster network redundancy and fast convergence using an underlay anycast VTEP IP
US11032197B2 (en) 2016-09-15 2021-06-08 Cisco Technology, Inc. Reroute detection in segment routing data plane
US10341236B2 (en) 2016-09-30 2019-07-02 Nicira, Inc. Anycast edge service gateways
US10742746B2 (en) 2016-12-21 2020-08-11 Nicira, Inc. Bypassing a load balancer in a return path of network traffic
US10237123B2 (en) 2016-12-21 2019-03-19 Nicira, Inc. Dynamic recovery from a split-brain failure in edge nodes
US10212071B2 (en) 2016-12-21 2019-02-19 Nicira, Inc. Bypassing a load balancer in a return path of network traffic
US10616045B2 (en) 2016-12-22 2020-04-07 Nicira, Inc. Migration of centralized routing components of logical router
US10158929B1 (en) * 2017-02-17 2018-12-18 Capital Com SV Investments Limited Specialized optical switches utilized to reduce latency in switching between hardware devices in computer systems and methods of use thereof
US10511459B2 (en) 2017-11-14 2019-12-17 Nicira, Inc. Selection of managed forwarding element for bridge spanning multiple datacenters
US10374827B2 (en) 2017-11-14 2019-08-06 Nicira, Inc. Identifier that maps to different networks at different datacenters
US10848417B2 (en) * 2018-05-21 2020-11-24 Cisco Technology, Inc. Distance vector negative southbound topology information for routing in fat trees (RIFT) route
US11184327B2 (en) 2018-07-05 2021-11-23 Vmware, Inc. Context aware middlebox services at datacenter edges
US10999220B2 (en) 2018-07-05 2021-05-04 Vmware, Inc. Context aware middlebox services at datacenter edge
US10931560B2 (en) 2018-11-23 2021-02-23 Vmware, Inc. Using route type to determine routing protocol behavior
WO2020112817A1 (en) 2018-11-26 2020-06-04 Arrcus Inc. Logical router comprising disaggregated network elements
US10735541B2 (en) 2018-11-30 2020-08-04 Vmware, Inc. Distributed inline proxy
US10797998B2 (en) 2018-12-05 2020-10-06 Vmware, Inc. Route server for distributed routers using hierarchical routing protocol
US10938788B2 (en) 2018-12-12 2021-03-02 Vmware, Inc. Static routes for policy-based VPN
US11451464B2 (en) * 2019-05-13 2022-09-20 128 Technology, Inc. Central authority for service and topology exchange
US11153202B2 (en) 2019-05-13 2021-10-19 128 Technology, Inc. Service and topology exchange protocol
US11005749B2 (en) 2019-05-13 2021-05-11 128 Technology, Inc. Multicast source and receiver access control
US11070465B2 (en) 2019-05-13 2021-07-20 128 Technology, Inc. Distribution of multicast information in a routing system
US10999182B2 (en) 2019-05-13 2021-05-04 128 Technology, Inc. Routing using segment-based metrics
US11329912B2 (en) 2019-05-13 2022-05-10 128 Technology, Inc. Source-based routing
US11018973B2 (en) * 2019-05-31 2021-05-25 Microsoft Technology Licensing, Llc Distributed sonic fabric chassis
US11159343B2 (en) 2019-08-30 2021-10-26 Vmware, Inc. Configuring traffic optimization using distributed edge services
US11140074B2 (en) 2019-09-24 2021-10-05 Cisco Technology, Inc. Communicating packets across multi-domain networks using compact forwarding instructions
CN116321348A (zh) * 2019-10-22 2023-06-23 华为技术有限公司 一种通信方法及装置
US11641305B2 (en) 2019-12-16 2023-05-02 Vmware, Inc. Network diagnosis in software-defined networking (SDN) environments
US12052163B2 (en) 2020-06-24 2024-07-30 Juniper Networks, Inc. Point-to-multipoint Layer-2 network extension over Layer-3 network
US11606294B2 (en) 2020-07-16 2023-03-14 Vmware, Inc. Host computer configured to facilitate distributed SNAT service
US11616755B2 (en) 2020-07-16 2023-03-28 Vmware, Inc. Facilitating distributed SNAT service
US11611613B2 (en) 2020-07-24 2023-03-21 Vmware, Inc. Policy-based forwarding to a load balancer of a load balancing cluster
US11451413B2 (en) 2020-07-28 2022-09-20 Vmware, Inc. Method for advertising availability of distributed gateway service and machines at host computer
US11902050B2 (en) 2020-07-28 2024-02-13 VMware LLC Method for providing distributed gateway service at host computer
CN116170327B (zh) * 2023-03-01 2024-09-06 西安电子科技大学 基于图神经网络和强化学习的分段路由网络增量部署方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003318899A (ja) * 2002-04-19 2003-11-07 Fujitsu Ltd シグナリング制御方法及びシグナリング対応通信装置及びネットワーク管理システム
JP2004147021A (ja) * 2002-10-23 2004-05-20 Ntt Docomo Inc 経路制御システム、経路制御装置、及び経路制御方法
US20040131079A1 (en) * 2003-01-07 2004-07-08 Hegde Shriharsha S. Apparatus and method for configuring data plane behavior on network forwarding elements
JP2004214964A (ja) * 2002-12-27 2004-07-29 Anritsu Corp ネットワーク中継装置及びネットワーク中継方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100259276B1 (ko) * 1997-01-27 2000-06-15 윤종용 대역폭확장이 가능한 상호연결망
JP2000253053A (ja) 1999-02-25 2000-09-14 Hitachi Ltd ネットワークシステム
US6496503B1 (en) * 1999-06-01 2002-12-17 Intel Corporation Device initialization and operation using directed routing
US6633560B1 (en) 1999-07-02 2003-10-14 Cisco Technology, Inc. Distribution of network services among multiple service managers without client involvement
US7111076B2 (en) 2000-04-13 2006-09-19 Intel Corporation System using transform template and XML document type definition for transforming message and its reply
US7190896B1 (en) 2000-05-04 2007-03-13 Nortel Networks Limited. Supervisory control plane over wavelength routed networks
US7599620B2 (en) * 2001-06-01 2009-10-06 Nortel Networks Limited Communications network for a metropolitan area
US7257632B2 (en) 2001-07-30 2007-08-14 Fujitsu Limited Method and apparatus for a bandwidth broker in a packet network
US7069343B2 (en) * 2001-09-06 2006-06-27 Avaya Technologycorp. Topology discovery by partitioning multiple discovery techniques
US7075904B1 (en) * 2001-11-16 2006-07-11 Sprint Spectrum L.P. Method and system for multicasting messages to select mobile recipients
US7180864B2 (en) * 2002-02-27 2007-02-20 Lucent Technologies Inc. Method and apparatus for exchanging routing information within an autonomous system in a packet-based data network
US7233593B2 (en) * 2002-03-05 2007-06-19 Nortel Networks Limited System, device, and method for routing information in a communication network using policy extrapolation
US7209449B2 (en) * 2002-03-27 2007-04-24 Intel Corporation Systems and methods for updating routing and forwarding information
US7197664B2 (en) 2002-10-28 2007-03-27 Intel Corporation Stateless redundancy in a network device
US7194653B1 (en) 2002-11-04 2007-03-20 Cisco Technology, Inc. Network router failover mechanism
US7286468B2 (en) 2002-11-12 2007-10-23 Cisco Technology, Inc. Routing system and method for synchronizing a routing system with peers after failover
US7324439B2 (en) 2002-11-13 2008-01-29 Telefonaktiebolaget Lm Ericsson (Publ) Application-transparent IP redundancy
US6912197B2 (en) 2002-11-22 2005-06-28 Nokia Inc. System and method for implementing redundancy for multilink point to point protocol
US7388840B2 (en) * 2003-06-30 2008-06-17 Intel Corporation Methods and apparatuses for route management on a networking control plane
US7606140B2 (en) 2003-08-28 2009-10-20 Alcatel Lucent Distributed and disjoint forwarding and routing system and method
US7710885B2 (en) * 2003-08-29 2010-05-04 Agilent Technologies, Inc. Routing monitoring
US7340169B2 (en) * 2003-11-13 2008-03-04 Intel Corporation Dynamic route discovery for optical switched networks using peer routing
US7428219B2 (en) * 2004-02-27 2008-09-23 Intel Corporation System and method to exchange information between a control element and forwarding elements in a network element architecture
US7609647B2 (en) * 2004-05-12 2009-10-27 Bce Inc. Method and apparatus for network configuration validation
US8068408B2 (en) * 2004-11-01 2011-11-29 Alcatel Lucent Softrouter protocol disaggregation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003318899A (ja) * 2002-04-19 2003-11-07 Fujitsu Ltd シグナリング制御方法及びシグナリング対応通信装置及びネットワーク管理システム
JP2004147021A (ja) * 2002-10-23 2004-05-20 Ntt Docomo Inc 経路制御システム、経路制御装置、及び経路制御方法
JP2004214964A (ja) * 2002-12-27 2004-07-29 Anritsu Corp ネットワーク中継装置及びネットワーク中継方法
US20040131079A1 (en) * 2003-01-07 2004-07-08 Hegde Shriharsha S. Apparatus and method for configuring data plane behavior on network forwarding elements

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4638849B2 (ja) * 2006-08-25 2011-02-23 日本電信電話株式会社 機能分散型通信装置および経路制御方法
JP2008054129A (ja) * 2006-08-25 2008-03-06 Nippon Telegr & Teleph Corp <Ntt> 機能分散型通信装置および経路制御方法
US8116228B2 (en) 2006-12-22 2012-02-14 Nec Corporation Network path control system, path control device, and path control method
JP2008206028A (ja) * 2007-02-22 2008-09-04 Nippon Telegr & Teleph Corp <Ntt> 機能分散型通信装置、構成要素結合制御方法、およびプログラム
JP4630298B2 (ja) * 2007-02-22 2011-02-09 日本電信電話株式会社 機能分散型通信装置、構成要素結合制御方法、およびプログラム
JP4559497B2 (ja) * 2008-02-20 2010-10-06 日本電信電話株式会社 機能分散型パケット転送システムおよびその制御方法
JP2009200721A (ja) * 2008-02-20 2009-09-03 Nippon Telegr & Teleph Corp <Ntt> 機能分散型パケット転送システムおよびその制御方法
US8526437B2 (en) 2008-12-25 2013-09-03 Hitachi, Ltd. Communication system and communication control device
US9088526B2 (en) 2008-12-25 2015-07-21 Hitachi, Ltd. Communication system and communication control device
JP2013030863A (ja) * 2011-07-27 2013-02-07 Nec Corp スイッチ装置の制御システム、その構成制御装置および構成制御方法
US10412001B2 (en) 2011-09-22 2019-09-10 Nec Corporation Communication terminal, communication method, and program
EP3614631A1 (en) 2011-09-22 2020-02-26 Nec Corporation Communication terminal, communication method, and program
US9866500B2 (en) 2012-02-29 2018-01-09 Nec Corporation Communication apparatus, communication method, communication system and program
JP2023505696A (ja) * 2019-12-12 2023-02-10 コンチネンタル オートモーティヴ ゲゼルシャフト ミット ベシュレンクテル ハフツング 通信ネットワークを介して接続されたネットワークデバイス間の時刻同期を最適化する方法
JP7322297B2 (ja) 2019-12-12 2023-08-07 コンチネンタル オートモーティヴ ゲゼルシャフト ミット ベシュレンクテル ハフツング 通信ネットワークを介して接続されたネットワークデバイス間の時刻同期を最適化する方法

Also Published As

Publication number Publication date
US20060092940A1 (en) 2006-05-04
KR101237862B1 (ko) 2013-02-28
JP4790376B2 (ja) 2011-10-12
US20120281520A1 (en) 2012-11-08
EP1653688A1 (en) 2006-05-03
KR20060092977A (ko) 2006-08-23
DE602005018431D1 (de) 2010-02-04
CN1783841B (zh) 2011-01-12
US8068408B2 (en) 2011-11-29
US8432787B2 (en) 2013-04-30
EP1653688B1 (en) 2009-12-23
CN1783841A (zh) 2006-06-07

Similar Documents

Publication Publication Date Title
JP4790376B2 (ja) SoftRouterプロトコルの分離
JP4777043B2 (ja) SoftRouter
JP4711411B2 (ja) SoftRouterプロトコルのフェイルオーバー
US8320361B2 (en) Advertising alternate paths at border gateway protocol route reflectors
US7609619B2 (en) Active-active data center using RHI, BGP, and IGP anycast for disaster recovery and load distribution
US9172662B2 (en) Virtual chassis system control protocols
US9014181B2 (en) Softrouter separate control network
JP2021535698A (ja) ネットワークコンピューティング環境における第1ホップゲートウェイ冗長性
US20070097974A1 (en) Distributed border gateway protocol (BGP) route reflector system
JP6072278B2 (ja) 仮想シャーシシステム制御プロトコル
JP2006135970A (ja) SoftRouter動的バインディング・プロトコル
US8396988B2 (en) Method and system for survival of data plane through a total control plane failure
CN112398740B (zh) 链路状态路由协议邻接状态机
Bennesby et al. Innovating on interdomain routing with an inter-SDN component
EP3975511B1 (en) Neighbor discovery for border gateway protocol in a multi-access network
CN104994019B (zh) 一种用于sdn控制器的水平方向接口系统
Ramjee et al. Separating control software from routers

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101122

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20110222

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20110225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110627

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110720

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140729

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4790376

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees