JP2004503136A - キュー再同期:分散スイッチングシステムの同期式リアルタイムアップグレード - Google Patents

キュー再同期:分散スイッチングシステムの同期式リアルタイムアップグレード Download PDF

Info

Publication number
JP2004503136A
JP2004503136A JP2002507580A JP2002507580A JP2004503136A JP 2004503136 A JP2004503136 A JP 2004503136A JP 2002507580 A JP2002507580 A JP 2002507580A JP 2002507580 A JP2002507580 A JP 2002507580A JP 2004503136 A JP2004503136 A JP 2004503136A
Authority
JP
Japan
Prior art keywords
fabric
switch
queue
packet
resynchronization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002507580A
Other languages
English (en)
Inventor
ビアンキーニ,ロナルド ピー.,ジュニア.
シュルツ,ジェフ
レッディ,ベェーラ
ホック,ジョセフ エー.
Original Assignee
マルコーニ コミュニケーションズ,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マルコーニ コミュニケーションズ,インコーポレイテッド filed Critical マルコーニ コミュニケーションズ,インコーポレイテッド
Publication of JP2004503136A publication Critical patent/JP2004503136A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/30Peripheral units, e.g. input or output ports
    • H04L49/3081ATM peripheral units, e.g. policing, insertion or extraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q11/00Selecting arrangements for multiplex systems
    • H04Q11/04Selecting arrangements for multiplex systems for time-division multiplexing
    • H04Q11/0428Integrated services digital network, i.e. systems for transmission of different types of digitised signals, e.g. speech, data, telecentral, television signals
    • H04Q11/0478Provisions for broadband connections
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/54Store-and-forward switching systems 
    • H04L12/56Packet switching systems
    • H04L12/5601Transfer mode dependent, e.g. ATM
    • H04L2012/5672Multiplexing, e.g. coding, scrambling
    • H04L2012/5674Synchronisation, timing recovery or alignment

Abstract

スイッチ制御プロセッサに繋がれたネットワークのスイッチに関する。スイッチはポートカードを含み、該ポートカードはネットワークからパケットを受け取り、ネットワークへパケットを送る。スイッチは、制御情報を与えるスイッチ制御プロセッサを具えている。スイッチは、パケットをスイッチングするファブリックを含んでいる。

Description

【0001】
発明の分野 本発明は、トラフィックを止めずに分散(distributed)スイッチングシステムをリアルタイムで同期的に(synchronously)アップグレードすることに関する。特に、本発明は、キュー再同期信号を送り、この信号が受信された場合に、全てのスイッチング要素を、同じ論理時間でこの信号に作用させることで、トラフィックを止めずに分散スイッチングシステムをリアルタイムで同期的にアップグレードすることに関する。
【0002】
発明の背景 多数のスイッチング要素が各パケットの部分を処理する分散スイッチングシステムでは、全てのスイッチング要素は同期している、すなわち、同じ論理時間で同じステップを実行している必要がある。例えば、利用される資源(resource)の一時的なオーバーブッキング(overbooking)によってパケットが廃棄される場合に、特にこれは問題とされる。通常、新たなスイッチング要素が加えられるような、又はは、システム制御情報が全てのスイッチング要素において同期的にアップデートされる必要があるようなシステムアップグレードの間、アップグレードが完了するまで、全てのトラフィックは止められる。これは、トラフィックを長期間止めることが出来ない重要なシステムでは問題である。複数のファブリックへのデータの分散を行い、パリティデータを別のファブリックへ送るスイッチは、米国特許公報09/333,450号に開示されている。同公報は引用をもって記載に加える。また、米国特許公報09/293,563号を参照すると、ワイドメモリTDMスイッチングシステムが開示してあり、同公報も引用をもって記載に加える。
【0003】
発明の要約 本発明はネットワークのスイッチに関する。スイッチは、ポートカードを具え、該ポートカードは、ネットワークからパケットを受け取り、ネットワークへパケットを送る。スイッチは、制御情報を与えるためのスイッチ制御プロセッサを具える。スイッチは、パケットをスイッチングするファブリック(又はスイッチング要素)を具える。ファブリックは、スイッチ制御プロセッサから制御情報を受信するが、ポートカードの1つから各ファブリックが制御開始信号を受信する場合、全てのファブリックは、同じ論理時間で制御情報を実行するだけである。各それぞれのファブリックは、それらが制御開始信号を受信する前と、受信している最中と、受信した後と、連続的にパケットを処理する。
【0004】
本発明は、パケットをスイッチングする方法に関する。該方法は、スイッチのポートカードでネットワークからパケットを受け取る工程を含む。そして、各パケットのフラグメントをスイッチのファブリックへ送る工程がある。そして、ポートカードがパケットを受け取ることを続けているときに、制御情報をプロセッサからスイッチのファブリックへ配布する工程がある。次に、ネットワークを通じて、スイッチ制御プロセッサからのスイッチ制御信号をポートカードで受信する工程がある。そして、ポートカードからファブリックへ制御開始信号を送る工程がある。次に、全てのファブリックが同時に制御情報を実行するように、それぞれのファブリックが制御開始信号を受信した後のみ、各ファブリックで制御情報を実行する工程がある。
【詳細な説明】
【0005】
幾つかの図面を通じて、同じ符号は類似又は同一の部分を示している。図8を参照すると、スイッチ制御プロセッサ(18)に繋がれたネットワーク(12)のスイッチ(10)が示されている。スイッチ(10)は、ポートカード(14)を具えており、該ポートカード(14)は、ネットワーク(12)からパケットを受け取り、ネットワーク(14)へパケットを送る。スイッチは、制御情報を生成するためのスイッチ制御プロセッサ(21)を具える。スイッチ(10)は、パケットをスイッチングするためのファブリック(16)を具える。ファブリック(16)は、スイッチ制御プロセッサ(18)から制御情報を受信するが、全てのファブリック(16)は、ポートカード(14)の1つから各ファブリックが制御開始信号を受信する場合に、同じ論理時間で制御情報を実行するだけである。各それぞれのファブリックは、それらが制御開始信号を受信する前と、受信している最中と、受信した後と、連続的にパケットに作用する。ファブリックはスイッチ制御プロセッサ及びポートカードに繋がれている。
【0006】
各ポートカード(12)は分散器(20)を含み、該分散器(20)は、各パケットのそれぞれの部分を各ファブリックに送る。全てのファブリック(16)は、互いに同期しているのが好ましい。全てのファブリック(16)は、分散器(20)からパケットフラグメントを受け取る集約装置(22)と、集約装置(22)によって受け取られたパケットフラグメントが記憶されるメモリコントローラ(24)と、メモリコントローラ(24)のパケットフラグメントをポートカード(14)に送るセパレータ(26)とを有する。
【0007】
集約装置(22)、そしてメモリコントローラ(24)、次に各ファブリックのセパレータ(26)がそれぞれ同期に至らされることより、制御開始信号が受信された後で、各ファブリックは、他の全てのファブリック(16)と同期するのが好ましい。制御開始信号は、キュー再同期(resynch)パケットの状態で送られるのが好ましい。各ファブリックは、キュー再同期状態に入るのが好ましく、ファブリック(16)によってキュー再同期状態に入る前にファブリックによって受け取られた全てのパケットフラグメントは、デキューされ(dequeued)、キュー再同期状態に入った後にファブリックによって受け取られたどのパケットフラグメントも、所定のキュー再同期時間が経過した後にのみデキューされる。
【0008】
本発明は、パケットをスイッチングする方法に関する。該方法は、スイッチ(10)のポートカード(14)でネットワーク(12)からパケットを受け取る工程を含む。そして、各パケットのフラグメントをスイッチ(10)のファブリック(16)へ送る工程がある。そして、ポートカード(14)がパケットを受け取ることを続けている時に、制御情報をスイッチ制御プロセッサ(21)からスイッチ(10)のファブリック(16)へ配布する工程がある。次に、ネットワーク(12)を通じて、スイッチ制御プロセッサ(18)からのスイッチ制御信号をポートカード(14)で受信する工程がある。そして、ポートカード(14)からファブリック(16)へ制御開始信号を送る工程がある。次に、全てのファブリック(16)が同時に制御情報を実行するように、それぞれのファブリックが制御開始信号を受信した後のみ、各ファブリックで制御情報を実行する実行工程がある。
【0009】
実行工程は、それぞれのファブリックが制御情報を実行する際に、各ファブリックによってキュー再同期状態に入る工程を具えるのが好ましい。該キュー再同期状態に入る工程の後に、ファブリックが再同期状態に入った後にファブリックによって受け取られたどの新しいパケットフラグメントもデキューされる前に、ファブリックによって受け取られたどのパケットフラグメントもデキューするデキュー工程を具えるのが好ましい。
【0010】
デキュー工程は、どの新しいパケットもデキューする工程を含むのが好ましく、所定のキュー再同期時間が経過した後、又は受け取られた新しいパケットフラグメントもパケットフラグメントのプリセットキュー再同期しきい値に達する後のみに、該パケットをデキューする。制御情報を受け取る工程の前に、スイッチ(10)のファブリックに新しいファブリックを加える工程があるのが好ましい。そして、制御情報を受け取る工程は、新しいファブリックの加入に関する情報を含む制御情報を受け取る工程を含むのが好ましい。
【0011】
パケットのフラグメントを送る工程は、ポートカード(14)の分散器(20)を用いて、各ファブリックの集約装置(22)にパケットのフラグメントを送る工程を含むのが好ましい。前記キュー再同期状態に入る工程は、各ファブリックの集約装置(22)、そしてメモリコントローラ(24)、次にセパレータをそれぞれ同期させる工程を含むのが好ましい。制御開始情報を受け取る工程は、制御開始情報を有するキュー再同期パケットを受け取る工程を含むのが好ましい。該制御開始情報は、送られている他のパケットにも挿入されている。
【0012】
本発明の実施において、各ファブリックが各パケットの部分を取り扱うようなBFS(Big Fast Switch)では、全てのファブリックが同じパケットエンキュー(enqueue)及びデキュー決定を可能なように、全てのファブリック (16)は同期している(同じ論理サイクル、及び同じキュー状態でで同じオペレーションを実行する)必要がある。このことにより、全てのファブリック(16)に亘って、全パケットが受け入れられる又は廃棄されること、及び、パケットセグメントが同じ大きさでデキューされることが保証される。
【0013】
幾つかのファブリック(16)が起動し(up and running)、トラフィックがそれらを通って流れる間に、1つ又は2以上の新しいファブリック(16)が付加される場合は、新しいファブリックは、既存のファブリック(16)と同期していないかも知れない。それらは、異なるキュー深さ(depth)を有し、それらのステートマシーンは、既存のファブリックに対して異なる状態にあるだろう。新しく加えられたファブリックが他のファブリック(16)と同期化される(すなわち、同じキュー深さであり、同じステートマシーンの状態である)まで、新しいファブリック(16)は、使えない情報を運んでいる。これは、送付先のポートカード(14)では使用されない。新しいファブリックが古いファブリックと同期した後にのみ、それらは使用できるトラフィックを運ぶことができる。新しく加えられたファブリックを古いファブリック(16)と同期させるために、キュー深さと、これら新しいファブリックの内部ステートマシーンのうちの一部の状態とは、古いファブリック(16)と同じにさせるべきである。
【0014】
これを行うために、キュー再同期パケットと呼ばれる特別なパケットは、スイッチ制御プロセッサ(18)のうちの1つから全てのファブリック(16)へ送られる。このパケットを受け取ると、全てのファブリック(16)は、これを同じ論理時間でキュー再同期イベントとして認識し、キュー再同期状態に入る。それらは、全ての古いパケット(キュー再同期イベントの前に受け取られたパケット)をデキューし、所定のキュー再同期時間が経過した後にのみ、所定のキューから新しいパケット(キュー再同期イベントの後に受け取られたパケット)をデキューする。キュー再同期時間は、古いパケットを排出するのに充分長く、新しいパケットの廃棄を避けるのに充分短く設定される。キュー再同期時間の経過前にデキューされ得るよりも多くの新しいパケットが到着する場合には、古いパケットを廃棄することにより、新しいパケットのためにバッファ内に空間が設けられる。また、新しいパケットのカウントが、キュー再同期しきい値と呼ばれるプリセットしきい値に達する場合、キュー再同期状態は抜け出される。キュー再同期状態がキュー再同期状態に達すること、又はキュー再同期しきい値に達することのいずれかによって、キュー再同期状態が抜け出される場合、バッファ内にまだ留まっているどの古いパケットもフリーバッファへ放出される。このことにより、キュー再同期状態の終わりで、全てのファブリックキュー及びステートマシーンは、同じ状態にあり、ファブリック(16)は、同じ大きさで同じパケットをエンキューし、デキューすることが保証される。
【0015】
BFSでは、ファブリックを他のファブリック(16)と同期させるために、集約装置、メモリコントローラ、及び分散器などの新しいファブリック上の全ての要素は、古いファブリック(16)の対応する要素と同期されるべきである。これは、ある要素でキュー再同期工程を実行し、データフローと同じ方向の次の要素で引き続き実行することによって達成される。これは、伝播(Propagated)キュー再同期と呼ばれる。
【0016】
ある制御情報が複数のファブリック(16)で同期的にアップデートされる必要がある場合もまた、キュー再同期を用いることができる。ファブリック(16)はすでに同期していると想定すると、最初に、各ファブリックについて個別に制御情報をアップデートする。しかし、その変更をまだ効果的にはしない。そして、キュー再同期処理、又はそれの変更型を実行して、キュー再同期処理の最後でアップデートされた制御情報を効果的にする。このイベントは、全てのファブリック(16)で同じ論理クロックサイクルで起こるから、それら全ては、同じ論理ステップでアップデートされた制御情報を見ることになる。
【0017】
このアプローチは最小のオーバーヘッドである。キュー再同期パケット自体を送るために、ある量の特別な帯域幅が存在すべきであろう。システム構成が変化した場合においてのみこのパケットは送られる必要があるから、この特別な帯域幅の要求は無視でき、キュー再同期パケットを最小の長さのパケットとすることができる。また、複数のファブリック(16)に亘って同期状態をもたらすのに必要なデータパスFIFOは、通常よりも深くなければならない。全てのファブリックにおいて、どのファブリック(16)もこれらFIFOからの新しいパケットをリードする前に、これらFIFOは古いパケットを送るためである。BFSでは、集約装置FIFOは、キュー再同期をサポートするために、通常よりも1/3深くされる必要がある。これらの増加オーバーヘッドを伴ってさえ、キュー再同期は、分散スイッチングシステムでリアルタイム同期アップデートを与える大きな利益である。
【0018】
システムのアップグレードの間、トラフィックを止める代わりに、アップグレードはリアルタイムで実行される。キュー再同期(すなわち、システムアップグレード)情報を、入力スイッチ制御プロセッサ(18)のうちの1つからのデータトラフィックに沿う全てのスイッチング要素に送ることにより、そして、スイッチング要素が同じ論理時間でこの情報に従って働くことにより、アップグレードは完了され、付加されると共に他の要素と同期していないどの新しいスイッチング要素も同期化される。同じアプローチは全てのスイッチング要素において、どのシステム制御情報をも同期的にアップグレードするのにも使用できる。
【0019】
スイッチは、RAID技術を使用し、個別のファブリック帯域幅を最小限にしつつ、スイッチ帯域幅全体を増大する。スイッチアーキテクチャにおいて、全てのデータは全てのファブリックに均一に分配されるので、スイッチはファブリックを加えることによって帯域幅を増し、ファブリックは、スイッチが帯域幅容量を増大すれば、ファブリックの帯域幅容量を増大する必要がない。
【0020】
各ファブリックは40G(bps)の交換帯域幅を提供しており、システムは、冗長/予備ファブリックを除いた1、2、3、4、6又は12ファブリックを利用する。換言すると、スイッチは、ファブリックが幾つインストールされるかによって、40G(bps)、80G、120G、160G、240G又は480Gのスイッチとなり得る。
【0021】
ポートカードは、10G(bps)のポート帯域幅を提供する。4ポートカード当たり1ファブリックになることが必要である。スイッチアーキテクチャは、ポートカード及びファブリックの任意インストレーションをサポートしない。
【0022】
ファブリックASICsは、セルとパケットの両方をサポートする。全体として、スイッチは、“受信器が適切にする(receiver makes right)”方法をとっており、この方法においてATMブレード上の出口パス(egress path)は、フレームをセグメント化してセルにしなければならず、フレームブレード上の出口パスは、セルをまとめて再びパケットにしなければならない。
【0023】
スイッチ内で使用される一般に8スイッチのASICは:
−分散器(Striper)−分散器は、ポートカード及びSCP−IM上に
在する。
それは、データを12ビットのデータストリームにフォーマットし、チェッ
クワードを添付し、N即ちシステム中の予備でないファブリックを横切って
データストリームを分割し、他のファブリックに向かうストライプと同等な
幅のパリティストライプを生成し、且つN+1データストリームをバックプ
レーンへ送出する。
−非分散器(unstriper)−非分散器は、スイッチアーキテクチャ内
の他のポートカードASICである。これは、システム中の全てのファブリ
ックからデータストリームを受信する。次に、誤り検出修正を実行するため
に、チェックワード及びパリティ分散を使用して、元のデータストライプを
再構築する。
−集約装置(Aggregator)−集約装置は、分散器からデータストリ
ーム及びルートワードを取り出し、それらを多重化してメモリコントローラ
への単一の入力ストリームにする。
−メモリコントローラ− メモリコントローラは、スイッチのキュー及びデキ
ュー(キューから外す)メカニズムを実行する。これは、クロックサイクル
毎に複数セルのデータを同時にエンキュー(enqueue、キューに入れ
る)/デキューをするために、独占排他権を有する広いメモリインタフェー
スを含んでいる。メモリコントローラのデキュー側は、コネクションのキュ
ー及びシェーピングの大部分をポートカード上で行わせるために、40Gb
psよりも80Gbpsで稼働する。
−セパレータ− セパレータは、集約装置と逆の操作を実行する。メモリコン
トローラからのデータストリームは、複数のデータストリームに逆多重され
、適当な非分散器ASICへ送達される。非分散器へのインタフェースには
、キューとフローとの制御ハンドシェーキングが含まれている。
【0024】
ファブリック間のコネクションについては、3つの異なった視点即ち、物理的、論理的、及び“動的”な視点で見ることができる。物理的には、ポートカードとファブリックとの間のコネクションは、あらゆるギガビット速度の差分ペアのシリアルリンクである。これは、厳密に言うと、バックプレーンへ向かう信号数を減少するための実現(implementation、ソフトとハードの調整)の問題である。“動的な”観点では、単一のスイッチの形状を考察するか、又は所定の時点でデータが如何に処理されているかというスナップショットとして考察されるだろう。ポートカード上のファブリックASICとファブリックとの間のインタフェースは、12ビット幅であるのが効果的である。それらの12ビットは、ファブリックASICsが如何に構成されているかによって1、2、3、4、6又は12ファブリックへ均一に分散(stripe)される。“動的”な観点は、現在の構成において各ファブリックによって処理されているビットの数を意味しており、これはファブリック数で割るとちょうど12である。
【0025】
論理的な視点は、ある得る動的構成の全ての合併又は最大機能として考えられることができる。ファブリックスロット#1は、構成に応じて、単一分散器からのデータの12、6、4、3、2又は1ビットを処理しているであろうゆえに、12ビットバスで引き抜かれる。それとは対照的に、ファブリックスロット#3は、単一分散器からのデータの4、3、2又は1ビットを処理するのに使用されるだけであるがゆえに、4ビットバスで引き抜かれる。
【0026】
以前のスイッチとは違って、該スイッチは、ソフトウェアにより制御可能なファブリック冗長モードの概念を全く有していない。ファブリックASICsは、予備ファブリックがインストールされている限り、介入なしにN+1冗長を実行する。
【0027】
ここで提供される限り、N+1冗長は、ハードウェアが、データの損失なしに自動的に単一の障害を検出し、修正することを意味する。
【0028】
冗長性が作動する方法はかなり単純だが、3つのファブリック(A、B及びC)+予備(S)を有する120Gスイッチが使用される特定のケースを理解すれば、より簡単になる。分散器は、12ビットバスを選び、まず、データユニット(セル又はフレーム)に添付されるチェックワードを生成する。次に、データユニット及びチェックワードは、A、B及びCファブリックの各々についてクロックサイクル当り4ビットデータストライプ(A3A2A1A0、B3B2B1B0及びC3C2C1C0)に分割される。次に、これらのストライプは、予備ファブリックS3S2S1S0用のストライプを生成するのに使用される。ここで、Sn=An XOR Bn XOR Cnであり、これら4つのストライプは、それらの対応するファブリックへ送られる。ファブリックの反対側において、非分散器は、A、B、C及びSから4つの4ビットストライプを受け取る。次に、3つのファブリックのあり得る全ての組合せ(ABC、ABS、ASC及びSBC)は、“一時的な”(tentative)12ビットのデータストリームの再構築に使用される。次に、チェックワードは、4つの一時的なストリームの各々のために計算され、計算されたチェックワードは、データユニットの端部のチェックワードと比較される。伝送の間にエラーが生じなかった場合、4ストリーム全ては、チェックワードが整合しており、ABCストリームは非分散器出力へ転送される。(単一の)エラーが生じた場合、1つのチェックワードだけが整合しており、整合を含むストリームはチップ外へ転送され、非分散器は不良のファブリック分散を識別する。
【0029】
スイッチの構成が異なると、即ち、1、2、4、6又は12ファブリックであると、アルゴリズムは同一であるが、ストライプ幅は変化する。
2つのファブリックが故障すると、スイッチ中を流れるデータの全ては、殆ど確実に崩れが生じるであろう。
【0030】
ファブリックスロットは、番号が付され、昇順に並べられなくてはならない。また、予備ファブリックは特定のスロットであるから、ファブリックスロット1、2、3及び4は、ファブリックスロット1、2、3及び予備とは異なる。前者は冗長のない160Gスイッチであり、後者は冗長を含む120Gである。
【0031】
第一に、特定のポートカードスロットを使用するには、そこに、予備を含まない少なくとも1つの所定の最小数のファブリックがインストールされることが必要であるように、ASICは構成され、バックプレーンは接続される。この関係は表0に示されている。
【0032】
それに加え、スイッチ内のAPS冗長は、特にペアのポートカードに限定される。ポートカード1及び2はペア、ポートカード3及び4はペアというようになっており、これはポートカード47及び48まで続いている。これは、APS冗長が要求される場合、ペアのスロットは一緒でなければならないことを意味している。
【0033】
簡単な例として、2つのポートカード及びファブリックを1つだけ含む構成を挙げてみる。ユーザがAPS冗長の使用を望まない場合、2つのポートカードは、ポートカードスロット1乃至4のうちの任意の2つにインストールされることができる。APS冗長が望まれる場合には、2つのポートカードは、スロット1及び2、或いはスロット3及び4の何れかにインストールされなければならない。
【0034】
【表1】
Figure 2004503136
表0:ポートカードスロットの使用に関するファブリックの要件
【0035】
容量を増やすには、新たなファブリックを追加し、スイッチが変化を認識し、新しいファブリックの数を分散してシステムを再形成するのを待つ。新しいポートカードをインストールする。
【0036】
技術的には、ファブリック毎に容量一杯の4つのポートカードを持つことは不要である。スイッチは、3つのインストール済ファブリック及びスロット(12)の単一ポートカードで正常に機能する。これはコスト面では有効ではないが、機能可能である。
【0037】
容量を削除するには、容量追加の工程を逆に行う。
もし、スイッチが超過したとき、即ち、8つのポートカードと1つのファブリックをインストールした場合。
スイッチが超過するのは、スイッチを適度でないアップグレードしたとき、又はある種のシステム障害の結果として発生するだけである。現実には、この状況がどのように発生するかによって2つのうちの1つが発生する。もしスイッチが40Gスイッチとして構成され、ファブリック前にポートカードが追加されたら、第5から第8ポートカードは用いられない。もし、スイッチが80Gの非冗長のスイッチとして構成され、第2ファブリックが不能又は削除されると、スイッチを通じたすべてのデータが不正になる(予備のファブリックはインストールされていないと仮定する)。そして、完了直前に、もし8つのポートカードが80Gの冗長スイッチにインストールされており、そして、第2ファブリックが不能又は削除されていると、予備のスイッチが不能又は削除されたファブリックをカバーして通常の操作を続行する。
【0038】
図1は、スイッチのパケットストライピングを表している。
チップセットは、OC48及びOC192cの両方の構成中のATM及びPOSポートカードをサポートする。OC48ポートカードは、4つの別々のOC48フローを用いてスイッチングファブリックへインターフェースする。OC192ポートカードは、4チャンネルを10Gストリームへ論理的に結合させる。ポートカードの入口側は、ATMセルとパケット間で変化するトラフィックへのトラフィック変換を実行しない。受信したトラフィックのフォームがどれであれ、スイッチファブリックへ送られる。スイッチファブリックはパケットとセルを混合し、パケットとセルの混合をポートカードの出口側へデキューする(キューから外す)。
【0039】
ポートの出口側は、トラフィックを変換して出力ポートへの適正なフォーマットとしなければならない。この変換は、スイッチの内容について”受信器が適切にする(receiver makes right)”として呼ばれている。セルブレードは、パケットの区切りを実行し、セルブレードはセルをパケット内にて再組立する必要がある。ファブリックのスピードアップをサポートするため、ポートカードの出口側は、ポートカードの着信側の2倍に等しいリンクバンド幅を用いる。
【0040】
ポセイドンをベースにした(Poseidon−based)ATMポートカードのブロック図は、図2に示される。各2.5Gチャンネルは入力側TM、入力側の分散器ASIC、非分散器ASIC、出力側の出力TM ASICの4つのASICで構成される。
【0041】
入力側において、OC−48c又は4OC−12cインターフェースは集約される。各ボルテックス(vortexs)は、2.5Gセルストリームを専用の分散器ASICへ送信する(下記に表されるようにBIBバスを使用する)。分散器は供給されたルートワードを2つの部分へ変換する。ルートワードの一部は、セルへの出力ポートを決定するためファブリックへ送られる。全ルートワードもまた、出力メモリコントローラによって使用されるルートワードとしてバスのデータ部分上へ送られる。第1ルートワードは“ファブリックルートワード”として表される。出力メモリコントローラのルートワードは“出口ルートワード”である。
【0042】
出力側において、各チャンネルの非分散器ASICは各ポートカードからトラフィックをとり、エラーチェックしデータを修復し、出力バス上へ正常なパケットを送信する。非分散器ASICは、予備のファブリックからのデータ、及び分散器によりインサートされるチェックサムを使用して、データ異常を検出し修復する。
【0043】
図2は、OC48ポートカードを表す。
OC192ポートカードは、ファブリックへの一つの10Gデータ流れ、及び10Gと20G間の出口データ流れをサポートする。このボードも4つの分散器及び4つの非分散器を使用する。しかし、4つのチップは拡張データバス上で並列に操作される。各ファブリックへ送られたデータは、OC48及びOC192ポートの両方について同一であり、データは、特別な変換機能を必要としないポートタイプ間を流れる。
【0044】
図3は、10G連結ネットワークブレードを表す。
各40Gスイッチファブリックは、40Gbpsセル/フレームまでエンキューし(enqueue、キューに入る)、それらを80Gbpsでデキューする。この2Xスピードアップにより、ファブリックにて緩衝されたトラフィックの量が減り、ラインレートの十分上方で出力ASICダイジェストのトラフィックを噴出させる。 スイッチファブリックは集約装置(aggregator)、メモリコントローラ、セパレータの3種類のASICから構成される。9つの集約装置ASICは、48までのネットワークブレード及びコントロールポートからのトラフィックの40Gbpsを受信する。集約装置ASICは、ファブリックルートワード及びペイロードを結合して、単一データストリーム、及びソース間のTDMにし、配備され生じる結果をワイド出力バス上に設置する。追加のコントロールバス(destid)は、メモリコントローラがデータをどのようにエンキューするかをコントロールするのに使用される。各集約装置ASICからのデータストリームは12のメモリコントローラへ分けられる。
【0045】
メモリコントローラは、16までのセル/フレームを各時刻サイクルで受信する。各12のASICは集約されたデータストリームの1/12を収納する。次に入力中のデータはdestidバス上に受信されたコントロール情報を基にしており収納される。データの収納は、メモリコントローラにて、パケット境界が比較的気づかないほどに単純化される(キャッシュ ライン コンセプト)。全12のASICは80Gbpsに集約されたスピードで、収納されたセルを同時にデキューする(キューから外す)。
【0046】
9つのセパレータASICは集約装置ASICの逆機能を実行する。各セパレータは全ての12のメモリコントローラからのデータを受信し、集約装置によってデータストリームに埋め込まれたルートワードを復号し、パケット境界を探す。各セパレータASICは、データがセパレータへ送られたようにメモリコントローラによって示された正確な目的地に応じて、24までの別の非分散器にデータを送る。
【0047】
デキュー工程は、バックプレッシャされる。もし、バックプレッシャが非分散器に適用されたら、バックプレッシャはセパレータへ逆連繋される。セパレータ及びメモリコントローラも、メモリコントローラが出力ポートへトラフィックをデキューできる時に制御するバックプレッシャメカニズムを有する。
【0048】
チップセットのOC48及びOC192を有効的にサポートする為に、1つのポートカードからの4つのOC48ポートは常に同じ集約装置へと同じセパレータから送られる(集約装置及びセパレータのポート接続は常に対称である)。
【0049】
図4及び図5は、ファブリックASICの接続を表している。
スイッチの外部インターフェースは、分散器ASICとボルテックス(vortex)などの入口ブレードASIC間の入力バス(BIB)であり、非分散器ASICとトライデント等の出口ブレードASIC間の出力バス(BOB)である。
分散器ASICは入力バス(BIB)を経由した入口ポートからのデータを受け取る(DIN ST bl ch busとしても知られる)。
【0050】
このバスは、4つの別々の32ビット入力バス(4×OC48c)、又は全ての分散器へのコントロールラインの共通セットを具え、単一128ビット幅データバスの何れかとしても作動できる。このバスは、分散器チップのソフトウェア構成に基づいたセル又はパケットのどちらかをサポートする。
【0051】
非分散器ASICは出力バス(BOB)(DOUT UN bl ch busとしても知られる)を経由して出口ポートへデータを送る。それはセル又はパケットのどちらかをサポートできる64(又は256)ビットデータバスである。それは下記の信号から構成される。
【0052】
このバスは、4つの別々の32ビット出力バス(4×OC48c)、又は全ての非分散器からのコントロールラインの共通セットを具え、単一128ビット幅データバスの何れかとして作動できる。このバスは、非分散器チップのソフトウェア構成に基づくセル又はパケットのどちらをも用いる。
【0053】
同期装置は2つの主な目的を持つ。第1の目的は、論理的セル/パケット又はデータグラムを全てのファブリックに亘って順序付けて維持することである。ファブリックの入口インターフェース上で、1つのポートカードのチャンネルから1つ以上のファブリックに達するデータグラムは、全てのファブリックが同じ順序で処理される必要がある。同期装置の第2の目的は、たとえ、データグラムセグメントは1つ以上のファブリックから送られ、違う時間にブレード出口入力に到着しても、ポートカードの出口チャンネルを有し、一緒に属している全てのセグメント又はデータグラムのストライプを再構成することである。このメカニズムは、別のネット遅延と、ブレードとファブリック間にてクロックドリフトの変動量を有するシステムで維持することが必要である。
【0054】
スイッチは、開始情報がシステム全体に伝わる同期ウィンドウのシステムを使用する。各送信器及び受信器は、最新の再同期表示から多数のソースからの同期データまで関連するクロックカウントを見ることが出来る。受信器は広域同期表示を受け取った後に、プログラム可能な遅延まで、同期期間での第1クロックサイクルのデータの受取を遅らせる。
この時点で、全てのデータは同時に受信されたと考えられ、修正された順序付けが適用される。ボックスを通じた遅れのために、パケット0及びセル0の遅延が別の順序で受信器に見られることを引き起こすにもかかわらず、受信時間=1に於ける両方のストリームの結果順序は、物理的バスに基づいて、そこから受信したパケット0、セル0と同じである。
【0055】
多重セル又はパケットを、1つのカウンタチック(counter tick)へ送信することができる。全ての宛先は、第2インターフェース等に移動する前に、第1インターフェースからの全てのセルを整える。このセル同期化技術は、全てのセルインターフェースに使用される。幾つかのインターフェース上には別の解決方法が必要とされる。
【0056】
同期装置は、2つの主なブロックから成る。主に、送信器と受信器である。送信器ブロックは、分散器及びセパレータASICに属する。受信器ブロックは、集約装置及び非分散器ASIC内にある。集約装置の受信器は、24(6ポートカード×4チャンネル)入力レーンまで扱える。非分散器の受信器は、13(12ファブリック+1パリティーファブリック)入力レーンまで扱える。
【0057】
同期パルスの受信時、送信器は先ず早いクロックサイクル(Nクロック)の数を計算する。
【0058】
送信同期装置は、出力ストリームを遮断し、及びロックダウンすることを示すNKキャラクターを伝達する。ロックダウンシーケンスの最後に、送信器は次のクロックサイクルにて有効データが始まることを示しているKキャラクターを伝達する。この次のサイクル有効表示は、全てのソースからトラフィックを同期すらために受信器によって使用される。
【0059】
次の伝達の最後に、送信器は、インターフェース上に少なくとも1つのアイドルを挿入する。これらのアイドルは、もし復号器が同期から外れるとしたら、10ビット復号器を10ビットシリアルコードウインドウへ正常に再同期させる。
【0060】
受信同期装置は広域同期パルスを受信し、プログラムされた数により同期パルスを遅らせる。(物理的ボックスが有し得る最大量のトランスポート遅延に基いてプログラムされている。)同期パルスを遅延させた後、受信器は同期キャラクターの直ぐ後のクロックサイクルを受信するのに適しているとする。データは各クロックサイクルで、次の同期キャラクターが入力ストリーム上に現れるまで受信される。このデータは、遅延広域同期パルスが現れるまで受信に適しているとはとらえない。
【0061】
送信器及び受信器が別々の物理的ボード上にあり、別の発振器によってクロックされているから、クロックスピードの差がその間にある。別の送信器及び受信器間のクロックサイクルの数を区切るのに、全てのシーケンスカウンタを再同期するために広域同期パルスがシステムレベルで使用される。各チップは、全ての有効なクロックスキューのもとで、各送信器及び受信器は、少なくとも1つのクロックサイクルにより早いと必ずするように、プログラムされている。各チップは、適正な数のクロックサイクルを待って、それらの現在の同期パルスウインドウへとなる。これは全てのソースが同期パルス間のN同期パルスウインドウの有効なクロックサイクルを実行することを保証する。
【0062】
例えば、同期パルスウインドウは100クロックまでプログラム可能であるとすると、同期パルスは10000クロック毎の同期パルスの名目速度で送られる。同期パルス送信器クロック、及び同期パルス受信クロックが共にドリフトした最悪の場合に基いて、同期パルス送信器上に10000クロックとして受信器には9995から10005クロックが実際にある。この場合、同期パルス送信器は各10006クロックサイクル毎に同期パルスを送信するようにプログラムされる。10006クロックにより、全ての受信器が必ずそれらの次のウインドウにあるよう保証される。もし同期パルス送信器が遅いクロックを有すれば、受信器は早いクロックを具えて、実質上10012クロックを有する。同期パルスは12クロックサイクルで受信され、同期パルスウィンドウへ送信するから、チップは12クロックサイクル遅延する。別の受信器には10006クロックが見られ、同期パルスウインドウの最後にて、6クロックサイクルへロックダウンする。両方の場合、各ソースは10100クロックサイクルで動作する。
【0063】
ポートカード又はファブリックが存在せず、又は挿入直後であり、どちらかが受信同期装置の入力を駆動しているとすると、特定の入力FIFOへのデータの書込は禁止される。というのは、入力クロックは存在せず、又は不安定でデータラインの状態が判らないからである。ポートカード又はファブリックが挿入された時、ソフトウェアは必ず入れられ、バイトレーンへの入力を可能にして、該ソースからのデータ入力が可能となることを許す。入力FIFOへの書込は可能になる。イネーブル信号はポートカード及びファブリックからのデータ、ルートワード、及びクロックが安定した後に、アサート(assert)されると考えられる。
【0064】
システムレベルでは、第1及び第2同期パルス送信器が2つの個別のファブリック上にある。各ファブリック及びブレード上には同期パルス受信器もある。これらは図6に見られる。
第1同期パルス送信器は、フリーランニングの同期パルスジェネレータであり、第2同期パルス送信器はその同期パルスを第1同期パルス送信器へ同期化させる。同期パルス受信器は、第1及び第2同期パルスを共に受信し、エラー検査アルゴリズムに基いて、そのボード上のASIC上へ正しい同期パルスを選択して送信する。同期パルス受信器は、もし同期パルス送信器からの同期パルスが、それ自信のシーケンス0カウント中に落ちたならば、同期パルスは残りのボードに送られることのみが保証される。例えば、同期パルス受信器及び非分散器ASICは共に同じブレード上にある。同期パルス受信器及び非分散器の受信同期装置は同じ水晶発振器からクロックされ、クロックドリフトは 内部シーケンスカウンタを増大させるのに用いられるクロック間には存在しない。受信同期装置は、受信する同期パルスは”0”カウントウインドウ内に常にあることを要求する。
【0065】
もし同期パルス受信器が、第1同期パルス送信器が同期から外れていると判断したら、第2同期パルス送信器ソースへ切り換える。第2同期パルス送信器も第1同期パルス送信器が同期から外れているかを判定し、第1同期パルス送信器から独立して、第2同期パルス送信器自身の同期パルスを発生する。これが第2同期パルス送信器の操作の第1モードである。
もし同期パルス受信器が第1同期パルス送信器は再び同期するように成ったと判定すると、第1同期パルス送信器側に切り換える。第2同期パルス送信器も、第1同期パルス送信器が再び同期するようになったと判断したら、第2モードへ切り換える。第2モードで、独自の同期パルスを第1同期パルスへ同期させる。同期パルス受信器は、その同期パルスフィルタリングメカニズムにおいて第2同期パルス送信器よりも余裕は少ない。同期パルス受信器は、第2同期パルス送信器よりさらに早く切り換わる。これは第2同期パルス送信器が第1モードに切り換わる前に、全ての受信同期装置が第2同期パルス送信器ソースを使用することへ切り換えることを保証するために行われる。
【0066】
図6は、同期パルスの分布状況を表す。
同期演算で示されるクロックサイクルの数によるファブリックからのバックプレーン伝達をロックダウンするために、全てのファブリックは、多くのクロックサイクルを効果的にフリーズし、同じエンキュー及びデキュー判定が同期内に留まることを確実にする。これは各ファブリックASICにおけるサポートを必要とする。ロックダウンは、キューリシンク(再同期)のような特殊な機能を含む全ての機能を止める。
【0067】
同期パルス受信器からの同期信号は、全てのASICへ分配される。各ファブリックASICは、広域同期パルス間のクロックサイクルをカウントするコアクロックドメインのカウンタを含む。同期パルス受信後、各ASICは早いクロックサイクルの数を演算する。広域同期パルスは自身のクロックで伝えられないから、演算されたロックダウンサイクル値は同じファブリック上の全てのASICと同じにはならない。この差は、全てのインターフェースFIFOをロックダウンカウントの最大スキューを許容できる奥行きを保持することにより説明される。
【0068】
全てのチップ上のロックダウンサイクルは、“有用な”(ロックダウンしない)サイクルの最後のシーケンスの始まりに対応した同じ論理的ポイントへ常に挿入されている。それは、各チップは常に、ロックダウンサイクルの数がたとえ変化しても、ロックダウン事象間の同じ数の”有用な”サイクルを実行する。
【0069】
ロックダウンは、異なる時間に異なるチップで発生するかも知れない。全てのファブリック入力FIFOは、初期に設定され、FIFOが、ドライ又はオーバーフローすることなしに、ロックダウンはFIFOのどちらか側で最初に発生できるようになっている。各々のチップツーチップインターフェースには、(基板トレース長さ及びクロックスキューと同じく)ロックダウンサイクルを引き起こす同期FIFOがある。送信機は、ロックダウン状態の間、ロックダウンを知らせる。
受信器は、示されたサイクルの間はデータを入れず(push)、また、それ自体のロックダウンの間はデータを取り出さない(pop)。FIFOの奥行きは、どのチップが最初にロックするかによって変化するが、その変化は、ロックダウンサイクルの最大数によって制限される。特定のチップが1回の広域同期期間の間に判断するロックダウンサイクルの数は変化するが、それらは全て、同じ数の有効なサイクルを有している。特定のファブリック上の各チップが判断するロックダウンサイクルの総数は、同じであって、制限された許容誤差の範囲である。
【0070】
集約装置コアクロックドメインは、ロックダウン持続時間のために完全に停止し、全てのフロップとメモリは、その状態を保持する。入力FIFOは、拡張可能である。ロックダウンバスサイクルは、出力キューに挿入される。コアロックダウンが実行される正確な時期は、DOUT_AG(Digital OUT−Analog Ground)バスプロトコルがロックダウンサイクルを挿入させる時期によって指図される。DOUT_AGロックダウンサイクルは、DestIDバスに示されている。
【0071】
メモリコントローラは、適当な数のサイクルのために、全てのフロップをロックダウンせねばならない。メモリコントローラにおけるシリコン領域への影響を削減するため、伝搬ロックダウンと呼ばれる技術が用いられる。
【0072】
オン−ファブリックのチップツーチップ同期化は、あらゆる同期パルスで実行される。幾つかの同期エラー検出能力が幾つかのASICに存在するけれども、ファブリック同期エラーを検出し、有害なファブリックを取り除くことが非分散器の仕事である。チップツーチップ同期化は、ファブリック上でどの様なパケット流れも可能となる前に行なわれる連鎖式機能である。この同期設定は、集約装置からメモリコントローラへ流れ、セパレータへ行き、またメモリコントローラへ戻る。システムがリセットされた後、集約装置は、第1広域同期信号を待つ。受信後、各集約装置は、DestIDバス上のローカル同期コマンド(値0x2)を、各メモリーコントローラへ送信する。
【0073】
分散処理機能は、ビットを着信データストリームから個々のファブリックに割り当てる。分散処理機能を導き出す際に、2つの項目が最適化された:
1.バックプレーン効率は、OC48及びOC192のために最適化されねばならない。
2.バックプレーン相互接続は、OC192オペレーションのために大きく変更されるべきではない。
【0074】
これらは、分散器及び非分散器ASICに追加された多重通信回路用(muxing)レッグに対して、交互に使用された(traded−off)。最適化に関係なく、スイッチは、OC48とOC192の両方用のメモリコントローラにおいて、同一のデータフォーマットを有さなければならない。
【0075】
バックプレーン効率を効率よくするには、バックプレーンバスを形成する際に加えられるパッディング(padding)を最小にする必要がある。OC48のための12ビットバックプレーンバスと、OC192のための48ビットバックプレーンバスの場合、最適な割り当ての為には、転送用の未使用ビットの数が、(バイト数 *8)/バス幅と同一であることを必要とし、“/”は、整数の分数である。OC48のためには、バスは、0,4又は8の未使用ビットを有することができる。OC192のためには、バスは、0,8,16,24,32又は40の未使用ビットを有することができる。
【0076】
このことは、どのビットも12ビットの境界の間を移動することができないか、あるいは、OC48パッディングは、所定のパケット長さにとって最適ではないことを意味している。
【0077】
OC192cに関し、最大帯域幅利用とは、各分散器が、同じ数のビットを受信せねばならないということを意味している(即ち、分散器へのビットインターリーブを意味する)。同一のバックプレーン相互接続と組み合わされた場合、これは、OC192cにおいて、各分散器は、1/4のビットを有する各分散器から来る、確実に正しい数のビットを有していなければならないことを意味する。
【0078】
データビットをファブリックに割り当てるために、48ビットのフレームが使用される。分散器の内部には、80〜100MHzでは32ビット幅で書き込まれ、125MHzでは24ビット幅で読み取られるFIFOがある。3つの32ビットの語は、4つの24ビットの語を生じる。24ビットの語の各対は、48ビットのフレームとして扱われる。ビットとファブリック間の割り当ては、ファブリックの数に左右される。
【0079】
表11:ビット分散処理機能
【表2】
Figure 2004503136
【0080】
次の表は、集約装置にて最初に読み取られ、セパレータにて最初に書き込まれるバイトレーンを示している。4つのチャネルは、A、B、C、Dで表されている。全てのバスが完全に使用されるよう、異なるファブリックは、異なるチャネルの読取/書込オーダーを有している。
【0081】
1つのファブリック−40G
次の表は、集約装置のインターフェース読取オーダーを示している。
【0082】
【表3】
Figure 2004503136
【0083】
2つのファブリック−80G
【表4】
Figure 2004503136
【0084】
120G
【表5】
Figure 2004503136
【0085】
3つのファブリック−160G
【表6】
Figure 2004503136
【0086】
6つのファブリック−240G
【表7】
Figure 2004503136
【0087】
12のファブリック−480G
【表8】
Figure 2004503136
【0088】
ギガビットトランシーバへのインターフェースは、トランシーババスを2つの分離したルートワードバスとデータバスとを有する分割バスとして使用する。ルートワードバスは、固定サイズ(OC48の入口には2ビット、OC48の出口には4ビット、OC192の入口には8ビット、OC192の出口には16ビット)であり、データバスは、変更できるサイズのバスである。送信オーダーは、決められた位置にルートワードバスを常に有している。あらゆる分散処理構造は、1つのトランシーバを有しており、これは、全ての有効な構造において目的物と通話するために用いられるものである。そのトランシーバは、両方のルートワードバスを送り、データの送信を開始するために用いられる。
【0089】
バックプレーンインターフェースは、バックプレーントランシーバへのインターフェースを用いて、物理的に行なわれる。入口及び出口両用のバスは、2つの半分部分から構成されていると考えられ、各々は、ルートワードデータを有している。
第1バスの半分部分がパケットを終了するなら、半分バスの2つは、個々のパケットに関する情報を有していてよい。
【0090】
例えば、ファブリックローカル通話に行くOC48インターフェースは、24データビットと2ルートワードビットを有している。このバスは、2x(12ビットデータバス+1ビットルートワードバス)を有しているかの如く作用して用いられる。2つの半バスを、A及びBとする。バスAは、第1データであって、その後にバスBが続く。パケットは、バスAとバスBのどちらでも開始でき、バスAとバスBのどちらでも終了できる。
【0091】
データビットルートワードビットをトランシーバビットにマッピングする際、バスビットはインターリーブされる。これによって、全てのトランシーバは、たとえ分散処理量が変化しても、同一の有効/無効状態を有さねばならないことを確実にする。ルートワードは、バスBの前に現れるバスAによって解釈される。
バスA/バスBという概念は、チップ間にインターフェースを有することと密接に対応している。
【0092】
全てのバックプレーンバスは、データの断片化をサポートしている。使用されたプロトコルは、(ルートワード中の最終セグメントによって)最後の転送を記録する。最終セグメントでない全ての転送は、たとえ偶数のバイトではなくても、バスの幅全体を利用する必要がある。いかなる一定のパケットも、そのパケットの全ての転送のため、同一の数のファブリックに分散されねばならない。パケットの送信中に、分散器の分散処理量が更新されるとしても、次のパケットの初めに分散処理が更新されるだけである。
【0093】
ASICにおける送信機の各々は、各チャネルのための次のI/Oを有している:
8ビットデータバス、1ビットクロック、1ビットコントロール。
受信側では、ASICは、チャネルに次のものを受信する:
受信クロック、8ビットデータバス、3ビットステータスバス。
【0094】
スイッチは、送信器を1〜3組のバックプレーンにマッピングすることによって、トランシーバを最適化し、各受信器は、1〜3組のバックプレーンを具える。これにより、構造に必要なトラフィックをサポートするのに十分な送信器だけが、完全な1組のバックプレーンネットを維持しながら、基板上に配備される。このような最適化の目的は、必要とされるトランシーバの数を削減することである。
【0095】
最適化が行なわれる一方、どのようなときにも、2つの異なる分散処理量がギガビットトランシーバにおいて支持されねばならないということが尚求められる。このことは、トラフィックが、分散処理データから1つのファブリックへ、又、分散器の分散処理データから2つのファブリックへ同時にエンキュー(enqueue、キューに入れる)されることを可能とする。
【0096】
バスの構造によっては、複数のチャネルは、1つの更に大きな帯域幅のパイプを形成するために、互いに連結される必要があるかもしれない(どのようなときにも、論理的な接続では1つ以上のトランシーバが存在する)。4倍ギガビットトランシーバは4つのチャネルを互いに連結することができるが、この機能は用いられない。代わりに、受信ASICが、1つのソースからのチャネル間での同期設定について役割を果たす。これは、総称同期アルゴリズムと同じ文脈である。
【0097】
ギガビットトランシーバにおける8b/10b符号化/復号化は、多数の制御事象がチャネルによって送られることを許容する。これらの制御事象は、K文字で表示され、符号化された10ビット値に基づいて数字が付される。これらのK文字の幾つかは、チップセットで用いられる。使用されるK文字とその機能は、下記の表に示されている。
【0098】
【表9】
Figure 2004503136
【0099】
パケットに対する分散処理構造によって、スイッチは、各バックプレーンチャネルにサポートされる、変更可能な数のデータビットを有する。トランシーバ一式の内部には、データが次のオーダーで満たされる:
F[ファブリック]_[oc192ポート数][oc48ポート指定(a,b,c,d)][トランシーバ_数]
【0100】
チップセットは、ここに説明する一定の機能を実行する。ここで記載した機能の大半は、複数のASICでサポートされているため、それらをASIC毎に逐次記載することは、求められる機能の全体的な範囲についての明確な理解を妨げることになる。
【0101】
スイッチチップセットは、64K+6バイトの長さまでパケットと協働するように構成されている。スイッチの入口側には、複数のポート間で共有されるバスが存在する。大半のパケットに関して、それらは、パケットの初めからパケットの終わりまで、いかなる中断もなく送信される。しかしながら、この方法は、遅延感知トラフィックの遅延変動量を大きくすることになりかねない。遅延感知トラフィックとロングトラフィックとが、同一のスイッチファブリックに共存できるようにするため、ロングパケットという概念が導入されている。基本的に、ロングパケットによって、大量のデータは、キューイングロケーションに送られ、ソースを基にキューイングロケーションで集積され、ロングパケットの末端部が転送されると、直ちにキューに加えられる。ロングパケットの定義は、各ファブリック上のビット数に基づいている。
【0102】
イーサネット(登録商標)MTUがネットワーク全体に維持された環境でスイッチが作動している場合、ロングパケットは、40Gbpsより大きいサイズのスイッチには見受けられない。
【0103】
ワイドキャッシュライン共有メモリ技術は、セル/パケットをポート/優先キューに格納するために用いられる。共有メモリーは、セル/パケットを継続的に記憶するので、仮想的には、共有メモリーにおいて断片化及び帯域幅の無駄は存在しない。
【0104】
複数のキューが共有メモリーに存在する。それらは、宛先及び優先度毎に基づいている。同一の出力優先度とブレード/チャネルIDを有する全てのセル/パケットは、同一のキューに記憶される。セルは、常にリストの先頭からデキュー(キューから外す)され、待ち行列の末尾にエンキュー(キューに入れる)される。各セル/パケットは、出口ルートワードの一部と、パケット長さ、及び変更可能な長さのパケットデータによって構成されている。セル及びパケットは、継続的に記憶される。即ち、メモリーコントローラー自体は、ユニキャスト(アドレスを1つだけ指定する通信)接続用のセル/パケットの境界を認識しない。パケット長さは、MCパケット用に記憶される。
【0105】
マルチキャストポートマスクメモリー64Kx16−ビットが、マルチキャスト接続用宛先ポートマスクを記憶するために用いられる、即ち、マルチキャストVC毎に1つのエントリー(又は複数のエントリー)である。 マルチキャストDestID FIFOによって示されるヘッドマルチキャスト接続のポートマスクは、スケジューリング検索のために内的に記憶される。ヘッド接続のポートマスクがクリアされ、新たなヘッド接続が提供されると、ポートマスクメモリーが検索される。
【0106】
APSとは、自動保護スイッチングを表し、SONET冗長基準のことである。スイッチにおいてAPSの特徴をサポートするため、2つの異なるポートカードの2つの出力ポートが、略同一のトラフィックを送る。メモリーコントローラーは、APSポート用に1組のキューを維持し、両方の出力ポートに同じデータを送る。
【0107】
メモリーコントローラーASICにおけるデータ2重化をサポートするため、複数のユニキャストキューの1つは各々、プログラム可能なAPSビットを有している。APSビットが1に設定されると、パケットは、両方の出力ポートにデキューされる。APSビットがポート用にゼロに設定されると、ユニキャストキューは、正常モードで作動する。ポートがAPSスレイブとして構成されると、ポートは、APSマスターポートのキューから読み取る。OC48ポートに関し、APSポートは、隣接するポートカードの同じOC48ポート上に常に存在する。
【0108】
ファブリック間のメモリーコントローラーにおける共有メモリーキューは、クロックドリフト又は新たに挿入されたファブリックのために、同期から外れている(即ち、異なるメモリーコントローラーASIC間の同一のキューは、異なる奥行きを有している)。ファブリックキューを、任意の状態から有効かつ同期の状態に持っていくことは重要である。又、いかなる復元機構でもセルをドロップしないことが望ましい。
【0109】
リシンク(再同期)セルは、全てのファブリック(新たな及び既にあるもの)に一斉に送られて、リシンク状態に入る。ファブリックは、リシンクセルの前に受け取った全てのトラフィックを、キューリシンクが終わる前に、排出しようと試みる。しかし、リシンクセル後に受信したトラフィック(回線上のデータ情報量)は、リシンクセルが終了するまで排出されない。キューリシンクは2つの出来事の1つが生じると終了する。
1.時間切れのとき
2.新たなトラフィックの総量が(リシンクセルの後に受け取ったトラフィック)しきい値を越えたとき
【0110】
リシンクキューの終端にて、全てのメモリコントローラは、どのレフトオーバー旧トラフィック(リシンクセルのキューの前に受け取ったトラフィック)をも排出する。解放オペレーションは十分速く、いつリシンク状態に入ったかに拘わらず、全てのメモリコントローラはメモリの全てを一杯にすることができる。
【0111】
キューリシンクは、3つの全てのファブリックASICに与えられる。集約器はFIFOメモリがリシンクセルのキュー後に同様に排出することを確実にしなければならない。メモリコントローラは、キューイング及びドロッピング(データ送信時の損失)を実行する。分離器はトラッフィクをドロッピングし、これが起こったときに長さパージング(構文解析)状態マシンをリセットする。個々のASICにて、キューリシンクの詳細については、ADSチップを参照されたい。
【0112】
デキューについては、マルチキャスト接続(複数の端末に同じ内容を流すこと)は、独立した32のトークンを各ポートに有し、各々は50ビットのデータ又はまとまったパケットに相当する。先頭の接続及びその高優先キューのポートマスクは、各サイクル毎にFIFO接続及びポートマスクメモリから読み出される。まとまったパケットは先頭接続の長さ領域に基づくマルチキャストキャッシュラインから隔てられている。先頭のパケットは、全ての宛先ポートに送られる。
ポートに対してゼロでないマルチキャストトークンが使用可能であるときは、8つのキュー排出器は、パケットを分離器に送る。次の先頭接続は、現在の先頭パケットがその全てのポートに送られるときにのみ、処理されるだろう。
【0113】
キューファブリックは、リシンクセルファブリックを介して直ぐに変換され、ポート領域当たりの優先の数が、各ポートがいくつの優先キューを有するかを示すのに用いられる。分散ASICは、ネットワークブレード上にある。
【0114】
以下の語は、スイッチの語彙にて、かなり特有の意味を有する。多くはどこかで述べられたが、これは1箇所にそれらを集めて定義することを企画している。
【0115】
【表10】
Figure 2004503136
Figure 2004503136
Figure 2004503136
【0116】
カウンタ送信と受信の関係は、図7に示される。
【0117】
本発明は例示の目的で前述の実施例に於いて、詳細に記載されてきたが、そのような詳細な記載は単にその目的の為であり、当該分野の専門家であれば、先述の特許請求の範囲によって記載されるようなもののほかにも、発明の精神と範囲から逸脱することなく、変形を成し得るものと理解されるべきである。
【図面の簡単な説明】
添付図は、本発明の好ましい実施例、及び本発明を実施する好ましい方法を示している。
【図1】
本発明のスイッチに於けるパケット分散処理を示す概略図である。
【図2】
OC48ポートカードの概略図である。
【図3】
鎖状ネットワークブレードの概略図である。
【図4】
ファブリックASICに於ける相互接続を示す概略図である。
【図5】
ファブリックASICに於ける相互接続を示す概略図である。
【図6】
同期パルスの分配状況を示す概略図である。
【図7】
夫々、セパレータ及び非分散器の送受信シーケンスカウンタ間の関係に関する概略図である。
【図8】
本発明のスイッチの概略図である。

Claims (15)

  1. スイッチ制御プロセッサに繋がれたネットワークのスイッチであって、
    ネットワークからパケットを受け取ると共に、ネットワークへパケットを送るポートカードと、
    制御情報を与えるスイッチ制御プロセッサと、
    スイッチ制御プロセッサ及びポートカードに繋がれていると共に、パケットをスイッチングするファブリックと、を具え、
    該ファブリックは、スイッチ制御プロセッサから制御情報を受信するが、ポートカードの1つから各ファブリックが制御開始信号を受信する場合に、全てのファブリックは、同じ論理時間で制御情報を実行するだけであり、
    各それぞれのファブリックは、それらが制御開始信号を受信する前、受信している最中、及び受信した後と、連続的にパケットを処理するスイッチ。
  2. 各ポートカードは分散器を含み、該分散器は、各ファブリックへ各パケットのそれぞれの部分を送る請求項1に記載のスイッチ。
  3. 全てのファブリックは互いに同期している請求項2に記載のスイッチ。
  4. 各ファブリックは、分散器からパケットフラグメントを受け取る集約装置と、集約装置によって受け取られたパケットフラグメントが記憶されるメモリコントローラと、メモリコントローラのパケットフラグメントをポートカードに送るセパレータとを有する請求項3に記載のスイッチ。
  5. 各ファブリックは、集約装置、そしてメモリコントローラ、次に各ファブリックのセパレータがそれぞれ同期に至らされることより、制御開始信号が受信された後で、他の全てのファブリックと同期する請求項4に記載のスイッチ。
  6. 制御開始情報は、キュー再同期パケットの状態で送られる請求項5に記載のスイッチ。
  7. 各ファブリックはキュー再同期状態に入り、ファブリックによってキュー再同期状態に入る前にファブリックによって受け取られた全てのパケットフラグメントは、デキューされ、キュー再同期状態に入った後にファブリックによって受け取られたどのパケットフラグメントも、所定のキュー再同期時間が経過した後にのみデキューされる請求項6に記載のスイッチ。
  8. スイッチのポートカードでネットワークからパケットを受け取る工程と、
    各パケットのフラグメントをスイッチのファブリックへ送る工程と、
    ポートカードがパケットを受け取ることを続けているときに、制御情報をプロセッサからスイッチのファブリックへ配布する工程と
    ネットワークを通じて、スイッチ制御プロセッサからのスイッチ制御信号をポートカードで受信する工程と、
    ポートカードからファブリックへ制御開始信号を送る工程と、
    全てのファブリックが同時に制御情報を実行するように、それぞれのファブリックが制御開始信号を受信した後のみ、各ファブリックで制御情報を実行する実行工程と、を具えるパケットをスイッチングする方法。
  9. 実行工程は、それぞれのファブリックが制御情報を実行する際に、各ファブリックによってキュー再同期状態に入る工程を具える請求項8に記載の方法。
  10. キュー再同期状態に入る工程の後に、ファブリックが再同期状態に入った後にファブリックによって受け取られたどの新しいパケットフラグメントもデキューされる前に、ファブリックによって受け取られたどのパケットフラグメントもデキューするデキュー工程を具える請求項9に記載の方法。
  11. デキュー工程は、どの新しいパケットもデキューする工程を含み、所定のキュー再同期時間が経過した後、又は受け取られた新しいパケットフラグメントもパケットフラグメントのプリセットキュー再同期しきい値に達する後のみに、該パケットをデキューする請求項10に記載の方法。
  12. 制御情報を受け取る工程の前に、スイッチのファブリックに新しいファブリックを加える工程があり、制御情報を受け取る工程は、新しいファブリックの加入に関する情報を含む制御情報を受け取る工程を含む請求項11に記載の方法。
  13. パケットのフラグメントを送る工程は、ポートカードの分散器を用いて、各ファブリックの集約装置にパケットのフラグメントを送る工程を含む請求項12に記載の方法。
  14. キュー再同期状態に入る工程は、各ファブリックの集約装置、そしてメモリコントローラ、次にセパレータをそれぞれ同期させる工程を含む請求項13に記載の方法。
  15. 制御開始情報を受け取る工程は、制御開始情報を有するキュー再同期パケットを受け取る工程を含み、該制御開始情報は送られている他のパケットにも挿入されている請求項14に記載の方法。
JP2002507580A 2000-06-30 2001-06-29 キュー再同期:分散スイッチングシステムの同期式リアルタイムアップグレード Pending JP2004503136A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/609,497 US6473433B1 (en) 2000-06-30 2000-06-30 Queue resynch: synchronous real-time upgrade of a distributed switching system
PCT/US2001/020798 WO2002003619A1 (en) 2000-06-30 2001-06-29 Queue resynch: synchronous real-time upgrade of a distributed switching system

Publications (1)

Publication Number Publication Date
JP2004503136A true JP2004503136A (ja) 2004-01-29

Family

ID=24441057

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002507580A Pending JP2004503136A (ja) 2000-06-30 2001-06-29 キュー再同期:分散スイッチングシステムの同期式リアルタイムアップグレード

Country Status (6)

Country Link
US (1) US6473433B1 (ja)
EP (1) EP1216549B1 (ja)
JP (1) JP2004503136A (ja)
AU (1) AU2001271659A1 (ja)
DE (1) DE60119068T2 (ja)
WO (1) WO2002003619A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002164927A (ja) * 2000-10-04 2002-06-07 Marconi Communications Inc Apsポートのミラーリング

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7382736B2 (en) 1999-01-12 2008-06-03 Mcdata Corporation Method for scoring queued frames for selective transmission through a switch
US6973092B1 (en) * 2000-07-28 2005-12-06 Marconi Intellectual Property (Ringfence), Inc. Dynamic queue utilization
US7009963B1 (en) * 2000-10-11 2006-03-07 Marconi Intellectual Property (Ringfence), Inc. Dual optimality for different data rate backplane transfer
US7236490B2 (en) 2000-11-17 2007-06-26 Foundry Networks, Inc. Backplane interface adapter
US7596139B2 (en) * 2000-11-17 2009-09-29 Foundry Networks, Inc. Backplane interface adapter with error control and redundant fabric
US7002980B1 (en) 2000-12-19 2006-02-21 Chiaro Networks, Ltd. System and method for router queue and congestion management
US6993047B1 (en) * 2000-12-30 2006-01-31 Redback Networks Inc. Any size and location of concatenated packet data across SONET frames in a SONET signal
US20030128701A1 (en) * 2002-01-09 2003-07-10 Nokia Corporation Method of and apparatus for directing packet entities
US7187687B1 (en) 2002-05-06 2007-03-06 Foundry Networks, Inc. Pipeline method and system for switching packets
US7266117B1 (en) 2002-05-06 2007-09-04 Foundry Networks, Inc. System architecture for very fast ethernet blade
US20120155466A1 (en) 2002-05-06 2012-06-21 Ian Edward Davis Method and apparatus for efficiently processing data packets in a computer network
US7649885B1 (en) 2002-05-06 2010-01-19 Foundry Networks, Inc. Network routing system for enhanced efficiency and monitoring capability
US7468975B1 (en) 2002-05-06 2008-12-23 Foundry Networks, Inc. Flexible method for processing data packets in a network routing system for enhanced efficiency and monitoring capability
US6901072B1 (en) 2003-05-15 2005-05-31 Foundry Networks, Inc. System and method for high speed packet transmission implementing dual transmit and receive pipelines
US7817659B2 (en) 2004-03-26 2010-10-19 Foundry Networks, Llc Method and apparatus for aggregating input data streams
US8730961B1 (en) 2004-04-26 2014-05-20 Foundry Networks, Llc System and method for optimizing router lookup
US7657703B1 (en) 2004-10-29 2010-02-02 Foundry Networks, Inc. Double density content addressable memory (CAM) lookup scheme
US8448162B2 (en) 2005-12-28 2013-05-21 Foundry Networks, Llc Hitless software upgrades
US7903654B2 (en) 2006-08-22 2011-03-08 Foundry Networks, Llc System and method for ECMP load sharing
CN100542103C (zh) * 2006-10-25 2009-09-16 华为技术有限公司 一种热升级网络处理器的方法及装置
US8238255B2 (en) 2006-11-22 2012-08-07 Foundry Networks, Llc Recovering from failures without impact on data traffic in a shared bus architecture
US7978614B2 (en) 2007-01-11 2011-07-12 Foundry Network, LLC Techniques for detecting non-receipt of fault detection protocol packets
US8037399B2 (en) 2007-07-18 2011-10-11 Foundry Networks, Llc Techniques for segmented CRC design in high speed networks
US8271859B2 (en) 2007-07-18 2012-09-18 Foundry Networks Llc Segmented CRC design in high speed networks
US8149839B1 (en) 2007-09-26 2012-04-03 Foundry Networks, Llc Selection of trunk ports and paths using rotation
US8090901B2 (en) 2009-05-14 2012-01-03 Brocade Communications Systems, Inc. TCAM management approach that minimize movements
US8599850B2 (en) 2009-09-21 2013-12-03 Brocade Communications Systems, Inc. Provisioning single or multistage networks using ethernet service instances (ESIs)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05327777A (ja) * 1992-05-15 1993-12-10 Hitachi Ltd Atmスイッチの同期化方法およびatmスイッチ
JPH06197129A (ja) * 1992-11-27 1994-07-15 Nec Corp 同期方式
JPH08242233A (ja) * 1995-03-02 1996-09-17 Nec Corp Atmスイッチ監視回路
JPH11154954A (ja) * 1997-11-20 1999-06-08 Hitachi Ltd Atmスイッチ

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FI96078C (fi) * 1994-05-09 1996-04-25 Nokia Telecommunications Oy Menetelmä yksikönvaihdon suorittamiseksi pakettimuotoista dataa välittävässä tietoliikennesolmussa
US5764634A (en) * 1996-03-13 1998-06-09 International Business Machines Corporation Lan switch with zero latency
US5983278A (en) * 1996-04-19 1999-11-09 Lucent Technologies Inc. Low-loss, fair bandwidth allocation flow control in a packet switch
US5802052A (en) * 1996-06-26 1998-09-01 Level One Communication, Inc. Scalable high performance switch element for a shared memory packet or ATM cell switch fabric
US5982744A (en) * 1997-08-14 1999-11-09 Alcatel Usa Sourcing, L.P. High density unit shelf and method
US5953314A (en) * 1997-08-28 1999-09-14 Ascend Communications, Inc. Control processor switchover for a telecommunications switch
US6049542A (en) * 1997-12-31 2000-04-11 Samsung Electronics Co., Ltd. Scalable multistage interconnection network architecture and method for performing in-service upgrade thereof
EP0961442B1 (en) * 1998-05-29 2004-09-29 International Business Machines Corporation Switching architecture comprising two switch fabrics

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05327777A (ja) * 1992-05-15 1993-12-10 Hitachi Ltd Atmスイッチの同期化方法およびatmスイッチ
JPH06197129A (ja) * 1992-11-27 1994-07-15 Nec Corp 同期方式
JPH08242233A (ja) * 1995-03-02 1996-09-17 Nec Corp Atmスイッチ監視回路
JPH11154954A (ja) * 1997-11-20 1999-06-08 Hitachi Ltd Atmスイッチ

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002164927A (ja) * 2000-10-04 2002-06-07 Marconi Communications Inc Apsポートのミラーリング

Also Published As

Publication number Publication date
EP1216549A1 (en) 2002-06-26
DE60119068D1 (de) 2006-06-01
EP1216549A4 (en) 2003-07-30
WO2002003619A1 (en) 2002-01-10
DE60119068T2 (de) 2006-09-28
US6473433B1 (en) 2002-10-29
EP1216549B1 (en) 2006-04-26
AU2001271659A1 (en) 2002-01-14

Similar Documents

Publication Publication Date Title
US6792484B1 (en) Method and apparatus for storing data using a plurality of queues
JP4679794B2 (ja) 正しくする受信器
JP2004503136A (ja) キュー再同期:分散スイッチングシステムの同期式リアルタイムアップグレード
JP2004503133A (ja) クロックドリフトとトランスポート遅延を有する分散型システムに於けるバックプレーン同期化
US7103041B1 (en) Optimization of number of transceivers used in a switch
US6973092B1 (en) Dynamic queue utilization
US7106692B1 (en) APS/port mirroring
JP5167391B2 (ja) パケット境界表示器を用いてパケットを格納する方法及び装置
US6473435B1 (en) Method and apparatus for transferring packets to a memory
JP4798889B2 (ja) ロングパケットの取り扱い
JP4679793B2 (ja) スイッチに於いてn+1冗長化を狙わないことを許す受信器デコードアルゴリズム
JP4662658B2 (ja) 長さとデータを1つのストリームとする転送及び待合せ
JP4679792B2 (ja) 1つの送信先から複数の送信元への非同期バックプレッシャの同期化
JP4716614B2 (ja) 分散されたシステムを更新する同期的且つ動的なレジスタ

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20040824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040831

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20040831

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080514

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080617

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100727

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110308