JP4618654B2 - 並列処理コンピュータ・システムにおけるデータ通信方法 - Google Patents
並列処理コンピュータ・システムにおけるデータ通信方法 Download PDFInfo
- Publication number
- JP4618654B2 JP4618654B2 JP06374399A JP6374399A JP4618654B2 JP 4618654 B2 JP4618654 B2 JP 4618654B2 JP 06374399 A JP06374399 A JP 06374399A JP 6374399 A JP6374399 A JP 6374399A JP 4618654 B2 JP4618654 B2 JP 4618654B2
- Authority
- JP
- Japan
- Prior art keywords
- ion
- pit
- node
- data
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/173—Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
- G06F15/17356—Indirect interconnection networks
- G06F15/17368—Indirect interconnection networks non hierarchical topologies
- G06F15/17375—One dimensional, e.g. linear array, ring
Description
【産業上の利用分野】
本発明は、一般的にはコンピューティング・システムに関し、特にファブリック取付け名の構成方法及び装置に関する。
【0002】
【従来の技術】
技術的発展はしばしば、見たところ関係のない一連の技術開発の結果からもたらされる。これらの無関係の開発は個々には重要であるかもしれないが、これらが組み合わされると大きな技術的発展の基礎をなすことがある。歴史的に見れば大規模で複雑なコンピュータシステムにおけるコンポーネントの間の技術成長は不均一であったが、これには例えば、(1)ディスク入出力性能に比べてCPU性能の急速な進歩、(2)内部的なCPUアーキテクチャの発達、(3)相互接続ファブリックが挙げられる。
【0003】
過去10年以上に亘って、ディスク入出力性能は全体として、ノードの性能よりも全体的に遙かに遅い速度で成長してきた。CPU性能は年間で40%から100%の割合で増加してきたのに、ディスクのシーク時間は年率で僅かに7%改善されてきたにすぎない。もし予想されるようにこの傾向が続けば、典型的なサーバ・ノードが駆動できるディスク駆動機構の数は、最も大きな規模のシステムでは数量的価格的両面でディスク駆動機構が支配的なコンポーネントとなる点に達するであろう。この現象は既に、既存の大規模システムの施設で明らかになっている。
【0004】
不均一な性能の拡大は、CPU内部でも起こりつつある。CPU性能を改善するためにCPU業者は、クロック速度の増加とアーキテクチャの変更との組合せを採用しつつある。これらのアーキテクチャ変更の多くは、並列処理グループから影響を受けた技術であることが分かっている。これらの変更は、不均衡な性能を作りだし、予想よりも少ない性能改善をもたらしている。簡単な例として、CPUが割込みを指示できる速度は、基本命令と同じ速度で拡大していない。こうして割込み性能に依存するシステム機能(入出力といった)は、コンピューティング・パワーと一緒には拡大していない。
【0005】
相互接続ファブリックもまた不均一な技術成長特性を示している。数年の間、これらは10〜20MB/secの性能レベルの辺りに停滞している。過去の年には100MB/sec(以上の)レベルにまで帯域幅の大きな飛躍も起こっている。この大きな性能改善は、大量に並列処理を行うシステムの経済的な配備を可能にしている。
【0006】
この不均一な性能は、アプリケーションのアーキテクチャとシステム構成の選択とに対してマイナスに働く。例えばアプリケーション性能に関して、改善されたCPU性能といったシステムのある部分における性能改善を利用して作業負荷を増やそうとする試みはしばしば、ディスク・サブシステムに同等の性能改善がないことによって妨げられる。CPUが毎秒のトランザクション数の生成を2倍にできても、ディスク・サブシステムはその増加分の何分の一かしか処理できない。CPUは、絶えず記憶システムを待っていることになる。不均一なハードウエア性能の成長の全体的な影響は、アプリケーション性能が所定の作業負荷の特性に対する依存度の増大を経験しつつあるということになる。
【0007】
プラットフォーム・ハードウエア技術における不均一な成長もまた、マルチノード・システムを構成するために利用可能なオプションの数が減少するなどといった、他の重大な問題を引き起こす。良い例は、TERADATA・4ノード・クリークのソフトウエア・アーキテクチャが記憶装置の相互接続技術の変化によって影響されるということである。TERADATAクリーク・モデルは、単一のクリーク内のノード間で一様な記憶装置間接続を想定している。各ディスク駆動機構は、すべてのノードからアクセス可能である。ここであるノードが故障すると、そのノード専用であった記憶装置は、残りのノード間で分割できる。記憶技術とノード技術とにおける不均一な成長は、共用記憶装置環境において1ノード当たりに接続できるディスクの数を制約することになる。この制約は、入出力チャネルに接続できる駆動機構の数と、4ノード共用入出力トポロジーで接続できるバスの物理数とによって作られる。ノード性能の改善が続けられるにつれて、われわれは性能の利点を実現するために1ノード当たりに接続されるディスク・スピンドルの数を増加させなければならない。
【0008】
【発明が解決しようとする課題】
クラスタ型大規模並列処理(MMP)の設計は、前述の問題を解決しようとするマルチノード・システムの設計の例である。クラスタ型は、拡張性に制約を受けるが、MMPシステムは、追加ソフトウエアに十分に単純なアプリケーション・モデルを提示することを要求する(商業的なMMPシステムで、このソフトウエアは通常、DBMS(データベース管理システム)である)。MMPはまた、非常に高い可用性を備えたある形式の内部クラスタリング(クリーク)を必要とする。両者の解は未だ、潜在的に大きな数のディスク駆動機構の管理に難題を作りだしており、また電気機械的装置であるこれらのディスク駆動機構はかなり予測可能な故障率を持っている。ノード相互接続の問題は、MMPシステムではノード数が通常はるかに大きいので更に悪化する。これら両手法も、非常に大きなデータベースを格納刷るために必要とされる駆動機構の多数さによって再び刺激されて、ディスク接続に難問を作りだす。
【0009】
上述した大きなデータの処理システムは失敗の許容量とデータの安全性を増大させる。しかし、ファブリック取付け名のための独立しており、又、ビット名の大きさに限定されたAPIデータベースと和合する場所を要求する。本発明の目的は上述の欠点を解決することである。
【0010】
本発明は、請求項1に詳述したような方法、請求項3に詳述される装置、請求項5及び7に詳述されるような並列処理コンピュータ・システムを提供する。
【0011】
【課題を解決するための手段】
本発明は、アプリケーションを実行する複数のコンピューティング・ノードと、複数の記憶装置と、複数の記憶装置を管理する複数の入出力ノードと、前記複数のコンピューティング・ノードと前記複数の入出力ノード間の通信を可能にする相互接続ファブリックと、前記複数のコンピューティング・ノードから前記複数の入出力ノードまでの経路上にある複数のノードと、を備えた並列処理コンピュータ・システムにおいて、前記入出力ノードの各々は、前記相互ファブリックに接続された前記複数のコンピューティング・ノードの一つに接続する第1の入出力ノードと、前記複数の記憶装置の一つに接続する第2の入出力ノードと、を備え、前記複数の入出力ノードの各々に割り当てられた入出力ノードのグローバルに一意の入出力ノード識別子と、前記複数の記憶装置に物理的に記憶されたデータ・オブジェクトの識別子と、当該データ・オブジェクトのボリューム・セット識別子と、を生成するステップと、前記相互接続ファブリックに接続された前記複数のコンピューティング・ノード間のデータの流れを制御するステップと、前記相互接続ファブリックを介して前記データ・オブジェクトのボリューム・セット識別子を前記相互接続ファブリックに接続されている全ての前記コンピューティング・ノードに同報通信するステップと、の各ステップを実行し、前記コンピューティング・ノードは、データ送信の際に、前記データ・オブジェクトの前記記憶装置における入口点を作成する、ことを特徴とする。
【0012】
【発明の実施の形態】
概要
図1は、本発明の同位アーキテクチャの概要である。このアーキテクチャは、一つ以上のコンピューティング資源102と、一つ以上の相互接続ファブリック106と通信路108とを介してコンピューティング資源102に通信可能に連結された一つ以上の記憶資源104とを含む。ファブリック106は、すべてのノードと記憶装置との間の通信手段を提供し、こうしてコンピューティング資源102と記憶資源104との間の一様な同位アクセスを実現する。
【0013】
図1に示すアーキテクチャでは、記憶装置はもはや、現在のノード中心のアーキテクチャのように単一のセットのノードに縛られることはなく、またどのノードもすべての記憶装置と通信できる。これは、物理的システム・トポロジーが記憶装置とノード間の通信を制限していて、異なる仕事負荷に対応するためにはしばしば異なるトポロジーが必要になった今日のマルチノード・システムとは対照的である。図1に示すアーキテクチャは、システム・トポロジーの広いスペクトルをサポートする単一の物理アーキテクチャを提供することによって、アプリケーション・ソフトウエアの通信パターンがいかなる時点でもシステムのトポロジーを決定できるようにしており、技術進歩の不均一さに対応している。ファブリック106によって与えられる分離は、主要なシステム・コンポーネントの各々について極めて僅かずつの拡張を可能にする。
【0014】
図2は、本発明の同位アーキテクチャの更に詳細な説明を示す。コンピューティング資源102は、一つ以上のコンピューティング・ノード200によって定義されており、一つ以上のプロセッサを有する各々のコンピューティング・ノードはオペレーティング・システム202の制御下で一つ以上のアプリケーション204を実現している。コンピューティング・ノード200には、テープ駆動機構、プリンタ、その他のネットワークといった周辺装置208が機能的に連結されている。またコンピューティング・ノード200には、オペレーティング・システム202を含む命令とか、アプリケーション204、その他の情報といったコンピューティング・ノード固有の情報を記憶するハードディスクといったローカルの記憶装置210が機能的に連結されている。アプリケーションの命令は、分散処理方式で、二つ以上のコンピューティング・ノード200に亘って格納、および/または実行できるようになっている。一実施例では、プロセッサ216は、INTEL P6といった既製品で商業的に入手可能な多目的プロセッサと、関連のメモリと入出力エレメントとを含む。
【0015】
記憶資源104は、クリーク226によって画定されており、これらクリークの各々は、第1の入出力ノードあるいはION212と第2の入出力ノードあるいはION214とを含み、その各々はシステム相互接続部228によって相互接続ファブリック106の各々と機能的に連結されている。第1のION212と第2のION214は、JBOD筐体222に関連する一つ以上の記憶ディスク224(「just a bunch disksほんの一束のディスク)」あるいはJBODとして知られている)に機能的に連結されている。
【0016】
図2は、典型的な2対1のION212対コンピューティング・ノード比を持つ中規模システムを示す。本発明のクリーク226は、三つ以上のION214を用いて、あるいは記憶ノードの可用性に幾分かの損失はあるが単一のION212を用いて実現することもできる。クリーク226の個数は、複数のION212の間で共用ハードウエアが存在しないので、純粋にソフトウエアの問題である。対になったION212は、「ダイポール」と呼ばれることもある。
【0017】
本発明はまた、コンピューティング・ノード200とION212と相互接続ファブリック106とにインタフェース接続する管理コンポーネントまたはシステム管理ソフトウエア230も含む。
【0018】
ION212とJBOD212との間の接続は、ここでは単純化された形で示してある。実際の接続は、図示の構成における記憶ディスク224の各ランク(行、ここでは4行)に対してファイバ・チャネル・ケーブルを使っている。実際には、各ION212は、図示の実施例に示す20個よりもむしろ40個と80個の間の記憶ディスク224を管理することになるであろう。
【0019】
ION(記憶ノード)
内部アーキテクチャ
ハードウエア・アーキテクチャ
図3は、ION212の構成と、JBOD222に対するそのインタフェースとに関して更に詳細を示す図である。各ION212は、JBOD相互接続部216を介してJBOD222アレー内の各記憶ディスク224に通信可能に連結するための入出力接続モジュール302と、ION212機能を実行してここに述べるION物理ディスク・ドライバ500を実現するCPUおよびメモリ304と、ION212操作をサポートするために電力を供給する電力モジュール306とを含む。
【0020】
JBOD図4は、JBOD筐体222に関して更に詳細を示す図である。監視あるいは制御が可能であるJBOD筐体222内のすべてのコンポーネントは、エレメント402〜424と呼ばれる。所定のJBOD筐体のためのすべてのエレメント402〜424は、構成ページ符号を持った受信診断結果コマンドを介して返される。ION212は、これらのエレメントを番号付けしているこのエレメント順序付けリストを使用する。記載の第1のエレメント402はエレメント0であり、第2のエレメント404はエレメント1であり、以下同様である。これらのエレメント番号は、コンポーネントをアドレス指定するためにここに記載の管理サービス層706によって使われるLUN−Cを作成するときに使われる。
【0021】
【表1】
筐体の内部では、上の表1に示すようにエレメント位置は、ラック番号とシャシ番号とエレメント番号とによって指定される。ラック番号は、あるダイポールに属するラックに割り当てられたそのダイポールに対する内部番号である。シャシ位置は、キャビネット管理装置によって通知される高さを指す。エレメント番号は、SES構成ページによって返されるエレメント・リストへの指標である。これらのフィールドがLUN−Cフォーマットを構成している。
【0022】
入出力インタフェース・ドライバ・アーキテクチャ
図5は、ION212のための「SCSIドライバ」として機能するION物理ディスク・ドライバ500を含めて、ION212入出力アーキテクチャを示す図である。ION物理ディスク・ドライバ500は、RAID(redumdant array of inexpensive disks:低価格ディスクの冗長アレー)ソフトウエア・ドライバまたはシステム管理ソフトウエア230内の管理ユーティリティからの入出力要求を取り入れる責任を持っており、そしてJBOD相互接続部216の装置側の装置上でその要求を実行する。
【0023】
本発明の物理ディスク・ドライバ500は、三つの主要コンポーネント:ハイレベル・ドライバ(HLD)502とローレベル・ドライバ506とを含む。HLD502は、共通部503と装置固有のハイレベル部504とローレベル・ドライバ506とを含む。共通部502と装置固有ハイレベル・ドライバ504は、アダプタ独立であって、新しいアダプタ型のために修正を必要としない。ファイバ・チャネル・インタフェース(FCI)ローレベル・ドライバ506は、ファイバ・チャネル・アダプタをサポートしており、したがってアダプタ固有よりもむしろプロトコル固有である。
【0024】
FCIローレベル・ドライバ506は、SCSI要求をFCPフレームに変換し、またログイン(Login)と処理ログイン(Process Login)のようなファイバ・チャネル共通サービスを取り扱う。FCIローレベル・ドライバ506には、ファイバ・チャネル・プロトコル処理をアダプタ固有ルーチンから分割するハードウエア・インタフェース・モジュール(HIM)インタフェース508が機能的に連結されている。上述のコンポーネントの更に詳細な説明は、以下に示す。
【0025】
ハイレベル・ドライバ
ハイレベル・ドライバ(HLD)502は、どのような型の装置がアクセスされている場合でも、ION212に対するすべての要求についての入口点である。ある装置が開かれると、HLD502はコマンド・ページをその装置に結び付ける。これらの業者固有のコマンド・ページは、固有のSCSI機能のためにSCSIコマンド記述子ブロックがどのように構築されるべきかを指示する。コマンド・ページは、あるSCSI機能をSCSI仕様の指定とは異なるように取り扱う装置をドライバが容易にサポートできるようにする。
【0026】
共通(装置固有でない)部
HLD502の共通部は、下記の入口点を含む。
・cs−init :ドライバ構造を初期化して資源を割り当てる。
・cs−open :装置を使用可能にする。
・cs−close:入出力を完了して装置をサービスから削除する。
・cs−strategy:装置の読み/書き入力を阻止する(Buf−t interface)。
・cs−intr :ハードウエア割込みをサービスする。
【0027】
これらのルーチンは、すべての装置の型について同じ機能を実行する。これらのルーチンの大部分は、装置の型(ディスク、テープ、worm(追記型)、CD ROM等)によって指標付けされたスイッチ(切替え)表によっていかなる装置固有の要件でも取り扱う装置固有ルーチンを呼び出す。
【0028】
この cs−open機能は、その装置が存在しており、そこで実行されるべき入出力操作の準備ができていることを保証する。現在のシステム・アーキテクチャとは異なり、共通部503は、オペレーティング・システム(OS)の初期化期間中に既知の装置の表を作成することはない。その代わりにドライバ共通部503は自己構成を行う。すなわちドライバ共通部503は、その装置の初期オープン時に装置の状態を決定する。これは、ドライバ共通部503がOS202の初期化段階後にオンラインになった可能性のある装置を「見る」ことができるようにする。
【0029】
初期オープン期間中、SCSI装置は、目標装置にSCSI問合せコマンドを発行することによってコマンド・ページに結合される。もし装置が肯定的に応答すれば、その応答データ(業者ID、製品ID、ファームウエア改訂レベルといった情報を含む)がSCSI構成モジュール516内の既知装置表と比較される。もし一致があれば、その装置は、その表の項目に指定されたコマンド・ページに明示的に結合される。もし一致がなければ、その装置は、一般CCS(Common Comand Set:共通コマンド・セット)またはその応答データ・フォーマットに基づくSCSI・IIコマンド・ページに暗示的に結合される。
【0030】
ドライバ共通部503は、ローレベル・ドライバ506によって使われるルーチンと、資源を割り当て、分散・収集操作のためのDMAリストを作成し、SCSI操作を完了させるコマンド・ページ機能とを含む。
【0031】
すべてのFCIローレベル・ドライバ506ルーチンは、ドライバ共通部503から呼び出される。ドライバ共通部503は、ハードウエアを設定して動作を開始させるためにハードウエア・インタフェース・モジュール(HIM)508内の適当なローレベル・ドライバ(LLD)ルーチンを呼び出すことによってSCSI動作を実際に起動する唯一の層である。LLDルーチンはまた、SCSI構成モジュール516から構成時に割り当てられた、ドライバIDによって指標付けされたスイッチ表を介してアクセスされる。
【0032】
装置固有部
共通部502と装置固有ルーチン504との間のインタフェースは、共通部へのインタフェースと似ており、また csxx−init、csxx−open、csxx−close、csxx−strategyというコマンドを含んでいる。“xx” という記号は、記憶装置の型(例えばディスクについては“dk”あるいはテープについては“tp”)を示す。これらのルーチンは、いかなる装置固有要件でも取り扱う。例えばもし装置がディスクであったとすれば、csdk−openはそのディスクの固有領域から区分表情報を読み取らなければならず、またcsdk−strategyはその区分表情報を使って、ブロックが禁止区域にあるかどうかを判定しなければならない。(区分表は各固有の物理ディスク毎に論理ディスクから物理ディスクへのディスク・ブロックのマッピングを定義している。)
【0033】
ハイレベル・ドライバの誤り/失敗の処理
誤り処理
再試行
HLD502の最も一般的な回復方法は、失敗した入出力操作を再試行することによっている。所定のコマンド型に関する再試行の回数は、コマンド・ページによって指定される。例えば読取りあるいは書込みコマンドは非常に重要であると見なされるので、それらに関連のコマンド・ページは、再試行回数を3と設定することもできる。問合せコマンドは重要とは見なされないが、一日の初めの操作の時に、一定の再試行回数ではシステムの性能低下を招くので、その試行回数はゼロにされることもある。
【0034】
初めに要求が発行されると、その再試行回数はゼロに設定される。要求が失敗して回復手順が再試行されることになる度ごとに、再試行回数は増やされる。もし再試行回数がコマンド・ページで指定された最大試行回数より大きくなれば、その入出力操作は失敗となり、要求者にはメッセージが返送される。そうでなければ、それは再発行される。このルールの唯一の例外は、ユニット・アテンションに関するものであって、これは一般には誤りというよりはイベント通知である。もしあるコマンドに関してユニット・アテンションが受け取られ、その最大再試行回数がゼロか1に設定されていれば、ハイレベル・ドライバ502は、この特定の入出力のための最大再試行を2に設定する。これは、ユニット・アテンション状態のために早まって失敗と送り返される入出力を防止することになる。
【0035】
遅延された再試行は、その再試行が所定の時間の間は、待ち行列に再配置されないということを除いて、上述の再試行手順と同じに扱われる。
【0036】
失敗したScsi−ops
FCIローレベル・ドライバ506に発行されるScsi−opは、幾つかの状況によって失敗することがある。表2は、FCIローレベル・ドライバ506がHLD402に返すことのできる、起こり得る失敗の型を下に示す。
【0037】
【表2】
ローレベル・ドライバの誤り条件
資源不足
資源不足誤りは、要求時に所望の資源が利用可能でないときに発生する。一般にこれらの資源は、システム・メモリとドライバ構成メモリである。
【0038】
システム・メモリ不足処理は、セマフォ・ブロッキング(信号阻止)によって遂行される。メモリ資源をブロックするスレッド(プロセスの集まり)は、新しい入出力が発行されるのを防止するであろう。このスレッドは、入出力完了がメモリを解放するまでブロックされたままになっているであろう。
【0039】
ドライバ構成資源は、Scsi−opおよび入出力ベクトル(IOV)リスト・プールに関連している。IOVリストは、ディスクとの間でやり取りされるメモリの開始値と長さ値のリストである。これらのメモリ・プールは、プールのサイズを指定するために調整可能なパラメータを使うことによって一日の初めに初期化される。もしScsi−opまたはIOVプールが空であれば、新しい入出力が入ってこれらのプールを大きくする結果になるであろう。いずれかのプールを大きくするために一時に1ページ(4096バイト)のメモリが割り当てられる。その新しいページからすべてのScsi−opsまたはIOVが解放されるまで、そのページは解放されない。もしION212がScsi−opsに関するページまたはページを絶えず割り当てたり解放したりしているならば、関連するパラメータを調整することが望ましいかもしれない。
【0040】
すべての資源不足処理はイベントを通じてログ(記録)される。
【0041】
一日の初めの処理
一日の初めにHLD502は、その必要な構成とプールとを初期化し、そしてアダプタ固有のドライバとハードウエアとを初期化するための呼出しを行う。一日の初め処理は、(1)Scsi−Opプールを割り当てることと、(2)IOVプールを割り当てることと、(3)ファイバ・チャネル構成とハードウエアとを初期化するためにFCIhw−init()への呼出しを行うことと、(4)割込みサービス・ルーチンcs−initr()を適当な割込みベクトルに結合することとを行うcs−init()への呼出しによって開始される。
【0042】
失敗の処理
ION212ダイポールの二つの半分は、共通セットのディスク装置に付加される。ダイポール226内のION212、214は両者とも何時でも所定のときにすべての装置にアクセスできなくてはならない。HLD502から見て、失敗のために特別の処理はない。
【0043】
コマンド・ページ
本発明のION212は、SCSIコマンドの実際のビルディングから共通部と装置固有部とを抽出するコマンド・ページ方式を使用する。コマンド・ページは、各関数がSCSIコマンド(例えばSCSI−2−Test−Unit−Ready)を表す関数へのポインタのリストである。上述のように、ある特定のコマンド・ページは、ある装置の初期オープンまたはアクセス時にその装置に結合される。すべての業者独自のそして柔軟性のないSCSI装置の癖は、その装置固有のコマンド・ページを介して参照される関数によって管理される。一般的なシステムは、柔軟性のないSCSI装置あるいは業者独自のSCSIコマンドの統合を可能にするために、コマンド・コントロール・セット(CCS)と、SCSI・IおよびSCSI・IIページと、業者独自ページとを一緒に付けて出荷される。
【0044】
コマンド・ページ関数は、装置共通部503と装置固有部504とFCIローレベル・ドライバ506(要求センス)とから仮想装置(Virtual DEVice(VDEV))インタフェースと呼ばれるインタフェースを介して呼び出される。これらのレベルでは、ソフトウエアは、装置がどのSCSI方言を使うかを気にせずに、単に意図した関数を装置が実行することを気にかける。
【0045】
各コマンド・ページ関数は、SCSIコマンドを構築して、必要ならば、直接メモリ・アクセス(DMA)データ転送のためにメモリを割り当てる。それからこの関数は、ドライバ共通部503に制御を返す。その後、ドライバ共通部503は、待ち行列上にSCSI操作を配置し(必要であればここで分類が行われる)、FCIローレベル・ドライバ506の起動ルーチンを呼び出すことによってそのSCSIコマンドを実行する。そのコマンドが実行されたのち、もしそのコマンド・ページ関数のなかに「割込み時呼出し:Call On Interrupt(COI)」ルーチンが存在すれば、完了後のコマンドのデータ/情報をそのドライバのドライバ共通部503が吟味する前に、COIが呼び出されるであろう。
【0046】
返されたデータ/情報をマッサージすることによってCOIは、非標準のSCSIデータ/情報を標準のSCSIデータ/情報に変換することができる。例えばもし装置の問合せデータがバイト8の代わりにバイト12で始まる業者IDを含んでいるならば、問合せに関するコマンド・ページ関数は、業者IDを、返却された問合せデータのバイト8にシフトするCOIを含むことになるであろう。ドライバ共通部503は常に、バイト8で始まる業者ID情報を抽出するであろうから非標準装置について知る必要がなくなる。
【0047】
JBODおよびSCSI構成モジュール
RAID制御部の重要な機能は、損失しないようにデータを確保することである。この機能を実行するためにRAIDソフトウエアは、ディスク装置が何処に常駐していてその配線がそれをどのように接続しているかを物理的に知らなくてはならない。それ故、RAID制御部技術実現の重要な要件は、記憶装置の構成を制御する能力である。JBODおよびSCSI構成モジュール516のJBOD部には、ION212のための静的なJBOD構成を定義することが課せられている。JBODおよびSCSI構成モジュール516によって記述される構成情報は、表3に示す。
【0048】
【表3】
アダプタとJBOD筐体222と記憶ディスク224との物理的位置情報に加えて、FCIローレベル・ドライバ506とドライバ装置固有部504入口点ならびにコマンド・ページ定義のような他の構成情報も記述しなくてはならない。この情報を与えるためにspace.cファイルが使われ、またION212がION物理ディスク・ドライバ500のコンパイル時に構成情報を構築する。サポートされているION212構成が変更される場合には、新しいバージョンのION物理ディスク・ドライバ500がコンパイルされなくてはならない。
【0049】
ファイバ・チャネル・インタフェース(FCI)ローレベル・ドライバ
FCIローレベル・ドライバ506は、ハイレベル・ドライバ502用のSCSIインタフェースを管理する。ドライバ共通部503とFCIローレベル・ドライバ506との間のインタフェースは、下記のルーチンを含んでおり、ここで“xx” の表示はFCIローレベル・ドライバ506が制御するハードウエアに関する一意の識別子である(例えばFCIhw−init)。
・xxhw−init ハードウエアを初期化する。
・xxhw−open ホスト・アダプタの現在状態を決定する。
・xxhw−config ホスト・アダプタの構成情報(SCSI ID等)を設定する。
・xxhw−start 可能であれば、SCSI操作を起動する。
・xxhw−intr すべてのSCSI割込みを処理する。
【0050】
ローレベル・ドライバは、装置の仕様について知ることも気にかけることもない純粋なSCSIドライバであるが、その代わりに単に上位レベルからのSCSIコマンドの導管である。この層には、割込みサービス・ルーチンとハードウエア初期化ルーチンとマッピングおよびアドレス変換ルーチンと誤り回復ルーチンとが常駐している。更に同じシステム内に複数の型のローレベル・ドライバが共存できる。ハードウエア制御層とドライバの残りの部分との間のこの分割は、同じハイレベル・ドライバが異なるマシン上で走行することを可能にしている。
【0051】
FCIモジュールの基本機能は、(1)SCSIハイレベル・ドライバ(SHLD)にインタフェース接続してSCSI OpをFCI作業オブジェクト構成(入出力ブロック(IOB))に変換することと、(2)異なるHIM508を介して新しいファイバ・チャネル・アダプタのサポートを容易にするために共通インタフェースを提供することと、(3)いかなるFC−4プロトコル層(図示の実施例のファイバ・チャネル・プロトコル(FCP))によって使うことのできるFC−3共通サービスを提供することと、(4)HIM508またはハードウエアが応答しない場合にHIMに送られた非同期コマンド(例えばFCPコマンド、FC−3コマンド、LIPコマンド)を保護するタイマー・サービスを提供することと、(5)(a)入出力要求ブロック(IOB)と(b)ベクトル表と(c)HIM508資源(例えばホスト・アダプタ・メモリ、DMAチャネル、入出力ポート、スクラッチ・メモリ)とを含むファイバ・チャネル・ドライバ全体(FCIとHIM)のための資源を管理することと、(6)ファイバ・チャネル調停ループ使用(対ファイバ・チャネル・ファブリック)を最適化することとである。
【0052】
FCIローレベル・ドライバ506用の重要なデータ構造のリストを下記の表4に示す。
【0053】
【表4】
FC基本データ構造
【0054】
誤り処理
FCIローレベル・ドライバ506が処理する誤りは、ファイバ・チャネルおよび/またはFCI自身に固有の誤りである傾向がある。
【0055】
多段階誤り処理
FCIローレベル・ドライバ506は、ある幾つかの誤りを多段階誤り処理によって処理する。これは、誤り処理手法が誤りの型にとって最適化されることを可能にする。例えば、もしより危険の少ない手順が使われて、効果がない場合には、更に激しい誤り処理対策がとられることがある。
【0056】
失敗したIOB
すべての入出力要求は、入出力要求ブロックを介してHIM508に送られる。下記は、HIM508が送り返すことのできる、起こり得る誤りである。
【0057】
【表5】
HIM誤り条件
【0058】
資源不足
FCIローレベル・ドライバ506は、IOB用の資源プールとベクトル表とを管理する。これらのプールのサイズはION212構成向けに調整されるであろうから、これらの資源が枯渇することはなく、単純な回復手順が実現される。
【0059】
もしIOBまたはベクトル表を求める要求が行われてその要求を満足させるために十分な資源がない場合には、その入出力は待ち行列に戻されて入出力を再起動させるためのタイマーがセットされる。資源不足の発生はログに記録される。
【0060】
一日の初め処理
一日の初めにハイレベル・ドライバ502は、サポートされている各ローレベル・ドライバ(FCIローレベル・ドライバ506を含む)に呼出しを行う。FCIローレベル・ドライバ506の一日の初め処理は、下記の操作を実行するFCIhw−init()ルーチンを呼び出すことから始まる。
【0061】
先ず、特定のPCIバスと装置のためにHIM−FindController()関数が呼び出される。これは、あるバージョンのFindController()を呼び出す。JBODおよびSCSI構成モジュール516は、探索すべきPCIバスと装置とを指定する。次ぎに、もしアダプタ(ADAPTECから使用可能なアダプタのような)が見つかれば、そのアダプタにHCBが割り当てられて初期化される。それからスクラッチ・メモリ、メモリ・マップされた入出力、DMAチャネルといったそのアダプタ固有の資源を取得するために、HIM−GetConfiguration()が呼び出される。次ぎに、資源が割り当てられて初期化され、ADAPTEC HIMとハードウエアとを初期化するために HIM−Initialize()が呼び出される。最後にIOBとベクトル表とが割り当てられて初期化される。
【0062】
失敗処理
ION212ダイポールの二つの半分は、共通セットのディスク装置に取り付けられる。両方のION212は、何時でも所定のときにすべての装置にアクセスできなくてはならない。FCIローレベル・ドライバ506から見て、失敗に関する特別の処理はない。
【0063】
ハードウエア・インタフェース・モジュール(HIM)
ハードウエア・インタフェース・モジュール(HIM)508は、ADAPTECのSlimHIM509にインタフェース接続するように設計されている。HIMモジュール508は、FCIローレベル・ドライバ506からの要求をSlimHIM509が理解できてハードウエアに発行できる要求に変換するという主要な責任を持っている。これは、入出力ブロック(IOB)要求を取り入れることと、そのIOB要求をSlimHIM509によって理解される、それに対応する転送制御ブロック(TCB)要求に変換することとを含んでいる。
【0064】
HIM508の基本機能は、(1)アダプタに対して、Find(見つける)、Configure(構成する)、Initialize(初期化する)、SendI/O(入出力を送る)を行うハードウエア固有の関数へのローレベル・アプリケーション・プログラム・インタフェース(API)を定義することと、(2)入出力ブロック(IOB)をSlimHIM/ハードウエアが理解できるTCB要求(例えばFCプリミティブTCB、FC拡張リンク・サービス(ELS)TCB、SCSI−FCP操作TCB)に変換するためにFCIローレベル・ドライバ506にインタフェース接続することと、(3)SlimHIMに発行されたコマンドの引渡しと完了とを追跡することと、(4)SlimHIMからの割込みとイベント情報とを解釈して、FCIローレベル・ドライバ506と共同で適当な割込み処理および/または誤り回復を起動することとである。TCBのデータ構造は下記の表6に示す。
【0065】
【表6】
基本的なHIM構造
【0066】
一日の初め処理
HIM508は、一日の初めに使われる3個の入口点を定義する。第1の入口点は、HIM−FindAdapterであって、これはFCIhw−init()によって呼び出され、PCI BIOSルーチンを使って所定のPCIバスおよび装置上にアダプタが常駐しているかどうかを決定する。そのアダプタについてのPCI業者・製品IDは、そのアダプタが存在するかどうかを決定するために使われる。
【0067】
第2の入口点は、HIM−GetConfigurationであって、これはアダプタが存在する場合にFCIhw−init()によって呼び出され、与えられたHCBの中に資源要件を入れる。ADAPTECアダプタについてこれらの資源は、IRQとスクラッチとTCBメモリとを含む。この情報は、SlimHIM509に呼出しを行うことによって求められる。
【0068】
第3の入口点は、HIM−Initializeであって、これは資源が割り当てられて初期化された後にFCIhw−init()によって呼び出され、TCBメモリ・プールを初期化し、SlimHIMを呼出してスクラッチ・メモリとTCBとハードウエアとを初期化する。
【0069】
失敗処理
ION216ダイポールの二つの半分は、共通セットのディスク装置に取り付けられる。ION212、214の両者は、何時でも所定のときにすべての装置にアクセスできなくてはならない。HIM509から見て、失敗に関する特別の処理はない。
【0070】
AIC−1160 SlimHIM
SlimHIM509モジュールは、アダプタのハードウエア概念を与えるという全体的な目的を持っている(図示の実施例ではADAPTEC AIC−1160)。このSlimHIM509は、ファイバ・チャネル要求をAIC−1160アダプタに移送し、割込みをサービスし、SlimHIM509インタフェースを介してHIMモジュールに状態を報告するという主要な役割を持っている。
【0071】
SlimHIM509はまた、AIC−1160ハードウエアの制御を担っており、これを初期化し、ファームウエアをロードし、実行時動作を起動し、AIC−1160の誤りの場合にAIC−1160ハードウエアの制御を行う。
【0072】
外部インタフェースとプロトコル
ION物理ディスク・ドライバ・サブシステム500のすべての要求は、共通のハイレベル・ドライバ502を介して行われる。
【0073】
Initialization(cs−init)
このサブシステムへの単一の呼出しは、入出力用に装置を準備するために必要となるすべての初期化を実行する。サブシステム初期化期間中にすべての装置あるいはアダプタハードウエアと同じく、すべてのドライバ構造が割り当てられて初期化される。
【0074】
Open/Close(cs−open/cs−close)
オープン/クローズ(Open/Close)インタフェース510は、装置へのアクセスに必要な構造を初期化して分解する。このインタフェース510は、すべての「オープン」と「クローズ」とが暗示的に層状にされているという理由から一般のオープン/クローズ・ルーチンとは異なっている。したがって入出力物理インタフェース・ドライバ500が受け取るすべての「オープン」は、受信されて関連付けられた「クローズ」を伴っていなければならず、また装置関連構造は、すべての「オープン」が「クローズ」されるまで解放されない。オープン/クローズ・インタフェース510は、「オープン」または「クローズ」の返却がその要求の完了を示すと言うことにおいて同期している。
【0075】
Buf−t(cs−strategy)
Buf−tインタフェース512は、装置への論理ブロック読取り・書込み要求の発行を可能にする。要求者は、入出力を記述するBuf−t構造を伝える。装置ID、論理ブロック・アドレス、データ・アドレス、入出力の型(読取り/書込み)、呼戻しルーチンといった属性は、Buf−tによって記述される。要求が完了すると、要求者による呼戻しによって指定された関数が呼び出される。Buf−tインタフェース512は、非同期インタフェースである。要求者への関数の返却は、その要求が完了したことを示すわけではない。関数が返されるとき、入出力はその装置上で実行中であってもなくてもよい。要求は、実行されるのを待つ待ち行列上にあってもよい。この要求は、呼戻し関数が呼び出されるまでは完了しない。
【0076】
SCSILib
SCSILib514は、装置に送るべき通常の読取り・書込み以外のSCSIコマンド記述子ブロック(CDB)を可能にするインタフェースを提供する。このインタフェースによって、ディスクを回転させたり停止させるために装置起動・停止といった要求が使われ、また密閉装置を監視したり制御するためにSend、Receive(送信、受信)診断が使われるであろう。すべてのSCSILibルーチンは、同期している。呼び出された関数の返却は、要求の完了を示す。
【0077】
Interrupts(cs−intr)
ION物理ディスク・ドライバ500は、すべてのSCSIおよびファイバ・チャネル・アダプタの割込みのための中心的なディスパッチャである。一実施例ではフロントエンド/バックエンド割込み方式が利用される。このような場合に割込みが行われると、フロントエンド割込みサービス・ルーチンが呼び出される。フロントエンドは、割込みスタックから実行し、また割込み源を除去することと、更に割込みを発生させないようにアダプタを切り離すことと、バックエンド割込みサービス・ルーチンをスケジューリングすることとに責任を持っている。バックエンドは、実際に割込み(アダプタ割込みの切り離しとバックエンド・タスクの開始との間に発生したかもしれなかった他のいかなる割込みとも一緒に)を処理する優先度の高いタスクとして実行する。
【0078】
ION機能
ION212は、5個の主要な機能を実行する。これらの機能には下記のものが含まれる。
【0079】
記憶装置の命名と投影:記憶ディスク224上に記憶された記憶資源オブジェクトのイメージをコンピューティング・ノード200に投影することによって、一様で一貫性のある記憶装置の命名を提供するためにコンピューティング・ノード200と調和的動作をする。
【0080】
ディスク管理:ION212と機能的に連結された記憶ディスク駆動機構224を用いてデータ分散およびデータ冗長の技術を実現する。
【0081】
記憶装置管理:コンピューティング・ノード200からの入出力要求の処理、性能上の機器構成およびイベント分散を含めて記憶装置の設定、データ移動などを処理するためのもの。
【0082】
キャッシュ管理:アプリケーション・ヒント・プリフェッチといったキャッシュ・フル操作を含む読み・書きデータのキャッシングのためのもの。
【0083】
相互接続管理:性能を最適化するためにコンピューティング・ノード200との間のデータの流れを制御し、要求の経路指定を制御し、またしたがってダイポール226内の二つのION212の間での記憶の分配を制御する。
【0084】
記憶装置の命名および投影
ION212は、記憶ディスク224上に記憶された記憶資源オブジェクトのイメージをコンピューティング・ノード200に投影する。この機能の重要な役割は、ION212によって管理される各記憶資源(仮想ファブリック・ディスクを含む)に関して、グローバルに一意の名前、ファブリック独自のID、あるいはボリューム・セット識別子(VSI)602の作成と割り当てである。
【0085】
図6は、VSIの構造と内容および関連データを示す図である。VSI602が一意であって競合しないことは重要であるから、各ION212は、そのION212によってローカルに管理される記憶資源に関してグローバルに一意の名前を作成して割り当てることに責任があり、また記憶資源オブジェクトを記憶する記憶資源を管理するそのION212だけがその記憶資源に関してVSI602を割り当てることが許される。常駐記憶資源を現に管理しているION212だけはVSI602を作成して割り当てることができるが、他のION212は、その後にそれらの記憶資源の記憶と検索とを管理することができる。これは、もしION割り当てのVSI602が他のIONによって管理される記憶資源に後で移されても、ある特定のデータ・オブジェクトについてのVSI602は変更する必要がないからである。
【0086】
VSI602は、ION識別子604とシーケンス番号506という二つの部分を含む64ビットの数として実現される。ION識別子604は、各ION212に割り当てられるグローバルに一意の識別番号である。グローバルに一意のION識別子604を得る一つの手法は、しばしばリアルタイム・クロック・チップに格納される電子的に読取り可能なマザーボード通し番号を使うことである。この通し番号は、ただ一つのマザーボードに割り当てられるだけであるから一意である。ION識別子604がグローバルに一意の番号であるから、各ION212は、ローカルにだけ一意であるシーケンス番号を割り当てることができ、また更にグローバルに一意のVSI602を作成することができる。
【0087】
VSI602がION212上の記憶資源に結合されたのちに、そのION212は、その記憶資源104へのアクセスを可能にするファブリック上のすべてのノードに対して同報メッセージを介してVSI602を移出する。この処理は、本書のION名前移出セクションで更に論ずる。
【0088】
それからコンピューティング・ノード200ソフトウエアは、移出されたVSI602を使って、他のいかなるローカルに付加された記憶装置とは区別がつかないということにおいて意味的にトランスペアレントであるその記憶資源についてのローカルの入口点を作成する。例えばもしコンピューティング・ノードのオペレーティング・システム202がUNIXであったとすると、ブロック装置入口点と裸装置入口点の両者とも、周辺装置108またはディスク210といったローカルに付加された装置に類似の装置ディレクトリ内に作成される。他のオペレーティング・システム202についても同様な意味的に同等なものがついてくる。異なるオペレーティング・システム202を走行させるコンピューティング・ノード200の間では、異種コンピューティング環境を最も良くサポートするためにルート名の整合性が維持される。
【0089】
コンピューティング・ノード200内のローカルの入口点は、移出された記憶資源104の現在の可用性を追跡するためにION212によって動的に更新される。VSI602は、移入された記憶資源について装置入口点名を作成するためにコンピューティング・ノード200上で走行するOS依存のアルゴリズムによって使われる。この手法は、共通のオペレーティング・システムを共用するノード間での名前の整合性を保証する。これは、各コンピューティング・ノード200上のグローバルに命名された記憶資源のためのローカルな入口点を動的に(静的の代わりに)作成することによって異種コンピューティング環境をサポートするために、システムがルート名の整合性を維持することを可能にしている。
【0090】
上述のように記憶資源104に関するVSI604の作成の詳細は、記憶資源104を移出しているION212によって直接制御される。コンピューティング・ノード200間の潜在的なオペレーティング・システム104の違いを説明するために、1個以上の記述的ヘッダが各VSI602に結合されて、ION212上のVSI602と一緒に格納される。各々のVSI602記述子608は、特定のVSI602に関するコンピューティング・ノード200上の装置入口点の矛盾のない(名前と動作上の意味の両者がコンピューティング・ノード200全体に亘って同じである)作成のために必要な十分なOS202依存性のデータを格納するためのオペレーティング・システム(OS)依存データ・セクション610を含んでいる。
【0091】
このOS依存データ610は、例えばローカルなアクセス権612を記述するデータと所有権情報614とを含んでいる。VSI602がION212によって確立され、コンピューティング・ノード200によって移出された後で、しかしVSI602に関連したその記憶資源104のための入口点が作成されるよりは前に、適当なOS固有データ610は、ION212によってコンピューティング・ノード200に送られる。一つのVSI602当たり多数の記述的ヘッダは、異なるOS(各OSはそれ自身の記述子ヘッダーを持っている)を走らせる多数のコンピューティング・ノード200のサポートと、異なるコンピューティング・ノード200グループ間でのばらばらのアクセス権のサポートとの両方を同時に可能にする。同じ記述子ヘッダを共用するコンピューティング・ノード200は、装置入口点の共通で矛盾のない作成を共用する。このようにして名前と動作上の意味の両者とも、共通セットのアクセス権を共有するすべてのコンピューティング・ノード200上で整合性を維持することができる。
【0092】
VSI記述子608はまた、別名フィールド616を含んでおり、これは人間が読取れるVSI602名をコンピューティング・ノード200上に表示するために使用できる。例えばもしVSI1984の別名が「soma」であれば、コンピューティング・ノード200は、1984と「soma」の両方に関するディレクトリ・エントリを持つことになるであろう。VSI記述子608はION212上のVSI602と一緒に格納されるので、VSI602を移入する各コンピューティング・ノード200上には同じ別名とローカル・アクセス権とが現れるであろう。
【0093】
前述のように本発明は、分散型割当て方式に適する命名手法を使用している。この手法では、名前はグローバルな一意性を保証するアルゴリズムにしたがってローカルに作成される。これの変形は、各システムごとに中心的な命名サーバが存在する、ローカルに集中化する手法を追求することもできようが、可用性と頑丈さとの要件からは純粋な分散型手法を重く見ている。上述のことを使って、本発明はグローバルな一意性を保証するローカルに実行可能なアルゴリズムを作成することができる。
【0094】
グローバルに整合性のある記憶システムを作成することは、コンピューティング・ノード200全体に亘って名前の整合性を保存するだけでなくサポートすることを更に必要とする。名前の整合性は、安全保護の問題であって、これは本発明では二つの形式を採る。第一は、ION212とコンピューティング・ノード200との間のインタフェースの安全保護であり、第二は、コンピューティング・ノード200内からの記憶の安全保護である。
【0095】
記憶の認証と認可
VSI602資源は、認証と認可という二つの異なる機構で保護されている。もしコンピューティング・ノード200がION212によって認証されれば、VSI名がそのコンピューティング・ノード200に移出される。移出されたVSI602は、コンピューティング・ノード200上に装置名として現れる。コンピューティング・ノード200上で走行するアプリケーション・スレッドは、この装置名で操作の実行を試みることができる。装置入口点のアクセス権とコンピューティング・ノード200のOS意味論とは、アプリケーション・スレッドがいかなる所定の認可でも実行するように権限付与されているかどうかを決定する。
【0096】
この認可の手法は、コンピューティング・ノード200の認可を、相互接続ファブリック106によってアクセス可能な何処にでも配置される記憶資源にまで拡張する。しかしながら本発明は、本発明においては記憶資源104がコンピューティング・ノード200によって直接的に管理されないということで、他のコンピュータ・アーキテクチャとは異なっている。この相違は、ローカルの認可データを単にファイル・システム・エンティティに結合することを実行できなくする。その代わりに本発明は、コンピューティング・ノード200認可方針データをION212のVSI602と結合させて、コンピューティング・ノード200とION212とがあるレベルの相互信頼を共有する二段階手法を用いる。ION212は、ある所定のVSI602への各コンピューティング・ノード200アクセスを認可するが、VSIによって指示されたデータに対する特定のアプリケーション・スレッドの認可の更なる改良は、このコンピューティング・ノード200の責任である。それからコンピューティング・ノード200は、ION212によって記憶された認可メタデータ内に含まれる方針を使って、記憶エンティティ104に関する認可方針を実行する。
【0097】
したがってコンピューティング・ノード200は、ION212を信頼してメタデータを保存することを要求され、またION212に対してはコンピューティング・ノード200を信頼してその認可を実行することを要求する。この手法の一つの利点は、ION212に対してメタデータを解釈する方法に関する知識を持つことを要求しないということである。したがってION212は、コンピューティング・ノード200によって使われている異なるオペレーティング・システム202によって課せられた異なる認可意味論によって課せられた特定の認可意味論を実行することから分離される。
【0098】
VSI602に関連するすべてのデータ(アクセス権を含めて)は、ION212に格納されるが、アクセス権データの内容を管理する責任はコンピューティング・ノード200に置かれている。特にION212によって移出されるVSI602のリストがコンピューティング・ノード200に送られると、ローカルな認可を実行するようにそのコンピューティング・ノード200によって要求されるOS固有データのすべては各VSI602に結合される。例えばUNIXを走行させるコンピューティング・ノード200は、名前とグループ名とユーザIDとモード・ビットとを、すなわちファイル・システムに装置入口ノードを作るために十分なデータを送られるであろう。
【0099】
コンピューティング・ノードのオペレーティング・システム202のそのクラスにとって固有の(あるいは正にそのコンピューティング・ノード200にとって固有の)VSI602の別の名前は、各VSI602と一緒に含まれる。記憶装置のアクセス権を変更するローカルのOS固有コマンドは、コンピューティング・ノード200ソフトウエアによって捕捉されてION212に送られるメッセージに変換される。このメッセージは、OSバージョンに固有のVSIアクセス権データを更新する。この変更が完了したときION212は、システム内でそのOSを使っているすべてのコンピューティング・ノード200にこの更新を送信する。
【0100】
コンピューティング・ノード(CN)200がオンラインになるとそれは、「自分はここにいます」というメッセージを各ION212に送信する。このメッセージは、このコンピューティング・ノード200を識別するディジタル署名を含んでいる。もしこのコンピューティング・ノード200がION212によって知られれば(ION212がコンピューティング・ノード200を認証すれば)、ION212は、そのコンピューティング・ノード200がアクセス権を有するすべてのVSI名を移出する。コンピューティング・ノード200は、VSI名のこれらのリストを使ってシステム記憶用のローカル・アクセス入口点を構築する。このコンピューティング・ノード200内で走行するアプリケーション204がローカル端点を参照すると、コンピューティング・ノード200はそのVSI602用のアクセス権記述データに関するあるメッセージを相互接続ファブリック106に亘って送信することによってION212に対して要求を行う。
【0101】
この要求メッセージは、要求しているコンピューティング・ノード200に関するディジタル署名を含んでいる。ION212は、このメッセージを受け取り、ディジタル署名を使って、応答時に送るべきVSIアクセス権の適当なセットを突き止め、要求中のコンピューティング・ノード200にそのデータを相互接続ファブリック106を介して送信する。ION212はコンピューティング・ノード200に送られたアクセス権を解釈しないで単にそのデータを送るだけである。コンピューティング・ノード200ソフトウエアは、このデータを使って、この主題の記憶オブジェクトのためのローカル入口点にローカルアクセス権の適当なセットを結合する。
【0102】
一セットのコンピューティング・ノード200は、同じディジタル署名を使うか、多数の異なる署名を同じセットのアクセス権に結合するかいずれかによってこの同じセットのアクセス権を共有できる。本発明は、コンピューティング・ノード200を識別するためと、どのセットのローカル認可データを使ってローカル入口点を作成するかを指定するためとの両方に認証を使う。認可データは、VSI602が最初にアプリケーションによって参照されるときにコンピューティング・ノードに引き出されるだけである。この「必要時に引く」モデルは、非常に大きなシステム上で大量のアクセス権メタデータを移動させることの運転開始コストを回避する。
【0103】
もしコンピューティング・ノード200が認証に失敗するならば、ION212はVSI602名を持たないメッセージを送り返し、そして認証失敗フラグがセットされる。コンピューティング・ノード200は、そのION212からのVSI装置名なしで黙って続行することができ、またシステム管理者の希望によってその認証失敗を報告することもできる。もちろん認証に成功してもVSI装置名をコンピューティング・ノードに送らないことにしてもよい。
【0104】
起動時の競合解消
ION212は起動するとき、VSI602を相互接続ファブリック106に移出しようとする。このような場合、システムのデータ完全性は新しいION212による破壊から保護されなくてはならない。これを達成するために新しいION212は、記憶の移出が許される前に検査される。これは次のように遂行される。最初にION212は、そのローカル記憶を調べて、移出可能なVSI602のリストを作成する。VSI602メタデータは、VSIの世代番号または変更番号を含む。このVSI変更番号は、そのVSI602に関連した主な状態変更があるときは何時でも(VSIが、あるネットワークにうまく移出されたときなど)増やされる。コンピューティング・ノード200とION212とを含めて、VSI競合検出に関与するすべてのノードは、移出されたVSIの履歴とそれらの変更番号とをメモリ内に保持する。
【0105】
相互接続ファブリック106上のすべてのノードは、移出されたVSI602をVSI競合に関して絶えず監視することが必要とされる。最初にVSI変更番号は(記憶領域が最初に生成されたとき)ゼロにセットされる。変更番号は、移出された前回よりも低い変更番号を持った移出VSI602は、真のVSI602に関連したION212が使われなくなった場合でも偽のVSIであると想定されることがあり得るると言うことにおいて、競合解消基準を提供する。真のVSI602に関連した変更番号よりも高い変更番号を有するION212に付加された偽のVSI602は、真のVSI602上で既に入出力が実行されてしまったのでなければ、真のVSI512と見なされる。相互接続ファブリック106に新たに導入されたION212は、0から始まるその変更番号を持つ必要がある。
【0106】
ION212は、システムに入りたいと公表したのちに、VSI602とそれ関連の変更番号とのそのリストを送信する。その他のすべてのION212とコンピューティング・ノード200は、このリストを取得してから、VSI602リストを移出するためにION212の妥当性を検査する。
【0107】
同じVSI602を現在移出中の他のIONは、妥当であると想定され、競合している特定のVSIの移出を許可しないというメッセージを新しいION512に送る。もし新しいION512がシステム内で現に使われている番号よりも大きい世代番号または変更番号を持っているならば(VSIはグローバルに一意であるから、通常の運用では起こるはずのないケース)、このことは記録され、必要な処置は何でも取るシステム管理者に報告される。もし競合が存在しなければ、各ION212とコンピューティング・ノード200は、進行票で応答する。すべてのION212とコンピューティング・ノード200とからの応答が受信されると、競合していない新しいION212VSI602のすべては自分の世代番号を増加させて、移出に関してシステムに利用可能となる。
【0108】
コンピューティング・ノード200がVSI602へのアプリケーション参照とアクセスとを持っているとき、そのコンピューティング・ノード200は現在の世代番号をローカルに追跡するであろう。新しいION212がVSI602を公表する(移出しようとする)ときは何時でも、コンピューティング・ノード200は、VSI602によって公表された世代を、そのVSI602に関してローカルに記憶されている世代番号に対して検査する。もし世代番号が一致すれば、コンピューティング・ノード200は進行することに票を投じるであろう。
【0109】
もし世代番号が競合していれば(旧いバージョンのVSIがオンラインにされた場合にあり得るように)、コンピューティング・ノード200は不許可メッセージを送るであろう。そのVSI602に関して新しいION212によって公表された世代番号よりも旧い世代番号を持っているコンピューティング・ノード200は、進行に票を投じて、そのVSI602に関する世代番号のローカル・バージョンを更新するであろう。コンピューティング・ノード200は再ブートの間で世代番号を保存しないが、これは、基本設計が、相互接続ファブリック106に亘るシステムが安定であることと、コンピューティング・ノード200とION212とを含めてすべての新規参入者が整合性について検査されることとになっているからである。
【0110】
最初の電源投入は、VSI602に関する名前領域の安定性が問題になる状況を作りだすことがある。この問題は、先ずION212に電源投入して、それからコンピューティング・ノード200が参入を許される前にこれらのION212が名前競合の解消を続行することを可能にすることとによって、対処される。それから古くなったVSI602のバージョン(ディスク駆動機構上の旧いデータと他の世代を遡る条件から)は、その世代番号を介して解決される。コンピューティング・ノード200がVSI602を使っていないかぎり、より高い世代番号を有する新規参入者は、特定のVSI602の現行移出者を無効にすることができる。
【0111】
名前サービス
ION名の移出
ION212は、関連する記憶装置へのアクセスを可能にすることを排他的に所有するVSI602のワーキング・セットを移出する。ION212によって移出されるVSIのワーキング・セットは、兄弟ION(ダイポール226内の他方のION212で、214として示される)とのVSI所有権折衝を通じて動的に決定され、またこれは相互接続ファブリック106との通信を行うすべてのノード内でグローバルに一意であるべきである。このセットは、一般的にはION212に割り当てられたVSI602の省略時セットまたはPRIMARY(主)セットである。動的負荷最適配分のためのVSI移動と、兄弟ION214障害と入出力経路障害とを含む例外条件とは、移出VSI602がPRIMARYセットと異なるようにセットされる結果をもたらすことがある。
【0112】
VSIのワーキング・セットは、このワーキング・セットがコンピューティング・ノード200に最新のVSI602構成を供給するために変わるときは何時でも、同報メッセージを介してION212によって移出される。コンピューティング・ノード200はまた、VSI602のそのワーキング・セットについてION212に問い合わせることもできる。VSI602への入出力アクセスは、一旦ION212が移出VSI602に関してオンライン状態に入るか、再び入るかすると、コンピューティング・ノード200によって初期化できる。前に述べたようにION212は、移出VSI602内にいかなる競合でも存在する場合には、オンラインに入ることが許されない。一塊の記憶装置に関連のVSI602は、すべて一意的であるべきであるが、多数の塊の記憶装置が同じVSIを持っている場合には競合が発生する機会がある(例えばもしVSIがION212ハードウエアとION212管理のシーケンス番号とに関連した一意のIDから構成されていて、そのION212ハードウエアが物理的に移された場合)。
【0113】
一旦ワーキング・セットが移出されると、移出しているION212は、移出されたVSI602への入出力アクセスを可能にするためにオンラインに入る前に、競合検査タイマー(2秒)をセットする。競合検査タイマーは、移入者が競合検査処理を行うために十分な時間を与えようとしまた、移出者に競合を知らせようとするが、タイマーが非常に大きな値にセットされていなければこれは保証できない。したがってION212は、公式にオンラインに入るすべてのノード(コンピューティング・ノード200とION212)からの明示的な承認を必要とする。オンライン同報メッセージはすべてのノードによって同時に応答され、またその結果は併合されて同報で返される。ION212は、もし併合された応答がACK(肯定応答)であれば公式にオンライン状態に入る。もしION212がオンラインに入ることを許されなければ、新たに移出されたVSI602のセットはアクセスできない。NAK(否定応答)を送ったノードは、競合を解消するために移出者に、続いてVSI競合メッセージを送る。一旦この競合が解消されれば、ION212は調整済みのワーキング・セットを移出して再びオンラインに入ろうとする。
【0114】
CN名の移入
コンピューティング・ノード200は、すべてのION212によって移出されたすべてのVSI504を移入するための処置をとる責任がある。一日の初め処理の時に、コンピューティング・ノード200は、名前領域の最新のビューを取得できるように、前に移出されたVSI602についてのすべてのオンラインION212から依頼する。その時点からコンピューティング・ノード200は、VSI602の移出に関して耳をそば立てる。
【0115】
VSI602に関連する制御情報はION212によって維持させるvsnode(VSノード)に入っている。VSノードのコンピューティング・ノード200部は、アプリケーション204に提示される名前の構成と管理のために使われる情報を含んでいる。VSノード情報は、ユーザ・アクセス権と名前の別名とを含んでいる。
【0116】
名前領域と別名
VSI602は、関連の記憶装置にアクセスするための代替の名前を与える、アプリケーション定義の名前別名を持つように構成できる。名前別名は、1セットの名前を論理的にグループ化するために仮想記憶領域に付加することができる。名前別名は仮想記憶領域内で一意でなければならない。
【0117】
VSNODE
コンピューティング・ノード200によってVSノードに加えられる修正は、即座の更新と処理のためにそれを所有しているION212に送られる。それからこのVSノード変更は、変更を移出してオンライン状態に再び入ることによってION212からすべてのノードに伝えられる。
【0118】
記憶ディスクの管理
JBOD筐体222は、ディスク装置のために物理的環境を提供することと、ディスク装置と筐体の管理アプリケーションに幾つかのサービスを提供することとに責任を持っている。これらのサービスの一部には、(1)コンポーネント障害の通知(電源、ファン等)と、(2)しきい値の通知(温度と電圧)と、(3)故障ランプと状態ランプの点灯・消灯と、(4)可聴警報の鳴動・停止と、(5)ディスク装置の装置IDの設定とが含まれる。
【0119】
従来は管理アプリケーションは、一般に帯域外接続によって筐体にインタフェース接続していた。単純なネットワーク管理プロトコル(SNMP)のようなプロトコルを使うことに加えて遠隔の筐体へのシリアル・アタッチメントまたはイーサーネット・アタッチメントが筐体の健康に関する状態情報の受信を可能にしていた。本発明ではディスク筐体はホスト・システムから物理的に離れていることがあるので、別の直列の経路といった直接接続によって筐体の構成と状態を監視することは実用的ではない。余分の配線を避けるために本発明は、筐体状態を監視することと、通常の既存のファイバ・チャネル・ループ全体に亘る筐体構成を制御することとを備える帯域内接続を使用する。
【0120】
帯域内接続は、構成状態を問い合わせて制御するためにSCSI装置に送られる、ホストから発信される1セットのコマンドと、筐体との間でこの情報を通信する装置のための機構とを使用する。ホストとディスク駆動機構との間のプロトコルの一部は、SCSI−3エンクロージャ・サービス(SES)仕様に詳述されており、これは参考のためにここに組み入れてある。
【0121】
SESインタフェースを実現するために、三つのSCSIコマンド、INQUIRYとSEND DIAGNOSTICとRECEIVE DIAGNOSTIC RESULTSとが使われる。INQUIRYコマンドは、所定の装置がエンクロージャ・サービス装置であるか、エンクロージャ・サービス処理にSESコマンドを移送することのできる装置であるかどうかを指定する。SEND DIAGNOSTICとRECEIVE DIAGNOSTIC RESULTSとは、それぞれ筐体エレメントからの状態情報を制御し、受信するために使われる。
【0122】
SEND DIAGNOSTICコマンドまたはRECEIVE DIAGNOSTIC RESULTSコマンドを使うときには、ページ・コードを指定しなくてはならない。ページ・コードは、何という型の状態または情報が要求されているかを指定する。
【0123】
SEND DIAGNOSTICコマンドとRECEIVE DIAGNOSTIC
RESULTSコマンドとによって要求できる定義されたSESページのフルセットは下記の表7に詳しく示す。太字の項目は、SESイベント・モニターによって要求される。
【0124】
【表7】
【0125】
ESアレー状態
アプリケーション・クライアントは、1よりも大きい最小割当て長さを有する筐体状態ページを要求するREAD DIAGNOTIC RESULTSコマンドを実行することによって定期的にその筐体にポーリングを行うことができる。1バイトで返される情報は、筐体の状態を要約した5ビットを含んでいる。これらのビットの一つがセットされれば、アプリケーション・クライアントは、状態全部を取得するためにより大きな割当て長さを持つコマンドを再発行することができる。
【0126】
ION筐体管理
図7は、ION筐体管理モジュールとION物理ディスク・ドライバ・アーキテクチャ500との間の関係を示す。二つのコンポーネントがこのサブシステム−SESイベント・モニター702とSCC2+〜SESガスケット704とを構成する。SESイベント・モニター702は、付加されたエンクロジャ・サービス処理をすべて監視することと、状態変更の場合にそれをイベント・ロギング・サブシステム経由で報告することとに責任を持っている。この報告は、必要ならば管理サービス層706に転送できる。SCC2+〜SESガスケット・コンポーネント704は、構成・保守アプリケーションからくるSCC2+コマンドを一つ以上のSESコマンドに変換してエンクロージャ・サービス処理に送ることに責任を持っている。これは、アプリケーション・クライアントがJBOD構成の仕様を知る必要をなくしている。
【0127】
SESイベント・モニター
SESイベント・モニター702は、エンクロージャ222サービス処理状態の変化を管理サービス層706に報告する。状態情報は、イベント・ロギング・サブシステムを介して報告される。SESイベント・モニター702は、筐体情報ページを要求するREAD DIAGNOSTIC RESULTSコマンドを実行することによって各筐体処理を定期的にポーリングする。READ DIAGNOSTIC RESULTSコマンドは、ION物理装置ディスク・ドライバ500によって与えられるように、SCSILibインタフェース514を介して送られるであろう。報告できる状態は、下記の表8にリスト化されている状態項目を含んでいる。
【0128】
【表8】
筐体状態値
【0129】
SESイベント・モニター702が起動すると、筐体内に含まれている各エレメント402〜424に関する状態を読み取る。この状態は、現在状態である。状態変化が検出されると、現在状態から変化した各状態は、管理サービス層706に報告される。今度はこの新しい状態が現在状態となる。例えばもしファン・エレメントの現在状態がOKであって、ある状態変化がファン障害としてこのエレメントを報告するとすれば、ファン障害を特定するイベントが報告されるであろう。こんどは別の状態変化がエレメントが設置されていないことを特定すれば、ファンが筐体から除去されたことを特定する別のイベントが報告されるであろう。もし別の状態変化がファン・エレメントがOKであることを特定すれば、ファンがホット・プラグインされて正しく動作していることを特定する別のイベントが生成されるであろう。
【0130】
一日の初め処理
SESイベント・モニター702は、ION物理ディスク・ドライバ500の初期化が成功した後に起動される。起動の後、SESイベント・モニター602は、JBODおよびSCSI構成モジュール516を読み取って、ディスク装置とエンクロージャ・サービス装置との相関と、装置がどのようにアドレス指定されるかとを見つける。次ぎに各筐体状態装置の状態が読み取られる。それから誤り条件と紛失エレメントすべてについてイベントが生成される。これらのステップが完了した後では、今度の状態は現在状態であり、ポーリングが始まる。
【0131】
SCC2+〜SESガスケット
SCC2+は、仮想装置と物理装置とを構成して管理するためにION212によって使われるプロトコルである。SCC2+の中のプラス“+”は、ION212の装置とコンポーネントとを十分に管理し易くし、またSCC2定義のコマンドのSESへの矛盾のないマッピングを可能にするSCC2への追加部分を表す。
【0132】
サービス層706は、SCC2 MAINTENANCE INコマンドとSCC2
MAINTENANCE OUTコマンドとによってJBOD筐体222エレメントを取り扱う。次のセクションでは、コンポーネントの状態を構成し、制御し、報告するための機構を提供するサービス動作について説明する。これらのコマンドの各々は、SEND DIAGNOSTICコマンドとRECEIVE DIAGNOSTIC RESULTSコマンドという一連のコマンドとしてION212上で実現されるであろう。
【0133】
コンポーネントの構成は下記のサービス機能を用いて実行される。
【0134】
ADD COMPONENT DEVICE(コンポーネント装置を追加する)−このADD COMPONENT DEVICEコマンドは、コンポーネント装置をシステム内に構成するためと、それらのLUNアドレスを定義するためとに使われる。LUNアドレスは、SES構成ページ内のコンポーネント位置に基づいてION212によって割り当てられる。REPORT COMPONENT DEVICEサービス機能は、LUN割当ての結果を取得するためにこのコマンドに続いて実行される。
【0135】
REPORT COMPONENT DEVICE(コンポーネント装置を報告する)−このREPORT COMPONENT DEVICE STATUSサービス機能は、コンポーネント装置に関する十分な状態情報を検索することを意図した業者独自のコマンドである。SESは、各エレメント型ごとに4バイトの状態を与える。この新しいコマンドは、REPORT STATESおよびREPORT COMPONENT DEVICEサービス機能が状態情報のために1バイトだけを割り当てていて、定義された状態符号はSES規格によって定義された状態符号と競合するという理由から必要となる。
【0136】
ATTACH COMPONENT DEVICE(コンポーネント装置を付加する)−このATTACH COMPONENT DEVICEは、一つ以上の論理装置が所定のコンポーネント装置に論理的に付加されることを要求する。このコマンドは、ボリューム・セットと、ファン、電源等といった、ボリューム・セットが依存するコンポーネント装置との間に論理的結合を形成するために使うことができる。
【0137】
EXCHANGE COMPONENT DEVICE(コンポーネント装置を交換する)−EXCHANGE COMPONENT DEVICE機能は、一つのコンポーネント装置が他の装置に交換されることを要求する。
【0138】
REMOVE COMPONENT DEVICE(コンポーネント装置を削除する)−REMOVE PERIPHERAL DEVICE/COMPONENT DEVICEサービス機能は、周辺装置またはコンポーネント装置がシステム構成から削除されることを要求する。もし論理装置を取り付けたコンポーネント装置が削除されつつあるならば、このコマンドはCHECK CONDITIONで終了させられるであろう。センス・キーは、REMOVE OF LOGICAL UNIT FAILEDという追加のセンス修飾子を持ったILLEGAL REQUESTとなるであろう。
【0139】
あるコンポーネントに関する状態その他の情報は、下記のサービス機能によって取得できる。
【0140】
REPORT COMPONENT STATUS(コンポーネントの状態を報告する)−REPORT COMPONENT DEVICE STATUSサービス機能は、コンポーネント装置に関する全部の状態情報を検索することを意図した業者独自のコマンドである。SESは、各エレメント型ごとに4バイトの状態を与える。これらREPORT STATESおよびREPORT COMPONENT DEVICEサービス機能は、状態情報のために1バイトだけ割り当てており、定義された状態符号はSES規格によって定義された状態符号と競合する。したがってこの新しいコマンドが必要となる。
【0141】
REPORT STATES(状態を報告する)−REPORT STATESサービス機能は、選択された論理装置に関する状態情報を要求する。各論理装置ごとに一つ以上の状態のリストが返される。
【0142】
REPORT COMPONENT DEVICE(コンポーネント装置を報告する)−REPORT COMPONENT DEVICEサービス機能は、JBOD内のコンポーネント装置に関する情報を要求する。LUN記述子の順序付けリストが返され、LUNアドレスとコンポーネント型と全体の状態とを報告する。このコマンドは、ADD COMPONENT DEVICEサービス機能によって割り当てられたLUNアドレスを決定するために初期構成処理の一部として使われる。
【0143】
REPORT COMPONENT DEVICE ATTACHMENTS(コンポーネント装置アタッチメントを報告する)−REPORT COMPONENT DEVICE ATTACHMENTSサービス機能は、所定のコンポーネント装置に取り付けられた論理装置に関する情報を要求する。各々がLUN記述子のリストを含んでいるコンポーネント装置記述子のリストが返される。LUN記述子は、対応するコンポーネントに取り付けられた各論理装置ごとに型とLUNアドレスとを指定する。
【0144】
REPORT COMPONENT DEVICE IDENTIFIER(コンポーネント装置識別子を報告する)−REPORT COMPONENT DEVICE
IDENTIFIERサービス機能は、所定のコンポーネント装置の位置を要求する。コンポーネントの位置を示すASCII値が返される。この値は、SETCOMPONENT DEVICE IDENTIFIERサービス機能によって前もって設定しておかなくてはならない。
【0145】
コンポーネントの管理は、下記によって行われる。
【0146】
INSTRUCT COMPONENT DEVICE(コンポーネント装置に命令する)−INSTRUCT COMPONENT DEVICEコマンドは、電源の投入・切断といった制御命令をコンポーネント装置に送るために使われる。ある特定の装置に与えられる機能は、コンポーネントの型によって変わり、また業者固有である。
【0147】
BREAK COMPONENT DEVICE(コンポーネント装置を故障とする)−BREAK COMPONENT DEVICEサービス機能は、指定されたコンポーネントを故障状態にする。
【0148】
相互接続ファブリック
概要
これは、より多くのデータの移動を可能にするので、本発明のファブリック取付け記憶装置モデルは、データ・コピーと割込み処理コストによる入出力性能問題に取り組まなくてはならない。データ・コピーと割込みと流れ制御の問題は、独自の組合せの方法によって本発明で取り扱われる。大抵のネットワークによって使われている宛て先ベースのアドレス指定モデルとは異なり、本発明は、データがファブリック上を伝送される前に送信側が宛て先側の目標バッファを選択する送信側ベースのアドレス指定モデルを使う。送信側ベースのモデルでは、宛て先側は、メッセージが送られる前にそのメッセージを送くることのできる宛て先アドレスのリストを送信側に送る。メッセージを送るために送信側は先ず、このリストから宛て先側バッファを選択する。これが可能であるのは、目標側アプリケーションは既に目標ネットワーク・ハードウエアによって使われるこれらのバッファのアドレスをOSに与えており、またしたがってネットワーク・ハードウエアはコピーなしでDMA操作を介してデータを直接正しい目標バッファに送り込むために十分な情報を与えられているという理由からである。
【0149】
幾つかの点では有益であるが、送信側ベースのアドレス指定には幾つかの問題がある。第一に、送信側ベースのアドレス指定は、送信側を含めて宛て先からファブリックに亘る保護領域を拡大することになり、一般的な分離の不足を作りだし、データの安全保護と完全性の問題を引き起こすことになる。純粋な送信側ベースのアドレス指定は、メモリ・アドレスを送信側に解放し、宛て先側が送信側を信頼することを要求しており、可用性の高いシステムにおける主要な問題となる。例えば宛て先ノードが宛て先アドレスのリストを送信側に与えた場合を考えてみる。送信側がこれらのアドレスをすべて使う前に、宛て先ノードがクラッシュし、それから再ブートする。さて送信側は、もはや有効でなくなったアドレス・バッファのセットを持っている。宛て先側はそれらのアドレスを別の目的に使っているかもしれない。それらのアドレスのどれかに送られたメッセージは、重要なデータが宛て先側で破壊されるといった重大な結果をもたらすかもしれない。
【0150】
第二に、送信側ベースのアドレス指定の実現は、データのDMAを起動できる前にメッセージから宛て先アドレスを抽出するようにネットワークの協力を必要とするが、大抵のネットワーク・インタフェースはこのような動作をするようには設計されていない。
【0151】
必要とされるのは、送信側ベースのアドレス指定の利点を取り込んでこれらの問題を回避するアドレス指定モデルである。本発明は、BYNETに基づいて相互接続ファブリックを使う独自の「put it there:そこに置く」(PIT)プロトコルを使用するハイブリッド・アドレス指定モデルによってこの問題を解決する。
【0152】
BYNETおよびBYNETインタフェース
BYNETは、本発明を実現するために有用な三つの重要な属性を持っている。
【0153】
第一に、BYNETは本来、拡張可能である−接続の追加や帯域幅の追加が容易に導入でき、システム内のすべてのエンティティに直ちに利用可能である。これは、接続の追加の結果として帯域幅を追加しない他のバス指向の相互接続技術とは対照的である。他の相互接続に比較すると、BYNETは、末広がり(単一のファブリックに接続可能なポートの数)による拡張だけでなく、末広がりで拡張する二分割帯域幅も持っている。
【0154】
第二に、BYNETは、アクティブ・メッセージ相互接続であるようにソフトウエアによって改良できる−そのユーザ(すなわちコンピューティング資源102と記憶資源104)の指示の下でそれらの動作の混乱を最小限にしてノード間でデータを移動させることができる。これは、不必要な割込みと内部的なデータのコピーとを回避しながら、あらかじめ決められたメモリ・アドレスに直接データを移動させるためにDMAを使用する。この基本的な手法は、データ・ブロックを更に大きな一つの相互接続メッセージ内に多重化することによって、より小さなデータ・ブロックの移動を最適化するように拡張することができる。個別のデータ・ブロックの各々は、相互接続利用を最適化する一方、ノードの動作効率の利点を保持しながら、DMAベースの手法の修正を使って処理することができる。
【0155】
第三に、BYNETは複数のファブリックを備えるように構成できるので、トラヒック整形を使って更に相互接続を最適化することができる。これは本質的に、例えば長短のメッセージのランダムな組合せが使用頻度の高い共用チャネルで引き起こすことのある干渉を減らして、ある幾つかの相互接続チャネル(ファブリック)をある幾つかの種類のトラヒックに割り当てる、BYNETソフトウエアによって提供される機構である。トラヒック整形は、BYNETによって可能にされ、予測可能なトラヒック・パターンをユーザが選択できるようになる。
【0156】
図8は、BYNETとそのホスト側インタフェース802の図を示す。BYNETのホスト側インタフェース802は、回線が生成されたときは何時でもチャネル・プログラムを実行するプロセッサ804を含んでいる。チャネル・プログラムは、各ノードごとに送信側806インタフェースと宛て先側808インタフェースの両方においてこのプロセッサ804によって実行される。送信側インタフェース806ハードウエアは、回線の生成とデータの伝送と最終的な回線の機能停止とを制御するダウンコール時に生成されるチャネル・プログラムを実行する。宛て先側インタフェース808ハードウエアは、宛て先側のメモリにデータを送付しから回線を完了させるチャネル・プログラムを実行する。
【0157】
BYNETは、コンピューティング・ノード200とION212とを相互接続するネットワークを含んでおり、これらのノードはそのネットワーク内でプロセッサとして機能する。BYNETは、入出力ポート814を持った複数のスイッチ・ノード810を含んでいる。スイッチ・ノード810は、g(logbN)個よりも多いスイッチ・ノード・ステージ812に配列されており、ここでbはスイッチ・ノード入出力ポートの総数であり、Nはネットワーク入出力ポート816の総数であり、またg(x)は引き数xよりも大きくない最小の整数を与えるシーリング(最高限度)関数である。したがってスイッチ・ノード810は、障害許容力を高め、競合を減らすために、いかなるネットワーク入力ポート816とネットワーク出力ポート816との間にも複数の経路を備えている。BYNETはまた、メッセージの伝送を全ネットワーク中に向けるために、ネットワークの最も高いスイッチ・ノード・ステージに沿ってバウンスバック面818内に複数のバウンスバック点を含んでいる。バウンスバック点は、メッセージを受信プロセッサに向けるスイッチ・ノード810からネットワークを介して平衡メッセージをロードするスイッチ・ノード810間を論理的に区別する。
【0158】
コンピューティング・ノード200、ION212といった、ノード内に実現されたプロセッサは、論理的に独立した、あらかじめ定義されたサブセットのプロセッサからなる一つ以上のスーパークラスタに分割できる。プロセッサ間の通信は、ポイントツーポイントでもマルチキャストでも可能である。マルチキャスト・モードの通信では単一のプロセッサが他のすべてのプロセッサまたはスーパークラスタに対してメッセージを同報することができる。異なるスーパークラスタ内のマルチキャスト・コマンドは、同時に発生し得る。送信側プロセッサは、順方向通信路を介して伝搬するそのマルチキャスト・コマンドをすべてのプロセッサあるいはすべてのプロセッサ・グループに送信する。マルチキャスト・メッセージは、引き続いてスーパークラスタ内のプロセッサに経路指定するためにネットワーク内のバウンスバック面のある特定のバウンスバック点に向けられる。これは、一度に特定のバウンスバック点を通るマルチキャスト・メッセージを一つだけ許し、異なるスーパークラスタに向かうマルチキャスト・メッセージが互いに干渉するのを防止するので、ネットワークのデッドロックを防止する。マルチキャスト・メッセージを受信したプロセッサは、例えば逆方向通信路を介して自分の現在状態を送信することによってそのメッセージに応答する。BYNETは、種々の仕方でこれらの応答を結合するように機能することができる。
【0159】
BYNETは現在、帯域内メッセージと帯域外メッセージという二つの基本的な型のメッセージをサポートしている。BYNET帯域内メッセージは、宛て先側ホストのメモリにあるカーネル・バッファ(一つまたは複数)内にメッセージを送付し、回線を完了し、アップコール割込みを通知する。BYNET帯域外メッセージによって回線メッセージ内のヘッダ・データは、BYNETドライバ内の割込みハンドラに、受信している回線データの残り分を処理するために使われるチャネル・プログラムを生成させる。これら両方の型のメッセージに関して、チャネル・プログラムの成功あるいは失敗は、BYNET逆方向通信路上の小さなメッセージを介して送信側に返される。この逆方向通信路メッセージは、送信側のチャネル・プログラムによる回線の機能停止操作の一部として処理される。(逆方向通信路は、BYNET回線内の低帯域幅帰路である)。回線が機能停止した後に、新しいメッセージの到着を知らせるために宛て先側にアップコール割込みが(オプションで)通知される。
【0160】
BYNET帯域外メッセージの使用は、初めにチャネル・プログラムが生成され、それから実行されるのを送信側が待つことになるので、最適な構成ではない。BYNET帯域内メッセージは、送信側がアプリケーション・バッファを直接的に目標とすることを許さず、したがってデータ・コピーを必要とする。この問題を解決するために本発明は、独自の仕方でBYNETハードウエアを使う。データを処理するために必要とするチャネル・プログラムを宛て先側インタフェース808に生成させる代わりに、送信側インタフェース806が送信側と宛て先側両者のチャネル・プログラムを生成する。送信側チャネル・プログラムは宛て先側が実行するであろう非常に小さなチャネル・プログラムをメッセージの一部として転送する。このチャネル・プログラムは、宛て先側が目標アプリケーション・スレッドの所定の宛て先バッファの中にデータをどのようしてに移動させるべきかを記述している。
【0161】
送信側はこのメッセージが送付されることになっている宛て先スレッドを知っているので、この手法は宛て先側での従来型のアップコール処理の欠点の大部分を回避して、送信側がメッセージを送付すべき方法と場所の両方を制御するのを可能にする。この形式のBYNETメッセージは、有向帯域メッセージと呼ばれる。アクティブ・メッセージ・プロセス間通信モデルで使われるアクティブ・メッセージ(これは、宛て先側でメッセージを処理するために使われるデータと小さなメッセージ・ハンドラを含む)とは異なり、本発明は、BYNET入出力プロセッサが単純なチャネル・プログラムを実行する一方、通常ホストCPUがアクティブ・メッセージでアクティブ・メッセージ・ハンドラを実行するBYNET有向帯域メッセージを使用する。
【0162】
逆方向通信路の使用は、メッセージ送達完了を知らせる従来型割込み方法を送信側インタフェースが抑制することを可能にしている。帯域外メッセージと有向帯域メッセージの両者に関して、送信側での完了成功の表示は、メッセージが宛て先側メモリ内に確かに送付されたことを示すだけである。
【0163】
これは、宛て先ノードのメモリ空間内にメッセージが確かに移動したことを保証するが、宛て先側アプリケーションによるメッセージの処理を保証するものではない。例えば宛て先ノードは、機能的なメモリ・システムを持っているかもしれないが、宛て先側アプリケーション・スレッドにはメッセージの処理を妨げる障害があるかもしれない。本発明ではメッセージの信頼できる処理を取り扱うために、メッセージ処理の障害の検出と訂正の両方のために幾つかの方法を独立に採用している。本発明に関する通信プロトコルによれば、紛失メッセージを検出するために送信側でタイムアウトが使われる。再送信は、必要により発生しまた、ソフトウエア障害かハードウエア障害が検出された場合に回復動作を誘発することもできる。
【0164】
有向帯域メッセージによっても本発明は、宛て先側の所定の目標と、メッセージを正しい目標アプリケーション・スレッド・バッファに送るために十分なデータを送信側に与える機構とに対するメッセージ送付を可能にしなくてはならない。本発明は、チケット・ベースの認証方式によってこの芸当を達成している。チケットは、偽造できないデータ構造であって、持ち主に権利を与えるものである。本質的にチケットは、ある資源を一回使う許可または権利である。本発明ではION212は、チケットの分配によってコンピューティング・ノード200に対するサービスの分配を制御できる。更にチケットは、所定の目標、送信側ベースの流れ制御モデルを実現するための必要な要件を指定する。
【0165】
「Put it There:そこに置く」(PIT)プロトコル
概要
PITプロトコルは、BYNET有向帯域メッセージ・プロトコルを使ってアクティブ・メッセージにチケットとデータ・ペイロードとを送るチケット・ベースの認証方式である。PITプロトコルは、チケット・ベースの認証と送信側ベースのアドレス指定とクレジット/デビット(借方/貸方)流れ制御とゼロ・メモリ・コピーとアクティブ・メッセージとの一意的混合である。
【0166】
PITメッセージ
図9は、PITメッセージまたはパケット901の基本的特徴を示しており、これはペイロード・データ904を伴うPITヘッダ902を含んでいる。PITヘッダ902は、目標データ・バッファの要約を表すPIT ID906を含んでおり、また所定のサイズのピン留めされたバッファへのアクセス権を表す寿命の限られたチケットである。PIT ID906を所有するエレメントは、そのバッファを使う権利を有するエレメントであり、PITバッファが使われたときにPIT ID906は廃棄されなくてはならない。宛て先側がPITメッセージを受け取ると、PITヘッダ内のPITID906は、DMA操作によってペイロードが移されるべきBYNETハードウエアに対して目標バッファを指定する。
【0167】
PITプロトコル下での流れ制御は、送信側ベースのアドレス指定を使うクレジット/デビット(借方/貸方)モデルである。PITメッセージが送られると、これは送信側に対する流れ制御デビットと宛て先側に対する流れ制御クレジットとを表す。言い換えればもしある装置がPIT ID906をあるスレッドに送ったとすると、そのスレッドはアドレス空間内のPITバッファをクレジット(信用貸し)される。もしその装置がPIT ID906をそのその送信側に返却すれば、装置はその権利を放棄するか、PIT ID906によって指定されたバッファを解放するかどちらかをすることになる。ある装置がPIT ID906によって抽出された宛て先バッファにメッセージを送ると、その装置はまたPITバッファに対するその権利を放棄する。装置がPIT ID906を受信すると、それは送信側のアドレス空間内のPITバッファのためのクレジット(貸方)となる(そのPIT ID906が、返却されている装置のPIT ID906でなければ)。
【0168】
ヘッダ902の最上部には、PITパケット901を処理するであろうBYNETチャネル・プログラム908(送信側と宛て先側)がある。次ぎに、クレジット(貸方)フィールド910とデビット(借方)フィールド912というPIT IDを送るための二つのフィールドがある。デビット・フィールド912は、ペイロード・データがチャネル・プログラムを介して宛て先側ネットワーク・インタフェースによって転送されるであろうPIT ID906を含んでいる。PIT ID906が送信側アプリケーション・スレッドのためのデビット(宛て先側スレッドにおけるクレジット)であるから、これはデビット・フィールドと呼ばれる。クレジット・フィールド910は、送信側スレッドがPITバッファを宛て先側スレッドに転送するあるいはクレジット(信用貸し)するところである。クレジット・フィールド910は一般に、送信側スレッドが返却メッセージを送られると期待しているPIT ID906を保持している。クレジットPITのこの使用法はまた、SASE(self−addressed stamped envelope:自動アドレス指定型切手付き封筒)PITとも呼ばれる。
【0169】
コマンド・フィールド914は、目標がペイロード・データ904について実行すべき操作(例えばディスク読取りまたは書込みコマンド)を記述している。引き数フィールド916は、このコマンドに関連するデータである(例えば読取りまたは書込み操作を実行すべきディスク上のディスクおよびブロック番号)。シーケンス番号918は、発信元ノードと宛て先ノードとの対の各々に関して一意である、単調に増加する整数である。(各ノード対は、各方向ごとに一つのシーケンス番号を持つ)。長さフィールド920は、PITペイロード・データの長さをバイトで指定する。フラグ・フィールド922は、PITメッセージの処理を修正する種々のフラグを含んでいる。一例は、複製メッセージ・フラグである。これは、一つのイベントの2回以上の処理を防止するために潜在的な紛失メッセージの再送信時に使われる。
【0170】
最初にシステムが起動するとき、ノードは、他のノードに関するPIT ID906を持っていない。BYNETソフトウエア・ドライバは、PIT最初オープン・プロトコルが完了するまでは、いかなる有向帯域メッセージの送付も防止する。PIT ID906の分配は、コンピューティング・ノード200上のアプリケーション・スレッドがION212上に配置された何らかの仮想ディスク装置のために最初オープンを行うときに開始される。最初オープンの期間中、ION212とコンピューティング・ノード200とは、操作パラメータが交換される折衝の段階に入る。最初オープン・プロトコルの一部は、PIT ID906の交換である。PIT ID906は、インタフェースが送信側でのDMA収集と宛て先側でのDMA分散の両方をサポートするので、二つ以上のバッファを指示できる。このアプリケーションは、他のいかなるノード上のいかなるアプリケーションへもPIT ID906を自由に配布することができる。
【0171】
このコンピューティング・ノード200とION212との間で交換されるべきPITバッファのサイズと数は、調整可能な値である。デビット(借方)およびクレジット(貸方)PIT ID906(デビット・フィールド912とクレジット・フィールド910内のPIT ID906)の交換は、システムに関する流れ制御モデルの基礎を形成する。送信側は、クレジット(信用貸し)されたPIT ID906が存在するだけ多くのメッセージを宛て先側に送ることができる。これは、所定のホストが送ることのできるメッセージの数を制限する。これはまた、各ノードがそれ自身のPIT ID906のプールを持っているので、各送信側はそれに割り当てられたPIT ID906をせいぜい使い切ることができると言うことにおいて公平さを保証している。
【0172】
ION212は、それがコンピューティング・ノード200に発行したPITチケットのプールを制御する。コンピューティング・ノード200に対するPIT ID906の初期割当ては、最初オープン・プロトコルの時に発生する。配布されるPIT ID906の数は、一時にION212とION212内のメモリ資源とを使う同時にアクティブなコンピューティング・ノード200の数の推定値に基づいている。これは単に推定値であるから、PITプールのサイズは、動作中にION212によって動的に調整することもできる。PIT資源のこの再配分は、多数のコンピューティング・ノード200からの要求をサービスする際の公平さを保証するために必要である。
【0173】
アクティブなコンピューティング・ノード200のためのPIT再割当ては、下記のように進められる。アクティブなコンピューティング・ノード200は絶えず入出力要求を行っているから、PIT資源は完了した入出力要求内のPITクレジットの流れを制御することによってアクティブなコンピューティング・ノード200に再配分される。適当なレベルに達するまではPITクレジットはION212完了によって送られることはない(そのコンピューティング・ノード200に関するPITプールを減らして)。既にPIT割当てを持っているがアクティブでない(そして資源を拘束している)コンピューティング・ノード200に関しては、更に困難な状況が示される。
【0174】
このような場合にION212は、PIT(またはPIT IDのリスト)を無効にするメッセージを各遊休コンピューティング・ノード200に送ることができる。もし遊休コンピューティング・ノード200が応答しなければ、ION212はそのノードに関するPIT IDをすべて無効にして、それらのPIT IDを他のコンピューティング・ノード200に再配分することができる。遊休コンピューティング・ノード200が再割当てされたPITを使おうとすると、そのコンピューティング・ノード200は、最初オープン・プロトコルに強制的に戻される。
【0175】
コンピューティング・ノード200へのPIT割当てを増やすことは、下記のようにして達成される。新たに割り当てられたPIT IDを何処かのコンピューティング・ノードに送るために、PIT割当てメッセージを使うことができる。代替手法は、各入出力完了メッセージ内に二つ以上のPITクレジットを送ることであろう。
【0176】
動作時のPITプロトコル−ディスクの読取りと書込み
PITプロトコルを説明するために、ION212からの記憶ディスク224読取り操作に関するコンピューティング・ノード200要求の論議を示す。ここでは、最初オープンは既に行われていて、コンピューティング・ノード200とION212の両者には十分な数の空きPITバッファが存在していると仮定する。アプリケーション・スレッドは、ディスクのデータがコンピューティング・ノードのハイレベルSCSIドライバ(CNシステム・ドライバ)に転送されることになっているバッファのアドレスを渡す、読取りシステム呼出しを実行する。
【0177】
CNシステム・ドライバは、この要求を含むPITパケット(仮想ディスク名とブロック番号とデータ長とを含む)を作成する。それからCNシステム・ドライバの上半分は、デビットおよびクレジットPIT IDフィールド910、912に記入する。デビットPITフィールド912は、この読取り要求が送られつつある宛て先側ION212上のPIT ID906である。これは読取り要求であるから、ION212は、入出力完了パケットを作成するときにアプリケーションのバッファ(読取りシステム呼出しの一部として提供されるもの)を指定する方法を必要とする。
【0178】
PITパケットは送信ベースのアドレス指定を使うので、ION212は、PIT ID906を持っている場合だけアプリケーション・バッファをアドレス指定できる。アプリケーション・バッファは通常のPITプールの一部ではないので、このバッファはメモリ内にピン留めされ、このバッファのためにPIT ID906が生成される。読取り要求もまたディスク操作から返却状態を要求するので、返却状態を含むためのPIT用の分散バッファが生成される。このSASE PITは、読み取られたPITパケットの一部としてクレジット・フィールド内に送られる。それからこのPITパケットは、送出待ち行列の上に置かれる。BYNETインタフェース802がこのPITパケットを送出すると、これはDMA操作によって送信側からこのPITパケット移動させ、それから相互接続ファブリック106に亘って転送する。
【0179】
宛て先側BYNETインタフェース808では、このPITパケットが到着すると、これがBYNETチャネル・プロセッサ804によるPITチャネル・プログラムの実行を誘発する。ホスト側インタフェース802のBYNETチャネル・プロセッサ804は、ION212上の端点を突き止めるためにデビットPIT ID906を抽出する。チャネル・プログラムは、バッファ・アドレスを抽出し、ペイロード・データを直接PITバッファ内に移動させるようにインタフェースDMAエンジンをプログラムする−こうしてPITプロトコルがゼロ・コピー意味論を備えることを可能にする。BYNETインタフェース802は、ION212上の受信アプリケーションに割込みを通知する。
【0180】
コンピューティング・ノード200には、割込みは発生しない。逆方向通信路メッセージが転送の失敗を示すときは、その失敗の理由によって入出力が再試行される。何回かの試みの後でION212誤り状態になり(詳細には本書のION212の回復操作と失敗操作を参照のこと)、またコンピューティング・ノード200は、ダイポールの一方の兄弟ION214によってその要求を処理してもらうことができる。もしメッセージが確かに宛て先ノードのメモリ内に送り込まれたのであれば、ホスト側ではION212がそのメッセージを首尾よく処理することを保証するために再送信タイムアウト(最悪ケースの入出力サービス時間よりも長い)を設定する。このタイマーが終了すると、PITメッセージはコンピューティング・ノードによってION212に再送される。もし入出力が未だ進行中であれば、複製の要求は単に打ち切られるが、そうでなければ再送された要求は正常に処理される。
【0181】
図10は、ION212の機能モジュールのブロック図である。ION212、214への入力はデータ線1002、1004と制御線1006である。ION212内の各モジュールは、制御線1006と接続されている制御モジュール1008を含んでいる。制御モジュール1008は、データ線1002からコマンドを受け入れ、またモジュール制御機能を備える。システム機能モジュール1010は、ここに述べたION機能を実現している。ION212、214は、ファブリック・モジュール1020とキャッシュ・モジュール1014とデータ障害許容力モジュール1016と記憶モジュール1018とを含んでいる。これらのモジュールの各々は、制御モジュールと、データ線1002、1004からのデータを挿入し、検索するための作業負荷インジェクタ(注入器)1020と、データの通過を禁止するデータ・フェンス1022とを含んでいる。
【0182】
PIT読取り要求がION212に送られると、IONキャッシュ・モジュール1014の作業負荷インジェクタに転送される。作業負荷インジェクタは、その要求がキャッシュされていれば、直接そのデータを返すことのできるIONキャッシュ・モジュール1014に要求を挿入し、あるいはそのデータ用のバッファを割り当ててそれをION記憶モジュール1018に渡す。ION記憶システム・モジュール1018は、この要求を一つ(以上)の物理ディスク要求に変換して、その要求を適当なディスク駆動機構224に送る。ディスク読取り動作が完了すると、ディスク制御部はディスク読取りの完了を知らせるために割込みを通知する。ION作業負荷インジェクタは、入出力完了PTパケットを生成する。
【0183】
デビットPIT ID(デビット・フィールド912内に格納されている)は、読取り要求内のSASE PIT(これはアプリケーションがディスクのデータを置きたいと思っている場所である)からのクレジットPIT ID(クレジット・フィールド910内に格納されている)である。クレジットPIT IDは、コンピューティング・ノード200がこの要求を送った同じPIT IDであるか、そのバッファが空いていなければ交替のPIT IDであるかのいずれかである。このクレジットPITは、将来の要求を送るためのコンピューティング・ノード・クレジットを与えるであろう(この現在のPIT要求は、ちょうど完了したところなので、このION212に対するこのコンピューティング・ノード200のための待ち行列の深さを1だけ増加させる)。
【0184】
PITを処理した後でION212がPITクレジットを返さない理由は三つある。第一は、ION212はそのコンピューティング・ノード200からの待ち行列に入れられている未解決の要求の数を減らしたいと思っていることである。第二の理由は、ION212はそのPITクレジットを他のコンピューティング・ノード200に再配分したいと思っていることである。第三の理由は、単一のPITパケットに入れられた多数の要求があるかもしれないと言うことである(本書のスーパーPITパケットの論議を参照のこと)。
【0185】
コマンド・フィールド914は、読取り完了メッセージであって、引き数は、ディスク駆動機構読取り操作からの返却コードである。それからこのPITパケットは、コンピューティング・ノード200に送り返されるためにBYNETインタフェース702への待ち行列に入れられる。それからBYNETハードウエアは、このPITパケットをDMAを介してコンピューティング・ノード200に移動させる。これは、目標PITバッファ(この場合はアプリケーションのピン留めされたバッファ)へのDMAを起動する前にコンピューティング・ノード200BYNETチャネル・プログラムがデビットPIT ID912を抽出して検証することを誘発する。DMAが完了すると、コンピューティング・ノード200BYNETハードウエアは、ディスク読取りが完了したことをアプリケーションに知らせる割込みを誘発する。ION212上でBYNETドライバは、バッファをキャッシュ・システムに返却する。
【0186】
書込み要求のために行われた操作は、読取り操作のために行われた操作と類似している。アプリケーションは、コンピューティング・ノード・ハイレベル・ドライバを呼出し、データと仮想ディスク名とディスク・ブロック番号とデータ長とを含むアドレスを渡す。コンピューティング・ノード・ハイレベル・ドライバは、宛て先ION212上のPIT ID906を選択して、このデータを使ってPIT書込み要求を生成する。SASE PITは、ION212からの書込み操作の返却状態のみを含むであろう。ION212では、PITパケットが到着したとき割込みが通知される。
【0187】
この要求は、PIT読取り動作と同じように処理される。書込み要求は、最終的にデータをディスクに書き込むキャッシュ・ルーチンに渡される。ディスク書込みが完了すると(あるいはデータがION212、214の両者の書込みキャッシュ内に安全に記憶されると)、入出力完了メッセージがコンピューティング・ノード200に送り返される。ION212が書込みキャッシュ動作可能状態で走行しているとき、その要求が送られたそのION212よりもむしろ、ダイポール内のもう一方のION214が、入出力完了メッセージを返す。これは、バーミューダ・トライアングル・プロトコルに関して本書で更に詳しく説明する。
【0188】
古くなったPIT IDと障害回復問題
最初オープン時のPIT IDの交換は、ハードウエア障害またはソフトウエア障害のいずれかによって生成された、古くなったPIT ID906を無効にする機構である。ION212とコンピューティング・ノード200がPIT IDを交換して、突然そのION212がクラッシュした状況を考えてみる。PIT ID906は、メモリ内にピン留めされた目標バッファを表しており、無効にされなければ、再ブートしたばかりのION212かコンピューティング・ノード200かいずれかに関する未解決PIT ID906は、もはや有効でないあるいは古くなったPIT IDのせいで重大なソフトウエア完全性問題を引き起こすであろう。BYNETハードウエアと有向帯域メッセージ・サポートとは、古くなったPIT ID906を無効にするための重要な機構を提供する。
【0189】
PITプロトコルは、BYNET上の2つのノード間で確実に実行可能とされなければばらない。一般的に、PITの許可は、ION212と兄弟ION214間の処理を行う一日の初め(SOD)に、あるいはブート以来初めてコンピューティング・ノード200が特殊ION 212上のいずれかのVSIにアクセスする時に実行される。2つのノード(例えば、AノードとBノード)間のPITプロトコルを実行可能にする方法は、(1) ノードBにPIT接続要求をノードBに発行するノード(ノードA)を初期化するステップ、(2) ノードAとノードB間のPIT IDを交換するステップ、(3)BYNETがメッセージ伝送群を可能とするノード(ここでは、ノードA)をVSIPドライバが初期化するステップ、(4)ノードB上のVSIPドライバがBYNETがバンド・メッセージ伝送を可能としノードAからの管理バンド・メッセージ伝送を可能とするステップを含む。
【0190】
受信ノード(ノードB)はBYNET上のどのノードがPITパケットをそれに送れるについて完全な制御を行う。送信ノードからの管理バンド転送がブート以来受信ノードによって実行可能とならなければ、受信ノード(ノードB)へのPIT伝送は失敗するだろう。結果、ノードが故障し再ブートすると、故障以前に交換され、遠隔ノードによて保持されている、故障したノードのPID IDは自動的に無効となる。何故なら、管理バンド伝送不能だからである。PITプロトコルが実行可能となるまで、いずれの失効PITの配送から、これにより保護する。
【0191】
スーパーPIT(SPIT)−小さな入出力性能の改善
PITプロトコルは、通常のSCSIコマンドよりも優れた点を持っている。本発明の核心は、記憶装置ネットワークではなく通信ネットワークであるから、記憶装置モデルが許すものに対する性能改善のためにネットワーク・プロトコルを使うことができる。アップコール処理のオーバーヘッドの処理は、小さな入出力要求が優位を占めている作業負荷に関して性能の壁を表している。小さな入出力の性能を改善するための手法は、幾つかある。
【0192】
一つの手法は、割込み処理符号の経路長を改善することである。第二は、デバイス・ドライバに採用されている手法に類似の手法を使って、多数の割込みの方向指示を割込みハンドラーの単一の呼出しの中に折り込むことである。第三は、個別の入出力操作の回数を減らしてそれらを単一の要求にクラスター化する(あるいはコンボイする)ことである。
【0193】
発信元と宛て先との物理リンク上の異なるMTUサイズのために着信と送出のデータの流れを再パッケージングしなければならないノードは、データを集める傾向がある。この問題は、送信側ネットワークと宛て先側ネットワークとの間の速度の不整合によって(特に宛て先側ネットワークの方が遅い場合)、更に悪くなる。これらのノードは、宛て先側からの流れ制御を絶えず受けている。その結果、トラヒックはルーターからバーストになって流れ出ることになる。これは、データ・コンボイと呼ばれる。
【0194】
本発明は、ION212とコンピューティング・ノード200の両者におけるアップコール発生による割込みの回数を減らすための手法としてデータ・コンボイを利用している。説明のために、ION212からコンピューティング・ノード200へのデータ流れを考える。本発明によって使われる流れ制御に関するデビット/クレジット・モデルでは入出力要求は、コンピューティング・ノード200とION212の両者において待ち行列に入る。待機は、ION212に格納されたPITパケットで始まり、それが枯渇すると待機はコンピューティング・ノード200に戻って続けられる。これは、オーバーフロー状態と呼ばれる。
【0195】
通常、オーバーフローは、ノードがPITバッファ・クレジットよりも多くの要求を持っているときに発生する。入出力が完了する度毎にION212は完了メッセージをコンピューティング・ノード200に送り返す。通常この完了メッセージは、いま解放されたばかりのPITバッファ資源に関するクレジットを含んでいる。これは、デビット/クレジット流れ制御の基礎である。システムが入出力要求で渋滞すると、各入出力完了は直ちに、ION212における新しい入出力要求に置き換えられる。したがって負荷の大きいときには、入出力要求は一度の一つずつION212に流れて、指定されていない期間、ION212内で待機する。これらの要求の各々は、ION212の負荷を増加させるアップコール割込みを発生させる。
【0196】
この二重待ち行列モデルは、多くの利点を持っている。コンピューティング・ノード212に割り当てられたPITバッファの数は、慎重なトレードオフである。要求が完了したとき新しい仕事を素早くディスパッチできるように、ION212にはローカルに待機している十分な仕事負荷が存在がしているべきである。しかしながらION212上に待機している要求によって消費されるメモリ資源は、キャッシュ・システムに割り当てられれば更によく利用できる。ION212上のPIT待ち行列がメモリを節約するために短時間だけ保持されるとき、ION212が遊休状態になると性能は低下して、仕事がコンピューティング・ノード200から送られてくるのを待たなくてはならない。
【0197】
スーパーPITは、アップコール割込みの回数を減らすために高い負荷のデビット/クレジット・システムの流れ制御を利用するように設計されたPITプロトコルの一形態である。スーパーPITは、OLTPの性能を改善し、また比較的小さな入出力の高い割合によって支配される同様な仕事負荷を改善する。一度に一つずつ要求を送る代わりに、スーパーPITパケットは、単一の、大きなスーパーPIT要求ですべて送付される入出力要求の集まりである。各スーパーPITパケットは、通常のPITバッファと同じように搬送される。それから、スーパーPITパケット内に含まれる個別の入出力要求は、抽出されて、ION212資源が利用可能になると、PIT仕事負荷インジェクタによって通常のION212待ち行列機構の中に挿入される。これら個別の入出力要求は、読取り要求か書込み要求かどちらでもよい。
【0198】
PIT仕事負荷インジェクタは、ION212に送られたアプリケーション要求のローカルな代理として(ION212上で)動作する。PIT仕事負荷インジェクタは、後のセクションで論じられるRT−PITプロトコルとFRAG−PITプロトコルとによっても使われる。スーパーPITが個別の要求を使い切ると、資源はコンピューティング・ノードに解放され、それと交換するために別のスーパーPITパケットを送ることができる。1ホスト当たりに許されるスーパーPITパケットの数は、最初オープン折衝で決定されるであろう。ION212上で待機する仕事の量は、別のスーパーPITパケットが送付できるまでそのION212を動作中にしておくのに十分でなければならないことは明らかである。
【0199】
コンピューティング・ノード200がION212内の十分な仕事がPITクレジットを使い切るのを待っていて、ローカルに要求を待ちはじめたと言う状況を考えてみる。スーパーPIT要求内で待機している要求の数は、そのスーパーPITが送られるバッファのサイズによってだけ制限される。スーパーPITパケットは、通常のPITパケットとは異なる動作をする。本発明の制御モデルでは、もしユーザが宛て先に関するクレジットを持っている場合、装置は要求(デビット)だけを送ることができる。装置はION212内の特定のアプリケーション・スレッドを目標にしているわけではないので、その装置によって使われた特定のPITパケットは、特に重要ではない。ION212に対するPITパケットは、単にバッファ利用(および副作用として流れ制御)を規制するだけである。これに対してPIT要求内のSASE PITは異なる。
【0200】
SASE PIT IDは、コンピューティング・ノード212内の個別スレッドのアドレス空間を表す。スーパーPIT内の各要求は、SASE PITを含んでいるが、それらが表す入出力が完了すると、作成された入出力完了メッセージはクレジットPITを含まない。スーパーPITがすべての要求を使い切ったときだけそのアドレス空間にクレジットPITが発行される。
【0201】
コンピューティング・ノード200上でのスーパーPITの生成は、下記に述べるように行われる。単一のION212に対する入出力要求がコンピューティング・ノード200内に二つ以上待機しているときは何時でも、スーパーPITを生成することができる。もしそのコンピューティング・ノード200に関するスーパーPITパケットの限界が既にこのION212上で到達されていた場合、コンピューティング・ノード200は、スーパーPIT IDが返却されるまで要求を待ち行列に入れつづけるであろう。それからこのコンピューティング・ノード200は別のスーパーPITメッセージを発行する。システム・ドライバ内では、一旦待機が始まるとIONごとの待ち行列がスーパーPITパケットを生成するように要求されるであろう。
【0202】
前に論じたように、スーパーPITメッセージは、大量の小さな入出力要求によって占められている仕事負荷の下でION212上の処理負荷を減らすことができる。スーパーPITメッセージは、宛て先ノードの性能を改善し、また平均メッセージ・サイズの増加によって相互接続ファブリック106の利用を改善する。しかしながらスーパーPITメッセージのコンセプトは同様に、小さな入出力仕事負荷によって作り出されるコンピューティング・ノード200上の負荷を減らすためにION212で応用することもできる。ION212上にスーパーPITメッセージを作成することは、コンピューティング・ノード200上にそれらを作成することとは全く異なる問題である。
【0203】
コンピューティング・ノード200上では、入出力要求を作成するアプリケーション・スレッドは、ION212が圧倒されるのを防止するために流れ制御を受けている。ディスク・サブシステムのサービス速度は、ION212のそれ以外のものよりも遙かに遅く、常にION212性能の究極の限界になるであろう。要求は、要求を待ち行列にいれて最後にはその要求に応えるために十分な資源をION212が持つまでは、システムに入らないように阻止される。
【0204】
要点は、資源がION212上で利用可能になるまで要求はコンピューティング・ノード上で待機するであろう(あるいはアプリケーションは阻止されるであろう)と言うことである。資源不足は、コンピューティング・ノード200上では問題にはならない。コンピューティング・ノード200アプリケーションが入出力要求をシステムに出すとき、その要求の一部として、入出力を完了させるために必要とされるコンピューティング・ノード200メモリ資源(アプリケーション・スレッド・バッファ)が含まれている。ION212がコンピューティング・ノード200に送るために必要とするすべての入出力完了メッセージに関して、このノードは既に割り当てられたPIT ID(SASE PIT ID)を持っている。
【0205】
ION212の観点から見れば、入出力完了メッセージは既に割り当てられた目標バッファを持っており、データが準備され次第すぐに満たすことができる。入出力完了メッセージは、一旦送付されれば成功である(ION212は、コンピューティング・ノードでのディスク記憶システムのサービス時間を待つ必要はない)。したがってION212は、コンピューティング・ノードからの流れ制御圧力によって阻止できない。スーパーPITメッセージを作成するためにコンピューティング・ノードは、ION212が持っていないオプションである流れ制御待機を利用した。ION212はBYNETへのアクセス以外に待つべき資源を持たないので、スーパーPITメッセージを作成する機会は、遙かに小さくなる。
【0206】
ION212上にスーパーPITメッセージを作成するために幾つかの手法が採用できる。一つの手法は、スーパーPITパケットを作成する機会を増やすために入出力完了要求を僅かに遅らせることである。もし僅かの遅延の後に同一ノードのための新しい完了メッセージが用意されなければ、そのメッセージは正常なPITメッセージとして送られる。この手法の問題は、スーパーPITを作成すること(コンピューティング・ノード上でのアップコール・オーバーヘッドを減らすこと)を期待して要求を遅らせた時間の量が幾らであっても、それに対応する全体の要求サービス時間の増加があると言うことである。
【0207】
正味の効果は、コンピューティング・ノード200の負荷の減少分であるが、アプリケーションを遅くする可能性もある。適応的な遅延時間が有益であろう(コンピューティング・ノード200に対する平均サービス速度と所定の要求によって累積される総サービス時間とによって)。第二の手法は、第一の僅かな変形である。これは、各コンピューティング・ノード200がそのコンピューティング・ノードにおける小さな入出力の速度が増加するに従って増加する遅延時間を各ION212に与えることを要求するであろう。
【0208】
要点は、必要な場合に特定のION212に関するスーパーPITメッセージを作成するためのウィンドウを大きくすることである。第三の手法は、キャッシュによって直接サービスされて記憶224ディスク操作を待つことに関係しない小さな読取りまたは書込みといった、ある幾つかの型のトラヒックを遅延させることであろう。キャッシュは、あるパーセンテージの要求のためのディスク・トラヒックを回避することによって平均入出力待ち時間を減らすが、待ち時間の分布はキャッシュ・ヒットによって変わる。
【0209】
キャッシュ・ヒット要求のための僅かな待機遅延時間は、ディスク操作を含む遅延時間と比較してサービス時間の主要な増加とはならないであろう。サービス時間の分布に敏感なアプリケーションに関しては(均一な応答時間が性能にとって重要である場合)、ION212上でスーパーPITパケットを作成するための僅かな遅延は、全体的なシステム性能を改善する可能性を持っている。
【0210】
大ブロック・サポートと断片化PITパケット
データベース・アプリケーションに関する性能要件は、データベースの大きさとは無関係であることが多い。データベースのサイズが大きくなるにしたがって、ディスク記憶装置が調べられる速度もまた、アプリケーション性能の劣化を防止するために比例的に増加しなくてはならない。言い換えればサイズの成長する顧客データベースに関しては、応答時間は所定の問合せについて一定に留まらなくてはならない。これらの要件を満たすことの困難さは、ディスク駆動技術の現在の傾向と直接矛盾していることである。
【0211】
ディスク駆動機構は、容量は増加しつつあるが、ランダムな入出力性能は一定のままに留まっている。この傾向を緩和する一つの手法は、ディスク駆動機構の容量の増加につれてディスク入出力操作の平均サイズを大きくすることである。記憶容量の現在の傾向と性能要件とに基づいて、24KBという平均入出力サイズは、極く近い将来に128KBに増えるかも知れない。更に積極的なキャッシング手法と遅延書込み手法も、多くの仕事負荷にとって有益であることが分かるかもしれない。ディスク駆動機構における不均一な技術進歩が、入出力要求サイズの増大の蔭の唯一の推進要因ではない。BLOBS(binary large objects:大きな2進オブジェクト)を有するデータベースがポピュラーになり始めるにつれて、1MB以上に達するサイズのオブジェクトが更に一般的になりつつある。この特定の原因とは無関係に、システムはディスク記憶装置の経済性の追求を続けさせるサイズの大きな入出力オブジェクトをサポートする必要があるであろうということが予想される。
【0212】
PITプロトコルを使用するION212とコンピューティング・ノード200との間の大きなデータ・オブジェクトの伝送に関連して、幾つかの問題がある。ここに述べたように、PITプロトコルの利点は、流れ制御と端点探索の問題に取り組むための宛て先側バッファの事前割当てである。しかしながらアップコール意味論もまた、メッセージを置く十分なバッファ領域の識別(または割当て)を必要とする。PITプロトコルは、受信側で各メッセージが置かれるべき目標PIT ID906を送信側に選択させることによってこの問題に対処している。
【0213】
メッセージ・サイズは、利用可能プールから所定のPIT ID906を選択するための基準になるであろうから、大きな入出力書込みがプロトコルを複雑にすることは明らかである。負荷の大きい間は、送信側は利用可能なPIT ID906クレジットを所有しているが、そのうちのどれも大きな入出力要求に関するバッファ・サイズ要件を満たしていないといった状況の可能性が存在する。PITプロトコルの下では、もし送るべきデータ・サイズの幅広い母集団が存在する場合、送信側はPITバッファの数とサイズの両方を管理するために受信側と一緒に働かなければならない。
【0214】
これは、PITバッファ割当てサイズ問題を作りだす。すなわちPITバッファのプールを作成するときに、所定の仕事負荷の下でのPITバッファのプールに関するバッファ・サイズの適切な配分とはいかなるものであるか?BYNETソフトウエアは、書込みに加えて大きな入出力読取りを複雑にする限界を追加の最大トランスファ・ユニット(MTU)に賦課する。BYNET MTUを超える入出力要求(読取りと書込みの両方)は、送信側でソフトウエア・プロトコル(この場合はPITプロトコル)によって断片化され、宛て先側で再組立てされなくてはならない。これは、メモリ断片化の問題を作りだす。
【0215】
つまり内部的断片化は、割り当てられたバッファ内の領域を浪費することになる。外部的断片化は、どんな要求でも満足させるというには小さすぎる割当て済みのバッファの外側の領域を浪費する。一つの解は、大きなPITバッファの一部だけを使うことであろうが、これはもし大きなPITバッファが使われると、不必要な内部的断片化を引き起こすことになる。大きなPITバッファは、コスト・パフォーマンスを悪くするメモリを浪費する。
【0216】
本発明ではBYNET MTUおよびPITバッファ・サイズ割当て問題は、二つ以上の型のPITメッセージ、すなわちRT−PIT(往復旅行PIT)とFRAG−PIT(断片化PIT)とを追加することによって解決される。RT−PITとFRAG−PITの両者は、PITデータ・プッシュ・モデルの代わりにデータ・プル・モデルを使う。(データを押すためには、送信側がデータを宛て先側に押す。データを引くためには、宛て先側が送信元からデータを引く)。FRAG−PITメッセージは、大きなデータ読取りをサポートするように設計されているが、RT−PITメッセージは大きなデータ書込みをサポートする。FRAG−PITとRT−PITは両者とも、ION PIT仕事負荷インジェクタを使ってデータの流れを管理するのでスーパーPITに似ている。
【0217】
RT−PITメッセージ
コンピューティング・ノード200がION212に対して大きなディスク書込み操作を行いたいと思い、そしてその入出力書込みがBYNET MTUあるいは利用可能なION212PITバッファのどちらよりも大きい場合は、このコンピューティング・ノード200はRT−PIT作成メッセージを作成するであろう。RT−PITメッセージは、ブースト・フェーズとそれに続く往復旅行フェーズという二つの段階で動作する。
【0218】
ブースト・フェーズでは、書き込むべきデータのためのソース・バッファのリストが、コンピューティング・ノード200上の一連のPIT IDに割り当てられる。ソース・バッファの断片化サイズは、BYNET MTUとION最初オープン・プロトコル時に指定されたサイズ制限とによって決定される。PITIDのこのリスト(対応するバッファ・サイズを有する)は、単一のRT−PIT要求メッセージのペイロード内に置かれて、宛て先ION212へのPITクレジットになるであろう。
【0219】
追加のPITバッファは、RT−PITプロトコルによって直接使われるコンピューティング・ノード・プールから割り当てられる。この追加バッファのPIT IDは、PITヘッダのクレジット・フィールド内に入れられる。RT−PIT要求の残余分は、正常なPIT書込みメッセージと同じである。それからコンピューティング・ノード200は、このRT−PIT要求メッセージをION212に送る(ブーストする)。
【0220】
ION212では、PIT仕事負荷インジェクタが二段階でRT−PIT要求メッセージを処理する。各送信側PIT ID906ごとに、仕事負荷インジェクタは、サイズの一致する、IONキャッシュからPITバッファを要求しなくてはならない。(これは、IONバッファ・キャッシュ内の利用可能メモリ領域に依存して、直ちにすべてか、あるいは一度に一つずつか実行することができる)。PITバッファを整合させることによって、ION212は、書込み要求に合った資源を動的に割り当てるであろう。これで入出力は、修正された一連の正常なPIT転送を使って進行することができる。
【0221】
これでRT−PITメッセージの処理は往復旅行フェーズに入るが、ここでは仕事負荷インジェクタが送信側と宛て先側のPIT IDの一つ(以上)の整合している対に関してRT−PIT開始メッセージを作成する。(整合PIT IDの1個あるいは1サブセットを送るオプションは、ION212の自由裁量に任されている)。単一のRT−PIT開始メッセージ内のPIT ID906の数は、ION212内部のデータ転送の粒度(実行単位)を制御する(以下に述べる)。
【0222】
このRT−PIT開始メッセージは、コンピューティング・ノード200に返送されてRT−PITメッセージのブースト・フェーズを終了する。RT−PIT開始メッセージを受信するとコンピューティング・ノード200は、通常のPIT書込みメッセージを使って、一時にPIT対を1対ずつ、ION212にデータを転送しはじめる。コンピューティング・ノード200とION212は両者とも紛失断片を処理するために十分なデータを持っているので、これら断片はコンピューティング・ノード200によって順序よく送る必要はない(整合PIT対が再組立ての順序を指定する)。
【0223】
ION212がPIT書込みメッセージを受信すると、仕事負荷インジェクタは、この書込み要求が大きなRT−PIT入出力操作の一部であることをどちらが認識したのかを知らされる。仕事負荷インジェクタは、PIT書込みを処理するための二つオプションを持っている。すなわち断片をキャッシュ・ルーチンに渡して書き込み操作を開始するか、書込みを開始する前に最後の断片の伝送を待つかのどちらかである。入出力を早く開始することは、キャッシュ・ルーチンがディスク駆動機構へのデータ流れをパイプライン処理することを可能にする(書込みキャッシュ方針による)が、より小さな入出力サイズに起因する性能損失の危険がある。しかしながらすべての断片が到着するまで入出力を保留していることは、キャッシュ・システムに不当な負荷を掛ける可能性がある。
【0224】
断片の全体の大きさと数は初めから分かっているので、現在の動作条件下でこの大きな入出力要求を最適化するために必要とされるすべてのデータは、キャッシュ・システムによって作られる。コンピューティング・ノード200では、多数の断片が単一のRT−PIT開始メッセージ内に含まれる場合には各PIT書込み動作の伝送の成功は、次の断片書込みを開始させる。単一のRT−PIT開始コマンド内の最後の断片が受信されると、要求インジェクタ(注入器)は、通常の書込み要求の処理に類似の処理のためにそのデータをキャッシュ・システムに渡す。データが安全であるときは、入出力完了メッセージはキャッシュ・システムによって作成されて、(RT−PIT開始動作のための)処理のこの段階の完了を知らせるためにコンピューティング・ノード200に返送される。
【0225】
更に多くの断片が残っている場合は、別のRT−PIT開始コマンドが生成されてコンピューティング・ノードに送られ、すべての断片を処理し終わるまで、こうして上述のサイクルを繰り返す。仕事負荷インジェクタとキャッシュが最後の断片の処理を完了すると、RT−PIT要求に関するすべての処理の終了を同期させるために、状態を有する最後の入出力完了メッセージがコンピューティング・ノードに返される。
【0226】
RT−PITメッセージは、BYNETに幾つかの変更を行うことによって最適化できる。ION212がちょうどRT−PIT要求を受信したばかりという状況を考えてみる。ION212上の仕事負荷インジェクタは、大きな入出力要求を多数の小さな通常の書込み要求に変換するためにコンピューティング・ノード上のバッファをION212に整合させている。中間のRT−PIT開始コマンドによって同期化が行われる。しかしながらもしBYNETが受信チャネル・プログラムにデータ・プルの実行を許したとすれば、RT−PIT開始コマンドをコンピューティング・ノードに送るという中間ステップは除くことができるであろう。
【0227】
論議のためにBYNET操作のこのモードをループバンド・メッセージと呼ぶことにする。ループバンド・メッセージは実は、一方が他方のなかに入れ子になっている二つの有向帯域メッセージである。例として、仕事負荷インジェクタは、RT−PIT要求を受け取ると、コンピューティング・ノード上で第二のPIT書込みメッセージを作成するために必要とされるデータを含むRT−PIT開始メッセージを作成することによって各断片を処理するであろう。RT−PIT開始メッセージは、ある断片に関するPIT書込み操作のためのテンプレートをコンピューティング・ノード200に転送する。コンピューティング・ノード200上で実行されるチャネル・プログラム(RT−PIT開始メッセージと一緒に送られる)は、コンピューティング・ノードBYNETドライバ上の送信待ち行列にそのペイロードを入れる。
【0228】
このペイロードは、初期RT−PIT要求を行ったアプリケーション・スレッドからの待機している要求のように見える。このペイロードは、仕事負荷インジェクタによって送られたこの断片のために送信元のPIT IDと宛て先のPIT IDとの対を使ってPIT書込み要求を作成するであろう。PIT書込みは、ION212上にこの断片を置き、それが到着したことを仕事負荷インジェクタに通知するであろう。仕事負荷インジェクタは、すべてが処理し終わるまで各断片についてこのサイクルを続けるであろう。ループバンド・メッセージの性能改善は、各RT−PIT開始メッセージのために必要とされる割込みとコンピューティング・ノード処理とを除去することから得られる。
【0229】
FRAG−PITメッセージは、コンピューティング・ノードからの大きな入出力読取り要求の操作をサポートするように設計されている。アプリケーションが大きな入出力読取り要求を行うと、コンピューティング・ノードは、目標バッファをピン留めして、各断片の目標バッファを表すPIT IDのリストを作成する。各PIT IDは、その断片に関する目標バッファとそれに関連する状態バッファとからなる分散リストを記述している。状態バッファは、データが送られると更新され、各断片が何時処理されたかをコンピューティング・ノードが決めることを可能にしている。各断片のサイズは、RT−PITメッセージと同じアルゴリズムを使って決定される(前述のRT−PITについてのセクションを参照のこと)。これらのフィールドは、FRAG−PITを生成するために組み立てられる。
【0230】
コンピューティング・ノード200は、仕事負荷インジェクタによってFRAG−PITが処理されるION212にそのFRAG−PITを送る。この要求には、ION212上の仮想ディスク名と開始ブロック番号とデータ源のデータ長とが含まれる。仕事負荷インジェクタは、RT−PIT要求と同様の方法でFRAG−PIT要求に作用する。FRAG−PIT要求内の各断片は、キャッシュ・システムの協同の下で別々のPIT読取り要求として処理される。キャッシュ・システムは、各断片を独立に処理するか単一の読取り要求として処理するかを選択することができ、利用可能なときにはディスク・データを仕事負荷インジェクタに送り返す。
【0231】
データ断片がキャッシュによって供給されると(個別にか、単一の入出力操作の一部としてかのどちらかで)、大きな読取り要求のためのデータは、コンピューティング・ノードに流れはじめるであろう。キャッシュがデータを利用可能にした各断片ごとに、仕事負荷インジェクタは、FRAG−PIT部分完了メッセージ内のそのデータ断片をコンピューティング・ノードに送り返す。各FRAG−PIT部分完了メッセージは、それが送付されたときにコンピューティング・ノードで割込みを発生させないということを除いて、正常なPIT読取り要求完了に似たデータを送信する。最後に完了した断片は、FRAG−PIT完全完了メッセージと一緒にコンピューティング・ノードに返される。FRAG−PIT完全完了メッセージは、それがFRAG−PIT読取り要求全体の完了を割込みを介して知らせる(フル・アップコール)と言うことにおいて、部分完了メッセージとは異なっている。
【0232】
他のネットワーク装置上でのPITプロトコルの実現
ネットワークに付加された記憶装置に対する前述の手法の性能の多くは、PITプロトコルをサポートする相互接続ファブリック106の能力に依存している。BYNETの場合には、PITプロトコルに良く整合したローレベル・インタフェースが作成された。ファイバ・チャネルといった他のネットワーク・インタフェースも同様に、PITプロトコルをサポートすることができる。
【0233】
バーミューダ・トライアングル・プロトコル
本発明は、IONクリーク226と書戻しキャッシングとを使うことによってデータと入出力の冗長性を提供する。IONクリーク226は、主ION212と兄弟ION214とからなるION212、214といった(一般には対またはダイポール単位で配置される)複数のIONを含んでいる。
【0234】
兄弟ION214 は、主ION212の修正キャッシュ・ページのコピーのための一時記憶として働くことによって、データおよび入出力の冗長性に備えている。IONクリーク226内の各ION212(1対のIONあるいは1個のダイポールとして示される)は、一つのグループのボリューム・セット用の主ION212と、もう一つのグループのボリューム・セット用の兄弟ION214として機能する。
【0235】
高い可用性と書戻しキャッシングとを備えるために、データは、書込みがアプリケーションに肯定応答される前に少なくとも二つの場所で安全に格納されなければならない。この冗長コピーを与えることに対する障害は、書込みが肯定応答された後ではあるがそのデータが永久記憶装置に記録される前に記憶装置制御部が故障した場合に、データ損失を引き起こす可能性がある。
【0236】
しかしながらION212、214は物理的に別個のコンピュータを持っているので、これらのバックアップ・コピーを保持するためには相互接続ファブリック106上での通信が必要である。最適のシステム性能のためには、なお書戻しキャッシングを利用しながら、BYNET伝送と書込みプロトコルに関連の割込みとの回数を最小にすることが必要である。
【0237】
ダイポール226内のディスク224にデータを書き込むための一つの可能なプロトコルは、コンピューティング・ノード200が主ION212と兄弟ION214とに別々に書込み、両ION212、214からの書込み要求に対する応答が受信されるまで待機し、それから主ION212が兄弟ION214に、もはやそのページのコピーを保存する必要がないことを示すパージ要求を送ることであろう。「送信完了」割込みが送信側で抑制されると仮定すると、送られた各メッセージはコンピューティング・ノード200あるいはION212、214上で割込みを発生させるので、このプロトコルは、少なくとも5回の割込みを必要とする。
【0238】
もう一つの可能なプロトコルは、書込み要求を兄弟ION214に送り、応答を待ち、そして肯定応答をコンピューティング・ノード200に送り返すということを主ION212に指示する。このプロトコルも同様に、少なくとも5回の割込みを必要とする。第1の割込みはコンピューティング・ノード200が書込み要求を主ION212に送信するときに発生する。第2の割込みは、主ION212がデータを兄弟ION214に送信するときに発生する。第3の割込みは、兄弟ION214がそのデータの受信を肯定応答するときに発生する。第4の割込みは、主ION212がコンピューティング・ノード200に応答するときに発生し、そして最後の割込みは、データがディスクに安全に転送されて、主ION214がパージ要求を兄弟ION214に送るときに発生する。
【0239】
図11は、書込み要求を処理するために必要とされる割込みの回数を最小にする、本発明で使われるプロトコルを示す。このプロトコルは、バーミューダ・トライアングル・プロトコルと呼ばれる。
【0240】
第一に、コンピューティング・ノード200は、書込み要求を主ION212に発行する。第二に、主ION212は、そのデータを兄弟ION214に送る。第三に、兄弟ION214は、肯定応答をコンピューティング・ノード200に送る。最後に、データが安全にディスク上にあるときに、主ION212は、パージ要求を兄弟ION214に送る。
【0241】
上記の4個のステップは、全部で4回の割込みを必要とする。更に割込みを減らすためには、パージ要求(図11のステップ4)を遅らせて、ステップ2で後続の書込みのデータ伝送と結合させ、3回割込みプロトコルを作るようにできる。このプロトコルの更なる利点は、書込み要求が受信されたときに、もし兄弟ION214がダウンしても、主ION212はライト・スルー(書込み遂行)モードでその要求を処理して、一旦そのデータがディスク上に置かれれば、その書込みに対して肯定応答することができると言うことである。コンピューティング・ノード200は、兄弟ION214の状態を知る必要がない。
【0242】
バーミューダ・トライアングル・プロトコルは、データの可用性を維持しながら、従来型プロトコルよりも少ない回数の割込みを使って書戻しキャッシングを可能にしている。これは、主ION212に送られた書込み要求の肯定応答を兄弟ION214が行うからである。現代のパイプライン化されたプロセッサ上では割込み処理は不経済になり得るとすれば、幅広い種々の分散型記憶システム・アーキテクチャで使用できるこのプロトコルは、全体的なシステム・オーバーヘッドを削減して、性能を改善する結果をもたらす。
【0243】
コンピューティング・ノード
概要
コンピューティング・ノード200は、ユーザのアプリケーション204を実行する。従来技術のシステムでは、クラスタあるいはクリーク内のノードに対して等しい記憶装置アクセス可能にするために多数の専用・共用のSCSIバスが使われている。本発明では、記憶装置は一つ以上の通信ファブリック106を介してコンピューティング・ノード200に取り付けられる。このネットワーク付加の記憶装置は、コンピューティング・ノード200に亘って配布されるユーザ・アプリケーション間で処理間通信(IPC)トラヒックを有する通信ファブリック106を共用する。ユーザ・アプリケーション204からの記憶要求は、ファブリック/記憶装置インタフェースによってION212上に配置された記憶装置管理アプリケーションへのIPCメッセージの中に入れられる。記憶装置ノード上のこれらの専用アプリケーションは、IPCメッセージをローカル・キャッシュ操作またはディスク入出力操作に変換して、その結果を必要に応じてコンピューティング・ノード200に送り返す。ユーザ・アプリケーション204にとってネットワーク取付け記憶装置とローカル取付け記憶装置とは区別がつかない。
【0244】
仮想ディスク・ブロックに関する読取り要求と書込み要求は、相互接続ファブリック106を介してION212に到着する。要求は、コンピューティング・ノード200における発信元起動の選択を介して所定のION212に経路指定することができる。すべてのコンピューティング・ノード200は、どのION212がシステム内の各ファブリック仮想ディスクに関する要求を受け入れているかを知っている。ファブリック仮想ディスクは、一意の記憶領域が表される仮想ディスク・モデルを反映するが、その記憶領域は、名前の中の物理ディスクの各物理位置を意味することも符号化することもない。
【0245】
各コンピューティング・ノード200は、ファブリック仮想ディスク名をIONダイポール226に写像するリストを保持している。このリストは、コンピューティング・ノード200とION212との間の協調によって動的に作成される。電源投入と障害回復操作の時にダイポール内のION212は、これらION212の間で仮想(および物理)ディスクを分割して、どの仮想ディスクがどちらの一方のION212によって所有されているかという、仮想ディスクのリストを作成する。ダイポール226内の他方のION214(仮想ディスクも記憶資源も所有しない)は、障害の場合の仮想ディスクへの代替経路を提供する。
【0246】
このリストは、この他のダイポール226とコンピューティング・ノード200とのすべてに対して相互接続ファブリック106の全域で定期的に移出または公示される。コンピューティング・ノード200は、このデータを使って、システム内の各仮想ディスクへの一次経路と二次経路の基本表を作成する。それからコンピューティング・ノード200内の相互接続ファブリック・ドライバは、入出力要求を経路指定するためにダイポール226との協調を行う。ダイポール226は、この「自己発見」手法を使って、ダイポール226がアクティブなシステムに追加されたり、そこから削除されたときに起こる可能性のある仮想ディスクの命名不一致を検出して訂正する。
【0247】
コンピューティング・ノード200上で走行するアプリケーションは、ブロック・インタフェース・モデルを、コンピューティング・ノード200に移出された各ファブリック仮想ディスクに関するローカル・ディスクのように見る。本書で前に述べたように、コンピューティング・ノード200は、ブート時に各ファブリック仮想ディスクへの入口点を生成し、またコンピューティング・ノード200とION212との間に確立された命名プロトコルを使ってこれらの入口点を動的に更新する。
【0248】
既存記憶APIとのインターフェース
VSI602で表現されるファブリック取付け記憶名は、コンピューティング・ノード200上で実行するアプリケーション204と共に実行される既存記憶アプリケーション・プログラム・インターフェース(API)232から構成されねばならない。これによって、アプリケーションが変形なしのファブリック取付け記憶名を利用する。
【0249】
典型的記憶APIは、開く()システム呼び出し、読取る()システム呼び出し、書込む()、システム呼び出しを含む。UNIXオペレーティング・システム202を利用するコンピューティング・ノード200において、例えば、開く()システム呼び出しは、記憶名UNIX装置ノード上で行われる。記憶名UNIX装置ノードは、情報において最大22ビットまで符号化する規定ファイルである。同時に、位置を基本にした記憶に対して22ビットで十分なのは、ローカルホストに関連する記憶装置の物理的位置を符号化するには十分だからである、しかしながら、ここで述べられているように、 ファブリック取付け記憶名構成に対し、22ビットでは、名前に必要な全情報を含むには不十分なことがよくあるだろう。例えば、自動記憶名割当てに対する記憶名において、ノードID(10ビット)とシステムID(8ビット)を符号化するには、22ビットでは不十分である。故に、UNIX装置への符号化には、通常可能とされる以上の情報符号化がなされなければならない。このことは、過去に戻って互換性を維持するためにも、既存API232を変形することなく達成されねばならない。
【0250】
グローバルに一意な独自のIDへのデータ・オブジェクトに対するAPIシステム入出力呼出しをマッピングする情報を記憶するコンピューティング・ノード上で実行されるファイルシステムにおいて、本発明はこの優れた技術を達成する。一実施例中、同様の記憶範囲の名前についてファイル・システムに記憶する情報を指示する間接的ポインタ位置を独自に識別するシステム・コールを符号化して、これは達成される。これは、VSIと、VSIによって定義するデータを管理するION識別を含む。これによって、マッピングされる情報量の非限定が可能となる。更に、組織の命名記憶更新を保証するにふさわしく、マッピング情報を更新する。
【0251】
図12は、ボリューム・セットの伝達もしくはION212からコンピューティング・ノード200にデータ・エクステントに利用する操作ステップを記したフローチャートである。第一に、データ・エクステントに対するグローバルに一意な識別(例えば、VSI)がION212内の1102で行われる。その際、グローバルに一意なIDは、1104でデータ・エクステントと結合し、1106で相互接続ファブリック106を介し、コンピューティング・ノード200に伝えられる。
【0252】
図13は、本発明一実施例中、入出力ノードのグローバルに一意なIDを作成するのに利用される操作ステップを記したフローチャートである。まず、1202で管理ノード230からグローバルに一意なIDを読取る。このグローバルに一意な入出力ノード識別子は、AWSノードID、システムID、両方のIDの組合わせのいずれかで構成することができる。その際、データ・エクステント識別子は、ION212に一意のものであり、1204で発生する。グローバルに一意な入出力ノード識別子とローカルに一意なデータ・エクステント識別子は1206で組み合わされる。その結果が、データ・エクステントに対するグローバルに一意な識別子である。
【0253】
サーバ管理
概要
本発明の重要な一面は、その管理であって、これはシステム管理あるいはシステムズ管理と呼ばれる全体的管理のサブセットである。このサブセットは、記憶装置に関するサーバ管理(SMS)と呼ばれる。記憶装置関連のハードウエア・コンポーネントとソフトウエア・コンポーネントとの管理ならびに利用可能な記憶領域内のデータ・エンティティの配置は、この機構によって実現される。管理動作は、管理者によって初期化でき、あるいはシステム内でのある事象の発生時に動的に呼び出される。管理コマンドは、入力されて、殆ど瞬時に肯定応答され得るが、単一の簡単なコマンドの結果は、かなり長時間に亘って多数のシステム・コンポーネントに容易に影響を与える可能性がある。例えば、ボリューム・セットを一方のION212から他方のIONに移動させることは、完了までに何分も、いや何時間も要することがあり、主題のファイル・システムを使いたがっている多数のION212とコンピューティング・ノード200とに影響を与えることになる。サーバ管理はまた、システムのハードウエアとソフトウエアの状態に関する情報メッセージと警告メッセージとを管理者に提供する責任も持っている。
【0254】
管理者は、主として一連の画面表示「ビュー」を通してシステムを感知している。システム全体の幾つかのビューが提示されることもある。主要ビューは、最上位レベルにシステム内のすべてのコンピューティング・ノード200とION212とファブリック106とが表示される、階層的ビューである。ドリルダウン手法によって関心のある項目の更に詳しい表示が得られる。大抵のシステムはサイズが大きくて非常に複雑なので、単一の表示ページ上では表現しきれない。図形的ビューは、物理的(機器構成的)ビューまたは論理ビューのどちらかを表示して表現される。更に詳細なビュー化と管理とのために個別エンティティあるいはエンティティのグループが選択され、要求の結果はユーザ選択のフォーマットで表示できる。
【0255】
表による表現方法も用意されており、個体でもグループでも、このビューで見て管理することができる。この管理の重要な一面は、特定のコンピューティング・ノード212から、特定のデータ片の、そのデータ片を持っている物理記憶ディスク224への経路の表現である。この経路は、その障害許容力を、すなわち、どれだけ多くの個別コンポーネントが障害を起こしたらデータが利用不能になるかを表示する表形式で表現される。
【0256】
ボリューム・セットの作成
ボリューム・セット(VS)の作成は、ホストのコンピューティング・ノード200アプリケーション204によって使われる空き領域を割り当てる。ボリューム・セットは、ION212内に基礎を置いており、名前(ここで述べたVSI602)と、サイズと、RAID(redundant array of inexpensivedisks:低価格ディスクの冗長配列)データ保護レベルとを持っている。システム管理者は、要件に基づいてVSを作成し、位置と冗長性特性とを指定できる。多数のVSがグループ操作で作成できる。
トとを含んでいる。
【0257】
【発明の効果】
本発明は、並列処理システムについて記述している。本システムは、システム入出力呼出しを有する記憶装置アプリケーション・インタフェースを介してアプリケーションを実行する複数のコンピューティング・ノードと、複数の入出力ノードと、前記コンピューティング・ノード上に実現されたファイル・システムであって、前記データ・オブジェクトに関するグローバルに一意の識別情報によって前記データ・オブジェクトに関するAPIシステム入出力呼出しを写像する情報を記憶するファイル・システムとを含む。各入出力ノードは、通信可能に連結された複数の記憶資源を管理しており、また各入出力ノードは、前記記憶資源に記憶されたデータ・オブジェクトに関するグローバルに一意の識別情報を生成する手段を持っており、そして前記コンピューティング・ノードのいずれかと前記入出力ノードのいずれかとの間の通信を可能にする少なくとも一つの相互接続ファブリックを介して前記グローバルに一意の識別情報と前記データ・オブジェクトとを前記コンピューティング・ノードに送信する。
【0258】
本発明の好適な実施例の前述の説明は、例示と説明のために、提示されている。本発明は、開示された通りの形式だけに限定することも、それですべて網羅することも意図していない。上述の教えるところに照らせば、多くの修正、変形が可能である。本発明の範囲は、この詳細な説明によって限定されるのではなく、ここに添付の特許請求範囲によって限定されることが意図されている。
【図面の簡単な説明】
【図1】 基本的構成エレメントを示す本発明の一実施例の最上位レベルのブロック図である。
【図2】 本発明の一実施例のシステム・ブロック図である。
【図3】 IONの構造とシステム相互接続部とを示すブロック図である。
【図4】 JBOD筐体内のエレメントのブロック図である。
【図5】 ION物理ディスク・ドライバの機能ブロック図である。
【図6】 ファブリックの一意的IDの構造を示す図である。
【図7】 ION筐体管理モジュールと物理ディスク・ドライバとの間の関係を示す機能ブロック図である。
【図8】 BYNETホスト側インタフェースの図である。
【図9】 PITヘッダの図である。
【図10】 ION212機能モジュールのブロック図である。
【図11】 IONダイポール・プロトコルを示す図である。
【図12】 ボリューム・セットの伝達もしくはION212からコンピューティング・ノード200にデータ・エクステントに利用する操作ステップを記したフローチャートである。
【図13】 本発明一実施例中、入出力ノードのグローバルに一意なIDを作成するのに利用される操作ステップを記したフローチャートである。
Claims (4)
- アプリケーションを実行する複数のコンピューティング・ノードと、複数の記憶装置と、複数の記憶装置を管理する複数の入出力ノードと、前記複数のコンピューティング・ノードと前記複数の入出力ノード間の通信を可能にする相互接続ファブリックと、前記複数のコンピューティング・ノードから前記複数の入出力ノードまでの経路上にある複数のノードと、を備えた並列処理コンピュータ・システムにおいて、
前記入出力ノードの各々は、
前記相互ファブリックに接続された前記複数のコンピューティング・ノードの一つに接続する第1の入出力ノードと、前記複数の記憶装置の一つに接続する第2の入出力ノードと、を備え、
前記複数の入出力ノードの各々に割り当てられた入出力ノードのグローバルに一意の入出力ノード識別子と、前記複数の記憶装置に物理的に記憶されたデータ・オブジェクトの識別子と、当該データ・オブジェクトのボリューム・セット識別子と、を生成するステップと、
前記相互接続ファブリックに接続された前記複数のコンピューティング・ノード間のデータの流れを制御するステップと、
前記相互接続ファブリックを介して前記データ・オブジェクトのボリューム・セット識別子を前記相互接続ファブリックに接続されている全ての前記コンピューティング・ノードに同報通信するステップと、の各ステップを実行し、
前記コンピューティング・ノードは、データ送信の際に、前記データ・オブジェクトの前記記憶装置における入口点を作成する、ことを特徴とする並列処理コンピュータ・システムにおけるデータ通信方法。 - 前記入出力ノード識別子は、前記記憶装置を管理する管理モジュールから読み取られることを特徴とする請求項1に記載の並列処理コンピュータ・システムにおけるデータ通信方法。
- アプリケーションを実行する複数のコンピューティング・ノードと、複数の記憶装置と、複数の記憶装置を管理する複数の入出力ノードと、前記複数のコンピューティング・ノードと前記複数の入出力ノード間の通信を可能にする相互接続ファブリックと、前記複数のコンピューティング・ノードから前記複数の入出力ノードまでの経路上にある複数のノードと、を備えた並列処理コンピュータ・システムにおいて、
前記入出力ノードの各々は、
前記相互ファブリックに接続された前記複数のコンピューティング・ノードの一つに接続する第1の入出力ノードと、前記複数の記憶装置の一つに接続する第2の入出力ノードと、
前記複数の入出力ノードの各々に割り当てられた入出力ノードのグローバルに一意の入出力ノード識別子と、前記複数の記憶装置に物理的に記憶されたデータ・オブジェクトの識別子と当該データ・オブジェクトのボリューム・セット識別子とを生成する手段と、
前記相互接続ファブリックに接続された前記複数のコンピューティング・ノード間のデータの流れを制御する手段と、
前記相互接続ファブリックを介して前記データ・オブジェクトのボリューム・セット識別子を前記相互接続ファブリックに接続されている全ての前記コンピューティング・ノードに同報通信する手段と、の各手段を有し、
前記コンピューティング・ノードは、データ送信の際に、前記データ・オブジェクトの前記記憶装置における入口点を作成する、ことを特徴とする並列処理コンピュータ・システム。 - 前記入出力ノード識別子は、前記記憶装置を管理する管理モジュールから読み取られることを特徴とする請求項3に記載の並列処理コンピュータ・システム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US09/019,933 US6148349A (en) | 1998-02-06 | 1998-02-06 | Dynamic and consistent naming of fabric attached storage by a file system on a compute node storing information mapping API system I/O calls for data objects with a globally unique identification |
US09/019933 | 1998-02-06 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000090061A JP2000090061A (ja) | 2000-03-31 |
JP4618654B2 true JP4618654B2 (ja) | 2011-01-26 |
Family
ID=21795839
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP06374399A Expired - Fee Related JP4618654B2 (ja) | 1998-02-06 | 1999-02-04 | 並列処理コンピュータ・システムにおけるデータ通信方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US6148349A (ja) |
EP (1) | EP0935374B1 (ja) |
JP (1) | JP4618654B2 (ja) |
DE (1) | DE69923243T2 (ja) |
Families Citing this family (116)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3228182B2 (ja) * | 1997-05-29 | 2001-11-12 | 株式会社日立製作所 | 記憶システム及び記憶システムへのアクセス方法 |
WO1999046689A1 (en) * | 1998-03-12 | 1999-09-16 | Crossworlds Software, Inc. | Execution of extended activity diagrams by code generation |
JP3687373B2 (ja) * | 1998-12-04 | 2005-08-24 | 株式会社日立製作所 | 高信頼分散システム |
US6684332B1 (en) * | 1998-06-10 | 2004-01-27 | International Business Machines Corporation | Method and system for the exchange of digitally signed objects over an insecure network |
US6519625B1 (en) * | 1998-10-27 | 2003-02-11 | Sociocybernetics | Uniform network access |
US6961748B2 (en) | 1998-10-27 | 2005-11-01 | Murrell Stephen J | Uniform network access |
JP3976432B2 (ja) * | 1998-12-09 | 2007-09-19 | エヌイーシーコンピュータテクノ株式会社 | データ処理装置およびデータ処理方法 |
US6542961B1 (en) * | 1998-12-22 | 2003-04-01 | Hitachi, Ltd. | Disk storage system including a switch |
US6272442B1 (en) * | 1999-02-04 | 2001-08-07 | Dell Usa, L.P. | Taking in-use computer drives offline for testing |
US6785742B1 (en) * | 1999-02-24 | 2004-08-31 | Brocade Communications Systems, Inc. | SCSI enclosure services |
US6957438B1 (en) * | 1999-03-26 | 2005-10-18 | Nortel Networks Limited | Network device application programming interface |
US6618373B1 (en) | 1999-11-10 | 2003-09-09 | Cisco Technology, Inc. | Method and system for reliable in-order distribution of events |
US7039922B1 (en) * | 1999-11-29 | 2006-05-02 | Intel Corporation | Cluster with multiple paths between hosts and I/O controllers |
US6738818B1 (en) * | 1999-12-27 | 2004-05-18 | Intel Corporation | Centralized technique for assigning I/O controllers to hosts in a cluster |
US6792513B2 (en) * | 1999-12-29 | 2004-09-14 | The Johns Hopkins University | System, method, and computer program product for high speed backplane messaging |
US6684209B1 (en) * | 2000-01-14 | 2004-01-27 | Hitachi, Ltd. | Security method and system for storage subsystem |
JP4953541B2 (ja) * | 2000-02-24 | 2012-06-13 | 富士通株式会社 | 入出力制御装置及び装置識別方法並びにストレージシステム |
US20020105972A1 (en) * | 2000-03-03 | 2002-08-08 | Richter Roger K. | Interprocess communications within a network node using switch fabric |
US7428540B1 (en) | 2000-03-03 | 2008-09-23 | Intel Corporation | Network storage system |
US7506034B2 (en) * | 2000-03-03 | 2009-03-17 | Intel Corporation | Methods and apparatus for off loading content servers through direct file transfer from a storage center to an end-user |
US6952737B1 (en) * | 2000-03-03 | 2005-10-04 | Intel Corporation | Method and apparatus for accessing remote storage in a distributed storage cluster architecture |
US7266555B1 (en) | 2000-03-03 | 2007-09-04 | Intel Corporation | Methods and apparatus for accessing remote storage through use of a local device |
US7281168B1 (en) | 2000-03-03 | 2007-10-09 | Intel Corporation | Failover architecture for local devices that access remote storage |
JP4719957B2 (ja) | 2000-05-24 | 2011-07-06 | 株式会社日立製作所 | 記憶制御装置及び記憶システム並びに記憶システムのセキュリティ設定方法 |
US7222176B1 (en) * | 2000-08-28 | 2007-05-22 | Datacore Software Corporation | Apparatus and method for using storage domains for controlling data in storage area networks |
US6804819B1 (en) * | 2000-09-18 | 2004-10-12 | Hewlett-Packard Development Company, L.P. | Method, system, and computer program product for a data propagation platform and applications of same |
US6636511B1 (en) * | 2000-11-21 | 2003-10-21 | Transwitch Corporation | Method of multicasting data through a communications switch |
US7463626B2 (en) * | 2000-11-21 | 2008-12-09 | Roy Subhash C | Phase and frequency drift and jitter compensation in a distributed telecommunications switch |
US7061935B1 (en) * | 2000-11-21 | 2006-06-13 | Transwitch Corporation | Method and apparatus for arbitrating bandwidth in a communications switch |
US7346928B1 (en) * | 2000-12-01 | 2008-03-18 | Network Appliance, Inc. | Decentralized appliance virus scanning |
US7778981B2 (en) * | 2000-12-01 | 2010-08-17 | Netapp, Inc. | Policy engine to control the servicing of requests received by a storage server |
US20020075860A1 (en) * | 2000-12-19 | 2002-06-20 | Young Gene F. | High density serverlets utilizing high speed data bus |
US7574481B2 (en) * | 2000-12-20 | 2009-08-11 | Microsoft Corporation | Method and system for enabling offline detection of software updates |
US7266556B1 (en) | 2000-12-29 | 2007-09-04 | Intel Corporation | Failover architecture for a distributed storage system |
US6953392B2 (en) * | 2001-01-05 | 2005-10-11 | Asm Nutool, Inc. | Integrated system for processing semiconductor wafers |
US20020194407A1 (en) * | 2001-04-25 | 2002-12-19 | Kim Hyon T. | Maintaining fabric device configuration through dynamic reconfiguration |
US7349961B2 (en) * | 2001-12-07 | 2008-03-25 | Hitachi, Ltd. | Detecting configuration inconsistency in storage networks |
US6901499B2 (en) * | 2002-02-27 | 2005-05-31 | Microsoft Corp. | System and method for tracking data stored in a flash memory device |
US7085879B2 (en) * | 2002-02-27 | 2006-08-01 | Microsoft Corporation | Dynamic data structures for tracking data stored in a flash memory device |
US7533214B2 (en) * | 2002-02-27 | 2009-05-12 | Microsoft Corporation | Open architecture flash driver |
US7835365B2 (en) * | 2002-09-26 | 2010-11-16 | Sharp Laboratories Of America, Inc. | Connection management in a centralized communication system |
US7961736B2 (en) * | 2002-09-26 | 2011-06-14 | Sharp Laboratories Of America, Inc. | Convergence and classification of data packets in a centralized communication system |
US7509645B2 (en) * | 2002-10-17 | 2009-03-24 | Intel Corporation | Methods and apparatus for load balancing storage nodes in a distributed network attached storage system |
US20040083465A1 (en) * | 2002-10-28 | 2004-04-29 | Weijia Zhang | Method and system for connecting to an application programming interface |
US7093101B2 (en) * | 2002-11-21 | 2006-08-15 | Microsoft Corporation | Dynamic data structures for tracking file system free space in a flash memory device |
AU2004227949B9 (en) * | 2003-04-03 | 2010-07-22 | Commvault Systems, Inc. | System and method for dynamically performing storage operations in a computer network |
US7293152B1 (en) * | 2003-04-23 | 2007-11-06 | Network Appliance, Inc. | Consistent logical naming of initiator groups |
US7356622B2 (en) * | 2003-05-29 | 2008-04-08 | International Business Machines Corporation | Method and apparatus for managing and formatting metadata in an autonomous operation conducted by a third party |
US7353299B2 (en) | 2003-05-29 | 2008-04-01 | International Business Machines Corporation | Method and apparatus for managing autonomous third party data transfers |
US8301809B2 (en) * | 2003-07-02 | 2012-10-30 | Infortrend Technology, Inc. | Storage virtualization computer system and external controller thereof |
US20050050273A1 (en) * | 2003-08-27 | 2005-03-03 | Horn Robert L. | RAID controller architecture with integrated map-and-forward function, virtualization, scalability, and mirror consistency |
US7487235B2 (en) * | 2003-09-24 | 2009-02-03 | Dell Products L.P. | Dynamically varying a raid cache policy in order to optimize throughput |
JP4441286B2 (ja) * | 2004-02-10 | 2010-03-31 | 株式会社日立製作所 | ストレージシステム |
US7467238B2 (en) | 2004-02-10 | 2008-12-16 | Hitachi, Ltd. | Disk controller and storage system |
JP4405277B2 (ja) * | 2004-02-16 | 2010-01-27 | 株式会社日立製作所 | ディスク制御装置 |
US7606933B2 (en) * | 2004-02-11 | 2009-10-20 | Cray Canada Corporation | Shared memory and high performance communication using interconnect tunneling |
US7814064B2 (en) * | 2004-05-12 | 2010-10-12 | Oracle International Corporation | Dynamic distributed consensus algorithm |
US20070299957A1 (en) * | 2004-09-22 | 2007-12-27 | Bevilacqua John F | Method and System for Classifying Networked Devices |
US7765369B1 (en) | 2004-11-05 | 2010-07-27 | Commvault Systems, Inc. | Method and system for selectively deleting stored data |
US7590770B2 (en) * | 2004-12-10 | 2009-09-15 | Emulex Design & Manufacturing Corporation | Device-independent control of storage hardware using SCSI enclosure services |
US7831321B2 (en) * | 2005-06-09 | 2010-11-09 | Whirlpool Corporation | Appliance and accessory for controlling a cycle of operation |
US8027752B2 (en) * | 2005-06-09 | 2011-09-27 | Whirlpool Corporation | Network for changing resource consumption in an appliance |
US9122788B2 (en) * | 2005-06-09 | 2015-09-01 | Whirlpool Corporation | Appliance network for a networked appliance with a network binder accessory |
US8816828B2 (en) * | 2005-06-09 | 2014-08-26 | Whirlpool Corporation | Recipe wand and recipe book for use with a networked appliance |
US10333731B2 (en) | 2005-06-09 | 2019-06-25 | Whirlpool Corporation | Methods and apparatus for communicatively coupling internal components within appliances, and appliances with external components and accessories |
BRPI0622274A2 (pt) * | 2005-06-09 | 2011-08-09 | Whirlpool Co | aparelho configurado para executar um ciclo de operação para completar uma operação fìsica em um artigo e rede de aparelho |
US20070288331A1 (en) * | 2006-06-08 | 2007-12-13 | Whirlpool Corporation | Product demonstration system and method |
US8615332B2 (en) | 2005-06-09 | 2013-12-24 | Whirlpool Corporation | Smart current attenuator for energy conservation in appliances |
US9009811B2 (en) * | 2005-06-09 | 2015-04-14 | Whirlpool Corporation | Network system with electronic credentials and authentication for appliances |
US8676656B2 (en) * | 2005-06-09 | 2014-03-18 | Whirlpool Corporation | Method for product demonstration |
US20080137670A1 (en) * | 2005-06-09 | 2008-06-12 | Whirlpool Corporation | Network System with Message Binding for Appliances |
US8250163B2 (en) | 2005-06-09 | 2012-08-21 | Whirlpool Corporation | Smart coupling device |
US8155120B2 (en) * | 2005-06-09 | 2012-04-10 | Whirlpool Corporation | Software architecture system and method for discovering components within an appliance using fuctionality identifiers |
US8571942B2 (en) * | 2005-06-09 | 2013-10-29 | Whirlpool Corporation | Method of product demonstration |
US9164867B2 (en) * | 2005-06-09 | 2015-10-20 | Whirlpool Corporation | Network for communicating information related to a consumable to an appliance |
US8856036B2 (en) * | 2005-06-09 | 2014-10-07 | Whirlpool Corporation | Method of providing product demonstrations |
US20070005833A1 (en) * | 2005-06-30 | 2007-01-04 | Pak-Lung Seto | Transmit buffers in connection-oriented interface |
US7979613B2 (en) * | 2005-07-15 | 2011-07-12 | International Business Machines Corporation | Performance of a storage system |
US8682733B2 (en) * | 2006-06-08 | 2014-03-25 | Whirlpool Corporation | System for product demonstration |
US8001130B2 (en) * | 2006-07-25 | 2011-08-16 | Microsoft Corporation | Web object retrieval based on a language model |
US7720830B2 (en) * | 2006-07-31 | 2010-05-18 | Microsoft Corporation | Hierarchical conditional random fields for web extraction |
US7747634B2 (en) * | 2007-03-08 | 2010-06-29 | Microsoft Corporation | Rich data tunneling |
US8024426B2 (en) * | 2007-05-11 | 2011-09-20 | Texas Memory Systems, Inc. | Non-disruptive data path upgrade using target mobility |
US8307135B2 (en) * | 2007-08-01 | 2012-11-06 | International Business Machines Corporation | Performance of a storage system |
US7783666B1 (en) | 2007-09-26 | 2010-08-24 | Netapp, Inc. | Controlling access to storage resources by using access pattern based quotas |
US7925733B2 (en) * | 2007-12-12 | 2011-04-12 | International Business Machines Corporation | Generating unique object identifiers for network management objects |
US20090186344A1 (en) * | 2008-01-23 | 2009-07-23 | Caliper Life Sciences, Inc. | Devices and methods for detecting and quantitating nucleic acids using size separation of amplicons |
WO2009105699A1 (en) | 2008-02-22 | 2009-08-27 | Endologix, Inc. | Design and method of placement of a graft or graft system |
US7996429B2 (en) * | 2008-06-12 | 2011-08-09 | Novell, Inc. | Mechanisms to persist hierarchical object relations |
JP4774085B2 (ja) * | 2008-07-31 | 2011-09-14 | 富士通株式会社 | ストレージシステム |
EP2429452B1 (en) | 2009-04-28 | 2020-01-15 | Endologix, Inc. | Endoluminal prosthesis system |
US9477947B2 (en) | 2009-08-24 | 2016-10-25 | International Business Machines Corporation | Retrospective changing of previously sent messages |
JP5263237B2 (ja) * | 2010-08-02 | 2013-08-14 | 富士通株式会社 | ストレージシステム |
EP2635241B1 (en) | 2010-11-02 | 2019-02-20 | Endologix, Inc. | Apparatus for placement of a graft or graft system |
US8595267B2 (en) * | 2011-06-27 | 2013-11-26 | Amazon Technologies, Inc. | System and method for implementing a scalable data storage service |
CN105472047B (zh) * | 2016-02-03 | 2019-05-14 | 天津书生云科技有限公司 | 存储系统 |
US8621074B2 (en) * | 2012-04-27 | 2013-12-31 | Xerox Business Services, Llc | Intelligent work load manager |
EP2711794B1 (de) * | 2012-09-25 | 2014-11-12 | dSPACE digital signal processing and control engineering GmbH | Verfahren zur zeitweiligen Separierung von Objektdaten von Entwurfsmodellen |
US20140188996A1 (en) * | 2012-12-31 | 2014-07-03 | Advanced Micro Devices, Inc. | Raw fabric interface for server system with virtualized interfaces |
BR112015016953A2 (pt) * | 2013-01-15 | 2017-07-11 | Hewlett Packard Development Co | atualização de firmware dinâmico |
US8812744B1 (en) | 2013-03-14 | 2014-08-19 | Microsoft Corporation | Assigning priorities to data for hybrid drives |
US9626126B2 (en) | 2013-04-24 | 2017-04-18 | Microsoft Technology Licensing, Llc | Power saving mode hybrid drive access management |
US9946495B2 (en) | 2013-04-25 | 2018-04-17 | Microsoft Technology Licensing, Llc | Dirty data management for hybrid drives |
CN105579920B (zh) * | 2013-09-24 | 2018-04-17 | 三菱电机株式会社 | 可编程控制器以及可编程控制器的控制方法 |
US9330271B1 (en) | 2013-10-15 | 2016-05-03 | Amazon Technologies, Inc. | Fine-grained access control for synchronized data stores |
US9235609B1 (en) * | 2013-10-15 | 2016-01-12 | Amazon Technologies, Inc. | Local emulation of distributed key-value data store |
US9703814B1 (en) | 2013-10-15 | 2017-07-11 | Amazon Technologies, Inc. | Local key-value database synchronization |
CN105279095B (zh) * | 2014-06-26 | 2019-09-13 | 南京中兴新软件有限责任公司 | 创建jbod文件系统的方法及装置 |
US20150378706A1 (en) * | 2014-06-30 | 2015-12-31 | Emc Corporation | Software overlays for disaggregated components |
US10061734B2 (en) | 2015-05-20 | 2018-08-28 | International Business Machines Corporation | Adjustment of buffer credits and other parameters in a startup phase of communications between a plurality of channels and a control unit |
US9892065B2 (en) * | 2015-05-20 | 2018-02-13 | International Business Machines Corporation | Adjustments of buffer credits for optimizing the number of retry operations and transfer ready operations |
US9864716B2 (en) * | 2015-05-20 | 2018-01-09 | International Business Machines Corporation | Receiving buffer credits by a plurality of channels of one or more host computational devices for transmitting data to a control unit |
US10521260B2 (en) * | 2016-07-15 | 2019-12-31 | Hewlett Packard Enterprise Development Lp | Workload management system and process |
US10404800B2 (en) | 2016-07-15 | 2019-09-03 | Hewlett Packard Enterprise Development Lp | Caching network fabric for high performance computing |
US10705951B2 (en) * | 2018-01-31 | 2020-07-07 | Hewlett Packard Enterprise Development Lp | Shared fabric attached memory allocator |
US11593223B1 (en) | 2021-09-02 | 2023-02-28 | Commvault Systems, Inc. | Using resource pool administrative entities in a data storage management system to provide shared infrastructure to tenants |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6458013A (en) * | 1987-08-20 | 1989-03-06 | Ibm | Method and data processing system for guaranteeing large area identification and management of data memory |
US5239643A (en) * | 1987-11-30 | 1993-08-24 | International Business Machines Corporation | Method for reducing disk I/O accesses in a multi-processor clustered type data processing system |
US5117351A (en) * | 1988-10-21 | 1992-05-26 | Digital Equipment Corporation | Object identifier generator for distributed computer system |
US5321813A (en) * | 1991-05-01 | 1994-06-14 | Teradata Corporation | Reconfigurable, fault tolerant, multistage interconnect network and protocol |
FI95978C (fi) * | 1994-03-01 | 1996-04-10 | Nokia Telecommunications Oy | Hierarkkinen synkronointimenetelmä |
US5522077A (en) * | 1994-05-19 | 1996-05-28 | Ontos, Inc. | Object oriented network system for allocating ranges of globally unique object identifiers from a server process to client processes which release unused identifiers |
US5678038A (en) * | 1994-06-21 | 1997-10-14 | International Business Machines Corporation | Storing and retrieving heterogeneous classification systems utilizing globally unique identifiers |
US5745895A (en) * | 1994-06-21 | 1998-04-28 | International Business Machines Corporation | Method for association of heterogeneous information |
US5581765A (en) * | 1994-08-30 | 1996-12-03 | International Business Machines Corporation | System for combining a global object identifier with a local object address in a single object pointer |
US5671441A (en) * | 1994-11-29 | 1997-09-23 | International Business Machines Corporation | Method and apparatus for automatic generation of I/O configuration descriptions |
US5832487A (en) * | 1994-12-15 | 1998-11-03 | Novell, Inc. | Replicated object identification in a partitioned hierarchy |
JP3125842B2 (ja) * | 1995-03-03 | 2001-01-22 | 株式会社日立製作所 | 並列計算機での通信処理方法及びそのシステム |
US5778395A (en) * | 1995-10-23 | 1998-07-07 | Stac, Inc. | System for backing up files from disk volumes on multiple nodes of a computer network |
US5706347A (en) * | 1995-11-03 | 1998-01-06 | International Business Machines Corporation | Method and system for authenticating a computer network node |
US5872850A (en) * | 1996-02-02 | 1999-02-16 | Microsoft Corporation | System for enabling information marketplace |
US5812793A (en) * | 1996-06-26 | 1998-09-22 | Microsoft Corporation | System and method for asynchronous store and forward data replication |
US5887138A (en) * | 1996-07-01 | 1999-03-23 | Sun Microsystems, Inc. | Multiprocessing computer system employing local and global address spaces and COMA and NUMA access modes |
US5808911A (en) * | 1997-06-19 | 1998-09-15 | Sun Microsystems, Inc. | System and method for remote object resource management |
US5884090A (en) * | 1997-07-17 | 1999-03-16 | International Business Machines Corporation | Method and apparatus for partitioning an interconnection medium in a partitioned multiprocessor computer system |
-
1998
- 1998-02-06 US US09/019,933 patent/US6148349A/en not_active Expired - Lifetime
-
1999
- 1999-02-01 EP EP99300711A patent/EP0935374B1/en not_active Expired - Lifetime
- 1999-02-01 DE DE69923243T patent/DE69923243T2/de not_active Expired - Lifetime
- 1999-02-04 JP JP06374399A patent/JP4618654B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
DE69923243D1 (de) | 2005-02-24 |
US6148349A (en) | 2000-11-14 |
JP2000090061A (ja) | 2000-03-31 |
EP0935374B1 (en) | 2005-01-19 |
EP0935374A1 (en) | 1999-08-11 |
DE69923243T2 (de) | 2006-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4618654B2 (ja) | 並列処理コンピュータ・システムにおけるデータ通信方法 | |
JP4615642B2 (ja) | 拡張可能な並列処理コンピュータ・システムにおけるデータ通信方法 | |
JP4536840B2 (ja) | 並列処理コンピュータ・システムにおけるデータの転送方法 | |
JP4615643B2 (ja) | データ・ストレージ・システムにおける危険状態データの識別方法 | |
JP4868630B2 (ja) | メモリ・システムの構成方法及びメモリ・システムの構成装置 | |
US6247077B1 (en) | Highly-scalable parallel processing computer system architecture | |
US6594698B1 (en) | Protocol for dynamic binding of shared resources | |
US6711632B1 (en) | Method and apparatus for write-back caching with minimal interrupts | |
US6081883A (en) | Processing system with dynamically allocatable buffer memory | |
US8560747B1 (en) | Associating heartbeat data with access to shared resources of a computer system | |
US7886182B1 (en) | Enhanced coordinated cluster recovery | |
EP0490980B1 (en) | Multiple facility operating system architecture | |
US20060195663A1 (en) | Virtualized I/O adapter for a multi-processor data processing system | |
US20030079083A1 (en) | High performance multi-controller processing | |
JP2007510978A (ja) | ストレージサーバーのボトムアップキャッシュ構造 | |
JP2003515813A (ja) | 記憶ネットワーク内の定足数資源アービタ | |
US10872036B1 (en) | Methods for facilitating efficient storage operations using host-managed solid-state disks and devices thereof | |
Shaw et al. | Linux Installation and Configuration |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060118 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20080303 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080514 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080603 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080902 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080905 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20081003 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20081008 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20081031 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20081106 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090925 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20091216 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20091221 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20100125 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20100129 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20100223 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20100226 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100604 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20100903 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20100908 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100930 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101020 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101021 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131105 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |