JP2004342109A - 入出力ファブリックにおけるハードウェア・エラーからの自動回復 - Google Patents

入出力ファブリックにおけるハードウェア・エラーからの自動回復 Download PDF

Info

Publication number
JP2004342109A
JP2004342109A JP2004142836A JP2004142836A JP2004342109A JP 2004342109 A JP2004342109 A JP 2004342109A JP 2004142836 A JP2004142836 A JP 2004142836A JP 2004142836 A JP2004142836 A JP 2004142836A JP 2004342109 A JP2004342109 A JP 2004342109A
Authority
JP
Japan
Prior art keywords
fabric
endpoint
resource
error
resources
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004142836A
Other languages
English (en)
Other versions
JP4001877B2 (ja
Inventor
David Alan Bailey
デイヴィッド・アラン・ベイリー
Trung Ngoc Nguyen
トゥルン・ゴク・グエン
Gregory Michael Nordstrom
グレゴリ・マイケル・ノードストロム
Kanisha Patel
カニシャ・パテル
Steven Mark Thurber
スティーヴン・マーク・サーバー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2004342109A publication Critical patent/JP2004342109A/ja
Application granted granted Critical
Publication of JP4001877B2 publication Critical patent/JP4001877B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F41WEAPONS
    • F41GWEAPON SIGHTS; AIMING
    • F41G1/00Sighting devices
    • F41G1/32Night sights, e.g. luminescent
    • F41G1/34Night sights, e.g. luminescent combined with light source, e.g. spot light
    • F41G1/35Night sights, e.g. luminescent combined with light source, e.g. spot light for illuminating the target, e.g. flash lights
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0793Remedial or corrective actions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0712Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a virtual computing platform, e.g. logically partitioned systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0745Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in an input/output transactions management context
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F41WEAPONS
    • F41GWEAPON SIGHTS; AIMING
    • F41G11/00Details of sighting or aiming apparatus; Accessories
    • F41G11/001Means for mounting tubular or beam shaped sighting or aiming devices on firearms

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Optics & Photonics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

【課題】入出力ファブリックにおけるエラーからの自律的回復を可能にする
【解決手段】装置、プログラム製品、および方法が、複数のエンドポイントIO資源をコンピュータ内の処理要素に結合するために使用されるIOファブリック内のIOファブリック要素において検出されたエラーを伝搬させる。具体的には、そのようなエラーを、IOファブリック要素におけるエラーからの回復に関連して、IOファブリック要素の影響を受けたエンドポイントIO資源まで伝搬させる。これによって、影響を受けた各IO資源にアクセスするために使用されるデバイス・ドライバまたはその他のプログラム・コードを、それに付随するIO資源において伝搬されたエラーから非同期で回復可能にすることができ、その際、IOファブリック要素におけるエラーからの回復は、影響を受けた各IO資源について回復が完了するのを待つ必要がないことが多い。さらに、IOファブリックは、回復不能なエンドポイントIO資源と回復可能なエンドポイント資源の両方に対応するように動的に構成することができる。具体的には、IOファブリック内のIOファブリック要素は、エンドポイントIO資源が本質的に回復不能であることを検出するとそれに応答して、IOファブリック要素におけるマシン・チェック通知を有効にするように動的に構成することができる。したがって、動的に構成されるIOファブリック要素は、回復不能資源と、その回復不能資源にアクセスするプロセッサとの間に規定されたハードウェア経路内に配置される。
【選択図】図1

Description

本発明は、コンピュータおよびコンピュータ・ソフトウェアに関し、より詳細には、コンピュータに接続されたハードウェア資源における障害の管理に関する。
現代社会ではコンピュータへの依存が絶え間なく増大していることを考えると、コンピュータ技術は、パフォーマンスに関する要求の増大だけでなく、コンピュータに対する高まる一方の信頼に対応するため、多くの面で進歩しなければならない。特に、コンピュータは、かなりの処理を一定して行わなければならず、不稼働期間が絶対に容認できない、高パフォーマンスかつミッション・クリティカルな用途で使用されることがますます多くなっている。
パフォーマンスを向上させるには、ますます高速化し、複雑化するハードウェア構成要素の使用が必要な場合が多い。さらに、多くの用途では、プロセッサだけでなく、記憶装置、ネットワーク接続といった周辺構成要素など、複数のハードウェア構成要素を並列動作させて、全体的なシステム・パフォーマンスを向上させる。
このような複雑化した構成要素の使用と共に、この種の構成要素の使用を有効に管理するには、この種の構成要素を動作させるために使用されるソフトウェアもより高度にし、より複雑にしなければならない。たとえば、コンピュータ・プログラムが複数の「スレッド」を並列実行することができるようにし、それによって基本的に同時に複数のタスクを行うことができるようにする、マルチスレッド・オペレーティング・システムおよびカーネルが開発されている。たとえば、電子商取引コンピュータ・アプリケーションの場合、顧客ごとに異なるスレッドを割り当てて、各顧客の特定の電子商取引トランザクションが別個のスレッドで処理されるようにする場合がある。
マルチスレッド・オペレーティング・システムの1つの論理的拡張は、論理区画化という概念であり、これは単一の物理コンピュータを基本的に複数の独立した「仮想」コンピュータ(論理区画と呼ぶ)のように動作させ、物理コンピュータ内の様々な資源(たとえばプロセッサ、メモリ、入出力装置)を様々な論理区画に割り振るものである。各論理区画は、別個のオペレーティング・システムを実行し、ユーザや、論理区画上で実行されているソフトウェア・アプリケーションから見ると、完全に独立したコンピュータのように動作する。
論理区画化では、しばしば「ハイパーバイザ」または区画マネージャと呼ばれる共用プログラムが論理区画を管理し、異なる論理区画への資源の割振りを容易にする。たとえば、区画マネージャは、プロセッサ、ワークステーション・アダプタ、記憶装置、記憶空間、ネットワーク・アダプタなどの資源を、様々な区画に割り振り、別個の物理コンピュータとほとんど同じ方式で各論理区画の相対的に独立した動作をサポートする。
しかし、上記のコンピュータ環境で可能なパフォーマンスの向上に伴い、障害の可能性も高くなる。タスクを並列実行することにより、1つのタスクが実行中の他のタスクと衝突し、データ破壊やシステム障害が発生する可能性が高くなる。同様に、ハードウェア・ベースの構成要素は常に、少なくともある程度の障害のリスクにさらされ、このリスクは、ハードウェア構成要素の複雑さと共に高くなることが多いため、複雑化したハードウェア構成要素を多数使用することにより、実行時にハードウェア構成要素エラーまたは障害が発生する可能性も高まる。
その結果、マルチスレッド・オペレーティング・システムと論理区画化の両方の開発と共に、最新のコンピュータ設計に耐障害性機能、高可用性機能、および自己回復機能を組み込むことに、かなりの開発努力が向けられてきた。
開発努力の対象となってきた1つの領域は、たとえば、記憶装置、ネットワーク接続、ワークステーションや、この種の構成要素をコンピュータの中央演算処理装置に接続するために使用されるアダプタ、コントローラ、およびその他の相互接続ハードウェア装置など、コンピュータが使用する周辺ハードウェア構成要素に付随する障害の管理である。以下で入出力(IO)資源と呼ぶ周辺構成要素は、一般には、中央演算処理装置とIO資源との間の通信が経由する「ファブリック」を形成する1つまたは複数の中間相互接続ハードウェア装置構成要素を介してコンピュータに結合される。
よりパフォーマンスの低いコンピュータ、たとえば、デスクトップ・コンピュータ、ラップトップ・コンピュータなどのシングル・ユーザ・コンピュータでは、そのような設計で使用されるIOファブリックは、たとえば、インテグレーテッド・ドライブ・エレクトロニクス(Integrated Drive Electronics:IDE)、ペリフェラル・コンポーネント・インターコネクト(PeripheralComponent Interconnect:PCI)、ユニバーサル・シリアル・バス(Universal Serial Bus:USB)などの2、3の相互接続技法をサポートするIOチップセットを使用する、比較的単純な設計しか必要しない場合がある。一方、よりパフォーマンスの高いコンピュータ設計では、IO要件として、そのような設計に必要なすべての通信ニーズに対応するために相互接続ハードウェア装置の複雑な構成を必要とする場合がある。場合によっては、このような通信ニーズは、コンピュータの中央演算処理装置が収容されているエンクロージャとは別個に、そのエンクロージャに結合された1つまたは複数の追加のエンクロージャを使用しなければならないほど大きいこともある。
より複雑な設計では、IOアダプタなどの周辺構成要素は、コンピュータの主エンクロージャまたは付属エンクロージャのいずれか一方あるいは両方内に配列された「スロット」を使用して、IOファブリックに装着し、結合されることが多い。他の方式、たとえばケーブルおよびその他のタイプのコネクタを介して、IOファブリックに装着または結合される構成要素もあるが、このような他のタイプの接続も、便宜上「スロット」と呼ぶことが多い。したがって、使用する接続のタイプにかかわりなく、IOスロットは、IO資源がIOファブリックを介してコンピュータと通信するための接続点を表す。場合によっては、「IOスロット」という用語を使用して、IOファブリック内の特定の接続点に装着された実際の周辺ハードウェア構成要素を指すこともあり、その際、以下では、IOスロット、またはそれに結合されたIO資源をエンドポイントIO資源とも呼ぶ。
IOファブリックを介してコンピュータに結合されたエンドポイントIO資源の管理は、複数のエンドポイントIO資源と共に複数のタスクの並列実行をサポートする、IOファブリックの典型的な機能と、IO資源にアクセスする、コンピュータ内のソフトウェアの様々なレベル間の相対的な独立性とのために、問題となることが多い。エンドポイントIO資源で発生する障害と、IOファブリック自体内の構成要素で発生する障害も、システム内の他のエンドポイントIO資源にアクセスすることができる能力に重大な影響を与えることがある。さらに、個々の構成要素における障害の悪影響を最小限にしてシステム全体の可用性を維持したいため、障害を分離し、それらの障害を克服するようにシステムを動的に再構成することに多大な努力が注がれてきた。
たとえば論理区画化されたシステムでは、IOスロットを個々の論理区画に割り当てることができ、各論理区画内のデバイス・ドライバが、その区画に割り当てられた各IOスロット内のIOアダプタを制御することができる。これらのIOスロットは、そのファブリックの共通の相互接続要素を介して接続されたスロットを有するすべての区画によって実質的に共用される、共通のIOファブリックを介して、コンピュータ全体およびプロセッサ/メモリ複合体に共通に接続される。
論理区画化されたシステムの中には、IOファブリックが、プロセッサ/メモリ・バスを配線バスを介して外部IOエンクロージャに接続するブリッジ・ファブリック要素と、配線バスを複数のIOスロットを有するIOバスに接続する1つまたは複数の追加のブリッジ要素とから成るものもある。1つのそのような配線バスは、リモート入出力(Remote Input/Output:RIO)バスであり、RIOバスをプロセス/メモリ複合体とインタフェースさせるためのRIOハブと呼ばれるプロセッサ・ブリッジと、各外部IOエンクロージャ内に配置され、配線バスを複数のPCIホスト・ブリッジ(PHB)とを備え、各PHBには、PCI IOアダプタ・カードを差し込む個別のIOスロット接続を形成する複数のPCI−PCIブリッジが接続されている。
このようなシステムでは、IOファブリック・ハードウェアがエラーを検出すると、そのハードウェア要素は一般に、プロセッサ/メモリ複合体と、他のIOファブリック要素およびIOスロット要素との間のいずれの方向の連続データ伝送も阻止されるエラー状態になる。このエラー状態におけるデータ伝送の阻止は正確には、エラー状態の要素がプロセッサ・ストアのアダプタDMAをすべて廃棄し、すべてのプロセッサ・ロードに対してオール1ビット・データを返すことと定義される。
多くのシステム、特にPCI対応IOバスおよびアダプタを使用するシステムでは、デバイス・ドライバがメモリ・マップIO(MMIO)を使用してIOアダプタと通信するのが一般的である。これによって、区画オペレーティング・システムにインストールされたデバイス・ドライバは、アダプタを、あたかもプロセッサ/メモリ・バスに論理的に直接接続されており、特定のメモリ・アドレス・レンジを占有するシステム・メモリの拡張部に過ぎないかのように扱うことができる。デバイス・ドライバは、内部アダプタ機構と直接関係する「メモリ」アドレスに対するプロセッサ・ロード命令またはストア命令を使用して、アダプタと通信する。このようなモデルでは、デバイス・ドライバは、一般にIOファブリック要素の構成や配置を認識しておらず、IOファブリックとIOアダプタとに依存して、あたかもメモリ・マップ・ロードまたはストアに応答して単に記憶域にアクセスしているかのように動作する。
このようなシステムでは、デバイス・ドライバは一般に、2つの方法のうちの一方に依存して、IOファブリックに関するエラーを検出する。第1の方法では、MMIOロードがエラー状態のファブリック要素に遭遇した場合、IOファブリックは要求側プロセッサにマシン・チェック状態を通知する必要がある。マシン・チェックは、一般には、アクセス要求と共に状況信号を返すか、または割り込みをトリガすることによって示され、その結果として、一般には、プロセッサがマシン・チェック割込みハンドラに実行を振り向け、それによって、前に発行されたストアが正常に完了したことを検証することができないことからデータ整合性の問題が生じるため、大抵は、オペレーティング・システムと、オペレーティング・システム上で実行されているアプリケーションが終了する。このような場合、デバイス・ドライバとオペレーティング・システムは、一般に、データ整合性を失わずにエラーから回復することができないようになっている。その結果、エラーに対する一般的な応答は、論理区画全体(または非区画化システムではシステム全体)の実行を終了することである。
第2の方法では、従来、IOファブリックとIOアダプタは、エラー状態では、デバイス・ドライバが、エラーを示す可能性のあるものとして認識することができる特定のデータ・セットを返すことによって、メモリ・マップ・ロードに応答するように構成されている。たとえば、1つの一般的なデータ・セットはオール1・ビット・データと呼ばれるものであり、メモリ・マップ・ロードに対する応答で返されるデータの各ビットが1に設定される。この場合、デバイス・ドライバは、メモリ・マップ・ロード応答データにオール1パターンがないか検査し、ある場合は、オペレーティング・システム・サービスを呼び出して、プラットフォーム・ハードウェアの中に、エラー状態になってそのような結果を生じさせた要素があるか否かを判断する。多くの場合、非マシン・チェック方法では論理区画またはオペレーティング・システムの実行を終了させずに、エラー状態を回復することができる。
マシン・チェックによる技法は、ハードウェア・エラーからの動的回復に多くの進歩が見られる以前からあったものであり、したがって、マシン・チェックを通知する必要があるデバイス・ドライバおよびIO資源は、本質的に回復不能であることが多い。しかし、前述の後者の技法は、マシン・チェックの生成を回避することが多く、適切な回復プロトコルと共に使用した場合、回復の可能性がより高く、そのためこの技法に依存するデバイス・ドライバおよびIO資源は、本質的により一般的に回復可能である。
いずれの手法を使用した場合も、通常は、IOファブリック・エラーからの回復、たとえば、エラー分離データの獲得、影響を受けたハードウェアのリセット、通常のIO動作の再開を同期させなければならず、それによって、影響を受けた各デバイス・ドライバおよびIOアダプタがエラー状態を確実に検出するようにし、そのエラー状態を検出するまで、デバイス・ドライバとそのアダプタとの間のIOをファブリック・エラー状態が持続しているかのように継続させる必要がある。しかし、プラットフォーム・ハードウェアと区画マネージャによってエラーが検出された時点から、影響を受けたすべてのデバイス・ドライバもエラーを検出するまでの時間は予測不能であり、過度に長い場合もあり、それによってIOファブリックの回復がきわめて複雑化し、遅れる可能性がある。極端な場合、デバイス・ドライバ自体はアクティブであるにも関わらずそれに付随するIOアダプタを使用しない期間の長さによっては、デバイス・ドライバ(エラーの時点でアクティブになっていない可能性があるCD−ROMドライブの場合など)がそのアダプタからのMMIOロードを、数日、数週間、数カ月にも及ぶきわめて長期の期間、行うことができないことがある。
一方、IOファブリック・エラーからの回復を完了する前に、すべてのデバイス・ドライバが別々にエラー状態を検出するのを待つ場合、過度の遅れや、予測不能な結果になることが多く、1つの論理区画のデバイス・ドライバが他の論理区画の回復を妨げる可能性がある。また一方、IOファブリックの回復を完了することができるようにIOファブリック内のエラーのデバイス・ドライバに特別に変更を加えることは、特に論理区画化システムの場合、古いデバイス・ドライバとの互換性がないことと、デバイス・ドライバおよびカーネル・インタフェースに複雑な方法で変更を加えるか、設計し直すか、または改善を加える必要があるために、問題となる可能性がある。
したがって、当技術分野では、特に論理区画化コンピュータなどでは、影響を受けるIO資源のデバイス・ドライバが、IOファブリック内のエラーの検出と回復を確実に行うことができるようにする方法、特に既存のデバイス・ドライバの使用を容易にする、より迅速、自立的、かつ効率的な方法がきわめて必要である。
特に論理区画化システムにおいて、マシン・チェックを行う必要がある回復不能デバイス・ドライバに付随する他の問題は、IOファブリックの初期設定によって、一般には、一組のファブリック要素を共通して有するすべての区画がマシン・チェックを受けることになることである。これは、1つの区画によって使用されているIOアダプタの障害によるエラーの結果、そのファブリックの共通要素を共用する複数の他の区画が、マシン・チェックにより終了する可能性があるため、区画化システムではきわめて望ましくない。
多くのコンピュータ環境では、システムの可用性に与える影響が大幅に削減されるために、回復不能なデバイス・ドライバおよびIO資源は回復可能デバイス・ドライバおよびIO資源と交換されているか、将来、交換されることになる。したがって、可能な限り、回復可能デバイス・ドライバおよびIO資源のみを使用することが望ましいことが多い。しかし、環境によっては、古いレガシIO資源およびデバイス・ドライバが依然として使用されている場合もあり、より高機能の回復プロトコルをサポートしないことがある。さらに、IO資源の中には、回復不能デバイス・ドライバと回復可能デバイス・ドライバの両方を利用可能なものもある。
その結果、実際には、どの導入済みのIO資源が回復可能デバイス・ドライバを持っているか、あるいは特定の資源について、そのデバイス・ドライバのどのバージョンがマシン・チェックを必要としているのかを特定するのがきわめて困難になっている。さらに、顧客が論理区画IO割当ての再構成、デバイス・ドライバの更新、または新しいIOアダプタの追加を行うに伴い、一律に一方のタイプのみであった区画が、再構成によって、当該区画に両方のタイプのデバイス・ドライバが混在するようになったり、あるいは一律に他方のタイプのみになったりすることがある。
したがって、当技術分野では、混在環境(すなわち回復不能と回復可能な資源およびデバイス・ドライバの混在が可能な環境)において、IO資源とそのデバイス・ドライバが回復可能であることを検出すると共に、IOエラーを確実に管理し、しかも、可能な限りマシン・チェックの使用を最小限に抑えるようにIOファブリックを動的に構成する方法の必要性がきわめて高い。
本発明は、一態様では、複数のエンドポイントIO資源をコンピュータ内の処理要素に結合するために使用されるIOファブリックにおいて、複数のエンドポイントIO資源のエラーからの回復を同期させる方法を提供することによって、従来の技術に付随する上記およびその他の問題に対処する。具体的には、本発明による実施形態は、IOファブリック要素におけるエラーから回復すると共に、IOファブリック内の特定のIOファブリック要素で検出されたエラーを、当該IOファブリック要素の影響を受けるエンドポイントIO資源まで実質的に伝搬させることができる。これによって、影響を受ける各IO資源へのアクセスに使用されるデバイス・ドライバまたはその他のプログラム・コードを、それに関連づけられたIO資源において伝搬されたエラーから非同期で回復させることができ、その際、IOファブリックにおけるエラーからの回復は、多くの場合、影響を受ける各IO資源についてのエラー回復が完了するまで待つ必要がない。
したがって、本発明の位置態様によると、IOファブリック要素において検出されたエラーに応答して複数のエンドポイントIO資源のそれぞれについてエラー状態を設定し、IOファブリック要素におけるエラーから回復することによって、複数のエンドポイントIO資源へのアクセスを可能にするIOファブリック要素におけるエラーを処理する。
他の態様では、本発明は、回復可能なエンドポイントIO資源と回復不能なエンドポイントIO資源の両方に対応するように、IOファブリックを動的に構成する方法を提供することによって他の問題に対処する。具体的には、エンドポイントIO資源が本質的に回復不能であることを検出すると、それに応答して、IOファブリック要素においてマシン・チェック通知を有効にするように、IOファブリック内のIOファブリック要素を動的に構成することができる。したがって、動的に構成されるIOファブリック要素は、回復可能資源とその回復不能資源にアクセスするプロセッサとの間に規定されたハードウェア経路内に配置される。
したがって、本発明の他の態様によると、少なくとも1つのプロセッサが複数のエンドポイントIO資源にアクセスすることができるようにする複数のIOファブリック要素を含むIOファブリックを、複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源が回復不能な資源であることを検出し、その検出に応答してプロセッサと第1のエンドポイントIO資源との間のハードウェア経路内に規定された各IOファブリック要素においてマシン・チェック通知を動的に有効にすることによって、動的に構成することができる。
本発明を特徴づける上記およびその他の利点および特徴は、本明細書の特許請求の範囲に記載されており、本発明の一部を構成する。しかし、本発明と、本発明の使用により実現される利点および目的とをよりよく理解することができるように、本発明の実施例を記載した図面およびそれに付随する説明を参照されたい。
以下に記載の実施形態では、たとえば、ネットワーク接続、記憶装置、プリンタ、ワークステーションや、これらのためのアダプタやコントローラなど、周辺ハードウェア構成要素などのコンピュータにおけるIO資源の管理に関連して、自動回復技法を使用する。
一面では、以下に記載の実施形態は、IOファブリック内のIOファブリック要素で検出されたエラーを、エラーの影響を受ける個々のIOにまで伝搬させる機能をサポートする。これによって、影響を受けるIO資源を利用する区画またはオペレーティング・システムでエラーに別々に対処するまで、影響を受ける各IO資源でエラー状態が持続している間に、IOファブリックにおけるエラーを動的に修正することができる。これにより、特に、特定のIOファブリック・ドメインを複数の論理区画が共用する論理区画化環境の場合、資源とファブリックのエラー回復の同期が格段に簡略化される。
他の面では、以下に記載の実施形態は、同じIOファブリック内の回復可能IO資源と回復不能IO資源の両方に対処可能な機能をサポートする。回復可能IO資源と回復不能資源の両方に対する対処は、例示の実施形態では、コンピュータ・プロセッサとIO資源との間の経路に配置された1つまたは複数のIOファブリック要素を選択的に切り換えて、IO資源が回復不能であると判断されるか否かを問わず、マシン・チェックを可能にすることによって行う。
ここで、回復可能IO資源とは、コンピュータの動作中に実行される回復プロトコルに応答して、動的に、すなわちシステムの通常の動作中に回復するように構成された資源である。一般には、IO資源は、論理区画のオペレーティング・システムまたは非論理区画化コンピュータのオペレーティング・システムに常駐する、当該IO資源用のデバイス・ドライバが、その資源の回復プロトコルをサポートする場合に、回復可能である。また、IO資源の回復可能性は、他のオペレーティング・システムまたはカーネル・サーボスに備えられたサポート、およびIOファブリック内の他のソフトウェア機能またはハードウェア機能あるいはその両方を基にすることもできる。また、IO資源の回復可能性は、一般には、当該資源を管理するために使用するデバイス・ドライバ内の回復プロトコルのサポートに少なくともある程度依存するため、適合するデバイス・ドライバと共に使用した場合に回復可能なIO資源であっても、回付プロトコルをサポートしない古いデバイス・ドライバを使用して資源を管理している状況では回復不能なことがある。
それに対して、回復不能IO資源は動的資源をサポートしない。多くの環境では、資源が回復不能な資源である場合、エラーに応答してプロセッサ・マシン・チェックを生成する必要があり、その結果、一般に、オペレーティング・システム全体とその上で実行されるアプリケーションを、結局は終了させることになり、回復のためにシステムを再起動する必要がある。論理区画化コンピュータでは、マシン・チェックの結果として、システム全体ではなく論理区画のみの終了と再起動を行うことになる。
以下でさらに明らかになるように、本発明による実施形態は、たとえば、ブリッジ装置、ハブ装置、スイッチ、コネクタ、ホスト装置、スレーブ装置、コントローラ装置、ケーブル、モデム、並直列変換器/直並列変換器、オプトエレクトロニック・トランシーバなど、夥しい数および種類のIOファブリック要素を含むIOファブリックを使用することができる。
本明細書に記載の技法には、特に、論理区画化コンピュータにおけるスロットまたは資源レベルの区画化の実現が容易になり、個々のIO資源またはスロットを、論理区画化コンピュータ内にある特定の論理区画に結びつけることができるという利点がある。しかし、本明細書に記載の技法は、論理区画化されていない環境や、たとえばバスやエンクロージャレベルなど他の資源区画化細分性でも使用可能であることがわかるであろう。
次に、図面を参照すると、いくつかの図面では同じ構成要素は同じ番号で示されており、図1には、本発明による論理区画化コンピュータ10内の主要構成要素が図示されている。コンピュータ10は、たとえば、ネットワーク・サーバ、中規模コンピュータ、たとえばIBM eServerなどのメインフレーム・コンピュータなど、複数のマルチユーザ・コンピュータのうちのいずれかを、一般的に示している。しかし、本発明は、たとえば、ワークステーション、デスクトップ・コンピュータ、携帯型コンピュータなどのシングル・ユーザ・コンピュータなど、他のコンピュータおよびデータ処理システム、または(たとえば組込みコントローラなどが組み込まれた)他のプログラム式電子装置や、非論理区画化コンピュータを含む他のマルチユーザ・コンピュータでも実施可能であることを理解されたい。
コンピュータ10は、典型的には、バス16を介してメモリ14に結合された1または複数のプロセッサ12を含む。各プロセッサ12は、シングルスレッド・プロセッサ、または、複数のハードウェア・スレッド18が組み込まれた、図のプロセッサ12aなどのマルチスレッド・プロセッサとして実施することができる。マルチスレッド・プロセッサ12a内の各ハードウェア・スレッド18は、概ね、コンピュータに常駐するソフトウェアによって独立したプロセッサのように扱われる。
さらに、図1に示すように、1つまたは複数のプロセッサ12(たとえばプロセッサ12b)は、システムの初期プログラム・ロード(IPL)を管理する専用ファームウェア・コードを実行し、システム・ハードウェアの監視、診断、および構成を行うために使用される、サービス・プロセッサとして実行することができる。一般に、コンピュータ10は1つのサービス・プロセッサと、コンピュータに常駐するオペレーティング・システムおよびアプリケーションを実行するために使用される複数のシステム・プロセッサとを含むが、本発明はこの特定の実施態様のみには限定されない。実施態様によっては、サービス・プロセッサを、バス16以外の方式でコンピュータ内の他の様々なハードウェア構成要素に結合することができる。
メモリ14は、たとえばDRAMベースの主記憶装置などの1レベルまたは複数レベルのメモリ装置と、1レベルまたは複数レベルのデータ・キャッシュ、命令キャッシュ、または組合せキャッシュ、あるいはこれらの組合せを含むものとすることができ、当技術分野で周知のように、特定のキャッシュが個別プロセッサまたは複数プロセッサに使用される。さらに、メモリ14は、IOファブリック20を介して、たとえば(コンピュータをネットワーク24とインタフェースさせる)1つまたは複数のネットワーク・アダプタ22、(コンピュータを1つまたは複数の記憶装置28とインタフェースさせる)1つまたは複数の記憶制御装置26、(複数のワークステーション・アダプタを介して1つまたは複数の端末またはワークステーション32にインタフェースするための)1つまたは複数のワークステーション・コントローラ30など複数の種類の外部装置に結合されている。
図1には、区画マネージャまたはハイパーバイザ36によって管理される複数の論理区画34を含む論理区画化環境をコンピュータ10上で実現する際に使用される、基本ソフトウェア構成要素および資源も詳細に示されている。当技術分野で周知のように、任意の数の論理区画をサポートすることができ、コンピュータに任意の時点で存在する論理区画の数は、コンピュータの区画が追加または削除されるにつれて動的に変化可能である。
例示のIBM eServerベースの実施態様では、区画マネージャ36は2層のプログラム・コードから成る。本明細書でディスパッチ不可部38と呼ぶ第1の部分は、コンピュータのファームウェアまたはライセンス内部コード(LIC)内で実現され、様々なハードウェア構成要素との低レベル・インタフェースをとるために使用されると同時に、たとえばオペレーティング・システムなど、より上位の層をハードウェア・アクセスの細部から分離する。このファームウェアは、サービス・プロセッサ12bなどのサービス・プロセッサと通信することもできる。ディスパッチ不可部38は、コンピュータ10に、たとえばページ・テーブル管理など低レベル区画管理機能の多くを提供する。また、ディスパッチ不可部38には、タスクという概念がなく、主として、上位層のソフトウェアからの関数呼出しによって、またはハードウェアからの割込みによってアクセス可能である。
区画マネージャ36内のプログラム・コードの第2の層を、本明細書ではディスパッチ可能部40と呼ぶ。タスクの概念がなく、メモリ再配置をオフにして実行され、より上位層のソフトウェアからスーパーバイザ関数呼出しによってアクセス可能なディスパッチ不可部38とは異なり、ディスパッチ可能部40は、(オペレーティング・システムと同様に)タスクの概念があり、メモリ再配置をオンにして実行される。ディスパッチ可能部は、典型的には、ユーザから隠蔽されている点を除けば、区画とほとんど同様にして実行される。ディスパッチ可能部は、一般に、区画の作成および削除、同時ハードウェア・メンテナンスや、プロセッサ、メモリ、およびその他のハードウェア資源の様々な区画34への割振りなど、より上位の区画間理動作を管理する。
各論理区画34には、一般に、コンピュータ10内の利用可能な資源の一部が、静的または動的に割り振られる。たとえば、各論理区画には、1つまたは複数のプロセッサ12、または1つまたは複数のハードウェア・スレッド18、あるいはその両方、ならびに利用可能な記憶区間の一部を割り振ることができる。論理区画は、プロセッサなどの特定のハードウェア資源を共用することができ、それによって、所与のプロセッサを複数の論理区画が使用することになる。この代替ハードウェア資源は、一度に1つの論理区画にしか割り振ることができない。
一般には、たとえば大容量記憶装置、バックアップ記憶装置、ユーザ入力、ネットワーク接続、表示装置、およびそのためのI/Oアダプタなど、追加の資源が、当技術分野で周知の方式で、1つまたは複数の論理区画に割り振られる。資源は、たとえば、バスごと、または資源ごとなど、いくつかの方式で割り振ることができ、複数の論理区画が同一バス上の資源を共用する。資源の中には、一度に複数の論理区画に割り振ることができるものもある。さらに、たとえば仮想ローカル・エリア・ネットワークで使用される仮想ネットワーク・アダプタなど、本質的に「仮想」の資源もある。
各論理区画34は、非区画化コンピュータのオペレーティング・システムと同じ方式で、論理区画の基本動作を制御するオペレーティング・システム42を使用する。たとえば、各オペレーティング・システム42は、インターナショナル・ビジネス・マシーンズ・コーポレーションが販売するOS/400オペレーティング・システムの他、AIX、UNIX(登録商標)、Linuxなど他のオペレーティングを使用して実施可能である。
各論理区画34は、別個の、または独立した記憶空間で実行され、したがって、各論理区画は、各論理区画で実行される各ユーザ・アプリケーション44から見ると、独立した非区画化コンピュータとほとんど同じように機能する。したがって、ユーザ・アプリケーションは、一般に、区画化環境で使用するための特別な構成を必要としない。
論理区画34の別々の仮想コンピュータ的性質を考えると、論理区画が別々の物理マシン上にあるかのように互いに通信することができるように、区画間通信をサポートすることが望ましい。したがって、実施態様によっては、論理区画34がイーサネット(登録商標)(Ethernet(登録商標))プロトコルなどのネットワーク・プロトコルを介して互いに通信することができるように、ディスパッチ不可部38において、仮想ローカル・エリア・ネットワーク(LAN)46をサポートすることが望ましい場合がある。区画間の通信をサポートする他の方式にも、本発明により対応可能である。
本発明により、他の論理区画化環境も使用可能であることを理解されたい。たとえば、図2に示すように、メモリ14’内に、図1のディスパッチ不可部38とほぼ同様に構成されたディスパッチ不可部38’を備え、オペレーティング・システム42および1つまたは複数のユーザ・アプリケーション44も常駐する基本区画33’内に組み込まれたディスパッチ可能部40’を備えることもできる。
一般に、本発明の実施形態を実現するために実行されるルーチンは、オペレーティング・システムの一部、特定のアプリケーション、構成要素、プログラム、オブジェクト、モジュール、または命令シーケンス、あるいはこれらのサブセットのいずれとして実現されるかを問わず、本明細書では「コンピュータ・プログラム・コード」または単に「プログラム・コード」と呼ぶ。プログラム・コードは、一般に、様々な時点でコンピュータ内の様々なメモリおよび記憶装置内に存在し、コンピュータ内の1つまたは複数のプロセッサによって読み取られ、実行されると、本発明の様々な態様を実現するステップまたは要素を実行するために必要なステップをコンピュータに実行させる、1つまたは複数の命令を含む。さらに、上記および以下の説明では、本発明について、完全機能コンピュータおよびコンピュータ・システムの環境で説明するが、本発明の様々な実施形態は、様々な形態のプログラム製品として配布可能であり、本発明は、実際に配布を行うために使用される特定のタイプの信号伝達媒体に関わらず、等しく適用可能であることが、当業者ならわかるであろう。信号伝達媒体の例としては、揮発性および不揮発性の記憶装置、フロッピィ・ディスクおよびその他の取外し可能ディスク、ハード・ディスク・ドライブ、磁気テープ、光ディスク(たとえばCD−ROM、DVDなど)の記録可能型媒体と、デジタルおよびアナログ通信リンクなどの伝送型媒体とが含まれるが、これらには限定されない。
さらに、以下で述べる様々なプログラム・コードを、本発明の特定の実施形態において、プログラム・コードが実現されるアプリケーションまたはソフトウェア構成要素に基づいて識別する場合がある。しかし、以下の特定のプログラム名称は、便宜上使用するに過ぎず、したがって本発明は、そのような名称によって識別および/または暗黙的に示す特定のアプリケーションのみでの使用に限定すべきではないことを理解されたい。さらに、一般に、コンピュータ・プログラムをルーチン、プロシージャ、メソッド、モジュール、オブジェクトなどに編成する方法は多数あり、プログラムの機能を、典型的なコンピュータ内に常駐する様々なソフトウェア層(たとえば、オペレーティング・システム、ライブラリ、API、アプリケーション、アプレットなど)に割り振る方法も様々あるため、本発明は、本明細書に記載するプログラム機能の特定の編成および割振りには限定されないことを理解されたい。
当業者なら、図1および図2に示す例示の実施形態は、本発明を限定するものではないことがわかるであろう。実際には、本発明の範囲から逸脱することなく、他の代替ハードウェアおよび/またはソフトウェア環境も使用可能であることが当業者ならわかるであろう。
次に図3を参照すると、システムの中央電子処理装置(CentralElectronics Complex:CEC)54を複数のエンドポイントIO資源56(ここではIOスロット)に接続するために使用されるIOファブリック52を備えた例示のコンピュータ・システム50が図示されている。CEC54は、プロセッサ/メモリ・バスまたはシステム・バス62に結合された1つまたは複数のプロセッサ58とメモリ60とを含むものとして図示されている。例示の実施形態では、CEC54は、IOスロット56とは別個のエンクロージャ内に収容されており、したがって、IOスロットは1つまたは複数のIOエンクロージャ64内に、グループとして収容されている。実施形態によっては、図3に示す構成要素を同じエンクロージャ体内に組み込むこともできることを理解されたい。
IOファブリック52は、1つまたは複数のリモートIO(RIO)ネットワーク66を含み、各ネットワーク66は、CEC54内に収容されてプロセッサ/メモリ・バス62に結合されたRIOハブ68を含み、エンクロージャ64内に配置された1つまたは複数のRIOブリッジ70を備えた、ループ・トポロジ状に配置されている。各RIOブリッジ70は、さらに1つまたは複数のPCIホスト・ブリッジ(PHB)72に結合されて、たとえばPCI、PCI−X、またはPCI ExpressなどのPCI対応インタフェースをサポートする。各PHB72は、一次PCIバスを制御し、一次PCIバスには、複数のPCI−PICブリッジ74が接続されている。各PCI−PCIブリッジ74は、さらに、それに付随するIOスロット56を二次PCIバスに接続する。IOスロット56は、たとえば、PCI対応アダプタ・カードを受け入れるコネクタとして、または、PCI−PCIブリッジおよび/またはPHBを組み込んだ電子回路基板上に直接組み込まれた(はんだ付けされた)PCIアダプタ・チップとして実装可能である。
PCIベースのインタフェースは、メモリ・マップ入出力(MMIO)をサポートする。したがって、コンピュータ50が論理区画化環境を実現する場合、論理区画オペレーティング・システムがプロセッサ・アドレスを特定のPCIアダプタ・メモリに「バインド」することができるようにし、MMIOについてはプロセッサ58からアダプタに、また、メモリ60からアダプタにアドレスをバインドすることができるようにして、アダプタがメモリ60との間で直接メモリアクセスを行うことができるようにする。
例示の実施形態では、PCI−PCIブリッジ74介在PHB72とIOスロット56とを使用して、個々のアダプタと、PHB72、RIO要素68、70、プロセッサ58、およびメモリ60との間の追加の信号伝送およびアダプタ・バインド分離を可能にする。この追加の分離によって、個々のIOスロットを異なる論理区間に割り当てることが容易になり、それによって、論理区画がPCI−PCIブリッジ74に共通して接続されたIOファブリック・ハードウェアを共用することができるようになるが、他の論理区画に割り当てられたIOスロット56の動作が特定の論理区画に割り当てられたアダプタの動作を妨害せず、さらに、論理区画またはアダプタが他の区画−アダプタ・バインドを使用することができないようにアダプタ・アドレス・バインディンドが行われるようになる。他の実施形態では、所与のPCI−PCIブリッジに複数のIOスロットを結合することができるが、その場合、PCI−PCIブリッジに結合されたすべてのIOスロットを、論理区画化コンピュータ内の同じ論理区画にバインドする必要がある。また、他の実施形態では、1つのPHBに複数のスロットを接続して、各スロットに内部分離機能をもたせることもできる。
また、例示の実施形態では、各IOスロットにホットプラグ・コントローラを関連づけ、PHB72またはPCI−PCIブリッジ74に組み込んで、システム内の他のIOスロット56への電力供給状態とは独立して、各IOスロット56に選択的に電力を供給することができるようにすることが望ましい。さらに、実施形態によっては、IOファブリック要素のグループを、共通の集積回路またはカードに集積することができる。たとえば、1つの共通集積回路状に複数のPCI−PCIブリッジ74を配置することができる。
さらに、例示の実施形態では、各PCI−PCIブリッジ74がそれに関連づけられたIOスロットのエラー状態を管理することができ、それによって、エラーをIOファブリックから該当するIOスロットに伝搬させることができる。代替実施形態では、PHBまたはその他のIOファブリック要素に、IOファブリックに結合された複数のIOスロットのエラー状態を管理する機能が組み込まれる。
本発明によるIOファブリックのために、エンドポイントIO資源とコンピュータ内のプロセッサとの間の通信をサポートする多くの代替構成を使用することができることを理解されたい。たとえば、USB、SCSI、IDE、IEEE−1394、PCI−Express、ファイバ・チャネル、InFiniBandなど、複数のこと案留相互接続標準を、PCIに代えて、またはPCIに加えて使用することができる。さらに、他の数および構成のブリッジ、スイッチ、ホスト、ハブ、エンクロージャ、アダプタ、コネクタ、通信プロトコル、コントローラ、およびその他のタイプのハードウェア装置も、本発明によるIOファブリックに組み込むことができる。したがって、図3の構成は本質的に例示的なものに過ぎず、本発明は、本明細書で開示する特定の構成には限定されないことがわかるであろう。
前述のように、本発明による実施形態は、IOファブリック・エラーをIO資源に伝搬させる機能をサポートし、デバイス・ドライバ・エラー検出とそのようなエラーの回復を容易にすると共に、IOファブリックの一部を、マシン・チェック・モードと非マシン・チェック・モードとの間で再構成して回復可能IO資源と回復不能IO資源との混在環境に容易に対応することができるようにする。この点について、論理区画化環境を、図3に関連して説明した例示のIOファブリック・アーキテクチャと共に使用する実施例を以下に示す。しかし、本発明はこの特定の実施形態には限定されないことを理解されたい。
この例示の実施形態では、IOファブリック要素がエラー状態を実現し、この状態では、IOファブリック要素は、エラー状態を検出すると、(1)エンドポイントへのMMIOストアを廃棄し、(2)MMIOロードに対してオール1データを返し、(3)DMA書込みを廃棄し、DMA読取り要求に対して拒否またはエラー状況を返す(たとえばPCIバスでは、PHBはDMA読取り要求に対してターゲット打ち切り(Target Abort)または再試行(Retry)状況で応答する)。
さらに、この例示の実施形態では、IOファブリック要素をマシン・チェック・モードと非マシン・チェック・モードとの間で動的に再構成することができる。したがって、マシン・チェック・モードでは、MMIOロードに対してオール1データを返すと共に、ファブリック要素は、プロセッサにおいてマシン・チェック割込みを発生させるエラー状況を返す。
この例示の実施形態で使用する回復可能デバイス・ドライバは、オール1ロード応答を検出し、ファブリック・エラー状態があるか否かを調べるマシン/チェックを必要としない。区画マネージャは、ファブリック・エラー状態でマシン・チェックが通知されないようにIOファブリックを初期設定する。区画をアクティブにする前に、区画マネージャはすべてのファブリック要素を初期設定し、それによって、ファブリック要素がエラー状態になった場合にマシン・チェックを通知しないようにする。回復不能デバイス・ドライバが検出され、スロット構成が区画化システムのエラー分離ポリシーを満たす場合、区画マネージャはファブリック要素を動的に変更して、プロセッサ/メモリ・バスとIOアダプタ/スロットとの間のハードウェア経路を形成するように相互接続するファブリック要素について、マシン・チェック通知をアクティブにする。同様に、IOアダプタ/スロットが回復不能デバイス・ドライバの制御下になくなった場合、区画マネージャはファブリック要素を動的に変更して、ファブリック要素を非マシン・チェック・モードに復帰させる。
ファブリック内の任意の箇所に、2つのスロット間の経路の接点を設けることができる。マシン・チェック通知を有効または無効にするようにファブリック要素に変更を加えるとき、区画マネージャは、この接点と、この接点からプロセッサ/メモリ・バスまでの経路とにおいて、ファブリック要素が適切に初期設定されるように保証し、それによって、いずれか一方のスロットがマシン・チェック・エラー・モードを必要とする場合、スロットとプロセッサ/メモリ・バスとの間の共通経路を形成する要素が、マシン・チェックを通知するように設定される。
図4の100に、回復可能デバイス・ドライバを使用したIOファブリック・エラーの検出と回復のための流れの一例を示す。区画マネージャのディスパッチ可能部は、ファブリック・ハードウェア・マネージャ102を含む。このファブリック・ハードウェア・マネージャ102は、タスクを使用してファブリック・ハードウェア初期設定および回復シーケンシングの大部分を実行する。区画マネージャのディスパッチ不可部は、権限検査を実行して、区画デバイス・ドライバが区画に割り当てられたスロット内のIOアダプタに対して操作を行うことができるようにする。さらに、区画マネージャのディスパッチ不可部は、ファブリックIOハードウェア割込みを受け取り、(図4で区画マネージャ呼出しインタフェースとして識別されている破線によって示すように)ファブリック・ハードウェア・マネージャ102と区画オペレーティング・システム104の両方から呼出し可能である。ディスパッチ不可区画マネージャは、ファブリック・ハードウェア・マネージャ102および区画オペレーティング・システム104に付随するイベント待ち行列に格納されたイベント・メッセージを使用して、ファブリック・ハードウェア・マネージャ102または区画オペレーティング・システム104に対して非同期状態を通知する。これには、ファブリック・エラー割込みに関連するイベントも含まれる。
図4で、区画マネージャのディスパッチ不可文は、ファブリック・マネージャ構成要素106とスロット・マネージャ構成要素108とを含むものとして図示されている。ファブリック・マネージャ106は、ファブリック・ハードウェアの状態を監視し、エラーまたはその他の非同期状態が発生するとそのファブリック・ハードウェアから割込みを受け取る。区画マネージャのディスパッチ不可部は、各IOアダプタ・スロットごとに、区画オペレーティング・システムから呼び出されるとIOスロットの状態を監視して権限検査とスロット操作を行うスロット・マネージャ108も含む。スロット・マネージャ108は、ファブリック・エラーが発生した場合、ファブリック・マネージャ106と区画オペレーティング・システム104との対話の同期化も行い、区画デバイス・ドライバがエラーを検出してエラー状況を要求するまでファブリック・エラー状況を記憶する機構を提供する。
ステップ110.1からステップ120.3までのシーケンスは、ファブリック・エラー、すなわちIOファブリック内のIOファブリック要素の1つにおけるエラーを認識した後の区画マネージャの動作を示す。122から130までのシーケンスは、オール1ロード応答を検出したときの回復可能デバイス・ドライバの動作を示す。両方のシーケンスは、ほぼ同時に発生可能であり、ステップ128および130は、この2つのシーケンス間の同期ステップである。デバイス・ドライバが詳細なファブリック・エラー状況を処理も記録もしない場合、デバイス・ドライバはステップ128を省いてステップ130のみを行うこともできることに留意されたい。
ステップ110.1および110.2は、可能性のあるファブリック・エラーを区画マネージャに通知する独立した機構を示す。ステップ110.1は、区画マネージャ割込みハンドラにエラー割込みを通知するファブリック・ハードウェア要素を示し、ステップ110.2は、ステップ124を実行するデバイス・ドライバを示す。このデバイス・ドライバは、区画マネージャがステップ112.1を実行し、スロットのためにスロット・マネージャ108においてファブリック・エラー状態を記憶する前にステップ124が行われた場合、ステップ110.2を開始する。ステップ110.1および110.2は、順に行うことも同時に行うこともできる。区画マネージャとオペレーティング・システム・デバイス・ドライバの両方が、単一のCPUを共用し、したがって、シーケンス110.1〜120.3および122−130の個々のステップは、物理的には互いに任意の順序で行うことができるが、区画マネージャとデバイス・ドライバから見ると論理的には順次的に見える。
シーケンス110.1ないし120.3を考察すると、ステップ110.1で、エラーを検出したファブリック・ハードウェア要素は、区画マネージャに対してエラー割込みを通知する。この割込みは、ステップ110.2が先に行われた場合でも常に行われ、区画マネージャ・エラー検出を開始させる。すなわち、ステップ110.2は、区画マネージャがステップ110.1の割込みを受け取る前に行うことができ、ステップ110.2は、ファブリック・ハードウェアの検査を開始し、その結果、ステップ112.2において、影響を受けるすべてのスロット・マネージャにエラー状況が通知されるようにすることができる。しかし、ファブリック・マネージャ106は、ステップ110.1で割込みが発生するまで、ステップ114のファブリック・エラー状態の回復を開始しない。その割込みが発生すると、デバイス・ドライバがステップ124においてすでにファブリック・マネージャ106にファブリック・エラー状況を個々のスロット・マネージャ108に記憶させていない場合(ステップ112.1)、ファブリック・マネージャ106割込みハンドラが、この状況を収集し、ステップ112.1を実行する。
さらに、区画マネージャは通常、ファブリック要素またはスロットに対して何らかのIO動作(区画マネージャに対する区画呼出しを介して要求されたスロットへの構成IOなど)を行い、それ自体でオール1ロード応答を検出することができる。これが発生した場合、区画マネージャ自体がステップ110.2を呼び出して、その経路にエラーがないかファブリックを分析する。
ステップ112.1の後で、ファブリック・マネージャ106は、ステップ114でファブリック・ハードウェア・マネージャ102にエラー・イベントを通知する。ファブリック・ハードウェア・マネージャ102は、ステップ116ないし120.1の必要な一連のハードウェア動作を行う。区画マネージャのディスパッチ可能部がすべての直接ハードウェア・アクセスを行うとき、ファブリック・ハードウェア・マネージャ102は、ディスパッチ不可区画マネージャに対する区画マネージャ呼出しを使用して、ファブリック・ハードウェア自体に変更を加える。これらの区画マネージャ状態は、ファブリック・ハードウェア・マネージャ102が、ファブリック・エラー状態の回復のために必要な一連のハードウェア動作を行うときに、ファブリック・マネージャ106が監視する必要があるファブリック要素状態またはハードウェア・モードの変化もファブリック・マネージャ106に伝達する。
ステップ112.2で、スロット・マネージャ108は、区画オペレーティング・システム104にエラー・イベントを通知する。区画オペレーティング・システム104は、デバイス・ドライバによるMMIOロードの発行に依存せずに、またはMMIOロードの発行を待たずにファブリック・エラーまたはスロット・エラーを非同期で検出するために、そのようなイベントの受領を任意選択により有効にする。場合によっては、デバイス・ドライバとIOアダプタとの間の通信プロトコルは、デバイス・ドライバがMMIOストアのみ、またはほぼ常にMMIOストアのみを実行し、MMIOロードは、行うとしてもまれにしか行わないようなものとすることができる。そのような場合、ステップ112.2でのイベント・メッセージの受領は、デバイス・ドライバ・シーケンス124ないし130を開始させるように作用することができる。
ステップ116で、ファブリック・ハードウェア・マネージャ102は、ファブリック失敗イベントからのエラー状態情報を使用して、エラー状態のファブリック要素を判断し、ハードウェアの回復を開始する。エラー状態にある間、ファブリック要素は、MMIOストアおよびDMAを廃棄し、オール1ロード応答を返すことを続け、それによって、区画内で同時に実行されているデバイス・ドライバは、ファブリック・ハードウェア・マネージャ102がこのファブリック要素を介して到達した各スロットにおいてこのエラー状態(すなわちフリーズ)を再現することができるまで、この動作を観察することになる。したがって、ステップ116で、ファブリック・ハードウェア・マネージャ102は、ファブリック・ハードウェア・マネージャ102がIOアダプタ・スロットでハードウェアにアクセスしてフリーズ状態を引き起こすことができる状態にファブリックを復元させる。
例示の実施形態では、区画デバイス・ドライバが、スロット・マネージャ108と直接通信する区画マネージャ呼出しを使用してすべてのPCI構成IOを行い、それによって、スロット・マネージャ108は、(ステップ112.1および112.2の実施後)構成IO区画マネージャ呼出しの実行の際に区画に対してファブリック・エラー状況を直接返すことができる。デバイス・ドライバは、アダプタ(スロット)PCIメモリにマップされた区画仮想アドレスを使用してメモリ・マップIOを行い、これらのデバイス・ドライバは、ファブリック要素の回復中に、ロードに対してオール1を返し続け、ストアを廃棄し続けなければならない。したがって、例示の実施形態では、プラットフォーム・スロット・ハードウェアは、ステップ116で区画マネージャが、スロットを接続してブリッジにフリーズ状態を設定するPCI−PCIブリッジ要素に対する構成IO動作を使用することができるようにする機構を備える。
次に、ステップ116で、ファブリック・ハードウェア・マネージャ102は、ファブリック要素を、ファブリック要素をエラー状態にしたまま、構成IOの実行が可能な状態に復元させ、それによって、ファブリック・ハードウェア・マネージャ102が、当該ファブリック要素を介して到達する各スロットでこれと同じフリーズまたはエラー状態を設定するまで、メモリ・マップ動作はストアを廃棄し続け、ロードに対してオール1を返し続ける。例示の実施形態ではスロットPCI−PCIブリッジに対して構成IOを使用するが、ファブリック・ハードウェアとは別にPCIメモリをマップする別個の個別に有効にされる読取りアドレス・レンジを設け、ステップ116の回復中にそのファブリック・アドレス・レンジのみを再び有効にするなど、他の機構をファブリック・ハードウェア内に設けて、同等の機能を提供することもできることが明らかであろう。
ステップ118で、ファブリック・ハードウェア・マネージャ102は、区画マネージャ呼出しを使用して、ファブリックのPCI−PCIブリッジ要素にフリーズ状態を設定する構成IOを実行し、それによって、そのファブリック要素を介して到達した各スロットをエラー状態にする。その後、ステップ120.1で、ファブリック・ハードウェア・マネージャ102は、ファブリック要素をその通常の動作状態に完全に復帰させ、各スロットにおけるPCI−PCIブリッジは、元のファブリック・エラー状態を再現し、ストアとDMAを廃棄し、オール1ロード応答を返し、これによって、影響を受けるIOスロットにファブリック・エラーを実質的に伝搬させる。
例示の実施形態では、PCI−PCIブリッジがこの機能を実行するが、たとえば、個々のスロットに割り当てられた、メモリ・マップ・アダプタ・アドレスおよびDMAソース・アドレス・レンジに基づいて、ファブリックの他の要素が同等の機能を実現することも可能であることは明らかであろう。
ステップ120.1で、影響を受けた各スロットでフリーズ状態を再現したファブリック・ハードウェア・マネージャ102は、ファブリック要素の回復を完了し、ファブリック・マネージャ106にファブリックの回復が完了したことを通知する。ファブリック・マネージャ106は、ステップ102.2で、個々のスロット・マネージャ108に対して、ファブリックの回復が完了したことを通知し、スロット・マネージャ108はそれぞれの内部スロット状態情報にそれを反映させる。さらに、ステップ120.3で、各スロット・マネージャ108は、任意選択により、区画オペレーティング・システム104に対して、回復が完了したというイベントを通知する。ステップ112.2に関連して、区画は任意選択により、シーケンス122ないし130を開始する手段として、または当該シーケンスのサブセットを開始する手段として、そのようなイベントの受領を有効にすることができる。他の方法として、実施形態によっては区画オペレーティング・システムに対してイベントを渡さず、シーケンス124ないし130などにおいて、後で区画オペレーティング・システムによるポーリングを使用して、IOファブリック・エラーの回復を検出することもできる。
次に、区画オペレーティング・システム104によって実行されるシーケンス122ないし130を参照すると、ステップ122で、区画デバイス・ドライバが、MMIOロードからオール1データを受け取った結果として、ファブリック・エラーまたはスロット・エラー状態の発生した可能性があることを認識する。前述のように、区画オペレーティング・システム104は、任意選択により、ファブリック・エラー・イベント・メッセージの受領を有効にし、ステップ122の代わりとして、または場合によってはステップ122の前に、この機構によってファブリック・エラー状態を検出する。
ステップ124で、デバイス・ドライバ、またはデバイス・ドライバから呼び出された区画カーネル・ユーティリティが区画マネージャを呼び出して、ファブリック・エラーまたはスロット・エラーが存在する可能性があるか否かを判断する。ステップ110.1または110.2によって検出されたファブリック・エラーがまだスロット・マネージャ108に通知されていない場合、スロット・マネージャ108は、ステップ110.2を実行し、ファブリック経路にエラー状態がないか分析する。エラー状態が検出された場合、ステップ110.2は、そのファブリック状態をスロット・マネージャ108に返し、スロット・マネージャ108はステップ124でこの状況を区画オペレーティング・システムに返す。
この例示の実施形態では、PCI−PCIブリッジは、PCI−PCIブリッジをIOアダプタ・スロットに接続するPCI二次バス上でエラー状態を検出するとファブリック・エラー状態になる。例示の実施形態では、スロット・マネージャ108は、PCI−PCIブリッジにもこのエラー状態がないか検査し、この状態が存在する場合、区画オペレーティング・システム104に対して、他のファブリック要素とは無関係のスロット・フリーズがあることを示す状況を返す。
ステップ126で、区画オペレーティング・システム104またはデバイス・ドライバは、任意選択によりスロット・マネージャ108を呼び出して、ロギングなどのため、またはファブリック・エラーが回復可能か否かを判断するために、ファブリック・エラーに関する追加の詳細を入手する。ステップ128で、デバイス・ドライバまたはオペレーティング・システムは、スロット・マネージャ108を呼び出して、スロット・フリーズ状態を解除することによってスロットの回復を開始する。この時点で、スロット・マネージャ108は、デバイス・ドライバ・スロットの回復をファブリック・マネージャ106ファブリック回復と同期させる。スロット・マネージャ108がファブリックの回復をまだ完了していない場合、スロット・マネージャ108はステップ128でビジー状況を返す。その後、デバイス・ドライバまたはオペレーティング・システムは、ステップ120.2でファブリック・マネージャ106が完了するまで、ステップ128で呼出しを定期的に再試行することができる。
また、ステップ128で、ファブリック・エラー状態が、手動介入(ハードウェア・サービス処置やプラットフォーム・リブート、パワー・サイクルなど)を行わないと区画マネージャが通常のファブリック動作を回復することができないようなものである場合、スロット・マネージャ108は、スロットが永続的に利用不能であること、すなわち、サービス処置が行われるまでは利用不能であることを示す状況を返す。その場合、デバイス・ドライバは再試行間隔を分単位または時間単位など、大幅に長い間隔にまで延ばすか、あるいは、区画オペレーティング・システム104が回復イベントの受領を有効にした場合は、区画マネージャがステップ120.3で回復イベントを通知するまでさらに再試行を延ばすことができる。
復帰成功状況の後、ステップ130で、デバイス・ドライバは、区画マネージャ呼出しシーケンスを実行し、IOアダプタを動作状態に復帰させ、それによってIOアダプタのエラー状態をリセットする。このような処置としては、SCRIRSTなどのリセットをアダプタに対して発行し、次に、アダプタを完全に初期設定し直すか、またはIOアダプタとデバイス・ドライバの状態を同期させ、ファブリックがエラー状態であった間に廃棄された可能性のある動作を繰り返すことなどが含まれる。ステップ130が完了すると、IOアダプタは動作状態に復帰し、IOファブリック・エラーが回復し、IOアダプタとプロセッサ/メモリ・バスtの間の通信が復旧する。
前述のように、本発明による実施形態は、所与のIOファブリック内の回復不能エンドポイントIO資源と回復可能エンドポイントIO資源とを使用することが可能な能力と、システム内の異なるタイプのIO資源の導入に動的に適応可能な能力もサポートすることができる。なお、デバイス・ドライバまたはそのための他の管理プログラム・コードが実際にマシン・チェック・モードを使用して動作を試みるまでは、資源が回復可能か回復不能かを特定することは実際には不可能なことが多いことは理解されよう。したがって、例示の実施形態では、そのような場合を検出し、IOファブリックの1セグメントが他の区画を妨害せずにマシン・チェック・モードで動作することができるようなIO構成である場合を判断し、IOファブリックの適切な要素を適切な時点でマシン・チェック・モードにしたり、マシン・チェック・モードから復帰させたりするように切り換えるオペレーティング・システム機能または区画マネージャ機能を組み込むことが望ましい。また、システム自体がそのような状態を検出し、IOファブリックの動作モードを動的に変更して、異なる区画のその時々の要件に対応することも、例示の実施形態の望ましい機能である。
論理区画化されたシステムでは、望ましくは、1つの区画によるIOエラーの検出が、影響を受けたIOファブリック要素を共有する他の区画によるIO動作の区画マネージャ回復および再開を妨害してはならない。この例示の実施形態は、IOファブリック・エラーの発生直後にそのIOファブリック・エラーを回復すると共に、その一方で、影響を受けたデバイス・ドライバがIOラー状態が発生したことを最終的に確実に検出するという前述の要件と、デバイス・ドライバがそのエラーを検出してアダプタ回復を開始するまでアダプタとの間のデータ伝送が行われないという前述の要件を保持するという問題にも対処する。
同様に、論理区画化システムでは、望ましくは、1つの区画がマシン・チェック・モードで動作するという要件によって、回復可能デバイス・ドライバを使用している他の区画がマシン・チェックをその必要もないのに受けるということがあってはならない。したがって、例示の実施形態では、マシン・チェックが必要なデバイス・ドライバおよび区画についてマシン・チェックを検出し、有効にし、他の区画がマシン・チェックを必要としない場合には、他の区画がマシン・チェック・モードの作用を受けないようにするという問題にも対処する。
したがって、この例示の実施形態では、オペレーティング・システムのデバイス・ドライバの集合内に回復可能なタイプと回復不能なタイプの両方のデバイス・ドライバが存在する可能性があると仮定し、その区画オペレーティング・システムに割り当てられた様々なスロットを各デバイス・ドライバが制御するものと仮定する。回復不能デバイス・ドライバは、古い「レガシ」技術を示しており、通常は、オペレーティング・システム内の回復不能デバイス・ドライバ・プロトコルより以前のものである。したがって、IOファブリック内の回復可能デバイス・ドライバ機能を有効にすることは、一般には、より新しいオペレーティング・システム・カーネル・サービスおよびデバイス・ドライバの機能であり、このモデルをサポートするIOファブリック・ハードウェア自体内の新しい機能に加えて備えるものである。たとえば、AIXオペレーティング・システムを使用するコンピュータの中には、拡張エラー処理(EEH)と呼ばれる回復可能プロトコルを使用するものもある。
マシン・チェックを起こさないIOファブリック・エラー状態を有効にするのは、新しいデバイス・ドライバおよびカーネル・サービスであることが多いにも関わらず、特に論理区画化システムでは、これらの新しい回復可能デバイス・ドライバは主要なタイプのデバイス・ドライバを構成し、区画オペレーティング・システムにおいて設定されているデバイス・ドライバの大多数を占めると見込まれる。したがって、例示の実施形態では、区画マネージャは、デフォルトで、マシン・チェック通知を禁止または抑止するファブリック初期状態をとり、オペレーティング・システム・カーネル・ユーティリティに依存して、より古い回復不能デバイス・ドライバを検出し、区画マネージャに対して、IOファブリック内でマシン・チェック通知モードをアクティブにするように要求することが望ましい。
本発明によるIOファブリックの混在動作モードを例示するために、図5に、他のコンピュータ・アーキテクチャ50’を示す。このアーキテクチャ50’では、IOスロット56’に回復不能エンドポイントIO資源が実装されている。このIO資源と、コンピュータ内のアクセス側プロセッサ、たとえばプロセッサ/メモリ・バス62に結合されたプロセッサ58のうちの1つのプロセッサとの間の経路は、RIOハブ68’と、ROIブリッジ70’と、PHB72’と、PCI−PCIブリッジ74’とを含む。本発明によると、IOスロット56’内のIO資源の管理に関連して回復不能デバイス・ドライバを使用する場合は常に、IOスロット56’とプロセッサ/メモリ・バス62との間の経路内の各IOファブリック要素68’ないし74’は、マシン・チェックを有効にするように設定される。
次に、図6を参照すると、マシン・チェック通知を必要とする回復不能デバイス・ドライバ152を検出し、マシン・チェック通知を行うためにIOファブリック・ハードウェア動作モードをファブリック・エラー状態またはスロット・エラー状態から変更する流れ150の一例が図示されている。区画マネージャのファブリック・マネージャ154とスロット・マネージャ156とが、デバイス・ドライバ152が常駐する区画内に設けられたサポートOSカーネル・サービス158と共に図示されている。さらに、PCI−PCIブリッジ162、PHB164、RIOブリッジ要素166、およびRIOハブ要素168などの複数の例示のファブリック要素と共に、論理区画(LPAR)構成データベース160がファブリック・マネージャ154に結合されている様子が図示されている。
回復不能デバイス・ドライバの検出に応答したIOファブリックの動的再構成は、図6のステップ170.1ないし186のシーケンスに示されている。具体的には、この例では、回復可能デバイス・ドライバ152がステップ170.1を実行してカーネル・ユーティリティ158に、当該デバイス・ドライバ124が回復可能なタイプであり、マシン・チェック通知を必要としないことを通知し、さらにカーネル・ユーティリティ158がこれを区画マネージャに通知する(ステップ170.2)ものと仮定する。例示の実施形態では、典型的には、区画マネージャはすでにIOファブリックを初期設定してマシン・チェック通知を禁止していることになり、したがって、この動作は、カーネル・サービスおよび区画マネージャに関しては状態報告動作のようなものである。
ステップ172で、デバイス・ドライバ152は、そのデバイス・ドライバに関連づけられたIOアダプタを、メモリ・マップ・ロードおよびストアと、DMAおよび割込みのために有効にすることによって、そのIOアダプタを使用する準備を行うことができる。PCIアダプタを使用するこの例示の実施形態では、ステップ172は、デバイス・ドライバ152が区画マネージャを呼び出して、メモリ、IO、またはマスタ動作(DMA)有効化ビットを「1」に設定してアダプタ・コマンド・レジスタへの構成IOストアを行うものとすることができる。
ステップ172の前に、デバイス・ドライバ152がステップ170.1を実行していない場合、オール1エラー検出を実施しないデバイス・ドライバ152は、古い(レガシ)タイプのデバイス・ドライバであるものとみなされ、MMIOロードが失敗するとマシン・チェックを必要とする(すなわち、デバイス・回復不能である)ものと解釈される。マシン・チェック無効化呼出し(ステップ170.1および170.2)およびMMIO有効化呼出し(ステップ172)を実施するカーネル・サービス158または区画マネージャのいずれかが、この検出を行うことができる。ただし、例示の実施形態では、この検出はカーネル・サービス158に委ねられ、ステップ172のMMIOロード有効化サービスの実行の一部として、カーネル・サービス158が区画マネージャ内の適切なスロット・マネージャ156を呼び出して(ステップ174)、マシン・チェック・モードを有効にする。
したがって、この実施形態では、デバイス・ドライバが、たとえば資源の初期設定を試みるときなど、資源のバインド、資源の構成、またはその他の方法でデバイス・ドライバと資源との間の通信を確立するために資源へのアクセスを試みることに関連して、単にマシン・チェック通知無効化要求が存在しないことを検出するだけで回復不能資源が検出される。代替態様では、たとえば、デバイス・ドライバの起動時またはオペレーティング・システムへのバインド時に、オペレーティング・システムによって指定された他のカーネル呼出しが行われないことなど、他の回復不能資源検出方式も使用可能であることがわかるであろう。
論理区画化システムでは、例示の実施形態の区画マネージャの重要な機能は、区画間分離を確実にすることであり、これには、1つの区画の動作が他の区画の可用性に影響を及ぼさないようにすることが含まれる。この場合、区画化システムの目的は、所与のIOスロットについての1つの区画によるマシン・チェック・モードの有効化の作用が、できる限り当該区画のみに限られるようにする必要がある。例示の実施形態では、区画マネージャは、デバイス・ドライバがマシン・チェック通知を有効にすることができる構成を制限し、それによって、特定の区画が、その区画に割り当てられているIOスロットであって他の区画には割り当てられていないIOスロットのみを接続するIOファブリックの範囲内に限って、マシン・チェックを有効にすることができるようにする。
したがって、ステップ176で、ファブリック・マネージャ154は、論理区画構成データベース160を調べて、マシン・チェック有効化が要求されているスロットが、この制限を満たすファブリック領域内にあるか否かを判断する。すなわち、区画マネージャは、ファブリック内の一カ所でマシン・チェック・モードを設定することができる場合に、区画がマシン・チェック・モードを設定することができるようにし、それによって、その一カ所を対象とするすべてのMMIOロードは、その区画のみに割り当てられたスロットに関するものとなるようにする。たとえば、例示の実施形態では、PHBは、そのPHBより下位のスロットについてマシン・チェック通知を有効にすることができる箇所であり、他のPHB上のスロットを使用する他の区画がマシン・チェックを受けないようになっている。したがって、例示の実施形態では、区画マネージャは、そのPHBを介して接続されているすべてのスロットが同じ区画に割り当てられている場合にのみ、ステップ174で、区画がマシン・チェック・モードを設定することができるようにする。その結果、区画マネージャは、PHBおよびIOファブリック内のPHBより上位の要素がマシン・チェック・モードに設定されるときに、これらのスロットの1つが他の論理区画に再割当てされないようにする。
上記以外の場合、区画マネージャはステップ174で、区画マネージャ呼出しに対して障害状況を返し、さらにステップ172でカーネル・サービス158がデバイス・ドライバ152に対して障害状況を返す。これによって、デバイス・ドライバ152は、マシン・チェック・モードを設定すると区画間ポリシーおよびシステム全体の機構と矛盾することになる場合には、付随するIOアダプタを動作させることができなくなる。
IOスロット割当ておよび物理構成によって、マシン・チェック・モードを有効にすることができるものと仮定すると、区画マネージャはステップ178ないし186で、ファブリック内の各要素の動作モードの変更に進む。これによって、各要素は、まず、ファブリックの最も外側の要素(たとえば当該スロットのPCI−PCIブリッジ162)から開始して(ステップ180)、当該スロットをプロセッサ/メモリ・バスに接続するIOファブリックの残りの要素、たとえばPHB164(ステップ182)、RIOブリッジ要素166(ステップ184)、およびRIOハブ要素168(ステップ186)を順に遡って、エラー状態にある場合にマシン・チェックを通知する。他の実施形態では他の順序も用いることができる。
図5に戻り、区画マネージャが、IOスロット56’に装着されているIO資源のデバイス・ドライバが、回復不能な性質のものであることを検出したものと仮定すると、当該IO資源とプロセッサ/メモリ・バスとの間の経路に配置された各ファブリック要素は、PCI−PCIブリッジ74’、PHB72’、RIOブリッジ70’、およびRIOハブ68’を含めて、前述の流れにより、マシン・チェック・モードが有効にされる。
図6を参照すると、例示の論理区画化システムの実施形態では、区画は互いに独立して(論理的に)電源オン、電源オフ、またはリブートすることができることがわかるであろう。したがって、1つまたは複数のスロットについてマシン・チェック・モードを設定していた区画が電源オフまたはリブートすると、区画マネージャのディスパッチ可能部は、その区画に割り当てられた各スロットについてスロット・マネージャ156に通知する。区画マネージャは、スロットの何らかの最初期設定を行って、そのスロットを、他の区画に再割当てされる場合に備えて、または当該区画が次にブートするときに同じ区画内で当該スロットが再起動される場合に備えて準備する。特に、区画リブートには、デバイス・ドライバの更新または交換が伴うことが多い。たとえば、区画リブートまたは電源オフおよびオンの一環として、スロットの回復不能デバイス・ドライバがそのスロットのIOアダプタの回復可能デバイス・ドライバに置き換えられることなどがある。
そのような状況では、区画の電源オフまたはリブートと共に、ファブリック・マネージャ154は、区画がそのデバイス・ドライバを終了させたことも認識することが望ましく、当該ファブリック領域内でアクティブのままになっている他のスロットについてマシン・チェック・モードが不要になった場合、ファブリック・エラー・モードをマシン・チェックの抑止に戻すことが望ましい。この場合、ファブリック・ハードウェア・マネーは、終了した区画に付随するスロットについてスロット・マネージャ156に通知し、さらにスロット・マネージャ156がファブリック・マネージャ154に通知する。次に、ファブリック・マネージャ154は、ステップ180ないし186のシーケンスを逆転させ、その結果、マシン・チェック通知モードになっていたファブリック要素がマシン・チェックを通知しなくなるように設定される。
マシン・チェック・モードへの切り換えとマシン・チェック・モードからの復帰を可能にするか否かを制御する様々なポリシーを実施することができる。たとえば、論理区画化システムでは、スロットのマシン・チェック・モードへの切り換えは、当該スロットを持つ区画が同じPHB上の他のすべてのスロット(任意選択として、空のスロットも含む)も持つことを条件とすることが望ましい場合がある。また、そのような切り換えは、さらに、区画間動作が分離されるような方式でファブリックを共用するクラスタ・システムなどのファブリックのトポロジ、または他のエラー状態を条件とすることが望ましい場合もある。
また、IOファブリック要素は、典型的には、所与のPHB内のすべてのスロットがマシン・チェック・モードから復帰することを条件として、マシン・チェック通知無効状態に復帰する。また、区画マネージャは、マシン・チェック有効PHB上のスロットが、区画マネージャまたは他の区画に移行しないようにすることが望ましい場合がある。
IOファブリック要素を、マシン・チェック通知が有効なモードと抑止されるモードとの間で動的に切り換える機能の実現は、本開示の恩恵を受ける当業者の能力の範囲内にあることがわかるであろう。さらに、本明細書に記載の機能のソフトウェアによる実現も、同様に、本開示の恩恵を受ける当業者の能力の範囲内にある。
本開示の恩恵を受ける当業者には、本明細書に記載の実施形態に加えられる様々な変更が明らかであろう。したがって、本発明は、特許請求の範囲に存在する。
本発明による論理区画化されたコンピュータのハードウェア構成要素の一部を示すブロック図である。 図1に示す論理区画化アーキテクチャの代替態様を示すブロック図である。 本発明による自動回復機能と共に使用可能なIOファブリックの一例を示すブロック図である。 図3のIOファブリックにおけるIOファブリック・エラーの検出と回復を示すフローチャートである。 回復不能なエンドポイントIO資源の導入後の、図3のIOファブリックを示すブロック図である。 回復不能なエンドポイントIO資源の導入に応答する、図4のIOファブリックの非マシン・チェックとマシン・チェック・モードとの動的切り換えを示すフローチャートである。
符号の説明
10 コンピュータ
12 システム・プロセッサ
14 メモリ
16 バス
18 ハードウェア/スレッド
20 IOファブリック
22 ネットワーク・アダプタ
24 ネットワーク
26 記憶制御装置
28 ワークステーション・コントローラ
32 ワークステーション
34 区画
36 区画マネージャ
38 区画マネージャ(ディスパッチ不可部)
40 区画マネージャ(ディスパッチ可能部)
42 オペレーティング・システム
44 ユーザ・アプリケーション
46 仮想LAN
52 IOファブリック
54 メモリ
56 スロット
58 プロセッサ
60 メモリ
68 RIOハブ
70 RIOブリッジ
72 PCIホスト・ブリッジ
74 PCI−PCIブリッジ

Claims (41)

  1. 論理区画化されたコンピュータであって、
    複数のプロセッサと、
    複数のIOアダプタ・スロットと、
    前記複数のプロセッサに結合され、前記複数のIOアダプタ・スロットへのプロセッサ・アクセスを可能にするように構成された入出力(IO)ファブリックであって、各前記IOアダプタ・スロットと前記複数との間の複数のハードウェア経路を規定する複数のIOファブリック要素を有し、前記複数のIOファブリック要素が前記複数のIOアダプタ・スロットのサブセットへのアクセスを可能にする第1のIOファブリック要素を含む、入出力(IO)ファブリックと、
    前記複数のプロセッサのうちの少なくとも1つのプロセッサ上で実行される複数の論理区画と、
    前記複数の論理区画のうちの1つの論理区画内に存在し、前記複数のIOアダプタ・スロットのうちの第1のIOアダプタ・スロットにアクセスするように構成されたデバイス・ドライバと、
    前記複数のプロセッサのうちの少なくとも1つのプロセッサ上で実行され、前記複数の論理区画を管理するように構成された区画マネージャと、
    前記区画マネージャ内に存在し、前記第1のIOファブリック要素内で検出されたエラーに応答してIOアダプタの各サブセットについてエラー状態を設定し、前記複数のIOアダプタ・スロットのそれぞれについて前記エラー状態が設定された後で、前記第1のIOファブリック要素における前記エラーから回復するように構成された第1のプログラム・コードと、
    前記区画マネージャ内に存在し、前記デバイス・ドライバが回復不能なデバイス・ドライバであることを検出し、その検出に応答して、前記第1のIOアダプタ・スロットと前記複数のプロセッサとの間のハードウェア経路内に規定された各IOファブリック要素においてマシン・チェック通知を動的に有効にするように構成された第2のプログラム・コードと、
    を有する論理区画化コンピュータ。
  2. 複数のエンドポイントIO資源へのアクセスを可能にする少なくとも1つのIOファブリック要素を含む入出力(IO)ファブリックにおけるエラーを処理する方法であって、前記IOファブリック要素において検出されたエラーに応答して、
    前記複数のエンドポイントIO資源のそれぞれについてエラー状態を設定するステップと、
    前記IOファブリック要素における前記エラーから回復するステップとを有する方法。
  3. 前記IOファブリック要素における前記エラーからの回復後に、前記複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源にアクセスすることができるオペレーティング・システム内で、
    前記第1のエンドポイントIO資源の前記エラー状態を検出し、前記第1のエンドポイントIO資源上でエラー回復を実行するステップと、
    前記第1のエンドポイントIO資源について前記エラー状態をリセットするステップと、
    をさらに有する、請求項2に記載の方法。
  4. 前記IOファブリック要素における前記エラーからの回復後に、前記複数のエンドポイントIO資源のそれぞれについて前記エラー状態を非同期でリセットするステップをさらに有する、請求項2に記載の方法。
  5. 前記複数のエンドポイントIO資源のそれぞれについて前記エラー状態を非同期でリセットする前記ステップは、前記複数のエンドポイントIO資源のそれぞれを対象とするアクセス要求に応答して実行される、請求項4に記載の方法。
  6. 前記IOファブリック要素における前記エラーからの回復後に、前記複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源において前記エラー状態の通知を生成するステップをさらに有し、前記第1のエンドポイントIO資源について前記エラー状態を非同期でリセットする前記ステップは、前記通知に応答して実行される、請求項4に記載の方法。
  7. 前記IOファブリック要素は、ペリフェラル・コンポーネント・インターコネクト(PeripheralComponent Interconnect:PCI)ホスト・ブリッジと、多機能PCI−PCIブリッジ装置と、リモート入出力(RIO)ブリッジと、RIOハブと、スイッチ装置とから成るグループから選択される、請求項2に記載の方法。
  8. 前記複数のエンドポイントIO資源はIOアダプタ・スロットを含む、請求項2に記載の方法。
  9. 前記IOファブリックはメモリ・マップ入出力(MMIO)ファブリックである、請求項2に記載の方法。
  10. 前記IOファブリックは、区画マネージャによって管理される複数の論理区画を含むタイプの論理区画化コンピュータに結合され、各エンドポイントIO資源が前記複数の論理区画のうちの論理区画に割り振られ、各エンドポイントIO資源について前記エラー状態を設定する前記ステップと前記IOファブリック要素における前記エラーから回復する前記ステップとが、前記区画マネージャによって開始される方法であって、
    前記IOファブリック要素における前記エラーからの回復後に、エンドポイントIO資源の前記エラー状態を、該エンドポイントIO資源が割り振られている論理区画内のデバイス・ドライバによって生成されたアクセス要求に応答して、該デバイス・ドライバに返すステップと、
    前記エラー状態からの復帰に応答して、前記デバイス・ドライバを使用して前記エンドポイントIO資源における前記エラー状態から回復するステップと、
    をさらに有する、請求項2に記載の方法。
  11. 前記複数のエンドポイントIO資源のうちの1つのエンドポイント資源を対象とするロード動作の結果から、前記OIファブリック要素における前記エラーを検出するステップをさらに有する、請求項2に記載の方法。
  12. 前記IOファブリック要素がエラー状態になることに応答して生成された割込みから、前記IOファブリック要素における前記エラーを検出するステップをさらに有する、請求項2に記載の方法。
  13. 少なくとも1つのプロセッサと、
    少なくとも1つの前記プロセッサに結合され、複数のエンドポイントIO資源へのプロセッサ・アクセスを可能にする少なくとも1つのIOファブリック要素を有するIOファブリックと、
    前記複数のエンドポイントIO資源のそれぞれについてエラー状態を設定し、前記IOファブリック要素におけるエラーから回復することによって、前記IOファブリック要素において検出されたエラーを処理するように構成されたプログラム・コードと、
    を有する装置。
  14. 前記プログラム・コードの少なくとも一部は、前記複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源にアクセスすることができるオペレーティング・システム内に存在し、前記プログラム・コードの前記一部は、前記第1のエンドポイントIO資源のエラー状態を検出し、前記第1のエンドポイントIO資源上でエラー回復を実行し、前記IOファブリック要素における前記エラーからの回復後に、前記第1のエンドポイントIO資源について前記エラー状態をリセットするように構成された、請求項13に記載の装置。
  15. 前記プログラム・コードは、前記IOファブリック要素における前記エラーからの回復後に、前記複数のエンドポイントIO資源のそれぞれについて前記エラー状態を非同期でリセットするようにさらに構成された、請求項13に記載の装置。
  16. 前記プログラム・コードは、前記複数のエンドポイントIO資源のそれぞれを対象とするアクセス要求に応答して、前記複数のエンドポイントIO資源のそれぞれについて前記エラー状態を非同期でリセットするように構成された、請求項15に記載の装置。
  17. 前記プログラム・コードは、前記IOファブリック要素における前記エラーからの回復後に、前記複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源において前記エラー状態の通知を生成するようにさらに構成され、前記プログラム・コードは、前記通知に応答して前記第1のエンドポイントIO資源の前記エラー状態を非同期でリセットするように構成された、請求項15に記載の装置。
  18. 前記IOファブリック要素は、ペリフェラル・コンポーネント・インターコネクト(PCI)ホスト・ブリッジと、多機能PCI−PCIブリッジ装置と、リモート入出力(RIO)ブリッジと、RIOハブと、スイッチ装置とから成るグループから選択される、請求項13に記載の装置。
  19. 区画マネージャによって管理される複数の論理区画をさらに有し、各エンドポイントIO資源が前記複数の論理区画のうちの1つの論理区画に割り振られ、前記プログラム・コードの少なくとも一部は、前記区画マネージャ内に存在し、前記プログラム・コードは、前記ファブリック要素における前記エラーの回復後に、エンドポイントIO資源が割り振られている論理区画内のデバイス・ドライバによって生成されたアクセス要求に応答して、該エンドポイントIO資源のエラー状態を該デバイス・ドライバに返し、前記エラー状態に応答して、該デバイス・ドライバを使用して該エンドポイントIO資源における前記エラー状態から回復するようにさらに構成された、請求項13に記載の装置。
  20. IOファブリック内に配置され、複数のエンドポイントIO資源へのアクセスを可能にするように構成されたIOファブリック要素において検出されたエラーに応答して、前記複数のエンドポイントIO資源のそれぞれについてエラー状態を設定し、前記IOファブリック要素における前記エラーから回復するように構成されたプログラム・コードと、
    前記プログラム・コードを担持する信号担持媒体と、
    を有するプログラム製品。
  21. 前記信号担持媒体は、伝送媒体と記録可能媒体とのうちの少なくとも一方を含む、請求項20に記載のプログラム製品。
  22. 少なくとも1つのプロセッサが複数のエンドポイントIO資源にアクセスすることができるようにする複数のIOファブリック要素を有するIOファブリックを動的に構成する方法であって、
    前記複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源が回復不能な資源であることを検出するステップと、
    前記検出に応答して、前記プロセッサと前記第1のエンドポイントIO資源との間のハードウェア経路内に規定された各IOファブリック要素においてマシン・チェック通知を動的に有効にするステップと、
    を有する方法。
  23. 前記第1のエンドポイントIO資源が回復不能資源であることを検出する前記ステップは、前記第1のエンドポイントIO資源にアクセスを試みるデバイス・ドライバによるマシン・チェック通知を無効にする要求がないことを検出するステップを有する、請求項22に記載の方法。
  24. 前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されているか否かを判断するステップをさらに有し、前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されている場合にのみ、マシン・チェック通知を動的に有効にする、請求項22に記載の方法。
  25. 前記少なくとも1つのプロセッサは、複数の論理区画を含む論理区画化コンピュータ内に配置され、前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されているか否かを判断する前記ステップは、前記第1のエンドポイントIO資源が同じ論理区画にバインドされたエンドポイントIO資源のみに対するアクセスを可能にするファブリック領域に配置されているか否かを判断するステップを含む、請求項24に記載の方法。
  26. 前記ファブリック領域は、複数のPCI−PCIブリッジを介して前記複数のエンドポイントIO資源のサブセットに結合されたPCIホスト・ブリッジを有する、請求項25に記載の方法。
  27. ファブリック領域によってアクセスすることができるエンドポイントIOに回復不能なエンドポイントIOがないことを検出するとそれに応答して、前記ファブリック領域内の各IOファブリック要素におけるマシン・チェック通知を動的に無効にするステップをさらに有する、請求項25に記載の方法。
  28. 前記ファブリック領域内に配置された第2のエンドポイントIO資源を他の論理区画に割り振ることができないようにするステップをさらに有する、請求項25に記載の方法。
  29. 前記複数のIOファブリック要素は、少なくとも1つのリモート入出力(RIO)ハブと、少なくとも1つのRIOブリッジと、少なくとも1つのPCIホスト・ブリッジと、少なくとも1つのPCI−PCIブリッジとを有し、前記プロセッサと前記第1のエンドポイントIO資源との間のハードウェア経路は、前記RIOハブと、前記RIOブリッジと、前記PCIホスト・ブリッジと、前記PCI−PCIブリッジとを有する、請求項22に記載の方法。
  30. マシン・チェック通知を無効にするように前記IOファブリックを初期設定するステップをさらに有する、請求項22に記載の方法。
  31. 少なくとも1つのプロセッサと、
    複数のIOファブリック要素を有し、前記少なくとも1つのプロセッサを複数のエンドポイントIO資源に結合するように構成されたIOファブリックと、
    前記IOファブリックに結合された第1のエンドポイントIO資源が回復不能な資源であることを検出し、その検出に応答して、前記プロセッサと前記第1のエンドポイントIO資源との間のハードウェア経路内に規定された各IOファブリック要素においてマシン・チェック通知を動的に有効にするように構成されたプログラム・コードと、
    を有する装置。
  32. 前記プログラム・コードは、前記第1のエンドポイントIO資源にアクセスを試みるデバイス・ドライバによるマシン・チェック信号の無効化要求がないことを検出することによって、前記第1のエンドポイントIO資源が回復不能な資源であることを検出するように構成された、請求項31に記載の装置。
  33. 前記プログラム・コードは、前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されているか否かを判断するようにさらに構成され、前記プログラム・コードは、前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されている場合にのみマシン・チェック通知を動的に有効にするように構成された、請求項31に記載の装置。
  34. 前記少なくとも1つのプロセッサは、複数の論理区画を含む論理区画化コンピュータ内に配置され、前記プログラム・コードは、前記第1のエンドポイントIO資源が、同じ論理区画にバインドされたエンドポイントIO資源のみに対するアクセスを可能にするファブリック領域内に配置されているか否かを判断することによって、前記第1のエンドポイントIO資源についてマシン・チェック通知が許可されているか否かを判断するように構成された、請求項33に記載の装置。
  35. 前記ファブリック領域は、複数のPCI−PCIブリッジを介して前記複数のエンドポイントIO資源のサブセットに結合されたPCIホスト・ブリッジを有する、請求項34に記載の装置。
  36. 前記プログラム・コードは、ファブリック領域によってアクセスすることができるエンドポイントIO資源に回復不能なエンドポイントIO資源がないと判断するとそれに応答して、前記ファブリック領域内の各IOファブリック要素においてマシン・チェック通知を動的に無効にするように構成された、請求項34に記載の装置。
  37. 前記プログラム・コードは、前記ファブリック領域内に配置された第2のエンドポイントIO資源を他の論理区画に割り振ることを禁止するように構成された、請求項34に記載の装置。
  38. 前記複数のIOファブリック要素は、少なくとも1つのリモート入出力(RIO)ハブと、少なくとも1つのRIOブリッジと、少なくとも1つのPCIホスト・ブリッジと、少なくとも1つのPCI−PCIブリッジとを有し、前記プロセッサと前記第1のエンドポイントIO資源との間のハードウェア経路は、前記RIOハブと、前記RIOブリッジと、前記PCIホスト・ブリッジと、前記PCI−PCIブリッジとを有する、請求項31に記載の装置。
  39. 前記プログラム・コードは、前記IOファブリックを初期設定してマシン・チェック通知を無効にするように構成された、請求項31に記載の装置。
  40. IOファブリックを介して少なくとも1つのプロセッサに結合された複数のエンドポイントIO資源のうちの第1のエンドポイントIO資源が回復不能資源であることを検出し、その検出に応答して、前記プロセッサと前記第1のエンドポイントIO資源との間のハードウェア経路内に規定された前記IOファブリック内の複数のIOファブリック資源のそれぞれにおいてマシン・チェック通知を動的に有効にするように構成されたプログラム・コードと、
    前記プログラム・コードを担持する信号担持媒体と、
    を有するプログラム製品。
  41. 前記信号担持媒体は、伝送媒体と記録可能媒体とのうちのいずれか一方を含む、請求項40に記載のプログラム製品。
JP2004142836A 2003-05-15 2004-05-12 入出力ファブリックにおけるハードウェア・エラーからの自動回復 Expired - Fee Related JP4001877B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/438,392 US7134052B2 (en) 2003-05-15 2003-05-15 Autonomic recovery from hardware errors in an input/output fabric

Publications (2)

Publication Number Publication Date
JP2004342109A true JP2004342109A (ja) 2004-12-02
JP4001877B2 JP4001877B2 (ja) 2007-10-31

Family

ID=33417559

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004142836A Expired - Fee Related JP4001877B2 (ja) 2003-05-15 2004-05-12 入出力ファブリックにおけるハードウェア・エラーからの自動回復

Country Status (3)

Country Link
US (2) US7134052B2 (ja)
JP (1) JP4001877B2 (ja)
KR (1) KR100612715B1 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007200319A (ja) * 2006-01-26 2007-08-09 Internatl Business Mach Corp <Ibm> マルチホスト環境における共用の入出力ファブリックのエラー・メッセージをマスタ制御ルート・ノードに経路指定する方法、装置およびプログラム
WO2008120383A1 (ja) * 2007-03-29 2008-10-09 Fujitsu Limited 情報処理装置、障害処理方法
JP2009123217A (ja) * 2007-11-15 2009-06-04 Internatl Business Mach Corp <Ibm> データ処理システム内で入出力(i/o)仮想化を管理するための方法およびデータ処理システムならびにコンピュータ・プログラム
JP2009151767A (ja) * 2007-12-03 2009-07-09 Internatl Business Mach Corp <Ibm> データ処理システム内で入出力(i/o)仮想化を管理するための方法およびコンピュータ・プログラムならびにデータ処理システム
WO2010084529A1 (ja) * 2009-01-23 2010-07-29 株式会社日立製作所 情報処理システム
JP2011216072A (ja) * 2010-04-01 2011-10-27 Accenture Global Services Ltd 再目的化可能回復環境
JP2012230444A (ja) * 2011-04-25 2012-11-22 Hitachi Ltd 計算機システムでの部分障害処理方法
JP2013539891A (ja) * 2010-10-13 2013-10-28 ゼットティーイー (ユーエスエー) インコーポレイテッド マルチメディア・マルチパーティ・ピアリング(m2p2)のためのシステムおよび方法
JP2015532738A (ja) * 2012-06-06 2015-11-12 インテル・コーポレーション 入出力エラー封じ込めイベント後のリカバリ

Families Citing this family (96)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7934020B1 (en) * 2003-09-19 2011-04-26 Vmware, Inc. Managing network data transfers in a virtual computer system
US7430691B2 (en) * 2003-10-09 2008-09-30 International Business Machines Corporation Method, system, and product for providing extended error handling capability in host bridges
US7355358B2 (en) * 2003-10-23 2008-04-08 Hewlett-Packard Development Company, L.P. Configurable H-bridge circuit
US7130982B2 (en) * 2004-03-31 2006-10-31 International Business Machines Corporation Logical memory tags for redirected DMA operations
TW200537305A (en) * 2004-05-04 2005-11-16 Quanta Comp Inc Communication system, transmission device and the control method thereof
US7487403B2 (en) * 2004-11-12 2009-02-03 International Business Machines Corporation Method for handling a device failure
US20060143544A1 (en) * 2004-12-17 2006-06-29 Michael Ho Remote status forwarding in a distributed cross-connection system
TWI263143B (en) * 2004-12-31 2006-10-01 Inventec Corp World wide port name embedding method and interface for network transmission control chip
US7496790B2 (en) * 2005-02-25 2009-02-24 International Business Machines Corporation Method, apparatus, and computer program product for coordinating error reporting and reset utilizing an I/O adapter that supports virtualization
TWI277873B (en) * 2005-05-03 2007-04-01 Via Tech Inc IDE control system and redundant array of independent disks system with a hot plug function therein
US7496045B2 (en) 2005-07-28 2009-02-24 International Business Machines Corporation Broadcast of shared I/O fabric error messages in a multi-host environment to all affected root nodes
JP2007058439A (ja) * 2005-08-23 2007-03-08 Sharp Corp 画像処理システム
JP2007094996A (ja) * 2005-09-30 2007-04-12 Fujitsu Ltd データストレージシステム、データストレージ制御装置及びその障害箇所診断方法
US7363404B2 (en) * 2005-10-27 2008-04-22 International Business Machines Corporation Creation and management of destination ID routing structures in multi-host PCI topologies
US7395367B2 (en) * 2005-10-27 2008-07-01 International Business Machines Corporation Method using a master node to control I/O fabric configuration in a multi-host environment
US7474623B2 (en) * 2005-10-27 2009-01-06 International Business Machines Corporation Method of routing I/O adapter error messages in a multi-host environment
US7430630B2 (en) * 2005-10-27 2008-09-30 International Business Machines Corporation Routing mechanism in PCI multi-host topologies using destination ID field
US7631050B2 (en) * 2005-10-27 2009-12-08 International Business Machines Corporation Method for confirming identity of a master node selected to control I/O fabric configuration in a multi-host environment
TWI291101B (en) * 2005-12-05 2007-12-11 Ibm Bus adapter, method thereof, and computer system thereof
US20070136458A1 (en) * 2005-12-12 2007-06-14 Boyd William T Creation and management of ATPT in switches of multi-host PCI topologies
US20070240018A1 (en) * 2005-12-29 2007-10-11 Intel Corporation Functional level reset on a per device/function basis
US20070165596A1 (en) * 2006-01-18 2007-07-19 Boyd William T Creation and management of routing table for PCI bus address based routing with integrated DID
US7380046B2 (en) * 2006-02-07 2008-05-27 International Business Machines Corporation Method, apparatus, and computer program product for routing packets utilizing a unique identifier, included within a standard address, that identifies the destination host computer system
US7484029B2 (en) * 2006-02-09 2009-01-27 International Business Machines Corporation Method, apparatus, and computer usable program code for migrating virtual adapters from source physical adapters to destination physical adapters
US7631206B2 (en) * 2006-02-10 2009-12-08 Intel Corporation Method and apparatus to support enhanced energy efficiency in a processing system
JP4728896B2 (ja) * 2006-07-13 2011-07-20 エヌイーシーコンピュータテクノ株式会社 コンピュータシステム
US20080133962A1 (en) * 2006-12-04 2008-06-05 Bofferding Nicholas E Method and system to handle hardware failures in critical system communication pathways via concurrent maintenance
US7571273B2 (en) * 2006-12-06 2009-08-04 International Business Machines Corporation Bus/device/function translation within and routing of communications packets in a PCI switched-fabric in a multi-host environment utilizing multiple root switches
EP2128764A4 (en) * 2007-02-09 2012-06-20 Fujitsu Ltd DEGENERATION PROCESS AND INFORMATION PROCESSOR
US7926069B2 (en) * 2007-02-26 2011-04-12 International Business Machines Corporation Apparatus, system, and method for extending a device driver to facilitate a network connection to a remote event manager
US20080240134A1 (en) * 2007-03-30 2008-10-02 International Business Machines Corporation Multi-node, peripheral component switch for a computer system
US8141093B2 (en) * 2007-11-15 2012-03-20 International Business Machines Corporation Management of an IOV adapter through a virtual intermediary in an IOV management partition
US9298568B2 (en) * 2008-02-07 2016-03-29 International Business Machines Corporation Method and apparatus for device driver state storage during diagnostic phase
US8359415B2 (en) * 2008-05-05 2013-01-22 International Business Machines Corporation Multi-root I/O virtualization using separate management facilities of multiple logical partitions
JP5161696B2 (ja) * 2008-08-07 2013-03-13 株式会社日立製作所 仮想計算機システムおよび仮想計算機システムにおけるエラー回復方法ならびに仮想計算機制御プログラム
US20100107148A1 (en) * 2008-10-28 2010-04-29 International Business Machines Corporation Check-stopping firmware implemented virtual communication channels without disabling all firmware functions
US8010838B2 (en) * 2008-11-20 2011-08-30 International Business Machines Corporation Hardware recovery responsive to concurrent maintenance
US8144582B2 (en) * 2008-12-30 2012-03-27 International Business Machines Corporation Differentiating blade destination and traffic types in a multi-root PCIe environment
US8112674B2 (en) * 2009-04-01 2012-02-07 International Business Machines Corporation Device activity triggered device diagnostics
TW201041336A (en) * 2009-05-07 2010-11-16 Jmicron Technology Corp Network control circuit having pseudo hot plug function and pseudo hot plug method for network control circuit
US8510592B1 (en) * 2009-09-15 2013-08-13 Netapp, Inc. PCI error resilience
JP4873073B2 (ja) * 2009-12-16 2012-02-08 日本電気株式会社 情報処理装置及び情報処理装置の障害復旧方法
US8151147B2 (en) * 2009-12-17 2012-04-03 Hewlett-Packard Development Company, L.P. Synchronize error handling for a plurality of partitions
US8635430B2 (en) 2010-06-23 2014-01-21 International Business Machines Corporation Translation of input/output addresses to memory addresses
US8478922B2 (en) 2010-06-23 2013-07-02 International Business Machines Corporation Controlling a rate at which adapter interruption requests are processed
US8918573B2 (en) 2010-06-23 2014-12-23 International Business Machines Corporation Input/output (I/O) expansion response processing in a peripheral component interconnect express (PCIe) environment
US8639858B2 (en) 2010-06-23 2014-01-28 International Business Machines Corporation Resizing address spaces concurrent to accessing the address spaces
US8745292B2 (en) 2010-06-23 2014-06-03 International Business Machines Corporation System and method for routing I/O expansion requests and responses in a PCIE architecture
US8621112B2 (en) 2010-06-23 2013-12-31 International Business Machines Corporation Discovery by operating system of information relating to adapter functions accessible to the operating system
US8549182B2 (en) 2010-06-23 2013-10-01 International Business Machines Corporation Store/store block instructions for communicating with adapters
US8645606B2 (en) 2010-06-23 2014-02-04 International Business Machines Corporation Upbound input/output expansion request and response processing in a PCIe architecture
US9195623B2 (en) 2010-06-23 2015-11-24 International Business Machines Corporation Multiple address spaces per adapter with address translation
US9342352B2 (en) 2010-06-23 2016-05-17 International Business Machines Corporation Guest access to address spaces of adapter
US8510599B2 (en) 2010-06-23 2013-08-13 International Business Machines Corporation Managing processing associated with hardware events
US8615622B2 (en) 2010-06-23 2013-12-24 International Business Machines Corporation Non-standard I/O adapters in a standardized I/O architecture
US8572635B2 (en) 2010-06-23 2013-10-29 International Business Machines Corporation Converting a message signaled interruption into an I/O adapter event notification
US8683108B2 (en) 2010-06-23 2014-03-25 International Business Machines Corporation Connected input/output hub management
US8650337B2 (en) 2010-06-23 2014-02-11 International Business Machines Corporation Runtime determination of translation formats for adapter functions
US8645767B2 (en) 2010-06-23 2014-02-04 International Business Machines Corporation Scalable I/O adapter function level error detection, isolation, and reporting
US8504754B2 (en) 2010-06-23 2013-08-06 International Business Machines Corporation Identification of types of sources of adapter interruptions
US8650335B2 (en) 2010-06-23 2014-02-11 International Business Machines Corporation Measurement facility for adapter functions
US8468284B2 (en) 2010-06-23 2013-06-18 International Business Machines Corporation Converting a message signaled interruption into an I/O adapter event notification to a guest operating system
US8505032B2 (en) 2010-06-23 2013-08-06 International Business Machines Corporation Operating system notification of actions to be taken responsive to adapter events
US8566480B2 (en) 2010-06-23 2013-10-22 International Business Machines Corporation Load instruction for communicating with adapters
US8615645B2 (en) 2010-06-23 2013-12-24 International Business Machines Corporation Controlling the selectively setting of operational parameters for an adapter
US9213661B2 (en) 2010-06-23 2015-12-15 International Business Machines Corporation Enable/disable adapters of a computing environment
US8626970B2 (en) 2010-06-23 2014-01-07 International Business Machines Corporation Controlling access by a configuration to an adapter function
US8261128B2 (en) * 2010-08-04 2012-09-04 International Business Machines Corporation Selection of a domain of a configuration access
US8645755B2 (en) * 2010-12-15 2014-02-04 International Business Machines Corporation Enhanced error handling for self-virtualizing input/output device in logically-partitioned data processing system
US8719626B2 (en) 2011-09-28 2014-05-06 International Business Machines Corporation Proactively removing channel paths in error from a variable scope of I/O devices
US9288161B2 (en) * 2011-12-05 2016-03-15 International Business Machines Corporation Verifying the functionality of an integrated circuit
US9372786B1 (en) * 2012-06-13 2016-06-21 Amazon Technologies, Inc. Constructing state-transition functions for mobile devices
US9160472B2 (en) * 2012-09-07 2015-10-13 National Instruments Corporation Clock synchronization over a switched fabric
WO2015035574A1 (zh) * 2013-09-11 2015-03-19 华为技术有限公司 一种故障处理的方法、计算机系统和装置
US9766916B2 (en) 2014-05-05 2017-09-19 International Business Machines Corporation Implementing coherent accelerator function isolation for virtualization
US9632854B2 (en) 2014-11-05 2017-04-25 International Business Machines Corporation Electronic system configuration management
US9792171B2 (en) 2015-10-26 2017-10-17 International Business Machines Corporation Multiple reset modes for a PCI host bridge
US10591977B2 (en) * 2015-12-10 2020-03-17 Arm Limited Segregated power state control in a distributed cache system
US10042720B2 (en) 2016-02-22 2018-08-07 International Business Machines Corporation Live partition mobility with I/O migration
US10002018B2 (en) 2016-02-23 2018-06-19 International Business Machines Corporation Migrating single root I/O virtualization adapter configurations in a computing system
US10042723B2 (en) 2016-02-23 2018-08-07 International Business Machines Corporation Failover of a virtual function exposed by an SR-IOV adapter
US10025584B2 (en) 2016-02-29 2018-07-17 International Business Machines Corporation Firmware management of SR-IOV adapters
WO2017158666A1 (ja) * 2016-03-14 2017-09-21 株式会社日立製作所 計算機システム、計算機システムのエラー処理方法
US9720863B1 (en) 2016-10-21 2017-08-01 International Business Machines Corporation Migrating MMIO from a source I/O adapter of a source computing system to a destination I/O adapter of a destination computing system
US9715469B1 (en) 2016-10-21 2017-07-25 International Business Machines Corporation Migrating interrupts from a source I/O adapter of a source computing system to a destination I/O adapter of a destination computing system
US9720862B1 (en) 2016-10-21 2017-08-01 International Business Machines Corporation Migrating interrupts from a source I/O adapter of a computing system to a destination I/O adapter of the computing system
US9785451B1 (en) * 2016-10-21 2017-10-10 International Business Machines Corporation Migrating MMIO from a source I/O adapter of a computing system to a destination I/O adapter of the computing system
US10235310B2 (en) 2016-11-29 2019-03-19 International Business Machines Corporation Deallocation of memory buffer in multiprocessor systems
US10248485B2 (en) 2016-12-16 2019-04-02 International Business Machines Corporation Dual physical-channel systems firmware initialization and recovery
US10929232B2 (en) 2017-05-31 2021-02-23 Intel Corporation Delayed error processing
CN109086081B (zh) * 2018-06-29 2020-11-03 深圳市同泰怡信息技术有限公司 一种即时提示SATA和NVMe设备在位变化的方法、系统及介质
US20200019412A1 (en) * 2018-07-12 2020-01-16 Dell Products L.P. Systems and methods for optimal configuration of information handling resources
JP7474766B2 (ja) * 2018-08-13 2024-04-25 ストラタス テクノロジーズ アイルランド リミテッド 高信頼性フォールトトレラントコンピュータアーキテクチャ
US10922203B1 (en) * 2018-09-21 2021-02-16 Nvidia Corporation Fault injection architecture for resilient GPU computing
CN109933464B (zh) * 2019-02-28 2021-04-30 深圳市伟文无线通讯技术有限公司 mifi软件自我修复方法
US11249872B1 (en) * 2020-06-26 2022-02-15 Xilinx, Inc. Governor circuit for system-on-chip

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4228496A (en) * 1976-09-07 1980-10-14 Tandem Computers Incorporated Multiprocessor system
US5394542A (en) * 1992-03-30 1995-02-28 International Business Machines Corporation Clearing data objects used to maintain state information for shared data at a local complex when at least one message path to the local complex cannot be recovered
US6032271A (en) * 1996-06-05 2000-02-29 Compaq Computer Corporation Method and apparatus for identifying faulty devices in a computer system
US5978938A (en) * 1996-11-19 1999-11-02 International Business Machines Corporation Fault isolation feature for an I/O or system bus
US5991900A (en) * 1998-06-15 1999-11-23 Sun Microsystems, Inc. Bus controller
US6643727B1 (en) * 2000-06-08 2003-11-04 International Business Machines Corporation Isolation of I/O bus errors to a single partition in an LPAR environment
US20020184576A1 (en) * 2001-03-29 2002-12-05 International Business Machines Corporation Method and apparatus for isolating failing hardware in a PCI recoverable error
US6829729B2 (en) * 2001-03-29 2004-12-07 International Business Machines Corporation Method and system for fault isolation methodology for I/O unrecoverable, uncorrectable error
US6901537B2 (en) * 2002-02-27 2005-05-31 International Business Machines Corporation Method and apparatus for preventing the propagation of input/output errors in a logical partitioned data processing system
US6934888B2 (en) * 2002-03-07 2005-08-23 International Business Machines Corporation Method and apparatus for enhancing input/output error analysis in hardware sub-systems
US6976191B2 (en) * 2002-03-07 2005-12-13 International Business Machines Corporation Method and apparatus for analyzing hardware errors in a logical partitioned data processing system

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007200319A (ja) * 2006-01-26 2007-08-09 Internatl Business Mach Corp <Ibm> マルチホスト環境における共用の入出力ファブリックのエラー・メッセージをマスタ制御ルート・ノードに経路指定する方法、装置およびプログラム
US7930599B2 (en) 2007-03-29 2011-04-19 Fujitsu Limited Information processing apparatus and fault processing method
WO2008120383A1 (ja) * 2007-03-29 2008-10-09 Fujitsu Limited 情報処理装置、障害処理方法
JP4495248B2 (ja) * 2007-03-29 2010-06-30 富士通株式会社 情報処理装置、障害処理方法
JPWO2008120383A1 (ja) * 2007-03-29 2010-07-15 富士通株式会社 情報処理装置、障害処理方法
JP2009123217A (ja) * 2007-11-15 2009-06-04 Internatl Business Mach Corp <Ibm> データ処理システム内で入出力(i/o)仮想化を管理するための方法およびデータ処理システムならびにコンピュータ・プログラム
JP2009151767A (ja) * 2007-12-03 2009-07-09 Internatl Business Mach Corp <Ibm> データ処理システム内で入出力(i/o)仮想化を管理するための方法およびコンピュータ・プログラムならびにデータ処理システム
WO2010084529A1 (ja) * 2009-01-23 2010-07-29 株式会社日立製作所 情報処理システム
JPWO2010084529A1 (ja) * 2009-01-23 2012-07-12 株式会社日立製作所 情報処理システム
JP2011216072A (ja) * 2010-04-01 2011-10-27 Accenture Global Services Ltd 再目的化可能回復環境
JP2013539891A (ja) * 2010-10-13 2013-10-28 ゼットティーイー (ユーエスエー) インコーポレイテッド マルチメディア・マルチパーティ・ピアリング(m2p2)のためのシステムおよび方法
JP2015165406A (ja) * 2010-10-13 2015-09-17 ゼットティーイー (ユーエスエー) インコーポレイテッド マルチメディア・マルチパーティ・ピアリング(m2p2)のためのシステムおよび方法
JP2017062827A (ja) * 2010-10-13 2017-03-30 ゼットティーイー (ユーエスエー) インコーポレイテッド マルチメディア・マルチパーティ・ピアリング(m2p2)のためのシステムおよび方法
JP2012230444A (ja) * 2011-04-25 2012-11-22 Hitachi Ltd 計算機システムでの部分障害処理方法
JP2015532738A (ja) * 2012-06-06 2015-11-12 インテル・コーポレーション 入出力エラー封じ込めイベント後のリカバリ

Also Published As

Publication number Publication date
US20040230861A1 (en) 2004-11-18
KR100612715B1 (ko) 2006-08-17
US7549090B2 (en) 2009-06-16
JP4001877B2 (ja) 2007-10-31
US20060281630A1 (en) 2006-12-14
KR20040098520A (ko) 2004-11-20
US7134052B2 (en) 2006-11-07

Similar Documents

Publication Publication Date Title
JP4001877B2 (ja) 入出力ファブリックにおけるハードウェア・エラーからの自動回復
US7484029B2 (en) Method, apparatus, and computer usable program code for migrating virtual adapters from source physical adapters to destination physical adapters
JP3954088B2 (ja) 論理分割された(lpar)計算機でシステム・ファームウェア更新を安全に実行する機構
US11586514B2 (en) High reliability fault tolerant computer architecture
JP4256693B2 (ja) 計算機システム、i/oデバイス及びi/oデバイスの仮想共有方法
JP3697178B2 (ja) ハードウェア・デバイスを管理する方法、システムおよびコンピュータ・プログラム・プロダクト
US8141093B2 (en) Management of an IOV adapter through a virtual intermediary in an IOV management partition
US8359415B2 (en) Multi-root I/O virtualization using separate management facilities of multiple logical partitions
US8141094B2 (en) Distribution of resources for I/O virtualized (IOV) adapters and management of the adapters through an IOV management partition via user selection of compatible virtual functions
US8281082B2 (en) Hypervisor page fault processing in a shared memory partition data processing system
JP5305848B2 (ja) データ処理システム内で入出力(i/o)仮想化を管理するための方法およびデータ処理システムならびにコンピュータ・プログラム
JP4123942B2 (ja) 情報処理装置
US6944847B2 (en) Virtualization of input/output devices in a logically partitioned data processing system
US10331520B2 (en) Raid hot spare disk drive using inter-storage controller communication
KR20040102074A (ko) 데이터 관리 방법, 데이터 처리 시스템 및 컴퓨터 프로그램
JP2012203636A (ja) 仮想計算機の制御方法及び計算機
JP2004318885A (ja) 故障プロセッサを置き換える方法、媒体およびシステム
JP2014106587A (ja) I/oデバイスの制御方法及び仮想計算機システム
US7500051B2 (en) Migration of partitioned persistent disk cache from one host to another
US20060010277A1 (en) Isolation of input/output adapter interrupt domains
US20220391254A1 (en) Information processing device, operation control method, and computer-readable recording medium storing operation control program
JP2007265421A (ja) 情報処理装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061024

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070119

RD12 Notification of acceptance of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7432

Effective date: 20070126

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070814

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20070814

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070815

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100824

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100824

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110824

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120824

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130824

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees