JP4410190B2 - PCI−Express通信システム - Google Patents

PCI−Express通信システム Download PDF

Info

Publication number
JP4410190B2
JP4410190B2 JP2005345822A JP2005345822A JP4410190B2 JP 4410190 B2 JP4410190 B2 JP 4410190B2 JP 2005345822 A JP2005345822 A JP 2005345822A JP 2005345822 A JP2005345822 A JP 2005345822A JP 4410190 B2 JP4410190 B2 JP 4410190B2
Authority
JP
Japan
Prior art keywords
module
channel
packet
pci
transfer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005345822A
Other languages
English (en)
Other versions
JP2006302250A (ja
Inventor
浩 石澤
光正 羽根田
裕一 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2005345822A priority Critical patent/JP4410190B2/ja
Priority to KR1020060015526A priority patent/KR100794421B1/ko
Priority to US11/359,580 priority patent/US7484033B2/en
Publication of JP2006302250A publication Critical patent/JP2006302250A/ja
Priority to US11/604,361 priority patent/US7765357B2/en
Application granted granted Critical
Publication of JP4410190B2 publication Critical patent/JP4410190B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • G06F13/40Bus structure
    • G06F13/4004Coupling between buses
    • G06F13/4022Coupling between buses using switching circuits, e.g. switching matrix, connection or expansion network
    • EFIXED CONSTRUCTIONS
    • E03WATER SUPPLY; SEWERAGE
    • E03FSEWERS; CESSPOOLS
    • E03F5/00Sewerage structures
    • E03F5/02Manhole shafts or other inspection chambers; Snow-filling openings; accessories
    • E03F5/021Connection of sewer pipes to manhole shaft
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16LPIPES; JOINTS OR FITTINGS FOR PIPES; SUPPORTS FOR PIPES, CABLES OR PROTECTIVE TUBING; MEANS FOR THERMAL INSULATION IN GENERAL
    • F16L5/00Devices for use where pipes, cables or protective tubing pass through walls or partitions
    • F16L5/02Sealing

Description

本発明は、PCI-Expressをインターフェースに使用した、複数のノードがPCI-Expressスイッチを介して接続される通信システム、及びその通信方法に関する。
パソコン内部の各パーツ間を結ぶバスの規格であり、現在ほとんどのパソコンで採用されているPCIに対して、より高速な転送インターフェース規格であるPCI-Expressの仕様が新たに策定されている。
例えば、下記特許文献1に記載されているように、PCI-Expressでは、パラレルバスで生ずる信号線と信号線との間でのずれ(スキュー)を防止するため、シリアルリンクが採用され、このシリアルリンクを介してパケットが非同期で転送される。また、PCI-Expressでは、層単位のアップグレードを可能とするため、機能が階層化されている。ソフトウェア層で作成された送信データにトランザクション層でヘッダが付加されてトランザクションパケットが作成され、データリンク層でトランザクションパケットの前後にシーケンス番号とCRCが付加されてデータリンク層パケットとされる。そして、物理層で物理的な信号とされ伝送媒体で送信される。
ところで、PCI-Expressでは、スイッチ(PCI-Expressスイッチ)によりノード間の接続を行うことができる。
図14は、PCI-Expressスイッチにより各モジュールが接続され、PCI-Expressに基づいてモジュール間の通信を行う従来のPCI-Express通信システムを説明する図である。
以下、PCI-Expressについて、本発明と関連する部分をさらに説明する。
PCI-Expressの仕様によれば、図14のモジュールA(1)のように、ルートコンプレックスと呼ばれる上位階層のトップに位置するモジュールが必要である。また、図14に示すように、各モジュールには、PCI-Expressスイッチ(6)のポート毎にバス番号(BusNum.)、デバイス番号(DeviceNum.)が割り当てられている。図14には、モジュールA(1)にはバス番号が0、デバイス番号は1が割り当てられ、モジュールB(2)にはバス番号が1、デバイス番号は2が割り当てられ、モジュールC(3)にはバス番号が1、デバイス番号は3が割り当てられ、モジュールD(4)にはバス番号が1、デバイス番号は4が割り当てられた例が示されている。
次に、PCI-Expressスイッチ(6)を介したモジュール間のパケット通信について説明する。PCI-Expressスイッチ(6)上でのパケットルーティングには、パケットヘッダに含まれるアドレスによりルーティングを行うアドレスルーティングと、同じくパケットヘッダに含まれるバス、デバイス及びファンクション番号から構成されるリクエスタIDによるIDルーティングの2種類がある。
これらのルーティングは、PCI-Expressの仕様では、リクエストパケットにはアドレスルーティングが、レスポンスパケットにはIDルーティングが使用されるように使い分けられている。したがって、メモリライトリクエストコマンド及びメモリリードリクエストコマンドに対するリクエストパケットにはアドレスルーティングが用いられる。なお、メモリライトリクエストコマンドに対しては、レスポンスパケットの応答はない仕様になっている。
例えば図14に示すように、(1)モジュールD(4)からモジュールC(3)へメモリリードリクエストコマンドを発行すると、(2)PCI-Expressスイッチ(6)はアドレスルーティングによりモジュールC(3)へメモリリードリクエストパケットを転送し、(3)モジュールC(3)は、リードデータをレスポンスパケットとして応答する。(4)PCI-Expressスイッチ(6)はIDルーティングでモジュールD(4)へレスポンスパケットを転送する。
図15は、相手側からデータを読み出すGET転送のシーケンスを説明する図である。送信側のファームウェアは、読み出すデータを指定するためのディスクリプタをメモリ上に作成して送信側のハードウェアを起動する。図15に示されるように、送信元はメモリリードリクエストパケットを発行し、PCI-Expressスイッチ(6)においてアドレスルーティングにより受信側に送信する。受信側では、受信側のハードウェアが受信側ファームウェアによる受信起動によりアイドル状態から立ち上がり、送信側から送られてきたメモリリードリクエストパケットによりGET要求を受信する。そして、メモリからデータを読み出してGET要求に対する応答をレスポンスパケットで返送する。レスポンスパケットはPCI-Expressスイッチ(6)においてIDルーティングにより送信側に返送される。送信側のハードウェアはレスポンスパケットからリードデータを受信し、メモリ上にそのデータを書き込んで送信側ファームウェアに割込を行い、送信側ファームウェアは終了処理を行う。
図16は、相手側にデータを書き込むPUT転送のシーケンスを説明する図である。送信側の発行するメモリライトリクエストパケットのルーティングは、GET転送の場合と同様にアドレスルーティングで行われる。そして、受信側は、PCI-Expressの仕様上(Non-PostedのMemory WriteにはResponseが発生しない)、レスポンスを応答しない。このため、要求側は正常に実行されたか判断不能であった。
例えば、図14で示すようにPCI-express スイッチ(6)のポート毎にバス番号、デバイス番号が設定されており、モジュールD(4)からモジュールC(3)へメモリリードリクエストパケットを送信したとする。このとき、パケットの転送制御はアドレスルーティングで行われる。モジュールC(3)はリードデータをレスポンスパケットとして転送するが、このときの転送制御はID ルーティングにて行われる。
図17は、上記のシーケンスで用いられるパケットのトランザクション層のヘッダの一部を示すものである。PCI-Expressスイッチ(6)は、レスポンスパケットのIDルーティングのときには図17のリクエスタID(Requester ID)を用いてルーティングを行い、アドレスルーティングのときは図17のアドレス(Address)を用いてルーティングを行う。図17のリクエスタIDはリクエスト側のモジュールを識別する情報であり、図17のアドレスは転送先へのルーティング情報を含んでいる。
このようなシステムで、図18に示すように、ルートコンプレックスであるモジュールA(1)が異常等により切り離された場合、ルートコンプレックスが不在となってしまうため、モジュールB〜Nのうちいずれかが新しいルートコンプレックスとなりPCI-Expressスイッチ(6)の持つ各ポートの構成情報(バス番号/デバイス番号)を変更する必要がある。図18に示す例ではモジュールB(2)を新しいルートコンプレックスとしている。
図18において、(1)モジュールD(4)からモジュールC(3)に対してメモリリードリクエストを発行し、(2)PCI-Expressスイッチ(6)はアドレスルーティングによりモジュールC(3)へメモリリードリクエストパケットを転送し、(3)その時ルートコンプレックスであるモジュールA(1)が異常により切り離されたとする。(4)すると、PCI-Expressスイッチ(6)では各ポートのコンフィギャ情報が変更され、バス番号、デバイス番号の付け替え(以下、「IDの付け替え」ともいう。)が発生し、モジュールB(2) が新しいルートコンプレックスとなる。(5)モジュールC(3)はモジュールD(4)からのメモリリードリクエストコマンドによりリードデータをレスポンスパケットとして応答するが、その時のリクエスタIDは、モジュールDのバス番号とデバイス番号の付け替え前の番号で構成されている。(6)PCI-Expressスイッチ(6)はモジュールC(3)から送られてきたパケットはレスポンスパケットであるため、IDルーティングによりルーティングを行う。(7)しかし、バス番号、デバイス番号は付け替えにより他のモジュールに割り振られているため、前記レスポンスパケットは誤って他のモジュールに送られるか、または紛失してしまう可能性がある。
特開2004−326151号公報
そこで、本発明の解決しようとする課題は、PCI-Expressスイッチを用いてノード間の通信を行うPCI-Express通信システムにおいて、あるノードから他のノードにリクエストが発行された後、他のノードからリクエスト元のノードにレスポンスが返されるまでにPCI-Expressスイッチ内でバス番号/デバイス番号の付替えが発生しても、レスポンスパケットを当初のリクエスト元のノードであるターゲットに送付できるようにすることである。
PCI-Expressによって接続される各モジュールに固有のノードIDを設定する。また、相手モジュールにデータを書き込む(PUT転送)、相手モジュールからデータを読み出す(GET転送)のそれぞれに専用のチャネルを設け、各チャネルにチャネルIDを設定する。そして、PCI-Expressに従って転送されるトランザクションレイヤパケットのヘッダのアドレス部内に、前記ノードIDとチャネルIDを設定するとともに、リクエストであるかレスポンスであるのかを識別するパケットタイプを設定する。
そしてデータ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットのみを使用する。
また、リクエストの場合には必ずレスポンスパケット(レスポンスタイプのメモリライトリクエストパケット)により応答する。
転送手段にIDルーティングを使用しないため、PCI-Expressスイッチにてバス番号、デバイス番号の付替えが発生してもリクエストを発行したモジュールに確実にレスポンスを応答することができる。
受信側モジュールは、送信されてきたパケットヘッダを解析し、チャネルIDによりPUT転送なのかGET転送なのか、パケットタイプによりリクエストなのかレスポンスなのかを判断して相応の動作を行うことができる。
また、メモリライトリクエストコマンドに対しても、レスポンスタイプのメモリライトリクエストパケットに情報を付加することにより、コマンドが正常に実行されたか否かの判断が可能となる。
以下、図1〜図4を参照して本発明の原理を説明する。
図1に記載された本発明のPCI-Express通信システム(100)における例示は、図18に記載された従来のPCI-Express通信システムにおける例示と同様な状況におけるものである。すなわち、図18に記載された場合と同様に、モジュールD(13)からモジュールC(12)に対して意味的にはメモリリード要求を発行し、それに対してモジュールC(12)からモジュールD(13)にリードデータを返そうとしているタイミングでモジュールA(10)の異常によりIDの付替えが発生し、図18に例示する場合と同様にモジュールD(13)のバス番号とデバイス番号が1、4から1、3に変化した場合である。
本発明においては、データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットのみを使用する。したがって、意味的にはメモリリード要求であっても、メモリライトリクエストパケットを用いる。
また、本発明においては、PCI-Expressによって接続される各モジュールに固有のノードIDを設定する。図1に例示されたものでは、モジュールA(10)にはノードID=0が、モジュールB(11)、モジュールC(12)、モジュールD(13)にはそれぞれ1,2,3のノードIDが固定的に割り当てられている。
さらに、相手モジュールにデータを書き込むPUT転送、相手モジュールからデータを読み出すGET転送のそれぞれに専用のチャネルを設け、各チャネルにチャネルIDを設定する。
図2に、本発明で使用するトランザクションレイヤパケットのヘッダ部の構成を示す。なお、網掛け部は本発明に関係しない部分なので、説明を省略する。
アドレス(Address)部(bit[63:2])には、図示するように、前記ノードID(bit[62:58])とチャネルID(bit[57:51])とさらにパケットタイプPT(bit[46])を設定する。ノードIDはパケットの転送先のものである。チャネルIDで指定されるチャネルは、後に詳細に説明するように、PUT転送、GET転送毎に送信用チャネル、受信用チャネルが割り当てられている。したがって、メモリリード要求であればGET転送の受信用チャネルのチャネルIDが設定され、メモリライト要求であればPUT転送の受信用チャネルのチャネルIDが設定される。パケットタイプPTはパケットがリクエストパケットであるかレスポンスパケットであるかの種別(0,1)を指定する。
タグ(Tag)部にはパケット転送元のチャネルIDがセットされ、転送先がレスポンスパケットを応答する際、応答先のチャネルIDとしてレスポンスパケットのアドレス部に使用される。
以下、図3を参照して、メモリリード要求を実行する本発明のGET転送のシーケンスを説明する。
送信側がディスクリプタを解析してGET転送要求を行うところまでは図15に記載された従来例と同様であるが、送信されるパケットがメモリライトリクエストパケットであって、メモリリードリクエストパケットではない点、パケットのアドレス部には先に説明したように、ノードIDとチャネルIDとパケットタイプPTが設定されている点、またタグ部にはパケット転送元のチャネルIDがセットされている点が異なる。PCI-Expressスイッチは従来例と同様にアドレスルーティングによりパケットのルーティングを行い受信側に送信する。
受信側では、パケットタイプによりリクエストパケットであることを識別し、さらにチャネルIDによりGET転送の受信用チャネルが用いられていることを判定し、GET要求であることを識別する。その後、メモリ上からデータをリードし、リードデータを送信するところまでは図15に記載された従来例と同様であるが、送信されるパケットが、メモリライトリクエストパケットであって、レスポンスパケットではない点が異なる。ただし、この場合のメモリライトリクエストパケットのヘッダには、パケットタイプがレスポンスと設定される。また、先に受信したメモリライトリクエストパケットのリクエスタIDからリクエスト送信側のモジュールを識別し、それに対応したノードIDを宛先として設定する。またチャネルIDはタグ部に設定されたチャネルIDを用いる。意味的にはレスポンスではあるが、PCI-Expressスイッチは、リクエストパケットとして認識することから、アドレスルーティングによりパケットのルーティングを行って送信側に送信する。
送信側では、パケットタイプがレスポンスであること、アドレス部にGET転送用の送信チャネルIDがふくまれていることによりGET要求のレスポンスであることを識別し、リードデータをメモリに書き込んで処理を終了する。
次に、図4を参照して、メモリライト要求を実行する本発明のPUT転送のシーケンスを説明する。
送信側がディスクリプタを解析してPUT転送要求を行い、メモリライトリクエストパケットを送信するところまでは、アドレス部とタグ部の設定を除いて、図16に記載された従来例と同様である。PCI-Expressスイッチは従来例と同様にアドレスルーティングによりパケットのルーティングを行い受信側に送信する。
受信側では、パケットタイプによりリクエストパケットであることを識別し、さらにチャネルIDによりPUT転送の受信用チャネルが用いられていることを判定し、PUT要求であることを識別する。そして送られてきたデータをメモリに書き込む。
ここまでは、従来のPUT転送と同様であるが、本発明においては、例えばハードウェアに、メモリライトリクエストパケットを用いてレスポンスを応答する機能を組み込む。パケットタイプにレスポンスを設定したメモリライトリクエストパケットを送信側に返信するので、PCI-Expressスイッチは、リクエストパケットとして認識して、アドレスルーティングによりルーティングを行って送信側に転送するが、送信側は、受信したパケットのアドレス部にPUT転送の送信用チャネルIDが含まれているので、自ノードのメモリライト要求に対するレスポンスであることを認識することができる。
次に、本発明の実施例を図5〜図13を参照して説明する。
本実施例は、それぞれのサブシステム内のすべての動作を管理する最大8個の集中管理モジュールCMがPCI-Expressスイッチを介して相互通信を行うPCI-Express通信システム(200)において、集中管理モジュールCM内のDMAチップが本発明の通信手法を実現するものである。
図5に示された本実施例のシステム構成は、それぞれのサブシステム内のすべての動作を管理する8個の集中管理モジュールCM#0(20)〜CM#7(27)と2個のフロントエンドルータFRT#0(71)、FRT#1(72)からなる通信システムのものであり、集中管理モジュールノード間をフロントエンドルータ内のPCI-Expressスイッチ(61,62)を介して接続している。
集中管理モジュールノードには、CM#0から順にノードID=0から7が割り振られている。集中管理モジュールは、図示のとおり、2重化されたCPU#0(51)、CPU#1(52)と集中管理モジュールノード間の通信手段を提供するDMAチップ(30)、さらにそれらCPU#0(51)、CPU#1(52)及び図示されていないメモリとDMAチップ(30)とのデータ転送を切り分けるメモリコントロールハブMCH(40)を含んでいる。
また、フロントエンドルータFRT#0(71)、FRT#1(72)も2重化されたフロントエンドルータを構成している。各フロントエンドルータFRT#0(71)、FRT#1(72)と各集中管理モジュールCM#0〜CM#7の間は、図示のとおりPCI-Express2.5GHzのライン4本で接続されている。
図6に示すのは、DMAチップ(30)の内部構成である。
図6に示すように、DMAチップ(30)は、PCI-Expressスイッチ側のサウスポートにPCI-Expressインタフェース制御部(311)を、CPU側のノースポートにはPCI-Expressインタフェース制御部(312)備える。また各PCI-Expressインタフェース制御部(311)と PCI-Expressインタフェース制御部(312)にそれぞれ対応してパケット制御部(321)とパケット制御部(322)を備える。さらに、メッセージ受信用チャネル(331)、PUT受信用チャネル(341)、GET受信用チャネル(351)、転送バッファ(361,370,362)、メッセージ送信用チャネル(332)、PUT送信用チャネル(342)、GET送信用チャネル(352)を備える。
メッセージ受信用チャネル(331)は2チャネル、メッセージ送信用チャネル(332)は8チャネル、PUT送信用チャネル(342)は5チャネル、GET送信用チャネル(352)は4チャネル備えられ、PUT受信用チャネル(341)とGET受信用チャネル(351)はそれぞれ1チャネル備えられている。
転送バッファ(361)はサウスポート側からノースポート側へのデータ転送に用いられ、転送バッファ(362)はノースポート側からサウスポート側へのデータ転送に用いられる。転送バッファ(370)はノースポート側からのループバック用として用いられる。
実線はリクエストを通知する制御線(REQ)を、点線はリクエスト完了を通知する制御線(CMP)を表し、太線はデータ線を表す。白抜きの線はPCIヘッダ線を表し、PCI-Expressインタフェース制御部(311,312)に接続されたラインTXとRXはそれぞれPCI-Expressの送信ラインと受信ラインを表している。
なお、図6に示した例では、ノースポート側もPCI-Expressを用いているが、本発明が適用されるのはサウスポート側であり、ノースポート側がPCI-Expressを用いることは必須ではない。
図7に示すのは、図6に示すチャネルのチャネルIDの例である。PUT受信用チャネル(341)とGET受信用チャネル(351)は先に説明したように、物理的にはそれぞれ1個であるが、送信元がパケットを連続して順次送信する場合に、そのパケットの順番を識別するために図示のチャネルIDが順次用いられる。
以下、本実施例におけるデータ転送例を説明する。なお、図3および図4で説明したものと同様な部分は、繰り返しとなることから、省略しているところもある。
図8は、ノードIDが0の集中管理モジュールCM#0からノードIDが7の集中管理モジュールCM#7へのPUT転送例を説明する図である。ただし、レスポンス側は、図4で説明した動作と同様であるので、省略されている。
(1)集中管理モジュールCM#0のCPUはDMAチップ内のPUT送信用チャネルに対してPUT転送開始を指示する。(2)集中管理モジュールCM#0のDMAチップは、送信パケットヘッダのアドレス部のbit[62:58](ノードID部)を集中管理モジュールCM#7のノードIDである7に変換してサウスポート側にデータを転送し、メモリライトリクエストパケットとして送出する。(3)PCI-Expressスイッチは送信先アドレスを解析し、対応するアドレスにパケットを転送する。(4)集中管理モジュールCM#7のDMAチップは、サウスポート側からパケットを受信しそのパケット内のノードIDと自ノードIDが一致していることを確認してPUT受信用チャネルに通知する。
次に図9により、上記PUT転送例における送信側チャネルの動作を説明する。図上の太線の矢印はDMAチップがマスタとなる動作を、実線の矢印はCPUがマスタとなる動作を示す。点線の矢印は、割り込みを示すものである。
(1)CPUはPUT転送用のディスクリプタを作成し、メモリ内のディスクリプタ領域に書き込む。図示の例では、32バイトの領域が15個設けられている。(2)CPUはDMAチップに対してPUT転送開始を指示する。(3)DMAチップはメモリ上のディスクリプタ領域から、ディスクリプタデータを読み出す。(4)DMAチップはディスクリプタを解析して、メモリ上の送信元としてアドレス指定されたデータ領域からデータを読み取る。(5)DMAチップは読み取ったデータをサウスポート側に転送し、転送相手のDMAチップからの完了通知を待ち、相手側からのレスポンスを受信する。(6)DMAチップはディスクリプタの完了ポインタを更新し、ポインタ値(ディスクリプタ終了ポインタ)をメモリ上のディスクリプタ終了ポインタ領域に書き込む。(7)DMAチップは転送終了を通知するため、CPUに割り込みを上げる。(8)CPUは終了ポインタの確定動作として、割り込みの解除と終了コードのクリアを行う。
次に、上記PUT転送例における受信側チャネルの動作について、図10により説明する。
(1)CPUからPUT受信用チャネルの起動をかけ、DMAチップに転送開始の指示を行う。(最初の一回のみ実施。)(2)DMAチップはサウスポート側からデータを受信する。(3)DMAチップは受信したデータをノースポート側に転送してメモリ内に書き込む。(4)DMAチップはサウスポート側にレスポンスを応答する。
図11は、ノードIDが0の集中管理モジュールCM#0からノードIDが7の集中管理モジュールCM#7へのGET転送例を説明する図である。
(1)集中管理モジュールCM#0のCPUはDMAチップ内のGET送信用チャネルに対してGET転送開始を指示する。(2)集中管理モジュールCM#0のDMAチップは、送信パケットヘッダのアドレス部のbit[62:58](ノードID部)を集中管理モジュールCM#7のノードIDである7に変換してサウスポート側にデータを転送し、メモリライトリクエストパケットとして送出する。(3)PCI-Expressスイッチは送信先アドレスを解析し、対応するアドレスにパケットを転送する。(4)集中管理モジュールCM#7のDMAチップは、サウスポート側からパケットを受信しそのパケット内のノードIDと自ノードIDが一致していることを確認してGET受信用チャネルに通知する。(5)集中管理モジュールCM#7のDMAチップは自集中管理モジュール内のメモリからデータを読み出し、そのデータをサウスポート側に転送し、メモリライトリクエストパケットとして送出する。(6)PCI-Expressスイッチは送信先アドレスを解析し、対応するアドレスにパケットを転送する。(7)集中管理モジュールCM#0のDMAチップ内GET送信用チャネルは、サウスポート側からGETデータを受け取りノースポート側に転送する。
次に図12により、上記GET転送例における送信側チャネルの動作を説明する。
(1)CPUはGET転送用のディスクリプタを作成し、メモリ内のディスクリプタ領域に書き込む。(2)CPUはDMAチップに対してGET転送開始を指示する。(3)DMAチップはメモリ上のディスクリプタ領域から、ディスクリプタデータを読み出す。(4)DMAチップはディスクリプタを解析して、相手側DMAチップにGETデータ要求を出す。(5)DMAチップはサウスポートよりGETデータを受け取り、ノースポートに転送する。(6)DMAチップはディスクリプタの完了ポインタを更新し、ポインタ値(ディスクリプタ終了ポインタ)をメモリ上のディスクリプタ終了ポインタ領域に書き込む。(7)DMAチップは転送終了を通知するため、CPUに割り込みを上げる。(8)CPUは終了ポインタの確定動作として、割り込みの解除と終了コードのクリアを行う。
次に、上記PUT転送例における受信側チャネルの動作について、図13により説明する。
(1)CPUからGET受信用チャネルの起動をかけ、DMAチップに転送開始の指示を行う。(最初の一回のみ実施。)(2)DMAチップはサウスポート側からGET要求を受信する。(3)DMAチップはノースポート側より、自集中管理モジュールCM上のメモリからデータを読み込む。(4)DMAチップはサウスポート側にGETデータを転送する。
以上説明したように、本発明のPCI-Express通信システムにおいては、データ転送にアドレスルーティングによりルーティングされるメモリライトリクエストパケットしか用いないので、ルートコンプレックス障害によりIDの付け替えが発生したとしても、レスポンスを正常に返すことができる。
また、PCI-Expressスイッチの挙動やコマンドの種別を問わずレスポンスのパケットを応答することができるので、データ転送が正常に終了したかどうかをコマンド発行元のモジュールが確実に把握することができる。
(付記1)
複数のモジュール間を接続してパケット転送を行うPCI-Expressスイッチを用いたPCI-Express通信システムにおいて、
前記複数のモジュールの各々にそれらを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを使用することを特徴とするPCI-Express通信システム。
(付記2)
前記データ転送に使用するチャネルとして、相手モジュールにデータを書き込むPUT転送専用のチャネルと相手モジュールからデータを読み出すGET転送専用のチャネルを設けることを特徴とする付記1に記載のPCI-Express通信システム。
(付記3)
一方のモジュールから他方のモジュールにメモリリードリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するGET転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記2に記載のPCI-Express通信システム。
(付記4)
前記一方のモジュールは、該一方のモジュールが使用するGET転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記3に記載のPCI-Express通信システム。
(付記5)
一方のモジュールから他方のモジュールにメモリライトリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するPUT転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記2に記載のPCI-Express通信システム。
(付記6)
前記一方のモジュールは、該一方のモジュールが使用するPUT転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記5に記載のPCI-Express通信システム。
(付記7)
前記PUT専用のチャネルと前記GET専用のチャネルのそれぞれを受信用チャネルと送信用チャネルから構成することを特徴とする付記2に記載のPCI-Express通信システム。
(付記8)
一方のモジュールから他方のモジュールにメモリリードリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールのGET転送専用の受信用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定し、かつ該一方のモジュールが使用するGET転送専用の送信用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該送信用チャネルのチャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記7に記載のPCI-Express通信システム。
(付記9)
一方のモジュールから他方のモジュールにメモリライトリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールのPUT転送専用の受信用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定し、かつ該一方のモジュールが使用するPUT転送専用の送信用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該送信用チャネルのチャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記7に記載のPCI-Express通信システム。
(付記10)
複数のモジュール間を接続してパケット転送を行うPCI-Expressスイッチを用いたPCI-Express通信方法において、
前記複数のモジュールの各々にそれらを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
リクエストの場合には必ずレスポンスパケットを応答し、
データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを常に使用することを特徴とするPCI-Express通信方法。
(付記11)
前記データ転送に使用するチャネルとして、相手モジュールにデータを書き込むPUT転送専用のチャネルと相手モジュールからデータを読み出すGET転送専用のチャネルを設けることを特徴とする付記10に記載のPCI-Express通信方法。
(付記12)
一方のモジュールから他方のモジュールにメモリリードリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するGET転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記11に記載のPCI-Express通信方法。
(付記13)
前記一方のモジュールは、該一方のモジュールが使用するGET転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記12に記載のPCI-Express通信方法。
(付記14)
一方のモジュールから他方のモジュールにメモリライトリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するPUT転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記11に記載のPCI-Express通信方法。
(付記15)
前記一方のモジュールは、該一方のモジュールが使用するPUT転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする付記14に記載のPCI-Express通信方法。
(付記16)
PCI-Expressスイッチを用いてパケット転送を行うPCI-Express通信システムのモジュールにおいて、
該モジュールを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを使用することを特徴とするPCI-Express通信システムのモジュール。
(付記17)
前記データ転送に使用するチャネルとして、相手モジュールにデータを書き込むPUT転送専用のチャネルと相手モジュールからデータを読み出すGET転送専用のチャネルを設けることを特徴とする付記16に記載のPCI-Express通信システムのモジュール。
(付記18)
相手方のモジュールにメモリリードリクエストを発行する場合は、前記メモリライトリクエストパケットのアドレス部内に、前記相手方のモジュールのノードIDと前記相手方のモジュールが使用するGET転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記17に記載のPCI-Express通信システムのモジュール。
(付記19)
相手方のモジュールにメモリライトリクエストを発行する場合は、前記メモリライトリクエストパケットのアドレス部内に、前記相手方のモジュールのノードIDと前記相手方のモジュールが使用するPUT転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする付記17に記載のPCI-Express通信システムのモジュール。
(付記20)
相手方のモジュールからメモリライトリクエストを受信した場合は、メモリライトリクエストパケットのアドレス部内に、前記相手方のモジュールのノードIDとレスポンスであることを識別する前記パケットタイプを設定し、該メモリライトリクエストパケットを相手方のモジュールに返信することを特徴とする付記16に記載のPCI-Express通信システムのモジュール。
本発明のPCI-Express通信システムにおいてGET転送中に障害が発生した場合を説明する図である。 本発明のPCI-Express通信システムにおけるトランザクションパケットのヘッダの一部を説明するものである。 本発明のPCI-Express通信システムにおけるGET転送のシーケンスを説明する図である。 本発明のPCI-Express通信システムにおけるPUT転送のシーケンスを説明する図である。 本発明の実施例のシステム構成図である。 本発明の実施例におけるDMAチップの内部構成図である。 本発明の実施例におけるチャネルIDの一例を示す図である。 本発明の実施例におけるPUT転送例を説明する図である。 本発明の実施例におけるPUT転送時の送信側チャネルの動作を説明する図である。 本発明の実施例におけるPUT転送時の受信側チャネルの動作を説明する図である。 本発明の実施例におけるGET転送例を説明する図である。 本発明の実施例におけるGET転送時の送信側チャネルの動作を説明する図である。 本発明の実施例におけるGET転送時の受信側チャネルの動作を説明する図である。 従来のPCI-Express通信システムを説明する図である。 従来のPCI-Express通信システムにおけるGET転送のシーケンスを説明する図である。 従来のPCI-Express通信システムにおけるPUT転送のシーケンスを説明する図である。 従来のPCI-Express通信システムにおけるトランザクションパケットのヘッダの構成を説明するものである。 従来のPCI-Express通信システムにおいてGET転送中に障害が発生した場合を説明する図である。
符号の説明
1、10 モジュールA
2、12 モジュールB
3、13 モジュールC
4、14 モジュールD
20〜27 集中管理モジュール
30 DMAチップ
311、312 PCI-Expressインタフェース制御部
321、322 パケット制御部
331 メッセージ受信用チャネル
332 メッセージ送信用チャネル
341 PUT受信用チャネル
342 PUT送信用チャネル
351 GET受信用チャネル
352 GET送信用チャネル
361 転送バッファ(NP→SP)
362 転送バッファ(SP→NP)
370 転送バッファ(ループバック)
40 メモリコントロールハブ
51、52 CPU
6、60〜62 PCI-Expressスイッチ
71、72 フロントエンドルータ
100 本発明のPCI-Express通信システム
200 本発明の実施例におけるPCI-Express通信システム

Claims (10)

  1. 複数のモジュール間を接続してパケット転送を行うPCI-Expressスイッチを用いたPCI-Express通信システムにおいて、
    前記複数のモジュールの各々にそれらを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
    データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
    データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを使用することを特徴とするPCI-Express通信システム。
  2. 前記データ転送に使用するチャネルとして、相手モジュールにデータを書き込むPUT転送専用のチャネルと相手モジュールからデータを読み出すGET転送専用のチャネルを設けることを特徴とする請求項1に記載のPCI-Express通信システム。
  3. 一方のモジュールから他方のモジュールにメモリリードリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するGET転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする請求項2に記載のPCI-Express通信システム。
  4. 前記一方のモジュールは、該一方のモジュールが使用するGET転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする請求項3に記載のPCI-Express通信システム。
  5. 一方のモジュールから他方のモジュールにメモリライトリクエストを発行する場合は、前記一方のモジュールは、前記メモリライトリクエストパケットのアドレス部内に、前記他方のモジュールのノードIDと前記他方のモジュールが使用するPUT転送専用チャネルのチャネルID、及びリクエストであることを識別する前記パケットタイプを設定することを特徴とする請求項2に記載のPCI-Express通信システム。
  6. 前記一方のモジュールは、該一方のモジュールが使用するPUT転送専用チャネルのチャネルIDを前記メモリライトリクエストパケットのヘッダ内に設定し、前記他方のモジュールは、該チャネルIDと前記一方のモジュールのノードID、及びレスポンスであることを識別する前記パケットタイプをメモリライトリクエストパケットのヘッダのアドレス部内に設定して該メモリライトリクエストパケットを前記一方のモジュールに返信することを特徴とする請求項5に記載のPCI-Express通信システム。
  7. 複数のモジュール間を接続してパケット転送を行うPCI-Expressスイッチを用いたPCI-Express通信方法において、
    前記複数のモジュールの各々にそれらを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
    データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
    リクエストの場合には必ずレスポンスパケットを応答し、
    データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを常に使用することを特徴とするPCI-Express通信方法。
  8. PCI-Expressスイッチを用いてパケット転送を行うPCI-Express通信システムのモジュールにおいて、
    該モジュールを識別する固有のノードIDを設定するとともに、データ転送に使用する各チャネルにチャネルIDを設定し、
    データ転送についてのパケットのアドレス部内に、転送先モジュールの前記ノードIDと該データ転送に使用するチャネルの前記チャネルID、及び前記パケットがリクエストであるかレスポンスであるのかを識別するパケットタイプを設定し、
    データ転送には、アドレスルーティングでルーティングされるメモリライトリクエストパケットを使用することを特徴とするPCI-Express通信システムのモジュール。
  9. 前記データ転送に使用するチャネルとして、相手モジュールにデータを書き込むPUT転送専用のチャネルと相手モジュールからデータを読み出すGET転送専用のチャネルを設けることを特徴とする請求項8に記載のPCI-Express通信システムのモジュール。
  10. 相手方のモジュールからメモリライトリクエストを受信した場合は、メモリライトリクエストパケットのアドレス部内に、前記相手方のモジュールのノードIDとレスポンスであることを識別する前記パケットタイプを設定し、該メモリライトリクエストパケットを相手方のモジュールに返信することを特徴とする請求項8に記載のPCI-Express通信システムのモジュール。
JP2005345822A 2005-03-24 2005-11-30 PCI−Express通信システム Active JP4410190B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005345822A JP4410190B2 (ja) 2005-03-24 2005-11-30 PCI−Express通信システム
KR1020060015526A KR100794421B1 (ko) 2005-03-24 2006-02-17 PCI-Express 통신 시스템
US11/359,580 US7484033B2 (en) 2005-03-24 2006-02-23 Communication system using PCI-Express and communication method for plurality of nodes connected through a PCI-Express
US11/604,361 US7765357B2 (en) 2005-03-24 2006-11-27 PCI-express communications system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005085307 2005-03-24
JP2005345822A JP4410190B2 (ja) 2005-03-24 2005-11-30 PCI−Express通信システム

Publications (2)

Publication Number Publication Date
JP2006302250A JP2006302250A (ja) 2006-11-02
JP4410190B2 true JP4410190B2 (ja) 2010-02-03

Family

ID=37036535

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005345822A Active JP4410190B2 (ja) 2005-03-24 2005-11-30 PCI−Express通信システム

Country Status (3)

Country Link
US (1) US7484033B2 (ja)
JP (1) JP4410190B2 (ja)
KR (1) KR100794421B1 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7519761B2 (en) * 2006-10-10 2009-04-14 International Business Machines Corporation Transparent PCI-based multi-host switch
US20090083392A1 (en) * 2007-09-25 2009-03-26 Sun Microsystems, Inc. Simple, efficient rdma mechanism
US9396159B2 (en) * 2007-09-25 2016-07-19 Oracle America, Inc. Simple, reliable, connectionless communication mechanism
WO2009040920A1 (ja) * 2007-09-27 2009-04-02 Fujitsu Limited 入出力装置、情報処理システム、制御方法および制御プログラム
JP5151567B2 (ja) * 2008-03-07 2013-02-27 日本電気株式会社 データ通信システムのデットロック回避方法及びそのシステム並びにその制御プログラム
US7685352B2 (en) * 2008-07-31 2010-03-23 International Business Machines Corporation System and method for loose ordering write completion for PCI express
JP5272601B2 (ja) * 2008-09-16 2013-08-28 株式会社リコー 画像形成装置およびデータ転送方法
US8108584B2 (en) * 2008-10-15 2012-01-31 Intel Corporation Use of completer knowledge of memory region ordering requirements to modify transaction attributes
JP5267943B2 (ja) 2009-03-30 2013-08-21 日本電気株式会社 PCI−Express通信システム、及びPCI−Express通信方法
US8769175B2 (en) 2011-03-09 2014-07-01 International Business Machines Corporation Adjustment of post and non-post packet transmissions in a communication interconnect
US9021156B2 (en) 2011-08-31 2015-04-28 Prashanth Nimmala Integrating intellectual property (IP) blocks into a processor
US8930602B2 (en) 2011-08-31 2015-01-06 Intel Corporation Providing adaptive bandwidth allocation for a fixed priority arbiter
US8713234B2 (en) * 2011-09-29 2014-04-29 Intel Corporation Supporting multiple channels of a single interface
US8805926B2 (en) 2011-09-29 2014-08-12 Intel Corporation Common idle state, active state and credit management for an interface
US8711875B2 (en) 2011-09-29 2014-04-29 Intel Corporation Aggregating completion messages in a sideband interface
US8713240B2 (en) 2011-09-29 2014-04-29 Intel Corporation Providing multiple decode options for a system-on-chip (SoC) fabric
US8929373B2 (en) 2011-09-29 2015-01-06 Intel Corporation Sending packets with expanded headers
US8775700B2 (en) 2011-09-29 2014-07-08 Intel Corporation Issuing requests to a fabric
US8874976B2 (en) 2011-09-29 2014-10-28 Intel Corporation Providing error handling support to legacy devices
US9053251B2 (en) 2011-11-29 2015-06-09 Intel Corporation Providing a sideband message interface for system on a chip (SoC)
JP6273972B2 (ja) 2014-03-31 2018-02-07 富士通株式会社 情報処理装置、送受信装置、及び情報処理装置の制御方法
US10911261B2 (en) 2016-12-19 2021-02-02 Intel Corporation Method, apparatus and system for hierarchical network on chip routing
US10846126B2 (en) 2016-12-28 2020-11-24 Intel Corporation Method, apparatus and system for handling non-posted memory write transactions in a fabric
KR101948163B1 (ko) * 2017-01-10 2019-02-14 충북대학교 산학협력단 Pci 익스프레스 기반의 연결통신망에서 배리어 구현 방법
US10740454B2 (en) * 2017-12-28 2020-08-11 Intel Corporation Technologies for USB controller state integrity protection with trusted I/O
JP7423367B2 (ja) * 2020-03-23 2024-01-29 キオクシア株式会社 通信システム、デバイス、及び通信方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5371897A (en) * 1991-08-27 1994-12-06 International Business Machines Corporation Method for requesting identification of a neighbor node in a data processing I/O system
KR19990011955A (ko) * 1997-07-25 1999-02-18 윤종용 Pci 브리지
JP3228708B2 (ja) * 1998-04-03 2001-11-12 パイオニア株式会社 伝送システムにおける受信インターフェース装置
JP2001142845A (ja) 1999-11-17 2001-05-25 Toshiba Corp コンピュータシステムおよびデータ転送制御方法
US6971098B2 (en) * 2001-06-27 2005-11-29 Intel Corporation Method and apparatus for managing transaction requests in a multi-node architecture
US7340555B2 (en) * 2001-09-28 2008-03-04 Dot Hill Systems Corporation RAID system for performing efficient mirrored posted-write operations
US20040172493A1 (en) 2001-10-15 2004-09-02 Advanced Micro Devices, Inc. Method and apparatus for handling split response transactions within a peripheral interface of an I/O node of a computer system
US6874042B2 (en) * 2003-03-11 2005-03-29 Dell Products L.P. System and method for using a switch to route peripheral and graphics data on an interconnect
US20040210754A1 (en) * 2003-04-16 2004-10-21 Barron Dwight L. Shared security transform device, system and methods
JP4492035B2 (ja) 2003-04-21 2010-06-30 日本電気株式会社 データ処理装置
US7380018B2 (en) * 2003-05-15 2008-05-27 Broadcom Corporation Peripheral bus transaction routing using primary and node ID routing information
US20050034045A1 (en) * 2003-08-08 2005-02-10 Lueck Andrew W. System for optimizing PCI-Express communications
US7293127B2 (en) * 2004-01-15 2007-11-06 Ati Technologies, Inc. Method and device for transmitting data using a PCI express port
US7165131B2 (en) * 2004-04-27 2007-01-16 Intel Corporation Separating transactions into different virtual channels
US7058738B2 (en) * 2004-04-28 2006-06-06 Microsoft Corporation Configurable PCI express switch which allows multiple CPUs to be connected to multiple I/O devices
US20050289306A1 (en) * 2004-06-28 2005-12-29 Sridhar Muthrasanallur Memory read requests passing memory writes
US7191255B2 (en) * 2004-10-27 2007-03-13 Intel Corporation Transaction layer link down handling for PCI express
US8285907B2 (en) * 2004-12-10 2012-10-09 Intel Corporation Packet processing in switched fabric networks
US7886086B2 (en) * 2005-02-03 2011-02-08 International Business Machines Corporation Method and apparatus for restricting input/output device peer-to-peer operations in a data processing system to improve reliability, availability, and serviceability
US7260664B2 (en) * 2005-02-25 2007-08-21 International Business Machines Corporation Interrupt mechanism on an IO adapter that supports virtualization
US8516165B2 (en) * 2005-10-19 2013-08-20 Nvidia Corporation System and method for encoding packet header to enable higher bandwidth efficiency across bus links
US8018704B2 (en) * 2006-08-23 2011-09-13 Micrel, Inc. Parallel analog and digital timers in power controller circuit breaker

Also Published As

Publication number Publication date
US20060218336A1 (en) 2006-09-28
US7484033B2 (en) 2009-01-27
KR20060103098A (ko) 2006-09-28
KR100794421B1 (ko) 2008-01-16
JP2006302250A (ja) 2006-11-02

Similar Documents

Publication Publication Date Title
JP4410190B2 (ja) PCI−Express通信システム
AU2007278728B2 (en) Method and apparatus for distributing usb hub functions across a network
US8305879B2 (en) Peripheral component switch having automatic link failover
CN109033004B (zh) 一种基于Aurora总线的双机内存数据共享系统
US7210000B2 (en) Transmitting peer-to-peer transactions through a coherent interface
JP4658122B2 (ja) Dmaコントローラ、ノード、データ転送制御方法、及びプログラム
JP3807250B2 (ja) クラスタシステム、コンピュータ及びプログラム
US8392645B2 (en) Switch system, sub-switch and method of controlling switch system
US20130179722A1 (en) Ring topology for compute devices
US8880768B2 (en) Storage controller system with data synchronization and method of operation thereof
KR20140078161A (ko) Pci 익스프레스 스위치 및 이를 이용한 컴퓨터 시스템
KR20130045357A (ko) Pci 익스프레스 호환 디바이스의 자원들에 액세스하는 방법 및 시스템
KR20170086484A (ko) 기록 요청 처리 방법, 프로세서, 그리고 컴퓨터
US7765357B2 (en) PCI-express communications system
JP2014002545A (ja) データ転送装置、及びデータ転送方法
JP4918284B2 (ja) PCI−Express通信システム
JP4755050B2 (ja) データ処理装置、モード管理装置、及びモード管理方法
US20090292856A1 (en) Interserver communication mechanism and computer system
WO2020110895A1 (ja) 通信装置、情報処理システム、および通信方法
JP2005316762A (ja) ディスク記憶装置及びraid構築方法
JPH10320365A (ja) データ交換装置およびその方法
JP2011113163A (ja) Ioアクセス通信システムにおけるエンドポイント間通信制御装置および方法
CN100456273C (zh) PCI-Express通信系统及其通信方法
JP2004513418A (ja) 標準デバイス・インタフェース
KR20050107724A (ko) 링크-기반 컴퓨팅 시스템 내에서의 i/o 구성 메시징

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091110

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091112

R150 Certificate of patent or registration of utility model

Ref document number: 4410190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4