JP3836839B2 - クラスタベースのマルチプロセッサ・システムでのマイクロプロセッサ通信の方法およびデータ処理システム - Google Patents

クラスタベースのマルチプロセッサ・システムでのマイクロプロセッサ通信の方法およびデータ処理システム Download PDF

Info

Publication number
JP3836839B2
JP3836839B2 JP2003390006A JP2003390006A JP3836839B2 JP 3836839 B2 JP3836839 B2 JP 3836839B2 JP 2003390006 A JP2003390006 A JP 2003390006A JP 2003390006 A JP2003390006 A JP 2003390006A JP 3836839 B2 JP3836839 B2 JP 3836839B2
Authority
JP
Japan
Prior art keywords
processor
pcr
clusters
information
cluster
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003390006A
Other languages
English (en)
Other versions
JP2004192621A (ja
Inventor
ラビ・カマール・アリミリ
ロバート・アラン・カーグノニ
デレク・エドワード・ウイリアムス
ケネス・リー・ライト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2004192621A publication Critical patent/JP2004192621A/ja
Application granted granted Critical
Publication of JP3836839B2 publication Critical patent/JP3836839B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/16Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/16Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
    • G06F15/163Interprocessor communication
    • G06F15/17Interprocessor communication using an input/output type connection, e.g. channel, I/O port
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/16Implementation or adaptation of Internet protocol [IP], of transmission control protocol [TCP] or of user datagram protocol [UDP]
    • H04L69/161Implementation details of TCP/IP or UDP/IP stack architecture; Specification of modified or new header fields
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/42Loop networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/10Flow control between communication endpoints
    • H04W28/14Flow control between communication endpoints using intermediate storage

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multi Processors (AREA)

Description

本発明は、全般的にはデータ処理システムに関し、具体的には、データ処理システム内のプロセッサ間の通信に関する。さらに具体的には、本発明は、マルチプロセッサ・データ処理システム内のプロセッサ通信および調整の方法、処理ユニット、およびシステムに関する。
コンピュータ技術で、複数の個々のプロセッサの処理能力を連繋して利用することによって、より高いコンピュータ・システム性能を達成できることが周知である。マルチプロセッサ(MP)コンピュータ・システムを、複数の異なるアーキテクチャで設計することができ、このさまざまなアーキテクチャは、所期の設計点、システムの性能要件、および各アプリケーションのソフトウェア環境に応じて、特定のアプリケーションにより適する場合がある。既知のMPアーキテクチャには、たとえば、対称型マルチプロセッサ(SMP)、およびNUMA(non-uniform memory access)が含まれる。
共用メモリ・マルチプロセッサ・データ処理システムでは、システム内の複数のプロセッサのそれぞれが、共用メモリにストアされたデータにアクセスし、修正することができる。複数のプロセッサの間で特定の粒度(たとえばキャッシュ・ライン)のメモリへのアクセスを同期化するために、プログラミング・モデルによって、プロセッサが、粒度を修正する前に粒度に関連するロックを獲得し、修正の後にロックを解放することが要求されることがしばしばである。
SMPアーキテクチャでは、マルチプロセッサが、共用メモリ内のキャッシュ可能メモリ要素への「ロード」および「ストア」を使用する相互接続バスを介して互いに通信する。マルチプロセッサ・システムを同期化して、パイプライン化された処理または並列処理を実行する時に、通信情報が、プロセッサ間で常に転送されて、各プロセッサがその処理で実行中の他のプロセッサと調整できるようになる。プロセッサは、プロセッサの状態またはプロセスの状況などの固有のプロセッサ情報を、キャッシュ・サブ・システム内のロードおよびストアを介して通信する。プロセッサが、状況情報を更新し、他のプロセッサに通信する必要がある状態に達した時に、そのプロセッサは、データを変更するために、そのデータに対するロックを獲得することによって、情報に対する排他的制御を得る。これによって、この情報を保持する他のプロセッサが、そのプロセッサのコピーを無効化し、その後、第1のプロセッサが情報に対する更新をストアした後に、メモリから状況情報をもう一度ロードする。このプロセッサ通信機構は、非効率的である。というのは、プロセッサが、常に情報に対する制御について競争する必要があり、変更が行われた後にもう一度再ロードするだけのために他のプロセッサから情報をフラッシュする必要があり、あるプロセッサが情報をストアし、他のプロセッサが情報の更新を待ってストールする時に、必ず、パイプライン化された処理または並列処理が低速になるからである。
本発明では、これらの非効率性によって、プロセッサ間通信および相互接続によって結合されるプロセッサの間で通信される他のトランザクションの小さい比率および小さいサイズに関して、大量の相互接続帯域幅が消費され、極度に大きい通信待ち時間が生じることが認識されている。たとえば、2つのノードのそれぞれに存在する4つのプロセッサが上レベル・バスによって結合され、2つのノード自体が下レベル・バスによって結合される、8ウェイSMPシステムの比較的単純な例であっても、異なるノードのプロセッサ間のデータ要求の通信が、3つのバスのそれぞれでのバス獲得および他のトランザクションに関連する待ち時間をこうむる。同一ノード内のプロセッサの間のプロセッサ間通信であっても、上レベル・バス帯域幅を消費し、バス待ち時間をこうむらなければならない。そのような待ち時間は、相互接続階層の深さを増やすことによって悪化するだけなので、本発明では、物理的に離れたプロセッサの間の通信の待ち時間を減らし、バス帯域幅消費を減らし、これによって、プロセッサおよび階層メモリ・システムの間の一般データ転送のためにバス帯域幅を解放する、改善されたデータ処理システム・アーキテクチャを提供することが、望ましく、有利であることが認識されている。
好ましい実施形態によれば、複数のプロセッサの少なくとも1つのプロセッサに、そこにストアされた情報への継続的アクセスを提供するプロセッサ通信レジスタ(PCR)が含まれる、プロセッサ通信の方法、プロセッサ、およびマルチプロセッサ・システムが提供される。プロセッサは、複数のプロセッサの1プロセッサに含まれるPCRの1つまたは複数のセクタから情報を検索し、セクタの1つは、複数のプロセッサのうちの関連する1つだけによるストアのために割り振られ、複数のプロセッサの各PCR内のそれに関連するセクタに関連プロセッサからの情報がストアされる。
代替実施形態では、複数のプロセッサの少なくとも2つのプロセッサが、めいめいのPCRから同時に情報を検索する。もう1つの好ましい実施形態では、同一の情報が、複数のプロセッサに含まれる各めいめいのPCRに含まれる。もう1つの好ましい実施形態では、情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に、複数のプロセッサに有用である。もう1つの好ましい実施形態では、1つまたは複数のセクタのセクタのそれぞれが、複数のプロセッサの関連する1つだけによるストアのために排他的に割り振られる。もう1つの好ましい実施形態では、1つまたは複数のセクタのセクタのそれぞれが、4バイトである。もう1つの好ましい実施形態では、プロセッサが、各PCR内の各セクタを継続的に更新し、複数のプロセッサの各プロセッサが、システム・メモリから情報をロードすることなく、それ自体のPCRにストアされた情報にアクセスできる。
ここで、図面、具体的には図1に関して、本発明の好ましい実施形態による、マイクロプロセッサ通信をサポートするマルチプロセッサ(MP)データ処理システムの高水準ブロック図が示されている。図からわかるように、データ処理システム8には、通信のためにシステムの相互接続12によって結合された、複数(たとえば64個)の処理ユニット10が含まれる。図1の実施形態に示されているように、処理ユニット10には、例示のために4つのプロセッサ・ユニット1から4が含まれるが、好ましい実施形態は、処理ユニットのどの個数にも制限されず、本発明は、任意の数またはタイプのプロセッサ・ユニットをサポートする。本発明は、たとえば、2個、4個、8個、16個、32個などの、マルチプロセッサ・システム内のプロセッサを含む、任意の数のプロセッサ・ユニットを有するデータ処理システムで実施することができる。各処理ユニット10は、1つまたは複数のプロセッサ・コア14を含む集積回路である。プログラム命令を実行するのに使用されるレジスタ、命令フロー論理、および実行ユニットのほかに、プロセッサ・コア14のそれぞれに、関連するレベル1(L1)命令キャッシュ16およびL1データ・キャッシュ18が含まれ、このそれぞれによって、関連するプロセッサ・コア14によってアクセスされる可能性が高い命令およびオペランド・データが一時的にバッファリングされる。
さらに図1からわかるように、データ処理システム8のメモリ階層に、物理メモリ21も含まれ、この物理メモリ21には、メモリ階層の最下位レベルの揮発性データ・ストレージを形成する1つまたは複数のメモリ・モジュール(メモリ・モジュール36、38、および40として図示)が含まれ、データ処理システム8のメモリ階層に、オンチップ・レベル2(L2)キャッシュ20などの1つまたは複数の下位レベルのキャッシュ・メモリが含まれ、このオンチップL2キャッシュ20は、物理メモリ21からプロセッサ・コア14への命令およびオペランド・データをステージングするのに使用される。当業者が理解するとおり、メモリ階層の各連続する下位レベルは、通常は、上位レベルより大量のデータをストアすることができるが、より大きいアクセス待ち時間を有する。図からわかるように、物理メモリ21は、メモリ・コントローラ30、32、および34によって相互接続12にインターフェースされるが、物理メモリ21に、1つまたは複数のオペレーティング・システムおよび1つまたは複数のアプリケーション・プログラムのオペランド・データおよび諸部分をストアすることができる。メモリ・コントローラ30、32、および34は、それぞれ、対応するメモリ・モジュール36、38、および40に結合され、これらを制御する。
入出力コネクタ52も図示されているが、この入出力コネクタ52は、メモリ・システムへの直接メモリ・アクセス動作を実行する時に、処理ユニット10に似た形で動作する。諒解されるとおり、このシステムは、入出力コネクタ52と等しい、相互接続12に接続された追加の入出力コネクタを有することができる。ディスク・ドライブおよびビデオ・モニタなどのさまざまな入出力装置が、PCIバス58(または他の類似する接続されたバス)に追加され、除去される時に、入出力コネクタ52は、PCIバス58と相互接続12の間でブリッジ54を介してデータを転送するように動作する。
当業者は、データ処理システム8に、入出力アダプタ、相互接続ブリッジ、不揮発性ストレージ、ネットワークまたは接続された装置への接続用のポートなど、多数の追加の図示されていない構成要素を含められることを諒解するであろう。そのような追加構成要素は、本発明の理解に必要でないので、図1に図示せず、本明細書ではこれ以上説明しない。しかし、本発明によって提供される機能強化が、あらゆるアーキテクチャのデータ処理装置に適用可能であり、図1に示された一般化されたMPアーキテクチャに全く制限されないことも理解されたい。
好ましい実施形態によれば、プロセッサ・ユニット1から4のそれぞれに、プロセッサ通信レジスタ(PCR)22、24、26、および28が含まれる。各PCR22から28には、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整するのに使用されるプロセッサ通信情報など、マルチプロセッサ・システムのプロセッサに有用な同一の情報がストアされる。各PCR22から28は、関連するプロセッサ・ユニットが読み取ることのできる4バイト・レジスタであるが、4つのバイトのそれぞれは、4つのプロセッサ・ユニット1から4の関連する1つだけによるストアのために排他的に割り振られる(代替実施形態では、PCRが、それぞれが4バイト幅の32個のセクタを有する)。動作中に、各プロセッサ・ユニット1から4は、それ自体のPCRの内容に継続的にアクセスでき、それ自体のPCRおよび他のPCRのそれぞれの排他的なセクタに、ストアスルーすることができる。言い換えると、データ処理システム内の各プロセッサ・ユニットは、プロセッサ・ユニットのそれぞれに含まれる各PCRに書き込むが、PCRのそのプロセッサ・ユニット専用の部分だけに書き込む。プロセッサ・ユニットの動作によって、各PCR22から28が、PCRのすべての各プロセッサのセクタを更新する各プロセッサによって継続的に更新され、これによって、プロセッサ・ユニット1から4のそれぞれが、PCRデータ内の変化を即座に見られるようになる。たとえば、本発明の一実施形態では、プロセッサ・ユニット1が、それ自体のPCR22に含まれるデータを変更することと、その後、プロセッサ・ユニット2から4のそれぞれのPCRに向けられたライトスルー・コマンドを、キャッシュ・サブシステム(L1キャッシュおよびL2キャッシュを含む)を完全にバイパスして、相互接続12を介して送ることによって、PCR内のそのセクタに対する変更を行う。プロセッサ・ユニット1のストアスルー・コマンドは、それに割り振られたセクタだけをアドレッシングし、このアドレスは、各PCR22から28の4バイトの最初のバイトである。たとえば、プロセッサ・ユニット3は、他のプロセッサ・ユニット1、2、および4のそれぞれにストアスルー・コマンドを送り、このコマンドは、各PCR内で3番目のバイトにアドレッシングされる。PCR22から28が、レジスタに保持される特定のバイト数または特定のプロセッサに割り振られる特定の数のレジスタ・バイトに制限されないことと、代替実施形態で、PCR22から28が、任意のバイト数を保持でき、あるいは特定のプロセッサに任意の数のレジスタ・バイトを割り振ることができることを諒解されたい。
諒解されるとおり、本発明は、情報へのアクセスを一瞬制限するか、すべてのプロセッサに同一のキャッシュ・ラインについて継続的に競争させる(通常は、ロード・コマンド、ストア・コマンド、および無効化コマンドの絶え間ない嵐で相互接続およびメモリ・システムを圧倒する)ことなく、プロセッサ通信をすべてのプロセッサに即座に転送できるようにすることによって、マルチプロセッサ・システム内での効率を実質的に高める。
好ましい実施形態は、マルチプロセッサ・システムがパイプライン化された処理または並列処理を実行しているアプリケーションに特に有用である。たとえば、従来技術では、プロセッサが、パイプライン処理のそのプロセッサの部分を完了した時に、処理のそのステージを完了したことを示すプロセッサ通信情報を、キャッシュ・サブシステムにストアする。パイプラインの次のマイクロプロセッサは、そのキャッシュ・サブシステムを継続的にポーリングし、更新された状況情報を待つ。前のプロセッサが、排他的アクセスを獲得し、キャッシュの状況情報を無効化する時に、次のプロセッサは、メモリまたは前のプロセッサのキャッシュから更新された状況情報を検索し、適当なフラグを検査して、その処理がそのステージの準備ができているかどうかを判定する。諒解されるとおり、相互接続帯域幅のかなりの量が、プロセッサ間通信によって消費される。というのは、すべてのマルチプロセッサが、通信し、処理を調整するために、キャッシュ内のパイプラインに関するプロセッサ通信情報の同一のバイトをロードし、ストアしているからである。
図2に関して、本発明の好ましい実施形態による、データ処理システム8の単純化された図でPCRのそれぞれを相互接続するスターベースのバス構造が示されている。好ましい実施形態では、各PCR22から28が、4つのセクタに分割され、各セクタが、データ処理システム8内の4つのプロセッサの1つに指定され、各セクタに、1バイトの情報が含まれる。諒解されるとおり、PCR22から28を、データ処理システムのプロセッサ・ユニットと同一の数を含む、任意の数(たとえば、2個、4個、8個、16個、32個、64個など)のセクタに分割することができる。さらに、PCR22から28内でセクタごとに割り振られるバイト数は、好ましい実施形態で示されているように1バイトだけに制限されるのではなく、所与のアーキテクチャでプロセッサ通信を提供するのに必要と思われるバイト数に設定することができる。
図2からわかるように、プロセッサ・ユニット1は、いつでもPCR22全体を読み取ることができ、これによって、システム内のすべてのプロセッサからのプロセッサ通信情報への即座のアクセスを有する。同様に、プロセッサ・ユニット2は、PCR24全体をいつでも読み取ることができ、プロセッサ・ユニット3は、PCR26全体をいつでも読み取ることができ、プロセッサ・ユニット4は、PCR28全体をいつでも読み取ることができる。一実施形態では、すべてのPCR内のセクタP1が、プロセッサ・ユニット1によって制御され、すべてのPCR内のセクタP2が、プロセッサ・ユニット2によって制御され、すべてのPCR内のセクタP3が、プロセッサ・ユニット3によって制御され、すべてのPCR内のセクタP4が、プロセッサ・ユニット4によって制御される。セクタを制御するプロセッサ・ユニットだけが、PCR内のそのセクタの更新、修正、またはストアを行うことができる。したがって、たとえば、プロセッサ・ユニット1だけが、PCR22から28内のセクタP1に書き込むことができる。同様に、プロセッサ・ユニット2は、セクタP2を制御し、システム内で、PCR22から28内のセクタP2に書き込むことができる唯一のプロセッサである。同様に、セクタP3およびP4は、それぞれプロセッサ・ユニット3および4によって制御され、制御するプロセッサ・ユニットだけが、PCR22から28内の特定のセクタに書き込むことができる。しかし、すべてのプロセッサ・ユニット1から4が、そのプロセッサ・ユニット内に含まれるPCR内のすべてのセクタを読み取ることができる。
図2からわかるように、相互接続200から206(集合的に相互接続バスとして働く)は、メモリ・システムによって使用される相互接続12をバイパスする、独立である、プロセッサ・ユニット1から4のそれぞれの間の直接バス・リンクである。プロセッサ・ユニット1は、そのPCR22のセクタP1に直接に書き込んで、それ自体のプロセッサ通信情報を更新する。プロセッサ・ユニット1は、相互接続200を介する、他のプロセッサ・ユニット2から4への直接通信リンクも有する。そのプロセッサ通信情報を更新するために書き込む時に、プロセッサ・ユニット1は、相互接続200を介してPCR24から28にライト・スルーし、この相互接続200が、書き込まれたデータを対応するレジスタのP1セクタに直接に移植する。類似する形で、プロセッサ・ユニット2は、プロセッサ情報をそれ自体のPCR24内のセクタP2にライト・スルーし、プロセッサ通信情報を、相互接続202を介してPCR22、26、および28のP2セクタにも直接に送る。プロセッサ・ユニット3は、プロセッサ情報をそれ自体のPCR26内のセクタP3にライト・スルーし、プロセッサ通信情報を、相互接続204を介してPCR22、24、および28のP3セクタにも直接に送る。プロセッサ・ユニット4は、プロセッサ情報をそれ自体のPCR28内のセクタP4にライト・スルーし、プロセッサ通信情報を、相互接続206を介してPCR22、24、および26のP4セクタにも直接に送る。
スターベースのプロセッサ通信相互接続のさまざまな実施形態を、プロセッサ・ユニットのそれぞれのPCRセクタの読取および書込を提供するために実施することができる。図2からわかるように、プロセッサ・ユニットのそれぞれは、PCR内のそのユニットに割り振られたセクタに書き込むことだけができる。これは、これらのセクタだけがプロセッサ・ユニットによってアクセス可能になるように、相互接続200から206の直接ハードワイヤリングを介して実施することができる。その代わりに、相互接続200から206を、データおよびデータのターゲット・アドレスの両方を供給する単一の通信バスまたは複数の通信バスとすることができ、各プロセッサ・ユニットが、レジスタ内の特定のバイトだけをターゲットにすることができるようにする。たとえば、プロセッサ2が、PCR22から28のそれぞれの第2バイトへの書込の権限だけを有する。情報を読み取るために、各プロセッサ・ユニット1から4は、それ自体の内部PCRを読み取る能力を有する。しかし、諒解されるとおり、システム内のプロセッサ・ユニットの数が増えると、相互接続バス・システムの複雑さが、追加されるプロセッサ・ユニットのそれぞれに伴って増える。代替実施形態では、マルチプロセッサ・システム内の他のプロセッサ・ユニットを、スターベースのネットワークに結び付け、プロセッサが別のプロセッサ・ユニットのPCRを読み取れるようにする。たとえば、新しいプロセッサ・ユニット5(図示せず)を、スターベースのネットワークに配線して、レジスタ28を読み取り、プロセッサ・ユニット1から4が使用するものと同一のプロセッサ通信情報を得ることができる。
図3に関して、本発明の好ましい実施形態による、データ処理システム8の単純化された図でPCRのそれぞれを相互接続するリング・バス構造が示されている。リング・バス210は、マルチプロセッサ・システム内のプロセッサ・ユニットが、PCR22から28にストアされた特殊なプロセッサ通信情報を通信できるようにする特殊な通信相互接続である。リング・バス210は、相互接続12によってプロセッサ・ユニット1から4に接続される階層メモリ・システムとは独立である。リング・バス実施形態では、データが、パッケージで渡され、当業者に周知の、トークンパッシング・リングベース・ネットワークが使用される。諒解されるとおり、リング・バスの使用は、非常にスケーラブルであり、データ処理システムに含めることができるプロセッサ・ユニットの数が制限されない。しかし、スターベース相互接続は、各プロセッサが互いに直接に接続されるので、リング・バスより短い待ち時間を有する。
各プロセッサ・ユニット1から4が、PCR22から28のそのユニットのセクタを更新する必要がある時に、対応するプロセッサは、リング・バス210を介して移送される「パッケージ」でストア・コマンドを発行する。パッケージは、相互接続210のリングを通り、リング・バスに接続された他のプロセッサ・ユニット1から4のそれぞれによって受け取られる。リング・バス210を介してパッケージを受け取る各プロセッサ・ユニットは、パッケージに含まれるアドレスをデコードし、PCRの関連するセクタに情報をストアするか、その代わりに、パッケージに含まれる情報に基づいて、どのプロセッサ・ユニットがストア命令を発行したかに関する判断を行い、ストアしたプロセッサに関連するPCRセクタを更新する。リング・バス210での破壊を避けるために、プロセッサ・ユニット1から4は、他のプロセッサからのパッケージにリング・バスを通過させ、その後、パッケージの末尾にペイロードを付加する。
図4および5に関して、それぞれ、本発明の好ましい実施形態による、マルチプロセッサ・システム内のパイプライン処理および並列処理を容易にするのにPCRを使用する例が示されている。パイプライン処理を実行する時に、プロセッサ・ネットワーク内の各プロセッサは、計算の一部に関連する特定のアルゴリズムを実行する責任を負う。通常、パイプライン化された処理では、プロセッサ・ユニットは、前のプロセッサによって処理された情報を受け取り、そのデータに対して処理機能を実行し、その後、処理されたデータを、パイプライン内の次のプロセッサに渡して、データをさらに処理させる。たとえば、データ処理システム8が、16キロバイトのオーディオ・ファイルを処理して、オーディオ・ファイルに対するさまざまな処理ルーチンを実行することができる。たとえば、あるプロセッサが、音量を正規化するルーチンを実行しており、別のプロセッサがピッチを正規化する機能を実施しており、もう1つのプロセッサがオーディオファイルを暗号化している場合がある。そのようなタスクは、パイプライン処理に向いている。
図4には、PCRの内容が示され、各行に、選択された時刻のセクタ(P1、P2、P3、およびP4)の内容が示され、各連続する行によって、異なる時点(t、t、t、およびt)のセクタが表される。時刻tに、各プロセッサ・ユニット1から4は、セクタP1によって、プロセッサ・ユニット1が現在符号「F」のデータを処理していることが示されることを知る。同様に、P2によって、現在符号「E」のデータが処理されていることが示され、P3によって、現在符号「D」のデータが処理されていることが示され、P4によって、現在符号「C」のデータが処理されていることが示され、図4に示されたバイトは、16進表現によって表されている。時刻tに、P1によって、プロセッサ・ユニット1がまだFによって表されるデータを処理していることが示されるが、それぞれE’およびD’によって表されるように、プロセッサ・ユニット2および3は、PCRのP2およびP3を更新して、データEおよびDの処理を完了したことを示している。P4は、更新されていないものとして示され、これによって、プロセッサ・ユニット4が、まだCに関連するデータを処理していることが示される。
時刻tに、プロセッサ・ユニット1が、PCRのP1を更新して、「0」に関連するデータの処理を開始したことを示す。PCR内のP1の更新を見た時に、プロセッサ・ユニット2は、プロセッサ・ユニット1が、Fに関連するデータ・セットに対するルーチンを完了したことを知り、そのデータに対するルーチンを開始できることを知る。プロセッサ・ユニット2は、Fを示すようにPCRのセクタP2を更新し、ルーチンを開始するために、キャッシュ・サブシステムから関連するデータを検索する。同様に、プロセッサ・ユニット3は、プロセッサ・ユニット2が、データ・セットEに対するルーチンを完了し、その制御を解放したことを知り、PCRのセクタP3を更新して、データ・セットEに対する作業を開始したことを示す。プロセッサ・ユニット4は、時刻tに、プロセッサ・ユニット3がデータ・セットDに対する作業を完了したことを知ることができるが、データ・セットCに対するルーチンを完了しておらず、PCRを更新していない。時刻tに、プロセッサ・ユニット1は、データ・セット1を扱っていることを示すようにPCRのセクタP1を更新したことによって示されるとおり、データ・セット0に対するルーチンを完了し、データ・セット1の処理を開始している。同様に、プロセッサ・ユニット2は、データ・セットFに対する作業を完了し、データ・セット0に対する機能の実行を開始している。というのは、プロセッサ・ユニット1によるPCR内のセクタP1に対する更新によって、プロセッサ・ユニット1がデータ・セット0に対する作業を完了したことがわかるからである。時刻tに、プロセッサ・ユニット3は、データ・セットEに対するルーチンを完了しておらず、したがって、PCR内のセクタP3は、更新されていない。プロセッサ・ユニット4は、D’によって示されるように、データ・セットDに対する動作を完了している。プロセッサ3が、まだデータ・セットEに対する処理を完了していないので、プロセッサ4は、そのデータ・セットに対する作業を開始することができず、したがって、PCRを更新していない。
この説明からわかるように、本発明の好ましい実施形態では、システム内の各プロセッサ・ユニットが、他のプロセッサからの、特定のデータ・セットに対する処理を実行している各プロセッサの現在の状況を示すプロセッサ通信情報に即座にアクセスできるようにすることによって、パイプライン処理が容易になる。これによって、データ・セットのパイプライン処理と並行の効率的なプロセッサ通信を介するプロセッサの効率的な調整がもたらされる。
図5に関して、本発明の好ましい実施形態による、並列処理でPCRを使用する例が示されている。この例では、データ処理システム8内の各処理ユニットが、同一の問題の異なる相互関係のある部分を扱っているが、処理されるデータ・セットの間のデータ依存性によって、これらを並列に実行することが必要であり、これによって、データを処理する際の処理ユニット間の調整が必要になる。図5からわかるように、時刻tに、各処理ユニット1から4が、PCR内のセクタを更新して、現在「0」によって表されるデータ・セットを処理していることを示す。時刻tに、P1、P2、およびP4が、更新されて、処理ユニット1、2、および4が、データ・セット1を処理する準備ができたことが示されるが、P3から、処理ユニット3がデータ・セットの処理を継続していることが示される。時刻tの直前に、処理ユニット3がP3を更新して、データ・セット0の処理を完了したことを示す。その時点で、各処理ユニット1から4が、データ・セット1を並列に処理し始める。時刻tに、P1によって、処理ユニット1がデータ・セット1の処理を完了し、データ・セット2の処理を開始する準備ができたことが示される。P2およびP3からは、処理ユニット2および3がデータ・セット1の処理を継続していることが示される。P4から、処理ユニット4が、データ・セット1の処理を完了し、データ・セット2の処理を開始する準備ができたことが示される。時刻tに、処理ユニット2および3が、データ・セット1の処理を完了し、PCRを更新して、データ・セット2を処理し始める準備ができたことを示す。その時点で、各処理ユニット1から4が、データ・セット2の並列の処理を開始する。諒解されるとおり、PCRを用いると、処理ユニット1から4のそれぞれが、PCRのそれぞれにストアされたプロセッサ通信情報に即座にアクセスできることによって、処理ユニットのそれぞれに関する並列処理を更新し、調整するためにキャッシュ・サブシステム相互接続の帯域幅を消費せずに、データ・セットの並列処理を同期化できるようになる。
図6に関して、本発明の好ましい実施形態による、改善されたプロセッサ通信を有するクラスタベースのデータ処理ネットワークが示されている。データ処理システム400には、ネットワーク420によって相互接続されたクラスタ1(C1)、クラスタ2(C2)、およびクラスタ3(C3)が含まれる。各クラスタC1からC3には、リング・バス410によって相互接続された4つのプロセッサ・ユニット401から404が含まれる。各プロセッサ・ユニット401から404には、それぞれ、12バイトのプロセッサ通信情報を含むPCR422から428が含まれる。各クラスタC1からC3には、リング・バス410に接続され、ネットワーク420へのクラスタの相互接続を行うネットワーク・カード406が含まれる。ネットワーク420は、好ましい実施形態のプロセッサ通信に使用されるPCRの間の相互接続を提供するために、少なくとも3つの異なる実施形態すなわち、(1)特殊なデータ・パケットをクラスタの間で伝送できるようにする専用プロトコルを有する標準データ・ネットワーク、(2)PCRにデータをストアするためにのみ使用される独自のインターネット・プロトコル・アドレスを伝送する標準データ・ネットワーク、および(3)PCRへのプロセッサ通信情報の伝送専用の別々のデータ・ネットワークで実施することができる。
ネットワーク420の好ましい実施形態では、ネットワーク420が、ローカル・エリア・ネットワーク(LAN)またはインターネットなどのコンピュータ・システム・データ・ネットワーク内のギガビット・イーサネット(R)・プロトコルまたはIPベース・プロトコルなど、標準ネットワーク・プロトコルの上に階層化された専用プロトコルを使用して実施される。クラスタ・プロセッサと、異なるクラスタに配置された他のプロセッサとの間の通信を提供するために、専用プロトコルを使用する、ポイントツーブロードキャスト・タイプの特殊なパケットが、システム・ネットワークを介して伝送される。好ましい実施形態で使用される際に、ネットワーク420では、一般に、伝送制御プロトコル/インターネット・プロトコル(TCP/IP)などの通信プロトコルを使用して、クラスタC1からC3のそれぞれの間でのデータおよび命令の通信を提供する。ネットワーク・カード406では、クラスタ間通信の受信および送信に、そのクラスタを識別する独自のIPアドレスを使用する。
PCRを更新するために、更新するプロセッサは、リング・バス410を介してストアスルー・コマンドを送って、各PCRのそのプロセッサのセクタを更新する。クラスタ内の他のプロセッサは、プロセッサによって送られるパケット内のアドレスにインデクシングすることによって、それ自体のPCRを更新する。ネットワーク・ユニット406は、コマンドを受け取り、データ処理システム400内の他のクラスタのIPアドレスにアドレッシングされた特殊な専用プロトコルTCP/IPパケットに挿入する。特殊なPCRパケットは、ネットワーク420を介して伝送され、他のクラスタのネットワーク・ユニット406によって受け取られる。ペイロードは、TCP/IPプロトコル・スタックを迂回するという点で他の標準パケットと異なる形でデコードされ、ペイロードは、その代わりに、パケットから単にはぎ取られ、PCR422から428内のアドレッシングされたセクタ(または、ペイロードにセクタの複数の更新が含まれる場合には複数のセクタ)を更新するために、ストアスルー・コマンドとしてリング・バス410を介してプロセッサ・ユニット401から404に転送される。PCR内のセクタのそれぞれは、図7に示されているように、プロセッサ通信情報を更新する送信元クラスタの1つまたは複数のプロセッサ・ユニットに関連する1つまたは複数のセクタにインデクシングすることによってアドレッシングされる。この形で、クラスタC1からC3によって使用される特殊なタイプのIPパケットによって、他のクラスタに含まれるすべてのPCRの更新がもたらされる。
図7に関して、本発明の好ましい実施形態による、クラスタC1からC3のすべてのプロセッサ・ユニットに含まれるPCRのデータ・フォーマットが示されている。各プロセッサ・ユニット401から404に、それぞれPCR422から428が含まれ、これらのPCRには、12バイトのデータが含まれ、これらのデータのそれぞれが、図7に示されているように、指定されたクラスタC1からC3のめいめいのプロセッサP1からP4によって制御される。各プロセッサ・ユニットが、そのPCRに同一のプロセッサ通信情報のそれ自体のコピーを保存するので、最新のプロセッサ通信情報が、すべてのクラスタC1からC3から即座に継続的に使用可能である。あるクラスタのプロセッサ・ユニットが、ネットワーク全体のPCRに含まれるそのユニットのプロセッサ通信情報の更新を必要とする時に、そのプロセッサは、PCR422から428内のそれに割り振られたバイトにアドレッシングされる特殊なライトスルー命令をリング・バス410で発行することによって、PCR内のそのプロセッサが制御するバイトを更新する。たとえば、クラスタC2内で、プロセッサ・ユニット3が、PCR422から428内の第7バイトにストアスルーする。クラスタC2内の他のプロセッサ・ユニットのそれぞれ(プロセッサ・ユニット1、2、および4)は、対応するPCR内の第7バイトの更新を行う。ネットワーク・カード406は、プロセッサ・ユニット3からストアスルー要求を受け取る時に、コマンドをパッケージ化し(必要な場合に)、クラスタC1およびC3のIPアドレスにアドレッシングされたストアスルー・コマンドを、ネットワーク420を介して送信する(実施形態に応じて、1つまたは複数のパケットで)。クラスタC1およびC3のそれぞれは、送信元クラスタC2のIPアドレスを使用することによってストア要求をデコードして、クラスタC2の第3のプロセッサ・ユニット3(P3)がPCRの第7バイトを更新したことを判定する。
図6に戻ると、ネットワーク420のもう1つの好ましい実施形態では、ネットワーク420が、標準ネットワーク・プロトコルの上に階層化された専用プロトコルを使用して実施されるが、各クラスタC1からC3は、PCRの更新だけに使用され、ネットワーク420によってクラスタとの通信に使用される汎用IPアドレスとは独立の独自のIPアドレスを有する。PCRを更新するために、更新するプロセッサは、リング・バス410を介してストアスルー・コマンドを送出して、PCRのセクタを更新する。クラスタ内の、リング・バス410に接続された他のプロセッサは、プロセッサによって送られたパケットのアドレスにインデクシングすることによって、それ自体のPCRを更新する。ネットワーク・ユニット406は、コマンドを受け取り、データ処理システム400の他のクラスタ内のPCRの更新用にとっておかれた独自のIPアドレスにアドレッシングされたTCP/IPパケットに、そのコマンドを挿入する。この特殊なPCRパケットは、ネットワーク420を介して伝送され、PCRの独自のIPアドレスに基づいて、他のクラスタのネットワーク・ユニット406によって受け取られる。ペイロードは、デコードされ、PCR422から428内のアドレッシングされたセクタ(または、ペイロードにセクタの複数の更新が含まれる場合には複数のセクタ)を更新するために、ストアスルー・コマンドとしてリング・バス410を介してプロセッサ・ユニット401から404に転送される。PCR内のセクタのそれぞれは、図7に示されているように、プロセッサ通信情報を更新する送信元クラスタの1つまたは複数のプロセッサ・ユニットに関連する1つまたは複数のセクタにインデクシングすることによってアドレッシングされる。
ネットワーク420のもう1つの好ましい実施形態では、ネットワーク420が、PCR更新専用の別々の専用ネットワークを使用して実施され、この専用ネットワークは、クラスタを相互接続する標準ネットワークと独立である。専用のネットワーク420の1つの好ましい実施形態では、相互接続が、クラスタのそれぞれを互いに相互接続する別々のポイントツーポイント・バスを使用して実施される。ネットワーク・ユニット406は、直接通信を調整し、他のクラスタからのストアスルーを、それに関連するリング・バス410に転送する。専用のネットワーク420のもう1つの好ましい実施形態では、相互接続が、クラスタと通信するための、パケットベース・ネットワークおよび専用プロトコルを使用して実施される。この実施形態では、ギガビット・イーサネット(R)・プロトコルまたはIPベース・プロトコルなどの標準プロトコル、あるいはそのカスタマイズされた変形も使用することができる。この実施形態でPCRを更新するために、更新するプロセッサが、リング・バス410を介してストアスルー・コマンドを送出して、PCRのセクタを更新する。リング・バス410に接続されたクラスタ内の他のプロセッサは、プロセッサによって送られるパケット内のアドレスにインデクシングすることによって、それ自体のPCRを更新する。ネットワーク・ユニット406は、コマンドを受け取り、データ処理システム400内の他のクラスタのPCR更新用にとっておかれた独自のIPアドレスにアドレッシングされたパケットにそのコマンドを挿入する。特殊なPCRパケットは、専用のネットワーク420を介して伝送され、他のクラスタのネットワーク・ユニット406によって受け取られる。ペイロードは、デコードされ、PCR422から428内のアドレッシングされたセクタ(または、ペイロードにセクタの複数の更新が含まれる場合には複数のセクタ)を更新するために、ストアスルー・コマンドとしてリング・バス410を介してプロセッサ・ユニット401から404に転送される。PCR内のセクタのそれぞれは、図7に示されているように、プロセッサ通信情報を更新する送信元クラスタの1つまたは複数のプロセッサ・ユニットに関連する1つまたは複数のセクタにインデクシングすることによってアドレッシングされる。
図8に関して、本発明の好ましい実施形態による、改善されたプロセッサ通信を提供するのに独立の無線ネットワークを使用するデータ処理システムが示されている。データ処理システム500は、複雑なコンピューティングおよび/またはデータ集中型コンピューティングを集合的に実行するために同一位置に配置された複数の相互接続されたサーバ・コンピュータ(一般に、サーバ・ファームと称する)を有する。図8の例では、サーバ・ファーム500が、6つのサーバ(サーバ1から6)からなる。各サーバ1から6に、複数のサーバ・ブレード502および504を含む2つの「ドロワ」が含まれる。諒解されるとおり、各サーバ・ブレード502および504に、複数の対称型マルチプロセッサを含めることができる。好ましい実施形態では、各サーバ・ブレード502および504が、たとえば、図1に示されたデータ処理システム8などのデータ処理システムを用いて構成され、このデータ処理システムは、サーバ・ブレードの各プロセッサに含まれる各プロセッサ通信レジスタ間の通信にリングベースの相互接続を使用する(たとえば、図3に示されているように)複数のプロセッサを用いて構成される。諒解されるとおり、サーバ・ファーム500は、例示のみのために6つのサーバを有するものとして示されているが、サーバの特定の台数に制限されない。さらに諒解されるとおり、各サーバ・ブレード502および504に、任意の個数のプロセッサ(たとえば、2個、4個、8個、16個、32個など)を含めることができ、図3に示されている4つのプロセッサには制限されない。
本発明の好ましい実施形態によれば、サーバ1から6のサーバ・ブレード502は、図6に示された、プロセッサ・ユニット401から404内のPCRおよびネットワーク・カード406がリング・バス410によって相互接続されるのと同一の形で、サーバ・ブレード502内のプロセッサ・ユニット(図示せず)のそれぞれに含まれるPCR(図示せず)を無線ネットワーク・カード506に相互接続するリングベース・バス(図示せず)を有する。無線ネットワーク・カード506は、サーバ・ファーム500内の無線ネットワーク・カード506および510を、アンテナ508を介する伝送を介して無線ネットワーク514上で相互接続することを除いて、図6のネットワーク・カード406と同一の形で動作する。同様に、サーバ・ブレード504は、サーバ・カード・プロセッサ内のPCRのそれぞれを相互接続するリング・ネットワークを使用して無線ネットワーク・カード510と相互接続される。無線ネットワーク・カード510は、アンテナ512を介して無線ネットワーク514と無線通信する。同一の形で、サーバ1から6のサーバ・ブレード502および504のそれぞれが、無線ネットワーク514に相互接続されて、12個の別々のクラスタ(12個のサーバ・ドロワからなる)を有するクラスタベース・ネットワークが作成される。
サーバ・ファーム500内の各クラスタは、ネットワークのクラスタ400と同一の形で、PCRに含まれるめいめいのプロセッサ通信情報を更新する。しかし、この場合には、PCR内のプロセッサ通信情報を更新するクラスタのそれぞれの通信が、無線ネットワークを介して行われる。各無線ネットワーク・カード506および510は、すべての指定された周波数をlistenし、サーバ・ファーム500内の別のクラスタによるPCRに対する更新を待つ。周波数分割多重(FDM)を使用する実施形態では、クラスタが、そのPCRを更新するために他のクラスタにライトスルーする必要がある時に、そのクラスタの独自の周波数でストアスルー情報を送信する。サーバ・ファーム500内の他のクラスタは、その特定の周波数で送信せず、これによって、PCRのセクタに書き込む権限を有する特定のクラスタ内の特定のプロセッサが一意に識別され、複雑なIPベースのアドレッシングおよびプロトコルは不要である。たとえば、好ましい実施形態では、各無線ネットワーク・カード506および510のそれぞれが、直交FDMを使用するIEEE 802.11(a)プロトコルなどの標準無線ネットワーク・プロトコルを使用して互いに通信する。代替の好ましい実施形態では、無線ネットワークで、時分割多重(TDM)伝送システムまたは符号分割多重(CDM)伝送システムが使用される。
代替の好ましい実施形態では、各サーバ・ブレード502および504自体に、無線ネットワーク・カードが含まれ、この無線ネットワーク・カードは、リング・バスを介してサーバ・ブレードのプロセッサに相互接続され、無線ネットワーク514介して無線でサーバ・ファーム500内の他のすべてのサーバ・ブレードと通信する。たとえば、各サーバ・ブレード502および504は、図6に示されたクラスタC1として構成されるが、ネットワーク・カード406が、無線機能を使用可能にされて、ネットワーク420を介する他のクラスタとの相互接続通信をもたらす。諒解されるとおり、無線ネットワーク接続を使用して、プロセッサ通信情報を提供するサーバ・ファーム実施形態では、複雑なプロトコル・スタックおよびリングベースのクラスタ・ネットワークの待ち時間遅延を迂回することによって、PCR更新処理の速度がかなり高くなる。
本発明を、好ましい実施形態に関して具体的に図示し、説明してきたが、当業者は、本発明の趣旨および範囲から逸脱せずに、形態および詳細においてさまざまな変更を行えることを理解するであろう。
まとめとして、本発明の構成に関して以下の事項を開示する。
(1)ネットワークによって相互接続された複数のプロセッサ・クラスタを含むマルチプロセッサ・システムでのプロセッサ通信の方法であって、前記マルチプロセッサ・システムが、前記複数のプロセッサ・クラスタにプロセッサ通信レジスタ(PCR)内にストアされた情報への継続的アクセスを提供する少なくとも1つのPCRを含み、前記方法が、
物理メモリ・アクセスなしで前記複数のプロセッサ・クラスタの2つのプロセッサ・クラスタのそれぞれで前記PCRの1つまたは複数のセクタから情報を検索するステップであって、前記1つまたは複数のセクタの1つが、前記複数のプロセッサ・クラスタ内の関連する1つだけによってストアされるように割り振られる、ステップと、
前記関連するプロセッサ・クラスタから前記ネットワークを介して送られる情報を前記PCRで受け取るステップと、
前記関連するプロセッサ・クラスタによるストアのために割り振られた前記PCRの前記セクタに前記受け取られた情報を保管するステップと
を含む方法。
(2)さらに、前記複数のプロセッサ・クラスタの前記関連するプロセッサ・クラスタから前記ネットワークを介して前記情報を送るステップを含む、上記(1)に記載の方法。
(3)さらに、前記複数のクラスタの少なくとも2つのプロセッサ・クラスタが、前記PCRから同時に情報を検索する、上記(1)に記載の方法。
(4)さらに、前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、上記(1)に記載の方法。
(5)さらに、前記1つまたは複数のセクタのセクタのそれぞれが、前記複数のプロセッサ・クラスタ内の関連する1つだけによるストアのために排他的に割り振られる、上記(1)に記載の方法。
(6)マルチプロセッサ・システムであって、
複数のプロセッサ・クラスタと、
複数のセクタを有するプロセッサ通信レジスタ(PCR)であって、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記PCRへのアクセスを有し、前記複数のセクタの各セクタにストアされた情報を検索でき、前記複数のセクタのセクタが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために割り振られ、セクタがそれに関連するプロセッサ・クラスタによって更新される時に、各プロセッサ・クラスタが前記更新された情報への即時アクセスを使用可能にされるように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記複数のセクタ内のそれに関連するセクタを更新する、プロセッサ通信レジスタと
を含むマルチプロセッサ・システム。
(7)前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、上記(6)に記載のマルチプロセッサ・システム。
(8)前記複数のセクタの前記セクタのそれぞれが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、上記(6)に記載のマルチプロセッサ・システム。
(9)前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記複数のセクタの各更新されたセクタにストアされた情報をシステム・メモリから検索せずに、そのような情報へのアクセスを有するように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、そのプロセッサ・クラスタに関連するPCR内の各セクタを更新する、上記(6)に記載のマルチプロセッサ・システム。
(10)ネットワークによって相互接続された複数のプロセッサ・クラスタを含むマルチプロセッサ・システムでのプロセッサ通信の方法であって、各プロセッサ・クラスタが、そのプロセッサ・クラスタ内の1つまたは複数のプロセッサにプロセッサ通信レジスタ(PCR)にストアされた情報への継続的なアクセスを提供する少なくとも1つのPCRを含み、前記方法が、
前記複数のプロセッサ・クラスタのプロセッサ・クラスタに含まれるPCRの1つまたは複数のセクタから情報を検索するステップであって、前記セクタの1つが、前記複数のプロセッサ・クラスタ内の関連するプロセッサ・クラスタだけによるストアのために割り振られる、ステップと、
前記ネットワークを介して前記関連するプロセッサ・クラスタから送られる情報を前記プロセッサ・クラスタで受け取るステップと、
前記関連するプロセッサ・クラスタによるストアのために割り振られたセクタに、前記受け取られた情報をストアするステップと
を含む方法。
(11)さらに、前記複数のプロセッサ・クラスタの前記関連するプロセッサ・クラスタから前記ネットワークを介して前記情報を送るステップを含む、上記(10)に記載の方法。
(12)さらに、前記複数のクラスタの少なくとも2つのプロセッサ・クラスタが、そのめいめいのPCRから情報を同時に検索する、上記(10)に記載の方法。
(13)同一の情報が、前記複数のプロセッサ・クラスタに含まれる各PCRに含まれる、上記(10)に記載の方法。
(14)さらに、前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、上記(10)に記載の方法。
(15)さらに、前記1つまたは複数のセクタの前記セクタのそれぞれが、前記複数のプロセッサ・クラスタ内の関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、上記(10)に記載の方法。
(16)さらに、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、それ自体のPCRに保管された情報をシステム・メモリからロードすることなく、そのような情報へのアクセスを有するように、各PCR内の各セクタを継続的に更新するステップを含む、上記(10)に記載の方法。
(17)マルチプロセッサ・システムであって、
複数のプロセッサ・クラスタであって、各プロセッサ・クラスタが、複数のセクタを有するプロセッサ通信レジスタ(PCR)を含み、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、そのPCRへのアクセスを有し、前記複数のセクタの各セクタにストアされた情報を検索でき、前記複数のプロセッサ・クラスタの各PCR内の前記複数のセクタのセクタが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために割り振られ、セクタがそれに関連するプロセッサ・クラスタによって更新される時に、PCRを含む各プロセッサ・クラスタが、前記更新された情報への即時アクセスを使用可能にされるように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、各PCR内の前記複数のセクタ内のそれに関連するセクタを更新する、複数のプロセッサ・クラスタ
を含むマルチプロセッサ・システム。
(18)前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、上記(17)に記載のマルチプロセッサ・システム。
(19)前記複数のセクタの前記セクタのそれぞれが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、上記(17)に記載のマルチプロセッサ・システム。
(20)前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記複数のセクタの各更新されたセクタにストアされた情報をシステム・メモリから検索せずに、そのような情報へのアクセスを有するように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、そのプロセッサ・クラスタに関連する前記複数のプロセッサ・クラスタ内の各PCR内の各セクタを更新する、上記(17)に記載のマルチプロセッサ・システム。
(21)同一の情報が、前記複数のプロセッサ・クラスタに含まれる各PCRに含まれる、上記(17)に記載のマルチプロセッサ・システム。
本発明の好ましい実施形態による、マイクロプロセッサ通信をサポートするマルチプロセッサ・データ処理システムの高水準ブロック図である。 本発明の好ましい実施形態による、データ処理システムの単純化された図でPCRのそれぞれを相互接続するスターベースのバス構造を示す図である。 本発明の好ましい実施形態による、データ処理システムの単純化された図でPCRのそれぞれを相互接続するリングベースのバス構造を示す図である。 本発明の好ましい実施形態による、マルチプロセッサ・システム内のパイプライン処理を容易にするのにPCRを使用する例を示す図である。 本発明の好ましい実施形態による、マルチプロセッサ・システム内の並列処理を容易にするのにPCRを使用する例を示す図である。 本発明の好ましい実施形態による、改善されたプロセッサ通信を有するクラスタベースのデータ処理ネットワークを示す図である。 本発明の好ましい実施形態による、クラスタC1からC3のすべてのプロセッサ・ユニットに含まれるプロセッサ通信レジスタのデータ・フォーマットを示す図である。 本発明の好ましい実施形態による、改善されたプロセッサ通信を提供するのに独立の無線ネットワークを使用するデータ処理システムを示す図である。
符号の説明
12 相互接続
22 プロセッサ通信レジスタ(PCR)
24 プロセッサ通信レジスタ(PCR)
26 プロセッサ通信レジスタ(PCR)
28 プロセッサ通信レジスタ(PCR)
30 メモリ・コントローラ
32 メモリ・コントローラ
34 メモリ・コントローラ
36 メモリ・モジュール
38 メモリ・モジュール
40 メモリ・モジュール
200 相互接続
202 相互接続
204 相互接続
206 相互接続
210 リング・バス

Claims (21)

  1. ネットワークによって相互接続された複数のプロセッサ・クラスタを含むマルチプロセッサ・システムでのプロセッサ通信の方法であって、前記マルチプロセッサ・システムが、前記複数のプロセッサ・クラスタにプロセッサ通信レジスタ(PCR)内にストアされた情報への継続的アクセスを提供する少なくとも1つのPCRを含み、前記複数のプロセッサ・クラスタのそれぞれは複数のプロセッサを有し、前記複数のプロセッサのそれぞれは第1の相互接続を介して物理メモリに接続され、前記複数のプロセッサの夫々は、前記複数のプロセッサの1つのプロセッサに含まれるPCRと前記複数のプロセッサの関連するプロセッサに含まれるPCRとを相互に接続し且つ前記第1の相互接続をバイパスする第2の相互接続で継続的に情報を送ることができ、
    前記方法が、
    物理メモリ・アクセスなしで前記複数のプロセッサ・クラスタの2つのプロセッサ・クラスタのそれぞれで前記PCRのセクタの1つまたは複数から情報を検索するステップであって、前記セクタの1つまたは複数の1つが前記複数のプロセッサ・クラスタ内の関連する1つだけによってストアされるように割り振られる、前記探索するステップと、
    前記関連するプロセッサ・クラスタから前記ネットワークを介して送られる情報を前記PCRで受け取るステップと、
    前記関連するプロセッサ・クラスタによるストアのために割り振られた前記PCRの前記セクタに前記受け取られた情報をストアするステップと
    を含む方法。
  2. さらに、前記複数のプロセッサ・クラスタの前記関連するプロセッサ・クラスタから前記ネットワークを介して前記情報を送るステップを含む、請求項1に記載の方法。
  3. さらに、前記複数のクラスタの少なくとも2つのプロセッサ・クラスタが、前記PCRから同時に情報を検索する、請求項1に記載の方法。
  4. さらに、前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、請求項1に記載の方法。
  5. さらに、前記セクタの1つまたは複数のそれぞれが、前記複数のプロセッサ・クラスタ内の関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、請求項1に記載の方法。
  6. マルチプロセッサ・システムであって、
    複数のプロセッサ・クラスタを含み、
    前記複数のプロセッサ・クラスタのそれぞれは複数のプロセッサを有し、前記複数のプロセッサのそれぞれは第1の相互接続を介して物理メモリに接続され、前記複数のプロセッサの夫々は、前記複数のプロセッサの1つのプロセッサに含まれるプロセッサ通信レジスタ(PCR)と前記複数のプロセッサの関連するプロセッサに含まれるPCRとを相互に接続し且つ前記第1の相互接続をバイパスする第2の相互接続で継続的に情報を送ることができ、前記PCRは1つまたは複数のセクタを有し、
    前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記PCRへのアクセスを有し、前記1つまたは複数のセクタの各セクタにストアされた情報を検索でき、前記1つまたは複数のセクタのセクタが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために割り振られ、セクタがそれに関連するプロセッサ・クラスタによって更新されるときに、各プロセッサ・クラスタが前記更新された情報への即時アクセスを使用可能にされるように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、ネットワークを介して送られる情報により、前記1つまたは複数のセクタ内のそれに関連するセクタを継続的に更新する
    マルチプロセッサ・システム。
  7. 前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、請求項6に記載のマルチプロセッサ・システム。
  8. 前記1つまたは複数のセクタの前記セクタのそれぞれが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、請求項6に記載のマルチプロセッサ・システム。
  9. 前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記1つまたは複数のセクタの各更新されたセクタにストアされた情報をシステム・メモリから検索せずに、そのような情報へのアクセスを有するように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、そのプロセッサ・クラスタに関連するPCR内の各セクタを更新する、請求項6に記載のマルチプロセッサ・システム。
  10. ネットワークによって相互接続された複数のプロセッサ・クラスタを含むマルチプロセッサ・システムでのプロセッサ通信の方法であって、各プロセッサ・クラスタが、そのプロセッサ・クラスタ内の1つまたは複数のプロセッサにプロセッサ通信レジスタ(PCR)にストアされた情報への継続的なアクセスを提供する少なくとも1つのPCRを含み、前記複数のプロセッサ・クラスタのそれぞれは複数のプロセッサを有し、前記複数のプロセッサのそれぞれは第1の相互接続を介して物理メモリに接続され、前記複数のプロセッサの夫々は、前記複数のプロセッサの1つのプロセッサに含まれるPCRと前記複数のプロセッサの関連するプロセッサに含まれるPCRとを相互に接続し且つ前記第1の相互接続をバイパスする第2の相互接続で継続的に情報を送ることができ、
    前記方法が、
    前記複数のプロセッサ・クラスタのプロセッサ・クラスタに含まれるPCRのセクタの1つまたは複数から情報を検索するステップであって、前記セクタの1つが前記複数のプロセッサ・クラスタ内の関連するプロセッサ・クラスタだけによってストアされるように割り振られる、前記探索するステップと、
    前記関連するプロセッサ・クラスタから前記ネットワークを介して送られる情報を前記プロセッサ・クラスタで受け取るステップと、
    前記関連するプロセッサ・クラスタによるストアのために割り振られた前記プロセッサ・クラスタのセクタに前記受け取られた情報をストアするステップと
    を含む方法。
  11. さらに、前記複数のプロセッサ・クラスタの前記関連するプロセッサ・クラスタから前記ネットワークを介して前記情報を送るステップを含む、請求項10に記載の方法。
  12. さらに、前記複数のクラスタの少なくとも2つのプロセッサ・クラスタが、そのめいめいのPCRから同時に情報を検索する、請求項10に記載の方法。
  13. 同一の情報が、前記複数のプロセッサ・クラスタに含まれる各PCRに含まれる、請求項10に記載の方法。
  14. さらに、前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、請求項10に記載の方法。
  15. さらに、前記セクタの1つまたは複数のそれぞれが、前記複数のプロセッサ・クラスタ内の関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、請求項10に記載の方法。
  16. さらに、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、それ自体のPCRにストアされた情報をシステム・メモリからロードすることなく、そのような情報へのアクセスを有するように、各PCR内の各セクタを継続的に更新するステップを含む、請求項10に記載の方法。
  17. マルチプロセッサ・システムであって、
    複数のプロセッサ・クラスタを含み、
    前記複数のプロセッサ・クラスタのそれぞれは複数のプロセッサを有し、前記複数のプロセッサのそれぞれは第1の相互接続を介して物理メモリに接続され、前記複数のプロセッサの夫々は、前記複数のプロセッサの1つのプロセッサに含まれるプロセッサ通信レジスタ(PCR)と前記複数のプロセッサの関連するプロセッサに含まれるPCRとを相互に接続し且つ前記第1の相互接続をバイパスする第2の相互接続で継続的に情報を送ることができ、
    各プロセッサ・クラスタが、1つまたは複数のセクタを有するPCRを含み、各プロセッサ・クラスタが、そのPCRへのアクセスを有し、前記1つまたは複数のセクタの各セクタにストアされた情報を検索でき、前記複数のプロセッサ・クラスタの各PCR内の前記1つまたは複数のセクタのセクタが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために割り振られ、セクタがそれに関連するプロセッサ・クラスタによって更新されるときに、PCRを含む各プロセッサ・クラスタが、前記更新された情報への即時アクセスを使用可能にされるように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、ネットワークを介して送られる情報により、各PCR内の前記1つまたは複数のセクタ内のそれに関連するセクタを継続的に更新する
    マルチプロセッサ・システム。
  18. 前記情報が、パイプライン化されたマルチプロセッシングまたは並列マルチプロセッシングを調整する際に前記複数のプロセッサ・クラスタにとって有用である、請求項17に記載のマルチプロセッサ・システム。
  19. 前記セクタの1つまたは複数の前記セクタのそれぞれが、前記複数のプロセッサ・クラスタの関連するプロセッサ・クラスタだけによるストアのために排他的に割り振られる、請求項17に記載のマルチプロセッサ・システム。
  20. 前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、前記1つまたは複数のセクタの各更新されたセクタにストアされた情報をシステム・メモリから検索せずに、そのような情報へのアクセスを有するように、前記複数のプロセッサ・クラスタの各プロセッサ・クラスタが、そのプロセッサ・クラスタに関連する前記複数のプロセッサ・クラスタ内の各PCR内の各セクタを更新する、請求項17に記載のマルチプロセッサ・システム。
  21. 同一の情報が、前記複数のプロセッサ・クラスタに含まれる各PCRに含まれる、請求項17に記載のマルチプロセッサ・システム。
JP2003390006A 2002-12-12 2003-11-19 クラスタベースのマルチプロセッサ・システムでのマイクロプロセッサ通信の方法およびデータ処理システム Expired - Fee Related JP3836839B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/318,516 US7359932B2 (en) 2002-12-12 2002-12-12 Method and data processing system for microprocessor communication in a cluster-based multi-processor system

Publications (2)

Publication Number Publication Date
JP2004192621A JP2004192621A (ja) 2004-07-08
JP3836839B2 true JP3836839B2 (ja) 2006-10-25

Family

ID=32506372

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003390006A Expired - Fee Related JP3836839B2 (ja) 2002-12-12 2003-11-19 クラスタベースのマルチプロセッサ・システムでのマイクロプロセッサ通信の方法およびデータ処理システム

Country Status (3)

Country Link
US (2) US7359932B2 (ja)
JP (1) JP3836839B2 (ja)
CN (1) CN1270242C (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7493417B2 (en) * 2002-12-12 2009-02-17 International Business Machines Corporation Method and data processing system for microprocessor communication using a processor interconnect in a multi-processor system
US7359932B2 (en) * 2002-12-12 2008-04-15 International Business Machines Corporation Method and data processing system for microprocessor communication in a cluster-based multi-processor system
US7356568B2 (en) * 2002-12-12 2008-04-08 International Business Machines Corporation Method, processing unit and data processing system for microprocessor communication in a multi-processor system
US7360067B2 (en) * 2002-12-12 2008-04-15 International Business Machines Corporation Method and data processing system for microprocessor communication in a cluster-based multi-processor wireless network
US8054314B2 (en) * 2005-05-27 2011-11-08 Ati Technologies, Inc. Applying non-homogeneous properties to multiple video processing units (VPUs)
CN102446156B (zh) * 2011-09-14 2014-06-25 中国科学院计算技术研究所 用于并行多处理器系统的通信行为获取装置
WO2013089736A1 (en) * 2011-12-15 2013-06-20 Intel Corporation IMPLEMENTING AN INTER-PROCESSOR COMMUNICATION IN A MULTI-CORE SYSTEM USING mmWAVE RADIOS
US9292464B2 (en) 2012-12-13 2016-03-22 Coherent Logix, Incorporated Multiprocessor system with improved secondary interconnection network
CN106445877B (zh) * 2016-11-03 2019-03-15 北京爱其科技有限公司 一种基于多个微处理器的集群运算方法
TWI720345B (zh) * 2018-09-20 2021-03-01 威盛電子股份有限公司 多核心系統的內連線結構

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5050070A (en) * 1988-02-29 1991-09-17 Convex Computer Corporation Multi-processor computer system having self-allocating processors
CA2000245C (en) * 1988-10-08 1996-07-16 Hideo Hayashi Multiprocessor system using communication register having processor-associated storage locations
JPH0630094B2 (ja) 1989-03-13 1994-04-20 インターナショナル・ビジネス・マシーンズ・コーポレイション マルチプロセツサ・システム
EP0665503A3 (en) * 1994-01-28 1996-01-17 Nec Corp High speed synchronization communication control mechanism for a multiprocessor system.
JP2766217B2 (ja) * 1994-06-14 1998-06-18 甲府日本電気株式会社 並列処理装置
JP2731742B2 (ja) 1995-02-28 1998-03-25 甲府日本電気株式会社 クラスタ構成の並列計算機
EP0730237A1 (en) 1995-02-28 1996-09-04 Nec Corporation Multi-processor system with virtually addressable communication registers and controlling method thereof
JP3429631B2 (ja) 1996-09-09 2003-07-22 富士通株式会社 並列計算機システム
US6145007A (en) 1997-11-14 2000-11-07 Cirrus Logic, Inc. Interprocessor communication circuitry and methods
US6154785A (en) 1998-07-17 2000-11-28 Network Equipment Technologies, Inc. Inter-processor communication system
JP4051788B2 (ja) 1998-12-24 2008-02-27 株式会社日立製作所 マルチプロセッサシステム
JP3858492B2 (ja) 1998-12-28 2006-12-13 株式会社日立製作所 マルチプロセッサシステム
US6516403B1 (en) 1999-04-28 2003-02-04 Nec Corporation System for synchronizing use of critical sections by multiple processors using the corresponding flag bits in the communication registers and access control register
JP2000342136A (ja) 1999-06-03 2000-12-12 Ryobi Ltd 釣用リールカバー
US6886038B1 (en) 2000-10-24 2005-04-26 Microsoft Corporation System and method for restricting data transfers and managing software components of distributed computers
US6785684B2 (en) 2001-03-27 2004-08-31 International Business Machines Corporation Apparatus and method for determining clustering factor in a database using block level sampling
JP2003271574A (ja) * 2002-03-14 2003-09-26 Hitachi Ltd 共有メモリ型マルチプロセッサシステムにおけるデータ通信方法
US7493417B2 (en) 2002-12-12 2009-02-17 International Business Machines Corporation Method and data processing system for microprocessor communication using a processor interconnect in a multi-processor system
US7359932B2 (en) * 2002-12-12 2008-04-15 International Business Machines Corporation Method and data processing system for microprocessor communication in a cluster-based multi-processor system
US7356568B2 (en) 2002-12-12 2008-04-08 International Business Machines Corporation Method, processing unit and data processing system for microprocessor communication in a multi-processor system
US7360067B2 (en) 2002-12-12 2008-04-15 International Business Machines Corporation Method and data processing system for microprocessor communication in a cluster-based multi-processor wireless network

Also Published As

Publication number Publication date
JP2004192621A (ja) 2004-07-08
US7818364B2 (en) 2010-10-19
CN1270242C (zh) 2006-08-16
US20040117511A1 (en) 2004-06-17
US20080091918A1 (en) 2008-04-17
US7359932B2 (en) 2008-04-15
CN1506838A (zh) 2004-06-23

Similar Documents

Publication Publication Date Title
JP3836838B2 (ja) マルチプロセッサ・システムでのプロセッサ相互接続を使用するマイクロプロセッサ通信の方法およびデータ処理システム
JP3836840B2 (ja) マルチプロセッサ・システム
US7698373B2 (en) Method, processing unit and data processing system for microprocessor communication in a multi-processor system
US7818364B2 (en) Method and data processing system for microprocessor communication in a cluster-based multi-processor system
US5864738A (en) Massively parallel processing system using two data paths: one connecting router circuit to the interconnect network and the other connecting router circuit to I/O controller
JP5085758B2 (ja) 通信プロトコルにおけるパケット・サイズの削減
TW544589B (en) Loosely coupled-multi processor server
US9535873B2 (en) System, computer-implemented method and computer program product for direct communication between hardward accelerators in a computer cluster
EP3885918B1 (en) System, apparatus and method for performing a remote atomic operation via an interface
US7552232B2 (en) Speculative method and system for rapid data communications
US20040093390A1 (en) Connected memory management
US20170315726A1 (en) Distributed Contiguous Reads in a Network on a Chip Architecture
TW200540622A (en) A method and system for coalescing coherence messages
US7073004B2 (en) Method and data processing system for microprocessor communication in a cluster-based multi-processor network
KR100841130B1 (ko) 상호접속 네트워크를 통한 효율적인 순서화 저장을 위한방법 및 장치
CN117632842A (zh) 粗粒度可配置阵列处理器中的上下文加载机制
CN117435549A (zh) 用于硬件组件之间的通信的方法和系统
KR20020017077A (ko) 클러스터 파일 시스템 및 시스템내의 매핑 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060327

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060327

RD12 Notification of acceptance of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7432

Effective date: 20060327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060718

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20060718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060727

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100804

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110804

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees