JP2002116954A - キャッシュシステム - Google Patents
キャッシュシステムInfo
- Publication number
- JP2002116954A JP2002116954A JP2000305862A JP2000305862A JP2002116954A JP 2002116954 A JP2002116954 A JP 2002116954A JP 2000305862 A JP2000305862 A JP 2000305862A JP 2000305862 A JP2000305862 A JP 2000305862A JP 2002116954 A JP2002116954 A JP 2002116954A
- Authority
- JP
- Japan
- Prior art keywords
- cache
- memory
- cache tag
- tag
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000015654 memory Effects 0.000 claims abstract description 151
- 238000000034 method Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 abstract description 27
- 238000010586 diagram Methods 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 230000001427 coherent effect Effects 0.000 description 2
- 238000001693 membrane extraction with a sorbent interface Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0844—Multiple simultaneous or quasi-simultaneous cache accessing
- G06F12/0855—Overlapped cache accessing, e.g. pipeline
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
- G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
- G06F12/0806—Multiuser, multiprocessor or multiprocessing cache systems
- G06F12/0815—Cache consistency protocols
- G06F12/0831—Cache consistency protocols using a bus scheme, e.g. with bus monitoring or watching means
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
テンシを軽減し、コンピュータシステムのトランザクシ
ョン処理に要するレイテンシの削減を図る。 【解決手段】 キャッシュタグメモリ260の一部を格
納するキャッシュタグバッファ270を用意する。キャ
ッシュ制御回路280は、プロセッサ10からメモリ処
理要求が発行された際に、キャッシュタグメモリ260
とキャッシュタグバッファ270の両方を検索し、キャ
ッシュタグバッファ270に目的のキャッシュブロック
が存在する場合、キャッシュタグメモリ260の検索結
果を待たずに、該キャッシュブロックの情報を使用して
キャッシュデータメモリ250をアクセスする。
Description
備えるコンピュータシステムに関し、特にキャッシュメ
モリに対するアクセスを高速化するのに好適なキャッシ
ュシステムに関する。
高くなるのに伴い、コンピュータシステム全体の処理時
間に対するメモリアクセスレイテンシの占める割合がま
すます大きくなってきた。従来からメモリアクセスレイ
テンシの削減のために取られてきた手法としてキャッシ
ュメモリを設けることが一般的であった。最も一般的な
キャッシュメモリは、タグ及びタグに付加された有効ビ
ットを含むキャッシュタグメモリ、メモリメインメモリ
のデータの一部を保持するキャッシュデータメモリから
構成される。キャッシュメモリの構成要素の一つである
キャッシュタグメモリは、キャッシュデータメモリが保
持するメインメモリ内のデータの位置を示す情報(タ
グ)を格納し、キャッシュヒット判定を行うために用い
られる。現在ではLSIの集積度が向上し、又製造にか
かるコストが低くなっているため、コンピュータシステ
ムにおけるキャッシュメモリの容量が増大し、それに伴
ないキャッシュタグメモリの容量も増大している。
ャッシュアクセスレイテンシに影響を及ぼす。キャッシ
ュタグメモリの容量がLSI内で実装できる大きさを超
えると、LSIの外部にキャッシュタグメモリを置くこ
とになり、このことはLSI外部遅延のためキャッシュ
アクセスレイテンシの増加を招く。従って、増大したキ
ャッシュタグメモリに対するアクセスレイテンシを削減
することが、コンピュータシステムにおける性能向上の
課題の一つと言える。
ュタグメモリに対するアクセスを最適化し性能向上を行
っている従来技術としては、例えば、特開平9−293
060号公報がある。この従来技術では、複数のプロセ
ッサがキャッシュシステムを介してメインメモリを共有
するマルチプロセッサシステムにおいて、各キャッシュ
システム内に、他キャッシュシステムから発行されたア
ドレス履歴を保持し、他キャッシュシステムから通知さ
れたアドレスがアドレス履歴に保持されている場合、キ
ャッシュタグメモリへの不要なアクセスを抑止するコヒ
ーレンシトランザクションヒストリ制御回路を用意し
て、キャッシュコヒーレンシ制御のためのキャッシュメ
モリ状態判定処理の効率化を図っている。
シュコヒーレンシ制御のために、キャッシュブロックの
状態を「Modified」(変更済み)、「Excl
usive」(排他的)、「Shared」(共有)、
「Invalid」(無効)の4状態(MESIアルゴ
リズム)で管理している。「Invalid」(I)
は、当該キャッシュブロックに有効なデータが入ってい
ないことを示している。「Shared」(S)は、当
該キャッシュブロックにメインメモリと同じデータ(ク
リーンなデータ)が入っており、このデータが他のキャ
ッシュにも存在(共有)することを示している。「Ex
clusive」(E)は、当該キャッシュブロックに
メインメモリと同じデータ(クリーンなデータ)が入っ
ており、かつ、このデータが他のキャッシュに存在しな
いことを示している。「Modified」(M)は、
当該キャッシュブロックにメインメモリとは異なる可能
性があるデータ(ダーティなデータ)が格納され、この
データが他のキャッシュに存在しないことを示してい
る。すなわち、キャッシュブロックにデータが書き込ま
れた場合、メインメモリとは異なる可能性のダーティな
データとなる。
「Invalid」の時にキャッシュタグメモリのアク
セスを抑止する。従って、例えば頻繁に書き込みを行う
タスクを処理する場合、書き込みの度にキャッシュブロ
ックの状態を「Modefied」に更新するので、頻
繁にキャッシュタグメモリにアクセスすることとなる。
この時、キャッシュタグメモリに対するアクセスレイテ
ンシは、コンピュータシステムの性能を考える上で無視
できない問題となる。上記従来技術において、トランザ
クション処理を行った際の、キャッシュタグメモリに対
するアクセスの頻度は、キャッシュヒット時にはキャッ
シュタグメモリに対して読み込み処理を1回、書き込み
処理を1回必要とする。また、キャッシュミス時にはキ
ャッシュメモリに対し読み込み処理を2回、書き込み処
理を2回必要とする。
においては、キャッシュタグメモリが大容量となり、キ
ャッシュ制御回路等が存在するLSIの外部にキャッシ
ュタグメモリが実装される等、キャッシュタグメモリに
対するアクセスレイテンシが増加した場合、コンピュー
タシステムのトランザクション処理に要するレイテンシ
が増大する。
対するアクセスレイテンシを削減することにより、さら
なるコンピュータシステムの性能向上を行うことができ
るキャッシュシステムを提供することにある。
制御回路等が存在するLSI内にキャッシュタグバッフ
ァを用意する。これはキャッシュタグメモリの一部を格
納でき、コンピュータシステム内でトランザクション処
理が完了するまでキャッシュタグメモリに存在するトラ
ンザクション処理対象キャッシュブロックの状態を保持
するものである。これにより、トランザクション処理
が、キャッシュタグメモリから一度対応するキャッシュ
ブロックの情報を読み出した後、キャッシュ制御回路等
が存在するLSI内のキャッシュタグバッファにアクセ
スすることのみで、キャッシュタグメモリに対する処理
を行うことができる。従って、キャッシュタグバッファ
へのアクセスレイテンシを最小にすることができ、コン
ピュータシステムのトランザクション処理に要するレイ
テンシを削減することができる。
ァは、キャッシュブロック状態ビット(MESI)とと
もに、キャッシュブロックが更新されたか否かを示すダ
ーティビットと、キャッシュブロックを使用するトラン
ザクションがコンピュータシステム内に存在するかどう
かを示すロックビットを持つ。これらのビットは、キャ
ッシュタグメモリへキャッシュタグバッファに存在する
キャッシュブロック状態を書き戻す際に使用する。具体
的には、ロックビットが現在キャッシュブロックを使用
するトランザクションが存在しないことを示し、かつダ
ーティビットがキャッシュブロックに対し状態更新がな
されたことを示すキャッシュブロックが存在した場合
に、キャッシュタグメモリに対し該キャッシュブロック
の書き戻しを行う。他のビット状態の時は書き戻しを行
わない。すなわち、ロックビットを常に監視し、キャッ
シュタグバッファにおいて使用されていないキャッシュ
ブロックが存在した場合にはこれをキャッシュタグメモ
リに書き戻すことで、キャッシュタグバッファの効率的
な利用を行う。また、ダーティビットを見ることでキャ
ッシュタグメモリへの不要な書き戻しを防ぎ、キャッシ
ュタグメモリに対するアクセスの効率化を行う。
面を用いて説明する。図1に、本発明を適用した場合の
コンピュータシステムの一実施例の構成図を示す。図1
において、本コンピュータシステムはプロセッサ10及
び11、キャッシュシステム20及び21、共通バス3
0、メインメモリ40を備える。キャッシュシステム2
0は、プロセッサ10とキャッシュシステム20を接続
するプロセッサインターフェース210と、共通バス3
0とキャッシュシステム20を接続するメモリバスイン
ターフェース220と、コヒーレンシトランザクション
ヒストリ制御回路230と、プロセッサインターフェー
ス210又はコヒーレンシトランザクションヒストリ制
御回路230から転送されるアドレスを登録するアドレ
スレジスタ240と、キャッシュデータを格納するキャ
ッシュデータメモリ250と、キャッシュデータメモリ
250に格納されているキャッシュデータのアドレスと
キャッシュコヒーレンシ制御のための「Modifie
d」、「Shared」、「Exclusive」、
「Invalid」の4状態を格納するキャッシュタグ
メモリ260と、本発明の特徴部分であるキャッシュタ
グメモリ260の一部を格納するキャッシュタグバッフ
ァ270と、キャッシュシステム20内の各回路の制御
を行うキャッシュ制御回路280を備える。
シュタグメモリ260以外の、キャッシュ制御回路28
0及びその他の回路が存在するLSI内に置かれる。キ
ャッシュタグメモリ260は、大容量になると、このL
SIの外部に実装され、場合によっては、キャッシュデ
ータメモリも、該LSIの外部に実装される。
の構成要素については省略しているが、キャッシュシス
テム20と同様の構成である。また、図1では、2組の
プロセッサとキャッシュシステムでマルチプロセッサシ
ステムを構成するとしたが、3組あるいはそれ以上の組
のプロセッサとキャッシュシステムでマルチプロセッサ
システムが構成されることでもよい。
発明の特徴部分であるキャッシュタグバッファ270の
構成例を示す。図2においては、(A)がキャッシュタ
グメモリ260、(B)がキャッシュタグバッファ27
0の構成例である。ここでは、キャッシュタグメモリ2
60は4ウエイ・セット・アソシアティブ構成で、セッ
ト数Mは簡単に16としている。キャッシュタグバッフ
ァ270はキャッシュタグメモリ260の一部を保持
し、キャッシュ構成はキャッシュタグメモリ260の構
成と同じで、4ウエイ・セット・アソシアティブ構成で
あるが、セット数Nは4である。すなわち、一般にM≧
Nとする。図2において、キャッシュタグメモリ260
及びキャッシュタグバッファ270は4ウエイ・セット
・アソシアティブ構成であるため、1セット中にキャッ
シュブロック1,2,3,4の4キャッシュブロックの
情報を保持する。
の各キャッシュブロック毎に、キャッシュデータメモリ
250の当該セットの当該キャッシュブロックに格納さ
れているキャッシュデータのアドレス(タグ)を格納す
るタグ部311と、当該キャッシュブロックが4状態
「M」,「E」,「S」,「I」のどの状態であるかを
示すキャッシュブロック状態312から構成される。
「M」,「E」,「S」,「I」は「Modifie
d」,「Exclusive」,「Shared」,
「Invalid」の4状態にそれぞれ対応する。
トがキャッシュタグメモリ260のセット番号に相当す
るアドレス(以下インデックスアドレスとする)を格納
するインデックス部300と、各キャッシュブロック毎
に、、キャッシュタグメモリ260におけるタグを格納
するタグ部301、キャッシュタグメモリ260のキャ
ッシュブロック状態を保持するキャッシュブロック状態
部302、キャッシュブロックの状態更新の有無を示す
ダーティビット303、キャッシュブロックを使用して
いるトランザクションが存在することを示すロックビッ
ト304から構成される。ダーティビット303は、
“1”である時当該キャッシュブロックの状態更新があ
ったことを示し、“0”である時は状態更新が無かった
ことを示す。また、ロックビット304は、“1”であ
る時当該キャッシュブロックを使用しているトランザク
ションが存在することを示し、“0”である時は当該キ
ャッシュブロックを使用しているトランザクションが存
在しないことを示す。
ャッシュブロックの有効又は無効の判定には、キャッシ
ュブロック状態部302を使用する。具体的には、
「I」の場合はキャッシュブロックが無効であると判断
し、「I」以外の状態である時は有効であると判断す
る。また、キャッシュタグバッファ270に対する書き
込み処理は、セット単位で行う。したがって、セット内
の1キャッシュブロックを処理対象とするトランザクシ
ョン処理によってキャッシュタグバッファ270にキャ
ッシュタグメモリ260のセットが登録された時、セッ
ト内の他キャッシュブロックを処理対象とするトランザ
クションも、キャッシュアクセスレイテンシを削減する
ことができる。
部分であるキャッシュタグバッファ270を使用するト
ランザクション処理における、キャッシュシステム20
の動作説明を行う。
て、プロセッサ10からメインメモリ40に対する読み
出しトランザクション又は書き込みトランザクションが
発行されると、キャッシュシステム20はパス500を
介し、プロセッサインターフェース210でトランザク
ションを受け取る。次にキャッシュシステム20は、パ
ス501を介しトランザクション処理対象のメモリアド
レス(以下リクエストアドレスと呼ぶ)をアドレスレジ
スタ240に登録する。アドレスレジスタ240に登録
されたリクエストアドレスは、パス502とパス503
を介し各々キャッシュ制御回路280とキャッシュデー
タメモリ250に送られる。キャッシュ制御回路280
は、リクエストアドレスを用いて、パス504を介して
キャッシュタグメモリ260の内容を、また、パス50
5を介してキャッシュタグバッファ270の内容をそれ
ぞれ読み出し、リクエストアドレスに対応するキャッシ
ュブロックがキャッシュタグメモリ260又はキャッシ
ュタグバッファ270に存在するかどうかを判定する。
この時、キャッシュタグメモリ260にリクエストアド
レスが指すキャッシュブロックが存在し、キャッシュタ
グバッファ270にリクエストアドレスが指すキャッシ
ュブロックが存在しない場合(トランザクション処理に
おける初期状態)、キャッシュ制御回路280は、パス
506を介しキャッシュタグバッファ270に、キャッ
シュタグメモリ260の当該セットのインデックスアド
レス及びセット内のタグ全てと、当該セット内のタグに
対応するキャッシュブロックの状態全てを書き込む。キ
ャッシュタグバッファ270に対するキャッシュブロッ
ク情報の書き込み後、当該セット内のキャッシュブロッ
クを処理対象とするトランザクションは、キャッシュタ
グバッファ270に存在するキャッシュブロック情報を
更新することにより、キャッシュアクセス及びキャッシ
ュコヒーレンシ制御を行うことができる。他の場合も含
め、キャッシュタグバッファ270に対するキャッシュ
制御回路280の詳細な動作は後で説明する。
タグメモリ260又はキャッシュタグバッファ270
に、リクエストアドレスに対応するタグが存在している
場合は、タグに付随するキャッシュブロックの状態判定
を行う。キャッシュブロック状態判定の結果、キャッシ
ュヒットが有効の場合、キャッシュ制御回路280はパ
ス514を介しキャッシュデータメモリ250に対し、
キャッシュヒットした情報を送る。キャッシュヒットし
たという情報を受けたキャッシュデータメモリ250
は、パス507を介し、該当するキャッシュブロックの
データをプロセッサインターフェース210に対し出力
する。プロセッサインターフェース210はパス500
を介し、受けたデータをプロセッサ10に対し送る。ま
た、キャッシュヒット時、書き込みトランザクションで
ありかつリクエストアドレスに対応するタグのキャッシ
ュブロック状態が「Exclusive」の場合、キャ
ッシュ制御回路280はパス506を介し、キャッシュ
ブロックの状態を「Modified」に更新する。他
の状態、例えば「Shared」の場合、キャッシュブ
ロックの状態の更新はない。
ャッシュタグバッファ270のいずれにも、リクエスト
アドレスに対応するタグが存在せず、キャッシュミスの
場合キャッシュ制御回路280はパス508を介し、メ
モリバスインターフェース220にキャッシュミスした
という情報を送る。キャッシュミスしたという情報を受
け取ったメモリバスインターフェース220はパス50
9を介し、共通バス30に対し読み出し又は書き込みト
ランザクションを発行する。読み出し又は書き込みトラ
ンザクションは共通バスを介し、パス510を通ってキ
ャッシュシステム21に、パス511を通ってメインメ
モリ40に対し転送される。他キャッシュシステムから
のトランザクションに対するキャッシュコヒーレンシ処
理は、キャッシュシステム21とキャッシュシステム2
0では同じなので、ここでは例としてキャッシュシステ
ム20における処理を説明する。
に流れるキャッシュシステム21からのトランザクショ
ンをスヌープし、自身のキャッシュブロック状態をチェ
ックする。具体的には、メモリバスインターフェース2
20はパス509を介して、共通バス30に流れるキャ
ッシュシステム21のトランザクションを取り込む。こ
の後、メモリバスインターフェース220は、パス51
2を介して取り込んだトランザクションをコヒーレント
トランザクションヒストリ制御回路230に送る。コヒ
ーレントトランザクションヒストリ制御回路230は、
他キャッシュシステム21から発行されたトランザクシ
ョンの処理対象アドレス(以下、コヒーレンシアドレ
ス)の履歴を保持しており、取り込んだトランザクショ
ンのコヒーレンシアドレスが保持されていない場合、パ
ス513を介しアドレスレジスタ240に、当該トラン
ザクションのコヒーレンシアドレスを登録する。なお、
コヒーレンシトランザクションヒストリ制御回路230
における処理は、先の特開平9−293060号公報に
詳述されているので、ここでは省略する。
ーレンシアドレスは、パス502とパス503を介し、
各々キャッシュ制御回路280とキャッシュデータメモ
リ250に送られる。キャッシュ制御回路280は、コ
ヒーレンシアドレスを用い、パス504を介しキャッシ
ュタグメモリ260の内容を、また、パス505を介し
キャッシュタグバッファ270の内容をそれぞれ読み出
す。この時、キャッシュタグメモリ260にコヒーレン
シアドレスに対応するキャッシュブロックが存在し、キ
ャッシュタグバッファ270に対応するキャッシュブロ
ックが存在しない場合、キャッシュ制御回路280は、
パス506を介しキャッシュタグバッファ270に、キ
ャッシュタグメモリ260の当該セットのインデックス
アドレス及びセット内全てのタグ、当該セット内のタグ
に対応するキャッシュブロックの状態全てを書き込む。
キャッシュタグバッファ270に対するキャッシュブロ
ック情報の書き込み後、当該セット内のキャッシュブロ
ックを処理対象とするトランザクションは、キャッシュ
タグバッファ270に存在するキャッシュブロック情報
を更新することにより、キャッシュコヒーレンシ制御を
行うことができる。キャッシュ制御回路280は、コヒ
ーレンシアドレスに対応するキャッシュブロックがキャ
ッシュタグメモリ260又はキャッシュタグバッファ2
70に存在する場合は、タグに付随するキャッシュブロ
ックの状態判定を行う。キャッシュブロック状態判定の
結果、キャッシュヒットが有効の場合、キャッシュ制御
回路280はパス514を介しキャッシュデータメモリ
250に対し、キャッシュヒットした情報を送る。ま
た、キャッシュヒットの場合、前記キャッシュタグバッ
ファ270への書き込み時に、読み込みトランザクショ
ンは「shared」を、書き込みトランザクションは
「Invalid」をキャッシュブロックの状態に書き
込む。キャッシュヒットしかつキャッシュブロックの状
態が「Modified」の時、最新データがキャッシ
ュシステム20に存在するので、キャッシュデータメモ
リ250はパス508を介し、該当するキャッシュブロ
ックのデータをメモリバスインターフェース220に送
る。メモリバスインターフェース220は該キャッシュ
ブロックのデータを共通バス30を介し、キャッシュシ
ステム21に返す。
インメモリ40又はキャッシュシステム21から受けた
場合のトランザクション処理動作は以下の通りである。
最新データを受けたメモリバスインターフェース220
は、プロセッサインターフェース210を介してプロセ
ッサ10に最新データを送るのと同時に、キャッシュデ
ータメモリ250に最新データを書き込む。また、最新
データがキャッシュシステム20に到着したという情報
は、コヒーレンシトランザクションヒストリ制御回路2
30、アドレスレジスタ240を介しキャッシュ制御回
路280に送られ、情報を受け取ったキャッシュ制御回
路280はキャッシュタグバッファ270のキャッシュ
ブロック状態の更新をする。
例を示す。図3においては、図1と同じ参照番号は同じ
ものを指す。キャッシュ制御回路280は、キャッシュ
タグメモリ260及びキャッシュタグバッファ270へ
サーチ要求を出すキャッシュタグサーチ回路281と、
キャッシュタグメモリ260から読み出したセットをキ
ャッシュタグバッファ270に書き込むキャッシュタグ
バッファ登録回路282と、キャッシュタグメモリ26
0及びキャッシュタグバッファ270から読み出したキ
ャッシュブロック状態からキャッシュヒットを判定する
キャッシュタグ情報集計回路283と、キャッシュタグ
バッファ270のキャッシュブロック状態を更新するキ
ャッシュタグ状態更新回路284と、キャッシュタグバ
ッファ270のセットをキャッシュタグメモリ260に
書き戻すキャッシュタグメモリ登録回路285から構成
される。
260及びキャッシュタグバッファ270に対するキャ
ッシュ制御回路280の詳細な動作を説明する。
501あるいはパス513を介して、プロセッサ10か
ら発行されたトランザクションのリクエストアドレス、
あるいは他キャッシュシステム21から発行されたトラ
ンザクションのコヒーレンシアドレスがアドレスレジス
タ240にセットされると、パス550を介し該リクエ
ストアドレス又はコヒーレンシアドレスを受け、パス5
51を介してキャッシュタグメモリ260に対しキャッ
シュタグサーチ要求を発行し、また、同時にパス552
を介してキャッシュタグバッファ270に対しキャッシ
ュタグサーチ要求を発行する。以下では、プロセッサ1
0から発行されたトランザクションのリクエストアドレ
スを受けた場合を例に動作を説明するが、他キャッシュ
システム21から発行されたトランザクションのコヒー
レンシアドレスを受けた場合の動作も基本的に同じであ
る。
を介してキャッシュタグメモリ260からリクエストア
ドレスに対応するキャッシュブロックの情報を、同様に
パス554を介してキャッシュタグバッファ270から
リクエストアドレスに対応するキャッシュブロックの情
報を読み出し、キャッシュタグ情報集計回路283に送
る。読み出しに要するレイテンシは、キャッシュタグメ
モリ260よりも高速な記憶装置で構成されるキャッシ
ュタグバッファ270の方が短い。
ャッシュタグバッファ270からキャッシュブロックの
情報を受けた時、最新のキャッシュブロック情報はキャ
ッシュタグバッファに存在するものとと判断し、該キャ
ッシュブロック情報を用い、キャッシュのヒット判定を
行う。一方、キャッシュタグバッファ270からキャッ
シュブロック情報を受けることができなかった場合、キ
ャッシュタグ情報集計回路284は、キャッシュタグメ
モリ260からのキャッシュブロック情報が読み出され
るのを待つ。キャッシュタグメモリ260から該キャッ
シュブロックの情報を受けた時は、該情報を元にキャッ
シュヒット判定を行う。しかし、キャッシュタグメモリ
260からも該キャッシュブロック情報が読み出されな
かった時は、キャッシュミスと判断する。キャッシュブ
ロックの状態判定後、キャッシュタグ情報集計回路28
4は、キャッシュヒット判定結果を、パス514を介し
てキャッシュデータメモリ250に報告する。
おける処理と同時に、キャッシュタグバッファ登録回路
282は、パス555を介してキャッシュタグメモリ2
60から、また、パス556を介してキャッシュタグバ
ッファ270から、それぞれ読み出されたキャッシュブ
ロック情報を受ける。この時、キャッシュタグバッファ
登録回路282では、対応するキャッシュブロックが存
在するセット内のキャッシュブロック情報全てを受け
る。キャッシュタグバッファ登録回路282は、キャッ
シュブロック情報をキャッシュタグメモリ260及びキ
ャッシュタグバッファ270から受けると、キャッシュ
タグバッファ270に対し、更新処理を行うか判定す
る。
せで決まる。条件1はキャッシュタグバッファ270に
リクエストアドレスに対応するセットが存在したかどう
か、条件2はキャッシュタグバッファ270内又はキャ
ッシュタグメモリ260にリクエストアドレスに対応す
るキャッシュブロックの情報が存在したかどうかであ
る。
は、まず、キャッシュタグバッファ270にセットが存
在かつキャッシュブロック情報が存在した時は、更新処
理は行わなず、現在キャッシュタグバッファ270に登
録されているキャッシュブロック情報をトランザクショ
ン処理において使用する。この時、該キャッシュブロッ
クにおいてロックビットが“0”の時、ロックビットを
“1”にする。次に、キャッシュタグバッファ270に
セットは存在するがキャッシュブロック情報が存在しな
かった場合は、セット内の各ロックビットを見る。そし
て、セット内のロックビットが“0”のキャッシュブロ
ックが存在した場合、セット内の該ロックビットが
“0”であるキャッシュブロックにリクエストアドレス
に対応するキャッシュブロック情報を書き込む。この
時、書き込んだ場所に存在したキャッシュブロックの状
態が「I」以外なら、該キャッシュブロックをメインメ
モリ30に書き戻す。セット内の全てのロックビットが
“1”の場合、キャッシュタグバッファ270に在るセ
ット内の任意のキャッシュブロックを選択し、該キャッ
シュブロックの状態が「I」以外ならメインメモリ30
に書き戻し、セット内の選択したキャッシュブロックの
場所にリクエストアドレスに対応するキャッシュブロッ
ク情報をパス557を介して新規に書き込む。この時、
該キャッシュブロックに対しロックビットを“1”にす
る。そして、キャッシュタグバッファ270にセットが
存在しない、かつキャッシュタグメモリ260にタグ情
報が存在した時は、キャッシュタグメモリ260から読
み出したセットをキャッシュタグバッファ270にパス
557を介して書き込む。この時、該キャッシュブロッ
クに対しロックビットを“1”にする。最後にキャッシ
ュタグバッファ270にセットが存在しない、かつキャ
ッシュタグメモリ260にタグ情報が存在したなかった
時は、キャッシュタグメモリ260から読み出したセッ
ト内の任意のキャッシュブロックを選択し、該キャッシ
ュブロックの状態が「I」以外ならメインメモリ30に
書き戻し、セット内の選択したキャッシュブロックの場
所に対応するタグ情報をキャッシュタグバッファ270
にパス557を介して新規に書き込む。この時、該キャ
ッシュブロックに対しロックビットを“1”にする。
ンピュータシステムにおいてトランザクション処理が行
われている間に対応するタグ情報の更新要求が来た場合
に、キャッシュタグバッファ270の更新を行う。具体
的には、パス558を介してアドレスレジスタ240か
ら更新対象のキャッシュブロックを示すアドレスを受
け、パス559を介してキャッシュタグバッファ270
内の該キャッシュブロックの状態更新を行う。また、こ
の時に該キャッシュブロックのダーティビットを“1”
にする。
キャッシュタグバッファ270の各セットにおけるダー
ティビット及びロックビットをパス560を介して常に
監視し、コンピュータシステム内で任意のセット内にお
ける全てのキャッシュブロックを使用するトランザクシ
ョン処理が完了、すなわちロックビットが全て“0”と
なり、かつ該セットにおけるダーティビットのうちどれ
か1つでもセット内で“1”である場合に、キャッシュ
タグメモリ260に対しパス561を介してセットの書
き戻しを行う。この処理はシステム内トランザクション
処理と並列に行われ、コンピュータシステムのデータ処
理スループットに影響を及ぼさない。また、キャッシュ
タグバッファ270の特徴として、ダーティビットを使
用し、キャッシュタグバッファ270からキャッシュタ
グメモリ260に対する不要なアクセスを削減してい
る。具体的には、キャッシュタグメモリの状態更新時に
ダーティビットをセットし、セットにおけるキャッシュ
状態の更新があったことを示す。これにより、セットに
対しキャッシュ状態の更新があったことを判別でき、キ
ャッシュタグメモリ260の該セットの状態と異なるセ
ットのみキャッシュタグメモリ260に対する書き込み
を行う。
ピュータシステムにおけるトランザクション処理のキャ
ッシュタグに対するアクセスは、CPU又はチップセッ
ト内のキャッシュタグバッファにアクセスすることのみ
で実現できる。これにより、例えば特開平9〜2930
6号公報に記載の従来技術においてキャッシュヒット時
にはキャッシュタグメモリに対して2回アクセスを必要
とするのに対し、本実施形態では1回又は該処理対象の
キャッシュブロックが存在するセットがすでにキャッシ
ュタグバッファ270に格納されている場合0回で済
む。同様に従来技術でキャッシュミス時にはキャッシュ
メモリに対するアクセスを4回必要としたのに対し、最
低0回、最高2回のアクセスで済ますことができる。
キャッシュタグメモリの一部を格納するキャッシュタグ
バッファを設けることにより、キャッシュタグメモリへ
のアクセス回数を削減することができ、コンピュータシ
ステムにおけるキャッシュアクセスレイテンシを削減す
ることができる
施形態の構成図である。
ァの構成例を示す図である。
例を示す図である。
路 240 アドレスレジスタ 250 キャッシュデータメモリ 260 キャッシュタグメモリ 270 キャッシュタグバッファ 280 キャッシュ制御回路 281 キャッシュタグサーチ回路 282 キャッシュタグバッファ登録回路 283 キャッシュタグ情報集計回路 284 キャッシュタグ状態更新回路 285 キャッシュタグメモリ登録回路 300 インデックス 301 タグ部 302 キャッシュブロック状態部 303 ダーティビット 304 ロックビット 311 タグ部 312 キャッシュブロック状態部
Claims (3)
- 【請求項1】 メインメモリに格納されたデータの一部
を格納するキャッシュデータメモリと、前記キャッシュ
データメモリに格納されたデータのメインメモリ内の位
置を示す情報を格納するキャッシュタグメモリを具備す
るキャッシュシステムにおいて、 前記キャッシュタグメモリの情報の一部を格納するキャ
ッシュタグバッファと、 メモリアクセス要求を受けると、前記キャッシュタグメ
モリと前記キャッシュタグバッファの両方を検索し、前
記キャッシュタグバッファに目的のキャッシュブロック
が存在する場合、前記キャッシュタグメモリの検索結果
を待たずに、前記キャッシュタグバッファの情報を使用
して前記キャッシュデータメモリに対するアクセスを制
御するキャッシュ制御手段と、を有することを特徴とす
るキャッシュシステム。 - 【請求項2】 請求項1記載のキャッシュシステムにお
いて、前記キャッシュタグバッファは各キャッシュブロ
ック毎に、当該キャッシュブロックを使用するトランザ
クションが存在するか否かを示すロックビットと当該キ
ャッシュブロックに対し状態変更が行われたか否かを示
すダーティビットを持ち、前記キャッシュ制御手段は前
記ロックビット及び前記ダーティビットを使用してキャ
ッシュタグメモリに対するキャッシュブロックの書き戻
し処理を行うことを特徴とするキャッシュシスシム。 - 【請求項3】 請求項2記載のキャッシュシステムにお
いて、前記キャッシュ制御手段はダーティビットの状態
に応じてキャッシュタグバッファのキャッシュタグメモ
リに対する不要な書き戻しを抑止することを特徴とする
キャッシュシステム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000305862A JP3732397B2 (ja) | 2000-10-05 | 2000-10-05 | キャッシュシステム |
US09/941,696 US6839806B2 (en) | 2000-10-05 | 2001-08-30 | Cache system with a cache tag memory and a cache tag buffer |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000305862A JP3732397B2 (ja) | 2000-10-05 | 2000-10-05 | キャッシュシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002116954A true JP2002116954A (ja) | 2002-04-19 |
JP3732397B2 JP3732397B2 (ja) | 2006-01-05 |
Family
ID=18786648
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000305862A Expired - Fee Related JP3732397B2 (ja) | 2000-10-05 | 2000-10-05 | キャッシュシステム |
Country Status (2)
Country | Link |
---|---|
US (1) | US6839806B2 (ja) |
JP (1) | JP3732397B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007504552A (ja) * | 2003-09-03 | 2007-03-01 | アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド | プロセッサの電力を削減するためのマイクロtlbおよびマイクロタグ |
US8688891B2 (en) | 2010-02-12 | 2014-04-01 | Samsung Electronics Co., Ltd. | Memory controller, method of controlling unaligned memory access, and computing apparatus incorporating memory controller |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004059491A1 (en) * | 2002-12-30 | 2004-07-15 | Intel Corporation | Cache victim sector tag buffer |
US7254681B2 (en) * | 2003-02-13 | 2007-08-07 | Intel Corporation | Cache victim sector tag buffer |
US7496715B1 (en) * | 2003-07-16 | 2009-02-24 | Unisys Corporation | Programmable cache management system and method |
US7363427B2 (en) * | 2004-01-12 | 2008-04-22 | Hewlett-Packard Development Company, L.P. | Memory controller connection to RAM using buffer interface |
WO2012077400A1 (ja) * | 2010-12-09 | 2012-06-14 | インターナショナル・ビジネス・マシーンズ・コーポレーション | マルチコアシステム、及びそのコアのデータ読み出し方法 |
JP5936152B2 (ja) | 2014-05-17 | 2016-06-15 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | メモリアクセストレース方法 |
EP3639145B1 (en) | 2017-06-15 | 2024-03-20 | Rambus Inc. | Hybrid memory module |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5619673A (en) * | 1994-06-29 | 1997-04-08 | Intel Corporation | Virtual access cache protection bits handling method and apparatus |
US6026476A (en) * | 1996-03-19 | 2000-02-15 | Intel Corporation | Fast fully associative translation lookaside buffer |
JP3269967B2 (ja) | 1996-04-24 | 2002-04-02 | 株式会社日立製作所 | キャッシュコヒーレンシ制御方法、および、これを用いたマルチプロセッサシステム |
US5978886A (en) * | 1997-01-17 | 1999-11-02 | Hewlett-Packard Company | Method and apparatus for duplicating tag systems to maintain addresses of CPU data stored in write buffers external to a cache |
US6079003A (en) * | 1997-11-20 | 2000-06-20 | Advanced Micro Devices, Inc. | Reverse TLB for providing branch target address in a microprocessor having a physically-tagged cache |
US6226763B1 (en) * | 1998-07-29 | 2001-05-01 | Intel Corporation | Method and apparatus for performing cache accesses |
JP3439350B2 (ja) * | 1998-10-02 | 2003-08-25 | Necエレクトロニクス株式会社 | キャッシュ・メモリ制御方法及びキャッシュ・メモリ制御装置 |
US6401175B1 (en) * | 1999-10-01 | 2002-06-04 | Sun Microsystems, Inc. | Shared write buffer for use by multiple processor units |
US6636906B1 (en) * | 2000-04-28 | 2003-10-21 | Hewlett-Packard Development Company, L.P. | Apparatus and method for ensuring forward progress in coherent I/O systems |
JP2004094807A (ja) * | 2002-09-03 | 2004-03-25 | Toshiba Corp | 命令キャッシュおよびマイクロプロセッサとその設計方法 |
-
2000
- 2000-10-05 JP JP2000305862A patent/JP3732397B2/ja not_active Expired - Fee Related
-
2001
- 2001-08-30 US US09/941,696 patent/US6839806B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007504552A (ja) * | 2003-09-03 | 2007-03-01 | アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド | プロセッサの電力を削減するためのマイクロtlbおよびマイクロタグ |
US8688891B2 (en) | 2010-02-12 | 2014-04-01 | Samsung Electronics Co., Ltd. | Memory controller, method of controlling unaligned memory access, and computing apparatus incorporating memory controller |
Also Published As
Publication number | Publication date |
---|---|
US6839806B2 (en) | 2005-01-04 |
JP3732397B2 (ja) | 2006-01-05 |
US20020042860A1 (en) | 2002-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7032074B2 (en) | Method and mechanism to use a cache to translate from a virtual bus to a physical bus | |
US7305522B2 (en) | Victim cache using direct intervention | |
EP1388065B1 (en) | Method and system for speculatively invalidating lines in a cache | |
US7305523B2 (en) | Cache memory direct intervention | |
US6021468A (en) | Cache coherency protocol with efficient write-through aliasing | |
US7698508B2 (en) | System and method for reducing unnecessary cache operations | |
US7917699B2 (en) | Apparatus and method for controlling the exclusivity mode of a level-two cache | |
US6272602B1 (en) | Multiprocessing system employing pending tags to maintain cache coherence | |
EP1311956B1 (en) | Method and apparatus for pipelining ordered input/output transactions in a cache coherent, multi-processor system | |
JP2000250812A (ja) | メモリ・キャッシュ・システムおよびその管理方法 | |
JP2000010860A (ja) | キャッシュメモリ制御回路及びプロセッサ及びプロセッサシステム及び並列プロセッサシステム | |
US20020188821A1 (en) | Fast priority determination circuit with rotating priority | |
US6615321B2 (en) | Mechanism for collapsing store misses in an SMP computer system | |
US7024520B2 (en) | System and method enabling efficient cache line reuse in a computer system | |
JP3732397B2 (ja) | キャッシュシステム | |
US7464227B2 (en) | Method and apparatus for supporting opportunistic sharing in coherent multiprocessors | |
US6615320B2 (en) | Store collapsing mechanism for SMP computer system | |
US5907853A (en) | Method and apparatus for maintaining duplicate cache tags with selectable width | |
JP2003216596A (ja) | マルチプロセッサシステム及びノード装置 | |
JP2000132456A (ja) | 並列計算機のキャッシュメモリ装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050621 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050822 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051011 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051012 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091021 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091021 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101021 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111021 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121021 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121021 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131021 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |