JP2002116954A - キャッシュシステム - Google Patents

キャッシュシステム

Info

Publication number
JP2002116954A
JP2002116954A JP2000305862A JP2000305862A JP2002116954A JP 2002116954 A JP2002116954 A JP 2002116954A JP 2000305862 A JP2000305862 A JP 2000305862A JP 2000305862 A JP2000305862 A JP 2000305862A JP 2002116954 A JP2002116954 A JP 2002116954A
Authority
JP
Japan
Prior art keywords
cache
memory
cache tag
tag
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000305862A
Other languages
English (en)
Other versions
JP3732397B2 (ja
Inventor
Shiyouki Murakami
祥基 村上
Masaru Koyanagi
勝 小柳
Hideya Akashi
英也 明石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2000305862A priority Critical patent/JP3732397B2/ja
Priority to US09/941,696 priority patent/US6839806B2/en
Publication of JP2002116954A publication Critical patent/JP2002116954A/ja
Application granted granted Critical
Publication of JP3732397B2 publication Critical patent/JP3732397B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0844Multiple simultaneous or quasi-simultaneous cache accessing
    • G06F12/0855Overlapped cache accessing, e.g. pipeline
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0806Multiuser, multiprocessor or multiprocessing cache systems
    • G06F12/0815Cache consistency protocols
    • G06F12/0831Cache consistency protocols using a bus scheme, e.g. with bus monitoring or watching means

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Memory System Of A Hierarchy Structure (AREA)

Abstract

(57)【要約】 【課題】 キャッシュタグメモリに対するアクセスレイ
テンシを軽減し、コンピュータシステムのトランザクシ
ョン処理に要するレイテンシの削減を図る。 【解決手段】 キャッシュタグメモリ260の一部を格
納するキャッシュタグバッファ270を用意する。キャ
ッシュ制御回路280は、プロセッサ10からメモリ処
理要求が発行された際に、キャッシュタグメモリ260
とキャッシュタグバッファ270の両方を検索し、キャ
ッシュタグバッファ270に目的のキャッシュブロック
が存在する場合、キャッシュタグメモリ260の検索結
果を待たずに、該キャッシュブロックの情報を使用して
キャッシュデータメモリ250をアクセスする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明はキャッシュメモリを
備えるコンピュータシステムに関し、特にキャッシュメ
モリに対するアクセスを高速化するのに好適なキャッシ
ュシステムに関する。
【0002】
【従来の技術】近年、プロセッサの動作周波数が急速に
高くなるのに伴い、コンピュータシステム全体の処理時
間に対するメモリアクセスレイテンシの占める割合がま
すます大きくなってきた。従来からメモリアクセスレイ
テンシの削減のために取られてきた手法としてキャッシ
ュメモリを設けることが一般的であった。最も一般的な
キャッシュメモリは、タグ及びタグに付加された有効ビ
ットを含むキャッシュタグメモリ、メモリメインメモリ
のデータの一部を保持するキャッシュデータメモリから
構成される。キャッシュメモリの構成要素の一つである
キャッシュタグメモリは、キャッシュデータメモリが保
持するメインメモリ内のデータの位置を示す情報(タ
グ)を格納し、キャッシュヒット判定を行うために用い
られる。現在ではLSIの集積度が向上し、又製造にか
かるコストが低くなっているため、コンピュータシステ
ムにおけるキャッシュメモリの容量が増大し、それに伴
ないキャッシュタグメモリの容量も増大している。
【0003】キャッシュタグメモリの容量の増大は、キ
ャッシュアクセスレイテンシに影響を及ぼす。キャッシ
ュタグメモリの容量がLSI内で実装できる大きさを超
えると、LSIの外部にキャッシュタグメモリを置くこ
とになり、このことはLSI外部遅延のためキャッシュ
アクセスレイテンシの増加を招く。従って、増大したキ
ャッシュタグメモリに対するアクセスレイテンシを削減
することが、コンピュータシステムにおける性能向上の
課題の一つと言える。
【0004】コンピュータシステムにおいて、キャッシ
ュタグメモリに対するアクセスを最適化し性能向上を行
っている従来技術としては、例えば、特開平9−293
060号公報がある。この従来技術では、複数のプロセ
ッサがキャッシュシステムを介してメインメモリを共有
するマルチプロセッサシステムにおいて、各キャッシュ
システム内に、他キャッシュシステムから発行されたア
ドレス履歴を保持し、他キャッシュシステムから通知さ
れたアドレスがアドレス履歴に保持されている場合、キ
ャッシュタグメモリへの不要なアクセスを抑止するコヒ
ーレンシトランザクションヒストリ制御回路を用意し
て、キャッシュコヒーレンシ制御のためのキャッシュメ
モリ状態判定処理の効率化を図っている。
【0005】一般にキャッシュタグメモリでは、キャッ
シュコヒーレンシ制御のために、キャッシュブロックの
状態を「Modified」(変更済み)、「Excl
usive」(排他的)、「Shared」(共有)、
「Invalid」(無効)の4状態(MESIアルゴ
リズム)で管理している。「Invalid」(I)
は、当該キャッシュブロックに有効なデータが入ってい
ないことを示している。「Shared」(S)は、当
該キャッシュブロックにメインメモリと同じデータ(ク
リーンなデータ)が入っており、このデータが他のキャ
ッシュにも存在(共有)することを示している。「Ex
clusive」(E)は、当該キャッシュブロックに
メインメモリと同じデータ(クリーンなデータ)が入っ
ており、かつ、このデータが他のキャッシュに存在しな
いことを示している。「Modified」(M)は、
当該キャッシュブロックにメインメモリとは異なる可能
性があるデータ(ダーティなデータ)が格納され、この
データが他のキャッシュに存在しないことを示してい
る。すなわち、キャッシュブロックにデータが書き込ま
れた場合、メインメモリとは異なる可能性のダーティな
データとなる。
【0006】上記従来技術では、「Shared」又は
「Invalid」の時にキャッシュタグメモリのアク
セスを抑止する。従って、例えば頻繁に書き込みを行う
タスクを処理する場合、書き込みの度にキャッシュブロ
ックの状態を「Modefied」に更新するので、頻
繁にキャッシュタグメモリにアクセスすることとなる。
この時、キャッシュタグメモリに対するアクセスレイテ
ンシは、コンピュータシステムの性能を考える上で無視
できない問題となる。上記従来技術において、トランザ
クション処理を行った際の、キャッシュタグメモリに対
するアクセスの頻度は、キャッシュヒット時にはキャッ
シュタグメモリに対して読み込み処理を1回、書き込み
処理を1回必要とする。また、キャッシュミス時にはキ
ャッシュメモリに対し読み込み処理を2回、書き込み処
理を2回必要とする。
【0007】
【発明が解決しようとする課題】このように、従来技術
においては、キャッシュタグメモリが大容量となり、キ
ャッシュ制御回路等が存在するLSIの外部にキャッシ
ュタグメモリが実装される等、キャッシュタグメモリに
対するアクセスレイテンシが増加した場合、コンピュー
タシステムのトランザクション処理に要するレイテンシ
が増大する。
【0008】本発明の目的は、キャッシュタグメモリに
対するアクセスレイテンシを削減することにより、さら
なるコンピュータシステムの性能向上を行うことができ
るキャッシュシステムを提供することにある。
【0009】
【課題を解決するための手段】本発明では、キャッシュ
制御回路等が存在するLSI内にキャッシュタグバッフ
ァを用意する。これはキャッシュタグメモリの一部を格
納でき、コンピュータシステム内でトランザクション処
理が完了するまでキャッシュタグメモリに存在するトラ
ンザクション処理対象キャッシュブロックの状態を保持
するものである。これにより、トランザクション処理
が、キャッシュタグメモリから一度対応するキャッシュ
ブロックの情報を読み出した後、キャッシュ制御回路等
が存在するLSI内のキャッシュタグバッファにアクセ
スすることのみで、キャッシュタグメモリに対する処理
を行うことができる。従って、キャッシュタグバッファ
へのアクセスレイテンシを最小にすることができ、コン
ピュータシステムのトランザクション処理に要するレイ
テンシを削減することができる。
【0010】また、本発明では、キャッシュタグバッフ
ァは、キャッシュブロック状態ビット(MESI)とと
もに、キャッシュブロックが更新されたか否かを示すダ
ーティビットと、キャッシュブロックを使用するトラン
ザクションがコンピュータシステム内に存在するかどう
かを示すロックビットを持つ。これらのビットは、キャ
ッシュタグメモリへキャッシュタグバッファに存在する
キャッシュブロック状態を書き戻す際に使用する。具体
的には、ロックビットが現在キャッシュブロックを使用
するトランザクションが存在しないことを示し、かつダ
ーティビットがキャッシュブロックに対し状態更新がな
されたことを示すキャッシュブロックが存在した場合
に、キャッシュタグメモリに対し該キャッシュブロック
の書き戻しを行う。他のビット状態の時は書き戻しを行
わない。すなわち、ロックビットを常に監視し、キャッ
シュタグバッファにおいて使用されていないキャッシュ
ブロックが存在した場合にはこれをキャッシュタグメモ
リに書き戻すことで、キャッシュタグバッファの効率的
な利用を行う。また、ダーティビットを見ることでキャ
ッシュタグメモリへの不要な書き戻しを防ぎ、キャッシ
ュタグメモリに対するアクセスの効率化を行う。
【0011】
【発明の実施の形態】以下、本発明の実施例について図
面を用いて説明する。図1に、本発明を適用した場合の
コンピュータシステムの一実施例の構成図を示す。図1
において、本コンピュータシステムはプロセッサ10及
び11、キャッシュシステム20及び21、共通バス3
0、メインメモリ40を備える。キャッシュシステム2
0は、プロセッサ10とキャッシュシステム20を接続
するプロセッサインターフェース210と、共通バス3
0とキャッシュシステム20を接続するメモリバスイン
ターフェース220と、コヒーレンシトランザクション
ヒストリ制御回路230と、プロセッサインターフェー
ス210又はコヒーレンシトランザクションヒストリ制
御回路230から転送されるアドレスを登録するアドレ
スレジスタ240と、キャッシュデータを格納するキャ
ッシュデータメモリ250と、キャッシュデータメモリ
250に格納されているキャッシュデータのアドレスと
キャッシュコヒーレンシ制御のための「Modifie
d」、「Shared」、「Exclusive」、
「Invalid」の4状態を格納するキャッシュタグ
メモリ260と、本発明の特徴部分であるキャッシュタ
グメモリ260の一部を格納するキャッシュタグバッフ
ァ270と、キャッシュシステム20内の各回路の制御
を行うキャッシュ制御回路280を備える。
【0012】キャッシュタグバッファ270は、キャッ
シュタグメモリ260以外の、キャッシュ制御回路28
0及びその他の回路が存在するLSI内に置かれる。キ
ャッシュタグメモリ260は、大容量になると、このL
SIの外部に実装され、場合によっては、キャッシュデ
ータメモリも、該LSIの外部に実装される。
【0013】図1においては、キャッシュシステム21
の構成要素については省略しているが、キャッシュシス
テム20と同様の構成である。また、図1では、2組の
プロセッサとキャッシュシステムでマルチプロセッサシ
ステムを構成するとしたが、3組あるいはそれ以上の組
のプロセッサとキャッシュシステムでマルチプロセッサ
システムが構成されることでもよい。
【0014】図2に、キャッシュタグメモリ260と本
発明の特徴部分であるキャッシュタグバッファ270の
構成例を示す。図2においては、(A)がキャッシュタ
グメモリ260、(B)がキャッシュタグバッファ27
0の構成例である。ここでは、キャッシュタグメモリ2
60は4ウエイ・セット・アソシアティブ構成で、セッ
ト数Mは簡単に16としている。キャッシュタグバッフ
ァ270はキャッシュタグメモリ260の一部を保持
し、キャッシュ構成はキャッシュタグメモリ260の構
成と同じで、4ウエイ・セット・アソシアティブ構成で
あるが、セット数Nは4である。すなわち、一般にM≧
Nとする。図2において、キャッシュタグメモリ260
及びキャッシュタグバッファ270は4ウエイ・セット
・アソシアティブ構成であるため、1セット中にキャッ
シュブロック1,2,3,4の4キャッシュブロックの
情報を保持する。
【0015】キャッシュタグメモリ260は、各セット
の各キャッシュブロック毎に、キャッシュデータメモリ
250の当該セットの当該キャッシュブロックに格納さ
れているキャッシュデータのアドレス(タグ)を格納す
るタグ部311と、当該キャッシュブロックが4状態
「M」,「E」,「S」,「I」のどの状態であるかを
示すキャッシュブロック状態312から構成される。
「M」,「E」,「S」,「I」は「Modifie
d」,「Exclusive」,「Shared」,
「Invalid」の4状態にそれぞれ対応する。
【0016】キャッシュタグバッファ270は、1セッ
トがキャッシュタグメモリ260のセット番号に相当す
るアドレス(以下インデックスアドレスとする)を格納
するインデックス部300と、各キャッシュブロック毎
に、、キャッシュタグメモリ260におけるタグを格納
するタグ部301、キャッシュタグメモリ260のキャ
ッシュブロック状態を保持するキャッシュブロック状態
部302、キャッシュブロックの状態更新の有無を示す
ダーティビット303、キャッシュブロックを使用して
いるトランザクションが存在することを示すロックビッ
ト304から構成される。ダーティビット303は、
“1”である時当該キャッシュブロックの状態更新があ
ったことを示し、“0”である時は状態更新が無かった
ことを示す。また、ロックビット304は、“1”であ
る時当該キャッシュブロックを使用しているトランザク
ションが存在することを示し、“0”である時は当該キ
ャッシュブロックを使用しているトランザクションが存
在しないことを示す。
【0017】キャッシュタグバッファ270におけるキ
ャッシュブロックの有効又は無効の判定には、キャッシ
ュブロック状態部302を使用する。具体的には、
「I」の場合はキャッシュブロックが無効であると判断
し、「I」以外の状態である時は有効であると判断す
る。また、キャッシュタグバッファ270に対する書き
込み処理は、セット単位で行う。したがって、セット内
の1キャッシュブロックを処理対象とするトランザクシ
ョン処理によってキャッシュタグバッファ270にキャ
ッシュタグメモリ260のセットが登録された時、セッ
ト内の他キャッシュブロックを処理対象とするトランザ
クションも、キャッシュアクセスレイテンシを削減する
ことができる。
【0018】以下、図1及び図2により、本発明の特徴
部分であるキャッシュタグバッファ270を使用するト
ランザクション処理における、キャッシュシステム20
の動作説明を行う。
【0019】図1に示すコンピュータシステムにおい
て、プロセッサ10からメインメモリ40に対する読み
出しトランザクション又は書き込みトランザクションが
発行されると、キャッシュシステム20はパス500を
介し、プロセッサインターフェース210でトランザク
ションを受け取る。次にキャッシュシステム20は、パ
ス501を介しトランザクション処理対象のメモリアド
レス(以下リクエストアドレスと呼ぶ)をアドレスレジ
スタ240に登録する。アドレスレジスタ240に登録
されたリクエストアドレスは、パス502とパス503
を介し各々キャッシュ制御回路280とキャッシュデー
タメモリ250に送られる。キャッシュ制御回路280
は、リクエストアドレスを用いて、パス504を介して
キャッシュタグメモリ260の内容を、また、パス50
5を介してキャッシュタグバッファ270の内容をそれ
ぞれ読み出し、リクエストアドレスに対応するキャッシ
ュブロックがキャッシュタグメモリ260又はキャッシ
ュタグバッファ270に存在するかどうかを判定する。
この時、キャッシュタグメモリ260にリクエストアド
レスが指すキャッシュブロックが存在し、キャッシュタ
グバッファ270にリクエストアドレスが指すキャッシ
ュブロックが存在しない場合(トランザクション処理に
おける初期状態)、キャッシュ制御回路280は、パス
506を介しキャッシュタグバッファ270に、キャッ
シュタグメモリ260の当該セットのインデックスアド
レス及びセット内のタグ全てと、当該セット内のタグに
対応するキャッシュブロックの状態全てを書き込む。キ
ャッシュタグバッファ270に対するキャッシュブロッ
ク情報の書き込み後、当該セット内のキャッシュブロッ
クを処理対象とするトランザクションは、キャッシュタ
グバッファ270に存在するキャッシュブロック情報を
更新することにより、キャッシュアクセス及びキャッシ
ュコヒーレンシ制御を行うことができる。他の場合も含
め、キャッシュタグバッファ270に対するキャッシュ
制御回路280の詳細な動作は後で説明する。
【0020】キャッシュ制御回路280は、キャッシュ
タグメモリ260又はキャッシュタグバッファ270
に、リクエストアドレスに対応するタグが存在している
場合は、タグに付随するキャッシュブロックの状態判定
を行う。キャッシュブロック状態判定の結果、キャッシ
ュヒットが有効の場合、キャッシュ制御回路280はパ
ス514を介しキャッシュデータメモリ250に対し、
キャッシュヒットした情報を送る。キャッシュヒットし
たという情報を受けたキャッシュデータメモリ250
は、パス507を介し、該当するキャッシュブロックの
データをプロセッサインターフェース210に対し出力
する。プロセッサインターフェース210はパス500
を介し、受けたデータをプロセッサ10に対し送る。ま
た、キャッシュヒット時、書き込みトランザクションで
ありかつリクエストアドレスに対応するタグのキャッシ
ュブロック状態が「Exclusive」の場合、キャ
ッシュ制御回路280はパス506を介し、キャッシュ
ブロックの状態を「Modified」に更新する。他
の状態、例えば「Shared」の場合、キャッシュブ
ロックの状態の更新はない。
【0021】一方、キャッシュタグメモリ260及びキ
ャッシュタグバッファ270のいずれにも、リクエスト
アドレスに対応するタグが存在せず、キャッシュミスの
場合キャッシュ制御回路280はパス508を介し、メ
モリバスインターフェース220にキャッシュミスした
という情報を送る。キャッシュミスしたという情報を受
け取ったメモリバスインターフェース220はパス50
9を介し、共通バス30に対し読み出し又は書き込みト
ランザクションを発行する。読み出し又は書き込みトラ
ンザクションは共通バスを介し、パス510を通ってキ
ャッシュシステム21に、パス511を通ってメインメ
モリ40に対し転送される。他キャッシュシステムから
のトランザクションに対するキャッシュコヒーレンシ処
理は、キャッシュシステム21とキャッシュシステム2
0では同じなので、ここでは例としてキャッシュシステ
ム20における処理を説明する。
【0022】キャッシュシステム20は、共通バス30
に流れるキャッシュシステム21からのトランザクショ
ンをスヌープし、自身のキャッシュブロック状態をチェ
ックする。具体的には、メモリバスインターフェース2
20はパス509を介して、共通バス30に流れるキャ
ッシュシステム21のトランザクションを取り込む。こ
の後、メモリバスインターフェース220は、パス51
2を介して取り込んだトランザクションをコヒーレント
トランザクションヒストリ制御回路230に送る。コヒ
ーレントトランザクションヒストリ制御回路230は、
他キャッシュシステム21から発行されたトランザクシ
ョンの処理対象アドレス(以下、コヒーレンシアドレ
ス)の履歴を保持しており、取り込んだトランザクショ
ンのコヒーレンシアドレスが保持されていない場合、パ
ス513を介しアドレスレジスタ240に、当該トラン
ザクションのコヒーレンシアドレスを登録する。なお、
コヒーレンシトランザクションヒストリ制御回路230
における処理は、先の特開平9−293060号公報に
詳述されているので、ここでは省略する。
【0023】アドレスレジスタ240に登録されたコヒ
ーレンシアドレスは、パス502とパス503を介し、
各々キャッシュ制御回路280とキャッシュデータメモ
リ250に送られる。キャッシュ制御回路280は、コ
ヒーレンシアドレスを用い、パス504を介しキャッシ
ュタグメモリ260の内容を、また、パス505を介し
キャッシュタグバッファ270の内容をそれぞれ読み出
す。この時、キャッシュタグメモリ260にコヒーレン
シアドレスに対応するキャッシュブロックが存在し、キ
ャッシュタグバッファ270に対応するキャッシュブロ
ックが存在しない場合、キャッシュ制御回路280は、
パス506を介しキャッシュタグバッファ270に、キ
ャッシュタグメモリ260の当該セットのインデックス
アドレス及びセット内全てのタグ、当該セット内のタグ
に対応するキャッシュブロックの状態全てを書き込む。
キャッシュタグバッファ270に対するキャッシュブロ
ック情報の書き込み後、当該セット内のキャッシュブロ
ックを処理対象とするトランザクションは、キャッシュ
タグバッファ270に存在するキャッシュブロック情報
を更新することにより、キャッシュコヒーレンシ制御を
行うことができる。キャッシュ制御回路280は、コヒ
ーレンシアドレスに対応するキャッシュブロックがキャ
ッシュタグメモリ260又はキャッシュタグバッファ2
70に存在する場合は、タグに付随するキャッシュブロ
ックの状態判定を行う。キャッシュブロック状態判定の
結果、キャッシュヒットが有効の場合、キャッシュ制御
回路280はパス514を介しキャッシュデータメモリ
250に対し、キャッシュヒットした情報を送る。ま
た、キャッシュヒットの場合、前記キャッシュタグバッ
ファ270への書き込み時に、読み込みトランザクショ
ンは「shared」を、書き込みトランザクションは
「Invalid」をキャッシュブロックの状態に書き
込む。キャッシュヒットしかつキャッシュブロックの状
態が「Modified」の時、最新データがキャッシ
ュシステム20に存在するので、キャッシュデータメモ
リ250はパス508を介し、該当するキャッシュブロ
ックのデータをメモリバスインターフェース220に送
る。メモリバスインターフェース220は該キャッシュ
ブロックのデータを共通バス30を介し、キャッシュシ
ステム21に返す。
【0024】キャッシュシステム20が最新データをメ
インメモリ40又はキャッシュシステム21から受けた
場合のトランザクション処理動作は以下の通りである。
最新データを受けたメモリバスインターフェース220
は、プロセッサインターフェース210を介してプロセ
ッサ10に最新データを送るのと同時に、キャッシュデ
ータメモリ250に最新データを書き込む。また、最新
データがキャッシュシステム20に到着したという情報
は、コヒーレンシトランザクションヒストリ制御回路2
30、アドレスレジスタ240を介しキャッシュ制御回
路280に送られ、情報を受け取ったキャッシュ制御回
路280はキャッシュタグバッファ270のキャッシュ
ブロック状態の更新をする。
【0025】図3に、キャッシュ制御回路280の構成
例を示す。図3においては、図1と同じ参照番号は同じ
ものを指す。キャッシュ制御回路280は、キャッシュ
タグメモリ260及びキャッシュタグバッファ270へ
サーチ要求を出すキャッシュタグサーチ回路281と、
キャッシュタグメモリ260から読み出したセットをキ
ャッシュタグバッファ270に書き込むキャッシュタグ
バッファ登録回路282と、キャッシュタグメモリ26
0及びキャッシュタグバッファ270から読み出したキ
ャッシュブロック状態からキャッシュヒットを判定する
キャッシュタグ情報集計回路283と、キャッシュタグ
バッファ270のキャッシュブロック状態を更新するキ
ャッシュタグ状態更新回路284と、キャッシュタグバ
ッファ270のセットをキャッシュタグメモリ260に
書き戻すキャッシュタグメモリ登録回路285から構成
される。
【0026】以下、図3により、キャッシュタグメモリ
260及びキャッシュタグバッファ270に対するキャ
ッシュ制御回路280の詳細な動作を説明する。
【0027】キャッシュタグサーチ回路281は、パス
501あるいはパス513を介して、プロセッサ10か
ら発行されたトランザクションのリクエストアドレス、
あるいは他キャッシュシステム21から発行されたトラ
ンザクションのコヒーレンシアドレスがアドレスレジス
タ240にセットされると、パス550を介し該リクエ
ストアドレス又はコヒーレンシアドレスを受け、パス5
51を介してキャッシュタグメモリ260に対しキャッ
シュタグサーチ要求を発行し、また、同時にパス552
を介してキャッシュタグバッファ270に対しキャッシ
ュタグサーチ要求を発行する。以下では、プロセッサ1
0から発行されたトランザクションのリクエストアドレ
スを受けた場合を例に動作を説明するが、他キャッシュ
システム21から発行されたトランザクションのコヒー
レンシアドレスを受けた場合の動作も基本的に同じであ
る。
【0028】キャッシュタグサーチ要求は、パス553
を介してキャッシュタグメモリ260からリクエストア
ドレスに対応するキャッシュブロックの情報を、同様に
パス554を介してキャッシュタグバッファ270から
リクエストアドレスに対応するキャッシュブロックの情
報を読み出し、キャッシュタグ情報集計回路283に送
る。読み出しに要するレイテンシは、キャッシュタグメ
モリ260よりも高速な記憶装置で構成されるキャッシ
ュタグバッファ270の方が短い。
【0029】キャッシュタグ情報集計回路283は、キ
ャッシュタグバッファ270からキャッシュブロックの
情報を受けた時、最新のキャッシュブロック情報はキャ
ッシュタグバッファに存在するものとと判断し、該キャ
ッシュブロック情報を用い、キャッシュのヒット判定を
行う。一方、キャッシュタグバッファ270からキャッ
シュブロック情報を受けることができなかった場合、キ
ャッシュタグ情報集計回路284は、キャッシュタグメ
モリ260からのキャッシュブロック情報が読み出され
るのを待つ。キャッシュタグメモリ260から該キャッ
シュブロックの情報を受けた時は、該情報を元にキャッ
シュヒット判定を行う。しかし、キャッシュタグメモリ
260からも該キャッシュブロック情報が読み出されな
かった時は、キャッシュミスと判断する。キャッシュブ
ロックの状態判定後、キャッシュタグ情報集計回路28
4は、キャッシュヒット判定結果を、パス514を介し
てキャッシュデータメモリ250に報告する。
【0030】このキャッシュタグ情報集計回路284に
おける処理と同時に、キャッシュタグバッファ登録回路
282は、パス555を介してキャッシュタグメモリ2
60から、また、パス556を介してキャッシュタグバ
ッファ270から、それぞれ読み出されたキャッシュブ
ロック情報を受ける。この時、キャッシュタグバッファ
登録回路282では、対応するキャッシュブロックが存
在するセット内のキャッシュブロック情報全てを受け
る。キャッシュタグバッファ登録回路282は、キャッ
シュブロック情報をキャッシュタグメモリ260及びキ
ャッシュタグバッファ270から受けると、キャッシュ
タグバッファ270に対し、更新処理を行うか判定す
る。
【0031】更新処理の判定は、次の2条件の組み合わ
せで決まる。条件1はキャッシュタグバッファ270に
リクエストアドレスに対応するセットが存在したかどう
か、条件2はキャッシュタグバッファ270内又はキャ
ッシュタグメモリ260にリクエストアドレスに対応す
るキャッシュブロックの情報が存在したかどうかであ
る。
【0032】キャッシュタグバッファ登録回路282
は、まず、キャッシュタグバッファ270にセットが存
在かつキャッシュブロック情報が存在した時は、更新処
理は行わなず、現在キャッシュタグバッファ270に登
録されているキャッシュブロック情報をトランザクショ
ン処理において使用する。この時、該キャッシュブロッ
クにおいてロックビットが“0”の時、ロックビットを
“1”にする。次に、キャッシュタグバッファ270に
セットは存在するがキャッシュブロック情報が存在しな
かった場合は、セット内の各ロックビットを見る。そし
て、セット内のロックビットが“0”のキャッシュブロ
ックが存在した場合、セット内の該ロックビットが
“0”であるキャッシュブロックにリクエストアドレス
に対応するキャッシュブロック情報を書き込む。この
時、書き込んだ場所に存在したキャッシュブロックの状
態が「I」以外なら、該キャッシュブロックをメインメ
モリ30に書き戻す。セット内の全てのロックビットが
“1”の場合、キャッシュタグバッファ270に在るセ
ット内の任意のキャッシュブロックを選択し、該キャッ
シュブロックの状態が「I」以外ならメインメモリ30
に書き戻し、セット内の選択したキャッシュブロックの
場所にリクエストアドレスに対応するキャッシュブロッ
ク情報をパス557を介して新規に書き込む。この時、
該キャッシュブロックに対しロックビットを“1”にす
る。そして、キャッシュタグバッファ270にセットが
存在しない、かつキャッシュタグメモリ260にタグ情
報が存在した時は、キャッシュタグメモリ260から読
み出したセットをキャッシュタグバッファ270にパス
557を介して書き込む。この時、該キャッシュブロッ
クに対しロックビットを“1”にする。最後にキャッシ
ュタグバッファ270にセットが存在しない、かつキャ
ッシュタグメモリ260にタグ情報が存在したなかった
時は、キャッシュタグメモリ260から読み出したセッ
ト内の任意のキャッシュブロックを選択し、該キャッシ
ュブロックの状態が「I」以外ならメインメモリ30に
書き戻し、セット内の選択したキャッシュブロックの場
所に対応するタグ情報をキャッシュタグバッファ270
にパス557を介して新規に書き込む。この時、該キャ
ッシュブロックに対しロックビットを“1”にする。
【0033】キャッシュタグ状態更新回路284は、コ
ンピュータシステムにおいてトランザクション処理が行
われている間に対応するタグ情報の更新要求が来た場合
に、キャッシュタグバッファ270の更新を行う。具体
的には、パス558を介してアドレスレジスタ240か
ら更新対象のキャッシュブロックを示すアドレスを受
け、パス559を介してキャッシュタグバッファ270
内の該キャッシュブロックの状態更新を行う。また、こ
の時に該キャッシュブロックのダーティビットを“1”
にする。
【0034】キャッシュタグメモリ登録回路285は、
キャッシュタグバッファ270の各セットにおけるダー
ティビット及びロックビットをパス560を介して常に
監視し、コンピュータシステム内で任意のセット内にお
ける全てのキャッシュブロックを使用するトランザクシ
ョン処理が完了、すなわちロックビットが全て“0”と
なり、かつ該セットにおけるダーティビットのうちどれ
か1つでもセット内で“1”である場合に、キャッシュ
タグメモリ260に対しパス561を介してセットの書
き戻しを行う。この処理はシステム内トランザクション
処理と並列に行われ、コンピュータシステムのデータ処
理スループットに影響を及ぼさない。また、キャッシュ
タグバッファ270の特徴として、ダーティビットを使
用し、キャッシュタグバッファ270からキャッシュタ
グメモリ260に対する不要なアクセスを削減してい
る。具体的には、キャッシュタグメモリの状態更新時に
ダーティビットをセットし、セットにおけるキャッシュ
状態の更新があったことを示す。これにより、セットに
対しキャッシュ状態の更新があったことを判別でき、キ
ャッシュタグメモリ260の該セットの状態と異なるセ
ットのみキャッシュタグメモリ260に対する書き込み
を行う。
【0035】以上のように、本実施形態によれば、コン
ピュータシステムにおけるトランザクション処理のキャ
ッシュタグに対するアクセスは、CPU又はチップセッ
ト内のキャッシュタグバッファにアクセスすることのみ
で実現できる。これにより、例えば特開平9〜2930
6号公報に記載の従来技術においてキャッシュヒット時
にはキャッシュタグメモリに対して2回アクセスを必要
とするのに対し、本実施形態では1回又は該処理対象の
キャッシュブロックが存在するセットがすでにキャッシ
ュタグバッファ270に格納されている場合0回で済
む。同様に従来技術でキャッシュミス時にはキャッシュ
メモリに対するアクセスを4回必要としたのに対し、最
低0回、最高2回のアクセスで済ますことができる。
【0036】
【発明の効果】以上述べたように、本発明によれば、に
キャッシュタグメモリの一部を格納するキャッシュタグ
バッファを設けることにより、キャッシュタグメモリへ
のアクセス回数を削減することができ、コンピュータシ
ステムにおけるキャッシュアクセスレイテンシを削減す
ることができる
【図面の簡単な説明】
【図1】本発明を適用したコンピュータシステムの一実
施形態の構成図である。
【図2】キャッシュタグメモリとキャッシュタグバッフ
ァの構成例を示す図である。
【図3】図1中のキャッシュ制御回路280の詳細構成
例を示す図である。
【符号の説明】
10、11 プロセッサ 20、21 キャッシュシステム 930 共通バス 40 メインメモリ 210 プロセッサインターフェース 220 メモリバスインターフェース 230 コヒーレンシトランザクションヒストリ制御回
路 240 アドレスレジスタ 250 キャッシュデータメモリ 260 キャッシュタグメモリ 270 キャッシュタグバッファ 280 キャッシュ制御回路 281 キャッシュタグサーチ回路 282 キャッシュタグバッファ登録回路 283 キャッシュタグ情報集計回路 284 キャッシュタグ状態更新回路 285 キャッシュタグメモリ登録回路 300 インデックス 301 タグ部 302 キャッシュブロック状態部 303 ダーティビット 304 ロックビット 311 タグ部 312 キャッシュブロック状態部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 明石 英也 東京都国分寺市東恋ヶ窪1丁目280番地 株式会社日立製作所中央研究所内 Fターム(参考) 5B005 JJ11 KK12 MM01 NN31 NN45

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 メインメモリに格納されたデータの一部
    を格納するキャッシュデータメモリと、前記キャッシュ
    データメモリに格納されたデータのメインメモリ内の位
    置を示す情報を格納するキャッシュタグメモリを具備す
    るキャッシュシステムにおいて、 前記キャッシュタグメモリの情報の一部を格納するキャ
    ッシュタグバッファと、 メモリアクセス要求を受けると、前記キャッシュタグメ
    モリと前記キャッシュタグバッファの両方を検索し、前
    記キャッシュタグバッファに目的のキャッシュブロック
    が存在する場合、前記キャッシュタグメモリの検索結果
    を待たずに、前記キャッシュタグバッファの情報を使用
    して前記キャッシュデータメモリに対するアクセスを制
    御するキャッシュ制御手段と、を有することを特徴とす
    るキャッシュシステム。
  2. 【請求項2】 請求項1記載のキャッシュシステムにお
    いて、前記キャッシュタグバッファは各キャッシュブロ
    ック毎に、当該キャッシュブロックを使用するトランザ
    クションが存在するか否かを示すロックビットと当該キ
    ャッシュブロックに対し状態変更が行われたか否かを示
    すダーティビットを持ち、前記キャッシュ制御手段は前
    記ロックビット及び前記ダーティビットを使用してキャ
    ッシュタグメモリに対するキャッシュブロックの書き戻
    し処理を行うことを特徴とするキャッシュシスシム。
  3. 【請求項3】 請求項2記載のキャッシュシステムにお
    いて、前記キャッシュ制御手段はダーティビットの状態
    に応じてキャッシュタグバッファのキャッシュタグメモ
    リに対する不要な書き戻しを抑止することを特徴とする
    キャッシュシステム。
JP2000305862A 2000-10-05 2000-10-05 キャッシュシステム Expired - Fee Related JP3732397B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2000305862A JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム
US09/941,696 US6839806B2 (en) 2000-10-05 2001-08-30 Cache system with a cache tag memory and a cache tag buffer

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000305862A JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム

Publications (2)

Publication Number Publication Date
JP2002116954A true JP2002116954A (ja) 2002-04-19
JP3732397B2 JP3732397B2 (ja) 2006-01-05

Family

ID=18786648

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000305862A Expired - Fee Related JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム

Country Status (2)

Country Link
US (1) US6839806B2 (ja)
JP (1) JP3732397B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007504552A (ja) * 2003-09-03 2007-03-01 アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド プロセッサの電力を削減するためのマイクロtlbおよびマイクロタグ
US8688891B2 (en) 2010-02-12 2014-04-01 Samsung Electronics Co., Ltd. Memory controller, method of controlling unaligned memory access, and computing apparatus incorporating memory controller

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004059491A1 (en) * 2002-12-30 2004-07-15 Intel Corporation Cache victim sector tag buffer
US7254681B2 (en) * 2003-02-13 2007-08-07 Intel Corporation Cache victim sector tag buffer
US7496715B1 (en) * 2003-07-16 2009-02-24 Unisys Corporation Programmable cache management system and method
US7363427B2 (en) * 2004-01-12 2008-04-22 Hewlett-Packard Development Company, L.P. Memory controller connection to RAM using buffer interface
WO2012077400A1 (ja) * 2010-12-09 2012-06-14 インターナショナル・ビジネス・マシーンズ・コーポレーション マルチコアシステム、及びそのコアのデータ読み出し方法
JP5936152B2 (ja) 2014-05-17 2016-06-15 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation メモリアクセストレース方法
EP3639145B1 (en) 2017-06-15 2024-03-20 Rambus Inc. Hybrid memory module

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5619673A (en) * 1994-06-29 1997-04-08 Intel Corporation Virtual access cache protection bits handling method and apparatus
US6026476A (en) * 1996-03-19 2000-02-15 Intel Corporation Fast fully associative translation lookaside buffer
JP3269967B2 (ja) 1996-04-24 2002-04-02 株式会社日立製作所 キャッシュコヒーレンシ制御方法、および、これを用いたマルチプロセッサシステム
US5978886A (en) * 1997-01-17 1999-11-02 Hewlett-Packard Company Method and apparatus for duplicating tag systems to maintain addresses of CPU data stored in write buffers external to a cache
US6079003A (en) * 1997-11-20 2000-06-20 Advanced Micro Devices, Inc. Reverse TLB for providing branch target address in a microprocessor having a physically-tagged cache
US6226763B1 (en) * 1998-07-29 2001-05-01 Intel Corporation Method and apparatus for performing cache accesses
JP3439350B2 (ja) * 1998-10-02 2003-08-25 Necエレクトロニクス株式会社 キャッシュ・メモリ制御方法及びキャッシュ・メモリ制御装置
US6401175B1 (en) * 1999-10-01 2002-06-04 Sun Microsystems, Inc. Shared write buffer for use by multiple processor units
US6636906B1 (en) * 2000-04-28 2003-10-21 Hewlett-Packard Development Company, L.P. Apparatus and method for ensuring forward progress in coherent I/O systems
JP2004094807A (ja) * 2002-09-03 2004-03-25 Toshiba Corp 命令キャッシュおよびマイクロプロセッサとその設計方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007504552A (ja) * 2003-09-03 2007-03-01 アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド プロセッサの電力を削減するためのマイクロtlbおよびマイクロタグ
US8688891B2 (en) 2010-02-12 2014-04-01 Samsung Electronics Co., Ltd. Memory controller, method of controlling unaligned memory access, and computing apparatus incorporating memory controller

Also Published As

Publication number Publication date
US6839806B2 (en) 2005-01-04
JP3732397B2 (ja) 2006-01-05
US20020042860A1 (en) 2002-04-11

Similar Documents

Publication Publication Date Title
US7032074B2 (en) Method and mechanism to use a cache to translate from a virtual bus to a physical bus
US7305522B2 (en) Victim cache using direct intervention
EP1388065B1 (en) Method and system for speculatively invalidating lines in a cache
US7305523B2 (en) Cache memory direct intervention
US6021468A (en) Cache coherency protocol with efficient write-through aliasing
US7698508B2 (en) System and method for reducing unnecessary cache operations
US7917699B2 (en) Apparatus and method for controlling the exclusivity mode of a level-two cache
US6272602B1 (en) Multiprocessing system employing pending tags to maintain cache coherence
EP1311956B1 (en) Method and apparatus for pipelining ordered input/output transactions in a cache coherent, multi-processor system
JP2000250812A (ja) メモリ・キャッシュ・システムおよびその管理方法
JP2000010860A (ja) キャッシュメモリ制御回路及びプロセッサ及びプロセッサシステム及び並列プロセッサシステム
US20020188821A1 (en) Fast priority determination circuit with rotating priority
US6615321B2 (en) Mechanism for collapsing store misses in an SMP computer system
US7024520B2 (en) System and method enabling efficient cache line reuse in a computer system
JP3732397B2 (ja) キャッシュシステム
US7464227B2 (en) Method and apparatus for supporting opportunistic sharing in coherent multiprocessors
US6615320B2 (en) Store collapsing mechanism for SMP computer system
US5907853A (en) Method and apparatus for maintaining duplicate cache tags with selectable width
JP2003216596A (ja) マルチプロセッサシステム及びノード装置
JP2000132456A (ja) 並列計算機のキャッシュメモリ装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051012

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091021

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091021

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101021

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111021

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121021

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121021

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131021

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees