JP3732397B2 - キャッシュシステム - Google Patents

キャッシュシステム Download PDF

Info

Publication number
JP3732397B2
JP3732397B2 JP2000305862A JP2000305862A JP3732397B2 JP 3732397 B2 JP3732397 B2 JP 3732397B2 JP 2000305862 A JP2000305862 A JP 2000305862A JP 2000305862 A JP2000305862 A JP 2000305862A JP 3732397 B2 JP3732397 B2 JP 3732397B2
Authority
JP
Japan
Prior art keywords
cache
memory
tag
cache tag
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000305862A
Other languages
English (en)
Other versions
JP2002116954A (ja
Inventor
祥基 村上
勝 小柳
英也 明石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2000305862A priority Critical patent/JP3732397B2/ja
Priority to US09/941,696 priority patent/US6839806B2/en
Publication of JP2002116954A publication Critical patent/JP2002116954A/ja
Application granted granted Critical
Publication of JP3732397B2 publication Critical patent/JP3732397B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0844Multiple simultaneous or quasi-simultaneous cache accessing
    • G06F12/0855Overlapped cache accessing, e.g. pipeline
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0806Multiuser, multiprocessor or multiprocessing cache systems
    • G06F12/0815Cache consistency protocols
    • G06F12/0831Cache consistency protocols using a bus scheme, e.g. with bus monitoring or watching means

Description

【0001】
【発明の属する技術分野】
本発明はキャッシュメモリを備えるコンピュータシステムに関し、特にキャッシュメモリに対するアクセスを高速化するのに好適なキャッシュシステムに関する。
【0002】
【従来の技術】
近年、プロセッサの動作周波数が急速に高くなるのに伴い、コンピュータシステム全体の処理時間に対するメモリアクセスレイテンシの占める割合がますます大きくなってきた。従来からメモリアクセスレイテンシの削減のために取られてきた手法としてキャッシュメモリを設けることが一般的であった。最も一般的なキャッシュメモリは、タグ及びタグに付加された有効ビットを含むキャッシュタグメモリ、メモリメインメモリのデータの一部を保持するキャッシュデータメモリから構成される。キャッシュメモリの構成要素の一つであるキャッシュタグメモリは、キャッシュデータメモリが保持するメインメモリ内のデータの位置を示す情報(タグ)を格納し、キャッシュヒット判定を行うために用いられる。現在ではLSIの集積度が向上し、又製造にかかるコストが低くなっているため、コンピュータシステムにおけるキャッシュメモリの容量が増大し、それに伴ないキャッシュタグメモリの容量も増大している。
【0003】
キャッシュタグメモリの容量の増大は、キャッシュアクセスレイテンシに影響を及ぼす。キャッシュタグメモリの容量がLSI内で実装できる大きさを超えると、LSIの外部にキャッシュタグメモリを置くことになり、このことはLSI外部遅延のためキャッシュアクセスレイテンシの増加を招く。従って、増大したキャッシュタグメモリに対するアクセスレイテンシを削減することが、コンピュータシステムにおける性能向上の課題の一つと言える。
【0004】
コンピュータシステムにおいて、キャッシュタグメモリに対するアクセスを最適化し性能向上を行っている従来技術としては、例えば、特開平9−293060号公報がある。この従来技術では、複数のプロセッサがキャッシュシステムを介してメインメモリを共有するマルチプロセッサシステムにおいて、各キャッシュシステム内に、他キャッシュシステムから発行されたアドレス履歴を保持し、他キャッシュシステムから通知されたアドレスがアドレス履歴に保持されている場合、キャッシュタグメモリへの不要なアクセスを抑止するコヒーレンシトランザクションヒストリ制御回路を用意して、キャッシュコヒーレンシ制御のためのキャッシュメモリ状態判定処理の効率化を図っている。
【0005】
一般にキャッシュタグメモリでは、キャッシュコヒーレンシ制御のために、キャッシュブロックの状態を「Modified」(変更済み)、「Exclusive」(排他的)、「Shared」(共有)、「Invalid」(無効)の4状態(MESIアルゴリズム)で管理している。「Invalid」(I)は、当該キャッシュブロックに有効なデータが入っていないことを示している。「Shared」(S)は、当該キャッシュブロックにメインメモリと同じデータ(クリーンなデータ)が入っており、このデータが他のキャッシュにも存在(共有)することを示している。「Exclusive」(E)は、当該キャッシュブロックにメインメモリと同じデータ(クリーンなデータ)が入っており、かつ、このデータが他のキャッシュに存在しないことを示している。「Modified」(M)は、当該キャッシュブロックにメインメモリとは異なる可能性があるデータ(ダーティなデータ)が格納され、このデータが他のキャッシュに存在しないことを示している。すなわち、キャッシュブロックにデータが書き込まれた場合、メインメモリとは異なる可能性のダーティなデータとなる。
【0006】
上記従来技術では、「Shared」又は「Invalid」の時にキャッシュタグメモリのアクセスを抑止する。従って、例えば頻繁に書き込みを行うタスクを処理する場合、書き込みの度にキャッシュブロックの状態を「Modefied」に更新するので、頻繁にキャッシュタグメモリにアクセスすることとなる。この時、キャッシュタグメモリに対するアクセスレイテンシは、コンピュータシステムの性能を考える上で無視できない問題となる。上記従来技術において、トランザクション処理を行った際の、キャッシュタグメモリに対するアクセスの頻度は、キャッシュヒット時にはキャッシュタグメモリに対して読み込み処理を1回、書き込み処理を1回必要とする。また、キャッシュミス時にはキャッシュメモリに対し読み込み処理を2回、書き込み処理を2回必要とする。
【0007】
【発明が解決しようとする課題】
このように、従来技術においては、キャッシュタグメモリが大容量となり、キャッシュ制御回路等が存在するLSIの外部にキャッシュタグメモリが実装される等、キャッシュタグメモリに対するアクセスレイテンシが増加した場合、コンピュータシステムのトランザクション処理に要するレイテンシが増大する。
【0008】
本発明の目的は、キャッシュタグメモリに対するアクセスレイテンシを削減することにより、さらなるコンピュータシステムの性能向上を行うことができるキャッシュシステムを提供することにある。
【0009】
【課題を解決するための手段】
本発明では、キャッシュ制御回路等が存在するLSI内にキャッシュタグバッファを用意する。これはキャッシュタグメモリの一部を格納でき、コンピュータシステム内でトランザクション処理が完了するまでキャッシュタグメモリに存在するトランザクション処理対象キャッシュブロックの状態を保持するものである。これにより、トランザクション処理が、キャッシュタグメモリから一度対応するキャッシュブロックの情報を読み出した後、キャッシュ制御回路等が存在するLSI内のキャッシュタグバッファにアクセスすることのみで、キャッシュタグメモリに対する処理を行うことができる。従って、キャッシュタグバッファへのアクセスレイテンシを最小にすることができ、コンピュータシステムのトランザクション処理に要するレイテンシを削減することができる。
【0010】
また、本発明では、キャッシュタグバッファは、キャッシュブロック状態ビット(MESI)とともに、キャッシュブロックが更新されたか否かを示すダーティビットと、キャッシュブロックを使用するトランザクションがコンピュータシステム内に存在するかどうかを示すロックビットを持つ。これらのビットは、キャッシュタグメモリへキャッシュタグバッファに存在するキャッシュブロック状態を書き戻す際に使用する。具体的には、ロックビットが現在キャッシュブロックを使用するトランザクションが存在しないことを示し、かつダーティビットがキャッシュブロックに対し状態更新がなされたことを示すキャッシュブロックが存在した場合に、キャッシュタグメモリに対し該キャッシュブロックの書き戻しを行う。他のビット状態の時は書き戻しを行わない。すなわち、ロックビットを常に監視し、キャッシュタグバッファにおいて使用されていないキャッシュブロックが存在した場合にはこれをキャッシュタグメモリに書き戻すことで、キャッシュタグバッファの効率的な利用を行う。また、ダーティビットを見ることでキャッシュタグメモリへの不要な書き戻しを防ぎ、キャッシュタグメモリに対するアクセスの効率化を行う。
【0011】
【発明の実施の形態】
以下、本発明の実施例について図面を用いて説明する。
図1に、本発明を適用した場合のコンピュータシステムの一実施例の構成図を示す。図1において、本コンピュータシステムはプロセッサ10及び11、キャッシュシステム20及び21、共通バス30、メインメモリ40を備える。キャッシュシステム20は、プロセッサ10とキャッシュシステム20を接続するプロセッサインターフェース210と、共通バス30とキャッシュシステム20を接続するメモリバスインターフェース220と、コヒーレンシトランザクションヒストリ制御回路230と、プロセッサインターフェース210又はコヒーレンシトランザクションヒストリ制御回路230から転送されるアドレスを登録するアドレスレジスタ240と、キャッシュデータを格納するキャッシュデータメモリ250と、キャッシュデータメモリ250に格納されているキャッシュデータのアドレスとキャッシュコヒーレンシ制御のための「Modified」、「Shared」、「Exclusive」、「Invalid」の4状態を格納するキャッシュタグメモリ260と、本発明の特徴部分であるキャッシュタグメモリ260の一部を格納するキャッシュタグバッファ270と、キャッシュシステム20内の各回路の制御を行うキャッシュ制御回路280を備える。
【0012】
キャッシュタグバッファ270は、キャッシュタグメモリ260以外の、キャッシュ制御回路280及びその他の回路が存在するLSI内に置かれる。キャッシュタグメモリ260は、大容量になると、このLSIの外部に実装され、場合によっては、キャッシュデータメモリも、該LSIの外部に実装される。
【0013】
図1においては、キャッシュシステム21の構成要素については省略しているが、キャッシュシステム20と同様の構成である。また、図1では、2組のプロセッサとキャッシュシステムでマルチプロセッサシステムを構成するとしたが、3組あるいはそれ以上の組のプロセッサとキャッシュシステムでマルチプロセッサシステムが構成されることでもよい。
【0014】
図2に、キャッシュタグメモリ260と本発明の特徴部分であるキャッシュタグバッファ270の構成例を示す。図2においては、(A)がキャッシュタグメモリ260、(B)がキャッシュタグバッファ270の構成例である。ここでは、キャッシュタグメモリ260は4ウエイ・セット・アソシアティブ構成で、セット数Mは簡単に16としている。キャッシュタグバッファ270はキャッシュタグメモリ260の一部を保持し、キャッシュ構成はキャッシュタグメモリ260の構成と同じで、4ウエイ・セット・アソシアティブ構成であるが、セット数Nは4である。すなわち、一般にM≧Nとする。図2において、キャッシュタグメモリ260及びキャッシュタグバッファ270は4ウエイ・セット・アソシアティブ構成であるため、1セット中にキャッシュブロック1,2,3,4の4キャッシュブロックの情報を保持する。
【0015】
キャッシュタグメモリ260は、各セットの各キャッシュブロック毎に、キャッシュデータメモリ250の当該セットの当該キャッシュブロックに格納されているキャッシュデータのアドレス(タグ)を格納するタグ部311と、当該キャッシュブロックが4状態「M」,「E」,「S」,「I」のどの状態であるかを示すキャッシュブロック状態312から構成される。「M」,「E」,「S」,「I」は「Modified」,「Exclusive」,「Shared」,「Invalid」の4状態にそれぞれ対応する。
【0016】
キャッシュタグバッファ270は、1セットがキャッシュタグメモリ260のセット番号に相当するアドレス(以下インデックスアドレスとする)を格納するインデックス部300と、各キャッシュブロック毎に、、キャッシュタグメモリ260におけるタグを格納するタグ部301、キャッシュタグメモリ260のキャッシュブロック状態を保持するキャッシュブロック状態部302、キャッシュブロックの状態更新の有無を示すダーティビット303、キャッシュブロックを使用しているトランザクションが存在することを示すロックビット304から構成される。ダーティビット303は、“1”である時当該キャッシュブロックの状態更新があったことを示し、“0”である時は状態更新が無かったことを示す。また、ロックビット304は、“1”である時当該キャッシュブロックを使用しているトランザクションが存在することを示し、“0”である時は当該キャッシュブロックを使用しているトランザクションが存在しないことを示す。
【0017】
キャッシュタグバッファ270におけるキャッシュブロックの有効又は無効の判定には、キャッシュブロック状態部302を使用する。具体的には、「I」の場合はキャッシュブロックが無効であると判断し、「I」以外の状態である時は有効であると判断する。また、キャッシュタグバッファ270に対する書き込み処理は、セット単位で行う。したがって、セット内の1キャッシュブロックを処理対象とするトランザクション処理によってキャッシュタグバッファ270にキャッシュタグメモリ260のセットが登録された時、セット内の他キャッシュブロックを処理対象とするトランザクションも、キャッシュアクセスレイテンシを削減することができる。
【0018】
以下、図1及び図2により、本発明の特徴部分であるキャッシュタグバッファ270を使用するトランザクション処理における、キャッシュシステム20の動作説明を行う。
【0019】
図1に示すコンピュータシステムにおいて、プロセッサ10からメインメモリ40に対する読み出しトランザクション又は書き込みトランザクションが発行されると、キャッシュシステム20はパス500を介し、プロセッサインターフェース210でトランザクションを受け取る。次にキャッシュシステム20は、パス501を介しトランザクション処理対象のメモリアドレス(以下リクエストアドレスと呼ぶ)をアドレスレジスタ240に登録する。アドレスレジスタ240に登録されたリクエストアドレスは、パス502とパス503を介し各々キャッシュ制御回路280とキャッシュデータメモリ250に送られる。キャッシュ制御回路280は、リクエストアドレスを用いて、パス504を介してキャッシュタグメモリ260の内容を、また、パス505を介してキャッシュタグバッファ270の内容をそれぞれ読み出し、リクエストアドレスに対応するキャッシュブロックがキャッシュタグメモリ260又はキャッシュタグバッファ270に存在するかどうかを判定する。この時、キャッシュタグメモリ260にリクエストアドレスが指すキャッシュブロックが存在し、キャッシュタグバッファ270にリクエストアドレスが指すキャッシュブロックが存在しない場合(トランザクション処理における初期状態)、キャッシュ制御回路280は、パス506を介しキャッシュタグバッファ270に、キャッシュタグメモリ260の当該セットのインデックスアドレス及びセット内のタグ全てと、当該セット内のタグに対応するキャッシュブロックの状態全てを書き込む。キャッシュタグバッファ270に対するキャッシュブロック情報の書き込み後、当該セット内のキャッシュブロックを処理対象とするトランザクションは、キャッシュタグバッファ270に存在するキャッシュブロック情報を更新することにより、キャッシュアクセス及びキャッシュコヒーレンシ制御を行うことができる。他の場合も含め、キャッシュタグバッファ270に対するキャッシュ制御回路280の詳細な動作は後で説明する。
【0020】
キャッシュ制御回路280は、キャッシュタグメモリ260又はキャッシュタグバッファ270に、リクエストアドレスに対応するタグが存在している場合は、タグに付随するキャッシュブロックの状態判定を行う。キャッシュブロック状態判定の結果、キャッシュヒットが有効の場合、キャッシュ制御回路280はパス514を介しキャッシュデータメモリ250に対し、キャッシュヒットした情報を送る。キャッシュヒットしたという情報を受けたキャッシュデータメモリ250は、パス507を介し、該当するキャッシュブロックのデータをプロセッサインターフェース210に対し出力する。プロセッサインターフェース210はパス500を介し、受けたデータをプロセッサ10に対し送る。また、キャッシュヒット時、書き込みトランザクションでありかつリクエストアドレスに対応するタグのキャッシュブロック状態が「Exclusive」の場合、キャッシュ制御回路280はパス506を介し、キャッシュブロックの状態を「Modified」に更新する。他の状態、例えば「Shared」の場合、キャッシュブロックの状態の更新はない。
【0021】
一方、キャッシュタグメモリ260及びキャッシュタグバッファ270のいずれにも、リクエストアドレスに対応するタグが存在せず、キャッシュミスの場合キャッシュ制御回路280はパス508を介し、メモリバスインターフェース220にキャッシュミスしたという情報を送る。キャッシュミスしたという情報を受け取ったメモリバスインターフェース220はパス509を介し、共通バス30に対し読み出し又は書き込みトランザクションを発行する。読み出し又は書き込みトランザクションは共通バスを介し、パス510を通ってキャッシュシステム21に、パス511を通ってメインメモリ40に対し転送される。他キャッシュシステムからのトランザクションに対するキャッシュコヒーレンシ処理は、キャッシュシステム21とキャッシュシステム20では同じなので、ここでは例としてキャッシュシステム20における処理を説明する。
【0022】
キャッシュシステム20は、共通バス30に流れるキャッシュシステム21からのトランザクションをスヌープし、自身のキャッシュブロック状態をチェックする。具体的には、メモリバスインターフェース220はパス509を介して、共通バス30に流れるキャッシュシステム21のトランザクションを取り込む。この後、メモリバスインターフェース220は、パス512を介して取り込んだトランザクションをコヒーレントトランザクションヒストリ制御回路230に送る。コヒーレントトランザクションヒストリ制御回路230は、他キャッシュシステム21から発行されたトランザクションの処理対象アドレス(以下、コヒーレンシアドレス)の履歴を保持しており、取り込んだトランザクションのコヒーレンシアドレスが保持されていない場合、パス513を介しアドレスレジスタ240に、当該トランザクションのコヒーレンシアドレスを登録する。なお、コヒーレンシトランザクションヒストリ制御回路230における処理は、先の特開平9−293060号公報に詳述されているので、ここでは省略する。
【0023】
アドレスレジスタ240に登録されたコヒーレンシアドレスは、パス502とパス503を介し、各々キャッシュ制御回路280とキャッシュデータメモリ250に送られる。キャッシュ制御回路280は、コヒーレンシアドレスを用い、パス504を介しキャッシュタグメモリ260の内容を、また、パス505を介しキャッシュタグバッファ270の内容をそれぞれ読み出す。この時、キャッシュタグメモリ260にコヒーレンシアドレスに対応するキャッシュブロックが存在し、キャッシュタグバッファ270に対応するキャッシュブロックが存在しない場合、キャッシュ制御回路280は、パス506を介しキャッシュタグバッファ270に、キャッシュタグメモリ260の当該セットのインデックスアドレス及びセット内全てのタグ、当該セット内のタグに対応するキャッシュブロックの状態全てを書き込む。キャッシュタグバッファ270に対するキャッシュブロック情報の書き込み後、当該セット内のキャッシュブロックを処理対象とするトランザクションは、キャッシュタグバッファ270に存在するキャッシュブロック情報を更新することにより、キャッシュコヒーレンシ制御を行うことができる。キャッシュ制御回路280は、コヒーレンシアドレスに対応するキャッシュブロックがキャッシュタグメモリ260又はキャッシュタグバッファ270に存在する場合は、タグに付随するキャッシュブロックの状態判定を行う。キャッシュブロック状態判定の結果、キャッシュヒットが有効の場合、キャッシュ制御回路280はパス514を介しキャッシュデータメモリ250に対し、キャッシュヒットした情報を送る。また、キャッシュヒットの場合、前記キャッシュタグバッファ270への書き込み時に、読み込みトランザクションは「shared」を、書き込みトランザクションは「Invalid」をキャッシュブロックの状態に書き込む。キャッシュヒットしかつキャッシュブロックの状態が「Modified」の時、最新データがキャッシュシステム20に存在するので、キャッシュデータメモリ250はパス508を介し、該当するキャッシュブロックのデータをメモリバスインターフェース220に送る。メモリバスインターフェース220は該キャッシュブロックのデータを共通バス30を介し、キャッシュシステム21に返す。
【0024】
キャッシュシステム20が最新データをメインメモリ40又はキャッシュシステム21から受けた場合のトランザクション処理動作は以下の通りである。最新データを受けたメモリバスインターフェース220は、プロセッサインターフェース210を介してプロセッサ10に最新データを送るのと同時に、キャッシュデータメモリ250に最新データを書き込む。また、最新データがキャッシュシステム20に到着したという情報は、コヒーレンシトランザクションヒストリ制御回路230、アドレスレジスタ240を介しキャッシュ制御回路280に送られ、情報を受け取ったキャッシュ制御回路280はキャッシュタグバッファ270のキャッシュブロック状態の更新をする。
【0025】
図3に、キャッシュ制御回路280の構成例を示す。図3においては、図1と同じ参照番号は同じものを指す。キャッシュ制御回路280は、キャッシュタグメモリ260及びキャッシュタグバッファ270へサーチ要求を出すキャッシュタグサーチ回路281と、キャッシュタグメモリ260から読み出したセットをキャッシュタグバッファ270に書き込むキャッシュタグバッファ登録回路282と、キャッシュタグメモリ260及びキャッシュタグバッファ270から読み出したキャッシュブロック状態からキャッシュヒットを判定するキャッシュタグ情報集計回路283と、キャッシュタグバッファ270のキャッシュブロック状態を更新するキャッシュタグ状態更新回路284と、キャッシュタグバッファ270のセットをキャッシュタグメモリ260に書き戻すキャッシュタグメモリ登録回路285から構成される。
【0026】
以下、図3により、キャッシュタグメモリ260及びキャッシュタグバッファ270に対するキャッシュ制御回路280の詳細な動作を説明する。
【0027】
キャッシュタグサーチ回路281は、パス501あるいはパス513を介して、プロセッサ10から発行されたトランザクションのリクエストアドレス、あるいは他キャッシュシステム21から発行されたトランザクションのコヒーレンシアドレスがアドレスレジスタ240にセットされると、パス550を介し該リクエストアドレス又はコヒーレンシアドレスを受け、パス551を介してキャッシュタグメモリ260に対しキャッシュタグサーチ要求を発行し、また、同時にパス552を介してキャッシュタグバッファ270に対しキャッシュタグサーチ要求を発行する。以下では、プロセッサ10から発行されたトランザクションのリクエストアドレスを受けた場合を例に動作を説明するが、他キャッシュシステム21から発行されたトランザクションのコヒーレンシアドレスを受けた場合の動作も基本的に同じである。
【0028】
キャッシュタグサーチ要求は、パス553を介してキャッシュタグメモリ260からリクエストアドレスに対応するキャッシュブロックの情報を、同様にパス554を介してキャッシュタグバッファ270からリクエストアドレスに対応するキャッシュブロックの情報を読み出し、キャッシュタグ情報集計回路283に送る。読み出しに要するレイテンシは、キャッシュタグメモリ260よりも高速な記憶装置で構成されるキャッシュタグバッファ270の方が短い。
【0029】
キャッシュタグ情報集計回路283は、キャッシュタグバッファ270からキャッシュブロックの情報を受けた時、最新のキャッシュブロック情報はキャッシュタグバッファに存在するものとと判断し、該キャッシュブロック情報を用い、キャッシュのヒット判定を行う。一方、キャッシュタグバッファ270からキャッシュブロック情報を受けることができなかった場合、キャッシュタグ情報集計回路284は、キャッシュタグメモリ260からのキャッシュブロック情報が読み出されるのを待つ。キャッシュタグメモリ260から該キャッシュブロックの情報を受けた時は、該情報を元にキャッシュヒット判定を行う。しかし、キャッシュタグメモリ260からも該キャッシュブロック情報が読み出されなかった時は、キャッシュミスと判断する。キャッシュブロックの状態判定後、キャッシュタグ情報集計回路284は、キャッシュヒット判定結果を、パス514を介してキャッシュデータメモリ250に報告する。
【0030】
このキャッシュタグ情報集計回路284における処理と同時に、キャッシュタグバッファ登録回路282は、パス555を介してキャッシュタグメモリ260から、また、パス556を介してキャッシュタグバッファ270から、それぞれ読み出されたキャッシュブロック情報を受ける。この時、キャッシュタグバッファ登録回路282では、対応するキャッシュブロックが存在するセット内のキャッシュブロック情報全てを受ける。キャッシュタグバッファ登録回路282は、キャッシュブロック情報をキャッシュタグメモリ260及びキャッシュタグバッファ270から受けると、キャッシュタグバッファ270に対し、更新処理を行うか判定する。
【0031】
更新処理の判定は、次の2条件の組み合わせで決まる。条件1はキャッシュタグバッファ270にリクエストアドレスに対応するセットが存在したかどうか、条件2はキャッシュタグバッファ270内又はキャッシュタグメモリ260にリクエストアドレスに対応するキャッシュブロックの情報が存在したかどうかである。
【0032】
キャッシュタグバッファ登録回路282は、まず、キャッシュタグバッファ270にセットが存在かつキャッシュブロック情報が存在した時は、更新処理は行わなず、現在キャッシュタグバッファ270に登録されているキャッシュブロック情報をトランザクション処理において使用する。この時、該キャッシュブロックにおいてロックビットが“0”の時、ロックビットを“1”にする。次に、キャッシュタグバッファ270にセットは存在するがキャッシュブロック情報が存在しなかった場合は、セット内の各ロックビットを見る。そして、セット内のロックビットが“0”のキャッシュブロックが存在した場合、セット内の該ロックビットが“0”であるキャッシュブロックにリクエストアドレスに対応するキャッシュブロック情報を書き込む。この時、書き込んだ場所に存在したキャッシュブロックの状態が「I」以外なら、該キャッシュブロックをメインメモリ30に書き戻す。セット内の全てのロックビットが“1”の場合、キャッシュタグバッファ270に在るセット内の任意のキャッシュブロックを選択し、該キャッシュブロックの状態が「I」以外ならメインメモリ30に書き戻し、セット内の選択したキャッシュブロックの場所にリクエストアドレスに対応するキャッシュブロック情報をパス557を介して新規に書き込む。この時、該キャッシュブロックに対しロックビットを“1”にする。そして、キャッシュタグバッファ270にセットが存在しない、かつキャッシュタグメモリ260にタグ情報が存在した時は、キャッシュタグメモリ260から読み出したセットをキャッシュタグバッファ270にパス557を介して書き込む。この時、該キャッシュブロックに対しロックビットを“1”にする。最後にキャッシュタグバッファ270にセットが存在しない、かつキャッシュタグメモリ260にタグ情報が存在したなかった時は、キャッシュタグメモリ260から読み出したセット内の任意のキャッシュブロックを選択し、該キャッシュブロックの状態が「I」以外ならメインメモリ30に書き戻し、セット内の選択したキャッシュブロックの場所に対応するタグ情報をキャッシュタグバッファ270にパス557を介して新規に書き込む。この時、該キャッシュブロックに対しロックビットを“1”にする。
【0033】
キャッシュタグ状態更新回路284は、コンピュータシステムにおいてトランザクション処理が行われている間に対応するタグ情報の更新要求が来た場合に、キャッシュタグバッファ270の更新を行う。具体的には、パス558を介してアドレスレジスタ240から更新対象のキャッシュブロックを示すアドレスを受け、パス559を介してキャッシュタグバッファ270内の該キャッシュブロックの状態更新を行う。また、この時に該キャッシュブロックのダーティビットを“1”にする。
【0034】
キャッシュタグメモリ登録回路285は、キャッシュタグバッファ270の各セットにおけるダーティビット及びロックビットをパス560を介して常に監視し、コンピュータシステム内で任意のセット内における全てのキャッシュブロックを使用するトランザクション処理が完了、すなわちロックビットが全て“0”となり、かつ該セットにおけるダーティビットのうちどれか1つでもセット内で“1”である場合に、キャッシュタグメモリ260に対しパス561を介してセットの書き戻しを行う。この処理はシステム内トランザクション処理と並列に行われ、コンピュータシステムのデータ処理スループットに影響を及ぼさない。また、キャッシュタグバッファ270の特徴として、ダーティビットを使用し、キャッシュタグバッファ270からキャッシュタグメモリ260に対する不要なアクセスを削減している。具体的には、キャッシュタグメモリの状態更新時にダーティビットをセットし、セットにおけるキャッシュ状態の更新があったことを示す。これにより、セットに対しキャッシュ状態の更新があったことを判別でき、キャッシュタグメモリ260の該セットの状態と異なるセットのみキャッシュタグメモリ260に対する書き込みを行う。
【0035】
以上のように、本実施形態によれば、コンピュータシステムにおけるトランザクション処理のキャッシュタグに対するアクセスは、CPU又はチップセット内のキャッシュタグバッファにアクセスすることのみで実現できる。これにより、例えば特開平9〜29306号公報に記載の従来技術においてキャッシュヒット時にはキャッシュタグメモリに対して2回アクセスを必要とするのに対し、本実施形態では1回又は該処理対象のキャッシュブロックが存在するセットがすでにキャッシュタグバッファ270に格納されている場合0回で済む。同様に従来技術でキャッシュミス時にはキャッシュメモリに対するアクセスを4回必要としたのに対し、最低0回、最高2回のアクセスで済ますことができる。
【0036】
【発明の効果】
以上述べたように、本発明によれば、にキャッシュタグメモリの一部を格納するキャッシュタグバッファを設けることにより、キャッシュタグメモリへのアクセス回数を削減することができ、コンピュータシステムにおけるキャッシュアクセスレイテンシを削減することができる
【図面の簡単な説明】
【図1】本発明を適用したコンピュータシステムの一実施形態の構成図である。
【図2】キャッシュタグメモリとキャッシュタグバッファの構成例を示す図である。
【図3】図1中のキャッシュ制御回路280の詳細構成例を示す図である。
【符号の説明】
10、11 プロセッサ
20、21 キャッシュシステム
930 共通バス
40 メインメモリ
210 プロセッサインターフェース
220 メモリバスインターフェース
230 コヒーレンシトランザクションヒストリ制御回路
240 アドレスレジスタ
250 キャッシュデータメモリ
260 キャッシュタグメモリ
270 キャッシュタグバッファ
280 キャッシュ制御回路
281 キャッシュタグサーチ回路
282 キャッシュタグバッファ登録回路
283 キャッシュタグ情報集計回路
284 キャッシュタグ状態更新回路
285 キャッシュタグメモリ登録回路
300 インデックス
301 タグ部
302 キャッシュブロック状態部
303 ダーティビット
304 ロックビット
311 タグ部
312 キャッシュブロック状態部

Claims (3)

  1. メインメモリに格納されたデータの一部を格納するキャッシュデータメモリと、前記キャッシュデータメモリに格納されたデータのメインメモリ内の位置を示す情報を格納するキャッシュタグメモリを具備するキャッシュシステムにおいて、
    前記キャッシュタグメモリの情報の一部を格納するキャッシュタグバッファを設けると共に、
    メモリアクセス要求を受けると、前記キャッシュタグメモリと前記キャッシュタグバッファの両方を検索し、前記キャッシュタグバッファに目的のキャッシュブロックが存在する場合は、前記キャッシュタグメモリの検索結果を待たずに、前記キャッシュタグバッファの情報を使用して前記キャッシュデータメモリに対するアクセスを制御するキャッシュ制御手段を有し、
    前記キャッシュタグバッファは各キャッシュブロック毎に、当該キャッシュブロックを使用するトランザクションが存在するか否かを示すロックビットを持ち、前記キャッシュ制御手段は前記ロックビットを使用してキャッシュタグメモリに対するキャッシュブロックの書き戻し処理を行うことを特徴とするキャッシュシステム。
  2. 請求項1記載のキャッシュシステムにおいて、前記キャッシュタグバッファは各キャッシュブロック毎に、当該キャッシュブロックに対し状態変更が行われたか否か示すダーティビットを更に持ち、前記キャッシュメモリ制御手段は前記ダーティビットを使用してキャッシュタグメモリに対するキャッシュブロックの書き戻し処理を行うことを特徴とするキャッシュシステム。
  3. 請求項2記載のキャッシュシステムにおいて、前記キャッシュ制御手段はダーティビットの状態に応じてキャッシュタグバッファのキャッシュタグメモリに対する不要な書き戻しを抑止することを特徴とするキャッシュシステム。
JP2000305862A 2000-10-05 2000-10-05 キャッシュシステム Expired - Fee Related JP3732397B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2000305862A JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム
US09/941,696 US6839806B2 (en) 2000-10-05 2001-08-30 Cache system with a cache tag memory and a cache tag buffer

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000305862A JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム

Publications (2)

Publication Number Publication Date
JP2002116954A JP2002116954A (ja) 2002-04-19
JP3732397B2 true JP3732397B2 (ja) 2006-01-05

Family

ID=18786648

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000305862A Expired - Fee Related JP3732397B2 (ja) 2000-10-05 2000-10-05 キャッシュシステム

Country Status (2)

Country Link
US (1) US6839806B2 (ja)
JP (1) JP3732397B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2002357420A1 (en) * 2002-12-30 2004-07-22 Intel Corporation Cache victim sector tag buffer
US7254681B2 (en) * 2003-02-13 2007-08-07 Intel Corporation Cache victim sector tag buffer
US7496715B1 (en) * 2003-07-16 2009-02-24 Unisys Corporation Programmable cache management system and method
US7117290B2 (en) * 2003-09-03 2006-10-03 Advanced Micro Devices, Inc. MicroTLB and micro tag for reducing power in a processor
US7363427B2 (en) * 2004-01-12 2008-04-22 Hewlett-Packard Development Company, L.P. Memory controller connection to RAM using buffer interface
KR101645003B1 (ko) 2010-02-12 2016-08-03 삼성전자주식회사 메모리 제어기 및 그 메모리 제어기가 탑재된 컴퓨팅 장치
CN103370696B (zh) * 2010-12-09 2016-01-20 国际商业机器公司 多核系统以及核数据读取方法
JP5936152B2 (ja) * 2014-05-17 2016-06-15 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation メモリアクセストレース方法
US11080185B2 (en) 2017-06-15 2021-08-03 Rambus Inc. Hybrid memory module

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5619673A (en) * 1994-06-29 1997-04-08 Intel Corporation Virtual access cache protection bits handling method and apparatus
US6026476A (en) * 1996-03-19 2000-02-15 Intel Corporation Fast fully associative translation lookaside buffer
JP3269967B2 (ja) 1996-04-24 2002-04-02 株式会社日立製作所 キャッシュコヒーレンシ制御方法、および、これを用いたマルチプロセッサシステム
US5978886A (en) * 1997-01-17 1999-11-02 Hewlett-Packard Company Method and apparatus for duplicating tag systems to maintain addresses of CPU data stored in write buffers external to a cache
US6079003A (en) * 1997-11-20 2000-06-20 Advanced Micro Devices, Inc. Reverse TLB for providing branch target address in a microprocessor having a physically-tagged cache
US6226763B1 (en) * 1998-07-29 2001-05-01 Intel Corporation Method and apparatus for performing cache accesses
JP3439350B2 (ja) * 1998-10-02 2003-08-25 Necエレクトロニクス株式会社 キャッシュ・メモリ制御方法及びキャッシュ・メモリ制御装置
US6401175B1 (en) * 1999-10-01 2002-06-04 Sun Microsystems, Inc. Shared write buffer for use by multiple processor units
US6636906B1 (en) * 2000-04-28 2003-10-21 Hewlett-Packard Development Company, L.P. Apparatus and method for ensuring forward progress in coherent I/O systems
JP2004094807A (ja) * 2002-09-03 2004-03-25 Toshiba Corp 命令キャッシュおよびマイクロプロセッサとその設計方法

Also Published As

Publication number Publication date
US20020042860A1 (en) 2002-04-11
JP2002116954A (ja) 2002-04-19
US6839806B2 (en) 2005-01-04

Similar Documents

Publication Publication Date Title
US7698508B2 (en) System and method for reducing unnecessary cache operations
US7305522B2 (en) Victim cache using direct intervention
US7305523B2 (en) Cache memory direct intervention
EP1388065B1 (en) Method and system for speculatively invalidating lines in a cache
US7032074B2 (en) Method and mechanism to use a cache to translate from a virtual bus to a physical bus
US5155824A (en) System for transferring selected data words between main memory and cache with multiple data words and multiple dirty bits for each address
US8782348B2 (en) Microprocessor cache line evict array
US6021468A (en) Cache coherency protocol with efficient write-through aliasing
JP3269967B2 (ja) キャッシュコヒーレンシ制御方法、および、これを用いたマルチプロセッサシステム
US20080270708A1 (en) System and Method for Achieving Cache Coherency Within Multiprocessor Computer System
US6272602B1 (en) Multiprocessing system employing pending tags to maintain cache coherence
US7281092B2 (en) System and method of managing cache hierarchies with adaptive mechanisms
US20090094418A1 (en) System and method for achieving cache coherency within multiprocessor computer system
KR20030024895A (ko) 캐시 코히어런트 멀티-프로세서 시스템에서 순서화된입출력 트랜잭션을 파이프라이닝하기 위한 방법 및 장치
US6615321B2 (en) Mechanism for collapsing store misses in an SMP computer system
US7024520B2 (en) System and method enabling efficient cache line reuse in a computer system
US8473686B2 (en) Computer cache system with stratified replacement
JP3732397B2 (ja) キャッシュシステム
JP2007533014A (ja) ライトバックキャッシュにおいてスヌーププッシュ処理やスヌープキル処理が同時発生しているときのライトバック処理をキャンセルするためのシステムおよび方法
JP2001249846A (ja) キャッシュメモリ装置及びデータ処理システム
US6615320B2 (en) Store collapsing mechanism for SMP computer system
US5907853A (en) Method and apparatus for maintaining duplicate cache tags with selectable width
JP2000132456A (ja) 並列計算機のキャッシュメモリ装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051012

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091021

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091021

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101021

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111021

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121021

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121021

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131021

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees