JP5622155B2 - キャッシュメモリおよびその制御方法 - Google Patents

キャッシュメモリおよびその制御方法 Download PDF

Info

Publication number
JP5622155B2
JP5622155B2 JP2011537244A JP2011537244A JP5622155B2 JP 5622155 B2 JP5622155 B2 JP 5622155B2 JP 2011537244 A JP2011537244 A JP 2011537244A JP 2011537244 A JP2011537244 A JP 2011537244A JP 5622155 B2 JP5622155 B2 JP 5622155B2
Authority
JP
Japan
Prior art keywords
address
sram
cam
line
subtag
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011537244A
Other languages
English (en)
Other versions
JPWO2011049051A1 (ja
Inventor
翔 岡部
翔 岡部
公輝 阿部
公輝 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Original Assignee
THE UNIVERSITY OF ELECTRO-COMUNICATINS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by THE UNIVERSITY OF ELECTRO-COMUNICATINS filed Critical THE UNIVERSITY OF ELECTRO-COMUNICATINS
Priority to JP2011537244A priority Critical patent/JP5622155B2/ja
Publication of JPWO2011049051A1 publication Critical patent/JPWO2011049051A1/ja
Application granted granted Critical
Publication of JP5622155B2 publication Critical patent/JP5622155B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0804—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches with main memory updating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0844—Multiple simultaneous or quasi-simultaneous cache accessing
    • G06F12/0846—Cache with multiple tag or data arrays being simultaneously accessible
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0864—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches using pseudo-associative means, e.g. set-associative or hashing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0893—Caches characterised by their organisation or structure
    • G06F12/0895—Caches characterised by their organisation or structure of parts of caches, e.g. directory or tag array
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/12—Replacement control
    • G06F12/121—Replacement control using replacement algorithms
    • G06F12/123—Replacement control using replacement algorithms with age lists, e.g. queue, most recently used [MRU] list or least recently used [LRU] list
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11C—STATIC STORES
    • G11C15/00—Digital stores in which information comprising one or more characteristic parts is written into the store and in which information is read-out by searching for one or more of these characteristic parts, i.e. associative or content-addressed stores
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Memory System Of A Hierarchy Structure (AREA)

Description

本発明は、キャッシュメモリおよびその制御方法に関し、特に、性能を低減させること無く、低電力で動作できるようにしたキャッシュメモリおよびその制御方法に関する。
近年、パーソナルコンピュータなどの情報処理装置において、CPU（Central Processing Unit）とメインメモリとの性能差を吸収し、処理を円滑に実行させるものとしてキャッシュメモリが欠かせない存在となっている。
キャッシュメモリとは、CPUなど処理装置がデータや命令などの情報を取得または更新する際にメインメモリやバスなどの遅延または低帯域を隠蔽化させ、処理装置と記憶装置の性能差を埋めるために用いる高速小容量メモリである。
コンピュータは以前から記憶装置の性能が処理装置の性能に追いつけず、この差が全体性能に対するボトルネックとされてきた（ノイマンズ・ボトルネック）。そして、ムーアの法則に基づく処理装置の加速度的な高性能化により現在ではますますこの差が拡大されている。キャッシュメモリは、記憶階層の観点からこれを解消しようとするものであり、一般に、主記憶装置（メインメモリ）とCPUなど処理装置との間に構成される。
従来のキャッシュメモリの構成として、図１で示される４ウェイセットアソシアティブ方式のものが知られている。
図１の場合、キャッシュメモリは、４ウェイ（連想度４）のSRAM（Static Random Access Memory）から構成されており、各ウェイ毎に、インデックスアドレスが設定され、そのインデックスアドレス毎にタグアドレスが設けられており、このタグに対応付けてデータが記憶されている。図１においては、各ウェイは、００，０１，１０，１１の２ビットの識別情報で区別されて管理されている。また、アドレスは、図１の上部で示されるように、タグアドレスとインデックスアドレスから構成されている。すなわち、図１においては、１個のインデックスアドレスが特定されると、４個のタグが特定される。ここで、ウェイとは、同一のインデックスアドレスにより指定できるタグアドレスの数のことであり、連想度とも言う。
図１のキャッシュメモリの場合、CPUがアドレスを指定して、データの読み出しを要求すると、まず、アドレスのうち、インデックスアドレスに基づいてデータが特定される。図１の場合、４ウェイで構成されているため、インデックスアドレスが特定されることにより、同一のインデックスアドレスに対して、４個の各ウェイのタグアドレスが指定されるため、４個の読み出しデータの候補が特定される。
次に、CPUにより指定されたアドレスのうちのタグアドレスの情報と、各ウェイのタグアドレスとを比較し、比較結果を出力すると共に、タグアドレスで指定される４個のデータが同時に読み出される。この結果、一致するタグアドレスが存在した場合、キャッシュメモリには、CPUから要求されたデータが存在する（キャッシュヒットする）ことになる。そこで、出力された４個のデータのうち、同一のタグアドレスで管理されていたデータのみがCPUに供給され、その他のデータは破棄される。一方、同一のタグアドレスがない場合、キャッシュメモリには、CPUから要求されたデータが存在しない（キャッシュミスする）ことになるので、キャッシュメモリは、要求されたアドレスのデータをメインメモリより読み出して、CPUに供給すると共に、最も前のタイミングで読み出されたデータに上書き更新する。
しかしながら、この手法では、アドレスのうちインデックスアドレスで特定できるのはウェイ数分の候補だけであり、さらに、この中で必要とされるデータは０または１であることから、インデックスアドレスで特定されたデータが、仮に用いられても、（ウェイ数−１）個分のミスが発生することとなる。SRAMは、読み出しの際に消費される電力が大きいため、ミスを低減させない限り消費電力の低減を期待できない。このため、インデックスアドレスで特定されるデータの個数、つまり、ウェイ数を減らさない限り消費電力を低減させることができない。しかしながら、ウェイ数が減れば、キャッシュヒット率は低減することとなるため、性能を低減させる一因となってしまう。
そこで、このように１のインデックスアドレスで特定されるデータ数に起因するミスを低減させるために、CAM（Content Addressable Memory）を用いた高連想度キャッシュメモリが提案されている。
図２は、この高連想度キャッシュメモリの構成を示している。図２の高連想度キャッシュメモリは、ラインサイズが３２bytesであり、容量が８KBとなる３２ウェイの高連想度キャッシュメモリである。図２の高連想度キャッシュメモリにおいては、上述したインデックスアドレスに対応する８個のサブバンク（各１KB）に区切ることにより、１回のCPUからの要求（以下キャッシュアクセスとも称する）に対して、１のサブバンクだけをアクティブにし、他のサブバンクの電力消費を低減することで、電力削減が図られている。
すなわち、アドレスのうちインデックスアドレスの情報がデコーダ（decoder）によりデコードされて、キャッシュアクセスすべきサブバンクに供給される。これにより、特定されたサブバンクのみがアクティブにされ、アクティブにされたバンクにおける、タグアドレスを管理するCAMにタグアドレスの情報を供給する。CAMは、供給されたタグアドレスに基づいて、全ウェイについて検索する。そして、アクティブな１個のサブバンクにおいては、CAMにより全ウェイに対して並列にタグアドレスとの比較が行われ、一致したタグアドレスに対応して格納されているデータだけがSRAMより出力される。
しかしながら、CAMを駆動させる場合、各ウェイについて全てのタグアドレスとの比較が実行されるため、１回のCPUからの読み出しに対して、連想度分のCAMが駆動されることにより電力消費が大きいという問題があった。
そこで、この問題を解決させるために、いくつかの手法が提案されているが、その中にLPHAC（Low Power Highly Associa-tive Cache）法と呼ばれるものがある（非特許文献１参照）。
LPHAC法は、タグアドレスが２４ビットで構成される場合、図３で示されるように、タグアドレス（以下、単にタグとも称する）を上位ビットと下位ビットの２つのサブタグアドレス（以下、単にサブタグとも称する）に分ける手法である。従来の高連想度キャッシュでは、図３のタグアドレス構成（ａ）で示されるように、全てCAMで管理するタグアドレス（以下、CAMタグとも称する）で構成されている。これに対し、LPHAC法では、図３のタグアドレス構成（ｂ）で示されるように、タグアドレスの下位ｓビットのサブタグアドレスをCAMで管理し（以下、CAMサブタグアドレスまたはCAMサブタグとも称する）、上位ビット（この例では２４−ｓビット）のサブタグアドレスをSRAMで管理する（以下、SRAMサブタグアドレスまたはSRAMサブタグとも称する）。例えば、ウェイ数が３２の場合、各ラインを区別するにはｓ≧５ビット以上必要となる。
動作は、はじめにCAMサブタグアドレスとの部分的な比較検索が行われ、このときに検索できなければ（ミスすれば）キャッシュミスとなる。非特許文献１によれば、ｓ＝８のとき、CAMサブタグアドレスとの部分的な比較検索のみでキャッシュミスの８５％が判明するといわれている。そして、CAMサブタグアドレスでヒットした場合は、ヒットしたラインに対してSRAMサブタグアドレスとの比較検索が行われる。より詳細には、最初の半クロックでCAMサブタグアドレスとの部分的な比較検索が行われ、後半の半クロックで、CAMサブタグアドレスで特定されたラインについて、SRAMサブタグアドレスによる部分的な比較検索が行われ、同時に、データが読み出される。
ここで、図４を参照して、具体的な比較検索例を参照して説明する。尚、図４においては、説明の便宜上、アドレスが、６ビットからなる場合の比較検索例について説明する。
まず、図４の比較例ａで示されるように、アドレスが「１０１０００」であって、CAMサブタグが「１０００」、およびSRAMサブタグが「１０」である場合、図示せぬキャッシュメモリにCAMサブタグとして、「１１１１」、「０１０１」、および「１０００」が登録されており、それらに対応付けて、SRAMサブタグが「１１」、「１０」、および「１０」として登録されているものとする。すなわち、比較例ａにおいては、アドレス「１１１１１１」，「１００１０１」，「１０１０００」に対応するデータが図示せぬキャッシュメモリに記憶されている。
比較例ａの場合、入力されたアドレス（入力アドレス）のCAMサブタグが用いられて、キャッシュメモリ内のCAMサブタグが部分的に比較検索されることにより、図中丸印で囲まれて示されるように、３段目の「１０００」が一致するものとして検索されることになるので、キャッシュヒットとなる。このため、CAMサブタグ「１０００」に対応付けて登録されているSRAMサブタグ「１０」と、入力アドレスのSRAMサブタグと比較検索されるが一致するので、同時に読み出されたデータがCPUに読み出されることになる。
また、図４の比較例ｂで示されるように、アドレスが「１０００００」であって、CAMサブタグが「００００」、およびSRAMサブタグが「１０」である場合、図示せぬキャッシュメモリには、CAMサブタグとして、「１１１１」、「０１０１」、および「１０００」が登録されており、それらに対応付けて、SRAMサブタグが「１１」、「１０」、および「１０」として登録されているものとする。すなわち、比較例ｂにおいては、アドレス「１１１１１１」，「１００１０１」，「１０１０００」に対応するデータが図示せぬキャッシュメモリに記憶されている。
比較例ｂの場合、まず、入力アドレスのCAMサブタグが用いられて、キャッシュメモリ内のCAMサブタグが比較検索されることにより、「００００」が検索されるが一致するCAMサブタグがない。すなわち、この場合、キャッシュミスとなる。ところが、CAMサブタグは、４ウェイであり、図４の比較例ｂにおいては、１ウェイ分の空きがある。そこで、メインメモリよりアドレス「１０００００」に対応するデータが読み出されて、CPUに供給されると共に、図４の比較例ｃで示されるように、キャッシュメモリには、空いている最下段の１ウェイにCAMサブタグ「００００」が登録され、さらに、対応付けてSRAMサブタグ「１０」が登録されて、今メインメモリから読み出されたデータが登録される。
さらに、図４の比較例ｄで示されるように、入力アドレスが「００１０００」であって、CAMサブタグが「１０００」、およびSRAMサブタグが「００」である場合、CAMサブタグとして、「１１１１」、「０１０１」、および「１０００」が登録されており、それらに対応付けて、SRAMサブタグが「１１」、「１０」、および「００」として登録されているものとする。すなわち、比較例ｄにおいては、アドレス「１１１１１１」，「１００１０１」，「１０１０００」に対応するデータが図示せぬキャッシュメモリに記憶されている。
このとき、まず、入力アドレスのCAMサブタグが用いられて、キャッシュメモリ内のCAMサブタグが比較検索されることにより、「１０００」が検索されて、図中丸印で囲んで示されるように、同一のものが検索される。次に、入力アドレスのSRAMサブタグと、検索されたSRAMサブタグ「１０」とが比較検索されるが、図中の×印で示されるように一致しない。すなわち、この場合、キャッシュミスとなる。しかしながら、既に、CAMサブタグとして「１０００」が登録されていることから、１ウェイ分の空きがあっても、メインメモリから新たにアドレスが「００１０００」に対応するデータが読み出されて登録されると、CAMサブタグ「１０００」に対して重複して、SRAMサブタグ「００」が登録されてしまう。すなわち、同一のCAMサブタグ「１０００」が重複して登録されて、それぞれSRAMサブタグ「１０」、および「００」が登録されてしまう。
ところが、LPHAC法においては、同一のCAMサブタグの重複が回避されるように登録が管理される。このため、メインメモリよりアドレス「００１０００」に対応するデータが読み出されて、CPUに供給されると共に、図４の比較例ｅで示されるように、登録済みのCAMサブタグ「１０００」に対応付けて、新たに読み出されたSRAMサブタグ「００」が上書きされて、図示せぬ今メインメモリから読み出されたデータが登録される。すなわち、この場合、登録されていたアドレス「１０１０００」に対応するデータは、破棄され、CAMサブタグ「１０００」に対応付けて登録されるSRAMサブタグが１に維持される。
Zhang, C.: A Low Power Highly Associa-tive Cache for Embedded Systems, Proc. IEEE ICCD, pp.31-36 (2006).
ところで、上述したLPHAC法では、CAMサブタグのミスによる置換はLRU（Least Recently Used）方式で行うことが前提とされている。LRU方式とは、最も古くアクセスされたデータを、最近読み出されたデータで上書きする方式である。すなわち、時間的局所性に鑑みれば、過去最もアクセスのなかったデータは将来にわたってもアクセスされる可能性は少ないと言える。従って、この方法はヒット率を向上させるための方法としてよく採用されている。
従って、CAMサブタグでヒットした場合、一般には複数のSRAMサブタグに対応するCAMサブタグと一致することになるが、LPHAC法ではCAMサブタグとの部分的な比較検索において、ヒットするデータが上述したように1個に絞られる。
すなわち、CAMサブタグでヒットし、SRAMサブタグでミスした場合、ミスしたデータが置換される対象のデータとされる（新たに読み出されたデータにより置換されて、消滅してしまうデータとされる）。これにより、CAMサブタグのビット数ｓ≧５ビットであればCAMサブタグの部分的な比較検索により複数のデータと一致しないようにできる。
しかしながら、LPHAC法では、CAMサブタグでヒットし、SRAMサブタグでミスした場合、ミスしたデータが置換される対象データとされることによりヒットするデータが1個に絞られる。この場合、LRU方式とは異なる置換方式を取らざるを得ず、比較的最近アクセスがあったデータであっても置換により消滅してしまう可能性があり、結果として、ヒット率が低下してしまう原因となっていた。
また、CAMサブタグのビット数ｓを小さく設定すると、このようなケースが増加し、LRU方式とは異なる置換方式を取る頻度が上がる。これにより、CAMサブタグのビット数ｓを小さく設定することができないため、LPHAC法では、消費電力の大きなCAM部分の縮小に限界があり、消費電力の低減には限界があった。
本発明はこのような状況に鑑みてなされたものであり、特に、キャッシュメモリのヒット率を低減させること無く、消費電力を低減できるようにするものである。
本発明の第１の側面のキャッシュメモリは、タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有し、タグアドレスの一部をCAMサブタグアドレスとして、前記タグアドレスの他の部分をSRAMサブタグアドレスとして設定し、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスを対応付けることを容認し、ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索し、前記CAMサブタグアドレスが一致するラインが存在する場合、前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する。
本発明の第２の側面のキャッシュメモリは、タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有するキャッシュメモリであって、前記タグメモリのアドレスであるタグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとしてそれぞれ設定され、かつ、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認されており、ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索する第１検索手段と、前記CAMサブタグアドレスが一致するラインが存在する場合、前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する第２検索手段とを含む。
前記第１検索手段による前記CAMサブタグアドレスの比較によりラインが検索されないとき、または前記第２検索手段により前記SRAMサブタグアドレスの比較により第２世代のラインが検索されないとき、接続するメインメモリより前記読み出しが要求されたタグアドレスに対応するラインを読み出し、前記第２世代のラインのうち、最も古く読み出されたラインを、前記メインメモリより読み出されたラインで置換し、併せて前記CAMサブタグアドレス、およびSRAMサブタグアドレスを置換する置換手段をさらに含ませるようにすることができる。
前記置換手段には、一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられて置換されることを許容するようにさせることができる。
前記SRAMサブタグアドレスにより管理される各ラインが読み出された時期に基づいて、前記ラインが第１世代であるか、または、前記第２世代であるかを世代管理リストにより管理し、前記置換手段により前記メインメモリより読み出されたラインで、前記最も古く読み出されたラインが置換されるとき、前記SRAMサブタグアドレスにより管理されるラインが読み出された時期が、最も古く読み出されたラインを削除し、前記メインメモリより読み出されたラインを、最近読み出された時期として世代管理リストを更新する世代管理手段をさらに含ませるようにすることができる。
前記世代管理手段には、前記世代管理リストに基づいて、前記SRAMサブタグアドレスにより管理される各ラインについて、最近読み出されたラインを第１世代のラインとし、最近ではない時期に読み出されたラインを第２世代のラインとして、世代管理させるようにすることができる。
前記CAMおよび前記SRAMの連想度ｎが連想度３２であって、前記タグアドレスが２４ビットの場合、前記CAMサブタグアドレスが２ビットとし、前記SRAMサブタグアドレスが２２ビットとすることができる。
前記連想度ｎが連想度３２の前記CAMサブタグアドレスで管理されるラインのうち、前記第１世代のラインは、読み出された時期が最近に近い順に上位２位までのラインとすることができる。
本発明のプロセッサは、複数の請求項２乃至８のいずれかに記載のキャッシュメモリと、
前記CAMおよび前記SRAMと接続されたCPU（Central Processing Unit）と、前記CPUより前記タグアドレスで指定されるラインの読み出し、または書き込みが要求された場合、前記タグアドレスより前記CAMサブタグアドレスを抽出するCAMサブタグアドレス抽出手段と、前記CPUより前記タグアドレスで指定されるラインの読み出し、または書き込みが要求された場合、前記タグアドレスより前記SRAMサブタグアドレスを抽出するSRAMサブタグアドレス抽出手段とを含むことを特徴とする。
本発明の第２の側面のキャッシュメモリの制御方法は、タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有するキャッシュメモリの制御方法であって、前記タグメモリのアドレスであるタグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとしてそれぞれ設定され、かつ、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認されており、ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索する第１検索ステップと、前記CAMサブタグアドレスが一致するラインが存在する場合、前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する第２検索ステップとを含む。
本発明の第１の側面においては、タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有し、タグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとして設定され、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認され、ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインが検索され、前記CAMサブタグアドレスが一致するラインが存在する場合、前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけが比較対象とされるラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象とされるラインが検索され、前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけが比較対象とされるラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象とされるラインが検索される。
本発明の第２の側面においては、タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有し、前記タグメモリのアドレスであるタグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとしてそれぞれ設定され、かつ、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認され、ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象とされるラインが検索され、前記CAMサブタグアドレスが一致するラインが存在する場合、前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけが比較対象とされるラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象とされるラインが検索され、前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけが比較対象とされるラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインが検索される。
本発明の一側面によれば、キャッシュメモリのヒット率を低減させること無く、消費電力を低減させることが可能となる。
従来のキャッシュメモリの構成を示す図である。 その他の従来のキャッシュメモリの構成を示す図である。 LPHAC法を説明する図である。 LPHAC法を説明する図である。 本発明を適用した一実施の形態の構成例であるキャッシュメモリにより実現される機能を説明する機能ブロック図である。 キャッシュメモリに格納されるデータの管理構造を説明する図である。 プログラム実行処理を説明するフローチャートである。 命令キャッシュ処理を説明するフローチャートである。 キャッシュヒットミス判定処理を説明するフローチャートである。 キャッシュヒットミス判定処理を説明する図である。 データキャッシュ（書き込み）処理を説明するフローチャートである。 データキャッシュ（読み出し）処理を説明するフローチャートである。 本発明の効果を説明する図である。 本発明の効果を説明する図である。 本発明の効果を説明する図である。 本発明の効果を説明する図である。
［本発明を適用したキャッシュメモリの構成例］
図５は、本発明を適用したキャッシュメモリにより実現される機能の一実施の形態の構成例を示す機能ブロック図である。
CPU（Central Processing Unit）１１は、各種の処理を実行させるとき、プログラムカウンタより実行すべき命令のアドレスをアドレス入力部１２に供給し、キャッシュメモリ１３に対してデータを要求すると共に取得して実行する。
アドレス入力部１２は、CPU１１より命令を指定するアドレスが供給されると、インデックスアドレスをキャッシュメモリ１３のデコード部４１に供給すると共に、タグアドレスのうち、CAM（Content Addressable Memory）サブタグアドレスをキャッシュメモリ１３のCAM５１に供給すると共に、SRAM（Static Random Access Memory）サブタグアドレスをSRAM５２に供給する。より詳細には、アドレス入力部１２は、インデックスアドレス抽出部２１、およびタグアドレス抽出部２２を備えている。インデックスアドレス抽出部２１は、入力されたアドレスよりインデックスアドレスを抽出し、抽出したインデックスアドレスをデコード部４１に供給する。
タグアドレス抽出部２２は、さらにCAMサブタグアドレス抽出部２２ａおよびSRAMサブタグアドレス抽出部２２ｂを備えている。CAMサブタグアドレス抽出部２２ａは、入力アドレスに含まれるタグアドレスが、例えば、Xビットである場合、その下位sビットをCAMサブタグアドレスとして抽出してキャッシュメモリ１３内にある各サブバンク４２のCAM５１に供給する。また、SRAMサブタグアドレス抽出部２２ｂは、入力アドレスに含まれるタグアドレスのうち、CAMサブタグアドレス以外の上位（X−s）ビットをSRAMサブタグとして抽出してキャッシュメモリ１３内にある各サブバンク４２のSRAM５２に供給する。
キャッシュメモリ１３は、デコード部４１、およびサブバンク４２より構成されている。デコード部４１は、アドレス入力部１２より供給されてくるインデックスアドレスを解析し、いずれのサブバンク４２を起動させるかを判定し、起動させるべきサブバンク４２に対して起動を指示する信号を供給する。尚、図５においては、サブバンク４２の構成を示すため、便宜上サブバンク４２が１個のみ表示されているが、実際には、複数のサブバンク４２が設けられている。すなわち、デコード部４１とサブバンク４２の関係については、図２で示される構成と同様の関係となっており、デコード部４１より起動を指示する信号が供給されたサブバンクのみがオンの状態とされ、オンの状態となったサブバンク４２のみが、タグアドレスの情報に基づいて処理を実行する。
サブバンク４２には、CAM５１、SRAM５２、LRU管理部５３、読出部５４、および置換部５５を備えている。CAM５１は、デコード部４１より供給されてくる起動を指示する信号に基づいて動作を開始し、CAMサブタグアドレス抽出部２２ａより供給されてくるCAMサブタグアドレスに基づいて、CPU１１で指定したアドレスのデータの候補を検索し、検索結果をヒットフラグとしてSRAM５２に供給する。
SRAM５２は、CAM５１からのヒットフラグの情報、およびSRAMサブタグアドレスに基づいて、CPU１１がアドレスで指定したデータを検索し、データが検索できた場合、CPU１１に出力する。また、SRAM５２は、CPU１１がアドレスで指定したデータが検索できなかった場合、メインメモリ１４にアクセスし、そのデータを読み出して、CPU１１に供給すると共に、最も古いデータと置換して新たに記憶する。
より詳細には、SRAM５２は、比較検索部７１、出力部７２、書戻部７３、世代管理部７４、書戻管理部７５、書込部７６、書換部７７、および格納部７８を備えている。比較検索部７１は、世代判定部８１を制御して、CAM５１からのヒットフラグの情報により特定されている、検索されるデータの候補のうち、まず、最初の処理で第１世代のもののみを特定させる。
ここでいう世代とは、世代管理部７４により管理されるものであり、SRAM５２の格納部７８に格納されている各データが最近アクセスされた日時により設定される順序のうち、例えば、上位２位までのデータが第１世代に設定され、それ以下の順位のデータが第２世代に設定される。つまり、最近アクセスされた、読み出される可能性の比較的高いデータが第１世代に設定され、それ以外のデータが第２世代に設定される。尚、上位２位までが第１世代に設定される例について説明したが、それ以外の順位までを第１世代とし、それ以外のデータを第２世代としてもよいものである。
比較検索部７１は、最初の処理で世代判定部８１を制御して、CPU１１によりアドレスで特定される読み出しが要求されたデータの候補のうち、最新のものとして分類されている第１世代のデータを特定させる。そして、比較検索部７１は、第１世代のものとして特定されたCAMサブタグアドレスで検索されたアドレスにより指定されたデータの候補のぞれぞれのSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較して検索し、一致するものが検索できた場合、検索されたデータを出力部７２に供給する。
出力部７２は、検索されたデータを取得すると、CPU１１によりアドレスで指定されている要求されたデータとして供給する。また、第１世代のものとして特定されたCAMサブタグで検索されたアドレスにより指定されたデータの候補のSRAMサブタグアドレスのうち、抽出されたSRAMサブタグアドレスと一致するものが検索できなかった場合、比較検索部７１は、世代判定部８１により第１世代と判定されなかった、すなわち、第２世代のデータのSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較検索し、一致するものが検索された場合、検索されたデータを出力部７２に供給する。
一方、比較検索部７１は、いずれの世代においてもCPU１１によりアドレスで特定されたデータが検索できない場合、CAMサブタグアドレスの情報、およびSRAMサブタグアドレスの情報と共に、対応するデータをメインメモリ１４より読み出すように読出部５４に通知する。読出部５４は、CAMサブタグアドレス、およびSRAMサブタグアドレスの情報に基づいて、タグアドレスを特定し、メインメモリ１４にアクセスして、そのタグアドレスに対応するデータを読み出し、CPU１１に供給すると共に、CAM５１、SRAM５２、および置換部５５に対して読み出したデータのCAMサブタグ、SRAMサブタグ、およびデータそのものを供給する。
書戻部７３は、CPU１１からの命令が書き込み処理である場合、サブバンク４２により管理するべきデータが更新されるとき、SRAM５２の格納部７８に格納されているデータを置換して更新する前に、メインメモリ１４に対応するデータを書き戻す。
置換部５５は、CPU１１からの命令により指定されたタグアドレスの情報が検出できず、メインメモリ１４からデータが読み出された場合、新たなデータとタグアドレスとで、それまで記憶していたデータとタグアドレスとを置換して更新する。
書込部７６は、CPU１１からの命令が書き込み処理の場合、格納部７８に格納されているデータをCPU１１からの処理結果であるデータで書き換える。
書換部７７は、CPU１１からの命令が書き込み処理の場合、書込部７６が格納部７８に格納されているデータをCPU１１からの処理結果であるデータで書き換える前に、メインメモリにアクセスし、対応するデータを書き換える。
尚、LRU管理部５３、世代管理部７４、および書戻管理部７５の詳細については、後述するデータ管理構造と併せて説明するものとする。
［データ管理構造］
次に、図６を参照して、格納部７８に格納されるデータの管理構造について説明する。図６においては、垂直方向に各データ単位のラインが形成されており、ラインＬ１乃至Ｌ３２までの合計３２データが記録されていることが示されている。尚、このラインＬ１乃至Ｌ３２のそれぞれを特に区別する必要がない場合、単にラインＬと称するものとする。
図６の各ラインＬには、左からCAMサブタグアドレス、SRAMサブタグアドレス、データ、アクセス日時情報、世代情報、および書戻フラグが含まれており、データ単位で管理される情報が示されている。このラインＬの数は、CAM５１およびSRAM５２の物理的な構成により決定されるウェイ数に相当しており、図６の例では、３２ウェイの例であることが示されている。ただし、このウェイ数は、ハードウェアの構成により決まるものであるので、ハードウェアの構成により、ウェイ数は様々な数をとることが可能であり、例えば、２，４，８，１６，３２などでもよいし、これ以外のウェイ数であってもよい。
尚、図６においては、各データを特定するタグアドレスは、図６の左側の２列で示されている。すなわち、CAMサブタグアドレスとSRAMサブタグアドレスとが特定されることにより、CPU１１により指定されたタグアドレスのデータが検索されることになる。
アクセス日時情報は、LRU（Least Recently Used）管理部５３のLRU管理リスト５３ａによりデータ単位（ライン単位）で管理されている情報である。すなわち、LRU（Least Recently Used）管理部５３は、LRU管理リスト５３ａを備えており、LRU管理リスト５３ａ上にデータ単位で（ライン単位で）、図６中のデータ列の右側に表示されている最近アクセスされたアクセス日時情報をデータ単位（ライン単位）で管理している。すなわち、LRU管理部５３は、SRAM５２のアクセスがある度に、LRU管理リスト５３ａを更新して、図６におけるデータ毎（ライン毎）のアクセス日時の情報を管理している。また、図６には図示されていないが、LRU管理部５３は、LRU管理リスト５３ａの情報に基づいて、各ラインを最近アクセスされた日時順に並び替えて、ライン毎の順位を求める。
世代情報は、世代管理部７４の世代管理リスト７４ａによりデータ単位（ライン単位）で管理されている情報である。すなわち、世代管理部７４は、世代管理リスト７４ａを備えており、LRU管理部５３のLRU管理リスト５３ａにアクセスし、最近アクセスされたライン毎の日時順の情報に基づいて、世代管理リスト７４ａに、ライン単位で最近アクセスされた上位２位までのデータに第１世代データであることを示すフラグを立て、それ以外のデータについては第２世代データであることを示すため、第１世代であること示すフラグを立てないようにして管理する。
書戻フラグは、書戻管理部７５の書戻管理リスト７５ａによりデータ単位（ライン単位）で管理されている情報である。すなわち、書戻管理部７５は、書戻管理リスト７５ａを備えており、CPU１１からの指令が書き込み処理である場合、データが更新される度に、SRAM５２のデータを更新する前に、先にメインメモリ１４のデータを書き戻して更新する必要があるので、書戻が必要となるデータにフラグを立てて管理する。すなわち、書戻管理部７５は、指令が書き込み処理であるか否かにより、書戻管理リスト７５ａを更新し、図６におけるデータ毎（ライン毎）の書戻フラグを管理している。
［プログラム実行処理］
次に、図７のフローチャートを参照して、プログラム実行処理について説明する。
ステップＳ１において、CPU１１は、図示せぬプログラムカウンタより実行すべき命令のアドレスを取得し、アドレス入力部１２に供給する。この処理により、アドレス入力部１２は、CPU１１よりアドレスの入力を受け付ける。
インデックスアドレス抽出部２１は、入力されたアドレスよりインデックスアドレスを抽出する。また、タグアドレス抽出部２２は、入力されたアドレスよりタグアドレスを抽出し、CAMサブタグアドレス抽出部２２ａおよびSRAMサブタグアドレス抽出部２２ｂに供給する。CAMサブタグアドレス抽出部２２ａは、タグアドレスの、下位sビットをCAMサブタグアドレスとして抽出してキャッシュメモリ１３内にある各サブバンク４２のCAM５１に供給する。SRAMサブタグアドレス抽出部２２ｂは、タグアドレスのうち、CAMサブタグアドレス以外の上位（X−s）ビットをSRAMサブタグアドレスとして抽出してキャッシュメモリ１３内にある各サブバンク４２のSRAM５２に供給する。
ステップＳ２において、キャッシュメモリ１３は、命令キャッシュ処理を実行し、CPU１１に入力されたアドレスに対応するデータを読み出し、CPU１１に供給する。
［命令キャッシュ処理］
ここで、図８のフローチャートを参照して、命令キャッシュ処理について説明する。
ステップＳ２１において、キャッシュメモリ１３は、いずれかのサブバンク４２を指定してキャッシュヒットミス判定処理を実行させる。
［キャッシュヒットミス判定処理］
ここで、図９のフローチャートを参照して、キャッシュヒットミス判定処理について説明する。
ステップＳ４１において、インデックスアドレス抽出部２１は、抽出したインデックスアドレスをデコード部４１に供給する。デコード部４１は、インデックスアドレスを解析し、解析結果からキャッシュヒットミス処理を実行させるサブバンク４２を特定し、特定したサブバンク４２に対して起動を指示する信号を供給する。この処理により、起動が指示されたサブバンク４２は、電力供給を受けて起動を開始する。一方、起動が指示されていないサブバンク４２は起動されず、結果として、処理が必要とされていないサブバンク４２の電力消費が低減される。
ステップＳ４２において、CAM５１は、タグアドレス抽出部２２のCAMサブタグアドレス抽出部２２ａより供給されてくるCAMタグアドレスと、SRAM５２内に管理されるデータに対応付けて登録されているCAMタグアドレスとを比較し、一致するものが検索されるか否かを判定する。
すなわち、例えば、図１０の左部で示されるように、ラインＬ０のCAMサブタグアドレスが「０００１」であり、ラインＬ１が「０１０１」であり、ラインＬ２が「１００１」であり、ラインＬ３が「００００」であり、ラインＬ４が「１００１」であり、ラインＬ５が「０００１」であり、ラインＬ６が「００１０」であり、・・・ラインＬ２８が「０００１」であり、ラインＬ２９が「０１１１」であり、ラインＬ３０が「１００１」であり、ラインＬ３１が「１０００」である場合、入力されたアドレスから抽出されたCAMサブタグアドレスが「１００１」であるとき、CAM５１は、全てのラインＬのCAMサブアドレスとを比較して検索すると、図中の矢印で示されているラインＬ２，Ｌ４，Ｌ３０のCAMサブタグアドレスがヒットすることになる。そこで、このような場合、ステップＳ４２において、CAM５１は、タグアドレス抽出部２２のCAMサブタグアドレス抽出部２２ａより供給されてくるCAMサブタグアドレスと、SRAM５２内に管理されるデータに対応付けて登録されているCAMサブタグアドレスとに一致するものがあると判定し、処理は、ステップＳ４３に進む。
尚、図１０においては、垂直方向にラインＬごとに左からCAMサブタグアドレス、SRAMサブタグアドレス、データ、および世代情報が対応付けて示されている。また、図１０の世代情報においては、ラインＬ２，Ｌ３，Ｌ２９のみが第１世代（1st）であり、それ以外が第２世代（2nd）であることが示されている。
ステップＳ４３において、CAM５１は、一致したCAMタグアドレス、および一致したラインＬを示す情報として、一致したラインＬに対してヒットフラグを立ててSRAM５２に供給する。この処理により、SRAM５２の比較検索部７１は、一致したCAMタグアドレスとラインＬの情報を取得する。すなわち、図１０の左部においては、ラインＬ２，Ｌ４，Ｌ３０についてヒットフラグが付されることになる。
そして、比較検索部７１は、世代判定部８１を制御して、CAMタグアドレスが一致したラインＬのうち、第１世代のラインＬの情報を比較対象のラインＬとして検索させる。例えば、図１０の左部の場合、ラインＬ２のデータのみが第１世代に設定されているので、ラインＬ２のみが検索される。さらに、比較検索部７１は、検索されたCAMタグアドレスが一致したラインＬのうち、第１世代の、比較対象となったラインＬ２のSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較すると共に、比較対象となったラインＬ２で管理されているデータを格納部７８より比較検出部７１に対して出力させる。
ステップＳ４４において、比較検索部７１は、比較対象となった第１世代のラインＬのSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較して、一致するものがあるか否かを検索する。例えば、図１０の左部の場合、検索されたのはラインＬ２のデータのみであるので、ラインＬ２のSRAMサブタグデータと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとが比較される。
ステップＳ４４において、例えば、図１０の左部で「hit」と示されるように、SRAMサブタグアドレスの両者が一致した場合、ステップＳ４５において、比較検索部７１は、キャッシュヒットしたことを認識し、一致したSRAMサブタグアドレスに対応して格納部７８より出力されてきたデータを出力部７２に供給する。
一方、ステップＳ４４において、一致するSRAMサブタグアドレスがない場合、ステップＳ４６において、比較検索部７１は、世代判定部８１を制御して、CAMタグアドレスが一致したラインＬのうち、第２世代のラインＬの情報を比較対象のラインＬとして検索させる。例えば、図１０の右部で示されるように、ラインＬ４，Ｌ３０のデータのみが第２世代のデータ（ラインＬ）として検索される。さらに、比較検索部７１は、検索されたCAMタグアドレスが一致したラインＬのうち、第２世代の、すなわち、比較対象となったラインＬのSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較すると共に、比較対象となったラインＬで管理されているデータを格納部７８より比較検出部７１に対して出力させる。
ステップＳ４７において、比較検索部７１は、比較対象となった第２世代のラインＬのSRAMサブタグアドレスと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとを比較して、一致するものがあるか否かを検索する。例えば、図１０の右部の場合、検索されたのはラインＬ４，Ｌ３０のデータであるので、ラインＬ４，Ｌ３０のSRAMサブタグデータと、SRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスとが比較される。
ステップＳ４７において、例えば、図１０の右部でラインＬ３０において「hit」と示されるように、両者が一致した場合、ステップＳ４５において、比較検索部７１は、キャッシュヒットしたことを認識し、一致したSRAMサブタグアドレスに対応して格納部７８より出力されてきたデータを出力部７２に供給する。すなわち、この場合、ラインＬ４，Ｌ３０の両方のデータが格納部７８から比較検索部７１に出力されている。しかしながら、SRAMサブタグアドレスが一致したのは、図中（hit）と示されたラインＬ３０のものであるので、比較検索部７１は、ラインＬ３０のデータのみを出力部７２に供給すると共に、ラインＬ４のデータを破棄する。このように、比較検索部７１は、ヒットしたデータのみを出力部７２に供給し、キャッシュミスとなったデータを破棄する。
一方、ステップＳ４２において、CAMサブタグアドレスに一致するものがない場合、または、ステップＳ４７において、例えば、比較対象となるSRAMタグアドレスとSRAMサブタグアドレス抽出部２２ｂより供給されてきたSRAMサブタグアドレスが一致しない場合、ステップＳ４８において、比較検索部７１は、格納部７８には、CPU１１より供給されてきたアドレスに対応するデータが格納されていない、すなわち、キャッシュミスであるものと認識し、処理は終了する。
すなわち、まず、CAMサブタグアドレスで比較対象となるラインを検索し、一致するものがあった場合、最初は、CAMサブタグアドレスが一致するラインのうち、第１世代のものだけを比較対象とするラインとして、SRAMサブタグアドレスで検索し、一致すればキャッシュヒットであるものと判定する。また、CAMサブタグアドレスが一致するラインのうち、第１世代の比較対象とするラインを、SRAMサブタグアドレスで検索しても一致するものがないとき、CAMサブタグアドレスが一致するラインのうち、第２世代の比較対象とするラインを、SRAMサブタグアドレスで検索するようにした。
このため、SRAMサブタグアドレスが一致する可能性の高い最近のデータを含む第１世代となる一部のラインのみを比較対象とすることができるので、SRAMサブタグアドレスでの一致の可能性の低いラインを排除することで、CAMサブタグアドレスで一致する全てのラインに対してSRAMサブタグアドレスによる検索をしないようにすることができる。
結果として、全てのラインを比較対照としないため、キャッシュミスとなるラインが低減されてSRAM５２の消費電力としてインパクトの大きな格納部７８からの出力動作を低減させることができ、全体として消費電力を低減させることが可能となる。また、SRAMサブタグアドレスが一致する可能性の高い最近のデータを含む第１世代となる一部のラインのみを比較対象とすることができるので、ヒット率を低減させずに、消費電力を低減させることが可能となる。
ここで、図８のフローチャートの説明に戻る。
ステップＳ２２において、比較検索部７１は、キャッシュヒットであるか否かを判定する。
ステップＳ２２において、例えば、上述したステップＳ４５の処理により、キャッシュヒットである場合、処理は、ステップＳ２３に進む。
ステップＳ２３において、出力部７２は、比較検索部７１より供給されてきたデータをCPU１１に供給する。
ステップＳ２４において、比較検出部７１は、出力部７２に供給したデータ（ライン）のCAMサブタグアドレスおよびSRAMサブタグアドレスを供給し、対応するデータにアクセスがあったことをLRU管理部５３に通知する。LRU管理部５３は、アクセスがあったことを示す情報に基づいて、LRU管理リスト５３ａを更新する。より詳細には、LRU管理部５３は、LRU管理リスト５３ａの情報のうち、アクセスがあったとして通知されてきたCAMサブタグアドレスおよびSRAMサブタグアドレスのデータの最近読み出された日時の情報を現在時刻に更新すると共に、読み出された日時の順位を第１位に更新する。尚、日時の順位を管理するに当たり、日時の情報をそのまま用いて管理すると、膨大なデータを管理する必要が生じる恐れがある。そこで、日時の順位の管理には、日時の情報をそのまま扱うのではなく、例えば、３２ウェイであれば、５ビットのカウンタビットを用いるようにして、データの順位のみを管理するようにしてもよい。
ステップＳ２５において、世代管理部７４は、LRU管理部５３に対してLRU管理リスト５３ａを要求し、取得する。そして、世代管理部７４は、LRU管理リスト５３ａにおける上位２位までのラインについて、世代管理リスト７４ａの世代情報を第１世代に更新し、併せて、それ以外のラインについて、世代情報を第２世代に更新する。
一方、ステップＳ２２において、キャッシュヒットではない、すなわち、キャッシュミスであったと判定された場合、処理は、ステップＳ２６に進む。
ステップＳ２６において、比較検索部７１は、読出部５４に対して、CPU１１よりアドレスにより指定されたデータが存在しないため、メインメモリ１４より読み出すように指示すると共に、CAMサブタグアドレスおよびSRAMサブタグアドレスを供給する。読出部５４は、この指示に応じて、CAMサブタグアドレスおよびSRAMサブタグアドレスに基づいてタグアドレスを特定し、メインメモリ１４にアクセスして、データを読み出すと共に、CAM５１、比較検索部７１および置換部５５に供給する。
ステップＳ２７において、置換部５５は、LRU管理部５３に対してLRU管理リスト５３ａを要求し、取得する。そして、置換部５５は、LRU管理リスト５３ａにおいて、最下位となるライン、すなわち、最も古いデータとタグアドレスとを検索し、読出部５４より供給されてきたデータとタグアドレスとで置換してCAM５１およびSRAM５２の格納部７８の情報を更新する。
以上のように命令キャッシュ処理により、CPU１１により命令の読み出しが指示されたデータについて、LRU管理リスト５３ａのアクセスされた日時が更新されて、さらに、日時に応じて設定される順位が順次更新することが可能となる。また、LRU管理リスト５３ａの更新に応じて、世代管理部７４における世代管理リスト７４ａも併せて更新することが可能となり、最近アクセスされた日時に応じて世代情報を更新させることが可能となる。
また、以上の処理においては、置換部５５は、同一のCAMサブタグアドレスに対して、異なる複数のSRAMサブタグアドレスが格納部７８に重複するようなデータが置換されることも認めるように処理する。この結果、格納部７８に格納されるデータは、同一のCAMサブタグアドレスに対して、SRAMサブタグアドレスが１に絞られるようなことがなく、LRU法に則って、最近アクセスされたデータが確実に置換されて格納されることとなるので、LPHAC法で見られたようなキャッシュヒット率の低下を抑制することが可能となる。
ここで、図７のフローチャートの説明に戻る。
ステップＳ２において、命令キャッシュ処理が終了すると、ステップＳ３において、CPU１１は、使用するレジスタオペランドを指定する。
ステップＳ４において、CPU１１は、キャッシュメモリ１３より供給されてきたデータからなる命令に対応する計算、演算、または比較等の処理を実行する。
ステップＳ５において、CPU１１は、実行している命令がストア命令であるか否かを判定する。ステップＳ５において、例えば、実行している命令がストア命令である場合、処理は、ステップＳ６に進む。
ステップＳ６において、CPU１１は、キャッシュメモリ１３に対してステップＳ１と同様にアドレスを指定してデータキャッシュ処理を指示する。これに応じてアドレス入力部１２は、入力されたアドレスにより、インデックスアドレス、CAMサブタグアドレス、およびSRAMサブタグアドレスをキャッシュメモリ１３に供給する。キャッシュメモリ１３は、このインデックスアドレス、CAMサブタグアドレス、およびSRAMサブタグアドレスに基づいて、データキャッシュ（書き込み）処理を実行する。
［データキャッシュ（書き込み）処理］
ここで、図１１のフローチャートを参照して、データキャッシュ（書き込み）処理について説明する。尚、図１１のフローチャートにおいて、ステップＳ６１，Ｓ６２，Ｓ６５，Ｓ６６の処理については、図８のフローチャートを参照して説明したステップＳ２１，Ｓ２２，Ｓ２４，Ｓ２５の処理と同様であるので、その説明は省略するものとする。
すなわち、ステップＳ６２において、例えば、キャッシュヒットであった場合、処理は、ステップＳ６３に進む。
ステップＳ６３において、比較検索部７１は、キャッシュヒットしたものとして検索されたラインの情報（CAMサブタグアドレス、およびSRAMサブタグアドレスの情報）を書戻管理部７５、および書込部７６に供給する。そして、書込部７６は、CPU１１の書き込み指示に従って、検索されたCAMサブタグアドレス、およびSRAMサブタグアドレスで特定されるラインに対応付けて、演算結果のデータを格納部７８に書き込む。
ステップＳ６４において、書戻管理部７５は、CAMサブタグアドレス、およびSRAMサブタグアドレスで特定されるラインの書き戻しフラグをオンの状態にして、書戻管理リスト７５ａを更新し、以降の処理において、そのラインが書き戻し対象であることを記録する。
一方、ステップＳ６２において、キャッシュヒットではない、すなわち、キャッシュミスであった場合、処理は、ステップＳ６７に進む。
ステップＳ６７において、比較検索部７１は、キャッシュミスしたことを示す情報を書換部７７に供給する。書換部７７は、メインメモリ１４にアクセスし、CAMサブタグアドレス、およびSRAMサブタグアドレスで特定されるタグアドレスのデータを、CPU１１より供給されてくるデータで書き換える。
ステップＳ６８において、書戻部７３は、LRU管理部５３および書戻管理部７５に対して、それぞれLRU管理リスト５３ａおよび書戻管理リスト７５ａを要求し、取得する。そして、書戻部７３は、LRU管理リスト５３ａにおいて、最下位となるライン、すなわち、最も古いラインを検索し、さらに、その最も古いラインについて、書戻管理リスト７５ａで照合し、書戻フラグがオンの状態であるか否かを判定する。ステップＳ６８において、例えば、最下位となるライン、すなわち、最も古いデータであって置換されるラインの書戻フラグがオンであり、書き戻し対象となっている場合、処理は、ステップＳ６９に進む。
ステップＳ６９において、書戻部７３は、メインメモリ１４にアクセスし、最下位となるライン、すなわち、最も古いデータであって置換される対象となっているラインの書戻フラグがオンとなっているデータをメインメモリ１４に書き戻す。
すなわち、この処理により、新たにCPU１１より供給されてくるデータで書き換えられて、キャッシュメモリ１３内から消滅する前に、データがメインメモリ１４に書き戻されることになる。
一方、ステップＳ６８において、最も古いデータであって置換されるラインの書戻フラグがオンではなく、オフとされており、書き戻し対象のラインではない場合、ステップＳ６９の処理は、スキップされる。
ステップＳ７０において、置換部５５は、LRU管理部５３に対してLRU管理リスト５３ａを要求し、取得する。そして、置換部５５は、LRU管理リスト５３ａにおいて、最下位となるライン、すなわち、最も古いデータとタグアドレスとを検索し、CPU１１より供給されてきたデータとタグアドレスとで置換してCAM５１およびSRAM５２の格納部７８の情報を更新する。
以上の処理により、書き込みデータのデータキャッシュが管理されるので、アクセス頻度の高い書き込みデータのみがキャッシュメモリ１３内で管理され、それ以外のデータについては、順次メインメモリ１４に書き戻されていく。
ここで、図７のフローチャートの説明に戻る。
ステップＳ６の処理により、データキャッシュ（書き込み）処理が完了すると、プログラム実行処理は終了する。
一方、ステップＳ５において、実行している命令がストア命令ではないと判定された場合、処理は、ステップＳ７に進む。ステップＳ７において、CPU１１は、実行している命令がロード命令であるか否かを判定する。ステップＳ７において、例えば、実行している命令がロード命令である場合、処理は、ステップＳ８に進む。
ステップＳ８において、CPU１１は、キャッシュメモリ１３に対してステップＳ１と同様にアドレスを指定してデータキャッシュ処理を指示する。これに応じてアドレス入力部１２は、入力されたアドレスにより、インデックスアドレス、CAMサブタグアドレス、およびSRAMサブタグアドレスをキャッシュメモリ１３に供給する。キャッシュメモリ１３は、このインデックスアドレス、CAMサブタグアドレス、およびSRAMサブタグアドレスに基づいて、データキャッシュ（読み出し）処理を実行する。
［データキャッシュ（読み出し）処理］
ここで、図１２のフローチャートを参照して、データキャッシュ（読み出し）処理について説明する。尚、図１２のフローチャートにおけるステップＳ８１乃至Ｓ８９の処理は、図１１のフローチャートにおけるステップＳ６１，Ｓ６２、図８のフローチャートにおけるステップＳ２３乃至Ｓ２６、並びに、図１１のフローチャートにおけるステップＳ６８乃至Ｓ７０の処理と同様であるので、その説明は省略する。
すなわち、図１２のフローチャートにおいては、図１１のフローチャートを参照して説明した処理における書き込みを対象とした処理が省略され、メインメモリ１４からの読み出し処理のみとなる。
ここで、図７のフローチャートの説明に戻る。
ステップＳ８において、データキャッシュ（読み出し）処理が終了すると、ステップＳ９において、CPU１１は、図示せぬレジスタファイルに処理結果を書き込み、処理を終了する。
また、ステップＳ７において、命令がロード命令ではない場合、ステップＳ１０において、CPU１１は、図示せぬレジスタファイルに処理結果を書き込み、さらに、図示せぬプログラムカウンタを更新して、処理を終了する。
以上の一連の処理のうち、特に、タグアドレスの一部をSRAMサブタグアドレスとして設定し、SRAM５２により管理させるようにし、さらに、最近アクセスされた第１世代のデータを優先的に検索させるようにした。このため、CAMサブタグアドレスにより検索されたラインであって、第１世代のラインのみを、SRAMサブタグアドレスで検索するようにしたので、対応付けて格納されているデータのうち、SRAM５２の検索に伴って同時に読み出されるデータ数を絞り込むことが可能となり、結果として、SRAM５２の消費電力として大きな出力動作を制限させることができ、消費電力を低減させることが可能となる。また、最初の処理で、アクセスされる頻度が高い第１世代のラインを優先的に検索させることにより、キャッシュヒット率の低減を抑制することが可能となる。
さらに、１のCAMサブタグアドレスに対して、複数のSRAMサブタグアドレスであっても、重複してデータを格納させることを認めて、LRU法に則って、アクセスされる可能性の高いデータを格納できるようにしたので、１のCAMサブタグアドレスに対して、１のSRAMサブタグアドレスに絞られることによりキャッシュヒット率が低減してしまうことを抑制することが可能となる。
このように、１のCAMサブタグアドレスに重複して複数のSRAMサブタグアドレスとなるデータの格納を認めて、かつ、最近アクセスされた第１世代のデータを優先的に検索させることにより、キャッシュヒット率を低減させることなく、消費電力を低減させることが可能となる。
［ベンチマークプログラムによるミス率の比較］
次に、図１３を参照して、本発明を適用したキャッシュメモリを用いた場合のミス率と、その平均値について説明する。尚、図１３においては、上段に命令キャッシュによる結果が示されており、下段にデータキャッシュによる結果が示されている。また、図１３における横軸に対応する番号１乃至２１のベンチマークプログラムは、１から順に、bitcount，qsort，susan_e，susan_c，susan_s，lame，tiff2bw，tiff2rgba，dijkstra，patricia，ispell，stringsearch，blow_d，blow_e，rijndael_d，rijndael_e，sha，crc，rawcaudio(adpcm)，rawdaudio(adpcm)，untoast(gsm)であり、番号２２は全体の平均値（average）である。
また、各プログラム毎のミス率は、左から従来型の４ウェイのSRAM、８ウェイのSRAM、３２ウェイのCAM、タグアドレスを24ビットとしたときのCAMサブタグアドレスのビット数sを、s=5,8,9,11としたLPHAC法、および本発明の例（s=4）（黒で表記されている）である。
図１３の上段で示されるように命令キャッシュのミス率は、番号２２で示される平均値から、LPHAC法は従来型のCAMよりも高い値であることがわかる。特に、CAMサブタグアドレスのビット数s=5の場合、ミス率が際立って高い。これは、CAMサブタグアドレスの比較検索で検索できる（ヒットする）が、SRAMタグアドレスの比較検索で検索できない（ミスする）場合が多いためと思われる。また、CAMサブタグアドレスのビット数s=8，9の場合、多くのベンチマークプログラムでのミス率は、従来型のCAMに近い値となるがrijndael dやqsortでは、ミス率は大きい。ミス率は、CAMサブタグアドレスのビット数s=11では全てのベンチマークプログラムにおいて従来型のCAMとほぼ同等となる。一方、本発明のキャッシュメモリにおいては，CAMサブタグアドレスのビット数s=4としても、ミス率には影響を与えないことがわかる。
すなわち、平均値をみると、LPHAC法ではCAMサブタグアドレスのビット数s =5，8，9，11のとき、それぞれ0.75%，0.43%，0.43%，0.42%となるのに対し、本発明のキャッシュメモリにおいては、CAMサブタグアドレスのビット数s=4において、従来型のCAMと同じ0.42%である。
また、図１３の下段で示されるように、データキャッシュについても命令キャッシュと同様の傾向が見られる。すなわち、LPHAC法では、CAMサブタグアドレスのビット数s=8の場合、rijndael_dやrijndael eはミス率が高く、patriciaやcrcではCAMサブタグアドレスのビット数s=9でもミス率が高い。
一方、本発明のキャッシュメモリの場合、命令キャッシュと同様、従来型のCAMと同様のミス率となっており、CAMサブタグアドレスのビット数s=4でも影響を受けない。番号２２で示される平均値をみると、LPHAC法がs=5，8，9，11のとき、それぞれ1.95%，0.91%，0.80%，0.67%となるのに対し、本発明のキャッシュメモリにおいてはCAMサブタグアドレスのビット数s=4において従来型のCAMと同じ0.66%である。
このように、本発明のキャッシュメモリにおいてはCAMサブタグアドレスとの部分的な比較検索において、ヒットするキャッシュラインを１つに絞らないため、常にLRU方式を採用できるので、ヒット率の低下を抑制することができる。また，LPHAC法のようにCAMアブタグアドレスのビット数sの大きさによって、特定のベンチマークのミス率が大きな影響を受けることはない。
なお、従来型のCAMと本発明のキャッシュメモリは、4，8ウェイの従来型のSRAMと比較し、命令キャッシュでそれぞれ10.7%，8.6%となり、データキャッシュにおいてそれぞれ11.6%，5.0%平均ミス率が小さい。
［消費電力量の比較］
次に、図１４乃至図１６を参照して、消費電力量の評価について説明する。本発明の消費電力量の評価は、上述したベンチマークプログラムを実行したときの平均値に基づいて行うものとし、以下の式（１）で表される消費電力量Ｅで表現されるものとする。
E=Etag+Edata ・・・（１）
ここで、Etagは、以下の式（２）で表される。
Etag=ECAM +ESRAM ・・・（２）
ここで、式（２）におけるECAMおよびESRAMは以下の式（３），式（４）で表される。
ECAM=α×w×s×NC ・・・（３）
ESRAM = (t−s)×(NS1+NS2) ・・・（４）
ここで、αはCAM５１の1ビット検出に要する消費電力量を、wはウェイ数を、sはCAMサブタグアドレスのビット数を、tはタグアドレスのビット数を、NCはCAMへのアクセス数を、NS1は第１世代として管理されているSRAMのデータへのアクセス数を、NS2は第２世代として管理されているSRAMのデータへのアクセス数をそれぞれ示している。
さらに、Edataは、以下の式（５）で表される。
Edata =β×l×(NS1+NS2) ・・・（５）
ここで、βはSRAMのデータ1ビットの出力に要する消費電力量を、lは１ライン当たりのデータビット長をそれぞれ表している。
まず、図１４を参照して、タグアドレスの検出に要する消費電力量Etagおよびデータ出力に要する消費電力量Edataと、それぞれのCAMサブタグアドレスのビット長sとの関係について説明する。
図１４においては、左部が命令キャッシュ処理であり、右部がデータキャッシュ処理である。また、いずれも実線および1点鎖線がタグアドレスの検出に要する消費電力量Etagを、点線および２点鎖線がデータ出力に要する消費電力量Edataをそれぞれ表している。タグアドレスの検出に要する消費電力量Etagは、SRAMタグアドレス1ビット検出に要する電力量を単位とする。データ出力に要する消費電力量Edataは、SRAMデータ1ビットの出力に要する電力量を単位とする。尚、1ラインは256ビットとしている。また、CAM５１の1ビット検出に要する消費電力量α=5とし、CAMサブタグアドレスのビット数s=0乃至8、第1世代ウェイ数r =0，4について比較している。比較のために、CAMサブタグアドレスのビット数s=8におけるLPHAC法のタグアドレスの検出に要する消費電力量Etag（×印）およびデータ出力に要する消費電力量Edata（十字マーク）も示している。
LPHAC法では、CAMサブタグアドレスのビット数sを小さくするとミス率が大きくなるため、CAMサブタグアドレスのビット数s≧8でなければならないのに対し、本発明のキャッシュメモリでは、CAMサブタグアドレスのビット数s<8とすることが可能である。
タグアドレスの検出に要する消費電力量Etagは、CAMサブタグアドレスのビット数sを小さくすると線形に減少する。CAMサブタグアドレスのビット数s=8に対して、CAMサブタグアドレスのビット数s=4では、タグアドレス検出に要する消費電力量はほぼ1/2となる。
データ出力に要する消費電力量Edataは、CAMサブタグアドレスのビット数sを小さくするとある値以下では急激に増加する。急激に増加するときのCAMサブタグアドレスのビット数sの値は、第1世代SRAMのウェイ数rによって異なる。ウェイ数r=0のときはCAMサブタグアドレスのビット数sはs≦6で急激に増加するのに対し、ウェイ数r=4とすれば、CAMサブタグアドレスのビット数s=4まであまり変化しない。LPHAC法は、タグアドレスの検出に要する消費電力量Etagおよびデータ出力に要する消費電力量Edata共に本発明のキャッシュメモリと同程度の値をとるが、CAMサブタグアドレスのビット数sを小さくすることが難しい。
本発明のキャッシュメモリは、ウェイ数r=0のときは世代を分けていないため、CAMサブタグアドレスのビット数sを小さくすることが難しいが、図１５の波形図ａ，ｂで示されるように、ウェイ数r=4ならば、世代を分けた効果が表れる。
ここで、図１５の波形図ａ，ｂは、それぞれ命令キャッシュとデータキャッシュについて、CAMサブタグアドレスのビット数sをs=4とし、ウェイ数rをr=0，1，2，4，8，16，32と変えたとき、点線で示されるタグアドレスの検出に要する消費電力量Etagおよび実線で示されるデータ出力に要する消費電力量Edataのウェイ数rとの関係が示されている。
すなわち、命令キャッシュ、およびデータキャッシュのどちらの場合も、ウェイ数r=2乃至4の近傍で消費電力量が最少となる。ウェイ数rの値により消費電力量に最小値が現れるのは、ウェイ数rが小さいと第２世代に設定されたデータとの比較検索回数が増加し、ウェイ数rが大きいと第１世代に設定されたデータで複数比較検索の頻度が上がるためである。
ところで、SRAMにおいて、デコーダや比較器のような論理回路の電力が、ワードライン駆動時に流れるビットラインキャパシタンスの充放電に要する電力と比較して十分小さいという原理が知られている（Itoh, K., Sasaki, K. and Nakagome, Y.: Trends in low-power RAM circuit technologies, Proceedings of the IEEE, Vol.83, No.4, pp.524-543(1995).参照）。そこで、本発明のキャッシュメモリの消費電力量Eについて考えるに当たっては、その原理に則り、SRAMサブタグアドレス1ビットの検出に要する電力量は、SRAMデータ1ビット出力に要する電力量に等しいとする近似を用いる。すなわち、式（５）においてSRAMのデータ1ビットの出力に要する消費電力量β=1とする。
図１５の波形図ｃ，ｄは、それぞれ命令キャッシュとデータキャッシュについて、CAMサブタグアドレスのビット数sを変えたときの命令キャッシュとデータキャッシュの消費電力量Eを示しており、点線はウェイ数rがr=0のときであり、実線はウェイ数rがr=4のときの波形である。また、図１５の波形図ｅ，ｆは、それぞれウェイ数r=4とし、第１世代のウェイ数rを変えたときの命令キャッシュとデータキャッシュの消費電力量Eを示している。これらの波形図から、本発明のキャッシュメモリにおいては、ウェイ数r=4の場合、CAMサブタグアドレスのビット数sがs=2のとき、消費電力量が最小となる。
次に、図１６を参照して、従来のSRAM、CAM、およびLPHAC法、並びに本発明のキャッシュメモリの消費電力量を比較する。比較対象は、図１６の左から、4，8ウェイの従来型（Traditional）SRAM、32ウェイの従来型CAM、CAMサブタグアドレスのビット数sがs=8のLPHAC法、並びに、ウェイ数rがr=4であって、かつ、CAMサブタグアドレスのビット数sがs=2の本発明のキャッシュメモリ（proposed）である。なお、いずれの場合もラインサイズが32bytesであり、キャッシュ容量が8KBである。また、従来型のCAMとLPHAC法、および本発明のキャッシュメモリについては、図１６の左からCAMの消費電力量α= 5，7，10と値を変えて比較を行った命令キャッシュ（図１６上段）、およびデータキャッシュ（図１６下段）の消費電力量の比較結果が示されている。
命令キャッシュ、およびデータキャッシュの消費電力量は、共に従来型のCAMが、いずれの場合と比較しても消費電力量が一番高いことが示されている。LPHAC法は従来型のCAMに比べると消費電力量を抑えることができている。しかしながら、従来型のSRAMと比べると、CAMの消費電力量α≦7のとき、ウェイ数rがr=8のSRAMの消費電力量より小さくなるが、ウェイ数rがr＝4のSRAMの消費電力量と比べるといずれも大きくなる。これに対して、消費電力量は、本発明のキャッシュメモリではαによらず従来型CAMとLPHAC法のいずれよりも小さくなる。CAMの消費電力量α=10において、従来型のウェイ数rがr=4のSRAMと同程度の消費電力量となっており、CAMの消費電力量αによらず、略同等の消費電力量になっている。
このように、本発明のキャッシュメモリはキャッシュヒット率の低下を抑制しつつ、消費電力を低減させることが可能となっている。
尚、本明細書において、プログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理は、もちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理を含むものである。
１１ CPU， １２ アドレス入力部， １３ キャッシュメモリ， １４ メインメモリ， ２１ インデックスアドレス抽出部， ２２ タグアドレス抽出部， ２２ａ CAMサブタグアドレス抽出部， ２２ｂ SRAMサブタグアドレス抽出部， ４１ デコード部， ４２ サブバンク， ５１ CAM， ５２ SRAM， ５３ LRU管理部， ５３ａ LRU管理リスト， ５４ 読出部， ５５ 置換部， ７１ 比較検索部， ７２ 出力部， ７３ 書戻部， ７４ 世代管理部， ７４ａ 世代管理リスト， ７５ 書戻管理部， ７６ 書込部， ７７ 書換部， ７８ 格納部， ８１ 世代判定部

Claims (10)

  1. タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有し、
    タグアドレスの一部をCAMサブタグアドレスとして、前記タグアドレスの他の部分をSRAMサブタグアドレスとして設定し、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスを対応付けることを容認し、
    ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索し、
    前記CAMサブタグアドレスが一致するラインが存在する場合、
    前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、
    前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、
    前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する
    キャッシュメモリ。
  2. タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有するキャッシュメモリであって、
    前記タグメモリのアドレスであるタグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとしてそれぞれ設定され、かつ、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認されており、
    ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索する第１検索手段と、
    前記CAMサブタグアドレスが一致するラインが存在する場合、
    前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、
    前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、
    前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する第２検索手段と
    を含むキャッシュメモリ。
  3. 前記第１検索手段による前記CAMサブタグアドレスの比較によりラインが検索されないとき、または前記第２検索手段により前記SRAMサブタグアドレスの比較により第２世代のラインが検索されないとき、接続するメインメモリより前記読み出しが要求されたタグアドレスに対応するラインを読み出し、前記第２世代のラインのうち、最も古く読み出されたラインを、前記メインメモリより読み出されたラインで置換し、併せて前記CAMサブタグアドレス、およびSRAMサブタグアドレスを置換する置換手段をさらに含む
    ことを特徴とする請求項２に記載のキャッシュメモリ。
  4. 前記置換手段は、一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられて置換されることを許容する
    ことを特徴とする請求項３に記載のキャッシュメモリ。
  5. 前記SRAMサブタグアドレスにより管理される各ラインが読み出された時期に基づいて、前記ラインが第１世代であるか、または、前記第２世代であるかを世代管理リストにより管理し、前記置換手段により前記メインメモリより読み出されたラインで、前記最も古く読み出されたラインが置換されるとき、前記SRAMサブタグアドレスにより管理されるラインが読み出された時期が、最も古く読み出されたラインを削除し、前記メインメモリより読み出されたラインを、最近読み出された時期として世代管理リストを更新する世代管理手段をさらに含む
    ことを特徴とする請求項３に記載のキャッシュメモリ。
  6. 前記世代管理手段は、前記世代管理リストに基づいて、前記SRAMサブタグアドレスにより管理される各ラインについて、最近読み出されたラインを第１世代のラインとし、最近ではない時期に読み出されたラインを第２世代のラインとして、世代管理する
    ことを特徴とする請求項５に記載のキャッシュメモリ。
  7. 前記CAMおよび前記SRAMの連想度ｎが連想度３２であって、前記タグアドレスが２４ビットの場合、前記CAMサブタグアドレスが２ビットであり、前記SRAMサブタグアドレスが２２ビットである
    ことを特徴とする請求項２に記載のキャッシュメモリ。
  8. 前記連想度ｎが連想度３２の前記CAMサブタグアドレスで管理されるラインのうち、前記第１世代のラインは、読み出された時期が最近に近い順に上位２位までのラインである
    ことを特徴とする請求項７に記載のキャッシュメモリ。
  9. 複数の請求項２乃至８のいずれかに記載のキャッシュメモリと、
    前記CAMおよび前記SRAMと接続されたCPU（Central Processing Unit）と、
    前記CPUより前記タグアドレスで指定されるラインの読み出し、または書き込みが要求された場合、前記タグアドレスより前記CAMサブタグアドレスを抽出するCAMサブタグアドレス抽出手段と、
    前記CPUより前記タグアドレスで指定されるラインの読み出し、または書き込みが要求された場合、前記タグアドレスより前記SRAMサブタグアドレスを抽出するSRAMサブタグアドレス抽出手段とを含むことを特徴とするプロセッサ。
  10. タグメモリとしてCAM（Content Addressable Memory）とSRAM（Static Random Access Memory）を有するキャッシュメモリの制御方法であって、
    前記タグメモリのアドレスであるタグアドレスの一部がCAMサブタグアドレスとして、前記タグアドレスの他の部分がSRAMサブタグアドレスとしてそれぞれ設定され、かつ、同一の前記CAMサブタグアドレスに対し、複数の前記SRAMサブタグアドレスが対応付けられることが容認されており、
    ヒットミス判定時に、前記CAMサブタグアドレスで前記CAM内の比較対象となるラインを検索する第１検索ステップと、
    前記CAMサブタグアドレスが一致するラインが存在する場合、
    前記CAMサブタグアドレスが一致するラインのうち、少なくとも、最近読み出しが要求された第１世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索し、
    前記第１世代のラインに前記SRAMサブタグアドレスが一致するラインが存在しないとき、
    前記CAMサブタグアドレスが一致するラインのうち、前記最近ではない時期に読み出しが要求された第２世代のラインだけを比較対象とするラインとして、前記SRAMサブタグアドレスで前記SRAM内の比較対象となるラインを検索する第２検索ステップと
    を含むキャッシュメモリの制御方法。
JP2011537244A 2009-10-20 2010-10-19 キャッシュメモリおよびその制御方法 Expired - Fee Related JP5622155B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011537244A JP5622155B2 (ja) 2009-10-20 2010-10-19 キャッシュメモリおよびその制御方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009241446 2009-10-20
JP2009241446 2009-10-20
PCT/JP2010/068298 WO2011049051A1 (ja) 2009-10-20 2010-10-19 キャッシュメモリおよびその制御方法
JP2011537244A JP5622155B2 (ja) 2009-10-20 2010-10-19 キャッシュメモリおよびその制御方法

Publications (2)

Publication Number Publication Date
JPWO2011049051A1 JPWO2011049051A1 (ja) 2013-03-14
JP5622155B2 true JP5622155B2 (ja) 2014-11-12

Family

ID=43900277

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011537244A Expired - Fee Related JP5622155B2 (ja) 2009-10-20 2010-10-19 キャッシュメモリおよびその制御方法

Country Status (4)

Country Link
US (1) US8904111B2 (ja)
EP (1) EP2492818A4 (ja)
JP (1) JP5622155B2 (ja)
WO (1) WO2011049051A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009145776A1 (en) * 2008-05-29 2009-12-03 Hewlett-Packard Development Company, L.P. Replaceable printer component including memory storing data defined by tags and sub-tags
US9042652B2 (en) * 2012-11-01 2015-05-26 Intel Corporation Techniques for connected component labeling
KR20150009883A (ko) * 2013-07-17 2015-01-27 삼성전자주식회사 캐시 메모리 시스템 및 그 동작방법
US9304929B2 (en) 2013-10-24 2016-04-05 Mediatek Singapore Pte. Ltd. Storage system having tag storage device with multiple tag entries associated with same data storage line for data recycling and related tag storage device
US20180088829A1 (en) * 2016-09-29 2018-03-29 Qualcomm Incorporated Area efficient architecture for multi way read on highly associative content addressable memory (cam) arrays
US10725699B2 (en) * 2017-12-08 2020-07-28 Sandisk Technologies Llc Microcontroller instruction memory architecture for non-volatile memory
US10824376B2 (en) 2017-12-08 2020-11-03 Sandisk Technologies Llc Microcontroller architecture for non-volatile memory
US10777240B1 (en) 2019-03-07 2020-09-15 Sandisk Technologies Llc Efficient control of memory core circuits
CN111045960B (zh) * 2019-11-21 2023-06-13 中国航空工业集团公司西安航空计算技术研究所 一种多像素格式存储的Cache电路
US11507498B2 (en) 2020-03-05 2022-11-22 Sandisk Technologies Llc Pre-computation of memory core control signals

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62293596A (ja) * 1986-06-12 1987-12-21 Matsushita Electric Ind Co Ltd 連想記憶装置
JPH0535599A (ja) * 1991-07-26 1993-02-12 Matsushita Electric Ind Co Ltd 情報処理装置
JPH06131265A (ja) * 1992-03-13 1994-05-13 Inmos Ltd 完全連想キャッシュメモリおよびキャッシュメモリ装置
JPH08263370A (ja) * 1995-03-27 1996-10-11 Toshiba Microelectron Corp キャッシュメモリシステム
JP2003519835A (ja) * 2000-01-03 2003-06-24 アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド ウェイ予測がミスした時にサーチを方向付けるための、予測されないウェイからの部分的なタグを提供するキャッシュ
JP3850669B2 (ja) * 2000-03-13 2006-11-29 三星電子株式会社 キャッシュメモリ

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3806131B2 (ja) * 2003-05-21 2006-08-09 富士通株式会社 アドレス変換バッファの電力制御方法及びその装置
US7480767B2 (en) 2006-06-15 2009-01-20 Sap Ag Cache with time-based purging and computation of purged items
JP5449321B2 (ja) 2008-04-09 2014-03-19 コーニンクレッカ フィリップス エヌ ヴェ 発見チャネルにおいてデータ送信を先取りする方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62293596A (ja) * 1986-06-12 1987-12-21 Matsushita Electric Ind Co Ltd 連想記憶装置
JPH0535599A (ja) * 1991-07-26 1993-02-12 Matsushita Electric Ind Co Ltd 情報処理装置
JPH06131265A (ja) * 1992-03-13 1994-05-13 Inmos Ltd 完全連想キャッシュメモリおよびキャッシュメモリ装置
JPH08263370A (ja) * 1995-03-27 1996-10-11 Toshiba Microelectron Corp キャッシュメモリシステム
JP2003519835A (ja) * 2000-01-03 2003-06-24 アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド ウェイ予測がミスした時にサーチを方向付けるための、予測されないウェイからの部分的なタグを提供するキャッシュ
JP3850669B2 (ja) * 2000-03-13 2006-11-29 三星電子株式会社 キャッシュメモリ

Also Published As

Publication number Publication date
EP2492818A1 (en) 2012-08-29
US8904111B2 (en) 2014-12-02
US20120210056A1 (en) 2012-08-16
EP2492818A4 (en) 2014-07-30
WO2011049051A1 (ja) 2011-04-28
JPWO2011049051A1 (ja) 2013-03-14

Similar Documents

Publication Publication Date Title
JP5622155B2 (ja) キャッシュメモリおよびその制御方法
JP4920378B2 (ja) 情報処理装置およびデータ検索方法
US6912623B2 (en) Method and apparatus for multithreaded cache with simplified implementation of cache replacement policy
KR102421311B1 (ko) 태그 매칭 명령에 응답하는 저장회로
US6990557B2 (en) Method and apparatus for multithreaded cache with cache eviction based on thread identifier
US9582282B2 (en) Prefetching using a prefetch lookup table identifying previously accessed cache lines
US8180965B2 (en) System and method for cache access prediction
JP2012203560A (ja) キャッシュメモリおよびキャッシュシステム
JPH0364893B2 (ja)
US20030149842A1 (en) Method for controling cache system comprising direct-mapped cache and fully-associative buffer
CN103198026A (zh) 指令高速缓存功耗降低
CN113986774A (zh) 一种基于指令流和访存模式学习的缓存替换系统及方法
JP3929872B2 (ja) キャッシュメモリ、プロセッサ及びキャッシュ制御方法
US7555610B2 (en) Cache memory and control method thereof
JP2007272280A (ja) データ処理装置
JP5699854B2 (ja) 記憶制御システムおよび方法、置換方式および方法
US20140013054A1 (en) Storing data structures in cache
JP2007272681A (ja) キャッシュメモリ装置及びそのキャッシュラインの入れ替え方法
US9053030B2 (en) Cache memory and control method thereof with cache hit rate
CN101419543B (zh) 预测高速寄存器的存取位置的方法及系统
US7467260B2 (en) Method and apparatus to purge remote node cache lines to support hot node replace in a computing system
KR100481943B1 (ko) 시간적·공간적 지역성을 향상시키고 플레쉬 메모리장치로의 접근 횟수를 줄이는 플레쉬 메모리 시스템 및데이터 억세스 방법
JP3078303B2 (ja) キャッシュメモリ制御回路
JP2700147B2 (ja) 命令キャッシュ・フラッシュ・オン・ｒｅｉ制御
WO2010089799A1 (ja) キャッシュメモリシステム、コンピュータシステム、及びキャッシュメモリアクセス方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131015

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140912

R150 Certificate of patent or registration of utility model

Ref document number: 5622155

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees