JPH0492941A - キャッシュメモリの順次参照管理方法および装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、キャッシュメモリ管理のためのデータ記憶方
法および装置に関し、特に大容量記憶装置から検索され
たデータの一部を記憶するキャッシュを含めた大・容量
記憶装置（ＭＳＤ’ｓ）のデータ置換の方法および装置
に関する。

〔従来の技術〕

例えば光学的または磁気式ディスク駆動機構のようなラ
ンダムアクセスＭＳＤ’ｓ）やデータアクセス時間が遅
いことを特徴とする他の記憶およびファイルサブシステ
ムは、その記憶システムから検索したデータの一部を記
憶する付属の１個以上のキャッシュを含むことがしばし
ばである。５００マイクロ秒乃至５００ミリ秒に及ぶ低
速アクセス時間が、キャッシュによって、ＭＳＤから検
索されたデータが高頻度で再使用される必要のある業務
のためのＭＳＤの性能を向上させている。キャッシュは
頻繁に利用されるデータを記憶し、ＭＳＤが時間のかか
る技術を用いてそれを記憶システムから繰返し検索する
必要がないようにしている。

ＭＳＤから検索され、キャッシュに記憶されるデータは
、一般に１つまたはそれ以上のプロセスによって求めら
れるデータである。これらのプロセスは、キャッシュに
ＭＳＤの性能を高めさせる要求参照パターンを備えてい
る場合があり、キャッシュが記憶システムに利用するこ
とが全くない参照パターンを備えている場合もある。実
用に際しては、キャッシュの効果的な利用をさせない参
照パターンを有するプロセスは、他のプロセスに対する
キャッシュの性能を低下させることが多い。

キャッシュの性能は、キャッシュによって満足させられ
るものの要求総数に対する割合により測定することがで
きる。キャッシュの利用は、要求されたデータを記憶シ
ステムから再獲得するかまたは反復して検索するのに関
連した遅い機械的動作をなくするものである。プロセス
がＭＳＤの同じ記憶場所から反復してデータを要求して
、以降の参照に際してそのデータがキャッシュで見つか
るようにされる場合は、そのプロセス参照パターンはキ
ャッシュをよ（機能させる。プロセスが異なるＭＳＤ記
憶場所からただ一度或いは低頻度でデータを要求する場
合は、キャッシュの機能は低下する。

キャッシュの記憶容量が、プロセスによって要求された
特定のデータ項目の参照の列より小さい場合は、キャッ
シュのそれ以前の内容の総てがキャッシュから追い出さ
れてしまうことがある。また、このあふれ効果は、キャ
ッシュ記憶容量のかなりの部分を置換する長い列の参照
が発生した場合に、他のプロセスに対するキャッシュの
効果を低減させる。

磁気ディスク駆動機構のようなＭＳＤに対するこのよう
な長い列をなす参照の一例は、ディスクバックアップで
あり、これは実質的にはディスク全体に対して１回の長
い列をなす参照を行うものである。従来のキャッシュは
、この必要のないデータによってあふれさせられてしま
うことになる。

普通、この問題は、バックアッププロセスがキャッシュ
をバイパスするように変更することで解決される。しか
しこの方法では、最悪且つ予測上置も悪影響を及ぼすプ
ロセスのみに対処することができるだけである。この発
明は、前もって特定すること或いは予防的にプロセスを
変更することを必要とせずに、長い列をなす参照の検出
および補償を自動的にさせるものである。

〔発明が解決しようとする課題〕

キャッシュのデータを整列させてプロセス要求参照パタ
ーンに対してその性能を高める為に、最後に利用されて
からの時間が最も長い（１ｅａｓｔｒｅｃｅｎｔｌｙ　
ｕｓｅｄ（Ｌ　ＲＩＩ））および利用顧度が最も少ない
（ｌｅａｓｔ　ｆｒｅｑｕｅｎｔｌｙ　ｕｓｅｄ　（Ｌ
　Ｆ　Ｕ）　）ものを置換するアルゴリズムが用いられ
てきた。ＬＲＵ置換アルゴリズムは、キャッシュの中の
データを、各データブロックに対する一番最近の参照か
らの時間の長さにしたがって整列されたデータブロック
のリストを編成することによって動作する。最も最近利
用した（ＭＲＵ）データがリストの一端にあり、最後に
利用してからの時間が最も長い（ＬＲＵ）データが別の
一端に配される。新しいデータは、リストのＭＲＵ端に
付は加えられる。

新しいデータの受は入れ用意するためにキャッシュによ
ってデータを廃棄する場合は、廃棄するデータは、リス
トのＬＲＵ端から取られる。しかし、ＬＲＵアルゴリズ
ムは、長い列をなした参照の問題を解決していない。

ＬＦＵアルゴリズムは、キャッシュのデータをその利用
された回数にしたがって整列させる。このＬＦＵアルゴ
リズムは、−度だけ利用された新しいデータをリストの
ＬＦＵ端にそして最も多く再利用されたデータをリスト
の最も頻繁に利用された（Ｍ　Ｆ　Ｕ）端になるように
キャッシュのデータをリストに編成する。ＬＦＵアルゴ
リズムは長い列をなす参照の問題に対しては免疫を有す
るが、これには他の問題点がある。純粋なＬＦＵアルゴ
リズムでは、かって高頻度で利用したデータが、もはや
必要であくなった場合にキャッシュから出ていくことは
ない、ＬＦＵの順序を計算するためのオーバヘッドは、
ＬＲＵのそれより高いものである。ＬＦＵアルゴリズム
を用いてキャッシュから古いデータを除くために時間の
経過を考慮した方式を実施した場合はオーバヘッドが、
ＬＲＵ置換アルゴリズムでの場合よりずっと大きいもの
となる。

〔課題を解決するための手段〕

本発明は、キャッシュ内のデータを、複数のコレクショ
ン間で昇進を行うコレクションに区分する方法および装
置によってなるものである。それぞれのコレクシ９ンは
、ＬＲＵのような置換プログラムを用いることができる
。

その最も基本的な構成において、キャッシュはその記憶
したデータを、データの第１　ＬＲＵコレクションと、
データの少なくてももう一つのＬＲＵコレクションとに
区分するように配置される。

あるプロセスによってこれらのコレクションのいずれか
らか検索されたデータは、これらのコレクションのうち
の最初のものに付加される。これらのコレクションのい
ずれかにおいて最後に利用されてから経過した時間が最
も長いものは、そのコレクションによって必要に応じて
除かれる。第１コレクションから取除かれデータおよび
ＭＳＤから検索された新しいデータは、最後のコレクシ
ョンに付加される。このようにしてプロセスによって検
索されたデータは、第１コレクションへ昇進し、第１コ
レクションから除去された最後に利用されてから経過し
た時間が最も長いデータは、新しいメモリリソースから
のデータとともに最終コレクションに付加される。この
結果としてのアルゴリズムは、ＬＦＵアルゴリズムの欠
点なしにＬＦＵアルゴリズムに近位するものである。こ
の近似の度合は、コレクションの数が増加するにしたが
って、より近いものとなる。しかし、キャッシュアルゴ
リズムのコストも、コレクションの数とともに増加する
。

〔実施例〕

各図において、同様な参照符号は各図を通して同様また
は対応する部分を示す。第１図は、２つのデータのコレ
クションを用いた本発明の推奨実施例のブロック図であ
る。しかし、もし望むならば、データのコレクションの
数を３つ以上にすることも、本発明の範囲である。ＭＳ
Ｄ　（図示せず）のキャッシュ２は、第１領域４および
第２または最終領域６の、２記憶領域によって構成され
ている。第１領域４および第２領域６は、ＬＲＵ置換ア
ルゴリズムにしたがって記憶したデータブロックを配列
させる。第１領域４は、線８を介して最新利用入力端子
上で新しいデータブロックを受取る。第１Ｎ域４は、利
用してからの経過時間が最も長いデータをＬＲＵ出力端
子から線１０へと取除く。最古利用データは、第１領域
４が回線８から受信した新しいデータによって充たされ
た後に、第１領域４から回線１０へと除去される。

第２領域６は、回線１２を介してＭＲＵ入力端子におい
て新しいデータを受信する。第２領域６は、最古利用デ
ータを、回線１４を介してＬＲＵ出力端子から除去、廃
棄する。第２領域６が回線１２を介して受信する新しい
データは、回線１５を通して関連のＭＳＤシステム（図
示せず）から受信した新しいデータと、回！１０を通し
て回線１２に送られた第１領域４からの除去データとの
両方で構成されている。

第１領域４は、例えばあるプロセスからの選択されたデ
ータへの要求に応答して第１領域４に記憶されたデータ
から選択されたデータを取り出すために、回線８に結合
する回線１７上に選択出力を有している。第１領域４か
ら検索した選択されたデータは、その選択がそれを最も
最近に利用されたものにしたことから、再記憶のための
回線８を介して、第１領域４のＭＲＵ入力に送り返され
る。第２領域６は、プロセスなどからのデータの要求に
応答して第２領域６に記憶されたデータから選択された
データを取り出すための、回線１６を介して回線８に結
合する選択出力を有している。

第２頭＠６から検索された選択されたデータは、その選
択がそれを最も最近に利用されたものにしたことから、
第１領域４での再記憶のために、回線１６を通って回線
８を介して第１領域のＭＲＵ入力へ送られる。

結果として、この推奨実施例においては、第１領域４ま
たは第２領域６から選択されたデータはいずれも第１領
域のデータを再整列させ、選択されたデータを、第１領
域４内のデータの中の最も最近に使われたものとする。

同様に、ＭＳＤからの新しいデータと第１領域４からの
除去されたデータとは両方とも第２領域６のデータを再
整列させ、回線１５のＭＳＤからの新しいデータまたは
回線１０における第１領域４からの除去されたデータを
第２領域６のデータのうちの最も最近に利用されたもの
とする。

回線１５におけるＭＳＤシステムからの新しいデータの
列が第２領域６をいっばいにし始めた場合は、最古利用
データを回線１４に取出し廃棄する。しかし、第１領域
４は、プロセスの要求に応じて第２領域６の新しいデー
タから選択されたデータが第１領域にロードされる場合
を除いて、第２Ｎ域６への新しいデータのローディング
に影響されることはない、第１領域４に記憶されたデー
タは、それが第２Ｎ域６に送られるデータよりも高い優
先順位を有することから、キャッシュ２が回線１５から
受取る長い列をなすデータに対して抵抗力を有する。こ
れは、回線１０上の第１６１域４からの除去されたデー
タが、回線１５からの新しいＭＳＤデータと一緒に第２
領域６の入力端子に送られるからである。

第１領域４は、第１領域４および第２領域６から検索さ
れるプロセスが要求するデータでのみロードされる。

上述したキャッシュ２の効果は、１回以上要求されたデ
ータを、１回しか利用されないデータより長く保持する
ことにある。これは第１領域４または第２領域６から選
択されたデータがいずれも、第１領域４の最新入力に送
られるからである。このデータはこの後、それが回線１
４を介して廃棄される以前に、第１領域４および第２領
域６の両方を通過しなければならない。しかし、１度だ
け利用されるデータは、それが第２領域６に残存する間
しか保持されない。すなわち、第２領域６にロードされ
たデータは、その後廃棄される以前に再び選択されない
場合は、第２Ｎ域を通過して回線１４から廃棄される。

勿論、第１領域４と第２領域６とは同一のメモリの部分
であってもよい、１個のメモリを用いる場合は、データ
が第１８Ｎ域４から第２Ｎ域６へと論理的に移動する際
に、それを物理的に移動させる必要はない。ＭＳＤから
の新しいデータのそう人が、アルゴリズムの記憶データ
の中央を指す「カーソル」によって単一のＬＲＵアルゴ
リズムの中央にそう人される場合は、単一のＬＲＵアル
ゴリズムで第１領域４および第２領域６を構成すること
ができる。この単一のアルゴリズムが更新される毎に、
カーソルを更新しなければならない。

本発明は、第１領域４と第２領域６との間で、例えば半
分ずつといった様に比率の固定したメモリを用いてもよ
いし、これを動的に制御して、異なった条件にしたがっ
てメモリの比率を変化させることもできる。例えば、デ
ータが第１領域４および第２領域６にある時間の長さが
、それらの比較上の大きさを決定する。第２領域６は、
その記憶したデータが第１領域４へ昇進する可能性が最
小の場合縮小することができる。第１領域４は、第１領
域４からのデータの２回目の選択からの時間の長さが極
めて長い場合に、縮小することができる。

第１領域４および最終領域６以上のものを備えたキャッ
シュを同様に用いることができる。第２図は、本発明の
変化例のブロック図であり、そのキャッシュ２は、第１
Ｎ域４および最終領域６に加えて中間領域１８を有して
いる。中間領域１８も、ＬＲＵ置換アルゴリズムにした
がって記憶したデータを整列させる。第１　’ｐｆＪ域
４は回線１０を介して最古利用データを取出し、中間領
域１８へのＭＲＵ入力線１９へ転送する。

最終領域６に整列されたデータの中から選択されたデー
タは、回線１６を介して中間領域１８へのＭＲＵ入力線
１９に送られる。中間領域１８の整列データから選択さ
れたデータは、選択出力回線２０を通って、回線８を介
して第１領域４のＭＲＵ入力に送られ、この回線は第１
Ｎ域４から選択されたデータも、上述した第１領域４の
ＭＲＵ入力へ送っている。中間領域１８から除去された
最古利用データは、回線１２に結合する回線２２を介し
て最終領域６の最新利用入力へ送られる。

接続するＭＳＤ　（図示せず）からの新しいデータは、
新規入力データの望ましい優先順位付けに従って、回線
１５を介して最終領域のＭＲＵ入力、或いは回線２４を
介して中間領域１８のＭＲＵ入力線１９のいずれかへ送
られる。例えば、回線１５に結合した新しいデータは、
回線１４へ廃棄される以前に選択されることなしに最終
領域６だけを通過しなければならない０回線２４から受
けた新しいデータは、回線１４へ廃棄される以前に選択
されることなしに中間領域１８と最終領域６の両方を通
過しなければならない。

第２図の変化例においては、第１領域４或いは中間領域
１８から選択されたデータはいずれも第１領域４のデー
タを再整列させ、その選択されたデータを第１領域のデ
ータの中で最も最近に利用されたものとする。第１　ｆ
ｉｌ域４におけるデータオーバーフローの結果として第
１領域から除去された最古利用データは回線１６および
１９を介して中間領域１８のＭＲＵ入力へ送られる。最
終領域６から選択されたデータもまた回線１６および１
９を介して中間領域１８のＭＲＵ入力へ送られる。中間
領域１８におけるデータオーバーフローの結果として中
間領域１８から除去された最古利用データは、回線２２
および１２を介して最終領域６のＭＲＵ入力へ送られる
。データは、最終領域６におけるデータオーバーフロー
の結果として、最終領域６によって回線１４を介して最
終できに廃棄される。

第１領域４、中間領域１８および最終領域６は、推奨実
施例について説明したように、静的に固定されるか或い
は動的に調節される大きさの比率を有している。これら
もまた、単一のメモリの異なる領域によって構成するこ
とができる。また、上述したような順次の順序または順
次でない他の構成で４つ以上の領域があってもよい。デ
ータを、例えばキャッシュを通過する分離読み出し、書
込みのような他の基準にしたがって分離することができ
る。

第３図は、本発明の更に別の実施例を示すものである。

この実施例においては、キャッシュ２は、読み出しデー
タと書込みデータの優先順位付けを分離している。キャ
ッシュに現在はない読み出しデータは、回線１５から受
信し、回線１２を介して最終領域６のＭＲＵ入力へ送ら
れる。読み出しデータの優先順序付けは、第２図に関連
して変化例について上述したのと同じである。現在はキ
ャッシュにないＭＳＤ記憶場所についての書込みデータ
は回線２４から第２中間領域２６のＭＲＵ入力へ送られ
る。第２中間領域２６から選択されたデータは、回線２
８でその選択出力から、回線８を介して第１領域４のＭ
ＲＵ入力へ送られる。オーバーフローのため第２中間領
域１８から回線３０へと除去されたデータは、回線１２
を介して最終領域６のＭＲＵ入力へ送られる。

このようにして、第１領域４は、３回要求されたか或い
は書込まれ且つ、領域２６から除去される以前にすぐに
要求されたデータを保持する。第１中間領域１８は、第
１領域４からあふれたデータと共に、２回選択されたデ
ータを保持する。第２中間領域２６は、新しい書込みデ
ータを記憶する。最終領域６は、第１中間領域１８およ
び第２中間領域２６からあふれたデータと共に１回選択
されたデータを保持する。

このキャッシュ管理は、以上で説明したように、接続す
る大容量記憶装置からの長い列をなす参照によってキャ
ッシュがあふれることを、ＬＲＵＩｆ換アルゴリズムの
効果を維持しつつＬＦＵ置換アルゴリズムに近似する置
換アルゴリズムによって防ぐものである。本発明の詳細
な説明するために上で記述、説明した部分並びにシステ
ムの詳細、配列および構成についての多様な変化を、当
業者が、添付の特許請求の範囲で明示する本発明の基本
および範囲内でなし得ることは明らかなところである。

【図面の簡単な説明】

第１図は、本発明の推奨実施例のブロック図、第２図は
、本発明の変化例のブロック図、第３図は、本発明の別
の変化例のブロック図である。 ４・・・第１領域、　６・・・第２領域（最終領域）、
１８・・・中間領域（第１中間領域）、２６・・・中間
領域 ＦｊＧ、　３ 手続補正書（方式） ％式％ ■、事件の表示 平成２年特許願第２１１４５８号 ３、補正をする者 事件との関係 願人 ４、代 ５、補正命令の日付 平成２年１０月３０日

Claims (1)

【特許請求の範囲】
1. （１）記憶リソースから検索されたデータを整列させる
   方法において、 データを、少なくとも第１コレクションと最終コレクシ
   ョンとからなる複数のコレクションに整列させる段階と
   、 前記各コレクションから前記整列させたデータを除去す
   る段階と、 前記各コレクションのそれぞれから除去されたデータを
   前記各コレクションの選択されたものに付加する段階と
   、 前記各コレクションのそれぞれから要求された前記整列
   させられたデータを前記各コレクションの選択されたも
   のに付加する段階と、 前記記憶リソースから検索した新しいデータを前記各コ
   レクションの選択されたものに付加する段階とを含むこ
   とを特徴とする記憶リソースから検索されたデータを整
   列させる方法。 ２、記憶リソースから検索されたデータを整列させる方
   法において、 データを、少なくとも第１コレクションと最終コレクシ
   ョンとからなる複数のコレクションに整列させる段階と
   、 前記各コレクションから最後に要求されてからの時間の
   経過が最も長いデータを除去する段階と、 前記各コレクションのそれぞれから除去されたデータを
   前記各コレクションの選択されたものに付加する段階と
   、 前記各コレクションのそれぞれから要求された前記整列
   させられたデータを前記各コレクションの選択されたも
   のに付加する段階と、 前記記憶リソースから検索した新しいデータを前記各コ
   レクションの選択されたものに付加する段階とを含むこ
   とを特徴とする記憶リソースから検索されたデータを整
   列させる方法。 ３、記憶リソースから検索されたデータを整列させる方
   法において、 データを、第１コレクションと第２コレクションとに整
   列させ、前記第１および第２コレクションからの前記整
   列させたデータへの要求の新しさに従って整列させる段
   階と、 前記第１および第２コレクションから要求された前記整
   列させたデータを、前記第１コレクションに付加する段
   階と、 前記第１および第２コレクションから、付加されてから
   の時間経過が最も長い前記整列させたデータを除去する
   段階と、 前記記憶リソースから検索された新しいデータと前記第
   １コレクションから除去してデータとを前記第２コレク
   ションへ付加する段階とを含むことを特徴とする記憶リ
   ソースから検索したデータを整列させる方法。 ４、記憶リソースから検索されたデータを整列させる方
   法において、 データを第１コレクション、中間コレクションおよび第
   ３コレクションに整列させ、前記第１、中間および最終
   コレクションからの前記整列させたデータの選択の新し
   さにしたがって整列させる段階と、 前記各段階から付加されてからの時間が最も長い前記整
   列させたデータを除去する段階と、前記第１および中間
   コレクションから要求された前記整列させたデータを前
   記第１コレクションに付加する段階と、 前記第１コレクションからの前記除去されたデータを前
   記中間コレクションに付加する段階と、 前記中間コレクションからの前記除去されたデータを前
   記最終コレクションに付加する段階と、 前記最終コレクションから要求されたデータを前記中間
   コレクションに付加する段階と、前記記憶リソースから
   検索した新しいデータを前記各コレクションの選択され
   たものに付加する段階と、 前記最終コレクションから除去したデータを廃棄する段
   階とを含むことを特徴とする記憶リソースから検索した
   データを整列させる方法。 ５、コンピュータシステムにおける大容量記憶装置から
   検索したデータのブロックをキャッシュする方法におい
   て、 優先順位の低い記憶領域の最新利用区域にデータのブロ
   ックを記憶し、その記憶する段階が前記優先順位の低い
   記憶領域の最古利用区域にある別の以前に記憶したデー
   タのブロックを除去、廃棄させるように記憶する段階と
   、 前記優先順位の低い記憶領域からのデータの第１選択ブ
   ロックを、コンピュータシステムによって用いる為の前
   記第１選択ブロックに対する要求に応答して、優先順位
   の高い記憶領域の最新利用区域に転送し、且つ前記優先
   順位の高い領域の最古利用区域にある別の以前に記憶さ
   れたデータのブロックを、前記優先順位の低い記憶領域
   の前記最新利用区域に記憶させる段階と、 前記優先順位の高い領域からのデータの第２選択ブロッ
   クを、コンピュータシステムで用いるための前記第２選
   択ブロックに対する要求に応答して、前記優先順位の高
   い領域の最新利用区域に転送する段階とを含むことを特
   徴とするコンピュータシステムの大容量記憶装置から検
   索したデータのブロックをキャッシュする方法。 ６、コンピュータシステムの大容量記憶装置から検索し
   たデータのブロックをキャッシュする装置において、 優先順位の低い記憶領域の最新利用区域にデータのブロ
   ックを記憶し、前記優先順位の低い領域の最古利用区域
   にある別の以前に記憶したデータのブロック除去させる
   手段と、 前記優先順位の低い記憶領域からのデータの第１選択ブ
   ロックを、コンピュータシステムによって用いる為の前
   記第１選択ブロックに対する要求に応答して、優先順位
   の高い記憶領域の最新利用区域に転送し、且つ前記優先
   順位の高い領域の最古利用区域にある別の以前に記憶さ
   れたデータのブロックを、前記優先順位の低い記憶領域
   の前記最新利用区域に記憶させる手段と、 前記優先順位の高い領域からのデータの第２選択ブロッ
   クを、コンピュータシステムで用いるための前記第２選
   択ブロックに対する要求に応答して、前記優先順位の高
   い領域の最新利用区域に転送する手段とを含むことを特
   徴とするコンピュータシステムの大容量記憶装置から検
   索したデータのブロックをキャッシュする装置。