JPH08147218A - キャッシュ制御装置 - Google Patents

Abstract

(57)【要約】 【目的】 複数の処理手段による共有の仕方やデータの
統計的な性質を考慮した置き換え処理を工夫することに
より、キャッシュメモリのヒット率を向上する。 【構成】 複数の処理手段１０１から記憶装置１０２へ
のアクセス要求に応じてキャッシュメモリ１０３を制御
するキャッシュ制御装置において、各処理手段１０１に
対応する複数の占有領域１１１と共有領域１１２とにキ
ャッシュメモリ１０３の記憶領域を配分する配分手段１
１３と、アクセス要求に応じて、対応する占有領域１１
１と共有領域１１２とに対して検索処理を行う検索手段
１１４と、検索結果に応じて、該当する占有領域１１１
と共有領域１１２とからなる領域内のデータの置き換え
優先順位を操作する第１の順位操作手段１１５と、キャ
ッシュミスの場合に、該当する占有領域１１１と共有領
域１１２とに与えられた置き換え優先順位に従ってデー
タを置き換える置き換え手段１１６とを備える。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、キャッシュメモリに格
納しておくデータの置き換え処理を行うキャッシュ制御
装置に関するものである。キャッシュメモリは、主記憶
装置やハードディスク装置などのように、比較的アクセ
ス速度が遅い記憶装置に対するアクセス速度を見かけ上
高速化するために広く用いられている。特に、ハードデ
ィスク装置などの補助記憶装置は、機械系による速度の
制約のためにアクセス速度が特に遅いため、ハードディ
スク装置に対するアクセスを制御するディスク制御装置
内にキャッシュメモリを備え、アクセスの高速化を図る
ことが一般化しており、このようなキャッシュメモリ
は、キャッシュメモリの制御部分を含めて、ディスクキ
ャッシュと呼ばれている。

【０００２】ところで、このようなキャッシュメモリの
置き換えアルゴリズムとしては、ＬＲＵ(Least Recentl
y Use:LRU)が一般に利用されている。このＬＲＵアルゴ
リズムは、最近にアクセスされたデータが再び利用され
る可能性が高いという統計的な性質を利用して、最後に
利用された時刻が最も古いデータを主記憶装置やハード
ディスク装置に書き戻し、代わりに新しいデータをキャ
ッシュメモリに書き込んで置き換えるアルゴリズムであ
る。

【０００３】

【従来の技術】図１９に、従来のキャッシュ制御装置を
備えた計算機システムの構成例を示す。図１９に示した
計算機システムは、少なくとも１つの仮想計算機（Ｖ
Ｍ）３０１₁ 〜３０１_n を処理手段として備えており、
各仮想計算機３０１₁ 〜３０１_nは、ディスク制御装置
３１０を介してハードディスク装置３２０に対するアク
セスを行う構成となっている。

【０００４】このディスク制御装置３１０は、ハードデ
ィスク装置３２０の動作を制御するディスク制御部３１
１とともに、ディスクキャッシュ３１２を備えており、
キャッシュ制御装置３１３によるヒット判定結果に応じ
て、ディスクキャッシュ３１２に備えられたキャッシュ
メモリ１０３に対するアクセスあるいはディスク制御部
３１１を介したハードディスク装置３２０に対するアク
セスを行う構成となっている。

【０００５】つまり、仮想計算機３０１₁ 〜３０１_n か
らのアクセス要求で指定されたデータがキャッシュメモ
リ１０３に存在する場合（キャッシュヒットの場合）
は、キャッシュ制御装置３１３により、キャッシュメモ
リ１０３に対するアクセス処理が行われる。一方、キャ
ッシュミスの場合は、ディスク制御部３１１が起動さ
れ、該当するデータがハードディスク装置３２０から読
みだされて、キャッシュ制御装置３１３によりキャッシ
ュメモリ１０３のデータの置き換え処理が実行される。
その後に、キャッシュ制御装置３１３により、キャッシ
ュメモリ１０３に新しく格納されたデータに対してアク
セス要求に応じたアクセス処理を行われる。

【０００６】ここで、キャッシュメモリ１０３は、例え
ばＮバイトからなるアクセス単位ごとにＭ個のセグメン
トに分割されており、上述したキャッシュ制御装置３１
３は、キャッシュメモリ１０３のこれらのセグメントに
格納されたデータをＬＲＵアルゴリズムを用いて管理す
るために、ＬＲＵキュー３１４を備えている。このＬＲ
Ｕキュー３１４には、キャッシュメモリ１０３の各セグ
メントに格納されているデータを特定するアドレス情報
が登録されており、キャッシュ制御装置３１３は、アク
セス要求ごとに、後述するようにして、該当するセグメ
ントに対応するアドレス情報の登録順序を入れ換えてい
る。

【０００７】キャッシュヒットの場合は、キャッシュ制
御装置３１３は、ＬＲＵキュー３１４の該当するセグメ
ントのアドレス情報をＬＲＵキュー３１４の先頭に登録
しなおし、該当するデータがもっとも最近にアクセスさ
れたことを示す。一方、キャッシュミスの場合は、上述
したようにしてハードディスク装置３２０から該当する
データの読出処理を行うとともに、キャッシュメモリ１
０３の置き換え処理が行われる。

【０００８】このとき、キャッシュメモリ１０３に空い
ているセグメントがあれば、キャッシュ制御装置３１３
は、そのセグメントに読出データを格納するとともに、
該当するセグメントを示す情報と格納したデータに対応
するアドレス情報とをＬＲＵキュー３１４の先頭に登録
する。一方、キャッシュメモリ１０３に空きセグメント
がない場合は、まず、キャッシュ制御装置３１３は、Ｌ
ＲＵキュー３１４の末尾に登録された情報で示されたキ
ャッシュメモリ１０３のセグメントに格納されているデ
ータをハードディスク装置３２０に書き戻してそのセグ
メントを解放する。次に、このセグメントを空きセグメ
ントとして、新しい読出データの格納に供し、上述した
場合と同様にして、このセグメントに関する情報をＬＲ
Ｕキュー３１４の先頭に登録する。

【０００９】このように、ＬＲＵアルゴリズムに従って
キャッシュメモリ１０３を管理することにより、稀にし
かアクセスされないデータをキャッシュメモリ１０３か
ら追い出すとともに、頻繁にアクセスされるデータをキ
ャッシュメモリ１０３に残すことができ、キャッシュメ
モリ１０３のヒット率の向上が図られている。この場合
は、複数の仮想計算機３０１₁ 〜３０１_n により、キャ
ッシュメモリ１０３が完全に共有されているので、各仮
想計算機３０１₁ 〜３０１_n が利用するデータがキャッ
シュメモリ１０３に格納されている割合は、各仮想計算
機３０１₁ 〜３０１_n のアクセス頻度に依存している。

【００１０】したがって、これらの仮想計算機３０１₁
〜３０１_n の間でアクセス頻度にばらつきがある場合
は、アクセス頻度が特に高い仮想計算機３０１からのア
クセス要求に対するキャッシュメモリ１０３のヒット率
が特に高くなるという特徴がある。一方、このような仮
想計算機間のアクセス頻度のばらつきを考慮して、各仮
想計算機に一定の割合でキャッシュメモリの領域を割り
当てるようにしたキャッシュ制御装置も提案されてい
る。

【００１１】例えば、本出願人は、特開昭６１−３４６
４３号公報「バッファ制御方式」により、キャッシュメ
モリを構成している複数のバンクのそれぞれを各仮想計
算機に割り当てる技法を既に提案している。この技法に
よれば、各仮想計算機によるアクセス要求に応じて、キ
ャッシュメモリの対応するバンクに対してのみ読み出し
および書き込みが行われるから、各仮想計算機はキャッ
シュメモリ内の所定の領域を専有することができ、アク
セス頻度が低い仮想計算機からのアクセス要求について
も所定のヒット率を確保することができる。

【００１２】

【発明が解決しようとする課題】上述したように、複数
の仮想計算機がキャッシュメモリを単純に共有する構成
では、アクセス頻度が高い仮想計算機がキャッシュメモ
リの多くの領域を占有してしまうため、その仮想計算機
のレスポンスを大きく向上する代わりに、他の仮想計算
機のレスポンスが著しく低下する可能性がある。

【００１３】例えば、２つの仮想計算機ＶＭ₀ ，ＶＭ₁
がキャッシュメモリを共有している場合に、一方の仮想
計算機ＶＭ₀ のアクセス頻度が１０：１の割合で多いと
すると、キャッシュメモリにおいて、仮想計算機Ｖ
Ｍ₀ ，ＶＭ₁ が利用する領域の大きさもほぼ１０：１と
なると考えられる。したがって、仮想計算機ＶＭ₁ が利
用できる領域の大きさは、キャッシュメモリ全体の１１
分の１の領域に制限されてしまい、これに伴ってヒット
率が大幅に低下しレスポンス時間が劣化する。

【００１４】一方、特開昭６１−３４６４３号公報の技
法は、各仮想計算機に割り当てたキャッシュメモリの領
域に応じたヒット率を保証することができる。したがっ
て、仮想計算機のそれぞれに対して要求される性能に応
じて、キャッシュメモリの領域を割り当てることによ
り、仮想計算機のレスポンス時間を制御することが可能
である。

【００１５】しかしながら、例えば、各仮想計算機に均
等にキャッシュメモリの領域を割り当てた場合には、単
純に共有していた場合に比べて、アクセス頻度高い仮想
計算機によるアクセス要求についてのヒット率は大きく
低下するから、全ての仮想計算機についてのレスポンス
時間の平均値が必ずしも向上するとは言えない。また、
上述したように、従来のキャッシュ制御装置で採用され
ているＬＲＵアルゴリズムは、それぞれのアクセス単位
のデータについてされたアクセス要求の履歴にのみ注目
している。

【００１６】しかし、統計的に見れば、あるアクセス単
位のデータがアクセスされた前後においては、記憶装置
においてそのデータの付近のアドレスに格納されている
データがアクセスされる確率は非常に高くなるはずであ
る。また、ハードディスク装置の一連のシリンダのデー
タが順次にアクセスされるような場合には、仮想計算機
側から実際のアクセス要求が出される前に、アクセス要
求で指定されるデータを予測することも可能である。

【００１７】また、上述したように、従来のキャッシュ
制御装置においては、キャッシュミスに伴うデータの置
き換え処理（以下、ステージング処理と称する）を行う
際には、データの統計的な性質にかかわらず、アクセス
単位ごと（例えば、Ｎバイトごと）に置き換えていた。
しかしながら、例えば、一連のアクセス単位の間に強い
関連がある場合には、これらのアクセス単位を一括して
ステージングしたほうが能率的である。

【００１８】したがって、このようなデータの統計的な
性質を利用しながらキャッシュメモリの管理を行えば、
より高いヒット率を得ることが可能であると考えられ
る。本発明は、複数の処理手段によるキャッシュメモリ
の共有の仕方やデータの統計的な性質を考慮した置き換
え処理を工夫することにより、キャッシュメモリのヒッ
ト率を向上するキャッシュ制御装置を提供することを目
的とする。

【００１９】

【課題を解決するための手段】図１は、請求項１ないし
請求項３のキャッシュ制御装置の原理ブロック図であ
る。請求項１の発明は、計算機システムに備えられた複
数の処理手段１０１から記憶装置１０２へのアクセス要
求に応じて、キャッシュメモリ１０３を制御するキャッ
シュ制御装置において、複数の処理手段１０１のそれぞ
れに対応する複数の占有領域１１１および複数の処理手
段１０１が共有して利用する共有領域１１２に、キャッ
シュメモリ１０３の記憶領域を配分する配分手段１１３
と、複数の処理手段１０１のそれぞれから入力されるア
クセス要求に応じて、対応する占有領域１１１と共有領
域１１２とに対して該当するデータの検索処理を行う検
索手段１１４と、検索結果に応じて、該当する占有領域
１１１と共有領域１１２とからなる領域に格納されたデ
ータの置き換え優先順位を操作する第１の順位操作手段
１１５と、該当するデータが存在しない旨の検索結果の
入力に応じて、該当する占有領域１１１と共有領域１１
２とからなる連続した領域における置き換え優先順位に
従ってデータの置き換え処理を行う置き換え手段１１６
とを備えたことを特徴とする。

【００２０】請求項２の発明は、請求項１に記載のキャ
ッシュ制御装置において、配分手段１１３は、対応する
占有領域１１１を構成する各セグメントに格納されたデ
ータを特定するアドレス情報を格納する複数のローカル
待ち行列１１７と、共有領域１１２を構成する各セグメ
ントに格納されたデータを特定するアドレス情報を格納
する共有待ち行列１１８とを備えた構成であり、第１の
順位操作手段１１５は、該当するローカル待ち行列１１
７と共有待ち行列１１８とにおける各セグメントのアド
レス情報の格納順序を操作することにより、置き換え優
先順位の操作を行う構成であり、置き換え処理手段１１
６は、該当するローカル待ち行列１１７と共有待ち行列
１１８とを参照して、置き換え処理を行う構成であるこ
とを特徴とする。

【００２１】請求項３の発明は、請求項２に記載のキャ
ッシュ制御装置において、複数のローカル待ち行列１１
７および共有待ち行列１１８の長さをそれぞれ変更する
変更手段１２１を備えたことを特徴とする。図２は、請
求項４および請求項５のキャッシュ制御装置の要部構成
を示す図である。

【００２２】請求項４の発明は、請求項１に記載のキャ
ッシュ制御装置において、複数の処理手段１０１からの
アクセス要求と検索手段１１４による検索結果とに基づ
いて、各処理手段１０１に対応する占有領域１１１にお
ける置き換え優先順位とヒット判定の出現頻度との関係
に関するヒット分布情報をそれぞれ収集する収集手段１
２２と、収集手段１２２によって収集されたヒット分布
情報に基づいて、各処理手段１０１によるアクセスの特
徴をそれぞれ評価する第１の特徴評価手段１２３と、第
１の特徴評価手段１２３による評価結果に基づいて、複
数の占有領域１１１に対するキャッシュメモリ１０３の
記憶領域の配分比率を決定し、配分手段１１３に指示す
る第１の配分比率決定手段１２４とを備えたことを特徴
とする。

【００２３】請求項５の発明は、請求項１に記載のキャ
ッシュ制御装置において、複数の処理手段１０１からの
アクセス要求と検索手段１１４による検索結果とに基づ
いて、各処理手段１０１に対応する占有領域１１１にお
ける置き換え優先順位とヒット判定の出現頻度との関係
に関するヒット分布情報をそれぞれ収集する収集手段１
２２と、アクセス要求がキャッシュメモリ１０３にヒッ
トした場合のレスポンス時間Thとミスした場合のレスポ
ンス時間Tmと、収集手段１２２によって収集されたヒッ
ト分布情報とに基づいて、複数の占有領域１１１に対す
る配分比率を様々に変えたときの平均レスポンス時間を
評価するレスポンス評価手段１２５と、平均レスポンス
時間の評価結果に基づいて、複数の占有領域１１１に対
するキャッシュメモリ１０３の記憶領域の配分比率を決
定し、配分手段１１３に指示する第２の配分比率決定手
段１２６とを備えたことを特徴とする。

【００２４】図３は、請求項６および請求項７のキャッ
シュ制御装置の原理ブロック図である。請求項６の発明
は、少なくとも１つの処理手段１０１から記憶装置１０
２へのアクセス要求に応じて、検索手段１０４によって
キャッシュメモリ１０３を検索し、その検索結果に応じ
て、置き換え手段１０５がキャッシュメモリ１０３のデ
ータのそれぞれに設定された置き換え優先順位に従って
置き換え処理を行うキャッシュ制御装置において、処理
手段１０１が記憶装置１０２をアクセスする際のアクセ
ス単位を所定数まとめたアクセスグループごとに、各ア
クセスグループに属するアクセス単位のいずれかがアク
セスされた最新の時刻を示す履歴情報を収集する第１の
アクセス履歴収集手段１３１と、アクセスグループ毎の
履歴情報に基づいて、キャッシュメモリ１０３内のデー
タの置き換え優先順位を操作する第２の順位操作手段１
３２とを備えたことを特徴とする。

【００２５】請求項７の発明は、処理手段１０１から記
憶装置１０２へのアクセス要求に応じて、検索手段１０
４によってキャッシュメモリ１０３を検索し、その検索
結果に応じて、置き換え手段１０５がキャッシュメモリ
１０３のデータのそれぞれに設定された置き換え優先順
位に従って置き換え処理を行うキャッシュ制御装置にお
いて、入力されるアクセス要求に基づいて、キャッシュ
メモリ１０３に格納された各アクセス単位に対するアク
セス時刻に関する情報を履歴情報として収集する第２の
アクセス履歴収集手段１３３と、アクセス時刻に関する
情報に基づいて、各アクセス単位についてのアクセス周
期を算出する周期算出手段１３４と、第２のアクセス履
歴収集手段１３３によって収集された履歴情報と各アク
セス単位に対応するアクセス周期とに基づいて、キャッ
シュメモリ１０３内のデータの置き換え優先順位を操作
する第３の順位操作手段１３４とを備えたことを特徴と
する。

【００２６】図４は、請求項８および請求項９のキャッ
シュ制御装置の原理ブロック図である。請求項８の発明
は、処理手段１０１から記憶装置１０２へのアクセス要
求に応じて、検索手段１０４によってキャッシュメモリ
１０３を検索し、その検索結果に応じて、置き換え手段
１０５がキャッシュメモリ１０３のデータの置き換え処
理を行うキャッシュ制御装置において、アクセス要求と
検索手段１０４による検索結果とに基づいて、キャッシ
ュメモリ１０３に格納されたアクセス単位の記憶装置１
０２における分布に関する分布情報を収集する分布情報
収集手段１４１と、検索手段１０４による検索結果に基
づいて、各アクセス単位に対するアクセス時刻に関する
情報をアクセス履歴情報として収集する第３のアクセス
履歴収集手段１４２と、分布情報とアクセス履歴情報と
に基づいて、処理手段１０１がアクセスしたデータの記
憶装置１０２における分布の時間的な変化に現れる特徴
を評価する特徴評価手段１４３と、特徴評価手段１４３
による評価結果に基づいて、近い将来にアクセスされる
可能性の高いアクセス単位を予測して、置き換え手段１
０５によるデータの置き換え処理に供する予測手段１４
４とを備えたことを特徴とする。

【００２７】請求項９の発明は、処理手段１０１から記
憶装置１０２へのアクセス要求に応じて、検索手段１０
４によってキャッシュメモリ１０３を検索し、その検索
結果に応じて、置き換え手段１０５がキャッシュメモリ
１０３のデータの置き換え処理を行うキャッシュ制御装
置において、アクセス要求と検索手段１０４による検索
結果とに基づいて、キャッシュメモリ１０３に格納され
たアクセス単位の記憶装置１０２における分布に関する
分布情報を収集する分布収集手段１４１と、分布情報に
基づいて、各アクセス単位とその付近のアクセス単位と
の関連性の強さを評価する関連評価手段１４５と、関連
評価手段１４５による評価結果に応じて、関連したデー
タの連なりの長さを推定し、置き換え手段１０５による
データの置き換え処理に供するデータ長推定手段１４６
とを備えたことを特徴とする。

【００２８】

【作用】請求項１の発明は、配分手段１１３により、キ
ャッシュメモリ１０３の記憶領域が複数の処理手段１０
１にそれぞれ対応する占有領域１１１と共有領域１１２
とに配分されており、検索手段１１４は、処理手段１０
１からのアクセス要求に応じて、対応する占有領域１１
１および共有領域１１２に対して検索処理を行う構成と
なっている。

【００２９】この検索結果に応じて、第１の順位操作手
段１１５により、該当する占有領域１１１とともに共有
領域１１２における置き換え優先順位が操作され、この
置き換え優先順位に基づいて、置き換え処理手段１１６
による置き換え処理が行われる。この場合は、該当する
占有領域１１１と共有領域１１２とは連続した領域とし
て扱われるから、置き換え処理に伴って、占有領域１１
１からはみ出したデータは共有領域１１２に吸収され
る。

【００３０】したがって、各処理手段１０１に占有領域
１１１としてそれぞれ所定の記憶領域を割り当てるとと
もに、共有領域１１２を各処理手段１０１のアクセス頻
度に応じて配分することができるから、各処理手段１０
１に最低限度のヒット率を保証するとともに、アクセス
頻度の高い処理手段１０１のヒット率の向上を図ること
が可能となる。

【００３１】請求項２の発明は、複数の占有領域１１１
に対応するローカル待ち行列１１７と共有領域１１２に
対応する共有待ち行列１１８とを設け、第１の順位操作
手段１１５および置き換え処理手段１１６が、これらの
待ち行列を利用してそれぞれの処理を行うことにより、
上述したキャッシュメモリの管理処理を簡易に実現する
ことが可能となる。

【００３２】請求項３の発明は、変更手段１２１によ
り、複数のローカル待ち行列１１７および共有待ち行列
１１８の長さを変更することにより、複数の占有領域１
１１および共有領域１１２の大きさを変更することがで
きる。請求項４の発明は、収集手段１２２と第１の特徴
評価手段１２３と第１の配分比率決定手段１２４とによ
り、各処理手段１０１によるアクセス要求についてのヒ
ット分布に現れたアクセスパターンの特徴に基づいて、
複数の占有領域１１１への記憶領域の配分比率を決定す
ることができる。

【００３３】これにより、各処理手段１０１に効率よく
キャッシュメモリ１０３の記憶領域を配分することが可
能となり、各処理手段１０１によるアクセス要求に対す
るヒット率を向上することができる。請求項５の発明
は、収集手段１２２で得られたヒット分布情報に基づい
て、レスポンス評価手段１２５が、様々な配分比率を設
定した場合について、それぞれ平均レスポンス時間を評
価するので、第２の配分比率決定手段１２６により、平
均レスポンス時間を指標として配分比率を決定すること
ができる。

【００３４】これにより、平均レスポンス時間を最適化
する配分比率を求めることが可能となる。請求項６の発
明は、第１のアクセス履歴収集手段１３１で収集された
履歴情報に基づいて、第２の順位操作手段１３２が動作
することにより、同じアクセスグループに属する他のア
クセス単位へのアクセス履歴を考慮して、置き換え優先
順位を操作することができる。

【００３５】これにより、同じアクセスグループに属す
るアクセス単位が頻繁にアクセスされている場合に、そ
のアクセスグループに属するアクセス単位の置き換え優
先順位を調整することができるから、該当するアクセス
単位が置き換え手段１０５によって無駄に置き換えられ
ることを防ぐことができ、ヒット率を向上することがで
きる。

【００３６】請求項７の発明は、第２のアクセス履歴収
集手段１３３で収集された履歴情報に基づいて、周期算
出手段１３４が、キャッシュメモリ１０３に格納された
各アクセス単位に対するアクセス周期を算出し、このア
クセス周期と上述した履歴情報とに基づいて、第３の順
位操作手段１３５が動作することにより、周期的にアク
セスされるアクセス単位を検出して、その置き換え優先
順位を操作することができる。

【００３７】請求項８の発明は、分布情報収集手段１４
１と第３のアクセス履歴収集手段１４２と第２の特徴評
価手段１４３とによって、処理手段１０１によってアク
セスされたアクセス単位の分布の時間的な変化に現れる
特徴を評価し、予測手段１４４による予測処理に供する
ことにより、近い将来にアクセスされる可能性の高いア
クセス単位を予測することができる。

【００３８】この予測結果に基づいて、置き換え手段１
０５が置き換え処理を行えば、処理手段１０１が次にア
クセスするデータをあらかじめキャッシュメモリ１０３
に格納しておくことができる。請求項９の発明は、分布
情報収集手段１４１と関連評価手段１４５とによって、
処理手段１０１が扱っているデータのそれぞれについ
て、その付近のデータとの関連性の強さを評価すること
ができる。したがって、この評価結果に基づいて、デー
タ長推定手段１４６が、データのまとまりの大きさを推
定して、置き換え手段１０５による置き換え処理に供す
ることにより、関連の強い一連のデータを一括して記憶
装置１０２から読み出して、キャッシュメモリ１０２に
格納することができ、置き換え処理の効率を向上するこ
とができる。

【００３９】

【実施例】以下、図面に基づいて本発明の実施例につい
て詳細に説明する。図５は、請求項１のキャッシュ制御
装置を適用した計算機システムの実施例構成図である。
図５において、キャッシュ制御装置２１０は、図１９に
示したＬＲＵキュー３１４に代えて、処理手段１０１に
相当するｎ個の仮想計算機３０１₁ 〜３０１_nのそれぞ
れに対応するローカルＬＲＵキュー２１１₁ 〜２１１_n
と共有ＬＲＵキュー２１２とを備え、アクセス要求に応
じて、キャッシュ管理部２１３が上述したローカルＬＲ
Ｕキュー２１１₁ 〜２１１_n および共有ＬＲＵキュー２
１２に基づいて、キャッシュメモリ１０３の管理を行う
構成となっている。

【００４０】以下、仮想計算機３０１₁ 〜３０１_n およ
びローカルＬＲＵキュー２１１₁ 〜２１１_n を総称する
際には、それぞれ仮想計算機３０１，ローカルＬＲＵキ
ュー２１１と称する。また、図５に示したキャッシュ管
理部２１３において、ヒット判定部２１４は、ローカル
ＬＲＵキュー２１１₁ 〜２１１_n および共有ＬＲＵキュ
ー２１２に基づいてヒット判定を行い、この判定結果に
応じて、アクセス処理部２１５あるいは置き換え処理部
２１６を起動する構成となっている。

【００４１】アクセス処理部２１５は、ヒットである旨
の判定結果に応じて動作し、キャッシュメモリ１０３に
対して、アクセス要求で指定されたアクセス処理を実行
する構成となっている。また、置き換え処理部２１６
は、キャッシュミスである旨の判定結果に応じて動作
し、ディスク制御部３１１に該当するデータの読出処理
を指示するとともに、ローカルＬＲＵキュー２１１₁ 〜
２１１_n および共有ＬＲＵキュー２１２を用いて、キャ
ッシュメモリ１０３の置き換え処理を行う構成となって
いる。

【００４２】ここで、上述した共有ＬＲＵキュー２１２
は、請求項２で述べた共有待ち行列１１８に相当するも
のであり、Ｋ_s 個分のセグメントに相当する容量を持っ
ている。また、ローカルＬＲＵキュー２１１₁ 〜２１１
_n は、請求項２で述べたローカル待ち行列１１７に相当
するものであり、それぞれＫ₁ 〜Ｋ_n 個分のセグメント
に相当する容量を持っており、これらのキューに割り当
てられたセグメントの数の合計は、キャッシュメモリ１
０３を構成するセグメントの数Ｍ個となっている。

【００４３】つまり、この場合には、仮想計算機３０１
₁ 〜３０１_n に割り当てられた占有領域１０３₁ 〜１０
３_n は、それぞれＫ₁ セグメント〜Ｋ_n セグメントの容
量を有し、共有領域１０３はＫ_s セグメントの容量を有
していることになる。以下、キャッシュ管理部２１３
が、ローカルＬＲＵキュー２１１₁ 〜２１１_nおよび共
有ＬＲＵキュー２１２を用いてキャッシュメモリ１０３
を管理する方法について説明する。

【００４４】図６に、キャッシュ管理動作を表す流れ図
を示す。例えば、ｉ番目の仮想計算機３０１_i から指定
アドレスのデータに対するアクセス要求が入力された場
合に、キャッシュ管理部２１３のヒット判定部２１４
は、まず、対応するローカルＬＲＵキュー２１１_i を参
照し（ステップ４０１）、該当するデータが対応する占
有領域１１１に存在するか否かを判定する（ステップ４
０２）。

【００４５】このステップ４０２における肯定判定の場
合に、ヒット判定部２１４は、該当するセグメントの情
報をローカルＬＲＵキュー２１１_i の先頭に登録し直す
（ステップ４０３）。一方、ステップ４０２における否
定判定の場合に、ヒット判定部２１４は、共有ＬＲＵキ
ュー２１２を参照し（ステップ４０４）、該当するデー
タが共有領域１１２に存在するか否かを判定する（ステ
ップ４０５）。

【００４６】このステップ４０５における肯定判定の場
合に、ヒット判定部２１４は、ローカルＬＲＵキュー２
１１_i の末尾の情報を共有ＬＲＵキュー２１２の先頭に
移動するとともに、該当するセグメントの情報をローカ
ルＬＲＵキュー２１１_i の先頭に登録する（ステップ４
０６）。上述したステップ４０２あるいはステップ４０
５における肯定判定の場合に、ヒット判定部２１４は、
該当するデータがキャッシュメモリ１０３内に存在す
る、すなわちキャッシュヒットしたと判断する。

【００４７】この場合に、ヒット判定部２１４は、該当
するセグメントを指定してアクセス処理部２１５を起動
し、指定されたセグメントに格納されたデータに対し
て、アクセス要求で指示されたアクセス処理を実行して
（ステップ４０７）、その結果を上述した仮想計算機３
０１_i に送出される。このように、ヒット判定部２１４
が、ローカルＬＲＵキュー２１１_i に続いて共有ＬＲＵ
キュー２１２に対する探索処理を行い、得られたヒット
判定結果に応じてアクセス処理部２１５が動作すること
により、請求項１で述べた検索手段１１４の機能を実現
し、ｉ番目の処理手段１０１に対応する占有領域１１１
と共有領域１１２とから該当するデータを検索すること
が可能となる。

【００４８】また、ヒット判定部２１４が、ローカルＬ
ＲＵキュー２１１_i および共有ＬＲＵキュー２１２につ
いての探索結果に応じて、上述したステップ４０３およ
びステップ４０６の処理を行うことにより、第１の順位
操作手段１１５の機能の一部が実現されており、キャッ
シュヒットである旨の検索結果に応じて、ローカルＬＲ
Ｕキュー２１１_i および共有ＬＲＵキュー２１２で示さ
れる置き換え優先順位が変更されている。

【００４９】一方、ステップ４０５における否定判定の
場合は、ヒット判定部２１４は、キャッシュメモリ１０
３内に該当するデータがない、すなわちキャッシュミス
であると判断し、置き換え処理部２１６を起動する。こ
れに応じて、置き換え処理部２１６は、まず、ディスク
制御部３１１に該当するアドレスを指定してデータの読
出処理を指示し、これに応じて、ディスク制御部３１１
によりハードディスク装置３２０からのデータの読出処
理が行われ（ステップ４０８）、後述する書き込み処理
に供される。

【００５０】新しいデータの書き込み処理を行う際に、
置き換え処理部２１６は、まず、該当するローカルＬＲ
Ｕキュー２１２_i を参照して（ステップ４０９）、この
ローカルＬＲＵキュー２１２_i に空きがあるか否かを判
定する（ステップ４１０）。ステップ４１０の肯定判定
の場合は、このローカルＬＲＵキュー２１１_i に対応す
る占有領域１０３_i は、まだ全ては埋まっていないの
で、キャッシュメモリ１０３には空きセグメントが存在
している。

【００５１】この場合に、置き換え処理部２１６は、キ
ャッシュメモリ１０３の空きセグメントを獲得し、この
空きセグメントにハードディスク装置３２０からの読出
データを書き込むとともに、このデータのアドレスに関
する情報をそのローカルＬＲＵキュー２１１_i の先頭に
登録する（ステップ４１１，ステップ４１２）。その
後、置き換え処理部２１６は、置き換え処理が終了した
旨を新しいデータを格納したセグメントを示す情報とと
もにアクセス処理部２１５に通知し、これに応じて、ア
クセス処理部２１５がアクセス処理を実行した後に（ス
テップ４１３）、処理を終了すればよい。

【００５２】一方、ステップ４１０の否定判定の場合
は、まず、置き換え処理部２１６は、共有ＬＲＵキュー
２１２を参照して（ステップ４１４）、この共有ＬＲＵ
キュー２１２に空きがあるか否かを判定する（ステップ
４１５）。このステップ４１５における肯定判定の場合
は、共有ＬＲＵキュー２１３に対応する共有領域でまだ
埋まっていないセグメント、つまり、キャッシュメモリ
１０３に空きセグメントが存在しているから、この空き
セグメントを使用することができる。

【００５３】この場合に、置き換え処理部２１６は、ま
ず、上述したローカルＬＲＵキュー２１１_i の末尾の情
報を共有ＬＲＵキュー２１２の先頭に登録し（ステップ
４１６）、その後、ステップ４１１に進んで、空きセグ
メントへのデータの書き込み処理，ローカルＬＲＵキュ
ー２１１_i への登録処理および新しく登録されたセグメ
ントに対するアクセス処理を実行してから、処理を終了
すればよい。

【００５４】一方、ステップ４１３における否定判定の
場合は、キャッシュメモリ１０３の全てのセグメントは
既に獲得されている。したがって、置き換え処理部２１
６は、キャッシュメモリ１０３のいずれかのセグメント
を解放して、データの置き換え処理を行う必要がある。
この場合に、キャッシュ管理部２１３は、まず、共有Ｌ
ＲＵキュー２１２の末尾の情報で示されたセグメントの
データをハードディスク装置３２０に書き戻す旨をディ
スク制御部３１１に指示し、この書き戻し処理の終了後
に、該当するセグメントを解放する（ステップ４１
７）。

【００５５】その後、置き換え処理部２１６は、ステッ
プ４１６に進んで、ローカルＬＲＵキュー２１２_i から
共有ＬＲＵキュー２１２への情報の移動処理を行い、更
に、ステップ４１１に進んで、新しいデータの書き込み
処理，ローカルＬＲＵキュー２１１_i の登録処理および
新しく登録されたセグメントに対するアクセス処理を実
行してから、処理を終了すればよい。

【００５６】このように、置き換え処理部２１６が、ロ
ーカルＬＲＵキュー２１１_i と共有ＬＲＵキュー２１２
とに基づいて、上述した置き換え処理を行うことによ
り、置き換え手段１１６の機能を実現し、ローカルＬＲ
Ｕキュー２１１_i と共有ＬＲＵキュー２１２とで示され
る置き換え優先順位に従って、該当する占有領域１１１
および共有領域１１２についての置き換え処理を行うこ
とが可能となる。

【００５７】また、この置き換え処理に伴って、置き換
え処理部２１６が、ローカルＬＲＵキュー２１１_i と共
有ＬＲＵキュー２１２とにおける登録順序の入替えを行
うことにより、第１の順位操作手段１１５の機能の一部
を果たすことができ、キャッシュミスである旨の判定に
応じて、対応する占有領域１１１と共有領域１１２とを
連結した領域についての置き換え優先順位を操作するこ
とを可能としている。

【００５８】このように、ローカルＬＲＵキュー２１１
₁ 〜ローカルＬＲＵキュー２１１_nと共有ＬＲＵキュー
２１２とに基づいて、ヒット判定部２１４と置き換え処
理部２１６とがキャッシュメモリ１０３の管理処理を行
うことにより、配分手段１１３の機能を実現し、ｎ個の
仮想計算機３０１₁ 〜３０１_n にそれぞれ所定の大きさ
の占有領域１１１を配分するとともに、共有領域１１２
を各仮想計算機３０１のアクセス頻度に応じて共有する
ことが可能となる。

【００５９】この場合は、ローカルＬＲＵキュー２１１
₁ 〜２１１_n に適切なセグメント数を割り当てておくこ
とにより、各仮想計算機３０１のアクセス頻度の大小に
かかわらず最低限度のレスポンス時間を保証することが
できる。また、共有ＬＲＵキュー２１２対応する共有領
域１１２は、ｎ個の仮想計算機３０１₁ 〜３０１_n それ
ぞれのアクセス頻度に応じて割り当てられるから、アク
セス頻度の高い仮想計算機３０１にはこの共有領域１１
２に属するセグメントが多数割り当てられることにな
り、該当する仮想計算機３０１のレスポンスを向上する
ことが期待できる。

【００６０】つまり、各仮想計算機３０１₁ 〜３０１_n
が専有する占有領域１１１₁ 〜１１１_n を固定とし、共
有領域１１２の各仮想計算機３０１₁ 〜３０１_n への割
り当てをそれぞれのアクセス頻度に応じて変動させるこ
とにより、複数の仮想計算機３０１₁ 〜３０１_n のアク
セス頻度のばらつきを考慮して、効率よくキャッシュメ
モリ１０３の領域を割り当てることが可能となる。

【００６１】これにより、仮想計算機３０１₁ 〜３０１
_n それぞれからのアクセス要求に対するヒット率を平均
的に向上し、計算機システム全体としての平均的なレス
ポンス時間を向上することが期待できる。また、この場
合は、共有領域１１１の割当が、仮想計算機３０１₁ 〜
３０１_nのアクセス頻度の時間的に変化に応じて変化す
るので、アクセス頻度が時間的に大きく変動するような
場合でも柔軟に対応し、平均的なレスポンス時間の短縮
を図ることができる。

【００６２】ところで、共有領域１１２を設ける代わり
に、仮想計算機３０１₁ 〜３０１_nに対応する占有領域
１１１の大きさを可変としてもよい。図７に、請求項３
のキャッシュ制御装置を適用した計算機システムの実施
例構成図を示す。図７において、キャッシュ制御装置
は、図５に示した共有ＬＲＵキュー２１２の代わりに、
ローカルＬＲＵキュー２１１₁ 〜２１１_n のそれぞれに
対応するサイズレジスタ２１７₁ 〜２１７_n とサイズ変
更部２１８とを備えて構成されている。

【００６３】ここで、初期状態においては、各サイズレ
ジスタ２１７₁ 〜２１７_n に、それぞれ初期値Ｘ₁₀〜Ｘ
_n0がキャッシュサイズＸ₁ 〜Ｘ_n として格納されてお
り、これらの初期値Ｘ₁₀〜Ｘ_n0の総和は、キャッシュメ
モリ１０３を構成するセグメントの総数Ｍとなってい
る。また、この場合に、キャッシュ管理部２１３の置き
換え処理部２１６は、上述したサイズレジスタ２１７₁
〜２１７_n で示される長さを対応するローカルＬＲＵキ
ュー２１１₁ 〜２１１_n の長さとして認識し、後述する
ようにして、キャッシュメモリ１０３の管理を行う構成
となっている。

【００６４】ヒット判定部２１４により、キャッシュミ
スである旨の判定結果が得られた場合に、置き換え処理
部２１６が動作し、置き換え処理を行う。このとき、置
き換え処理部２１６は、まず、ローカルＬＲＵキュー２
１１_i に登録されている情報の数と対応するサイズレジ
スタ２１７_i に格納されているキャッシュサイズＸ_i と
を比較し、該当する仮想計算機３０１_i に割り当てられ
ている占有領域１１１_i に空きがあるか否かを判定す
る。

【００６５】ここで、置き換え処理部２１６は、ローカ
ルＬＲＵキュー２１１_i 登録されている情報の数ｈ_i が
キャッシュサイズＸ_i 未満である場合に、該当する占有
領域１１１_i に空きセグメントがあると判定し、それ以
外の場合は、空きセグメントがないと判定すれは良い。
このように、置き換え処理部２１６が、各ローカルＬＲ
Ｕキュー２１１₁ 〜２１１_n の長さをサイズレジスタ２
１７₁ 〜２１７_n を参照して認識し、各仮想計算機３０
１₁ 〜３０１_n に対応する占有領域１１１₁ 〜１０３_n
における空きセグメントの有無を判断する構成とするこ
とができる。

【００６６】また、サイズ変更部２１８は、書換え指示
の入力に応じて、サイズレジスタ２１７₁ 〜２１７_n を
書き換え、後述するようにして、適切なセグメントの解
放処理を行えばよい。サイズ変更部２１８は、まず、書
換え指示で指定された新しいキャッシュサイズＸ₁ 〜Ｘ
_n とサイズレジスタ２１７₁ 〜２１７_n の内容とをそれ
ぞれ比較し、新しいキャッシュサイズが古いキャッシュ
サイズよりも小さい占有領域１１１を検出する。

【００６７】次に、サイズ変更部２１８は、検出した占
有領域１１１に対応するローカルＬＲＵキュー２１１を
参照し、その末尾から新しいキャッシュサイズと古いキ
ャッシュサイズとの差の分だけポインタを順次に遡り、
それぞれの領域に登録されたセグメントを順次に解放す
ればよい。このようにして過剰分のセグメントを解放し
たのちに、新しいキャッシュサイズで示される位置に登
録されたアドレス情報をそのローカルＬＲＵキュー２１
１の末尾として、処理を終了すればよい。

【００６８】このように、サイズ変更部２１８が、書換
え指示に応じて、キャッシュサイズＸ₁ 〜Ｘ_n の値を変
更処理および過剰なセグメントの解放処理を行えば、解
放されたセグメントは、古いキャッシュサイズよりも大
きなキャッシュサイズが与えられた仮想計算機３０１に
対応する占有領域１１１の空きセグメントとして扱われ
る。

【００６９】すなわち、後に、該当する仮想計算機３０
１からのアクセス要求に応じて、新しいデータがハード
ディスク装置３２０から読み出された場合には、置き換
え処理部２１６により、上述したようにして解放された
セグメントにそのデータが格納されて、該当するローカ
ルＬＲＵキュー２１１にそのセグメントが登録され、こ
の仮想計算機３０１の占有領域１１１に組み入れられ
る。

【００７０】このように、置き換え処理部２１６とサイ
ズレジスタ２１７₁ 〜２１７_n とサイズ変更部２１８と
がそれぞれ動作するよって、変更手段１２１の機能を果
たし、各処理手段１０１₁ 〜１０１_n に割り当てる占有
領域１１１₁ 〜１１１_n の大きさを動的に変更すること
が可能となる。これにより、各仮想計算機３０１₁ 〜３
０１_n のアクセス頻度が時間的に大きく変動した場合な
どにも、適切な割当を示す新しいキャッシュサイズを指
定した書換え指示を入力することにより、キャッシュメ
モリ１０３の割当を柔軟に変更することができ、ｎ個の
仮想計算機３０１₁ 〜３０１_n の平均レスポンス時間を
短縮する効果が期待できる。

【００７１】また、複数の仮想計算機３０１₁ 〜３０１
_n に対応する占有領域１１１₁ 〜１１１_n と共有領域１
１２との両方を持ったキャッシュメモリ１０３に適用す
ることも可能である。この場合は、図５に示したキャッ
シュ制御装置２１０に、図７に示したサイズレジスタ２
１７₁ 〜２１７_n およびサイズ変更部２１８と、共有Ｌ
ＲＵキュー２１２に対応するサイズレジスタとを付加
し、サイズ変更部２１８が、書換え指示に応じて、サイ
ズレジスタ２１７₁ 〜２１７_n およびサイズレジスタの
内容を書き換えるとともに、過剰となったセグメントを
検出して解放する処理を行う構成とすればよい。

【００７２】更に、最適なキャッシュサイズの配分を自
動的に求め、この配分に応じてキャッシュサイズを変更
することも可能である。図８に、請求項４のキャッシュ
制御装置を適用した計算機システムの実施例構成図を示
す。図８において、キャッシュ制御装置は、図７に示し
たキャッシュ制御装置に、ヒット分布計測部２２１とア
クセスカウンタ２２２とを付加し、また、サイズ変更部
２１８は、ヒット率算出部２２３とヒット分布評価部２
２４とサイズ決定部２２５とを備えて構成されている。

【００７３】上述したヒット分布計測部２２１は、収集
手段１２２に相当するものであり、各ローカルＬＲＵキ
ュー２１１について、それぞれのｊ番目に登録されたセ
グメントのデータにヒットした回数をそれぞれ計数する
構成となっている。このヒット分布計測部２２１は、例
えば、各ローカルＬＲＵキュー２１１にそれぞれのキャ
ッシュサイズＸ₁ 〜Ｘ_n 個のカウンタを対応させて構成
し、ヒット判定部２１４によるヒット判定結果に応じ
て、該当するカウンタが計数動作を行うことにより、各
仮想計算機３０１に対応する占有領域１１１それぞれに
ついて、一定時間ｔにおけるヒット分布を測定する構成
とすればよい。

【００７４】また、アクセスカウンタ２２２は、仮想計
算機３０１₁ 〜３０１_n からのアクセス要求の入力に応
じて、各仮想計算機３０１ごとに、上述した一定時間ｔ
におけるアクセス要求数Ｒ₁ 〜Ｒ_n を計数する構成とな
っている。また、図８に示したヒット率算出部２２３
は、ヒット分布計測部２２１で得られた各仮想計算機３
０１に対応するヒット分布をそれぞれ積分して、ヒット
数の総和Ｈ₁ 〜Ｈ_n をそれぞれ求め、このヒット数の総
和Ｈ₁ 〜Ｈ_n をアクセスカウンタ２２２の計数結果とし
て得られるアクセス要求数Ｒ₁ 〜Ｒ_n でそれぞれ除算す
る構成となっており、この除算結果は、各仮想計算機３
０１₁ 〜３０１_n に対応するヒット率ｈ₁ 〜ｈ_n として
サイズ決定部２２５に送出されている。

【００７５】ここで、各仮想計算機３０１が扱うデータ
の統計的な性質によって、上述したヒット分布計測部２
２１で得られるヒット分布は、図９に示すように、様々
な波形になると考えられる。例えば、仮想計算機３０１
が特定のデータを集中してアクセスしている場合は、図
９(a) に符号で示したように、ローカルＬＲＵキュー
２１１の先頭に近い部分に登録されセグメントにヒット
する頻度が高く、ローカルＬＲＵキュー２１１の先頭部
分に対応するセグメントにアクセスが集中していること
を示す波形（以下、集中タイプのヒット分布と称する）
が得られる。このような集中タイプのヒット分布が得ら
れた場合は、ローカルＬＲＵキュー２１１の末尾の部分
に登録されたセグメントに対応するヒット数が全体とし
てのヒット率に与える寄与は極く小さい。

【００７６】一方、仮想計算機３０１がアクセスするデ
ータが分散している場合は、図９(a) に符号で示した
ように、なだらかな波形を描くヒット分布（以下、拡散
タイプのヒット分布と称する）が得られる。このような
拡散タイプのヒット分布が得られた場合は、このローカ
ルＬＲＵキュー２１１に割り当てるセグメント数を増や
してやることで、ヒット率が大幅に向上すると期待でき
る。

【００７７】したがって、ヒット分布評価部２２４によ
り、上述したヒット分布計測部２２１による計測結果か
ら、ヒット分布の波形の形状を推定し、それぞれの波形
が上述した集中タイプと拡散タイプとのどちらに近いか
を適切な指標を用いて評価すれば、各仮想計算機３０１
₁ 〜３０１_n のアクセスパターンの特徴を把握すること
ができると考えられる。

【００７８】例えば、ヒット分布評価部２２４は、各ロ
ーカルＬＲＵキュー２１１の先頭部分に登録されたｋ_t
個のセグメントに対するヒット数の和Σ_T と末尾部分に
登録されたｋ_b 個のセグメントに対するヒット数の和Σ
_B とをそれぞれ求め、この二つのヒット数の和Σ_T ，Σ
_B の比の大きさを指標として、ヒット分布の波形を評価
すればよい。上述した二つのヒット数の和Σ_T ，Σ
_B は、それぞれ図９(b) において斜線を付して示す２つ
の部分の積分値に相当するから、その比の大きさによ
り、該当するヒット分布の波形を評価することができ
る。

【００７９】このようにして、このヒット分布評価部２
２４により、第１の特徴評価手段１２３の機能を果た
し、この評価結果をキャッシュサイズの変更処理に供す
ることができる。また、サイズ決定部２２５は、ヒット
率算出部２２３によって得られた各仮想計算機３０１₁
〜３０１_n のヒット率ｈ₁ 〜ｈ_n に大きなばらつきがあ
ると判断した場合に、上述したヒット分布評価部２２４
による評価結果に基づいて、新しいキャッシュサイズＸ
₁ 〜Ｘ_n を決定する構成とすればよい。

【００８０】例えば、ｊ番目のローカルＬＲＵキュー２
１１_j に対応するヒット分布が、ヒット分布評価部２２
４によって拡散タイプであると判定され、かつ、対応す
るヒット率ｈ_j が悪化している場合に、サイズ決定部２
２５は、まず、他のローカルＬＲＵキュー２１１の中か
ら、ヒット分布が集中タイプであり、かつ、ヒット率が
比較的高いものを検出する。

【００８１】次に、サイズ決定部２２５は、検出したロ
ーカルＬＲＵキュー２１１_d に対応するサイズレジスタ
２１７_d に元の値から変更分ｄを差し引いた値を新しい
キャッシュサイズＸ_d として格納し、逆に、ローカルＬ
ＲＵキュー２１１_j に対応するサイズレジスタ２１７_j
に元の値に変更分ｄを加算した値を新しいキャッシュサ
イズＸ_j として格納すればよい。

【００８２】このように、サイズ決定部２２５がヒット
分布評価部２２４とヒット率算出部２２３とで得られた
情報に基づいて動作することにより、第１の配分比率決
定手段１２４の機能を実現し、各仮想計算機３０１のア
クセスパターンの特徴に応じて、対応する占有領域１１
１に配分するセグメントの数を調整することができる。

【００８３】また、このキャッシュサイズレジスタ２１
７の書換え処理に伴って、サイズ変更部２１８は、セグ
メントの数が減少する占有領域１１１_d 対応するローカ
ルＬＲＵキュー２１１_d について、上述したセグメント
の解放処理を行えばよい。このようにして、キャッシュ
サイズの減少によるヒット率への影響が比較的少ないア
クセスパターンを持つ仮想計算機に割り当てられた占有
領域を減らして、代わりに、キャッシュサイズの増大に
よるヒット率の向上効果が大きいアクセスパターンを有
する仮想計算機に割り当てられた占有領域を増加させる
ことができる。

【００８４】これにより、各処理手段１０３のアクセス
パターンの特徴やその変化を考慮して、キャッシュメモ
リ１０３の記憶領域をより効率よく分割し、平均的なヒ
ット率を向上して、計算機システム全体としてのレスポ
ンスを向上することができる。更に、上述したヒット分
布計測部２２１で得られたヒット分布に基づいて、各仮
想計算機３０１₁ 〜３０１_n に割り当てるキャッシュサ
イズを様々な値に変更した際の平均レスポンス時間を予
測評価し、この平均レスポンス時間を指標として、各占
有領域１１１の割当を決定してもよい。

【００８５】図１０に、請求項５のキャッシュ制御装置
を適用した計算機システムの実施例構成図を示す。図１
０において、キャッシュ制御装置は、図８に示したヒッ
ト分布評価部２２４に代えてレスポンス算出部２２６を
備え、サイズ決定部２２５からの指示に応じて、ヒット
率算出部２２３とこのレスポンス算出部２２６とが動作
する構成となっている。

【００８６】この場合に、ヒット率算出部２２３は、各
仮想計算機３０１₁ 〜３０１_n に割り当てるｎ個の占有
領域１１１のサイズとして、サイズ決定部２２５からセ
グメント数Ｙ₁ 〜Ｙ_n の組み合わせを受け取り、ヒット
分布計測部２２１で得られた対応するヒット分布に基づ
いて、指定されたセグメント数で示されるキャッシュサ
イズとした場合のヒット率をそれぞれ算出する構成とな
っている。

【００８７】このときヒット率算出部２２３は、まず、
ｉ番目の仮想計算機３０１_i に対応するヒット分布につ
いて、ローカルＬＲＵキュー２１１_i の先頭からＹ_i 番
目までについてのヒット数の和Ｐ_i (Yi)を求め、このヒ
ット数の和Ｐ_i (Yi)を対応するアクセス要求数Ｒ_i で除
算して、キャッシュサイズをＹ_i セグメントとした場合
のヒット率ｈ_i (Yi)を求めればよい。

【００８８】ここで、アクセス要求がキャッシュメモリ
１０３にヒットした場合のレスポンス時間τ_h とミスし
た場合のレスポンス時間τ_m とが予め与えられていれ
ば、これらのレスポンス時間τ_h ，τ_m と上述したヒッ
ト率ｈ_i (Yi)とを用いて、キャッシュサイズがＹ_i セグ
メントである場合のｉ番目の仮想計算機３０１_i の平均
レスポンス時間Ｔ_i (Yi)は、式のように表すことがで
きる。

【００８９】 Ｔ_i (Yi)＝τ_h ・ｈ_i (Yi)＋τ_m ・（１−ｈ_i (Yi)） ・・・ 更に、計算機システム全体としてのレスポンス時間は、
個々の仮想計算機３０１₁ 〜３０１_n のレスポンス時間
の総和として評価することができる。したがって、レス
ポンス算出部２２６は、ヒット率算出部２２３で得られ
た各仮想計算機３０１₁ 〜３０１_n のヒット率ｈ₁(Y₁)
〜ｈ_n (Yn)の入力に応じて、上述した式を用いて各仮
想計算機３０１₁ 〜３０１_n について平均レスポンス時
間Ｔ₁(Y₁) 〜Ｔ_n (Yn)をそれぞれ求め、これらの総和Ｓ
を指定されたキャッシュサイズY₁〜Ynの組み合わせに対
応する計算機システム全体のレスポンス時間を示す指標
としてサイズ決定部２２５に返す構成とすればよい。

【００９０】このようにして、ヒット率算出部２２３と
レスポンス算出部２２６とによって、請求項５のレスポ
ンス評価手段１２５の機能を果たし、各処理手段１０１
および計算機システム全体のレスポンスの良否を判定す
る指標を得て、キャッシュサイズの決定処理に供するこ
とができる。ここで、ヒットした場合のレスポンス時間
τ_h は、キャッシュメモリ１０３として用いられている
メモリ素子などのアクセス時間やクロック速度に基づい
て、予め算出しておき、レスポンス算出部２２６内に保
持しておけばよい。また、ミスの場合に実際にアクセス
に要した時間を所定の回数だけ繰り返し計測する時間計
測部を備えてレスポンス算出部２２６を構成し、この時
間計測部による計測結果の平均値としてレスポンス時間
τ_m を求めて、上述したレスポンス時間τ_h と同様に保
持しておけばよい。

【００９１】また、サイズ決定部２２５が、様々なキャ
ッシュサイズの組み合わせをヒット率算出部２２３に入
力し、それぞれの組み合わせについてレスポンス算出部
２２６で得られた平均レスポンス時間の総和Ｓを比較し
て、この総和Ｓの最小値を与えるキャッシュサイズの組
み合わせを求める構成とすれば、このサイズ決定部２２
５により、第２の配分比率決定手段１２６の機能を実現
することができる。

【００９２】このようにして得られたキャッシュサイズ
の組み合わせは、平均レスポンス時間の総和Ｓを最小と
するのだから、このキャッシュサイズの組み合わせに従
ってキャッシュメモリ１０３を分割することにより、計
算機システム全体としての平均レスポンス時間を向上す
ることが可能である。更に、サイズ決定部２２５が、レ
スポンス算出部２２６から各仮想計算機３０１₁ 〜３０
１_n に対応する平均レスポンス時間Ｔ₁(Y₁) 〜Ｔ_n (Yn)
を受け取り、これらの平均レスポンス時間Ｔ₁(Y₁) 〜Ｔ
_n (Yn)がレスポンス時間の閾値Ｔ_THを超えない範囲でキ
ャッシュサイズの組み合わせを生成する構成とすれば、
各仮想計算機３０１₁ 〜３０１_n について最低限度のレ
スポンスを保証しつつ、計算機システム全体としての平
均レスポンス時間を最適化することが可能となる。

【００９３】以下、データの統計的な性質を考慮して、
データの置き換え処理を行う方法について説明する。図
１１に、請求項６のキャッシュ制御装置を適用した計算
機システムの実施例構成図を示す。図１１において、キ
ャッシュ制御装置２１０は、図１９に示した従来のキャ
ッシュ制御装置に、グループ管理テーブル２３１を付加
し、キャッシュ管理部２１３に備えられた比較処理部２
３２と入替え処理部２３３とが、このグループ管理テー
ブル２３１とＬＲＵキュー３１４とを用いて、置き換え
処理部２１６によるキャッシュメモリ１０３の置き換え
処理を操作する構成となっている。

【００９４】グループ管理テーブル２３１は、第１の履
歴収集手段１３１に相当するものであり、複数のアクセ
ス単位からなるアクセスグループごとにアクセスの履歴
に関する情報を格納する構成となっている。例えば、図
１２に示すように、ハードディスク装置３２０に記憶媒
体として備えられた磁気ディスクのシリンダごとに、そ
のシリンダに属するアクセス単位のいずれかが最後にア
クセスされた時刻Ｔ_i（以下、最終アクセス時刻と称す
る）を格納する構成とすればよい。

【００９５】また、キャッシュ管理部２１３の比較処理
部２３２は、新しいデータの書き込みに伴ってキャッシ
ュメモリ１０３のセグメントを解放する際に、グループ
管理テーブル２３１を参照し、解放の対象とされたセグ
メントに対応するアクセスグループの最終アクセス時刻
からの経過時間Ｔ_P を求め、この経過時間Ｔ_P と所定の
閾値Ｔ_THとの比較結果に応じて、入替え処理部２３３と
置き換え処理部２１６とを制御する構成となっている。

【００９６】この比較処理部２３２は、経過時間Ｔ_P が
閾値Ｔ_TH未満である旨の比較結果を得た場合に、入替え
処理部２３３による後述する入替え処理を起動し、この
入替え処理部２３３からの終了通知に応じて、再度、上
述した比較処理を繰り返し、経過時間Ｔ_P が閾値Ｔ_TH以
上である旨の比較結果を得たときに、置き換え処理部２
１６による置き換え処理を起動すればよい。

【００９７】また、入替え処理部２３３は、上述した比
較処理部２３２からの指示に応じて、ＬＲＵキュー３１
４ＬＲＵキュー３１４の末尾に登録されたセグメントの
パージ優先順位を下げるように、登録序列の入替え処理
を行えばよい。例えば、入替え処理部２３３は、単純
に、該当するセグメントの情報をＬＲＵキュー３１４の
先頭に登録しなおせばよい。

【００９８】このように、比較処理部２３２による比較
結果に応じて、入替え処理部２３３がＬＲＵキュー３１
４における登録序列の入替え処理を行うことにより、請
求項６で述べた第２の順位操作手段１３２の機能を実現
し、キャッシュメモリ１０３における置き換え優先順位
を変更することができる。この入替え処理により、アク
セスグループ毎のアクセス履歴をそのアクセスグループ
に属するアクセス単位の置き換え優先順位に反映するこ
とができる。

【００９９】したがって、置き換え処理部２１６は、経
過時間Ｔ_P が閾値Ｔ_TH以上である旨の比較結果の入力に
応じて、従来と同様にして、ＬＲＵキュー３１４の末尾
に登録されたセグメントをパージしてこのセグメントを
解放すればよい。これにより、アクセスグループ毎のア
クセス履歴を考慮して、キャッシュメモリ１０３の置き
換え処理を実行することができる。

【０１００】発明が解決しようとする課題の項で述べた
ように、データの一般的な統計的な性質から、長期間ア
クセスされていないアクセス単位であっても、その付近
のデータがアクセスされた場合には、近い将来にアクセ
スされる可能性が高くなることが予想できる。したがっ
て、上述したようにして、アクセスグループ毎のアクセ
ス履歴を考慮して置き換え優先順位を変更することによ
り、このようなアクセスされる可能性の高いデータのパ
ージを防ぐことができ、データの統計的な性質を利用し
て、ヒット率を向上することが可能となる。

【０１０１】また、各データに対するアクセスの周期性
を考慮して、置き換えの優先順位を変更することも可能
である。図１３に、請求項７のキャッシュ制御装置を適
用した計算機システムの実施例構成図を示す。図１３に
おいて、キャッシュ制御装置２１０は、図１１に示した
グループ管理テーブル２３１と比較処理部２３２とに代
えて時間管理テーブル２４１と判定処理部２４２とをそ
れぞれ備え、この判定処理部２４２が時間管理テーブル
２４１を用いて優先順位の変更の要否を判定し、この判
定結果に応じて、入替え処理部２２３がＬＲＵキュー３
１４の入替え処理を行うことにより、置き換え処理部２
１６による置き換え処理を操作する構成となっている。

【０１０２】上述した時間管理テーブル２４１は、第２
の履歴収集手段１３３に相当するものであり、例えば、
図１４に示すように、ＬＲＵキュー３１４に登録された
各セグメントに対応して、最終アクセス時刻Ｔ_Liとアク
セス間隔τ_i とを格納する構成となっている。また、図
１３に示すように、キャッシュ管理部２１３に周期算出
手段１３４に相当する周期算出部２４３を備えて構成
し、この周期算出部２４３が、ヒット判定結果と時間管
理テーブル２４１の内容とに基づいて、時間管理テーブ
ル２４１の内容の更新処理を行う構成となっている。

【０１０３】この周期算出部２４３は、ｉ番目のセグメ
ントがアクセスされたときに、該当する最終アクセス時
刻Ｔ_Liを時間管理テーブル２４１から読み出して直前ア
クセス時刻Ｔ_Oiとして保持するとともに、新しい最終ア
クセス時刻Ｔ_Liとして現在の時刻を時間管理テーブル２
４１に格納し、この新しい最終アクセス時刻Ｔ_Liと直前
アクセス時刻Ｔ_Oiとからアクセス間隔τ_i を算出して、
時間管理テーブル２４１の該当するセグメントのアクセ
ス間隔として格納する構成とすればよい。

【０１０４】また、判定処理部２４２は、キャッシュメ
モリ１０３の置き換え処理を行う際に、まず、時間管理
テーブル２４１を参照し、ＬＲＵキュー３１４の末尾に
登録されたセグメントに対応する最終アクセス時刻Ｔ_L
とアクセス間隔τとを読み出す。次に、判定処理部２４
２は、最終アクセス時刻Ｔ_L からの経過時間Ｔ_p を求
め、この経過時間Ｔ_p とアクセス間隔τとの差δを所定
の閾値δ_thと比較して、この比較結果に基づいて入替え
処理が必要であるか否かを判定する。

【０１０５】ここで、閾値δ_thはアクセス間隔τに比べ
て十分に短い時間としておけばよく、例えば、アクセス
間隔τに適切な定数αを乗じて求めればよい。また、判
定処理部２４２は、上述した差δが閾値δ_thよりも小さ
い場合に、該当するデータが近い将来にアクセスされる
可能性が高いと判断し、優先順位の入替え処理が必要で
ある旨の判定結果を出力し、入替え処理部２３３に入替
え処理の実行を指示する。一方、上述した差δが閾値δ
_th以上である場合に、該当するデータが近い将来にアク
セスされる可能性は低いと判断し、置き換え処理部２１
６にパージ処理の実行を指示すればよい。この場合は、
あるデータが置き換え処理の対象となった際に、上述し
た判定処理を行うことにより、対応するアクセス間隔τ
から予想される次回のアクセス時刻が近づいているデー
タをパージの対象から外すことができる。

【０１０６】すなわち、判定処理部２４２による判定結
果に応じて入替え処理部２３３が動作することにより、
請求項７で述べた第３の順位操作手段１３５の機能を果
たし、各データに対するアクセスの周期性を考慮して、
置き換えの優先順位を変更することができる。これによ
り、特定のデータが周期的にアクセスされるような場合
に、このデータがパージされることを確実に防ぐことが
でき、データの統計的な性質を利用して、キャッシュメ
モリ１０３のヒット率を向上することができる。

【０１０７】ところで、データの統計的な性質を利用す
れば、過去にアクセスされたデータから次にアクセスさ
れるデータをある程度予測することができ、このように
して予測したデータをあらかじめステージングしておく
ことにより、より高いヒット率を期待することができ
る。図１５に、請求項８のキャッシュ制御装置を適用し
た計算機システムの実施例構成図を示す。

【０１０８】図１５において、キャッシュ制御装置２１
０は、図１９に示した従来のキャッシュ制御装置に、ア
クセス管理テーブル２５１と予測処理部２５２とを付加
し、アクセス管理テーブル２５１がキャッシュ管理部２
１３から収集したアクセス情報に基づいて、予測処理部
２５２がアクセスされる可能性の高いデータを予測し
て、置き換え処理部２１６に置き換え処理に供する構成
となっている。

【０１０９】上述したアクセス管理テーブル２５１は、
分布情報収集手段１４１および第３の履歴収集手段１４
２に相当するものであり、各アクセス単位がキャッシュ
メモリ１０３に格納されているか否かと、キャッシュメ
モリ１０３に格納されている場合については最後にアク
セスされた時刻とをアクセス情報として格納する構成と
なっている。

【０１１０】このアクセス管理テーブル２５１は、例え
ば、図１６に示すように、シリンダごとにアクセス単位
を分類し、そのシリンダに属する各トラックに対応する
アクセス情報を格納する構成とすればよい。この場合
に、アクセス管理テーブル２５１は、ヒット判定部２１
４を介して、アクセス要求がヒットしたセグメントを示
す識別情報と時刻とをアクセス情報として受け取り、該
当するトラックに対応して、キャッシュメモリ１０３に
格納されている旨の情報（図１６において丸印を付して
示した）とアクセス時刻とを格納すればよい。また、置
き換え処理部２１６を介して、キャッシュメモリ１０３
の置き換え処理に伴ってパージされたセグメントおよび
新たに書き込まれたセグメントに関する情報を受け取
り、それぞれ対応するトラックのアクセス情報を更新す
ればよい。

【０１１１】また、図１５に示した予測処理部２５２に
おいて、検索処理部２５３は、アクセス管理テーブル２
５１に格納された各アクセス単位に対応するアクセス時
刻を参照して、最近のｋ回のアクセスの対象となったア
クセス単位を検索し、その検索結果を分布判定部２５４
に送出する構成となっている。この検索結果の入力に応
じて、分布判定部２５４が、検索結果で示されたアクセ
ス単位を例えばシリンダごとに分類し、最近のアクセス
が集中して分布しているシリンダを特定することができ
る。

【０１１２】このようにして、検索処理部２５３と分布
判定部２５４とによって、第２の特徴評価手段１４３の
機能を実現し、仮想計算機３０１によってアクセスされ
たデータの分布の変化に現れた特徴を特定のシリンダへ
のアクセスの集中として捉えて評価することができる。
上述した分布判定手段２５４で特定されたシリンダを示
す識別情報の入力に応じて、選択処理部２５５は、上述
したアクセス管理テーブル２５１の該当するシリンダに
対応するアクセス情報を参照し、このシリンダに属する
トラックのうちまだキャッシュメモリ１０３に格納され
ていないトラックを検出し、該当するトラックをステー
ジングの対象として選択する構成となっている。

【０１１３】ここで、分布判定部２５４で特定されたシ
リンダには、最近アクセスされたトラックが集中して分
布しているから、情報の一般的な統計的性質から考える
と、このシリンダに属するトラックのうちまだアクセス
されていないものは、近い将来にアクセスされる可能性
が非常に高いと言える。すなわち、選択処理部２５５
は、該当するトラックを検出することにより、予測手段
１４４の機能を実現し、近い将来にアクセスされる可能
性の高いアクセス単位を予測して、アクセス要求に先立
って、置き換え処理部２１６に指定することができる。

【０１１４】これに応じて、置き換え処理部２１６がス
テージング処理を行うことにより、近い将来にアクセス
される可能性が高いと予測されるデータを予めステージ
ングする処理（以下、プレステージング処理と称する）
を行うことが可能となる。このようにして、データの統
計的な性質を利用してプレステージング処理を行うこと
により、仮想計算機３０１₁ 〜３０１_n からのアクセス
要求に先立って必要とされるデータをキャッシュメモリ
１０３に格納しておくことが可能となるから、全体的に
ヒット率を向上することが可能となる。

【０１１５】ここで、上述したプレステージング処理
は、アクセス要求の合間の空き時間を利用して実行すれ
ばよい。また、幾つかのシリンダに属するトラックが順
次にアクセスされている場合には、次にアクセスされる
トラックを非常に高い精度で予測することができる。以
下、アクセス履歴が上述したようなシーケンシャルな特
徴を持っていることを利用して、プレステージング処理
を行う方法について説明する。

【０１１６】図１７に、請求項８のキャッシュ制御装置
を適用した計算機システムの別実施例構成図を示す。図
１７において、キャッシュ制御装置２１０の予測処理部
２５２は、図１５に示した検索処理部２５３，分布判定
部２５４，選択処理部２５５に代えて、ソート処理部２
５６とシーケンス判定部２５７とを備えて構成されてい
る。

【０１１７】このソート処理部２５６は、アクセス管理
テーブル２５１の各アクセス単位について格納された最
終アクセス時刻を参照して、この最終アクセス時刻の順
序で各アクセス単位を並べ替えるソート処理を行い、こ
のソート結果をシーケンス判定部２５７に送出する構成
となっている。このソート結果に基づいて、シーケンス
判定部２５７は、最近のアクセスがシリンダやトラック
に関してシーケンシャルとなっているか否かを判定する
構成となっている。

【０１１８】このとき、シーケンス判定部２５７は、例
えば、最近のｋ回のアクセスについてのソート結果に着
目し、アクセスの対象となったアクセス単位がシリンダ
あるいはトラックの順序に従って並んでいるか否かに基
づいて、シーケンシャルであるか否かを判定すればよ
い。ここで、幾つかのトラックがシーケンシャルにアク
セスされている場合は、それまでにアクセスされたトラ
ックの順序に基づいて、次にアクセスされるトラックを
簡単に予測することができる。

【０１１９】つまり、最近のアクセス履歴がシーケンシ
ャルであれば、最後にアクセスされたトラックに続くト
ラックが、次にアクセスされると予想することができ
る。したがって、上述したように、ソート処理部２５６
とシーケンス判定部２５７とが動作することにより、最
近のアクセス履歴の特徴を評価して、次にアクセスされ
るアクセス単位を予測することができる。すなわち、ソ
ート処理部２５６とシーケンス判定部２５７とにより、
第２の特徴評価手段１４３と予測手段１４４との機能を
果たすことができる。

【０１２０】この場合に、シーケンス判定部２５７は、
最近のアクセスがシーケンシャルであると判定したとき
に、最後にアクセスされたトラックに続くトラックを指
定して、置き換え処理部２１６に置き換え処理を指示す
ればよい。これにより、次にアクセスされると極めて高
い精度で予測されるアクセス単位を対象としたプレステ
ージング処理を行うことができる。すなわち、データの
統計的な性質に由来するアクセス履歴の特徴を利用し
て、効率よくプレステージング処理を行うことが可能と
なり、キャッシュメモリ１０３のヒット率を向上するこ
とができる。

【０１２１】また、上述したようなアクセス履歴に関す
る情報を、通常の置き換え処理の際に利用することもで
きる。ここで、データの種類によって、データのまとま
りの大きさが異なるから、あるアクセス単位がアクセス
されたこととその近隣のアクセス単位がアクセスされる
頻度の増大との間の相関関係の強さや相関関係の及ぶ範
囲の大きさは、データの種類によってそれぞれ違ってい
る。

【０１２２】このような特徴を評価して、指定されたア
クセス単位とともにステージングすべきデータの大きさ
（以下、ステージングサイズと称する）を適切に決定す
ることができれば、データのまとまりの大きさに応じ
て、効率のよいステージング処理を行うことができる。
図１８に、請求項９のキャッシュ制御装置を適用した計
算機システムの実施例構成図を示す。

【０１２３】図１８において、キャッシュ制御装置２１
０は、図１５に示したアクセス管理テーブル２５１とス
テージングサイズ決定部２６０とを備え、アクセス管理
テーブル２５１に収集されたアクセス情報に基づいて、
ステージングサイズ決定部２６０が適切なステージング
サイズを決定し、置き換え処理部２１６による置き換え
処理に供する構成となっている。

【０１２４】図１８に示したステージングサイズ決定部
２６０において、連続長カウンタ２６１は、上述したア
クセス管理テーブル２５１のキャッシュメモリ１０３に
格納されているか否かを示す情報を参照し、キャッシュ
メモリ１０３に格納されているアクセス単位がハードデ
ィスク装置３２０の記憶媒体において連続して分布して
いる長さを連続長としてそれぞれ計数する構成となって
いる。

【０１２５】また、積算処理部２６２は、上述した連続
長カウンタ２６１による計数結果の出現回数を連続長ご
とに積算し、連続長の出現頻度分布を求める構成となっ
ている。このように、アクセス管理テーブル２５１に蓄
積された情報に基づいて、連続長カウンタ２６１と積算
処理部２６２とが動作し、アクセス情報を記憶媒体にお
ける連続長に着目して分析することにより、関連評価手
段１４５の機能を実現し、データの統計的な性質に由来
するデータのまとまりの大きさを評価することができ
る。

【０１２６】また、図１８において、最大値検出部２６
３は、データ長推定手段１４６に相当するものであり、
上述した積算処理部２６２によって得られた連続長の出
現頻度分布から、最大の出現頻度を持つ連続長を検出
し、この連続長分のアクセス単位の集まりをステージン
グサイズとして置き換え処理部２１６に指示する構成と
なっている。

【０１２７】この場合は、データの統計的な性質に由来
するデータ相互の関連性の強さに応じてステージングサ
イズが決定されるから、アクセス要求に応じて、ステー
ジング処理を行う際に、指定されたアクセス単位ととも
に、そのアクセス単位との結びつきが強いデータを一括
してステージングすることができる。これにより、特
に、アクセス単位間の関連性が強い場合は、ステージン
グの回数を大幅に削減することが可能となるから、低速
のハードディスク装置３２０に対するアクセス処理に要
する時間を大幅に削減し、計算機システムとしてのレス
ポンス時間を大幅に向上することができる。

【０１２８】

【発明の効果】以上説明したように請求項１の発明は、
複数の処理手段のそれぞれに対応する占有領域を設ける
ことによって、各処理手段に対して最低限度のヒット率
を保証するとともに、これらの処理手段がそれぞれのア
クセス頻度に応じて共有領域を共有することにより、ア
クセス頻度の高い処理手段のヒット率の向上を図ること
ができるから、各処理手段のアクセス頻度のばらつきを
考慮して、計算機システム全体としてのレスポンスを向
上することが期待できる。

【０１２９】更に、アクセスパターンの特徴や期待され
る平均レスポンス時間に応じて、各占有領域および共有
領域の分割の仕方を変更することにより、各処理手段に
適切な大きさの占有領域を割り当てることが可能とな
り、キャッシュメモリをより効率よく共有して、ヒット
率の向上を図ることができる。また、請求項６および請
求項７の発明は、アクセス履歴に関する情報に基づい
て、置き換え優先順位を操作することにより、無駄なパ
ージ処理を防ぐことができ、データの統計的な性質を利
用してヒット率を向上し、計算機システム全体としての
レスポンスを向上することができる。

【０１３０】一方、請求項８の発明は、アクセス履歴に
関する情報に基づいて、近い将来にアクセスされる可能
性の高いアクセス単位を予測することができるから、空
き時間を利用して、予測されたデータをプレステージン
グしておくことにより、キャッシュメモリのヒット率を
大幅に向上することが可能となる。また、請求項９の発
明は、アクセス履歴に関する情報に基づいて、処理手段
か扱っているデータ相互の関連性を評価し、この評価結
果に基づいて、ステージングサイズを決定することによ
り、関連の強いデータを一括してステージングすること
が可能となり、キャッシュメモリ内のデータを効率よく
置き換えて、キャッシュメモリのヒット率を向上するこ
とができる。

【図面の簡単な説明】

【図１】請求項１ないし請求項３のキャッシュ制御装置
の原理ブロック図である。

【図２】請求項４および請求項５のキャッシュ制御装置
の要部構成を示す図である。

【図３】請求項６および請求項７のキャッシュ制御装置
の原理ブロック図である。

【図４】請求項８および請求項９のキャッシュ制御装置
の原理ブロック図である。

【図５】請求項１のキャッシュ制御装置を適用した計算
機システムの実施例構成図である。

【図６】キャッシュ管理動作を表す流れ図である。

【図７】請求項３のキャッシュ制御装置を適用した計算
機システムの実施例構成図である。

【図８】請求項４のキャッシュ制御装置を適用した計算
機システムの実施例構成図である。

【図９】ヒット分布の特徴を説明する図である。

【図１０】請求項５のキャッシュ制御装置を適用した計
算機システムの実施例構成図である。

【図１１】請求項６のキャッシュ制御装置を適用した計
算機システムの実施例構成図である。

【図１２】グループ管理テーブルの説明図である。

【図１３】請求項７のキャッシュ制御装置を適用した計
算機システムの実施例構成図である。

【図１４】時間管理テーブルの説明図である。

【図１５】請求項８のキャッシュ制御装置を適用した計
算機システムの実施例構成図である。

【図１６】アクセス管理テーブルの説明図である。

【図１７】請求項８のキャッシュ制御装置を適用した計
算機システムの別実施例構成図である。

【図１８】請求項９のキャッシュ制御装置を適用した計
算機システムの実施例構成図である。

【図１９】従来のキャッシュ制御装置を備えた計算機シ
ステムの構成例を示す図である。

【符号の説明】

１０１ 処理手段 １０２ 記憶装置 １０３ キャッシュメモリ １０４，１１４ 検索手段 １０５，１１６ 置き換え手段 １１１ 占有領域 １１２ 共有領域 １１３ 配分手段 １１５ 第１の順位操作手段 １１７ ローカル待ち行列 １１８ 共有待ち行列 １２１ 変更手段 １２２ 収集手段 １２３ 第１の特徴評価手段 １２４ 第１の配分比率決定手段 １２５ レスポンス評価手段 １２６ 第２の配分比率決定手段 １３１ 第１の履歴情報収集手段 １３２ 第２の順位操作手段 １３３ 第２の履歴情報収集手段 １３４ 周期算出手段 １３５ 第３の順位操作手段 １４１ 分布情報収集手段 １４２ 第３の履歴情報収集手段 １４３ 第２の特徴評価手段 １４４ 予測手段 １４５ 関連評価手段 １４６ データ長推定手段 ２１０，３１３ キャッシュ制御装置 ２１１ ローカルＬＲＵキュー ２１２ 共有ＬＲＵキュー ２１３ キャッシュ管理部 ２１４ ヒット判定部 ２１５ アクセス処理部 ２１６ 置き換え処理部 ２１７ サイズレジスタ ２１８ サイズ変更部 ２２１ ヒット分布計測部 ２２２ アクセスカウンタ ２２３ ヒット率算出部 ２２４ ヒット分布評価部 ２２５ サイズ決定部 ２２６ レスポンス算出部 ２３１ グループ管理テーブル ２３２ 比較処理部 ２３３ 入替え処理部 ２４１ 時間管理テーブル ２４２ 判定処理部 ２４３ 周期算出部 ２５１ アクセス管理テーブル ２５２ 予測処理部 ２５３ 検索処理部 ２５４ 分布判定部 ２５５ 選択処理部 ２５６ ソート処理部 ２５７ シーケンス判定部 ２６０ ステージングサイズ決定部 ２６１ 連続長カウンタ ２６２ 積算処理部 ２６３ 最大値検出部 ３０１ 仮想計算機（ＶＭ） ３１０ ディスク制御装置 ３１１ ディスク制御部 ３１２ ディスクキャッシュ ３１４ ＬＲＵキュー ３２０ ハードディスク装置

Claims (9)

【特許請求の範囲】
1. 【請求項１】 計算機システムに備えられた複数の処理
   手段から記憶装置へのアクセス要求に応じて、キャッシ
   ュメモリを制御するキャッシュ制御装置において、 前記複数の処理手段のそれぞれに対応する複数の占有領
   域および前記複数の処理手段が共有して利用する共有領
   域に、前記キャッシュメモリの記憶領域を配分する配分
   手段と、 前記複数の処理手段のそれぞれから入力されるアクセス
   要求に応じて、対応する前記占有領域と前記共有領域と
   に対して該当するデータの検索処理を行う検索手段と、 検索結果に応じて、該当する前記占有領域と前記共有領
   域とからなる領域に格納されたデータの置き換え優先順
   位を操作する第１の順位操作手段と、 該当するデータが存在しない旨の検索結果の入力に応じ
   て、前記該当する占有領域と前記共有領域とからなる連
   続した領域における置き換え優先順位に従ってデータの
   置き換え処理を行う置き換え手段とを備えたことを特徴
   とするキャッシュ制御装置。
2. 【請求項２】 請求項１に記載のキャッシュ制御装置に
   おいて、 配分手段は、 対応する占有領域を構成する各セグメントに格納された
   データを特定するアドレス情報を格納する複数のローカ
   ル待ち行列と、 共有領域を構成する各セグメントに格納されたデータを
   特定するアドレス情報を格納する共有待ち行列とを備え
   た構成であり、 第１の順位操作手段は、該当する前記ローカル待ち行列
   と前記共有待ち行列とにおける各セグメントのアドレス
   情報の格納順序を操作することにより、置き換え優先順
   位の操作を行う構成であり、 置き換え処理手段は、該当する前記ローカル待ち行列と
   前記共有待ち行列とを参照して、置き換え処理を行う構
   成であることを特徴とするキャッシュ制御装置。
3. 【請求項３】 請求項２に記載のキャッシュ制御装置に
   おいて、 複数のローカル待ち行列および共有待ち行列の長さをそ
   れぞれ変更する変更手段を備えたことを特徴とするキャ
   ッシュ制御装置。
4. 【請求項４】 請求項１に記載のキャッシュ制御装置に
   おいて、 複数の処理手段からのアクセス要求と検索手段による検
   索結果とに基づいて、前記各処理手段に対応する占有領
   域における置き換え優先順位とヒット判定の出現頻度と
   の関係に関するヒット分布情報をそれぞれ収集する収集
   手段と、 前記収集手段によって収集されたヒット分布情報に基づ
   いて、前記各処理手段によるアクセスの特徴をそれぞれ
   評価する第１の特徴評価手段と、 前記第１の特徴評価手段による評価結果に基づいて、前
   記複数の占有領域に対するキャッシュメモリの記憶領域
   の配分比率を決定し、配分手段に指示する第１の配分比
   率決定手段とを備えたことを特徴とするキャッシュ制御
   装置。
5. 【請求項５】 請求項１に記載のキャッシュ制御装置に
   おいて、 複数の処理手段からのアクセス要求と検索手段による検
   索結果とに基づいて、前記各処理手段に対応する占有領
   域における置き換え優先順位とヒット判定の出現頻度と
   の関係に関するヒット分布情報をそれぞれ収集する収集
   手段と、 アクセス要求がキャッシュメモリにヒットした場合のレ
   スポンス時間Thとミスした場合のレスポンス時間Tmと、
   前記収集手段によって収集されたヒット分布情報とに基
   づいて、前記複数の占有領域に対する配分比率を様々に
   変えたときの平均レスポンス時間を評価するレスポンス
   評価手段と、 前記平均レスポンス時間の評価結果に基づいて、前記複
   数の占有領域に対するキャッシュメモリの記憶領域の配
   分比率を決定し、配分手段に指示する第２の配分比率決
   定手段とを備えたことを特徴とするキャッシュ制御装
   置。
6. 【請求項６】 少なくとも１つの処理手段から記憶装置
   へのアクセス要求に応じて、検索手段によってキャッシ
   ュメモリを検索し、その検索結果に応じて、置き換え手
   段が前記キャッシュメモリのデータのそれぞれに設定さ
   れた置き換え優先順位に従って置き換え処理を行うキャ
   ッシュ制御装置において、 前記処理手段が前記記憶装置をアクセスする際のアクセ
   ス単位を所定数まとめたアクセスグループごとに、各ア
   クセスグループに属するアクセス単位のいずれかがアク
   セスされた最新の時刻を示す履歴情報を収集する第１の
   アクセス履歴収集手段と、 前記アクセスグループ毎の履歴情報に基づいて、キャッ
   シュメモリ内のデータの置き換え優先順位を操作する第
   ２の順位操作手段とを備えたことを特徴とするキャッシ
   ュ制御装置。
7. 【請求項７】 処理手段から記憶装置へのアクセス要求
   に応じて、検索手段によってキャッシュメモリを検索
   し、その検索結果に応じて、置き換え手段が前記キャッ
   シュメモリのデータのそれぞれに設定された置き換え優
   先順位に従って置き換え処理を行うキャッシュ制御装置
   において、 入力される前記アクセス要求に基づいて、前記キャッシ
   ュメモリに格納された各アクセス単位に対するアクセス
   時刻に関する情報を履歴情報として収集する第２のアク
   セス履歴収集手段と、 前記アクセス時刻に関する情報に基づいて、各アクセス
   単位についてのアクセス周期を算出する周期算出手段
   と、 前記第２のアクセス履歴収集手段によって収集された履
   歴情報と各アクセス単位に対応するアクセス周期とに基
   づいて、キャッシュメモリ内のデータの置き換え優先順
   位を操作する第３の順位操作手段とを備えたことを特徴
   とするキャッシュ制御装置。
8. 【請求項８】 処理手段から記憶装置へのアクセス要求
   に応じて、検索手段によってキャッシュメモリを検索
   し、その検索結果に応じて、置き換え手段が前記キャッ
   シュメモリのデータの置き換え処理を行うキャッシュ制
   御装置において、 前記アクセス要求と前記検索手段による検索結果とに基
   づいて、前記キャッシュメモリに格納されたアクセス単
   位の前記記憶装置における分布に関する分布情報を収集
   する分布情報収集手段と、 前記検索手段による検索結果に基づいて、前記各アクセ
   ス単位に対するアクセス時刻に関する情報をアクセス履
   歴情報として収集する第３のアクセス履歴収集手段と、 前記分布情報と前記アクセス履歴情報とに基づいて、前
   記処理手段がアクセスしたデータの前記記憶装置におけ
   る分布の時間的な変化に現れる特徴を評価する特徴評価
   手段と、 前記特徴評価手段による評価結果に基づいて、近い将来
   にアクセスされる可能性の高いアクセス単位を予測し
   て、前記置き換え手段によるデータの置き換え処理に供
   する予測手段とを備えたことを特徴とするキャッシュ制
   御装置
9. 【請求項９】 処理手段から記憶装置へのアクセス要求
   に応じて、検索手段によってキャッシュメモリを検索
   し、その検索結果に応じて、置き換え手段が前記キャッ
   シュメモリのデータの置き換え処理を行うキャッシュ制
   御装置において、 アクセス要求と前記検索手段による検索結果とに基づい
   て、前記キャッシュメモリに格納されたアクセス単位の
   前記記憶装置における分布に関する分布情報を収集する
   分布収集手段と、 前記分布情報に基づいて、各アクセス単位とその付近の
   アクセス単位との関連性の強さを評価する関連評価手段
   と、 前記関連評価手段による評価結果に応じて、関連したデ
   ータの連なりの長さを推定し、前記置き換え手段による
   データの置き換え処理に供するデータ長推定手段とを備
   えたことを特徴とするキャッシュ制御装置。