JPH10124387A

JPH10124387A - キャッシュ制御装置および方法

Info

Publication number: JPH10124387A
Application number: JP8297597A
Authority: JP
Inventors: Reiji Fujikawa; 玲二藤川
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 1996-10-18
Filing date: 1996-10-18
Publication date: 1998-05-15

Abstract

(57)【要約】【課題】非連続アクセスにおいても先読みを可能とする
キャッシュ制御装置の提供。【解決手段】コンピュータ１からコントローラ２が、読
み取り命令を受け取ると、キャッシュメモリ３及び補助
記憶装置５から情報を受け取るとともに、アクセス履歴
蓄積メモリ４に蓄積し、コントローラ２はアクセス履歴
から同一パターンのアクセスを検索し、次の読み取り位
置を予測し、キャッシュメモリへの先読みを実行する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、情報処理装置のキ
ャッシュ制御装置及びキャッシュ制御方法に関し、特に
ランダムアクセスの先読みキャッシュ制御装置及び方法
に関する。

【０００２】

【従来の技術】従来、この種のキャッシュ制御装置で
は、読み取りについては、連続したデータを補助記憶装
置より、予め大量に読み出し、読み出しデータを一定時
間保持（キャッシング）する（これを「先読み」とい
う）ことにより、以後の読み取り要求については、補助
記憶装置から読み出すことなく、該当するデータをキャ
ッシュから要求元に返すことにより、システム全体の応
答速度を向上させている。

【０００３】また、書き込みデータについても、キャッ
シュ制御装置で一定時間保持することにより、再アクセ
スが発生した場合の応答速度を向上させている。

【０００４】

【発明が解決しようとする課題】しかしながら、従来の
キャッシュ制御装置は下記記載の問題点を有している。

【０００５】（１）第１の問題点は、連続データの読み
出し（すなわちシーケンシャル・リード）以外では、キ
ャッシュ制御装置は応答速度の向上に有効に働かない、
ということである。

【０００６】その理由は、実際の補助記憶装置において
は、辞書やデータベースの読み取りなどで、任意の位置
の読み出し（ランダム・リード）が発生するが、ランダ
ム・リードの場合には、キャッシュメモリにおいて、先
読みデータの大部分は有効に利用されないので、読み出
し要求の度に毎回補助記憶装置の読み出しを行う必要が
発生し、ディスク等の補助記憶装置においては位置決め
動作等が必要とされ、逆に性能低下を招くことがあるた
めである。

【０００７】（２）第２の問題点は、大量のキャッシュ
用エリアが必要となる、ということである。

【０００８】その理由は、上記第１の問題点を回避する
ためには、大量のデータを保持できるるように、大量の
キャッシュエリア（メモリ容量）を用意することが必要
とされるためである。

【０００９】しかも、この場合、補助記憶装置のどの部
分にあるのかという、位置情報も付加されるため、更
に、大容量のキャッシュ領域が必要となる。

【００１０】（３）第３の問題点は、大量のキャッシュ
メモリ領域を確保した場合、キャッシュ上に、情報があ
るのかどうか検索する処理に要する時間が長くなる、と
いうことである。しかも、ランダム・リードの度にキャ
ッシュミスが発生して補助記憶装置から読み出すことに
なった場合、この検索処理に要した時間は、全くの無駄
となる。

【００１１】したがって、本発明は、上記問題点に鑑み
てなされたものであって、その目的は、非連続部分のア
クセスの先読みを可能としたキャッシュ制御装置を提供
することにある。

【００１２】本発明の他の目的は、不要な連続した先読
みを停止させることにより、応答速度の向上を図るキャ
ッシュ制御装置及び方法を提供することにある。

【００１３】

【課題を解決するための手段】前記目的を達成するた
め、本発明のキャッシュ制御装置は、過去の読み取り命
令および書き込み命令の目標位置を蓄積するアクセス履
歴メモリと、読み取り命令から次のランダムアクセス位
置を予測する予測手段と、前記予測手段の予測に従いキ
ャッシュメモリもしくはデバイスにアクセスを行う制御
手段と、を備えたことを特徴とする。

【００１４】また、本発明のキャッシュ制御方法は、過
去の読み取り命令および書き込み命令の目標位置を蓄積
し、読み取り命令から次のランダムアクセス位置を予測
し、予測データを用意する、ことを特徴とする。

【００１５】

【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して詳細に説明する。

【００１６】図１は、本発明の実施の形態の構成をブロ
ック図にて示したものである。図１を参照すると、本発
明の実施の形態は、コンピュータ（不図示）とのインタ
ーフェース１と、プログラム制御により動作するコント
ローラ２と、既に読み込まれたデータや先読みされた情
報を一時的に蓄えるキャッシュメモリ３と、アクセスの
履歴を蓄積するアクセス履歴蓄積メモリ４と、実際に情
報を蓄積している、ディスク装置等の補助記憶装置５
と、を備えている。

【００１７】アクセス履歴管理メモリ４は、読み込み命
令の連続性、及び、次の非連続メモリへの読み込み命令
の順序が蓄積される。

【００１８】コントローラ２は、コンピュータから読み
取り命令を受け取ると、キャッシュメモリ３、補助記憶
装置５から情報を受け取るとともに、アクセス履歴蓄積
メモリ４に蓄積する。そして、アクセス履歴蓄積メモリ
４を参照して、同一パターンのアクセスを検索し、次の
ランダムアクセス位置を予測し、先読みを実行する。す
なわち、コントローラ２は、次の読み込みの位置の予測
に、過去のアクセス履歴を参照することにより、次の読
み込み位置を検索して、該読み込み位置がキャッシュメ
モリ３に存在しない場合には、コンピュータから命令が
到着する前に、予め補助記憶装置５から当該ブロックを
読み込み、これをキャッシュメモリ３に書き込んでおく
（すなわち先読みしておく）。

【００１９】図９は、この実施の形態におけるアクセス
履歴メモリ４の構成の一例を示した図である。

【００２０】図９を参照すると、アクセス履歴蓄積メモ
リ４は、メモリの内容として、一ブロックエントリが、
過去のアクセス位置６２と、連続アクセスが発生した場
合に使用される連続アクセス長さ６３と、その直後に非
連続アクセスが発生した場合に記録される、非連続アク
セス位置６４と、最近使用された（ヒット）状態を示す
使用マーク６５と、からなり、一つのフィールド（アド
レスフィールド）６６が一つのブロックエントリに対応
する。

【００２１】コントローラ２は、コンピュータからイン
タフェース１を介して受け取った命令の解釈を行い、該
命令が読み込み命令の場合には、キャッシュメモリ３に
問い合わせを行い、データがすでにキャッシュメモリ３
に保管されているか否かを調査し、保管されている場合
（キャッシュヒット時）には、当該キャッシュデータを
コンピュータへ返送し、保管されていない場合（キャッ
シュミス時）には、補助記憶装置５に対して該読み込み
命令の転送を行う。

【００２２】次に、コントローラ２は、アクセス履歴蓄
積メモリ４を参照して、前回のアクセス履歴にて、同様
な組み合わせがあるか否かを調査し、検索できない場合
には、アクセス履歴蓄積メモリ４に新規に登録を行う。

【００２３】また、コントローラ２は、アクセス履歴蓄
積メモリ４から、次に行われると思われる読み込みアク
セス位置を割り出し、補助記憶装置５に対して読み込み
命令を発行する。

【００２４】コンピュータからコントローラ２に書き込
み命令が送られてきた場合には、キャッシュメモリ３に
古いデータがあるか否かを調査し、古いデータがあれば
キャッシュメモリ３上のデータを無効化する。その後、
実際の書き込み命令を送信する。

【００２５】次に、図２から図８の流れ図を参照して、
本発明の実施の形態の動作について説明する。

【００２６】コンピュータから与えられた命令はインタ
フェース１を介してコントロール２に入力される。

【００２７】図２を参照して、コントローラ２は、はじ
めに命令の種類を調べる。すなわちステップ２０２で読
み込み命令であるか否かを判別し、読み込み命令でない
場合には、次のステップ２０３で書き込み命令であるか
否かを判別する。

【００２８】読み込み命令の場合には（ステップ２０２
のＹｅｓ）、さらに、読み取りデータがキャッシュメモ
リ３に格納済みであるか否かを調査し（ステップ２０
８）、格納済みの場合には（ステップ２０８のＹｅ
ｓ）、キャッシュメモリ３から当該データを読み取り
（ステップ２１２）、コンピュータに転送する（ステッ
プ２１３）。

【００２９】一方、読み取りデータがキャッシュメモリ
３に格納済みで無い場合には（ステップ２０８のＮ
ｏ）、コントローラ２は、読み取り命令を補助記憶装置
５に対して発行し（ステップ２０９）、補助記憶装置５
から読み取ったデータをコンピュータに転送し（ステッ
プ２１０）、該読み取ったデータをキャッシュメモリ３
に格納する（ステップ２１１）。続いてアクセスの検証
処理３０１へ進む。

【００３０】このアクセス検証処理３０１は、図３及び
図４に示すように、前回までに予測されたものであるか
どうか（すなわちキャッシュヒットしたか）を調査し
（ステップ３０２）、予想されものと一致した場合に
は、アクセス履歴蓄積メモリ４において、該当する予想
フィールド６６（図９参照）を検索し（ステップ３０
３）、検索された予想フィールドを検索ポインタ５９に
格納し（ステップ３０４）、使用マーク６５を「使用
中」に変更する（ステップ３０５）。なお、図３及び図
４は図面作成の都合で分図されたものである。

【００３１】一方、予測不可、もしくは予測はしていた
が一致しなかった場合には、前回と今回のアクセス位置
の違いが、連続アクセスか、あるいは、非連続アクセス
であるかの識別を行う（ステップ３０７）。

【００３２】前回と今回のアクセス位置の違いが非連続
アクセスである場合には、前々回と前回のアクセスが連
続アクセスであったかを識別し（図４のステップ３０
８）、連続であった場合には、アクセス履歴蓄積メモリ
４の現在の設定中ポインタ６０（図９参照）にて識別さ
れているフィールドの次の非連続アクセス位置６４に、
今回のアクセス位置を記録する（ステップ３０９）。

【００３３】ステップ３０８において、非連続であった
場合、新たに、アクセス履歴蓄積メモリ４の空き領域を
検索し、現在の設定中ポインタ６０（図９参照）を設定
する（ステップ３１０）。

【００３４】空き領域が無い場合、最後にヒットされた
領域を解放し、その領域をアクセス履歴蓄積メモリ４の
設定ポインタ６０（図９参照）に設定する。

【００３５】設定ポインタ６０が示しているフィールド
のアクセス位置６２に、今回のアクセス位置を記録する
（ステップ３１２）。

【００３６】ステップ３０７において、連続アクセスと
判断された場合には、前々回と前回のアクセス位置を比
較する（図４のステップ３１３）。

【００３７】ステップ３１３にて、比較の結果、連続し
ている場合には、アクセス履歴蓄積メモリ４において現
在の設定中ポインタ６０（図９参照）が示しているフィ
ールドの連続アクセス長さ６３を延長する（ステップ３
１４）。

【００３８】ステップ３１３にて、非連続と判断された
場合、新たにアクセス履歴蓄積メモリ４の空き領域を検
索し、現在の設定中ポインタ６０を設定する（ステップ
３１５）。

【００３９】空き領域が無い場合、最後にヒットされた
領域を解放し、その領域をアクセス履歴蓄積メモリ４の
設定ポインタ６０に設定する。

【００４０】設定ポインタ６０によって示されたフィー
ルドの連続アクセス長さ６３を設定する（ステップ３１
７）。

【００４１】次にアクセス予測処理４０１として、図５
及び図６に流れ図として示すような処理を行う。なお、
図５及び図６は図面作成の都合で分図されたものであ
る。

【００４２】始めに、現在の検索位置６１（図９参照）
を初期化し、設定中のポインタ６０（図９参照）の次の
フィールドを示すように設定する（ステップ４０２）。

【００４３】検索位置６１（図９参照）がアクセス履歴
蓄積メモリ４の範囲を越えたか否かをチェックし（ステ
ップ４０３）、越えている場合には、検索位置（図９の
６１）をアクセス履歴蓄積メモリ４の先頭に移動させる
（ステップ４０４）。

【００４４】そして、次の命令を受信したか否かの確認
を行い（ステップ４０５）、次の命令を入手していた場
合には（ステップ４０５のＹｅｓ）、直ちに終了させ
る。

【００４５】検索位置６１（図９参照）のフィールドに
おけるアクセス位置と、今回アクセスされた位置と、を
比較し、同じか否か、もしくは連続のアクセスの範囲内
にあるか否かを比較する（ステップ４０６）。

【００４６】ステップ４０６にて含まれない場合には、
カウンタ移動フェーズ６０１へ移行する。

【００４７】一方、含まれる場合は、検索位置６１（図
９参照）のフィールドの連続アクセスの値を確認する
（図６のステップ４０７）。

【００４８】ステップ４０７において、連続アクセスが
実行されていない、もしくは、連続アクセスの残りが無
い（残り値＝０）と判断された場合、同一フィールドに
て、非連続アクセス６４（図９参照）がなされたか否か
を確認する（ステップ４０８）。

【００４９】ステップ４０８にて、連続アクセスがなさ
れたことが確認された場合には、非連続アクセス位置６
４を予想位置として（ステップ４０９）、予想読み取り
フェーズ５０１に移行する。

【００５０】ステップ４０８にて、確認できなかった場
合には、次の検索を行うため、カウンタ移動フェーズ６
０１に移行する。

【００５１】また、ステップ４０７において、連続アク
セスが認められた場合には、残りの量が素早く読み出せ
る範囲内であるか否かを調査するため、残りの連続アク
セス長さと、トラックあたりのセクタ数と、を比較し
（ステップ４１０）、素早くアクセスできる範囲内であ
ると判断された場合には、一気に読み出すように、予想
範囲を設定し（ステップ４１２）、一方、素早く読み出
せないと判断された場合は、範囲を限定して、読み出す
ように設定し（ステップ４１１）、予想読み取りフェー
ズ５０１に移行する。

【００５２】図７を参照して、予想読み取りフェーズ５
０１においては、すでに予想範囲内のデータがキャッシ
ュメモリ３に読み込まれているか否かの確認を行い（ス
テップ５０２）、読み込まれていない場合には（ステッ
プ５０２のＹｅｓ）、キャッシュメモリ３を一部解放し
たうえ（ステップ５０３）、キャッシュメモリ３に無い
予想範囲データの読み込み命令を発行し（ステップ５０
４）、キャッシュエリアに格納する（ステップ５０
４）。

【００５３】その後、キャッシュデータがすぐに消去さ
れないように、「有効」（Ｖａｌｉｄ）とし（ステップ
５０６）、カウンタ移動フェーズ６０１に移行する。

【００５４】図８を参照して、カウンタ移動フェーズ６
０１では、アクセス履歴蓄積メモリ４の検索位置６１
（図９参照）を一つ移動させ（ステップ６０２）、この
検索位置６１がアクセス履歴蓄積メモリ４を越えたか否
かの確認を行い（ステップ６０３）、検索位置６１がア
クセス履歴メモリ４の範囲を越えた場合には、検索位置
６１をアクセス履歴蓄積メモリ４の先頭に移動させる
（ステップ６０４）。

【００５５】探索が終了した場合（ステップ６０５）、
処理を終了させ、探索が終了していない場合は、次の検
索を続ける（ステップ４２０）。

【００５６】次に、本発明の実施の形態の作用効果につ
いて説明する。

【００５７】本発明の実施の形態においては、コンピュ
ータから読み取り命令が送られてきて、その命令を実行
した後、前後のアクセスの関連性を保持しているため、
同じアクセスパターンが発生した場合、非連続アクセ
ス、連続アクセスについて、精度の高いアクセス予想が
行われ、次に必要だと予想されるデータを事前にキャッ
シュメモリに用意することができ、アクセス速度の向上
を図ることができる。

【００５８】次に、本発明の第２の実施形態について説
明する。

【００５９】図９に示したアクセス履歴蓄積メモリ４の
構造をみると、ディスクアクセス（セクタ）単位に保管
されているが、本発明の第２の実施の形態においては、
これをコンピュータの実際のディスクアクセス単位に変
更し、数セクタ毎にアクセス位置や、連続アクセス長
さ、次の非連続アクセス位置を保管する。

【００６０】また、補助記憶装置５に読み取り命令を発
行する時に、単位の変更を行う。

【００６１】この実施の形態では、前記第１の実施の形
態に加えて、数セクタを同時に読み取ることができるこ
とになるため、擬似的な先読み機能を与え、さらにアク
セス速度の向上を達成することができる。

【００６２】

【実施例】次に、上記した本発明の実施の形態について
より具体例を例示する一実施例を図面を参照して説明す
る。

【００６３】一般的なコンピュータで用いられるディス
ク等の補助記憶装置においては、ファイルがどこに保管
されているかを示す領域（ディレクトリ・エントリ）
と、実際にファイルが保管されている領域と、が、分か
れている。

【００６４】また、実際のファイルも膨大なファイルサ
イズとなった場合、実際の記憶領域上では複数に分離さ
れていることがある。

【００６５】このようなファイルに対して読み取り動作
が行われた場合、この実施例では以下の動作が行われ
る。

【００６６】ディレクトリ・エントリの読み取りのた
め、該当する位置のデータの読み取り命令（ここではセ
クタ４であるものとする）が、コンピュータから発行さ
れる。

【００６７】コントローラ２では、読み取り命令と判断
し、図２に示した処理フローに従って補助記憶装置５に
読み込み命令が発行される。

【００６８】この読み込み命令の結果が、コンピュータ
に返送されると、コンピュータは、そのデータを解釈
し、次の読み取り命令を発行する。

【００６９】必要なファイルが、仮に、補助記憶装置の
セクタ１０、１１、１２、１８、１９、２０に格納され
ているものとすると、それぞれのセクタに対する読み込
み命令が発行される。

【００７０】図２から図８に示した流れ図に従うと、こ
の読み取り命令が完了した段階で、アクセス履歴蓄積メ
モリ４は、図１０に示すようなものとなる。

【００７１】次に同じファイルを読み取るため、コンピ
ュータからセクタ４の読み取り命令が発行されると、図
２に示す処理フローに従って、読み取り命令が再発行さ
れる。

【００７２】次に図３及び図４に示す処理フローによ
り、アクセスの検証が行われ、引き続き、図５、図６、
及び図８に示す処理フローに従ってアクセス予測が行わ
れる。

【００７３】図５及び図６のステップ４０６によると、
予想フィールド０の確認を行った段階で、予想が可能で
あることが判断される。

【００７４】図５及び図６を参照して、このアクセス予
測処理フローによると、ステップ４０７、４０８、４０
９により、次は、セクタ１０の読み取りが行われるもの
と判断され、図７に示す予想読み取り処理のステップ５
０２、５０３、５０４によりセクタ１０への読み取り命
令が発行される。

【００７５】この後、実際にコンピュータからセクタ１
０への読み取り命令が発行されると、すでにこのデータ
がキャッシュメモリに保管されているため、補助記憶装
置５に対して読み取り命令を発行することなく、先読み
されたキャッシュメモリ３に格納されているセクタ１０
のデータをコンピュータに返送することができる。

【００７６】この処理フローによると、次は、連続２つ
アクセスが行われる（セクタ１１、１２）ことが分かる
ので、先読みを行う。

【００７７】またコンピュータより、セクタ１２の読み
取りが行われた時点で、セクタ１８のアクセスが行われ
ることが同様に判断できるので、セクタ１８の先読みを
行う。

【００７８】コンピュータからセクタ１８の読み取り命
令が実際に送信された際に、セクタ１８の必要なデータ
はすでにキャッシュメモリ３に用意されているので、直
ちにデータを返送することができる。

【００７９】また、コンピュータの処理の中では、第１
のファイルの読み込み中、第１のファイルの内容に応じ
て、別のファイルである第２のファイル等を読み込む場
合がある。

【００８０】第１のファイルのセクタ２０、２１、２３
まで読み込んだ時に、第２のファイルの５０、５１、５
２を読み込み、引き続き第１のファイルのセクタ２４、
２５、２６を読み込む処理を複数行った場合でも、同様
に２回目以降、先読みが行われることが分かる。

【００８１】

【発明の効果】以上説明したように、本発明によれば、
同一パターンの読み取り命令が数回行われる場合、全体
の量がキャッシュメモリに入らない場合、かつ、非連続
のエリアに対する読み取りの場合でも、アクセス履歴蓄
積メモリに格納できる場合は、高速にデータを用意し、
コンピュータに返送することが可能とされ、全体のアク
セススピードの向上を図ることができるという効果を奏
する。

【図面の簡単な説明】

【図１】本発明の実施の形態の全体の構成を示す図であ
る。

【図２】本発明の一実施例の動作を説明するための流れ
図であり、命令を受信したときの処理フローを示す図で
ある。

【図３】本発明の一実施例の動作を説明するための流れ
図であり、読み取り命令の予測検証フローを示す図であ
る。

【図４】本発明の一実施例の動作を説明するための流れ
図であり、読み取り命令の予測検証フローを示す図であ
る。

【図５】本発明の一実施例の動作を説明するための流れ
図であり、次回のアクセス予測の処理フローを示す図で
ある。

【図６】本発明の一実施例の動作を説明するための流れ
図であり、次回のアクセス予測の処理フローを示す図で
ある。

【図７】本発明の一実施例の動作を説明するための流れ
図であり、予想読み取りフローを示す図である。

【図８】本発明の一実施例の動作を説明するための流れ
図であり、予測フロー用ポインタ移動フローを示す図で
ある。

【図９】本発明の一実施例におけるアクセス履歴蓄積メ
モリの構成を示す図である。

【図１０】本発明の一実施例におけるアクセス履歴蓄積
メモリの内容の一例を示す図である。

【符号の説明】

１コンピュータとのインタフェース２コントローラ（制御装置）３キャッシュメモリ４アクセス履歴蓄積メモリ５補助記憶装置５９検索ポインタ６０設定中ポインタ６１検索位置６２アクセス位置６３連続アクセス長さ６４次の非連続アクセス位置６５使用マーク６６予想フィールド

Claims

【特許請求の範囲】

【請求項１】ＣＰＵからデータアクセス命令に対して、
キャッシュミス時に、補助記憶装置から該データを含む
ブロックを読み出し、前記データを前記ＣＰＵに返却す
ると共に、該ブロックを前記キャッシュメモリに書き込
み、且つ、このアクセスは、アクセス履歴として記憶さ
れ、前記アクセス履歴のパターンを参照することにより、次
のランダムアクセス読み込みの位置を検索して予測し、
アクセスが予測されるブロックを前記補助記憶装置から
前記キャッシュメモリに先読みする、ことを特徴とするキャッシュ制御方法。
【請求項２】ＣＰＵから読み取り命令に対して、キャッ
シュヒット時にはキャッシュメモリからデータを読み出
し、キャッシュミス時には補助記憶装置から該データを
含むブロックを読み出し、前記データを前記ＣＰＵに返
却すると共に、該ブロックを前記キャッシュメモリに書
き込み、且つ、このアクセスは、アクセス履歴として記
憶され、前記アクセス履歴から、前回アクセスされたブロックと
今回アクセスされたブロックが同じである組み合わせを
検索して、次にアクセスされるブロックを予測し、該予測されたブロックが前記キャッシュメモリ中に存在
しない場合には、前記補助記憶装置から前記ブロックを
読み込み、事前に、前記キャッシュメモリに書き込んで
おく、ことを特徴とするキャッシュ制御方法。
【請求項３】過去の読み取り命令および書き込み命令の
目標位置を蓄積するアクセス履歴メモリと、読み取り命令から次のランダムアクセス位置を予測する
予測手段と、予測に従いキャッシュメモリもしくはデバイスにアクセ
スを行う制御装置と、を備えたことを特徴とするキャッシュ制御装置。
【請求項４】請求項３のキャッシュ制御装置を備えたこ
とを特徴とする補助記憶装置。
【請求項５】過去の読み取り命令および書き込み命令の
目標位置を蓄積し、読み取り命令から次のランダムアク
セス位置を予測し、予測データを用意する、ことを特徴
とするキャッシュ制御方法。