JP2000155713A

JP2000155713A - キャッシュサイズ制御装置

Info

Publication number: JP2000155713A
Application number: JP10332465A
Authority: JP
Inventors: Hiroyuki Machida; 浩之町田
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 1998-11-24
Filing date: 1998-11-24
Publication date: 2000-06-06

Abstract

(57)【要約】【課題】メモリ効率の良い最適なキャッシュサイズの
見積りを可能とし、自動的にキャッシュの記憶容量を調
整して効率的な運用を可能とする。【解決手段】アクセス記録部４と、データ特徴検出部
５と、キャッシュサイズ推定部６とを設ける。アクセス
記録部４において、各種情報を記憶し、所定時間間隔で
蓄積情報をデータ特徴検出部５に供給する。データ特徴
検出部５において特徴パラメータを検出し、得られた特
徴パラメータがキャッシュサイズ推定部６に供給され
る。キャッシュサイズ推定部６において、特徴パラメー
タに基づいてメモリ効率の良いヒット率、エントリ数の
推定を行い、この推定結果により所定時間の間に利用す
べきキャッシュサイズを演算処理により算出する。この
ことによりキャッシュの使用状況から簡単にメモリ効率
の良いキャッシュサイズの見積りを可能とする。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】この発明は、各種データを蓄
積し、要求に応じて蓄積データを転送するシステムに用
いて好適なキャッシュサイズ制御装置に関する。

【０００２】

【従来の技術】最近では、情報通信網の発達および整備
に伴い高速かつ大容量にデータを蓄積することができ、
また、要求に応じて蓄積データの転送が可能な各種シス
テムや装置が提案されており、これらシステムおよひ装
置が利用するネットワーク上のトラフィックを軽減し
て、高速化や効率的な運用を可能とする各種制御方法も
提案されている。

【０００３】例えば、その一つとしてＷＷＷ（World Wi
de Web) トラフィックの様に経験的にＺｉｐｆの法則が
成立するデータのキャッシングにおいて、測定されたデ
ータの特徴と与えられたヒット率目標からキャッシング
サイズを演算処理により決定する方法が提案されている
（「ＷＷＷトラフィック分析と分散キャッシュ」西川
他，情報処理学会分散システム運用技術研究会報告５
−２）。

【０００４】また、Ｚｉｐｆの法則を利用するものとし
て、ビデオ・オン・デマンド・システムにおけるトラフ
ィック軽減のためのソフト配置方式が特開平10-23991の
「ＡＴＭバックボーンネットワークを利用したビデオサ
ーバ」と、特開平 9- 7013の「ビデオ・データ・レイア
ウト方法およびシステム」より提案されている。

【０００５】

【発明が解決しようとする課題】しかしながら、上述し
たいずれの提案においてもメモリ効率の良い最適なキャ
ッシュサイズの見積りを行う具体的な手法が提案されて
いない。

【０００６】従って、この発明の目的は、メモリ効率の
良い最適なキャッシュサイズの見積りを行うことができ
る具体的な手法を提案し、その手法により得られた結果
に基づいて自動的にキャッシュの記憶容量を調整して装
置全体としての効率的な運用を可能とするキャッシュサ
イズ制御装置を提供することにある。

【０００７】

【課題を解決するための手段】以上の問題を解決するた
めに、請求項１の発明は、出現頻度が経験的に(1) 式に
示すＺｉｐｆの法則に従うデータを対象とし、データの
交換を行うキャッシュ機構を制御するキャッシュサイズ
制御装置において、キャッシュ機構のトラフィックの状
況とキャッシュ機構内で実際に使用されているキャッシ
ュサイズおよびエントリ数を所定時間間隔で記録するア
クセス記録手段と、アクセス記録手段から得られる出現
順位ｒと対応する出現数ｆ(r) の値に基づいて(1) 式に
おける定数Ｃおよびｋを少なくとも特徴パラメータとし
て検出するデータ特徴検出手段と、データ特徴検出手段
の検出結果に基づいて演算処理によりキャッシュヒット
率ｈと、キャッシュエントリ数Ｓとを推定し、得られた
推定結果に応じてキャッシュサイズＤを算出するキャッ
シュサイズ推定手段とを備えたことを特徴とするキャッ
シュサイズ制御装置である。

【０００８】この発明では、アクセス記録手段と、デー
タ特徴検出手段と、キャッシュサイズ推定手段とが設け
られる。アクセス記録手段において、各種情報がアクセ
ス記録として所定時間にわたって記録装置に蓄積され、
所定時間経過後にその蓄積情報が取りまとめられてデー
タ特徴抽出部５に供給される。データ特徴検出手段にお
いて、アクセス記録に基づいて特徴パラメータが検出さ
れ、得られた特徴パラメータがキャッシュサイズ推定部
６に供給される。キャッシュサイズ推定部６において、
データ特徴検出部５からの特徴パラメータからメモリ効
率の良いヒット率の推定がなされ、所定時間の間に利用
すべきキャッシュサイズが演算処理により算出される。
このため、キャッシュの使用状況から簡単にメモリ効率
の良いキャッシュサイズを見積ることが可能とされる。

【０００９】

【発明の実施の形態】先ず、この発明の一実施形態につ
いて説明する前にこの発明の理解を容易とするためＺｉ
ｐｆの法則について簡単に説明する。データの出現頻度
が出現数の大きい方からの順位ｒ位の出現数ｆ(r) と、
ｒとの間に次式の関係が成り立つ時に、Ｚｉｐｆの法則
が成立するという。

【００１０】

【数５】

【００１１】ここで、Ｃ，ｋはデータの出現を表すパラ
メータと見なすことができる。人間の嗜好によって頻度
が決まるデータ、例えば、自然言語での単語の出現率
や、ＷＷＷやビデオ・オン・デマンドシステムにおける
番組参照頻度等においてこの法則が成り立つことが経験
的に知られている。

【００１２】次に、この発明の一実施形態について図面
を参照して説明する。図１は、この発明の一実施形態の
全体構成を示す。図１に示すようにこの発明によるキャ
ッシュサイズ制御装置１が設定部１、キャッシュ制御部
２、キャッシュ機構３、アクセス記録部４、データ特徴
検出部５、キャッシュサイズ推定部６等により構成され
ている。

【００１３】設定部１は、例えば、各種スイッチおよび
テンキー等を有しており、各種スイッチおよびテンキー
等が操作されると、その操作状態に応じた設定情報が設
定部１において形成される。設定部１において形成され
た設定情報がキャッシュ制御部２に供給される。具体的
には、設定部１が操作されることにより初期設定や規格
値の入力がなされる。

【００１４】キャッシュ制御部２は、その始動開始時に
おいては、予めなされた初期設定で指定されるキャッシ
ュサイズとなるように初期情報を形成し、この初期情報
をキャッシュ機構３に供給する。また、始動開始以降に
は、キャッシュ制御部２には、キャッシュサイズ推定部
６からのキャッシュサイズＤが供給される。キャッシュ
制御部２において、キャッシュサイズＤが所定規格値内
かどうかが判定され、規格内であればそのままキャッシ
ュサイズＤがキャッシュ機構部３に供給される。なお、
キャッシュサイズＤが下限値を下回る場合には、キャッ
シュサイズＤが下限値に修正されてキャッシュ機構部３
に供給され、また、キャッシュサイズＤが上限値を上回
る場合には、キャッシュサイズＤが上限値に修正されて
キャッシュ機構部３に供給される。

【００１５】キャッシュ機構３は、キャッシュ制御部１
からの初期情報およびキャッシュサイズＤに応じて動作
し、キャッシュ用の記憶装置の領域を初期情報およびキ
ャッシュサイズＤに応じた大きさに調整すると共に、キ
ャッシュサイズの変更を行った場合には、アクセス記録
部４に記憶装置の領域変更を示す情報を供給する。ま
た、キャッシュ機構３は、図示せずも下流からのアクセ
ス要求をタグとして上流から流れてくるデータを記憶装
置に蓄積し、２度目以降の同様なアクセス要求に対し
て、データが最新であるかどうかを判定してデータが最
新である場合には、記憶装置に蓄積されているデータを
下流へ流し、トラフィックを軽減するという機能を有す
る。また、それに並行してキャッシュ機構３を通過する
データのトラフィックの記録およびキャッシュ機構３内
で実際に使用されているキャッシュサイズおよびエント
リ数を示す情報をアクセス記録部４に供給する。

【００１６】アクセス記録部４は、キャッシュ機構３か
らの各種情報をアクセス記録として所定時間にわたって
記録装置に蓄積し、所定時間経過後にその蓄積情報を取
りまとめてデータ特徴抽出部５に供給する。具体的に
は、アクセス記録部４は、タイマー機能を有し、キャッ
シュ機構部３からの記憶装置のキャッシュサイズの領域
変更を示す情報に基づいてタイマー機能をリセットする
と共に、現時点までのアクセス記録を初期化し、新たな
記録動作を開始する。つまり、アクセス記録中において
は、キャッシュ機構３からのトラフィックの記録および
キャッシュ機構３内で実際に使用されているキャッシュ
サイズおよびエントリ数を示す情報が逐次、蓄積され
る。そして、経過時間が予め定められたＴに達すると、
タイマーおよびアクセス記録動作が停止し、集計された
アクセス記録がデータ特徴検出部５に供給される。

【００１７】データ特徴検出部５は、アクセス記録に基
づいて特徴パラメータを検出し、得られた特徴パラメー
タをキャッシュサイズ推定部６に供給する。具体的に
は、アクセス記録から得られる一連の出現順位ｒと対応
する出現数ｆ(r) の値から前記(1) 式における定数Ｃ，
ｋおよびその確信度α（０≦α≦１、１が確信の度合い
が強い）が検出され、この検出結果が特徴パラメータと
してキャッシュサイズ推定部６に供給される。なお、特
徴パラメータとしての定数Ｃ，ｋおよびその確信度αの
検出は、例えば、上記(1) 式から導出される〔log(f
(r)) ＝log(C)−klog(r) 〕式の関係による一連のｒ
と、それに対応するｆ(r) の値から最小二乗法を用いて
推定することでなされ、αは、例えば、この際の相関関
数の絶対値とする。

【００１８】また、上述した処理に並行してデータ特徴
検出部５において、キャッシュサイズを示す情報および
エントリ数を示す情報からキャッシュ１エントリ当たり
に使用されるキャッシュサイズＭが、例えば、平均化す
ることにより検出され、得られた結果がキャッシュサイ
ズ推定部６に供給される。

【００１９】キャッシュサイズ推定部６は、データ特徴
検出部５からの特徴パラメータからメモリ効率の良いヒ
ット率を推定し、所定時間の間に利用すべきキャッシュ
サイズを演算処理により算出する。具体的には、データ
特徴検出部５からの特徴パラメータ（Ｃ，ｋ）よりメモ
リ効率の良いキャッシュヒット率ｈの推定値が次式によ
り算出される。

【００２０】

【数６】

【００２１】但し、ここでＲは、以下の式で与えられ
る。

【００２２】

【数７】

【００２３】この時のキャッシュエントリ数Ｓは、以下
の式で算出される。

【００２４】

【数８】

【００２５】なお、上記(2) 式から得られた推定ヒット
率ｈが予め設定された下限値を下回った場合には、ｈを
下限値に修正し、ｈが上限値を上回った場合には、ｈを
上限値に修正する。推定ヒット率ｈが修正された場合に
は、キャッシュエントリ数Ｓを以下の式で再計算する。

【００２６】

【数９】

【００２７】上記(4),(5) 式で得られたキャッシュエン
トリ数Ｓとデータ特徴検出部５からの１エントリ当たり
のサイズＭと確信度αからキャッシュサイズＤを、例え
ば、以下の式で計算する。

【００２８】

【数１０】

【００２９】なお、ここでＤ_prevは、前回算出したキャ
ッシュサイズを記憶していたものとする。このようにキ
ャッシュサイズ推定部６において算出されたキャッシュ
サイズＤが前述したキャッシュ制御部２に供給される。
このことにより自動的にキャッシュの記憶容量が調整さ
れ、装置全体としての効率的な運用が可能とされる。

【００３０】上述したキャッシュサイズ推定部６におい
てなされる処理についてさらに詳細に説明する。出現頻
度が上記(1) 式に従うＺｉｐｆの法則の成り立つデータ
を対象とするキャッシュシステムで、頻度が高い順に上
位のものをキャッシュに格納するアルゴリズムを想定
し、このアルゴリズムのもとでのキャッシュエントリ数
Ｓが与えられた場合のキャッシュヒット率Ｈ_frq(S)
は、エントリ数Ｓでのヒット率の理論的な限界を示す。
つまり、どのようなキャッシュアルゴリズムを用いた場
合においても上述の方法以上の良い結果を得ることがで
きないため、指標として理論限界値を考える。そこで、
先ず始めに、キャッシュヒット率Ｈ_frq(S)をエントリ
数Ｓの関数として求める。次に、その性質からメモリ効
率の良いヒット率の近似値ｈをＺｉｐｆの法則の特徴パ
ラメータ（Ｃ，ｋ）から得る方法について説明する。そ
して、最後に近似値ｈの得られる条件でのキャッシュエ
ントリ数ＳをＺｉｐｆの法則の特徴パラメータ（Ｃ，
ｋ）から計算する方法について説明する。

【００３１】先ず、始めにキャッシュヒット率Ｈ
_frq(S) をエントリ数Ｓの関数として求める部分につい
て説明する。Ｈ_frq(S) を求めるために、アクセス回数
（以下、出現回数と称する）順位ｒのデータのアクセス
される確率（以下、出現確率と称する）ｐ(r) を考える
と、出現確率ｐ(r) は、次の式により算出される。

【００３２】

【数１１】

【００３３】なお、Ａは、総アクセス数である。図２に
順位ｒと出現数ｆ(r) の関係を示す。図２における横軸
が順位ｒであり、縦軸が出現数ｆ(r) である。総アクセ
ス数Ａは、アクセスされる頻度（以下、出現頻度と称す
る）、即ち、図２における斜線部〔２−Ａ〕の面積と等
化とみなすことができ、以下の式により近似できる。

【００３４】

【数１２】

【００３５】ここで、Ｒは、出現回数１回の出現順位と
する。上記(1) 式で（ｆ(r) ＝１）であるため、Ｒは、
上記(3) 式により特徴パラメータ（Ｃ，ｋ）から算出す
ることができる。

【００３６】また、図３にアクセス回数順位ｒとデータ
出現確率ｐ(r) との関係を示す。図３における横軸がア
クセス回数順位ｒであり、縦軸がデータ出現確率ｐ(r)
である。キャッシュヒット率Ｈ_frq(S) は、図２におけ
る斜線部〔３−Ａ〕の面積と等化とみなすことができ、
上記(7),(8) 式を用いて以下の式により近似できる。

【００３７】

【数１３】

【００３８】次に、キャッシュヒット率Ｈ_frq(S) の性
質からメモリ効率の良いヒット率の近似値ｈをＺｉｐｆ
の法則の特徴パラメータ（Ｃ，ｋ）から得る部分につい
て説明する。ここで、（ｘ＝Ｓ／Ｒ）と置き、Ｈ
_frq(S) をｘの関数としてＨ_frq(x) と表し、（１／Ｒ
≦ｘ≦１）とする。そして、Ｈ_frq(x) の一次微分およ
び二次微分を考えると、（１／Ｒ≦ｘ≦１），（ｋ＞
０），（Ｒ≧１）で〔（ｄＨ_frq(x) ／ｄｘ）＞０〕，
〔（ｄ²Ｈ_frq(x) ／ｄｘ²）＞０〕となり、Ｈ
_frq(x) は、ｘの有効範囲内で単調増加凸関数となる。
図３にｘとヒット率Ｈ_frq(x)の関係を示す。図４にお
ける横軸がｘであり、縦軸がヒット率Ｈ_frq(x) であ
る。そこで、ヒット率Ｈ_frq(x) を（ｘ＝１／Ｒ）の接
線および（ｘ＝１）の接線とで近似する。つまり、図４
において〔４−１〕で示される〔ｙ＝（ｄＨ_frq(1) ／
ｄｘ）ｘ＋ｈ０〕で表現される（ｘ＝１，ｙ＝１）を通
過する（ｘ＝１）の接線と、図４において〔４−２〕で
示される〔ｙ＝（ｄＨ_frq(1/R) ／ｄｘ）ｘ＋ｈ１〕で
表現される（ｘ＝１／Ｒ，ｙ＝Ｈ_frq(1/R) ）を通過す
る（ｘ＝１／Ｒ）の接線とで近似する。

【００３９】即ち、直線〔４−１〕および直線〔４−
２〕の交点を〔４−Ａ〕とし、そのヒット率をｈ_Aとす
ると、ヒット率０からｈ_Aまでがメモリ効率の良い領域
であり、ヒット率ｈ_Aから１までがメモリ効率の悪い領
域とみなすことができ、ヒット率ｈ_Aがメモリ効率の良
いヒット率の最大値を近似していると考えることができ
る。ここで、ヒット率の計算だけに注目して簡略化する
ため、直線〔４−２〕の代わりに（ｘ＝１／Ｒ：直線
〔４−３〕）を用いて交点〔４−Ａ〕を図４中〔４−
Ｂ〕で代用することとし、さらに、実際の運用時には、
アクセス記録を多く得るため、Ｒが十分大きくなると考
えて、直線〔４−３〕を（ｘ＝０）で代用する。つま
り、メモリ効率の良いヒット率ｈは、ｈ０そのもので近
似することになり、直線〔４−１〕は、（ｘ＝１）で
（ｙ＝１）となることから、ｈ０を求めると前記(2) 式
となる。従って、前記(2) 式を用いることでメモリ効率
の良いキャッシュヒット率の近似値がパラメータ（Ｃ，
ｋ）から確実に算出される。

【００４０】そして、最後に上述したヒット率を達成す
るキャッシュエントリ数Ｓを算出する部分に関しては、
前記(2) 式として得られたヒット率を前記(9) 式のＨ
_frq(S) へ代入し、整理すると、前記(4) 式が得られ
る。従って、前記(4) 式を用いることでメモリ効率の良
いキャッシュエントリ数Ｓがパラメータ（Ｃ，ｋ）から
確実に算出される。

【００４１】

【発明の効果】従って、この発明に依れば、メモリ効率
が良好な目標ヒット率をアクセス記録とＺｉｐｆの法則
から求めることができる特徴パラメータで近似推定する
ように構成されるため、キャッシュの使用状況から簡単
にメモリ効率の良いキャッシュサイズを見積ることが可
能とされ、キャッシュとして確保する記憶容量の削減が
図られると共に、自動的にキャッシュの記憶容量を調整
することが可能とされ、装置全体としての効率的な運用
が可能とされる。

【図面の簡単な説明】

【図１】この発明の一実施形態の全体構成を示すブロッ
ク図である。

【図２】この発明の一実施形態の動作説明に用いる略線
図である。

【図３】この発明の一実施形態の動作説明に用いる略線
図である。

【図４】この発明の一実施形態の動作説明に用いる略線
図である。

【符号の説明】

１・・・設定部、２・・・キャッシュ制御部、３・・・
キャッシュ機構、４・・・アクセス記録部、５・・・デ
ータ特徴検出部、６・・・キャッシュサイズ推定部

Claims

【特許請求の範囲】

【請求項１】出現頻度が経験的に(1) 式に示すＺｉｐ
ｆの法則に従うデータを対象とし、データの交換を行う
キャッシュ機構を制御するキャッシュサイズ制御装置に
おいて、上記キャッシュ機構のトラフィックの状況と上記キャッ
シュ機構内で実際に使用されているキャッシュサイズお
よびエントリ数を所定時間間隔で記録するアクセス記録
手段と、上記アクセス記録手段から得られる出現順位ｒと対応す
る出現数ｆ(r) の値に基づいて上記(1) 式における定数
Ｃおよびｋを少なくとも特徴パラメータとして検出する
データ特徴検出手段と、上記データ特徴検出手段の検出結果に基づいて演算処理
によりキャッシュヒット率ｈと、キャッシュエントリ数
Ｓとを推定し、得られた推定結果に応じてキャッシュサ
イズを算出するキャッシュサイズ推定手段とを備えたこ
とを特徴とするキャッシュサイズ制御装置。【数１】
【請求項２】請求項１において、上記キャッシュサイズ推定手段においてなされるキャッ
シュヒット率ｈの演算は、(2) 式によりなされることを
特徴とするキャッシュサイズ制御装置。【数２】
【請求項３】請求項１において、上記キャッシュサイズ推定手段においてなされるキャッ
シュエントリ数Ｓの演算は、(4) 式によりなされること
を特徴とするキャッシュサイズ制御装置。【数３】
【請求項４】請求項１において、上記キャッシュサイズ推定手段において算出されるキャ
ッシュヒット率ｈが修正された場合には、キャッシュエ
ントリ数Ｓの演算は、(5) 式によりなされることを特徴
とするキャッシュサイズ制御装置。【数４】