JPH0619793A - キャッシュ・アクセスのための仮想アドレス変換予測の履歴テーブル - Google Patents

Abstract

(57)【要約】 【目的】 仮想アドレスから実アドレスをより高速に、
且つより正確に提供する効率的で柔軟なキャッシュ・ア
クセスを可能とする機構を提供する。 【構成】 一次元の履歴テーブル（ＴＬＢＬＡＴ）が暫
定的に実アドレスベースのキャッシュをアクセスするた
めの全ての仮想ページアドレスに相当する実アドレスビ
ットを予測するために使用される。同テーブル内のエン
トリを与えられた仮想アドレスによって選択する基準は
仮想アドレス上の特定のビットに準拠される。また、か
かる選択は十分なランダム化を達成するためにかかる仮
想アドレスビットと他の情報を一緒にハッシュすること
によっても準拠する。各々の表のエントリは最低でも最
適なクラスの実アドレスを予測するのに必要なビットを
格納する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は一般に仮想アドレス指定
を有するコンピュータ・システムのキャッシュに関し、
特に、仮想アドレスから実アドレス・ベースのキャッシ
ュをアクセスする方法に関する。

【０００２】

【従来の技術】コンピュータ・システムにおける性能改
善のためにキャッシュを使用することはよく知られてお
り広範囲に使用されている。キャッシュは最近使用され
たメモリ・データを保持するための高速のバッファであ
る。プログラムによる参照の局所性（すなわちプログラ
ムが近接するアドレスを有するメモリ内のロケーション
を参照する傾向）のために、メモリ・データに対するほ
とんどのアクセスはキャッシュへのアクセスにより実行
され、こうしたケースでは大容量メモリに対する遅いア
クセスが回避される。

【０００３】典型的な高性能プロセッサの設計ではキャ
ッシュ・アクセス・パスはクリティカル・パスを形成す
る。すなわち、プロセッサのサイクル・タイムはキャッ
シュ・アクセスがどの程度高速に実行されるかにより制
限される。

【０００４】キャッシュは論理的にはデータ・ブロッ
ク、或いはラインの１次元或いは２次元テーブルとして
見なされ、キャッシュ・テーブル・エントリはメモリ・
データの特定のブロック或いはラインを格納する。以降
では用語キャッシュ"ライン"はキャッシュ・データ記憶
ユニットを言及するために使用されるが、用語キャッシ
ュ "ブロック" についても同義語と見なされる。キャッ
シュの実施は通常３つの主な機能により達成される。す
なわち、それらはディレクトリ機能、メモリ機能（配列
と称されたりもする）、及び制御機能である。キャッシ
ュ・ディレクトリはキャッシュ・ライン・エントリに対
応するアドレス識別子に加え、特定の実施例に適切な他
の必要なステータス・タグを含む。キャッシュ・メモリ
或いは配列は実際のデータ・ビット（これはオペランド
或いは命令を表す）、及び特定の実施例において要求さ
れるパリティ・チェック或いは誤り訂正のための追加ビ
ットを格納する。キャッシュ制御回路はキャッシュ内
容、及びアクセスの管理のために必要な論理を提供す
る。

【０００５】キャッシュへのアクセスにおいて、目的の
データ・ラインがキャッシュ内に存在するかを識別する
ために、ディレクトリがルック・アップされる。目的の
データ・ラインがキャッシュ内に見い出される場合、キ
ャッシュ・ヒットが発生し、それ以外の場合にはキャッ
シュ・ミスが生じる。キャッシュ・ヒットにおいて禁止
条件（例えばキー保護違反）が存在しない場合、データ
が配列からアクセスされる。

【０００６】キャッシュ・ミスではデータ・ラインが通
常、大容量メモリからフェッチされ、最初にキャッシュ
に挿入され、それに従いキャッシュからのアクセスを満
足させるためにディレクトリが更新される。キャッシュ
は制限されたライン・エントリ分の容量だけしか有さ
ず、大容量メモリに比較して相対的に小容量なために、
現存のライン・エントリの置換がしばしば必要となる。
キャッシュ・エントリの置換は通常、最低使用頻度（Ｌ
ＲＵ）法などのアルゴリズムにもとづく。ＬＲＵ法では
キャッシュ・ライン・エントリの置換は必要時に、最低
頻度でアクセスされたライン・エントリが置換される。

【０００７】効率を向上させるためにキャッシュは通
常、２次元テーブル（図１参照）として構成される。行
数をセット・アソシエイティビティ（すなわち図１では
４重セット・アソシエイティビティ）と称し、各列は合
同クラスと称される。各データ・アクセスに対し合同ク
ラスがアクセス・アドレス２５０の特定のメモリ・アド
レス・ビット１１２を使用して選択され、データはそれ
がキャッシュにおいてヒットする場合、選択合同クラス
１１６内のライン・エントリ１１６ａ乃至ｄの１つにお
いてアクセスされる。

【０００８】しばしば（選択合同クラス１１６内の）セ
ット位置ａ、ｂ、ｃ或いはｄを識別するために、最初に
キャッシュ・ディレクトリを探索し（パラレル・アドレ
ス比較においても）、その次にデータを配列の識別され
たロケーションからアクセスすることが遅過ぎると見な
される。こうした順序処理は通常、２連続マシン・サイ
クルを費やして実行されるためプロセッサ性能は著しく
低下する。レイト・セレクト（late-select） と称され
る一般的なアプローチは、以下に示すように１サイクル
の間にディレクトリ探索、及び配列データ・アクセスを
実行する。実行要素によるデータ単位（例えばダブルワ
ード）のフェッチについて考えてみる。アクセスのため
の正確なセット位置が分からなくとも、配列制御は即座
に合同クラス内の全てのセット位置のラインから候補デ
ータ単位を検索し、その間にディレクトリがルック・ア
ップされる。キャッシュ・ヒットが発生するとディレク
トリ制御はそれらの検索データ単位の１つの最終選択を
通知し、それを要求する実行要素に送信する。

【０００９】キャッシュ設計を複雑化する別の側面は、
ほとんどのコンピュータ・システムにおいて共通に使用
される仮想アドレス指定アーキテクチャである。仮想メ
モリ・システム（たとえばＩＢＭ／３９０アーキテクチ
ャ）では、各ユーザ処理は固有の仮想アドレス空間を有
する。プログラムの実行においてオペレーティング・シ
ステムは実メモリ・ページ（例えば４キロバイト／ペー
ジ）を、より活動的にアクセスされる仮想アドレス・ペ
ージに動的に割当てる。プログラムからアクセスされる
ページがそれに割当てられる実メモリ・ページを有さな
い場合、例外（ページ不在）条件が発生し、オペレーテ
ィング・システムに適切に実メモリ・ページ・フレーム
を割当てるように指令する。ページ不在処理は通常、超
高性能オーバーヘッドと関連し、しばしばディスク装置
のような低速の補助装置からのデータ・アクセスを要求
する。しかしながら、合理的なオペレーティング・シス
テムはプログラム実行の間に、非常に低いページ不在率
を維持する。

【００１０】オペレーティング・システムは、通常、体
系的に特定のソフトウェア・テーブル内に実ページ割当
て情報を保持する。典型的には、セグメント及びページ
・テーブルを有する２レベルの変換テーブル構造がこの
目的のために使用される。各プログラム空間は固有のセ
グメント・テーブルを有し、各エントリはページ・テー
ブルを指す。ページ・テーブルにおいて、各エントリは
実ページ割当て情報、及び特定のアーキテクチャにおい
て必要とされるステータス・タグを記録する。オペレー
ティング・システムはその設計アルゴリズムに従い、こ
うした変換テーブルを管理する。

【００１１】仮想アドレス指定の使用の結果、異なるア
ドレス空間からの同一の仮想ページ・アドレスは論理的
に関連付けられず、記憶領域内の異なる実ページ・フレ
ームに割当てられる。更にＩＢＭ／３９０などのアーキ
テクチャでは、同一の実ページ・フレームが異なるプロ
グラム或いはプロセッサからの異なる仮想アドレスによ
りアクセスされる。

【００１２】これら全ての体系的要求において、ほとん
どのシステムがプロセッサからの記憶域アクセスを処理
する仮想アドレス変換と称されるステップを要求する。
仮想アドレス変換は仮想ページ・アドレスを実ページ・
アドレスに変換する。実ページ・フレームが割当てられ
ていない場合、ページ不在の例外がトリガされ、それに
対しオペレーティング・システムは割当ての完了時に変
換情報を更新し、次に不在プログラムに実行を再開させ
る。

【００１３】ほとんどの近代的なシステムではハードウ
ェア機構により仮想アドレス変換処理がスピード・アッ
プされる。典型的には変換ルックアサイド・バッファ
（ＴＬＢ）が各プロセッサに対し使用される。ＴＬＢは
アクティブにアクセスされる仮想ページのセットに対す
る変換情報を記録するハードウェア・ディレクトリ・テ
ーブルである。プログラムの局所性により、相対的に小
さなＴＢＬ（例えば６４乃至１０２４ページ・エント
リ）が、プロセッサからの記憶域アクセスにおける大部
分（例えば９９．９５％以上）の変換情報を捕獲するこ
とが可能である。ＴＢＬミス状態においてのみ（すなわ
ちＴＢＬが特定の記憶域アクセスをカバーできない
時）、遅い変換処理が（例えばマイクロコード或いはオ
ペレーティング・システム・コードを通じて）活動化さ
れる。

【００１４】ハードウェアの効率向上のためにＴＬＢは
通常、キャッシュ・ディレクトリのようなセット・アソ
シエイティブ・テーブルとして構成される。任意の仮想
ページ・アドレス（１つ以上のプログラム空間識別子を
含む）に対し、ハードウェアは合同クラスを導出するた
めに特定のアドレス・ビット（及び特定の設計に特有の
他の情報）を使用する。ＴＬＢ合同クラスにおいてハー
ドウェアはエントリの並列探索を実行し、ヒットが発生
すれば変換結果を識別する。

【００１５】多くのプロセッサ設計において、記憶域ア
クセスはキャッシュ・アクセスの最終解析以前にＴＬＢ
変換を必要とする。例えば、ＩＢＭ／３０９０システム
設計では、ＴＬＢルック・アップはキャッシュ・ディレ
クトリ探索と並列に実行され、それらの結果は配列デー
タの最終レイト・セレクトにおいて併合される。図２は
こうした設計を示す。プロセッサＩ／Ｅユニットにより
要求されるメモリ・アクセスのアドレスは論理アドレス
と称される。現行のプロセッサ・ステータスの特定のア
ドレス指定モード（実或いは仮想）に依存して、論理ア
ドレスは実アドレス或いは仮想アドレスとなる。同一の
物理データに対し、実アドレスを使用して選択される合
同クラスは、仮想アドレスを使用して選択される合同ク
ラスとは異なる。更に、いくつかのアーキテクチャ（例
えばＩＢＭ／３９０）では、同一の物理メモリ・ページ
は異なるキャッシュ合同クラスにおける任意の異なる仮
想（ページ）アドレスを通じて同時にアクセスされる。
ＩＢＭ／３０９０システム設計ではキャッシュ・ライン
はキャッシュ・ミス・ライン・フェッチを引き起こした
プロセッサ・アクセスの論理アドレス・ビットにもとづ
き主に配置されるが、様々な代替キャッシュ・ロケーシ
ョンに対するキャッシュ・ヒットの可能性をタイムリに
判断するために、各キャッシュ・アクセスのディレクト
リ探索に多数の比較器が使用される。

【００１６】キャッシュ・アクセスの解析における複数
のディレクトリ探索の要求は、多くのキャッシュ設計の
最適化における複雑化要因であった。仮想及び実アドレ
ス間の同義語的曖昧さを回避するための１つのアプロー
チでは、キャッシュ・アクセス制御に実アドレスのみを
供給する。しかしながら、こうしたアプローチは通常、
仮想アドレスに対する変換情報を検索するためにＴＬＢ
へのアクセスを要求する。一方、ＴＬＢのアクセスは通
常、遅いパスにより構成される。最近のコンピュータで
は高ヒット率を得るために比較的大きなサイズのＴＬＢ
（例えば２５６乃至１０２４ページ・エントリ）が使用
され、ＴＬＢを高速の回路（例えばシフト・レジスタ・
ラッチの使用、或いはＢＩＣＭＯＳ設計におけるＥＣＬ
回路の使用）により実現することはかなり高価、且つ困
難である。更に、ＴＬＢのサイズはしばしば、キャッシ
ュ・アクセス・パス内のクリティカル要素の近傍に物理
的にＴＬＢを配置することを阻止し、結果的に信号パス
における遅延が生じる。従って、キャッシュ・アクセス
のために実アドレスだけを供給するアプローチは、しば
しば、クリティカル・パス・タイミングにおける制約条
件のために実現を妨げられる。

【００１７】従来、キャッシュを効率的に実現するため
の数多くの提案が成されてきた。図３は３１ビット論理
アドレス指定に対応する６４キロバイト（ＫＢ）プロセ
ッサ・キャッシュを有するＩＢＭ／３０９０設計の概要
を示す。キャッシュは１２８合同クラスを有する４重セ
ット・アソシエイティブである。ライン・サイズは１２
８バイトである。この他にキャッシュ・ディレクトリ２
２０、キャッシュ・メモリ・データ配列２３０、及び２
重セット・アソシエイティブＴＬＢ２１０が含まれる。
プロセッサＩ／Ｅユニット及びマイクロコードは、論理
アドレスによる記憶域アクセスを発生する。論理アドレ
ス２５０はプロセッサにおける現行のアドレス指定モー
ドに依存して、仮想或いは実のどちらかである。

【００１８】仮想アドレスによるダブルワード（８バイ
ト）フェッチ要求の場合のより複雑なケースについて説
明する。合同クラスを選択するために７ビットｂ１８乃
至ｂ２４が使用される。これらの７ビットの内、２ビッ
トｂ１８及びｂ１９はページ・アドレス部分に相当す
る。予測されない変換結果により、これらの２ビットが
４種類の可能な組合せのいずれかの２実アドレス・ビッ
トに変換される可能性が生じる。アクセスされるデータ
・ラインを含む可能性のある４個の合同クラスの間で、
現行アクセスされる論理アドレスにおけるアドレス・ビ
ットにより決定される１個が主合同クラス（ＰＣＣ）と
称され、その他は同義語合同クラスと称される。

【００１９】プログラムの局所性は主合同クラスをヒッ
トするように大部分のキャッシュ・アクセスを発生する
が、アクセスされるラインが他の（同義語）合同クラス
の１つに属する機会がある。これはいわゆる同義語問題
である。

【００２０】ＩＢＭ／３０９０システム設計では次に示
すステップが並列に実行される。

【００２１】１．論理アクセス・アドレスのビット１８
乃至３１がキャッシュ・メモリ配列制御に転送される。
ビット１８乃至２４は主キャッシュ合同クラスを決定す
るために使用される。次に（ビット２５乃至２８により
示される）ダブルワードが主合同クラス内の各４ライン
・エントリからのキャッシュ配列から読出される。これ
らの４ダブルワードはレイト・セレクト信号が受信され
るまで要求するＩ／Ｅユニットに送り出されない。 ２．ビット１８乃至２４はルック・アップのためにキャ
ッシュ・ディレクトリに送信される。各ディレクトリ・
エントリは関連するラインに対応する実アドレスを記録
する。主及び同義語合同クラスの全１６ディレクトリ・
エントリが読出される。 ３．特定の仮想アドレス・ビット（ここでは表されてい
ない）が合同クラスを選択するためにＴＬＢに対応して
使用され、そこから２ＴＬＢエントリの実アドレス変換
情報が読出される。

【００２２】キャッシュ・ディレクトリから読出される
１６実ライン・アドレスは、次にＴＬＢから読出される
２実アドレスと併合され、３２個の比較器を介してアド
レスの一致が調査される。（他のタグの一致も含まれる
が、ここでは表されていない）。アクセスされたライン
の変換アドレスがキャッシュ・ディレクトリ実アドレス
の１つと一致すると、キャッシュ・ヒット条件が生成さ
れる。その他の場合には、キャッシュ・ミスが発生し、
キャッシュ・ミス・ルーチンをトリガする。キャッシュ
・ヒット状況において、ラインを含む合同クラスが主合
同クラスである可能性も、そうでない可能性も存在す
る。次に以下の処理がキャッシュ制御により実行され
る。

【００２３】・主合同クラス（ＰＣＣ）ヒット−選択さ
れたダブルワードをバスを介し要求するＩ／Ｅユニット
にゲートするために、信号がレイト・セレクト論理に送
信される。アクセスが完了する。 ・同義語合同クラス・ヒット−後の配列のフェッチを通
じ、ダブルワードを同義語合同クラスからアクセスする
ために適切なステップが実行される。これはアクセスに
対し長い遅延をもたらす。

【００２４】キャッシュ・ミス状況においてキャッシュ
制御は主記憶装置からラインのコピーを要求する。ライ
ンは到来すると主合同クラス内の割当てられたキャッシ
ュ・エントリに配置される。

【００２５】ＩＢＭ／３０９０キャッシュ設計における
主な複雑性は、同義語の解析に関連する。比較器要素Ｃ
ＭＰ１２８は３２個の比較器を使用して、主合同クラス
のミス状況が存在するかをタイムリに判断する。比較器
の数は合同クラスの数、及びＴＬＢのセット・アソシエ
イティビティに比例して増加する。例えば、合同クラス
数を４倍にすることによりキャッシュ・サイズが２５６
Ｋとなり、ＴＬＢのセット・アソシエイティビティが４
に増えると、ＣＭＰユニットにおいて必要な比較器の合
計数は非現実的な２５６に増加する。

【００２６】前述のように、実アドレス・ベースのキャ
ッシュは、しばしば、ＴＬＢを通ずる実アドレス変換解
析のための遅延パスの影響を受ける。最近になって提案
された実アドレス・ベースのキャッシュを実現するアプ
ローチが、J．H．Chang、H．Chao及びK．Soによる"Cach
e Design of A Sub-Micron CMOS System/370"、Proc．1
4th Symposium on Computer Architecture、at pp．208
-213（1987） で述べられており、これが図４に示され
ている。

【００２７】ＭＲＵキャッシュ設計アプローチでは仮想
アドレスによるキャッシュ・アクセスにおいて、実アド
レス合同クラスの選択は特定の予測にもとづく。ＴＬＢ
は通常、典型的なセット・アソシエイティビティ・ディ
レクトリとして構成され、そこにおいて置換は合同クラ
ス単位ベースで管理される。各仮想アドレスに対し、Ｔ
ＬＢ内の関連する合同クラスがページ・アドレス部分の
特定ビット（典型的には高位ビット）により決定され
る。各合同クラス内において、典型的には置換ステータ
ス・タグにより示される最高使用頻度（ＭＲＵ）エント
リ、及び最低使用頻度（ＬＲＵ）エントリが存在する。
ＬＲＵエントリは合同クラスに新たなページ・エントリ
が挿入される必要が生ずる場合に選択される置換であ
る。プログラムの局所性故にプロセッサから発せられる
連続的な仮想アドレスは、ＴＬＢ内のＭＲＵエントリを
ヒットする傾向がある。ＭＲＵキャッシュのアプローチ
はこうした局所性の振舞を使用し、仮想アドレスの変換
がＴＬＢの関連する合同クラス内のＭＲＵエントリから
生じるものと予測する。

【００２８】ＭＲＵキャッシュ・アプローチにおける実
アドレス予測の主要な側面について以下に述べる。プロ
セッサによりキャッシュ・アクセスのために発せられる
任意の仮想アドレスに対し、ＴＬＢ合同クラスが（特定
の仮想ページ・アドレス・ビットを介して）従来通りに
決定され、合同クラスのＭＲＵエントリに関連する実ペ
ージ・アドレス・ビットが予測として読出される。検索
される実アドレス・ビットの間で、（実）キャッシュ合
同クラスを決定するのに必要な特定のビットが、キャッ
シュ・データ検索のためにキャッシュ配列制御に送り出
される。その後、仮想アドレスがＴＬＢ合同クラス内の
全てのエントリと従来通りに比較され、実際の変換結果
を正確に決定する。ＴＬＢ内のＭＲＵエントリにおける
高ヒット率により、この予測にもとづくキャッシュ合同
クラスの選択はほぼ正しいと言える。不正予測に対して
は、後にキャッシュ・アクセス・サイクルの間にＴＬＢ
比較から決定され、現行のキャッシュ・アクセスは単に
打ち切られ、続くサイクルにおいて再発行される。キャ
ッシュ合同クラス選択の不正予測により、キャッシュ・
アクセスが再発行される場合、ＴＬＢは正しいキャッシ
ュ合同クラス選択に対し、正しく変換された実ビットを
供給する。

【００２９】従来の実アドレス・キャッシュ・アプロー
チと比較して、ＭＲＵキャッシュ・アプローチはＴＬＢ
からの最終比較結果を待機しないために、キャッシュ合
同クラスの選択を僅かに高速化する。しかしながら、Ｍ
ＲＵキャッシュはキャッシュ・アクセス・クリティカル
・パス内のＴＬＢからの実アドレス・ビットの検索を要
求する。こうした実アドレス・ビットの読出し以前に、
遅いキャッシュ配列のアクセスを開始することはできな
い。

【００３０】キャッシュ・アクセス・サイクルにおける
このタイミング負担を軽減するための別のアプローチ
に、ＴＬＢ／ＭＲＵ情報の読出しを前のサイクルに移動
することが考えられる。しかしながら、これは単にタイ
ミング問題を前のサイクルに移行するに過ぎない。

【００３１】ＭＲＵキャッシュ・アプローチの第２の問
題は、特定の設計における予測の正確度に関する。予測
の正確度は仮想アドレスに対するＴＬＢ内のＭＲＵエン
トリのヒット率に依存する。ここで２５６ページ・エン
トリを有するＴＬＢについて考察する。全ＴＬＢに対す
るミス比率はＴＬＢセット・アソシエイティビティが２
から４に増加されると、著しく低下される（例えば２０
％以上）。これは特に数個のＴＬＢ合同クラス内に過度
の込合いを生じるプログラムで見受けられる。４重セッ
ト・アソシエイティブＴＬＢでは、６４個のＭＲＵペー
ジ・エントリしか存在しない。典型的な商用の作業負荷
では、ＴＬＢ内のこれら６４個のＭＲＵエントリに対す
るオペランド・アクセス（フェッチ及び格納）のヒット
確率は、９７．５％以下である。こうしたヒット確率は
全ＴＬＢにおけるミスの増加を犠牲にして、ＴＬＢセッ
ト・アソシエイティビティを２に減少すると改善される
（例えば９９％まで）。

【００３２】このＭＲＵキャッシュ・アプローチの場合
に比較して、仮想ページ・アドレスに対応するいくつか
の或いは全ての実アドレス・ビットを、より高速に、よ
り正確にまた、よりキャッシュ・アクセスの柔軟性を持
って獲得できることが望ましい。

【００３３】

【発明が解決しようとする課題】従って、本発明の目的
は仮想アドレスから実アドレスをより高速に、且つより
正確に提供する効率的で柔軟なキャッシュ・アクセスを
可能とする機構の提供である。

【００３４】

【課題を解決するための手段】これらの及び他の目的及
び機能が、キャッシュ・アクセスのための実アドレス・
ビットを予測する適切な履歴テーブルを使用することに
より達成される。

【００３５】本発明によれば、任意の仮想ページ・アド
レスに対応するいくつかの或いは全ての実アドレスを予
測するために、１次元履歴テーブル（本発明ではＴＬＢ
ＬＡＴと命名する）が使用される。任意の仮想ページ・
アドレスに対応するＴＬＢＬＡＴ・エントリの選択は、
仮想アドレス内の特定のアドレス・ビットにもとづく。
ＴＬＢＬＡＴ・エントリの選択はまた、十分なランダム
化を実行するために、こうした仮想アドレス・ビットと
他の情報とのハッシュにもとづく場合もある。最小限、
各ＴＬＢＬＡＴ履歴テーブル・エントリは実アドレス・
ベース・キャッシュ内の合同クラスの予測に必要なビッ
トを記録する。キャッシュのセット・アソシエイティビ
ティは１（すなわち直接マップ化キャッシュ）が可能で
ある。様々な設計考慮を可能とするために、各ＴＬＢＬ
ＡＴエントリにはより多くの情報が含まれ、ＴＬＢとＴ
ＬＢＬＡＴを両者の機能を提供する単一の物理テーブル
に結合することも可能である。

【００３６】

【実施例】図５を参照すると、本発明が使用されるタイ
プのシステム構造のブロック図を表す。プロセッサは命
令及び実行（ＩＥ）ユニット１１０、及びキャッシュ・
ユニット６０を含む。各ＩＥはオペランドを主記憶装置
（ＭＳ）８０にフェッチ及び格納することを要求する命
令を発行するハードウェア及びマイクロコードを含む。
記憶制御装置（ＳＣ）７０はプロセッサ或いは入出力チ
ャネル９０により要求される記憶関連のアクティビティ
を調整する。説明の単純化のため、ＩＥユニット１１０
は各サイクルにおいて、多くとも１記憶フェッチ或いは
格納要求を発し、各記憶要求はダブルワード（８バイ
ト）以内である。

【００３７】ＩＥユニット１１０に要求されるダブルワ
ードを含むキャッシュ・ラインがキャッシュ・ユニット
６０内に存在すると、その条件はキャッシュ・ヒットと
称される。それ以外の場合は条件はキャッシュ・ミスと
称される。キャッシュ・ミスの場合、特定の特殊条件を
除きキャッシュ・ユニット６０はＩＥ１１０からの要求
を満足する以前に、最初にＳＣ７０を介してＭＳ８０か
らラインを要求する。ＩＥユニット１１０は協力的にプ
ロセッサ・パイプラインを支援する。説明の都合上、プ
ロセッサ・パイプラインは存在するものと仮定し、これ
に関する命令処理の主なステージについて以下に説明す
る。

【００３８】１．デコード及びアドレス生成ステージ−
命令がデコードされ、オペランド・アドレスが（必要に
応じて）生成される。例えば、ＩＢＭ／３９０アーキテ
クチャにおけるＬＯＡＤ（Ｌ）命令は、ワード（３２ビ
ット）をメモリ・ロケーションから汎用目的レジスタ
（ＧＰＲ）にロードする。命令自身（プログラム・オブ
ジェクト・コード内で指定される）は４バイト（３２ビ
ット）長である。第１バイトは命令自身を識別するオペ
コードである。２つのオペランドＲ１及びＤ２（Ｂ２、
Ｘ２）が存在し、これらは命令の次の３バイトで指定さ
れる。Ｒ１はメモリ・ワードを受信するＧＰＲである。
Ｄ２（Ｂ２、Ｘ２）はワード・データがそこからロード
されるメモリ・ロケーションを指定する。Ｄ２は１２ビ
ット変位であり、Ｂ２はベース・レジスタであり、Ｘ２
はインデックス・レジスタである。メモリ・オペランド
の論理アドレス（実行の現行アドレス指定モードに依存
して仮想或いは実の一方を取る）はＤ２値（０乃至４０
９５）とＧＰＲのＢ２及びＸ２の和として形成される
（各ＧＰＲは３２ビットを記録する）。特定の命令では
メモリ・オペランドが存在しなかったり、複数のメモリ
・オペランドが存在したりする。 ２．キャッシュ・アクセス・ステージ−このステージで
は、前のステージのアドレス生成フェーズにおいて形成
されたオペランド・アドレス（存在する場合に限る）を
使用し、、キャッシュからメモリ・データをアクセス
（読出し或いは書込み）する。このステージは必要に応
じて繰返される。最初にキャッシュ・ユニット６０が、
このステージに対応してキャッシュをアクセスするオペ
レーションに応答する。キャッシュ・ユニット６０によ
り受信されるアクセス・アドレスは特定の実施例に依存
して、論理或いは（常時）実である。 ３．実行ステージ−両方の要求オペランドが（存在し
て）使用可能な場合、ほとんどの命令（例えばＡＤＤ）
は実行される。

【００３９】理想的なパイプラインでは、各マシンサイ
クルは丁度１マシン・サイクルを消費する。しかしなが
ら、実行中の特定のステージの完了を引き延ばす種々の
遅延が発生する（例えばキャッシュ・ミス）。また、パ
イプラインの上述の骨組みにおいて、直接指定されない
様々な他のオペレーションが存在する。例えば、キャッ
シュからの命令のアクセスはオペランド・フェッチと類
似ではあるが、命令自身のフェッチ（Ｉ−フェッチと称
される）については説明されていない。

【００４０】図６はキャッシュ・ユニット６０の詳細ブ
ロック図を示す。従来のキャッシュ・ユニットには３個
の主要素が存在する。ＴＬＢ２１０は仮想アドレスから
実アドレスへの高速変換用に使用される変換ルックアサ
イド・バッファである。ＤＩＲ２２０はキャッシュの各
ライン・エントリに対し、実アドレス識別及び他の必要
なステータス・タグを含むキャッシュ・ディレクトリで
ある。ＡＲＲ２３０はキャッシュ配列或いはキャッシュ
・メモリであり、実際のキャッシュ・データ・ビットに
加え、パリティ・チェック或いは誤り訂正の為に必要な
他のビットを保持する。説明の都合上、４重セット・ア
ソシエイティブ・キャッシュ及び２重セット・アソシエ
イティブＴＬＢを示す。キャッシュは合計１２８キロバ
イト（ＫＢ）を有し、２５６合同クラス及び１２８バイ
ト／ラインに相当する。ＴＬＢ２１０内の合同クラスの
数は、続く説明においてはクリティカルではない。ＴＬ
ＢＬＡＴ２４１は１次元履歴テーブルであり、必ずしも
ＴＬＢ２１０内の合同クラスと同数のエントリを有する
必要はない。更にプロセッサＩＥ１１０は３２ビット論
理（仮想或いは実）アドレスを介し、記憶装置をアクセ
スする。キャッシュは実アドレス・ベース・キャッシュ
である。すなわち、物理ラインがキャッシュ内に挿入さ
れると、関連する合同クラスがラインの実アドレス・ビ
ットにより一意的に決定される。単純化のためキャッシ
ュ・ラインに対応する合同クラスの選択は、実ライン・
アドレス内の下位８ビットにより決定されるものとす
る。従って、任意の３２ビットの実アドレス（０乃至３
１）において関連するキャッシュ合同クラスはアドレス
・ビット１７乃至２４により選択される。

【００４１】最小限、ＴＬＢＬＡＴ２４１の各エントリ
は実アドレス・キャッシュに対応する合同クラスの選択
を解析するために必要なビットを含む。ＩＥ１１０によ
る記憶アクセスの為に要求される任意の３２ビット論理
アドレスＡ２５０に対し、Ａ［ｍ−ｎ］（０≦ｍ≦ｎ≦
３１）はｍ番目からｎ番目までのビット位置のＡ２５０
のアドレス・ビットを意味する。従って、Ａ［２５−３
１］はビット２５から３１までの論理アドレスＡを表
し、これはライン境界内のライン・オフセット・アドレ
スに相当する。Ａ［２０−３１］はページ境界内のペー
ジ・オフセット・アドレスを示し、これは変換により影
響を受けない（すなわち仮想と実が等しい）。２５６の
合同クラスが存在するため、ライン・アドレスＡ［０−
２４］の８ビットはデータ・アクセスに対応する２５６
合同クラスの内の１個を選択するために必要とされる。
しかしながら、合同クラスを選択するためにＡ［１７−
２４］がピックされると、Ａ［１７−１９］の３ビット
は３実アドレス・ビットに対応する８種の組合せのいず
れかに変換される。この例では、各ＴＬＢＬＡＴ２４１
エントリは前回の変換の実アドレス・ビット１７乃至１
９の履歴を記録する（少なくとも）３ビットを含む。例
えば、６４エントリを有するＴＬＢＬＡＴ２４１におい
て、Ａ［１４−１９］により指標化される３ビットのエ
ントリ（ＴＬＢＬＡＴ［Ａ］で示される）は、Ａ［１７
−１９］に対応する予測実変換である。この場合、ＴＬ
ＢＬＡＴ［Ａ］におけるこれらの３ビットはアクセスの
ための２５６合同クラスの内の１個を選択するために、
Ａ［２０−２４］と連鎖される。

【００４２】仮想アドレスＡ２５０によるＩＥ１１０か
らのキャッシュ・フェッチ・アクセスの実行フローを図
６において考察する。次に示す内容が最初に並列に発生
する。

【００４３】１．Ａ２５０の適切なビットがパス２７１
を介しＴＬＢ２１０に送られ、これらのビットにより定
義されるＴＬＢ２１０内のＴＬＢ合同クラス内に含まれ
る２個のエントリを読出す。出力２８１は比較ユニット
ＣＭＰ２６１に送られる。 ２．Ａ２５０の適切なビットがパス２７７を介してＴＬ
ＢＬＡＴ２４１の制御に送られ、キャッシュに対応する
実アドレス合同クラスの予測に必要なＴＬＢＬＡＴ
［Ａ］内の３ビットを選択する。この３ビットのＴＬＢ
ＬＡＴ［Ａ］出力はＣＭＰ２６１の制御、ＤＩＲ２２０
及びＡＲＲ２３０に送られる。 ３．Ａ２５０の適切なビット（例えば上述の例ではＡ
［２０−２４］）がＤＩＲ２２０及びＡＲＲ２３０の制
御に送られる。これらのアドレス・ビット（ページ境界
内に存在）はＴＬＢＬＡＴからの３出力ビットと連鎖さ
れ、キャッシュに対応する予測合同クラスを定義する。
この合同クラス情報が準備されると、次に示す内容が実
行される。すなわち、ａ）予測合同クラスにおける４個
のＤＩＲエントリがパス２８２を介してＣＭＰ２６１に
読み出され、ｂ）４個のダブルワードがＡＲＲ２３０か
ら読み出され、パス２８３を介してレイト・セレクト・
ユニット２６２に送られる。

【００４４】ＣＭＰ２６１の回路は次に示す主機能を実
行する。これらの機能はＣＭＰに対して以前に述べられ
たものと類似であるが、いくつかの変更を含む。

【００４５】１．ＴＬＢヒット或いはミス条件を検出
し、パス２８６を介して受信されたＴＬＢＬＡＴ［Ａ］
の３ビット予測を検証する。ＴＬＢヒット／ミス条件は
ＩＢＭ／３０９０設計におけるような標準の比較器によ
り決定される（図３参照）。ＴＬＢＬＡＴ［Ａ］予測の
検証は、ＴＬＢＬＡＴ［Ａ］（３ビット）をこれらの拡
張比較器に埋め込むことにより実施される。予測はそれ
が仮想アドレスＡがヒットするＴＬＢエントリの実アド
レスビット１７乃至１９に一致すると正しいと判断さ
れ、それ以外の場合には不正と判断される。ＴＬＢミス
条件はＣＭＰ２６１がＡ２５０の仮想ページ・アドレス
（及びＳＴＯ）に一致するエントリをＴＬＢ２１０内に
見い出せない場合に発生し、この場合、変換処理がトリ
ガされ目的の変換情報がＴＬＢ２１０の新たなエントリ
に挿入される。本発明の目的の都合上、ＴＬＢミス処理
の詳細については省略し、単に仮想アドレスに対応する
変換エントリが常時ＴＬＢ２１０内に見い出されるもの
とする。 ２．キャッシュ・ヒット／ミス条件の検出−キャッシュ
・ヒット或いはミス条件は対の比較により決定される
（ＤＩＲ２２０からの実アドレスをＴＬＢエントリから
抽出される実アドレスと比較する）。これは図３で示さ
れるＩＢＭ３０９０設計と類似ではあるが、より単純な
方法による。この単純化は同義語合同クラスが含まれな
いために、必要となる比較器の数を減らしたことに依存
する。この設計ではＤＩＲ２２０からの４実ライン・ア
ドレスをＴＬＢ２１０からの２実ページ・アドレスと対
で比較するために、８個の比較器だけが必要とされる。
レイト・セレクト信号２９１はレイト・セレクト・ユニ
ット２６２に対し、キャッシュ・メモリ２３０から読出
される４ダブルワード（存在する場合）のどれがＩＥ１
１０に送り返されるべきかを示す。（ＩＢＭ／３０９０
のような典型的なキャッシュでは、４ビット・ベクトル
がレイト・セレクト信号２９１として送られる。多くと
も１ビットがベクトル内でオンされる。）

【００４６】ここで上述の第２のステップにおいて、実
ライン・アドレスの一致がＣＭＰ２６１でＤＩＲ２２０
のエントリに対して見い出され、一方、合同クラス自身
は不正に予測される可能性が生じる。この場合、ＩＥ１
１０へのレイト・セレクト出力２９２は無効と見なされ
るべきである。図６においてＣＭＰ２６１はまた、有効
データが受信されるかどうかを示す確認信号２９３（例
えば単一ビット）をＩＥ１１０に出力する。特定の実施
例では上記のような別に設けた確認信号２９３を有する
必要がない。例えば、多くの設計においてレイト・セレ
クト・ユニット２６２は、レイト・セレクト・ダブルワ
ードが送り出されているかを示すデータ・レディ信号を
ＩＥ１１０に供給する。こうした設計では全てのレイト
・セレクト・ビット２９１のＡＮＤを取るか、或いはデ
ータ・レディ信号自身とのＡＮＤを取ることにより、確
認信号２９３は不要となる。

【００４７】図６においてＣＭＰ２６１はまた適切な時
にキャッシュ・ミス条件を示す信号２９４を生成する。
キャッシュ・ミス条件はキャッシュ合同クラス予測は正
しいが、ＴＬＢとディレクトリ実アドレスとの８対のア
ドレス比較が一致を見い出せなかった場合に生じる。信
号２９４が発生すると適切なキャッシュ・ミス・アクシ
ョンがトリガされ、目的のラインのコピーをＭＳ８０か
らキャッシュ・ユニット２３０内にもたらす。キャッシ
ュ・ミス処理はこれまでに広範に実行され、本発明の主
要部分ではないため、これ以上の詳細についてはここで
は触れないことにする。

【００４８】次にＣＭＰ２６１が３ビット予測ＴＬＢＬ
ＡＴ［Ａ］が不正であることを検出する状況について説
明する。この条件は続くサイクルにおいて、要求に対す
るキャッシュへの再アクセス及びＴＬＢＬＡＴ２４１履
歴情報の更新をトリガする。単純なアプローチではキャ
ッシュに対する再アクセスは確認信号２９３内の特殊ス
テータス・ビットによりトリガされ、続くサイクルにお
いてＩＥ１１０により再発行される。別のアプローチで
はキャッシュ・ユニット６０自身に再アクセスの解析を
させ、その間、ＩＥ１１０はアクセス保留状態でいる。

【００４９】ＴＬＢＬＡＴ２４１の更新が信号２９４に
よりトリガされ、エントリＴＬＢＬＡＴ［Ａ］に対する
正しい実ビット（１７乃至１９）を提供する。理想のケ
ースではキャッシュ再アクセス及びＴＬＢＬＡＴ更新の
両方が、直後のサイクルにおいて実行される。しかしな
がら、キャッシュへの再アクセスが最初にＴＬＢＬＡＴ
２４１の読出しを要求する図６のデータ・フローを伴う
場合、読出し以前にタイムリに更新を可能とするために
ＴＬＢＬＡＴ２４１に対して２ポート・タイプの回路が
必要となる。

【００５０】同一サイクル内でＴＬＢＬＡＴ２４１の書
込み及び読出しの両方を可能とする要求を回避する１つ
のアプローチとして、キャッシュ再アクセスにおいてＴ
ＬＢＬＡＴ２４１をバイパスする。図７はこの目的のた
めのＴＬＢＬＡＴ２４１の制御回路を示す。不正予測に
対しＴＬＢＬＡＴ２４１の更新のための正しい３実アド
レス・ビット（及び他に必要なタグ）が、ＴＬＢＬＡＴ
制御のレジスタＵ２４２にラッチされる。ＴＬＢＬＡＴ
制御は現行サイクルにおいて、ＴＬＢＬＡＴ２４１を読
出すか或いは書込むかを決定するための優先論理を有す
る。ＴＬＢＬＡＴ更新フェーズの間、新たな３ビットが
パス２９６ａを介し、Ｕ２４２からＴＬＢＬＡＴ２４１
に入力される。ＴＬＢＬＡＴ読出しフェーズの間、出力
ビットがパス２５１を介し、ＡＮＤゲート２５３を通じ
て受信ユニットに送られる。ＡＮＤゲート２５３はＵ２
４２及びＴＬＢＬＡＴ２４１からの出力の論理積を取
る。ＴＬＢＬＡＴ更新フェーズの間、出力２５１は全て
１に保持される。またＴＬＢＬＡＴ読出しフェーズの
間、出力２５２は全て１に保持される。

【００５１】特定の実施例では、ＴＬＢＬＡＴからの予
測をキャッシュ・ディレクトリ／アクセス・サイクルよ
り以前のサイクル（例えば論理アドレス生成サイクル）
において実行することを選択する。こうしたケースでは
ＴＬＢＬＡＴ２４１アクセスに対するタイミング要求は
緩和される。

【００５２】仮想アドレスからのキャッシュ・フェッチ
・アクセスのデータ・フローについてはこれまでに説明
された。実アドレス・モードではＩＥ１１０は実アドレ
スを介し、直接キャッシュ・アクセスを発行する。この
場合、ＴＬＢルックアップ及びＴＬＢＬＡＴ予測に関す
る上述のオペレーションは、従来システム設計における
ＴＬＢルックアップでのみ実行されたように無視（バイ
パス）される。

【００５３】ＴＬＢＬＡＴ２４１における最小要求は、
各エントリに実アドレス合同クラス選択を解析するため
に必要なこれらのビット（２５６合同クラスを有する上
述の実施例では３ビット）を転送することである。しか
しながら、特定の設計では各ＴＬＢＬＡＴ２４１エント
リにより多くの情報を記録することが有益である。１つ
の例として、各ＴＬＢＬＡＴ２４１エントリに３ビット
の代わりにフル実ページ・アドレスを記録する。すなわ
ち、ＴＬＢＬＡＴ［Ａ］はＴＬＢＬＡＴ２４１の特定の
エントリに記録される以前のＴＬＢ変換に対応するフル
実ページ・アドレス・ビット０乃至１９を含む。図８は
フル実ページ・アドレス予測を使用する図６に対する設
計変更を示す。

【００５４】図８において、ＴＬＢＬＡＴ２４１からの
出力ＴＬＢＬＡＴ［Ａ］（パス２７５を介してＤＩＲ２
２０にパスされる）は、予測フル実ページ・アドレス
（すなわちビット０乃至１９）である。図６では予測の
最後の３ビット（１７乃至１９）がＡ２５０からのアド
レス・ビット２０乃至２４と連鎖され、アクセスに対応
する予測合同クラスを決定するために使用される。しか
しながら、図８では図６の比較ユニットＣＭＰ２６１
は、ＣＭＰａ ２６１ａ及びＣＭＰｂ ２６１ｂの２つ
の部分に分解される。ＣＭＰａ ２６１ａはＴＬＢヒッ
ト／ミスの検出及びＴＬＢＬＡＴ２４１における履歴の
訂正を扱う。ＣＭＰｂ ２６１ｂはＤＩＲ探索だけを扱
う。

【００５５】１．ＣＭＰａ ２６１ａはＴＬＢ２１０か
らエントリ２８１を受取り、Ａ２５０から必要な仮想ペ
ージ・アドレス情報（ＩＢＭ／３９０アーキテクチャで
はＳＴＯを含む）を受取る。これらのエントリに対しＣ
ＭＰａはＴＬＢ２１０内で仮想アドレスがヒットするか
を判断し、ヒットする場合にはＴＬＢ２１０のエントリ
においてそれはヒットする。ＴＬＢ２１０は各エントリ
がＴＬＢＬＡＴ２４１内の対応するエントリ（ＴＬＢＬ
ＡＴ［Ａ］）に、記録される実アドレスを有するかを示
す情報を含むように拡張される。この拡張情報により、
ＣＭＰａ ２６１ａはＴＬＢヒットにおいて、ＴＬＢＬ
ＡＴ［Ａ］がＡ２５０に対応する実ページ・アドレスを
含むかどうかを判断する。ＴＬＢヒットが存在する場
合、ＣＭＰａ ２６１ａはライン２９５を介し、肯定信
号（例えば１ビットＴ＝１）をユニット２６１ｃに出力
し、それ以外の場合にはライン２９５上に否定信号（例
えば１ビットＴ＝０）を出力する。ＴＬＢＬＡＴ２４１
による誤り予測が検出される場合、正しいＴＬＢＬＡＴ
［Ａ］値がＴＬＢＬＡＴ更新ライン２９４上に履歴更新
のために送られる。 ２．ＣＭＰｂ ２６１ｂはＴＬＢＬＡＴ［Ａ］のビット
０乃至１６（パス２８８を介し受信される）を、実ライ
ン・アドレス（ビット０乃至１６）と比較する。後者は
ＴＬＢＬＡＴ［Ａ］のビット１７乃至１９、及びＡ２５
０のビット２０乃至２４により決定される合同クラスに
おけるＤＩＲ２２０の各４ライン・エントリから、パス
２８２を介して読出される。レイト・セレクト信号２９
１はＣＭＰｂ ２６１ｂにおいて一致するディレクトリ
の結果により、ユニット２６２に送られる。ＤＩＲ２２
０のエントリにおいてアドレス一致が見い出されると、
信号２９６（例えば１ビットＤ＝１）がユニット２６１
ｃに送られ、それ以外の場合には否定信号（例えば１ビ
ットＤ＝０）が送られる。 ３．ユニット２６１ｃにおける論理は、ＣＭＰａ ２６
１ａ及びＣＭＰｂ ２６１ｂからの結果を併合し、適切
な確認信号をＩＥ１１０に送信する。パス２９２を介し
ＩＥ１１０により受信されるデータは、Ｔ（ＣＭＰａか
ら）及びＤ（ＣＭＰｂから）の両方のエントリが肯定の
場合に限り有効となる。従って、ＩＥ１１０への確認信
号２９７は、単にビット値Ｔ＆Ｄとなる。キャッシュ・
ミス条件はＴＬＢＬＡＴ［Ａ］予測は正しいが、ＣＭＰ
ｂ ２６１ｂにおけるディレクトリ探索によりアドレス
一致が見い出されない場合に（すなわち信号２９５に対
しＴ＝１、信号２９６に対しＤ＝０）、論理ユニット２
６１ｃによりライン２９８上に生成される。Ｔ＝０信号
２９５がＣＭＰａ ２６１ａから受信される時、論理２
６１ｃはＴＬＢＬＡＴ［Ａ］に対する誤り予測を示す条
件を生じ、これは既に図６に関し述べたように、ＴＬＢ
ＬＡＴ２４１における履歴更新、及びデータの再アクセ
スをトリガする。

【００５６】図６のアプローチと比較してこの場合のア
プローチの利点は、ＴＬＢ２１０及びＤＩＲ２２０から
のデータの比較のために、直接併合すること（これは図
６のＣＭＰ２６１において実施された）を回避する点で
ある。これにより物理的に区分化された設計がより容易
になる。ＴＬＢＬＡＴ２４１に履歴ビットを増やす代償
により、キャッシュ・ディレクトリ探索がＴＬＢルック
アップから分離される。

【００５７】図８の実施例ではＴＬＢ２１０においてタ
グ法を使用し、そのエントリがＴＬＢＬＡＴ２４１にお
ける対応範囲を有するかを認識した。これは様々な方法
により可能である。例えば、ＴＬＢＬＡＴ２４１がＴＬ
Ｂ２４１のサブセットとして保持される。各ＴＬＢ２１
０エントリはＴＬＢＬＡＴ２４１における範囲を示す特
殊ビットＬにより拡張される。仮想ページ・エントリが
（例えば旧エントリの置換により）最初にＴＬＢ２１０
において生成される時、関連するＬビットがターン・オ
フされる（０となる）。またＴＬＢ２１０におけるエン
トリのＬビットは、実アドレス・ビットが（仮想ページ
・アドレスに関連するエントリにおいて）ＴＬＢＬＡＴ
２４１に更新される時、ターン・オンされる（１とな
る）。

【００５８】しかしながら、ＴＬＢＬＡＴエントリがそ
の旧値をセットしたものとは異なるＴＬＢエントリによ
り更新される可能性がある。従って、ＴＬＢＬＡＴ２４
１エントリが更新される時には、常に以前にその値をセ
ットしたＴＬＢエントリのＬビットをターン・オフする
必要がある。この手順は種々の単純なＴＬＢ／ＴＬＢＬ
ＡＴエントリ選択アルゴリズムにより可能となる。例え
ば、ＴＬＢ２１０が１２８合同クラス及び４重セット・
アソシエイティビティを有し、ＴＬＢＬＡＴ２４１が２
５６エントリを有する設計について考察する。任意の仮
想アドレスＡ２５０に対し、７アドレス・ビットＡ［１
３−１９］がＴＬＢ２１０における合同クラスの選択に
使用され、８アドレス・ビットＡ［１２−１９］がＴＬ
ＢＬＡＴ２４１内のエントリの選択に使用される。従っ
て、ＴＬＢＬＡＴ２４１内の各エントリはＴＬＢ２１０
の単一の合同クラスに記録されるページによってのみ更
新される。その結果、ＴＬＢＬＡＴ２４１エントリがＴ
ＬＢ２１０内のエントリから更新される時、同一のＴＬ
ＢＬＡＴ２４１エントリに関連するＬ＝１のページ・エ
ントリ（すなわち同一の仮想アドレス・ビットｂ１２を
有する）に対するＴＬＢ２１０の同一の合同クラスを調
査することが必要となる。

【００５９】しかし、図８の設計の別の拡張ではＴＬＢ
ＬＡＴエントリ内に仮想アドレス情報を含む（ＩＢＭ／
３９０アーキテクチャではＳＴＯを含む）。このように
ＴＬＢＬＡＴ２４１は１次元の全機能変換テーブルとし
て作用し、通常のＴＬＢ２１０のサブセットとして維持
される。図９は全機能ＴＬＢＬＡＴ２４１を使用する図
８の実施例の変更を示す。

【００６０】図９において、ＣＭＰａ ２６１はより大
規模なＴＬＢ２１０からではなくＴＬＢＬＡＴ２４１か
ら直接、変換情報を獲得する。この実施例ではＴＬＢＬ
ＡＴ２４１は本発明による仮想アドレス変換以前の早期
キャッシュ・アクセスに対する実アドレス予測機能を実
施するばかりでなく、従来の小ＴＬＢのテーブル部分も
同様に実施する。図９のＴＬＢ２１０は、必要時に（別
の比較ユニット２６３からライン２９８を介し）ＴＬＢ
ＬＡＴ２４１に変換情報を提供する目的でのみ機能す
る。各アクセスに対し即座にＴＬＢ２１０の探索を喚起
するか、或いはＴＬＢＬＡＴ２４１がミスした場合に限
りこうした全機能テーブルＴＬＢの探索を喚起するかは
設計の選択による。図９の実施例では、実際には２レベ
ルのＴＬＢが存在し、より小さなＴＬＢテーブル機能は
本発明の実ビット予測機能を実現するための小テーブル
２４１を使用して実施される。

【００６１】上述の実施例を説明するに当たり、フェッ
チ（読出し）アクセス記憶要求についてのみ詳細に述べ
てきた。ここでＩＥユニットからのオペランド格納（書
込み）要求は、例えばＩＢＭ／３０９０システムにおい
て実施されるような、従来の遅延格納アプローチなどを
使用することにより、従来通りに扱われるものとする。
遅延格納アプローチでは実行ユニットからのオペランド
は、最初にレジスタにラッチされ、キャッシュ・ディレ
クトリ・アドレス比較結果を待機する（例えばキャッシ
ュ・ヒット／ミス、保護キー違反など）。ディレクトリ
結果が複雑化を生ぜずに認識されると、ラッチ内容が後
のサイクルにおいてキャッシュ配列に格納される。この
遅延格納機構において、キャッシュ・アクセスに本発明
による予測が含まれる場合、キャッシュ・ディレクトリ
探索により格納ロケーションが正確に識別されるため、
著しくオペランドの格納処理を単純化する。このように
配列への実際のデータの格納は誤り予測により複雑化さ
れることはない。

【００６２】説明された実施例では、レイト・セレクト
機構が仮定された。特定の設計においてはこうしたレイ
ト・セレクトは要求されない。典型的な例として、直接
マップ化（或いは１重セット・アソシエイティブ）キャ
ッシュ設計がある。直接マップ化キャッシュ設計では合
同クラスが決定されるまで、アクセスのために選択でき
る単一のライン・エントリだけしか存在しない。キャッ
シュ・ミスの場合、旧ラインは新たなラインにより置換
される。直接マップ化キャッシュは等価のトータル・サ
イズのセット・アソシエイティブ・キャッシュと比較し
て高いミス率を示すが、実施において単純化できる。例
えば、レイト・セレクトは不要である。合同クラスが決
定されるや否や、キャッシュ・フェッチ・アクセスがラ
イン・エントリからデータ・ユニットを読出し、それを
ＩＥユニットに直接送信する。ディレクトリ比較により
キャッシュ・ヒット／ミス条件を識別し、要求するＩＥ
ユニットにその結果に従い通知する。

【００６３】しかしながら、直接マップ化キャッシュは
まだ同義語問題に遭遇する。例えば、１２８バイト／ラ
インで２５６合同クラスを有する実アドレス・ベースの
直接マップ化キャッシュについて考察する。これは本
来、図６のキャッシュのセット・アソシエイティビティ
が４から１に減少された場合に相当する。ＩＥユニット
からの任意の仮想アドレスに対し、実アドレス・ビット
１７乃至１９はまだ以前と同様に解析される必要があ
る。図１０はＴＬＢＬＡＴ予測を使用したこうした直接
マップ化キャッシュの設計を示す。

【００６４】図１０は図６の変形である。ＤＩＲ２２０
及びＡＲＲ２３０は両者とも、直接マップ化構造を表す
ために１次元テーブルに変更される。図６の（ＣＭＰ２
６１からの）レイト・セレクト信号ライン２９１、及び
レイト・セレクト・ユニット２６２は除去されている。
図１０は数多くのシステムにおいて非常に効果的な著し
く単純なキャッシュ設計を表す。ＴＬＢＬＡＴ２４１を
使用する利点は、ＴＬＢ２１０を通じての逐次変換によ
るタイミング的オーバーヘッド無しに、同義語フリーな
実アドレス・ベース・キャッシュを実施する点である。

【００６５】上述の実施例では、ＴＬＢＬＡＴ２４１か
らの履歴エントリの選択は、特定の固定仮想アドレス・
ビットにもとづく。一般に異なる仮想アドレスが同一の
履歴エントリに容易に衝突しないように、こうしたエン
トリの選択をランダム化することが望ましい。図１１は
前述の直接選択方法を表し、ここでは８下位仮想ページ
・アドレス・ビット（ｂ１７乃至ｂ２４）がＴＬＢＬＡ
Ｔエントリを選択するために直接使用される。図１２は
多少高度なアプローチを示し、ここでは仮想アドレス・
ビット１７乃至２４がビット９乃至１６と排他的論理和
され、合同クラス選択における最終８ビットを生成す
る。

【００６６】必要に応じ仮想アドレス・ビット以外の情
報が履歴エントリ選択手段に組込まれたりする。例え
ば、ＩＢＭ／３９０アーキテクチャでは各ユーザのアド
レス空間（或いはプログラム空間）が、実記憶域のセグ
メント・テーブルの開始アドレスであるＳＴＯ（Segmen
t Table Origin）により識別される。ＴＬＢＬＡＴエン
トリの選択は、例えば、仮想アドレス自身から特定のビ
ット及びマシン内のＳＴＯ表現からの特定のビットをハ
ッシュして獲得される値により実施される。明らかなよ
うに、キャッシュ・アクセスにおける実ビットを読出す
ために、どのような技術の選択によりＴＬＢＬＡＴがア
クセスされようと、ＴＬＢＬＡＴが予測をミスする場合
には、実ビットの正しい履歴値を格納するために、ＴＬ
ＢＬＡＴをアクセスすることが必要となる。

【００６７】上述の実施例では、ＴＬＢＬＡＴ履歴テー
ブルの単一のコピーが説明の都合上使用されたが、こう
したテーブルは必要に応じ反復されて使用されても良
い。

【００６８】本発明は上述の実施例では単一のプロセッ
サにおいて説明されたが、既述の技術は他のタイプのプ
ロセッサ・キャッシュ構成においても適用可能である。
例えば、Ｉ−キャッシュが命令フェッチ専用に使用さ
れ、別のＤ−キャッシュがオペランド・データ・アクセ
ス（読出し或いは書込み）用に使用される周知のＩ／Ｄ
分離キャッシュ構成において適用可能である。変換情報
を予測する技術はＩ−キャッシュ及びＤ−キャッシュに
独立に適用される。シミュレーション結果から、命令フ
ェッチはオペランド・アクセスよりも強い局所性を有す
ることが知られている。従って、Ｉ−キャッシュ・アク
セス用には小さなＴＬＢＬＡＴが、またＤ−キャッシュ
・アクセス用には大きなＴＬＢＬＡＴが使用されること
が望ましい。

【００６９】ＴＬＢＬＡＴ機能を使用する主な利点は、
変換情報を獲得するための複雑化が減少される点であ
る。例えば、２５６エントリ及びエントリ当たり３ビッ
トを有する前述のＴＬＢＬＡＴはかなり小さなテーブル
に収まるが（８００ビット以下）、実アドレスの非常に
精度の高い予測を提供する。小サイズのＴＬＢＬＡＴテ
ーブルは効率を向上させるための様々な可能性を提供す
る。例えば、読出し及び書込みの速度をより高速化する
ために、ＴＬＢＬＡＴにより高速な回路を使用すること
が可能である。また、信号遅延を減らすために、テーブ
ルをキャッシュ・アクセスのためのクリティカル・パス
のより近傍に物理的に配置することも可能である。

【００７０】ハードウェア設計において、間欠誤りの検
出及び訂正のために、パリティ・ビット及び／或いは誤
り訂正符号（ＥＣＣ）がしばしば使用される。ほとんど
の実施例では、ＴＬＢＬＡＴの内容にこうした保護を追
加する固有な要求は存在しない。なぜなら、こうした履
歴情報は予測のためにのみに使用され、直ちに検証され
るからである。しかしながら、パリティ及び／或いはＥ
ＣＣビットはＲＡＳ（信頼性、有用性、及びサービス
性）の目的では有効である。

【００７１】上述の実施例では、仮想アドレス変換情報
を予測する方法が、キャッシュ・アクセスをより効率的
にするためにキャッシュ・アクセスの実施例に適用され
た。こうした予測技術は、実アドレス・ビットのより高
速な獲得が有益である他の設計目的にも有用である。

【００７２】本発明は好適な実施例に関し述べられてき
たが、当業者においては本発明が特許請求の範囲に示さ
れる精神及び範中において、変更され実施可能なことが
理解されよう。

【００７３】

【発明の効果】以上説明したように本発明によれば、キ
ャッシュ・アクセスのための実アドレス・ビットを予測
する適切な履歴テーブルを使用することにより、仮想ア
ドレスから実アドレスをより高速に、且つより正確に提
供することが可能となり、効率的で柔軟なキャッシュ・
アクセス機構が提供される。

【図面の簡単な説明】

【図１】典型的キャッシュの２次元構造を示すブロック
図である。

【図２】ＴＬＢ及びキャッシュ・ディレクトリ・エント
リの読出し、アドレス比較、配列データ読出し、及びデ
ータのレイト・セレクトのオペレーションを表す従来技
術のブロック図である。

【図３】ＩＢＭ／３０９０キャッシュ設計のブロック図
である。

【図４】従来技術によるＭＲＵキャッシュ設計を表すブ
ロック図である。

【図５】本発明の実施例によるハイレベルなシステム構
成を表すブロック図である。

【図６】本発明による合同クラス選択の高速解析のため
の単純なＴＬＢＬＡＴ履歴テーブルを組込んだ実アドレ
ス・ベースのキャッシュ設計を表すブロック図である。

【図７】ＴＬＢＬＡＴのデュアル・ポート機構を必要と
せずに、ＴＬＢＬＡＴの読出し及び書込みが履歴更新の
間に分離される様子を示すブロック図である。

【図８】各ＴＬＢＬＡＴエントリが全ての実ページ・ア
ドレス・ビットを含むようにＴＬＢＬＡＴが拡張され
た、図６の設計に対する変更を表すブロック図である。

【図９】ＴＬＢＬＡＴをＴＬＢ機能と併合しフル仮想ア
ドレス変換機能を提供するようにＴＬＢＬＡＴが更に拡
張された、図８の設計の変更を表すブロック図である。

【図１０】本発明による直接マップ化キャッシュ・アプ
リケーションに対応する図６の設計の別の変更を表すブ
ロック図である。

【図１１】ＴＬＢＬＡＴ履歴テーブルにおけるエントリ
選択に対応する単純な技術のブロック図である。

【図１２】ＴＬＢＬＡＴ履歴テーブルにおけるエントリ
選択のランダム化技術を表すブロック図である。

【符号の説明】

６０ キャッシュ・ユニット ７０ 記憶制御装置（ＳＣ） ８０ 主記憶装置（ＭＳ） １１０ 実行（ＩＥ）ユニット １１２ メモリ・アドレス・ビット １１６ 選択合同クラス ２１０ ２重セット・アソシエイティブＴＬＢ ２２０ キャッシュ・ディレクトリ ２４１ ＴＬＢＬＡＴ ２４２ レジスタＵ ２６１ 比較ユニットＣＭＰ ２６２ レイト・セレクト・ユニット ２９１ レイト・セレクト信号 ２９２ レイト・セレクト出力 ２９３ 確認信号

Claims (4)

【特許請求の範囲】
1. 【請求項１】コンピュータ・システムにおける仮想アド
   レスからの高速データ・アクセスのための装置であっ
   て、 データ・ラインを格納するキャッシュ・メモリを含み、
   前記各々のデータ・ラインは、該各々のデータ・ライン
   の実アドレスに係わる実アドレス・ビットのサブセット
   にもとづき格納及びアクセスされ、前記サブセットは実
   アドレスが対応する仮想アドレスから生成される時に、
   変換された少なくとも１つの実アドレス・ビットを含
   み、 前記各データ・ラインに対応する実アドレスを格納する
   キャッシュ・ディレクトリと、 前記仮想アドレスが対応する実アドレスへ変換を完了す
   る以前に、目的のデータのために前記仮想アドレスから
   前記少なくとも１つの実アドレス・ビットを予測する履
   歴テーブルと、 前記履歴テーブルによって予測された前記少なくとも１
   つの予測実アドレス・ビットに応答し、それに対応する
   少なくとも１データ・ラインを仮に前記キャッシュ・メ
   モリから出力するキャッシュ・メモリ・アクセス制御手
   段と、 前記少なくとも１つの予測実アドレス・ビットに応答
   し、前記キャッシュ・ディレクトリから各前記少なくと
   も１つのデータ・ラインに対応する、前記キャッシュ・
   ディレクトリに格納された実アドレスを出力するキャッ
   シュ・ディレクトリ・アクセス制御手段と、 前記仮想アドレスに実際に対応する真の実アドレスを生
   成するアドレス変換手段と、 前記真の実アドレスを各前記少なくとも１つのデータ・
   ラインに対応して出力される実アドレスと比較する検証
   手段と、 を含むことを特徴とする装置。
2. 【請求項２】前記履歴テーブルは各エントリが仮想アド
   レス・ビットの所定のサブセットによりアクセスされる
   複数のエントリを含むことを特徴とする請求項１記載の
   装置。
3. 【請求項３】任意の仮想アドレスは前記エントリの１つ
   にのみ応答することを特徴とする請求項２記載の装置。
4. 【請求項４】前記履歴テーブル内の前記エントリは前記
   履歴テーブルをアクセスするために使用される仮想アド
   レス・ビットのサブセットに関し、ランダム化されるこ
   とを特徴とする請求項２記載の装置。