JPH01193938A - 命令先読み装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 産業上の利用分野 ２　ベーン 本発明は、プロセッサで用いられる命令先読み装置に関
するものである。

従来の技術 命令の実行を複数のステージに分け、並行的に処理する
パイプライン方式のプロセッサにおいては、命令の実行
に先行した命令の先読み動作を行う。命令の読出しは通
常メインメモリから行われるが、近年、メインメモリと
プロセッサの間にキャッシュメモリを設け、高速な読出
し動作と、システムバスの効率的利用をはかるようにな
って来た〇 一方、命令の先読み動作はアドレス順に行なわれるため
、分岐時には、先読み効果は減少する。

そこで、種々の方法が考案されている。例えば、マルチ
ストリーム方式、分岐予測方式等である。

パイプライン方式のプロセッサでは、分岐の成立、不成
立が確定する以前に分岐先アドレスを計算することが可
能であるため、マルチストリーム方式は有効である。そ
の−例として、計算された分岐先アドレスを用いて、先
行的にキャソシュメモリ３　ベーン をアクセスし、ヒツトした場合には、その分岐先命令を
用意しておく方法がある。もし、分岐が成立した場合に
は、この命令を用いて、実行を再開すれば良いため、処
理効率の低下を低く抑えることができ、もし分岐が不成
立であった場合には、命令の先読み動作は、アドレス順
に行われるため、−殻内には、処理効率の低下は低く、
実行の再開はヌムーズであると考えられる。

従来の技術としては上記のようなマルチストリーム方式
の命令先読み装置が考えられている。

発明が解決しようとすｍ しかし、上記のような構成では、分岐先アドレスを用い
てキャッシュメモリをアクセスする場、必ずしもキャッ
シュメモリが読出し状態にあるとは限らない。すなわち
、キャッシュメモリが、アップデート中である場合が存
在する。この時には、キャッシュメモリへの書込みが終
了するまで、分岐先アドレスのフェッチは待たされる。

ところが、この時キャッシュメモリへ書き込まれる命令
は、命令がアドレス順に先読みされていることから、分
岐が不成立であった場合に使用される命令であるだめ、
この命令先読み装置では、分岐が不成立であった場合に
使用される命令のフェッチが著るしく優先されている。

このように、従来の命令先読み装置では、分岐が成立し
た場合に使用される命令と、分岐が不成立の場合に使用
される命令とのフェッチのバランスが著しく悪く、分岐
が成立した場合のオーバーヘッドが大きくなるという問
題点を有していた。

本発明はかかる点に鑑み、上記２つの場合の命令フェッ
チのバランスを良くシ、分岐時のオーバーヘッドを小さ
く出来る命令先読み装置を提供す本発明はキャッシュメ
モリと未解読命令の量を検出する検出装置とを備えた命
令先読み装置である０ 作　　用 本発明は前記した構成により、分岐先命令をキャッシュ
メモリを用いてフェッチする際、キャツ５、、−１・ シュメモリがアップデート状態にあった場合に、検出装
置が、未解読命令の量、すなわち分岐が不成立であった
場合に使用する命令の量を検出し、その情報にもとづき
、分岐先命令のフェッチを優先するようにすることで、
命令フェッチのバランスを良くし、分岐時のオーバーヘ
ッドを減少することができる。

実施例 第１図は本発明の実施例における命令先読み装置のブロ
ック図を示すものである。第１図において、１は先読み
すべき命令のアドレスを保持する命令アドレスカウンタ
、２は、分岐先のアドレスを一時的に保持する分岐先ア
ドレスレジスタである。３は命令アドレスカウンタ１お
よび、分岐先アドレスレジスタ２に保持しているアドレ
スを用いて高速に命令をフェッチする命令キャッシュ、
４は命令キャッシュ３の動作を制御するキャッシュ制御
装置である。５は、命令アドレスカウンタ１に保持して
いるアドレスを用いて命令キャッシュ３から読出された
命令を保持するＦＩＦＯ形式の命令ハソファ、６は、分
岐先アドレスレジスタ２に保持しているアドレスを用い
て命令キャッシュ３から読出された命令を保持する分岐
先命令レジスタである。７は命令バッフ７５に保持して
いる未解読命令の数を検出する命令数検出装置、８は命
令バッファ５と分岐先命令レジスタ６に保持している命
令のうちどちらを選択するかを決定するセレクタである
。９は命令を解読し、分岐先命令のアドレスを計算する
命令解読部である。１０は、メインメモリ、１１はシス
テムバスである。

第２図は、本発明の実施例における命令先読み装置の動
作を示すシーケンス図である。図において、ＣＩ、０２
等は動作サイクル、ｎ　、ｎ＋１等は命令アドレス、Ｉ
　（ｎ）等は、アドレスｎ等に対応する命令である。１
は通常動作（後述）における命令キャッシュヒント時の
動作、２は命令キャッシュミスヒツト時の動作をそれぞ
れ示す。

第３図は、本発明の実施例における命令先読み装置の動
作を示すシーケンス図である。図において、Ｂｏｏは条
件分岐命令、ｍは分岐先アドレス、７　へ−／ 工（ホ）は分岐先命令である。他の記号は、第２図と同
様なだめ省略する。又、この図は分岐動作における分岐
先命令の先読み動作を示している。

第４図は、本発明の実施例における命令先読み装置の分
岐先命令フェッチと、命令キャッシュ３のアップデート
とが同サイクルに重なった場合の動作を示すシーケンス
図である。図において、命令数検出装置子の命令数が０
３サイクルで１命令であることを示している。他の記号
は第２図、第３図と同様であるため、省略する。本図に
おいては、命令キャッシュ３への書込み動作が優先され
た場合が示されている。

第５図は、本発明の実施例における命令先読み装置の分
岐先命令フェッチと、命令キャッシュ３のアップデート
とが同サイクルに重なった場合の動作を示すシーケンス
図である。図において、命令数検出装置７の命令数が、
Ｃ３サイクルにおいて３命令であることを示している。

他の記号は、第２図、第３図、第４図で使用したものと
同様であるだめ省略する。本図においては、分岐先命令
先読みが優先された場合が示されている。

第１図のように構成されたこの実施例の命令先読み装置
について以下その動作を説明する。この実施例の命令先
読み装置の動作は大きく分けて以下の２つに分けられる
。

（１）命令をアドレス順に先読みする通常動作、（２）
分岐命令を命令解読部９が解読した場合に、分岐の成立
または不成立が判定する以前に、分岐先命令の先読みを
行う分岐動作、 （２）の動作は、本命令先読み装置が、いわゆるマルチ
ヌトリーム方式の命令読出しを行うことを意味する。

まず、通常動作について、第２図を用いて説明する。

第２図の（１）は通常動作において命令キャッシュ３が
ヒツトしている場合、？）は命令キャッシュ３がミスヒ
ノ）している場合をそれぞれ示す◎まず通常動作（１）
の場合について説明する。

Ｃ１サイクル 命令アドレスカウンタ１内に保持しているアト９、−プ レス（ｎ）を用いて、命令キャッシュ３をアクセスする
。命令キャッシュ３はこのアドレス（ｎ）に対応する命
令があるためヒントし、その命令（Ｉ（ｎ））を送出す
る。

Ｃ２サイクル Ｃ１サイクルで命令キャッシュ３より送出された命令（
Ｉ（ｎ））を命令バッファ５に格納する０又、Ｃ１サイ
クルで命令キャッシュ３がヒツトしたため、命令アドレ
スカウンタ１内に保持しているアドレス（ｎ）は歩進さ
れ、ｎ＋１になる。このアドレスを用いて、命令キャッ
シュ３をアクセスする０以下Ｃ１サイクルと同様である
。

Ｃ３サイクル以降は、ＣＩ、Ｃ２サイクルの動作を繰り
返し、第２図の（１）のように命令の先読み動作を行う
。

次に、通常動作（２）の場合について説明する。

、　　Ｃ１サイクル 命令アドレスカウンタ１内に保持しているアドレス（ｎ
）　ヲ用いて、命令キャッシュ３をアクセスする。命令
キャッシュ３は、このアドレス（ｎ）に対応１０、−ゾ する命令が存在しないためミスヒツトし、同時にミスヒ
ツトしたことをキャッシュ制御装置４に通知する。

Ｃ２サイクル キャッシュ制御装置４は、Ｃ１サイクルにおいて命令キ
ャッシュ３がミスヒツトしたため、システムバス１１を
獲得し、メインメモリ１ｏをアクセスするよう制御する
。又、命令キャッシュ３を書き込み状態にする。

Ｃ３サイクル バスサイクルである。システムバス１１には、命令（Ｉ
（ｎ））　　が送出される。

Ｃ４サイクル キャッシュ制御装置４は、システムバス１１に送出され
た命令（Ｉ（ｎ））を命令キャッシュ３に書き込むよう
制御し、命令キャッシュ３はアップデートされる。

Ｃ５サイクル キャッシュ制御装置４は、命令キャッシュ３を読出し状
態にする。命令アドレスカウンタ１内に１１　へ−ジ 保持しているアドレス（ｎ）により、再度、命令キャッ
シュ３をアクセスするが、Ｃサイクルで命令キャッシュ
３がアップデートされたため、対応する命令（Ｉ（ｎ）
　）が存在し、ヒツトする０同時に、命令キャッシュ３
は命令（Ｉ（ｎ））を送出する。

Ｃ６サイクル 命令キャッシュ３から送出された命令（Ｉ（ｎ））を命
令バッファ５に格納する。又、命令アドレスカウンタ１
が歩進され、ｎ＋１となシ、命令キャクユ３をアクセス
する。

以上が通常動作であり、命令キャッシュ３がヒツトする
かどうかに応じて、上記（１）、に））の動作を行いな
がら、命令の先読み動作を行う。

次に、分岐動作について、第３図、第４図、第５図を用
いて説明する。分岐動作では、分岐先命令を先読みする
がこのとき、命令キャッシュ３が、読出し状態にあるか
、書き込み状態にあるかで場合が分かれる。第３図は命
令キャッシュ３が読出し状態にある時で、第４図、第５
図は書き込み状態にある時である。

まず、命令キャッシュ３が読出し状態にある場合につい
て第３図を用いてその動作を説明するＯＣ１サイクル、
Ｃ２サイクル 通常動作と同様であるため説明は省略する。

Ｃ３サイクル 読出し動作は通常動作と同様である。命令解読部９が条
件分岐命令を解読し、分岐先アドレス（ホ）を計算し、
分岐先アドレスレジスタ２に送出する０又、キャッシュ
制御装置４に分岐動作を行うべきことを通知する。

Ｃ４サイクル 分岐先アドレスレジヌタ２は分岐先アドレス（ホ）を格
納し、このアドレスを用いて命令キャッシュ３をアクセ
スする。この動作は、分岐動作中であるために、命令ア
ドレスカウンタ１に保持しているアドレスによるアクセ
スに優先して行われる０命令キヤツシユ３がヒツトし、
分岐先命令レジスタらへ命令（工（ホ））が送出される
。

Ｃ５サイクル 分岐先命令レジスタ６は、分岐先命令（工（ホ））を１
３　Ａ−ノ 格納する。

Ｃｅサイクル以下は、命令先読み動作は中断され、分岐
の成立または不成立が確定するのを待つ。

分岐が成立した場合には、分岐先アドレスレジヌタ２に
保持している分岐先アドレスを命令アドレスカウンタ１
に歩進した上で格納し、通常動作へ移行する。分岐が不
成立の場合は、命令アドレスカウンタ１に保持している
アドレスによシ、そのまま通常動作に移行すれば良い。

以上述べたようにこの実施例ではいわゆるマルチストリ
ーム方式で分岐先命令を１つ分用窓しているだめ、スム
ーズに分岐以降の動作を続けることが可能となっている
。

次に分岐先命令を先読みする際、命令キャッシュ３が書
き込み状態にある場合について、説明する。この場合に
は、命令数検出装置子が示す命令バッファ５に残ってい
る命令数の情報により、命令キャッシュ３のアップデー
トを優先するか読出し状態にして分岐先命令のフェッチ
を優先するかを動的に制御する。前者が第４図に、後者
が第５１４　ページ 図に示しである。なお、命令バッファ５内に残っている
命令は分岐が不成立の場合に使用する命令である。

まず、第４図を用いて、アップデートを優先する場合に
ついて説明する。大まかな動作は第３図と同様であるた
め、要点だけを説明するＯＣ３サイクル 命令数検出装置７が、命令バッファ５内に残っている命
令数（分岐が不成立であった場合に使用する命令）を検
出する。この場合は１命令であったＯ Ｃ４サイクル キャッシュ制御装置４は、命令数検出装置子からの情報
により、分岐が不成立であった場合に使用する命令数が
１命令しかないため、命令キャッシュ３へのアップデー
トを優先させると判断し、分岐先命令の読出しを禁止し
、命令キャッシュ３をアンプデートする。この時アップ
デートした命令は分岐が不成立であった場合に使用する
命令であることは命令の先読みがアドレス順に行われる
１５、−ノ ことがら明らかであるＯ Ｃ５サイクル キャッシュ制御装置４は命令キャッシュ３を読出し状態
にし、分岐先命令のフェッチをする０今の場合、キャッ
シュはヒツトする。

Ｃ６サイクル 分岐先命令レジスタｅに分岐先命令Ｉ（ホ）を格納する
。

このように命令バッフ１５内に残っている命令数が少な
い場合には、分岐が不成立であった場合の性能低下を防
ぐために命令キャッシュ３へのアップデートを優先する
。

次に第６図を用いて、分岐先命令の先読みを優先させる
場合について説明する。

Ｃ３サイクル 命令数検出装置子は、命令バッファ５に残っている命令
数が３命令であることを検出する。

Ｃ４サイクル キャッシュ制御装置４は、命令数検出装置７からの情報
によシ、分岐が不成立であった場合に使用する命令数が
３命令であるため、分岐先命令の読出しを優先させるべ
きであると判断し、命令キャッシュ３のアップデートを
禁止し、分岐先命令の読出しを行うために命令キャッシ
ュ３を読出し状態にする。以下の動作は第４図の場合と
同様であるため省略する。

このように、命令バッファ５内に残っている命令（分岐
が不成立であった場合に使用する命令）が多いときには
、分岐先命令のフェッチを優先する０ 以上のようにこの実施例によれば、命令数検出装置７を
設け、その情報によシキャッシュ制御装置４が、分岐先
命令の先読みを優先するか、命令キャッシュ３のアップ
デートを優先するかを制御することで、分岐時の命令読
出しのバランスを良くし、分岐動作時のオーバーヘッド
を小さくすることが出来る。

なお、この実施例では、命令バッファ５に残っている命
令数が１つのときには、命令キャッシュ３へのアップデ
ートを優先し、３つのときには、１７　ベー１．ワ 分岐先命令の先読みを優先したが、この判断は任意に設
定できることは言うまでもない。

発明の詳細 な説明したように、本発明によれば、分岐先命令をマル
チストリーム方式で用意する場合に、分岐が成立した場
合と、不成立であった場合とで使用する命令のフェッチ
をバランス良く行うことが出来るため、分岐動作時のオ
ーバーヘッドを減少することができる。よって、その実
用的効果は大きい。

【図面の簡単な説明】

第１図は本発明における実施例の命令先読み装置のブロ
ック図、第２図〜第５図は同実施例の動作を示すシーケ
メシテある。 ３・・・・・・命令キャッシュ、４・・・・・・キャッ
シュ制御装置、５・・・・・・命令バッフ１．６・・・
・・・分岐先命令レジスタ、７・・・・・命令数検出装
置、８・・・・・・セレクタ、９・・・・・命令解読部
、１ｏ・・・・・・メインメモリ、１１・　・・・・ノ
くス　。

Claims (2)

【特許請求の範囲】
1. （１）キャッシュメモリと未解読命令の量を検出する検
   出装置とを備え、分岐先命令を分岐条件の確定に先行し
   て前記キャッシュメモリを用いフェッチする際に、前記
   キャッシュメモリがアップデート状態にあった場合、前
   記検出装置からの未解読命令の量の情報に応じて、前記
   キャッシュメモリのアップデートを中止し、分岐先命令
   のフェッチを行えるように制御することを特徴とした命
   令先読み装置。
2. （２）キャッシュメモリから命令を複数格納できる命令
   バッファを備え、検出装置はこの命令バッファに格納さ
   れている命令数を検出することで、未解読命令の量を検
   出したとみなす特許請求の範囲第１項記載の命令先読み
   装置。