JPS62152043A - 命令コ−ドアクセス制御方式 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 （技術分野） 本発明は逐次実行される命令コードのパイプライン処理
を行なう計算機システムに関し、％にその命令コードア
クセス制御方式に関する。

（発明の背景） 従来、命令コード処理に対してパイプライン処理方式を
採る計算機システムでは、命令コードの読み出し、デコ
ード、アドレス計算、オペランドアクセス、命令実行の
各段階を可能な限夛同時に処理することが考えられてき
た。

このようなバイツブ２イン処理方式を採る計算機システ
ムにおいて一般に、メモリ上にある命令コードは、オペ
ランド・データと共通のアドレスバス’Ｐデータバスを
介してアクセスでれるタメ、命令コードのメモリからの
読み出しに際しては、それと並行して実行されようとす
る光行命令のオペランドアクセスとの競合か生じ得る。

この競合を解決する方法としては、パイプラインの各段
階で発行されるメモリアクセス要求通知を討其後システ
ムのメモリインターフェース部分に集め、アービタによ
って要求の１つを選択してパイプライン動作とは無関係
なタイミングで非同期的にメモリアクセスを実行させる
のが一般的である。

この方法を用いる場合、メモリアクセス要求を発行する
パイプラインの各段階は、アクセス幾求したデータの待
合せや蓄積を行なうだめの緩衝機構を持たせ、パイプラ
インとそれと非同期に到着するアクセスデータとのタイ
ミングのずれを調節することが必要になる。しかし。

この方法ハ他の方法１部ちメモリアクセスをパイプライ
ン処理に組込む方法に比べ、パイプライン処理の動作周
期かメモリアクセス時間による制約を受けないため、パ
イプライン処理の性能改善によってシステム全体の性能
改善が容易に行なえるという利点を待つ。

従来の計算機システムにおいては、命令コードのパイプ
ラインへの安定した供給のために命令キューと呼はれる
緩衝ＰＡ構を設け、先行命令のオペランド・データ・ア
クセスが行なわれていないときにのみ命令コードが読み
込まれ、命令キューに蓄積される方式を採るのが一般的
であった１・２゜言い換えれは命令コードアクセスは、
オペランドデータアクセスに比べて優先度が常に低く設
定されていた。

しかし、この方法は次の２つの場合、すなわち・条件分
岐命令１割込み等でパイプライン処理が中断され、命令
キニーの内容をすべて無効としてパイプライン処理を栴
開する賽合拳オペランドデータアクセスが頻繁に発生す
る命令シーケンスの実行によシ命令コードアクセスが長
時間中断される場合 に、命令キューは十分な命令コードＪｉを確保できす、
パイプライン処理に支障會もたらす可能性が大きい　と
いう欠点を有する。

これ全解決するためには、命令コードが命令キェー内で
不足している場合に命令コードアクセスをオペランドデ
ータアクセスに比べて優先度が高くなるように変更する
手段を設けれはよい。しかし、命令コードアクセスの優
先度の高い期間を長くしすきると次のような問題が生ず
る。

φ命令の実行段階のオペランドアクセスが行なえずパイ
１ライン処理が中断される恐れがある。

・分岐命令９割込み等の際に無効となる命令キュー内の
命令コードが増刑し、結果的に不必要なデータアクセス
が多くなる恐れがある。

これは鳴、にデータアクセスに要する時間に対し、パイ
プライン各段の処理に袈する時間が改善された場合、シ
ステム全体の性能同上をははひ要因となシうる。

以上の点を飴合的に考慮すると、命令コードアクセスの
蓑先度変更の方式としては、次のようなものが望ましい
といえる。

・分岐命令実行直後るるいは割込み発生直後に命令コー
ドアクセスの愛先度全オペランドアクセスよシ高く設定
し、命令キューにパイプライン処理を維持するのに十分
な命令コード１ｔを確保する。この設定は、次に実行さ
れる命令がしばらくの間パイプライン上に存在しないた
め、オペランドアクセスとの競合は起こシ得ない　とい
う事実から考えると妥当といえる。

・分岐命令の実行をその実行前に予測し、近く分岐命令
が実行されると予測された時点で命令コードアクセスの
優先度を小さく設定する。

この設定によシ分岐時に無効となる命令コードＩ＃を減
ら、すことか可能である。

本発明では、このような望ましい優先度変更の方式を実
桟する為に、計算機で実行されるプログラムのラン・レ
ングス　ｒｕｎ　ｌｅｎｇｔｈという動的な性質を利用
する。

一般に計算像システムにおいて、一つの分岐命令が実行
δれてから次の分岐命令が実行されるまでに実行される
平均命令数あるい龜平均命令バイト数をあるンフトクエ
γプログラムに対して算出することか可能でるる。

後者は、命令ポインタ（プログラムカウンタ）がたどる
連続したアドレス領域の平均長であると言い侠えること
もできる。

これをそのプログラムの平均ランレングスと呼ぶ。

平均ラン・レングスは計算機システムで分岐の生する頻
度の逆数とみなすこともできる。

命令数に関する平均ランレングスは、当該計算戦システ
ムで実現されてい−る命令セット、及びそこで用いられ
るソフトウェアの性質に大きく依存する。たとえは、リ
スト処理（Ｌｉ５ｔ　Ｐｒｏｃｅｓｓ　−ｉｎｇ　）用
のプログラムでは平均ランレングスは短く、膨大な数値
演算を繰シ返し行なう場合の平均ランレングスは比較的
長くなる。

また、命令バイトＨに関する平均ランレングスは当該計
算伽システムの命令フォーマットにも依存する。仮に命
令長がすべて３バイトであれば命令バイト数に関する平
均ランレングスは命令数に関するそれのちょうど３倍に
なるが、一般的には命令長は数麺存在し、各々が異なる
割合で使用されている。

３．４ いくつかの統計資料に依れは　　、命令ポインタがたど
る連続したアドレス領域の長さの分゛廂は概ね弗２図の
ようになる。この図は、多くの場合平均ランレングスに
相当する命令数か実行されれば、続いて連続したアドレ
スの命令が実行される確生は小さいこと、さらに、連続
して実行されれはされるほど次に続くアドレスにある命
令が実行される確率が減少することを意味する。

よってプログラム実行時にそのプログラム％肩の平均ラ
ンレングスが既知であれは矢に実行される命令が分岐命
令である確率を計算し、分岐に関する予測をたてること
が可能でおる。

さらに本発明では命令コードアクセスの汲先度のみでな
く、メモリアクセスを行なう際の連続アクセス回数を変
更する方式についてもこのランレングスの性質を利用す
る。

メモリでアドレスの連続した細織のアクセスを高速化す
る技法としては、インターリーブやニブルアクセスなど
かめる。これらの技術を利用すれは、分岐命令の実行や
、割込みの発生によシ、先行して読み込まれていた命令
キエー内の命令コードが無効となっても、新しい開始ア
ドレスに続く命令を−１ずつアクセスするよシも高速に
読み込むことが可能となる。

（発明の目的） 不発明は次の２点、すなわち ・条件分岐命令１割込みＫよる命令キューの内容の無効
化及びメモリへのオペランドデータアクセスの極端な増
加による命令キューの内容の減少に対処できること、即
ち、命令キュー内には平均的にパイプライン処理を維持
できる程度の命令コードが蓄えられていること。

・条件分岐命令１割込みによる命令キューの内容の無効
化の際に、無効となる命令の平均量を小さくすること を実現するような、命令コードアクセスとオペランドデ
ータアクセスの後先度の制Ｘｌｔ”行なうことを目的と
する。

（発明の１１取） 本発明の命令コードアクセス制卸方式は、命令コードの
先行フェッチを行なう計算機システムにおいて、前記命
令コードの先行フエ・ソチのためのメモリアクセス要求
と、命令実行に伴うオペランドの読み書きのためのメモ
リアクセス要求の優先順位決定手段及び当該計算機シス
テムの実行制御の不連続な移動事象が発生した時点から
の連続実行命令数をカウントし、その結果を予め設定さ
れた値と比較する命令カウンＭｉｌｋ比較手段ケ有し、 前記命令カウント値比較手段の出力によって、前記優先
順位決定手段の動作が決定されることを特徴とする。

なお、前述の計算機システムの実竹制鍔の不連続な移動
事象とは、分岐命令、サブルーチンコール／リターン命
令０割込み１例外発生による割卿の移ｗＪｔ″意味して
いる。また、前記連続実行命令数のカランｌ−Ｍ朱を以
後命令カウント憧と呼ぶ。

（発明の作用） これにより、本発明音用いれば、前記平均ラン・レング
スと命令カウント値の差から、命令コードアクセスの一
先度、及び命令コードのメモリアクセスを行なう際の連
続アクセス−回数を決定すること、さらに前記差と命令
キューに実際に蓄えられている命令コード童から命令コ
ードアクセスの優先度及び命令コードのメモリアクセス
を行なう際の連続アクセス回数を決定することが可能と
なる０ さらに具体的には、命令カウント値が小さいほど命令コ
ードアクセスの優先＃を高く、また命令コードのメモリ
アクセスを行なう際の連続アクセス回数を最も多く設定
し、その後命令カウント値か平均ランレングスに関連づ
けられ設定されたいくつかの値に達するごとに、命令コ
ードアクセスの優先度を下げあるいは命令コード連続ア
クセス回数を減らすという実現が可能となる。

（発明の効果） 本発明を用いれは、 分岐詰合実行直後あるいは割込み発生直後に命令コード
のメモリアクセスの（資）先度及び連続アクセス回数を
最高に設定することで、パイプライン処理に必要な命令
コード量をキューに早急に確保でき命令コードを供給を
安定させることができる。

さらに分岐命令からランレングス程匿の命令コード量を
読みこんだ後に命令コードアクセスの連続アクセス回数
を減らしあるいは優先度を下げることによって１次の分
岐命令実行時に無効となる確率の高い命令コードの読み
込みを控えることができ、これによシバイブライン中断
時に無効となる命令キエー内の命令コード量の平均値を
小さくすることができるという効果がある。

（実施例） 本発明を図面に基づいて説明する。

第２図は本発明の実施例を示している。

第２＠において ｌはデータ抱子２１及びデータバススイッチ１２を経由
して読み込まれた命令コードを蓄積する命令バッファ ２昧命令バツフア１をキ具−とみなしたときその先頭ヲ
示すヘッドポインタ ３は命令バッファｌをキエーとみなしたときその後尾を
示すティルボインタ ４は命令バヅファｌにどれだけの命令コードがはいって
いるかをヘッドポインタ２とテイルボインタ３の内容か
ら計算するモジエロ減算器５は分岐命令の実行あるいは
割込みの発生等の要因により命令実行の制御が移動した
時点からどれだけの命令コードが読み込まれたかをカウ
ントする７エツテカウンタ ６はモジ具口減算器４の出力よシ命令バー／７ア１の中
が命令コードで完全に満たされているか否かを検出する
フルディテクタ ７はモジェロ減算器４の出力よシ命令バッフ了ｌの中に
命令コードが全く存在しないか否かを検出するエンプテ
ィディテクタ ８はフエ・ソテカウンタ５の出刃が１つ以上の指定され
た値に達したか否かを検出するカウントディテクタ ９はフルディテクタ６の出力よシ命令コードアクセス要
求の可否を決定し、命令バヅファｌに対する入力要求信
号及びその応答としての入力認可信号をアービタ１”　
１との間で授受し、処理するフェッチコントローラ ｌＯはエンプティディテクタ７の出力よシ命令供給の可
否を決定し、命令バリファｌに対するデコーダからの命
令供給要求信号（２４を介す）及びその応答としての命
令供給認可信号（２５を介す）を授受し、処理するプリ
バーコントローラ１１ａフェッチコントローラ９よシ送
られた命令バヴ７アｌに対する入力要求信号及びデコー
ダや命令実行部から送られたオペランド要求信号（２６
を介す）に対してその優先順位をカウンタディテクタ８
の出力に基づき決定し、その結果を入力認可信号または
オペランド認可信号（２７を介す）として返すとともに
、データバススイッチ１２に対する制御信号、バスサイ
クルコントローラ１３に対するトリガ信号を発行するア
ービタ１２はアービタ１１の出力に基づき、外部メモ゛
　りまたはキャッシュメモリへのアクセスパスであるデ
ータ端子２１’に命令バー７７アｌ　ＩｔＣ接続するか
あるいはオペランドデータバス２８に接続するかの切り
換えを行なうデータバススイッチＬ３はマーピタ１１の
出力から、バスサイクル起動のタイミング及びその種類
を受けとシ、もし、命令コードアクセスならカウンタデ
ィテクタ８の出力に基づき命令コードのメモリアクセス
時におけるアクセス手法やアクセス回数を制御するバス
サイクルコントローラ ２１は外部メモリ（またはキャッシュメモリ）へのアク
セスバスであるデータ端子 ２２はデコーダへの命令コード転送経路２３はデコーダ
からの命令キューの内容の無効化信号線 ２４はデコーダからの命令コード供給要求信号線 ２５はデコーダへの命令コード供給認５Ｊ１！号線２６
はパイプライン処理の命令実行部からのオペランドアク
セス要求信号線 ２７はパイプライン処理の命令実行部からのオペランド
アクセス認町便号融 ２８はバイア〜ライン処理の命令実行部へのオペランド
データバス ２９は外部メモリ（またはキャッシュメモリ）へのアク
セスのだめのバスサイクル起動信号線を各々表わす。

このようにして実現された本実施例の動作を次に説明す
る。

本実施例の動作は通常命令コードアクセス及び命令コー
ド供給という２つの動作が並行して行なわれることｔ−
特徴としている。

まず命令コードアクセス動作について説明する。

フェッチコントローラ９がフルディテクタ６の出力よシ
命令コードアクセスの可否を判定し、アクセス可能なら
アービタ１１に対し命令コードアクセス要求を通知する
。アービタ１１はその入力要求信号及びデコーダや命令
実行部から送られるオペランド要求信号に対してその曖
先順位をカウンタディテクタ８の出力に基ついて決定し
、最優先されるべきアクセスをバスサイクルコントロー
ラ１３に通知するとともに、データバスを切り換えるよ
うデータバススイッチ１２に通知する。バスサイフルコ
ントクーラ１３では、命令コードアクセスを行なう場合
前記通知を受けるとカウンタディテクタ８の出力に基づ
いてアクセス方法やアクセス回数を決定し、バスサイク
ルを起動する。

その結果、外部メモリまたはキャッシュメモリからのア
クセスパス２１を経由したデータはデータバススイッチ
１２を経由して命令バッファｌに入力される。その後フ
ェッチ−コントローラ９はヘッドポインタ２及びフェヴ
チカウンタ９を更新する信号を出力する。

ヘッドポインタ２０更新結果は、モジ墓口減算器４に入
力される。モジュロ減算器４は、今回の更新に対して命
令バッファｉにある命令コード量を新たに計算し、フル
ディテクタ６及びエンプティディチクタフに通知する。

フルディテクタ６で次の命令コードアクセスによって命
令バッフ了１が満杯になるか否かが判定され、その結果
がフェッチコントローラ９に通知される。この通知によ
りフェ・ソチコントローラ９は矢の命令コードアクセス
の可否を判定する。

一方、フェ９チカウンタ５の更新結果はカウントディテ
クタ８に入力される。カウントディテクタ８では表１の
ような論理を実現して、アービタ１１及びバスサイクル
コントローラＬ３にその結果を通知する。この結果は次
の命令コードアクセスの際に使用される。

次に、命令コード供給動作について説明する。

デリバコントローラＩＯ−がデコーダから命令コード供
給リクエスト信号管受けとるとエンプティディテクタ７
の出力より命令コードの供給可否を判定し、供給可能な
らデコーダに対し、命令コード供給認可信号を発行する
。それと同時に命令バッファｌの中の命令コードのうち
、テールポインタ３で指示されるものがデコーダに対し
て供給される。その後、デリバコントローラ゛１０はテ
ィルボインタ３を更新する信号を出す。ティルボインタ
３の更新結果はモジュロ減算器４に入力ちれる。

モジュロ減算器４は命令バッフ了１にある命令コードｊ
ｔｉ’　ｔ　Ｂ　ｔｕｂし、フルディテクタ６及びエン
プティディテクタ７に通知する。エングティディテクタ
で現在命令キューが空であるか否かが判定され、その結
果がデリバコントローラｌＯに通知される。

この通知によりデリバコントローラ１０は次の命令供給
の可否を判定する。

以上述べた通常の２つの動作、すなわち命令コードフエ
ツチと命令コード供給の他に、本実施例は特殊動作とし
てキュー内容の無効化という動作が行なわれる。

以下ではその動作について説明する。

デコーダで分岐命令が生ずると判定された場合あるいは
計算機システムに対し割込みが通知された場合に、命令
キュー内容無効化信号か発行される。この信号はヘッド
ホインク２％ティルボインタ３、及び７エヴチカウンタ
５に通知され、各々を初期化する。これによシ命令バヴ
ファｌは空になったものとみなされる。

本実施例ではカウンタディテクタ８で定数ｐ。

ｍに対してフエツチカウンタ５の出力と比較しているが
、これらの＜＝”ｉ任意に設定できるようなレジスタを
持つことも可能である。

これによシ、設計省は計算機システムで用いられるソフ
トウェアの種類に応じて、シミュレーシ目ン等で得られ
た統計的結果に基づき、最適なパラメータｉｔ前記レジ
スタに設定することかできる。

さらに計算機システム自身が、ランレングスに関する統
計を取シながら、カウンタディテクタ８に設定された１
＊ｐ、ｍを動的に更新していくことも可能である。

これによシ、計算機システム自身が無駄な命令コードア
クセスｔｈなわないように自分自身全プログラムの性質
にあわせて謂整していくことかできる。

さらに、２つの値ｐｅ”のみでなく、３つ以上の値をカ
ウンタディテクタに設定することで％優先腋やメモリア
クセス回数及びそれらの組合せに対してさらにきめ細か
い命令コードアクセス制−を行なうこともム」能であシ
逆に２つのうちの一方のｐのみ、ｍのみ七カウンタディ
テクタに設定し、優先度のみおるいはメモリアクセス回
数のみに対する命令コードアクセス制御を行なうことも
５１能である。

以上のように従来の命令コード先取シ制御に、新しくフ
エツチした命令コード量に応じた制御２７ＩＯえること
によシ、分岐命令によるパイ１ライン処理の乱れに対し
ても強い命令キュー管理を行なうことが′５′Ｊ能とな
るため、本発明の意義は大きいと考えられる。

【図面の簡単な説明】

第１図は、計算機システムにおいて、命令ポインタがた
どる連続したアドレス領域の長さの分布を示す図でおる
。横軸は分岐等による制？ｉ１１移動から次の制卸移動
までに実行された命令コード量（ランレングス）、縦軸
は前記命令コード蓋の連帆夾行か生ずる相対頻度、破岩
は前９［ランレングスの＠配孔対頻度を重みとする平均
−（平均ランにンクス匍）を示す。 第２図は不発明の実施例を示す図でりる。 第２図において ■・・・・・・データ端子２１及びデータバススイッチ
１２を経由して読み込まれた命令コードを蓄積する命令
バッファ ２・・・・・・命令バッファｌをキューとみなしたとき
その先頭ヲ示すヘッドポインタ ３・・・・・・命令バヴ７アｔ′ｔ−キエーとみなした
ときその後尾を示すティルボインタ ４・・・・・・命令バッファｌにどれだけの命令コード
かはいっているかをヘッドポインタ２とティルボインタ
３の内容から計算するモジュロ減算器５・、・・・・・
分岐命令の実行あるいれ割込みの発生叫の要因によシ命
令実行の制御か移動した時照がらどれだけの命令コード
が読み込まれたがをカウントする２エヅチカクンタ ６・・・・・・モジュロ減算器４の出力よシ砧令バッフ
ァｌの中が命令コードで完全に満たされているか否かを
検出するフルディテクタ ７・・・・・・モジュロ？ｌｋ′Ｊ４．器４の出力より
命令バッファｌの中に命令コードが全く存在しないが否
がを検出するエンプティディテクタ ８・・・・・・７エヴチカウンタ５の出力が１つ以上の
指定された値に達したか否かを検出するカウントディテ
クタ ９・・・・・・フルディテクタ６の出力よシ、命令コー
ドアクセス要求の可否を決定し、命令バヅファｌに対す
る大力要求信号及びその応答としての入力認可信号をア
ービタＬ１との間で授受し、処理する７エヴチコントロ
ーラ ｌＯ・・・・・・エン１テイデイチクタフの出方より命
令供給の可否を決定し、命令バ９フ了ｌに対するデコー
ダからの命令供給要求信号（２４を介す）及びその応答
としての命令供給認可信号（２５ｔ−介す）全授受し、
処理するプリバーコントローラ１１・・・・・・フェッ
チコントローラ９↓シ送られた命令′＜ツ７アｌに対す
る大力要求信号及びデコーダや命令実行部から送られた
オペランド要求信号（２６を介す）に対してその優先順
位をカウンタディテクタ８の出刃に基づき決定し、その
結果を入力認可信号またはオペランド誌可信号（２７を
介す）として返すとともに、データバススイッチエ２に
対する制御信号、バスサイクルコントローラＬ３に対す
るトリガ信号を発行するアービタ１２・・・・・・アー
ビタ１１の出力に基づき、外部メモリまたはキャッシュ
メモリへのアクセスバスであるデータ端子２１は命令バ
ヴファｌに接続するかあるいはオペランドデータバス２
８に接続するかの切シ換えを行なうデータパススイヴチ
１３・・・・・・アービタｔｉの出力から、バスサイク
ル起動のタイミング及びその種類を受けとシ、もし、命
令コードアクセスならカウンタディテクタ８の出刃に基
づき命令コードのメモリアクセス時におけるアクセス手
法やアクセス回数を制御するバスサイクルコントローラ ２１・・・・・・外部メモリ（またはキャッシュメモリ
）へのアクセスバスであるデータ端子 ２２・・・・・・デコーダへの命令コード転送経路２３
・・・・・・デコーダからの命令キエーの内容の無効化
信号線 ２４・・・・・・デコーダからの命令コード供給費求信
ｇ線 ２５・・・・・・デコーダへの命令コード供給認可信号
線 ２６・・・・・・パイプライン処理の命令実行部からの
オペランドアクセス要求信号線 ２７・・・・・・パイプライン処理の命令実行部からの
オペランドアクセス認可信号線 ２８・・・・・・パイプライン処理の命令実行部へのオ
ペランドデータバス ２９・・・・・・外部メモリ（またはキャッシュメモリ
）へのアクセスのためのバスサイクル起動信号線を各々
表わす。 第３図は、第２図におけるカウントディテクタが実現し
ている機能を示す図である。 第３図において、 Ｘ・・・・・・カウントディテクタ９への入力となる命
令カウント値を意味する。 ｐ・・・・・・カウントディテクタ９内で設定される１
つの服でるり、カウントディテクタ９はバスサイタルコ
ントローラ１３に対し、バスサイクル’ｔｔ回行なうか
２回行なうかを命令カウント埴がＰに達したとき切シ侠
える ｍ・・・・・・カウントディテクタ９内で設定される１
つの値でアシ、カウントディテクタ９はアービタｔｉに
対し、命令コードアクセスとオペランドデータアクセス
の優先順位を命令カウント値がｍＫ達したとき切シ換え
る。

Claims (1)

1. 【特許請求の範囲】 命令コードの先行フェッチを行なう計算機システムにお
   いて、前記命令コードの先行フェッチのためのメモリア
   クセス要求と、命令実行に伴うオペランドの読み書きの
   ためのメモリアクセス要求の優先順位決定手段、及び当
   該計算機システムの実行制御の不連続な移動事象が発生
   した時点からの連続命令実行数をカウントし、その結果
   を予め設定された値と比較する命令カウント値比較手段
   を有し、 前記命令カウント値比較手段の出力によって前記優先順
   位決定手段の動作が決定されることを特徴とする命令コ
   ードアクセス制御方式 （注）「計算機システムの実行制御の不連続な移動事象
   」とは、分岐命令、サブルーチンコール／リターン命令
   、割込み、例外事象による制御移動のことをいう。