JP2877531B2 - 並列演算処理装置 - Google Patents

Description

【発明の詳細な説明】

【０００１】［発明の目的］

【０００２】

【産業上の利用分野】本発明は、パイプライン処理方
式、及び並列処理方式により、複数の演算処理を同時並
列に行う並列演算処理装置に関する。

【０００３】

【従来の技術】近年の演算処理装置では、１マシンサイ
クルあたりに複数の演算を行える並列処理を行っている
ものが出ており、その例としては、スーパースカラ、あ
るいはＶＬＩＷなどが挙げられる。これらは演算処理装
置内に複数の演算器及び処理部を持ち、それらが並列に
実行することにより、ＣＰＩ（clock per Instruction)
を小さくしている。また、上記演算部及び処理部はパイ
プラインで処理を行っているのが通常で、それにより、
より高い処理能力を持つようになっている。

【０００４】パイプラインで処理を行う際に問題となる
点の一つとして、分岐命令の実行によるパイプラインの
乱れがある。通常、分岐が生じた際は、パイプライン内
の、分岐命令以降の後続命令はアボートされ、分岐先の
命令がフェッチされてから実行に入るまでのパイプライ
ンステージが無駄になってしまう。そのため、分岐命令
の分岐による演算命令アボートを少なくするために、様
々な方法がとられている。

【０００５】例えば、パイプライン処理では、コンパイ
ル時に、分岐命令の後ろに分岐が発生してもアボートさ
れない命令（本来は分岐命令の前に実行されるが、演算
結果が分岐に影響を及ぼさない命令）を置く（ディレイ
ド命令）方法がある。図７にディレイド命令の例を示
す。Ｉ0 とＩ1 は通常の命令で、Ｉ2 が分岐命令であっ
たとする。パイプラインが５段構成で、分岐判定が３段
目で決定される場合、Ｉ2 がパイプライン３段目にきて
分岐実行となったとき、通常Ｉ2 の後続命令Ｉ3 ，Ｉ4
はアボートされる（図７（ａ））。Ｉ3 がディレイド命
令でれば、命令Ｉ4 はアボートされるが、Ｉ3 は分岐命
令Ｉ2 の分岐の可否によらずそのままパイプラインを流
れて実行される。これにより、アボートされるステージ
は、２段から１段に減る（図７（ｂ））。

【０００６】上記ディレイド命令による方法の他には、
分岐命令があった際に、過去に同分岐命令を実行したか
否かの履歴により、同分岐命令に続いて実行させる命令
を、同分岐命令の後続命令とするか、分岐先の命令とす
るかを決定する分岐予測の方法などがあり、スーパース
カラタイプの演算処理装置にも使用できる。

【０００７】上記ディレイド命令による方法は、１サイ
クルに１命令を処理する装置の場合であるが、１サイク
ルに複数命令を並列処理する装置に対するディレイド命
令方法は無かった。このため、並列処理においては分岐
命令を含んだ命令群を同時に実行した際、分岐が発生し
た場合は、シーケンシャルなモデル上で、分岐命令の前
の命令は実行を続け、分岐命令より後の命令は実行を中
止しなければならなかった。

【０００８】また、そのほかの問題としては、スーパー
スカラ等の処理同時実行の演算処理装置では、一連の命
令の中で同時に実行可能な命令数は、データ依存関係等
により、２〜３命令とされており、演算実行部が空いて
いる場合が多く、演算実行部の無駄により、並列処理の
メリットが半減されるという問題もある。

【０００９】

【発明が解決しようとする課題】このように、従来のパ
イプラインあるいは並列処理装置等の、分岐命令に続く
命令の実行を、分岐確定前に始める機構の並列演算処理
装置では、常に分岐による多くの後続命令がアボートさ
れてしまうという問題があった。

【００１０】そこで、本発明は、このような事情に鑑み
てなされたものであり、その目的とするところは、１サ
イクルに複数命令を並列処理する場合にも、分岐命令に
よってアボートされる命令を最少限に止めることができ
る並列演算処理装置を提供することにある。

【００１１】［発明の構成］

【００１２】

【課題を解決するための手段】上記目的を達成するため
に、本発明は、パイプライン動作によって演算処理を行
う並列演算処理装置において、同時並列に動作可能な複
数の演算実行部と、フェッチした条件分岐命令が過去に
分岐を行ったか否かの履歴情報を保持する履歴情報保持
手段と、前記条件分岐命令の後続命令群を保持する後続
命令群保持手段と、前記条件分岐命令の分岐先アドレス
以降の命令群を保持する分岐先命令群保持手段と、前記
履歴情報保持手段を用いて分岐が発生する確率を求める
確率発生手段と、前記確率発生手段より得られた確率に
従い、前記後続命令群保持手段から発行すべき命令数
と、前記分岐先命令群保持手段から発行すべき命令数を
決定し、前記複数の演算実行部に各命令を割り付ける命
令分配手段とから構成されている。

【００１３】

【作用】上記手段によって、複数の同時実行可能な演算
実行部を持つ演算処理装置において、複数の命令を同時
処理を行っている際、複数演算器に分配するためにプリ
フェッチした命令群の中に分岐命令が存在した場合、分
岐命令の実行前に同分岐命令で分岐が起こった場合の分
岐先アドレスからも命令をフェッチし、分岐命令の分岐
の履歴を保持した記憶装置から引いてきた同分岐命令の
分岐の履歴より、同分岐命令が分岐を実行する確率を求
め、複数の演算実行部に割り付けられる分岐命令以降の
命令の数と、分岐先アドレス以降の命令の数の比を前記
確率により決定する。このように、複数の演算実行部に
割り付けられる、分岐命令以降の命令の数と、分岐先ア
ドレス以降の命令の数命令数の比を分岐の確率を用いて
変化させ、分岐命令以降の命令と、分岐先アドレス以降
の命令を演算実行部に分配し、分岐先の命令で分岐命令
以前の命令とのデータ依存関係がない命令を演算実行部
へ発行することにより、分岐実行時の分岐による命令ア
ボートを防いでいる。

【００１４】

【実施例】以下、図面を参照しながらこの発明の実施例
を説明する。図１は、本発明の並列演算処理装置に係わ
る一実施例の構成を示すブロック図である。なお、今回
の実施例では、８命令同時実行可能なスーパースカラタ
イプのＲＩＳＣプロセッサを例として挙げる。

【００１５】図１に示す並列演算処理装置は、プログラ
ムを保持するインストラクションメモリ１（以降、ＩＭ
と呼ぶ）、命令ラッチ部２、分岐先命令ラッチ部３、命
令ラッチ部２のすでに命令が発行されて空いている部分
に、ＩＭからフェッチしてきた命令をアロケートして入
れることにより常に命令ラッチ部２が詰まっているよう
にする命令アロケータ４、分岐先命令ラッチ部３に、命
令アロケータ４と同様の作用をする分岐先命令アロケー
タ５、ＩＭ１から命令ラッチ部２へラッチするアドレス
の入ったプログラムカウンタ６、ＩＭ１から分岐先命令
ラッチ部３へラッチする命令のアドレスが入った分岐先
プログラムカウンタ７、本発明の回路を使用することが
指定された分岐命令があった場合のアドレスと、同分岐
命令の分岐先アドレスと、分岐先の命令群と、同分岐命
令の分岐履歴とを記憶したブランチターゲットバッファ
８（以降、ＢＴＢと呼ぶ）、命令ラッチ部２内の命令群
のどの位置に分岐命令が存在するかを判別し、命令ラッ
チ部２の先頭から、分岐命令までの命令数を算出する非
アボート命令検出回路９、非アボート命令検出回路９の
結果と、ＢＴＢ８から送られて来る分岐履歴により、タ
ーゲットの分岐命令が分岐する確率を生成し、演算器に
分配される、分岐命令以降の命令数と、分岐先アドレス
以降の命令数を決定する分配命令数算出回路１０、分配
命令数算出回路１０の結果から、命令ラッチ部２と分岐
先命令ラッチ部３から発行する命令を決定する命令分配
回路１１、命令分配回路１１から出力される命令を一時
的にラッチするラッチ部１２、演算を実行する演算実行
部１３ａ〜１３ｈ、演算に必要なデータを保持するデー
タメモリ１４（以降、ＤＭと呼ぶ）から構成される。

【００１６】ここで、分岐命令には、ユーザーにより、
分岐命令に続いて実行する命令として、同分岐命令に連
続した命令群が指定されたものと、同分岐命令の分岐先
の命令群が指定されたものと、本発明の回路を用いて分
岐命令に連続した命令群と分岐先の命令群とを割り振る
ように指定された命令とがある。また、分配命令数算出
回路１０を使用しないように指定された分岐命令には、
予めユーザーによって分岐確率が設定されている。

【００１７】ＩＭ１、及びＤＭ１４は、複数ポート、あ
るいはsharedメモリによる、同時に複数のアクセスが可
能なものとする。命令ラッチ部２は、ＩＭ１から通常の
命令プリフェッチを行う。命令アロケータ４には、ＩＭ
１より命令ラッチ部２へラッチすべき命令群と、命令ラ
ッチ部２の出力となる命令群が入り、分配命令数算出回
路１０からの情報により、命令ラッチ部２からの命令群
で、すでに演算実行部１３ａ〜１３ｈに発行された命令
を除いて、まだ発行されていない命令をシフトして詰
め、空いた部分にＩＭ１からの命令を詰め、その結果を
命令ラッチ部２への入力とする。

【００１８】分岐先命令ラッチ部３には、分岐命令がＢ
ＴＢ８にヒット（一致）した場合に、ＢＴＢ８から分岐
先命令アロケータ５を介して送られて来る分岐先以降の
命令群か、分岐先命令アロケータ５から送られて来る命
令群がラッチされる。分岐先命令アロケータ５は、命令
アロケータ４と同様に、ＩＭ１より分岐先命令ラッチ部
３へラッチすべき分岐先命令群と、分岐先命令ラッチ部
３の出力となる命令群が入り、分配命令数算出回路１０
からの情報により、分岐先命令ラッチ部３からの命令群
で、すでに演算実行部１３ａ〜１３ｈに発行された命令
を除いて、まだ発行されていない命令をシフトして詰
め、空いた部分にＩＭ１からの命令を詰め、その結果を
分岐先命令ラッチ部３への入力とする。

【００１９】図２に命令アロケータ４および分岐先命令
アロケータ５の動作説明図を示す。時間ｔ０で、命令ラ
ッチ部２に命令Ｉ0 から命令Ｉ7 までの８命令が存在
し、時間ｔ１で、命令Ｉ0 から命令Ｉ2 までが発行され
る場合、命令Ｉ3 から命令Ｉ7 までは３命令分左シフト
し、空いた３命令分の部分にＩＭ１から読み込んだ命令
が入る。

【００２０】プログラムカウンタ６には、分配命令数算
出回路１０により算出された、命令ラッチ部２から発行
された命令数だけアドレスがインクリメントされる。す
なわち、プログラムカウンタ６は、次クロックで命令ラ
ッチ部２に読み込むべき先頭の命令のアドレスを持つこ
とになる。

【００２１】分岐プログラムカウンタ７は、プログラム
カウンタ６と同様に、ＢＴＢ８がヒットした場合、ＢＴ
Ｂ８から出力される分岐先アドレス＋８に、分配命令数
算出回路１０から出力される、分岐先命令ラッチ部３か
ら発行される命令数を足したアドレスが入り、次クロッ
クでは、現在保持している値に次クロックで分岐先命令
ラッチ部３から発行される命令数を足した値が入る。

【００２２】図３にＢＴＢ８の構成図を示す。ＢＴＢ８
には、分岐命令のアドレスタグと、図示しないアドレス
タグ一致検出回路と、同分岐命令の分岐先アドレスと、
分岐先の命令群と、同分岐命令の分岐履歴とを保持して
いる。アドレスタグには、過去の分岐命令があったアド
レスを保持している。ＢＴＢ８は、プログラムカウンタ
６のアドレスから、８命令分までのアドレスをアドレス
タグ一致検出回路により検索する。

【００２３】分岐履歴保持部には、アドレスタグに対応
した分岐命令の分岐の履歴がデコードあるいはエンコー
ドされた形で保持され、例えば１エントリが６ｂｉｔ構
成で、エンコードしない形で過去６回の分岐履歴を保持
するものとし、同タグに対応する分岐命令が過去に”分
岐””非分岐””分岐””分岐””非分岐””分岐”と
いう履歴を持っている場合、分岐履歴保持部には、”０
１００１０”が保持されている。この６ｂｉｔのうち最
左部が最も古い履歴であり、新たな分岐履歴は右側に付
加されていく。

【００２４】命令ラッチ部２で分岐履歴保持部に保持さ
れている分岐履歴を使用する分岐命令が存在した場合、
同分岐命令のアドレスとアドレスタグとが比較され、ヒ
ットした場合は分岐履歴が出力される。ヒットしない場
合は、ユーザーによって分岐命令に設定された確率の分
岐履歴が出力される。例えば、分岐履歴が６ビットで、
分岐命令の分岐が起こる確率が１／２と設定されていた
場合、”１０１０１０”あるいは”０１０１０１”が出
される。

【００２５】２クロック後、分岐命令の結果が確定され
ると、図示しない分岐履歴更新部により、同分岐命令の
アドレスタグに対応した分岐履歴保持部には、過去の分
岐履歴である”０１００１０”が、１ビット左シフト
し、最右部には分岐結果である”０”が入って、”１０
０１００”が分岐履歴保持部に更新される。但し、分岐
命令に連続した命令群が指定された分岐命令と、分岐先
の命令群が指定された分岐命令の場合は、分岐履歴を使
用せず、過去全て非分岐、あるいは全て分岐の履歴であ
ったものとして分岐履歴の出力にかえる。上記例で
は、”００００００”あるいは”１１１１１１”が出力
され、分岐履歴保持部には書き戻されない。

【００２６】ＢＴＢ８にヒットした場合、ＢＴＢ８から
は、分岐先命令８命令が分岐先命令ラッチ部３に出力さ
れ、分岐先アドレス＋８命令のアドレスが分岐先プログ
ラムカウンタ７に出力される。

【００２７】命令ラッチ部２の内容は、非アボート命令
検出回路９に送られ、プリデコードによって分岐命令に
フラグを付けるか、あるいはデコードによって分岐命令
を認識する等の方法により、命令ラッチ部２に保持され
ている命令群の中での分岐命令の位置を認識し、分岐命
令より前の命令、すなわち分岐命令の分岐によりアボー
トされることがない非アボート命令数（分岐命令も含
む）を算出する。演算実行部１３ａ〜１３ｈの数から非
アボート命令数を引いた数が、分岐命令に続く命令群
と、分岐命令の分岐先アドレス以降の命令群から演算実
行部１３ａ〜１３ｈへ割り付けられる命令数の総和とな
る。

【００２８】ＢＴＢ８より索かれた分岐履歴、及び非ア
ボート命令検出回路９で算出された非アボート命令数
は、分配命令数算出回路１０に送られる。分配命令算出
回路１０では、上記非アボート命令数から、非アボート
命令が分配される演算実行部１３を除いた、使用可能な
演算実行部数を知り、分岐確率より、命令ラッチ部２に
保持されている命令中、分岐命令以降の命令で、演算実
行部１３に分配する命令数と、分岐先命令ラッチ部３か
ら演算実行部１３に分配される命令数を決定する。命令
ラッチ部２、及び分岐先命令ラッチ部３より演算実行部
１３ａ〜１３ｈに分配される命令には、分岐実行時にア
ボート、分岐非実行時にアボート、分岐実行、非実行に
依らず実行、実行アボートの４状態を示すフラグが命令
分配回路１１によって付けられ、各演算実行部１３ａ〜
１３ｈに分配され、分岐確定時に同フラグにより各命令
の命令アボートを行う。

【００２９】非アボート命令検出回路９では、分岐命令
が命令ラッチ部２内の８命令中、何番目に分岐命令が存
在するかを検出する。分岐命令が３番目にあった場合
は、”１１１０００００”を出力する（図４）。

【００３０】分配命令数算出回路１０では、非アボート
命令検出回路９から命令割付可能な演算実行部１３の数
が”５”であることを知り、分岐履歴保持部から分岐履
歴が”０１００１０”であことを知る。分岐命令では、
割付数が余った場合、あるいは足りない場合、非分岐、
分岐のどちらを選択するかの定義もなされており、分岐
命令が非分岐を選択するよう定義されている場合、上記
例では、”０１００１０”を処理して、”１１０００
０”として、最右部の０をとり、”１１０００”とし、
上記”１１１０００００”の”０”の部分に”１１００
０”を埋め込み、”１１１１１０００”を生成して、命
令分配回路１１に出力する。また、分岐を選択するよう
定義されている場合、”１１００００”の最左部の１を
とり、”１００００”として埋め込む。

【００３１】仮に、非アボート命令検出回路９から出力
される８ビットのうち０が７個以上あった場合、非分岐
を選択するよう定義されている場合には”１１０００
０”の最左部に１を付け足し、分岐を選択するよう定義
されている場合には最右部に０を付け足して埋め込む。

【００３２】命令ラッチ部２から出力される命令数と、
分岐先命令ラッチ部３から出力される命令数とが、各々
プログラムカウンタ６と分岐先プログラムカウンタ７に
送られる。上記例では、プログラムカウンタ７へは”
５”が、分岐先プログラムカウンタ７へは”３”が送ら
れる（図５）。

【００３３】命令分配回路１１では、分配命令数算出回
路１０から得られた値”１１１１１０００”に従い、５
器の演算実行部１３ａ〜１３ｅには命令ラッチ部２から
５命令が、３器の演算実行部１３ｅ〜１３ｈには分岐先
命令ラッチ部５から３命令が分配される。命令が分配さ
れる際には、分配命令数算出回路１０から得られた値”
１１１１１０００”と、非アボート数算出回路９から得
られた値”１１１０００００”とから各々１ｂｉｔずつ
取り出され、命令と同時に演算実行部１３ａ〜１３ｈに
分配される。すなわち、３器の演算実行部１３ａ〜１３
ｃには各々”１１”のフラグが、２器の演算実行部１３
ｄ，ｅには各々”０１”のフラグが、分岐先命令ラッチ
部５から命令を分配された３器の演算実行部１３ｆ〜１
３ｈには”００”のフラグが分配される。そして、分岐
確定時、”１１”のフラグが分配された演算実行部１３
ａ〜１３ｃは分岐命令の結果に依らず実行を継続し、”
０１”のフラグが分配された演算実行部１３ｄ，ｅは非
分岐時に実行を継続して分岐時には命令をアボート
し、”００”のフラグが分配された演算実行部１３ｆ〜
１３ｈは非分岐時に命令をアボートして分岐時に実行を
継続する（図６）。

【００３４】分岐が実行された場合、プログラムカウン
タ６には、分配命令数算出回路１０から分岐先プログラ
ムカウンタ７に送られてきた分岐先命令のうちで、命令
分配回路１１より発行された命令数を加算したアドレス
が入り、分岐先命令ラッチ部３に残っている命令群は命
令ラッチ部２に移される。

【００３５】通常、複数命令を同時に実行しようとした
場合、データの依存関係で、命令キューに入った全ての
命令が同時に実行できる確率は小さい。上記例では、デ
ータ依存解析のブロックは付けていないが、実際回路を
組んでデータ依存解析を行う場合、回路は分配命令数算
出回路１０に取り付け、スコアボード等の、既に実行中
の命令とのデータコンフリクト及びデコードによる命令
ラッチ部２及び分岐先命令ラッチ部３の命令間のデータ
コンフリクトを解析し、発行する命令にマスクを掛ける
等の回路を取り付けることで、データ依存による命令発
行停止は行える。

【００３６】上記例の場合、分岐確率は４／６で、仮に
分岐命令以降の命令および分岐先アドレス以降の命令
で、同時実行可能な命令数が各々２命令であったとする
と、従来の単純な分岐予測制御では、分岐命令の後ろに
は、分岐先アドレス以降の命令が割り付けられるが、上
記実行可能命令数により、３器の演算実行部１３ｆ〜１
３ｈが空いてしまう。この場合分岐確定時に有効な命令
数は２×４／６で、確率的に１．３３命令ということに
なる。本発明による制御の場合、分岐先アドレスより３
命令、分岐命令に続く命令から２命令選択され、演算実
行部１３ｄ〜１３ｇに割り付けられる命令は、各々２命
令ずつとなる。この場合、分岐確定時に有効な命令数
は、２×４／６＋２×２／６で、２命令となる。

【００３７】上記例では、分岐命令が初めて現われ、Ｂ
ＴＢ８にヒットしない場合が多分に考えられるが、上記
例で、ＢＴＢ８を使用したのは、分岐先のアドレス計算
にかなりの時間を必要とし、実際に回路を組む場合、１
クロックサイクルでは計算できない場合があるためであ
る。そのため、ＢＴＢ８の分岐先アドレス及び分岐先命
令群を使用しない場合は、命令フェッチフェーズを１つ
増やし、アドレス計算の時間を設けてやれば問題ない。
また、分岐命令が存在する間隔が短く、分岐先の命令群
にも分岐命令が現われ、分岐先命令が木構造状に増えて
行く場合は、特開平２−１５７９３９にあるように、複
数の命令バッファを設け、バッファ入力、バッファ出力
を選択する回路を、設けることにより解決できる。

【００３８】さらに、分岐命令に連続した命令群と、分
岐先の命令群のどちらかが、データ依存等の問題で、確
率により割り付けた演算実行部１３ａ〜１３ｈに命令が
発行できず、演算実行部１３ａ〜１３ｈに空きが出来る
場合には、命令割り付けの比率をさらに変えて、他方の
命令を実行する回路を組むこともできる。

【００３９】

【発明の効果】以上のように、本発明の並列演算処理装
置によれば、分岐命令があった場合は、同分岐命令の分
岐の履歴から求まる確率により、演算実行部へ割り付け
る、分岐命令以降の命令数と、分岐先アドレス以降の命
令数を変えている。これにより、１サイクルに複数命令
を並列処理する場合にも、分岐によってアボートされる
後続命令を最少に止めることができると共に、データ依
存関係等により生ずる演算実行部の待機時間も短縮でき
る。

【図面の簡単な説明】

【図１】本発明の一実施例の構成を示すブロック図であ
る。

【図２】図１に示した命令アロケータ及び分岐先命令ア
ロケータの動作説明図である。

【図３】図１に示したブランチターゲットバッファの構
成図である。

【図４】図１に示した非アボート命令検出回路の動作説
明図である。

【図５】図１に示した分配命令数算出回路の動作説明図
である。

【図６】図１に示した命令分配回路の構成図である。

【図７】従来のディレイド命令を説明するための図であ
る。

【符号の説明】

１ ＩＭ（インストラクションメモリ） ２ 命令ラッチ部 ３ 分岐先命令ラッチ部 ４ 命令アロケータ ５ 分岐先命令アロケータ ６ プログラムカウンタ ７ 分岐先プログラムカウンタ ８ ＢＴＢ（ブランチターゲットバッファ） ９ 非アボート命令検出回路 １０ 分配命令数算出回路 １１ 命令分配回路 １２ ラッチ部 １３ａ〜１３ｈ 演算実行部 １４ ＤＭ（データメモリ）

Claims (1)

(57)【特許請求の範囲】
1. 【請求項１】 パイプライン動作によって演算処理を行
   う並列演算処理装置において、 同時並列に動作可能な複数の演算実行部と、 フェッチした条件分岐命令が過去に分岐を行ったか否か
   の履歴情報を保持する履歴情報保持手段と、 前記条件分岐命令の後続命令群を保持する後続命令群保
   持手段と、 前記条件分岐命令の分岐先アドレス以降の命令群を保持
   する分岐先命令群保持手段と、 前記履歴情報保持手段を用いて分岐が発生する確率を求
   める確率発生手段と、前記確率発生手段より得られた確
   率に従い、前記後続命令群保持手段から発行すべき命令
   数と、前記分岐先命令群保持手段から発行すべき命令数
   を決定し、前記複数の演算実行部に各命令を割り付ける
   命令分配手段とを有することを特徴とする並列演算処理
   装置。