JPH08241198A - 分岐命令処理方法 - Google Patents

Abstract

(57)【要約】 【目的】命令の先行実行を行うために分岐予測を行い、
命令を効率的に処理する機構を持つプロセッサに関し、
ある場合には分岐予測の正当率が高い動的分岐予測を行
うことにより、パイプライン処理の性能を向上させると
共に、ある場合にはコスト的に有利な静的分岐予測を行
うことができる優れた分岐命令処理方法を提供するこを
目的とする。 【構成】分岐命令を分岐先バッファへ登録すべき旨の所
定の表示を検出するステップと、所定の表示がある分岐
命令のみを分岐先バッファへ登録するステップとを具備
することにより構成する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、命令の先行実行を行う
ために分岐予測を行い、命令を効率的に処理する機構を
持つプロセッサに適用できる分岐命令処理方法に関す
る。

【０００２】

【従来の技術】分岐予測を行わない従来のマイクロプロ
セッサのパイプラインでは、制御ハザードが全体性能に
大きな影響を与える。分岐命令の実行に伴い、プログラ
ム・カウンタＰＣが”ＰＣ＋４”以外の値に変更される
時は、プログラム・カウンタＰＣはアドレス計算と条件
比較が完了するまで変更されない。

【０００３】よって、分岐命令によって分岐する場合に
は、新しいプログラム・カウンタＰＣが判明し正しい命
令をフェッチしてくるまでの間、パイプライン・ストー
ルを引き起こしてしまうことになる。分岐ごとにこのよ
うなパイプライン・ストールが起きると、大きな性能低
下に通じるので、分岐ペナルティーの低減は重要課題で
あった。

【０００４】このような分岐によるパイプライン・スト
ールを低減するには、 ・分岐の成立／不成立をパイプラインのできるだけ前の
ステージで判定する。 ・分岐先アドレスをパイプラインのできるだけ前のステ
ージで生成する。 という方法をとる必要があると考えられる。

【０００５】さて、分岐予測機構を持たないプロセッサ
では、分岐命令の次命令は分岐不成立と見積もった時と
同じ命令をそのままフェッチすることになる。そのため
その分岐命令が成立すると分かった時点で、分岐命令後
の先行実行してしまった全ての命令をキャンセルすると
同時に、新たに分岐先の命令をフェッチし直さなくては
ならないというダメージを受ける。この回復にはかなり
のサイクル数を必要とする。

【０００６】そこで、最近ではそれらのダメージを軽減
するために分岐予測機構を取り入れたマイクロプロセッ
サが開発されている。ここでは、静的に分岐を予測する
方式と動的に分岐を予測する方式のいずれかの方式を採
用して分岐予測を行い、パイプライン・ストールを低減
している。

【０００７】静的分岐予測はコンパイル時に行われるも
のである。分岐命令の実行時において、その予測の方向
が変わらない。分岐予測の正当率はあまり高くないが、
ソフトウェアによる手法なので、ハードウェアコストは
掛からない。以下、いくつかの静的分岐予測の具体例を
示す。

【０００８】１．分岐命令の後続命令を分岐結果が判明
するまでインターロックする。パイプラインの乱れは大
きくなるが、一番単純な方法である。 ２．分岐命令を「不成立」と予測する。つまり分岐命令
があたかも存在しないかのように後続命令を引き続き実
行する。この時、分岐結果が判明するまではマシン状態
を更新してはいけない。もし分岐命令が「成立」であれ
ば、パイプラインを止め、正しい命令をフェッチし直さ
なくてはいけない。 ３．分岐命令を「成立」と予測する。デコードの結果分
岐命令と判断し、かつ分岐先アドレスを生成するとすぐ
に、当該分岐命令を「成立」と仮定して分岐先命令をフ
ェッチし始める。分岐結果よりも先に分岐先アドレスが
得られるマシンでは効果のある手法である。 ４．遅延分岐（ｄｅｌａｙｅｄ ｂｒａｎｃｈ）を用い
る。分岐遅延（制御ハザードの長さ）のサイクル数分の
命令が分岐遅延スロットに入り、コンパイラによって多
くの有効な命令を後続命令として分岐遅延スロットに投
入するようにする。

【０００９】動的分岐予測は、今までの実行履歴を元に
行われるものである。プログラム実行中の分岐命令の振
舞いに基づき、予測の方向を適宜変える。分岐予測の正
当率は高い。しかし、専用のハードウェア機構を用意す
る必要があるので、ハードウェアコストがかかる。以
下、いくつかの動的分岐予測の具体例を示す。

【００１０】１．分岐予測バッファを用いる。これは、
分岐命令アドレスの下位ビットでインデックスされる小
容量メモリのことである。 ２．同じように命令アドレスでアクセスされる小容量の
専用キャッシュを用いる。命令フェッチの段階でアクセ
スされるため、分岐するか否かと分岐先ＰＣが同時に判
明する。 ３．分岐命令の次にくる命令の予測アドレスも格納した
形態の分岐予測キャッシュ（分岐先バッファ（ＢＴ
Ｂ））を用いる。命令キャッシュの各ブロックに数ビッ
トを付加して命令と一緒にフェッチする。フェッチした
命令が分岐命令だと予測され、かつ、分岐予測が成立の
場合には、分岐先命令のプログラム・カウンタＰＣが判
明し次第、分岐先の命令フェッチを開始する。

【００１１】

【発明が解決しようとする課題】静的分岐予測は、分岐
予測専用のハードウェアが無くても分岐予測ができると
いう利点を有している。また、ソフトウェアによるもの
なので、変更や拡張も容易である。しかし、分岐予測の
正当率が低いので、パイプライン処理において、しばし
ばパイプライン・ストールを引き起こすという問題があ
る。

【００１２】動的分岐予測は予測正当率が高いので、パ
イプライン処理の性能低下を確実に低減することができ
る。そこで、この動的分岐予測を徹底してすべての分岐
命令を登録できるだけの大きなＢＴＢを用意すれば、パ
イプライン処理の高い性能を十分に維持することができ
ると考えられる。

【００１３】しかし、ＢＴＢの容量を無限に大きくした
としても、分岐予測正当率の上昇には限界があるので、
パイプライン・ストールの発生を完全に阻止することは
できない。すなわち、パイプライン処理には必ず一定の
性能低下が生じる。そして、ＢＴＢの容量を大きくする
と、コスト増大及び物量の増大を招くという問題があ
る。

【００１４】本発明は、このような従来の問題点に鑑
み、ある場合には分岐予測の正当率が高い動的分岐予測
を行うことにより、パイプライン処理の性能を向上させ
ると共に、ある場合にはコスト的に有利な静的分岐予測
を行うことができる優れた分岐命令処理方法を提供する
ことを目的とする。

【００１５】

【課題を解決するための手段】本発明によれば、上述の
目的は、前記特許請求の範囲に記載した手段にて達成さ
れる。

【００１６】すなわち、請求項１の発明は、分岐命令の
分岐方向を予測するために、動的に分岐命令を登録する
分岐先バッファを具備する情報処理装置における分岐命
令処理方法であって、分岐命令を分岐先バッファへ登録
すべき旨の所定の表示を検出するステップと、所定の表
示がある分岐命令のみを分岐先バッファへ登録するステ
ップとを具備する分岐命令処理方法である。

【００１７】また、請求項２の発明は、前記検出するス
テップで、分岐命令の命令フィールドに設けられた動的
分岐予測ビットを診ることにより、所定の表示を検出す
る分岐命令処理方法である。

【００１８】また、請求項３の発明は、コンパイルを行
う場合において、分岐命令の分岐方向を解析するステッ
プと、分岐方向に一定の連続性がある分岐命令に対して
は、分岐先バッファへ登録すべき旨の所定の表示を行う
ステップと、分岐方向に一定の連続性が無い分岐命令に
対しては、静的分岐予測を行うステップとを設ける分岐
命令処理方法である。

【００１９】また、請求項４の発明は、前記解析するス
テップで、プロファイル情報に基づいて分岐命令の分岐
方向を解析する分岐命令処理方法である。

【００２０】また、請求項５の発明は、前記所定の表示
を行うステップで、分岐命令の命令フィールドに動的分
岐予測ビットを設けると共に、この動的分岐予測ビット
を立てることにより所定の表示を行う分岐命令処理方法
である。

【００２１】また、請求項６の発明は、前記静的分岐予
測を行うステップで、分岐命令の命令フィールドに静的
予測ビットを設けると共に、静的予測ビットを立てる又
はクリアすることによって、常に後続命令をフェッチす
る、又は常に分岐先命令をフェッチするように予測する
分岐命令処理方法である。

【００２２】

【作用】分岐予測の正当率向上には限界があるので、Ｂ
ＴＢの容量を大きくするだけではいたずらにコストの増
大を招くだけであり、パイプライン・ストールの問題解
決にはならない。それならば、必要最小限のＢＴＢを用
意し、ハードウェアコストを押さえた上で、分岐予測の
正当率を上げる方が効率的である。

【００２３】請求項１の発明では、分岐命令を分岐先バ
ッファへ登録すべき旨の所定の表示を検出するステップ
と、所定の表示がある分岐命令のみを分岐先バッファへ
登録するステップとを具備するので、分岐命令が選択的
に分岐先バッファへ登録されることになる。

【００２４】また、請求項２の発明は、前記検出するス
テップにおいて、分岐命令の命令フィールドに設けられ
た動的分岐予測ビットを診ることにより、所定の表示を
検出するので、分岐命令の命令フィールドを解読するこ
とによってその分岐命令を分岐先バッファへ登録するか
否かが迅速に決定される。

【００２５】また、請求項３の発明は、分岐方向に一定
の連続性がある分岐命令に対しては、分岐先バッファへ
登録すべき旨の所定の表示を行うので、動的分岐予測に
適した分岐命令が分岐先バッファへ登録されるようにな
る。また、分岐方向に一定の連続性が無い分岐命令に対
しては、静的分岐予測を行うので、動的予測に適しない
分岐命令は分岐先バッファへ登録されずに静的分岐予測
されるようになる。

【００２６】また、請求項４の発明は、プロファイル情
報に基づいて分岐命令の分岐方向を解析するので、精度
の高い確実なデータに基づいて分岐予測が為されること
になる。プロファイル情報は、開発中のプログラムに対
しその各部分の実行回数と実行に要した時間などをテー
ブルにして表示したものである。そのデータはプログラ
ムの高速化のために改良すべき点を探すための重要な資
料とすることができる。

【００２７】また、請求項５の発明は、分岐命令の命令
フィールドに動的分岐予測ビットを設けると共に、この
動的分岐予測ビットを立てることにより所定の表示を行
うので、動的分岐予測すべき分岐命令に対して、分岐先
バッファへ登録すべき旨の所定の表示が行われる。

【００２８】また、請求項６の発明は、分岐命令の命令
フィールドに静的予測ビットを設けると共に、静的予測
ビットを立てる又はクリアすることによって、常に後続
命令をフェッチする、又は常に分岐先命令をフェッチす
るように予測するので、静的分岐予測すべき分岐命令
が、一定の分岐方向に分岐するように、分岐方向の予測
が為される。

【００２９】

【実施例】本方式は、分岐予測バッファ（ＢＴＢ）に登
録する分岐命令を減らして、ＢＴＢ容量を減らすことを
その目的の一つとした分岐命令処理方法である。しか
し、ＢＴＢサイズを小さく押さえても性能低下につなが
らないように、ＢＴＢに分岐命令を選択的に登録する機
能を持つ。

【００３０】コンパイラが静的に分岐を予測し易いよう
な、分岐命令の飛び先に偏りのあるものに対しては、Ｂ
ＴＢに登録せずに静的分岐予測に任せる。逆に、分岐先
が一定に決まらず静的分岐予測が難しいものに対しては
原則としてＢＴＢに登録し、動的な分岐予測を行う。し
かし、その中でも動的な分岐予測が難しいと思われるも
のに対しては、ＢＴＢに登録せず静的分岐予測に任せて
しまう。

【００３１】図２に、三種類の分岐命令とその実行履歴
の例を示す。なお、プログラム・カウンタＰＣが分岐先
アドレスに変更される場合、その分岐命令は『成立』
（ｔａｋｅｎ）といい、そうでない場合『不成立』（ｎ
ｏｔ ｔａｋｅｎ）という。

【００３２】図中の分岐命令１は、ｔａｋｅｎがずっと
続いて起こる分岐命令の例を図示したものである。分岐
命令２は、ｔａｋｅｎとｎｏｔ ｔａｋｅｎとが交互に
起こる分岐命令の例である。また、分岐命令３は、ｔａ
ｋｅｎがしばらく続いた後にｎｏｔ ｔａｋｅｎがまた
しばらく続いて起こる分岐命令の例である。

【００３３】まず、ｔａｋｅｎが続く分岐命令１につい
て考える。この分岐命令１に対しては、コンパイラによ
る一方向の静的分岐予測で十分な分岐予測性能が出せ
る。すなわち、このような命令はＢＴＢに登録しないよ
うにする。数値計算プログラムには多く現われるタイプ
の分岐命令だが、静的予測だけでも十分な性能が期待で
きる。

【００３４】次にｔａｋｅｎとｎｏｔ ｔａｋｅｎとが
交互に起こる分岐命令２について考える。この分岐方向
を、一ビットの実行履歴を登録するＢＴＢ（過去一回の
履歴により当該分岐命令の方向を予測する。）で予測す
れば、毎回分岐予測がはずれてしまう。この場合には、
静的予測の方がより安全であるといえる。ＢＴＢに登録
してしまうと無駄な予測をしてしまうことになるので、
分岐命令２もＢＴＢに登録しない方がよい。

【００３５】最後に、分岐命令３について考える。分岐
命令３に対して、静的分岐予測をすれば、予測は半分あ
たり半分はずれることになる。一方、ＢＴＢで動的分岐
予測をすれば、分岐方向が変わるところ、すなわち途中
の一度だけ予測がはずれ、後はずっと予測が当たること
になる。よって、ｔａｋｅｎからｎｏｔ ｔａｋｅｎに
切り替わる時以外は、ＢＴＢで分岐するか否かを当てる
ことができる。従って、このような命令はＢＴＢに登録
した方が効率がよい。

【００３６】よって、分岐命令の実行履歴を解析して、
ＢＴＢに登録する分岐命令を選別してやれば、ＢＴＢに
登録する分岐命令の個数を大きく制限することができる
から、バッファ（ＢＴＢ）容量もかなり小さくできる。

【００３７】ＢＴＢに登録すべき分岐命令の選別は、例
えば、従来の分岐命令予測機構に加え、分岐命令の命令
フィールドの中にＢＴＢに登録するかしないかという情
報をコンパイル時に付加することによって実現可能であ
る。その際に、一度実行した結果を用い（プロファイル
情報を用いる）、ＢＴＢに登録するか否かを決定するこ
とも可能である。

【００３８】分岐の偏りや実行頻度などを調べるにはプ
ロファイルを参照すればよい。一度プロファイル用にコ
ンパイルされたプログラムを実行し、その実行履歴を参
照して再コンパイルすれば、ＢＴＢに登録すべき命令か
どうかを容易に判断できる。

【００３９】一度プログラムをプロファイル用にコンパ
イルすると共に、コンパイルしたプログラムをプロファ
イラ情報を出力させるために実行する。そして分岐命令
ごとにどのような実行履歴を辿ったかという（分岐が成
立であるか不成立であるか）実行履歴をテーブルに記録
しておく。それから、次に再コンパイルした際にその実
行履歴を元に、ＢＴＢに登録すべき分岐命令かどうかを
判断する。

【００４０】ＢＴＢに登録すべき分岐命令のみを選択的
に分岐先バッファに登録することができれば、次のよう
な効果が期待できる。 １．小さいバッファでも十分な性能で分岐予測をするこ
とができる。 ２．分岐ミスによるパイプライン・ストールが少なくて
済む。 ３．分岐命令の実行に際して、常にＢＴＢにアクセスす
ることを避けられるため、サイクル数を短縮することが
できる。

【００４１】図３は、被測定プログラムの動きとプロフ
ァイラの関係を説明するものである。プロファイラは、
分岐命令の実行データをテーブルにして持ち、一度実行
形式のオブジェクト・プログラムを実行した際に実行履
歴を保存しておく。次に、再コンパイルする際には、そ
のデータを参照し、動的分岐予測をするか静的分岐予測
をするかの情報を分岐命令に付加していく。

【００４２】その際には、分岐命令がどのような振舞を
したかということをチェックし、コンパイラに動的に予
測すべきか、あるいは静的に予測すべきかということを
判断させる。コンパイラは、動的分岐予測を行うか行わ
ないかの情報や、静的分岐予測の方向を分岐命令に表示
する。

【００４３】動的予測をすべきか、すなわちＢＴＢに登
録すべきかは、次のような判断基準に因ることができ
る。 ・分岐命令のｔａｋｅｎ又はｎｏｔ ｔａｋｅｎの割合
がほぼ‘１’で、どちらかが続いて起こる場合にはＢＴ
Ｂに登録しない。 ・ｔａｋｅｎ，ｎｏｔ ｔａｋｅｎの出現が不規則に変
化する場合には、ＢＴＢに登録しない。 ・ｔａｋｅｎ又はｎｏｔ ｔａｋｅｎの出現がある程度
続いて起こる場合には、ＢＴＢに登録する。

【００４４】図４に、分岐命令フィールドの使用態様の
一例を示す。図示する命令フィールドは、通常の３２ビ
ット長の命令フィールドに二ビットを追加した形のフィ
ールドを持つ。追加した二ビットのうち一ビットは動的
分岐予測用ビットに、残りの一ビットは静的分岐予測用
に使用する。これらのビットの意味は次の通りである。

【００４５】動的分岐予測用ビットがオフであれば動的
分岐予測をするためのＢＴＢに分岐命令を登録せず、静
的分岐予測を行う。また、動的分岐予測ビットがオンで
あれば分岐命令をＢＴＢに登録して動的分岐予測を行
う。なお、動的分岐予測がはずれた時のために、静的分
岐予測用ビットへ静的分岐予測の方向を指示しておくこ
とができる。

【００４６】従って、動的分岐予測を行う場合には、命
令フィールドに付加した動的分岐予測用ビットを立てれ
ばよい。そうすれば、実行時には動的に分岐方向を判断
することができ、ＢＴＢに登録すべき命令（動的分岐予
測ビットが立っている）とそうでない命令とを区別した
上で分岐予測の処理を行うことができる。

【００４７】また、ＢＴＢに登録されなかった分岐命令
に対しては静的な分岐予測を行う。ｔａｋｅｎ方向に予
測するかｎｏｔ ｔａｋｅｎ方向に予測するかは、プロ
ファイルの結果により、コンパイル時に静的予測用ビッ
トを操作するようにすればよい。図４において、常に後
続命令をフェッチする場合には静的分岐予測用ビットを
‘０’に操作する。また、常に分岐先命令をフェッチす
る場合には静的分岐予測用ビットを‘１’に操作する。

【００４８】図１は、当実施例における分岐方向の予測
方法を説明する図である。図１の場合、分岐命令をロー
ドすると、まず、動的分岐予測用ビットフィールドを参
照している。オンの場合にはＢＴＢを参照して、次にフ
ェッチする命令のアドレスを得るが、オフの場合には静
的予測を行うことになる。

【００４９】静的分岐予測を行う場合、静的分岐予測用
ビットフィールドを参照して分岐方向を決定する。静的
分岐予測用ビットフィールドがオンの場合には、ｔａｋ
ｅｎ方向として分岐先命令をフェッチする。また、オフ
の場合にはｎｏｔ ｔａｋｅｎ方向として、その分岐命
令に後続する命令をフェッチする。

【００５０】

【発明の効果】以上説明したように、本発明によれば、
ＢＴＢの容量を押さえつつ正確な分岐予測を行うことが
できる。また、正確な分岐予測を行って命令の先行実行
を行うことで、命令列の処理が終了するまでにかかる全
体のサイクル数が軽減でき、これによりプロセッサの高
速化が期待できる。

【図面の簡単な説明】

【図１】分岐方向の予測方法を説明する図である。

【図２】分岐命令の実行履歴を示す図である。

【図３】プロファイラの説明図である。

【図４】分岐命令の命令フィールドの使用態様の一例を
説明する図である。

Claims (6)

【特許請求の範囲】
1. 【請求項１】分岐命令の分岐方向を予測するために、動
   的に分岐命令を登録する分岐先バッファを具備する情報
   処理装置における分岐命令処理方法であって、 分岐命令を分岐先バッファへ登録すべき旨の所定の表示
   を検出するステップと、 所定の表示がある分岐命令のみを分岐先バッファへ登録
   するステップとを具備することを特徴とする分岐命令処
   理方法。
2. 【請求項２】前記検出するステップでは、分岐命令の命
   令フィールドに設けられた動的分岐予測ビットを診るこ
   とにより、所定の表示を検出する請求項１記載の分岐命
   令処理方法。
3. 【請求項３】コンパイルを行う場合において、 分岐命令の分岐方向を解析するステップと、 分岐方向に一定の連続性がある分岐命令に対しては、分
   岐先バッファへ登録すべき旨の所定の表示を行うステッ
   プと、 分岐方向に一定の連続性が無い分岐命令に対しては、静
   的分岐予測を行うステップとを設けることを特徴とする
   分岐命令処理方法。
4. 【請求項４】前記解析するステップでは、プロファイル
   情報に基づいて分岐命令の分岐方向を解析する請求項３
   記載の分岐命令処理方法。
5. 【請求項５】前記所定の表示を行うステップでは、分岐
   命令の命令フィールドに動的分岐予測ビットを設けると
   共に、この動的分岐予測ビットを立てることにより所定
   の表示を行う請求項３記載の分岐命令処理方法。
6. 【請求項６】前記静的分岐予測を行うステップでは、分
   岐命令の命令フィールドに静的予測ビットを設けると共
   に、静的予測ビットを立てる又はクリアすることによっ
   て、常に後続命令をフェッチする、又は常に分岐先命令
   をフェッチするように予測する請求項３記載の分岐命令
   処理方法。