JP2853460B2 - データロード方法及びそれを用いた演算プロセッサ - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、複数の命令列を並行し
て処理し、実行命令列内の命令を実行する演算プロセッ
サにおけるデータロード方法及びそれを用いた演算プロ
セッサに関する。

【０００２】

【従来の技術】従来のフオン・ノイマン方式で動作する
演算プロセッサにおいては、命令列を順に実行している
中で、メモリにアクセスする命令があった場合、その命
令を実行し、そのメモリアクセスが終了するまで、演算
部の処理動作は次の命令の処理に進まずにそこで待って
いるという制御方式をとっていた。特にアクセスがメモ
リ読み出し（ロード）動作の場合には読み出した値をそ
れ以降の命令で使用するために、このように待つという
動作は必須となる。

【０００３】このような制御方式をとると、メモリのア
クセスを起動してからそれを終了するまでにかかる時間
が演算プロセッサの一命令を実行する時間に比べて長い
場合には、演算プロセッサが演算処理を実行せずに無駄
に費やすサイクルが生じることになり、処理性能を低下
させる原因となる。

【０００４】それを解決するために、本出願人出願の特
願平０４−１０８０７１に記載の発明ではメモリをアク
セスするロード命令実行時に実行命令列を切り替え、メ
モリアクセスと他の命令列実行を並列に行なうことによ
り処理性能を高く保つことを可能にしている。

【０００５】

【発明が解決しようとする課題】上述の方式では、メモ
リをアクセスするロード命令実行時に実行命令列を切り
替え、メモリアクセスと他の命令列実行を並列に行なう
ことにより処理性能を高く保つことを可能にしている
が、高速化のために命令キャッシュを使用している場合
には、命令列の切り替えにより命令キャッシュのミスの
確率が高くなり、実行命令フエッチ速度が低下する。

【０００６】また、特に並列に実行可能な命令列の数が
少ない場合には、たとえ前述の特願平０４−１０８０７
１記載の発明を利用しても、連続実行される部分が短か
いと、トークンメモリが空の場合にそれだけ演算処理部
がアイドルであるサイクルが多くなる。

【０００７】例えば、 データＡをレジスタにロードするためのアドレス計算 データＡのロード （「ロード」とはローカルまたはリモートのメモリから
データをフエッチし演算プロセッサの指定されたレジス
タへ移す動作を指す） データＢをレジスタにロードするためのアドレス計算 データＢのロード データＡとＢを使用する演算 という処理の流れがあったとする。

【０００８】上で提案した方式でもトークンメモリが空
の場合には、この命令列に関する処理の時間経過は図６
（Ａ）のように図示できる（図で「Ａのロード」の部分
はメモリより戻ってからトークンメモリに並び、それを
出て演算処理部に入るまでの時間を含んでいる）。

【０００９】このとき、「データＡのロードの動作」と
「データＢをレジスタにロードするためのアドレス計
算」とは本来は並列に実行できるが、制御の関係で直列
に処理されることになり、この命令列処理全体の始まっ
てから終わるまでにかかる時間が長くなり、特に、他に
十分な数の並列に実行可能な命令列がない場合には、
「Ａのロード」の間、他に進める処理がなく、演算部の
稼働率が下る可能性がある、という問題が生じる。

【００１０】そこで、一つの命令列のなかで中断動作を
起こさずに連続的に実行される部分（部分命令列）であ
るシーケンス長をできるだけ長くするようにして一つの
命令列の実行を継続し続けた方が、処理高速化には好ま
しい。言い換えれば命令列のうち中断する必要の無いと
ころでは中断せずに、行けるところまで同じ命令列の実
行を続行してから、どうしても中断が必要なところで中
断動作をすることが、より望ましいということになる。

【００１１】すなわち、もし図６（Ｂ）のように「Ａの
ロード」「Ｂのアドレス計算」を並列して実行できれば
この問題を緩和することができることになるが、まだ本
来並列に実行できる「Ａのロード」と「Ｂのロード」を
オーバーラップさせることができないため上の問題は残
る。すなわち図６（Ｃ）のような処理ができることが望
ましい。

【００１２】本発明の目的は、このような問題点を解決
し、より高い処理性能を実現する命令列切り替え方法及
びそれを用いた演算プロセッサを提供することにある。

【００１３】

【課題を解決するための手段】第１の発明のデータロー
ド方法は、並行して実行可能な命令列をあらかじめ複数
用意しておきそれらを切り替えながらそのうちから１つ
を実行命令列として選択しその実行命令列中の命令を順
に実行する演算プロセッサで第１および第２の２個のデ
ータのロード動作の終了後に前記２個のデータを使用し
て実行すべきターゲット命令を含む第１の命令列を実行
中に前記２個のデータをメモリから前記演算プロセッサ
内へロードするデータロード方法において、前記メモリ
から前記第１のデータをロードする第１のロード命令実
行時には前記第１のデータを使用する前記ターゲット命
令のアドレスを含む第１のトークンを外部に発行してメ
モリアクセス動作を起動すると共に前記第１の命令列の
実行を続行し、ついで前記メモリから前記第２のデータ
をロードする第２のロード命令実行時には前記第２のデ
ータを使用する前記ターゲット命令のアドレスを含む第
２のトークンを外部に発行してメモリアクセス動作を起
動すると共に前記第１の命令列の実行を続行し、その後
に前記ターゲット命令の直前で前記第１の命令列の実行
を中断して他の命令列実行に移り、前記メモリアクセス
動作を終了して前記ターゲット命令に必要なデータを有
する前記演算プロセッサに入力する入力トークンの数を
計数し、前記計数の結果が２になったときには前記第１
の命令列の実行を前記入力トークンに含まれる前記ター
ゲット命令のアドレスにより前記ターゲット命令から再
開することを特徴としている。

【００１４】第２の発明の演算プロセッサは、並行して
実行可能な命令列をあらかじめ複数用意しておきそれら
を切り替えながらそのうちから１つを実行命令列として
選択しその実行命令列中の命令を順に実行する演算プロ
セッサにおいて、１つの命令列内の命令を順に実行する
演算処理部と、外部から入力されたトークンを保持し前
記演算処理部に供給するトークンメモリと、前記演算処
理部からアクセスされるデータを保持するレジスタ群
と、外部で行なう動作の記述とそのとき実行中の命令コ
ード中に記述された命令列実行を中断した後に再開する
べき再開命令アドレスとを含むトークンの入出力情報を
管理しまたその入力数を計数するとともに外部から前記
演算プロセッサに戻ったトークンをトークンメモリに保
持するのに先立ってトークン中のメモリ読み出しデータ
をレジスタ群中のレジスタに書き込むロード制御部と、
各ロード命令には前記再開命令アドレスと再開に必要な
到着トークン数である発火必要数を有し各命令について
はその命令実行後に直後の命令を続行実行すか否かを示
したフラグを有する命令群よりなるプログラムを格納し
前記演算処理部へ命令列を供給するとともに前記各部の
動作を制御する命令列制御部とを有することを特徴とし
ている。

【００１５】第３の発明の方法は、第１の発明に加え
て、第１の命令列中にｎ個のデータのロード動作の終了
後に前記ｎ個のデータを使用して実行すべきターゲット
命令を含んでいるときには、前記ｎ個のデータのそれぞ
れをロードするロード命令の実行時にそれぞれ前記ター
ゲット命令のアドレスを含むトークンを外部に発行して
メモリアクセス動作を起動すると共に前記第１の命令列
の実行を続行し、その後に前記ターゲット命令の直前で
前記第１の命令列の実行を中断して他の命令列実行に移
り、前記メモリアクセス動作を終了して前記ターゲット
命令に必要なデータを有する入力トークンの数を計数
し、前記計数の結果がｎになったときには前記第１の命
令列の実行を前記入力トークンに含まれる前記ターゲッ
ト命令のアドレスにより前記ターゲット命令から再開す
ることを特徴としている。

【００１６】第４の発明の方法は、第３の発明に加え
て、ロード命令実行時にはそのターゲット命令の代わり
にロード命令とターゲット命令のあいだのいずれかの命
令（これを再開命令と呼ぶ）のアドレスを含むトークン
を外部に発行してメモリアクセス動作を起動し、その後
前記再開命令の直前でその命令列の実行を中断し、前記
再開命令のアドレスを持つトークンがあらかじめ定めら
れた回数入力されたときに前記トークン中に含まれるア
ドレスにより前記再開命令から再開可能とすることを特
徴としている。

【００１７】第５の発明の方法は、第４の発明に加え
て、命令列の中に、命令実行に２個のデータを必要とす
る命令に対して複数のロード命令とそれぞれのターゲッ
ト命令が存在する場合に、全てのロード命令について、
第１のロード命令実行時には、前記第１のロード命令と
そのターゲットである第１のターゲット命令との間に他
のロード命令がないときには前記第１のロード命令は前
記第１のターゲット命令を再開命令とし、他のロード命
令が存在しかつ前記第１のロード命令に最も近いロード
命令が別の第２のターゲット命令を持つ第２のロード命
令であるときには前記第１のロード命令は前記第２のロ
ード命令を再開命令とし、他のロード命令が存在しかつ
前記第１のロード命令に最も近いロード命令が同じ前記
第１のターゲット命令を持つ第３のロード命令であると
きには前記第１のロード命令は前記第３のロード命令の
再開命令と同じ命令をその再開命令とし、全ての命令に
ついて、ある命令がいずれかのロード命令の再開命令に
なっているときにはその直前で前記ある命令の属する命
令列の実行を中断し、前記ある命令をその再開命令とす
る前記ロード命令が２個あるときにはその再開命令を持
つトークンが２個到着したときに前記ある命令からそれ
の属する命令列を再開可能とすることを特徴としてい
る。

【００１８】

【作用】第１および第２の発明では、ロード命令に対応
するターゲット命令のアドレスをあらかじめ調べてお
き、ターゲット命令のアドレスを持つトークンを２つ発
行した後にターゲット命令直前で命令列実行を中断し、
２つのトークンが入力されたことを発見することにより
命令列実行を再開する。

【００１９】第３の発明では、ターゲット命令実行に必
要なデータが２つより多いときも再開時にそれを必要数
まで計数することにより同様な動作を行なう。

【００２０】第４の発明では、ロード命令とターゲット
命令との間に第３の発明の方法を実施するうえでの障害
になる命令があってもコンパイル時に静的にこれを検出
してその命令のアドレスを再開アドレスとするように設
定することで同様な動作を行なう。

【００２１】第５の発明では、２つ以上のロード命令と
ターゲット命令の組が干渉しあっていても中断後の再開
アドレスを干渉を解決するように設定することにより同
様な動作を行なう。

【００２２】

【実施例】まず第１の発明の方法を使用する第２の発明
の装置の実施例について、図面を用いて説明する。

【００２３】図１は第２の発明の演算プロセッサの一実
施例の基本構成図、図２は本演算プロセッサで使用され
るトークンの形式を示す形式図、図３は本演算プロセッ
サで使用される命令の形式を示す形式図である。

【００２４】図１の演算プロセッサ１は、命令列が与え
られたときに内部に持つプログラムカウンタの値を１つ
ずつ増やしながらそれで参照される命令列内の命令に従
った演算処理を行なう演算処理部１０と、演算処理部１
０から参照・更新される複数のレジスタの集合であるレ
ジスタ群１１と、演算処理部１０内の命令とプログラム
カウンタの値からトークンを生成し、これを図示されて
いないメモリアクセスコントローラに対して発行するト
ークン生成部１２と、メモリアクセスコントローラから
ロード制御部２１を介して入力されるトークンをＦＩＦ
Ｏ的に順に保持するトークンメモリ１３と、ロード制御
部２１と、トークンメモリ１３と演算処理部１０とトー
クン生成部１２の動作を制御し、またプログラムを保持
するプログラムメモリを内部に持つ命令列制御部１４と
から構成されている。レジスタ群１１の中は、グローバ
ルレジスタフレームと、Ｒ個のローカルレジスタフレー
ムとに分かれている。Ｒは２以上の整数、例えば１６と
する。

【００２５】図４は入力トークンテーブル２０と入力管
理部２５からなるロード制御部２１の構成を示す。入力
トークンテーブル２０はＲ行からなり、各行は発火必要
数２２と既到着数２３のフイールドを持つ。既到着数２
３は″０″に初期化されている。

【００２６】このような演算処理プロセッサ１を用いて
演算処理を行なう場合、次のような手順で進める。

【００２７】まず外部から信号線９０を介して命令列制
御部１４に対して、全体の動作を記述したプログラム
を、ついでそれぞれが実行開始アドレスを持ったトーク
ンをいくつか与える。

【００２８】同時に与えられ、また演算プロセッサ１内
外に存在できるトークン数の上限はレジスタ群１１中の
ローカルレジスタフレーム数Ｒである。初期起動時にト
ークン数がこれを越さない様にプログラムコード作成時
にコンパイラで調整される。これにより同時にシステム
内に存在する実行可能な命令列数はＲ個以下となる。プ
ログラム起動時にＲ個以下のトークンが外部から与えら
れると、命令列制御部１４はそれぞれのトークンに異な
るフレーム識別子を与える。フレーム識別子はＲ個ある
ローカルレジスタフレームのうちそのトークンが表現す
る命令列がどれを独占的に使用するかを識別するもので
ある。

【００２９】命令列制御部１４内のプログラムは一連の
命令の連続であり、実行開始アドレスはその内の１つの
アドレスである。以下、プログラム内の、実行開始アド
レスからある終了点までの部分列を命令列と呼ぶ。

【００３０】トークンはすべてトークンメモリ１３内に
おかれる。トークンメモリ１３内のトークンは図２の形
式５０に示されており、実行開始アドレスのフイールド
５１を持つ。このとき、フイールド６０は使用しない
し、またフラグ５２の値は″０″である。前述のフレー
ム識別子はフイールド６３に書き込まれる。また外から
トークンメモリ１３へ与えたトークンの数を命令列制御
部１４内のトークン数カウンタにセットする。

【００３１】外部から命令列制御部１４に対して処理開
始信号が与えられると、トークンメモリ１３内の先頭の
トークンが演算処理部１０に送られ、そのトークンのフ
ラグ５２の値が″０″であるので、演算処理部１０では
そのトークン内の実行開始アドレス５１の値がプログラ
ムカウンタに設定される。同時にそのフレーム識別子６
３の値が演算処理部１０の中のフレームレジスタにセッ
トされる。これを以下命令列フエッチ動作と呼ぶ。その
後、その命令列の実行が開始される。

【００３２】演算処理部１０の演算処理では、まずプロ
グラムカウンタの値を命令列制御部１４に送り、それを
アドレスとしてそれで示される命令列制御部１４内のプ
ログラムメモリ中の命令が演算処理部１０にフエッチさ
れる。これを命令フエッチ動作と呼ぶ。

【００３３】ついで演算処理部１０では、フエッチされ
た命令に記述された命令の実行を行なった後に、命令の
シーケンス終了フラグ（後述の図３の命令形式の参照数
字６５）が″０″であればプログラムカウンタの値を１
つインクリメントして次の命令の実行へ進む。命令のシ
ーケンス終了フラグが″１″であれば、後で述べる命令
列終了命令が実行された場合と同様に、その命令列の実
行を終了し別の命令列フエッチ動作を行なう。以上が命
令実行の基本動作である。

【００３４】命令フエッチで得られる命令の種類として
は、レジスタ群１１内のレジスタの値を最大２つ参照し
て加減乗除などの演算を行ない結果を指定されたレジス
タに書き込むＡＬＵ演算命令、外部メモリ上のデータを
そのアドレスを指定することにより読み出してレジスタ
にロードするロード命令、レジスタ上のデータを外部メ
モリの指定された場所へ書き出すストア命令、プログラ
ムカウンタの値を命令で指示された値だけ変化させるジ
ャンプ命令およびブランチ命令、命令列の終わりで命令
列実行を終了する命令列終了命令、がある。

【００３５】ＡＬＵ演算命令、ロード命令、ストア命令
を実行する場合、命令は、図３の参照数字８０、７０お
よび７５の形式を使用するが、この中のレジスタ識別子
は直接にレジスタを識別するためではなく、その命令列
に割り当てられたフレーム内での識別に利用される。レ
ジスタ識別子はまずそれがグローバルフレームのレジス
タを指すかローカルフレームのレジスタを指すかを示
し、前者である場合は残りの部分がその内の一つをアド
レスする。後者である場合には、演算処理部１０内フレ
ームレジスタに保持されているフレーム識別子で１つの
フレームが決まり、命令の中のレジスタ識別子でその中
の一つのレジスタがアドレスされる。

【００３６】命令フエッチで得られた命令がＡＬＵ演算
命令のときは上述の基本動作を行なう。ＡＬＵ演算命令
の形式は図３の参照数字８０に示す。読みレジスタ識別
子Ａ８３と読みレジスタ識別子Ｂ８４が演算に用いるデ
ータの入ったレジスタを、書き込みレジスタ識別子８２
が結果を格納すべきレジスタを示す。

【００３７】命令フエッチで得られた命令がロード命令
の場合には、命令列制御部１４からトークン生成部１２
に対しての指示により、トークン生成部１２で図２の形
式５５に示す読み出し要求トークンが生成される。

【００３８】ロード命令の形式を図３の参照数字７０に
示す。ロード命令の形式７０はロード命令を示す命令コ
ード７１と、メモリ読み出しを行なう読み出しアドレス
７３と、読み出したデータを書き込むレジスタの識別子
７２と、ロード命令実行により命令列実行を中断した後
に再開する命令であるターゲット命令のプログラムメモ
リ内のアドレス６６と、ターゲット命令アドレスから命
令列実行を再開するために必要な入力トークン数を保持
する発火必要数６７を有しており、この発火必要数６７
には第１の発明の方法を実現するための演算プロセッサ
では″１″または″２″を、第３の発明以下の方法を実
現するための演算プロセッサではプログラムで決まる数
ｎを入れる。

【００３９】読み出し要求トークンの形式５５はそのと
きのロード命令７０内のターゲット命令アドレス６６の
値を実行開始アドレス５８に、ロード命令７０中の外部
メモリのアクセスすべき読み出しアドレス７３をアクセ
スアドレス５７に、ロード命令７０中のレジスタ識別子
７２をレジスタ識別子６１に、メモリアクセスコントロ
ーラで行なう動作としてメモリ読み出しを指示するコー
ドをオペレーションコード５６に持つ。またフイールド
６４には演算処理部１０内に保持されたフレーム識別子
が書き込まれる。このときフイールド５９は使用しな
い。

【００４０】ロード命令実行時、この読み出し要求トー
クンは生成後信号線９１を介してメモリアクセスコント
ローラへ送られる。同時に命令制御部１４から信号線９
３，９４を介して、ロード制御部２１内の入力トークン
テーブル２０（図４参照）の、そのときの演算処理部１
０内に保持されたフレーム識別子でアドレスされる行の
発火必要数のフイールド２２に、ロード命令７０（図３
参照）の発火必要数６７のフイールドの値が書き込まれ
る。

【００４１】命令フエッチで得られた命令がレジスタ上
のデータを外部メモリの指定された場所へ書き出すスト
ア命令であった場合には、命令列制御部１４からトーク
ン生成部１２に対しての指示により、トークン生成部１
２で図２の形式５５に示す書き込み要求トークンが生成
される。

【００４２】ストア命令の形式を図３の参照数字７５に
示す。形式７５はストア命令を示す命令コード７６と、
メモリ書き込みを行なう書き込みアドレス７７と、書き
込むデータを読み出すレジスタの識別子７８とを有す
る。

【００４３】書き込み要求トークンの形式５５はストア
命令７５中の外部メモリの書き込みアドレス７７をアク
セスアドレス５７に、メモリアクセスコントローラで行
なう動作としてメモリ書き込みを指示するコードをオペ
レーションコード５６に、ストア命令のフイールド７８
で指定されたレジスタから読み出した書き込むべきデー
タをフイールド５９に持つ。このときフイールド５８、
６１、６４は使用しない。この書き込き要求トークンは
生成後信号線９１を介してメモリアクセスコントローラ
へ送られる。

【００４４】命令フエッチで得られた命令がプログラム
カウンタの値を命令で指示された値だけ変化させるジャ
ンプ命令であった場合には、プログラムカウンタに命令
中で指定された値が加算され、そのアドレスから処理が
続行される。またこれに類似したブランチ命令では、直
前の演算結果に応じてジャンプするか直後の命令の実行
にそのまま進むかを決定する。

【００４５】命令フエッチで得られた命令が命令列の終
わりで命令列実行を終了する命令列終了命令であった場
合、および他の命令でそのシーケンス終了フラグ６５
が″１″であった場合には、次の様な動作を行なう。

【００４６】命令列制御部１４内のトークン数カウンタ
の値を１つデクリメントする。デクリメント後これが０
になったら信号線９０を介して外部にプログラム実行終
了を知らせ、演算プロセッサ１は停止する。０でなけれ
ば、その後命令列制御部１４の制御により命令列フエッ
チ動作が行なわれ、フエッチされた命令列の実行が開始
される。トークンメモリ１３中にトークンが１つも存在
しない場合には演算処理部１０はトークンが得られるま
で待ち続ける。

【００４７】メモリアクセスコントローラは読み出し要
求トークン（形式５５）を受け取ると、このオペレーシ
ョンコード５６に従ってアクセスアドレス５７で示され
る番地からデータを読み出し、図２の形式５０のトーク
ンを生成して演算プロセッサ１に対して送る。このとき
フイールド５１には形式５５のフイールド５８の値を、
フイールド６０には形式５５のフイールド６１の値を、
データ５３にはメモリから読み出した値を、フラグ５２
には″１″を与える。また受け取ったトークンのフレー
ム識別子６４の値をそのまま戻りトークンの対応するフ
イールド６３に埋め込む。

【００４８】メモリアクセスコントローラでは書き込み
要求トークン（形式５５）を受け取ると、このオペレー
ションコード５６に従って、データ５９をアクセスアド
レス５７で示される番地に書き込む。

【００４９】メモリアクセスコントローラからの図２の
形式５０でフイールド５２のフラグが″１″であるよう
なトークンが信号線９２を介して演算処理プロセッサ１
に入力された場合にはロード制御部２１において、次の
ような動作が行なわれる。

【００５０】まず図２のトークンの形式５０のフイール
ド６３で指定されるフレーム中のフイールド６０で指定
されるレジスタに対してデータ５３を書き込む。なお演
算処理部１０がレジスタに対して書き込みを行なってい
るサイクルではロード制御部２１から同時に書き込むこ
とはできないので、そのときは入力管理部２５内のＦＩ
ＦＯに書き込み要求を保持し、最初に書き込みが可能に
なったときに書き込む。また演算処理部１０で命令列が
切り替わるときには、必要なら新たな命令列の実行開始
を遅らせてＦＩＦＯ内にある書き込み要求を全て完了さ
せる。

【００５１】書き込みが終了すると、ついでトークン形
式５０中のフレーム識別子６３に基づいて入力トークン
テーブル２０の一行がアドレスされ、その行の既到着数
のフイールド２３がインクリメントされ、インクリメン
ト後の値がその行の発火必要数フイールド２２の値と比
較される。

【００５２】それらが等しくない場合には、命令列再開
に必要な数のトークンが全て到着していないので、その
トークンはそこで消滅する。等しければ、命令列再開に
必要な数のトークンが入力されたことが分かるので、既
到着数２３を″０″にリセットし、トークン形式５０の
フラグ５２を″０″にセットした後に到着トークンはト
ークンメモリ１３のＦＩＦＯの最後尾に加えられる。Ｆ
ＩＦＯでは先頭のトークンが演算処理部１０からフエッ
チされる度にそれが取り除かれそれまで２番目であった
トークンが先頭になり、以下順に順序が繰り上がる。

【００５３】演算処理部１０での命令列フエッチ動作に
おいては、フエッチしたトークン内の実行開始アドレス
５１の値をプログラムカウンタに設定される。同時にそ
のフレーム識別子６３の値が演算処理部１０の中のフレ
ームレジスタにセットされる。そしてプログラムカウン
タで指示される命令からその命令列の演算処理が再開さ
れる。

【００５４】以上の構成を持つ装置において本発明の目
的とする効果の達成を可能にする動作について説明す
る。まず第１の発明の方法の実現について述べる。

【００５５】ロード命令ＬａとＬｂでメモリアドレスad
dr1 、addr2 からフエッチされレジスタr1、r2にロード
されるデータが命令Ｔabで初めて必要であるとする。つ
まり命令列は、 であるとする。このときＴabはロード命令Ｌａ，Ｌｂに
対する「ターゲット命令」である。

【００５６】一方、命令列が与えられたとき、コンパイ
ル時に全てのロード命令についてそれぞれ対応するター
ゲット命令を発見しそのコードアドレスの値を得ること
が可能であるので、Ｌａ、Ｌｂにおける読み出し要求ト
ークンの中の実行開始アドレスとしてＴabのアドレスを
与えれば、再開時にそこから実行を再開することができ
る。

【００５７】この方式を実現するために、コンパイル時
に、 １．前述のように全てのロード命令についてそのターゲ
ット命令のアドレスを求め、 ２．プログラムメモリの中の各ロード命令のところにそ
れを埋め込み（図３のフイールド６６）、 ３．ターゲット命令が命令列実行再開にｎ個のデータを
必要とするとする場合は″ｎ″をその命令のフイールド
６７に埋め込む。第１の発明の方法ではこれは″２″ま
たは″１″である ４．さらにそれぞれのターゲットとなっている命令につ
いて、その直前の命令のシーケンス終了フラグ６５を″
１″とする ５．他の命令については命令のシーケンス終了フラグ６
５を″０″とするという前処理をする。

【００５８】実行時にはこれに従い、動作の説明で述べ
たように、 １．ある命令列中でロード命令Ｌａがあったらそこでそ
のターゲット命令Ｔabのアドレスを実行開始アドレスと
するトークンを発行し、同時にあらかじめロード命令の
形式７０のフイールド６７に書き込まれていた、再開に
必要なデータ数を入力トークンテーブル２０の発火必要
数フイールド２２に書き込む ２．そこで命令列を中断せずに続行する ３．実行した命令のシーケンス終了フラグ６５が″１″
であったらそこで単にその命令列の実行をやめ（単に
「消える」） ４．次の命令列をトークンメモリ１３から読み込む ５．トークンがメモリアクセスから戻るとそのたびごと
にトークン中のデータがレジスタに書き込まれると共
に、入力トークンテーブル２０の既到着数フイールド２
３をカウンターとして到着数が計数され、発火必要数２
２に等しくなったらトークンがトークンメモリ１３へ送
られる ６．トークンメモリ１３からトークンがフエッチされ演
算される順番になると ７．Ｔabの命令から処理を続行するという手順で処理が
進む。

【００５９】この様子は図５のように図示できる。ここ
で下の細破線矢印はロード命令からそのターゲット命令
へのデータ依存関係を、縦棒はそのターゲット命令の直
前で命令シーケンスが切られ、命令列実行が中断される
ことを、また上の太い破線矢印はターゲット命令Ｔabの
アドレスを実行開始アドレスとして持つ読み出し要求ト
ークンが発行されてターゲット命令から命令列実行が再
開されることを示している。

【００６０】例えば上のプログラムの例では、Ｌａ、Ｌ
ｂ実行時にはＴabを実行開始アドレスとし、発火必要数
が″２″であるようなトークンが発行された後に処理が
継続され、Ｔabの直前で命令列実行が中断される。その
後トークンが２つ戻ったことを計数すると命令列は実行
可能となり、トークンメモリ１３内で順番が回ってきた
ときに命令Ｔabから実行を再開する。

【００６１】以上、ターゲット命令の必要とするデータ
数がたかだか２である場合にそれらをロードし、ターゲ
ット命令から再開する方法について説明した。

【００６２】一般に３以上の数ｎについてｎ個のデータ
が到着したときに命令列実行を再開する必要がある場合
には、第３の発明の方法を用いる。この場合コンパイル
時には図３のロード命令の形式７０の発火必要数６７に
は″ｎ″が設定され、また実行時、図４の入力トークン
テーブル２０内の発火必要数フイールド２２には″ｎ″
がセットされる。また既到着数フイールド２３は初期
値″０″から計数され、″ｎ″に等しくなったときにト
ークンがトークンメモリ１３へ送られる。

【００６３】以上、２項データを必要とするターゲット
命令に対する全てのロード命令についてターゲット命令
の直前で中断し、全てのデータトークンが到着したとき
にターゲット命令から再開する方法について説明した。

【００６４】しかしこれら２つの命令の間に例えばジャ
ンプ命令があって命令列と逆の方向（プログラムカウン
タが小さくなる方向）へ飛ぶ場合には、コンパイル時の
解析においてロード命令のターゲットを発見しにくいこ
とがある。このときは１パスではターゲットの発見が困
難であり、またはテーブル管理が複雑になる。

【００６５】そのような場合には第４の発明の方法によ
り、このジャンプ命令を第１および第３の発明でのター
ゲット命令と見立ててその手前で中断し、再開アドレス
としてそのアドレスをプログラム中のターゲット命令ア
ドレスとして与える。

【００６６】また演算結果に応じて条件分岐するブラン
チ命令ではさらに、ブランチの一方ではレジスタを使用
するのでターゲットが有るが、他方ではターゲットが発
見できないという場合もある。この場合には同様にその
ブランチ命令をターゲット命令とすることで対処する。

【００６７】このように第４の発明により、ロード命令
とターゲット命令との間に第１の発明の方法の実施の障
害となる命令が存在するケースであっても、コンパイル
時に静的にこれを検出して適切なターゲットを発見し使
用するという制御を埋め込むことができる。

【００６８】以上、２項データを必要とするターゲット
命令に対する全てのロード命令についてターゲット命令
の直前、またはロード命令とターゲット命令の間のある
命令の地点で中断し、すべてのデータトークンが到着し
たときにターゲット命令から再開する方法について説明
した。

【００６９】しかしロード命令からターゲット命令まで
の区間が複数重なっている場合には、同時に異なるター
ゲットアドレスを持つトークンが演算プロセッサ１から
発行された後、後ろにあるターゲット命令に対するトー
クンが先に入力される際には誤った動作を行なうという
ように、正しい動作が保証されないという問題がある。

【００７０】第５の発明はこの問題を次のように解決す
る。ロード命令Ｌａ、Ｌｂとそれらのターゲット命令Ｔ
abがこの順に並んでいるとし、それに加えてロード命令
Ｌｃとそのターゲット命令Ｔｃが同じ命令列中にあると
する。

【００７１】コンパイル時に、複数のロード命令とそれ
ぞれのターゲット命令の順序を解析し、 １．ロード命令Ｌａとそのターゲット命令Ｔabとの間に
他のロード命令がない場合には第１の発明の方法と同様
に、（ａ）そのターゲット命令をロード命令Ｌａ、Ｌｂ
の再開命令に、発火必要数を″２″にし、（ｂ）ターゲ
ット命令直前で中断するようにシーケンス終了フラグを
セットしておく ２．ロード命令ＬａとＬｂとの間に他のロード命令がは
さまれている場合には、（ａ）はさまれているロード命
令Ｌｃのアドレスをロード命令Ｌａ実行の再開命令に、
発火必要数を″１″とし、（ｂ）ロード命令Ｌｃ実行直
前で中断するようにし、（ｃ）さらにＬｃの再開命令を
Ｌｂに、発火必要数を″１″にし、（ｄ）Ｌｂの再開命
令をＴabに、発火必要数を″１″にしておく ３．ロード命令Ｌｂとターゲット命令Ｔabとの間に他の
ロード命令がはさまれている場合には、（ａ）はさまれ
ているロード命令Ｌｃのアドレスをロード命令Ｌａ、Ｌ
ｂ実行の再開命令とし、発火必要数を″２″にし、
（ｂ）ロード命令Ｌｃ実行直前で中断するようにして
（ｃ）さらにＬｃの再開命令をＴｃに、発火必要数を″
１″にしておくこのコンパイルの結果得られたプログラ
ムメモリを用いて、実行時には演算プロセッサは次のよ
うな動作をする。

【００７２】１．ロード命令Ｌａとそのターゲット命令
Ｔabとの間に他のロード命令がない場合には第１の発明
の説明と同様に動作する ２．ロード命令ＬａとＬｂとの間にロード命令Ｌｃがは
さまれている場合には（図７（Ａ）参照）、 （ａ）ロード命令Ｌａ実行時には、はさまれているロー
ド命令Ｌｃを実行開始アドレスとするトークンを出して
シーケンスを続行し、 （ｂ）ロード命令Ｌｃ実行直前で命令列処理を中断し、
演算処理部１０は別の命令列をフエッチする （ｃ）その後戻ったトークンにより命令列はＬｃから再
開される （ｄ）ＬｃではＬｂをターゲット命令とするロード命令
を実行した後シーケンスの処理を続行する （ｅ）その後戻ったトークンにより命令列はＬｂから再
開される （ｆ）ＬｂではＴabをターゲット命令とし、発火必要数
を″１″とするロード命令を実行した後シーケンスの処
理を続行する （ｇ）このときはＴｃで必要なデータはロードが完了し
ていることが保証されているので、Ｔｃはそのまま実行
することができ、 （ｈ）Ｔabの直前で命令列処理を中断し、演算処理部１
０は別の命令列をフエッチする （ｉ）戻ったトークンにより命令列はＴabから再開され
る ３．ロード命令Ｌｂとターゲット命令Ｔabとの間にロー
ド命令Ｌｃがはさまれている場合には（図７（Ｂ）参
照）、 （ａ）ロード命令Ｌａ実行時には、Ｌｃを実行開始アド
レスとし、発火必要数を″２″とするトークンを出して
シーケンスを続行 （ｂ）ロード命令Ｌｂ実行時にも、Ｌｃを実行開始アド
レスとし、発火必要数を″２″とするトークンを出して
シーケンスを続行 （ｃ）ロード命令Ｌｃ実行直前で命令列処理を中断し、
演算処理部１０は別の命令列をフエッチする （ｄ）その後トークンが２つ戻った後に命令列はＬｃか
ら再開される （ｅ）ＬｃではＴｃをターゲット命令とするロード命令
を実行した後シーケンスの処理を続行する （ｆ）このときはＴabで必要なデータはロードが完了し
ていることが保証されているので、Ｔabはそのまま実行
することができる （ｇ）Ｔｃの直前で命令列処理を中断し、演算処理部１
０は別の命令列をフエッチする （ｈ）Ｌｃから戻ったトークンにより命令列はＴｃから
再開される 一般にロード命令とそのターゲット命令との間に他のタ
ーゲット命令を持つロード命令が複数存在する場合で
も、上述のように各ロード命令Ｌｘのターゲット命令よ
り他のロード命令が近くにある場合には直後のロード命
令Ｌｙを再開命令とするようにすれば、正しい動作をす
ることができる。

【００７３】

【発明の効果】第１および第２の発明では、２つのデー
タを必要とするターゲット命令とそのロード命令のアド
レスをあらかじめ調べでおき、２つのトークンを発行し
てから命令列実行の中断をターゲット命令の直前まで遅
延させることにより、並列に実行可能な命令列の数が少
ない場合にも演算処理部がアイドルであるサイクルを減
少させ、より高い処理性能を実現できる。また２つのメ
モリアクセスをオーバーラップさせ処理を高速化するこ
とができる。この様子は図６において、一つの命令列実
行についての時間経過が従来方式においては（Ａ）、ま
だ公知ではない方式では（Ｂ）であるのに比較して
（Ｃ）のように処理時間を短縮できることを意味する。

【００７４】第３の発明では、上記の発明を一般化し、
ｎ個のデータを必要とするターゲット命令がある場合で
もｎ個のデータトークンの到着を判定して命令列実行を
開始することを可能にする。この方法はデータロードだ
けでなく、並列処理においてｎ個のプロセスでのイベン
ト完了情報が到着後にある動作を開始するというバリア
同期の高速な実現を可能にする。

【００７５】第４の発明では、上で述べた作用に加えて
上記の発明を一般化し、ロード命令とターゲット命令と
の間に第１の発明の方法の実施の障害となる命令が存在
するケースであっても、コンパイル時に静的にこれを検
出して適切な再開命令を発見し使用するという制御を埋
め込むことができ、これにより同様な効果の実現を可能
にする。

【００７６】第５の発明では、上で述べた作用に加えて
二つ以上のロード命令とターゲット命令が干渉しあって
いても中断後の再開アドレスを干渉を解決するように設
定することを可能にする。

【図面の簡単な説明】

【図１】本発明の一実施例である演算プロセッサの構成
を示すブロック図である。

【図２】本実施例で用いられるトークンの形式を示す形
式図である。

【図３】本実施例で用いられる命令の形式を示す形式図
である。

【図４】本実施例で用いられるロード制御部の構成を示
すブロック図である。

【図５】第１の発明の方法を示す線図である。

【図６】従来方式等と本発明の方式の実行の様子を比較
するタイムチャートである。

【図７】第５の発明の方法を示す線図である。

【符号の説明】

１ 演算プロセッサ １０ 演算処理部 １１ レジスタ部 １２ トークン生成部 １３ トークンメモリ １４ 命令列制御部 ２１ ロード制御部

Claims (5)

(57)【特許請求の範囲】
1. 【請求項１】 並行して実行可能な命令列をあらかじめ
   複数用意しておきそれらを切り替えながらそのうちから
   １つを実行命令列として選択しその実行命令列中の命令
   を順に実行する演算プロセッサで第１および第２の２個
   のデータのロード動作の終了後に前記２個のデータを使
   用して実行すべきターゲット命令を含む第１の命令列を
   実行中に前記２個のデータをメモリから前記演算プロセ
   ッサ内へロードするデータロード方法において、前記メ
   モリから前記第１のデータをロードする第１のロード命
   令実行時には前記第１のデータを使用する前記ターゲッ
   ト命令のアドレスを含む第１のトークンを外部に発行し
   てメモリアクセス動作を起動すると共に前記第１の命令
   列の実行を続行し、ついで前記メモリから前記第２のデ
   ータをロードする第２のロード命令実行時には前記第２
   のデータを使用する前記ターゲット命令のアドレスを含
   む第２のトークンを外部に発行してメモリアクセス動作
   を起動すると共に前記第１の命令列の実行を続行し、そ
   の後に前記ターゲット命令の直前で前記第１の命令列の
   実行を中断して他の命令列実行に移り、前記メモリアク
   セス動作を終了して前記ターゲット命令に必要なデータ
   を有する前記演算プロセッサに入力する入力トークンの
   数を計数し、前記計数の結果が２になったときには前記
   第１の命令列の実行を前記入力トークンに含まれる前記
   ターゲット命令のアドレスにより前記ターゲット命令か
   ら再開することを特徴とするデータロード方法。
2. 【請求項２】 並行して実行可能な命令列をあらかじめ
   複数用意しておきそれらを切り替えながらそのうちから
   １つを実行命令列として選択しその実行命令列中の命令
   を順に実行する演算プロセッサにおいて、１つの命令列
   内の命令を順に実行する演算処理部と、外部から入力さ
   れたトークンを保持し前記演算処理部に供給するトーク
   ンメモリと、前記演算処理部からアクセスされるデータ
   を保持するレジスタ群と、外部で行なう動作の記述とそ
   のとき実行中の命令コード中に記述された命令列実行を
   中断した後に再開するべき再開命令アドレスとを含むト
   ークンの入出力情報を管理しまたその入力数を計数する
   とともに外部から前記演算プロセッサに戻ったトークン
   をトークンメモリに保持するのに先立ってトークン中の
   メモリ読み出しデータをレジスタ群中のレジスタに書き
   込むロード制御部と、各ロード命令には前記再開命令ア
   ドレスと再開に必要な到着トークン数である発火必要数
   を有し各命令についてはその命令実行後に直後の命令を
   続行実行すか否かを示したフラグを有する命令群よりな
   るプログラムを格納し前記演算処理部へ命令列を供給す
   るとともに前記各部の動作を制御する命令列制御部とを
   有することを特徴とする演算プロセッサ。
3. 【請求項３】 第１の命令列中にｎ個のデータのロード
   動作の終了後に前記ｎ個のデータを使用して実行すべき
   ターゲット命令を含んでいるときには、前記ｎ個のデー
   タのそれぞれをロードするロード命令の実行時にそれぞ
   れ前記ターゲット命令のアドレスを含むトークンを外部
   に発行してメモリアクセス動作を起動すると共に前記第
   １の命令列の実行を続行し、その後に前記ターゲット命
   令の直前で前記第１の命令列の実行を中断して他の命令
   列実行に移り、前記メモリアクセス動作を終了して前記
   ターゲット命令に必要なデータを有する入力トークンの
   数を計数し、前記計数の結果がｎになったときには前記
   第１の命令列の実行を前記入力トークンに含まれる前記
   ターゲット命令のアドレスにより前記ターゲット命令か
   ら再開することを特徴とする請求項１記載のデータロー
   ド方法。
4. 【請求項４】 ロード命令実行時にはそのターゲット命
   令の代わりにロード命令とターゲット命令のあいだのい
   ずれかの命令（これを再開命令と呼ぶ）のアドレスを含
   むトークンを外部に発行してメモリアクセス動作を起動
   し、その後前記再開命令の直前でその命令列の実行を中
   断し、前記再開命令のアドレスを持つトークンがあらか
   じめ定められた回数入力されたときに前記トークン中に
   含まれるアドレスにより前記再開命令から再開可能とす
   ることを特徴とする請求項３記載のデータロード方法。
5. 【請求項５】 命令列の中に、命令実行に２個のデータ
   を必要とする命令に対して複数のロード命令とそれぞれ
   のターゲット命令が存在する場合に、全てのロード命令
   について、第１のロード命令実行時には、前記第１のロ
   ード命令とそのターゲットである第１のターゲット命令
   との間に他のロード命令がないときには前記第１のロー
   ド命令は前記第１のターゲット命令を再開命令とし、他
   のロード命令が存在しかつ前記第１のロード命令に最も
   近いロード命令が別の第２のターゲット命令を持つ第２
   のロード命令であるときには前記第１のロード命令は前
   記第２のロード命令を再開命令とし、他のロード命令が
   存在しかつ前記第１のロード命令に最も近いロード命令
   が同じ前記第１のターゲット命令を持つ第３のロード命
   令であるときには前記第１のロード命令は前記第３のロ
   ード命令の再開命令と同じ命令をその再開命令とし、全
   ての命令について、ある命令がいずれかのロード命令の
   再開命令になっているときにはその直前で前記ある命令
   の属する命令列の実行を中断し、前記ある命令をその再
   開命令とする前記ロード命令が２個あるときにはその再
   開命令を持つトークンが２個到着したときに前記ある命
   令からそれの属する命令列を再開可能とすることを特徴
   とする請求項４記載のデータロード方法。