JP2002163121A - 仮想マルチスレッドプロセッサ及びスレッド実行方法 - Google Patents

Abstract

(57)【要約】 【課題】 ハードウェアによる制限を受けずに多数のス
レッドを扱うことのできる仮想マルチスレッドプロセッ
サを提供すること。 【解決手段】 ハードウェア・スレッド（３、１３等）
上で新規に起動されたスレッドに、仮想スレッド番号を
割り当てる。レジスタ・ファイル・キャッシュ５は、仮
想スレッド識別番号およびレジスタ番号をキーとして各
スレッドの各レジスタの内容をキャッシュする。発行制
御を行うイシュー部４は、発行対象となる命令について
該当するスレッド識別番号およびレジスタ識別番号をキ
ーとしてレジスタ・ファイル・キャッシュ５をアクセス
し、ヒットした場合に、少なくともレジスタに関しては
該命令の発行は可能であると判断する。キャッシュ・ミ
スの場合には、レジスタ・ファイル・キャッシュ５とコ
ンテキスト・セーブ用メモリ１１との間で該当するデー
タの転送が行われる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、複数のスレッドを
実行可能な仮想マルチスレッドプロセッサ及びスレッド
実行方法に関する。

【０００２】

【従来の技術】一つのプロセッサ上で複数のスレッドを
実行するマルチスレッドプロセッサは、ＣＰＵ内部の演
算器やメモリのレーテンシを隠蔽するための技術として
広く知られている。

【０００３】しかしながら、従来のマルチスレッドプロ
セッサは、レジスタファイルなどのハードウェア資源を
スレッドごとに用意することで複数のスレッドを実装す
るものであるので、実装できる（すなわちユーザが使用
できる）スレッドの数は、レジスタファイルなどのハー
ドウェアの資源の限界から限定されたものであった。

【０００４】したがって、一度に可能になるスレッドの
数を例えば４程度に制限し、ハードウェア量が膨大にな
るのを防いでいた。これをプログラマの立場からみる
と、限定されたスレッドの数はプログラミングの自由度
に対して大きな制約を課していることになり、問題があ
った。

【０００５】

【発明が解決しようとする課題】以上のように、従来の
マルチスレッドプロセッサでは、スレッドの数がハード
ウェアの資源の限界から限定され、プログラミングの自
由度に対して大きな制約を課していた。

【０００６】本発明は、上記事情を考慮してなされたも
ので、ハードウェアによる制限を受けずに多数のスレッ
ドを扱うことのできる仮想マルチスレッドプロセッサを
提供することを目的とする。

【０００７】また、マルチスレッドで記述されているプ
ログラムでは、スレッド間の同期をとることが重要であ
る。

【０００８】本発明は、効率的な同期手段を持つ仮想マ
ルチスレッドプロセッサを提供することを目的とする。

【０００９】

【課題を解決するための手段】本発明は、複数のスレッ
ドを同時に実行できる仮想マルチスレッドプロセッサで
あって、前記プロセッサ上で新規に起動されたスレッド
に、該スレッドを特定する仮想スレッド識別番号を割り
当てるための手段と、各スレッドを特定する仮想スレッ
ド識別番号および各レジスタを特定するレジスタ識別番
号をキーとして各スレッドの各レジスタの内容をキャッ
シュするためのキャッシュ手段と、前記プロセッサ上に
ある各スレッドの命令の発行制御を行う発行制御手段と
を備え、前記発行制御手段は、発行対象となる命令につ
いて該当する仮想スレッド識別番号およびレジスタ識別
番号をキーとして前記キャッシュ手段をアクセスし、ヒ
ットし且つ先行する命令の依存性が解決している場合
に、少なくともレジスタに関しては該命令の発行は可能
であると判断することを特徴とする。

【００１０】好ましくは、前記発行制御手段は、発行可
能な命令が複数あり且つ空いている演算ユニット数の制
限のためにそれらのすべてを発行することができない場
合には、所定の基準で選択された一部の命令のみ発行す
るようにしてもよい。好ましくは、前記発行制御手段に
より前記発行対象となる命令について前記仮想スレッド
識別番号および前記レジスタ識別番号をキーとして前記
キャッシュ手段がアクセスされ、キャッシュ・ミスが発
生した場合に、該キャッシュ手段と所定のメモリとの間
で該当するデータの転送を行うようにしてもよい。好ま
しくは、前記プロセッサ上で実行中のスレッドがレーテ
ンシの長いハードウェア資源に対して要求を出した場合
に明示的に該スレッドを待避させる第１の処理と、待避
中の前記スレッドが出した前記要求に対する前記所定の
ハードウェア資源からの応答があった後に該応答に対応
する要求を出したスレッドを復帰すべきと判断される場
合に該スレッドを復帰させる第２の処理とを行うための
処理手段を更に備えるようにしてもよい。

【００１１】また、本発明は、複数のスレッドを同時に
実行できる仮想マルチスレッドプロセッサであって、前
記プロセッサ上で新規に起動されたスレッドに、該スレ
ッドを特定する仮想スレッド識別番号を割り当てるため
の手段と、少なくとも一つの同期用カウンタと、前記同
期用カウンタの値を、同期をとるべきスレッドの数に設
定するための手段とを備え、同期をとるべき各々のスレ
ッドにおいて同期をとるための同期命令に達した際に
は、前記同期用カウンタをデクリメントし、デクリメン
トされた後の前記同期用カウンタの値が０にならなけれ
ば、当該同期命令を発行したスレッドを復帰可能でない
状態として待避させ、デクリメントされた後の前記同期
用カウンタの値が０になれば、当該同期命令を発行した
スレッドは、先に同期命令に達し復帰可能でない状態と
して待避されたスレッドの状態を、復帰可能な状態に変
更することを特徴とする。

【００１２】好ましくは、復帰可能な状態として待避さ
れたスレッドを、所定の復帰条件が成立した場合に復帰
させる処理を行うための手段を更に備えるようにしても
よい。

【００１３】なお、装置に係る本発明は方法に係る発明
としても成立し、方法に係る本発明は装置に係る発明と
しても成立する。

【００１４】本発明では、レジスタファイルを、仮想ス
レッド識別番号（ＶＴＩＤ）およびレジスタ識別番号
（ＲＩＤ）をキーとして引かれるキャッシュとして構成
する。プロセッサ上の資源に割り当てる仮想スレッド識
別番号（ＶＴＩＤ）を適宜切り替えることによって、実
際にハードウェア上に存在するスレッドより、仮想的に
多くのスレッドが走行しているようにみせることができ
る。

【００１５】また、一般にプログラムによって使用され
るレジスタの数は、用意されているレジスタの数より少
ないことから、スレッドを切り替えるとき、レジスタフ
ァイルをすべてセーブ（Ｓａｖｅ）およびリストア（Ｒ
ｅｓｔｏｒｅ）するかわりに、必要なものだけセーブお
よびリストアすることができる。

【００１６】また、本発明では、複数のスレッドを同時
に実行できるＳＭＴ（Ｓｉｍｕｌｔａｎｅｏｕｓ Ｍｕ
ｌｔｉ Ｔｒｅａｄ）プロセッサにおいて、キャッシュ
されたレジスタファイルにミスしたときは、ミスしたレ
ジスタを使用する命令の発行が行われないだけなので、
プロセッサ全体がストールすることを回避できる。つま
り、ＳＭＴプロセッサのイシュー・ロジックによって、
レジスタファイルにミスしたスレッドは、レジスタが利
用可能でない、すなわち発行可能でないと判定され、他
のスレッドから発行可能な命令が発行されることにな
る。

【００１７】本発明によれば、スレッドの待避・復帰を
可能とすることによって、プログラマにハードウェアで
用意されたより多くのスレッドを見せることが可能にな
り、プログラミングの自由度が増す。また、その際に、
マルチスレッドプロセッサ上のレジスタの内容などをメ
モリ上にセーブおよびリストアする回数を少なくし、実
行時間を短縮することができる。

【００１８】また、本発明では、仮想スレッド番号（Ｖ
ＴＩＤ）ごとに同期機構を実現するためのカウンタを設
ける。このカウンタは、同期にかかわる複数のスレッド
が同期命令によってこのカウンタをデクリメントするよ
うに作用する。なお、カウンタの初期値は、同期にかか
わるスレッドの数が設定されている。デクリメントの結
果、カウンタの値が０でなかったスレッドは、Ｓｌｅｅ
ｐ状態に入る。デクリメントの結果、カウンタが０であ
ったスレッドは、同期処理ルーチンを実行する。同期処
理ルーチンでは、同期命令の結果、Ｓｌｅｅｐ状態にな
っていたスレッドをＲｅａｄｙ状態にすることで、最後
に同期命令を実行したスレッドと他のスレッドの同期が
取れることになる。

【００１９】このように、本発明によれば、効率的にス
レッド間の同期をとることができる。

【００２０】

【発明の実施の形態】以下、図面を参照しながら発明の
実施の形態を説明する。

【００２１】（第１の実施形態）まず、本発明の第１の
実施形態について説明する。

【００２２】図１に、本実施形態に係る仮想マルチスレ
ッドプロセッサの構成例を示す。

【００２３】なお、図１では、本発明をＳＭＴ（Ｓｉｍ
ｕｌｔａｎｅｏｕｓ ＭｕｌｔｉＴｒｅａｄ）プロセッ
サに適用した例として、Ｉｎ−Ｏｒｄｅｒスーパースカ
ラープロセッサの構成例を示している。

【００２４】まず、ハードウェア・スレッドの概念につ
いて説明しておく。ハードウェア・スレッドは、インス
トラクション・キュー（図１では３）に接続されている
各プログラムカウンタ（図１では１３）に対応した概念
で、図１の構成例の場合は４つのプログラムカウンタに
対応して４つのハードウェア・スレッドがあることにな
る。ハードウェア・スレッドは、存在する複数のスレッ
ドの中で、現にフェッチされているストリームを指して
いる。本プロセッサで用意するハードウェア・スレッド
の数ｎは、基本的には、任意に設定（設計）可能であ
る。ハードウェア・スレッドは、物理スレッド番号（Ｐ
ＴＩＤ（Ｐｈｙｓｉｃａｌ ＴｈｒｅａｄＩＤ））で管
理される。

【００２５】本実施形態では、詳しくは後述するよう
に、本プロセッサにおいて各スレッドに固有の仮想スレ
ッド番号（ＶＴＩＤ（Ｖｉｒｔｕａｌ Ｔｈｒｅａｄ
ＩＤ））を割り当てて管理し、必要に応じてスレッドを
ハードウェア・スレッドからメモリへ待避させあるいは
メモリからハードウェア・スレッドへ復帰させることに
よって、見かけ上、ハードウェア・スレッドの数ｎを上
回る数のスレッドを扱うことができるようになってい
る。この意味におけるスレッドを、ハードウェア・スレ
ッドに対して、仮想スレッドと呼ぶこととする。同時に
扱うことのできる仮想スレッドの個数すなわち仮想スレ
ッドに割り当てることのできる仮想スレッド番号（ＶＴ
ＩＤ）の個数ｍも、基本的には、任意に設定（設計）可
能である。例えば、仮想スレッド番号を８ビットで表現
することにした場合には、最大２５６個の仮想スレッド
番号が使用可能となる。

【００２６】さて、図１に示されるように、本プロセッ
サは、インストラクション・キャッシュ（Ｉｃａｃｈ
ｅ）１、フェッチ部（Ｆｅｔｃｈ）２、ｎ組（本例で
は、ｎ＝４）のインストラクション・キュー（ＩＱ）
３、ｎ組のプログラムカウンタ（ＰＣ）１３、スレッド
の開始アドレスを保持するｎ組のＳＰＣレジスタ１９、
仮想スレッド番号（ＶＴＩＤ）を保持するｎ組のＳＶＴ
レジスタ２１、イシュー部（Ｉｓｓｕｅ）４、レジスタ
・ファイル・キャッシュ（Ｒｅｇｉｓｔｅｒ Ｆｉｌｅ
ｓ Ｃａｃｈｅ）５、コンテキスト・セーブ用メモリ１
１、複数の演算ユニット（本例では、２つの演算器７
１，７２とロード・ストア・ユニット７３）、データ・
キャッシュ（Ｄｃａｃｈｅ）９、メモリ・インタフェー
ス（ＭｅｍｏｒｙＩ／Ｆ）１５、Ｉ／Ｏインタフェース
（Ｉ／Ｏ Ｉｎｔｅｒｆａｃｅ）１７を持つ。

【００２７】コンテキスト・セーブ用メモリ１１は、仮
想スレッドに対応するデータ（例えば、対応するプログ
ラムカウンタの内容、対応するステータスレジスタの内
容、対応するレジスタファイルの内容など；以下、コン
テキストと呼ぶ）を格納する。

【００２８】レジスタ・ファイル・キャッシュ５は、コ
ンテキスト・セーブ用メモリ１１に格納されている仮想
スレッドのコンテキストをキャッシュする。

【００２９】なお、レジスタ・ファイルをキャッシュす
る技術としては、例えば、文献１(Peter R.Nuth, Willi
am J.Dally,“The Named-State Register File:Impleme
ntation and Performance”, First Ann. Internationa
l Symposium High-Performance Computer Architectur
e,pp.4-13,Jan.1995)に開示されている技術を用いるこ
とができる。

【００３０】また、メモリ・インタフェース１５に、メ
モリ（Ｍｅｍｏｒｙ）２３が接続される。

【００３１】また、Ｉ／０インタフェース１７に、例え
ばコプロセッサ（Ｃｏｐｒｏｃｅｓｓｏｒ）２７などが
接続される。

【００３２】図１に示されるように、本仮想マルチスレ
ッドプロセッサでは、個々のハードウェア・スレッド専
用に、プログラムカウンタ（ＰＣ）およびインストラク
ション・キュー（ＩＱ）などの資源が設けられる。４つ
のハードウェア・スレッドをサポートする場合、４組の
プログラムカウンタ（ＰＣ）およびインストラクション
・キュー（ＩＱ）などが必要になる。そして、ハードウ
ェア・スレッドへの仮想スレッドの対応をスレッドの実
行に応じて適宜切り替えるようにしている。なお、本プ
ロセッサでは、複数のスレッドで演算ユニットやキャッ
シュなどは共有する構成にしている。

【００３３】なお、図１においては接続線の一部を省略
してある。

【００３４】ここで、本プロセッサの一般的な動作につ
いて説明する。

【００３５】インストラクション・キャッシュ１は、メ
モリ２３から命令をキャッシュする。インストラクショ
ン・キャッシュ１がミスしたときは、メモリ２３からイ
ンストラクション・キャッシュ１へ命令がリフィル（Ｒ
ｅｆｉｌｌ）される。

【００３６】データ・キャッシュ９は、メモリ２３から
データをキャッシュする。データ・キャッシュ９がミス
したときは、メモリ２３からデータ・キャッシュ９へデ
ータがリフィルされる。

【００３７】フェッチ部２は、命令のフェッチ（インス
トラクションキャッシュ１へのアクセス）を行う。

【００３８】インストラクション・キュー３は、各スレ
ッドに対応する命令を保持する。

【００３９】イシュー部４は、命令の発行制御と、命令
のデコードやレジスタファイルへのアクセスを行う。

【００４０】演算器７１，７２やロード・ストア・ユニ
ット７３は、発行された命令を実行する。その際、必要
に応じて所定のタイミングで、データ・キャッシュ９や
レジスタファイル５に対するアクセス（リード、あるい
はライト）などを行う。

【００４１】なお、このプロセッサは、パイプライン・
プロセッサであってもよい。例えば、５段のパイプライ
ンの場合、次のようなステージ構成になる。 フェッチ・ステージ…命令のフェッチ ↓ デコード・ステージ…命令のデコード、レジスタファイ
ルへのアクセス ↓ 実行ステージ…命令の実行 ↓ メモリ・ステージ…メモリへのアクセス ↓ ライトバック(Writeback)ステージ…レジスタファイル
への書き込み 次に、仮想スレッドの起動に関して説明する。

【００４２】まず、本実施形態では、スレッドの起動に
は、次の２つがある。一つは、スレッドが新規に起動さ
れる場合で、これを新規起動と呼ぶものとする。もう一
つは、新規起動された後に一旦メモリに待避されたスレ
ッド（後述するＳｌｅｅｐ状態からＲｅａｄｙ状態にな
ったスレッド）が復帰されて起動する場合で、これを復
帰起動と呼ぶものとする。

【００４３】スレッドの新規起動は、ハードウェア上で
各スレッドが専有する必要のある資源（プログラムカウ
ンタおよびインストラクション・キュー等）のうち空い
ているものが少なくとも１スレッド分存在する場合に、
行うことができる（ここでは、この場合に対象スレッド
があればそれを優先的に新規起動させるものとする）。
例えば、図１において、ハードウェア上で３つのスレッ
ドが走行中の場合、４組のプログラムカウンタおよびイ
ンストラクション・キューなどのうち３組が使用されて
おり、１スレッド分は使用されていないので、１つのス
レッドを新規起動することができる。

【００４４】スレッドの新規起動は、使用するハードウ
ェア・スレッド（例えば、ハードウェア・スレッド番号
ＰＴＩＤ＝０、１、２または３）に専用に設けられるＳ
ＰＣレジスタ１９（例えば、ＳＰＣ０、ＳＰＣ１、ＳＰ
Ｃ２またはＳＰＣ３）に、当該スレッドの開始アドレス
を設定しておき（なお、該開始アドレスはユーザが記述
した命令の実行によって設定される）、起動命令によ
り、該ＳＰＣレジスタ１９から対応するプログラムカウ
ンタ１３（例えば、ＰＣ０、ＰＣ１、ＰＣ２またはＰＣ
３）に値を転送することによって、開始される。このと
き、該ハードウェア・スレッドに専用に設けられるＳＶ
Ｔレジスタ２１（例えば、ＳＶＴ０、ＳＶＴ１、ＳＶＴ
２またはＳＶＴ３）には、仮想スレッド番号を設定して
おき、新規起動されたスレッドは、それが起動されたハ
ードウェア・スレッドに対応するＳＶＴレジスタ２１に
設定された仮想スレッド番号を持つようになる。

【００４５】なお、ここでは、上記の仮想スレッド番号
の割り当ておよび設定は、ソフトウェアによって（ユー
ザが記述した命令の実行によって）行うことにしている
が、ハードウェアによって実現することも可能である。
ハードウェアによって仮想スレッド番号の割り当てを自
動的に行う場合には、例えば、各仮想スレッド番号につ
いて使用中か未使用であるかを知るための情報（例え
ば、仮想スレッド番号と使用／未使用フラグとのテーブ
ル、使用していない仮想スレッド番号のプール）を管理
し、スレッドが新規起動する際には未使用の仮想スレッ
ド番号から所定の基準（例えば、ランダム、番号の小さ
い順等）で選択したものを割り当ててその仮想スレッド
番号を使用中として管理し、スレッドが終了する際には
そのスレッドが使用していた仮想スレッド番号を未使用
として管理するようにすればよい。

【００４６】次に、イシュー部４の処理について説明す
る。

【００４７】図１において、各スレッドの各命令は、メ
モリ２３から、メモリ・インタフェース１５／インスト
ラクション・キャッシュ１／フェッチ部２を経由して、
スレッド対応のインストラクション・キュー３に入る。
図１の例では、インストラクション・キュー３は、ハー
ドウェア上に存在する４つのスレッドに対応して４つ
（ＩＱ０、ＩＱ１、ＩＱ２、ＩＱ３）ある。

【００４８】イシュー部４は、所定のイシュー・ロジッ
クに従って、各スレッドに対応する各インストラクショ
ン・キュー３の先頭の命令の各々について、それが実行
可能か否か判断し、実行可能な命令があれば、該命令
（図１の例では、最大３つ）を、該当する実行ユニット
（図１の例では、７１，７２，７３のいずれか）に送
る。例えば、インストラクション・キューＩＱ０の命令
を、ロード・ストア・ユニット７３に送り、インストラ
クション・キューＩＱ１の命令を、演算器７１に送り、
インストラクション・キューＩＱ３の命令を、演算器７
２に送る。

【００４９】所定のイシュー・ロジックすなわち実行可
能な命令を判定するロジックとしては、例えば、その時
点で、当該命令に対応する実行ユニットが空いていて、
かつ、レジスタ・ファイル・キャッシュ５に対応するレ
ジスタが存在しており、かつ、対応するレジスタが先行
する命令で書き込みに指定されている場合は、その書き
込みが終了した場合に、実行可能と判断するものであ
る。また、その際に、１以上の実行ユニットが空いてお
り、空いている実行ユニットを使うことができれば実行
可能となる命令が複数ある場合に、それら命令のすべて
を実行するには、空いている実行ユニットの数が不足す
るときは、それら命令を先頭に持つ複数のインストラク
ション・キュー３のうちから所定の選択基準に従って一
部のものが選択され、選択されたインストラクション・
キュー３の先頭の命令が、空いている実行ユニットに割
り当てられる。

【００５０】所定の選択基準としては、ランダムに選択
する方法の他に、インストラクション・キューに着目す
る方法として、その時点でのキュー長が短いインストラ
クション・キュー３を優先的に選択する方法、予め各イ
ンストラクション・キュー３に付与された固定の優先順
位に基づいて選択する方法など、様々な方法が考えられ
る。あるいは、スレッドに着目する方法として、仮想ス
レッド番号が小さいスレッド（に対応するインストラク
ション・キュー）から選択する方法、各スレッドについ
て（例えばユーザが命令を記述することにより）優先度
を設定し、より優先度の高いもの（に対応するインスト
ラクション・キュー）から選択する方法など、種々の方
法がある。また、それらを適宜組み合わせた方法も可能
である。

【００５１】例えば、演算器７１とロード・ストア・ユ
ニット７３が空いており、インストラクション・キュー
ＩＱ０の命令は、ロード・ストア・ユニット７３で実行
可能であり且つレジスタ・ファイル・キャッシュ５に対
応するレジスタが存在しており、インストラクション・
キューＩＱ１〜ＩＱ４の命令は、演算器７１で実行可能
であり且つレジスタ・ファイル・キャッシュ５に対応す
るレジスタが存在しているものとする。ロード・ストア
・ユニット７３で実行可能な命令はインストラクション
・キューＩＱ０の命令だけであるので、インストラクシ
ョン・キューＩＱ１の命令を、演算器７１に送ればよ
い。一方、演算器７１で実行可能な命令はインストラク
ション・キューＩＱ１〜ＩＱ４の３つの命令であるの
で、発行すべき命令（のインストラクション・キュー）
の選択が必要となり、例えばインストラクション・キュ
ーＩＱ１が選択されたとすると、その命令を、演算器７
２に送ることになる。

【００５２】次に、レジスタ・ファイル・キャッシュ５
の働きについて説明する。

【００５３】レジスタ・ファイル・キャッシュ５は、ス
レッドに付けられた仮想スレッド番号（ＶＴＩＤ）とレ
ジスタ番号（ＲＩＤ）とをキーとして引かれるキャッシ
ュになっている。レジスタ・ファイル・キャッシュ５に
ついて、キャッシュにミスした場合は、コンテキスト・
セーブ用メモリ１１から必要なデータがフェッチされ
る。また、キャッシュの容量には、ハードウェア上の制
約があるので、ＬＲＵなどのアルゴリズムなどによりデ
アロケートされるエントリが決定され、コンテキスト・
セーブ用メモリ１１に書き込まれる。

【００５４】なお、レジスタファイルキャッシュ５につ
いて、キャッシュ・ミスは、イシュー部４が、各スレッ
ドに対応する各インストラクション・キュー３の先頭の
命令の各々について、それが実行可能か否か判断する際
に、レジスタ・ファイル・キャッシュ５に対応するレジ
スタが存在しているか否かを調べた際に発生する。この
場合は、コンテキスト・セーブ用メモリ１１から必要な
データがフェッチされるので、イシュー部４が当該命令
について次に判断を行う際には、レジスタ・ファイル・
キャッシュ５には対応するレジスタが存在している状態
になっている。

【００５５】一方、実行ユニット（例えば７１等）の演
算結果やメモリ２３からデータ・キャッシュ９経由で読
み出されたデータは、レジスタ・ファイル・キャッシュ
５に書き戻される。

【００５６】なお、デアロケート時にコンテキスト・セ
ーブ用メモリ１１に書き込まなくてもよい場合を検出す
るため、ソフトウェアからｄｅａｄなレジスタを示す手
法を用いてもよい。この手法によれば、ｄｅａｄなレジ
スタは、コンテキスト・セーブ用メモリ１１に書き込む
必要がなく、新たなレジスタが必要になった場合のアロ
ケーションの速度を早くすることができる。この手法と
しては、例えば、文献2(Jack L.Lo et.al,“Software-Dir
ected Register Deallocation for Simultaneous Multi
threaded Processors”,IEEE Trans. on Parallel and
Distributed Systems, Vol.10,No.9,Sep,1999)に開示さ
れた技術を用いることができる。次に、仮想スレッドの
状態およびその遷移について説明する。

【００５７】図２に、仮想スレッドの４つの状態と、状
態間の遷移関係を示す。

【００５８】仮想スレッドの状態には、パイプライン上
を流れている状態（Ａｃｔｉｖｅ状態）、インストラク
ション・キュー３にはあるが実行できない状態（Ｗａｉ
ｔ状態）、同期など応答を待っている状態（Ｓｌｅｅｐ
状態）、Ｓｌｅｅｐ状態から応答が返って実行可能な状
態（Ｒｅａｄｙ状態）の４つがある。

【００５９】状態間の遷移としては、Ａｃｔｉｖｅ状と
Ｗａｉｔ状態との間の遷移関係と、Ａｃｔｉｖｅ状態か
らＳｌｅｅｐ状態へ／Ｓｌｅｅｐ状態からＲｅａｄｙ状
態へ／Ｒｅａｄｙ状態からＡｃｔｉｖｅ状態への遷移関
係との２系統がある。

【００６０】Ａｃｔｉｖｅ状からＷａｉｔ状態への遷移
は、キャッシュ・ミスやレーテンシなどによって起こ
り、それが解消することによって、Ａｃｔｉｖｅ状から
Ｗａｉｔ状態へ戻る。

【００６１】Ａｃｔｉｖｅ状態からＳｌｅｅｐ状態への
遷移は、例えば命令のレーテンシが長い場合、例えばコ
プロセッサ命令の場合（あるいは他の理由でスリープす
べき場合）などに、明示的に行われる。

【００６２】Ｓｌｅｅｐ状態からＲｅａｄｙ状態への遷
移は、Ｓｌｅｅｐ状態に遷移するときに出した命令ある
いは要求（例えばあるコプロセッサにある処理の実行を
要求する命令）に対応する応答が、（例えば要求を受け
たコプロセッサから）返されたことを契機として行われ
る。なお、この他に、あるスレッドがＳｌｅｅｐ状態の
他のスレッドをＲｅａｄｙ状態にすることを指示する命
令を用意することも可能である。

【００６３】Ａｃｔｉｖｅ状態のスレッドがＳｌｅｅｐ
状態に遷移すると、いままでインストラクション・キュ
ー３に命令を詰めていた当該スレッドに対応するプログ
ラムカウンタ１３は無効化される（インストラクション
・キュー３内の命令も無効化される）。なお、この時点
で、レジスタ・ファイル・キャッシュ５の該当するデー
タを維持しておく方法と、コンテキスト・セーブ用メモ
リ１１に追い出す方法とがある。

【００６４】次に、Ｒｅａｄｙ状態からＡｃｔｉｖｅ状
態への遷移について説明する。

【００６５】上記のように、Ａｃｔｉｖｅ状態のスレッ
ドがＳｌｅｅｐ状態に遷移して、対応するプログラムカ
ウンタ１３は無効化されると、新規起動または復帰起動
が可能になる。ここでは、新規起動できるスレッドがあ
れば新規起動を行い、新規起動できるスレッドがなく且
つ復帰起動できるスレッドがあれば復帰起動するものと
する。なお、新規起動できるスレッドも復帰起動できる
スレッドもなければ、新規起動できるスレッドまたは復
帰起動できるスレッドが出現するまで、当該ハード・ウ
ェアスレッド資源は未使用（空き状態）になる。

【００６６】さて、Ｒｅａｄｙ状態のスレッドを復帰起
動できることとなった場合に、本実施形態では、システ
ムタスクと呼ばれる特殊なスレッドによって、Ｒｅａｄ
ｙ状態のスレッドが複数ある場合におけるスレッドの選
択と、スレッドの復帰起動のための処理を行うものとす
る。このメカニズムにより、実行中のスレッドの邪魔を
しないことを可能にしている。

【００６７】この場合、前述のようにして無効化された
プログラムカウンタ１３には、新たにシステムタスクの
番地がセットされる。

【００６８】起動されたシステムタスクは、Ｒｅａｄｙ
状態になっているスレッドのうちから１つを選択し、そ
のスレッドのプログラムカウンタの値を、対応するプロ
グラムカウンタ１３にセットするなどの処理を行う。す
ると、該プログラムカウンタの値に基づいて、命令が新
たにフェッチされ始め、対応するインストラクション・
キュー３に、命令が入れられる。

【００６９】なお、Ｒｅａｄｙ状態になっているスレッ
ドが複数ある場合に、システムタスクが、それらから１
つを選択するアルゴリズムには、様々なものが考えられ
る。例えば、ランダムに選択する方法、ＦＩＦＯでもっ
とも古くＲｅａｄｙ状態になったものを選択する方法、
仮想スレッド番号が小さいものから選択する方法、各ス
レッドについて（例えばユーザが命令を記述することに
より）優先度を設定し、より優先度の高いものを選択す
る方法など、種々の方法がある。

【００７０】なお、あるスレッドがＲｅａｄｙ状態の他
のスレッドをＡｃｔｉｖｅ状態にすることを指示する命
令を用意することも可能である。

【００７１】ここで、Ｒｅａｄｙ状態のスレッドを高速
に検索するためには、例えば、仮想スレッド番号に対応
して、Ｒｅａｄｙ状態の場合にＲｅａｄｙビットに１が
立つ（それ以外の場合にはＲｅａｄｙビットは０とす
る）ようにしたＲｅａｄｙレジスタを設ける方法がある
（なお、Ｓｌｅｅｐ状態（例えば、０１）か、Ｒｅａｄ
ｙ状態（例えば、１０）か、またはそれ以外の状態（例
えば、００）かを示すようにする方法もある）。システ
ムタスクでは、Ｒｅａｄｙレジスタを参照し、Ｒｅａｄ
ｙビットに１（あるいは、１０）が立っているスレッド
を探索し、それが１つあればそのスレッドを、複数あれ
ばそれらから選択した１つのスレッドを、ハードウェア
・スレッドにする。

【００７２】なお、本実施形態では、要求（例えばコプ
ロセッサ命令）およびその応答には、仮想スレッド番号
を付加するものとする。すなわち、要求を出す際には、
その要求元のスレッドの仮想スレッド番号を該要求に付
加するものとする。応答については、例えば、要求を受
けた資源が応答を出す際に、該要求に付加されていた仮
想スレッド番号を該応答に付加する。また、例えば、要
求／応答と仮想スレッド番号との対応を管理する管理部
を設け、要求を出す際には、その要求元のスレッドの仮
想スレッド番号を該要求に付加して一旦管理部に渡し、
管理部が仮想スレッド番号の付加されていない要求を資
源に渡し、該資源は仮想スレッド番号の付加されていな
い応答を返し、管理部は、この応答を受け、対応する仮
想スレッド番号を特定する、という構成をとることも可
能である。このようにすれば、応答が返ってきた場合
（例えば、コプロセッサ命令の実行などでＳｌｅｅｐ状
態になっているスレッドへコプロセッサ命令などから応
答が返ってきた場合）は、応答が仮想スレッド番号（Ｖ
ＴＩＤ）とともに返ってくるので、この仮想スレッド番
号によってＲｅａｄｙレジスタの対応するビットを立て
るだけでよい。

【００７３】なお、上記では、仮想スレッド番号に対応
してＲｅａｄｙビットを持つＲｅａｄｙレジスタを設け
る方法を示したが、Ｓｌｅｅｐ状態またはＲｅａｄｙ状
態のスレッドの仮想スレッド番号とその状態を示す情報
（例えば、Ｓｌｅｅｐ状態のとき０、Ｒｅａｄｙ状態の
とき１）とを１つのエントリとして含むＲｅａｄｙテー
ブルを設けることも可能である。

【００７４】ここで、ＲｅａｄｙレジスタのＲｅａｄｙ
ビットが、Ｓｌｅｅｐ状態か、Ｒｅａｄｙ状態か、また
はそれ以外の状態（ｎｕｌｌ状態と呼ぶ）（例えば、起
動されたが待避中でない状態、あるいは、まだ新規に起
動されていない状態（スレッドが終了して該仮想スレッ
ド番号が解放された状態を含む））をとる場合（あるい
はＲｅａｄｙレジスタ（あるいは、Ｒｅａｄｙテーブル
のＲｅａｄｙビットが、Ｓｌｅｅｐ状態か、またはＲｅ
ａｄｙ状態をとる場合）の処理手順について説明する。

【００７５】図３に、Ｓｌｅｅｐ状態に遷移する場合と
して、コプロセッサ命令などのレーテンシの長い命令が
実行される際の処理手順の一例を示す。

【００７６】ある仮想スレッド番号のスレッドについて
コプロセッサ命令などのレーテンシの長い命令が実行さ
れたときは、Ｒｅａｄｙレジスタ（あるいは、Ｒｅａｄ
ｙテーブル）の当該仮想スレッド番号に対応するＲｅａ
ｄｙビットを、Ｓｌｅｅｐ状態を示す値に設定し（ステ
ップＳ１１）、該当するハードウェア・スレッドを無効
化する（ステップＳ１２）。なお、ステップＳ１１とス
テップＳ１２は、上記とは逆の順番で行ってもよいし、
並列的に行ってもよい。

【００７７】図４に、応答を受けた場合の処理手順の一
例を示す。

【００７８】応答があった場合、応答に伴って返される
仮想スレッド番号から、Ｒｅａｄｙレジスタ（あるい
は、Ｒｅａｄｙテーブル）を検索する（ステップＳ２
１）。Ｒｅａｄｙレジスタ（あるいは、Ｒｅａｄｙテー
ブル）において、応答に伴って返された仮想スレッド番
号と同じ仮想スレッド番号を持つスレッドであってその
ＲｅａｄｙビットがＳｌｅｅｐ状態を示すものがあれば
（ステップＳ２２）、該ＲｅａｄｙビットをＲｅａｄｙ
状態を示す値に変更する（ステップＳ２３）。

【００７９】なお、応答に伴って返された仮想スレッド
番号がいずれのテーブルにも登録されていない場合に
は、何もしないこととするか、または所定のエラー処理
をすることとする（ステップＳ２４）。

【００８０】なお、応答があってから、対応するスレッ
ドが復帰するまでの間、応答（に関するデータ；例え
ば、戻り値などを含む）は、仮想スレッド番号に対応付
けて保持される。

【００８１】図５に、システムタスクに関する処理手順
の一例を示す。

【００８２】Ｒｅａｄｙレジスタ（あるいは、Ｒｅａｄ
ｙテーブル）にＲｅａｄｙビットがＲｅａｄｙ状態を示
すスレッドがある場合に、ハードウェア・スレッドに空
きがあり、かつ、新規起動すべきスレッドがなければ、
当該空きハードウェア・スレッドでシステムタスクが起
動される（ステップＳ３１）。起動されたシステムタス
クは、Ｒｅａｄｙ状態のスレッドが１つならばそのスレ
ッドを復帰させるものとし、Ｒｅａｄｙ状態のスレッド
が複数あるならば復帰させるものとして１つのスレッド
を選択し、その復帰させるスレッドの仮想スレッド番号
（ＶＴＩＤ）に基づいて、プログラムカウンタの値の復
帰などの処理を行い、復帰起動させる（ステップＳ３
２）。なお、Ｒｅａｄｙレジスタでは、復帰されたスレ
ッドに対応するＲｅａｄｙビットがｎｕｌｌ状態にさ
れ、Ｒｅａｄｙテーブルでは復帰されたスレッドに対応
するエントリが無効にされる。

【００８３】これら仮想スレッドに関する処理は、イシ
ュー部４が行うようにしてもよいし、イシュー部４以外
の制御部を設けてもよい。

【００８４】以上説明したように、本発明によれば、ス
レッドの待避・復帰を可能とすることによって、プログ
ラマにハードウェアで用意されたより多くのスレッドを
見せることが可能になり、プログラミングの自由度が増
す。また、その際のスレッドの切り替えも、効率且つ高
速に行うことができる。

【００８５】また、上記では、システムタスクをスレッ
ドで実現したが、システムタスクを専用のハードウェア
で構成することも可能である。

【００８６】また、これまでの説明では、Ｒｅａｄｙ状
態のスレッドは、ハードウェア・スレッドに空きが存在
し、かつ、新規起動すべきスレッドがない場合に、復帰
起動することができるものとしたが、新規起動すべきス
レッドがあっても、Ｒｅａｄｙ状態のスレッドを復帰起
動することを可能としてもよい。例えば、ハードウェア
・スレッドに空きが存在するときに、１または複数の新
規起動すべきスレッドと、１または複数のＲｅａｄｙ状
態のスレッドがあった場合に、予め定められた選択基準
に基づいて選択した１つの新規起動すべきスレッドまた
はＲｅａｄｙ状態のスレッドを新規起動または復帰起動
させるようにしてもよい。例えば、各スレッドについて
（例えばユーザが命令を記述することにより）優先度を
設定し、より優先度の高いものを選択する方法、新規起
動すべきスレッドの数とＲｅａｄｙ状態のスレッドの数
とに基づいて選択する方法、Ｒｅａｄｙ状態のスレッド
の数が所定数を超えた場合にのみＲｅａｄｙ状態のスレ
ッドを優先して選択する方法など、種々の方法がある。

【００８７】また、これまでの説明は、ＳＭＴ（Ｓｉｍ
ｕｌｔａｎｅｏｕｓ ＭｕｌｔｉＴｒｅａｄ）プロセッ
サの例として、Ｉｎ−Ｏｒｄｅｒスーパースカラープロ
セッサを中心として行ったが、本発明はＯｕｔ−ｏｆ−
Ｏｒｄｅｒプロセッサにも適用可能である。

【００８８】（第２の実施形態）次に、本発明の第２の
実施形態に係るスレッド間の同期方法について説明す
る。

【００８９】以下で説明するスレッド間の同期方法は、
実行時に資源の割り当てをダイナミックに行う第１の実
施形態の仮想マルチプロセッサ（または、第１の実施形
態の仮想マルチプロセッサの構成のうち本実施形態にと
って必要な部分のみ備える仮想マルチプロセッサ）に適
用した場合を例にとって説明するが、本発明は、その
他、第１の実施形態をＯｕｔ−ｏｆ−Ｏｒｄｅｒにした
場合の仮想マルチプロセッサ、シングルイシュー（Ｉｓ
ｓｕｅ）の仮想マルチプロセッサ、コンパイル時にスタ
ティックに資源を割り当て使用するＶＬＩＷ（Ｖｅｒｙ
Ｌｏｎｇ Ｉｎｓｔｒｕｃｔｉｏｎ Ｗｏｒｄ）の仮
想マルチプロセッサ、それらにおいてレジスタ・ファイ
ルをハードウェア・スレッド毎に持つようにしたものな
ど、種々の仮想マルチプロセッサに対しても適用可能で
ある。

【００９０】さて、マルチスレッドのプログラムにおい
ては、複数のプログラムが終了したことを互いに知るこ
とが必要となる。例えば、並列に走行しているスレッド
ＡとスレッドＢとスレッドＣの結果をスレッドＤが使う
場合に、スレッドＡとスレッドＢとスレッドＣは同期を
取らなければならない。本実施形態では、このような場
合に、ＳＹＮＣ命令（同期命令）を使うものとする。Ｓ
ＹＮＣ命令には、カウンタを操作する機能と、同期をと
るための機能とが含まれる。

【００９１】本実施形態では、仮想スレッド番号（ＶＴ
ＩＤ）ごとに同期機構を実現するためのカウンタを設け
るものとする。

【００９２】今、スレッドＡの仮想スレッド番号（ＶＴ
ＩＤ）を０、スレッドＢの仮想スレッド番号（ＶＴＩ
Ｄ）を１、スレッドＣの仮想スレッド番号（ＶＴＩＤ）
を２とし、同期のためのカウンタとして、スレッドＡの
ＶＴＩＤ＝０に対応するカウンタを使用するものとする
（いずれのスレッドに対応するカウンタを使用するか
は、ユーザが任意に決めて構わない）。このカウンタを
ＳＹＮＣカウンタ（同期カウンタ）と呼ぶ。ＳＹＮＣカ
ウンタの初期値としては、スレッドＡが、ＳＹＮＣを行
うスレッドの数３に対応して、３を設定しておく（例え
ば、ユーザが、同期をとるスレッドの数を設定する命令
を記述する）。

【００９３】まず、最初の例では、スレッドＡが最後に
ＳＹＮＣ命令に到達した場合を示す。

【００９４】図６で示すように、最初にＳＹＮＣ命令に
到達したスレッドＣは、ＳＹＮＣカウンタをデクリメン
トし、その値を２とする。ＳＹＮＣカウンタの値が０で
ないので、このスレッドは、Ｓｌｅｅｐ状態に遷移す
る。

【００９５】次にＳＹＮＣ命令に到達したスレッドＢ
は、ＳＹＮＣカウンタをデクリメントして、その値を１
とする。まだ、ＳＹＮＣカウンタは０でないので、スレ
ッドＣもＳｌｅｅｐ状態に遷移する。

【００９６】最後にＳＹＮＣ命令に到達したスレッドＡ
では、ＳＹＮＣカウンタをデクリメントし、その結果が
０であるので、他のスレッドを起こすためのルーチンを
実行する。このルーチンでは、スレッドＢおよびスレッ
ドＣのＲｅａｄｙレジスタ（あるいは、Ｒｅａｄｙテー
ブル）のＲｅａｄｙビットを１に立てることで、Ｓｌｅ
ｅｐ状態からＲｅａｄｙ状態へ遷移させる。

【００９７】Ｒｅａｄｙ状態に遷移した後は、例えば、
（条件が整えば）システムスレッドによってハードウェ
ア・スレッドに復帰することができる。

【００９８】ＳＹＮＣ命令は、次の２つの情報のフィー
ルドを持つものとする。

【００９９】一つの情報は、ＳＹＮＣカウンタを識別す
る識別子で、これには仮想スレッド番号（ＶＴＩＤ）を
使えばよい。なお、複数のスレッドが走行し、複数の同
期ポイントを同時に設定する可能性があることを想定す
る場合には、ＳＹＮＣカウンタを複数設ける。

【０１００】もう一つの情報は、ＳＹＮＣ命令を実行し
た後、ＳＹＮＣカウンタが０になった場合に実行するル
ーチンの先頭番地である。上記の例では、例えば、スレ
ッドＡとスレッドＢとスレッドＣのうちＳｌｅｅｐ状態
のものをＲｅａｄｙ状態にするルーチンの先頭番地であ
る。

【０１０１】ＳＹＮＣカウンタは、必ずしもハードウェ
ア上に常に存在する必要はなく、先に説明したレジスタ
・ファイル・キャッシュ５に入れられてもよい。すなわ
ち、ＳＹＮＣカウンタは、仮想スレッド番号ごとに存在
しているので、仮想スレッド番号とＳＹＮＣカウンタを
示すレジスタ番号とをキーとすれば、通常のレジスタと
全く同じ仕組みでアクセスが可能となり、コンテキスト
・セーブ用メモリ１１に必要に応じてセーブもしくはリ
ストアされる。

【０１０２】図７に、スレッドがＳＹＮＣ命令に到達し
た場合の処理手順の一例を示す。

【０１０３】ＳＹＮＣ命令に到達したならば、まず、Ｓ
ＹＮＣカウンタをデクリメントする（ステップＳ４
１）。

【０１０４】ここで、デクリメントした後のＳＹＮＣカ
ウンタの値が０でなければ（ステップＳ４２）、当該ス
レッドを、Ｓｌｅｅｐ状態に遷移させる（ステップＳ４
４）。

【０１０５】一方、デクリメントした後のＳＹＮＣカウ
ンタの値が０であれば（ステップＳ４２）、同期をとる
関係にある全スレッドのうちＳｌｅｅｐ状態にあるもの
をＲｅａｄｙ状態にするためのルーチンを実行する（ス
テップＳ４３）。Ｒｅａｄｙ状態に遷移した後は、例え
ばシステムスレッドによって復帰される。

【０１０６】なお、これらスレッド間の同期に関する処
理は、例えば図１の構成の場合には、イシュー部４が行
うようにしてもよいし、イシュー部４以外の制御部を設
けてもよい。

【０１０７】本発明を用いないビジーウェイトでは、Ｃ
ＰＵが無駄に浪費されるのみならず、ビジーウェイトの
箇所がハードウェアスレッドの数に等しいか多ければデ
ッドロックが起こる。また、割り込みを用いる方法で
は、オーバーヘッドが大きい。これに対して、本発明の
マルチスレッド間の同期方法を用いれば、それら問題を
回避して、効果的な同期を行うことができる。

【０１０８】なお、本実施形態で例示した構成は一例で
あって、それ以外の構成を排除する趣旨のものではな
く、例示した構成の一部を他のもので置き換えたり、例
示した構成の一部を省いたり、例示した構成に別の機能
を付加したり、それらを組み合わせたりすることなどに
よって得られる別の構成も可能である。また、例示した
構成と論理的に等価な別の構成、例示した構成と論理的
に等価な部分を含む別の構成、例示した構成の要部と論
理的に等価な別の構成なども可能である。また、例示し
た構成と同一もしくは類似の目的を達成する別の構成、
例示した構成と同一もしくは類似の効果を奏する別の構
成なども可能である。また、各種構成部分についての各
種バリエーションは、適宜組み合わせて実施することが
可能である。また、本実施形態は、装置としての発明、
装置内部の構成部分についての発明、またはそれらに対
応する方法の発明等、種々の観点、段階、概念またはカ
テゴリに係る発明を包含・内在するものである。従っ
て、この発明の実施の形態に開示した内容からは、例示
した構成に限定されることなく発明を抽出することがで
きるものである。

【０１０９】本発明は、上述した実施の形態に限定され
るものではなく、その技術的範囲において種々変形して
実施することができる。

【０１１０】

【発明の効果】本発明によれば、レジスタ・ファイル
を、仮想スレッド識別番号およびレジスタ識別番号をキ
ーとするキャッシュとして構成することで、プロセッサ
上の資源に割り当てる仮想スレッド識別番号を適宜切り
替えることによって、実際にハードウェア上に存在する
スレッドより、仮想的に多くのスレッドが走行している
ようにみせることができる。これによって、プログラマ
にハードウェアで用意されたより多くのスレッドを見せ
ることが可能になり、プログラミングの自由度が増す。

【０１１１】また、本発明によれば、同期機構を実現す
るためのカウンタを設け、同期にかかわる複数のスレッ
ドが同期命令によってこのカウンタをデクリメントする
ことによって、効率的にスレッド間の同期をとることが
できる。

【図面の簡単な説明】

【図１】本発明の一実施形態に係る仮想マルチスレッド
プロセッサの構成例を示す図

【図２】同実施形態における仮想スレッドの状態および
その状態間の遷移関係について示す図

【図３】同実施形態におけるレーテンシの長い命令が実
行される際の処理手順の一例を示すフローチャート

【図４】同実施形態におけるレーテンシの長いハードウ
ェア資源への要求に対する応答を受けた場合の処理手順
の一例を示すフローチャート

【図５】同実施形態におけるシステムタスクに関する処
理手順の一例を示すフローチャート

【図６】同実施形態におけるスレッド間の同期方法につ
いて説明するための図

【図７】同実施形態におけるスレッドがＳＹＮＣ命令に
到達した場合の処理手順の一例を示すフローチャート

【符号の説明】

１…インストラクション・キャッシュ ２…フェッチ部 ３…インストラクション・キュー ４…イシュー部 ５…レジスタ・ファイル・キャッシュ ９…データ・キャッシュ １１…コンテキスト・セーブ用メモリ １３…プログラムカウンタ １５…メモリ・インタフェース １７…Ｉ／Ｏインタフェース １９…ＳＰＣレジスタ ２１…ＳＶＴレジスタ ２３…メモリ ２７…コプロセッサ ７１，７２…演算器 ７３…ロード・ストア・ユニット

フロントページの続き Ｆターム(参考） 5B005 LL11 MM01 5B098 FF01 GA05 GC01 GD02 GD05 GD14

Claims (16)

【特許請求の範囲】
1. 【請求項１】複数のスレッドを同時に実行できる仮想マ
   ルチスレッドプロセッサであって、 前記プロセッサ上で新規に起動されたスレッドに、該ス
   レッドを特定する仮想スレッド識別番号を割り当てるた
   めの手段と、 各スレッドを特定する仮想スレッド識別番号および各レ
   ジスタを特定するレジスタ識別番号をキーとして各スレ
   ッドの各レジスタの内容をキャッシュするためのキャッ
   シュ手段と、 前記プロセッサ上にある各スレッドの命令の発行制御を
   行う発行制御手段とを備え、 前記発行制御手段は、発行対象となる命令について該当
   する仮想スレッド識別番号およびレジスタ識別番号をキ
   ーとして前記キャッシュ手段をアクセスし、ヒットし且
   つ先行する命令の依存性が解決している場合に、少なく
   ともレジスタに関しては該命令の発行は可能であると判
   断することを特徴とする仮想マルチスレッドプロセッ
   サ。
2. 【請求項２】前記発行制御手段は、発行可能な命令が複
   数あり且つ空いている演算ユニット数の制限のためにそ
   れらのすべてを発行することができない場合には、所定
   の基準で選択された一部の命令のみ発行することを特徴
   とする請求項１に記載の仮想マルチスレッドプロセッ
   サ。
3. 【請求項３】前記発行制御手段により前記発行対象とな
   る命令について前記仮想スレッド識別番号および前記レ
   ジスタ識別番号をキーとして前記キャッシュ手段がアク
   セスされ、キャッシュ・ミスが発生した場合に、該キャ
   ッシュ手段と所定のメモリとの間で該当するデータの転
   送を行うことを特徴とする請求項１に記載の仮想マルチ
   スレッドプロセッサ。
4. 【請求項４】前記プロセッサ上で実行中のスレッドがレ
   ーテンシの長いハードウェア資源に対して要求を出した
   場合に明示的に該スレッドを待避させる第１の処理と、
   待避中の前記スレッドが出した前記要求に対する前記所
   定のハードウェア資源からの応答があった後に該応答に
   対応する要求を出したスレッドを復帰すべきと判断され
   る場合に該スレッドを復帰させる第２の処理とを行うた
   めの処理手段を更に備えたことを特徴とする請求項１に
   記載の仮想マルチスレッドプロセッサ。
5. 【請求項５】前記処理手段は、前記第２の処理におい
   て、少なくとも一つのスレッドを起動するのに必要な資
   源の空きがあり、かつ、新規に起動すべき他のスレッド
   がない場合に、前記応答があったスレッドのいずれかを
   復帰すべきであると判断することを特徴とする請求項４
   に記載の仮想マルチスレッドプロセッサ。
6. 【請求項６】前記仮想スレッド識別番号に対応して該仮
   想スレッド識別番号のスレッドが前記応答を返されて復
   帰可能な状態にあるかそれ以外の状態にあるかを少なく
   とも示す情報を保持する所定のレジスタを更に備え、 前記処理手段は、前記第２の処理において、前記所定の
   レジスタを参照することによって、復帰可能なスレッド
   を特定することを特徴とする請求項２に記載の仮想マル
   チスレッドプロセッサ。
7. 【請求項７】前記処理手段における前記第２の処理の少
   なくとも一部を、特別なスレッドによって実行すること
   を特徴とする請求項４に記載の仮想マルチスレッドプロ
   セッサ。
8. 【請求項８】前記スレッドからの前記所定のハードウェ
   ア資源への要求に、該スレッドの仮想スレッド識別番号
   を伴わせるとともに、該要求に対する該所定のハードウ
   ェア資源からの応答に、該要求を出した該スレッドの仮
   想スレッド識別番号を伴わせることによって、該所定の
   ハードウェア資源からの応答と、該応答のもととなる要
   求を出したスレッドとを対応付けることを特徴とする請
   求項４に記載の仮想マルチスレッドプロセッサ。
9. 【請求項９】前記所定のメモリは、前記プロセッサが命
   令によりアクセスするメモリとは別に専用のメモリとし
   て構成されることを特徴とする請求項１に記載のマルチ
   スレッドプロセッサ。
10. 【請求項１０】複数のスレッドを同時に実行できる仮想
    マルチスレッドプロセッサにおけるスレッド実行方法で
    あって、 前記プロセッサ上で新規に起動されたスレッドに、該ス
    レッドを特定する仮想スレッド識別番号を割り当て、 各スレッドを特定する仮想スレッド識別番号および各レ
    ジスタを特定するレジスタ識別番号をキーとして各スレ
    ッドの各レジスタの内容をキャッシュ手段にキャッシュ
    し、 前記プロセッサ上にある各スレッドの命令の発行制御を
    行う際に、発行対象となる命令について該当する仮想ス
    レッド識別番号およびレジスタ識別番号をキーとして前
    記キャッシュ手段をアクセスし、ヒットし且つ先行する
    命令の依存性が解決している場合に、少なくともレジス
    タに関しては該命令の発行は可能であると判断すること
    を特徴とするスレッド実行方法。
11. 【請求項１１】複数のスレッドを同時に実行できる仮想
    マルチスレッドプロセッサであって、 前記プロセッサ上で新規に起動されたスレッドに、該ス
    レッドを特定する仮想スレッド識別番号を割り当てるた
    めの手段と、 少なくとも一つの同期用カウンタと、 前記同期用カウンタの値を、同期をとるべきスレッドの
    数に設定するための手段とを備え、 同期をとるべき各々のスレッドにおいて同期をとるため
    の同期命令に達した際には、前記同期用カウンタをデク
    リメントし、デクリメントされた後の前記同期用カウン
    タの値が０にならなければ、当該同期命令を発行したス
    レッドを復帰可能でない状態として待避させ、デクリメ
    ントされた後の前記同期用カウンタの値が０になれば、
    当該同期命令を発行したスレッドは、先に同期命令に達
    し復帰可能でない状態として待避されたスレッドの状態
    を、復帰可能な状態に変更することを特徴とする仮想マ
    ルチスレッドプロセッサ。
12. 【請求項１２】復帰可能な状態として待避されたスレッ
    ドを、所定の復帰条件が成立した場合に復帰させる処理
    を行うための手段を更に備えたことを特徴とする請求項
    １１に記載の仮想マルチスレッドプロセッサ。
13. 【請求項１３】前記同期命令は前記同期用カウンタを識
    別する情報のフィールドを持つものであることを特徴と
    する請求項１１に記載のマルチスレッドプロセッサ。
14. 【請求項１４】前記同期用カウンタを識別する情報とし
    て前記スレッドを識別する仮想スレッド識別番号を用い
    ることを特徴とする請求項１３に記載のマルチスレッド
    プロセッサ。
15. 【請求項１５】各スレッドを特定する仮想スレッド識別
    番号および各レジスタを特定するレジスタ識別番号をキ
    ーとして各スレッドの各レジスタの内容をキャッシュす
    るためのキャッシュ手段を更に備え、 前記同期用カウンタも前記キャッシュ手段を通してアク
    セスできるようにしたことを特徴とする請求項１１に記
    載のマルチスレッドプロセッサ。
16. 【請求項１６】複数のスレッドを同時に実行できる仮想
    マルチスレッドプロセッサにおけるスレッド実行方法で
    あって、 前記プロセッサ上で新規に起動されたスレッドに、該ス
    レッドを特定する仮想スレッド識別番号を割り当て、 同期用カウンタの値を、同期をとるべきスレッドの数に
    設定し、 同期をとるべき各々のスレッドにおいて同期をとるため
    の同期命令に達した際には、前記同期用カウンタをデク
    リメントし、デクリメントされた後の前記同期用カウン
    タの値が０にならなければ、当該同期命令を発行したス
    レッドを復帰可能でない状態として待避させ、デクリメ
    ントされた後の前記同期用カウンタの値が０になれば、
    当該同期命令を発行したスレッドは、先に同期命令に達
    し復帰可能でない状態として待避されたスレッドの状態
    を、復帰可能な状態に変更することを特徴とすることを
    特徴とするスレッド実行方法。