JP2021047591A - 情報処理装置、情報処理方法、及び、プログラム - Google Patents

Abstract

【課題】命令キャッシュにおける所定の命令の置き換えを低減する情報処理装置を提供する。【解決手段】情報処理装置１０は、プロセッサ１３０と実行モジュール１２０と命令キャッシュ１００を含む。実行モジュールは、プロセッサが実行する命令を保存する第１の命令記憶手段１２４と、第１の命令記憶手段において、優先的にキャッシュする命令を保存するアドレスの範囲を保存するアドレス記憶手段とを含む。命令キャッシュは、実行モジュールが保存する命令の複製を保存する第２の命令記憶手段１１１と、第２の命令記憶手段が保存した命令に関連するアドレスとして、実行モジュールにおける命令のアドレスを含むエントリを保存するエントリ記憶手段１１２と、エントリが保存するアドレスと、実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定するキャッシュ制御手段１０２とを含む。【選択図】図１

Description

本発明は、情報処理装置などに用いられるキャッシュに関し、特に、命令を保存する命令キャッシュに関する。

情報処理装置は、具体的な命令を実行する実体として、プロセッサを含んでいる。プロセッサにおける命令の実行には、実行する命令とその命令で使用するデータとが、必要である。命令及びデータが供給されない場合、プロセッサは、命令及びデータの待ち状態となる。つまり、プロセッサの実行が停止する。プロセッサの実行効率を高めるためには、プロセッサの実行が停止しないように、命令とデータとをプロセッサに供給することが、重要である。

命令に必要なデータについては、あらかじめ、プリフェッチ命令等を用いて、データキャッシュに保存することができる。しかし、命令は、分岐命令等がある。分岐命令は、分岐が発生するか否かに伴い、その命令の後に実行される命令が異なる。そのため、命令を命令キャッシュにプリフェッチすることは、難しい。

なお、分岐命令で分岐するかどうかを予測する構成として、分岐予測器がある。しかし、分岐予測器に基づく予測は、あくまでも予測である。そのため、実際のプロセッサの動作は、必ずしも分岐予測器の予測どおり分岐するとは限らない。

そこで、命令についてのキャッシュを実現するための技術が提案されている（例えば、特許文献１及び２を参照）。

特許文献１は、コンパイラが生成した命令列の中に、命令をプリフェッチするための命令を挿入する技術を開示している。

特許文献２は、特定のタスクを、キャッシュミスヒット率の低いコアに移動する技術を開示している。

特開平１１−３０６０２８号公報 特開２０１４−１３０６４４号公報

プロセッサが実行する命令には、頻繁に実行される命令が存在する。このような頻繁に実行される命令は、常に、命令キャッシュに配置されることが望ましい。

しかし、特許文献１に記載の技術は、命令キャッシュにおける命令の置き換えにおいて、命令を区別していない。

そのため、特許文献１に記載の技術は、頻繁に実行される命令も、他の命令と同様に、命令キャッシュから追い出されてしまうという問題点があった。

特許文献２に記載の技術は、特定のタスクとして、頻繁に実行される命令を含むタスクを用いると、キャッシュミスヒット率の低いコアのキャッシュに、頻繁に実行される命令を置くことができる。

しかし、各コアは、動作が固定される場合は少ない。つまり、各コアにおけるキャッシュミスヒット率は、固定ではなく、常に変化する。

特許文献２に記載の技術は、キャッシュミスヒット率が変化した場合に、コア間においてタスクを移動する動作が必要となる。この動作は、命令の実行とは異なる動作であり、プロセッサの実行効率を低下させる動作である。

つまり、特許文献２に記載の技術は、各コアにおけるキャッシュミスヒット率の変化した場合に、プロセッサの実行効率が低下するという問題点があった。

本発明の目的は、上記問題点を解決し、命令キャッシュにおける所定の命令の置き換えを低減する情報処理装置などを提供することにある。

本発明の一形態における情報処理装置は、
命令を実行するプロセッサと、
プロセッサが実行する命令を保存する第１の命令記憶手段と、
第１の命令記憶手段において、優先的にキャッシュする命令を保存するアドレスの範囲を保存するアドレス記憶手段と
を含む実行モジュールと、
プロセッサが実行する命令のキャッシュとして、実行モジュールが保存する命令の複製を保存する第２の命令記憶手段と、
第２の命令記憶手段が保存した命令に関連するアドレスとして、実行モジュールにおける命令のアドレスを含むエントリを保存するエントリ記憶手段と、
エントリが保存するアドレスと、実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定するキャッシュ制御手段と
を含む命令キャッシュと
を含む。

本発明の別の形態における情報処理装置は、
上記情報処理装置と、
実行モジュールを生成するときに、
実行モジュールに含まれる命令の中で、優先的に命令キャッシュに保存する命令を指定する命令指定手段と、
実行モジュールにおいて、指定された命令を配置する実行モジュールにおけるアドレスを決定する命令配置決定手段と、
決定したアドレスに指定された命令を埋め込む命令埋め込み手段と
を含むローダをさらに含む。

本発明の一形態における情報処理方法は、
命令を実行するプロセッサと、
プロセッサが実行する命令と、優先的にキャッシュする命令を保存するアドレスの範囲を保存する実行モジュールと、
命令キャッシュとを含む情報処理装置において、
命令キャッシュが
プロセッサが実行する命令のキャッシュとして、実行モジュールが保存する命令の複製を保存し、
保存した命令に関連するアドレスとして、実行モジュールにおける命令のアドレスを含むエントリを保存し、
エントリが保存するアドレスと、実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する。

本発明の一形態におけるプログラムは、
命令を実行するプロセッサを含む情報処理装置に、
プロセッサが実行する命令を保存し、
優先的にキャッシュする命令を保存するアドレスの範囲を保存する
実行モジュールとしての処理と、
プロセッサが実行する命令のキャッシュとして、実行モジュールが保存する命令の複製を保存し、
保存した命令に関連するアドレスとして、実行モジュールにおける命令のアドレスを含むエントリを保存し、
エントリが保存するアドレスと、実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する
命令キャッシュとしての処理と
を実行させる。

本発明に基づけば、命令キャッシュにおける所定の命令の置き換えを低減するとの効果を奏することができる。

図１は、第１の実施形態にかかる情報処理装置の構成の一例を示すブロック図である。 図２は、命令キャッシュの構成の一例を示す図である。 図３は、エントリの構成の一例を示す図である。 図４は、４ｗａｙに対応したエントリの構成の一例を示す図である。 図５は、キャッシュ制御部における命令を判定する動作を説明するための図である。 図６は、キャッシュ制御部における置き換える命令を決める動作の一例を示すフロー図である。 図７は、実行モジュールにおける領域の一例を示す図である。 図８は、第２の実施形態にかかる情報処理装置の構成の一例を示すブロック図である。 図９は、情報処理装置のハードウェア構成の一例を示すブロック図である。

次に、図面を参照して、本発明における実施形態について説明する。
なお、各図面は、本発明の実施形態を説明するためのものである。ただし、本発明は、各図面の記載に限られるわけではない。また、各図面の同様の構成には、同じ番号を付し、その繰り返しの説明を、省略する場合がある。また、以下の説明に用いる図面において、本発明の説明に関係しない部分の構成については、記載を省略し、図示しない場合もある。また、図面中の矢印の方向は、一例を示すものであり、ブロック間の信号の向きを限定するものではない。

なお、以下の説明に用いる命令は、１つの命令でもよく、複数の命令の組合せである命令列でもよい。例えば、各実施形態は、複数の命令用のパイプライン（ｗａｙとも呼ぶ）を備えていてもよい。ただし、以下の説明において、命令の構成を区別する必要がない場合は、単に「命令」と呼ぶ。

また、以下の説明において、命令キャッシュにおいて置き換えを低減する対象となる命令（所定の命令）、つまり、命令キャッシュに優先的にキャッシュされる命令を、「優先命令」と呼ぶ。また、命令キャッシュおいて優先命令より優先的に置き換えられる命令を「非優先命令」と呼ぶ。

なお、優先命令は、任意である。例えば、優先命令は、所定の頻度より多く実行される命令である。あるいは、優先命令は、所定の間隔で実行される命令である。

＜第１の実施形態＞
以下、図面を参照して、第１の実施形態について説明する。

［構成の説明］
図１は、第１の実施形態にかかる情報処理装置１０の構成の一例を示すブロック図である。

情報処理装置１０は、命令キャッシュ１００と、ローダ１０３と、実行モジュール１２０と、プロセッサ１３０とを含む。

実行モジュール１２０は、情報処理装置１０のメモリ（図示せず）の上に生成され、プロセッサ１３０が実行する命令を含む。実行モジュール１２０は、その他の情報（例えば、実行に用いられるデータ）を含んでもよい。

プロセッサ１３０は、実行モジュール１２０に含まれる命令を実行する。その際、プロセッサ１３０は、命令のキャッシュとして、命令キャッシュ１００を用いる。

なお、プロセッサ１３０は、命令キャッシュ１００に加え、他のキャッシュ（例えば、データキャシュ）を用いてもよい。

ローダ１０３は、実行モジュール１２０を生成する。

命令キャッシュ１００は、実行モジュール１２０の命令の中で、プロセッサ１３０が実行する命令をキャッシュする。つまり、命令キャッシュ１００は、命令のキャッシュとして、実行モジュール１２０に含まれる命令の複製を保存する。

そして、命令キャッシュ１００は、後ほど説明するように、優先命令の置き換えを削減するように動作する。

続いて、図面を参照して、各構成の詳細を説明する。

なお、プロセッサ１３０の構成及び動作は、一般的なプロセッサと同様のため、詳細な説明を省略する。

（実行モジュール１２０）
実行モジュール１２０は、アドレス記憶部１０１と、命令記憶部１２４とを含む。

命令記憶部１２４は、プロセッサ１３０が実行する命令を記憶する。図１に示されている命令記憶部１２４は、命令を記憶する構成の一例として、非優先命令記憶部１２１と、優先命令記憶部１２２とを含む。

非優先命令記憶部１２１は、非優先命令を保存する。

優先命令記憶部１２２は、優先命令を保存する。

アドレス記憶部１０１は、優先命令記憶部１２２のアドレスの範囲を保存する。

なお、アドレス記憶部１０１は、非優先命令記憶部１２１のアドレスの範囲を保存してもよい。この場合、以下の説明において、情報処理装置１０は、優先命令のアドレスの範囲として、命令記憶部１２４のアドレスの範囲の中で、アドレス記憶部１０１が保存するアドレスの範囲を除いたアドレスの範囲を用いて動作すればよい。

このように、命令記憶部１２４は、優先命令と、その他の命令（非優先命令）とを異なるアドレスの範囲に保存する。

図７は、実行モジュール１２０における領域の一例を示す図である。

図７に示されている実行モジュール１２０は、下限アドレス７００と、上限アドレス７０１と、非優先命令領域７０２と、優先命令領域７０３とを含む。

なお、図７における領域などの配置は、一例である。実行モジュール１２０における領域などの配置は、図７に限定されない。例えば、下限アドレス７００及び上限アドレス７０１は、最上位アドレスに配置されてもよい。

優先命令領域７０３は、優先命令、つまり、命令キャッシュ１００における置き換えを低減する命令を保存する領域である。

非優先命令領域７０２は、その他の命令（非優先命令）を保存する領域である。

下限アドレス７００は、優先命令領域７０３の下限のアドレスを保存する。

上限アドレス７０１は、優先命令領域７０３の上限のアドレスを保存する。

下限アドレス７００及び上限アドレス７０１が、アドレス記憶部１０１の一例である。

非優先命令領域７０２及び優先命令領域７０３が、命令記憶部１２４の一例である。

なお、命令記憶部１２４は、複数の非優先命令領域７０２及び優先命令領域７０３を含んでもよい。

あるいは、非優先命令領域７０２及び優先命令領域７０３は、連続せずに、実行モジュール１２０において、離れたアドレスに配置されてもよい。

このように、実行モジュール１２０は、実行モジュール１２０における所定のアドレスの範囲を、非優先命令領域７０２及び優先命令領域７０３として用いればよい。

なお、命令記憶部１２４は、その他の領域を含んでもよい。

また、アドレス記憶部１０１が保存するアドレスの範囲を示す情報は、アドレスの上限及び下限の組合せに限定されない。例えば、アドレス記憶部１０１は、アドレスの範囲として、アドレスの上限又は下限と、範囲の長さ又は容量とを保存してもよい。

（ローダ１０３）
ローダ１０３は、所定のやり方に沿って、実行モジュール１２０を生成する。実行モジュール１２０の生成のやり方は、一般的なローダと同様のため、詳細な説明を省略する。

ただし、ローダ１０３は、実行モジュール１２０の生成の際に、実行モジュール１２０の所定のアドレスの範囲に、優先命令を配置する。

なお、ローダ１０３がアドレスの範囲を取得するやり方は、任意である。例えば、ローダ１０３は、利用者から、所定のアドレスの範囲を取得してもよい。あるいは、ローダ１０３は、所定の規則に沿ってアドレスの範囲を生成してもよい。例えば、ローダ１０３は、実行モジュール１２０の容量の所定の比率の範囲を、アドレスの範囲として用いてもよい。

ローダ１０３は、アドレスの範囲を、実行モジュール１２０のアドレス記憶部１０１に保存する。

以下、優先命令に関連する構成を説明する。

ローダ１０３は、命令指定部１０４と、命令配置決定部１０５と、命令埋め込み部１０６とを含む。

命令指定部１０４は、優先命令を指定する。

命令指定部１０４において、優先命令を指定するやり方は、限定されない。例えば、命令指定部１０４は、図示しない利用者が操作する装置から、優先命令に関する指定を取得してもよい。あるいは、命令指定部１０４は、所定の規則、情報処理装置１０の構成、又は、実行モジュール１２０における実行内容を基に、優先命令を指定してもよい。

命令配置決定部１０５は、実行モジュール１２０に含まれる命令を配置するアドレスを決定する。より詳細には、例えば、命令配置決定部１０５は、優先命令については、実行モジュール１２０の優先命令記憶部１２２に配置されるように、アドレスを決定する。また、命令配置決定部１０５は、非優先命令については、実行モジュール１２０の非優先命令記憶部１２１に配置されるようにアドレスを決定する。例えば、命令配置決定部１０５は、図７に示されている下限アドレス７００及び上限アドレス７０１を用いて、命令を配置するアドレスを決定する。

命令埋め込み部１０６は、命令配置決定部１０５が決定した実行モジュール１２０のアドレスに、命令を埋め込む。

上記のように構成されたローダ１０３は、優先命令を、実行モジュール１２０における優先命令記憶部１２２のアドレスの範囲に埋め込む。

上記のようなローダ１０３の動作の結果、命令キャッシュ１００は、後ほど説明するように、実行モジュール１２０における命令のアドレスを用いて、優先命令であるか否かを判定できる。そして、命令キャッシュ１００は、判定の結果を用いて、優先命令を命令キャッシュ１００に残すような動作を実現できる。

（命令キャッシュ１００）
命令キャッシュ１００は、キャッシュ制御部１０２と、命令記憶部１１１と、エントリ記憶部１１２とを含む。

キャッシュ制御部１０２は、命令キャッシュ１００における各構成を制御して、プロセッサ１３０が実行する命令のキャッシュを実現する。

命令記憶部１１１は、キャッシュ制御部１０２に制御されて、キャッシュとして、実行モジュール１２０に含まれる命令の中で、プロセッサ１３０が実行する命令を保存する。

なお、命令キャッシュ１００が保存する命令は、実行モジュール１２０に保存されている命令である。そのため、命令キャッシュ１００が保存する命令は、実行モジュール１２０が保存する命令の複製でもある。

エントリ記憶部１１２は、命令記憶部１１１が保存している命令（キャッシュしている命令）のアドレスに関連する情報（以下、「エントリ」と呼ぶ）を保存する。エントリについては、後ほど説明する。

以下の説明において、命令キャッシュ１００は、複数の命令を保存しているとする。

なお、命令キャッシュ１００は、キャッシュとして、複数の命令を含む命令列（コマンド・アレイ）を保存してもよい。

図２は、命令キャッシュ１００の構成の一例を示す図である。なお、図２は、命令として命令列（コマンド・アレイ）を用いている場合の一例である。

図２に示されている命令キャッシュ１００は、キャッシュ制御部２００と、アドレスアレイ２０１と、データアレイ２０２とを含む。

キャッシュ制御部２００は、図１におけるキャッシュ制御部１０２に相当する。

アドレスアレイ２０１は、エントリ記憶部１１２の一例であり、命令キャッシュ１００に保存されている命令のアドレスに関連する情報（エントリ）を保存する。

データアレイ２０２は、命令記憶部１１１の一例であり、キャッシュとして、プロセッサ１３０が実行する命令を保存する。

図３は、エントリ３１０の構成の一例を示す図である。

エントリ３１０は、アドレス３００と、Ｖａｌｉｄビット３０１と、Ｐｒｉｏｒｉｔｙビット３０２とを含む。

アドレス３００は、エントリ３１０に対応する命令のアドレス（実行モジュール１２０において配置されているアドレス）を保存する。なお、アドレス３００は、その他のアドレス（例えば、対応する命令のデータアレイ２０２におけるアドレス）を、保存してもよい。

Ｖａｌｉｄビット３０１は、エントリ３１０が有効であるか否かを示す情報である。

エントリ３１０が有効とは、エントリ３１０が実際の命令と関連付けられていることである。この場合、アドレス３００は、有効なアドレスを保存している。エントリ３１０が無効とは、エントリ３１０が命令と関連付けられていないことである。

例えば、Ｖａｌｉｄビット３０１が「１」の場合、エントリ３１０は有効である。Ｖａｌｉｄビット３０１が「０」の場合、エントリ３１０は、有効ではない。なお、Ｖａｌｉｄビット３０１は、１ビットの情報に限定されない。例えば、Ｖａｌｉｄビット３０１は、１Ｂｙｔｅの情報でもよい。

キャッシュ制御部１０２は、エントリ３１０に対応した命令を命令記憶部１１１に保存した場合に、Ｖａｌｉｄビット３０１を「有効（例えば、「１」）」に変更する。また、キャッシュ制御部１０２は、エントリ３１０を開放した場合に、Ｖａｌｉｄビット３０１を「無効（例えば、「０」）」に変更する。

Ｐｒｉｏｒｉｔｙビット３０２は、そのエントリ３１０に対応する命令が優先命令であるか否かを示す情報である。Ｐｒｉｏｒｉｔｙビット３０２も、１ビットに限られず、例えが、１Ｂｙｔｅの情報でもよい。

キャッシュ制御部１０２は、命令をキャッシュする場合に、命令の実行モジュール１２０におけるアドレスと、アドレス記憶部１０１とを用いて、その命令が優先命令であるか否かを判定して、Ｐｒｉｏｒｉｔｙビット３０２を設定する。そして、キャッシュ制御部１０２は、命令を置き換える場合において、エントリ３１０に対応する命令が優先命令であるか否かの判定に、Ｐｒｉｏｒｉｔｙビット３０２を用いる。

ただし、キャッシュ制御部１０２は、命令を置き換える場合における命令が優先命令であるか否かの判定において、Ｐｒｉｏｒｉｔｙビット３０２を用いなくてもよい。例えば、キャッシュ制御部１０２は、命令を置き換える場合に、エントリに対応する命令の実行モジュール１２０におけるアドレス及びアドレス記憶部１０１を用いて、置き換える命令を判定してもよい。この場合、エントリ３１０は、Ｐｒｉｏｒｉｔｙビット３０２を含まなくてもよい。

なお、図３は、Ｖａｌｉｄビット３０１を「Ｖ」、Ｐｒｉｏｒｉｔｙビット３０２を「Ｐ」を用いて表している。

アドレスアレイ２０１（つまり、エントリ記憶部１１２）は、複数のｗａｙに対応した命令を保存してもよい。

図４は、４ｗａｙに対応したエントリ４１４の構成の一例を示す図である。

図４は、一例として、４ｗａｙの命令を示している。ただし、本実施形態におけるｗａｙの数は、４に限られず、４未満でもよく、５以上でもよい。

図４に示されているエントリ４１４は、図３に示されたエントリ３１０に相当するエントリを４つ含む。

１つ目のエントリは、ｗａｙ０のエントリであり、アドレス４００と、Ｖａｌｉｄビット４０１と、Ｐｒｉｏｒｉｔｙビット４０２とを含む。

２つ目のエントリは、ｗａｙ１のエントリであり、アドレス４０３、Ｖａｌｉｄビット４０４と、Ｐｒｉｏｒｉｔｙビット４０５とを含む。

３つ目のエントリは、ｗａｙ２のエントリであり、アドレス４０６と、Ｖａｌｉｄビット４０７と、Ｐｒｉｏｒｉｔｙビット４０８とを含む。

４つ目のエントリは、ｗａｙ３のエントリであり、アドレス４０９と、Ｖａｌｉｄビット４１０と、Ｐｒｉｏｒｉｔｙビット４１１とを含む。

さらに、図４に示されているエントリ４１４は、非優先エントリ４１２と、優先エントリ４１３とを含む。

非優先エントリ４１２は、非優先命令に関連するエントリを示す情報（例えば、非優先命令に関連するエントリのｗａｙの値）を保存する。

優先エントリ４１３は、優先命令に関連するエントリを示す情報（例えば、優先命令に関連するｗａｙの値）を保存する。

なお、エントリ４１４は、その他の情報を含んでもよい。また、エントリ４１４は、上記の一部を含まなくてもよい。

エントリ４１４が非優先エントリ４１２を含む場合、キャッシュ制御部１０２は、非優先エントリ４１２を用いて、非優先命令に対応するエントリがあるか否かの判定できる。なお、キャッシュ制御部１０２は、優先エントリ４１３に含まれないエントリを、非優先命令に対応するエントリを判定してもよい。

このように、キャッシュ制御部１０２は、非優先エントリ４１２及び優先エントリ４１３のいずれかを用いて動作してもよい。そのため、エントリ４１４は、非優先エントリ４１２及び優先エントリ４１３のどちらかを含まなくてもよい。

なお、非優先エントリ４１２及び優先エントリ４１３のどちらにも含まれないエントリは、空エントリである。そこで、キャッシュ制御部１０２は、非優先エントリ４１２及び優先エントリ４１３を用いて空エントリを判定してもよい。この場合、エントリ４１４は、Ｖａｌｉｄビット４０１、４０４、４０７及び４１０を含まなくてもよい。

なお、キャッシュ制御部１０２は、Ｐｒｉｏｒｉｔｙビット４０２、４０５、４０８及び４１１を用いて、非優先エントリ４１２及び優先エントリ４１３に情報を設定すればよい。

ただし、キャッシュ制御部１０２は、各エントリに対応する命令の実行モジュール１２０におけるアドレスと、アドレス記憶部１０１とを用いて、非優先エントリ４１２及び優先エントリ４１３を設定してもよい。この場合、エントリ４１４は、Ｐｒｉｏｒｉｔｙビット４０２、４０５、４０８及び４１１を含まなくてもよい。

図５は、キャッシュ制御部１０２における命令を判定する動作を説明するための図である。

図５に示されているキャッシュ制御部１０２の動作は、図７に示されている実行モジュール１２０を用いる場合、より詳細には、下限アドレス５００及び上限アドレス５０１を用いる場合の動作の一例である。

なお、キャッシュ制御部１０２は、下限アドレス５００及び上限アドレス５０１として、実行モジュール１２０が保存する下限アドレス７００及び上限アドレス７０１を用いてもよい。あるいは、キャッシュ制御部１０２は、キャッシュ制御部１０２内に、実行モジュール１２０が保存する下限アドレス７００及び上限アドレス７０１の複製を保存してもよい。

まず、キャッシュ制御部１０２は、命令のアドレス（詳細には、命令に対応するエントリに含まれるアドレス）と、下限アドレス５００及び上限アドレス５０１を比較する。

なお、キャッシュ制御部１０２は、比較器５０３を含み、比較器５０３を用いてアドレスを比較してもよい。あるいは、キャッシュ制御部１０２は、ソフトウェアの処理として、アドレスを比較してもよい。

命令のアドレスが下限アドレス５００及び上限アドレス５０１の範囲に含まれる場合、キャッシュ制御部１０２は、その命令を、優先命令（優先的に命令キャッシュ１００に残す命令）と判定する。

命令のアドレスが下限アドレス５００及び上限アドレス５０１の範囲に含まれない場合、キャッシュ制御部１０２は、その命令を、非優先命令（優先的には命令キャッシュ１００に残さない命令）と判定する。

図６は、キャッシュ制御部１０２における置き換える命令に決める動作の一例を示すフロー図である。命令の置き換えは、プロセッサ１３０が実行する命令が命令キャッシュ１００にない場合（キャッシュミスの場合）に発生する。なお、キャッシュミスの判定などは、一般的なキャッシュと同様のため、詳細な説明を省略する。

キャッシュミスの命令など新たな命令をキャッシュに追加する場合に、キャッシュ制御部１０２は、以下で説明する動作を実行する。

まず、キャッシュ制御部１０２は、空エントリ（未使用のエントリ）があるか否かを判定する（ステップＳ８０１）。例えば、キャッシュ制御部１０２は、図３に示したＶａｌｉｄビット３０１、又は、図４に示したＶａｌｉｄビット４０１、４０４、４０７、及び４１０を用いて、空エントリを判定すればよい。

空エントリがある場合（ステップＳ８０１でＹｅｓ）、キャッシュ制御部１０２は、新しい命令用のエントリとして、その空エントリを使用する（ステップＳ８０３）。つまり、キャッシュ制御部１０２は、空エントリを用いて、新しい命令をキャッシュする。

空エントリがない場合（ステップＳ８０１でＮｏ）、キャッシュ制御部１０２は、非優先命令に対応するエントリがあるか否かを判定する（ステップＳ８０５）。例えば、キャッシュ制御部１０２は、図３に示されているＰｒｉｏｒｉｔｙビット３０２、又は、図４に示されている非優先エントリ４１２を用いて、判定すればよい。

例えば、非優先エントリ４１２がｗａｙ番号を保存している場合、キャッシュ制御部１０２は、非優先命令に対応するエントリがあると判定する。非優先エントリ４１２が、ｗａｙ番号を保存していない、又は、存在しないｗａｙ番号を保存している場合、キャッシュ制御部１０２は、非優先命令に対応するエントリがないと判定する。

非優先命令に対応するエントリがある場合（ステップＳ８０５でＹｅｓ）、キャッシュ制御部１０２は、そのエントリの中からいずれかのエントリを選択し、選択したエントリに対応する命令と新しい命令とを置き換える（ステップＳ８０７）。例えば、キャッシュ制御部１０２は、非優先エントリ４１２が保存しているｗａｙ番号のエントリに対応する命令と新しい命令とを置き換える。なお、複数の非優先のエントリがある場合、キャッシュ制御部１０２は、所定の規則に沿って、エントリを選択する。

非優先命令に関連するエントリがない場合（ステップＳ８０５でＮｏ）、キャッシュ制御部１０２は、優先命令に関連するエントリから、所定の規則に沿って、置き換えるエントリを選択する。そして、キャッシュ制御部１０２は、選択したエントリに関連する命令と新しい命令とを置き換える（ステップＳ８０９）。例えば、キャッシュ制御部１０２は、優先エントリ４１３が保存するｗａｙ番号のエントリから１つのエントリを選択する。

なお、エントリの選択に用いられる所定の規則は、任意である。例えば、所定の規則は、Ｌｅａｓｔ Ｒｅｃｅｎｔｌｙ Ｕｓｅｄ（ＬＲＵ）、又は、Ｌｅａｓｔ Ｆｒｅｑｕｅｎｃｙ Ｕｓｅｄ（ＬＦＵ）でもよい。

このように、空エントリがある場合には、情報処理装置１０は、新しい命令のエントリとして、空エントリを用いる。空エントリがなく、優先命令に対応するエントリと、非優先命令に対応するエントリとがある場合、情報処理装置１０は、上記の動作を基に、新しい命令のエントリとして、非優先命令に対応するエントリを選択する。そのため、情報処理装置１０は、上記の動作を基に、優先命令を、非優先命令より命令キャッシュ１００に残すことができる。

このような動作に基づいて、情報処理装置１０は、命令キャッシュ１００における、所定の命令（例えば、利用頻度が多い命令）の置き換えを低減する。

［効果の説明］
次に第１の実施形態にかかる情報処理装置１０の効果について説明する。

第１の実施形態かかる情報処理装置１０は、命令キャッシュ１００における所定の命令（例えば、優先命令）の置き換えを低減するとの効果を得ることができる。

その理由は、次のとおりである。

情報処理装置１０は、プロセッサ１３０と、命令キャッシュ１００と、実行モジュール１２０とを含む。プロセッサ１３０は、命令を実行する。実行モジュール１２０は、命令記憶部１２４（第１の命令記憶部）と、アドレス記憶部１０１とを含む。命令記憶部１２４は、プロセッサ１３０が実行する命令を保存する。アドレス記憶部１０１は、命令記憶部１２４において、優先的にキャッシュする命令を保存するアドレスの範囲を保存する。命令キャッシュ１００は、命令記憶部１１１（第２の命令記憶部）と、エントリ記憶部１１２と、キャッシュ制御部１０２とを含む。命令記憶部１１１は、プロセッサ１３０が実行する命令のキャッシュとして、実行モジュール１２０が保存する命令の複製を保存する。エントリ記憶部１１２は、命令記憶部１１１が保存した命令に関連するアドレスとして、実行モジュール１２０における命令のアドレスを含むエントリ３１０を保存する。キャッシュ制御部１０２は、エントリ３１０が保存するアドレスと、実行モジュール１２０が保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する。

上記のように、実行モジュール１２０は、優先的にキャッシュに保存する命令を、アドレス記憶部１０１が記憶するアドレスの範囲に保存している。

そのため、命令キャッシュ１００は、命令の実行モジュール１２０におけるアドレスを用いて、キャッシュしている命令が優先的にキャッシュする命令であるか否かを判定できる。そして、命令キャッシュ１００は、判定結果を用いて、優先的にキャッシュする命令を残すように、命令の置き換えを実行する。

そのため、このように構成された情報処理装置１０は、命令キャッシュ１００及び実行モジュール１２０の構成を用いて、命令キャッシュ１００における所定の命令の置き換えを低減するとの効果を奏することができる。

さらに、情報処理装置１０は、ローダ１０３を含む。

ローダ１０３は、命令指定部１０４と、命令配置決定部１０５と、命令埋め込み部１０６とを含む。命令指定部１０４は、実行モジュール１２０を生成するときに、実行モジュール１２０に含まれる命令の中で、優先的に命令キャッシュ１００に保存する命令（優先命令）を指定する。命令配置決定部１０５は、実行モジュール１２０において、指定された命令を配置する実行モジュール１２０におけるアドレスを決定する。命令埋め込み部１０６は、決定したアドレスに指定された命令を埋め込む。

このように構成されたローダ１０３は、命令キャッシュ１００が上記動作を実現できるように実行モジュール１２０を生成することができる。

このように、第１の実施形態にかかる情報処理装置１０は、所定の命令（例えば、頻繁に実行される命令）の命令キャッシュ１００における置き換えを低減する。つまり、第１の実施形態にかかる情報処理装置１０は、特許文献１における問題点を解決できる。

また、第１の実施形態にかかる情報処理装置１０は、コア間での移動なども必要としない。したがって、第１の実施形態にかかる情報処理装置１０は、特許文献２に記載された技術における問題点を解決し、プロセッサ１３０の実行効率の低下を低減するとの効果も奏することができる。

＜第２の実施形態＞
なお、命令キャッシュ１００、ローダ１０３及び、実行モジュール１２０は、同じ装置に含まれなくてもよい。例えば、ローダ１０３は、情報処理装置１０とは異なる装置に設けられてもよい。

あるいは、実行モジュール１２０の生成後、ローダ１０３は、削除されてもよい。

次に、図面を参照して、第２の実施形態について説明する。

［構成の説明］
図８は、第２の実施形態にかかる情報処理装置１１の構成の一例を示すブロック図である。

情報処理装置１１は、プロセッサ１３０と、命令キャッシュ１００と、実行モジュール１２０とを含む。

プロセッサ１３０は、命令を実行する。

実行モジュール１２０は、図示しないローダ１０３と同様の構成を用いて生成される。

実行モジュール１２０は、アドレス記憶部１０１と、命令記憶部１２４（第１の命令記憶部）とを含む。

命令記憶部１２４は、命令を保存する。

アドレス記憶部１０１は、命令記憶部１２４が保存する命令の中で、優先命令が保存されているアドレスの範囲を保存する。

命令キャッシュ１００は、命令記憶部１１１と、エントリ記憶部１１２と、キャッシュ制御部１０２とを含む。

命令記憶部１１１は、命令のキャッシュとして、命令の複製を保存する。

エントリ記憶部１１２は、命令記憶部１１１に保存された命令のアドレスを含むエントリ３１０を保存する。

キャッシュ制御部１０２は、アドレス記憶部１０１を用いて、命令記憶部１２４に保存されている命令が優先命令か否かを判定できる。

さらに、命令キャッシュ１００が命令を置き換える場合においても、キャッシュ制御部１０２は、アドレス記憶部１０１及びエントリ記憶部１１２を用いて、置き換える命令として、非優先命令を選択できる。

［効果の説明］
このように構成された第２の実施形態にかかる情報処理装置１１は、第１の実施形態にかかる情報処理装置１１と同様の効果を実現できる。

その理由は、次のとおりである。

情報処理装置１１は、プロセッサ１３０と、命令キャッシュ１００と、実行モジュール１２０とを含む。プロセッサ１３０は、命令を実行する。実行モジュール１２０は、命令記憶部１２４（第１の命令記憶部）と、アドレス記憶部１０１とを含む。命令記憶部１２４は、プロセッサ１３０が実行する命令を保存する。アドレス記憶部１０１は、命令記憶部１２４において、優先的にキャッシュする命令を保存するアドレスの範囲を保存する。命令キャッシュ１００は、命令記憶部１１１（第２の命令記憶部）と、エントリ記憶部１１２と、キャッシュ制御部１０２とを含む。命令記憶部１１１は、プロセッサ１３０が実行する命令のキャッシュとして、実行モジュール１２０が保存する命令の複製を保存する。エントリ記憶部１１２は、命令記憶部１１１が保存した命令に関連するアドレスとして、実行モジュール１２０における命令のアドレスを含むエントリ３１０を保存する。キャッシュ制御部１０２は、エントリ３１０が保存するアドレスと、実行モジュール１２０が保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する。

このように、情報処理装置１１に含まれる命令キャッシュ１００及び実行モジュール１２０に含まれ構成は、第１の実施形態における対応する構成と同様の機能を実現する。そのため、第２の実施形態にかかる情報処理装置１１は、第１の実施形態にかかる情報処理装置１０と同様の効果を実現できる。

なお、情報処理装置１１は、第１の実施形態における最小構成でもある。

［ハードウェア構成］
次に、情報処理装置１０及び１１のハードウェア構成について、情報処理装置１０を用いて説明する。

情報処理装置１０の各構成部は、ハードウェア回路で構成されてもよい。

あるいは、情報処理装置１０において、各構成部は、ネットワークを介して接続した複数の装置を用いて、構成されてもよい。

あるいは、情報処理装置１０において、複数の構成部は、１つのハードウェアで構成されてもよい。

あるいは、情報処理装置１０は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）と、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）と、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）とを含むコンピュータ装置として実現されてもよい。情報処理装置１０は、上記構成に加え、さらに、入出力接続回路（ＩＯＣ：Ｉｎｐｕｔ ａｎｄ Ｏｕｔｐｕｔ Ｃｉｒｃｕｉｔ）を含むコンピュータ装置として実現されてもよい。情報処理装置１０は、上記構成に加え、さらに、ネットワークインターフェース回路（ＮＩＣ：Ｎｅｔｗｏｒｋ Ｉｎｔｅｒｆａｃｅ Ｃｉｒｃｕｉｔ）を含むコンピュータ装置として実現されてもよい。

図９は、情報処理装置１０のハードウェア構成の一例を示すブロック図である。なお、図９は、情報処理装置１０のハードウェアの一例として、情報処理装置６００を示す。

情報処理装置６００は、ＣＰＵ６１０と、ＲＯＭ６２０と、ＲＡＭ６３０と、内部記憶装置６４０と、ＩＯＣ６５０と、ＮＩＣ６８０とを含み、コンピュータ装置を構成している。

ＣＰＵ６１０は、ＲＯＭ６２０及び／又は内部記憶装置６４０からプログラムを読み込む。そして、ＣＰＵ６１０は、読み込んだプログラムに基づいて、ＲＡＭ６３０と、内部記憶装置６４０と、ＩＯＣ６５０と、ＮＩＣ６８０とを制御する。そして、ＣＰＵ６１０を含むコンピュータは、これらの構成を制御し、図１に示されている、プロセッサ１３０、命令キャッシュ１００、ローダ１０３、及び実行モジュール１２０としての各機能を実現する。

ＣＰＵ６１０は、プロセッサ１３０の一例である。

ＣＰＵ６１０は、各機能を実現する際に、ＲＡＭ６３０又は内部記憶装置６４０を、プログラムの一時記憶媒体として使用してもよい。

また、ＣＰＵ６１０は、コンピュータで読み取り可能にプログラムを記憶した記憶媒体６９０が含むプログラムを、図示しない記憶媒体読み取り装置を用いて読み込んでもよい。あるいは、ＣＰＵ６１０は、ＮＩＣ６８０を介して、図示しない外部の装置からプログラムを受け取り、ＲＡＭ６３０又は内部記憶装置６４０に保存して、保存したプログラムを基に動作してもよい。

なお、図示していないが、ＣＰＵ６１０は、内蔵メモリを含んでもよい。この場合、内蔵メモリが、命令キャッシュ１００として動作してもよい。

ＲＯＭ６２０は、ＣＰＵ６１０が実行するプログラム及び固定的なデータを記憶する。ＲＯＭ６２０は、例えば、Ｐ−ＲＯＭ（Ｐｒｏｇｒａｍｍａｂｌｅ−ＲＯＭ）又はフラッシュＲＯＭである。

ＲＡＭ６３０は、ＣＰＵ６１０が実行するプログラム及びデータを一時的に記憶する。ＲＡＭ６３０は、例えば、Ｄ−ＲＡＭ（Ｄｙｎａｍｉｃ−ＲＡＭ）である。

なお、ＲＡＭ６３０が、実行モジュール１２０を保存してもよい。

さらに、ＲＡＭ６３０は、アクセス性能が異なる複数のメモリを含んでもよい。この場合、アクセス性能が高いメモリが、命令キャッシュ１００として動作してもよい。

内部記憶装置６４０は、情報処理装置６００が長期的に保存するデータ及びプログラムを記憶する。また、内部記憶装置６４０は、ＣＰＵ６１０の一時記憶装置として動作してもよい。内部記憶装置６４０は、例えば、ハードディスク装置、光磁気ディスク装置、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）又はディスクアレイ装置である。

なお、内部記憶装置６４０は、実行モジュール１２０を保存してもよい。

ＲＯＭ６２０と内部記憶装置６４０とは、不揮発性（ｎｏｎ−ｔｒａｎｓｉｔｏｒｙ）の記憶媒体である。一方、ＲＡＭ６３０は、揮発性（ｔｒａｎｓｉｔｏｒｙ）の記憶媒体である。そして、ＣＰＵ６１０は、ＲＯＭ６２０、内部記憶装置６４０、又は、ＲＡＭ６３０に記憶されているプログラムを基に動作可能である。つまり、ＣＰＵ６１０は、不揮発性記憶媒体又は揮発性記憶媒体を用いて動作可能である。

ＩＯＣ６５０は、ＣＰＵ６１０と、外部の装置とのデータを仲介する。図９は、外部の装置の一例として、入力機器６６０及び表示機器６７０を示す。ＩＯＣ６５０は、例えば、ＩＯインターフェースカード又はＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）カードである。さらに、ＩＯＣ６５０は、ＵＳＢのような有線に限らず、無線を用いてもよい。

入力機器６６０は、情報処理装置６００の操作者からの入力指示を受け取る機器である。入力機器６６０は、例えば、キーボード、マウス又はタッチパネルである。

表示機器６７０は、情報処理装置６００の操作者に情報を表示する機器である。表示機器６７０は、例えば、液晶ディスプレイ、有機エレクトロルミネッセンス・ディスプレイ、又は、電子ペーパーである。

ＮＩＣ６８０は、ネットワークを介した図示しない外部の装置とのデータのやり取りを中継する。ＮＩＣ６８０は、例えば、ＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）カードである。さらに、ＮＩＣ６８０は、有線に限らず、無線を用いてもよい。

このように構成された情報処理装置６００は、情報処理装置１０と同様の効果を得ることができる。

その理由は、情報処理装置６００のＣＰＵ６１０が、プログラムに基づいて情報処理装置１０と同様の機能を実現できるためである。

以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成及び詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。

１０ 情報処理装置
１１ 情報処理装置
１００ 命令キャッシュ
１０１ アドレス記憶部
１０２ キャッシュ制御部
１０３ ローダ
１０４ 命令指定部
１０５ 命令配置決定部
１０６ 命令埋め込み部
１１１ 命令記憶部
１１２ エントリ記憶部
１２０ 実行モジュール
１２１ 非優先命令記憶部
１２２ 優先命令記憶部
１２４ 命令記憶部
１３０ プロセッサ
２００ キャッシュ制御部
２０１ アドレスアレイ
２０２ データアレイ
３００ アドレス
３０１ Ｖａｌｉｄビット
３０２ Ｐｒｉｏｒｉｔｙビット
３１０ エントリ
４００ アドレス
４０１ Ｖａｌｉｄビット
４０２ Ｐｒｉｏｒｉｔｙビット
４０３ アドレス
４０４ Ｖａｌｉｄビット
４０５ Ｐｒｉｏｒｉｔｙビット
４０６ アドレス
４０７ Ｖａｌｉｄビット
４０８ Ｐｒｉｏｒｉｔｙビット
４０９ アドレス
４１０ Ｖａｌｉｄビット
４１１ Ｐｒｉｏｒｉｔｙビット
４１２ 非優先エントリ
４１３ 優先エントリ
４１４ エントリ
５００ 下限アドレス
５０１ 上限アドレス
５０３ 比較器
６００ 情報処理装置
６１０ ＣＰＵ
６２０ ＲＯＭ
６３０ ＲＡＭ
６４０ 内部記憶装置
６５０ ＩＯＣ
６６０ 入力機器
６７０ 表示機器
６８０ ＮＩＣ
６９０ 記憶媒体
７００ 下限アドレス
７０１ 上限アドレス
７０２ 非優先命令領域
７０３ 優先命令領域

Claims (8)

1. 命令を実行するプロセッサと、
   前記プロセッサが実行する命令を保存する第１の命令記憶手段と、
   前記第１の命令記憶手段において、優先的にキャッシュする命令を保存するアドレスの範囲を保存するアドレス記憶手段と
   を含む実行モジュールと、
   前記プロセッサが実行する命令のキャッシュとして、前記実行モジュールが保存する命令の複製を保存する第２の命令記憶手段と、
   前記第２の命令記憶手段が保存した命令に関連するアドレスとして、前記実行モジュールにおける命令のアドレスを含むエントリを保存するエントリ記憶手段と、
   エントリが保存するアドレスと、前記実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定するキャッシュ制御手段と
   を含む命令キャッシュと
   を含む情報処理装置。
2. 前記キャッシュ制御手段が、
   前記エントリ記憶手段が保存するエントリにおいて、命令に関連しないエントリがある場合、命令に関連しないエントリを新たな命令のエントリとして決定し、
   命令に関連しないエントリがない場合、前記アドレス記憶手段が保存するアドレスの範囲に含まれないアドレスを含むエントリに関連する命令を、新たな命令と置き換える命令と決定する
   請求項１に記載の情報処理装置。
3. エントリが、
   エントリが有効であるか否かを示す情報を含み、
   前記キャッシュ制御手段が、エントリが有効であるか否かの情報を用いてエントリが命令に関連するか否かを判定する
   請求項２に記載の情報処理装置。
4. 前記キャッシュ制御手段が
   前記第２の命令記憶手段に命令を複製するときに、前記実行モジュールにおける命令のアドレスと、前記アドレス記憶手段が保存するアドレスの範囲とを用いて、複製する命令が優先的にキャッシュする命令であるか否かを判定し、
   エントリに判定の結果を保存し、
   エントリに保存された判定の結果を用いて、置き換える命令を決定する
   請求項１ないし３のいずれか１項に記載の情報処理装置。
5. 前記アドレス記憶手段が、
   アドレスの範囲として、アドレスの範囲の下限アドレス及び上限アドレスを保存する
   請求項１ないし４のいずれか１項に記載の情報処理装置。
6. 請求項１ないし５のいずれか１項に記載の情報処理装置と、
   前記実行モジュールを生成するときに、
   前記実行モジュールに含まれる命令の中で、優先的に前記命令キャッシュに保存する命令を指定する命令指定手段と、
   前記実行モジュールにおいて、指定された命令を配置する前記実行モジュールにおけるアドレスを決定する命令配置決定手段と、
   決定したアドレスに指定された命令を埋め込む命令埋め込み手段と
   を含むローダをさらに含む
   情報処理装置。
7. 命令を実行するプロセッサと、
   前記プロセッサが実行する命令と、優先的にキャッシュする命令を保存するアドレスの範囲を保存する実行モジュールと、
   命令キャッシュとを含む情報処理装置において、
   前記命令キャッシュが
   前記プロセッサが実行する命令のキャッシュとして、前記実行モジュールが保存する命令の複製を保存し、
   保存した命令に関連するアドレスとして、前記実行モジュールにおける命令のアドレスを含むエントリを保存し、
   エントリが保存するアドレスと、前記実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する
   情報処理方法。
8. 命令を実行するプロセッサを含む情報処理装置に、
   前記プロセッサが実行する命令を保存し、
   優先的にキャッシュする命令を保存するアドレスの範囲を保存する
   実行モジュールとしての処理と、
   前記プロセッサが実行する命令のキャッシュとして、前記実行モジュールが保存する命令の複製を保存し、
   保存した命令に関連するアドレスとして、前記実行モジュールにおける命令のアドレスを含むエントリを保存し、
   エントリが保存するアドレスと、前記実行モジュールが保存するアドレスの範囲とを用いて、複製として保存する命令の中で、新たな命令と置き換える命令を決定する
   命令キャッシュとしての処理と
   を実行させるプログラム。

Images