JP2001216140A

JP2001216140A - 命令キャッシュ関数割付装置、割付最適化方法および割付最適化手順を記録した記録媒体

Info

Publication number: JP2001216140A
Application number: JP2000027218A
Authority: JP
Inventors: Hideji Nimata; 秀治二俣
Original assignee: Renesas Micro Systems Co Ltd
Current assignee: Renesas Micro Systems Co Ltd
Priority date: 2000-01-31
Filing date: 2000-01-31
Publication date: 2001-08-10

Abstract

(57)【要約】【課題】複数の関数間のキャッシュ・コンフリクトを
削減し、アプリケーション・プログラムの実行スピード
を向上する命令キャッシュ関数割付装置を得る。【解決手段】関数時系列情報出力部１００がアプリケ
ーション・プログラム１１０を入力してプロファイルに
より関数呼び出し時の呼び出し先関数ＩＤと関数からの
戻り時の戻り先関数ＩＤを関数実行の時系列情報１１１
に出力し、この時系列情報１１１を関数時系列情報解析
部１０１が解析し、直接的、間接的なキャッシュ・コン
フリクトを発生する可能性のある関数呼び出しのパター
ンを抽出して関数間キャッシュ・コンフリクト組合せ情
報１１２として記録する。関数メモリ空間配置最適化部
１０２は、実行遷移回数の多い関数の順にキャッシュ・
ラインを共有しないようにメモリ空間に配置する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、命令キャッシュへ
の関数割り付けを最適化する命令キャッシュ関数割付装
置、命令キャッシュ関数割付最適化方法および命令キャ
ッシュ関数割付最適化手順を記録した記録媒体に関す
る。

【０００２】

【従来の技術】従来、命令キャッシュ関数割付装置、命
令キャッシュ関数割付最適化方法および命令キャッシュ
関数割付最適化手順を記録した記録媒体は、例えば、Ｃ
ＰＵの速度に規制されつつ、メモリアクセス処理速度を
改善する装置および方法に関する。これに関連する技術
において、ＣＰＵ速度とメモリアクセスの処理速度との
差は、年々拡大する一方である。

【０００３】ＤＲＡＭのアクセス時間の向上率は年率７
％、ＣＰＵ速度は５０〜１００％というデータもある
（１９９６年４月１９日／日経ＢＰ社発行、日経ＢＰ出
版センター発売の「コンピュータの構成と設計」、Davi
d.A.Patterson 、John.L.Hennessy 、成田光彰訳よ
り）。よって、キャッシュの有効利用が、非常に重要な
問題となってきている。なお、キャッシュとは既知の通
り、外部メモリを高速にアクセスするための機構であ
る。一般に、プログラムはメモリに配置された関数をア
ドレス順に処理していく。しかし、外部メモリのアクセ
ス速度は、ＣＰＵの処理速度に比べて非常に遅い。この
ため、結果として実行速度が遅くなるという問題点があ
る。

【０００４】上記の問題点を解消するため、関数実行の
際に外部メモリ上のプログラムをキャッシュという高速
アクセス可能なバッファにコピーして実行することによ
り、高速なプログラム実行を実現することが可能とな
る。これは一般に、プログラムを実行すると、一度アク
セスされたメモリは近いうちに再度アクセスされる可能
性が高いという性質によるものである。

【０００５】ただし、一般的にキャッシュの構成には、
コストがかかるため外部メモリに比べて非常にサイズは
小さい。よって、外部メモリをキャッシュのサイズで区
切った領域に分割し、分割した領域毎に外部メモリをキ
ャッシュに割り当て、あるアドレスに対する最初のアク
セスでそのアドレスのプログラムをキャッシュの割り当
てた境域にコピーし、次に外部メモリの同じアドレスを
アクセスした場合は、キャッシュを直接アクセスする。
このことで、高速なプログラム実行を実現する。

【０００６】この時、外部メモリからキャッシュ・メモ
リへのコピーは特定のサイズの単位で行われ、このサイ
ズでキャッシュを分割した領域をキャッシュラインと呼
ぶ。従って、同一のキャッシュラインに割り当たった外
部メモリのアドレスに配置された関数同士は、関数が切
り替わる度にキャッシュにプログラムをコピーし直す必
要が生じてくる。これをキャッシュ・コンフリクトとい
う。これが頻繁に起きると、結果としてプログラムの実
行速度が遅くなってしまうという問題がある。よって、
昨今では、この問題を解消すべく同時に動く可能性の高
い関数同士は、同一のキャッシュラインには載らないよ
うに配置する方法が研究されている。

【０００７】なお、従来、キャッシュには命令キャッシ
ュとデータキャッシュがあるが、本発明は、命令キャッ
シュに着目するものである。外部メモリのキャッシュへ
の割当て方式には、最も単純で安価なダイレクト・マッ
プ方式や、セット・アソシアティブ／フル・アソシアテ
ィブといった方式がある。しかし、基本的な問題は全て
同じであるため、以降、ダイレクト・マップ方式を例に
とり説明する。

【０００８】また、従来の言語処理系プログラムでは、
ある処理単位（関数）毎にメモリに適当に配置してい
た。このため、キャッシュ搭載のシステムにおいては、
それが必ずしも最適に利用されているとは限らなかっ
た。

【０００９】昨今では、命令キャッシュに関し、キャッ
シュ・コンフリクトの回数を確率的に減らすために、関
数の呼び出し回数情報を元にして関数のメモリ配置を最
適化する。このことにより、キャッシュを有効に利用す
る研究がなされており、いくつかのアルゴリズムが論文
発表されている。例えば、従来例１の“Efficient Proc
edure Mapping Using Cache Line Colorling”(A.H.Has
hemi,D.R.Kaeli,B.Calder ACM SIGPLAN,June,1997）に
おいては、呼び出し回数の多い関数から順にキャッシュ
・コンフリクトを避けるように関数のメモリ配置を最適
にしていく手法が公開されている。

【００１０】また、従来例２の特開平１１−２３２１１
７号公報の「プログラム変換方法、プログラム変換装置
及びプログラム変換プログラムを記憶した記憶媒体」に
おいては、キャッシュ・メモリを効率よく使用するため
の関数配置方法の実施例として上記従来例１の論文の方
法が採用され、詳しく説明されている。この論文のアル
ゴリズムでは、関数の呼出グラフを作成し、呼び出し回
数をその辺に対する重みとして優先順位を付けてメモリ
空間に配置する。このことにより、まず関数を最初に配
置した時のキャッシュ・コンフリクトを避けることがで
きる。さらに、各関数が配置された「色」（＝使用され
ているキャッシュライン）と、その関数が現在利用でき
ない「色」の集合を記録しておき、後者の色を使わない
ように関数を配置し、既に配置した関数についても、そ
の関数の利用できない色を使わないという条件の下で、
別の場所に移動する。このことで、直接の“親”あるい
は“子”との間で発生するキャッシュ・コンフリクトを
除去するものである。

【００１１】図８、図９、および図１０を参照し、図３
に示す本発明の実施例で適用したソース・プログラムに
対する従来例での動作を確認する。このことにより、従
来例における問題点をより詳細に説明する。なお、図８
および図９において、実線の矢印は処理の流れを示し、
点線の矢印はデータの流れを示している。

【００１２】図８の従来技術例に対し、図３に示すソー
ス・プログラム例３００を適用した場合、関数呼び出し
情報出力部８００において、プロファイルにより関数呼
び出し時に呼出元と呼出先の関数情報とその呼出回数を
出力すると、図１０に示す関数呼出組合せ情報８１１が
作成される。

【００１３】次に、関数メモリ空間配置最適化部８０１
において、関数呼出組合せ情報８１１を呼出回数の多い
順にソートし、この順番にアドレス空間に配置すると同
時に配置した関数が利用できない「色」の集合を認識
し、これを避けて後続の関数を配置する。

【００１４】すなわち、図９において、ステップ９０１
では関数呼出組合せ情報８１１から図１１に示す関数呼
出しグラフ１１００を作成し、ステップ９０２では作成
した関数呼出グラフ１１００を呼び出し回数の多いもの
と少ないものに分割する。ここでは、func-funcA、 func
-funcB、 func-funcCが前者の「多いもの」、main-func
が後者の「少ないもの」となる。ここで作成した呼出グ
ラフにおいては、関数の組合せが辺となり、その両端の
ノードが組合せにおける２つの関数となる。なお、図３
における各関数の占めるキャッシュライン数すなわち
「色」の数は、funcが２個、funcA,funcB,funkC,mainが
１個であるものとする。

【００１５】次に、ステップ９０３において、呼出回数
の多いもののグループを呼出回数の多い順にソートし、
その順番でステップ９０４以降の処理を行う。ステップ
９０４では呼出回数の多い辺が残っているか確認し、残
っているのでステップ９０５に進み、func-funcAの辺に
対して両側のノードが未配置であるかを確認する。この
確認において未配置であるのでステップ９０９に進み、
funcとfuncＡをメモリ空間上の任意の場所に隣接して配
置し、ステップ９１５においてfuncとfuncＡの利用でき
ない「色」を利用不可能集合として認識した後、再びス
テップ９０４に戻る。隣接して配置されたfunc-funcAの
辺は、複合ノードとして今後ひとつのノードとして扱わ
れる。この時点で、既に配置済みの関数とキャッシュ・
ラインの関係および各関数の利用不可能集合の状態は、
図１２ａ）に示す様になっている。

【００１６】続いて、呼出回数の多い辺がまだ残ってい
るのでステップ９０５に進み、func-funcCの辺に対して
両側のノードが未配置であるかを確認する。この確認に
おいて、funcは配置であるのでステップ９０６に進み、
２個の異なる複合ノードに属するノードを結ぶ辺かどう
かを確認する。この確認において、funcＣは複合ノード
に属していないので、ステップ９０７に進み、一方のノ
ードが複合ノードに属し他方のノードが未配置かどうか
確認すると、条件に当てはまるのでステップ９１１に進
む。

【００１７】ステップ９１１では未配置のfuncＣをfunc
に近い場所に配置し、ステップ９１３において関数配置
の際、利用不可能集合の影響で隙間が空いてないか確認
すると空いていないので、ステップ９１５においてfunc
とfuncＣを利用できない「色」を利用不可能集合として
認識した後に、再びステップ９０４に戻る。この時点
で、既に配置済みの関数とキャッシュ・ラインの関係お
よび各関数の利用不可能集合の状態は、図１２ｂ）に示
す様になっている。

【００１８】ステップ９０４において、未だ未配置の辺
があるのでステップ９０５に進み、func-funcBの辺に対
して両側のノードが未配置であるかを確認する。この確
認において、funcは配置済みであるのでステップ９０６
に進み、２個の異なる複合ノードに属するノードを結ぶ
辺かどうかを確認する。この確認において、funcＢは複
合ノードに属していないのでステップ９０７に進み、一
方のノードが複合ノードに属し、他方のノードが未配置
かどうか確認すると条件に当てはまるのでステップ９１
１に進む。

【００１９】ステップ９１１では、未配置のfuncＢと対
を成すfuncの中心から複合ノードの両端までの距離が同
じである。このため任意に左側に配置し、ステップ９１
３において関数配置の際に利用不可能集合の影響で隙間
が空いてないかを確認する。この認識の結果は空いてい
ないので、ステップ９１５においてfuncとfuncＢの利用
できない「色」を利用不可能集合として認識した後、再
びステップ９０４に戻る。ステップ９０４において、未
配置の辺が無くなったことを確認するとステップ９１６
に進み、ただ１つの未配置ノードmainを、任意にfuncＡ
の右に配置する。

【００２０】図１２ｃ）は、最終的な関数配置とキャッ
シュ・ラインの関係、および各関数の利用不可能集合の
状態であるが、funcＡ、funcＢが同じキャッシュ・ライ
ン「青」を共有しており、それぞれの利用不可能集合に
は「青」が含まれていない。よって、呼び出し元関数と
呼び出し先関数の間のキャッシュ・コンフリクトは削減
できる。

【００２１】上記の従来例２では、手続き、関数、ある
いはサブルーチン同士が、互いを呼び出す際のキャッシ
ュ・メモリ上での衝突およびキャッシュ・ミスを防止す
るのが目的である。この目的において、手続き、関数、
あるいはサブルーチンが実際に呼び出される回数を示す
情報と、手続き、関数、あるいはサブルーチン同士が、
互いを呼び出す関係を示す情報とを利用している。これ
により、手続き、関数、あるいはサブルーチン同士が、
互いを呼び出す際のキャッシュ・メモリ上での衝突を防
止できる。

【００２２】

【発明が解決しようとする課題】しかしながら、上記の
従来例２において、ある関数の中で複数の関数が連続し
て呼ばれている場合、あるいはループの中で呼ばれてい
る場合等には、これら複数の関数間のキャッシュ・コン
フリクトを削減できるとは限らないという問題点があ
る。

【００２３】従来例２との比較において、本発明の目的
は、互いの呼び出しに関係の無い手続き、関数あるいは
サブルーチンがある手続き、関数あるいはサブルーチン
の中で複数の手続き、関数あるいはサブルーチンが図３
に示すプログラム例のfuncＡ、funcＢ、funcＣのように
連続して呼ばれている場合、あるいはループの中で呼ば
れている場合に生じるキャッシュ・メモリ上での衝突お
よびキャッシュ・ミスを、防止することにある。

【００２４】また、本発明の構成では、手続き、関数、
サブルーチンの時系列情報を利用し、その時系列情報を
パターン認識のアルゴリズムによる解析により抽出した
キャッシュ・メモリ上での衝突およびキャッシュ・ミス
を発生する可能性のある手続き、関数、あるいはサブル
ーチンの組合せ情報を利用している。この構成により、
上記従来例２の効果に加え、互いの呼び出し関係に無い
手続き、関数、あるいはサブルーチン同士のキャッシュ
・メモリ上での衝突およびキャッシュ・ミスの発生を
も、防止することができる。

【００２５】本発明は、複数の関数間のキャッシュ・コ
ンフリクトを削減し、アプリケーション・プログラムの
実行スピードを向上する命令キャッシュ関数割付装置、
命令キャッシュ関数割付最適化方法および命令キャッシ
ュ関数割付最適化手順を記録した記録媒体を提供するこ
とを目的とする。

【００２６】より詳細には、本発明は、プロファイルに
より直接の関数呼出組合せ情報８１１を出力する替わり
に、関数実行の時系列情報１１１を出力し、この時系列
情報から、連続した関数呼出し等直接の関数呼出し以外
にキャッシュ・コンフリクトを発生する可能性のある関
数の組合せ実行パターンを検出し、検出した関数間キャ
ッシュ・コンフリクト組合せ情報１１２に対して、従来
技術の関数配置最適化８０１を適用する。これにより従
来削減できなかった、ある関数の中で複数の関数が連続
して呼ばれている場合、あるいはループの中で呼ばれて
いる場合等、これら複数の関数間のキャッシュ・コンフ
リクトを削減し、アプリケーション・プログラムの実行
スピードを向上することを目的とする。

【００２７】

【課題を解決するための手段】かかる目的を達成するた
め、請求項１記載の発明の命令キャッシュ関数割付装置
は、所定のアプリケーション・プログラムを入力してプ
ロファイルにより関数呼び出し時の呼び出し先関数ＩＤ
および関数から戻り時の戻り先関数ＩＤを出力する関数
時系列情報出力部と、関数実行の時系列情報を解析して
直接的、間接的なキャッシュ・コンフリクトを発生する
可能性のある関数呼び出しのパターンを抽出し、この抽
出したパターンの関数の組合せと直接の関数呼出し関係
にある関数の組合せおよびそれらの実行遷移回数を記録
する関数時系列情報解析部と、を有して構成されたこと
を特徴としている。

【００２８】また、上記の関数時系列情報出力部から出
力された呼び出し先関数ＩＤと戻り先関数ＩＤとを関数
実行の時系列情報として蓄積する記憶部と、この関数の
組合せおよびそれらの実行遷移回数を関数間キャッシュ
・コンフリクト組合せ情報として蓄積する記憶部をさら
に有するとよい。

【００２９】請求項４記載の発明の命令キャッシュ関数
割付最適化方法は、プロファイルにより関数実行の時系
列情報を出力し、この時系列情報から連続した関数呼出
し等直接の関数呼出し以外にキャッシュ・コンフリクト
を発生する可能性のある関数の組合せ実行パターンの関
数間キャッシュ・コンフリクト組合せ情報を検出し、検
出した関数間キャッシュ・コンフリクト組合せ情報に対
して関数の中で複数の関数が連続して呼ばれている場合
あるいはループの中で呼ばれている場合等のこれら複数
の関数間のキャッシュ・コンフリクトを削減し、所定の
アプリケーション・プログラムの実行スピードを向上し
たことを特徴としている。

【００３０】また、上記の関数実行の時系列情報を解析
して直接的、間接的なキャッシュ・コンフリクトを発生
する可能性のある関数呼び出しのパターンを抽出し、こ
の抽出したパターンの関数の組合せと、直接の関数呼出
し関係にある関数の組合せ、およびそれらの実行遷移回
数を関数間キャッシュ・コンフリクト組合せ情報に記録
し、さらに、この関数間キャッシュ・コンフリクト組合
せ情報は、キャッシュ・コンフリクトを発生する可能性
のある組合せの２つの関数ＩＤを登録する２つの関数Ｉ
Ｄ欄とこの２つの組合せの関数実行遷移回数を設定する
実行遷移回数欄とを備えるとよい。

【００３１】請求項７に記載の発明の命令キャッシュ関
数割付最適化手順を記録した記録媒体は、プロファイル
により関数実行の時系列情報を出力する手順と、時系列
情報から連続した関数呼出し等直接の関数呼出し以外に
キャッシュ・コンフリクトを発生する可能性のある関数
の組合せ実行パターンの関数間キャッシュ・コンフリク
ト組合せ情報を検出する手順と、検出した関数間キャッ
シュ・コンフリクト組合せ情報に対して関数の中で複数
の関数が連続して呼ばれている場合あるいはループの中
で呼ばれている場合等のこれら複数の関数間のキャッシ
ュ・コンフリクトを削減する手順とを実行させることを
特徴としている。

【００３２】また、上記の関数実行の時系列情報を解析
して直接的、間接的なキャッシュ・コンフリクトを発生
する可能性のある関数呼び出しのパターンを抽出し、こ
の抽出したパターンの関数の組合せと、直接の関数呼出
し関係にある関数の組合せ、およびそれらの実行遷移回
数を関数間キャッシュ・コンフリクト組合せ情報を記録
するとよい。

【００３３】

【発明の実施の形態】次に、添付図面を参照して本発明
による命令キャッシュ関数割付装置、命令キャッシュ関
数割付最適化方法および命令キャッシュ関数割付最適化
手順を記録した記録媒体の実施の形態を詳細に説明す
る。図１から図７を参照すると、本発明の命令キャッシ
ュ関数割付装置、命令キャッシュ関数割付最適化方法お
よび命令キャッシュ関数割付最適化手順を記録した記録
媒体の一実施形態が示されている。

【００３４】本発明の特徴は、キャッシュを搭載したマ
イクロ・プロセッシング・デバイス・システム用アプリ
ケーション・プログラムについて、プロファイルにより
得られた関数単位の実行に関する時系列情報を解析す
る。特に、直接の呼び出し関係を持たない関数同士の実
行において、キャッシュのコンフリクトを生じる可能性
のある関数の実行パターンを検出し、これらの関数同士
が実行時に同じキャッシュラインを共有しないようなメ
モリ空間上のアドレスに配置する。このことにより、プ
ログラムの実行スピードを向上させる。この内容を以下
に詳述する。

【００３５】図１は、本発明の命令キャッシュ関数割付
装置、命令キャッシュ関数割付最適化方法および命令キ
ャッシュ関数割付最適化手順を記録した記録媒体の実施
形態の処理手順例を示すブロック図である。また、図２
は、関数間キャッシュ・コンフリクト組合せ情報１１２
の構成例を示す図である。なお、図１において、実線の
矢印は処理の流れを示し、点線の矢印はデータの流れを
示している。

【００３６】関数時系列情報出力部１００は、アプリケ
ーション・プログラム１１０を入力し、プロファイルに
より関数呼び出し時の呼び出し先関数ＩＤと関数からの
戻り時の戻り先関数ＩＤを、関数実行の時系列情報１１
１に出力する。

【００３７】関数時系列情報解析部１０１は、関数実行
の時系列情報１１１を解析し、直接的、間接的なキャッ
シュ・コンフリクトを発生する可能性のある関数呼び出
しのパターンを抽出し、関数間キャッシュ・コンフリク
ト組合せ情報１１２に、抽出したパターンの関数の組合
せと、直接の関数呼出し関係にある関数の組合せ、およ
びそれらの実行遷移回数を記録する。

【００３８】関数メモリ空間配置最適化部１０２は、実
行遷移回数の多い関数の順にキャッシュ・ラインを共有
しないようにメモリ空間に配置する。また、実行遷移回
数欄２０２は、関数ＩＤ欄２００、２０１とその組合せ
の関数実行遷移回数を設定する。

【００３９】関数間キャッシュ・コンフリクト組合せ情
報１１２は、図２に示すように、キャッシュ・コンフリ
クトを発生する可能性のある組合せの２つの関数ＩＤを
登録する。なお、関数ＩＤ欄２００、２０１とその組合
せの関数実行遷移回数を設定する実行遷移回数欄２０２
を備えている。

【００４０】上記に構成される本実施形態の命令キャッ
シュ関数割付装置において、まず、関数時系列情報出力
部１００において入力したアプリケーション・プログラ
ム１１０に対してプロファイルを行い、関数実行の時系
列情報１１１を生成する。次に、関数時系列情報出力部
１００において生成された関数実行の時系列情報１１１
を解析し、同じキャッシュ・ラインを共有していた場合
に、実行においてキャッシュ・コンフリクトを生じる関
数単位の実行遷移パターンを認識し、関数間キャッシュ
・コンフリクト組合せ情報１１２に、認識された関数の
組合せとその実行遷移回数を記録する。最後に、関数メ
モリ空間配置最適化部１０２において、関数間キャッシ
ュ・コンフリクト組合せ情報１１２を参照し、実行遷移
回数の多い関数の順に同じキャッシュ・ラインを共有し
ないようにメモリ空間に配置する。

【００４１】以上の通り、プロファイルによる関数単位
の実行に関する時系列情報を解析し、キャッシュのコン
フリクトを生じる可能性のある関数の実行パターンを検
出し、これらの関数同士が実行時に同じキャッシュ・ラ
インを共有しないようなメモリ空間上のアドレスに配置
する。このことにより、プログラムの実行スピードを向
上させることができる。これらの関係において、図１、
図３、図４、図５、図６、および図７を参照して動作例
について以下に詳述する。

【００４２】図１において、アプリケーション・プログ
ラム１１０を入力した関数時系列情報出力部１００は、
関数呼び出し時の呼び出し先関数ＩＤと関数からの戻り
時に戻り先関数ＩＤを出力するコードを、アプリケーシ
ョン・プログラム１１０に挿入して実行する。プロファ
イルと呼ぶこのことにより、これらの情報を関数実行の
時系列情報１１１に出力する。

【００４３】すなわち、アプリケーション・プログラム
１１０のＣ言語によるソース・プログラムが図３に示す
ソース・プログラム例３００の場合、関数funcの関数Ｉ
Ｄを“０”、関数funcＡの関数ＩＤを“１”、関数func
Ｂの関数ＩＤを“２”、関数funcＣの関数ＩＤを
“３”、関数mainの関数ＩＤを“４”と仮定する。本仮
定において、まず、関数mainから関数funcの呼出時に呼
出先関数ＩＤの“０”を出力して、次に関数funcから関
数funcＡの呼出時に“１”を出力し、続いて関数funcＡ
から関数funcへの戻り時に戻り先関数ＩＤの“０”を出
力し、以降、同様にしてプログラムの終了まで関数ＩＤ
の列を出力する。

【００４４】ソース・プログラム例３００は、Ｃ言語で
関数mainから関数funcを呼び出し、関数funcでは関数fu
ncＡと関数funcＢを連続して呼び出す処理を１０回繰返
す処理と、続いて関数funcＡと関数funcＣを連続して呼
び出す処理を２０回繰返す処理を行い、関数mainに戻っ
て終了するプログラムである。この処理により、プログ
ラムの終了までプロファイルを実行すると、図４に示す
関数ＩＤの並びである関数時系列情報例４００が作成さ
れる。

【００４５】次に、関数時系列情報解析部１０１で、関
数時系列情報出力部１００で作成した関数実行の時系列
情報１１１を解析し、直接的、間接的なキャッシュ・コ
ンフリクトを発生する可能性のある関数呼び出しのパタ
ーンを抽出し、関数間キャッシュ・コンフリクト組合せ
情報１１２に抽出したパターンの関数の組合せと、直接
の関数呼出し関係にある関数の組合せ、およびそれらの
実行遷移回数を記録する。

【００４６】すなわち、図５を参照して関数時系列情報
解析部１０１の詳細を説明する。なお、本図５におい
て、実線の矢印は処理の流れを示し、点線の矢印はデー
タの流れを示している。まず、関数ＩＤ入力手段５００
において、関数時系列情報１１１から全ての関数ＩＤの
並びを入力する。この入力順に関数ＩＤに“１”からの
番号を付け、番号変数初期化処理５０１によって番号変
数ｎを“１”に初期化する。

【００４７】次に、関数時系列情報の終端判定処理５０
２によってｎ＋１が入力した関数ＩＤの並びの総数を超
えないと判定すると、再帰呼び出し判定処理５０３に進
み、ｎとｎ＋１の関数ＩＤが“０”と“１”で異なるの
で再帰呼び出しではないと判定する。この判定の後、関
数直接呼出し組合せ既登録判定処理５０４によってｎと
ｎ＋１の関数ＩＤの組合せが、関数間キャッシュ・コン
フリクト組合せ情報１１２内に未だ存在しないと判定し
て、関数直接呼出し組合せ登録処理５０５によってｎと
ｎ＋１の関数ＩＤ（０，１）の組合せを関数間キャッシ
ュ・コンフリクト組合せ情報１１２に登録し、実行遷移
回数欄に“１”を設定する。以上の処理によって、図６
のａ）に示す関数間キャッシュ・コンフリクト組合せ情
報１１２が作成される。

【００４８】さらに、認識パターン関数ＩＤ確認処理５
０６によってｎ＋４が関数ＩＤの総数を超えないことを
確認すると、第一の間接的関数間キャッシュ・コンフリ
クト組合せパターン認識判定処理５０７において、ｎ、
ｎ＋２、ｎ＋４の関数ＩＤは“０”であり一致すること
を認識したと判定し、第二の間接的関数間キャッシュ・
コンフリクト組合せパターン認識判定処理５０８におい
て、ｎ＋１、ｎ＋３の関数ＩＤが“１”と“２”であり
一致しないことを認識したと判定する。

【００４９】次に、第一の間接的関数間キャッシュ・コ
ンフリクト組合せパターン認識判定処理５０７の判定に
より、ｎ＋２はｎと同一の関数ＩＤであり、ｎ＋１とｎ
＋２は先の関数直接呼出し組合せ登録処理５０５によっ
て登録済みのfuncとfuncＡの組合せであることが自明と
なる。このため、関数戻り組合せ登録処理５０９によっ
てｎ＋１とｎ＋２、すなわちｎの関数ＩＤ（０，１）の
組合せの実行遷移回数に“１”を加算し、図６のｂ）に
示す関数間キャッシュ・コンフリクト組合せ情報１１２
が作成される。

【００５０】続いて、コンフリクト関数組合せ既登録判
定処理５１０によって、ｎ＋１とｎ＋３の関数ＩＤであ
る“１”と“２”の組合せが関数間キャッシュ・コンフ
リクト組合せ情報１１２内に未だ存在しないと判定の
後、コンフリクト関数組合せ登録処理５１１によって、
ｎ＋１とｎ＋３の関数ＩＤ（１，２）の組合せを関数間
キャッシュ・コンフリクト組合せ情報１１２に登録して
実行遷移回数欄に１を設定し、さらに、次の関数時系列
情報のパターン認識処理を行う。このため、番号更新処
理５１２によって、ｎすなわち“０”をｎ＋２すなわち
“２”に更新し、関数時系列情報の終端判定処理５０２
に戻る。この時点で、図６のｃ）に示す関数間キャッシ
ュ・コンフリクト組合せ情報１１２が作成されている。

【００５１】再び、関数時系列情報の終端判定処理５０
２によってｎ＋１が入力した関数ＩＤの並びの総数を超
えないと判定すると、再帰呼び出し判定処理５０３に進
み、ｎとｎ＋１の関数ＩＤが“０”と“２”で異なるの
で再帰呼び出しではないと判定する。この後、関数直接
呼出し組合せ既登録判定処理５０４によって、ｎとｎ＋
１の関数ＩＤの組合せが関数間キャッシュ・コンフリク
ト組合せ情報１１２内に未だ存在しないと判定し、関数
直接呼出し組合せ登録処理５０５によって、ｎとｎ＋１
の関数ＩＤ（０，２）の組合せを関数間キャッシュ・コ
ンフリクト組合せ情報１１２に登録し、実行遷移回数欄
に“１”を設定する。以上の処理によって、図６のｄ）
に示す関数間キャッシュ・コンフリクト組合せ情報１１
２が作成される。

【００５２】さらに、認識パターン関数ＩＤ確認処理５
０６によって、ｎ＋４が関数ＩＤの総数を超えないこと
を確認すると、第一の間接的関数間キャッシュ・コンフ
リクト組合せパターン認識判定処理５０７において、
ｎ、ｎ＋２、ｎ＋４の関数ＩＤは“０”であり一致する
ことを認識したと判定し、第二の間接的関数間キャッシ
ュ・コンフリクト組合せパターン認識判定処理５０８に
おいて、ｎ＋１、ｎ＋３の関数ＩＤが“２”と“１”で
あり一致しないことを認識したと判定する。

【００５３】次に、第一の間接的関数間キャッシュ・コ
ンフリクト組合せパターン認識判定処理５０７の判定に
より、ｎ＋２はｎと同じ関数ＩＤであり、ｎ＋１とｎ＋
２は先の関数直接呼出し組合せ登録処理５０５によって
登録済みのfuncとfuncＢの組合せであることが自明であ
る。このため、関数戻り組合せ登録処理５０９によっ
て、ｎ＋１とｎ＋２、すなわちｎの関数ＩＤ（１，２）
の組合せの実行遷移回数に“１”を加算する。

【００５４】続いて、コンフリクト関数組合せ既登録判
定処理５１０によって、ｎ＋１とｎ＋３の関数ＩＤであ
る“２”と“１”の組合せが関数間キャッシュ・コンフ
リクト組合せ情報１１２に既に存在すると判定し、実行
遷移回数更新処理５１５によって当該組合せの実行遷移
回数に“１”を加算し、さらに、次の関数時系列情報の
パターン認識処理を行う。このため、番号更新処理５１
２によって、ｎすなわち“２”をｎ＋２すなわち“４”
に更新し、関数時系列情報の終端判定処理５０２に戻
る。この時点で、図６のｅ）に示す関数間キャッシュ・
コンフリクト組合せ情報１１２が作成されている。

【００５５】以降、図４に示す関数ＩＤの並びに対し、
ｎが“４０”になるまで同様の処理を繰り返すと、図６
のｆ）に示す関数間キャッシュ・コンフリクト組合せ情
報１１２が作成される。

【００５６】さらに、図４に示す関数ＩＤの並びである
関数時系列情報例４００に対して処理を進めると、この
関数時系列情報例４００の終端判定処理５０２によって
ｎ＋１が関数ＩＤの並びの総数を超えないと判定する
と、再帰呼び出し判定処理５０３に進む。ステップ５０
３の「ｎとｎ＋１の関数ＩＤは異なるか？」の判定にお
いて、ｎすなわち“４０”とｎ＋１すなわち“４１”の
関数ＩＤが“０”と“１”で異なるので再起呼び出しで
はないと判定し、関数直接呼出し組合せ既登録判定処理
５０４によってｎとｎ＋１の関数ＩＤの組合せが関数間
キャッシュ・コンフリクト組合せ情報１１２内に既に存
在すると判定して、実行遷移回数更新処理５１４によっ
て当該組合せの実行遷移回数に“１”を加算する。

【００５７】さらに、認識パターン関数ＩＤ確認処理５
０６によって、ｎ＋４が関数ＩＤの総数を超えないこと
を確認すると、第一の間接的関数間キャッシュ・コンフ
リクト組合せパターン認識判定処理５０７において、
ｎ、ｎ＋２、ｎ＋４の関数ＩＤが“０”であり一致する
ことを認識したと判定し、第二の間接的関数間キャッシ
ュ・コンフリクト組合せパターン認識判定処理５０８に
おいて、ｎ＋１、ｎ＋３の関数ＩＤが“１”と“３”で
あり一致しないことを認識したと判定する。

【００５８】次に、第一の間接的関数間キャッシュ・コ
ンフリクト組合せパターン認識判定処理５０７の判定に
より、ｎ＋２はｎと同一の関数ＩＤであり、ｎ＋１とｎ
＋２は先の関数直接呼出し組合せ登録処理５０５によっ
て、登録済みのfuncとfuncＡの組合せであることが自明
となる。このため、関数戻り組合せ登録処理５０９によ
ってｎ＋１とｎ＋２、すなわちｎの関数ＩＤ（１，３）
の組合せの実行遷移回数に“１”を加算する。

【００５９】続いて、コンフリクト関数組合せ既登録判
定処理５１０によって、ｎ＋１とｎ＋３の関数ＩＤであ
る“１”と“３”の組合せが関数間キャッシュ・コンフ
リクト組合せ情報１１２にまだ存在しないと判定し、コ
ンフリクト関数組合せ登録処理５１１によってｎ＋１と
ｎ＋３の関数ＩＤの組合せを関数間キャッシュ・コンフ
リクト組合せ情報１１２に登録し、実行遷移回数欄に
“１”を設定する。さらに、次の関数時系列情報のパタ
ーン認識処理を行うため、番号更新処理５１２によって
ｎすなわち“４０”をｎ＋２すなわち“４２”に更新
し、関数時系列情報の終端判定処理５０２に戻る。この
時点で、図６のｇ）に示す関数間キャッシュ・コンフリ
クト組合せ情報１１２が作成される。

【００６０】再び、関数時系列情報の終端判定処理５０
２によって、ｎ＋１が入力した関数ＩＤの並びの総数を
超えないと判定すると再帰呼び出し判定処理５０３に進
み、ｎとｎ＋１の関数ＩＤが“０”と“３”で異なるの
で再起呼び出しではないと判定する。すると、関数直接
呼出し組合せ既登録判定処理５０４によって、ｎとｎ＋
１の関数ＩＤの組合せが関数間キャッシュ・コンフリク
ト組合せ情報１１２内にまだ存在しないと判定して、関
数直接呼出し組合せ登録処理５０５によって、ｎとｎ＋
１の関数ＩＤ（０，３）の組合せを関数間キャッシュ・
コンフリクト組合せ情報１１２に登録し、実行遷移回数
欄に“１”を設定する。

【００６１】さらに、認識パターン関数ＩＤ確認処理５
０６によって、ｎ＋４が関数ＩＤの総数を超えないこと
を確認すると、第一の間接的関数間キャッシュ・コンフ
リクト組合せパターン認識判定処理５０７において、
ｎ、ｎ＋２、ｎ＋４の関数ＩＤが“０”であり一致する
ことを認識したと判定する。この後、第二の間接的関数
間キャッシュ・コンフリクト組合せパターン認識判定処
理５０８において、ｎ＋１、ｎ＋３の関数ＩＤが“３”
と“１”であり、一致しないことを認識したと判定す
る。

【００６２】次に、第一の間接的関数間キャッシュ・コ
ンフリクト組合せパターン認識判定処理５０７の判定に
より、ｎ＋２はｎと同じ関数ＩＤであり、ｎ＋１とｎ＋
２は先の関数直接呼出し組合せ登録処理５０５によって
登録済みのfuncとfuncＣの組合せであることが自明であ
る。このため、関数戻り組合せ登録処理５０９によっ
て、ｎ＋１とｎ＋２、すなわちｎの関数ＩＤ（０，３）
の組合せの実行遷移回数に“１”を加算する。

【００６３】続いて、コンフリクト関数組合せ既登録判
定処理５１０によって、ｎ＋１とｎ＋３の関数ＩＤであ
る“３”と“１”の組合せが関数間キャッシュ・コンフ
リクト組合せ情報１１２内に既に存在すると判定し、実
行遷移回数更新処理５１５によって当該組合せの実行遷
移回数に“１”を加算する。さらに、次の関数時系列情
報がパターンに合致するか確認するため、番号更新処理
５１０によって、ｎすなわち“４２”をｎ＋２すなわち
“４４”に更新し、関数時系列情報の終端判定処理５０
２に戻る。この時点で、図６のｈ）に示す関数間キャッ
シュ・コンフリクト組合せ情報１１２が作成されてい
る。

【００６４】以降、図４に示す関数ＩＤの並びである関
数時系列情報例４００に対し、ｎが“１２０”になるま
で同様の処理を繰り返すと、図６のｉ）に示す関数間キ
ャッシュ・コンフリクト組合せ情報１１２が作成され
る。

【００６５】さらに、図４に示す関数ＩＤの並びである
関数時系列情報例４００に対し、処理を進めると、関数
時系列情報の終端判定処理５０２によってｎ＋１が関数
ＩＤの並びの総数を超えないと判定する。すると、再帰
呼び出し判定処理５０３に進み、ｎとｎ＋１の関数ＩＤ
が“０”と“４”で異なるので再起呼出ではないと判定
し、関数直接呼出し組合せ既登録判定処理５０４によっ
て、ｎとｎ＋１の関数ＩＤの組合せが関数間キャッシュ
・コンフリクト組合せ情報１１２内にまだ存在しないと
判定する。この後、関数直接呼出し組合せ登録処理５０
５によって、ｎとｎ＋１の関数ＩＤ（０，４）の組合せ
を関数間キャッシュ・コンフリクト組合せ情報１１２に
登録し、実行遷移回数欄に“１”を設定する。

【００６６】さらに、認識パターン関数ＩＤ確認処理５
０６によって、ｎ＋４が“１２４”であり、関数ＩＤの
総数１２１を超えていることを確認すると、番号更新処
理５１３に進み、ｎすなわち“１２０”をｎ＋１すなわ
ち“１２１”に更新して関数時系列情報の終端判定処理
５０２に戻り、ｎ＋１が関数ＩＤの総数に超えたと判定
され、関数時系列情報解析部１０１の処理を終了する。
この時点で、図６のｊ）に示す関数間キャッシュ・コン
フリクト組合せ情報１１２が、作成されている。

【００６７】最後に、関数メモリ空間配置最適化部１０
３で、図９に示す従来技術と同じ処理を、従来の関数組
合せ情報８１１の替わりに関数間キャッシュ・コンフリ
クト組合せ情報１１２を入力として行う。この後、関数
間キャッシュ・コンフリクト組合せ情報にfuncＡとfunc
Ｂの組合せが含まれることにより、図７に示す最終的な
関数配置とキャッシュ・ラインの関係、および各関数の
利用不可能集合の状態にみられるように、funcＡ、func
Ｂが同じキャッシュ・ラインを共有すること無く配置さ
れる。

【００６８】尚、上述の実施形態は本発明の好適な実施
の一例である。但し、これに限定されるものではなく、
本発明の要旨を逸脱しない範囲内において種々変形実施
が可能である。

【００６９】

【発明の効果】以上の説明より明らかなように、本発明
の命令キャッシュ関数割付装置では、関数時系列情報か
ら間接的キャッシュ・コンフリクトを発生する可能性の
ある関数の呼び出しパターンを抽出し、直接の関数呼び
出しによるキャッシュ・コンフリクトを発生する可能性
のある関数呼び出しパターンと合わせて、その関数実行
遷移回数の多い順に同じキャッシュ・ラインを共有しな
いようにメモリ空間上に配置する。この直接、間接的な
キャッシュ・コンフリクトを極力発生しないようにメモ
リ空間上に配置することにより、アプリケーション・プ
ログラムの実行スピードを向上することができる。

【図面の簡単な説明】

【図１】本発明の命令キャッシュ関数割付装置、命令キ
ャッシュ関数割付最適化方法および命令キャッシュ関数
割付最適化手順を記録した記録媒体の実施形態の処理手
順例を示すブロック図である。

【図２】関数間キャッシュ・コンフリクト組合せ情報１
１２の構成例を示す図である。

【図３】ソース・プログラム例３００を示す図である。

【図４】関数時系列情報例４００を示す図である。

【図５】関数時系列情報解析部１０１の処理手順例を示
すフローチャートである。

【図６】関数間キャッシュ・コンフリクト組合せ情報例
１１２を示す図である。

【図７】最終的な関数配置とキャッシュ・ラインの関
係、および各関数の利用不可能集合の状態を示す図であ
る。

【図８】従来の命令キャッシュ関数割付装置の処理手順
例を示すブロック図である。

【図９】従来の関数メモリ空間配置最適化部８０１の処
理手順例を示すフローチャートである。

【図１０】従来の関数呼出組合せ情報８１１の構成例を
示す図である。

【図１１】従来の関数呼出グラフ１１００の構成を説明
するための図である。

【図１２】従来の関数配置とキャッシュ・ラインの関係
および各関数の利用不可能集合の状態を示す図である。

【符号の説明】

１００関数時系列情報出力部１０１関数時系列情報解析部１０２関数メモリ空間配置最適化部１０３関数メモリ空間配置最適化部１１０アプリケーション・プログラム１１１関数実行の時系列情報１１２関数間キャッシュ・コンフリクト組合せ情報２００、２０１関数ＩＤ欄２０２実行遷移回数欄３００ソース・プログラム例５００関数ＩＤ入力手段５０１番号変数初期化処理５０２関数時系列情報の終端判定処理５０３再帰呼び出し判定処理５０４関数直接呼出し組合せ既登録判定処理

【手続補正書】

【提出日】平成１２年２月２５日（２０００．２．２
５）

【手続補正１】

【補正対象書類名】明細書

【補正対象項目名】発明の名称

【補正方法】変更

【補正内容】

【発明の名称】命令キャッシュ関数割付装置、割付最
適化方法および割付最適化手順を記録した記録媒体

Claims

【特許請求の範囲】

【請求項１】所定のアプリケーション・プログラムを
入力してプロファイルにより関数呼び出し時の呼び出し
先関数ＩＤおよび該関数から戻り時の戻り先関数ＩＤを
出力する関数時系列情報出力部と、前記関数実行の時系列情報を解析して直接的、間接的な
キャッシュ・コンフリクトを発生する可能性のある関数
呼び出しのパターンを抽出し、該抽出したパターンの関
数の組合せと直接の関数呼出し関係にある関数の組合せ
およびそれらの実行遷移回数を記録する関数時系列情報
解析部と、を有して構成されたことを特徴とする命令キャッシュ関
数割付装置。
【請求項２】前記関数時系列情報出力部から出力され
た呼び出し先関数ＩＤと戻り先関数ＩＤとを関数実行の
時系列情報として蓄積する記憶部をさらに有することを
特徴とする請求項１記載の命令キャッシュ関数割付装
置。
【請求項３】前記関数の組合せおよびそれらの実行遷
移回数を関数間キャッシュ・コンフリクト組合せ情報と
して蓄積する記憶部を、さらに有することを特徴とする
請求項１または２に記載の命令キャッシュ関数割付装
置。
【請求項４】プロファイルにより関数実行の時系列情
報を出力し、前記時系列情報から連続した関数呼出し等直接の関数呼
出し以外にキャッシュ・コンフリクトを発生する可能性
のある関数の組合せ実行パターンの関数間キャッシュ・
コンフリクト組合せ情報を検出し、前記検出した関数間キャッシュ・コンフリクト組合せ情
報に対して関数の中で複数の関数が連続して呼ばれてい
る場合あるいはループの中で呼ばれている場合等のこれ
ら複数の関数間のキャッシュ・コンフリクトを削減し、所定のアプリケーション・プログラムの実行スピードを
向上したことを特徴とする命令キャッシュ関数割付最適
化方法。
【請求項５】前記関数実行の時系列情報を解析して直
接的、間接的なキャッシュ・コンフリクトを発生する可
能性のある関数呼び出しのパターンを抽出し、該抽出し
たパターンの関数の組合せと、直接の関数呼出し関係に
ある関数の組合せ、およびそれらの実行遷移回数を前記
関数間キャッシュ・コンフリクト組合せ情報に記録する
ことを特徴とする請求項４に記載の命令キャッシュ関数
割付最適化方法。
【請求項６】前記関数間キャッシュ・コンフリクト組
合せ情報は、キャッシュ・コンフリクトを発生する可能
性のある組合せの２つの関数ＩＤを登録する２つの関数
ＩＤ欄と該２つの組合せの関数実行遷移回数を設定する
実行遷移回数欄とを備えていることを特徴とする請求項
４または５に記載の命令キャッシュ関数割付最適化方
法。
【請求項７】プロファイルにより関数実行の時系列情
報を出力する手順と、前記時系列情報から連続した関数呼出し等直接の関数呼
出し以外にキャッシュ・コンフリクトを発生する可能性
のある関数の組合せ実行パターンの関数間キャッシュ・
コンフリクト組合せ情報を検出する手順と、前記検出した関数間キャッシュ・コンフリクト組合せ情
報に対して関数の中で複数の関数が連続して呼ばれてい
る場合あるいはループの中で呼ばれている場合等のこれ
ら複数の関数間のキャッシュ・コンフリクトを削減する
手順とを実行させるためのプログラムを記録した記録媒
体。
【請求項８】前記関数実行の時系列情報を解析して直
接的、間接的なキャッシュ・コンフリクトを発生する可
能性のある関数呼び出しのパターンを抽出し、該抽出し
たパターンの関数の組合せと、直接の関数呼出し関係に
ある関数の組合せ、およびそれらの実行遷移回数を前記
関数間キャッシュ・コンフリクト組合せ情報に記録する
ことを特徴とする請求項７に記載のプログラムを記録し
た記録媒体。