JP2000267901A - ソフトウェア実行システム - Google Patents

Abstract

(57)【要約】 【課題】 ソフトウェアの実行時における無駄なキャッ
シュリフィルに伴う不要なサイクルを省略し、ソフトウ
ェアの実行処理速度を向上させる。 【解決手段】 ソフトウェア実行システム１００は、オ
リジナルソフトウェア７の入力や修正版ソフトウェア８
の出力などの他様々なデータ等の入出力を行う入出力デ
バイス５と、汎用コンピュータに内蔵或いは外付けされ
るハードディスク６と、種々の演算処理を行うプロセッ
サ４と、データを記憶するメインメモリ１１と、これら
の各部を接続するバス１２とから構成されている。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、キャッシュを持つ
プロセッサを用いたシステム上で動作するソフトウェア
の実行を最適化するソフトウェア実行システムに関する
ものである。

【０００２】

【従来の技術】近年、集積技術の発展によりプロセッサ
を内蔵したＡＳＩＣが開発できるようになり、またプロ
セッサの高性能化によりハードウェアでのみ実現できた
機能がソフトウェア上でも実現可能となり、ハードウェ
アとソフトウェアで構成されるシステムを１つのチップ
で実現するシステムオンチップの時代になりつつある。

【０００３】このようなＬＳＩは、これを種々の電子製
品に組み込む、いわゆる組み込みシステムの分野でニー
ズが特に高い。すなわち、かかる組み込みシステムで
は、リアルタイム性が強く要求される場合が多く、特に
要求される制約時間内でソフトウェアの処理を完了でき
ることが重要である。

【０００４】ところで、最近のプロセッサは、キャッシ
ュメモリと呼ばれる二次的なメモリを持つものが多い。
通常、このキャッシュメモリはメインメモリとプロセッ
サの間に置かれ、メインメモリのデータの一部をキャッ
シュメモリに置いておくことで、プロセッサは高速なキ
ャッシュメモリだけをアクセスするようにする。キャッ
シュメモリは、メインメモリに比べ高速なので、キャッ
シュメモリに必要なデータがあればメモリアクセスが速
くなることになる。

【０００５】ところで、かかるキャッシュメモリを備え
たプロセッサにおいて、必要なデータがキャッシュメモ
リにないときは、メインメモリからキャッシュメモリへ
転送すること（キャッシュリフィル）が必要となる。

【０００６】

【発明が解決しようとする課題】しかしながら、上述し
たキャッシュリフィルのサイズは、プログラム内で変更
可能な場合もあるが、プログラムを作成する際に、プロ
グラムが現実に実行された場合にどの程度のデータ量が
メモリ装置からキャッシュメモリに転送されるのかを考
慮するのは困難であることから、予め転送データ量を所
定値に設定してプログラムを作成するのが一般的であ
る。一方、例えばＣ言語など高級言語でソフトウェアを
作成した場合、現在使われているコンパイラはリフィル
サイズを全く考慮せずにコードを生成している。

【０００７】また、アセンブリ言語を用いると、リフィ
ルサイズを変更すること自体は比較的容易であるが、ほ
とんどの場合、先ず機能が正しく動作するコードを作成
することに重点が置かれ、実行時におけるリフィルサイ
ズは全く考慮されないのが実状である。

【０００８】従って、プログラム作成当初に設定された
リフィルサイズのままコンパイルされるため、コンパイ
ルされたソフトウェアは、リフィルサイズが調整される
ことなく実行されることとなり、ソフトウェアの実行時
においてはキャッシュリフィルに無駄なサイクルを費や
しているという問題がある。

【０００９】そこで、本発明は上記事情に鑑みて成され
たものであり、その目的は、ソフトウェアの実行時にお
ける無駄なキャッシュリフィルに伴う不要なサイクルを
省略し、ソフトウェアの実行処理速度を向上させること
のできるソフトウェアの実行システム、その実行方法及
び実行プログラムを記録したコンピュータ読み取り可能
な記録媒体を提供することにある。

【００１０】

【課題を解決するための手段】上記の目的を達成するた
めに本発明は、プロセッサと、該プロセッサとは独立し
て設けられるメモリ装置との間でデータの転送を行いつ
つソフトウェアを実行するシステムであって、前記デー
タ転送量を所定量に設定して前記ソフトウェアをシミュ
レーションするシミュレーション手段と、前記シミュレ
ーションの際に、前記メモリ装置から前記プロセッサへ
のデータ転送を要する実行命令及び転送されるデータ量
を検出する検出手段と、検出された前記データ量に応じ
た最適転送量を解析する解析手段と、この解析結果に基
づいて、前記実行命令を実行する前に前記所定の転送量
を前記最適転送量に変更するソフトウェア修正手段とを
有するものである。

【００１１】このような本発明によれば、実行対象とな
るプログラムを予めシミュレーションすることによって
実行時におけるメモリからデータ転送量を把握し、これ
に基づいてプログラムを修正することができる。従っ
て、本発明によれば、修正後のソフトウェアは、アクセ
スの連続性などに基づいてキャッシュリフィルを最適な
サイズに変更しながら、実行されるので、従来のよう
に、キャッシュリフィルに要するサイクル数を削除で
き、結果としてソフトウェアの実行性能を向上させるこ
とができる。

【００１２】

【発明の実施の形態】（ソフトウェア実行システムの構
成）以下、この発明に係るソフトウェア実行システムの
実施形態について説明する。図１は、本実施形態に係る
ソフトウェア実行システム１００の構成を示すブロック
図である。なお、本実施形態に係るソフトウェア実行シ
ステム１００は、パーソナルコンピュータ等の汎用コン
ピュータによって実現されるものである。

【００１３】同図において、ソフトウェア実行システム
１００は、オリジナルソフトウェア７の入力や修正版ソ
フトウェア８の出力などの他様々なデータ等の入出力を
行う入出力デバイス５と、汎用コンピュータに内蔵或い
は外付けされるハードディスク６と、種々の演算処理を
行うプロセッサ４と、データを記憶するメインメモリ１
１と、これらの各部を接続するバス１２とから構成され
ている。

【００１４】入出力デバイス５は、フロッピーディスク
ドライブやＣＤ−ＲＯＭドライブ等、一般的に用いられ
ているデバイスを用いることができる。また、プロセッ
サ４は、ＣＰＵやメモリその他の周辺装置によって構成
される通常のハードウェアである。特に、本実施形態に
おいてこのプロセッサ４は、後述するプロセッサシミュ
レータ１と、ログ解析手段２と、ソフトウェア修正手段
３の機能を果たすものである。

【００１５】前記プロセッサシミュレータ１は、シミュ
レーションの対象となるソフトウェアを仮想的に実行す
るものであり、特に、ソフトウェアを実行してログ情報
を生成する機能を有する。このログ情報とは、メインメ
モリ１１からプロセッサ４へのデータ転送を要した実行
命令のプログラムカウンタの履歴や、データアクセス時
のアドレスの履歴、リフィルサイズ等を含むものであ
る。

【００１６】前記ログ解析手段２は、ログ情報を解析し
て、プログラムカウンタや、データアクセスそれぞれに
ついてアクセスの連続性を求め、これによってデータ転
送を要した実行命令のデータ量に応じた最適転送量を算
出する機能を有するものである。

【００１７】前記ソフトウェア修正手段３は、ログ解析
手段２による解析結果に基づいて、実行命令の前に前記
所定の転送量を前記最適転送量に変更する機能を有する
ものである。具体的には、ログ解析手段２による解析結
果に基づいて、連続アクセスの状況からそのアクセスに
適したキャッシュリフィルサイズを求め、連続アクセス
が始まる命令の直前に、デフォルトのリフィルサイズを
最適なリフィルサイズに変更する実行命令を挿入する。

【００１８】なお、本実施形態に係るソフトウェア実行
システム１００では、プロセッサ４で処理されたログ情
報やデータアクセス情報、修正後のソフトウェア８は、
必要に応じて入出力デバイス５から外部に出力したり、
ハードディスク６に保存したりすることができる。

【００１９】（ソフトウェア実行システムの動作）この
ような構成のソフトウェア実行システム１００の動作に
ついて説明する。図２は、ソフトウェア実行システム１
００の動作を示すフロー図である。同図に示すように、
先ず、入出力デバイス５から入力されたオリジナルソフ
トウェア７が、バス１０を介してプロセッサ４に入力さ
れる。式１は、オリジナルソフトウェア７の一例を示す
ものである。

【００２０】

【式１】 なお、このオリジナルソフトウェア７を読み込む際、後
の処理のためにメインメモリ１１やハードディスク６に
保存しておくこともできる。

【００２１】次に、プロセッサ４に入力されたオリジナ
ルソフトウェア７は、プロセッサシミュレータ１によっ
てシミュレーションされ、ログ情報９が生成される。式
２は、ログ情報９の一例を示すものである。

【００２２】

【式２】 同式に示すように、このログ情報９には、各実行命令の
プログラムカウンタと併せて、各実行命令の処理時にお
けるデータの転送量、アクセスしたアドレスの履歴及び
転送されたデータが命令トレースなのかデータなのか等
のデータの種類について記録されている。なお、このロ
グ情報９は、必要に応じてメインメモリ１１や ハード
ディスク６に保存するようにしてもよく、さらには入出
力デバイス５を介してフロッピーディスク等の記録媒体
に保存することもできる。

【００２３】その後、この生成されたログ情報９を、ロ
グ解析手段２によって解析し、アクセス状況等を抽出す
る。このときログ情報９は、プロセッサシミュレータ１
から直接受け取るようにしてもよいし、一旦ハードディ
スク６やメインメモリ１１或いはフロッピーディスクに
保存されたものを読み込むようにすることもできる。式
３は、解析結果を示すものである。

【００２４】

【式３】 同式に示すように、この解析結果１０には、メインメモ
リ１１に対してアドレスが連続した領域へのアクセスが
開始されたプログラムカウンタとアクセスが終了したプ
ログラムカウンタ、及びこの間で転送されるデータ（命
令）数が示される。例えば、同式２行目には、プログラ
ムカウンタ「80020eb0 => 800202d0」とあり、この間の
データ転送回数１８１回が、アドレスが連続している領
域にアクセスしていることが示されている。なお、この
抽出された解析結果もやはり必要に応じてメインメモリ
１１やハードディスク６若しくはフロッピーディスク等
に保存するようにしてもよい。

【００２５】そして、オリジナルソフトウェア７と解析
結果１０とをソフトウェア修正手段３に入力し、ここに
おいてオリジナルソフトウェア７を修正し、修正版ソフ
トウェア８を生成する。このオリジナルソフトウェア７
の入力は入出力デバイス５を介してフロッピーやＣＤ−
ＲＯＭ等に記録されたものを読み込むようにしてもよ
く、予めメインメモリ１１やハードディスク６に保存さ
れたものを呼び出すようにしてもよい。さらに、解析結
果１０の入力は、ログ解析手段２から直接受け取るよう
にしてもよく、ハードディスク６やメインメモリ１１若
しくは入出力デバイス５を介して外部から取り込むよう
にしてもよい。式４は、修正後のソフトウェア８の一例
を示すものである。

【００２６】

【式４】 上述したように、プログラムカウンタ「80020000 => 80
0202d0」間において処理される命令では、１８１命令を
命令キャッシュに連続的にリフィルすることが必要なた
め、この命令の直前においてリフィルサイズを拡張し、
一回のリフィルあたりの転送量を増加させることにより
リフィルのためのメインメモリへのアクセス頻度を低減
する必要がある。従って、本実施形態では、式１中にお
けるプログラムカウンタ「80020000」の命令が実行され
る直前にリフィルサイズを変更するリフィル命令（式４
中に示す式（ａ））を挿入する。

【００２７】このリフィルに要するサイクル数について
詳述すると、キャッシュリフィルは、例えば、メモリWa
it数が０のとき、１データずつシングル転送する場合で
は１データ毎に３サイクル要する。これに対して、複数
データを一括して転送するバースト転送では、４データ
を一括して転送する場合で６サイクル要し、８データを
一括して転送する場合で１０サイクル、１６データで１
８サイクル、３２データで３４サイクル要する。

【００２８】従って、例えば３２データキャッシュリフ
ィルするのに、シングル転送で９６（３×３２）サイク
ルかかるところを、バースト転送では４データで４８
（６×８）サイクル、８データで４０（１０×４）サイ
クル、１６データで３６（１８×２）サイクル、３２デ
ータで３４（３４×１）サイクルで済むこととなり、リ
フィルサイズを拡張することによって、サイクル数を少
なくすることができる。本実施形態では、データ転送を
より効率よく行うことのできるリフィルサイズに逐次変
更するようなリフィルを挿入する。

【００２９】また、ソフトウェアを実行するときに、命
令読み出しとデータ読み出し／書き込みが行われるが、
このうち命令読み出しは、連続したメモリ領域にアクセ
スすることが多く、唯一分岐命令で大きく変わることが
ある。従って、命令読み出しが連続しているメモリ領域
にアクセスし、するような命令列の先頭部分にリフィル
サイズを変更する命令を挿入する。

【００３０】一方、データ読み出し／書き込みは、離散
的な領域を少しずつアクセスすることが多く、行列演算
など特殊な処理を行う場合に比較的連続した領域にアク
セスすることがある。従って、本実施形態では、読み出
すデータの形式が配列変数などまとまったデータ領域に
アクセスするような場合には、そのアクセスの直前にお
いてリフィルサイズを最適な大きさにサイズを変更する
命令を挿入する。

【００３１】そして、このようにリフィルサイズ変更命
令が挿入されて修正された修正版ソフトウェア８はソフ
トウェア修正手段３から出力され、バス１２を介して入
出力デバイス５から出力される。なお、このとき、後に
この修正版ソフトウェア８を当該ソフトウェア実行シス
テム１００上で実行する場合は、外部に出力せずに、ハ
ードディスク６やメインメモリ１１に保存するようにし
てもよい。

【００３２】（ソフトウェア実行システムの作用及び効
果）このような本実施形態に係るソフトウェア実行シス
テム１００によれば、修正版ソフトウェア８は、アクセ
スの連続性などに基づいてキャッシュリフィルを最適な
サイズに変更しながら実行されるので、キャッシュリフ
ィルに要するサイクル数を削除でき、結果としてソフト
ウェアの実行性能を向上させることができる。

【００３３】すなわち、上述したように、プロセッサ４
がメインメモリ１１にアクセスする場合、一旦キャッシ
ュメモリにデータを転送するが、比較的連続した領域に
アクセスする場合は、キャッシュリフィルサイズを大き
くして転送に要するサイクル数を削減する。逆に、離散
的な領域にアクセスする場合は、リフィルサイズを小さ
くして無用なデータの転送を抑止した分のサイクル数が
削減できる。

【００３４】従って、本発明によれば、このようにプロ
セッサ４が行うメモリアクセスの状況に応じてリフィル
サイズを調整することによって、キャッシュリフィルに
要するサイクル数を削減し、その分のサイクルをソフト
ウェアの実行に割り当てることが可能となり、ソフトウ
ェアの機能を全く修正することなく、実行性能を向上さ
せることができる。

【００３５】（ソフトウェア実行プログラム）なお、上
記ソフトウェア実行システムは、例えばパーソナルコン
ピュータ等の汎用コンピュータに、ソフトウェア実行プ
ログラムをインストールすることによっても実現するこ
とができる。

【００３６】具体的には、上述したプロセッサシミュレ
ータ１は、オリジナルソフトウェア７をシミュレーショ
ンするステップと、メインメモリ１１からプロセッサ４
へのデータ転送を要するプログラムカウンタや回数を検
出するステップと、この検出結果をログ情報９として出
力するステップとを有するシミュレーションプログラム
を、汎用コンピュータ上で実行させることによって実現
することができる。

【００３７】また、上述したログ解析手段２は、ログ情
報９を読み込むステップと、このログ情報９に登録され
たアクセス状況に応じた最適転送量を算出するステップ
と、この解析結果を出力するステップとを有する解析プ
ログラムを汎用コンピュータ上で実行させることによっ
て実現することができる。

【００３８】さらに、上述したソフトウェア修正手段３
は、ログ解析手段２から出力された解析結果を読み込む
ステップと、この解析結果に基づいて、リフィルサイズ
を変更する命令をオリジナルソフトウェア７内に挿入す
るステップと、このようにして修正された修正版ソフト
ウェア８を出力するステップとを有するソフトウェア修
正プログラムを汎用コンピュータ上で実行させることに
より実現することができる。なお、このようにして生成
された修正版ソフトウェア８は、汎用コンピュータによ
って通常通りに実行することができる。

【００３９】なお、これらのシミュレーションプログラ
ム、解析プログラム及びソフトウェア修正プログラム
は、オールインワン形式のパッケージソフトウェアとす
ることができ、この場合には、オリジナルソフトウェア
７の読み込みから修正版ソフトウェア８の実行までの一
連の処理を一括して行うことができる。

【００４０】そして、このソフトウェア実行プログラム
は、図３に示すような、汎用コンピュータ１５で読み取
り可能な記録媒体１６〜１９に記録することができる。
具体的には、同図に示すような、フロッピーディスク１
６やカセットテープ１９等の磁気記録媒体、若しくはＣ
Ｄ−ＲＯＭ１７等の光ディスクの他、ＲＡＭカード１８
などのコンピュータで読み取り可能な記録媒体に記録す
ることができる。

【００４１】このようなソフトウェア実行プログラムを
記録したコンピュータ読み取り可能な記録媒体によれ
ば、ソフトウェアの実行時間を短縮することができると
いう有用なプログラムの保存、運搬及びインストールを
容易に行うことができる。

【００４２】

【発明の効果】本発明に係るソフトウェア実行システ
ム、実行方法及び実行プログラムによれば、実行対象で
あるソフトウェアをシミュレーションしたうえで、この
シミュレーション結果に基づいてオリジナルソフトウェ
ア内にリフィルサイズを調整する命令を挿入するため、
この修正したソフトウェアの実行時における無駄なキャ
ッシュリフィルに伴う不要なサイクルを省略し、その分
のサイクルをソフトウェアの実行に割り当てることが可
能となり、ソフトウェアの実行処理速度を向上させるこ
とができる。

【図面の簡単な説明】

【図１】本発明の実施形態に係るソフトウェア実行シス
テムの構成を示すブロック図である。

【図２】本発明の実施形態に係るソフトウェア実行シス
テムの動作を示すブローチャート図である。

【図３】本発明の実施形態に係るソフトウェア実行プロ
グラムを記録したコンピュータ読み取り可能な記録媒体
を示す斜視図である。

【符号の説明】

１…プロセッサシミュレータ、２…ログ解析手段、３…
ソフトウェア修正手段 ４…プロセッサ、５…入出力デバイス、６…ハードディ
スク ７…オリジナルソフトウェア、８…修正版ソフトウェ
ア、９…ログ情報 １０…解析結果、１１…メインメモリ、１２…バス

Claims (5)

【特許請求の範囲】
1. 【請求項１】 プロセッサと、該プロセッサとは独立し
   て設けられるメモリ装置との間でデータの転送を行いつ
   つソフトウェアを実行するシステムであって、 前記データの転送量を所定量に設定して前記ソフトウェ
   アをシミュレーションするシミュレーション手段と、 前記シミュレーションの際に、前記メモリ装置から前記
   プロセッサへのデータ転送を要する実行命令及び転送さ
   れるデータ量を検出する検出手段と、 検出された前記データ量に応じた最適転送量を解析する
   解析手段と、 この解析結果に基づいて、前記実行命令を実行する前に
   前記所定量を前記最適転送量に変更するソフトウェア修
   正手段とを有することを特徴とするソフトウェア実行シ
   ステム。
2. 【請求項２】 プロセッサと該プロセッサとは独立して
   設けられるメモリ装置との間でデータの転送を行いつつ
   ソフトウェアを実行する方法であって、 前記プロセッサと前記メモリ装置間におけるデータの転
   送量を所定量に設定して予め前記ソフトウェアを実行
   し、 前記メモリ装置から前記プロセッサへデータの転送を要
   する実行命令及び転送されるデータ転送量を検出し、 検出された前記データ量に応じた最適転送量を解析し、 前記実行命令を実行する前に、前記所定量を前記最適転
   送量に変更して前記ソフトウェアを実行することを特徴
   とするソフトウェア実行方法。
3. 【請求項３】 プロセッサと該プロセッサとは独立して
   設けられるメモリ装置との間でデータの転送を行いつつ
   実行されるソフトウェアを実行するためのプログラムを
   記録したコンピュータ読み取り可能な記録媒体であっ
   て、該プログラムは、 前記プロセッサと前記メモリ装置間におけるデータの転
   送量を所定量に設定して前記ソフトウェアをシミュレー
   ションするステップと、 前記メモリ装置から前記プロセッサへのデータ転送を要
   する実行命令及び転送されるデータ量を検出するステッ
   プと、 検出された前記データ量に応じた最適転送量を解析する
   ステップと、 この解析結果に基づいて、前記実行命令の前に前記所定
   の転送量を前記最適転送量に変更する変更命令を前記ソ
   フトウェア内に挿入するステップと、 この変更命令が挿入された修正後のプログラムを実行す
   るステップとを有することを特徴とするソフトウェア実
   行プログラムを記録したコンピュータ読み取り可能な記
   録媒体。
4. 【請求項４】 プロセッサと該プロセッサとは独立して
   設けられるメモリ装置との間でデータの転送を行いつつ
   実行されるソフトウェアをシミュレーションするための
   プログラムを記録したコンピュータ読み取り可能な記録
   媒体であって、該シミュレーションプログラムは、 前記プロセッサと前記メモリ装置間におけるデータの転
   送量を所定量に設定して前記ソフトウェアをシミュレー
   ションするステップと、 前記メモリ装置から前記プロセッサへのデータ転送を要
   する実行命令及び転送されるデータ量を検出するステッ
   プと、 この検出結果をログ情報として出力するステップとを有
   することを特徴とするソフトウェアのシミュレーション
   プログラムを記録したコンピュータ読み取り可能な記録
   媒体。
5. 【請求項５】 プロセッサと該プロセッサとは独立して
   設けられるメモリ装置との間でデータの転送を行いつつ
   実行されるソフトウェアを修正するためのプログラムを
   記録したコンピュータ読み取り可能な記録媒体であっ
   て、該修正プログラムは、 前記メモリ装置から前記プロセッサへのデータ転送を要
   する実行命令及び転送されるデータ量が登録されたログ
   情報を読み込むステップと、 このログ情報に登録された前記データ量に応じた最適転
   送量を解析するステップと、 この解析結果に基づいて、前記実行命令の前に前記所定
   の転送量を前記最適転送量に変更する変更命令を前記ソ
   フトウェア内に挿入するステップと、を有することを特
   徴とするソフトウェアの修正プログラムを記録したコン
   ピュータ読み取り可能な記録媒体。