JP2008520023A

JP2008520023A - メモリ空間を管理するシステム及び方法

Info

Publication number: JP2008520023A
Application number: JP2007540765A
Authority: JP
Inventors: ペレス，クララマリアオテロ; エイントホーフェン，ヨゼフュスファン
Original assignee: Koninklijke Philips NV; Koninklijke Philips Electronics NV
Current assignee: Koninklijke Philips NV
Priority date: 2004-11-11
Filing date: 2005-11-04
Publication date: 2008-06-12
Also published as: WO2006051454A1; EP1815334A1; US20090083508A1; CN101057220A

Abstract

メモリ空間(22)の管理システム(100)は、第１のタスク(50)及び第２のタスク(60)を実行する少なくとも１つの中央処理ユニット(10)、中央処理ユニット(10)に接続され、且つ第１のメモリ空間(52)及び第２のメモリ空間(62)に細分化されたメモリ空間(22)を有する少なくとも１つのメモリユニット(20)、第１のタスク(50)及び／又は第２のタスク(60)がメモリ空間(22)を必要としているかを決定する少なくとも１つの決定手段(30)、特に第１のメモリ空間(52)を第１のタスク(50)に割当て且つ第２のメモリ空間(62)を第２のタスク(60)に割当てる、メモリ空間(22)をそれぞれのタスクに割当てる少なくとも１つの割当て手段(40)を有する。各実行タスク(50,60)に提供されるメモリ空間(22)は最大化され、それぞれのタスク(50,60)に、メモリ空間(22)を必要としているかの決定に応じて、且つ少なくとも１つの処理バジェット予約手段(12)によって各タスク(50,60)に指定された少なくとも１つのそれぞれの処理バジェットに従って割当てられる。

Description

本発明は、少なくとも１つの第１のタスク及び少なくとも１つの第２のタスクのスケジューリングをするために、メモリ空間を管理するシステム及び方法に関する。

ソフトウェアでのメディア処理は、民生端末をオープンで柔軟性あるものにさせることが可能である。同時に、民生端末は価格コスト面での大きな圧力のため重度に資源制約的なものである。専用ハードウェアによる解法と競合可能にするため、ソフトウェアでのメディア処理は、例えば堅牢性などの民生端末の一般的な品質を保持し且つ高品質のデジタル音声・映像処理により課される厳しいタイミング要件を満たしながら、利用可能な資源を高い平均資源使用率で非常にコスト効率良く使用しなければならない。この点で重要なことはメモリ空間の管理である。

例えばキャッシュといったメモリ階層の効率及び性能は、所謂システム・オン・チップ（ＳｏＣ）上で起動するマルチメディア・アプリケーションの性能にとって特に重要である。故に、キャッシュの失敗や失敗による遅延を減少させることを目的としたキャッシュスケジューリング技術が数多く存在している。伝統的なキャッシュは単一の処理ユニット上で起動する単一のアプリケーションに対して十分に動作するように設計されてきた。

例えば、従来技術に係る特許文献１、２又は３は、単一のタスク／スレッド／アプリケーション（以降、“タスク”と呼ぶ）によって使用されるキャッシュ空間を固定及び／又は保障する機構に関するものである。これらの従来技術に係る文献によれば、タスクの存続中は予約されたキャッシュ空間が保障される。

伝統的なシステムにおいては、複数のアプリケーションがキャッシュを共有しながら並列に実行される。これらの並列アプリケーションは、互いのデータをキャッシュから一気に消去することにより互いの性能に影響を及ぼし合う。さらに、異なる形式のソフトウェア構造やメモリ使用法は異なるキャッシュ編成による恩恵を被る。

キャッシュの効率を向上させることは、例えば以下によって、異なる角度から為されることができる：
− より良いキャッシュ編成：メモリアクセス形態に応じて、ある一定の割当てがより効率的になる（例として、異なるメモリバンク上の連続的なデータ要素）、又は
− 改善された置換及び割当て技術。

提案されている置換及び割当て技術の中で、その一部はバジェット化（budgeting）（又は予約）の概念を用いるものである。所与のアプリケーション／タスク／スレッドはキャッシュの特定部分への排他的アクセスを有し、これまたそれ自身のキャッシュ断片を有する他のアプリケーションからの干渉を受けない。

このバジェット化の例が非特許文献１及び２に与えられている。これらは空間的なバジェットである。

空間的なバジェット化は、キャッシュの予測可能性を高めることによりアプリケーション性能を向上させる。さらに、これはソフトウェアサブシステムの構成可能性をもたらす。しかしながら、資源制約的なシステムにおいては、キャッシュはやはり希少資源であり、このことは、アプリケーションがキャッシュバジェットを要求するとき、このキャッシュ空間は利用可能でないことがあることを意味する。一般に、アプリケーションは必要とするだけ多くのキャッシュ空間を受け取らず、性能の不利益を被る。

タスクがキャッシュ空間を使用していないときキャッシュ空間を解放することが特許文献４から知られている。しかしながら、この手法はタスクがそのデータすなわちメモリ空間を必要とする場合に非常に低い性能をもたらし得る。
欧州特許出願公開第０４４２４７４号明細書米国特許第６４２７１９５号明細書米国特許出願公開第２００２／０１８４４４５号明細書米国特許出願公開第２００３／０１０１０８４号明細書 Anca Molnos、「Compositional memory systems for multimedia communicating tasks」、Internal Natlab Ravi Iyer、「CQoS：A Framework for Enabling QoS in Shared Caches of CMP Platforms」、Proc. of the 18th annual international Conference on Supercomputing、ISBN：1-58113-839-3、2004年、（米国）、p.257-266

上記欠点及び短所に鑑み、本発明は、各実行タスクに提供されるメモリ空間が最大化されるように更に発展された上述のシステム及び方法を提供することを目的とする。

本発明の上記課題は、メモリ空間をそれぞれのタスクに、
− メモリ空間を必要としているかどうかの決定に応じて、且つ
− 少なくとも１つの処理バジェット予約手段によって各タスクに指定された少なくとも１つのそれぞれの処理バジェットに従って、
割当てることによって解決される。

本発明の有利な実施形態及び目的にかなった改善はそれぞれの従属請求項にて開示される。

本発明は、原理的に時間を、
− 特にキャッシュバジェットであるメモリバジェットに、あるいは
− 特にキャッシュ予約であるメモリ予約に、
追加するという概念に基づいており、故に、バジェットを用いた時間的なキャッシュ管理技術を提供するものである。

換言すれば、本発明は、特にキャッシュ空間予約であるメモリ空間予約のパラメータとして時間を導入するものである。この時間は処理バジェットに結合される。このようにして、特に全体的なキャッシュ利用である全体的なメモリ利用が最大化される。

さらに、例えばキャッシュ空間予約であるメモリ空間予約の時間のパラメータが処理予約に結び付けられるとき、システム性能はやはり向上する。

本発明の好適な実施形態に従って、ＣＰＵ（中央処理ユニット）資源マネージャを有するシステムにおいて、例えば第１のスレッド又は第１のアプリケーションである第１のタスク、及び／又は例えば第２のスレッド又は第２のアプリケーションである第２のタスク、又はタスク／スレッド／アプリケーションの組は保障され且つ強制的なＣＰＵバジェットを受け取る。故に、このバジェットが使い果たされると、対応するタスクはバジェットが再補充されるまで実行されない。

この情報は、
− これらのタスクによって使用される、特にキャッシュ空間であるメモリ空間を解放するため、及び
− それを、メモリ空間を必要とする他のタスクに利用可能にするため、
に使用され得る。

この機構によって、より効率的なメモリ空間利用、特に、より効率的なキャッシュ空間利用がもたらされる。ＣＰＵバジェットを有し且つ実行されているタスクに利用可能なメモリ空間が、より多く存在する。

本発明の他の本質的な特徴は、メモリ空間の解放はタスクがメモリ空間を必要としないことが確実であるときに行われ、その結果、如何なる不利益も生じさせないことにある。故に、システムがタスク、アプリケーション又はスレッドに提供可能なメモリ空間、特にキャッシュバジェットが最大化される。

本発明の好適な実施形態に従って、メモリ空間はシステムメモリ全体の一部のみのデータコピーを格納するキャッシュとし得る。また、本発明の有利な実装に従って、メモリ空間は複数のＣＰＵ（中央処理ユニット）からの共有アクセスを有する第２レベルのキャッシュとし得る。

この第２レベルキャッシュは（又は、二次キャッシュ若しくはレベル２キャッシュ）は、通常、
− 第１レベルキャッシュ（又は、主キャッシュ若しくはレベル１キャッシュ）とメインメモリとの間に配置され、且つ
− 少なくとも１つの外部バスを介してＣＰＵ（中央処理ユニット）に接続されている。

これとは対照的に、主キャッシュはＣＰＵと同一のＩＣ（集積回路）上にあることが多い。

本発明は更に、
− 少なくとも１つの上述のシステムを有し、且つ／或いは上述の方法に従って動作するテレビセット、及び
− 少なくとも１つの上述のシステムを有し、且つ／或いは上述の方法に従って動作するセットトップボックス、
に関する。

本発明の有利な一実施形態に従って、本発明に係る方法は、基本的に、
− 第１のタスク及び／又は第２のタスクを実行する段階、
− 第１のタスク及び／又は第２のタスクがメモリ空間を必要としているかどうかを決定する段階、及び
− メモリ空間をそれぞれのタスクに割当てる段階であり、特に、
第１のメモリ空間を第１のタスクに割当て、且つ
第２のメモリ空間を第２のタスクに割当てる、
割当てる段階、
を有し、付加的に、
− 処理バジェットが使い果たされた場合に処理バジェットを補充する段階であり、対応するタスクは補充中には実行されない、処理バジェットを補充する段階、
それぞれの処理バジェットを補充するのに必要な期間を決定する段階であり、特に、
タスクの少なくとも１つの実行期間又は繁忙期を決定し、且つ／或いは
タスクの少なくとも１つの非実行期間を決定する、
期間を決定する段階、及び
実行されないタスクに指定されていたメモリ空間を、決定された補充期間の間、少なくとも１つの実行可能なタスクに割当てる段階、
を有していてもよい。

好ましくは、メモリ空間は、
− 排他的に第１のタスクに、
− 部分的に前記第１のタスクと部分的に前記第２のタスクとに、且つ／或いは
− 排他的に前記第２のタスクに、
の何れかで割り当てられる。

本発明は、一般的に、キャッシュを有し且つＣＰＵ（中央処理ユニット）予約機構が存在する如何なる製品においても使用可能である。

具体的には、本発明は最終的に、複数のアプリケーションがメモリ空間を共有しながら並列に実行されるデジタルシステムのための、例えば、
− 特に少なくとも１つのＳｏＣ（システム・オン・チップ）上で実行されるマルチメディア・アプリケーション、及び／又は
− 請求項５に記載のデジタルテレビセット、特に高品質ビデオシステム、又は請求項６に記載のセットトップボックスのような民生端末、
のための、少なくとも１つの上述のシステム、及び／又は上述の方法の用途に関する。

上述のように、本発明の教示を有利なように具体化及び改善するための選択肢が幾つも存在する。この目的のため、独立請求項に従属する請求項が参照され、以下、本発明の更なる改善、特徴及び利点が、例として好適な実施形態及び添付図面を参照しながら、より詳細に説明される。

図１乃至５の対応する部分には同一の参照符号を用いることとする。

図１は、本発明に従ったシステムの一実施形態100の最も重要な部分を概略的に示している。このシステム100は、第１のタスク50及び第２のタスク60（図３参照）を実行する中央処理ユニット10を有している。中央処理ユニット10はメモリユニットすなわちキャッシュ20と接続されている。

キャッシュ空間22を第１のタスク50及び／又は第２のタスク60に割当てるため、特に第１のキャッシュ空間52を第１のタスク5に、そして第２のキャッシュ空間62を第２のタスク60に割当てるため、システム100は割当て手段40を具備するキャッシュ予約機構を有している。

少なくとも１つのぞれぞれの処理バジェットを各タスク50、60に指定するため、システム100は、例えばＣＰＵ（中央処理ユニット）予約システムである処理バジェット予約手段12を有している。処理バジェット予約手段12は、好ましくは、この同一のＣＰＵ10又はシステム100内の他の１つ以上の利用可能なＣＰＵ上で実行される少なくとも１つのソフトウェア・アルゴリズムの形態で実装され得る。このソフトウェアは、適切動作では、ＣＰＵ10上でのタスク50及び60の正常な実行を中断させることが可能な少なくとも１つのタイマー等の幾つかのハードウェア装置に頼らなければならない。

上記の処理バジェットが使い果たされると、対応するタスク50、60はその処理バジェットが期間の最後70にて再補充されるまで実行されない。従って、第１のタスク50の処理バジェットは第１のタスク50のバジェット繁忙期54を決定し、第２のタスク60の処理バジェットは第２のタスク60のバジェット繁忙期64を決定する。

システム100の処理バジェットはタスクの存続期間より遙かに短い細かさで利用可能であり、且つ／或いは制御される。例えば、数時間のタスクの存続期間に対して、５ミリ秒の処理バジェットが１０ミリ秒毎に繰り返される。

タスク50、60はそれらのバジェット繁忙期54、64の間だけメモリ空間22を必要とする。第１のタスク50及び／又は第２のタスク60がメモリ空間22を必要としているかどうかを決定するため、システム100は決定手段30を有している。キャッシュ空間決定手段30は少なくとも１つのソフトウェア・アルゴリズムとして実装され得る。

本発明の特徴を例示するため、図２は、従来技術に従ったキャッシュ管理を例示している。第１のタスク50の時間ｔ上でのタスク実行56、及び第２のタスク60の時間ｔ上でのタスク実行66が図２の上部に図示されている。

図２の下部には、縦軸にキャッシュ空間22が示されており、横軸に時間ｔが走っている。故に、図２の下部には、第１のタスク50のキャッシュ予約52及び第２のタスク60のキャッシュ予約62が例示されている。図２に示されるように、従来システムにおいては、第１のタスク50はそのキャッシュを使用しない場合にも期間の最後70までそのキャッシュを保持している。

これとは対照的に、本発明に従ったキャッシュ管理が図３に例示されている。図３によれば、キャッシュ予約機構は、
− 第１のタスク50及び／又は第２のタスク60がキャッシュ空間22を必要とするとき、キャッシュ空間22を予約する、
− 第１のタスク50及び／又は第２のタスク60がキャッシュ空間22を必要としないとき、キャッシュ空間22を解放する、
ことによって動的に使用されている。

従来の動作（図２参照）との相違は“タスクがキャッシュ空間22を必要とするとき”の定義にある。従来システム（図２参照）においては、タスク50、60はその存続期間の間、キャッシュ空間22を必要としている。しかしながら、本発明（図３参照）によれば、キャッシュ空間22の必要性は処理バジェットの利用可能性に結び付けられている。この目的のため、キャッシュ予約機構又はキャッシュ予約システムはＣＰＵ（中央処理ユニット）予約システムに結合されている。図３は直感的に理解可能な例を示している：
第１のタスク50及び第２のタスク60は同一のＣＰＵ（中央処理ユニット）10上で実行され、これらタスク50、60の各々は同一の細かさ、例えば４０ミリ秒毎に２０ミリ秒、でＣＰＵ10の５０％を受け取っている。第１のタスク50がそのバジェット54を終えると、キャッシュ内の空間は無事に解放され、他方のタスク60に完全に利用可能にされる。

換言すれば、第１のタスク50がその処理バジェットの全てを使い果たした場合、第１のタスク50に割当てられていた第１のキャッシュ空間52は解放され、残りの期間、第２のタスク62に割当てられる。その結果、タスク62は残りの期間、すなわち、時点70にバジェットが再補充されるまで、キャッシュの１００％を使用することによって、より効率的に実行される。故に、双方のタスク50、60はキャッシュ22の１００％を使用することができる。

タスク50、60がそのバジェットを終え、しばらくの間実行されないことを知ることは一般的な場合には容易でない。しかしながら、処理バジェットが（本発明により提案されるように）提供される場合、このことはタスク50、60が実行され始めるとき、及びそれが実行を終えるときに正確に計算されることができる。

本発明によれば、最悪の場合の繁忙期、すなわち、最も早い開始時点及び最も遅い終了時点は計算可能である。最悪の場合の繁忙期を計算し、キャッシュバジェットの供給を最大化するために同一でない繁忙期が使用され得る。図３には、第１のタスク50によって使用されていたキャッシュ空間52が第２のタスク60によって使用されるように、如何にして解放されるかが例示されている。図３の上部の縦方向の矢印はバジェットの供給14を例示している。

図４は、上述のシステム100を含むＴＶ（テレビ）セット200の最も重要な部分を概略的に示している。図４において、アンテナ202はテレビ信号を受信する。アンテナ202はまた、例えば、衛星放送受信アンテナ、ケーブル、又はテレビ信号を受信可能な如何なる他の装置でもよい。受信器204が信号を受け取る。受信器204に加え、テレビセット200は、例えばプログラム可能な集積回路であるプログラム可能部品206を有している。このプログラム可能部品206はシステム100を含んでいる。テレビ画面210は、受信器204によって受信され且つプログラム可能部品206、システム100及びテレビセットに通常含まれる他の部品によって処理された画像を表示する。なお、他の部品はここでは図の明瞭化のために図示されていない。

図５は、システム100を含むセットトップボックス300の最も重要な部分を概略的に示している。セットトップボックス300はアンテナ202によって送信された信号を受信する。テレビセット200は、システム100と一緒にされたセットトップボックス300によって受信信号から生成された出力信号を表示することができる。

上述の本発明の実装法は、新たなタスクに切り替えられるときに、双方又は全てのタスクがキャッシュの１００％を有するようにキャッシュ空間が完全に解放されるマルチタスク型システムを、潜在的に可能とするものである。キャッシュ予約がＣＰＵ（中央処理ユニット）予約システムに結合されている。

上述の方法は、複数のタスク50、60の間で共有されているキャッシュ空間22を管理するものである。この方法は、複数のＣＰＵ10を含むシステム100にも同様に適用可能である。このようなマルチＣＰＵシステム100においては、一般に、メモリ階層の一部として共有キャッシュが存在し、同一の利点を有するタスク共有のために管理される。

本発明に係る方法に従って動作する本発明に従ったシステムの一実施形態を示す概略図である。従来技術に従ったキャッシュ管理を示す図である。本発明に従ったキャッシュ管理を示す図である。図３のキャッシュ管理に従って操作される図１のシステムを有するテレビセットを示す概略図である。図３のキャッシュ管理に従って操作される図１のシステムを有するセットトップボックスを示す概略図である。

符号の説明

100 … メモリ空間管理システム
10 … 中央処理ユニット、特に複数の中央処理ユニット
12 … 処理バジェット予約手段、特に中央処理ユニット予約手段
14 … バジェット供給
20 … メモリユニット、特にキャッシュユニット
22 … メモリ空間、特にキャッシュ空間
30 … 決定手段
40 … 割当て手段
50 … 第１のタスク
52 … 特に第１のタスク50に割当てられた、第１のメモリ空間
54 … 実行期間、繁忙期、又は第１のタスク50のバジェット繁忙期
56 … 第１のタスク50のタスク実行
60 … 第２のタスク
62 … 特に第２のタスク60に割当てられた、第２のメモリ空間
64 … 実行期間、繁忙期、又は第２のタスク60のバジェット繁忙期
66 … 第２のタスク60のタスク実行
70 … 期間の最後、特に補充期間の最後
200 … テレビセット
202 … アンテナ
204 … 受信器
206 … プログラム可能部品、例えばプログラム可能集積回路
210 … テレビ画面
300 … セットトップボックス
ｔ … 時間、又は期間

Claims

メモリ空間を管理するシステムであって、
少なくとも１つの第１のタスク及び少なくとも１つの第２のタスクを実行する少なくとも１つの中央処理ユニット、
特に少なくとも１つのキャッシュである少なくとも１つのメモリユニットであり、
前記中央処理ユニットに接続され、且つ
特に少なくとも１つの第１のキャッシュ空間である少なくとも１つの第１のメモリ空間、及び特に少なくとも１つの第２のキャッシュ空間である少なくとも１つの第２のメモリ空間に細分化されたメモリ空間を有する、
少なくとも１つのメモリユニット、
前記第１のタスク及び／又は前記第２のタスクが前記メモリ空間を必要としているかどうかを決定する少なくとも１つの決定手段、
前記メモリ空間をそれぞれのタスクに割当てる少なくとも１つの割当て手段であり、特に、
前記第１のメモリ空間を前記第１のタスクに割当て、且つ
前記第２のメモリ空間を前記第２のタスクに割当てる、
少なくとも１つの割当て手段、
を有し、
前記メモリ空間はそれぞれのタスクに、
メモリ空間を必要としているかどうかの決定に応じて、且つ
少なくとも１つの処理バジェット予約手段によって各タスクに指定された少なくとも１つのそれぞれの処理バジェットに従って、
割当てられる、
ことを特徴とするシステム。
前記処理バジェットが使い果たされると、対応するタスクは、特に該処理バジェットの期間の最後までである自身の処理バジェットが再補充されるまで実行されず、
前記決定手段は、それぞれの処理バジェットの次の補充までに必要な時間を、特に、
前記タスクの少なくとも１つの実行期間又は繁忙期を決定するため、且つ／或いは
前記タスクの少なくとも１つの非実行期間を決定するため、
に決定するように設計されており、且つ
前記割当て手段は、実行されないタスクに指定されていたメモリ空間を少なくとも１つの実行可能なタスクに、特に、決定された処理バジェットの期間の最後まで、割当てるように設計されている、
ことを特徴とする請求項１に記載のシステム。
前記タスクの存続期間は該タスクのそれぞれの処理バジェットの細かさより長いことを特徴とする請求項１又は２に記載のシステム。
前記メモリ空間は、
排他的に前記第１のタスクに、
部分的に前記第１のタスクと部分的に前記第２のタスクとに、且つ／或いは
排他的に前記第２のタスクに、
の何れかで割り当てられ、
システムメモリ全体の少なくとも部分のデータコピーを格納するように設計されたキャッシュであり、且つ／或いは
複数の中央処理ユニットからの共有アクセスを有する第２レベルのキャッシュである、
ことを特徴とする請求項１乃至３の何れか一項に記載のシステム。
請求項１乃至４の何れか一項に記載のシステムを有するテレビセット。
請求項１乃至５の何れか一項に記載のシステムを有するセットトップボックス。
特に、少なくとも１つの第１のタスク及び少なくとも１つの第２のタスクのスケジューリングをするために、メモリ空間を管理する方法であって、
前記第１のタスク及び／又は前記第２のタスクを実行する段階、
前記第１のタスク及び／又は前記第２のタスクがメモリ空間を必要としているかどうかを決定する段階、及び
前記メモリ空間をそれぞれのタスクに割当てる段階であり、特に、
例えば第１のキャッシュ空間である第１のメモリ空間を前記第１のタスクに割当て、且つ
例えば第２のキャッシュ空間である第２のメモリ空間を前記第２のタスクに割当てる、
割当てる段階、
を有し、
前記メモリ空間はそれぞれのタスクに、
メモリ空間を必要としているかどうかの決定に応じて、且つ
各タスクに指定された少なくとも１つのそれぞれの処理バジェットに従って、
割当てられる、
ことを特徴とする方法。
前記処理バジェットが使い果たされた場合に処理バジェットを補充する段階であり、対応するタスクが、特に該処理バジェットの期間の最後までである処理バジェットの次の補充まで実行されない、処理バジェットを補充する段階、
それぞれの処理バジェットの補充に必要な期間を決定する段階であり、特に、
前記タスクの少なくとも１つの実行期間又は繁忙期を決定し、且つ／或いは
前記タスクの少なくとも１つの非実行期間を決定する、
期間を決定する段階、及び
実行されないタスクに指定されていたメモリ空間を少なくとも１つの実行可能なタスクに、特に、決定された処理バジェットの期間の最後まで、割当てる段階、
を更に有することを特徴とする請求項７に記載の方法。
前記メモリ空間は、
排他的に前記第１のタスクに、
部分的に前記第１のタスクと部分的に前記第２のタスクとに、且つ／或いは
排他的に前記第２のタスクに、
の何れかで割り当てられることを特徴とする請求項７又は８に記載の方法。
複数のアプリケーションがメモリ空間を共有して並列に実行されるデジタルシステムのための、請求項１乃至４の何れか一項に記載の少なくとも１つのシステム、及び／又は請求項７乃至９の何れか一項に記載の方法の用途であって、例えば、
特に少なくとも１つのシステム・オン・チップ上で実行される、マルチメディア・アプリケーション、及び／又は
請求項５に記載のデジタルテレビセット、特に高品質ビデオシステム、又は請求項６に記載のセットトップボックスのような民生端末、
のための用途。