JP2013524388A - アクセスレイテンシを低減するバスアービトレーション技法 - Google Patents

アクセスレイテンシを低減するバスアービトレーション技法 Download PDF

Info

Publication number
JP2013524388A
JP2013524388A JP2013505149A JP2013505149A JP2013524388A JP 2013524388 A JP2013524388 A JP 2013524388A JP 2013505149 A JP2013505149 A JP 2013505149A JP 2013505149 A JP2013505149 A JP 2013505149A JP 2013524388 A JP2013524388 A JP 2013524388A
Authority
JP
Japan
Prior art keywords
request
bus master
shared memory
latency
access
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013505149A
Other languages
English (en)
Other versions
JP5552569B2 (ja
Inventor
フェン・ワン
Original Assignee
クアルコム,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by クアルコム,インコーポレイテッド filed Critical クアルコム,インコーポレイテッド
Publication of JP2013524388A publication Critical patent/JP2013524388A/ja
Application granted granted Critical
Publication of JP5552569B2 publication Critical patent/JP5552569B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14Handling requests for interconnection or transfer
    • G06F13/16Handling requests for interconnection or transfer for access to memory bus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14Handling requests for interconnection or transfer
    • G06F13/16Handling requests for interconnection or transfer for access to memory bus
    • G06F13/1605Handling requests for interconnection or transfer for access to memory bus based on arbitration
    • G06F13/1642Handling requests for interconnection or transfer for access to memory bus based on arbitration with request queuing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/14Handling requests for interconnection or transfer
    • G06F13/16Handling requests for interconnection or transfer for access to memory bus
    • G06F13/1605Handling requests for interconnection or transfer for access to memory bus based on arbitration
    • G06F13/161Handling requests for interconnection or transfer for access to memory bus based on arbitration with latency improvement
    • G06F13/1626Handling requests for interconnection or transfer for access to memory bus based on arbitration with latency improvement by reordering requests

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Bus Control (AREA)

Abstract

アクセスレイテンシを低減するために共用メモリシステムへのアクセスを求めるバスマスタからの要求をアービトレーションする方法は、共用メモリへの現在スケジュールされている要求をルックアヘッドするステップと、ページヒット率を高めること、または読取りトラフィックと書込みトラフィックとのバランスをとることなど、現在スケジュールされている要求の特性に基づいて要求のレイテンシを予測するステップとを含む。予測されたレイテンシに少なくとも部分的に基づいて、要求がスケジュールされる。

Description

同時係属特許出願の参照
本特許出願は、以下の同時係属米国特許出願に関する。
本出願の譲受人に譲渡され、参照により明白に本明細書に組み込まれる、本明細書と同時に出願された代理人整理番号091984のWang Fengによる「METHODS OF BUS ARBITRATION FOR LOW POWER MEMORY ACCESS」。
開示される実施形態は、バスアービトレーション技法に関する。特に、開示される実施形態は、共用メモリシステムにおけるメモリアクセスレイテンシを低減する技法を対象とする。
共用メモリ構造を有するシステムアーキテクチャは、当技術分野でよく知られている。共用またはグローバルメモリ空間は、バスまたは相互接続システムを介して複数のプロセッサまたは処理要素によってアクセスされ得る。処理要素は概念的に、相互接続システムの「バスマスタ」と呼ばれ、共用メモリ構造は「スレーブ」側に存在する。バスマスタは、共用メモリリソースに対する読取り/書込み要求を行う。要求は、スレーブ側の「メモリコントローラ」によって処理される。一般に、メモリコントローラは、データの転送を容易にするために、相互接続システムにおけるバスマスタと共通メモリ空間との間の二地点間接続を完成させる。
所与の時間にただ1つのアクセス要求が処理可能であるので、共用メモリ空間へのアクセスにおいて複数のバスマスタが互いに競合することは、非常によくあることである。したがって、あるバスマスタはアクセス権を付与されない一方で、別のバスマスタについては処理されるように、共用メモリへのアクセスが同期化される。競合を回避するために、様々なバスマスタからの要求を同期化し、スケジュールするスケジューリング機構または「アービトレーション方式」が用いられる。「バスアービタ」が、アービトレーションのタスクを実行する。
バスアービタは、所与の時間においてメモリへのアクセス権をどのバスマスタに付与できるかを判断する。2つ以上のバスマスタが同時にメモリへのアクセスを試みたとき、1つのみがアクセス権を付与される一方で、他のプロセッサは待機しなければならない。アービタが直面する課題の1つは、特定のバスマスタを優先して当該バスマスタがメモリにアクセスできるようにすることによって、優先順位のより低いバスマスタがいつまでも締め出されること、またはアクセス権取得の不当な遅延に見舞われることがないようにすることである。
1つの一般的なアービトレーション方式は、ラウンドロビンアービトレーション方式であり、この方式では、利用可能な帯域幅がすべてのバスマスタに均等に割り振られる。個々のバスマスタのレイテンシ要件にかかわらず、所定の順序に従ってメモリアクセス権が付与される。たとえば、音声通信を処理するデジタル信号プロセッサ(DSP)は、低レイテンシ通信を要求するが、基本的なラウンドロビン方式は、そのようなレイテンシ特性に対応するうえで非常に非効率的であることが判明し得る。
別のよく知られている手法は、トークンベースの手法であり、この手法では、「トークン」がネットワーク中で渡され、トークンを処理するバスマスタのみがアクセスを許可され得る。特定の処理要素がアクセスを必要としていない場合、この処理要素はトークンを近隣の処理要素に渡すことができる。優先順位およびレイテンシ要件の概念が、そのような方式の実施態様に組み込まれている。トークンベースのアービトレーション方式は、バスマスタのレイテンシ特性に基づいて優先順位を割り振ることによって、レイテンシ要件を保証しようとしている。
しかしながら、これらおよび他のよく知られているアービトレーション方式は、相互接続システムのスレーブ側におけるトランザクションを考慮していない。たとえば、従来のアービトレーション方式を用いたメモリシステムについて考える。メモリシステム内のバスアービタは、時間的に特定の場合に、第1のバスマスタにアクセス権を付与する。要求されるデータはメモリの1ページ目に存在し、これは第1のバスマスタによるアクセスの持続時間中は開いたままである。次に、第2のバスマスタがアクセス権を付与される。しかし、第2のバスマスタは、1ページ目に存在しないデータを要求し、ページミスが発生する。要求されるデータを含む2ページ目をフェッチする際に、相当な遅延が生じる。次いで、1ページ目にあるデータを要求する第3のバスマスタに、アクセス権が付与され、1ページ目がフェッチされる間にさらに別のページミスが生じる。
上記の例では、同じページにアクセスする第1および第3のトランザクションが連続的にスケジュールされるように、バスアービタが要求を別様にスケジュールしていれば、第3のトランザクションではページヒットが生じたはずである。しかし、既存の技法は、ページヒットをもたらすトランザクションを予想するためにルックアヘッド(look ahead)することができない。
したがって、当技術分野では、ページヒット率を高め、読取りと書込みとのバランスをとるために、スレーブ側でスケジュールされたトランザクションを考慮することによって、メモリアクセスレイテンシを低減できる技法が必要である。
例示的な実施形態は、共用メモリシステムにおけるメモリトランザクションのアクセスレイテンシを低減するアービトレーション技法のためのシステムおよび方法を対象とする。
たとえば、例示的な実施形態は、処理システムにおける共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションする方法を対象とし、本方法は、共用メモリへの現在スケジュールされているアクセスをルックアヘッドするステップと、現在スケジュールされているアクセスの特性に基づいて、バスマスタからの要求のレイテンシを予測するステップと、予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの要求をスケジュールするステップとを含む。
別の例示的な実施形態は、処理システムを対象とし、本処理システムは、共用メモリシステムと、共用メモリシステムへのアクセスを求める将来の要求を生成するように構成されたバスマスタと、現在スケジュールされている要求を処理するように構成されたメモリコントローラと、メモリコントローラによって現在スケジュールされている要求の特性に基づいてレイテンシを予測するように構成されたレイテンシ予測器と、予測されたレイテンシに少なくとも部分的に基づいて、将来の要求の少なくとも一部分を選択するように構成されたアービタとを含む。
さらに別の例示的な実施形態は、共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションするための処理システムを対象とし、本処理システムは、共用メモリへの現在スケジュールされているアクセスをルックアヘッドするための手段と、現在スケジュールされているアクセスの特性に基づいて、バスマスタからの要求のレイテンシを予測するための手段と、予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの要求をスケジュールするための手段とを含む。
例示的な実施形態は、処理システムにおける共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションする方法も対象とし、本方法は、共用メモリへの現在スケジュールされているアクセスをルックアヘッドするためのステップと、現在スケジュールされているアクセスの特性に基づいて、バスマスタからの要求のレイテンシを予測するためのステップと、予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの要求をスケジュールするためのステップとを含む。
添付の図面は、実施形態の説明を助けるために提示され、実施形態の限定ではなく実施形態の説明のためのみに提供される。
従来の共用メモリシステムを示す図である。 例示的な実施形態による、メモリアクセスレイテンシに基づくバスアービトレーション技法の改善を伴う共用メモリシステムを示す図である。 例示的な実施形態による本発明の技法を示すフローチャートである。
本発明の態様は、以下の説明および特定の実施形態を対象とする関連する図面において、開示される。本発明の範囲から逸脱することなく代替的な実施形態を考案することができる。さらに、様々な実施形態の関連する詳細を不明瞭にしないように、様々な実施形態のよく知られている要素については詳細に説明しないか、または省略する。
「例示的な」という言葉は、「一例、実例または例として」を意味するために本明細書で使用される。「例示的」として本明細書で説明する任意の実施形態は、必ずしも他の実施形態よりも好ましいまたは有利であると解釈されない。同様に、「実施形態」または「本発明の実施形態」という用語は、すべての実施形態が、論じられた特徴、利点または動作モードを含むことを必要としない。
本明細書で使用する用語は、特定の実施形態について説明するためのものにすぎず、様々な実施形態を限定するものではない。本明細書で使用する単数形「a」、「an」、および「the」は、文脈が別段に明確に示すのでなければ、複数形をも含むものとする。さらに、本明細書で使用する「含む(comprises)」、「含んでいる(comprising)」、「含む(includes)」、および/または「含んでいる(including)」という用語は、述べられた特徴、整数、ステップ、動作、要素、および/または構成要素の存在を明示するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、および/またはそれらのグループの存在または追加を排除しないことを理解されたい。
さらに、多くの実施形態については、たとえば、コンピューティングデバイスの要素によって実行すべき一連のアクションに関して説明する。本明細書で説明する様々なアクションは、特定の回路(たとえば、特定用途向け集積回路(ASIC))によって、1つまたは複数のプロセッサによって実行されるプログラム命令によって、あるいは両方の組合せによって実行できることを認識されよう。さらに、本明細書で説明するこれらの一連のアクションは、実行時に、関連するプロセッサに本明細書で説明する機能を実行させるコンピュータ命令の対応するセットを記憶した任意の形式のコンピュータ可読記憶媒体内で全体として実施すべきものと見なすことができる。したがって、本発明の様々な態様は、すべてが特許請求される主題の範囲内に入ることが企図されているいくつかの異なる形式で実施できる。さらに、本明細書で説明する実施形態ごとに、そのような実施形態の対応する形式を、たとえば、記載のアクションを実行する「ように構成された論理」として本明細書で説明することがある。
図1は、従来の共用メモリシステム100を示している。バスマスタM1〜MNは、相互接続102を通じてメモリアクセス要求を行う。バスアービタ104は、ラウンドロビンまたはトークンベースのスケジューリングなどの技法に従って、要求をスケジュールする。スレーブメモリコントローラ106は、図示のように、ダブルデータレート(DDR)メモリ108などの共用メモリリソースと通信することによって、スケジュールされた要求を処理する。メモリコントローラ106は待ち行列を維持することもあり、この場合、スケジュールされたトランザクションは、処理される前に維持される。バスアービタ104は、低レイテンシ要件を伴うバスマスタに対しより高い優先順位を割り当てることによって、バスマスタM1〜MNのレイテンシ要件に対応しようとすることがある。しかしながら、システム100は、スケジューリングプロセスにおいて、スケジュールされるトランザクションのコンテキストや、ページミスがレイテンシに及ぼす影響を考慮していない。
本明細書で説明する本発明の技法によれば、アービトレーションプロセスは、現在スケジュールされているメモリトランザクションから導出されるレイテンシ予測に少なくとも部分的に基づく。図2は、例示的な一実施形態である。システム100のような従来型システムの構成要素に加えて、メモリシステム200はレイテンシ予測器205を含む。レイテンシ予測器205はバスアービタ204に対し、現在スケジュールされているトランザクションに関する情報を通信する。図示のように、メモリコントローラ206はコマンド待ち行列210、並べ替えユニット212およびメモリ待ち行列214を含む。以下では、これらの構成要素の動作および詳細について、非限定的に例示するコンテキストで説明する。
初期条件は現在スケジュールされているメモリトランザクションを反映していないと仮定する。前述のように、バスアービタ204はバスマスタM1〜MNからメモリアクセス要求を受信し、メモリアクセスをスケジュールする要求の少なくとも一部分を選択する。この例では、アービタ204は、スケジュールするM2、M0およびM3からのメモリ要求を選択する。M2からの要求を最初に、M0からの要求を次に、M3からの要求を最後に処理するようにスケジュールする。要求のメモリアドレスに基づき、これらの要求を処理するには、共用メモリ208におけるページP2、P0およびP3にそれぞれアクセスする必要があることが把握されている。一般に、選択された要求は、コマンド待ち行列210に入り、並べ替えユニット212を通過して、メモリ待ち行列214に入る。
メモリ待ち行列214は、現在処理中のトランザクションを有するステージング領域である。メモリ待ち行列214におけるトランザクションを処理することで、メモリ208内のページP0が提示された場合、(M2に対応する)次のページP2の要求をスケジュールすると、ページミスが生じる。ページミスの結果さらなる遅延が発生し、そのような遅延は、低レイテンシ特性を有するバスマスタにとってとりわけ不利であることを、当業者は理解しよう。
しかしながら、M0からの要求が最初にスケジュールされるように、コマンド待ち行列210における選択された要求を並べ替えることによって、ページP0へのアクセスが必要となり、ページヒットが生じる。並べ替えユニット212は、選択された要求を、コマンド待ち行列210から受信された順序に関係なく並べ替える機能を実行し、その結果、コマンド待ち行列210からの順序で要求を処理する場合よりも低いレイテンシが生じる。並べ替えユニット212はレイテンシ予測器205と連携して、メモリコントローラ206内で選択された要求を並べ替える。
レイテンシ予測器205はメモリ待ち行列214をルックアヘッドして、処理されている現在の要求およびメモリ内の対応するページを判断する。次いでレイテンシ予測器205はコマンド待ち行列210をチェックして、コマンド待ち行列210内の選択された要求がページヒットをもたらすか否かを判断する。そのようなスケジュールされたトランザクション(たとえば、バスマスタM0からのページP0に対する要求)が存在し、それが列内で1番目でない場合、並べ替えユニット212は当該要求を列から外し、メモリ待ち行列214においてメモリアクセスを次にスケジュールする。したがって、ページヒット率に基づいて、メモリコントローラ内で選択された要求に対しメモリアクセスの優先順位が割り当てられ、レイテンシ全体が低くなる。
システムが定常状態の動作モードに達し、選択された要求の初期セットがメモリコントローラ206のスケジューリングパイプラインにある場合、レイテンシ予測器205は、バスアービタ204に対するバスマスタM1〜MNからの将来の要求に関する有用な情報を作成する。レイテンシ予測器205はバスアービタ204に対し、スレーブ側のメモリコントローラ206におけるトランザクションの予想されるレイテンシに関する情報を通信する。これでバスアービタ204は、バスマスタM1〜MNからの将来のメモリ要求をアービトレーションしスケジュールする際には、この情報を備えていることになる。バスアービタは、レイテンシ予測器205からの情報に基づくメモリ要求の予測されるレイテンシ値に沿って従来のアービトレーション方式によりメモリ要求に割り当てられた優先順位値を重み付けする。メモリ要求ごとに統合優先順位値が生成され、メモリ要求はそれに応じてスケジュールされる。
初期条件および定常状態の動作モードに関する上記の説明は、説明のためのものにすぎず、システムは、将来の要求をアービトレーションする際にレイテンシ予測情報を利用する前に、所定の数の選択済み要求がスケジュールされるのを待機することに限定されないことが理解されよう。さらに別の例示的な実施形態では、レイテンシ予測器205は、読取り要求および書込み要求に関する情報も考慮して、スレーブメモリコントローラ206によって処理される読取りアクセスと書込みアクセスとのバランスをとるのを支援する。ロードを効率的に管理するために、システムバス上で読取りトラフィックと書込みトラフィックとのバランスをとることの大切さを、当業者は諒解されよう。
図3は、例示的な実施形態による定常状態における本発明の技法を示すフローチャートを示している。ブロック302において、バスマスタM1〜MNによってメモリアクセス要求が行われる。ブロック304において、バスアービタ204は、要求の少なくとも一部分を選択し、レイテンシ予測器205からのレイテンシ予測に少なくとも部分的に基づいて、要求に優先順位を割り当てる。ブロック305において、選択された要求がスケジューリングのためにスレーブメモリコントローラ206に送られる。ブロック306において、メモリ待ち行列214のルックアヘッド、およびコマンド待ち行列210内の要求に基づいて、コマンド待ち行列内でスケジュールされている要求のうちいずれかが次にスケジュールされた場合にページヒットをもたらすか否かが判断される。ブロック307において、この情報に基づいてレイテンシ予測器205が更新される。コマンド待ち行列による順序からずれた要求をスケジュールするとページヒットが生じると判断された場合、並べ替えユニットは、順序からずれた要求を、次にスケジュールされるようにメモリ待ち行列に送る(ブロック308)。一方、コマンド待ち行列内のスケジュールされている要求のいずれも、ページヒットをもたらさないと判断された場合、スケジュールが維持される。ブロック310において、メモリ要求は、メモリ待ち行列214内でメモリアクセスに向けてステージングされる。
開示する実施形態は、従来のアービトレーション方式によりも有利な点を提供しており、その手段としてメモリスケジューリングを容易にする一方でスケジュールされ得るトランザクションを増やし、メモリアクセスレイテンシの低下、および読取りと書込みとのバランスの改善をもたらしている。したがって、ページヒット率の改善を目的として要求をスケジュールするバスアービトレーション方式は、メモリシステムの帯域幅利用の改善ももたらす。
情報および信号は、多種多様な技術および技法のいずれかを使用して表すことができることを当業者は諒解されよう。たとえば、上記の説明全体にわたって言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁界または磁性粒子、光場または光学粒子、あるいはそれらの任意の組合せによって表され得る。
さらに、本明細書で開示した実施形態に関連して説明した様々な例示的な論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウェア、コンピュータソフトウェア、または両方の組合せとして実装できることを、当業者は諒解されよう。ハードウェアとソフトウェアのこの互換性を明確に示すために、様々な例示的な構成要素、ブロック、モジュール、回路、およびステップを、上記では概してそれらの機能に関して説明した。そのような機能をハードウェアとして実装するか、ソフトウェアとして実装するかは、特定の適用例および全体的なシステムに課される設計制約に依存する。当業者なら、説明した機能を特定の適用例ごとに様々な方法で実装し得るが、そのような実装の決定は、本発明の範囲からの逸脱を生じるものと解釈すべきではない。
本明細書で開示した実施形態と関連して説明した方法、シーケンス、および/またはアルゴリズムは、ハードウェアで、プロセッサによって実行されるソフトウェアモジュールで、またはその2つの組合せで直接実施され得る。ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、リムーバブルディスク、CD-ROM、または当技術分野で知られている任意の他の形態の記憶媒体中に常駐することができる。例示的な記憶媒体は、プロセッサが記憶媒体から情報を読み取り、記憶媒体に情報を書き込むことができるように、プロセッサに結合される。代替として、記憶媒体はプロセッサと一体であり得る。
したがって、実施形態は、メモリアクセスレイテンシを低減するバスアービトレーションのための方法を実施するコンピュータ可読媒体を含むことができる。したがって、様々な実施形態は図示の例に限定されず、本明細書で説明した機能を実行するためのいかなる手段も様々な実施形態中に含まれる。
上記の開示は例示的な実施形態を示すが、添付の特許請求の範囲によって規定される本発明の範囲から逸脱することなく、本明細書において様々な変更および修正を行えることに留意されたい。本明細書で説明した実施形態による方法クレームの機能、ステップおよび/または動作は、特定の順序で実行される必要はない。さらに、様々な実施形態の要素は、単数形で説明または特許請求されていることがあるが、単数形に限定することが明示的に述べられていない限り、複数形が企図される。
M1 バスマスタ
M2 バスマスタ
MN バスマスタ
100 共用メモリシステム
102 相互接続
104 バスアービタ
106 スレーブメモリコントローラ
108 ダブルデータレート(DDR)メモリ
200 メモリシステム
204 バスアービタ
205 レイテンシ予測器
206 メモリコントローラ
208 共用メモリ
210 コマンド待ち行列
212 並べ替えユニット
214 メモリ待ち行列

Claims (21)

  1. 処理システムにおける共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションする方法であって、
    前記共用メモリへの現在スケジュールされているアクセスをルックアヘッドするステップと、
    前記現在スケジュールされているアクセスの特性に基づいて、バスマスタからの前記要求のレイテンシを予測するステップと、
    前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするステップと
    を含む方法。
  2. 前記現在スケジュールされているアクセスの前記特性は、前記要求を処理するためにアクセスされる必要がある前記共用メモリのページである、請求項1に記載の方法。
  3. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするステップは、ページヒット率を高めるようにバスマスタからの前記要求をスケジュールするステップを含む、請求項1に記載の方法。
  4. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするステップは、前記共用メモリに対する読取りトランザクションと書込みトランザクションとのバランスをとるようにバスマスタからの前記要求をスケジュールするステップを含む、請求項1に記載の方法。
  5. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするステップは、バスマスタからの前記要求の一部分を選択するステップを含む、請求項1に記載の方法。
  6. 前記共用メモリへのアクセスを開始する前に、前記処理システムのスレーブ側で前記要求の前記選択された一部分を並べ替えるステップをさらに含む、請求項5に記載の方法。
  7. 共用メモリシステムと、
    前記共用メモリシステムにアクセスすることを求める将来の要求を生成するように構成されたバスマスタと、
    現在スケジュールされている要求を処理するように構成されたメモリコントローラと、
    前記メモリコントローラによって現在スケジュールされている要求の特性に基づいてレイテンシを予測するように構成されたレイテンシ予測器と、
    前記予測されたレイテンシに少なくとも部分的に基づいて、前記将来の要求の少なくとも一部分を選択するように構成されたアービタと
    を含む処理システム。
  8. 現在スケジュールされている要求の前記特性は、前記要求を処理するためにアクセスされる必要がある前記共用メモリのページである、請求項7に記載の処理システム。
  9. 前記予測されたレイテンシに少なくとも部分的に基づいて前記将来の要求の少なくとも一部分を選択し、それにより前記選択された一部分がページヒット率を高めるように前記アービタが構成される、請求項7に記載の処理システム。
  10. 前記予測されたレイテンシに少なくとも部分的に基づいて前記将来の要求の少なくとも一部分を選択し、それにより前記選択された一部分が、前記共用メモリに対する読取りトランザクションと書込みトランザクションとのバランスをとるように前記アービタが構成される、請求項7に記載の処理システム。
  11. 前記メモリコントローラは、
    前記選択された要求を、前記要求が前記アービタから受信された順序で記憶するためのコマンド待ち行列と、
    ページヒット率が高まるように、前記コマンド待ち行列に記憶された要求の前記順序を並べ替えるための並べ替えユニットと、
    前記共用メモリへの現在のアクセスをステージングするためのメモリ待ち行列と
    をさらに含む、請求項7に記載の処理システム。
  12. 共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションするための処理システムであって、
    前記共用メモリへの現在スケジュールされているアクセスをルックアヘッドするための手段と、
    前記現在スケジュールされているアクセスの特性に基づいて、バスマスタからの前記要求のレイテンシを予測するための手段と、
    前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするための手段と
    を含む処理システム。
  13. 前記現在スケジュールされているアクセスの前記特性は、前記共用メモリのページである、請求項12に記載の処理システム。
  14. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするための手段は、ページヒット率を高めるようにバスマスタからの前記要求をスケジュールするための手段を含む、請求項12に記載の処理システム。
  15. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするための手段は、前記共用メモリに対する読取りトランザクションと書込みトランザクションとのバランスをとるようにバスマスタからの前記要求をスケジュールするための手段を含む、請求項12に記載の処理システム。
  16. 前記共用メモリへのアクセスを開始する前に、前記処理システムのスレーブ側で前記要求の選択された一部分を並べ替えるための手段をさらに含む、請求項12に記載の処理システム。
  17. 処理システムにおける共用メモリへのアクセスを求めるバスマスタからの要求をアービトレーションする方法であって、
    前記共用メモリへの現在スケジュールされているアクセスをルックアヘッドするためのステップと、
    前記現在スケジュールされているアクセスの特性に基づいて、バスマスタからの前記要求のレイテンシを予測するためのステップと、
    前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするためのステップと
    を含む方法。
  18. 前記現在スケジュールされているアクセスの前記特性は、前記共用メモリのページである、請求項17に記載の方法。
  19. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするためのステップは、ページヒット率を高めるようにバスマスタからの前記要求をスケジュールするためのステップを含む、請求項17に記載の方法。
  20. 前記予測されたレイテンシに少なくとも部分的に基づいて、バスマスタからの前記要求をスケジュールするためのステップは、前記共用メモリに対する読取りトランザクションと書込みトランザクションとのバランスをとるようにバスマスタからの前記要求をスケジュールするためのステップを含む、請求項17に記載の方法。
  21. 前記共用メモリへのアクセスを開始する前に、前記処理システムのスレーブ側で前記要求の選択された一部分を並べ替えるためのステップをさらに含む、請求項17に記載の方法。
JP2013505149A 2010-04-14 2011-04-14 アクセスレイテンシを低減するバスアービトレーション技法 Expired - Fee Related JP5552569B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/760,298 US8539129B2 (en) 2010-04-14 2010-04-14 Bus arbitration techniques to reduce access latency
US12/760,298 2010-04-14
PCT/US2011/032544 WO2011130547A1 (en) 2010-04-14 2011-04-14 Bus arbitration techniques to reduce access latency

Publications (2)

Publication Number Publication Date
JP2013524388A true JP2013524388A (ja) 2013-06-17
JP5552569B2 JP5552569B2 (ja) 2014-07-16

Family

ID=44114304

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013505149A Expired - Fee Related JP5552569B2 (ja) 2010-04-14 2011-04-14 アクセスレイテンシを低減するバスアービトレーション技法

Country Status (7)

Country Link
US (1) US8539129B2 (ja)
EP (1) EP2558943A1 (ja)
JP (1) JP5552569B2 (ja)
KR (2) KR101461449B1 (ja)
CN (1) CN102834816B (ja)
TW (1) TW201202939A (ja)
WO (1) WO2011130547A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015533005A (ja) * 2012-10-26 2015-11-16 ミリキーニ,グラッツィアーノ 可変レイテンシを有するメモリオペレーションのための装置及び方法
JP2015536503A (ja) * 2012-10-26 2015-12-21 マイクロン テクノロジー, インク. 可変レイテンシを有するメモリオペレーションのための装置及び方法
WO2016117190A1 (ja) * 2015-01-22 2016-07-28 ソニー株式会社 メモリコントローラ、記憶装置、情報処理システムおよびメモリの制御方法
US10223263B2 (en) 2013-08-14 2019-03-05 Micron Technology, Inc. Apparatuses and methods for providing data to a configurable storage area
JP2020520019A (ja) * 2017-05-15 2020-07-02 ザイリンクス インコーポレイテッドXilinx Incorporated メモリ要求の適応スケジューリング

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101699784B1 (ko) 2010-10-19 2017-01-25 삼성전자주식회사 버스 시스템 및 그것의 동작 방법
US8819379B2 (en) 2011-11-15 2014-08-26 Memory Technologies Llc Allocating memory based on performance ranking
US9135195B2 (en) 2012-07-24 2015-09-15 Freescasle Semiconductor, Inc. Prediction of electronic component behavior in bus-based systems
US9224452B2 (en) * 2013-01-17 2015-12-29 Qualcomm Incorporated Heterogeneous memory systems, and related methods and computer-readable media for supporting heterogeneous memory access requests in processor-based systems
US9734097B2 (en) 2013-03-15 2017-08-15 Micron Technology, Inc. Apparatuses and methods for variable latency memory operations
US9372818B2 (en) * 2013-03-15 2016-06-21 Atmel Corporation Proactive quality of service in multi-matrix system bus
KR102034626B1 (ko) * 2013-06-26 2019-10-21 삼성전자 주식회사 메모리 동작을 제어하는 방법 및 장치
US11768689B2 (en) 2013-08-08 2023-09-26 Movidius Limited Apparatus, systems, and methods for low power computational imaging
US9934043B2 (en) * 2013-08-08 2018-04-03 Linear Algebra Technologies Limited Apparatus, systems, and methods for providing computational imaging pipeline
US9459676B2 (en) * 2013-10-28 2016-10-04 International Business Machines Corporation Data storage device control with power hazard mode
WO2015067295A1 (en) 2013-11-05 2015-05-14 Huawei Technologies Co., Ltd. Method and arrangement for controlling requests to a shared electronic resource
CN104794079B (zh) * 2015-03-31 2017-12-29 华为技术有限公司 一种总线仲裁的方法、装置及系统
US9639280B2 (en) * 2015-06-18 2017-05-02 Advanced Micro Devices, Inc. Ordering memory commands in a computer system
KR102360214B1 (ko) 2015-08-26 2022-02-08 삼성전자주식회사 실시간 공유 인터페이스를 포함하는 시스템 온 칩의 스케쥴링 방법
CN105243033B (zh) * 2015-09-28 2018-05-25 北京联想核芯科技有限公司 数据处理方法及电子设备
KR102396309B1 (ko) 2015-11-06 2022-05-10 삼성전자주식회사 데이터 요청을 제어하기 위한 장치 및 방법
USD797085S1 (en) 2015-12-10 2017-09-12 Samsung Electronics Co., Ltd. Television receiver
KR102500821B1 (ko) 2015-12-29 2023-02-17 삼성전자주식회사 복수의 회로들 및 복수의 회로들을 연결하는 버스를 포함하는 반도체 장치 및 반도체 장치의 동작 방법
CN106776390A (zh) * 2016-12-06 2017-05-31 中国电子科技集团公司第三十二研究所 多设备访问存储器的实现方法
US10496577B2 (en) * 2017-02-09 2019-12-03 Hewlett Packard Enterprise Development Lp Distribution of master device tasks among bus queues
US10275352B1 (en) 2017-12-28 2019-04-30 Advanced Micro Devices, Inc. Supporting responses for memory types with non-uniform latencies on same channel
US10990321B2 (en) 2019-02-20 2021-04-27 Micron Technology, Inc. Memory sub-system for supporting deterministic and non-deterministic commands based on command expiration and the state of the intermediate command queue
US20210200694A1 (en) * 2019-12-27 2021-07-01 Advanced Micro Devices, Inc. Staging buffer arbitration
CN111459414B (zh) * 2020-04-10 2023-06-02 上海兆芯集成电路有限公司 存储器调度方法及存储器控制器
US11372703B1 (en) 2021-02-19 2022-06-28 International Business Machines Corporation Reduced system memory latency via a variable latency interface

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030033493A1 (en) * 2001-08-09 2003-02-13 Cismas Sorin C. Random access memory controller with out of order execution
US20050097265A1 (en) * 2003-11-05 2005-05-05 Denali Software, Inc. Reactive placement controller for interfacing with banked memory storage
JP2008287528A (ja) * 2007-05-18 2008-11-27 Renesas Technology Corp リクエスト調停装置及びメモリコントローラ
US20090204771A1 (en) * 2008-02-12 2009-08-13 Isao Kawamoto Device for controlling access from a plurality of masters to shared memory composed of a plurality of banks each having a plurality of pages

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6385708B1 (en) * 1998-11-16 2002-05-07 Infineon Technologies Ag Using a timing-look-up-table and page timers to determine the time between two consecutive memory accesses
US7127573B1 (en) 2000-05-04 2006-10-24 Advanced Micro Devices, Inc. Memory controller providing multiple power modes for accessing memory devices by reordering memory transactions
US6564304B1 (en) * 2000-09-01 2003-05-13 Ati Technologies Inc. Memory processing system and method for accessing memory including reordering memory requests to reduce mode switching
US6785793B2 (en) * 2001-09-27 2004-08-31 Intel Corporation Method and apparatus for memory access scheduling to reduce memory access latency
US7069399B2 (en) * 2003-01-15 2006-06-27 Via Technologies Inc. Method and related apparatus for reordering access requests used to access main memory of a data processing system
KR100518576B1 (ko) * 2003-05-24 2005-10-04 삼성전자주식회사 버스 중재기 및 버스 중재방법
US7206866B2 (en) * 2003-08-20 2007-04-17 Microsoft Corporation Continuous media priority aware storage scheduler
US7581073B2 (en) 2006-08-09 2009-08-25 International Business Machines Corporation Systems and methods for providing distributed autonomous power management in a memory system
US20080162852A1 (en) * 2006-12-28 2008-07-03 Surya Kareenahalli Tier-based memory read/write micro-command scheduler
US7724602B2 (en) 2007-07-10 2010-05-25 International Business Machines Corporation Memory controller with programmable regression model for power control
KR101228934B1 (ko) 2007-08-28 2013-02-01 삼성전자주식회사 컴퓨터 시스템, 그 제어 방법 및 데이터 처리 장치
US7734854B2 (en) * 2008-01-04 2010-06-08 International Business Machines Corporation Device, system, and method of handling transactions
US8032678B2 (en) * 2008-11-05 2011-10-04 Mediatek Inc. Shared resource arbitration
CN101639817B (zh) * 2009-03-13 2012-01-25 青岛海信信芯科技有限公司 一种存储器的控制方法、存储器控制器和存储器控制系统
US8380916B2 (en) * 2009-06-04 2013-02-19 Micron Technology, Inc. Control of page access in memory
US9842068B2 (en) * 2010-04-14 2017-12-12 Qualcomm Incorporated Methods of bus arbitration for low power memory access

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030033493A1 (en) * 2001-08-09 2003-02-13 Cismas Sorin C. Random access memory controller with out of order execution
US20050097265A1 (en) * 2003-11-05 2005-05-05 Denali Software, Inc. Reactive placement controller for interfacing with banked memory storage
JP2008287528A (ja) * 2007-05-18 2008-11-27 Renesas Technology Corp リクエスト調停装置及びメモリコントローラ
US20090204771A1 (en) * 2008-02-12 2009-08-13 Isao Kawamoto Device for controlling access from a plurality of masters to shared memory composed of a plurality of banks each having a plurality of pages
JP2009193107A (ja) * 2008-02-12 2009-08-27 Panasonic Corp メモリアクセス装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015533005A (ja) * 2012-10-26 2015-11-16 ミリキーニ,グラッツィアーノ 可変レイテンシを有するメモリオペレーションのための装置及び方法
JP2015536503A (ja) * 2012-10-26 2015-12-21 マイクロン テクノロジー, インク. 可変レイテンシを有するメモリオペレーションのための装置及び方法
US10223263B2 (en) 2013-08-14 2019-03-05 Micron Technology, Inc. Apparatuses and methods for providing data to a configurable storage area
US10860482B2 (en) 2013-08-14 2020-12-08 Micron Technology, Inc. Apparatuses and methods for providing data to a configurable storage area
WO2016117190A1 (ja) * 2015-01-22 2016-07-28 ソニー株式会社 メモリコントローラ、記憶装置、情報処理システムおよびメモリの制御方法
US10318210B2 (en) 2015-01-22 2019-06-11 Sony Corporation Memory controller, storage device, information processing system, and method of controlling memory
JP2020520019A (ja) * 2017-05-15 2020-07-02 ザイリンクス インコーポレイテッドXilinx Incorporated メモリ要求の適応スケジューリング
JP7084422B2 (ja) 2017-05-15 2022-06-14 ザイリンクス インコーポレイテッド メモリ要求の適応スケジューリング

Also Published As

Publication number Publication date
US20110258353A1 (en) 2011-10-20
EP2558943A1 (en) 2013-02-20
KR20130031258A (ko) 2013-03-28
WO2011130547A1 (en) 2011-10-20
CN102834816B (zh) 2016-01-20
US8539129B2 (en) 2013-09-17
KR101426461B1 (ko) 2014-08-05
TW201202939A (en) 2012-01-16
JP5552569B2 (ja) 2014-07-16
KR20140046040A (ko) 2014-04-17
KR101461449B1 (ko) 2014-11-18
CN102834816A (zh) 2012-12-19

Similar Documents

Publication Publication Date Title
JP5552569B2 (ja) アクセスレイテンシを低減するバスアービトレーション技法
CN107078959B (zh) 用于减轻分布式非核结构中的业务量引导低效的系统和方法
CN100472494C (zh) 支持多总线多类型存储器的内存仲裁实现系统和方法
US8190801B2 (en) Interconnect logic for a data processing apparatus
CN111742305A (zh) 调度具有不统一等待时间的存储器请求
EP2558944B1 (en) Methods of bus arbitration for low power memory access
JP5498505B2 (ja) データバースト間の競合の解決
KR102106541B1 (ko) 공유 리소스 액세스 중재 방법 및 이를 수행하기 위한 공유 리소스 액세스 중재 장치 및 공유 리소스 액세스 중재 시스템
CN107003962B (zh) 保持计算系统中高速缓存一致性的方法、装置和计算系统
TWI603198B (zh) 以複數個引擎作資源與互連結構的分散式分配以支援指令序列的執行
CN111684430A (zh) 支持同一信道上对不统一等待时间的存储器类型的响应
US9984014B2 (en) Semiconductor device
US8930601B2 (en) Transaction routing device and method for routing transactions in an integrated circuit
US8667199B2 (en) Data processing apparatus and method for performing multi-cycle arbitration
CN110059035B (zh) 半导体装置和总线发生器
JP5911548B1 (ja) 共有メモリへのアクセス要求をスケジューリングするための装置、方法およびコンピュータプログラム
JP5382113B2 (ja) 記憶制御装置及びその制御方法
Jun et al. Slack-based bus arbitration scheme for soft real-time constrained embedded systems
US20040243770A1 (en) Data transfer system
JP7292044B2 (ja) 制御装置および制御方法
KR101013769B1 (ko) 버스 중재방법 및 장치
JP2007219821A (ja) 共有経路調停方法及びマルチシステム
Hassan et al. Off-Chip SDRAM Access Through Spidergon STNoC
JP2006172164A (ja) バス調停システム及びバス調停方法
JP2011242928A (ja) 半導体装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140526

R150 Certificate of patent or registration of utility model

Ref document number: 5552569

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees