JP2018022524A - マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成 - Google Patents

マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成 Download PDF

Info

Publication number
JP2018022524A
JP2018022524A JP2017198250A JP2017198250A JP2018022524A JP 2018022524 A JP2018022524 A JP 2018022524A JP 2017198250 A JP2017198250 A JP 2017198250A JP 2017198250 A JP2017198250 A JP 2017198250A JP 2018022524 A JP2018022524 A JP 2018022524A
Authority
JP
Japan
Prior art keywords
application
applications
swap
data
mps
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017198250A
Other languages
English (en)
Other versions
JP6453971B2 (ja
Inventor
カク,ウィルバー・ウィリアム
William Kaku Wilbur
パーネル,マイケル・ライル
Lyle Purnell Michael
エリス,ジェフリー・ニール
Neil Ellis Geoffrey
ビアズリー,ジョン・マーク
Mark Beardslee John
シャング,チョン・チン
Zhong Qing Shang
ワン,テン−イ
Teng-I Wang
リム,スティーヴン・イー
E Lim Stephen
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Coherent Logix Inc
Original Assignee
Coherent Logix Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Coherent Logix Inc filed Critical Coherent Logix Inc
Publication of JP2018022524A publication Critical patent/JP2018022524A/ja
Application granted granted Critical
Publication of JP6453971B2 publication Critical patent/JP6453971B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/485Task life-cycle, e.g. stopping, restarting, resuming execution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/60Software deployment
    • G06F8/65Updates
    • G06F8/656Updates while running
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/461Saving or restoring of program or task context
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/485Task life-cycle, e.g. stopping, restarting, resuming execution
    • G06F9/4856Task life-cycle, e.g. stopping, restarting, resuming execution resumption being on a different machine, e.g. task migration, virtual machine migration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5066Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5077Logical partitioning of resources; Management or configuration of virtualized resources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/48Indexing scheme relating to G06F9/48
    • G06F2209/482Application
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/48Indexing scheme relating to G06F9/48
    • G06F2209/483Multiproc

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Stored Programmes (AREA)
  • Multi Processors (AREA)
  • Hardware Redundancy (AREA)

Abstract

【課題】マルチプロセッサシステム、及びマルチプロセッサシステム上で実行されるアプリケーションをスワップするためのシステム方法を提供する。【解決手段】複数のアプリケーションは、第1のアプリケーションと、複数の他のアプリケーションを含んでよい。第1のアプリケーションは、第2のアプリケーションと動的にスワップする。このスワップは、上記複数の他のアプリケーションを停止させることなく実施できる。上記複数の他のアプリケーションは、リアルタイム動作を実施してリアルタイムデータを処理するために、スワップ中も実行され続ける。スワップ後、上記複数の他のアプリケーションは、第2のアプリケーションと共に実行され続ける。上記複数の他のアプリケーションの少なくともサブセットは、リアルタイム動作を実施してリアルタイムデータを処理するために、第2のアプリケーションと通信する。【選択図】図22

Description

本発明はマルチプロセッサシステムに関し、より詳細にはマルチプロセッサシステム(MPS)上で実行されるソフトウェアアプリケーションの再構成に関する。
組込みシステムは、リアルタイムコンピューティングの制約を有する場合が多い、特定機能用に設計されたコンピュータシステムとして説明できる。組込みシステムは物理的には、ビデオ及び/又は音声デバイス等の携帯型消費者用電子デバイスから、信号機、工場用コントローラ並びにハイブリッド車及び航空電子機器等の大部分が複雑なシステムといった、大型据付設備にまで亘る。組込みシステムは入力信号を受信して該信号をリアルタイムに処理することにより、特定のリアルタイム動作を実施できる。組込みシステムはその代わりに(又はそれに加えて)、リアルタイム処理を実施して出力信号を生成できる。
組込みシステムが実施する処理は、異なる複数の方法で実装できる。いくつかのデバイスは、フィールドプログラマブルゲートアレイ(FPGA)又は他のプログラマブル論理デバイスを用いる。FPGAは、記憶された命令型ソフトウェアプログラミングアプローチを用いることなく、複雑なシステムを実装する手段である。あるいはこれらのデバイスは、VHDL又はVerilog等のハードウェア記述言語を使用して構成され、ユーザはこのハードウェア記述言語を用いて、相互接続された電子構成部品のセットを記述できる。FPGAはこの相互接続設計を、チップを初期化している時にヒューズをプログラミングすること又は構成メモリ位置を設定することによって実現できる。
組込みシステムはまた、1つ又は複数のプロセッサ又はデジタル信号処理(DSP)エンジンを用いて実装することもできる。例えば従来の粗粒度プログラマブル組込みシステムは、少数のプロセッサ又はDSPエンジン、例えば2個又は4個のプロセッサコア、及び固定型又はプログラマブル特定用途向け論理機能を有する場合がある。これらのシステムは通常、アドレス指定できるデータ及び命令メモリの範囲を拡張するために、大型のデータ及び命令メモリを有し、又は仮想メモリスキームを利用する。
場合によっては、組込みシステムを実行時に再プログラムすること、例えばシステムを停止させずに再プログラミングが行われることが望ましい場合がある。しかしながら、FPGAベースの組込みシステム及び従来のプロセッサベースの組込みシステムの両方は、このような再プログラミングを問題のあるものにする欠点を有している。例えばいくつかのFPGAデバイスは、実行時間中にFPGAの特定の物理的領域を再構成するための限定的な能力を有する場合があるが、実行時に異なるアプリケーションを実施するためにFPGAを動的に再プログラムするのは一般に困難である。例えばFPGA再構成可能性は、論理(又はアプリケーション)に基づくものではなく、論理設計のどの部分がチップの特定の物理的部分にマッピングされているかに基づくものであり得る。FPGA上のある設計の論理及び物理マッピングを整列させるためには多大な努力が必要となり得るが、これは実装を極めて非効率的なものとしてしまう傾向がある。
従来のプロセッサベースのシステムでは、公知のマルチタスク化技術によって異なる複数のアプリケーション間で処理パワーを共有できる。このアプローチでは、2つ以上のアプリケーションをインターリーブ型様式で同一のプロセッサ上で同時に実行できる。プロセッサは複数のアプリケーションの状態を動的に管理する。しかしながらこれは性能ペナルティを招き、リアルタイム組込みシステムにとって許容できないものであり得る非決定的時間遅延を導入することがある。
従って、例えばシステムの実行を停止させずに複数のアプリケーションを動的にスワップすることによって実行時のシステムの再プログラミングを実施できる改善された能力を提供する、リアルタイム組込みシステムを提供することが望ましい場合がある。
マルチプロセッサシステム上で実行されるアプリケーションをスワップするためのマルチプロセッサシステム及び関連方法の様々な実施形態が開示される。このマルチプロセッサシステムは、複数のプロセッサと、プロセッサ間に散在する複数のメモリとを含んでよい。複数のアプリケーションをマルチプロセッサシステム上にロードしてよい。アプリケーションをロードするステップは、関連するプロセッサによる実行のために、複数のアプリケーションからの命令及びデータを、複数のメモリのうちの異なる1つずつに分散させるステップを含んでよい。上記複数のアプリケーションが、マルチプロセッサシステム上で実行され得る。いくつかの実施形態では、複数のアプリケーションは共に実行され、互いに通信して、リアルタイム動作を実施してよい。例えば複数のアプリケーションはリアルタイムデータを処理してよい。リアルタイム動作は、リアルタイムデータを伴う入力又は出力のうちの少なくとも一方を実施してよい。
上記複数のアプリケーションは、第1のアプリケーションと、複数の他のアプリケーションとを含んでよい。いくつかの実施形態によると、第1のアプリケーションは第2のアプリケーションとスワップしてよく、ここで第2のアプリケーションは、マルチプロセッサシステム上に既にロードされて実行された上記複数のアプリケーションのうちの1つではなくてよい。上記スワップは、上記複数の他のアプリケーションを停止させることなく実施できる。換言すると、上記複数の他のアプリケーションは、リアルタイム動作を実施するため及びリアルタイムデータを処理するために、上記スワップ中に実行され続けてよい。上記スワップ後、上記複数の他のアプリケーションは、第2のアプリケーションと共に実行され続けてよく、上記複数の他のアプリケーションの少なくともサブセットは、リアルタイム動作を実施するため及びリアルタイムデータを処理するために、第2のアプリケーションと通信してよい。上記複数の他のアプリケーションは、上記スワップが発生していることに気づかなくてよい。第2のアプリケーションのプログラム命令及びデータを、1つ又は複数のメモリにロードするステップは、上記命令及びデータを、マルチプロセッサシステムを通して、2つ以上のスワップルートに沿って送信するステップを含んでよい(通信ルートは、マルチプロセッサシステム内での通信を物理的に実装する1つの手段である)。各スワップルートは特定のメモリと関連してよく、またそのメモリに命令/データをロードするために使用してよい。
上記スワップの前に、第1のアプリケーションは上記複数のプロセッサの第1のサブセット上で実行されてよい。いくつかの実施形態では、スワップは、上記複数のプロセッサの第1のサブセット上の第1のアプリケーションを停止させるステップ、第1のアプリケーションを、マルチプロセッサシステムの外部の1つ又は複数の外部リソースから切断するステップ、及び任意に第1のアプリケーションの状態を保存するステップを含んでよい。スワップは更に、第2のアプリケーションのスワップインの前に、上記複数のプロセッサの第1のサブセットを初期化して、既知の状態とするステップを含んでよい。スワップは更に、第1のアプリケーションと上記他のアプリケーションのうちの1つ又は複数との通信を切断するステップを含んでよい。
次にスワップは、上記複数のプロセッサの第1のサブセットと関連するメモリに第2のアプリケーションをロードするステップを伴ってよい。第2のアプリケーションのロード後、第2のアプリケーションを1つ又は複数の外部リソースに連結してよく、この1つ又は複数の外部リソースは、第1のアプリケーションが以前に連結されていたものと同一の1つ又は複数の外部リソースであってよい。第2のアプリケーションをロードした後、スワップは更に、第2のアプリケーションと上記他のアプリケーションのうちの1つ又は複数との通信を連結するステップを含んでよく、上記他のアプリケーションのうちの1つ又は複数は、第1のアプリケーションが以前に通信していたものと同一のアプリケーションであってよく、又は異なるアプリケーションであってよい。
いくつかの実施形態では、1つ又は複数の第1のバッファメモリを、上記複数のプロセッサの第1のサブセットと、上記複数のプロセッサの他のサブセットとの間に連結してよい。第1のアプリケーションの通信を切断するステップは、上記1つ又は複数の第1のバッファメモリを制御して、例えば第1のバッファメモリが実施する第1のアプリケーションへの及び/又は第1のアプリケーションからの通信を変更することによって、上記切断するステップを可能とするステップを含んでよい。
いくつかの実施形態では、第1のアプリケーションは第1のバッファメモリの下流側にあってよく、第1のバッファメモリが実施する通信を変更するステップは、第1のバッファメモリがスワップ中に送信側アプリケーションからデータを受信するのを中断させるステップを含んでよい。いくつかの実施形態では、送信側アプリケーションは、第1のバッファメモリが送信側アプリケーションからデータを受信するのを中断したことに応答してストールしてよい。他の実施形態では、上記変更するステップは、送信側アプリケーションからデータを受信して、第1のバッファメモリのスワップ中に、スワップの前に記憶したデータまたは前記スワップの前までに送信されていないデータを上書きするステップを含んでよい。
他の実施形態では、第1のアプリケーションは第1のバッファメモリの上流側にあってよく、第1のバッファメモリが実施する通信を変更するステップは、第1のバッファメモリがスワップ中に受信側アプリケーションにデータを転送するのを中断させるステップを含んでよい。いくつかの実施形態では、第1のアプリケーションからの着信データがそれ以上存在しなくなると、第1のバッファメモリは受信側アプリケーションへのデータ転送を中断してよい。他の実施形態では、上記変更するステップは、スワップ中に受信側アプリケーションに、データ、例えば第1のアプリケーションが以前に受信して第1のバッファメモリが記憶したデータを2回以上繰り返し送信するよう、第1のバッファメモリを構成するステップを含んでよい。従ってスワップ中に、同一のデータが受信側アプリケーションに繰り返し送信され得る。
いくつかの実施形態では、第1のアプリケーションは、第1のバッファメモリを介して構造化データ要素と通信してよい。各データ要素は、開始境界及び終了境界を有してよい。第1のバッファメモリは、第1のデータ要素の伝送が開始された後に、データ通信を中断する要求を受信してよい。いくつかの実施形態では、第1のバッファメモリは、第1のデータ要素の伝送を、第1のデータ要素の終了境界まで続行してよい。
第2のアプリケーションをスワップインする際、バッファメモリのうちの1つ又は複数を構成することによって、第2のアプリケーションは、第2のアプリケーションが通信する1つ又は複数のアプリケーションと連結してよい。例えば、第2のアプリケーションが、第1のアプリケーションと同一の他の1つ又は複数のアプリケーションと通信する場合、上記他の1つ又は複数のアプリケーションから第1のアプリケーションを切断するステップに関わるものと同一の1つ又は複数の第1のバッファを制御することによって、第2のアプリケーションをこれら他の1つ又は複数のアプリケーションと連結してよい。
例えば第1のアプリケーションは、所定のバッファメモリから下流側にあってよく、バッファメモリは、第1のアプリケーションがスワップアウトされると、送信側アプリケーションからデータを受信するのを中断してよい。第2のアプリケーションをスワップインすると、データを受信するモードにバッファメモリを戻してよい。従って第2のアプリケーションの実行を開始すると、送信側アプリケーションが送信したデータは、送信側アプリケーションからデータを以前に受信していた第1のアプリケーションの代わりに、第2のアプリケーションに送信されてよい。
別の例として、第1のアプリケーションは、所定のバッファメモリから上流側にあってよく、バッファメモリは、第1のアプリケーションがスワップアウトされると、受信側アプリケーションにデータを転送するのを中断してよい。第2のアプリケーションをスワップインすると、データを転送するモードにバッファメモリを戻してよい。従って第2のアプリケーションの実行を開始すると、受信側アプリケーションは、受信側アプリケーションにデータを以前に送信していた第1のアプリケーションの代わりに、第2のアプリケーションから受信されてよい。
第2のアプリケーションは、第1のアプリケーションを実行するために以前使用されていたものと同一の、マルチプロセッサシステムのプロセッサのサブセット上で実行されてよく、又はプロセッサの異なるサブセット、若しくは同一のプロセッサと異なるプロセッサとの組み合わせ上で実行されてよい。スワップは、第2のアプリケーションのプログラム命令及び/又はデータを、第2のアプリケーションを実行するプロセッサのサブセットと関連する1つ又は複数のメモリにロードするステップを含んでよい。いくつかの実施形態では、第2のアプリケーションを、RAMデバイス、フラッシュメモリデバイス、又はマルチプロセッサシステムの外部の他のメモリデバイスといった外部メモリデバイスから、1つ又は複数のメモリにロードしてよい。他の実施形態では、第2のアプリケーションを、マルチプロセッサシステムの外側の外部プロセッサが伝送する命令ストリームから、1つ又は複数のメモリにロードしてよい。
いくつかの実施形態では、2つ以上のスワップルートは、第1の部分を共有してよく、この第1の部分を、スワップルートのトランク部分と呼ぶ。このトランク部分は、マルチプロセッサシステムのI/Oポートから、マルチプロセッサシステム内の終点へのルートを含んでよい。スワップルートの第2の部分は、トランクルートの終点を、第2のアプリケーションが使用する標的のメモリデバイスに接続してよい。
いくつかの実施形態では、第1のアプリケーションは、マルチプロセッサシステム上で実行される他のアプリケーションのうちの1つからの情報の受信に応答して、第2のアプリケーションとスワップされてよく、例えばこの情報は、第1のアプリケーションをスワップアウトするべきであることを示す。他の実施形態では、スワップは、第1のアプリケーションをスワップアウトするべきであることを示す外部信号の受信に応答して、第1のアプリケーションをスワップアウトするステップを含んでよい。外部信号は、マルチプロセッサシステムの外側から受信されてよい。例えばいくつかの実施形態では、外部信号は、マルチプロセッサシステムの外部のプロセッサ上で実行されるシステムコントローラプログラムから受信されてよい。
いくつかの実施形態では、親タスク又は管理タスクを、複数のアプリケーションと共にマルチプロセッサシステム上で実行してよい。管理タスクは、マルチプロセッサシステムのプロセッサのうちの1つ又は複数の上で実行されてよく、第1のアプリケーションと第2のアプリケーションとのスワップを管理するよう構成されてよい。
いくつかの実施形態では、第2のアプリケーションは複数の実行可能なタスクを含んでよく、第1のアプリケーションを第2のアプリケーションとスワップするステップは、各タスクを、マルチプロセッサシステムの異なるプロセッサによって実行されるよう構成するステップを含んでよい。
いくつかの実施形態では、第1のアプリケーションを第2のアプリケーションとスワップするステップは、マルチプロセッサシステムの外部の2つ以上のソースメモリデバイスから、2つ以上の命令ストリームをマルチプロセッサシステムに同時に伝送するステップを含んでよい。各命令ストリームは、第2のアプリケーションのプログラム命令を含んでよい。
いくつかの実施形態では、スワップは、第1のアプリケーションを複数の第2のアプリケーションと同時にスワップするステップを含んでよい。上記複数の第2のアプリケーションは、異なるソースメモリデバイスからマルチプロセッサシステムに同時にロードされてよい。
更なる実施形態では、プログラム命令をコンピュータアクセス可能な記憶媒体に記憶してよい。プログラム命令は、マルチプロセッサシステム上に複数のアプリケーションをロードするために、マルチプロセッサシステムによって実行できるものであってよい。マルチプロセッサシステムは、複数のプロセッサと、プロセッサ間に散在する複数のメモリとを含んでよい。上記ロードするステップは、複数のアプリケーションからの命令及びデータを、関連するプロセッサによる実行のために、複数のメモリのうちの異なる1つずつに分散させるステップを含んでよい。
プログラム命令は更に、マルチプロセッサシステム上での複数のアプリケーションの実行を開始させるために、マルチプロセッサシステムによって実行できるものであってよい。複数のアプリケーションは、リアルタイム動作を実施するために共に実行され、互いに通信してよい。リアルタイム動作は、リアルタイムデータを伴う入力又は出力のうちの少なくとも一方を実施してよい。複数のアプリケーションは、リアルタイムデータを処理してよい。
上記複数のアプリケーションは、第1のアプリケーションと、複数の他のアプリケーションとを含んでよい。プログラム命令は更に、第1のアプリケーションを第2のアプリケーションとスワップするためにマルチプロセッサシステムが実行できるものであってよく、ここで第2のアプリケーションは、マルチプロセッサシステム上に既にロードされて実行された上記複数のアプリケーションのうちの1つではない。上記スワップは、上記複数の他のアプリケーションを停止させることなく実施できる。換言すると、上記複数の他のアプリケーションは、リアルタイム動作を実施するため及びリアルタイムデータを処理するために、上記スワップ中に実行され続けてよい。上記スワップ後、上記複数の他のアプリケーションは、第2のアプリケーションと共に実行され続けてよい。上記複数の他のアプリケーションの少なくともサブセットは、リアルタイム動作を実施するため及びリアルタイムデータを処理するために、第2のアプリケーションと通信してよい。第2のアプリケーションのプログラム命令及びデータを、1つ又は複数のメモリにロードするステップは、上記命令及びデータを、マルチプロセッサシステムを通して、2つ以上のスワップルートに沿って送信するステップを含んでよい(通信ルートは、マルチプロセッサシステム内での通信を物理的に実装する1つの手段である)。各スワップルートは特定のメモリと関連してよく、またそのメモリに命令/データをロードするために使用してよい。
いくつかの実施形態によると、マルチプロセッサシステムは:複数のプロセッサ;プロセッサ間に散在する複数のメモリ;及び複数のプロセッサとプロセッサ間に散在する複数のメモリとを相互接続する通信ファブリックを含んでよい。通信ファブリックは、上記複数のプロセッサの少なくともサブセット間に散在する複数のバッファメモリを含んでよい。複数のバッファメモリは、マルチプロセッサシステム中で実行されるアプリケーション間でデータを通信するよう構成可能なものであってよい。リアルタイムデータの受信及び/又は伝送並びにリアルタイムデータの処理を含むリアルタイム動作を実施するために、マルチプロセッサシステム上で複数のアプリケーションを実行している間、複数のバッファメモリは、第1のアプリケーションを第2のアプリケーションとスワップする間に、アクティブなアプリケーション間の接続を切断及び復元するよう構成可能なものであってよい。
いくつかの実施形態では、マルチプロセッサシステムは更に、複数のプロセッサ間で連結された複数のデータメモリルータ(DMR)を含んでよい。DMRは、プロセッサ間に散在する複数のメモリを含んでよい。
図1Aは、例示的なビデオカメラを示す。 図1Bは、上記ビデオカメラに含まれるか又は連結されてよい組込みシステムを示し、この組込みシステムは、スワップ可能な複数のアプリケーションを用いて構成されたマルチプロセッサシステム(MPS)を利用する。 図2Aは、例示的な携帯電話を示す。 図2Bは、上記電話において使用されるMPSを示し、このMPSはスワップ可能な複数のアプリケーションで構成される。 図2Cは、上記電話において使用されるMPSを示し、このMPSはスワップ可能な複数のアプリケーションで構成される。 図3Aは、無線トランスミッタ/レシーバデバイスを示す。図3Bは、上記無線デバイスによって実施され得る通信アルゴリズムを示し、この通信アルゴリズムは、MPS上で実行されるスワップ可能な複数のアプリケーションを用いて実装される。 図4は、一実施形態によるMPSのためのHyperX(商標)アーキテクチャの一例を示す。 図5は、一実施形態によるMPSのためのHyperX(商標)アーキテクチャの一例を示す。 図6は、一実施形態によるMPSのためのHyperX(商標)アーキテクチャの一例を示す。 図7は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図8は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図9は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図10は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図11は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図12は、一実施形態によるMPS上で実行されるアルゴリズムの例示的な一部分を示す。 図13は、複数のアプリケーションが実行されているMPSの例を示す。 図14は、アプリケーションをスワップアウトし、別のアプリケーションをスワップインして所定の位置とした後の、図13のMPSを示す。 図15は、3つのアプリケーションを2つの他のアプリケーションと置換した後の、図13のMPSを示す。 図16は、MPS内部で実行されるアプリケーションによるアプリケーションスワップを開始するために親タスクがトリガされる実施形態を示す。 図17は、MPSの外側に位置する汎用プロセッサ(GPP)上で実行されるシステムコントローラプログラムによるアプリケーションスワップを開始するために親タスクがトリガされる、異なる実施形態を示す。 図18は、親タスクがシステムコントローラと共に外部GPP上で実行される実施形態を示す。 図19は、外部メモリデバイスからのアプリケーションのスワップインに関わるリソースを示す。 図20は、外部プロセッサからMPSに命令及びデータストリームを送信することによって、アプリケーションコードがMPSにロードされる、代替実施形態を示す。 図21は、2つの異なる外部RAMデバイスから、2つのアプリケーションがMPSに同時にスワップインされる実施形態を示す。 図22は、アプリケーションをスワップインして再びスワップアウトするライフサイクルを示す。 図23は、単純なアプリケーションをスワップインして再びスワップアウトするライフサイクルを示す。 図24は、アプリケーションスワップを実装するために必要な、実行可能なソフトウェアコードを生成するための、ソフトウェアツールのセットを示す。 図25は、MPS上のあるアプリケーション構成から、そのMPS上の別のアプリケーション構成への遷移を示す。 図26は、相互に干渉していない複数のアプリケーションのセットを構成するために開発段階中に使用してよい、開発ワークフローを示す。 図27は、あるアプリケーションをスワップインするために複数のスワップルートが使用されている例を示す。 図28は、アイソレータを介してデータを通過させることによって、あるスワップ可能なアプリケーションが他のアプリケーションと通信する例を示す。
本開示は様々な修正及び代替形態を許容するものであるが、その具体的な実施形態を例として図面に示し、また本明細書で詳細に説明する。しかしながら、上記具体的実施形態の図及び詳細な説明は、図示されている特定の形態に開示を限定することを意図したものではなく、反対に、添付の請求項によって定義されるような本開示の精神及び範囲内にある全ての修正例、均等物及び代替例を包含することを意図したものであることを理解されたい。本明細書において使用されている見出しは、単に組織化を目的としたものであり、これらの使用は本説明の範囲の限定を意味しない。本出願全体を通して使用される単語「してよい/し得る/できる(may)」は、許容の意味で(即ち「可能性がある」ことを意味して)使用されており、強制の意味で(即ち「しなければならない」ことを意味して)使用されるものではない。同様に、単語「含む(include/including/includes)」は、ある対象を含むもののそれに限定されないことを意味する。
様々なユニット、回路又はその他の構成部品は、1つ又は複数のタスクを実施する「よう構成される(configured to)」として記載され得る。このような文脈において「よう構成される」は、動作中に上記1つ又は複数のタスクを実施する「回路構成を有する」ことを一般に意味する、構造の広範な説明である。従ってユニット/回路/構成部品は、ユニット/回路/構成部品が現在オンでなくても上記タスクを実施するよう構成できる。一般に「よう構成される」に対応する構造を形成する回路構成は、ハードウェア回路を含んでよい。同様に、記載を簡略化するために、様々なユニット/回路/構成部品は、1つ又は複数のタスクを実施するとして記載され得る。このような記載は「よう構成される」という語句を含むものとして解釈されるものとする。1つ又は複数のタスクを実施するよう構成されるユニット/回路/構成部品の列挙は、これらユニット/回路/構成部品に関して米国特許法第112条第6段落の解釈を援用しないことを明示的に意図したものである。より一般には、いずれの要素の列挙は、「…のための手段(means for)」又は「…のためのステップ(step for)」という語句が具体的に使用されていない限り、上記要素に関して米国特許法第112条第6段落の解釈を援用しないことを明示的に意図したものである。
参照による援用
Michael B.Doerr、William H.Hallidy、David A.Gibson、Craig M.Chaseを発明者とする、発明の名称「Processing System With Interspersed Stall Propagating Processors And Communication Elements」の米国特許第7415594号は、その全体を参照することにより、本明細書においてその全体が完全に論述されているかのように、本明細書に援用されるものとする。
Michael B.Doerr、Carl S.Dobbs、Michael B.Solka、Michael R Trocino、David A.Gibsonを発明者とする、2011年10月14日出願の、発明の名称「Disabling Communication in a Multiprocessor System」の米国特許出願第13/274138号は、その全体を参照することにより、本明細書においてその全体が完全に論述されているかのように、本明細書に援用されるものとする。
用語
コンピュータシステム:パーソナルコンピュータシステム(PC)、メインフレームコンピュータシステム、ワークステーション、ネットワーク家電、インターネット家電、パーソナルデジタルアシスタント(PDA)、テレビジョンシステム、グリッドコンピューティングシステム若しくはその他のデバイス又はデバイスの組み合わせを含む、様々なタイプの計算又は処理システムのいずれか。一般に、用語「コンピュータシステム」は、メモリ媒体からの命令を実行する少なくとも1つのプロセッサを有するいずれのデバイス(又は複数のデバイスの組み合わせ)を包含するものとして広く定義できる。
ソフトウェアアプリケーション:用語「ソフトウェアアプリケーション(software application)」(本出願では単に「アプリケーション(application)」とも呼ぶ)は、その一般的な意味の全範囲を有することを意図したものであり、1つ又は複数のメモリに記憶でき、かつ1つ又は複数のプロセッサが実行できる、あらゆるタイプのプログラム命令、コード、スクリプト及び/又はデータ又はこれらの組み合わせを含む。例示的なソフトウェアアプリケーションは、C、C++、FORTRAN、Java(商標)、アセンブリ言語等のテキストベースプログラム言語で書かれたプログラム;グラフィックプログラム(グラフィックプログラム言語で書かれたプログラム);アセンブリ言語プログラム;機械言語にコンパイルされたプログラム;スクリプト;並びに他のタイプの実行可能なソフトウェアを含む。
アプリケーションは、MPSの1つ又は複数のプロセッサ上で実行でき、MPSのローカルメモリのうちの1つ若しくは複数からデータを読み出すことができ、及び/又はMPSのローカルメモリのうちの1つ若しくは複数にデータを書き込むことができる。アプリケーションは、1つ又は複数の計算タスクを含んでよく、ここで各タスクは典型的にはMPSの単一のプロセッサ上で実行され、1つ又は複数のアプリケーションからの1つ又は複数のタスクと上記プロセッサを共有してよい。アプリケーションは、特定の機能又は動作を実施してよい。アプリケーションが2つ以上のタスクを含む場合、これらタスクは互いに通信して上記機能又は動作を実施してよい。
MPSは複数のアプリケーションを同時に実行してよく、例えばこれらアプリケーションは互いに並列に実行される。アプリケーションは互いに通信してよく、これらアプリケーションが実施する各機能又は動作は、より大きい又はより高いレベルの機能又は動作を実施するために互いを利用してよい。
自動的に(automatically):その作用又は動作を直接指定又は実施するユーザ入力を必要とせずに、コンピュータシステムが実施する動作又は操作(例えばコンピュータシステムが実行するソフトウェア)について用いる。従って用語「自動的に」は、ユーザが手動で実施又は指定する操作(ここでユーザが操作を直接実施するために入力を提供する)と対照的なものである。自動処理は、ユーザが提供する入力によって開始される場合があるが、これに続く「自動的に」実施される動作は、ユーザが指定するものではなく、即ち「手動で」実施される(ユーザが各動作の実施を指定する)ものではない。例えばユーザが、各フィールドを選択し、(例えば情報をタイピングすることによって、チェックボックスを選択することによって、無線選択によって等で)情報を指定する入力を提供することによって、電子フォームを埋める場合、仮にコンピュータシステムがユーザの動作に応答して上記フォームを更新しなければならないとしても、これは上記フォームを手動で埋めたことになる。このようなフォームはコンピュータシステムによって自動で埋めることができ、この場合コンピュータシステム(例えばコンピュータシステム上で実行されるソフトウェア)は、フォームのフィールドを分析して、フィールドへの回答を指定するいずれのユーザ入力を必要とせずにフォームを埋める。上述のように、ユーザはフォームを自動で埋める動作を発動する場合はあるが、実際にフォームを埋める動作には関わらない(例えばユーザはフィールドへの回答を手動で指定せず、回答は自動的に完了する)。本明細書は、ユーザが行う動作に応答して自動的に実施される操作の様々な例を提供する。
マルチプロセッサシステム(MPS)及びMPS上で実行されるアプリケーションを動的にスワップするための関連する方法の様々な実施形態を説明する。マルチプロセッサシステム(MPS)は、複数の処理要素(PE)を含むシステムとして定義できる。MPSは、これらPE間に散在する複数のメモリを有してよく、あるいは単一の共有メモリを有してよい。本明細書で使用される場合、用語「処理要素(processing element)」は、プロセッサ若しくはCPU(中央演算処理装置)、マイクロプロセッサ又はプロセッサコアを指す。MPSは2つ以上のいずれの個数のPEを含んでよいが、いくつかのMPSは、典型的には汎用プロセッサ(GPP)を1つのみ、又は数個のGPPのみを含む従来のコンピュータシステムよりも有意に多い個数のPEを含んでよいことに留意されたい。例えばいくつかのMPSは、4、8、16、32又は64個のPEを含んでよい(他の例は例えば数ダース、数百個又は数千個ものPEを含む)。いくつかの実施形態では、大型MPSに好適なPEは、低電力消費を目的とした特別な構成により、従来のコンピュータシステムによって使用される汎用プロセッサよりもエネルギ効率が高いものであってよい。
MPSはまた、PE及び/又はメモリを相互接続する相互接続ネットワーク(IN)も含んでよい。PE及びメモリは、円形次元(例えばループ又はリング)を含む1、2、3又は4以上の次元で相互接続してよい。より高い次元のMPSは、より低い次元のファブリケーション媒体上にマッピングできる。例えば4次元(4D)超立方体の形状を有するMPSは、シリコン集積回路(IC)チップの3Dスタック上に、又は単一の2Dチップ上に、又は計算ユニットの1Dの線上にさえ、マッピングできる。低次元のMPSをより高次元の媒体にマッピングすることもできる。例えば計算ユニットの1Dの線を、ICチップの2D平面上に曲がりくねった形状で展開でき、又はチップの3D積層体へと巻くことができる。MPSは複数のタイプの計算ユニットと、プロセッサ及びメモリが散在する構成とを含んでよい。広い意味でのMPSには、MPSの階層又は入れ子構成、特に相互接続されたICチップからなるMPSも含まれ、この場合ICチップは1つ又は複数のMPSを含み、これらMPSもまた更に深い階層構造を有してよい。
本出願において使用される用語MPSは、複数のプロセッサの比較的均一なセットと、いわゆる「プラットフォームIC」チップ上に集積された汎用プロセッサ及び特殊化されたプロセッサの異種集団との両方を包含する。プラットフォームICチップは数個〜多数のプロセッサを含んでよく、これらは典型的には共有メモリによって相互接続され、場合によってはオンチップネットワークによって相互接続される。MPSと「プラットフォームIC」チップとの間には違いがあってもなくてもよい。しかしながら「プラットフォームIC」チップは、特定の垂直的市場における特定の技術要件に対処するために市販されているものであってよい。
一般に、MPSのためのメモリは階層として組織してよく、この階層は頂部に高速なメモリを有し、階層を1段ずつ下がるにつれてより低速であるがより大容量のメモリを有する。MPS中において、階層の頂部の補助メモリは、各PEの近傍に位置してよい。各補助メモリは、最適な命令又は最適なデータを保持するよう特殊化できる。特定のPEのための補助メモリは、そのPE専用のものであっても、又は他のPEと共用であってもよい。
メモリ階層を更に下がると、各PEに隣接する補助メモリの何倍も大きいビット容量を有する半導体同期ダイナミックランダムアクセスメモリ(SDRAM)等の、比較的大型の共有メモリが存在してよい。メモリ階層を更に下がると、フラッシュメモリ、磁気ディスク及び光学ディスク等の他のタイプのメモリが存在してよい。
MPSは、特定の動作を達成できるよう、ソフトウェアアプリケーションを用いてプログラムされてよい。各アプリケーションは、MPS中のPEのうちの1つ又は複数によって実行されてよい。しばしば、MPS上で複数のアプリケーションを同時に実行してよい。アプリケーションは、リアルタイム動作を実施するために、共に実行され、互いに通信してよい。リアルタイム動作は、リアルタイムデータを伴う入力又は出力のうちの少なくとも一方を実施してよい。例えばMPSは入力信号を介してリアルタイムデータを受信してよい。アプリケーションのうちの1つ又は複数は入力信号を処理してよく、場合によっては、この処理に基づく修正された又は追加のリアルタイムデータを伴う出力信号を生成してよい。
システムの実行中の何らかの時点において、特定のアプリケーションを実行しなくてよいことを決定してよい。例えばこのアプリケーションはアイドル状態となってよく、長期間に亘ってアイドル状態のままとなってよく、又はこのアプリケーションの優先度は、実行を待機している別のアプリケーションより低くてよく、又は別のアプリケーションが、上記アプリケーションが使用中の特定のリソースへのアクセスを要求してよい。従って、実行中のアプリケーションの実行を停止して、別のアプリケーションが新規に利用可能となったプロセッサリソースを使用できるようにすることが有利であり得る。これは本明細書では、以前に実行中であったアプリケーションを「スワップアウト(swap out)」して、他のアプリケーションを「スワップイン(swap in)」することとして表現される。
組込みシステムは通常、アクティブ状態を維持して機能し続ける必要があり、また一般には任意に停止できない。その例としては、重要な安全デバイスを制御するシステムがあり、ここでこのシステムの停止は、安全でない状況を発生させ得る。別の例として、組込みシステムが、ユーザに提示するか又は伝送するためにビデオ及び/又は音声を処理している場合があり、この組込みシステムを停止させれば、メディアデータ中に望ましくないアーティファクトが発生し得る。従って、組込みシステムでは、アプリケーションを停止及び開始させるプロセッサは、注意深く取り扱う必要があり得る。本出願に記載のスワップ方法は、システムを停止させずにアプリケーションをスワップできるようにすることができる。例えば、MPS上で現在実行中の、スワップイン/アウトされているアプリケーション以外のアプリケーションは、スワップが行われている間も実行を継続できる。更にこのスワップ方法は、システムがスワップを迅速に行うことができるようにすることもでき、これによりシステムが完全であり、かつ滑らかに機能し続けることを保証できる。
本出願に記載のスワップ方法は、特定のMPSのリソースの制限を説明する。このような制限は、各PEに関して利用可能な命令メモリの量、各PEに関して利用可能なデータメモリの量、PE間の通信の帯域幅、PEと外部メモリとの間の通信の帯域幅等を含んでよい。例えば、PEが制限された命令メモリを有するMPSは、新規のアプリケーションを初期化するために、外部ストレージから命令メモリに新規の命令を移動させる必要があり得る。従ってこのスワップ方法は、リソースが制限されたMPEに影響を受けやすいものとなり得る。以下で詳細に説明するように、本スワップ方法は、第1のアプリケーションを安全に停止させて、第1のアプリケーションの処理リソースを他の使用のために空けることができるようにすることができ、また第2のアプリケーション(又はアプリケーションの第2のセット)を、利用可能な処理リソース上で迅速かつ安全に実行開始できるようにすることができる。
スワッププロセス中、組込みシステム内で実行されている他のアプリケーションは動作を継続してよく、スワップが実施されていることに気づかなくてよい。更に、スワップイン又はスワップアウトされるアプリケーションは、それ自体が「スワップに気づく(swapping aware)」ことがなくてよい。換言すると、スワップ可能なアプリケーションは特別な構成である必要がなくてよい。これにより、有利なことに、例えばスワップ可能なアプリケーションを、スワップを実装するために特別なプログラム論理を含める必要なしに、従来の様式の通常のアプリケーションとして書く又は開発することによって、容易に構成できるようにすることができる。スワップを実装するプログラムコードは、スワップ可能なアプリケーション自体の外部の他の構成要素に実装してよい。
図1A〜3B 組込みシステム内の動的に再構成可能なMPSの例
図1A〜3Bは、再構成可能なMPSの複数の例を示し、例えばこれらMPSは、本出願に記載の技術に従って動的にアプリケーションをスワップイン及びスワップアウトするよう構成される。各MPSは、あるデバイス内でリアルタイム動作を実施するために動作する組込みシステムの一部であってよい。図1A〜3Bは単なる例であり、他の様々なタイプの組込みシステムのいずれが本出願に記載の方法を使用してよいことに留意されたい。
図1Aはビデオカメラ201を示し、図1Bはこのビデオカメラ201に含まれてよい、又は連結されてよい組込みシステム202を示す。図2Bに示すように、組込みシステム202は、ビデオカメラ201からのビデオ信号を受信してこれをMPS203へと通過させる、カメラリンクインタフェース204を含む。この例では、MPS203は、生のビデオストリームを受信し、デモザイク処理及び色空間変換等の基本的な処理を実施して、上記生のカメラデータを、ダウンストリームフィルタが消費できるデータに変換する、ベースシステム208を含む。ベースシステム208は、上記変換されたデータを1つ又は複数の画像処理アプリケーション209に提供してよい。画像処理アプリケーションは少なくとも2つのアプリケーションを含んでよく、各アプリケーションは、様々な方法のうちのいずれかにおいて、ビデオデータをフィルタリングする、又はその他の処理を行うよう構成される。画像処理アプリケーションは、ビデオ信号を処理する方法を変更するために動的にスワップイン及びスワップアウトしてよい。一例として、このシステムは初め、信号に対してエッジフィルタリングアルゴリズムを実施するエッジフィルタアプリケーションを実行してよい。ユーザ入力又は他の条件に応答して、エッジフィルタアプリケーションを、信号に対してメジアンフィルタリングアルゴリズムを実施するメジアンフィルタアプリケーションと動的にスワップしてよい。「ビデオストリームを組み合わせる(combine video stream)」ブロック207によって、現在の画像処理アプリケーションの結果を、ベースシステム208が生成したオリジナルデータと、例えば画面分割ディスプレイにおいて組み合わせてよい。組み合わされた信号は続いて、デジタルビデオインタフェース(DVI)ブロック206を介してDVIインタフェース210へと通過してよく、このDVIインタフェース201はディスプレイデバイスに連結されている。従って、エッジフィルタアプリケーションとメジアンフィルタアプリケーションとのスワップの結果は、ディスプレイデバイス上でリアルタイムで視認できる。ビデオストリームは汎用プロセッサ(GPP)211へも通過させてよい。GPP211上で実行されるプログラムは、MPS203上でどのフィルタを実行するべきかを指示するために、制御信号をMPSに提供してもよい。
図2Aは携帯電話215を示し、図2B、2Cはこの電話において使用されるMPS216を示す。図2Bに示すMPSの構成では、MPSは現在、セルラー探索アプリケーション218を実行している。電話は、ロングタームエボリューション(LTE)4Gセルラー通信無線インタフェース技術規格を使用する。LTE規格に従って、電話はまず、セルラー探索アプリケーション218を用いてローカルセルラー基地局に登録される。一度登録されると、セルラー探索アプリケーション218はもはや必要ない。従ってセルラー探索アプリケーション218は、例えば図2Cに示す共有リンクデータ処理アプリケーションといった異なるアプリケーションと動的に置換してよい。フロントエンドアプリケーション217は、リサンプリング及びアップ/ダウンコンバージョンを実施し、これは上記スワップが発生する間もMPS上で実行されたままである。MPSはが十分に大きい(例えば100+個のプロセッサ)場合、セルラー探索アプリケーション及び共有リンクデータ処理アプリケーションは、例えばスワップ時にこれら全体をロード及びアンロードする代わりに、常にロードされたままとすることができる。
この例では、セルラー探索アプリケーションから共有リンクデータ処理アプリケーションへのカットオーバ、及び再登録の必要がある場合の逆の処理のための望ましい時間間隔は、4msである。上記カットオーバがあまりに遅いと、メディアアクセスコントローラ211は再登録に逆戻りしてしまう。セルラー探索アプリケーションは、多数のCRC計算を並列で実行し、真の信号が発見されるとすぐに、電話はその1つの信号にロックされる。メディアアクセスコントローラが登録プロセスを完了し、共有リンク内のデータスロットを要求する間に、短い期間が存在する。メディアアクセスコントローラは、適切にスロットを予約するために、現在伝送されているデータの先を読むように設計される。典型的には、メディアアクセスコントローラは4サブフレーム、又は約4ミリ秒の先読みを行い、従ってこれが、共有リンクデータ処理アプリケーションへのカットオーバのための望ましい期間となる。
図3Aは、無線トランスミッタ/レシーバデバイス230を示す。代替として、デバイス230は、ラジオ等のレシーバのみのデバイスであってよい。図3Bは、無線デバイス230が実施できる通信アルゴリズムを示す。上部にはアルゴリズムの伝送部231が示されており、底部にはアルゴリズムの受信部232が示されている。変調器バンク235は変調アルゴリズムを実施し、復調器バンク236は復調アルゴリズムを実施する。変調器バンク235及び場合によってはアルゴリズムの伝送部231の他の部分は、複数の変調器アプリケーションを使用するMPS上で実装してよい。いずれの所定の時点において、変調器アプリケーションのうちの1つのみがロードされ、実行されてよい。MPSは、使用中の特定の変調アルゴリズムを変更するために、現在ロードされている変調器アプリケーションを異なる変調器アプリケーションに動的にスワップするよう構成してよい。復調器バンク236が実施する復調アルゴリズムを動的に変更するために、同様の様式で異なる復調アプリケーションをスワップイン及びスワップアウトしてよい。本開示を理解するために必要ない通信アルゴリズムの複数の部分は、本説明から省略される。
図1A〜3Bは、ソフトウェアアプリケーションを動的にスワップするよう構成されたMPSを使用できるデバイスの例として提示されていることに留意されたい。様々な実施形態では、本出願に記載されているもの等のMPSを、いずれの種類のデバイス又はシステムにおいて使用してよい。また、スワップイン及びスワップアウトされるアプリケーションは、いずれの種類のソフトウェアアプリケーションであってよく、例えば様々な方法のいずれにおいてリアルタイムデータを処理する、又はデバイス若しくはシステムが実施するリアルタイム動作又は他の動作を実装するための他の様々な機能のいずれを実施する、アプリケーションであってよい。
図4〜12 例示的なMPSアーキテクチャ
様々な実施形態では、本出願に記載のアプリケーションスワップ技術を様々な種類のMPSのいずれにおいて利用してよい。MPSはいずれの所望のアーキテクチャを有してよい。図4〜6は、一実施形態によるMPSに関する例示的なアーキテクチャを示す。このMPSアーキテクチャは、米国特許第7415594号において開示されているHyperX(商標)アーキテクチャの例である。このアーキテクチャは、多数のアプリケーションを同時に実行する能力を有する、プログラム可能な、極めて低電力かつ低コストの、多プロセッサ組込みコンピュータシステム(ここでは単一の集積回路チップとして実現される)を実装するために好適なものであり得る。HyperX(商標)アーキテクチャに関する以下の説明は単なる例であり、他の様々なMPSアーキテクチャのいずれを所望に応じて使用してよい。
図4に示す実施形態では、MPS10は、正方形で表される複数の処理要素(PE)を含む。MPSはまた、円で表される複数のデータメモリルータ(DMR)を含む。DMRは、隣接するPEのための補助メモリとして、及び通信ルータ又はスイッチノードとして作用する。DMR間の線は、相互接続ネットワーク(IN)を実装するDMR‐DMR間通信チャネル又はリンクを示す。DMRをこのリンクと共に使用して、PE間の通信経路、及びPEと、MPSを外部デバイスに連結するI/Oポートとの間の通信経路を形成してよい。各PEにおいて、通信されるいずれの情報は、隣接するDMRのメモリ内にバッファリングしてよい。本出願で使用される場合、PEはPEノードとも呼ばれる場合があり、またDMRはDMRノードとも呼ばれる場合がある。本出願では、DMRは「構成可能な通信要素(configurable communication element)」とも呼ばれる。
図4、5に示すDMR間のリンクは直線のメッシュを形成する。しかしながら、他の多数の接続スキームが可能であり、考察の対象となる。図5に示すMPS接続スキームでは、各PEは4つの隣接するDMRに接続され、各DMRは4つの隣接するPE及び4つの隣接するDMRに接続される。3次元の直線メッシュをサポートするための、1つのDMRに対して6つのDMR‐DMR間リンクの使用、又は東西南北方向に加えて4つの斜め方向をサポートするための、1つのDMRに対して8つのリンクの使用といった、より高次元のINをサポートするための他の接続スキームも想定される。リンクは物理的に最も近接した近隣のDMRに限定する必要はない。
チップI/Oを有するMPS20は、汎用マイクロプロセッサ、DSP、FPGA又はASICが現在使用されている様々なシステム及びアプリケーションのいずれにおいても使用され得る。例えば図4、5に示す処理システムは、様々なタイプのコンピュータシステム、デジタル信号プロセッサ(DSP)又は計算を必要とするその他のデバイスのいずれにおいて使用できる。
HyperXハードウェアファブリック
HyperX(商標)アーキテクチャの一例では、マルチプロセッサアレイはユニットベースのハードウェアファブリック(メッシュ)からなってよく、各ユニットはHyperSliceと呼ばれる。このハードウェアファブリックは、グリッド上にユニットを配設し、隣接するユニットを相互接続することによって形成できる。各HyperSliceユニットは、1つ又は複数のデータメモリ及びルータ(DMR)、並びに1つ又は複数の処理要素(PE)を含んでよい。
米国特許第7415594号では、DMRは動的構成可能通信(DCC)要素と呼ばれることもあり、PEは動的構成可能処理(DCP)要素と呼ばれることもある。DMRは隣接するPEに補助メモリを提供でき、また相互接続ネットワーク(IN)にルータ及びリンクを提供できる。この文脈において「動的構成可能(dynamically configurable)」は、アプリケーションソフトウェアの実行中にこれらのハードウェアリソース(PE、DMRリンク、DMRメモリ)を再割当てできることを意味している。これはアプリケーションソフトウェアを、より小さいタスク及び通信メッセージの階層に分割することによって達成できる。これらタスク及びメッセージをリソースに割り当てて、同時に(又は必要に応じて連続的に)実行してよい。タスク及びメッセージが完了すると、これらを再実行でき、又は他のタスク及びメッセージで置換して、アプリケーションソフトウェアの新規の構成を形成できる。「オン・ザ・フライ(on the fly)」で構成を変更できる能力は特に、有限のリソースをより効率的に使用するため、及び変化する外部からの要求に対してより良好に適合するための柔軟性をサポートする。
HyperX(商標)ハードウェアファブリックは、処理要素に対して独立して透明な形で動作する一次IN(PIN)を有し、また任意の通信ネットワークトポロジをサポートするHyperSlice間の、リアルタイムでプログラム可能かつ適合可能な通信経路(ルート又はパスと呼ばれる場合もある)を通してオンデマンド帯域幅を提供できる。HyperSliceの調整グループは、ソフトウェア制御下で「オン・ザ・フライ」で形成及び再形成できる。関数を評価するために使用されるハードウェアの量を動的に変更できるこのような能力により、ハードウェアリソースの最適な応用が可能となり、これによって処理におけるボトルネックが緩和される。ハードウェアファブリックの縁部において、リンクは、メモリ階層の更に下にあるメモリのタイプに対して、又は集積回路(IC)チップの縁部のI/Oに対して特化された回路に接続される。
HyperX(商標)ハードウェアファブリックの相互接続されたDMRは、チップ内を横断する、及びチップ間の、最も近接した、局所的な、及び全体的な通信を提供できる。これらの通信モードはそれぞれ、DMRリソースを物理的に用いて、データの局所性及びソフトウェアアルゴリズムの要件に応じてデータ/メッセージを様々に送信できる。「クイックポート(Quick Port)」設備を設けることにより、プロセッサからいずれのネットワーク目的地への、データの1つ又は複数の語の低レイテンシ伝送をサポートできる。ブロック伝送に関して、メモリ及びルーティングファブリック(又は通信ファブリック)を横断するデータの移動を管理するために、DMR内でダイレクトメモリアクセス(DMA)エンジンを利用可能としてよい。PE間の最近接通信に関して、共有メモリ及びレジスタの使用が、最も効率的なデータ移動方法となり得る。局所的及び全体的なデータ移動に関して、ルーティングファブリック(PIN)の使用が最も効率的な方法となり得る。通信経路(又はルート)は動的でも静的でもよい。動的ルートは、データ伝送のために設定され、伝送が完了すると、他のルート及びデータ伝送のためにPINリソースを活用できるよう切断してよい。静的リソースは、プログラム実行を通して所定の位置にあり続けることができ、主に優先度が高く重要な通信に使用できる。通信経路の物理的位置及びこれら経路を横断するデータ伝送のタイミングは、ソフトウェアプログラム制御下にあってよい。いずれのセンダといずれのレシーバとの間の同時データ伝送をサポートするために多重通信経路が存在してよい。
処理要素(PE)
DMRのアーキテクチャにより、異なる相互スワップ可能なPEを、システムを特定の用途に対して最適化するためにマルチプロセッサファブリックにおいて使用できる。HyperX(商標)マルチプロセッサシステムは、PE異種のPEによるアレイ又は同種のPEによるアレイを備えてよい。PEは従来のプロセッサであってよく、又はPEはプロセッサの従来の定義に適合していなくてもよい。いくつかの実施形態では、PEは、特定の論理関数のための結線接続されたプロセッサとして機能する論理ゲートの集合であってよく、ここではより高い性能、より小さい面積及び/又はより低い電力のためにプログラム可能性が犠牲となっている。
図5に示すように、例えばHyperX(商標)MPS等のMPS内のPEは、PE間の分散DMRによる多数のメモリへの並列接続によって供給を受けることができる。このような配置により、分離型(即ち非分散型)の配置に比べて、所定のPEがDMR内のメモリにアクセスするために必要な時間及びエネルギを削減でき、また本出願ではこのような配置を分散配置と呼ぶ場合がある。
図4の実施形態では、PEとDMRとの比はおよそ1:1である。他の様々な実施形態において、これとは異なるPEとDMRとの比も可能である。
HyperX(商標)プロセッサアーキテクチャは、固有の多次元性を含んでよいが、物理的には平面実施形態に実装できる。このプロセッサアーキテクチャは高エネルギ効率特性を有してよく、また(大型のアレイに対して)基本的に対応可能であり、信頼性が高い。即ち低電力かつ信頼性の高い概念を提示する。プロセッサアーキテクチャが高い性能を達成できる態様は、最新式のプロセッサ、メモリネットワーク、柔軟なIOを含んでよい。処理要素(PE)はフルフレッジドDSP/GPPであってよく、また、ハードウェアリソースの使用を同時に最大化しながらスループットを維持するために実行パイプラインを動的に拡張できる可変幅命令語命令セットアーキテクチャによって支持される、メモリ間(キャッシュレス)アーキテクチャに基づくものであってよい。
通信経路の設定
図4は、処理要素(PE)及びデータメモリルータ(DMR)のネットワークを含むHyperX(商標)システムのある実施形態を示す。PEは矩形のブロックとして図示され、DMRは円として図示されている。DMR間のルーティングパスは点線で図示されている。中実の三角形はオフメッシュ通信を示し、太い実線はDMR間のアクティブなデータ通信を示す。計算タスクはその数値による識別子で示され、これを実行するPE上に位置する。通信に使用されているデータ変数はその名称で示され、これを含むDMR上に位置する。図示した実施形態では、左上のPEはタスクID62のタスクに割り当てられ、このPEに隣接する各DMRを介して他のPE又はメモリと通信でき、上記各DMRは通信パス変数t、w、uで表されている。これもまた図示されているように、この実施形態では、アクティブな通信ルートは、「x」で標識されている隣接するDMRを介して、71(例えば別のタスクID)で表されているPEを、オフメッシュ通信パス又はポートに接続する。
データメモリルータ
DMRハードウェア構造のある例示的実施形態のブロック図を図6に示す。図示した実施形態では、中央データメモリ(DM)はルータを表す八角形のリングで囲まれている。なお、図示した八角形形状は単なる記号表現であり、実際の形状は異なっていてよく、例えば矩形であってよい。DMRを取り囲むのは、他のDMR及びPEへのデータパスを表す多数の双方向矢印である。これらの双方向データパスは、各端部における実際の双方向トランシーバを用いて実装でき、又は反対方向に配向された単方向パスのペアとして実装できる。
図6のルータとデータメモリとの間の単方向矢印は、メモリとルータとの間の単方向データパスを表す。これらの矢印の近傍の小さな正方形はDMAエンジン、即ちDMからの読み出しをサポートするDMAリーダ(DMAR)及び/又はDMへのデータ書き込みをサポートするDMAライタ(DMAW)を表す。DMARエンジンは、典型的には読み出しデータをリンクから別のDMRに送信するためにバッファによって増大させるための、メモリのためのアドレス信号を生成する。同様にDMAWエンジンは、リンクから受信した書き込みデータをバッファによって増大させるための、メモリのためのアドレス信号を生成する。各DMAエンジンはPEより大幅に小さく、使用電力が少なく、従ってこれらDMAエンジンは、メモリのブロックの読み出し及び書き込みへの使用に関して魅力的である。DMAエンジンは、DMメモリスペース内の関連する構成レジスタへのPEによる書き込みによって構成できる。特定のアドレスへの書き込みによりDMAがトリガされ、上記増大が開始される。DMAが複数のアドレスのブロックを通しての増大を終了すると、無制限に又は所定の数のループだけルーピングを継続するよう構成されていない限り、DMAは停止する。
図5に示すMPS20等のMPSにおいて高帯域幅ポートをサポートするために、ポート(PE‐DMR又はDMR‐DMR)間の接続又はリンクは短くてよく(即ち隣接するものに限定されていてよく)、多数の並列な導電性トレース又は「ワイヤ(wire)」若しくは「ライン(line)」からなってよい。いくつかの実施形態では、1つのリンクはいくつかの並列のトレース、1つのトレース又は1つの導波路のみからなってよい。
PE‐DMR間接続は、メモリアドレスのためのトレースをデータのためのトレースから分離できる。データのためのトレースは、双方向データ伝送をサポートするためにトランシーバに接続してよく、又は書き込みデータをメモリへと移動させるためのトレースのセットと、読み出しデータをメモリから移動させるための別のトレースのセットとに分割してよい。DMR‐DMR間接続は必ずしもアドレスラインを有さなくてよいが、メッセージヘッダ又はメッセージ終了のための制御語といった、伝送されるデータ内の特定の語を示すためのラインを有してよい。
全てのDMR接続は、フローコントロールのための追加のラインを有してよい。例えばあるラインは上流へ(目的地からソースへ)信号を伝送してよく、これにより、経路に何らかの他の通信パスが存在するため又は目的地がそれ以上のデータを受け取れないために、データ語の更なる前進がブロックされる。別のラインは下流へ(ソースから目的地へ)信号を伝送してよく、これにより有効なデータが準備される。上流及び下流への両方の信号伝送を用いて、ローカル(隣接する)DMR又はグローバル(隣接しない)DMRであるDMR間のリンクの端部に接続されたトランスミッタ及びレシーバの状態を示すことができる。いくつかのMPSの実施形態では、ノード間の通信はプログラム制御下であってよい。
図7〜12は、MPS上で実行されるアルゴリズムの例示的な一部分を示す。このアルゴリズムは、例示を目的として、故意に単純かつまばらなものとなっている。アルゴリズムはサンプルデータをMPS上にもたらし、このデータを処理して、結果をMPSから送信する。その後アルゴリズムは最初からやり直され、サンプルデータの次のセットをメッシュ上にもたらす。
図8では、タスク62はMPSの外部のソースからデータを読み出し、このデータを変数「t」、「u」に記憶する。同時にタスク62は変数「t」、「u」を組み合わせ、その結果を変数「w」に書き込む。同時にタスク71はオフメッシュからデータをもたらし、これを変数「x」に記憶する。
ある程度後の時点において(図9)、タスク62は変数「t」、「u」の読み取りを終了し、変数「w」をタスク12に伝送し始め、このタスク12において変数「w」は更に処理されることになる。タスク12は、次の計算タスクを開始するために、変数「w」、変数「x」が両方共利用可能となるまで待機しなければならない。データの準備ができたら、タスク12は入力「x」、「y」(図10)から変数「sv」を計算する。この「sv」は共有変数である。
図11では、タスク5によって共有変数「sv」を作用させて、変数「z」を生成する。「sv」は共有されているため、タスク12(図10)とタスク5との間には明示的な通信は存在しないが、これらタスクの間は同期されている。同時にタスク62、71は、(図8に示すように)オフメッシュから次のデータサンプルを読み取り始める。
図12では、タスク62、71が次のデータサンプルの読み取りを続行している間に、タスク5は最後の結果(変数「z」)をメッシュから送信する。
図13〜28 アプリケーションスワップ
MPSは、多数のソフトウェアアプリケーションを同時に実行する能力を有してよい。図13は、複数のアプリケーションが実行されているMPS300の例を示す。アプリケーションを実行するために、これら複数のアプリケーションからの命令及びデータを、MPSの異なる複数のメモリに分散させてよく、これは、これらメモリに関連するプロセッサによって実行するためである。例えば、これらのアプリケーションのうちの1つに関するプログラム命令及びデータを、MPSのメモリの第1のサブセットに記憶してよい。MPSのプロセッサの第1のサブセットは、メモリの上記第1のサブセットに連結でき、上記アプリケーションに関する上記命令及びデータを実行できる。同様に、これらのアプリケーションのうちの別のものに関するプログラム命令及びデータを、プロセッサの第2のサブセットによって実行するためにメモリの第2のサブセットに記憶してよく、以下同様である。
いくつかの実施形態では、MPSの所定のメモリは、MPSの特定のプロセッサと関連してよく、又はMPSの特定のプロセッサのために予約されてよい。他の実施形態では、所定のメモリは、MPSの2つ以上のプロセッサによって共有されてよい。いくつかの実施形態では、所定のプロセッサが使用するメモリ又は複数のメモリのセットは、物理的にプロセッサの近傍に配置されてよく、例えばこれにより、プロセッサは相互接続ネットワークを使用することなく、又は他のルーティング要素と通信することなく、メモリに直接アクセスできる。
図13では、楕円の相対的なサイズは、アプリケーションに割り当てられたシステムリソースの相対的な量(例えばプロセッサ及びメモリの個数)を示すことを意図したものである。例えばアプリケーション5Cは大きな楕円で表され、これはこのアプリケーションが、小さい楕円で表されているアプリケーション5Aよりも、システムのプロセッサの多くを使用することを示す。また、MPS300内における楕円の相対的配置は、MPS上のアプリケーションの物理的配置、例えば各アプリケーションが使用するプロセッサ及びメモリが配置されるMPSの物理的領域それぞれを示すことを意図したものである。(この例では、MPSは2次元レイアウトを有するものとして図示されているが、他の実施形態では、MPSのプロセッサ及びメモリは異なる次数の次元、例えば1D、3D、4D等に従って配設されていてよい。)
用語「アプリケーションスワップ(application swapping)」は、1つ又は複数のアプリケーションを除去して、これらを1つ又は複数の他のアプリケーションで置換するプロセスを表す。スワップは、上記他のアプリケーションが実行され続けている間に動的に行われてよい。例えば図14は、アプリケーション5Eがスワップアウトされ、アプリケーション5Kがスワップインされて所定の位置を取った後の、MPS300を示す。他のアプリケーション5A、5B、5C、5D、5F、5G、5H、5Jは、アプリケーション5Eとアプリケーション5Kとの間のスワップが行われている間、MPS上で実行され続けることができる。アプリケーション5Kは、MPS内において、アプリケーション5Eが以前実行されていたのと概ね同一の領域に配置されているが、アプリケーション5Kは必ずしも、アプリケーション5Eと全く同一のプロセッサ及びメモリリソースを使用しない場合がある。
システムは、一度に2つ以上のアプリケーションをスワップイン及び/又はスワップアウトしてもよい。図15は、図13からの3つのアプリケーション5E、5G、5Hが、2つのアプリケーション5L、5Jで置換された例を示す。従って、スワップされるアプリケーションの個数、形状(物理的配置に関して)及びサイズ(使用されるプロセッサ及びメモリに関して)は、同一である必要はない。
様々な実施形態において実行中のMPSから1つ又は複数のアプリケーションを除去し、これを1つ又は複数の他のアプリケーションで置換することが望ましい場合がある理由は、多数存在する。例えばアプリケーションを暫くの間実行して、その後長期間に亘って何もする必要がない場合がある。この時間の間、このアプリケーションのリソースは何らかの他のアプリケーションが使用でき、これによってシステム全体の性能が改善される。別の理由は、あるアプリケーションを除去して別のアプリケーショで置換することによって、MPSの機能性を変更することが望ましい場合があることである。例えば2つのアプリケーションが、概ね同一の機能を若干異なる方法で実施してよい。
以下に更に詳細に説明するように、アプリケーションスワップは、あるアプリケーションを動的にロードして実行するための動作、実行中のアプリケーションを停止する動作、及び停止したアプリケーションのリソースをクリアする動作を含んでよい。これらの動作は、アプリケーションスワップの実施中にMPSの上で実行中の他のアプリケーションが妨害されず、上記他のアプリケーションがその通常の動作を保ったまま実行され続けることができるような方法で、実施されるよう設計してよい。
いくつかの実施形態では、アプリケーションスワップを、本出願では親タスク又は管理タスクと呼ばれる特別なタスク又はアプリケーションによって管理してよい。親タスクはMPSの内側又は外側からトリガされて、アプリケーションスワップを開始できる。図16は、親タスク55がトリガされて、MPSの内部で実行されるアプリケーション6Fによるアプリケーションスワップが開始される実施形態を示す。例えばアプリケーション6Fは、アプリケーション6F内で発生する様々な内部状態変化に応答してアプリケーションスワップをトリガするプログラム論理を含んでよい。図17は、親タスク55がトリガされて、MPSの外側に配置された汎用プロセッサ(GPP)260上で実行されるシステムコントローラプログラム262によってアプリケーションスワップが開始される実施形態を示す。例えばシステムコントローラ262は、ユーザ入力又はMPSの外側から来る様々な他の種類のトリガ若しくは条件のいずれに応答して、アプリケーションスワップをトリガしてよい。いくつかの実施形態では、親タスクはMPSの外側で実行されてよい。例えば図18は、親タスク55がシステムコントローラ262と共に外部GPP260上で実行される実施形態を示す。
システムコントローラ262は、高次アプリケーション・プログラミングインタフェース(API)を用いて書くことができる。APIは、システムコントローラを、下層の制御及び通信レイヤの詳細を隠すことによってあるGPPから別のGPPへと容易に移すことができるようにすることができる。
親タスク55は、システムコントローラ262から(又はMPS内の別のアプリケーションから)、「アプリケーションXをスワップアウト」又は「アプリケーションYをスワップイン」等の高次コマンドを受信してよく、これに応答して、要求されたアプリケーションスワップを開始及び管理してよい。
親タスクのデフォルトの挙動は、システムコントローラ262が指示したようにアプリケーションを開始及び停止することであってよい。いくつかの状況では、親タスク55は、スワップ可能なアプリケーションと通信して、その実行状態を管理してよい。例えば親タスク55は、あるスワップ可能なアプリケーションに、上記アプリケーションをスワップアウトできるように、安定状態となるよう要求してよく、又は親タスク55は上記スワップ可能なアプリケーションによって、このアプリケーションが安定状態であり、スワップアウトされる準備ができていることを通知されてよい。この通信は、スワップ可能なアプリケーションが親タスク55と通信するために、又はその逆のために、呼び出すことができるAPIによって実装できる。
上述のように様々な実施形態において、MPSは異なるフォームファクタを有し得る。いくつかの実施形態では、MPSはチップ上の集積回路として実装され得る。いくつかの実施形態では、多数のMPSチップをシステム内で使用してよい。1つ又は複数のチップを、オフチッププロセッサ(例えば汎用プロセッサ)、又は1つ若しくは複数のオフチップメモリデバイス(例えばRAM、フラッシュメモリ、ディスクドライブ若しくは他のタイプのメモリ若しくはストレージデバイス)、又はMPS自体の一部ではない他のハードウェアデバイスといった、上記1つ又は複数のチップの外部の他のハードウェアデバイスと連結してよい。いくつかの実施形態では、アプリケーションをスワップイン又はスワップアウトする際に上記オフチップメモリを使用して、スワップアウトされるアプリケーションに関するプログラムデータをMPSの外部のメモリデバイスに保存してよく、又はスワップインされるアプリケーションに関するプログラム命令及び/若しくはデータを外部メモリデバイスから引き出してよい。スワップアウトされたアプリケーションに関する情報が記憶された外部メモリデバイスは、スワップインされたアプリケーションに関する情報が引き出されるものと同一の外部メモリデバイスであってよく、又は異なる外部メモリデバイスであってよい。アプリケーションに関する命令及びデータを外部メモリとの間でスワップする能力は、MPS上で実行する必要がないアプリケーション全てを完全に記憶するための十分な内部メモリリソースを有しないMPSにとって有用であり得る。
図19は、一実施形態による、外部メモリデバイス272からのアプリケーション8のスワップインに関わるリソースを示す。この例では、アプリケーションコード270は初め、MPS300に連結されている(かつMPS300の外部にある)ランダムアクセスメモリ(RAM)デバイス272に記憶されていてよい。RAMデバイス272は、ダイナミックRAM(DRAM)、同期ダイナミックRAM(SDRAM)、ラムバスDRAM(RDRAM)、スタティックRAM(SRAM)等のいずれの種類のRAMを含んでよい。アプリケーションコード270は、入力/出力(IO)ポート274を介してRAMデバイス272からMPSにロードしてよい。IOポート274は専用のローダPE276によって制御してよい。アプリケーションコードはIOポート274から1つ又は複数のスワップルート277を介して、アプリケーション8に関連するMPSの内部メモリのうちの1つ又は複数に伝送されてよい。
他の実施形態では、アプリケーションコード270はRAMデバイスの他のいずれの種類の外部メモリデバイスからスワップインしてよい。スワップに利用できる外部メモリデバイスの例は、フラッシュメモリ、磁気又は光メモリ、ディスクドライブ、ソリッドステートドライブ等を含む。しかしながら上述のように、いくつかの実施形態では、このシステムの1つの目的はスワップを可能な限り迅速に実施することであってよい。従って、スワップに使用される外部メモリデバイスのタイプは、迅速なタイプのメモリデバイスとなるように選択され得る。例えばDRAMデバイスは一般に、フラッシュメモリデバイス又はディスクドライブよりも迅速にスワップを実施できるようにすることができ、従っていくつかの実施形態では好ましいものとなり得る。
図20は、これもまた迅速なスワップを可能とする代替実施形態を示す。この例では、GPP260は、命令及びデータストリームをMPSに送信することによって、アプリケーションコード270をMPSにロードしてよい。システムコントローラプログラム262は上記命令及びデータストリームを制御してよい。
いくつかの実施形態では、組込み型オペレーティングシステム環境において、システムコントローラプログラム262はGPP260上で実行されてよい。いくつかの実施形態では、オープンコンピューティング言語(OpenCL)のサブセットを用いてシステムコントローラ262を実装してよい。システムコントローラ262はチップ間通信機構を通してMPSと通信してよいが、この通信機構とは独立して実装されてよい。
システムコントローラ262は、親タスク55にコマンドを、例えばMPSチップのシリアルバスを通して(例えばデバッグアクセスポート(DAP)を介して)直接、又は信号ポートを通して、送信してよい。システムコントローラ262と親タスク55との間を通過する制御データの量は典型的には小さいものとなるため、MPSのシリアルバスを通した通信の実施は、スワップのパフォーマンスに有意な影響を与えてはならない。システムコントローラ262は、DAPポートを用いてデータ値を読み出すことによって、MPSからデータを取り戻すことができる。システムはMPSからGPPへの通信経路を必要としないが、それが利用可能であれば採用してよい。GPPとMPSとの間の通信プロトコルは、GPPの能力に応じて多数の異なる方法で実装できる。例えば上記通信プロトコルは、ユニバーサルシリアルバス(USB)若しくは周辺構成部品相互接続エクスプレス(PCIe)等の高次プロトコルとすることができ、又は上記プロトコルは、GPPバスと信号ポートとの間のより単純な接続としてよい。USB又はPCIeのような比較的複雑なプロトコルでは、GPPとMPSとの間にFPGAデバイスを使用して、プロトコルの受信側を実装してよい。いくつかの実施形態では、より単純なGPPバス接続のためにも、小型FPGAデバイスを使用してよい。
いくつかの実施形態では、通信効率のために、親タスク55は、MPS上の全ての他のPE及びメモリに接続されたMPSのシリアルバスへの直接的なアクセスを有する位置にあるPE上にあってよい。通信のためにシリアルバスを使用することは、相互接続ネットワークで発生する、MPSで進行中のデータ通信に対する干渉を回避するために望ましいものであり得る。しかしながら、親タスクとスワップ可能なシステムの残りの部分との間の通信の、他のいずれの手段を使用できる。いくつかの実施形態では、特定のPEを親タスク55のために予約してよく、これによりこのPEはアプリケーションのために使用できなくなる。またいくつかの実施形態では、このPEに隣接するメモリを、親タスク55がそのストレージ要件のために使用するために予約してよい。
スワップ可能なアプリケーションを定義する命令及びデータは、MPSからアクセス可能ないずれの位置に記憶できる。MPSが十分な内部メモリリソースを含む場合、全てのアプリケーションはMPSの内部のローカルメモリデバイスに記憶できる。上述のように、他の実施形態では、MPSに連結された1つ又は複数のDRAM等の1つ又は複数の外部メモリデバイス上に記憶すること、GPPファイルシステム内に記憶してシステムに直接ストリーミングすること、MPSに連結された1つ又は複数のフラッシュメモリデバイス内等に記憶すること等が可能である。
アプリケーションメモリの重要なパラメータは、ストレージキャパシティ、及びMPS上への命令の移動に利用できる帯域幅である。例えば1つの小さいアプリケーションをスワップしている場合、MPS内部のローカルメモリを使用できる場合が多い。多くのシステムに関して内部メモリのサイズは限られている場合があり、スワップ速度は重要であるため、アプリケーション命令をGPPから直接ストリーミングすること、又は取り付けられたDRAMを使用することが必要となり得る。命令をGPPから直接ストリーミングすることは、システムに取り付けられたDRAMが存在しないハードウェアシステムにおいて、又はDRAMが既にシステム上で実行されているアプリケーションのための大きなデータトラフィックをサポートしているシステムにおいて、有利となり得る。
アプリケーション命令が、MPSに連結された外部DRAMからロードされるか、又はGPPからストリーミングされる場合、I/Oポート274及びローダタスクを実行する隣接するローダPE276はアプリケーションスワップのために予約されてよく、図19、20に示すようにアプリケーションはこれらを使用できない。いくつかの実施形態では、ローダタスクはIOポートを通して流れるアプリケーション命令及びデータを管理してよい。例えば、アプリケーションをスワップするための命令及びデータは、MPS上のIOポートに接続されたDRAMデバイスに記憶してよく、隣接するローダタスクを用いて、DRAM内の適切なアドレスからアプリケーション命令を引き出すことができ、この命令を、ルーティングファブリックを通して、このアプリケーションのPEに関連するMPS内部メモリに送信できる。
I/Oポートの制御のためにローダタスクを使用する場合、親タスクは、実行中のアプリケーションを妨害しない機構を通して、例えばMPSのシリアルバスを通して、ローダタスクと通信してよい。実行中のアプリケーションはその通信要件のために異なるルーティングファブリック(例えば相互接続ネットワーク)を使用してよいため、シリアルバスの使用は上記実行中のアプリケーションに干渉しないものとすることができる。
アプリケーションをスワップインする場合、アプリケーションの各タスクに関する命令及びデータは、MPS上の適切なメモリに移動される。様々な実施形態では、この移送のために、例えばMPS上で利用可能な特定の通信リソースに応じて、異なる機構を使用してよい。いくつかの実施形態では、命令及びデータを、その元々のストレージ位置から、MPSによって実装される高速ルーティングファブリック(本出願では相互接続ネットワークとも呼ばれる)を通して、適切なオンチップメモリへと移動してよい。他の実施形態では、命令及びデータを、シリアルバスを通して適切なオンチップメモリへと移動させてよい。高速ルーティングファブリックの使用は、シリアルバスの使用より大幅に高速であり得る。
ルーティングファブリックを使用する場合、スワップシステムは、スワップに使用される一時的な「スワップルート(swapping route)」の群(命令及び/又はデータがロードされるメモリそれぞれに対して1つ)を画定してよい。命令及びデータの移動のために通信ルーティングファブリックを使用するには、上記スワップルートが、MPS上で実行される他のアプリケーションが使用している通信ルートと相互作用又は衝突しないことを保証する必要があり得る。従って、命令をロードするために使用されるスワップルートは、これら他の通信ルートと交差しないよう、注意深く計画され得る。
この計画を補助するために、各スワップルートを2つの部分に分割してよい。トランクルートと呼ばれる第1の部分は、当該アプリケーションのための全てのスワップルート間で共有されている。トランクルートは、命令及びデータストレージ位置から、当該アプリケーションが位置することになる場所の概ね近傍のMPS上の位置までを接続している。終端ルートと呼ばれるスワップルートの第2の部分は、トランクルートの終点を、当該アプリケーションが使用する標的メモリデバイスに接続してよい。従って、各スワップルートは、当該アプリケーションのための他のスワップルート全てと同一の1つのトランク部分と、トランクルートの終点から1つの特定のメモリデバイスへと繋がる一意の終端ルートとを有してよい。いくつかの実施形態では、ユーザはアプリケーションが使用するメモリを複数のセットに分割してもよく、各トランクルートを各セットに対して画定してよい。これは例えば、アプリケーションが極めて大きく、多数の異なるメモリデバイスを使用する場合に有用となり得る。
いくつかの実施形態では、トランクルートはユーザ入力によって指定でき、続いてシステムソフトウェアツールは自動的に、各スワップルートの第2の部分を画定してよい。トランクルートを使用する1つの利点は、ユーザが、他の実行中のアプリケーションが使用しているルートを回避するように、ルートを注意深く画定できる点である。
いくつかのシステムは、ルーティングのために2つ以上のルーティングレイヤを有してよく、これによりトランクルートは、他のアクティブなルートを回避する必要に応じてレイヤを変更できる。いくつかの実施形態では、システムソフトウェアツールは、スワップルートの終端部分を生成する際には、MPSのスワップ領域にあるいずれの第2のレイヤのルートと干渉しないよう、常に第1のレイヤを使用してよい。
上述のように、シリアルバスを通した命令の移動は、ルーティングファブリックを通したものより大幅に遅くなり得る。しかしながら、速度が重要でなく、かつルーティングファブリックリソースの使用を低減することが重要であるような状況では、シリアルバスを使用して命令を移動させることが望ましい場合がある。定義によると、親タスクは、親タスクへのアクセス全体に亘るいずれの対立が存在できないように、シリアルバスを所有してよい。いくつかの実施形態では、命令が外部フラッシュメモリデバイスに記憶されている場合、又は命令がGPPから親タスクに隣接するポートにストリーミングされる場合に、シリアルバスを使用してよい。
いくつかの実施形態では、MPSは多数のチップを含んでよく、例えば各チップは、複数のプロセッサ、及びプロセッサ間に散在する複数のメモリを含む。いくつかの実施形態では、多チップシステムを用いてアプリケーションスワップが実施されているとき、上述の専用のアプリケーションスワップルートを各チップ上で複製してよい。アプリケーション命令ストレージは多数のDRAMに分割してよく、又は命令の多数のストリームを必要に応じて採用してよい。更にシステムコントローラを、この多チップシステムを理解するよう、例えばコマンドを適切なチップに送信するために、構成要素が存在する位置に関する知識を有するよう、設計してよい。
いくつかの実施形態では、スワップ可能なアプリケーションはシステム内の多数のチップに亘って分散されていてよいが、スワップ可能なアプリケーションそれぞれが1つのチップのみにおいて実行されるよう要求することにより、スワッププロセスを簡略化できる。
いくつかの実施形態では、システムが利用可能な独立した複数のデータストリームの多数のソースが存在する場合、多数のアプリケーションを同時にスワップできる。例えば図21は、2つのアプリケーション9A、9Bが2つの異なるRAMデバイス272A、272Bから同時にスワップインされる実施形態を示す。2つの異なるローダタスクをロードPE276A、276B上で実行することにより、IOポート274A、274Bを介して2つのアプリケーションを同時にロードしてよい。多数のアプリケーションを同時にスワップインすることにより、アプリケーションを1度に1つずつスワップインする場合よりも迅速にMPSを再構成できるようにすることができる。同時にスワップイン又はスワップアウトできるアプリケーションの個数は、MPSが連結されている外部メモリデバイス又は命令ストリームのソースの数に左右され得る。例えば、チップのためのパッケージが4個のDRAMに対する接続を有する場合、同時に最大4つのアプリケーションをスワップできる。
いくつかの実施形態では、親タスク55は1度に1つのスレッドのみを実行してよい。スワップ手順は、同時に実行される多数のスワップ手順を親タスク55が管理できるように構成してよい。例えばスワップにおいて最も時間がかかる部分は、DRAM又はI/OポートからアプリケーションPEの命令メモリへの命令の移動となる場合が多い。親タスク55は、命令の移動を開始するために、I/Oポートの隣のローダタスクに同時に命令してよい。他の比較的時間がかからないスワップステップは、親タスクによって連続的に実施できる。
アプリケーションをより迅速にロードするために、命令の多数のストリームを使用して単一のアプリケーションをスワップインすることもできる。例えば、スワップインされているあるアプリケーションに関する命令を、2つの異なる外部DRAMデバイスに記憶でき、命令の2つの異なるストリームがアプリケーションPEを並列に初期化でき、これによってアプリケーションをロードするための時間を半減できる。
スワップ可能なアプリケーションのライフサイクル
MPSの動作中、ある所定のアプリケーションは、まずスワップインされ、次に実行され、次に実行を停止され、続いて再びスワップアウトされるための多数のステップを通して遷移してよい。スワップ可能なアプリケーションはこのプロセスを何度も経る場合がある。図22は、アプリケーションをスワップイン及び再びスワップアウトするライフサイクルを示す。親タスクは、ステップのシーケンスを制御する役割を有してよい。所定の条件において、いくつかのステップは僅かに異なる順序で実施される場合があるか、又は一切実施されない場合がある。
場合によっては、システムのリセット時に実施されるシステムレベル機能を実行するための、ワンタイム初期化ステップが存在してよい。例えば、多数の異なるスワップ可能なアプリケーションが使用するI/Oポートを初期化してよく、又は外部DRAMにアプリケーションデータの初期化を書き込んでよい。リセットされたシステムから開始すると、311に示すように、親タスクは「アプリケーションのスワップイン」イベントを受信してよい。このイベントはMPSから内部的に、例えば別のアプリケーションから受信してよく、又は外部信号として、例えばMPSの外部においてGPP上で実行されるシステムコントローラから受信してよい。
続いて313に示すように、親タスク55は、スワップインされているアプリケーションに関する変数の初期化を発生させてよく、及び/又は(以前に保存されている場合は)アプリケーションの以前の状態を復元してよい。(存在する場合)変数の初期化は、アプリケーションのためのプログラムコードから、例えばいくつかの実施形態ではCプログラムコードから引き出すことができる。(例えばアプリケーションの以前の実行から)アプリケーションの変数に関する変数状態のいずれが以前に記憶されている場合、上記変数状態をロードしてよい。これは、アプリケーションをその保存された状態に復元できる。保存された変数状態は、アプリケーションのプログラムコードから引き出された初期化をオーバライドできる。アプリケーションの変数の初期化及び状態の復元は、当該アプリケーションが使用するメモリのうちの1つ又は複数内の変数値を特定する情報を記憶することによって実施できる。
315に示すように、親タスク55は、例えば1つ若しくは複数の外部DRAMデバイス又は他の外部ソースからアプリケーションのプログラム命令をロードすることによって、アプリケーションのプログラム命令を、(当該アプリケーションが既にロードされていない場合)当該アプリケーションに関連する対応するMPS内部メモリにロードさせることもできる。命令をロードした後、この命令を実行するために割り当てられたアプリケーションPEを待機状態としてよい。
317に示すように、親タスク55は、当該アプリケーションの、MPSにロードされた他のアプリケーションのうちの1つ又は複数への通信を統御することもでき、例えば当該アプリケーションが、当該アプリケーションの目的とする機能を実施するために通信する必要がある他の各アプリケーションとの通信を開始できるようにすることができる。親タスク55はまた、I/Oポート、DRAMポートといった、当該アプリケーションが使用するデバイス若しくはリソースを初期化する、並びに/又はこれらのデバイス及びリソースに当該アプリケーションを接続するために必要ないずれの動作を実施することもできる。親タスク55はまた、DRAMデバイス、DRAMコンテンツ、及び(必要な場合は)当該アプリケーションが使用するI/Oポートに接続されたデバイスを初期化することもできる。
続いて319に示すように、親タスク55は当該アプリケーションを開始させてよい。例えば親タスク55は、当該アプリケーションの各PEにウェイクアップ信号を送信して、これらPEに、これらが関連するメモリデバイスからのプログラム命令それぞれを実行させてよい。当該アプリケーションが開始されると、当該アプリケーションは、親タスク55が「アプリケーションのスワップアウト」イベントを受信する(ブロック323)まで実行され続けてよい(ブロック321)。いくつかの実施形態では、このアプリケーション自体が親タスク55に、このアプリケーションの実行が終了し、従ってこのアプリケーションをスワップアウトできることを示す信号を送信してよい。他の実施形態では、親タスク55は、MPS上で実行されている別のアプリケーションから、又はシステムコントローラ262若しくは他の外部ソースから、スワップアウトイベントを受信してよい。
これに応答して、親タスク55は325に示すように、当該アプリケーションの実行を停止してよい。例えば親タスク55は、当該アプリケーションの各PEに停止信号を送信することによって、これらPEに実行を停止させてよい。いくつかの実施形態では、この信号はPEに、既知の状態へのリセットを行わせてもよい。
327に示すように、親タスク55は、当該アプリケーションがロードされた時に以前接続されていた他のアプリケーション及びデバイスから、このアプリケーションを切断させてよい。これは、当該アプリケーションと、このアプリケーションが連結されていた他のいずれのアプリケーションとの間の通信経路を終了させるステップを含んでよい。親タスク55はまた、当該アプリケーションが使用している周辺デバイス又は他のリソースのシャットダウン又はリセットに必要ないずれの動作を実施することもできる。
329に示すように、親タスク55は、アプリケーションの状態を保存するステップを管理することもできる。例えば、アプリケーションの変数全ての値、又はアプリケーションの変数のうち、その状態を保存する必要がある選択されたサブセットの値を、MPS内部メモリのうちの1つ又は複数から、1つ若しくは複数の外部RAMデバイス、又は再び必要となるまでの外部ストレージのための外部メモリデバイスに伝送してよい。アプリケーションの変数に対応するレジスタのコンテンツも保存してよい。
331に示すように、親タスク55は、MPSの内部リソースをクリーンアップするための1つ又は複数の動作を実施することもできる。例えばこれは、当該アプリケーションが使用した全ての内部メモリをリセットするステップを含んでよい。このプロセスの結果、このアプリケーションが使用したPE、メモリ、ルーティングセグメントは、他の何らかの目的に使用する準備ができた状態となる。
例えば特定の用途に応じて、これらのステップの全てを実施する必要がない場合もあることに留意されたい。例えば図23は、I/Oポートに接続することのみを必要とし、他のアプリケーションとの通信、又はある実行と次の実行との間のその状態の保存を必要としないアプリケーションに関する、簡略化されたライフサイクルを示す。
スワップを実装するために生成される、実行可能な構成要素
図24に示すように、本出願に記載のアプリケーションスワップ技術を実装するために必要なソフトウェアコードを生成するために、MPSにソフトウェアツール401のセットを提供してよい。ツール401は、アプリケーションのソースコードを実行可能なプログラム命令にコンパイルするよう構成されたコンパイラ403、及び1つ又は複数の手順生成モジュール405を含んでよい。手順生成モジュール405は、スワッププロセスを実装するために実行時間中に実行されることになる、実行可能なソフトウェア手順を自動的に生成するよう構成されてよい。例えばこれら手順を実行することにより、アプリケーションの保存された状態をロードする、アプリケーションが使用するデバイスを初期化する等の、アプリケーションスワップに関わる動作を実施できる。これらの手順は、必要に応じてのみ生成されてよい。例えば特定のアプリケーションはその状態を保存又は復元しなくてよく、従ってこれらの動作に対応する手順はこの場合には生成しなくてよい。生成された手順のうちのいくつかはアプリケーションタスクによって、いくつかは(それが存在する場合は)ローダタスクによって、そしていくつかは親タスクによって、実行できる。各手順を実行するタスクは、アクセスされるリソースの近さ、及びMPSの構成に基づいて決定してよい。いくつかの実施形態では、これらの手順の全体的な順序付けは、親タスクによって管理される。
いくつかの実施形態によると、以下の動作を実施するための手順は、実行時間前に手順生成モジュール405によって自動的に生成してよく、実行時間中にローダタスクによって実行されてよい:アプリケーションの下層のプログラムコードから引き出された変数値の初期化;アプリケーションの実行可能なプログラム命令のロード;及びアプリケーションの保存された状態のロード。
いくつかの実施形態によると、以下の動作を実施するための手順は、実行時間前に手順生成モジュール405によって自動的に生成してよく、実行時間中にアプリケーションタスクによって実行されてよい:I/O及びDRAMポートの初期化;DRAMコントローラ及び周辺I/Oデバイス(これらDRAM及びI/Oはアプリケーションによって使用され、スワップのためには使用されない)の初期化;並びに周辺I/Oデバイスのシャットダウン。
いくつかの実施形態によると、以下の動作を実施するための手順は、実行時間前に手順生成モジュール405によって自動的に生成してよく、実行時間中に親タスクによって実行されてよい:アプリケーションの、近隣のアプリケーションとの連結;アプリケーションの開始(PEの待機状態の終了);アプリケーションの停止;アプリケーションの、近隣のアプリケーションからの連結解除;DRAMへのアプリケーションの状態の保存;並びにMPS内部メモリ及びルーティングファブリックのクリーンアップ。
スワップ可能なアプリケーションのレイアウト及び開発
いくつかの実施形態では、MPS上で実行されるアプリケーションは、2つのセットに分類できる。アプリケーションの一方のセットは、ベースシステムと呼ばれる。ベースシステムは、1つ又は複数のスワップ不可能なアプリケーション、例えばMPSの実行中にロードされて実行されている状態であるアプリケーションを含む。もう一方のセットは、動的にスワップイン及びスワップアウトできるスワップ可能なアプリケーションのセットである。MPSが実行中のいずれの時点において、MPS上にあるスワップ可能なアプリケーション及びスワップ不可能なアプリケーションの組み合わせは、互いに干渉することなく動作できる。相互に干渉しないアプリケーションのこのような組を、リーガル構成と呼ぶ。MPS上の所定のレイアウト及び配置を有するスワップ可能なアプリケーションを、アプリケーションインスタンスと呼ぶ。同一のスワップ可能なアプリケーションの異なるレイアウト又は配置は、異なるアプリケーションインスタンスである。というのは同一のスワップコードをこれら両方に対して使用できないためである。例えば、アプリケーションのあるインスタンスは、MPSのある領域に展開され、MPSのメモリ及びPEのあるサブセットを使用してよく、アプリケーションの別のインスタンスは、MPSの別の領域に展開され、MPSのメモリ及びPEの別のサブセットを使用してよい。例えばアプリケーションの命令を正しいメモリにロードすること、上記命令の実行を開始するために正しいPEと通信すること等のために、スワップ可能なコードは各インスタンスに固有のものである必要があってよい。
スワップ可能なMPSシステムは、スワップイベントが発生する際にあるリーガル構成から別のリーガル構成に遷移するシステムと見做すことができる。スワップ手順は、あるリーガル構成から別のリーガル構成への遷移を引き起こす。このようなスワップ手順は、1つ又は複数のアプリケーションのスワップイン及び1つ又は複数の他のアプリケーションのスワップアウト、MPSへの1つ又は複数のアプリケーションの追加又はスワップイン(例えば別のアプリケーションをスワップアウトしない)、並びにMPSからの1つ又は複数のアプリケーションの除去又はスワップアウト(例えば別のアプリケーションをスワップインしない)を含むことができる。図25は、左側のリーガル構成Aに示すように、4つのアプリケーション410A〜410DがMPSの4つの領域それぞれに展開されている、MPS300の例を示す。MPSの実行中の何らかの時点で、5番目のアプリケーション410Eを動的に追加してよく、これにより、右側に示す新規のリーガル構成Bへの遷移が発生する。
各スワップ手順は、ベースシステム、又はスワップ手順に関わらない他のスワップ可能なアプリケーションと干渉しないように実装するべきである。図26は、相互に干渉していない(リーガル構成)複数のアプリケーションのセットを構成するためにシステムの開発段階中に使用してよい、開発ワークフローを示す。
各アプリケーションを開発及び検証してよい(ブロック412)。アプリケーションを開発及び検証するステップは、アプリケーションコードを生成するステップ、アプリケーションをアプリケーションセルの形態にパッケージ化するステップ、アプリケーションセルのインスタンスを生成してこれに配置及びルーティングを与える、アプリケーションに関するテストベンチを構成するステップ、並びに上記テストベンチを用いてアプリケーションセルを検証するステップを含んでよい。
各リーガル構成を含むアプリケーションのセットを画定してよい。リーガル構成のセット及びその遷移を計画してよい(ブロック414)。
各アプリケーションインスタンスに関する物理的配置を画定してよい(ブロック416)。(いずれのリーガル構成における)アプリケーションの周縁部に隣接する全ての他のアプリケーションインスタンスを識別してよい。アプリケーションのための配置及びルーティングを画定することによって、これら境界アプリケーションを回避してよい。いくつかの実施形態では、隣接するアプリケーションは、MPSの内部メモリのいずれも共有しなくてよい。というのは、共有メモリ内でのメモリ対立が、これらアプリケーションに関してタイミングの問題を発生させ得るためである。また、あるアプリケーションが使用する内部メモリは、このアプリケーションがスワップされた場合にリセットされてよい。
上述のように、MPSの内部メモリが限定されているため、多数のアプリケーションに関する命令を記憶できない場合、命令はスワップルートを介して、MPSの外側からMPS内へと移動されることになる。アプリケーションのスワップは、境界アプリケーションと干渉しないように画定するべきである。スワップルートを画定するステップは、命令ソースからアプリケーションインスタンスの概ね近傍へのトランクルートを、このトランクルートが境界アプリケーションと干渉しないように画定するステップを含んでよい。当該アプリケーションのためのスワップルートはそれぞれ、スワップルートの第1の部分としてトランクルートを使用してよい。スワップルートはその後、トランクルートの終端から、このアプリケーションが使用する各内部メモリへと分岐してよい。トランクルートは、当該アプリケーションインスタンスが存在する全てのリーガル構成において他の境界アプリケーションと干渉しないように画定してよい。図27は、アプリケーション440Dをスワップインするために複数のスワップルートが使用されている例を示す。各スワップルートの最初の部分は、I/Oポート437から始まるトランク部分433(太線で示されている)である。スワップルートの終端部分435(破線で示されている)は、トランクルートの終点から分岐し、アプリケーション440Dが展開されるMPSの領域に配置された独立した複数のメモリへと続く。様々な実施形態では、例えばアプリケーションが使用するPE及びメモリの個数に応じて、いずれの数のスワップルートを使用して当該アプリケーションに関するプログラム命令をロードしてよい。
図26を再び参照すると、開発ワークフローは、各アプリケーションレイアウトが相互に適合性を有することを保証するために、リーガル構成に関して、その構成要素であるアプリケーションインスタンスのレイアウトを検査するステップも含んでよい。所定のリーガル構成を検査するために、その構成に関する全てのアプリケーションセルのインスタンスを生成する、トップレベルテストベンチを生成してよい。各アプリケーションセルに関する、及びアプリケーションセルとI/Oとの間の接続に関する、配置及びルーティングを提供できる。アプリケーションセルの複数のセットの組み合わせの配置及びルーティングを検査することによって、物理的リソース全体に亘って対立が存在しないことを保証できる。いくつかの実施形態では、構成全体の挙動を、この構成及びテストベンチをシミュレートすることによって検証してよい。
スワップ可能なアプリケーション間の通信
上述のように、アプリケーションをスワップイン又はスワップアウトするステップは、MPS上で実行されているアプリケーションと1つ若しくは複数の他のアプリケーションとの間(又はアプリケーションと1つ若しくは複数の物理的ポート若しくは周辺デバイスとの間)の通信を連結又は連結解除するステップを含んでよい。通信は、MPSのルーティングファブリックを通して発生してよい。あるアプリケーションをスワップアウトする場合、このアプリケーションの通信の終了を、ルーティングファブリックが使用不可能状態で残されないように注意深く統御する必要があり得る。例えばいくつかの実施形態では、スワップ可能なアプリケーションを、別のアプリケーションにデータのブロックを送信している間に粗雑に終了した場合、既存のルーティングは、システムをリセットするまで容易に再使用できなくなる場合がある。
いくつかの実施形態では、MPS上で実行されているアプリケーションは、バッファメモリデバイスを通して互いにデータを通過させることによって通信してよい。いくつかの実施形態では、各バッファメモリデバイスは、本出願では「アイソレータセル(isolator cell)」と呼ばれる特別なタイプのアプリケーションセルに含まれてよい。いくつかの実施形態では、アイソレータセルは1つの入力及び1つの出力を有してよい。アイソレータセルは、着信データをバッファリングして、その後着信データを出力に対してコピーしてよい。アイソレータセルの使用は、アクティブなアプリケーション間の接続を、信頼できる矛盾しない方法で破壊及び復元できる方法を親タスクに提供できる。MPSは多数のアイソレータセルを含んでよい。図28は、あるスワップ可能なアプリケーション460Aが別のアプリケーション460Bと、アイソレータセル464Aを介してアプリケーション460Bにデータを通過させることによって通信する例を示す。スワップ可能なアプリケーション460Aは、別のアイソレータセル464Bを介してデータを通過させることによって、スワップ不可能なアプリケーション462とも通信する。
アイソレータセルは、親タスクがシリアルバスを通してアイソレータセルにコマンドを送信することによって、アイソレータセルに2つの接続されたアプリケーション間の接続を破壊させて、これらアプリケーションのうちの一方をスワップアウトするための準備をすることができるように設計してよい。アプリケーションがスワップアウトされ、新規のアプリケーションがスワップインされた後、この新規のアプリケーションをアイソレータに接続して、システム内のデータの流れを復元できる。
アイソレータセルがアプリケーション間の接続を破壊する際、異なるモードの動作が可能である。いくつかの実施形態によると、アイソレータセルの下流(受信)側のアプリケーションをスワップアウトしている場合、アイソレータセルのデフォルトの挙動は、接続が破壊されたら、送信側アプリケーションからのデータの受信を停止することである。いずれの着信データがルーティングファブリック内で逆行して、最終的に送信側アプリケーションのストールを引き起こし得る。代替的なモードでは、アイソレータセルは新規のデータパケットを受信し続けて、アイソレータセルのメモリバッファ内のデータパケットを上書きするだけでよい。
いくつかの実施形態によると、アイソレータセルの上流(送信)側のアプリケーションをスワップアウトしている場合、アイソレータセルのデフォルトの挙動は、着信データがこれ以上存在しなくなると、受信側アプリケーションへのデータの転送を停止することである。代替的なモードでは、アイソレータセルは、アイソレータセルのメモリバッファ内の既存のデータを繰り返し連続的に送信することによって、データを受信側アプリケーションに送信し続けてよい。例えば、下流のアプリケーションが良好でない状態にならないよう、又はロックされないよう、データを流れるままにしておくことが望ましい場合もあり得る。
いずれのアプリケーションがMPS上で実行されている間、アイソレータセルが常に存在していれば、スワップ方法を簡略化できる。各アイソレータセルが全てのリーガル構成において全く同じ位置に存在していれば、最も簡単であり得る。固定位置を使用することにより、アイソレータセルを使用するスワップ可能なアプリケーションが、接続される信頼できる物理的位置を有するようにすることができ、アイソレータセルと通信するための信頼できる位置を親タスクに提供できる。
更に複雑な実装形態では、アイソレータセルは、全てのリーガル構成には存在しないようにすることができる。例えば、アイソレータセルの上流及び下流のアプリケーション両方がスワップアウトされる場合、及びスワップインされる1つ又は複数の新規のアプリケーションがこのアイソレータセルを使用しないか、又はこのアイソレータセルを異なる位置で使用する場合、このアイソレータを除去(又は移動)できる。
いくつかの状況では、アプリケーション間のデータの流れを急に停止することが問題となる場合がある。例えば、伝達される情報は、特定の構造を有するデータ構造を含んでよい。アプリケーション間の通信が所定のデータ要素の伝送の途上で切断された場合、受信側アプリケーションはこのデータ要素の一部しか受信できず、この部分的なデータ要素の扱いが不明となる場合がある。この問題を克服するために、いくつかの実施形態では、アプリケーション間のアイソレータセルは、データ要素に関する内蔵型の知識を有してよく、通信がデータ要素の伝送の途上で切断されないことを保証できる。
例えば、あるスワップ可能なアプリケーションが別のアプリケーションにビデオデータを伝送している状況を考える。ビデオデータの各フレームは、ヘッダで始まる構造を有してよい。ヘッダはフレームのサイズを特定できる。ヘッダの後には、複数のラインの列及びライン終端が続いてよく、その後にフッタ又はテールが続く。全てのビデオフレームは、同一のフレーム構造を有するものと予想され得る。従って受信側アプリケーションは、部分的なフレームを取り扱うことができない場合がある。アイソレータセルは、アイソレータセルが送信側アプリケーションから受信側アプリケーションに通過させているデータを理解できるように、ビデオフレーム構造に関する知識を保有するよう向上させることができる。アイソレータセルが、あるフレームの伝送の進行中に2つのアプリケーションを分離するコマンドを受信した場合、アイソレータセルはフレームの伝送を即座に終了させなくてよく、その代わりに、フレームの残りが伝送されるまで伝送を続行させてよい。これにより、受信側アプリケーションが部分的なフレームのみを受信することを防止できる。
新規のアプリケーションをスワップインする場合、この新規のアプリケーションを、MPS内のアイソレータセルのうちの1つ又は複数を構成することによって、上記新規のアプリケーションが通信する1つ又は複数のアプリケーションに連結してよい。例えば新規のアプリケーションが、スワップアウトされた古いアプリケーションと同一の1つ又は複数の他のアプリケーションと通信する場合、新規のアプリケーションを、上記古いアプリケーションを上記1つ又は複数の他のアプリケーションから連結解除するステップに関わったものと同一の1つ又は複数のアイソレータセルを制御することによって、上記1つ又は複数の他のアプリケーションと連結してよい。
例えば上記古いアプリケーションは、ある所定のアイソレータセルの下流側にあってよく、このアイソレータセルは、上記古いアプリケーションがスワップアウトされると、送信側アプリケーションからのデータ受信を切断してよい。新規のアプリケーションがスワップインされると、このアイソレータセルを、データを受信するモードに戻すことができる。従って新規のアプリケーションの実行が開始されると、送信側アプリケーションが送信するデータを、過去にこの送信側アプリケーションからデータを受信していた古いアプリケーションの代わりに、新規のアプリケーションに送信できる。
別の例として、古いアプリケーションはある所定のアイソレータセルの上流側にあってよく、このアイソレータセルは、上記古いアプリケーションがスワップアウトされると、受信側アプリケーションへのデータ転送を中断してよい。新規のアプリケーションがスワップインされると、このアイソレータセルを、データを転送するモードに戻すことができる。従って新規のアプリケーションの実行が開始されると、受信側アプリケーションは、過去にこの受信側アプリケーションにデータを送信していた古いアプリケーションの代わりに、新規のアプリケーションからデータを受信できる。
新規のアプリケーションは、古いアプリケーションが通信していたものとは異なる1つ又は複数のアプリケーションのセットと通信してもよいことに留意されたい。従っていくつかの実施形態では、新規のアプリケーションを、古いアプリケーションの通信のために使用されていたものとは異なるその通信対象の各アプリケーションに連結するように、異なるアイソレータセルのセットを構成してよい。
アイソレータセルを用いない信頼できる通信
アイソレータセルは、アプリケーションがスワップイン及びスワップアウトされるタイミングが確実には分からないシステムにおいては特に有用となり得る。アイソレータセルを採用することにより、通信の破壊及び消滅を確実に実施できるようにすることができ、システムを既知の良好な状態に維持できる。
しかしながら、アイソレータセルを使用しない他の実施形態も考えられる。例えばいくつかの実施形態では、アプリケーションを、その外部通信を確実にクリーンアップできるように設計してよい。このクリーンアップは、対応する上流又は下流のアプリケーションと共同で実施してよい。アプリケーションは少なくとも2つの状況において、例えばアプリケーションがその計算を完了した場合、及びアプリケーションが、安定状態に遷移してそれ自体をクリーンアップするコマンドを受けた場合において、通信のクリーンアップを開始できる。
いくつかの実施形態では、親タスクがアプリケーションにコマンドを送信する場合、アプリケーションと親タスクとの間の通信機構は、各PEにおいて1つ又は複数のメールボックスレジスタを使用する、単純なポーリング方式のAPIとすることができる。これは、親タスクへと逆方向に直接通信する手段を有することを全てのPEには要求しないため、有利であり得る。例として、APIは、スワップ可能なアプリケーションが呼び出すことができる以下の2つの関数を有してよい:
MPX_ready_to_swap(...) ‐このアプリケーションは、その1つ又は複数の外部通信をクリーンアップした後安定状態となり、スワップの準備ができた状態であることを親タスクに通知する;及び
MPX_check_for_stop_request(...) ‐このアプリケーションは、親タスクがこのアプリケーションに計算を停止して安定状態となることを要求したかを検査する。
このAPIが使用し得る典型的な方法は、メールボックスレジスタにある値を送信することによって、親タスクがアプリケーションに停止するよう要求できるというものである。アプリケーションはその実行中の様々な時点において、ポーリングによって、例えばMPX_check_for_stop_request(...)関数を呼び出すことによって、停止要求を受信できる。停止要求に応答してアプリケーションはその外部通信を停止及びクリーンアップしてよい。次にアプリケーションは、MPX_ready_to_swap(...)関数を呼び出すことによって、スワップアウトの準備ができた状態であることを親タスクに通知してよく、上記関数は、メールボックスレジスタにある値を設定する。親タスクは、メールボックスレジスタをポーリングすることによってこの通知を受信してよい。
アプリケーションが独立してその計算を終了した場合にも、APIを使用してよい。例えばアプリケーションは、その外部通信を停止及びクリーンアップしてよい。次にアプリケーションは、MPX_ready_to_swap(...)関数を呼び出すことによって、スワップの準備ができた状態であることを親タスクに通知してよい。親タスクは、メールボックスレジスタをポーリングすることによってこの通知を受信してよい。
システムコントローラ
いくつかの実施形態では、システムコントローラプログラムは、アプリケーションスワップのシステムレベル制御を提供できる。システムコントローラは、MPSの外部のプロセッサ上で実行されてよい。例示的な実装形態では、システムコントローラは外部汎用プロセッサ上で実行され、親タスクにコマンドを通信し、続いて親タスクはこれらのコマンドを実行する。
いくつかの実施形態では、システムコントローラは、GPP上で実行され、オープンコンピューティング言語(OpenCL)ホストコントロールAPIのサブセットを利用するアプリケーションであってよい。このAPIサブセットは、取り付けられたハードウェアシステムをモデリングする機能、アプリケーションを開始及び停止させる機能、並びにデータを組込み型メモリ(例えばシステムに取り付けられたDRAM)から、及び上記メモリへと移動させる機能を提供する。
OpenCLサブセットの実装は、ARMプロセッサのために書かれたシステムコントローラプログラムを単にリコンパイルするだけでx86プロセッサに移すことができるように、異なる複数のGPP間で移植可能に設計してよい。これを実施するために、APIは2つのレイヤ、即ち一般的なAPIレイヤ及びデータ通信レイヤに実装するべきである。データ通信レイヤは、特定のハードウェアプラットフォームに固有のものであってよく、いずれの新規のハードウェアプラットフォームに移される。OpenCLの1つの能力は、取り付けられた計算エンジン上でネイティブプログラムを実行するためのサポートである。
スワップ可能なシステムの実現
スワップ可能なシステムの論理及び物理的設計並びに検証が終了したら、この設計を標的のシステム上で実行するために必要なオブジェクト及び情報ファイルを生成してよい。いくつかの実施形態ではこれは、以下のように実施できる。1)ベースシステムを生成及び検証する。2)全てのスワップ可能なアプリケーションを生成及び検証する。3)全てのリーガル構成を生成及び検証する。4)ベースシステムのための、アイソレータセルを含むデータベース及びオブジェクトファイルを生成する。5)各リーガル構成において各一意のアプリケーションインスタンスのための実行可能なスワップ手順を生成する。これを、スワップ可能なオブジェクトファイルが全てのアプリケーションインスタンスに関して生成されるまで、各リーガル構成に関して繰り返してよい。6)アプリケーションのセット全体に関するマスターデータベースを生成する。これにより、システムコントローラ及び親タスクが、実行時間中にこのアプリケーションのセットを管理できるようにすることができる。7)システムコントローラプログラムをGPP上にコンパイルする。
実行時間の初期化
スワップ可能なシステムの実行は、システムコントローラを用いて開始できる。システムコントローラは初めに、親タスク及び(必要な場合は)ローダタスクをロードしてよい。次に親タスクは、以下を完了してよい。1)プリブート初期化を実行して、DDRコントローラ、IOコントローラ等の全てのリソースを初期化する。2)必要な場合、スワップ可能なアプリケーションに関するオブジェクトファイルを1つ又は複数のDRAMに伝送する。3)全てのスワップ不可能なアプリケーション及びアイソレータセルを含むベースシステムをロードする。4)システムコントローラからの命令を待機する。実行時間中、システムコントローラは、親タスクにコマンドを送信することによって実行中のシステムの状態を制御できる。
スワップ不可能なアプリケーションを含むシステムの検証
個々のアプリケーションを、これらが刺激に対して正しく応答することを保証することによる通常の方法で、別個に検証してよい。互いに通信するアプリケーションは、例えば上述の開発ワークフローを用いて、一緒に検証するべきである。全てのリーガル構成の検証は、全システムを検証するための通常のソフトウェア又はハードウェア技術を用いて実施するべきである。
単一のアプリケーションのスワップ手順の検証も、ソフトウェアシミュレータを用いて実施できる。これは、上記単一のアプリケーション及びこれに関連する(スワップ不可能なアプリケーションとしての)テストベンチのみから構成されたスワップ可能なシステムを画定することによって達成できる。次に、親タスク及びローダタスクを含むスワッププロセス全体を、シミュレーション環境で実行して観察できる。アプリケーションスワップ機構の検証のために、GPP上で実行されるシステムコントローラをシミュレートする必要はない。システムコントローラからのコマンドは、シミュレーション中にI/Oポート(若しくはDAPポート)へとストリーミングされるデータファイルを介して、又はシステムコントローラの一時的挙動を静的又はインタラクティブにエミュレートできる外部プログラムを生成することによって、エミュレートできる。
スワップ可能なアプリケーションを含むシステムのデバッグ
複雑な多アプリケーションスワップ可能システムに関して、多数の異なるデバッグタスクを実施できる。これらのタスクは以下を含んでよい。
1.個々のアプリケーションを、アプリケーション生成及び検証プロセス中に通常通り別個にデバッグできる。
2.上述の手順を用いて、ある独立したアプリケーションに関するスワップ手順をデバッグできる。続いてスワッププロセス全体を、親タスク内及びローダタスク内の全てのコードを含むシミュレーション(又はハードウェアデバッグ)環境において実行及びデバッグできる。
3.全てのアクティブなアプリケーションに関するトップレベル構成テストベンチを画定し、デバッグコマンドを必要に応じて用いることによって、個々の構成のデバッグを進めることができる。安定な構成はデバッグされているため、シミュレータはいずれのアプリケーションスワップステップを実行する必要がなく、ただアプリケーションを実行できる。
4.スワップ可能なシステム全体をデバッグするために、デバッガは、ベースシステム、アイソレータセル、アプリケーションインスタンスを含む完全なプロジェクトをロードできる。デバッグセッション中のあらゆる時点において、シミュレータ(又はハードウェア上でのシステムの実行)は、どのアプリケーションインスタンスがスワップインされるか、又はスワップイン若しくはスワップアウトプロセスの途上であるかを追跡できる。この情報をユーザに表示でき、これによって実行中のアプリケーションはデバッグ可能となり、実行中でないアプリケーションは確認できるもののデバッグ可能ではなくなる。この情報を用いて、システムの統計を収集及び表示することもでき、またシステムレベルのスワップの挙動を表示することもできる。
スワップ可能なアプリケーションのシステムをデバッグする際、デバッガは、デバッグコマンド(例えば区切り点及びシングルステップ)の挙動に関して2つの選択肢を有してよい。第1の選択肢は、設計全体を単一のシステムとして処理でき、デバッグコマンドを設計内の全てのアクティブなアプリケーションに適用できる(例えば区切り点が全てのアプリケーションを停止させる)。第2の選択肢は、各アプリケーションを独立してデバッグできるようにすることができる。この場合、区切り点は、この区切り点が存在するアプリケーションのみを停止させる。更にデバッガは、現在スワップアウトされているアプリケーションに区切り点を設定する能力を提供する。このようにして、このアプリケーションがスワップインされる際、この区切り点が即座にアクティブとなる。
MPSと共にGPP上のシステムコントローラをデバッグするために、デバッガは、システム開発環境と同時に実行されるEclipseベースの開発環境を提供できる。これら2つの開発環境をリンクさせることにより、これらはデバッグイベントを共有できる。例えばGPPの区切り点は、MPS上で実行されるアプリケーションも停止させるように画定してよい。あるいは、ユーザが実際のシステムコントローラのデバッグを望まない場合、デバッガは、システムコントローラコマンドストリームを実行中のシステムにインタラクティブに又はプログラムによって供給できるGPPエミュレータを提供してよい。
様々な実施形態において、コンピュータ可読メモリ媒体は、ソフトウェアアプリケーションのスワップに関わる機能等の上述の様々な機能を実装するためにMPSのプロセッサ及び/又は1つ若しくは複数の外部プロセッサによって実行可能なプログラム命令を記憶してよい。一般に、コンピュータ可読メモリ媒体は、実行した場合に本出願に記載の機能の一部分又は全てを実装する、命令のいずれのセットを含んでよい。一般にコンピュータ可読メモリ媒体は、コンピュータシステムに命令及び/又はデータを提供するために使用中にコンピュータがアクセスできる、いずれのストレージ媒体を含んでよい。例えばコンピュータ可読メモリ媒体は、磁気又は光媒体、例えばディスク(固定若しくは消去可能)、テープ、CD‐ROM、DVD‐ROM、CD‐R、CD‐RW、DVD‐R、DVD‐RW又はBlu‐rayといったストレージ媒体を含んでよい。ストレージ媒体は更に、ユニバーサルシリアルバス(USB)インタフェース、フラッシュメモリインターフェイス(FMI)、シリアルペリフェラルインタフェース(SPI)等の周辺インタフェースを介してアクセス可能な、RAM(例えば同期ダイナミックRAM(SDRAM)、ラムバスDRAM(RDRAM)、スタティックRAM(SRAM)等)、ROM、フラッシュメモリ、不揮発性メモリ(例えばフラッシュメモリ)等の揮発性又は不揮発性メモリ媒体を含んでよい。ストレージ媒体は、微小電気機械システム(MEMS)、並びにネットワーク及び/又は無線リンク等の通信媒体を介してアクセス可能なストレージ媒体を含んでよい。キャリア媒体は、コンピュータがアクセス可能なストレージ媒体、及び有線又は無線伝送等の伝送媒体を含んでよい。
好ましい実施形態との関連で以上の実施形態について説明したが、本明細書に記載した具体的形態に上記好ましい実施形態を限定することは意図されておらず、反対に、添付の請求項によって定義されるような本発明の精神及び範囲内に合理的に含まれ得るような代替例、修正例、均等物を上記好ましい実施形態が包含することが意図されている。

Claims (15)

  1. マルチプロセッサシステムにおいてアプリケーションスワップを実施するための方法であって、
    前記方法は:
    複数のアプリケーションを前記マルチプロセッサシステム上にロードするステップであって、ここで前記マルチプロセッサシステムは、複数のプロセッサと、前記プロセッサ間に散在する複数のメモリとを含み、前記ロードするステップは、関連する前記プロセッサによる実行のために、複数の前記アプリケーションからの命令及びデータを、前記複数のメモリのうちの異なる1つずつに分散させるステップを含む、ステップ;
    前記複数のアプリケーションを、前記マルチプロセッサシステム上で実行するステップであって、前記複数のアプリケーションは共に実行され、互いに通信して、リアルタイム動作を実施し、前記リアルタイム動作は、リアルタイムデータを伴う入力又は出力のうちの少なくとも一方を実施し、前記複数のアプリケーションは前記リアルタイムデータを処理し、前記複数のアプリケーションは、第1のアプリケーションと、複数の他のアプリケーションとを含む、ステップ;
    前記第1のアプリケーションを第2のアプリケーションとスワップするステップであって、前記第2のアプリケーションは、前記マルチプロセッサシステム上に既にロードされて実行された前記複数のアプリケーションのうちの1つではなく、前記スワップは、前記複数の他のアプリケーションを停止させることなく実施され、前記複数の他のアプリケーションは、前記リアルタイム動作を実施するため及び前記リアルタイムデータを処理するために、前記スワップ中に実行され続ける、ステップ
    を含み、
    前記スワップ後、前記複数の他のアプリケーションは、前記第2のアプリケーションと共に実行され続け、
    前記複数の他のアプリケーションの少なくともサブセットは、前記リアルタイム動作を実施するため及び前記リアルタイムデータを処理するために、前記第2のアプリケーションと通信する、方法。
  2. 前記スワップの前に、前記第1のアプリケーションは前記複数のプロセッサの第1のサブセット上で実行され、
    前記スワップは:
    前記複数のプロセッサの前記第1のサブセット上の前記第1のアプリケーションを停止させるステップ;
    前記第1のアプリケーションの状態を保存するステップ;及び
    前記第2のアプリケーションを、前記複数のプロセッサの前記第1のサブセットと関連するメモリにロードするステップ
    を含む、請求項1に記載の方法。
  3. 前記スワップは更に:
    前記第1のアプリケーションと前記他のアプリケーションのうちの1つ又は複数との通信を切断するステップ
    を含む、請求項2に記載の方法。
  4. 1つ又は複数の第1のバッファメモリを、前記複数のプロセッサの前記第1のサブセットと、前記複数のプロセッサの他のサブセットとの間に連結し;
    前記第1のアプリケーションの通信を切断するステップは、前記1つ又は複数の第1のバッファメモリを制御して、前記切断するステップを可能とするステップを含む、請求項3に記載の方法。
  5. 前記スワップは更に:
    前記第2のアプリケーションの前記ロード後、前記第2のアプリケーションと前記他のアプリケーションのうちの前記1つ又は複数との通信を連結するステップ
    を含む、請求項3に記載の方法。
  6. 前記スワップは更に:
    前記第2のアプリケーションのスワップインの前に、前記複数のプロセッサの前記第1のサブセットを再設定して、前記複数のプロセッサの前記第1のサブセットを既知の状態とするステップ
    を含む、請求項3に記載の方法。
  7. 前記複数の他のアプリケーションは、前記スワップが発生していることに気づかない、請求項1に記載の方法。
  8. 前記スワップの前に、前記第1のアプリケーションは前記複数のプロセッサの第1のサブセット上で実行され、
    前記スワップは:
    前記第1のアプリケーションを、前記マルチプロセッサシステムの外部の1つ又は複数の外部リソースから切断するステップ;
    前記複数のプロセッサの前記第1のサブセット上の前記第1のアプリケーションを停止させるステップ;
    前記第2のアプリケーションを前記複数のプロセッサの前記第1のサブセットと関連するメモリにロードするステップ;及び
    前記第2のアプリケーションの前記ロード後、前記第2のアプリケーションを前記外部リソースと連結するステップ
    を含む、請求項1に記載の方法。
  9. 前記マルチプロセッサシステムは、前記複数のプロセッサの少なくともサブセット間に散在する複数のバッファメモリを備え;
    前記スワップは、前記スワップ中に、前記第1のアプリケーションへ又は前記第1のアプリケーションからの少なくとも一方において第1のバッファメモリが実施する通信を変更するステップを含む、請求項1に記載の方法。
  10. 前記第1のアプリケーションは、前記第1のバッファメモリの下流側にあり、
    前記変更するステップは、前記第1のバッファメモリが前記スワップ中に送信側アプリケーションからデータを受信するのを中断させるステップを含む、請求項9に記載の方法。
  11. 前記変更するステップは更に、前記送信側アプリケーションが、前記第1のバッファメモリが前記送信側アプリケーションからデータを受信するのを中断したことに応答してストールするステップを含む、請求項10に記載の方法。
  12. 前記第1のアプリケーションは、前記第1のバッファメモリの下流側にあり、
    前記変更するステップは、前記スワップ中に前記送信側アプリケーションからデータを受信することを継続して、以前に記憶した未送信データを上書きするよう、前記第1のバッファメモリを構成するステップを含む、請求項9に記載の方法。
  13. 前記第1のアプリケーションは、前記第1のバッファメモリの上流側にあり、
    前記変更するステップは、前記第1のバッファメモリが前記スワップ中に受信側アプリケーションにデータを転送するのを中断させるステップを含む、請求項9に記載の方法。
  14. 前記変更するステップは、前記第1のアプリケーションからの着信データがそれ以上存在しなくなると、前記第1のバッファメモリが前記受信側アプリケーションへのデータ転送を中断するステップを含む、請求項13に記載の方法。
  15. 前記第1のアプリケーションは、前記第1のバッファメモリの上流側にあり、
    前記変更するステップは、前記スワップ中に前記受信側アプリケーションにデータを2回以上繰り返し送信するよう、前記第1のバッファメモリを構成するステップを含む、請求項9に記載の方法。
JP2017198250A 2013-05-17 2017-10-12 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成 Active JP6453971B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/896,577 US9195575B2 (en) 2013-05-17 2013-05-17 Dynamic reconfiguration of applications on a multi-processor embedded system
US13/896,577 2013-05-17

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016513913A Division JP6228294B2 (ja) 2013-05-17 2013-05-21 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018233478A Division JP2019057321A (ja) 2013-05-17 2018-12-13 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成

Publications (2)

Publication Number Publication Date
JP2018022524A true JP2018022524A (ja) 2018-02-08
JP6453971B2 JP6453971B2 (ja) 2019-01-16

Family

ID=48576563

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2016513913A Active JP6228294B2 (ja) 2013-05-17 2013-05-21 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成
JP2017198250A Active JP6453971B2 (ja) 2013-05-17 2017-10-12 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成
JP2018233478A Pending JP2019057321A (ja) 2013-05-17 2018-12-13 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成
JP2020126852A Active JP7121076B2 (ja) 2013-05-17 2020-07-27 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016513913A Active JP6228294B2 (ja) 2013-05-17 2013-05-21 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2018233478A Pending JP2019057321A (ja) 2013-05-17 2018-12-13 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成
JP2020126852A Active JP7121076B2 (ja) 2013-05-17 2020-07-27 マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成

Country Status (5)

Country Link
US (5) US9195575B2 (ja)
EP (4) EP2997469B1 (ja)
JP (4) JP6228294B2 (ja)
CN (2) CN110083440B (ja)
WO (1) WO2014185933A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102165460B1 (ko) * 2013-11-27 2020-10-14 삼성전자 주식회사 전자 장치 및 전자 장치의 메모리 관리 방법
US8990793B1 (en) * 2013-12-05 2015-03-24 Google Inc. Updating an operating system
US9690894B1 (en) 2015-11-02 2017-06-27 Altera Corporation Safety features for high level design
US9928168B2 (en) 2016-01-11 2018-03-27 Qualcomm Incorporated Non-volatile random access system memory with DRAM program caching
CN105785856B (zh) * 2016-02-26 2018-07-20 西安电子科技大学 基于弹载应用的程序动态分段加载装置和方法
US10579420B2 (en) * 2016-07-12 2020-03-03 Proximal Systems Corporation Apparatus, system and method for proxy coupling management
DE102017130552B3 (de) 2017-12-19 2019-03-14 Beckhoff Automation Gmbh Verfahren zur Datenverarbeitung und speicherprogrammierbare Steuerung
US11228339B2 (en) * 2019-02-04 2022-01-18 Coherent Logix, Incorporated Comprehensive system design to address the needs for virtual segmentation of the coaxial cable plant
GB201904267D0 (en) * 2019-03-27 2019-05-08 Graphcore Ltd A networked computer with multiple embedded rings
US11488650B2 (en) * 2020-04-06 2022-11-01 Memryx Incorporated Memory processing unit architecture
US11165846B2 (en) * 2019-06-21 2021-11-02 International Business Machines Corporation Dynamically converting static and dynamic connections in a streaming application
CN110362362A (zh) * 2019-07-24 2019-10-22 北京明略软件系统有限公司 任务调度方法及装置、存储介质、电子装置
KR102322727B1 (ko) * 2019-07-29 2021-11-05 에스케이하이닉스 주식회사 데이터 스왑을 위한 메모리 시스템 및 그 동작방법
CN110457107B (zh) * 2019-08-09 2021-01-15 珠海格力电器股份有限公司 组态软件操作指令管理方法、装置和系统
CN110569979B (zh) * 2019-09-09 2022-09-06 中国科学技术大学 面向嘈杂中型量子设备的逻辑-物理比特重映射方法
DE102019219464B3 (de) * 2019-12-12 2021-05-12 Volkswagen Aktiengesellschaft Verfahren zum Betrieb eines selbstfahrenden Fahrzeugs sowie Steuerungssystem zum Durchführen eines solchen Verfahrens

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07311753A (ja) * 1994-05-11 1995-11-28 Internatl Business Mach Corp <Ibm> 複数のノード内の制御コードを更新する方法および装置
JP2007272895A (ja) * 2006-03-31 2007-10-18 Technology Properties Ltd コンピュータプロセッサアレイの操作方法および装置
WO2012051577A1 (en) * 2010-10-15 2012-04-19 Coherent Logix, Incorporated Disabling communication in a multiprocessor system
US20130081044A1 (en) * 2011-09-27 2013-03-28 Mark Henrik Sandstrom Task Switching and Inter-task Communications for Multi-core Processors

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3052891B2 (ja) * 1997-05-26 2000-06-19 日本電気株式会社 信号処理システム
US6952827B1 (en) 1998-11-13 2005-10-04 Cray Inc. User program and operating system interface in a multithreaded environment
US7107329B1 (en) * 1999-05-21 2006-09-12 Lucent Technologies Inc. In networks of interconnected router nodes for routing data traffic, a method of and system for imperceptibly upgrading router node software and the like without traffic interruption
US6678645B1 (en) * 1999-10-28 2004-01-13 Advantest Corp. Method and apparatus for SoC design validation
US7089517B2 (en) * 2000-09-29 2006-08-08 Advantest Corp. Method for design validation of complex IC
US6708326B1 (en) * 2000-11-10 2004-03-16 International Business Machines Corporation Method, system and program product comprising breakpoint handling mechanism for debugging and/or monitoring a computer instruction sequence
US7047330B2 (en) * 2001-03-06 2006-05-16 Ati Technologies, Inc. System for digital stream transmission and method thereof
US7234144B2 (en) * 2002-01-04 2007-06-19 Microsoft Corporation Methods and system for managing computational resources of a coprocessor in a computing system
US7415594B2 (en) 2002-06-26 2008-08-19 Coherent Logix, Incorporated Processing system with interspersed stall propagating processors and communication elements
US8140829B2 (en) 2003-11-20 2012-03-20 International Business Machines Corporation Multithreaded processor and method for switching threads by swapping instructions between buffers while pausing execution
US7565653B2 (en) * 2004-02-20 2009-07-21 Sony Computer Entertainment Inc. Methods and apparatus for processor task migration in a multi-processor system
US7853934B2 (en) 2005-06-23 2010-12-14 Hewlett-Packard Development Company, L.P. Hot-swapping a dynamic code generator
CN103530187B (zh) * 2006-03-27 2017-01-18 相干逻辑公司 为多处理器系统设计程序
US8141102B2 (en) * 2008-09-04 2012-03-20 International Business Machines Corporation Data processing in a hybrid computing environment
WO2011161774A1 (ja) * 2010-06-22 2011-12-29 富士通株式会社 マルチコアプロセッサシステム、制御プログラム、および制御方法
US20130117168A1 (en) * 2011-11-04 2013-05-09 Mark Henrik Sandstrom Maximizing Throughput of Multi-user Parallel Data Processing Systems
TW201235833A (en) * 2011-02-16 2012-09-01 Ind Tech Res Inst System and method for multi-core synchronous debugging of a multi-core platform
US9009678B2 (en) * 2011-06-28 2015-04-14 International Business Machines Corporation Software debugging with execution match determinations
US8924619B2 (en) * 2013-03-15 2014-12-30 Seagate Technology Llc Unified message-based communications

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07311753A (ja) * 1994-05-11 1995-11-28 Internatl Business Mach Corp <Ibm> 複数のノード内の制御コードを更新する方法および装置
JP2007272895A (ja) * 2006-03-31 2007-10-18 Technology Properties Ltd コンピュータプロセッサアレイの操作方法および装置
WO2012051577A1 (en) * 2010-10-15 2012-04-19 Coherent Logix, Incorporated Disabling communication in a multiprocessor system
US20130081044A1 (en) * 2011-09-27 2013-03-28 Mark Henrik Sandstrom Task Switching and Inter-task Communications for Multi-core Processors

Also Published As

Publication number Publication date
US11726812B2 (en) 2023-08-15
CN110083440A (zh) 2019-08-02
CN105359098A (zh) 2016-02-24
EP3537295A3 (en) 2019-11-27
US20160041842A1 (en) 2016-02-11
US11023272B2 (en) 2021-06-01
EP3537295A2 (en) 2019-09-11
JP2020184375A (ja) 2020-11-12
JP2016519378A (ja) 2016-06-30
JP6228294B2 (ja) 2017-11-08
JP6453971B2 (ja) 2019-01-16
US20210294643A1 (en) 2021-09-23
US20140344527A1 (en) 2014-11-20
EP3279793A1 (en) 2018-02-07
EP2997469A1 (en) 2016-03-23
CN110083440B (zh) 2023-08-04
EP4220399A3 (en) 2023-09-27
US20230409380A1 (en) 2023-12-21
EP3279793B1 (en) 2019-12-04
EP4220399A2 (en) 2023-08-02
WO2014185933A1 (en) 2014-11-20
US20180260240A1 (en) 2018-09-13
CN105359098B (zh) 2019-07-02
JP2019057321A (ja) 2019-04-11
JP7121076B2 (ja) 2022-08-17
US9990227B2 (en) 2018-06-05
EP2997469B1 (en) 2017-08-23
US9195575B2 (en) 2015-11-24

Similar Documents

Publication Publication Date Title
JP6453971B2 (ja) マルチプロセッサ組込みシステム上でのアプリケーションの動的再構成
JP6856612B2 (ja) 多層相互接続による分散型プロセッサを有する処理システム
US7849441B2 (en) Method for specifying stateful, transaction-oriented systems for flexible mapping to structurally configurable, in-memory processing semiconductor device
US9568970B1 (en) Hardware and software enabled implementation of power profile management instructions in system on chip
JP2022500772A (ja) ネットワークオンチップ(NETWORK−ON−CHIP:NoC)のパーシャルリコンフィギュレーション
CN109154924A (zh) 多个上行链路端口设备
CN105793829A (zh) 集成组件互连
US10896476B2 (en) Repository of integration description of hardware intellectual property for NoC construction and SoC integration
CN109582998A (zh) 小巧PCIe端点的根复合体集成端点仿真
CN112306946B (zh) 一种多核处理器及其执行复杂计算的方法
CN101630343A (zh) 仿真方法及系统
CN108829530B (zh) 一种图像处理方法及装置
US10430215B1 (en) Method and system to transfer data between hardware emulator and host workstation
US20230409395A1 (en) Runtime Virtualization of Reconfigurable Data Flow Resources
CN116841731A (zh) 一种fpga虚拟化资源调度系统及方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181213

R150 Certificate of patent or registration of utility model

Ref document number: 6453971

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250