JP6588106B2 - 計算機システム及び計算機の制御方法 - Google Patents

計算機システム及び計算機の制御方法 Download PDF

Info

Publication number
JP6588106B2
JP6588106B2 JP2017559987A JP2017559987A JP6588106B2 JP 6588106 B2 JP6588106 B2 JP 6588106B2 JP 2017559987 A JP2017559987 A JP 2017559987A JP 2017559987 A JP2017559987 A JP 2017559987A JP 6588106 B2 JP6588106 B2 JP 6588106B2
Authority
JP
Japan
Prior art keywords
accelerator
processing
data
processor
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017559987A
Other languages
English (en)
Other versions
JPWO2017119098A1 (ja
Inventor
彬史 鈴木
彬史 鈴木
岡田 光弘
岡田  光弘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2017119098A1 publication Critical patent/JPWO2017119098A1/ja
Application granted granted Critical
Publication of JP6588106B2 publication Critical patent/JP6588106B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659Command handling arrangements, e.g. command buffers, queues, command scheduling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0683Plurality of storage devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • G06F9/5016Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/509Offload

Description

本発明は、データ処理を行う計算機システム及び計算機システムに接続されるアクセラレータに関するものである。
コンピュータシステムは何らかのデータ処理を目的とする。これらデータ処理はコンピュータシステム内のプロセッサによって実施される。また、処理対象となるデータはコンピュータシステムの二次記憶装置(例えばHDD(Hard Disk Drive))等に格納されており、プロセッサは二次記憶装置に対して処理対象のデータを一次記憶装置(例えばDRAM(Dynamic Random Access Memory))に転送するように指示する。そして、プロセッサは、二次記憶装置によるデータ転送が完了した後に、一次記憶装置に格納されたデータを処理する。こうしたコンピュータシステムでは、二次記憶装置の転送性能がボトルネックとなりデータ処理の性能が制限されてきた。
近年、SSD(Solid State Drive)を二次記憶装置として利用したコンピュータシステムが広まっている。SSDを二次記憶装置に用いることで、データの転送性能が飛躍的に向上し、前述の二次記憶装置によるボトルネックが解消された。しかし、二次記憶装置の性能が向上する一方でデータ処理を行うプロセッサの性能向上は鈍化しており、データ処理システムにおいてプロセッサの処理性能がコンピュータシステム全体のボトルネックとなっている。
このプロセッサによるデータ処理性能のボトルネックを回避するため、FPGA(Field−Programmable Gate Array)やGPU(Graphics Processing Unit)等の装置をコンピュータシステムに接続し、プロセッサに替わってデータ処理の一部を担うコンピュータシステムが登場している(例えば特許文献1)。
米国特許第8824492号明細書
上記特許文献1では、二次記憶装置からデータをアクセラレータとしてのFPGAに直接転送し、FPGAにて所定の処理をした後、処理結果を一次記憶装置に転送する技術が開示されている。
しかし、様々なデータ処理の中には、アクセラレータへオフロードせずにプロセッサにて処理を実施するほうが効率的な処理も存在する。例えば、オフロードする処理対象データのサイズが小さい場合、プロセッサは少量のデータをアクセラレータに転送する制御を行い、さらに、オフロードする処理内容を記述した情報をアクセラレータに転送する制御を行い、アクセラレータから通知されるオフロード処理の結果を取得する、といった処理を行う必要がある。
このように、データのサイズが小さい場合では、プロセッサに対するデータ処理の負荷が軽減されても、アクセラレータに処理をオフロードするために新たな処理負荷が生じるため、プロセッサからアクセラレータへの負荷オフロードが十分になされず、プロセッサの性能ボトルネックが回避されないという課題が生じる場合があった。
上記特許文献1に開示された技術では、こうした課題が考慮されておらず全ての処理をアクセラレータにオフロードするため、上述のように適切な性能向上効果が得られない場合が存在する。
また、上記特許文献1のように複数の解析処理の全てをアクセラレータにオフロードする構成では、全ての解析処理をアクセラレータ内に実装する必要がある。こうした構成では、極めて稀に発生する処理まで考慮してアクセラレータを開発する必要が生じ、開発工数の増大及びコストの増大を招く、という課題があった。
また、上記特許文献1に開示された技術では、こうした課題が考慮されておらず全処理をアクセラレータにオフロードするため、コンピュータシステムが実行する可能性のある全てのデータ処理をアクセラレータ内に実装する必要がある。
また、複数のアプリケーションが稼働しており、複数接続されたアクセラレータが稼働するコンピュータシステムでは、様々なアプリケーションか個別にアクセラレータを利用する。このとき、アクセラレータの処理負荷を平準化する必要があるが、上記特許文献1ではアクセラレータの負荷を平準化することができない、という問題があった。
本発明は、プロセッサと、前記プロセッサに接続された第1のメモリと、第2のメモリを含むアクセラレータと、前記プロセッサ及び前記アクセラレータに接続されてデータを格納するストレージ装置と、を含んでデータ処理部を稼働させる計算機システムであって、前記データ処理部は、前記データの処理要求を受け付ける処理要求受付部と、前記処理要求に含まれる処理の内容を分析する処理内容分析部と、前記アクセラレータの負荷を検出する負荷検出部と、前記処理の内容の分析結果と、前記アクセラレータの負荷とを取得して、所定の条件が成立したときには受け付けた処理を前記アクセラレータに実行させるオフロード処理部と、前記所定の条件が成立しなかったときには受け付けた処理を前記プロセッサに処理させる処理実行部と、を含み、前記データ処理部が複数稼働し、前記データ処理部には予め優先度がそれぞれ設定され、前記オフロード処理部は、前記アクセラレータに前記第2のメモリに記憶領域を確保させてから、前記ストレージ装置に処理要求に含まれるデータを前記第2のメモリの前記記憶領域に転送させ、前記データ処理部に設定された優先度が前記所定の条件を満たすときに、前記アクセラレータに処理を実行させ、前記処理実行部は、前記プロセッサに前記第1のメモリに記憶領域を確保させてから、前記ストレージ装置に前記処理要求に含まれるデータを前記第1のメモリの前記記憶領域に転送させ、前記プロセッサに処理を実行させる。
本発明によれば、様々なデータ処理を行う計算機システムにおいて、アクセラレータにオフロードする事が好適な処理のみをオフロードする事が可能となる。例えば、計算機システムのデータ処理全体のうち、高頻度に生じる処理内容をアクセラレータで高速に処理することで、計算機システムの全体の性能を向上させることができる。また、複数のアクセラレータの負荷を平準化することが可能となり、計算機システムの全体的なデータ処理性能を向上させる事が可能となる。
本発明の実施例を示し、計算機システムの一例を示すブロック図である。 本発明の実施例を示し、アクセラレータの一例を示すブロック図である。 本発明の実施例を示し、サーバにおけるデータ転送経路の一例を示すブロック図である。 本発明の実施例を示し、サーバのソフトウェア構成の一例を示すブロック図である。 本発明の実施例を示し、サーバで行われる処理の一例を示すフローチャートである。 本発明の実施例を示し、サーバのアクセラレータ管理情報の一例を示す図である。 本発明の実施例を示し、サーバのメモリ空間の一例を示すマップである。 本発明の変形例を示し、計算機システムの一例を示すブロック図である。 本発明の変形例を示し、計算機システムの一例を示すブロック図である。 本発明の変形例を示し、サーバのソフトウェア構成の一例を示すブロック図である。
以下、本発明の一実施例について添付図面を用いて説明する。
(1−1)システム構成
図1は、計算機システムの一例を示すブロック図である。まず図1を用いて、本発明が適用される計算機システムの構成について説明する。図1は、本発明が適用される計算機システムの一例について示しており、本発明は、図1を例とする計算機システムに適用可能なものである。まず図1について説明する。
図1は、本発明が適用されるサーバ100の構成を示している。図1のサーバ100は、一次記憶領域(または主記憶装置、メモリ)であるDRAM111と、ソフトウェアに従って様々な処理を行なうプロセッサ112と、各種周辺機器を接続するスイッチ(以下SW)113、二次記憶領域(または補助記憶装置、ストレージ装置)となるHDD/SSD115−1、115−2と、プロセッサ112からの指示に基づいてデータ処理を行うアクセラレータ114−1、114−2を含む。なお、アクセラレータ全体を“−”のない符号114で示す。その他の構成要素についても同様に“−”のない符号で、当該構成要素の全体を指す。
DRAM111は、プロセッサ112から短時間でアクセス可能に接続されており、プロセッサ112が処理するプログラムや処理を行うデータを格納する記憶領域である。
プロセッサ112は、プログラムに従って稼働し、対象のデータを処理する装置である。プロセッサ112は、内部に複数のプロセッサコア(図示省略)を含み、プロセッサコアは各自独立してプログラムを処理することができる。また、プロセッサ112は、内部にDRAMコントローラを含み、プロセッサコアからのリクエストに応じてDRAM111からデータを取得し、またはDRAM111にデータを格納する。
また、プロセッサ112は、外部IOインターフェース(図示省略)を含んでSW113と接続する。またプロセッサ112は、SW113を経由して二次記憶装置であるHDD/SSD115やアクセラレータ114に指示を通知する事が可能である。
SW113は、高速な外部IOバスを中継する構成要素であり、例えばPCI−ExpressやInfiniband等の接続規格のパケットを、所定のルーティング方式で転送する。SW113は、HDD/SSD115とアクセラレータ114を複数台接続しており、プロセッサ112と各種デバイス間で情報を転送する。
HDD/SSD115は、処理の対象となるデータを格納する二次記憶装置である。本発明においては、HDD/SSD115はプロセッサ112から通知される情報に基づき対象データをDARM111または、後述のアクセラレータ114内のDRAM(主記憶装置)401に転送する。本発明においては、二次記憶装置は、HDDやSSDのいずれでも構わない。
なお、本実施例のサーバ100の構成を示す図1では、プロセッサ112の外部にあるSW113を経由してHDD/SSD115と接続する例について記すが、本発明はこの例に限定されるものではなく、プロセッサ112とHDD/SSD115やアクセラレータ114が直接接続されていてもよい。
また、本実施例のサーバ構成を示す図1では、サーバ100内に一つのプロセッサ112とひとつのSW113を有する構成を示すが、本発明はこの例に限定されるものではない。例えば、図7で示すようにサーバ100Aには、複数のプロセッサ112−1、112−2と、SW113−1、113−2が搭載されていても良く、一つのプロセッサ112に複数のSW113が接続される構成、または、複数のプロセッサ112に一つのSW113が接続される構成であっても構わない。
また、本実施例のサーバの構成を示す図1では、サーバ100内にSW113を格納した構成について記すが、本発明はこの構成について限定されるものではない。例えば、図8で示すようにサーバ100−1、100−2が複数有り、複数のサーバ100が複数のエキスパンダー301−1、301−2を共有する構成であっても良い。
エキスパンダー301は、内部にSW113と、HDD/SSD115−1、115−2と、アクセラレータ114−1、114−2を含み、HDD/SSD115、アクセラレータ114はSW113を経由してサーバ100内のプロセッサ112に接続される。
上記構成において、サーバ100−1、100−2はサーバ間通信経路302(例えばInfinibandまたはEthernet)を用いて相互に通信し、後述するアクセラレータ114内のDRAM領域の管理を協調して行う。
(1−2)アクセラレータの構成
次に図2を用いて、本発明が適用されるアクセラレータ114−1の内部構成について説明する。図2は、アクセラレータ114−1の一例を示すブロック図である。図2に示すアクセラレータ114−1はFPGA400とDRAM401によって構成される。なお、図1に示したアクセラレータ114−1、114−2は同様の構成である。
FPGA400は、少なくとも内部にホストインターフェース部411と、組み込みプロセッサ412と、FPGA内部スイッチ部413と、データ処理機能部414及びSRAM部415を有する。
ホストインターフェース部411は、FPGA400内に実装された機能であり、接続されるSW113とのデータ通信を行う機能部である。
組み込みプロセッサ412は、ホスト(プロセッサ112)からの指示に基づいて所定の処理を行う機能部である。本実施例ではサーバ100内のプロセッサ112は、アクセラレータ114に対してフィルタ処理(対象データ中、指定した条件に一致したデータのみを取り出す処理)のオフロードコマンドを作成し、オフロードコマンドの実施をアクセラレータ114に指示する。
この指示を組み込みプロセッサ412が検知すると、サーバ100からコマンドを取得する。そして、組み込みプロセッサ412は、フィルタ処理の条件を取得し、当該条件を後述のデータ処理機能部414に通知する。次に、アクセラレータ114内のDRAM401における対象データの位置をデータ処理機能部414に通知し、処理開始を指示する。
FPGA内部スイッチ部413は、FPGA400内の各機能部間での情報通信を行うため、各機能部に接続される。尚、図2には、スター型に接続されたスイッチの例について記しているが、FPGA内部スイッチ部413は、共有バス構成にて接続されていてもよい。
データ処理機能部414は、サーバのプロセッサ112から指示された内容に基づいてデータ処理を行う論理回路である。データ処理機能部414は、組み込みプロセッサ412の指示に基づいて処理を開始し、組み込みプロセッサ412から指定されたアクセラレータ114内のDRAM401の領域から対象データを読み出し、組み込みプロセッサ412から指示されたフィルタリング条件を用いて、対象データ中から条件に該当するデータのみをホストインターフェース部411を介してサーバ100のプロセッサ112に転送する。
尚、本実施例では、データ処理の一例としてフィルタ処理について記すが、本発明はこのデータ処理内容に限定されるものではない。例えば加算処理でもよく、指定されたデータの合計値を演算し、その合計値のみをサーバ100に転送する制御でもよい。
また、本実施例では、アクセラレータ114がFPGAによって構成された例について示すが本発明はこの例に限定されるものではない。例えば、アクセラレータ114がGPUによって構成されており、データ処理機能部414や組み込みプロセッサ412等の区別無く、各種処理を全てGPUのコアが処理するとしても良い。
(1−3)アクセラレータにて処理する場合のデータ転送経路
続いて図3を用いて本実施例におけるデータの転送経路について説明する。本実施例では、データの処理内容に基づきサーバ100内のプロセッサ112が、データ処理をプロセッサ112自身で処理するか、アクセラレータ114にオフロードするか否かを判定する。本実施例ではその一つの例として、フィルタ処理を行う対象データのサイズが小さい(閾値Th1以下)場合にはプロセッサ112自身でフィルタ処理を行い、フィルタ処理を行う対象データのサイズが大きい(閾値Th1を超える)場合にはアクセラレータ114内のデータ処理機能部414にて処理を行う。
図3の破線の矢印にて示すデータ転送経路501は、データ処理をプロセッサ112自身で処理する際のデータ転送経路である。プロセッサ112は、対象データを格納するための領域としてオペレーティングシステムの標準機能を用いてDRAM111内の領域を確保し、その領域をHDD/SSD115に通知する。通知を受けたHDD/SSD115は、DRAM111内の領域に向けて対象データを転送する。対象データの転送完了後、HDD/SSD115はプロセッサ112に対してデータ転送の完了を通知する。
プロセッサ112はデータ転送の完了を取得後、DRAM111に直接アクセスし、対象データを取得してフィルタ処理を行う。
一方で、図3の実線の矢印にて示すデータ転送経路502は、データ処理をアクセラレータ114にオフロードする際のデータ転送経路である。プロセッサ112は、対象データを格納するための領域として後述するアクセラレータDRAMアロケータ621を用いてアクセラレータ114内のDRAM401で記憶領域を確保し、その記憶領域をHDD/SSD115に通知する。通知を受けたHDD/SSD115は、アクセラレータ114内のDRAM401の領域に向けて対象データを転送する。対象データの転送完了後、HDD/SSDはプロセッサ112に対して完了を通知する。
プロセッサ112はデータ転送完了の通知を取得後、オフロード用のコマンドを作成する。このオフロード用のコマンドには、フィルタ処理の条件等を含む。そしてプロセッサ112は、このコマンドをアクセラレータ114に通知する。通知を受けたアクセラレータ内の組み込みプロセッサ412は、プロセッサ112から通知されたフィルタ処理の条件をデータ処理機能部414に通知する。その後、組み込みプロセッサ412は、データ処理機能部414に処理の開始を指示する。
組み込みプロセッサ412から指示を受けたデータ処理機能部414は、対象データをDRAM401から取得して、フィルタ処理を行う。そして、組み込みプロセッサ412はフィルタ処理の結果をサーバ100のプロセッサ112に転送する。
上述のとおり、図3にて実線にて示したアクセラレータ114にてデータ処理をする際のデータ転送経路502を実現することで、転送不可が集中するプロセッサ112とSW113間のデータ転送経路や、プロセッサ112とDRAM111間の転送経路に対象データを転送することなく、HDD/SSD115とアクセラレータ114間の経路のみに対象データを転送するだけで、データ処理を実現できる。
このため、サーバ100の性能を向上させる際に、プロセッサ112やDRAM111を増強せずに、HDD/SSD115やアクセラレータ114の個数を増やすのみで性能向上を達成できる。
(1−4)ソフトウェア構成
続いて、実施例1におけるソフトウェア構成について図4を用いて説明する。図4は、本実施例におけるサーバ100のソフトウェアの構成の一例を示すブロック図である。図4に示すソフトウェアのいずれも図1に示したサーバ100、または図8または図9にて示したサーバ100A、100−1、100−2のプロセッサ112によって処理される。
アプリケーション601−1、601−2は、例えば、HDD/SSD115に格納されたデータ処理を行うデータベースソフトウェアであり、オペレーティングシステム602が提供する仮想(または論理)アドレス上で稼働するソフトウェアである。なお、本実施例ではデータ処理を行うアプリケーションの一例としてデータベースソフトウェアを挙げ、データベースソフトウェアがフィルタ処理及びインデックスの管理情報生成処理をする例について記すが、本発明はこのソフトウェアに限定されるものではない。例えば、アプリケーションとして画像処理ソフトウェアであっても良く、画像処理ソフトウェアが、画像処理(例えば、画像フォーマット変換)をアクセラレータにオフロードするものにも適用される。
また、図4で示すようにアプリケーション601は、オペレーティングシステム602上で稼働するものに限定されない。
例えば図10のアプリケーション601のように、オペレーティングシステム602上で稼働する仮想化ソフトウェア604にて管理されるゲストオペレーティングシステム602上で稼働するものにも適用される。
図4において、データ処理部として機能するアプリケーション601は、データの処理要求を受け付ける処理要求受付部603と、受け付けた処理内容を分析する処理内容分析部609と、アクセラレータ114の負荷を検出する負荷検出部605と、処理のオフロードの有無を判定し、オフロード処理を実行させるオフロード処理部606と、処理のオフロードを行わない場合にデータ処理をプロセッサ112にて実行する処理実行部607とを含む。
アプリケーション601の処理内容分析部609は、アクセラレータ114にオフロード可能な処理を予め取得または設定されおり、内部で生じる様々な処理について、アクセラレータにて処理すべきか、プロセッサ112にて処理すべきかを判定する。
また、アプリケーション601の負荷検出部605は、後述のアクセラレータ管理情報800をアクセラレータドライバ610から取得することで、アクセラレータ114の負荷状況を取得する。そして、アクセラレータ114の負荷が所定の閾値Th2以上で高くプロセッサ112で処理するほうが高速に処理可能と判定される場合、アプリケーション601のオフロード処理部606は、処理内容としてアクセラレータ114にオフロード可能な場合であってもアクセラレータ114へのオフロードを禁止して、処理実行部607がプロセッサ112にて処理する。
また、オフロード処理部606は、アクセラレータ114に処理をオフロードする場合、後述のアクセラレータ管理情報800から、複数のアクセラレータ114の負荷を取得して、負荷が相対的に低いアクセラレータ114を選択して処理をオフロードする。例えば、アプリケーション601は、複数のアクセラレータ114のうち負荷が最小のアクセラレータ114を選択して処理をオフロードする。
オペレーティングシステム602は、アクセラレータ114や二次記憶装置であるHDD/SSD115等を管理し、アプリケーションを稼働させるソフトウェアである。オペレーティングシステム602は、少なくとも内部に、アクセラレータドライバ610と、HDD/SSDドライバ611とを含む。
アクセラレータドライバ610は、アプリケーション601がアクセラレータ114を利用する際に使用するソフトウェアである。アクセラレータドライバ610は、アクセラレータDRAMアロケータ621とオフロードコマンド発行622と、オフロードコマンド完了チェック623と、アクセラレータ管理情報の取得624の機能を有する。
アクセラレータDRAMアロケータ621は、アクセラレータ114が有するDRAM401の記憶領域を管理する機能である。アプリケーション601は、アクセラレータ114の利用時にアクセラレータDRAMアロケータ621に対してメモリ要求とメモリ要求サイズを通知する。
通知を受けたアクセラレータDRAMアロケータ621は、管理するアクセラレータ114内のDRAM401の記憶領域で空き領域を探索し、要求サイズ分を確保する。アクセラレータDRAMアロケータ621は、確保した領域が利用中である事を示す情報をアクセラレータDRAMアロケータ621が管理するアクセラレータ管理情報800に記録する。そして、アクセラレータDRAMアロケータ621は、確保した領域の先頭を示す物理アドレスをアプリケーション601に返す。一方で、要求サイズ分のDRAM401の記憶領域を確保できなかった場合、アクセラレータDRAMアロケータ621は、確保不能であることを示す情報をアプリケーション601に通知する。
また、アプリケーション601のオフロード処理部606は、利用していたアクセラレータ114内のDRAM401の記憶領域が不要となった場合(例えば、フィルタ処理のオフロード結果取得が完了したときなど)、アクセラレータDRAMアロケータ621にメモリ領域の開放を指示する。指示を受け付けたアクセラレータDRAMアロケータ621は、内部の管理情報(管理情報)から該当する領域を「空き」状態に変更して更新する。そして、アクセラレータDRAMアロケータ621は、メモリ領域の開放が完了したことをアプリケーション601のオフロード処理部606に通知する。
オフロードコマンド発行622は、アプリケーション601のオフロード処理部606が所定のオフロードコマンドをアクセラレータ114に発行する際に利用する機能である。アプリケーション601のオフロード処理部606は、HDD/SSD115に対して、対象データをアクセラレータDRAMアロケータ621に確保した記憶領域へ転送するよう指令する。そして、アプリケーション601は、アクセラレータドライバ610のオフロードコマンド発行622に処理の実行とフィルタ処理の条件を与える。
オフロードコマンド発行622は、フィルタ処理の条件をアクセラレータ114に通知し、実行を開始させる。その後、オフロードコマンド発行622は、オフロードコマンドの発行が完了したことをアプリケーション601のオフロード処理部606に通知する。
オフロードコマンド完了チェック623は、アプリケーション601のオフロード処理部606が発行済みのオフロードコマンドが完了しているか否かをアクセラレータ114に問い合わせるための機能である。
アクセラレータドライバ610は、アクセラレータ114から通知されたオフロードコマンド処理の完了を保持しておき、アプリケーション601のオフロード処理部606からオフロードコマンド完了チェック623を介したアクセスがあった際に、アクセラレータ管理情報800を参照することで、指定されたオフロードコマンドが完了しているか否かを判定する。オフロードコマンド完了チェック623は、アクセラレータ114でオフロードコマンドの完了を確認した後、フィルタ処理の結果をアプリケーション601のオフロード処理部606に応答する。
アクセラレータ管理情報の取得624は、アプリケーション601の負荷検出部605及びオフロード処理部606が後述するアクセラレータ管理情報800を取得するために用いる機能である。本実施例のアプリケーション601は、複数のアクセラレータ114を管理しており、各アクセラレータ114への負荷が平準化されるように調整する。
このため、アプリケーション601はオフロードコマンドの発行前に、アクセラレータ管理情報の取得624の機能を用いてアクセラレータ114の管理情報を取得し、この管理情報から現在負荷が相対的に低いアクセラレータ114を選択する。この機能によって、本実施例のアプリケーション601はアクセラレータ114の負荷の平準化を実現する。
尚、本実施例では、アプリケーション601がこれらアクセラレータドライバ610の各機能と直接通信する例について記述するが、本発明はこの例に限定されるものではない。例えば、複数のアプリケーション601から共通してアクセスされるライブラリ(または、オペレーティングシステム602内の機能)があり、そのライブラリが複数のアプリケーション601からの要求を調停してアクセラレータドライバ610にアクセスしても良い。
また、アクセラレータ管理情報の取得624の機能については、オペレーティングシステム602内のドライバではなく、オペレーティングシステム602上にて稼働する複数のアプリケーション601から参照可能なソフトウェアであっても良い。
HDD/SSDドライバ611は、アプリケーション601がHDD/SSD115にIOコマンドを発行する際に利用するソフトウェアであり、IOCMD1発行631と、IOCMD2発行632と、IOCMD完了チェック633の機能を有する。
IOCMD1発行631は、アプリケーション601の処理実行部607がプロセッサ112を用いてデータ処理を行う際に、HDD/SSD115から対象データを取得するために利用する機能である。アプリケーション601は、データを処理するため、対象データを格納する記憶領域の確保をオペレーティングシステム602に要求する。この記憶領域の確保は、オペレーティングシステム602がLinuxであるときの「malloc」や「posix_memalign」等の機能であり、記憶領域の確保を要求されたオペレーティングシステム602は、管理下のDRAM111の空き領域から、要求された記憶領域を確保して、当該記憶領域の仮想アドレスをアプリケーション601に応答する。
次に、アプリケーション601は、この仮想アドレスをIOCMD1発行に通知し、この仮想アドレスに対象データを格納するように指示する。指示を受け付けたIOCMD1発行631は、仮想アドレスをオペレーティングシステム602の他の機能に問い合わせ、物理アドレスに変換し、その物理アドレスをHDD/SSD115に通知し、対象データの取得を指示する。
尚、アプリケーション601は、IOCMD1発行に対して連続した仮想アドレスを通知するが、その仮想アドレスを物理アドレスに変換して、離散的な複数の物理アドレスとなっても構わない。この場合、IOCMD1は、離散的な複数の物理アドレス全てをHDD/SSD115に通知する。通知を受けたHDD/SSD115は、指定された複数の物理アドレスに対して対象データを転送する。対象データの転送が完了した後、HDD/SSD115は、転送完了情報をサーバ100のアプリケーション601に通知する。
IOCMD2発行632は、アプリケーション601のオフロード処理部606がアクセラレータ114を用いてデータ処理する際に、HDD/SSD115からアクセラレータ114内のDRAM401に対象データを転送させるために用いる機能である。
アプリケーション601のオフロード処理部606は、アクセラレータ114でデータ処理を行うため、前述のアクセラレータDRAMアロケータ621を用いて、対象データを格納するためのアクセラレータ114内のDRAM401で記憶領域を確保する。このとき、アクセラレータDRAMアロケータ621は、確保した記憶領域を示すアクセラレータ内DRAM401の物理アドレスをアプリケーション601に返す。
アプリケーション601のオフロード処理部606は、このアクセラレータ内DRAM401の物理アドレスをIOCMD2発行632に通知し、データ転送を指示する。指示を受けたIOCMD2発行632は、アプリケーション601から通知された物理アドレスをHDD/SSD115に通知して、対象のデータ転送を指示する。
IOCMD2発行632からデータ転送を指示されたHDD/SSD115は、指定されたアクセラレータ内DRAM401の物理アドレスに対してデータを転送し、転送が完了すると転送完了情報をサーバ100のアプリケーション601のオフロード処理部606に通知する。
IOCMD完了チェック633は、アプリケーション601がIOCMD1またはIOCMD2にて発行したコマンドの完了を検知するための機能である。HDD/SSDドライバ611は、HDD/SSD115のデータ転送の完了を検知した際、内部管理情報(図示省略)にデータ転送が完了したことを記録し、保持している。
アプリケーション601のオフロード処理部606は、IOCMD完了チェック633を定期的(所定の周期)に呼び出して、発行中のIOCMDが完了しているか否かをHDD/SSDドライバ611に問い合わせる。このとき、HDD/SSDドライバ611は、内部管理情報を参照し、「データ転送完了」または、「データ転送未完」をアプリケーション601のオフロード処理部606に通知する。
オペレーティングシステム602と、アプリケーション601の各機能部はプログラムとしてメモリとしてのDRAM111にロードされる。
プロセッサ112は、各機能部のプログラムに従って処理することによって、所定の機能を提供する機能部として稼働する。例えば、プロセッサ112は、データベースプログラムに従って処理することでデータ処理部(アプリケーション601)として機能する。他のプログラムについても同様である。さらに、プロセッサ112は、各プログラムが実行する複数の処理のそれぞれの機能を提供する機能部としても稼働する。計算機及び計算機システムは、これらの機能部を含む装置及びシステムである。
オペレーティングシステム602やアプリケーション601の各機能を実現するプログラム、テーブル等の情報は、ストレージサブシステムや不揮発性半導体メモリ、ハードディスクドライブ、SSD(Solid State Drive)等の記憶デバイス、または、ICカード、SDカード、DVD等の計算機読み取り可能な非一時的データ記憶媒体に格納することができる。
図7はサーバ100のメモリ空間の一例を示すマップである。サーバ100のDRAM111のメモリ空間1110は、オペレーティングシステム602によって管理される。図示の例では、サーバ100のDRAM111のメモリ空間1110に割り当てられた仮想アドレスが0h〜E0000hの例を示す。
オペレーティングシステム602は、アクセラレータ114のDRAM401の物理アドレスを、メモリ空間1110の仮想アドレスに割り当てておく。
例えば、オペレーティングシステム602は、アクセラレータ114−1のDRAM401の物理アドレスの0h〜FFFhを、メモリ空間1110内の仮想アドレスのA000h〜AFFFhに割り当てる。また、オペレーティングシステム602は、例えば、アクセラレータ114−2のDRAM401の物理アドレスの0h〜FFFhを、メモリ空間1110内の仮想アドレスのD000h〜DFFFhに割り当てる。
アクセラレータ114は、DRAM111に割り当てられた上記記憶領域(A000〜AFFF、D000〜DFFF)へオフロードされた対象データの処理結果を書き込んでおく。これにより、アプリケーション601はDRAM111内に書き込まれたオフロード処理の結果を利用することができる。
なお、上記ではオペレーティングシステム602上でアプリケーション601を実行する例を示したが、図10に示す仮想化ソフトウェア604を用いた場合は、次のようになる。図10は、本実施例の変形例を示し、サーバ100のソフトウェア構成の一例を示すブロック図である。
仮想化ソフトウェア604は、オペレーティングシステム602でゲストオペレーティングシステム602を稼働させるソフトウェアである。ゲストオペレーティングシステム602からのアクセラレータ114、HDD/SSD115への各種命令を仲介するソフトウェアである。仮想化ソフトウェア604は、アクセラレータドライバ610やHDD/SSDドライバ611に、アプリケーション601と同様の形態でアクセラレータ114内のDRAM401で記憶領域の確保や、オフロードコマンドの発行や、各種IOの発行を行う。
ゲストオペレーティングシステム602は、仮想化ソフトウェア604上で稼働するオペレーティングシステムである、ゲストオペレーティングシステム602内には、オペレーティングシステム602内のアクセラレータドライバ610とHDD/SSDドライバ611と同様のインターフェースを持つゲストオペレーティングシステム内ドライバ641を有する。
ゲストオペレーティングシステム602上で稼働するアプリケーション601は、このゲストオペレーティングシステム内ドライバ641を用いることで、オペレーティングシステム602内の、アクセラレータドライバ610、HDD/SSDドライバ611に命令を通知する。
ゲストオペレーティングシステム内ドライバ641は、オペレーティングシステム602内のアクセラレータドライバ610とHDD/SSDドライバ611と同様のインターフェースをアプリケーション601に提供する。そして、ゲストオペレーティングシステム内ドライバ641はアプリケーション601からの指示に応じて、仮想化ソフトウェア604を介してアクセラレータドライバ610またはHDD/SSDドライバ611に指示を送る。
(1−5)アクセラレータ管理情報
次に、図6を用いてアクセラレータ管理情報800について説明する。図6はサーバ100のアクセラレータ管理情報800の一例を示す図である。
アクセラレータ管理情報800は、前述のアクセラレータドライバ610が管理し、更新処理を行う。アクセラレータドライバ610は、アプリケーション601からの指示に基づいてオフロードコマンドを発行する度に、アクセラレータ管理情報800の該当項目を更新する。
本実施例のアクセラレータ管理情報800は、発行中のオフロードコマンド数801と、発行中の対象データサイズ802と、発行中の処理内容内訳803のエントリを持ち、アクセラレータ114毎に個別の独立したフィールド811、812を有する。なお、図中アクセラレータXがアクセラレータ114−1に対応し、アクセラレータYがアクセラレータ114−2に対応する。
発行中のオフロードコマンド数801は、該当するアクセラレータ114に発行済みのオフロードコマンド数を格納するフィールドである。アクセラレータドライバ610は、オフロードコマンドをアクセラレータ114に通知した際に、このフィールドをオフロードしたコマンド数だけインクリメントして更新する。
また、アクセラレータドライバ610は、アクセラレータ114からオフロードコマンドの完了を受領した際には、発行中のオフロードコマンド数801のフィールド811、812の値をデクリメントして更新する。
アプリケーション601がこのフィールド811、812の値を取得することで、アクセラレータ114毎の負荷の差異を取得することができる。仮に、複数のアプリケーション601が発行するアクセラレータ114へのオフロードコマンドの内容が同一であると仮定される場合には、アプリケーション601はこのフィールド811、812の値が相対的に小さいアクセラレータ114に対してオフロードコマンドを発行することで、アクセラレータ114の負荷を平準化する。
図6の例では、発行中のオフロードコマンド数801のエントリにおいて、アクセラレータXに20個のコマンドが発行済みであり、アクセラレータYには32個のコマンドが発行済みである場合を示している。仮に、これらオフロードコマンドが同一(処理内容が同一で且つリクエストサイズが同一)である場合には、このフィールドの値が少ないアクセラレータ1にコマンドを発行することで、負荷の平準化を実現する。
アクセラレータ114−1にコマンドを発行した場合には、アクセラレータドライバ610は、このフィールド811、812の値を既存の20から21にインクリメントして更新する。また、アクセラレータ114−1からのコマンド完了を受領した場合には、アクセラレータドライバがこのフィールドの値を20から19にデクリメントして保存する。
発行中の対象データサイズ802は、該当するアクセラレータ114に発行済みの対象データ量を格納するエントリである。アクセラレータドライバ610は、オフロードコマンドをアクセラレータ114に通知した際に、このエントリのフィールド811、812をオフロードしたデータサイズだけインクリメントして更新する。
また、アクセラレータドライバ610は、アクセラレータ114からオフロードコマンドの完了を受領した際には、このエントリのフィールド811、812の値をデクリメントして更新する。
アクセラレータ114にオフロードする対象データサイズにばらつきが大きい環境では、前述の発行中のオフロードコマンド数801のエントリに格納された値では、アクセラレータ114の負荷を予測できない。この場合、発行中の対象データサイズ802のエントリでフィールド811、812の値を用いてアクセラレータ114の負荷を推定する。例えば発行中のコマンド数が多いアクセラレータ114であっても、各コマンドの対象データサイズ802が小さい場合、処理に要する時間は短いと推測される。このため、アプリケーション601は、発行中のデータサイズ802の値が相対的に小さいアクセラレータ114を選択してオフロードを実施することでアクセラレータ114の負荷を平準化できる。
図6の例では、アクセラレータXに合計3072KBのオフロードコマンドが発行済みであり、アクセラレータYに合計8192KBのオフロードコマンドが発行済みであることを示す。仮にオフロードした処理内容が同一種類であれば、このフィールド811、812の値が相対的に小さいアクセラレータ1にオフロードコマンドを発行することで負荷の平準化を図ることができる。
発行中の処理内容内訳803は、該当するアクセラレータ114に発行済みのオフロードコマンドの処理内訳について格納するエントリである。アクセラレータ114が複数の処理が実施可能な場合、例えば、「データのフィルタリング」と「画像データのフォーマット変換」の二種類の処理が可能なアクセラレータ114の場合、アプリケーション601は各処理の処理時間が異なるため、前述の発行中のオフロードコマンド数801や発行中の対象データサイズ802では、アクセラレータ114が完了するまでの処理時間を推定できない。
そこで、発行中の処理内容内訳803に、発行中のコマンド毎について処理内容と処理データサイズを格納し、アプリケーション601は、これらの情報からコマンド毎の処理時間を負荷として推定する。そして、アプリケーション601は、処理時間が相対的に短いアクセラレータ114にオフロードすることで、アクセラレータ114の負荷の平準化を測る。また、上記推定した処理時間からプロセッサ112にて処理したほうが高速と考えられる場合、プロセッサ112にて処理する。
図6に示す例では、アクセラレータXに発行中の処理内容内訳803のエントリのフィールド811に「4KB毎のデータ処理に100μsの処理時間が必要な処理A」について、処理データサイズとして「512KB」とするコマンドを「4個」発行中であることを示す情報を格納している。
さらに発行中の処理内容内訳803のエントリでは、フィールド811に「16KB毎のデータ処理に10μsの処理時間が必要な処理B」について、処理データサイズを「64KB」とするコマンドを「16個」発行中という情報を格納している。
このとき、この情報をアクセラレータドライバ610から取得したアプリケーション601は、取得した情報からアクセラレータYの処理完了時間は、おおよそ100μs×512KB/4KB×4個+10μs×64KB/16KB×16個=51200μs+256μs=53760μsと予測する。
そして、アプリケーション601は、この処理完了時間を他のアクセラレータ114についても同様に計算して比較(図6の例のアクセラレータYは、10 μs×256KB/16KB×32個=5120μsであるから、アクセラレータXの方が対象データサイズ802は小さい)し、相対的に処理完了時間の短いアクセラレータ114を選択することで、アクセラレータ114の負荷の平準化を行う。また、アプリケーション601は、対象データの処理をプロセッサ112で実施するべきか、アクセラレータ114にオフロードすべきかを判定する情報としてアクセラレータ管理情報800を用いることができる。
なお、上記実施例では、アクセラレータ管理情報800をオペレーティングシステム602のアクセラレータドライバ610内に保持する例を示したが、図示はしないが、アプリケーション601内に保持してもよい。
(1−6)データ処理内容
続いて、図5を用いて本実施例のサーバ100で行われる処理の一例を説明する。図5は、サーバ100で行われる処理の一例を示すフローチャートである。このフローチャートは、本実施例の対象とするデータベースのアプリケーション601にて実施される。データベースソフトウェアとして稼働するアプリケーション601は、サーバ100の各種クライアントからの処理要求に応じてデータ処理を行う。アプリケーション601は、処理要求を受け付けると、図5に示すフローチャートを実行する。尚、図5に示す各ステップの処理を行う主体は、アプリケーション601を実行するプロセッサ112である。
本実施例におけるデータ処理の最初のステップS701は、アプリケーション601がデータ処理の指示(または要求)を受領する。例えばサーバ100に接続されたクライアントPC(図示省略)から、データベース全体のインデックス作成の指示が通知された場合、本実施例のアプリケーション601であるデータベースはその指示を受領する。
次のステップS702では、アプリケーション601がステップS701で受領したデータ処理の指示の内容を分析する。このステップにおいて、受領したデータ処理は、アプリケーション601によって複数種類の内部処理に分割される。例えば、受領したデータ処理の指示内容がインデックス作成の指示であった場合、インデックス作成に指定された条件に該当するデータを取得するフィルタ処理と、フィルタ処理の結果に基づいてインデックスの管理情報を生成する処理に分割される。
ステップS703では、ステップS702にて処理した複数の処理毎に、アクセラレータ114にて処理のオフロードが可能か否か、または有効か否かを判定する。例えば、上記ステップS702にて「フィルタ処理」と「インデックスの管理情報生成」の二種類の処理が必要と判断された場合、「フィルタ処理」、「インデックスの管理情報生成」という処理毎に、アクセラレータ114にて処理のオフロードが可能か判断する。
本実施例のアクセラレータ114は例えば、「フィルタ処理」の機能のみを搭載したものであり、上記の例において、アプリケーション601は、二つの処理のうち「フィルタ処理」については、アクセラレータ114にてオフロード可能と判定し、ステップS704に進む。
一方で、アプリケーション601は、「インデックスの管理情報生成」については、アクセラレータ114に処理をオフロードさせることは不可能と判定し、ステップS714に進む。
また、アプリケーション601は、アクセラレータ114にオフロード可能な処理であっても、一回のオフロードコマンド発行にてオフロードできるデータのサイズが所定の閾値Th1以下で小さい場合、例えばプロセッサ112にて処理した場合の処理時間が5μs程度と推定され、オフロードコマンド発行とアクセラレータ114による処理時間が10μsと推定される場合、アクセラレータ114へのオフロードは処理時間の短縮に有効でないと判定してステップS714に進む。
一方、アプリケーション601は、一回のオフロードコマンド発行にて、アクセラレータ114にオフロード可能なデータのサイズが閾値Th1を超えて大きい場合、ステップS704に進む。
尚、本実施例では、一回のオフロードコマンド発行にて処理するデータのサイズから、アプリケーション601が処理時間を予測して、プロセッサ112にて実施する場合とアクセラレータ114にて処理する場合に分岐して処理する例を示すが、本発明はこの例に限定されるものではない。
例えば、アプリケーション601は、アクセラレータ114にオフロードするリクエスト(データサイズ)の下限値を固定値として管理しても良い。例えば、アプリケーション601は、16KB以下のデータはプロセッサ112にて処理するという閾値Th1を保持し、この閾値Th1に従ってオフロードの可否を判定してもよい。
ステップS704は、アプリケーション601がアクセラレータドライバ610からアクセラレータ114の利用状況を取得する。アプリケーション601は、アクセラレータドライバ610のアクセラレータ管理情報の取得624を用いてアクセラレータ管理情報800を取得する。
ステップS705では、アプリケーション601が、上記ステップS704にて取得したアクセラレータ管理情報800を用いて、アクセラレータ114に処理をオフロード可能か否かを判定する。アプリケーション601は、アクセラレータドライバ610から取得したアクセラレータ管理情報800を参照し、上述のように各アクセラレータ114の負荷を推定し、アクセラレータ114の処理時間と、プロセッサ112の処理時間の比較結果に応じて、オフロードの可否を判定する。
例えば、アプリケーション601は、全てのアクセラレータ114の負荷が高く、アクセラレータ114で処理を実行した場合の処理待ち時間が、当該処理をプロセッサ112で処理した時間よりも長いと判定した場合、アクセラレータ114への処理のオフロードを禁止して、ステップS714に進む。換言すれば、アクセラレータ114による処理の高性能化が見込めない場合には、処理のオフロードは行わない。なお、アクセラレータ114へオフロードする際の処理待ち時間は、コマンドの作成とオフロード結果の受信までの時間を含む。また、アクセラレータ114の処理待ち時間と、プロセッサ112の処理時間の算出については後述する。
一方、アクセラレータ114で処理した場合の処理待ち時間が、プロセッサ112で処理した場合の時間よりも短い場合、アプリケーション601は、アクセラレータ114への処理オフロードによる高性能化の効果が見込めると判定し、ステップS706へ進む。
ステップS706では、アプリケーション601が、アプリケーション601自体に予め付与された優先度を用いてアクセラレータ114の利用を判断するステップである。
オフロードの実行可否の判定基準として、オペレーティングシステム602がLinuxやUnixであれば、本実施例のアプリケーション601は、アプリケーション601自身に付与されたnice値を用いて判断する。例えば、アプリケーション601は、サーバ100に接続されたアクセラレータ114の負荷の合計が、nice値=5に定められている閾値Th2を超えているか否かを判定する。
アクセラレータ114の負荷の合計が閾値Th2を超えていれば、「nice値=5」に設定されたアプリケーション601は、他の相対的に優先度の高い(nice値が5よりも小さい)アプリケーション601に優先的にアクセラレータ114を利用させるため、アクセラレータ114の利用を諦めステップS715に進む。
一方、アプリケーション601のnice値が小さく(優先度が高く)、複数のアクセラレータ114の負荷の合計がnice値の閾値Th2を下回る場合には、アプリケーション601は、アクセラレータ114を利用するためにステップS707に進む。
尚、本実施例では、アプリケーション601の優先度として、UNIX系にて用いられるアプリケーション601の優先度設定値であるnice値を用いた例について示すが、本発明はこの例に限定されるものではない。nice値とはまったく別の系列の優先度を表す値であっても構わない。例えば、アクセラレータ専用の優先度を決定する値を、アプリケーション601の起動時にサーバ100の入力装置(図示省略)から引数や設定ファイルを与えるようにしてもよい。
次に、ステップS707では、アプリケーション601が上記ステップS706にてアクセラレータ114にデータ処理をオフロードすると判定し、相対的に負荷の低いアクセラレータ114を選択する。アプリケーション601は、ステップS704にて取得したアクセラレータ管理情報800の各フィールドを参照し、複数接続されたアクセラレータ114の中から、相対的に負荷の低いアクセラレータ114を選択する。この処理によって、同一計算機システム内のアクセラレータ114の負荷が平準化される。
ステップS708では、ステップS707でアプリケーション601が選択したアクセラレータ114において、当該アプリケーション601はDRAM401の記憶領域を確保する。
アプリケーション601は、アクセラレータドライバ610内のアクセラレータDRAMアロケータ621に、オフロードする処理に必要な領域サイズを通知し、アクセラレータ114内のDRAM401に記憶領域の確保を指示する。アプリケーション601から指示を受けたアクセラレータDRAMアロケータ621は、自身が管理する管理情報(図示省略)を参照し、アプリケーション601から要求されたサイズがDRAM401で確保可能か否かを判定する。
アクセラレータDRAMアロケータ621は、記憶領域を確保できた場合は、確保したアクセラレータ114内のDRAM401の領域をアプリケーション601に通知する。一方で、アクセラレータDRAMアロケータ621は、記憶領域をアクセラレータ114で確保できなかった場合には、確保不可を示す情報をアプリケーション601に通知する。
ステップS709では、アプリケーション601がアクセラレータDRAMアロケータ621から取得したアクセラレータ114のDRAM401の記憶領域の確保結果を判定する。
上記ステップS708にて、アクセラレータ114でDRAM401の記憶領域が確保できた場合には、アプリケーション601は、確保したアクセラレータ114のDRAM401の記憶領域に対象データを転送するため、ステップS710に進む。
一方、DRAM401で記憶領域を確保できなかった場合には、アプリケーション601は、アクセラレータ114に処理をオフロードすることが困難となったため、プロセッサ112で処理すると判定する。なお、アプリケーション601は、DRAM401で記憶領域を確保できなかったエラーを、処理を要求したクライアントへ通知しない。エラーの通知を禁止することで、クライアントへの負担が少ない円滑なデータ処理を実現できる。そして、アプリケーション601は、プロセッサ112に接続されたDRAM111に対象データを転送するため、ステップS715へ進んでDRAM111の記憶領域を確保する。
オフロードを実施するステップS710では、ステップS708にてアプリケーション601が確保したアクセラレータ114内のDRAM401の記憶領域に対象データを転送するように、アプリケーション601がHDD/SSD115にIOコマンドを発行する。
アプリケーション601は、HDD/SSDドライバ611内のIOCMD2発行632に対して、ステップS708にてアクセラレータDRAMアロケータ621から取得したアクセラレータ114内のDRAM401の記憶領域を示す物理アドレスと、データサイズ、対象データが格納されているHDD/SSD115上の領域を通知する。
通知を受けたIOCMD2発行632は、アプリケーション601から受領した各種情報をHDD/SSD115に通知し、データ転送を開始させる。尚、このとき、アプリケーション601は、IOCMD2発行632に対して物理アドレスを通知するため、上述のIOCMD1発行631のときのように、アプリケーション601から取得したアドレスを変換する必要はない。
次に、ステップS711では、アプリケーション601が、HDD/SSD115からデータ転送の完了を取得するステップである。HDD/SSDドライバ611は、HDD/SSDからの割り込み、またはポーリングを契機としてHDD/SSDのデータ転送完了を検知する。
そしてアプリケーション601は、HDD/SSDドライバ611内のIOCMD完了チェック633を定期的に呼び出して、HDD/SSDドライバ611がHDD/SSD115のデータ転送完了を検知するのを監視する。このアプリケーション601による定期的な監視によって、アプリケーション601は、HDD/SSD115のデータ転送完了を検知する。
ステップS712は、上記ステップS711にて、アクセラレータ114内のDRAM401への対象データの転送が完了したことを検知したアプリケーション601が、アクセラレータ114に対してオフロードコマンドを発行する。
アプリケーション601は、アクセラレータドライバ610内のオフロードコマンド発行622に対して、処理を行う対象データを指定する情報を通知する。本実施例では、フィルタ処理をアクセラレータ114へオフロードするために、フィルタ処理で取得したいデータの条件を通知する。
また、アプリケーション601は、アクセラレータ114にて行われたデータ処理結果を格納するDRAM111の記憶領域もオフロードコマンド発行622に通知する。なお、この記憶領域は図7に示したとおりである。
通知を受けたオフロードコマンド発行622は、データ処理の条件と結果を格納するDRAM111の記憶領域をアクセラレータ114に通知し、データ処理の開始を指示する。
この指示を受けたアクセラレータ114内の組み込みプロセッサ412は、データ処理機能部414を起動する。このとき、組み込みプロセッサ412は、データ処理機能部414にデータ処理結果を格納する領域として、アプリケーション601から通知されたDARM111の記憶領域も通知する。起動したデータ処理機能部414は、アクセラレータ114内のDRAM401から対象データを取得し、データ処理を実施し、処理の結果を通知されたDRAM111の記憶領域に転送する。
オフロード処理の完了後、組み込みプロセッサ412は、オフロードコマンド完了の通知をオペレーティングシステム602に送信する。組み込みプロセッサ412からのオフロードコマンド完了を受領したアクセラレータドライバ610は、オフロードコマンドが完了したことをアクセラレータ管理情報800に記録する。
次にステップS713では、アプリケーション601がアクセラレータ114からのオフロードコマンド完了の通知を取得する。本実施例では、アクセラレータドライバ610が組み込みプロセッサ412からのオフロードコマンド完了の通知を受領した際、完了したことを内部の管理情報(図示省略)に記録している。
アプリケーション601は、アクセラレータドライバ610内のオフロードコマンド完了チェック623を定期的に呼び出し、オフロードコマンド完了の通知を監視する。このとき、オフロードコマンド完了チェック623は、アクセラレータドライバ610内部の管理情報(図示省略)を参照し、「オフロードコマンド完了」or「オフロードコマンド未完」をアプリケーション601に通知する。
アプリケーション601は、オフロードコマンド完了チェック623によって、「オフロードコマンド完了」の通知を受領することで、アクセラレータ114に発行したオフロードコマンドが完了したことを検知する。
上記ステップS703においてプロセッサ112で処理を行うと判定されたステップS714では、アプリケーション601が、対象データをHDD/SSD115から取得する必要があるか否かを判定する。例えば、フィルタ処理の結果に基づき新たな管理情報を作成する処理であった場合、対象データをHDD/SSD115から取得する必要はないため、プロセッサ112によるアプリケーション601の処理を実施した後に終了する(S719)。尚、プロセッサ112によるアプリケーション601の処理についての説明は省略する。
一方で、アプリケーション601は、対象データをHDD/SSD115から取得する必要があると判定した場合には、ステップS715に進む。ステップS715は、アプリケーション601が「アクセラレータでの処理はオフロードするデータサイズが小さくて非効率」、「該当処理のオフロードにアクセラレータは非対応」、「アクセラレータの負荷が高い」、「計算機システムのアクセラレータ負荷の合計が、アプリケーション601の優先度による定められている閾値を超過」、「アクセラレータ内のDRAM確保が不可」等の複数の条件からデータ処理をプロセッサ112で実施すると判定した場合に進むステップである。
アプリケーション601は、データ処理をプロセッサ112にて実施するために対象データをプロセッサ112に接続されたDRAM111に転送する必要がある。このため、アプリケーション601は、オペレーティングシステム602が管理するDRAM111の記憶領域を確保する。このとき、公知または周知のオペレーティングシステム(例えば、WindowsやLinux)602は、確保したDRAM111の記憶領域にアクセスするための仮想アドレスをアプリケーション601に応答する。
ステップS716では、アプリケーション601がステップS715にて確保したDRAM111の記憶領域に対象データを転送するようにHDD/SSD115にIOを発行する。アプリケーション601は、HDD/SSDドライバ611内のIOCMD1発行631に対して、ステップS715にてオペレーティングシステム602から取得したDRAM111の記憶領域を示す仮想アドレスと、データサイズ、処理対象データが格納されているHDD/SSD115上の領域を通知する。
通知を受けたIOCMD1発行631は、アプリケーション601から受領したDRAM111の記憶領域を示す仮想アドレスを複数の物理アドレスに変換してHDD/SSD115に通知し、データ転送の開始を指示する。
ステップS717では、アプリケーション601が、HDD/SSD115からデータ転送の完了を取得する。HDD/SSDドライバ611は、HDD/SSD115からの割り込み、またはポーリングを契機としてHDD/SSD115のデータ転送完了を検知する。そしてアプリケーション601は、HDD/SSDドライバ611内のIOCMD完了チェック633を定期的に呼び出し、HDD/SSDドライバ611がHDD/SSD115のデータ転送の完了を監視する。このアプリケーション601による定期的な監視によって、アプリケーション601は、HDD/SSD115のデータ転送完了を検知する。
ステップS718では、上記ステップS717によって、プロセッサ112に接続されたDRAM111へ転送された対象データについて、プロセッサ112がデータ処理を行う。
以上の処理によって、アプリケーション601が、コマンド処理の内容やアクセラレータ114の負荷状況からアクセラレータ114の利用の要否を判定し、アクセラレータ114にデータ処理をオフロードするまでの各種処理の例について説明した。
以上のフローチャートを実施することで、アプリケーション601は、複数のデータ処理についてアクセラレータ114にオフロードが有効なもののみ選択してオフロードできる。また、アクセラレータ114の負荷が高い場合には、アクセラレータ114の利用を停止して、プロセッサ112での処理に切り替えることも可能となる。また、高性能が要求されるアプリケーション601に高い優先度を付与することで、当該アプリケーション601が優先的にアクセラレータ114を利用する事が可能となる。
次に、アクセラレータ114の処理待ち時間と、プロセッサ112の処理時間の算出について以下に説明する。まず、プロセッサ112の処理時間の算出について説明する。
本実施例のアプリケーション601は、所定の単位データ量当たりのプロセッサ112による処理時間を、処理内容毎に個別に管理している。アプリケーション601は、例えば「256MBのデータに対する処理Aの処理時間は5秒」、「256MBのデータに対する処理Bの処理時間は7秒」等として管理している。そして、1024MBのデータに対する処理Bが発生した際、アプリケーション601は、処理Bの単位データ量あたりの処理時間から、1024MB/256MB×7分=28秒として、プロセッサ112の処理時間を算出する。
次に、アクセラレータの処理待ち時間について説明する。本実施例のアプリケーション601は、所定の単位データ量あたりのアクセラレータ114による処理時間を処理内容毎に個別に管理している。
アプリケーション601は、例えば、「256MBのデータに対する処理Aの処理時間は0.3秒」、「256MBのデータに対する処理Bの処理時間は0.6秒」等として管理している。そして、アプリケーション601は、アクセラレータ管理情報800からアクセラレータ114に発行済みの処理を取得する。
アプリケーション601は、例えば、「1024MBのデータに対する処理Bが5個と2048MBのデータに対する処理Aが2個」等の発行済み処理の内容を取得する。アクセラレータ114の処理待ち時間はこれらの処理合計時間と新たに発行する処理の和となる。上記の例であれば、1024MB/256MB×0.6秒×5個+2048MB/256MB×0.3秒×2個=12秒+4.8秒=16.8秒が、既に発行済みの処理が完了するまでの時間であり、この状態でさらに1024MBのデータに対する処理Bをアクセラレータ114に実施させる場合には、1024MB/256MB×0.6秒=2.4秒の処理が加わる。
上記の結果、アクセラレータ114の処理待ち時間は、16.8秒+2.4秒=19.2秒と算出される。アプリケーション601は、この算出した値を前述のプロセッサ112の処理時間と比較することで、プロセッサ112とアクセラレータ114のいずれで処理した方が、高速に処理可能か判断できる。
尚、プロセッサ112は、アプリケーション601において当該処理のみを実施するわけではないので、処理時間の比較においてプロセッサ112の処理時間とアクセラレータ114の処理待ち時間とを平等に比較するとしなくても良い。
例えば、アプリケーション601は、プロセッサ112の処理時間の二倍をアクセラレータ114の処理待ち時間を上回った場合にのみ、プロセッサ112にて当該処理を実施するとしてもよい。また、このプロセッサ112の処理時間にかける係数(先の例では2倍)は、システムの全体処理負荷に占める当該処理の割合から決定するとしても良い。
以上のように、本実施例によれば、データ処理を実行可能なプロセッサ112とアクセラレータ114を有する計算機システムで、処理の内容や処理時間や負荷に応じてプロセッサ112とアクセラレータ114を効率よく使い分けることが可能となる。例えば、対象データのサイズが閾値Th1以下で小さい場合は、プロセッサ112でオフロードコマンドを生成し、アクセラレータ114にオフロードコマンドを実行させ、アクセラレータ114が処理結果の出力を完了するまでの処理待ち時間は、プロセッサ112が処理する処理時間よりも長くなる。この場合、サーバ100では、アクセラレータ114にオフロードすることなく、プロセッサ112に処理を実行させることでデータの処理を高速に行うことができる。
この場合、オペレーティングシステム602がプロセッサ112に接続されたDRAM111に記憶領域を確保し、HDD/SSD115から処理を行うデータを転送しておくことで、プロセッサ112による処理を高速に行うことができる。
一方、対象データのサイズが閾値Th1を超えて大きい場合は、プロセッサ112で処理するよりも、アクセラレータ114にオフロードした方が短時間で処理が完了する。したがって、プロセッサ112はオフロードコマンドを生成して、オフロードコマンドをアクセラレータ114に実行させることで、大量のデータを高速で処理することができる。このように、処理時間(処理コスト)に応じて処理を実行させる装置(プロセッサ112またはアクセラレータ114)を切り替えることで、前記従来例に比して効率のよいデータ処理を実現することができる。
この場合、オペレーティングシステム602がアクセラレータ114内のDRAM401に記憶領域を確保し、HDD/SSD115から処理を行うデータを転送しておくことで、アクセラレータ114による処理を高速に行うことができる。
さらに、アプリケーション601は、アクセラレータ114の負荷を算出して、負荷が相対的に低いアクセラレータ114に処理をオフロードする。これにより、複数のアクセラレータ114の負荷を平準化することが可能となる。
また、アプリケーション601は、複数のアクセラレータ114の負荷が全体的に高い(負荷の合計が閾値Th2を超える)場合には、アプリケーション601毎に設定された優先度が閾値Th2を超えるもののみにアクセラレータ114の利用を許可することで、アクセラレータ114の負荷が過大になるのを抑制できる。
また、アプリケーション601は、アクセラレータ114でDRAM401の記憶領域を確保できない場合には、プロセッサ112で処理を実行することにより、確実なデータ処理を実現することが可能となる。
また、アプリケーション601は、アクセラレータ114で実行可能な処理のみをオフロードし、その他の処理をプロセッサ112で行うことで、アクセラレータ114のコストの増大を抑制することができる。
なお、上記実施例では、アプリケーション601が処理のオフロード先やオフロードの有無を判定する例を示したが、オペレーティングシステム602が処理のオフロード先やオフロードの有無を判定するようにしてもよい。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に記載したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加、削除、又は置換のいずれもが、単独で、又は組み合わせても適用可能である。
また、上記の各構成、機能、処理部、及び処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によってハードウェアで実現してもよい。また、上記の各構成、及び機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによってソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。

Claims (13)

  1. プロセッサと、
    前記プロセッサに接続された第1のメモリと、
    第2のメモリを含むアクセラレータと、
    前記プロセッサ及び前記アクセラレータに接続されてデータを格納するストレージ装置と、を含んでデータ処理部を稼働させる計算機システムであって、
    前記データ処理部は、
    前記データの処理要求を受け付ける処理要求受付部と、
    前記処理要求に含まれる処理の内容を分析する処理内容分析部と、
    前記アクセラレータの負荷を検出する負荷検出部と、
    前記処理の内容の分析結果と、前記アクセラレータの負荷とを取得して、所定の条件が成立したときには受け付けた処理を前記アクセラレータに実行させるオフロード処理部と、
    前記所定の条件が成立しなかったときには受け付けた処理を前記プロセッサに処理させる処理実行部と、を含み、
    前記データ処理部が複数稼働し、前記データ処理部には予め優先度がそれぞれ設定され、
    前記オフロード処理部は、
    前記アクセラレータに前記第2のメモリに記憶領域を確保させてから、前記ストレージ装置に処理要求に含まれるデータを前記第2のメモリの前記記憶領域に転送させ、前記データ処理部に設定された優先度が前記所定の条件を満たすときに、前記アクセラレータに処理を実行させ、
    前記処理実行部は、
    前記プロセッサに前記第1のメモリに記憶領域を確保させてから、前記ストレージ装置に前記処理要求に含まれるデータを前記第1のメモリの前記記憶領域に転送させ、前記プロセッサに処理を実行させることを特徴とする計算機システム。
  2. 請求項1に記載の計算機システムであって、
    前記アクセラレータは複数であって、
    前記負荷検出部は、
    前記アクセラレータで実行中のコマンド数と、処理内容と、データ量のうち少なくともひとつを取得して前記アクセラレータの負荷をそれぞれ算出し、
    前記オフロード処理部は、
    前記アクセラレータのうち、相対的に負荷の低いアクセラレータを選択して処理を実行させることを特徴とする計算機システム。
  3. 請求項1に記載の計算機システムであって、
    前記データ処理部は、起動時に前記優先度が設定されることを特徴とする計算機システム。
  4. 請求項1に記載の計算機システムであって、
    前記オフロード処理部は、
    前記アクセラレータが前記第2のメモリに記憶領域を確保できなかった場合には、前記アクセラレータによる処理を禁止して、前記処理実行部に処理を実行させることを特徴とする計算機システム。
  5. 請求項1に記載の計算機システムであって、
    前記オフロード処理部は、
    前記処理の内容から当該処理を実行するデータのサイズが所定の閾値を超えていれば、前記所定の条件が成立したと判定して前記アクセラレータに当該処理を実行させ、
    前記処理実行部は、
    前記処理の内容から当該処理を実行するデータのサイズが所定の閾値以下であれば、前記所定の条件が成立しなかったと判定して前記プロセッサに当該処理を実行させることを特徴とする計算機システム。
  6. 請求項1に記載の計算機システムであって、
    前記データ処理部は、
    前記アクセラレータの第2のメモリの物理アドレスを前記第1のメモリの仮想アドレスに割り当て、
    前記オフロード処理部は、
    前記アクセラレータに前記処理を実行させる際には、前記第2のメモリの物理アドレス前記ストレージ装置に通知して前記データを転送させ、
    前記処理実行部は、
    前記プロセッサに前記処理を実行させる際には、前記第1のメモリの仮想アドレスを第1のメモリの物理アドレスに変換して前記ストレージ装置に通知して前記データを転送させることを特徴とする計算機システム。
  7. 請求項1に記載の計算機システムであって、
    前記データ処理部は、
    前記アクセラレータの負荷情報として、前記アクセラレータで実行中のコマンド数と、処理内容と、データ量を保持するアクセラレータ管理情報を有することを特徴とする計算機システム。
  8. プロセッサと、前記プロセッサに接続された第1のメモリと、第2のメモリを含むアクセラレータと、前記プロセッサ及び前記アクセラレータに接続されてデータを格納するストレージ装置とを含む計算機でデータ処理を実行する計算機の制御方法であって、
    前記計算機が、予め優先度がそれぞれ設定されたデータ処理を実行し、前前記データの処理要求を受け付ける第1のステップと、
    前記計算機が、前記処理要求に含まれる処理の内容を分析する第2のステップと、
    前記計算機が、前記アクセラレータの負荷を検出する第3のステップと、
    前記計算機が、前記処理の内容の分析結果と、前記アクセラレータの負荷とを取得して、所定の条件が成立したときには受け付けた処理を前記アクセラレータに実行させる第4のステップと、
    前記計算機が、前記所定の条件が成立しなかったときには受け付けた処理を前記プロセッサに処理させる第5のステップと、を含み、
    前記第4のステップは、
    前記アクセラレータに前記第2のメモリに記憶領域を確保させてから、前記ストレージ装置に処理要求に含まれるデータを前記第2のメモリの前記記憶領域に転送させ、前記データ処理に設定された優先度が前記所定の条件を満たすときに、前記アクセラレータに処理を実行させ、
    前記第5のステップは、
    前記プロセッサに前記第1のメモリに記憶領域を確保させてから、前記ストレージ装置に前記処理要求に含まれるデータを前記第1のメモリの前記記憶領域に転送させ、前記プロセッサに処理を実行させることを特徴とする計算機の制御方法。
  9. 請求項8に記載の計算機の制御方法であって、
    前記アクセラレータは複数であって、
    前記第3のステップは、
    前記アクセラレータで実行中のコマンド数と、処理内容と、データ量のうち少なくともひとつを取得して前記アクセラレータの負荷をそれぞれ算出し、
    前記第4のステップは、
    前記アクセラレータのうち、相対的に負荷の低いアクセラレータを選択して処理を実行させることを特徴とする計算機の制御方法。
  10. 請求項8に記載の計算機の制御方法であって、
    前記データ処理は、起動時に前記優先度が設定されることを特徴とする計算機の制御方法。
  11. 請求項8に記載の計算機の制御方法であって、
    前記第4のステップは、
    前記アクセラレータが前記第2のメモリに記憶領域を確保できなかった場合には、前記アクセラレータによる処理を禁止し
    前記第5のステップは、
    前記アクセラレータが前記第2のメモリに記憶領域を確保できなかった場合には、前記プロセッサに前記処理を実行させることを特徴とする計算機の制御方法。
  12. 請求項8に記載の計算機の制御方法であって、
    前記第4のステップは、
    前記処理の内容から当該処理を実行するデータのサイズが所定の閾値を超えていれば、前記所定の条件が成立したと判定して前記アクセラレータに当該処理を実行させ、
    前記第5のステップは、
    前記処理の内容から当該処理を実行するデータのサイズが所定の閾値以下であれば、前記所定の条件が成立しなかったと判定して前記プロセッサに当該処理を実行させることを特徴とする計算機の制御方法。
  13. 請求項8に記載の計算機の制御方法であって、
    前記データ処理は、
    前記アクセラレータの第2のメモリの物理アドレスを前記第1のメモリの仮想アドレスに割り当て、
    前記第4のステップは、
    前記アクセラレータに前記処理を実行させる際には、前記第2のメモリの物理アドレス前記ストレージ装置に通知して前記データを転送させ、
    前記第5のステップは、
    前記プロセッサに前記処理を実行させる際には、前記第1のメモリの仮想アドレスを第1のメモリの物理アドレスに変換して前記ストレージ装置に通知して前記データを転送させることを特徴とする計算機の制御方法。
JP2017559987A 2016-01-07 2016-01-07 計算機システム及び計算機の制御方法 Active JP6588106B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/050336 WO2017119098A1 (ja) 2016-01-07 2016-01-07 計算機システム及び計算機の制御方法

Publications (2)

Publication Number Publication Date
JPWO2017119098A1 JPWO2017119098A1 (ja) 2018-11-08
JP6588106B2 true JP6588106B2 (ja) 2019-10-09

Family

ID=59273427

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017559987A Active JP6588106B2 (ja) 2016-01-07 2016-01-07 計算機システム及び計算機の制御方法

Country Status (3)

Country Link
US (1) US20180307535A1 (ja)
JP (1) JP6588106B2 (ja)
WO (1) WO2017119098A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10034407B2 (en) * 2016-07-22 2018-07-24 Intel Corporation Storage sled for a data center
US10853125B2 (en) * 2016-08-19 2020-12-01 Oracle International Corporation Resource efficient acceleration of datastream analytics processing using an analytics accelerator
WO2018183542A1 (en) 2017-03-29 2018-10-04 Fungible, Inc. Non-blocking any-to-any data center network with packet spraying over multiple alternate data paths
CN110710172A (zh) 2017-03-29 2020-01-17 芬基波尔有限责任公司 在接入节点组内多路复用分组喷射的无阻塞的任意到任意数据中心网络
WO2018183526A1 (en) 2017-03-29 2018-10-04 Fungible, Inc. Non-blocking, full-mesh data center network having optical permutors
CN117971715A (zh) 2017-04-10 2024-05-03 微软技术许可有限责任公司 多处理器系统中的中继一致存储器管理
WO2019014265A1 (en) 2017-07-10 2019-01-17 Fungible, Inc. DATA PROCESSING UNIT FOR CALCULATION NODES AND STORAGE NODES
US10725825B2 (en) * 2017-07-10 2020-07-28 Fungible, Inc. Data processing unit for stream processing
WO2019068013A1 (en) 2017-09-29 2019-04-04 Fungible, Inc. FABRIC CONTROL PROTOCOL FOR DATA CENTER NETWORKS WITH PACKAGING OF PACKETS ON MULTIPLE ALTERNATIVE DATA PATHWAYS
US10965586B2 (en) 2017-09-29 2021-03-30 Fungible, Inc. Resilient network communication using selective multipath packet flow spraying
WO2019104090A1 (en) 2017-11-21 2019-05-31 Fungible, Inc. Work unit stack data structures in multiple core processor system for stream data processing
WO2019152063A1 (en) 2018-02-02 2019-08-08 Fungible, Inc. Efficient work unit processing in a multicore system
US10797856B2 (en) * 2018-04-18 2020-10-06 Fujitsu Limited Outsourcing processing operations with homomorphic encryption
US10929175B2 (en) 2018-11-21 2021-02-23 Fungible, Inc. Service chaining hardware accelerators within a data stream processing integrated circuit
WO2020140261A1 (en) * 2019-01-04 2020-07-09 Baidu.Com Times Technology (Beijing) Co., Ltd. Method and system for protecting data processed by data processing accelerators
US11153373B2 (en) * 2019-05-03 2021-10-19 EMC IP Holding Company LLC Method and system for performance-driven load shifting
JP7314674B2 (ja) * 2019-07-18 2023-07-26 住友電気工業株式会社 Ponシステム及び通信装置
JP7226169B2 (ja) * 2019-07-26 2023-02-21 株式会社デンソー 電子制御装置
US11579928B2 (en) * 2019-11-14 2023-02-14 Baidu Usa Llc Systems and methods for configuring a watermark unit with watermark algorithms for a data processing accelerator
US11947821B2 (en) * 2019-11-25 2024-04-02 Alibaba Group Holding Limited Methods and systems for managing an accelerator's primary storage unit
JP2023085575A (ja) * 2020-04-24 2023-06-21 ソニーセミコンダクタソリューションズ株式会社 測距装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004192052A (ja) * 2002-12-06 2004-07-08 Matsushita Electric Ind Co Ltd ソフトウェア処理方法およびソフトウェア処理システム
US9446305B2 (en) * 2002-12-10 2016-09-20 Sony Interactive Entertainment America Llc System and method for improving the graphics performance of hosted applications
US9904969B1 (en) * 2007-11-23 2018-02-27 PME IP Pty Ltd Multi-user multi-GPU render server apparatus and methods
CN101533386A (zh) * 2008-03-14 2009-09-16 国际商业机器公司 在多处理器系统上对矩阵进行qr分解的方法和装置
US8255909B2 (en) * 2009-01-28 2012-08-28 International Business Machines Corporation Synchronizing access to resources in a hybrid computing environment
KR101042729B1 (ko) * 2009-04-09 2011-06-20 삼성에스디에스 주식회사 휴대단말기에서의 시스템온칩 및 주문형반도체 기반의 악성코드 검출 장치
US8719547B2 (en) * 2009-09-18 2014-05-06 Intel Corporation Providing hardware support for shared virtual memory between local and remote physical memory
US8824492B2 (en) * 2010-05-28 2014-09-02 Drc Computer Corporation Accelerator system for remote data storage
JP5876319B2 (ja) * 2012-02-21 2016-03-02 日本電信電話株式会社 サービス提供システム、サービス提供方法、リソースマネージャ、プログラム
JPWO2014002412A1 (ja) * 2012-06-26 2016-05-30 日本電気株式会社 プログラム変換装置及び方法、処理切替方法、実行方式決定方法及びプログラム記憶媒体、プロセッサシステム並びに並列実行方法
WO2014188643A1 (ja) * 2013-05-24 2014-11-27 日本電気株式会社 スケジュールシステム、スケジュール方法、及び、記録媒体
US9342366B2 (en) * 2012-10-17 2016-05-17 Electronics And Telecommunications Research Institute Intrusion detection apparatus and method using load balancer responsive to traffic conditions between central processing unit and graphics processing unit
US9142004B2 (en) * 2012-12-20 2015-09-22 Vmware, Inc. Dynamic allocation of physical graphics processing units to virtual machines
JP2014174844A (ja) * 2013-03-11 2014-09-22 Fujitsu Ltd 性能評価支援プログラム、性能評価支援装置及び性能評価支援方法
US9575760B2 (en) * 2013-05-17 2017-02-21 Nvidia Corporation Techniques for sharing priorities between streams of work and dynamic parallelism
GB2518894A (en) * 2013-10-07 2015-04-08 Ibm A method and a system for operating programs on a computer cluster
CN104750510B (zh) * 2013-12-30 2019-04-02 深圳市中兴微电子技术有限公司 一种芯片启动方法及多核处理器芯片
CN104503728B (zh) * 2015-01-04 2017-11-24 华为技术有限公司 一种硬件加速器及芯片
WO2017002157A1 (ja) * 2015-06-29 2017-01-05 株式会社日立製作所 計算機システム及び計算機システムの制御方法

Also Published As

Publication number Publication date
WO2017119098A1 (ja) 2017-07-13
JPWO2017119098A1 (ja) 2018-11-08
US20180307535A1 (en) 2018-10-25

Similar Documents

Publication Publication Date Title
JP6588106B2 (ja) 計算機システム及び計算機の制御方法
US10387202B2 (en) Quality of service implementation in a networked storage system with hierarchical schedulers
US10409508B2 (en) Updating of pinned storage in flash based on changes to flash-to-disk capacity ratio
US10838829B2 (en) Method and apparatus for loading data from a mirror server and a non-transitory computer readable storage medium
JP6190898B2 (ja) サーバに接続されるシステム及び仮想マシンが動作しているサーバに接続されたシステムによる方法
US20160253114A1 (en) Method and apparatus for optimizing data storage in heterogeneous environment
WO2015142339A1 (en) Storage system transactions
US9489295B2 (en) Information processing apparatus and method
US20190286582A1 (en) Method for processing client requests in a cluster system, a method and an apparatus for processing i/o according to the client requests
US9164885B2 (en) Storage control device, storage control method, and recording medium
KR101899719B1 (ko) 가상 머신에 대한 입출력 성능 제한 방법
US20160364268A1 (en) Computer system, management computer, and management method
JP2013539111A (ja) キャッシングに対応したストレージ装置上における効率的なシーケンシャルロギングのためのシステム及び方法
CN107832097B (zh) 数据加载方法及装置
JP6311365B2 (ja) 記憶領域管理装置、記憶領域管理方法及び記憶領域管理プログラム
US9009204B2 (en) Storage system
US9239681B2 (en) Storage subsystem and method for controlling the storage subsystem
JP5776813B2 (ja) マルチコアプロセッサシステム、マルチコアプロセッサシステムの制御方法および制御プログラム
JP4373450B2 (ja) Raid制御装置及びその制御方法
EP3249540A1 (en) Method for writing multiple copies into storage device, and storage device
CN107870877B (zh) 用于在存储系统中管理数据访问的方法和系统
JP7348056B2 (ja) ストレージシステム
US20160313915A1 (en) Management apparatus, storage system, method, and computer readable medium
US20230185632A1 (en) Management system, data rebalancing management method, and recording medium
WO2017163322A1 (ja) 管理計算機、および計算機システムの管理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190911

R150 Certificate of patent or registration of utility model

Ref document number: 6588106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150