JP6807963B2 - 情報処理システム及び情報処理方法 - Google Patents
情報処理システム及び情報処理方法 Download PDFInfo
- Publication number
- JP6807963B2 JP6807963B2 JP2018566146A JP2018566146A JP6807963B2 JP 6807963 B2 JP6807963 B2 JP 6807963B2 JP 2018566146 A JP2018566146 A JP 2018566146A JP 2018566146 A JP2018566146 A JP 2018566146A JP 6807963 B2 JP6807963 B2 JP 6807963B2
- Authority
- JP
- Japan
- Prior art keywords
- task
- processing
- query
- accelerator
- software
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 59
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000012545 processing Methods 0.000 claims description 394
- 238000000034 method Methods 0.000 claims description 121
- 230000008569 process Effects 0.000 claims description 108
- 230000006870 function Effects 0.000 claims description 60
- 238000006243 chemical reaction Methods 0.000 claims description 52
- 230000002776 aggregation Effects 0.000 claims description 35
- 238000004220 aggregation Methods 0.000 claims description 35
- 230000004044 response Effects 0.000 claims description 13
- 238000001914 filtration Methods 0.000 claims description 7
- 230000000052 comparative effect Effects 0.000 claims 1
- 238000004458 analytical method Methods 0.000 description 53
- 238000004891 communication Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 238000007726 management method Methods 0.000 description 12
- 238000012546 transfer Methods 0.000 description 9
- 230000008878 coupling Effects 0.000 description 7
- 238000010168 coupling process Methods 0.000 description 7
- 238000005859 coupling reaction Methods 0.000 description 7
- 230000009467 reduction Effects 0.000 description 7
- 238000005457 optimization Methods 0.000 description 6
- 238000003860 storage Methods 0.000 description 6
- 238000010835 comparative analysis Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 241000282813 Aepyceros melampus Species 0.000 description 1
- 101100328886 Caenorhabditis elegans col-2 gene Proteins 0.000 description 1
- 101100328884 Caenorhabditis elegans sqt-3 gene Proteins 0.000 description 1
- 101100237842 Xenopus laevis mmp18 gene Proteins 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2471—Distributed queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24532—Query optimisation of parallel queries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2453—Query optimisation
- G06F16/24534—Query rewriting; Transformation
- G06F16/24542—Plan optimisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/24569—Query processing with adaptation to specific hardware, e.g. adapted for using GPUs or SSDs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5044—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5066—Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5017—Task decomposition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/509—Offload
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Operations Research (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
また本発明の一形態においては、クライアントからの指示に応じて処理を実行する情報処理システムにおいて、前記クライアントからの指示に応じた処理を実行するアプリケーションが実装されたアプリケーションサーバと、複数のサーバによりデータを分散保持する分散データベースシステムと、を備え、前記分散データベースシステムは、割り振られるタスクを実行するためのソフトウェアを稼働させるプロセッサと、一部又は全部の種類の当該タスクを実行可能なハードウェアでなるアクセラレータとが実装された複数のサーバを有し、前記アプリケーションサーバは、前記クライアントからの指示に応じた処理を実行するための情報を前記分散データベースシステムから取得するためのクエリを生成して、前記分散データベースシステムに送信し、変換部は、前記アプリケーションサーバが生成するクエリから、前記アクセラレータが実行する第1のタスクと、前記ソフトウェアが実行する第2のタスクに分け、前記分散データベースシステムの複数のサーバは、前記クエリに含まれる前記アクセラレータにより実行すべき第1のタスクを前記アクセラレータに実行させ、前記クエリに含まれる前記ソフトウェアにより実行すべき第2のタスクを前記ソフトウェアに基づいて実行し、前記第1及び又は第2のタスクの実行結果を返信し、前記アプリケーションサーバは、前記第1及び第2のタスクの実行結果に基づき得られる前記クエリの処理結果を前記分散データベースシステムから受信し、前記第2のタスクは、前記ソフトウェアが複数の処理を、各処理の間にデータを主記憶に格納しながら行うタスクであり、前記第1のタスクは、前記アクセラレータがパイプライン並列処理を行うタスクを含み、前記クエリに基づいて、前記ソフトウェアが実行するのに適した第1のクエリプラン作成し、前記第1のクエリプランを前記アクセラレータが実行するのに適した第2のクエリプランに変換するようにした。
(1−1)本実施の形態による情報処理システムの構成
図1において、1は全体として本実施の形態による情報処理システムを示す。この情報処理システムは、ビッグデータの分析を行う分析システムである。
次に、本情報処理システム1において実行される各種処理の処理内容について説明する。
図5は、アプリケーションサーバ3の分析BIツール41(図2)からクエリ変換部43(図2)にSQLクエリが与えられたときに当該クエリ変換部43により実行されるクエリ変換処理の処理手順を示す。
一方、図6は、アプリケーションサーバ3からSQLクエリが送信されてきたマスタノードサーバ6において実行される一連の処理の流れを示す。
(1−2−3−1)Map処理
図7は、Map処理を実行すべき旨のタスク実行要求が与えられたワーカノードサーバ7において実行される一連の処理の流れを示す。
一方、図8は、Reduce処理タスクを実行すべき旨のタスク実行要求が与えられたワーカノードサーバ7において実行される一連の処理の流れを示す。
図9は、以上のような本情報処理システム1における分析処理の流れの一例を示す。かかる分析処理はクライアント2から分析条件を指定した分析指示がアプリケーションサーバ3に与えられることにより開始される(S40)。
以上のように本実施の形態の情報処理システム1では、アプリケーションサーバ3において、アプリケーションである分析BIツール41が生成したSQLクエリを、分散データベースシステム4のワーカノードサーバ7のアクセラレータ34により実行可能なタスクをユーザ定義関数で定義し、それ以外のタスクをSQLで定義したSQLクエリに変換し、マスタノードサーバ6において、このSQLクエリの処理をタスクごとに分解してこれらのタスクを各ワーカノードサーバ7に割り振り、各ワーカノードサーバ7において、ユーザ定義関数で定義されたタスクをアクセラレータ34において実行し、SQLで定義されたタスクをソフトウェア処理する。
図1及び図2において、60は全体として第2の実施の形態による情報処理システムを示す。この情報処理システム60は、分散データベースシステム61のワーカノードサーバ62のアクセラレータ63が、マスタノードサーバ6から割り振られたMap処理タスクを実行する際、必要なデータベースデータ58(図2)を他のワーカノードサーバ7やローカルドライブ32から取得する場合に、メモリ31を介することなく直接他のワーカノードサーバ7やローカルドライブ32からそのデータベースデータ58を取得する点を除いて第1の実施の形態による情報処理システム1と同様に構成されている。
なお上述の第1及び第2の実施の形態においては、アプリケーションサーバ3が保持するアクセラレータ情報テーブル44(図2)に格納されたアクセラレータ34,63のハードスペック情報が予めシステム管理者等により格納されている場合について述べたが、本発明はこれに限らず、例えば図2との対応部分に同一符号を付した図13に示すように、各ワーカノードサーバ7,62からそのワーカノードサーバ7,62に搭載されたアクセラレータ34,63のハードスペック情報を収集するアクセラレータ情報取得部72を情報処理システム70のアプリケーションサーバ71に設け、当該アクセラレータ情報取得部72が、定期的又は非定期に収集した各ワーカノードサーバ7,62のアクセラレータ34,63のハードスペック情報をアクセラレータ情報テーブル44に格納し、又は、収集した各アクセラレータ34のハードスペック情報に基づいてアクセラレータ情報テーブル44を更新するようにしても良い。このようにすることにより、アクセラレータ34,63が交換された場合や、ワーカノードサーバ7,62が増設された場合においても、アプリケーションサーバ71が常に最新のアクセラレータ情報(アクセラレータ34,63のハードウェアスペック情報)に基づいてSQLクエリの変換処理を行うことが可能となる。
図1及び図15において、90は全体として第3の実施の形態による情報処理システムを示す。第1の実施の形態による情報処理システム1では、図2に示すクエリ変換部43がアクセラレータにより実行可能な第1のタスクと、ソフトウェアにより実行すべき第2のタスクとに明示的に分けたクエリに変換するものであった。これに対して、本実施の形態の情報処理システム90では、分析BIツール41(図15)が出力するクエリを変換せずにJDBC/ODBCドライバ42(図15)を介してワーカノードサーバ92に送信し、次に当該ワーカノードサーバ92におけるクエリプランナ部93がアクセラレータ処理に適したクエリプランを変換生成し、当該クエリプランを各ワーカノードにおける実行エンジンで実行する点が第1の実施の形態による情報処理システムと相違する。
Claims (11)
- クライアントからの指示に応じて処理を実行する情報処理システムにおいて、
前記クライアントからの指示に応じた処理を実行するアプリケーションが実装されたアプリケーションサーバと、
複数のサーバによりデータを分散保持する分散データベースシステムと、
を備え、
前記分散データベースシステムは、割り振られるタスクを実行するためのソフトウェアを稼働させるプロセッサと、一部又は全部の種類の当該タスクを実行可能なハードウェアでなるアクセラレータとが実装された複数のサーバを有し、
前記アプリケーションサーバは、
前記クライアントからの指示に応じた処理を実行するための情報を前記分散データベースシステムから取得するためのクエリを生成して、前記分散データベースシステムに送信し、
変換部は、前記アプリケーションサーバが生成するクエリから、前記アクセラレータが実行する第1のタスクと、前記ソフトウェアが実行する第2のタスクに分け、
前記分散データベースシステムの複数のサーバは、
前記クエリに含まれる前記アクセラレータにより実行すべき第1のタスクを前記アクセラレータに実行させ、前記クエリに含まれる前記ソフトウェアにより実行すべき第2のタスクを前記ソフトウェアに基づいて実行し、前記第1及び又は第2のタスクの実行結果を返信し、
前記アプリケーションサーバは、
前記第1及び第2のタスクの実行結果に基づき得られる前記クエリの処理結果を前記分散データベースシステムから受信し、
前記変換部は、前記アプリケーションサーバが有しており、前記サーバのアクセラレータのスペック情報に基づいて、前記アプリケーションサーバが生成するクエリである第1のクエリから、前記アクセラレータが実行する第1のタスクと、前記ソフトウェアが実行する第2のタスクに分けた第2のクエリに変換し、
前記分散データベースシステムのマスタノードサーバが、前記第2のクエリを受信してタスクに分解し、各タスクを前記複数のサーバに割り振る
ことを特徴とする情報処理システム。 - 前記アクセラレータは、
所定形式のユーザ定義関数により定義されたタスクを実行可能なFPGA(Field Programmable Gate Array)から構成され、
前記クエリは、前記第1のタスクを前記ユーザ定義関数により定義され、前記第2のタスクを前記ソフトウェアにより認識可能な所定形式で定義されている
ことを特徴とする請求項1に記載の情報処理システム。 - 前記ソフトウェアにより認識可能な所定形式は、SQL(Structured Query Language)を用いた形式である
ことを特徴とする請求項2に記載の情報処理システム。 - 前記アプリケーションサーバは、
各前記サーバから当該サーバに搭載された前記アクセラレータの前記ハードスペック情報を取得するアクセラレータ情報取得部を備える
ことを特徴とする請求項1に記載の情報処理システム。 - 前記第2のタスクは、前記ソフトウェアが複数の処理を、各処理の間にデータを主記憶に格納しながら行うタスクであり、前記第1のタスクは、前記アクセラレータがパイプライン並列処理を行うタスクを含むことを特徴とする
ことを特徴とする請求項1に記載の情報処理システム。 - クライアントからの指示に応じて処理を実行する情報処理システムにおいて、
前記クライアントからの指示に応じた処理を実行するアプリケーションが実装されたアプリケーションサーバと、
複数のサーバによりデータを分散保持する分散データベースシステムと、
を備え、
前記分散データベースシステムは、割り振られるタスクを実行するためのソフトウェアを稼働させるプロセッサと、一部又は全部の種類の当該タスクを実行可能なハードウェアでなるアクセラレータとが実装された複数のサーバを有し、
前記アプリケーションサーバは、
前記クライアントからの指示に応じた処理を実行するための情報を前記分散データベースシステムから取得するためのクエリを生成して、前記分散データベースシステムに送信し、
変換部は、前記アプリケーションサーバが生成するクエリから、前記アクセラレータが実行する第1のタスクと、前記ソフトウェアが実行する第2のタスクに分け、
前記分散データベースシステムの複数のサーバは、
前記クエリに含まれる前記アクセラレータにより実行すべき第1のタスクを前記アクセラレータに実行させ、前記クエリに含まれる前記ソフトウェアにより実行すべき第2のタスクを前記ソフトウェアに基づいて実行し、前記第1及び又は第2のタスクの実行結果を返信し、
前記アプリケーションサーバは、
前記第1及び第2のタスクの実行結果に基づき得られる前記クエリの処理結果を前記分散データベースシステムから受信し、
前記第2のタスクは、前記ソフトウェアが複数の処理を、各処理の間にデータを主記憶に格納しながら行うタスクであり、前記第1のタスクは、前記アクセラレータがパイプライン並列処理を行うタスクを含み、
前記クエリに基づいて、前記ソフトウェアが実行するのに適した第1のクエリプラン作成し、前記第1のクエリプランを前記アクセラレータが実行するのに適した第2のクエリプランに変換する
ことを特徴とする情報処理システム。 - 前記サーバのうちの少なくとも一つのサーバが、
前記クエリプランを変更して、前記クエリに含まれる第1のタスクと第2のタスクを他のサーバに割り振り、
その処理結果を他のサーバから受信してまとめて、前記アプリケーションサーバに送信する
ことを特徴とする請求項6に記載の情報処理システム。 - 前記変換される第1及び第2のタスクは、スキャン処理、フィルタ処理及び集約処理を含み、
前記第1のタスクでは、前記スキャン処理、フィルタ処理及び集約処理をパイプライン並列処理する
ことを特徴とする請求項7に記載の情報処理システム。 - 前記フィルタ処理のクエリプラン変換処理では、
比較演算、論理和、論理積の順で並列処理可能なフィルタ条件式に変換する
ことを特徴とする請求項8に記載の情報処理システム。 - 前記複数のサーバの各々は、
複数のサーバで構成される分散ファイルシステムと、単独のサーバで構成されるファイルシステムと、分散ファイルシステム及びファイルシステムを構成するためのドライブと、を有し、
前記スキャン処理のクエリプラン変換処理では、
前記タスクに含まれる分散ファイルシステムパスをファイルシステムパスに変換し、
前記ファイルシステムパスを、前記ドライブでのアドレスに変換し、
前記ドライブでのアドレスを前記第1のタスクに設定する
ことを特徴とする請求項8に記載の情報処理システム。 - クライアントからの指示に応じて処理を実行する情報処理方法であって、
前記クライアントからの指示に応じた処理を実行するアプリケーションが実装されたアプリケーションサーバが、前記クライアントからの指示に応じた処理を実行するための情報を分散データベースシステムから取得するためのクエリを生成すると共に、生成した前記クエリを、前記アクセラレータが実行する第1のタスクと、前記ソフトウェアが実行する第2のタスクに変換して分散データベースシステムに送信する第1のステップと、
前記分散データシステムの複数のサーバが、前記クエリに含まれるアクセラレータにより実行すべき第1のタスクを前記サーバが有するアクセラレータに実行させ、前記クエリに含まれるプロセッサ上で稼働するソフトウェアにより実行すべき第2のタスクを前記サーバが有するソフトウェアに基づいて実行し、前記第1及び又は第2のタスクの実行結果を返信する第2のステップと、
前記アプリケーションサーバが、前記第1及び第2のタスクの実行結果に基づき得られる前記クエリの処理結果を前記分散データシステムから受信する第3のステップと
を備え、
前記第1のステップにおける前記変換は、前記サーバのアクセラレータのスペック情報に基づいて行い、
前記第2のタスクは、前記ソフトウェアが複数の処理を、各処理の間にデータを主記憶に格納しながら行うタスクであり、前記第1のタスクは、前記アクセラレータがパイプライン並列処理を行うタスクを含み、
前記クエリに基づいて、前記ソフトウェアが実行するのに適した第1のクエリプランを作成し、前記第1のクエリプランを前記アクセラレータが実行するのに適した第2のクエリプランに変換する
ことを特徴とする情報処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/004083 WO2018142592A1 (ja) | 2017-02-03 | 2017-02-03 | 情報処理システム及び情報処理方法 |
JPPCT/JP2017/004083 | 2017-02-03 | ||
PCT/JP2018/003703 WO2018143441A1 (ja) | 2017-02-03 | 2018-02-02 | 情報処理システム及び情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018143441A1 JPWO2018143441A1 (ja) | 2019-06-27 |
JP6807963B2 true JP6807963B2 (ja) | 2021-01-06 |
Family
ID=63039402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018566146A Active JP6807963B2 (ja) | 2017-02-03 | 2018-02-02 | 情報処理システム及び情報処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190228009A1 (ja) |
JP (1) | JP6807963B2 (ja) |
CN (1) | CN110291503B (ja) |
WO (2) | WO2018142592A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200195731A1 (en) * | 2018-12-12 | 2020-06-18 | Sichuan University | Lccs system and method for executing computation offloading |
JP7247161B2 (ja) * | 2020-12-24 | 2023-03-28 | 株式会社日立製作所 | 情報処理システム及び情報処理システムにおけるデータ配置方法 |
JP7122432B1 (ja) | 2021-05-20 | 2022-08-19 | ヤフー株式会社 | 情報処理装置、情報処理方法及び情報処理プログラム |
CN113535745B (zh) * | 2021-08-09 | 2022-01-18 | 威讯柏睿数据科技(北京)有限公司 | 一种层次化数据库操作加速系统和方法 |
US20230244664A1 (en) * | 2022-02-02 | 2023-08-03 | Samsung Electronics Co., Ltd. | Hybrid database scan acceleration system |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS625465A (ja) * | 1985-07-01 | 1987-01-12 | Akira Nakano | 情報処理ユニツトおよびマルチ情報処理ユニツトシステム |
JP3763982B2 (ja) * | 1998-11-25 | 2006-04-05 | 株式会社日立製作所 | データベース処理方法及びその実施装置並びにその処理プログラムを記録した媒体 |
US20030158842A1 (en) * | 2002-02-21 | 2003-08-21 | Eliezer Levy | Adaptive acceleration of retrieval queries |
US8176186B2 (en) * | 2002-10-30 | 2012-05-08 | Riverbed Technology, Inc. | Transaction accelerator for client-server communications systems |
JP5161535B2 (ja) * | 2007-10-26 | 2013-03-13 | 株式会社東芝 | コーディネータサーバ及び分散処理方法 |
CN104541247B (zh) * | 2012-08-07 | 2018-12-11 | 超威半导体公司 | 用于调整云计算系统的系统和方法 |
JP2014153935A (ja) * | 2013-02-08 | 2014-08-25 | Nippon Telegr & Teleph Corp <Ntt> | 並列分散処理制御装置、並列分散処理制御システム、並列分散処理制御方法および並列分散処理制御プログラム |
CN103123652A (zh) * | 2013-03-14 | 2013-05-29 | 曙光信息产业(北京)有限公司 | 数据查询方法和集群数据库系统 |
JP2015084152A (ja) * | 2013-10-25 | 2015-04-30 | 株式会社日立ソリューションズ | データ割当制御プログラム、MapReduceシステム、データ割当制御装置、データ割当制御方法 |
US10534770B2 (en) * | 2014-03-31 | 2020-01-14 | Micro Focus Llc | Parallelizing SQL on distributed file systems |
WO2016185542A1 (ja) * | 2015-05-18 | 2016-11-24 | 株式会社日立製作所 | 計算機システム、アクセラレータ及びデータベースの処理方法 |
CN105677812A (zh) * | 2015-12-31 | 2016-06-15 | 华为技术有限公司 | 一种数据查询方法及数据查询装置 |
-
2017
- 2017-02-03 WO PCT/JP2017/004083 patent/WO2018142592A1/ja active Application Filing
-
2018
- 2018-02-02 CN CN201880009900.9A patent/CN110291503B/zh active Active
- 2018-02-02 US US16/329,335 patent/US20190228009A1/en not_active Abandoned
- 2018-02-02 JP JP2018566146A patent/JP6807963B2/ja active Active
- 2018-02-02 WO PCT/JP2018/003703 patent/WO2018143441A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JPWO2018143441A1 (ja) | 2019-06-27 |
WO2018142592A1 (ja) | 2018-08-09 |
CN110291503A (zh) | 2019-09-27 |
US20190228009A1 (en) | 2019-07-25 |
WO2018143441A1 (ja) | 2018-08-09 |
CN110291503B (zh) | 2023-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6807963B2 (ja) | 情報処理システム及び情報処理方法 | |
JP6117378B2 (ja) | 分散型データベースクエリ・エンジン用のシステムおよび方法 | |
US20220407781A1 (en) | Intelligent analytic cloud provisioning | |
US9740706B2 (en) | Management of intermediate data spills during the shuffle phase of a map-reduce job | |
US10528599B1 (en) | Tiered data processing for distributed data | |
US10581957B2 (en) | Multi-level data staging for low latency data access | |
US10922316B2 (en) | Using computing resources to perform database queries according to a dynamically determined query size | |
US20140214752A1 (en) | Data stream splitting for low-latency data access | |
US20190095462A1 (en) | Parallel processing of large data files on distributed file systems with dynamic workload balancing | |
US11494386B2 (en) | Distributed metadata-based cluster computing | |
US20170228422A1 (en) | Flexible task scheduler for multiple parallel processing of database data | |
US10909119B2 (en) | Accessing electronic databases | |
US11216462B1 (en) | Transient materialized view rewrite | |
US20180302268A1 (en) | Systems and Methods for Real Time Streaming | |
US20150293971A1 (en) | Distributed queries over geometric objects | |
US20230237043A1 (en) | Accelerating change data capture determination using row bitsets | |
EP2765517B1 (en) | Data stream splitting for low-latency data access | |
JP6393193B2 (ja) | データ仮想化装置及び大規模データ処理プログラム | |
US10019472B2 (en) | System and method for querying a distributed dwarf cube | |
JP6139399B2 (ja) | 分散クエリ処理装置、クエリ処理方法及びクエリ処理プログラム | |
US11593368B1 (en) | Maintenance of clustered materialized views on a database system | |
US12007994B1 (en) | Partition granular selectivity estimation for predicates | |
US20230135440A1 (en) | Join elimination | |
CN117349323B (zh) | 数据库的数据处理方法及装置、存储介质及电子设备 | |
US20230394067A1 (en) | Data analysis processing apparatus, data analysis processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200730 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201208 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6807963 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |