JP7226743B2

JP7226743B2 - 分散型記憶方法および装置、電子機器、コンピュータ可読媒体およびコンピュータプログラム製品

Info

Publication number: JP7226743B2
Application number: JP2021008733A
Authority: JP
Inventors: ヘ・チ; ヤジ・ワン
Original assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Current assignee: Beijing Baidu Netcom Science and Technology Co Ltd
Priority date: 2020-06-30
Filing date: 2021-01-22
Publication date: 2023-02-21
Anticipated expiration: 2041-01-22
Also published as: CN111782367A; EP3933582A1; CN111782367B; US20210406067A1; JP2022013618A; KR102544755B1; KR20220002056A; EP3933582B1

Description

本開示の実施例は、コンピュータ、クラウドコンピューティング技術分野に関し、特に分散型記憶方法および装置、電子機器、コンピュータ可読媒体およびコンピュータプログラム製品に関するものである。

データの分散型記憶において、分散型計算エンジンＳｐａｒｋは、外部シャッフル（Ｓｈｕｆｆｌｅ）サービスによりジョブを実行する必要がある。具体的に、Ｓｐａｒｋはデータを外部Ｓｈｕｆｆｌｅサービスに絶えず送信し、外部Ｓｈｕｆｆｌｅサービスはこれらのデータを統合して順序付けした後、分散型記憶システム(分散型ファイル記憶システムまたは分散型ファイルシステムとも言う)に送信して記憶する。データが分散型記憶システムに書き込まれることに成功した後、外部Ｓｈｕｆｆｌｅサービスは、データ書き込みに成功したという応答情報をＳｐａｒｋの実行スレッド（Ｅｘｅｃｕｔｏｒスレッド）に送信する。この過程は非効率的で時間がかかり、リソースの浪費がある。

本開示の実施例は、分散型記憶方法および装置、電子機器、コンピュータ可読媒体およびコンピュータプログラム製品を提供する。

第１の様態において、本開示の実施例は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信するステップと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するステップと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するステップと、
を含む、分散型記憶方法を提供する。

いくつかの実施例において、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信する前記ステップは、
駆動スレッドのタスク要求に応答して前記データを読み取り、弾性分散データセットを構成するステップと、
前記弾性分散データセットを処理してシャッフルデータを得るステップと、
前記シャッフルデータを前記外部シャッフルサービスに書き込むステップと、
を含む。

いくつかの実施例において、前記外部シャッフルサービスへ前記データの送信を完了し、前記タスクの状態を完了待ち状態に修正した後に、前記分散型記憶方法は、
完了待ち状態にあるタスクの集合であるパイプラインタスクセットに、完了待ち状態にある前記タスクを加えるステップを含む。

いくつかの実施例において、パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、前記分散型記憶方法は、
前記外部シャッフルサービスが返した応答情報に応答し、コールバック関数を呼び出して前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行する前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む。

いくつかの実施例において、パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、前記分散型記憶方法は、
前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行うステップと、
終了状態にあるタスクを前記パイプラインタスクセットから取得するステップと、
失敗コールバック関数と完了コールバック関数を呼び出し、終了状態にある前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行した後の前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む。

いくつかの実施例において、前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行う前記ステップは、
予め設定された時間間隔通りに、または前記タスクの数量が所定値に達したとき、前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行うステップを含む。

いくつかの実施例において、前記終了状態は停止状態、タイムアウト状態および／または完了状態を含む。

第２の様態において、本開示の実施例は、
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるステップと、
前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後にタスクが置かれている状態である完了待ち状態であることに応答して、前記タスクに対応する実行スレッドを解放するステップと、
を含む分散型記憶方法を提供する。

第３の様態において、本開示の実施例は、
駆動スレッドのタスク要求に応答してデータを読み取るように配置されたデータ読み取りモジュールと、
前記データを外部シャッフルサービスに送信するように配置された第１送信モジュールと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するように配置された状態修正モジュールと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するように配置された第２送信モジュールと、を備える、分散型記憶装置を提供する。

第４の様態において、本開示の実施例は、
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるように配置されたタスク送信モジュールと、
前記実行スレッドが返したタスクの状態を受信するように配置された受信モジュールと、
前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後にタスクが置かれている状態である完了待ち状態であることに応答して、前記タスクに対応する実行スレッドを解放するように配置されたリソース解放モジュールと、
を備える、分散型記憶装置を提供する。

第５の様態において、本開示の実施例は、
１つまたは複数のプロセッサと、
１つまたは複数のプログラムが記憶され、前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサによって実行されると、前記１つまたは複数のプロセッサが上記の何れか１つの分散型記憶方法を実現するメモリと、
前記プロセッサとメモリとの情報のやり取りを実現するように配置され、前記プロセッサとメモリとの間に接続された１つまたは複数のＩ／Ｏインターフェースと、を備える、電子機器を提供する。

第６の様態において、本開示の実施例は、コンピュータプログラムが記憶され、前記コンピュータプログラムがプロセッサによって実行されるときに上記の何れか１つの分散型記憶方法を実現する、コンピュータ可読媒体を提供する。

第７の様態において、本開示の実施例は、コンピュータプログラムを備え、前記コンピュータプログラムがプロセッサによって実行されるときに上記の何れか１つの分散型記憶方法を実現する、コンピュータプログラム製品を提供する。

本開示の実施例が提供する分散型記憶方法は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスが前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへの送信を終了した後、該タスクが完了待ち状態にあることを駆動スレッドへ返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、該タスクが終了状態になるのを待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

図面は、本開示の実施例のさらなる理解を提供するために使用され、明細書の一部を構成し、本開示の実施例とともに本開示を解釈するために使用されるものであって、本開示に対する限定を構成するものではない。上記および他の特徴と利点は、図面を参照して詳細な例示的な実施例について説明することにより、当業者にとってより自明になる。

図１は、本開示の実施例が提供する、外部Ｓｈｕｆｆｌｅサービスでデータを分散記憶するフロー模式図である。図２は、本開示の実施例が提供する分散型記憶方法のフローチャートである。図３は、本開示の実施例が提供する分散型記憶方法のうちの、駆動スレッドの動作フローチャートである。図４は、本開示の実施例が提供する別の分散型記憶方法のフローチャートである。図５は、本開示の実施例が提供する、Ｐｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理するフローチャートである。図６は、本開示の実施例が提供する、別のＰｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理するフローチャートである。図７は、本開示の実施例が提供する、状態更新関数がタスク状態を更新するフローチャートである。図８は、本開示の実施例において失敗コールバック関数でコールバック失敗を行うフローチャートである。図９は、本開示の実施例において完了コールバック関数でコールバック完了を行うフローチャートである。図１０は、本開示の実施例が提供する分散型記憶方法のフローチャートである。図１１は、本開示の実施例が提供する分散型記憶装置の原理ブロック図である。図１２は、本開示の実施例が提供する分散型記憶装置の原理ブロック図である。図１３は、本開示の実施例が提供する電子機器の構成ブロック図である。

当業者が本開示の技術案をよりよく理解できるように、以下に、本開示が提供する分散型記憶方法および装置、電子機器、コンピュータ可読媒体およびコンピュータプログラム製品について、図面を組み合わせて詳細に説明する。

以下では、図面を参照して例示的な実施例をより充分に説明するが、前記例示的な実施例は、異なる形態で体現することができ、本文に記載する実施例に限定されると解釈されるべきではない。むしろ、これら実施例を提供する目的は、本開示を詳らかにおよび完全にし、当業者が本開示の範囲を十分に理解できるようにすることである。

矛盾しなければ、本開示の各実施例および実施例における各特徴は互いに組み合わせることができる。

本文で使用する、「および／または」という用語は、１つまたは複数の関連列挙項目の任意のおよびすべての組み合わせを含む。

本文で使用する用語は特定の実施例を説明するためのものに過ぎず、本開示を限定することを意図しない。本文で使用する、単数形の「１つ」および「該」は、前後の文で別途明瞭に指摘しない限り、複数形を含むことも意図している。本明細書にて「含む」および／または「……からなる」という用語を使用する場合、前記特徴、全体、ステップ、操作、素子および／またはコンポーネントの存在を指すが、１つまたは複数の他の特徴、全体、ステップ、操作、素子、コンポーネントおよび／またはそのグループの存在または追加を排除するものではないということも理解されたい。

特に限定しない限り、本文で使用する全ての用語（技術および科学用語を含む）は、当業者が一般的に理解するものと同じ意味を有する。常用字典で限定される用語は、それが関連技術および本開示の背景での意味と一致する意味を有すると解釈されるべきであり、かつ、本文で明確に定義しない限り、理想的または過度の形式的な意味を有すると解釈されないとさらに理解されたい。

Ｓｐａｒｋがデータを外部Ｓｈｕｆｆｌｅサービスに伝送するとき、外部Ｓｈｕｆｆｌｅサービスはこれらデータを受信して統合し、簡単に順序付けし、データグループを生成し、また一定の分散型記憶条件に達したとき、これらデータグループを分散型記憶システムに送信し記憶する。

通常、分散型記憶条件には主に時間条件、数量条件およびシャッフル（Ｆｌｕｓｈ）命令がある。そのうち、時間条件は予め設定された時間閾値であり、外部Ｓｈｕｆｆｌｅサービスの待ち時間が予め設定された時間閾値に達したとき、外部Ｓｈｕｆｆｌｅサービスはデータグループを分散型記憶システムに送信して記憶する。数量条件は予め設定された数量閾値であり、外部Ｓｈｕｆｆｌｅサービスで受信したデータ量が予め設定された数量閾値に達したとき、外部Ｓｈｕｆｆｌｅサービスはデータグループを分散型記憶システムに送信して記憶する。Ｆｌｕｓｈ命令は強制的に実行するＦｌｕｓｈ命令であり、外部ＳｈｕｆｆｌｅサービスがＦｌｕｓｈ命令を強制的に実行することで、データグループを分散型記憶システムに送信して記憶する。

本実施例において、Ｓｐａｒｋが具体的な機能を実現することをアプリケーション（Ａｐｐｌｉｃａｔｉｏｎ）と言い、あるデータスライスを処理する具体的な実行ユニットをタスク（Ｔａｓｋ）と言い、タスクは、マップシャッフルタスク（ＭａｐＳｈｕｆｆｌｅＴａｓｋ）と結果タスク（ＲｅｓｕｌｔＴａｓｋ）との二種類に分けられる。マップシャッフルタスクは外部Ｓｈｕｆｆｌｅサービスへデータを書き込み、外部Ｓｈｕｆｆｌｅサービスはデータを分散型ファイルシステムに永続化する。結果タスクは分散型記憶システムからデータを読み取り統合し、順序付けする必要がある場合はデータを順序付けし、データグループを生成する。

図１は、本開示の実施例が提供する、外部Ｓｈｕｆｆｌｅサービスでデータを分散記憶するフロー模式図である。図１に示すように、Ｓｐａｒｋの１つのアプリケーションは１つの駆動（Ｄｒｉｖｅｒ）スレッド１１を有するとともに、複数個の実行（Ｅｘｅｃｕｔｏｒ）スレッド１２も有する。そのうち、駆動スレッド１１は主にタスクのスケジューリングを担い、実行スレッド１２は具体的なタスクの実行を担う。実行スレッド１２は駆動スレッド１１のスケジューリングの下で、外部Ｓｈｕｆｆｌｅサービス１３を介して分散型ファイル記憶システム１４へデータを送信する。データが分散型ファイル記憶システムに送信されたとき、分散型ファイル記憶システムは複数個のコピーを書き込み、データが分散型記憶システムに書き込まれることに成功した後に、外部ＳｈｕｆｆｌｅサービスはＳｐａｒｋの実行スレッドへ応答情報を返す。明らかに、Ｓｐａｒｋがデータを外部Ｓｈｕｆｆｌｅサービスに送信してから書き込みに成功したという応答情報を受信するまでの期間内に、Ｓｐａｒｋの実行スレッドは待ち状態のままであり、このことは実行スレッドの計算リソースを浪費し、後続のタスクの実行も妨げている。

本開示の実施例は、Ｓｐａｒｋに対し外部Ｓｈｕｆｆｌｅサービスを用いて分散型記憶の方法を実現することによって、外部Ｓｈｕｆｆｌｅサービスのパイプライン機能を最適化する。リソースが同一の場合において、タスク実行の並行度を高め、これによってＳｐａｒｋの実行効率を向上させ、リソースの浪費を低減する。

第１の様態において、本開示の実施例は分散型記憶方法を提供する。図２は、本開示の実施例が提供する分散型記憶方法のフローチャートである。図２に示すように、分散型記憶方法はステップ２０１～２０３を含む。

ステップ２０１：駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信する。

そのうち、駆動スレッドは実行スレッドにタスクを割り当て、実行スレッドが駆動スレッドのタスク要求に応答して相応のタスクを実行し、データを分散型ファイルシステムに記憶する。

本実施例において、駆動スレッドは外部Ｓｈｕｆｆｌｅサービスを介してデータを分散型ファイルシステムに記憶する。駆動スレッドで配布されたタスクを実行スレッドが受信したとき、実行スレッドはデータを読み取り、これらデータを外部Ｓｈｕｆｆｌｅサービスに絶えず送信し、外部Ｓｈｕｆｆｌｅサービスはさらにデータを分散型ファイルシステムに記憶する。

いくつかの実施例において、実行スレッドは、第１タスクＭａｐＳｈｕｆｆｌｅＴａｓｋと第２タスクＲｅｓｕｌｔＴａｓｋを実行する。そのうち、実行スレッドがＭａｐＳｈｕｆｆｌｅＴａｓｋを実行するステップは、ＭａｐＳｈｕｆｆｌｅＴａｓｋが駆動スレッドのタスク要求に応答し、ユーザのデータを読み取り、データを弾性分散データセット（ＲｅｓｉｌｉｅｎｔＤｉｓｔｒｉｂｕｔｅｄＤａｔａＳｅｔ、略称ＲＤＤ）に構成するステップと、その後ユーザの処理ロジックを呼び出してＲＤＤを処理しシャッフルデータを得るステップと、最後に、シャッフルデータを外部シャッフルサービスに絶えず書き込むステップと、を含む。

ステップ２０２：外部シャッフルサービスへデータの送信を完了した後に、タスクの状態を完了待ち状態に修正する。

いくつかの実施例において、実行スレッドは、各タスクの現在の状態を付したタスクセットリストを用いてタスクを管理する。そのうち、タスク状態は、起動状態、実行状態、完了状態、失敗状態、停止状態、紛失状態および完了待ち状態を含む。そのうち、完了待ち状態は、実行スレッドが外部Ｓｈｕｆｆｌｅサービスへデータの送信を終えたが、まだタスクが完了していない状態である。言い換えれば、データが既に外部Ｓｈｕｆｆｌｅサービスに書き込まれたが、外部Ｓｈｕｆｆｌｅサービスはまだこれらデータを分散型ファイルシステムに書き込んでおらず、タスクの状態は完了状態に属さず、すなわち、該タスクは実際に完全には終了していない。

本実施例では、もとのタスク状態を基に、データが既に外部Ｓｈｕｆｆｌｅサービスに書き込まれており、外部Ｓｈｕｆｆｌｅサービスがデータを分散型ファイルシステムに記憶するのを待っていることを示す完了待ち状態を加えている。このとき、実行スレッドは具体的に作業せず、リソースを占めなくなっている。

ステップ２０３：タスクに対応する実行スレッドを駆動スレッドが解放するために、完了待ち状態を駆動スレッドに送信する。

いくつかの実施例では、実行スレッドがデータを外部Ｓｈｕｆｆｌｅサービスに書き込むとき、完了待ち状態を駆動スレッドへ送信する。タスクの状態が完了待ち状態であることを受信したとき、駆動スレッドは、該タスクに対応する実行スレッドを解放し、こうして駆動スレッドは該実行スレッドのためにタスクを改めて割り当てることができる。

図３は、本開示の実施例が提供する分散型記憶方法のうちの、駆動スレッドの動作フローチャートである。図３に示すように、実行スレッドが報告したタスク状態を駆動スレッドが受信した後、以下のステップ３０１～３０６を実行する。

ステップ３０１：実行スレッドが報告したタスク状態を受信する。

いくつかの実施例では、実行スレッドがデータを外部Ｓｈｕｆｆｌｅサービスに書き込むとき、該タスクの状態が完了待ち状態であることを駆動スレッドに報告する。外部Ｓｈｕｆｆｌｅサービスまたは分散型ファイルシステムが返した、データ記憶が完了したというリターン情報を実行スレッドが受信した後、該タスクの状態が完了状態であることを駆動スレッドに報告する。

ステップ３０２：タスクの状態が完了待ち状態であるかどうかを判定する。ＹＥＳのときはステップ３０５を実行し、ＮＯのときはステップ３０３を実行する。

いくつかの実施例において、駆動スレッドはタスクの状態を判定する。タスクの状態が完了待ち状態であるときはステップ３０５を実行する。タスクの状態が完了待ち状態でないときはステップ３０３を実行する。

ステップ３０３：タスクの状態が完了状態であるかどうかを判定する。ＹＥＳのときはステップ３０４を実行し、ＮＯのときはステップ３０６を実行する。

いくつかの実施例において、駆動スレッドは、タスクの状態が完了状態であるかどうかを判定する。タスクの状態が完了状態であると判定したときはステップ３０４を実行する。タスクの状態が完了状態でないと判定したときは実行スレッドのリソースをそのまま保持し、すなわち、実行スレッドを解放しない。

ステップ３０４：該タスク前の状態が完了待ち状態であるかどうかを判定する。ＹＥＳのときはステップ３０６を実行し、ＮＯのときはステップ３０５を実行する。

いくつかの実施例では、タスクが完了状態であると駆動スレッドが判定したとき、該タスク前の状態が完了待ち状態であるかどうかを再度判定する必要がある。タスク前の状態が完了待ち状態であるときはステップ３０６を実行する。タスク前の状態が完了待ち状態でないときはステップ３０５を実行する。

本実施例において、ステップ３０２とステップ３０４は、タスクの状態が完了待ち状態であるか否かを２回判定することで、完了待ち状態にあるタスクに対して駆動スレッドが実行スレッドを１回だけ解放することを確保し、ロジックの混乱により引き起こされる、実行スレッドのリソースを駆動スレッドが誤って解放することを回避する。

ステップ３０５：タスクに対応する実行スレッドを解放する。

いくつかの実施例では、該実行スレッドが新たなタスクを実行するのに便宜を図るために、駆動スレッド解放状態を、完了待ち状態のタスクに対応する実行スレッドのリソースとする。

本実施例において、駆動スレッドは、タスク状態が完了待ち状態であるとき、および、タスク状態が完了状態であるものの、前の状態が完了待ち状態でないとき、該タスクに対応する実行スレッドのリソースを解放する。

ステップ３０６：実行スレッドのリソースをそのまま保持する。

いくつかの実施例において、タスクの状態が完了状態でないとき、実行スレッドを解放せず、実行スレッドのリソースをそのまま保持する。タスクの状態が完了状態であるものの、該タスクの状態前が完了待ち状態であるとき、実行スレッドを解放せず、実行スレッドのリソースをそのまま保持する。

本実施例が提供する分散型記憶方法は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへの送信を完了した後、該タスクが完了待ち状態にあることを駆動スレッドへ返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、該タスクが終了状態になるのを待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

図４は、本実施例が提供する別の分散型記憶方法のフローチャートである。図４に示すように、分散型記憶方法はステップ４０１～４０４を含む。

ステップ４０１：駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信する。

いくつかの実施例において、実行スレッドは、第１タスクＭａｐＳｈｕｆｆｌｅＴａｓｋと第２タスクＲｅｓｕｌｔＴａｓｋを実行する。そのうち、実行スレッドがＭａｐＳｈｕｆｆｌｅＴａｓｋを実行するステップは、ＭａｐＳｈｕｆｆｌｅＴａｓｋが駆動スレッドのタスク要求に応答し、ユーザのデータを読み取り、データを弾性分散データセット（ＲｅｓｉｌｉｅｎｔＤｉｓｔｒｉｂｕｔｅｄＤａｔａＳｅｔ、略称ＲＤＤ）に構成するステップと、その後ユーザの処理ロジックを呼び出してＲＤＤを処理しシャッフルデータを得るステップと、最後にシャッフルデータを外部シャッフルサービスに絶えず書き込むステップと、を含む。

そのうち、弾性分散データセットＲＤＤは分散型リードオンリーであり、且つ、区分されたセットオブジェクトである。これらのセットは柔軟なものであり、データセットが一部紛失した場合はこれらを再構築することができる。

ステップ４０２：外部シャッフルサービスへデータの送信を完了した後、タスクの状態を完了待ち状態に修正する。

いくつかの実施例において、実行スレッドは、各タスクの現在の状態を付したタスクセットリストを用いてタスクを管理する。そのうち、タスク状態は、起動状態、実行状態、完了状態、失敗状態、停止状態、紛失状態および完了待ち状態を含む。そのうち、完了待ち状態は、実行スレッドが外部Ｓｈｕｆｆｌｅサービスへデータの送信を終えたが、まだ完了していない状態である。言い換えれば、データが既に外部Ｓｈｕｆｆｌｅサービスに書き込まれたが、外部Ｓｈｕｆｆｌｅサービスはまだこれらデータを分散型ファイルシステムに書き込んでおらず、タスクの状態は完了状態に属さず、すなわち、該タスクは実際に完全には終了していない。

ステップ４０３：タスクに対応する実行スレッドを駆動スレッドが解放するために、完了待ち状態を駆動スレッドに送信する。

いくつかの実施例では、実行スレッドがデータを外部Ｓｈｕｆｆｌｅサービスに書き込むとき、完了待ち状態を駆動スレッドへ送信する。タスクの状態が完了待ち状態であることを受信したとき、駆動スレッドは、該タスクに対応する実行スレッドを解放する。

ステップ４０４：完了待ち状態にあるタスクをパイプラインタスクセットに加える。

そのうち、パイプラインタスクセットは、実行スレッド管理状態が完了待ち状態であるタスクのセットであり、パイプラインタスクセットのうち、タスクはリストで管理され、すなわち、タスクとタスクの状態はリストにリストアップされる。

いくつかの実施例において、実行スレッドには、パイプラインタスクセットを維持管理するパイプラインスレッド（Ｐｉｐｅｌｉｎｅスレッド）をその中に加えた外部Ｓｈｕｆｆｌｅサービスプラグインが設けられている。実行スレッドがデータを外部Ｓｈｕｆｆｌｅサービスに書き込むとき、該タスクをパイプラインタスクセットに加え、該タスクの状態を完了待ち状態に修正する。

本実施例において、Ｐｉｐｅｌｉｎｅスレッドはパイプラインタスクセットを管理する。図５は、本開示の実施例が提供する、Ｐｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理するフローチャートである。図５に示すように、Ｐｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理することはステップ５０１、５０２を含む。

ステップ５０１：外部シャッフルサービスが返した応答情報に応答し、コールバック関数を呼び出してタスクに対しコールバック操作を行う。

そのうち、外部シャッフルサービスが返した応答情報は、外部シャッフルサービスがタスクを実行した後に返される情報であり、すなわち、外部シャッフルサービスはデータを分散型ファイルシステムに記憶した後に返される情報である。返される情報は通常、タスクの状態である。

いくつかの実施例では、外部シャッフルサービスがタスクを実行した結果は、停止、タイムアウト、および／または完了などを含み、対応するタスク状態は、停止状態、タイムアウト状態、および／または完了状態である。説明の便宜上、本実施例はこの何種類かの状態を一括して終了状態と言い、すなわち、タスクが既に終了したことを示す。言い換えれば、タスクの状態が停止状態、タイムアウト状態なのか、それとも完了状態なのかに関わらず、該タスクは既に終了したと見做す。

そのうち、コールバック関数は、失敗コールバック関数と完了コールバック関数を含み、各タスクはいずれも失敗コールバックと完了コールバックを実行する必要がある。

いくつかの実施例において、外部シャッフルサービスが返した応答情報を受信した後に、Ｐｉｐｅｌｉｎｅスレッドは、相応のコールバック関数を呼び出す。

ステップ５０２：コールバック操作を実行した後のタスクをパイプラインタスクセットから除去する。

Ｐｉｐｅｌｉｎｅスレッドがタスクに対しコールバック操作を行った後、該タスクをパイプラインタスクセットから除去する。

図６は、本開示の実施例が提供する、別のＰｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理するフローチャートである。図６に示すように、Ｐｉｐｅｌｉｎｅスレッドがパイプラインタスクセットを管理することはステップ６０１～６０４を含む。

ステップ６０１：パイプラインタスクセットのタスクに対しフラッシュ操作を行う。

いくつかの実施例において、Ｐｉｐｅｌｉｎｅスレッドはフラッシュポリシーに従ってタスクをフラッシュする。フラッシュポリシーは、予め設定された時間間隔通りに、またはタスクの数量が所定値に達したとき、パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行ってよい。例えば、予め設定された時間間隔が１０分である場合、Ｐｉｐｅｌｉｎｅスレッドは１０分毎にパイプラインタスクセットにおけるタスクに対し１回のフラッシュ操作を実行する。或いは、パイプラインタスクセットにおけるタスク数量が所定値に達したとき、Ｐｉｐｅｌｉｎｅスレッドは、パイプラインタスクセットにおけるタスクに対し１回のフラッシュ操作を実行する。

なお、Ｐｉｐｅｌｉｎｅスレッドは、フラッシュポリシーに従ってタスクに対しフラッシュ操作を行う。本実施例はフラッシュポリシーについて限定しない。

本実施例では、フラッシュポリシーを用いて分散型記憶過程における小さなファイルの数量を減らし、分散型記憶の圧力を下降させるとともに、分散型ファイルシステムのスループットを高めることができる。

ステップ６０２：終了状態にあるタスクをパイプラインタスクセットから取得する。

そのうち、終了状態は停止状態、タイムアウト状態および／または完了状態を含み、これに対応して、終了状態のタスクは停止したタスク、タイムアウトしたタスクおよび／または完了したタスクを含む。

いくつかの実施例では、パイプラインタスクセットにおけるタスクをフィルタリングし、停止したタスク、タイムアウトしたタスクおよび／または完了したタスクを取得する。

ステップ６０３：失敗コールバック関数と完了コールバック関数を呼び出し、終了状態にあるタスクに対しコールバック操作を行う。

いくつかの実施例では、失敗コールバック関数と完了コールバック関数をトリガしてタスクをコールバックする。例えば、停止状態のタスクに対し、失敗コールバック関数と完了コールバック関数をトリガしてタスクをコールバックする。タイムアウトしたタスクに対し、失敗コールバック関数と完了コールバック関数をトリガしてタスクをコールバックする。完成したタスクに対し、完了コールバック関数を触発してタスクをコールバックする。

なお、Ｐｉｐｅｌｉｎｅスレッドのタスクコールバックに対する順序については限定しない。先に、停止状態のタスクをフィルタリングし、該タスクをコールバックし、さらに、タイムアウトしたタスクをフィルタリングし、該タスクをコールバックし、最後に、完了したタスクをフィルタリングし、該タスクをコールバックする。或いは、先に、タイムアウトしたタスクをフィルタリングし、該タスクをコールバックし、さらに、停止状態のタスクをフィルタリングし、該タスクをコールバックし、最後に、完了したタスクをフィルタリングし、該タスクをコールバックする。

ステップ６０４：コールバック操作を実行した後のタスクをパイプラインタスクセットから除去する。

そのうち、Ｐｉｐｅｌｉｎｅスレッドはタスクをコールバックした後に、該タスクをパイプラインタスクセットから除去する。

いくつかの実施例において、Ｐｉｐｅｌｉｎｅスレッドはコールバックするときに、状態更新関数（ＳｔａｔｕｓＵｐｄａｔｅ関数）を呼び出してタスクの状態と実行結果とを駆動スレッドに報告することができる。実行スレッドは、二種類のコールバック関数、すなわち、失敗コールバック関数および完了コールバック関数を支持することができる。

図７は、本開示の実施例が提供する、状態更新関数がタスク状態を更新するフローチャートである。図７に示すように、状態更新関数がタスク状態を更新するステップはステップ７０１～７０８を含む。

ステップ７０１：タスクの状態が完了待ち状態であるかどうかを判定する。

いくつかの実施例では、タスクの状態が完了待ち状態でないと判定したときにステップ７０８を実行する。タスクの状態が完了待ち状態であると判定したときにステップ７０２を実行する。タスクの状態が完了待ち状態でないときは、該タスクの状態が終了状態であると考えてよい。

ステップ７０２：タスクをパイプラインタスクセットに入れる。

タスクの状態が完了待ち状態である場合、該タスクをパイプラインタスクセットに加える。

ステップ７０３：失敗コールバック関数を登録する。

ステップ７０３では、失敗コールバック関数をｐｉｐｅｌｉｎｅスレッドに登録する。

ステップ７０４：完了コールバック関数を登録する。

ステップ７０４では、完了コールバック関数をｐｉｐｅｌｉｎｅスレッドに登録する。

ステップ７０５：タスクがパイプラインタスクセット内にあるかどうかを判定する。

いくつかの実施例では、タスクがパイプラインタスクセット内にあればステップ７０６を実行し、タスクがパイプラインタスクセット内になければステップ７０７を実行する。

ステップ７０６：タスクの状態を駆動スレッドへ報告する。

ステップ７０６では、タスクの完了待ち状態を駆動スレッドに報告する。

ステップ７０７：タスクを終了する。

ステップ７０７において、タスクがパイプラインタスクセット内になければ、該タスクのコールバック関数が既にトリガされたことを表し、完了待ち状態を再報告する必要はなく、タスクを直接終了すればよい。

ステップ７０８：タスクの終了状態を駆動スレッドに報告する。

なお、ステップ７０８において、実行スレッドはＳｐａｒｋフローに沿ってタスクの終了状態を駆動スレッドに直接報告する。

図８は、本開示の実施例において失敗コールバック関数でコールバック失敗を行うフローチャートである。図８に示すように、失敗コールバック関数を用いて失敗コールバックを行うステップはステップ８０１～８０４を含む。

ステップ８０１：パイプラインタスクセットからタスクを除去する。

パイプラインタスクセットにおけるタスクが完了待ち状態であるものの、外部Ｓｈｕｆｆｌｅサービスが記憶を完了したとき、新たな状態を返し、実行スレッドは随時タスクの状態を更新する。よって、Ｆｌｕｓｈ操作時に、パイプラインタスクセットからタスクを除去することが必要となる。

ステップ８０２：タスクの状態が停止状態であるかどうかを判定する。

いくつかの実施例では、タスクの状態が停止状態であればステップ８０３を実行する。タスクの状態が停止状態でなければステップ８０４を実行する。タスクの状態が停止状態でなければ該タスクは失敗状態であると考えられる。

ステップ８０３：停止状態を駆動スレッドに報告する。

ステップ８０４：失敗を駆動スレッドに報告する。

図９は、本開示の実施例において完了コールバック関数でコールバック完了を行うフローチャートである。図９に示すように、完了コールバック関数を用いて完了コールバックを行うステップはステップ９０１～９０４を含む。

ステップ９０１：パイプラインタスクセット内にタスクがあるかどうかを判定する。

いくつかの実施の形態では、パイプラインタスクセット内にタスクがあるときはステップ９０２を実行する。パイプラインタスクセット内にタスクがないときはステップ９０４を実行する。

ステップ９０２：該タスクをパイプラインタスクセットから除去する。

ステップ９０３：該タスクの完了状態を駆動スレッドに報告する。

ステップ９０４：タスクを終了する。

ステップ９０４では、パイプラインタスクセット内にタスクがなければタスクはすべて失敗状態または停止状態であることを表し、駆動スレッドに報告する必要はなく、タスクを直接終了すればよい。

本開示の実施例が提供する分散型記憶方法は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへデータの送信を完了した後に、該タスクが完了待ち状態にあることを駆動スレッドに返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、このタスクが終了状態になるまで待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

第２の様態において、本開示の実施例は、Ｓｐａｒｋの駆動スレッドに応用する分散型記憶方法を提供する。図１０は、本開示の実施例が提供する分散型記憶方法のフローチャートである。図１０に示すように、分散型記憶方法はステップ１００１、１００２を含む。

ステップ１００１：実行スレッドへタスク要求を送信して、実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させる。

ステップ１００２：実行スレッドが返したタスクの状態が完了待ち状態であることに応答して、タスクに対応する実行スレッドを解放する。

そのうち、完了待ち状態は、実行スレッドが外部シャッフルサービスにデータの送信を完了した後にタスクが置かれている状態である。

いくつかの実施例において、実行スレッドがデータを外部Ｓｈｕｆｆｌｅサービスに書き込むとき、完了待ち状態を駆動スレッドへ送信する。タスクの状態が完了待ち状態であることを受信したとき、駆動スレッドは、該タスクに対応する実行スレッドを解放し、こうして駆動スレッドは該実行スレッドのためにタスクを改めて割り当てることができる。

いくつかの実施例において、実行スレッドの具体的な動作フローは図３に示すフローチャートを参照してよく、ここでは説明を省略する。

本実施例が提供する分散型記憶方法は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへデータの送信を完了した後に、該タスクが完了待ち状態にあることを駆動スレッドに返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、該タスクが終了状態になるのを待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

第３の様態において、本開示の実施例は、実行スレッドに応用する分散型記憶装置を提供する。図１１は、本開示の実施例が提供する分散型記憶装置の原理ブロック図である。図１１に示すように、分散型記憶装置は、データ読み取りモジュール１１０１、第１送信モジュール１１０２、状態修正モジュール１１０３、第２送信モジュール１１０４を備える。

データ読み取りモジュール１１０１：駆動スレッドのタスク要求に応答してデータを読み取るように配置される。

第１送信モジュール１１０２：データを外部シャッフルサービスに送信するように配置される。

いくつかの実施例では、データを外部シャッフルサービスへ送信する前に、実行スレッドはさらに、該データを処理することができる。具体的には、駆動スレッドのタスク要求に応答し、ユーザのデータを読み取り、データを弾性分散データセット（ＲｅｓｉｌｉｅｎｔＤｉｓｔｒｉｂｕｔｅｄＤａｔａＳｅｔ、略称ＲＤＤ）に構成するステップと、その後ユーザの処理ロジックを呼び出してＲＤＤを処理しシャッフルデータを得るステップと、最後にシャッフルデータを外部シャッフルサービスに絶えず書き込むステップと、を含む。

状態修正モジュール１１０３：外部シャッフルサービスへデータの送信を完了した後に、タスクの状態を完了待ち状態に修正するように配置される。

第２送信モジュール１１０４：タスクに対応する実行スレッドを駆動スレッドが解放するために、完了待ち状態を駆動スレッドに送信するように配置される。

本開示の実施例が提供する分散型記憶装置は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへデータの送信を完了した後に、このタスクが完了待ち状態にあることを駆動スレッドに返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、このタスクが終了状態になるのを待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

第４の様態において、本実施例は、駆動スレッドに応用する分散型記憶装置を提供する。図１２は、本開示の実施例が提供する分散型記憶装置の原理ブロック図である。図１２に示すように、分散型記憶装置は、タスク送信モジュール１２０１、受信モジュール１２０２、リソース解放モジュール１２０３を含む。

タスク送信モジュール１２０１：実行スレッドへタスク要求を送信して、実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるように配置される。

受信モジュール１２０２：実行スレッドが返したタスクの状態を受信するように配置される。

リソース解放モジュール１２０３：実行スレッドが返したタスクの状態が完了待ち状態であるとき、タスクに対応する実行スレッドを解放するように配置される。

このうち、完了待ち状態は、実行スレッドが外部シャッフルサービスにデータの送信を完了した後にタスクが置かれている状態である。

本開示の実施例が提供する分散型記憶装置は、駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信し、前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正し、前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信し、すなわち、実行スレッドが外部シャッフルサービスへデータの送信を完了した後に、該タスクが完了待ち状態にあることを駆動スレッドへ返し、駆動スレッドはすぐに該タスクに対応する実行スレッドを解放するため、このタスクが終了状態になるのを待ってから対応する実行スレッドを解放する必要はなく、実行スレッドリソースの浪費を低減し、タスクの実行効率を向上している。

第５の様態において、図１３を参照すると、本開示の実施例は、
１つまたは複数のプロセッサ１３０１と、
１つまたは複数のプログラムが記憶され、１つまたは複数のプログラムが１つまたは複数のプロセッサによって実行されると、１つまたは複数のプロセッサが上記の何れか一項に記載の分散型記憶方法を実現するメモリ１３０２と、
プロセッサとメモリとの情報のやり取りを実現するように配置され、プロセッサとメモリとの間に接続された１つまたは複数のＩ／Ｏインターフェース１３０３と、を備える電子機器を提供する。

そのうち、プロセッサ１３０１はデータ処理能力を具備する装置であり、中央処理ユニット（ＣＰＵ）などを含むが、これに限定されない。メモリ１３０２はデータ記憶能力を具備する装置であり、ランダムアクセスメモリ（ＲＡＭ、より具体的には、ＳＤＲＡＭ、ＤＤＲなど）、リードオンリーメモリ（ＲＯＭ）、電気的消去可能プログラマブルリードオンリーメモリ（ＥＥＰＲＯＭ（登録商標））、フラッシュメモリ（ＦＬＡＳＨ（登録商標））を含むが、これに限定されない。Ｉ／Ｏインターフェース（読み取りおよび書き込みインターフェース）１３０３はプロセッサ１３０１とメモリ１３０２との間に接続され、プロセッサ１３０１とメモリ１３０２との情報のやり取りを実現することができ、データバス（Ｂｕｓ）などを含むが、これに限定されない。

いくつかの実施例では、プロセッサ１３０１と、メモリ１３０２と、Ｉ／Ｏインターフェース１３０３と、はバスを介して互いに接続され、さらに電子機器の他のコンポーネントと接続されている。

第６の様態において、本開示の実施例は、コンピュータプログラムが記憶され、プログラムがプロセッサによって実行されるときに上記の何れか1つの分散型記憶方法を実現する、コンピュータ可読媒体を提供する。

第７の様態において、本開示の実施例は、コンピュータプログラムを備え、当該コンピュータプログラムがプロセッサによって実行されるときに上記の何れか１つの分散型記憶方法を実現する、コンピュータプログラム製品をさらに提供する。

本開示の方法を実施するためのコンピュータプログラムは、１つまたは複数のプログラミング言語の任意の組み合わせで書くことができる。これらコンピュータプログラムは、汎用コンピュータ、専用コンピュータ、またはその他のプログラマブルデータ処理装置のプロセッサまたはコントローラに提供でき、コンピュータプログラムがプロセッサまたはコントローラによって実行されるときに、フローチャートおよび／またはブロック図で規定された機能／操作が実施される。コンピュータプログラムは、完全にマシン上で実行されるか、一部がマシン上で実行されるか、独立したソフトウェアパッケージとして一部がマシン上で実行され且つ一部がリモートマシン上で実行されるか、或いは完全にリモートマシンまたはサーバー上で実行されることが可能である。

当業者は、上記で公開されている方法におけるステップ、システム、装置の機能モジュール／ユニットの全てまたはいくつかが、ソフトウェア、ファームウェア、ハードウェア、およびそれらの適切な組み合わせとして実施され得ると理解することができる。ハードウェアでの実施の形態において、上記記載で言及した機能モジュール／ユニットとの間の区分は、必ずしも物理的コンポーネントの区分に対応するとは限らない。例えば、１つの物理的コンポーネントは、複数の機能を具備してもよく、または１つの機能またはステップは、幾つかの物理的コンポーネントによって連携して実行されてもよい。ある物理的コンポーネントまたはすべての物理的コンポーネントは、中央処理装置、デジタル信号プロセッサ、もしくはマイクロプロセッサなどのプロセッサによって実行されるソフトウェアとして、またはハードウェアとして、あるいは専用集積回路などの集積回路として実施されてよい。このようなソフトウェアはコンピュータ可読媒体上に設けることができ、コンピュータ可読媒体はコンピュータ記憶媒体（または非一時的媒体）および通信媒体（または一時的媒体）を含んでよい。当業者が知っているように、コンピュータ記憶媒体という用語は、情報（コンピュータ可読命令、データ構造、プログラムモジュール、または他のデータなど）を記憶するための任意の方法または技術で実施する揮発性および不揮発性、取り外し可能および取り外し不可能な媒体を含む。コンピュータ記憶媒体は、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリ若しくは他のメモリ技術、ＣＤ－ＲＯＭ、デジタル多用途ディスク（ＤＶＤ）もしくは他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ若しくは他の磁気記憶装置、または所望の情報を記憶するために使用されるものであってよく、且つコンピュータによってアクセスできる任意の他の媒体を含むが、これらに限定されない。このほか、通信媒体は、一般に、コンピュータ可読命令、データ構造、プログラムモジュール、または搬送波もしくは他の伝送機構などの変調データ信号内の他のデータを含み、任意の情報配信媒体を含むことができることが当業者に知られている。

本文では例示的な実施例を公開し、また具体的な用語を用いているが、それらは、一般的な例示的な意味のみに解釈されるべきであり、限定の目的で使用されない。いくつかの実例では、別途明確に指摘しない限り、特定の実施例と組み合わせて説明した特徴、特性および／または要素を単独で使用してよく、あるいは他の実施例と組み合わせて説明した特徴、特性および／または要素を組み合わせて使用してもよいということは、当業者にとって自明のことである。したがって、添付の請求項によって明らかにされた本開示の範囲から逸脱しなければ、様々な形態および詳細において変更を行うことができると当業者は理解するであろう。
以下に本願の出願当初の特許請求の範囲に記載された発明を付記する。
［Ｃ１］
駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信するステップと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するステップと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するステップと、
を含む、分散型記憶方法。
［Ｃ２］
駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信する前記ステップは、
駆動スレッドのタスク要求に応答して前記データを読み取り、前記データに基づいて弾性分散データセットを構成するステップと、
前記弾性分散データセットを処理してシャッフルデータを得るステップと、
前記シャッフルデータを前記外部シャッフルサービスに書き込むステップと、
を含む、Ｃ１に記載の方法。
［Ｃ３］
前記外部シャッフルサービスへ前記データの送信を完了し、前記タスクの状態を完了待ち状態に修正した後に、
完了待ち状態にあるタスクの集合であるパイプラインタスクセットに、完了待ち状態にある前記タスクを加えるステップを含む、
Ｃ１または２に記載の方法。
［Ｃ４］
パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、
前記外部シャッフルサービスが返した応答情報に応答し、コールバック関数を呼び出して前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行する前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む、Ｃ３に記載の方法。
［Ｃ５］
パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、
前記パイプラインタスクセットにおける前記タスクに対しフラッシュ操作を行うステップと、
終了状態にあるタスクを前記パイプラインタスクセットからフィルタリングするステップと、
失敗コールバック関数と完了コールバック関数を呼び出し、終了状態にある前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行した後の前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む、Ｃ３に記載の方法。
［Ｃ６］
前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行う前記ステップは、
予め設定された時間間隔通りに、または前記タスクの数量が所定値に達したとき、前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行うステップを含む、
Ｃ５に記載の方法。
［Ｃ７］
前記終了状態は停止状態、タイムアウト状態および／または完了状態
を含む、Ｃ５または６に記載の方法。
［Ｃ８］
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるステップと、
前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後に前記タスクが置かれている状態である完了待ち状態であることに応答して、前記タスクに対応する実行スレッドを解放するステップと、
を含む分散型記憶方法。
［Ｃ９］
駆動スレッドのタスク要求に応答してデータを読み取るように配置されたデータ読み取りモジュールと、
前記データを外部シャッフルサービスに送信するように配置された第１送信モジュールと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するように配置された状態修正モジュールと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するように配置された第２送信モジュールと、
を備える、分散型記憶装置。
［Ｃ１０］
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるように配置されたタスク送信モジュールと、
前記実行スレッドが返したタスクの状態を受信するように配置された受信モジュールと、
前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後に前記タスクが置かれている状態である完了待ち状態であるとき、前記タスクに対応する実行スレッドを解放するように配置されたリソース解放モジュールと、
を備える、分散型記憶装置。
［Ｃ１１］
１つまたは複数のプロセッサと、
１つまたは複数のプログラムが記憶され、前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサによって実行されると、前記１つまたは複数のプロセッサがＣ１～８の何れか一項に記載の方法を実現するメモリと、
前記プロセッサとメモリとの情報のやり取りを実現するように配置され、前記プロセッサとメモリとの間に接続された１つまたは複数のＩ／Ｏインターフェースと、
を備える、電子機器。
［Ｃ１２］
コンピュータプログラムが記憶され、前記プログラムがプロセッサによって実行されるときにＣ１～８の何れか一項に記載の方法を実現する、
コンピュータ可読媒体。
［Ｃ１３］
コンピュータプログラムを備え、前記コンピュータプログラムがプロセッサによって実行されるときにＣ１～８の何れか一項に記載の方法を実現する、
コンピュータプログラム製品。

Claims

駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信するステップと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するステップと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するステップと、
を含み、
ここにおいて、前記駆動スレッドは、前記タスクの前記状態が前記完了待ち状態ではなく前記タスクが完了されたことを示す完了状態であること、および前記タスクの前の状態が前記完了待ち状態であることを判定することに応答して、前記実行スレッドのリソースを保持する、および、
前記駆動スレッドは、前記タスクの前記状態が前記完了待ち状態ではなく前記完了状態であること、および前記タスクの前記前の状態が前記完了待ち状態でないことを判定することに応答して、前記実行スレッドを解放する、
分散型記憶方法。
駆動スレッドのタスク要求に応答し、データを読み取って外部シャッフルサービスに送信する前記ステップは、
駆動スレッドのタスク要求に応答して前記データを読み取り、前記データに基づいて弾性分散データセットを構成するステップと、
前記弾性分散データセットを処理してシャッフルデータを得るステップと、
前記シャッフルデータを前記外部シャッフルサービスに書き込むステップと、
を含む、請求項１に記載の方法。
前記外部シャッフルサービスへ前記データの送信を完了し、前記タスクの状態を完了待ち状態に修正した後に、
完了待ち状態にあるタスクの集合であるパイプラインタスクセットに、完了待ち状態にある前記タスクを加えるステップを含む、
請求項１に記載の方法。
パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、
前記外部シャッフルサービスが返した応答情報に応答し、コールバック関数を呼び出して前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行する前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む、請求項３に記載の方法。
パイプラインタスクセットに、完了待ち状態にある前記タスクを加える前記ステップの後に、
前記パイプラインタスクセットにおける前記タスクに対しフラッシュ操作を行うステップと、
終了状態にあるタスクを前記パイプラインタスクセットからフィルタリングするステップと、
失敗コールバック関数と完了コールバック関数を呼び出し、終了状態にある前記タスクに対しコールバック操作を行うステップと、
前記コールバック操作を実行した後の前記タスクを前記パイプラインタスクセットから除去するステップと、
をさらに含む、請求項３に記載の方法。
前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行う前記ステップは、
予め設定された時間間隔通りに、または前記タスクの数量が所定値に達したとき、前記パイプラインタスクセットにおけるタスクに対しフラッシュ操作を行うステップを含む、請求項５に記載の方法。
前記終了状態は停止状態、タイムアウト状態および／または完了状態
を含む、請求項５または６に記載の方法。
前記駆動スレッドは、前記タスクの前記状態が前記完了待ち状態であることを判定することに応答して、前記実行スレッドを解放する、および、前記タスクの前記状態が前記完了待ち状態ではなく前記完了状態でもないことを判定することに応答して、前記実行スレッドの前記リソースを変わらず保持する、請求項１に記載の方法。
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるステップと、
前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後に前記タスクが置かれている状態である完了待ち状態であることに応答して、前記タスクに対応する実行スレッドを解放するステップと、前記実行スレッドが返した前記タスクの前記状態が前記完了待ち状態ではなく前記タスクが完了されたことを示す完了状態であること、および前記タスクの前の状態が前記完了待ち状態であることを判定することに応答して、前記実行スレッドのリソースを変わらず保持するステップと、
前記実行スレッドが返した前記タスクの前記状態が前記完了待ち状態ではなく前記完了状態であること、および前記タスクの前記前の状態が前記完了待ち状態でないことを判定することに応答して、前記実行スレッドを解放するステップと、
を含む分散型記憶方法。
駆動スレッドのタスク要求に応答してデータを読み取るように配置されたデータ読み取りモジュールと、
前記データを外部シャッフルサービスに送信するように配置された第１送信モジュールと、
前記外部シャッフルサービスへ前記データの送信を完了した後に、前記タスクの状態を完了待ち状態に修正するように配置された状態修正モジュールと、
前記タスクに対応する実行スレッドを前記駆動スレッドが解放するために、前記完了待ち状態を前記駆動スレッドに送信するように配置された第２送信モジュールと、
を備え、
ここにおいて、前記駆動スレッドは、前記タスクの前記状態が前記完了待ち状態ではなく前記タスクが完了されたことを示す完了状態であること、および前記タスクの前の状態が前記完了待ち状態であることを判定することに応答して、前記実行スレッドのリソースを変わらず保持する、および、
前記駆動スレッドは、前記タスクの前記状態が前記完了待ち状態でなく前記完了状態であること、および前記タスクの前記前の状態が前記完了待ち状態でないことを判定することに応答して、前記実行スレッドを解放する、
分散型記憶装置。
実行スレッドへタスク要求を送信して、前記実行スレッドにデータを読み取らせて外部シャッフルサービスへ送信させるように配置されたタスク送信モジュールと、
前記実行スレッドが返したタスクの状態を受信するように配置された受信モジュールと、前記実行スレッドが返したタスクの状態が、前記実行スレッドが前記外部シャッフルサービスに前記データの送信を完了した後に前記タスクが置かれている状態である完了待ち状態であるとき、前記タスクに対応する実行スレッドを解放し、
前記実行スレッドが返した前記タスクの前記状態が前記完了待ち状態ではなく前記タスクが完了されたことを示す完了状態であること、および前記タスクの前の状態が前記完了待ち状態であることを判定することに応答して、前記実行スレッドのリソースを変わらず保持し、
前記実行スレッドが返した前記タスクの前記状態が前記完了待ち状態ではなく前記完了状態であること、および前記タスクの前の状態が前記完了待ち状態でないことを判定することに応答して、前記実行スレッドを解放する
ように配置されたリソース解放モジュールと、
を備える、分散型記憶装置。
１つまたは複数のプロセッサと、
１つまたは複数のプログラムが記憶され、前記１つまたは複数のプログラムが前記１つまたは複数のプロセッサによって実行されると、前記１つまたは複数のプロセッサが請求項１～９の何れか一項に記載の方法を実現する非一時的メモリと、
前記プロセッサと前記非一時的メモリとの情報のやり取りを実現するように配置され、前記プロセッサと前記非一時的メモリとの間に接続された１つまたは複数のＩ／Ｏインターフェースと、
を備える、電子機器。
コンピュータプログラムが記憶され、前記プログラムがプロセッサによって実行されるときに請求項１～９の何れか一項に記載の方法を実現する、
コンピュータ可読記憶媒体。
コンピュータプログラムがプロセッサによって実行されるときに請求項１～９の何れか一項に記載の方法を実現する、
コンピュータプログラム。