JP6310461B2 - 分散型データグリッドクラスタにおけるスケーラブルなメッセージバスをサポートするシステムおよび方法 - Google Patents

Description

著作権表示
この特許文献の開示の一部には、著作権の保護対象となる資料が含まれている。著作権者は、特許商標庁の特許ファイルまたは記録に記載されたとおりのものについては、特許文献または特許の開示を他人が複製することに異議を唱えないが、他の点については、全ての著作権を確保している。

発明の分野
本発明は、概してコンピュータシステムに関し、特に分散型データグリッドに関する。

背景
特に大きな組織および企業よって採用される現代のコンピューティングシステムは、規模および複雑さが増し続けている。インターネットアプリケーションなどの領域においては、数百万人のユーザーがそのアプリケーションに同時にアクセス可能であるべきという期待がある。これは、ユーザーによって生成および消費されるコンテンツの量ならびにそのコンテンツに関連するトランザクションの指数関数的な増加に効果的に導かれる。また、このような活動は、データベースおよびメタデータストアへのトランザクションコールの数の対応する増加を引き起こし、その要求の受け入れ容量には限界がある。

さらに、現代のアプリケーションは、コスト、スケール、ならびにアプリケーションの信頼性および保守性の課題に対する解決策として、スケールアウトアーキテクチャを包含した。この手法は、巨大化してコストのかかる最高位のサーバーの使用に典型的に依存する従来の手法に対して多くの利点を提供する。しかしながら、この手法では、一般に、入出力（Ｉ／Ｏ）ボトルネックという１つの持続的かつ困難な制限に悩まされる。したがって、現代の高度な分散型システムの性能および効率は、すべてのシステム構成要素を接続する通信機構によって抑制され得る。

これは、本発明の実施形態によって対処することが意図される一般的な領域である。

概要
本明細書では、分散型データグリッドにおけるスケーラブルなメッセージバスをサポートすることができるシステムおよび方法について記載する。システムは、分散型データグリッドにおいて複数のメッセージバスを提供することができ、分散型データグリッドは、複数のクラスタメンバを含み、複数のサービスを提供する。さらに、システムは、分散型データグリッドにおける前記サービスの各々を前記メッセージバスに対応付けることができ、分散型データグリッドにおける異なるクラスタメンバ上の異なるサービス間でのデータ転送をサポートするために複数のメッセージバスを使用することができる。加えて、システムは、分散型データグリッドにおけるクラスタ化をサポートするためにデータグラム層を使用することができ、データ転送のために分散型データグリッドにおけるデータグラム層をバイパスすることができる。

本発明の実施形態は、分散型データグリッドにおけるスケーラブルなメッセージバスをサポートする装置を提供する。装置は、分散型データグリッドにおける複数のメッセージバスを提供する手段を備える。分散型データグリッドは、複数のクラスタメンバを含み、複数のサービスを提供する。装置はさらに、分散型データグリッドにおける前記サービスの各々を前記メッセージバスに対応付ける手段と、分散型データグリッドにおける異なるクラスタメンバ上の異なるサービス間でのデータ転送をサポートするために複数のメッセージバスを使用する手段とを備える。

例において、装置は、分散型データグリッドにおけるクラスタ化をサポートするためにデータグラム層を使用する手段をさらに備える。

例において、装置は、データ転送のために分散型データグリッドにおけるデータグラム層をバイパスする手段をさらに備える。

例において、装置は、複数のメッセージバスをサポートするためにメッセージバスプロバイダを使用する手段をさらに備える。

例において、装置は、メッセージバスプロバイダをプラガブルプロバイダにする手段をさらに備える。

例において、装置は、複数のバスプロトコルからバスプロトコルを選択するために単一のスイッチを使用する手段をさらに備える。

例において、装置は、メッセージバスに障害が起こった場合にクラスタメンバに対する停止検知を発動する手段をさらに備える。

例において、装置は、ネットワークを介して、分散型データグリッドにおける異なるクラスタメンバ上の異なるメッセージバスを接続する手段をさらに備える。

例において、装置は、ネットワークをリモートダイレクトメモリアクセス（ＲＤＭＡ）プロトコルに基づかせる手段をさらに備える。

例において、装置は、ネットワークをユーザーデータグラムプロトコル（ＵＤＰ）にフォールバックさせる手段をさらに備える。

本発明の他の実施形態は、分散型データグリッドにおけるスケーラブルなメッセージバスをサポートするシステムを提供する。システムは、分散型データグリッドにおける複数のメッセージバスを提供するように構成されたメッセージバスプロバイダを備える。分散型データグリッドは、複数のクラスタメンバを含み、複数のサービスを提供する。システムはさらに、分散型データグリッドにおける前記サービスの各々を前記メッセージバスに対応付けるように構成された対応付けユニットと、分散型データグリッドにおける異なるクラスタメンバ上の異なるサービス間でのデータ転送をサポートするために複数のメッセージバスを使用するように構成されたデータ転送ユニットとを備える。

例において、システムは、分散型データグリッドにおけるクラスタ化をサポートするように構成されたデータグラム層をさらに備える。

例において、システムは、データ転送のために分散型データグリッドにおけるデータグラム層をバイパスするように構成されたバイパスユニットをさらに備える。

例において、複数のメッセージバスをサポートするためにメッセージバスプロバイダが使用される。

例において、メッセージバスプロバイダはプラガブルプロバイダである。
例において、システムは、複数のバスプロトコルからバスプロトコルを選択するように構成された単一のスイッチをさらに備える。

例において、システムは、メッセージバスに障害が起こった場合にクラスタメンバに対して停止検知を発動するように構成された発動ユニットをさらに備える。

例において、システムは、ネットワークを介して、分散型データグリッドにおける異なるクラスタメンバ上の異なるメッセージバスを接続するように構成された接続ユニットをさらに備える。

例において、ネットワークは、リモートダイレクトメモリアクセス（ＲＤＭＡ）プロトコルに基づく。

他の例において、ネットワークは、ユーザーデータグラムプロトコル（ＵＤＰ）にフォールバックする。

分散型データグリッドにおけるデータグラム層に基づくメッセージ移送のサポートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるメッセージバスの提供を示す図である。 分散型データグリッドにおけるメッセージングをサポートするためのＴＣＰ／ＩＰベースのトランスポート層の使用を示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるメッセージングをサポートするためのＲＤＭＡベースのトランスポート層の使用を示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるサービスごとのバスのサポートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるサービスごとのバスのサポートのための例示的なフローチャートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおける並列メッセージの逆シリアル化のサポートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおける並列メッセージの逆シリアル化をサポートするための例示的なフローチャートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるメッセージ前処理のサポートを示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるメッセージ前処理をサポートするための例示的なフローチャートを示す図である。 本発明の実施形態に従う、システムの概略機能ブロック図を示す図である。 本発明の実施形態に従う、分散型データグリッドにおけるスケーラブルなメッセージバスをサポートするシステムの機能ブロック図を示す図である。

詳細な説明
本発明は、同様の参照符号が同様の要素を示す添付の図面において示されるが、これらは例示であって限定ではない。なお、本開示における「ある(an)」実施形態、「１つの（one）」実施形態、または「一部の（some）」実施形態への参照は、必ずしも同じ実施形態への参照とは限らず、このような参照は少なくとも１つを意味する。

以下の本発明の実施形態の記載では、分散型データグリッドの例としてCoherence分散型データグリッドを使用する。限定されることなく他のタイプの分散型データグリッドを使用できることは、当業者にとって明らかである。さらに、以下の本発明の記載では、メッセージング機構の例としてExabusメッセージング機構を使用する。限定されることなく他のタイプのメッセージング機構を使用できることは、当業者にとって明らかである。

本明細書では、分散型データグリッドクラスタにおけるスケーラブルなメッセージバスをサポートすることができるシステムおよび方法について記載する。スケーラブルなメッセージバスは、各サービスに独自のバス（トランスポートエンジン）を設けることができる。分散型データグリッドは、アドレス指定されたサービスへインバウンドメッセージが運ばれる前にインバウンドメッセージを逆シリアル化するために入出力（Ｉ／Ｏ）スレッドのプールを利用することができ、メッセージタイプが識別されて分散型データグリッド内のスレッドプールにオフロードされる前に、シングルスレッドの方法ですべてのメッセージを逆シリアル化することによって、引き起こされるボトルネックを除去することができる。加えて、分散型データグリッドは、スケーラブルなメッセージバスのためにＩ／Ｏスレッド上で入力メッセージを前処理させることができる。

データグリッドの分散
実施形態に従えば、本明細書でいう「データグリッドクラスタ」または「データグリッド」は、分散型またはクラスタ化環境内における情報および計算などの関連動作を管理するために協働する複数のコンピュータサーバーを備えるシステムである。データグリッドクラスタは、サーバー間で共有されるアプリケーションオブジェクトおよびデータを管理するために使用することができる。好ましくは、データグリッドクラスタは、短い応答時間、高いスループット、予測可能なスケーラビリティ、連続的な可用性、および情報信頼性を有するべきである。これらの性能の結果として、データグリッドクラスタは、計算集約的であってステートフルな中間層アプリケーションにおける使用によく適したものとなる。データグリッドクラスタの一部の例、たとえば、Oracle Coherenceデータグリッドクラスタは、高い性能を実現するために情報をインメモリで記憶することができ、複数のサーバー間でその情報のコピーを同期して維持する冗長性を採用することができ、サーバー障害時におけるシステムの回復性およびデータの可用性が確保される。たとえば、Coherenceは、信頼性が高く高度にスケーラブルなピアツーピアクラスタ化プロトコルの上部において、複製および分散（区分化）したデータ管理およびキャッシングサービスを提供する。

インメモリデータグリッドは、協働する複数のサーバーにわたってデータを分散させることによってデータ記憶および管理性能を提供することができる。データグリッドは、アプリケーションサーバーと同じティアにおいて、またはアプリケーションサーバー内において実行されるミドルウェアであり得る。これは、データの管理および処理を提供することができるとともに、グリッドにおいてデータが位置する箇所に対して処理を実行することもできる。加えて、インメモリデータグリッドは、自動的かつ透過的にフェイルオーバーし、サーバーが動作不能になった場合またはサーバーがネットワークから切断された場合にそのクラスタ化データ管理サービスを再分散させることにより、単一障害点を排除することができる。新しいサーバーが加えられた場合、または障害の起こったサーバーが再始動した場合、クラスタを自動的に結合することができ、サービスをそこにフェールバックさせることができ、透過的にクラスタ負荷が再分散される。データグリッドは、ネットワークレベルフォルトトレランス特徴および透過的な再起動能力も含むことができる。

実施形態に従えば、データグリッドクラスタの機能性は、異なるクラスタサービスの使用に基づいている。クラスタサービスは、ルートクラスタサービス、区分化キャッシュサービス、およびプロキシサービスを含み得る。データグリッドクラスタ内において、各クラスタノードは、クラスタサービスの提供および消費の両方の面において、複数のクラスタサービスに関わることができる。各クラスタサービスは、データグリッドクラスタ内のサービスを固有に識別するサービス名と、クラスタサービスができることを規定するサービスタイプとを有する。データグリッドクラスタにおける各クラスタノード上でルートクラスタサービスが実行される他、各サービスタイプには複数の名を持つインスタンスがあってもよい。サービスは、ユーザーによって構成され得る、またはサービスのデフォルトセットとしてデータグリッドクラスタによって提供され得る。

図１は、分散型データグリッドにおけるデータグラム層に基づくメッセージ移送のサポートを示す図である。図１に示されるように、分散型データグリッド１００におけるクラスタメンバ１０１は、１つ以上のクライアント／サービススレッド１０２を含み得る。クラスタメンバ１０１上のクライアント／サービススレッド１０２は、ユーザーデータグラムプロトコル（ＵＤＰ）を使用し、たとえばイーサネット（登録商標）ネットワーク１１０などのネットワークを通じて分散型データグリッド１００における他のクラスタメンバにメッセージを送ることができる。

本発明の実施形態に従えば、クラスタメンバ１０１は、分散型データグリッド１００における他のクラスタメンバへメッセージを送るために、および応答メッセージを受け取るために、パケット化ロジック、パケット再送信ロジック、およびAck/Nackロジックなどの異なるロジックを採用し得る。

加えて、上記のメッセージング処理には、複数のコンテキストスイッチが伴い得る。図１に示されるように、クライアント／サービススレッド１０２は、まずメッセージをパブリッシャー１０３に送り得る。そして、パブリッシャー１０３は、メッセージをスピーカー１０４に転送し得る。スピーカー１０４は、メッセージをネットワーク１１０に送る役割を有する。

さらに、分散型データグリッド１００におけるクラスタメンバ１０１は、１つ以上のリスナー１０５を使用して応答メッセージを受け取り得る。リスナー１０５は、受け取ったメッセージをレシーバー１０６に転送し得る。そして、レシーバー１０６は、受け取ったメッセージをクライアント／サービススレッド１０２に転送し、任意でパブリッシャー１０３に通知し得る。

スケーラブルなメッセージバス
本発明の実施形態に従えば、スケーラブルなメッセージバスは、様々なレベルでＩ／Ｏボトルネックを取り除くために使用され得る。

図２は、本発明の実施形態に従う、分散型データグリッドにおけるメッセージバスの提供を示す図である。図２に示されるように、クラスタメンバ２０１は、分散型データグリッド２００における、たとえばＪＡＶＡ（登録商標）仮想マシンなどの仮想マシン２１０上で実行され得る。クラスタメンバ２０１は、１つ以上のサービス２１１を伴い得る。サービス２１１は、メッセージングのために１つ以上のメッセージバス２１２を使用し得る。

本発明の実施形態に従えば、メッセージバス２１２は、マルチポイントアドレス指定および信頼性の高い順次伝送を伴うバイナリ低レベルメッセージトランスポート層に基づき得る。また、メッセージバスは、純粋なＪａｖａ（登録商標）の実施および／またはネイティブ実施に基づき得るとともに、非同期性事象ベースのプログラミングモデルを採用し得る。

さらに、メッセージバス２１２は、たとえばOracle ExaLogicエンジニアードシステムにおけるExabusなどのネットワーキングハードウェアおよびソフトウェアサブシステムを使用してサポートされ得る。メッセージバスは、アプリケーションの実行をより速くするのみならず、アプリケーションの実行をより効率的にし得る。また、メッセージバスは、数千個のプロセッサコアおよび数テラバイトのメモリを伴う非常に大きなスケールの展開において、および実質的に全てのビジネス用途について、アプリケーションを一貫して予測可能に実行させ得る。

本発明の実施形態に従えば、メッセージバス２１２の各々は、プロバイダベースのトランスポート層であり得て、これはJRockit/HotSpotなどの仮想マシン２１０におけるメッセージバスプロバイダ２０２を使用することによってサポートされ得る。

加えて、メッセージバスプロバイダ２０２は、プラガブルプロバイダベースのフレームワークに基づき得る。たとえば、メッセージバスプロバイダ２０２は、ＴＣＰ／ＳＤＰに基づくSocketBus、およびInfiniband RDMAに基づくInfiniBusなどの異なるメッセージバスをサポートし得る。

本発明の実施形態に従えば、メッセージバスプロバイダは、複数のバスプロトコルからバスプロトコルを選択するために単一のスイッチを使用し得る。たとえば、Coherenceにおいて、システムは以下の構成ファイルにおいて単一のスイッチを指定し得る。

加えて、Coherenceにおいて、システムは、以下のバスのうちの１つを選択するために単一のスイッチを使用し得る。

ｔｍｂ：TCP MessageBus
ｓｄｍｂ：SDP MessageBus
ｉｍｂ：Infiniband MessageBus
データグラム：従来のＵＤＰ（デフォルト）
したがって、メッセージバス２１２は、分散型データグリッド２００におけるノード間のスケーラビリティを向上させ得るとともに、分散型データグリッド２００をプロトコル非依存にし得る。たとえば、メッセージバス２１２を使用して、分散型データグリッド２００は、効果的に多数のコアを利用し、メッセージングの同時実行を向上させ、スループットを高めてレイテンシーを減少させ得る。また、メッセージバス２１２は、分散型データグリッド２００にコンテキストスイッチを最小化させ、ゼロコピーを利用する。

本発明の実施形態に従えば、システムは、メッセージバスに障害が起こった場合にクラスタメンバに対する停止検知を発動させ得る。

図３は、分散型データグリッドにおけるメッセージングをサポートするためのＴＣＰ／ＩＰベースのトランスポート層の使用を示す図である。図３に示されるように、分散型コンピューティング環境３００においてアプリケーション３０１からアプリケーション３０２へメッセージを送るために、メッセージは、ローカルマシン上のアプリケーションバッファー３０３、ＴＣＰ／ＩＰトランスポート層３０５、およびカーネル層３０６を通る必要があり得る。そして、メッセージは、リモートマシンにおけるカーネル層３０６およびＴＣＰ／ＩＰトランスポート層３０５を介して、アプリケーションバッファー３０４においてリモートマシンで受け取られ得る。

図４は、本発明の実施形態に従う、分散型データグリッドにおけるメッセージングをサポートするためのＲＤＭＡベースのトランスポート層の使用を示す図である。図４に示されるように、システムは、ＲＤＭＡベースのトランスポート層に基づき、ローカルマシン上のアプリケーション４０１からリモートマシン上のアプリケーション４０１へ直接メッセージを送ることができる。

サービスごとのバス
本発明の実施形態に従えば、スケーラブルなメッセージバスは、独自のバス（またはトランスポートエンジン）をサービスに設け得る。

図５は、本発明の実施形態に従う、分散型データグリッドにおける様々なサービスのためのスケーラブルなメッセージバスのサポートを示す図である。図５に示されるように、分散型データグリッド５００は、たとえばクラスタメンバ５０１〜５０４などの複数のクラスタメンバを含み得る。

さらに、各クラスタメンバは異なるサービスを含み得て、サービスの各々は別個のメッセージバスに対応付けられ得る。たとえば、クラスタメンバ５０１は、区分キャッシュサービス５１１〜５１２および呼出しサービス５１３を含み得て、これらはメッセージバス５１４〜５１６に対応付けられ得る。クラスタメンバ５０２は、区分キャッシュサービス５２１〜５２２および呼出しサービス５２３を含み得て、これらはメッセージバス５２４〜５２６に対応付けられ得る。クラスタメンバ５０３は、区分キャッシュサービス５３１〜５３２および呼出しサービス５３３を含み得て、これらはメッセージバス５３４〜５３６に対応付けられ得る。クラスタメンバ５０４は、区分キャッシュサービス５４１〜５４２および呼出しサービス５４３を含み得て、これらはメッセージバス５４４〜５４６に対応付けられ得る。

加えて、ネットワーク５１０は、分散型データグリッド５００における異なるクラスタメンバ５０１〜５０４上の異なるメッセージバスを接続し得る。たとえば、ネットワーク５１０は、リモートダイレクトメモリアクセス（ＲＤＭＡ）プロトコルに基づき得る。また、ネットワーク５１０は、必要な場合、ユーザーデータグラムプロトコル（ＵＤＰ）にフォールバックし得る。

本発明の実施形態に従えば、システムは、分散型データグリッドにおける異なるクラスタメンバ間でのデータ転送をサポートするために複数のメッセージバスを使用し得る。加えて、システムは、分散型データグリッドにおけるクラスタ化をサポートするためにデータグラム層５２０を使用し得るとともに、データ転送のために分散型データグリッドにおけるデータグラム層５２０をバイパスし得る。

したがって、システムは、エンドユーザーによって構成されたサービスの数に比してＣＰＵ利用を高めることができる。従来のネットワーキングモデルとは異なり、単一のトランスポートエンジンがクラスタノードごとの代わりにサービスごとに提供され得て、これにより、非常に多くのプロセッサが単一のクラスタノードを利用しようとした場合に分散型データグリッドがボトルネックを取り除くことができる。

図６は、本発明の実施形態に従う、分散型データグリッドにおけるプロバイダベースのトランスポート層に基づくメッセージ移送をサポートするための例示的なフローチャートを示す図である。図６に示されるように、ステップ６０１において、システムは、分散型データグリッドにおける複数のメッセージバスを提供することができ、分散型データグリッドは、複数のクラスタメンバを含む。さらに、ステップ６０２において、システムは、分散型データグリッドにおける各サービスを前記メッセージバスに対応付け得て、ステップ６０３において、システムは、分散型データグリッドにおける異なるクラスタメンバ間でのデータ転送をサポートするために複数のメッセージバスを使用し得る。

並列メッセージの逆シリアル化
本発明の実施形態に従えば、たとえばCoherenceデータグリッドなどの分散型データグリッドにおけるインバウンドメッセージを取り扱うために、スレッドのプールが使用され、スケーラブルなメッセージバスを駆動するための入出力（Ｉ／Ｏ）スレッドなどのスレッドが提供される。さらに、分散型データグリッド内のスレッドプールにメッセージをオフロードし、Ｉ／Ｏスレッド上の前方のメッセージを逆シリアル化することにより、システムはサービススレッドボトルネックの影響を最小化することができる。

図７は、本発明の実施形態に従う、分散型データグリッドにおける並列メッセージの逆シリアル化のサポートを示す図である。図７に示されるように、分散型データグリッド７００におけるサービススレッド７０２は、メッセージバス７０１に対応付けられ得て、メッセージバス７０１は、たとえばメッセージ７０３〜７０４などの１つ以上の入力メッセージを受け取ることができる。

さらに、メッセージバス７０１は、スレッドプール７１０に対応付けられ得て、スレッドプール７１０は、たとえばＩ／Ｏスレッド７１１〜７１３などの１つ以上のスレッドを含む。分散型データグリッド７００は、サービススレッド７０２において性能ボトルネックを取り除くためにこのスレッドプール７１０を利用し得る。

本発明の実施形態に従えば、分散型データグリッド７００は、入力メッセージ７０３〜７０４を並列に処理するために、スレッドプール７１０における複数の異なるＩ／Ｏスレッド７１１〜７１３を使用し得る。したがって、システムは、メッセージタイプが識別され得る前に単一のスレッドにおいてすべてのメッセージの逆シリアル化を行うことによって、引き起こされるサービススレッドボトルネックを回避することができる。

たとえば、ダイレクトメモリアクセス（ＲＤＭＡ）プロトコルが使用される場合、メッセージバス７０１は、入力メッセージ７０３をサービススレッド７０２に運ぶ前に、メッセージ７０３を逆シリアル化するためにＩ／Ｏスレッド７１１を使用し得る。また、メッセージバス７０１は、入力メッセージ７０４をサービススレッド７０２に運ぶ前に、メッセージ７０４を逆シリアル化するためにＩ／Ｏスレッド７１３を使用し得る。

図８は、本発明の実施形態に従う、分散型データグリッドにおける並列メッセージの逆シリアル化をサポートするための例示的なフローチャートを示す図である。図８に示されるように、ステップ８０１において、システムは、スケーラブルなメッセージバスを駆動するように動作する複数の入出力（Ｉ／Ｏ）スレッドを提供するためにスレッドのプールを提供し得る。さらに、ステップ８０２において、システムは、複数のＩＯスレッド上の１つ以上のインバウンドメッセージを受け取り得て、ステップ８０３において、システムは、アドレス指定されたサービスに１つ以上のインバウンドメッセージを運ぶ前に、複数のＩ／Ｏスレッド上の１つ以上のインバウンドメッセージを逆シリアル化し得る。

メッセージ前処理
本発明の実施形態に従えば、スケーラブルなメッセージバスは、メッセージ前処理能力を提供し得て、これによって、受け取ったメッセージをサービススレッドに運ぶ前に、たとえば入出力（Ｉ／Ｏ）スレッド上の受け取ったメッセージの前処理が可能となる。

図９は、本発明の実施形態に従う、分散型データグリッドにおけるメッセージ前処理のサポートを示す図である。図９に示されるように、分散型データグリッド９００におけるサービススレッド９０２は、メッセージバス９０１に対応付けられ得る。

メッセージバス９０１は、たとえばメッセージ９０５などの１つ以上の入力メッセージを受け取るために、たとえばＩ／Ｏスレッド９０３などの１つ以上のＩ／Ｏスレッドを使用し得る。加えて、メッセージバス９０１は、入力メッセージ９０５を逆シリアル化するために、Ｉ／Ｏスレッド９０３を使用し得る。

ひとたび入力メッセージ９０５が逆シリアル化されると、メッセージバス９０１は、入力メッセージ９０５をサービススレッド９０２へ運ぶ前に入力メッセージ９０５を前処理し得る。そして、サービススレッド９０２は、前処理された入力メッセージ９０５の処理をさらに完了させ得て、必要な場合は、入力メッセージ９０５を送るサービスリクエスターに応答９０７を戻し得る。

本発明の実施形態に従えば、入力メッセージ９０５は、前処理方法９０６を提供することができる。メッセージバス９０１は、入力メッセージ９０５を部分的または完全に処理するために、Ｉ／Ｏスレッド９０３上の入力メッセージ９０５に対応付けられた前処理方法９０６を実行し得る。さらに、様々なメッセージタイプのために、完全にメッセージの実行を取扱い（前処理段階において終了／応答９０７に達する）、サービススレッドの全体を回避することも可能であり得る。

本発明の実施形態に従えば、スケーラブルなメッセージバスのメッセージ前処理能力は、分散型データグリッド９００において使用された場合に有益となり得る。第１に、サービススレッドは分散型データグリッドにおいてボトルネックとなり得ることから、メッセージ前処理能力を利用することにより、システムはサービススレッドの過負荷を回避することができる。第２に、メッセージ前処理を使用することにより、Ｉ／Ｏスレッド９０３とサービススレッド９０２との間でメッセージを移動させる場合に必要となり得るコンテキストスイッチをシステムが回避する。このようなコンテキストスイッチは、たとえばリモートダイレクトメモリアクセス（ＲＤＭＡ）ベースの移送の場合における全体的なリクエストのレイテンシーの大きな割合を引き起こし得る。第３に、スケーラブルなメッセージバスは、ＲＤＭＡベースのバスの場合などにおいてスケーラブルなメッセージバスが複数の１０個のスレッドを有していると、並列でメッセージを完全に実行させる。

さらに、スケーラブルなメッセージバスは、メッセージ前処理能力と並列メッセージ逆シリアル化能力とを結合させることができ、これにより、複数の入力メッセージが並列に逆シリアル化および前処理され得る。図１０は、本発明の実施形態に従う、分散型データグリッドにおけるメッセージ前処理をサポートするための例示的なフローチャートを示す図である。図１０に示されるように、ステップ１００１において、システムは、分散型データグリッドにおけるクラスタメンバ上のサービススレッドにメッセージバスを対応付けることができる。さらに、ステップ１００２において、システムは、入出力（Ｉ／Ｏ）スレッドを使用してメッセージバスで１つ以上の入力メッセージを受け取ることができ、ステップ１００３において、システムは、前記入力メッセージの各々が分散型データグリッドにおけるサービススレッドに運ばれる前に、Ｉ／Ｏスレッド上の前記１つ以上の入力メッセージを前処理することができる。

図１１は、本発明の実施形態に従う、分散型データグリッドにおけるスケーラブルなメッセージバスをサポートするためのシステム１１００の概略機能ブロック図を示す図である。システム１１００は、１つ以上のマイクロプロセッサと、１つ以上のマイクロプロセッサ上で実行される分散型データグリッドとを含む。分散型データグリッドは、複数のクラスタメンバを含み、複数のｉｇｕｒｅ１１を提供し、システム１１００は、プロバイダモジュール１１１０と、対応付けモジュール１１５０と、データ転送モジュール１１９０とを含む。プロバイダモジュールは、メッセージバス１１２０，１１３０，１１４０などの複数のメッセージバスを提供するように適合される。対応付けモジュールは、分散型データグリッドにおける各サービス１１６０，１１７０，１１８０をそれぞれメッセージバス１１２０，１１３０，１１４０に対応付けるように適合される。データ転送モジュール１１９０は、メッセージバス１１２０，１１３０，１１４０などの複数のメッセージバスを使用して分散型データグリッドにおける異なるクラスタメンバ上の異なるサービス間でのデータ転送をサポートするように適合される。

図１２は、上記のような本発明の原理に従って動作する分散型データグリッドにおけるスケーラブルなメッセージバスをサポートするように構成されたシステム１２００の機能ブロック図を示す図である。システム１２００の機能ブロックは、本発明の原理を実行するために、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアとの組み合わせによって実施され得る。上記のような本発明の原理を実施するために図１２に記載される機能ブロックが組み合わされ得ること、またはサブブロックに分離され得ることは、当業者によって理解される。このため、本明細書の記載は、機能ブロックの可能な組み合わせもしくは分離、またはさらなる定義をサポートし得る。

示されるように、システム１２００は、メッセージバスプロバイダ１２０２と、対応付けユニット１２０４と、データ転送ユニット１２０６とを含む。メッセージバスプロバイダ１２０２は、分散型データグリッドにおける複数のメッセージバスを提供するように構成される。分散型データグリッドは、複数のクラスタメンバを含み、複数のサービスを提供し得る。対応付けユニット１２０４は、分散型データグリッドにおける各サービスをメッセージバスに対応付けるように構成される。データ転送ユニット１２０６は、分散型データグリッドにおける異なるクラスタメンバ上の異なるサービス間でのデータ転送をサポートするために、複数のメッセージバスを使用するように構成される。

例において、システム１２００は、分散型データグリッドにおけるクラスタ化をサポートするように構成されたデータグラム層１２０８をさらに備え得る。

例において、システム１２００は、データ転送のために分散型データグリッドにおけるデータグラム層１２０８をバイパスするように構成されたバイパスユニット１２１０をさらに備え得る。

例において、メッセージバスプロバイダ１２０２は、メッセージバスをサポートするために使用される。

例において、メッセージバスプロバイダ１２０２は、プラガブルプロバイダである。
例において、システム１２００は、複数のバスプロトコルからバスプロトコルを選択するように構成された単一のスイッチ１２１２をさらに備え得る。

例において、システム１２００は、メッセージバスに障害が起こった場合にクラスタメンバに対して停止検知を発動するように構成された発動ユニット１２１４をさらに備え得る。

例において、システム１２００は、ネットワークを介して、分散型データグリッドにおける異なるクラスタメンバ上の異なるメッセージバスを接続するように構成された接続ユニット１２１６をさらに備え得る。

例において、ネットワークは、リモートダイレクトメモリアクセス（ＲＤＭＡ）プロトコルに基づく。他の例において、ネットワークは、ユーザーデータグラムプロトコル（ＵＤＰ）にフォールバックする。

本発明は、本開示の教示に従ってプログラミングされた１つ以上のプロセッサ、メモリ、および／またはコンピュータ可読記憶媒体を含む、１つ以上の従来の汎用もしくは専用デジタルコンピューター、コンピューティング装置、マシン、またはマイクロプロセッサを使用して簡便に実施され得る。適切なソフトウェアコーディングは、ソフトウェア技術の当業者にとって明らかなように、本開示の教示に基づいてスキルを有するプログラマによって容易に準備され得る。

一部の実施形態において、本発明は、本発明の任意の処理を行うようにコンピュータをプログラミングするために使用され得る命令を記憶する記憶媒体もしくはコンピュータ可読媒体であるコンピュータプログラム製品を含む。記憶媒体は、フロッピー（登録商標）ディスク、光ディスク、ＤＶＤ、ＣＤ−ＲＯＭ、マイクロドライブ、および光磁気ディスクを含む任意のタイプのディスク、ＲＯＭ、ＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＤＲＡＭ、ＶＲＡＭ、フラッシュメモリデバイス、磁気もしくは光カード、ナノシステム（分子メモリＩＣを含む）、または命令および／もしくはデータを記憶するのに適した任意のタイプの媒体もしくは装置を含み得るが、これらに限定されない。

本発明の上記の記述は、例示および説明を目的として提供された。これは、完全に網羅すること、または開示されたとおりの正確な形態に本発明を限定することを意図していない。多くの変形および変更が当業者にとって明らかとなる。変形および変更は、開示された特徴の任意の妥当な組み合わせを含む。実施形態は、本発明の原理およびその実用的な用途を最良に説明するために選択および記載され、これによって、当業者は本発明の様々な実施形態、および考えられる特定の使用に適した様々な変形を理解することができる。本発明の範囲は、以下の請求項およびその均等物によって規定されることが意図される。

Claims (12)

1. 分散型データグリッドにおけるスケーラブルなメッセージバスをサポートする方法であって、
   前記分散型データグリッドは複数のクラスタメンバを含み、
   前記複数のクラスタメンバの各々は、１つ以上のマイクロプロセッサ上で動作し、かつ、複数のサービスを提供し、前記方法は、
   前記分散型データグリッド内の前記複数のクラスタメンバの各々において複数のメッセージバスを提供するステップと、
   前記複数のクラスタメンバの各々によって提供された前記複数のサービスのうちの別個のサービスに、前記複数のメッセージバスの各々を対応付けるステップと、
   前記複数のクラスタメンバの各々によって提供された前記複数のサービスと、前記分散型データグリッドにおける複数の異なるクラスタメンバ上の複数の異なるサービスとの間でのネットワークを介したデータ転送をサポートするために前記複数のメッセージバスを使用するステップとを備える、方法。
2. 前記分散型データグリッドにおける前記複数のクラスタメンバのクラスタ化をサポートするためにデータグラム層を使用するステップをさらに備える、請求項１に記載の方法。
3. 前記複数のメッセージバスを使用した前記ネットワークを介したデータ転送は、前記分散型データグリッドにおける前記データグラム層をバイパスする、請求項２に記載の方法。
4. 前記複数のクラスタメンバの各々において前記複数のメッセージバスをサポートするために、前記複数のクラスタメンバの各々においてメッセージバスプロバイダを提供するステップをさらに備える、請求項１から３のいずれか１項に記載の方法。
5. 前記メッセージバスプロバイダを提供するステップは、プラガブルなメッセージバスプロバイダを提供するステップを備える、請求項４に記載の方法。
6. 複数のバスプロトコルからバスプロトコルを選択するために単一のスイッチを使用する前記メッセージバスプロバイダに対して、構成ファイルを提供するステップをさらに備える、請求項４または５に記載の方法。
7. 各前記クラスタメンバの前記複数のメッセージバスのうちのいずれかのメッセージバスに障害が起こった場合に、前記複数のクラスタメンバの各々に対して停止検知を発動するステップをさらに備える、請求項１から６のいずれか１項に記載の方法。
8. 前記ネットワークを介してデータ転送されたメッセージの並列処理のためにスレッドプールを利用するように、各クラスタメンバの前記複数のメッセージバスの各々を構成するステップをさらに備える、請求項１から７のいずれか１項に記載の方法。
9. 前記複数のメッセージバスを使用した前記ネットワークを介したデータ転送は、リモートダイレクトメモリアクセス（ＲＤＭＡ）プロトコルを使用する、請求項１から８のいずれか１項に記載の方法。
10. 前記ネットワークをユーザーデータグラムプロトコル（ＵＤＰ）にフォールバックさせるステップをさらに備える、請求項１から８のいずれか１項に記載の方法。
11. マシン可読命令を備えるコンピュータプログラムであって、前記命令は、１つ以上のコンピュータシステムによって実行されると、請求項１から１０のいずれか１項に記載の前記方法を前記１つ以上のコンピュータシステムに行わせる、コンピュータプログラム。
12. 分散型データグリッドにおけるスケーラブルなメッセージバスをサポートするシステムであって、
    各々がマイクロプロセッサとメモリとをなえた複数のコンピュータサーバと、
    前記複数のコンピュータサーバを接続するネットワークと、
    前記複数のコンピュータサーバ上で動作する複数のクラスタメンバとを備え、前記複数のクラスタメンバの各々は複数のサービスを提供し、前記システムはさらに、
    前記分散型データグリッド内の前記複数のクラスタメンバの各々における複数のメッセージバスを備え、前記複数のメッセージバスの各々は、前記複数のクラスタメンバの各々によって提供された前記複数のサービスのうちの別個のサービスに対応付けられており、
    前記複数のメッセージバスは、前記複数のクラスタメンバの各々によって提供された前記複数のサービスと、前記分散型データグリッド内の複数の異なるクラスタメンバ上の複数の異なるサービスとの間でのネットワークを介したデータ転送をサポートするために使用される、システム。

Images