JP7282823B2 - メモリアクセスリクエストスケジューリング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム - Google Patents

Description

本願は、コンピュータ技術分野に関し、具体的には、通信技術、データ処理分野に関し、特にメモリアクセスリクエストスケジューリング方法、装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラムに関する。

ハードウェアチップ技術の制約を受け、単一のプロセッサ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ，ＣＰＵ）の演算能力が飽和する傾向にある。そのため、サーバは、より高い演算性能を得るために、プロセッサ数を増やすことで、サーバの演算性能を向上させる傾向にある。高性能なサーバでは、一般的に、Ｎｏｎ－Ｕｎｉｆｏｒｍ Ｍｅｍｏｒｙ Ａｒｃｈｉｔｅｃｔｕｒｅ，ＮＵＭＡ即ち複数のノードが高速のインターネットを介して接続されており、各ノードは、ＣＰＵとローカルメモリとで構成されている。ノードがローカルメモリにアクセスすると、メモリアクセス遅延が小さく、性能が高いが、リモートメモリにアクセスすると、メモリアクセス遅延が相対的に高くなり、性能が低下する。このため、現在のメモリ分配器は、システム性能を向上させるために、メモリ割り当てを行う際に、ローカルメモリを優先的に割り当てる必要があり、次に、リモートメモリを考慮する必要がある。

従来のオペレーティングシステムは、業務モジュールのメモリアクセスの局所的なニーズを感知することができないため、オペレーティングシステムは、業務モジュールのメモリアクセスリクエストを、そのメモリに隣接しないプロセッサコアにスケジューリングし、仮想化環境における業務混在シーンにおいてノードを跨ぐようなリモートメモリアクセス現象が多く存在し、高い業務遅延と低いリソース利用率をもたらす可能性がある。

本願の実施例は、メモリアクセスリクエストスケジューリング方法、装置、デバイス及び記憶媒体を提供する。

第１態様によれば、メモリアクセスリクエストスケジューリング方法を提供しており、該方法は、少なくとも１つの業務モジュールの監視データを取得するステップと、監視データに従って、少なくとも１つの業務モジュールからを決定する目標業務モジュールステップと、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するステップと、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信するステップと、を含む。

第２態様によれば、メモリアクセスリクエストスケジューリング装置を提供しており、該装置は、少なくとも１つの業務モジュールの監視データを取得するように構成される監視データ取得ユニットと、監視データに従って、少なくとも１つの業務モジュールから目標業務モジュールを決定するように構成される業務モジュール決定ユニットと、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するように構成される目標ノード決定ユニットと、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信するように構成される第１のリクエストスケジューリングユニットと、を備える。

第３態様によれば、メモリアクセスリクエストスケジューリング電子デバイスを提供しており、該電子デバイスは、少なくとも１つのプロセッサと、前記少なくとも１つのプロセッサと通信接続されるメモリと、を備え、メモリは、少なくとも１つのプロセッサによって実行可能な命令を記憶し、少なくとも１つのプロセッサが第１の態様に記載の方法を実行できるように、前記命令が少なくとも１つのプロセッサに実行される。

第４態様によれば、コンピュータ命令を記憶する非一時的なコンピュータ可読記憶媒体を提供しており、上記のコンピュータ命令は、コンピュータに第１の態様に記載の方法を実行させる。

第５態様によれば、コンピュータプログラムを提供しており、上記コンピュータプログラムは、プロセッサに実行されると、第１の態様に記載の方法を実行させる。

本願の技術によれば、各業務モジュールから適切な業務モジュールを決定し、該業務モジュールのメモリアクセスリクエストをマッチングのＮＵＭＡノードにスケジューリングすることができ、業務モジュールのメモリアクセス遅延を減少させる。

なお、この部分で説明するコンテンツは、本開示の実施例の肝心なまたは重要な特徴を特定することを意図するものではなく、本開示の範囲を限定することを意図するものでもない。本開示の他の特徴は以下の明細書を通じて容易に理解される。

図面は、本解決手段をより良く理解するためのものであり、本願を限定するものではない。

本願の一実施例の適用可能で例示的なシステムアーキテクチャの図である。 本願によるメモリアクセスリクエストスケジューリング方法の一実施例のフローチャートである。 本願によるメモリアクセスリクエストスケジューリング方法の適用シーンの概略図である。 本願によるメモリアクセスリクエストスケジューリング方法の別の実施例のフローチャートである。 本願によるメモリアクセスリクエストスケジューリング方法の更なる実施例のフローチャートである。 本願によるメモリアクセスリクエストスケジューリング装置の一実施例の構成概略図である。 本願実施例のメモリアクセスリクエストスケジューリング方法を実現する電子デバイスのブロック図である。

以下、図面を参照して、本願の例示的な実施例を説明し、理解に役に立つように、本願の実施例の様々な詳細を含み、単に例示的なものと見なされる。従って、当業者は、本願の範囲と精神から逸脱せずに、ここで説明する実施例に様々な変更と修正を加えることができることを認識すべきである。同様に、明確かつ簡潔にするために、以下の説明では、公知の機能と構造の説明を省略する。

なお、衝突しない限り、本願における実施例及び実施例における特徴は、互いに組み合わせることが可能である。以下に図面及び実施例を参照して本願を詳細に説明する。

図１は本願のメモリアクセスリクエストスケジューリング方法またはメモリアクセスリクエストスケジューリング装置の適用可能な実施例の例示的なシステムアーキテクチャ１００を示す。

図１に示すように、システムアーキテクチャ１００は、複数のＮＵＭＡノード１０１、複数の業務モジュール１０２及び業務モジュール管理モジュール１０３を備えてもよい。ここでは、複数のＮＵＭＡノード１０１はＮＵＭＡノード１０１１、１０１２、１０１３を備え、複数の業務モジュール１０２は業務モジュール１０２１、１０２２、１０２３備える。

複数のＮＵＭＡノード１０１のうちの各ＮＵＭＡノードは複数のＣＰＵコアを備え、各ＣＰＵコアは1つのメモリに対応するようにしてもよい。同じＮＵＭＡノード内の各ＣＰＵコアはインタラクティブし、異なるノード間のＣＰＵコアもインタラクティブするようにしてもよい。

各業務モジュール１０２のうちの各業務モジュールは、具体的なのタスクを実行するための１フィールドコードデータであり、それは各ＮＵＭＡノードにアクセスすることができ、それにより、計算を実行し、または読み取りと書き込みを行う。

業務モジュール管理モジュール１０３は各業務モジュール１０２の情報を収集し、その後、これらの情報に応じて各業務モジュール１０２を管理するようにしてもよい。

また、複数のＮＵＭＡノード１０１、複数の業務モジュール１０２と業務モジュール管理モジュール１０３は、同じサーバーに設けられてもよく、異なるサーバーに設けられてもよい。複数のＮＵＭＡノード１０１、複数の業務モジュール１０２及び業務モジュール管理モジュール１０３は異なるサーバー設けられる場合、サーバークラスターに分散するようにしてもよい。

また、本願実施例によるメモリアクセスリクエストスケジューリング方法は、一般には、業務モジュール管理モジュール１０３によって実行され、それに対応して、メモリアクセスリクエストスケジューリング装置は、一般には、業務モジュール管理モジュール１０３に設けられる。

なお、図１中のＮＵＭＡノード、業務モジュールと業務モジュール管理モジュールの数は、単なる例示的であることを理解されるべきである。実装のニーズに応じて、任意の数のＮＵＭＡノード、業務モジュール及び業務モジュール管理モジュールを備えてもよい。

図２をさらに参照しながら、それは、本願によるメモリアクセスリクエストスケジューリング方法の一実施例のプロセス２００を示す。本実施例のメモリアクセスリクエストスケジューリング方法は、次のステップを含み、

ステップ２０１で、少なくとも１つの業務モジュールの監視データを取得する。

本実施例では、メモリアクセスリクエストスケジューリング方法の実行主体（図１に示めされる業務モジュール管理モジュール１０３）は、少なくとも１つの業務モジュールの監視データを取得することができる。ここでは、業務モジュールは、ある特定のタスクを実行するためのコードブロック、例えば、あるパラメータに対して特定の処理を実行するコードブロックであってもよい。また、技術者は、各業務モジュールを予め設定でき、すなわち、

業務モジュールはデータを処理するプロセスで、ＣＰＵ、キャッシュメモリー、メモリなどにアクセスし、特定のログデータ、いくつかのパラメータ値の生成、いくつかのファイルの変更などを行う必要がある場合があり、これらのトレースは監視データとして使用されてもよい。言い換えれば、業務モジュールの監視データは、業務モジュールによってデータ処理プロセスで生成されたたデータであってもよい。実行主体は１フィールドコードを設定することで各業務モジュールの監視データを取得するようにしてもよいし、あるいは各業務モジュールは自ら生成した監視データを実行主体に送信するようにしてもよい。

ステップ２０２で、監視データに従って、少なくとも１つの業務モジュールから目標業務モジュールを決定する。

本実施例では、実行主体は、各業務モジュールの監視データを取得した後、監視データを分析して分析結果に応じて少なくとも１つの業務モジュールから目標業務モジュールを決定するようにしてもよい。具体的には、実行主体は、監視データからメモリアクセス帯域幅、メモリアクセス回数、メモリへのアクセスのレイテンシ、業務モジュールのメモリに記憶されたデータタイプ、異なるメモリデータタイプのデータ量を抽出するようにしてもよい。これらのパラメータに応じて各業務モジュールのメモリアクセス遅延に対する感度を計算するようにしてもよい。具体的には、実行主体は、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ及び異なるメモリデータタイプのデータ量に応じて、各業務モジュールのメモリアクセス遅延に対する感度を計算するようにしてもよい。たとえば、実行主体は、各メモリデータタイプの縦のメモリデータのうちの占有比率を計算し、そしてメモリアクセス帯域幅、メモリへのアクセスのレイテンシ及び占有比率を乗算した積を、各業務モジュールのメモリアクセス遅延に対する感度とする。

なお、ある業務モジュールがメモリアクセス遅延に敏感であればあるほど、すなわち感度が高いほど、メモリアクセス遅延が小さくなり、該業務モジュールの性能への影響が小さくなる。ある業務モジュールがメモリアクセス遅延に敏感でなければ、長いメモリアクセス遅延も該業務モジュールの性能に影響を与えないことを意味する。各業務モジュールの性能を確保するために、実行主体はメモリアクセス遅延に対する感度がより大きい業務モジュールを目標業務モジュールとする。

ステップ２０３で、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定する。

目標業務モジュールを決定した後、実行主体は、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するようにしてもよい。具体的には、実行主体は、目標業務モジュールの最大メモリを占有したＮＵＭＡノードを、目標業務モジュールとマッチングする目標ＮＵＭＡノードとしてもよい。あるいは、実行主体は、目標業務モジュールがＮＵＭＡノードに対するメモリ占有率が予め設定された範囲にあるＮＵＭＡノードを、目標業務モジュールとマッチングする目標ＮＵＭＡノードとしてもよい。

ステップ２０４で、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信する。

目標業務モジュールと目標ＮＵＭＡノードを決定した後、実行主体は、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信するようにしてもよい。目標業務モジュールは、各ＮＵＭＡノードに目標ＮＵＭＡノードを占有したメモリが最も多いため、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信すると、目標業務モジュールは、目標ＮＵＭＡノードのＣＰＵコアを利用して計算することができ、ＮＵＭＡノードを跨いでメモリにアクセスすることがなく、目標業務モジュールのメモリアクセス遅延を効果的に低減することができる。

図３をさらに参照しながら、それは、本願によるメモリアクセスリクエストスケジューリング方法の適用シーンの概略図を示す。図３の適用シーンでは、サーバー内はそれぞれ業務モジュール３０１、３０２、３０３である複数の業務モジュールを備える。同様に、それぞれＮＵＭＡノード３１１、３１２、３１３である複数のＮＵＭＡノードを備える。サーバーは、各業務モジュールの監視データを取得し、その後、監視データを分析し、業務モジュール３０１のメモリアクセス遅延に対する感度が高いと決定する。それにより業務モジュール３０１を目標業務モジュールとする。そして監視データを利用して、業務モジュール３０１により占有された最も多いメモリは、ＮＵＭＡノード３１２のメモリであることを分析した。それにより業務モジュール３０１とＮＵＭＡノード３１２とをバインドし、業務モジュール３０１のメモリアクセスリクエストをいずれもＮＵＭＡノード３１２に送信する。

本願の上記実施例によるメモリアクセスリクエストスケジューリング方法は、各業務モジュールから適切な業務モジュールを決定し、該業務モジュールのメモリアクセスリクエストをマッチングのＮＵＭＡノードにスケジューリングすることができ、業務モジュールのメモリアクセス遅延を減少させる。

図４をさらに参照しながら、それは、本願によるメモリアクセスリクエストスケジューリング方法の別の実施例のプロセス４００を示す。図４に示すように、本実施例のメモリアクセスリクエストスケジューリング方法は次のステップを含み、

ステップ４０１で、少なくとも１つの業務モジュールの監視データを取得する。

ステップ４０２で、監視データに従って、前記少なくとも１つの業務モジュールから目標業務モジュールを決定する。

本実施例では、実行主体は、具体的には、以下のステップ（図４に示されず）で目標業務モジュールを決定することができ、そのステップは、監視データに従って、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ、中央演算装置へのアクセスのレイテンシ、キャッシュメモリーへのアクセスのレイテンシ、異なるメモリデータタイプのデータ量のうちの少なくとも１項を決定するステップと、決定された情報に基づいて、少なくとも１つの業務モジュールのメモリアクセス遅延感度値を決定するステップと、メモリアクセス遅延感度値に応じて、少なくとも１つの業務モジュールから目標業務モジュールを決定するステップと、を含む。

実行主体は、まず監視データを分析し、メモリアクセス回数、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ、中央演算装置へのアクセスのレイテンシ、キャッシュメモリーへのアクセスのレイテンシ、アクセスのメモリデータタイプの少なくとも1つのパラメータを決定するようにしてもよい。ここでは、メモリアクセス帯域幅は、メモリにアクセスするときの有効帯域幅と理解される。アクセスのメモリデータタイプは、ｒｓｓメモリページとｃａｃｈｅメモリページを含んでもよい。ｒｓｓメモリページのレイアウトは人為的に制御可能であるが、ｃａｃｈｅメモリページのレイアウトは人為的に制御できないため、ｒｓｓメモリページの占有比率がより多い場合、人為的に制御可能な部分がより多いであることを意味する。実行主体は、決定された上記情報に応じて、各業務モジュールのメモリアクセス遅延感度値を決定するようにしてもよい。具体的には、実行主体は、次の式に従ってメモリアクセス遅延感度値を計算するようにしてもよい。

メモリアクセス遅延感度値=メモリアクセス帯域幅×［００メモリへのアクセスのレイテンシ/（メモリへのアクセスのレイテンシ+キャッシュメモリーへのアクセスのレイテンシ）］×［００ｒｓｓメモリページのデータ量/（ｒｓｓメモリページのデータ量+ｃａｃｈｅメモリページのデータ量）］。

あるいは、実行主体も次の式に従ってメモリアクセス遅延感度値を計算するようにしてもよい。

メモリアクセス遅延感度値=メモリアクセス回数×［００メモリへのアクセスのレイテンシ/（メモリへのアクセスのレイテンシ+キャッシュメモリーへのアクセスのレイテンシ）］×［００ｒｓｓメモリページのデータ量/（ｒｓｓメモリページのデータ量＋ｃａｃｈｅメモリページのデータ量）］。

なお、メモリアクセス遅延感度値が大きいほど、業務モジュールがメモリアクセス遅延に対する感度が強いと理解され、業務モジュールのメモリアクセス遅延を適切に低減すれば、これらの業務モジュールの性能を効果的に向上させる。したがって、次に、実行主体は、メモリアクセス遅延感度値に応じて目標業務モジュールを決定するようにしてもよい。具体的には、実行主体は、メモリアクセス遅延感度値が予め設定された閾値より大きい業務モジュールを目標業務モジュールとするか、あるいはメモリアクセス遅延感度値最大の業務モジュールを目標業務モジュールとするようにしてもよい。

ステップ４０３で、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定する。

本実施例では、実行主体は、具体的には、以下のステップ（図４に示されず）で目標ＮＵＭＡノードを決定することができ、そのステップは、目標業務モジュールがＮＵＭＡノード集合の各ＮＵＭＡノードに占有したメモリ量を決定するステップと、各ＮＵＭＡノードのメモリアクセス帯域幅及び/又は占有したメモリ量に応じて、目標ＮＵＭＡノードを決定するステップと、を含む。

実行主体は、目標業務モジュールを決定した後、目標業務モジュールのメモリアクセス遅延を可能な限り小さくにすることを確保するために、実行主体は、まず目標業務モジュールが各ＮＵＭＡノードに占有したメモリ量を決定するようにしてもよい。各ＮＵＭＡノードのメモリアクセス帯域幅に応じて、目標ＮＵＭＡノードを決定するようにしてもよい。たとえば、実行主体は、目標業務モジュールの最大メモリ量を占有したＮＵＭＡノードを目標ＮＵＭＡノードとしてもよい。あるいは、メモリアクセス帯域幅最大のＮＵＭＡノードを目標ＮＵＭＡノードとしてもよい。あるいは、メモリアクセス帯域幅と占有メモリ量を総合的に考慮して、両者を重み付けし、重み付け結果に応じて、ＮＵＭＡノードを選択して目標ＮＵＭＡノードとする。本実施例では、実行主体は、目標業務モジュールと最大メモリ量を占有したＮＵＭＡノードとをバンドリングし、最大メモリ量を占有したＮＵＭＡノードを目標業務モジュールとマッチングする目標ＮＵＭＡノードとすることができる。

ステップ４０４で、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信する。

ステップ４０５で、目標ＮＵＭＡノードのハードウェアリソース情報を取得する。

本実施例では、実行主体は、目標ＮＵＭＡノードのハードウェアリソース情報を取得するようにしてもよい。これらのハードウェアリソース情報は、予め設定されたハードウェアリソース情報収集ツールを利用して収集されてもよく、各ＮＵＭＡノードの元データを記憶データベースから取得するようにしてもよい。ハードウェアリソース情報は、ＮＵＭＡノードに含まれるＣＰＵコアの数、構成、一次キャッシュメモリーの大きさなど情報を含んでもよい。

ステップ４０６で、監視データ及びハードウェアリソース情報に従って、目標ＮＵＭＡノードのリソース利用率を決定する。

実行主体は、目標ＮＵＭＡノードのハードウェアリソース情報を取得した後、監視データ及びハードウェアリソース情報に基づいて、目標ＮＵＭＡノードのリソース利用率を決定するようにしてもよい。具体的には、実行主体はメモリ容量及びメモリ使用量に応じてメモリの使用率を決定するようにしてもよい。

ステップ４０７で、リソース利用率が予め設定された閾値よりも大きいと決定されたことに応答し、ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定する。

本実施例では、実行主体は、目標ＮＮＵＭＡノードのリソース利用率が予め設定された閾値よりも大きいと判定すると、目標ＵＭＡノードのハードウェアリソースが飽和していると見なされる。上記の予め設定された閾値は９０％であってもよい。なお、上記の予め設定された閾値は、実際の適用シーンに応じて技術者が設定した閾値であってもよい。ハードウェアリソースが飽和している場合には、目標ＮＵＭＡノードの性能が良くないと認定される。このとき、ＮＵＭＡノード集合から目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定することができる。それにより予備ＮＵＭＡノードに一部の目標業務モジュールのメモリアクセスリクエストを処理させる。具体的には、実行主体は、目標業務モジュールの各ＮＵＭＡノードでのメモリ占有量が２番目に大きいＮＵＭＡノードを目標ＮＵＭＡノードの予備ＮＵＭＡノードとするようにしてもよい。あるいは、実行主体は各ＮＵＭＡノードの残りリソース量に応じて目標ＮＵＭＡノードの予備ＮＵＭＡノードを選択するようにしてもよい。

本実施例のいくつの選択可能な実施形態では、具体的には、以下のステップ（図４に示されず）で予備ＮＵＭＡノードを決定することができ、そのステップは、ＮＵＭＡノード集合のうちの各ＮＵＭＡノードのリソース利用率を決定するステップと、各ＮＵＭＡノードのリソース利用率に応じて、ＮＵＭＡノード集合から目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するステップと、を含む。

実施形態では、実行主体は、各ＮＵＭＡノードのリソース利用率を決定し、その後、各ＮＵＭＡノードのリソース利用率に応じて、ＮＵＭＡノード集合から目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するようにしてもよい。たとえば、実行主体は、リソース利用率が最も低いのＮＵＭＡノードを予備ＮＵＭＡノードとしてもよい。

ステップ４０８で、目標ＮＵＭＡノードに送信された一部のメモリアクセスリクエストを予備ＮＵＭＡノードに転送する。

予備ＮＵＭＡノードを決定した後、実行主体は、目標ＮＵＭＡノードの処理圧力を減少するように、目標ＮＵＭＡノードに送信された一部のメモリアクセスリクエストを予備ＮＵＭＡノードに転送するようにしてもよい。

例えば、目標ＮＵＭＡノードのリソース利用率が９５％で、別のＮＵＭＡノード１のリソース利用率が５０％である場合、ＮＵＭＡノード１のハードウェアリソースを十分に利用するために、実行主体はＮＵＭＡノード１を予備ＮＵＭＡノードとし、２０％のメモリアクセスリクエストをＮＵＭＡノード１に転送するようにしてもよく、このようにして、目標ＮＵＭＡノードの性能を向上させるとともに、予備ＮＵＭＡノード性能を低下させないという前提条件で、予備ＮＵＭＡノードのハードウェアリソースを十分に利用する。

本願の上記実施例によるメモリアクセスリクエストスケジューリング方法は、各ＮＵＭＡノードの性能が良好な状態にあることを確保できることにより、各業務モジュールの正常な実行を確保できる。

図５をさらに参照しながら、それは、本願によるメモリアクセスリクエストスケジューリング方法の更なる実施例のプロセス５００を示す。本実施例のメモリアクセスリクエストスケジューリング方法は、サーバークラスターに適用することができる。図５に示すように、本実施例のメモリアクセスリクエストスケジューリング方法は次のステップを含み、

ステップ５０１で、少なくとも１つの業務モジュールの監視データを取得する。

ステップ５０２で、監視データに従って、少なくとも１つの業務モジュールから目標業務モジュールを決定する。

ステップ５０３で、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定する。

ステップ５０４で、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信する。

ステップ５０５で、監視データに従って、目標業務モジュールの実行状態情報を決定する。

本実施例では、実行主体は、監視データに従って、目標業務モジュールの実行状態情報を決定するようにしてもよい。ここでは、実行状態情報は複数のパラメータ値、たとえばメモリアクセス帯域幅値、メモリ利用率値などを含んでもよい。

ステップ５０６で、実行状態情報に応じて、目標業務モジュールが予め設定された条件を満たすか否かを決定する。

実行主体は、実行状態情報のうちの各パラメータ値と予め設定された閾値集合とを比較することで、目標業務モジュールが予め設定された条件を満たすか否かを決定するようにしてもよい。具体的には、実行状態情報のうちの各パラメータ値がいずれも閾値集合のうちの対応する閾値よりも小さい場合、目標業務モジュールが予め設定された条件を満たすと決定する。

ステップ５０７、予め設定された条件を満たさないことに応答し、目標業務モジュールに対応するリモートメモリを決定する。

目標業務モジュールが予め設定された条件を満たさない場合、実行主体は、目標業務モジュールに対応するリモートメモリを決定するようにしてもよい。具体的には、実行主体は、目標業務モジュールのプロセスアドレス空間レイアウトを解析し、メモリアクセスをサンプリングし、リモートメモリを認識するようにしてもよい。ここでは、リモートメモリはローカルメモリに対するものである。目標業務モジュールにバインドされた目標ＮＵＭＡノードが所在するサーバーはローカルメモリである。リモートメモリはサーバークラスターのサーバーに位置するＮＵＭＡノードのメモリである。

ステップ５０８、リモートメモリのうちのデータを目標業務モジュールのローカルメモリにマイグレーションする。

実行主体は、リモートメモリを決定した後、リモートメモリのデータを目標業務モジュールのローカルメモリにマイグレーションするようにしてもよい。具体的には、実行主体は、カーネルシステムのインタフェースを介してリモートメモリのデータを目標業務モジュールのローカルメモリにマイグレーションするようにしてもよい。

このようにして、目標業務モジュールは、ローカルメモリにリモートメモリのコンテンツを読み取り、目標業務モデルの実行状態を提供することができる。

本願の上記実施例によるメモリアクセスリクエストスケジューリング方法は、各業務モジュールを監視することができ、各業務モジュールの性能を向上させる。

図６をさらに参照しながら、上記の各図に示される方法の実施として、本願は、メモリアクセスリクエストスケジューリング装置の一実施例を提供し、該装置実施例は、図２に示される方法実施例に対応し、該装置は、具体的には、様々電子デバイスに適用することができる。

図６に示すように、本実施例のメモリアクセスリクエストスケジューリング装置６００は、監視データ取得ユニット６０１、業務モジュール決定ユニット６０２、目標ノード決定ユニット６０３及び第１のリクエストスケジューリングユニット６０４を備える。

監視データ取得ユニット６０１は、少なくとも１つの業務モジュールの監視データを取得するように構成される。

業務モジュール決定ユニット６０２は、監視データに従って、少なくとも１つの業務モジュールから目標業務モジュールを決定するように構成される。

目標ノード決定ユニット６０３は、監視データに従って、予め設定されたＮＵＭＡノード集合から目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するように構成される。

第１のリクエストスケジューリングユニット６０４は、目標業務モジュールのメモリアクセスリクエストを目標ＮＵＭＡノードに送信するように構成される。

本実施例のいくつの選択可能な実施形態では、業務モジュール決定ユニット６０２は、さらに、監視データに従って、メモリアクセス回数、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ、中央演算装置へのアクセスのレイテンシ、キャッシュメモリーへのアクセスのレイテンシ、異なるメモリデータタイプのデータ量のうちの少なくとも１項を決定し、決定された情報に基づいて、少なくとも１つの業務モジュールのメモリアクセス遅延感度値を決定し、メモリアクセス遅延感度値に応じて、少なくとも１つの業務モジュールから目標業務モジュールを決定するように構成されてもよい。

本実施例のいくつの選択可能な実施形態では、目標ノード決定ユニット６０３は、さらに、目標業務モジュールがＮＵＭＡノード集合の各ＮＵＭＡノードに占有したメモリ量を決定し、各ＮＵＭＡノードのメモリアクセス帯域幅及び/又は占有したメモリ量に応じて、目標ＮＵＭＡノードを決定するように構成されてもよい。

本実施例のいくつの選択可能な実施形態では、装置６００は、さらに、図６に示されないリソース情報取得ユニット、利用率決定ユニット、予備ノード決定ユニット及び第２のリクエストスケジューリングユニットを備えてもよい。

リソース情報取得ユニットは、目標ＮＵＭＡノードのハードウェアリソース情報を取得するように構成される。

利用率決定ユニットは、監視データ及びハードウェアリソース情報に従って、目標ＮＵＭＡノードのリソース利用率を決定するように構成される。

予備ノード決定ユニットは、リソース利用率が予め設定された閾値よりも大きいと決定されたことに応答し、ＮＵＭＡノード集合から目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するように構成される。

第２のリクエストスケジューリングユニットは、目標ＮＵＭＡノードに送信された一部のメモリアクセスリクエストを予備ＮＵＭＡノードに転送するように構成される。

本実施例のいくつの選択可能な実施形態では、予備ノード決定ユニットは、さらに、ＮＵＭＡノード集合のうちの各ＮＵＭＡノードのリソース利用率を決定し、各ＮＵＭＡノードのリソース利用率に応じて、ＮＵＭＡノード集合から目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するように構成される。

本実施例のいくつの選択可能な実施形態では、装置６００は、さらに、図６に示されない状態情報決定ユニット、判定ユニット、リモートメモリ決定ユニット及びデータマイグレーションユニットを備えてもよい。

状態情報決定ユニットは、監視データに従って、目標業務モジュールの実行状態情報を決定するように構成される。

判定ユニットは、実行状態情報に応じて、目標業務モジュールが予め設定された条件を満たすか否かを決定するように構成される。

リモートメモリ決定ユニットは、予め設定された条件を満たさないことに応答し、目標業務モジュールに対応するリモートメモリを決定するように構成される。

データマイグレーションユニットは、リモートメモリのうちのデータを目標業務モジュールのローカルメモリにマイグレーションするように構成される。

なお、メモリアクセスリクエストスケジューリング装置６００に記載のユニット６０１乃至ユニット６０４は、それぞれ図２に説明される方法の各ステップに対応する。これにより、上文にメモリアクセスリクエストスケジューリング方法について説明されたオペレーションと特徴は、同様に装置６００及びそれに含まれるユニットに適用し、ここでは繰り返し説明しない。

本願の実施例によれば、さらに、本願は電子デバイスと読み取り可能な記憶媒体を提供する。

図７に示すように、本願の実施例によるメモリアクセスリクエストスケジューリング方法を実行する電子デバイスのブロック図である。電子デバイスは、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバー、ブレードサーバー、メインフレーム、その他の適切なコンピュータなどのさまざまな態様のデジタルコンピュータを表すことを目的とする。電子デバイスは、パーソナルデジタル処理、セルラー方式の携帯電話、スマートフォン、ウェアラブルデバイス、及び他の類似するコンピューティング装置などのさまざまな態様のモバイル装置を表すこともできる。本文に示されるコンポーネント、それらの接続及び関係、ならびにそれらの機能は、単なる例であり、本文に記載されるおよび／または主張される本願の実現を限定することを意図しない。

図７に示すように、該電子デバイスは、１つまたは複数のプロセッサ７０１、メモリ７０２、及び高速インターフェース及び低速インターフェースを備える各コンポーネントを接続するためのインターフェースを備える。各コンポーネントは、異なるバスで相互に接続されており、共通のマザーボードにインストールしてもよいし、必要に応じて、他の方法でインストールしてもよい。プロセッサは、ＧＵＩのグラフィック情報を外部入／出力装置（インターフェースに結合されたディスプレイデバイスなど）に表示できるように、メモリ内またはメモリ上に記憶された命令を含む電子デバイスで実行された命令を処理でき、他の実施例では、必要とすれば、複数のプロセッサおよび／または複数のバスを、複数のメモリ及び複数のメモリと共に使用することができる。同様に、複数の電子デバイスを接続でき、各デバイスはいくつかの必要なオペレーティングを提供する（例えば、サーバーアレイ、ブレードサーバーグループ、またはマルチプロセッサシステムとする）。図７では、１つのプロセッサ７０１を例にする。

メモリ７０２は、すなわち、本願による非一時的なコンピュータ可読記憶媒体である。ただし、前記メモリは、少なくとも１つのプロセッサによって実行可能な命令を記憶するので、前記少なくとも１つのプロセッサに本願によるメモリアクセスリクエストスケジューリング方法を実行させる。本願の非一時的なコンピュータ可読記憶媒体は、コンピュータに本願によるメモリアクセスリクエストスケジューリング方法を実行させるためのコンピュータ命令を記憶する。

メモリ７０２は非一時的なコンピュータ可読記憶媒体として、非一時的なソフトウェアプログラム、非一時的なコンピュータによって実行可能なプログラム、及びモジュールを記憶することに用いられ、例えば、本願の実施例のメモリアクセスリクエストスケジューリング方法に対応するプログラム命令／モジュール（例えば、図６に示される監視データ取得ユニット６０１、業務モジュール決定ユニット６０２、目標ノード決定ユニット６０３及び第１のリクエストスケジューリングユニット６０４）プロセッサ７０１は、メモリ７０２に記憶された非一時的なソフトウェアプログラム、命令及びモジュールを実行することによって、サーバーの様々な機能アプリケーション及びデータ処理を実行し、すなわち、上記の方法実施例のメモリアクセスリクエストスケジューリング方法を実現する。

メモリ７０２は、記憶プログラム領域と記憶データ領域を含んでもよく、ただし、記憶プログラム領域は、オペレーティングシステム、少なくとも１つの機能に必要なアプリケーションプログラムを記憶してもよく、記憶データ領域は、メモリアクセスリクエストスケジューリング方法を実行する電子デバイスの使用のため、作成されたデータなどを記憶することができ、また、メモリ７０２は、高速ランダムアクセスメモリを含んでもよく、さらに非一時的なメモリを含んでもよく、例えば、少なくとも１つの磁気ディスク記憶デバイス、フラッシュメモリデバイス、または他の非一時的なソリッドステートストレージデバイスなどの非一時的なメモリを含んでもよく、いくつかの実施例では、メモリ７０２は、プロセッサ７０１に対してリモートで設定されたメモリを選択してもよく、これらのリモートメモリは、ネットワークを介してメモリアクセスリクエストスケジューリング方法を実行する電子デバイスに接続されてもよい。上記のネットワークの例としては、インターネット、ブロックチェーンネットワーク、企業イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク、及びそれらの組み合わせなどを含むがこれらに限定されない。

メモリアクセスリクエストスケジューリング方法を実行する電子デバイスは、入力装置７０３及び出力装置７０４をさらに備えてよい。プロセッサ７０１、メモリ７０２、入力装置７０３、出力装置７０４は、バスなどで接続されてもよいが、図７にバスによる接続を例にする。

入力装置７０３は、入力デジタルまたは文字情報を受信し、メモリアクセスリクエストスケジューリング方法を実行する電子デバイスのユーザ設定及び機能制御に関連するキー信号入力を生成することができる。例えば、タッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、ポインティングスティック、１つ以上のマウスボタン、トラックボール、ジョイスティック、その他の入力装置。出力装置７０４は、ディスプレイデバイス、補助照明装置（例えば、ＬＥＤ）、触覚フィードバック装置（例えば、振動モーター）などを備えてもよい。該ディスプレイデバイスは、液晶ディスプレイ（ＬＣＤ）、発光ダイオード（ＬＥＤ）ディスプレイ、及びプラズマディスプレイを備えてもよい。いくつかの実施例では、ディスプレイデバイスはタッチスクリーンであってもよい。

ここでは説明されるシステム及び技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、特定用途向けＡＳＩＣ（特定用途向け集積回路）、コンピュータハードウェア、ファームウェア、ソフトウェア、および／またはそれらの組み合わせにおいて実現できる。これらの様々な実施形態は、以下を含んでもよく、１つまたは複数のコンピュータプログラムに実施され、該１つまたは複数のコンピュータプログラムは、少なくとも１つのプログラマブルプロセッサを含むプログラマブルシステム上で実行および／または解釈されてもよく、該プログラマブルプロセッサは、ストレージシステム、少なくとも１つの入力装置、及び少なくとも１つの出力装置からデータと命令を受信し、そのデータと命令をストレージシステム、少なくとも１つの入力装置、及び少なくとも１つの出力装置に送信できる専用または汎用のプログラマブルプロセッサであってもよい。

これらのコンピュータプログラム（プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる）は、プログラマブルプロセッサの機械命令を含み、高レベルのプロセス及び／またはオブジェクト指向プログラミング言語、及び／またはアセンブリ／機械言語を利用してこれらのコンピュータプログラムを実施することができる。本文で使用されるように、「機械読み取り可能な媒体」及び「コンピュータ可読媒体」という用語は、プログラマブルプロセッサに機械命令および／またはデータを提供するために用いられる任意のコンピュータプログラム製品、デバイス、および／または装置（例えば、磁気ディスク、光ディスク、メモリ、プログラマブルロジック装置（ＰＬＤ）を指す。機械読み取り可能な信号である機械命令を受信する機械読み取り可能な媒体を含む。「機械読み取り可能な信号」という用語は、プログラマブルプロセッサに機械命令および／またはデータを提供するために用いられる任意の信号を指す。

ユーザとのインタラクティブを提供するために、コンピュータにここでは説明されるシステム及び技術を実施してもよく、該コンピュータは、ユーザに情報を表示するためのディスプレイ装置（例えば、ＣＲＴ（陰極線管）またはＬＣＤ（液晶ディスプレイ）モニター）、及びキーボードとポインティング装置（マウスやトラックボールなど）を備え、ユーザが該キーボードとポインティング装置を介してコンピュータに入力を提供することができる。他のタイプの装置もユーザとのインタラクティブを提供するために用いられ、例えば、ユーザに提供されるフィードバックは、任意の形式の感覚フィードバック（例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック）であってもよく、任意の形式（音入力、音声入力、または触覚入力を含み）でユーザからの入力を受信することができる。

ここでは説明されるシステムと技術は、バックエンドコンポーネント（例えば、データサーバー）を含むコンピュータシステム、ミドルウェアコンポーネント（例えば、アプリケーションサーバー）を含むコンピュータシステム、またはフロントエンドコンポーネントを含むコンピュータシステム（例えば、グラフィカルユーザインターフェイスまたはＷｅｂブラウザーを備え、ユーザが該ラフィカルユーザインターフェイスまたはＷｅｂブラウザーでシステムと技術の実施例とインタラクティブできるユーザのコンピュータ）、またはそのようなバックエンドコンポーネント、ミドルウェアコンポーネント、またはフロントエンドコンポーネントを含む任意の組み合わせに実施してもよく、システムのコンポーネントは、任意の形式または媒体のデジタルデータ通信（通信ネットワークなど）を介して相互に接続してもよい。通信ネットワークの例としては、ローカルエリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）、インターネット、ブロックチェーンネットワークが挙げられる。

コンピュータシステムは、クライアント端末及びサーバーを含んでもよい。クライアント端末とサーバーは、一般的に互いに離れており、通常は通信ネットワークを介してインタラクティブする。対応するコンピュータ上で、互いにクライアント端末／サーバー関係を持つコンピュータプログラムを実行することによりクライアント端末とサーバーの関係を生成する。

本願実施例の技術解決手段によれば、各業務モジュールから適切な業務モジュールを決定し、該業務モジュールのメモリアクセスリクエストをマッチングのＮＵＭＡノードにスケジューリングすることができ、業務モジュールのメモリアクセス遅延を減少させる。

なお、上記に示される様々な形態のプロセスを使用して再度ソートし、ステップを追加し、削除できる。例えば、本願に記載される各ステップは、本願に開示される技術的解決手段の所望の結果を達成できる限り、並列、順次、または異なる順序で実行されてもよく、ここでは本文に限定されない。

上記の具体的にはな実施形態は、本願の特許範囲を限定するものではない。当業者は、設計要件及び他の要因に応じて、様々な修正、組み合わせ、サブ組み合わせ、及び置換を行うことができると理解すべきである。本願の精神及び原則を逸脱せずに行われる補正、同等など置換、改良などはすべて本願の特許範囲に含まれるべきである。

Claims (13)

1. メモリアクセスリクエストスケジューリング方法であって、
   少なくとも１つの業務モジュールの監視データを取得するステップと、
   前記監視データに従って、前記少なくとも１つの業務モジュールから目標業務モジュールを決定するステップと、
   前記監視データに従って、予め設定されたＮＵＭＡノード集合から前記目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するステップと、
   前記目標業務モジュールのメモリアクセスリクエストを前記目標ＮＵＭＡノードに送信するステップと、を含み、
   前記監視データに従って、前記少なくとも１つの業務モジュールから目標業務モジュールを決定するステップは、
   前記監視データに従って、メモリアクセス回数、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ、中央演算装置へのアクセスのレイテンシ、キャッシュメモリーへのアクセスのレイテンシ、異なるメモリデータタイプのデータ量のうちの少なくとも１項を決定することと、
   決定された情報に基づいて、前記少なくとも１つの業務モジュールのメモリアクセス遅延感度値を決定することと、
   前記メモリアクセス遅延感度値に応じて、前記少なくとも１つの業務モジュールから目標業務モジュールを決定することと、を含む、方法。
2. 前記監視データに従って、予め設定されたＮＵＭＡノード集合から前記目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するステップは、
   前記目標業務モジュールが前記ＮＵＭＡノード集合の各ＮＵＭＡノードに占有したメモリ量を決定することと、
   各ＮＵＭＡノードのメモリアクセス帯域幅及び/又は占有したメモリ量に応じて、前記目標ＮＵＭＡノードを決定することと、を含む請求項１に記載の方法。
3. 前記方法は、さらに、
   前記目標ＮＵＭＡノードのハードウェアリソース情報を取得するステップと、
   前記監視データ及び前記ハードウェアリソース情報に従って、前記目標ＮＵＭＡノードのリソース利用率を決定するステップと、
   前記リソース利用率が予め設定された閾値よりも大きいと決定されたことに応答し、前記ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するステップと、
   前記目標ＮＵＭＡノードに送信された一部のメモリアクセスリクエストを前記予備ＮＵＭＡノードに転送するステップと、を含む請求項１に記載の方法。
4. 前記ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するステップは、
   前記ＮＵＭＡノード集合のうちの各ＮＵＭＡノードのリソース利用率を決定することと、
   各ＮＵＭＡノードのリソース利用率に応じて、前記ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定することと、を含む請求項３に記載の方法。
5. 前記方法は、さらに、
   前記監視データに従って、前記目標業務モジュールの実行状態情報を決定するステップと、
   前記実行状態情報に応じて、前記目標業務モジュールが予め設定された条件を満たすか否かを決定するステップと、
   前記予め設定された条件を満たさないことに応答し、前記目標業務モジュールに対応するリモートメモリを決定するステップと、
   前記リモートメモリのうちのデータを前記目標業務モジュールのローカルメモリにマイグレーションするステップと、を含む請求項１に記載の方法。
6. メモリアクセスリクエストスケジューリング装置であって、
   少なくとも１つの業務モジュールの監視データを取得するように構成される監視データ取得ユニットと、
   前記監視データに従って、前記少なくとも１つの業務モジュールから目標業務モジュールを決定するように構成される業務モジュール決定ユニットと、
   前記監視データに従って、予め設定されたＮＵＭＡノード集合から前記目標業務モジュールとマッチングする目標ＮＵＭＡノードを決定するように構成される目標ノード決定ユニットと、
   前記目標業務モジュールのメモリアクセスリクエストを前記目標ＮＵＭＡノードに送信するように構成される第１のリクエストスケジューリングユニットと、を備え、
   前記業務モジュール決定ユニットは、さらに、
   前記監視データに従って、メモリアクセス回数、メモリアクセス帯域幅、メモリへのアクセスのレイテンシ、中央演算装置へのアクセスのレイテンシ、キャッシュメモリーへのアクセスのレイテンシ、異なるメモリデータタイプのデータ量のうちの少なくとも１項を決定し、
   決定された情報に基づいて、前記少なくとも１つの業務モジュールのメモリアクセス遅延感度値を決定し、
   前記メモリアクセス遅延感度値に応じて、前記少なくとも１つの業務モジュールから目標業務モジュールを決定するように構成される、装置。
7. 前記目標ノード決定ユニットは、さらに、
   前記目標業務モジュールが前記ＮＵＭＡノード集合の各ＮＵＭＡノードに占有したメモリ量を決定し、
   各ＮＵＭＡノードのメモリアクセス帯域幅及び/又は占有したメモリ量に応じて、前記目標ＮＵＭＡノードを決定するように構成される請求項６に記載の装置。
8. 前記装置は、さらに、
   前記目標ＮＵＭＡノードのハードウェアリソース情報を取得するように構成されるリソース情報取得ユニットと、
   前記監視データ及び前記ハードウェアリソース情報に従って、前記目標ＮＵＭＡノードのリソース利用率を決定するように構成される利用率決定ユニットと、
   前記リソース利用率が予め設定された閾値よりも大きいと決定されたことに応答し、前記ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するように構成される予備ノード決定ユニットと、
   前記目標ＮＵＭＡノードに送信された一部のメモリアクセスリクエストを前記予備ＮＵＭＡノードに転送するように構成される第２のリクエストスケジューリングユニットと、を備える請求項６に記載の装置。
9. 前記予備ノード決定ユニットは、さらに、
   前記ＮＵＭＡノード集合のうちの各ＮＵＭＡノードのリソース利用率を決定し、
   各ＮＵＭＡノードのリソース利用率に応じて、前記ＮＵＭＡノード集合から前記目標ＮＵＭＡノードの予備ＮＵＭＡノードを決定するように構成される請求項８に記載の装置。
10. 前記装置は、さらに、
    前記監視データに従って、前記目標業務モジュールの実行状態情報を決定するように構成される状態情報決定ユニットと、
    前記実行状態情報に応じて、前記目標業務モジュールが予め設定された条件を満たすか否かを決定するように構成される判定ユニットと、
    前記予め設定された条件を満たさないことに応答し、前記目標業務モジュールに対応するリモートメモリを決定するように構成されるリモートメモリ決定ユニットと、
    前記リモートメモリのうちのデータを前記目標業務モジュールのローカルメモリにマイグレーションするように構成されるデータマイグレーションユニットと、を備える請求項６に記載の装置。
11. メモリアクセスリクエストスケジューリング電子デバイスであって、
    少なくとも１つのプロセッサと、
    前記少なくとも１つのプロセッサと通信接続されるメモリと、を備え、
    前記メモリは、前記少なくとも１つのプロセッサによって実行可能な命令を記憶し、前記少なくとも１つのプロセッサが請求項１～５のいずれか１項に記載の方法を実行できるように、前記命令が前記少なくとも１つのプロセッサに実行される電子デバイス。
12. コンピュータ命令を記憶する非一時的なコンピュータ可読記憶媒体であって、前記コンピュータ命令は、コンピュータに請求項１～５のいずれか１項に記載の方法を実行させる。
13. コンピュータプログラムであって、前記コンピュータプログラムは、プロセッサにより実行されると、請求項１～５のいずれか１項に記載の方法を実行させるコンピュータプログラム。

Images