JP2017173946A - Cache management system, evaluation method, management server, physical server, and measurement server - Google Patents
Cache management system, evaluation method, management server, physical server, and measurement server Download PDFInfo
- Publication number
- JP2017173946A JP2017173946A JP2016056550A JP2016056550A JP2017173946A JP 2017173946 A JP2017173946 A JP 2017173946A JP 2016056550 A JP2016056550 A JP 2016056550A JP 2016056550 A JP2016056550 A JP 2016056550A JP 2017173946 A JP2017173946 A JP 2017173946A
- Authority
- JP
- Japan
- Prior art keywords
- server
- cache
- physical
- measurement
- virtual machine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、汎用プラットフォーム上に配置する仮想マシン間のキャッシュ競合に対処する技術に関する。 The present invention relates to a technique for dealing with cache contention between virtual machines arranged on a general-purpose platform.
サーバ仮想化技術の発展に伴い、物理サーバを統合し、汎用プラットフォーム上で複数の仮想マシン(VM:Virtual Machine)を動作させることが行われている。現在CPU(Central Processing Unit)で主流となっているマルチコア構成では、低次のキャッシュを複数のコアが共有するアーキテクチャを持つことが一般的である。 With the development of server virtualization technology, physical servers are integrated and a plurality of virtual machines (VMs) are operated on a general-purpose platform. In a multi-core configuration that is currently mainstream in a CPU (Central Processing Unit), it is common to have an architecture in which a plurality of cores share a low-order cache.
汎用プラットフォームのノード上で仮想マシンを単体で動かしたときには、図8(a)に示したように、その仮想マシン(図8(a)では、「VM1」)が共有キャッシュ(図8においては「3次キャッシュメモリ」)を占有した状態となる。これに対し、同じノード上で複数の仮想マシンが稼働している場合、図8(b)に示すように、自身の仮想マシン(「VM1」)以外の他の仮想マシン(「VM2」「VM3」「VM4」)によって共有キャッシュ(3次キャッシュメモリ)のデータが置き換えられ、キャッシュミスが相対的に増加する。ここで、キャッシュミスとは、命令処理に必要なデータがキャッシュメモリに存在せず、キャッシュメモリからデータを読み込むことができないことをいう。キャッシュミスを起こしたコアは、キャッシュメモリより数倍アクセス時間のかかるメインメモリまで参照にいかなければならず、その結果として性能低下を引き起こす。これを複数仮想マシン間のキャッシュ競合と呼ぶ。 When a virtual machine is moved alone on a node of the general-purpose platform, as shown in FIG. 8A, the virtual machine (“VM1” in FIG. 8A) is shared cache (in FIG. The tertiary cache memory ") is occupied. On the other hand, when a plurality of virtual machines are operating on the same node, as shown in FIG. 8B, other virtual machines (“VM2”, “VM3”) than their own virtual machines (“VM1”). "VM4") replaces the data in the shared cache (tertiary cache memory), and cache misses increase relatively. Here, the cache miss means that data necessary for instruction processing does not exist in the cache memory and data cannot be read from the cache memory. The core that has caused the cache miss must refer to the main memory, which takes several times as long as the access time compared to the cache memory, resulting in performance degradation. This is called cache contention between multiple virtual machines.
複数の仮想マシンが物理サーバの同じキャッシュを利用すれば、仮想マシンの各々が利用するキャッシュの容量、つまりキャッシュ利用容量は、単体の仮想マシンが利用する場合と比較して減少する。キャッシュ利用容量が減少することは、キャッシュミス数の増加を招くため、アプリケーションによっては60%程度の性能低下が起こり得る(例えば、非特許文献1参照)。 If a plurality of virtual machines use the same cache of the physical server, the capacity of the cache used by each of the virtual machines, that is, the cache usage capacity is reduced as compared with the case where a single virtual machine uses it. Decreasing the cache use capacity leads to an increase in the number of cache misses, so that performance degradation of about 60% may occur depending on the application (for example, see Non-Patent Document 1).
非特許文献2には、最終レベルキャッシュのキャッシュ利用容量(どの仮想マシンがどれだけのキャッシュ(空間)を利用しているか)をモニタリングするハードウェア機能(Cache Monitoring Technology)の技術について開示されている。 Non-Patent Document 2 discloses a technique of a hardware function (Cache Monitoring Technology) for monitoring the cache use capacity (which virtual machine uses how much cache (space)) of the final level cache. .
新たな仮想マシンを物理サーバ上に配置(デプロイ)する際、インフラ運用者は、この新たな仮想マシンが物理サーバのキャッシュをどの程度利用することができるかを事前に知りたい場合がある。しかし、非特許文献2の技術では、配置しようとする仮想マシンがどの程度のキャッシュ空間を利用することができるかを評価することはできない。例えば、図8(a)のように単体の仮想マシンが動作しているキャッシュと、図8(b)のように複数の仮想マシンが動作しているキャッシュのそれぞれに新たな仮想マシンを配置する場合(キャッシュの総容量は、図8(a)と(b)とで同じ)、図8(b)の場合の方が明らかに、新たな仮想マシンのキャッシュ利用容量が小さくなるが、非特許文献2ではその点を評価することができない。 When placing (deploying) a new virtual machine on a physical server, the infrastructure operator may want to know in advance how much the new virtual machine can use the cache of the physical server. However, with the technique of Non-Patent Document 2, it is not possible to evaluate how much cache space a virtual machine to be placed can use. For example, a new virtual machine is arranged in each of a cache in which a single virtual machine is operating as illustrated in FIG. 8A and a cache in which a plurality of virtual machines are operating as illustrated in FIG. 8B. In the case (the total capacity of the cache is the same in FIGS. 8A and 8B), the cache utilization capacity of the new virtual machine is clearly smaller in the case of FIG. Reference 2 cannot evaluate that point.
このような事情に鑑みて、本発明は、物理サーバに配置しようとする新たな仮想マシンの、物理サーバに配置したときの性能を的確に評価することを課題とする。 In view of such circumstances, an object of the present invention is to accurately evaluate the performance of a new virtual machine to be placed on a physical server when placed on the physical server.
前記した課題を解決するため、請求項1に記載の発明は、1または複数の仮想マシンが配置されている複数の物理サーバと、評価対象となる仮想マシンを示す対象仮想マシンが配置されている測定サーバと、管理サーバと、を備えるキャッシュ管理システムであって、前記物理サーバの各々は、前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定する前記物理サーバ側測定器と、前記物理サーバ側測定器に、前記物理サーバごとのキャッシュ活性度を測定させる物理サーバ側制御部と、を備え、前記測定サーバは、前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として測定する前記測定サーバ側測定器と、前記測定サーバ側測定器に、前記対象仮想マシンのキャッシュ利用容量を測定させる測定サーバ側制御部と、を備え、前記管理サーバは、前記測定サーバから取得した、前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出し、前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出する管理サーバ側制御部と、を備える、ことを特徴とするキャッシュ管理システムである。 In order to solve the above-described problem, the invention according to claim 1 includes a plurality of physical servers on which one or a plurality of virtual machines are arranged, and a target virtual machine indicating a virtual machine to be evaluated. A cache management system comprising a measurement server and a management server, wherein each of the physical servers uses a cache of the physical server side measuring device itself obtained by changing a random access frequency to the main memory of the physical server The physical server-side measuring device that measures the transition of capacity as the cache activity for each physical server; the physical server-side control unit that causes the physical server-side measuring device to measure the cache activity for each physical server; The measurement server includes a measurement server obtained by changing a random access frequency to the main memory of the measurement server. The measurement server side measuring device that measures the transition of the cache usage capacity of the side measurement device itself as the cache activity of the measurement server, and the measurement that causes the measurement server side measurement device to measure the cache usage capacity of the target virtual machine A server-side control unit, wherein the management server acquires the target from the cache usage capacity of the target virtual machine acquired from the measurement server using the cache activity of the measurement server acquired from the measurement server. Each of the physical servers is calculated from the calculated random access frequency of the target virtual machine by using the cache activity for each physical server, which is calculated from the random access frequency of the virtual machine, and calculated from the physical server. Management server that calculates the cache usage capacity of the target virtual machine when placed in And a control unit, a, is a cache management system, characterized in that.
また、請求項2に記載の発明は、1または複数の仮想マシンが配置されている複数の物理サーバと、評価対象となる仮想マシンを示す対象仮想マシンが配置されている測定サーバと、管理サーバと、を備えるキャッシュ管理システムにおける評価方法であって、前記測定サーバに配置されている測定サーバ側測定器が、前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる前記測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバごとのキャッシュ活性度として測定するステップと、前記物理サーバに配置されている物理サーバ側測定器の各々が、前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる前記物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定するステップと、前記測定サーバ側測定器が、前記対象仮想マシンのキャッシュ利用容量を測定するステップと、前記管理サーバが、前記測定サーバから取得した、前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出するステップと、前記管理サーバが、前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出するステップと、を実行する、ことを特徴とする評価方法である。 The invention according to claim 2 is a plurality of physical servers in which one or a plurality of virtual machines are arranged, a measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged, and a management server An evaluation method in a cache management system comprising: a measurement server side measuring device arranged on the measurement server, wherein the measurement server side is obtained by changing a random access frequency to a main memory of the measurement server Measuring a transition of the cache usage capacity of the measuring device itself as a cache activity for each of the measurement servers, and each of the physical server-side measuring devices arranged in the physical server is connected to the main memory of the physical server. Transition of the cache usage capacity of the physical server side measuring instrument itself obtained by changing the random access frequency, A step of measuring the cache activity for each physical server, a step in which the measurement server side measuring device measures a cache usage capacity of the target virtual machine, and the measurement server acquired from the measurement server by the management server Calculating the random access frequency of the target virtual machine from the cache usage capacity of the target virtual machine acquired from the measurement server using the cache activity of the management server, and the management server acquiring from each of the physical servers Then, using the cache activity for each physical server, the cache usage capacity of the target virtual machine when arranged in each of the physical servers is calculated from the calculated random access frequency of the target virtual machine. An evaluation method characterized by executing steps.
また、請求項3に記載の発明は、1または複数の仮想マシンが配置されている複数の物理サーバと、評価対象となる仮想マシンを示す対象仮想マシンが配置されている測定サーバと、管理サーバと、を備えるキャッシュ管理システムの管理サーバであって、前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として記憶する管理サーバ側記憶部と、前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として、前記物理サーバの各々から取得し、前記対象仮想マシンのキャッシュ利用容量を、前記測定サーバから取得し、前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出し、前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出する管理サーバ側制御部と、を備える、ことを特徴とする管理サーバである。 The invention according to claim 3 is a plurality of physical servers in which one or more virtual machines are arranged, a measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged, and a management server A transition of the cache usage capacity of the measurement server side measuring device itself obtained by changing the random access frequency to the main memory of the measurement server, Changes in the cache usage capacity of the management server-side storage unit that stores the degree of activity and the physical server-side measuring device itself obtained by changing the random access frequency to the main memory of the physical server. The cache usage capacity of the target virtual machine obtained from each of the physical servers The random access frequency of the target virtual machine is calculated from the cache usage capacity of the target virtual machine acquired from the measurement server, obtained from the measurement server using the cache activity of the measurement server, and each of the physical servers From the calculated random access frequency of the target virtual machine using the cache activity level for each physical server acquired from the cache usage capacity of the target virtual machine when arranged in each of the physical servers A management server-side control unit that calculates the management server.
また、請求項4に記載の発明は、1または複数の仮想マシンが配置されている複数の物理サーバであって、前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定する前記測定器を備え、前記測定器は、前記物理サーバの前記メインメモリに所定の前記ランダムアクセス頻度でアクセスするキャッシュ負荷装置部と、前記物理サーバに配置されている前記仮想マシンおよび前記測定器自身のキャッシュ利用容量を測定するキャッシュ利用容量測定部と、前記物理サーバごとの前記キャッシュ活性度を出力する出力部と、を備える、ことを特徴とする物理サーバである。 The invention according to claim 4 is a plurality of physical servers in which one or a plurality of virtual machines are arranged, and the measuring device itself obtained by changing the frequency of random access to the main memory of the physical server A cache load device that measures the transition of the cache usage capacity of the physical server as a cache activity for each physical server, and the measuring device accesses the main memory of the physical server at a predetermined random access frequency. A cache usage capacity measurement unit that measures the cache usage capacity of the virtual machine and the measuring device itself that are arranged in the physical server, and an output unit that outputs the cache activity for each physical server. It is a physical server characterized by comprising.
また、請求項5に記載の発明は、評価対象となる仮想マシンを示す対象仮想マシンが配置されている測定サーバであって、前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として測定する測定器を備え、前記測定器は、前記測定サーバの前記メインメモリに所定の前記ランダムアクセス頻度でアクセスするキャッシュ負荷装置部と、前記対象仮想マシンのキャッシュ利用容量を測定するキャッシュ利用容量測定部と、前記測定した、前記対象仮想マシンのキャッシュ利用容量を出力する出力部と、を備える、ことを特徴とする測定サーバである。 The invention according to claim 5 is a measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged, and is obtained by changing a random access frequency to the main memory of the measurement server. A measuring device that measures the transition of the cache usage capacity of the measuring server side measuring device itself as the cache activity of the measuring server, and the measuring device accesses the main memory of the measuring server at the predetermined random access frequency. A cache load device unit, a cache use capacity measurement unit that measures the cache use capacity of the target virtual machine, and an output unit that outputs the measured cache use capacity of the target virtual machine. It is a measurement server.
請求項1〜3に記載の発明よれば、キャッシュ活性度という新たな指標を導入することで、すでに1または複数の仮想マシンが配置されている物理サーバに新たな仮想マシンを配置する際にその新たな仮想マシンがどの程度のキャッシュ容量を利用することができるかを明らかにすることができる。
したがって、物理サーバに配置しようとする新たな仮想マシンの、物理サーバに配置したときの性能を的確に評価することができる。
また、請求項4,5に記載の発明よれば、物理サーバの各々に配置される場合の新たな仮想マシンのキャッシュ利用容量を算出するのに必要となる情報を求めることができる。
According to the first to third aspects of the present invention, when a new virtual machine is arranged on a physical server on which one or more virtual machines are already arranged by introducing a new index called cache activity, It can clarify how much cache capacity a new virtual machine can use.
Therefore, it is possible to accurately evaluate the performance of a new virtual machine to be placed on the physical server when placed on the physical server.
According to the fourth and fifth aspects of the present invention, it is possible to obtain information necessary for calculating the cache usage capacity of a new virtual machine when arranged in each physical server.
本発明によれば、物理サーバに配置しようとする新たな仮想マシンの、物理サーバに配置したときの性能を的確に評価することができる。 According to the present invention, it is possible to accurately evaluate the performance of a new virtual machine to be placed on a physical server when placed on the physical server.
本発明の実施形態について、図面を参照しながら詳細に説明する。 Embodiments of the present invention will be described in detail with reference to the drawings.
≪全体構成≫
図1に示すように、本実施形態のキャッシュ管理システムは、管理サーバ10と、仮想マシンに関する測定の場となる測定環境下にある測定サーバ20と、所定のサービスを提供する場となるサーバ環境下にある複数の物理サーバA(30−1),B(30−2),・・・を備える。物理サーバA(30−1),B(30−2),・・・は、物理サーバ30と総称する場合がある。
≪Overall structure≫
As shown in FIG. 1, the cache management system according to the present embodiment includes a
管理サーバ10は、測定サーバ20および物理サーバ30から所定の情報を収集することで測定サーバ20および物理サーバ30を監視する。
測定サーバ20は、1または複数の仮想マシンが配置される測定用の物理サーバである。測定サーバ20には、後記する評価対象となるVM40(対象仮想マシン)、および、後記するCEM50(キャッシュ容量確保用測定器:測定サーバ側測定器:測定器)が配置されている。
物理サーバ30は、1または複数の仮想マシンが配置されるサービス提供用の物理サーバである。物理サーバA(30−1)には、VM41およびCEM51(物理サーバ側測定器:測定器)が配置されている。物理サーバB(30−2)には、VM42,43およびCEM52(物理サーバ側測定器:測定器)が配置されている。CEM51,52は、CEM50と同等の機能を有する。
The
The
The physical server 30 is a service providing physical server in which one or more virtual machines are arranged. In the physical server A (30-1), a
≪CEM≫
図2(a)に示すように、例えばCEM50は、キャッシュ負荷装置部50aと、キャッシュ容量測定部50bと、入出力部50c(出力部)と、を有する。
≪CEM≫
As shown in FIG. 2A, for example, the
キャッシュ負荷装置部50aは、CEM50自身が配置されている物理サーバのメインメモリに所定のランダムアクセス頻度(RF:f[/s])でランダムアクセスする。ランダムアクセス頻度は可変であり、入出力部50cを介して管理サーバ10から設定することができる。
The cache
キャッシュ容量測定部50bは、CEM50自身が配置されている物理サーバ上で動作中のプロセスのキャッシュ利用容量(s[MB])を測定する。動作中プロセスには、物理サーバに配置されている1または複数の仮想マシンおよびCEM50自身を含む。測定されたキャッシュ利用容量は、入出力部50cを介して管理サーバ10に通知される。
The cache
入出力部50cは、管理サーバ10とのインターフェイスとして機能する。入出力部50cは、キャッシュ負荷装置部50aによるランダムアクセスのランダムアクセス頻度を変化させて得られる、キャッシュ容量測定部50bが測定したキャッシュ利用容量の推移を、物理サーバのキャッシュ活性度(CA:Cache Activity)として出力する。物理サーバのキャッシュ活性度は、例えば、図2(b)に示すグラフとして表現される。
The input /
≪管理サーバ≫
図3に示すように、管理サーバ10は、制御部11(管理サーバ側制御部)と、通信部12と、記憶部13(管理サーバ側記憶部)を備えている。
≪Management server≫
As illustrated in FIG. 3, the
通信部12は、通信接続される、測定サーバ20および物理サーバ30と所定の情報の入出力を行う。また、通信部12は、通信回線を介して情報の送受信を行う不図示の通信インターフェイスと、キーボード等の入力手段やモニタ等の出力手段(いずれも不図示)との間で入出力を行う入出力インターフェイスとから構成される。
The
記憶部13は、ハードディスクやフラッシュメモリ、RAM(Random Access Memory)等の記憶手段からなり、キャッシュ活性度情報13aおよび測定サーバ情報13bなどを記憶する。
キャッシュ活性度情報13aは、物理サーバ30ごとのキャッシュ活性度を示す情報であり、物理サーバ30から収集される。
測定サーバ情報13bは、測定サーバ20のキャッシュ活性度を示す情報であり、測定サーバ20から収集される。
The
The
The
制御部11は、管理サーバ10全体の制御を司り、キャッシュ活性度情報収集部11aと、ランダムアクセス頻度算出部11bと、可用キャッシュ容量算出部11cとを備える。また、この制御部11は、例えば、記憶部13に格納されたプログラムを不図示のCPUがRAMに展開し実行することで実現される。
The
キャッシュ活性度情報収集部11aは、物理サーバ30のCEMの各々から、物理サーバ30自身のキャッシュ活性度を収集する。
ランダムアクセス頻度算出部11bは、測定サーバ情報13bに示された測定サーバ20のキャッシュ活性度を用いて、測定サーバ20から取得した、VM40のキャッシュ利用容量からVM40のランダムアクセス頻度を算出する。
可用キャッシュ容量算出部11cは、物理サーバ30の各々から取得した、キャッシュ活性度情報13aが示す物理サーバ30ごとのキャッシュ活性度を用いて、ランダムアクセス頻度算出部11bが算出した、VM40のランダムアクセス頻度から、物理サーバ30の各々に配置される場合のVM40のキャッシュ利用容量を可用キャッシュ容量として算出する。
The cache activity
The random access frequency calculation unit 11b calculates the random access frequency of the
The available cache
なお、測定サーバ20は、管理サーバ10と同様に、制御部(測定サーバ側制御部)と、通信部と、記憶部とを備える。
また、各物理サーバ30は、管理サーバ10と同様に、制御部(物理サーバ側制御部)と、通信部と、記憶部とを備える。
Note that, like the
Each physical server 30 includes a control unit (physical server side control unit), a communication unit, and a storage unit, as with the
≪処理≫
次に、本実施形態のキャッシュ管理システムが実行する処理について説明する。この処理は、手順0〜手順3に分けることができ、以下、手順ごとに説明する。
<< Process >>
Next, processing executed by the cache management system of this embodiment will be described. This process can be divided into procedure 0 to procedure 3, and will be described below for each procedure.
(手順0)
図4に示すように、まず、ステップA1にて、測定サーバ20に配置されているCEM50は、管理サーバ10によって設定されたランダムアクセス頻度f0で常時稼働し、測定サーバ20のメインメモリにランダムアクセスを行う。
(Procedure 0)
As shown in FIG. 4, first, in step A <b> 1, the
続いて、ステップA2にて、測定サーバ20に配置されているCEM53(CEM50と同等の機能を有する)は、CEM50がランダムアクセス頻度f0で稼働している状況下で、測定サーバ20のキャッシュ活性度を測定する。具体的には、CEM53は、測定サーバ20のメインメモリへのランダムアクセス頻度を変化させて得られるCEM53自身のキャッシュ利用容量の推移を、測定サーバ20のキャッシュ活性度として測定する。また、測定サーバ20は、測定した、測定サーバ20のキャッシュ活性度を管理サーバ10へ通知する。
Subsequently, in step A2, the CEM 53 (having a function equivalent to the CEM 50) arranged in the
続いて、ステップA3にて、管理サーバ10は、測定サーバ20から通知された、測定サーバ20のキャッシュ活性度を測定サーバ情報13bとして保存する。
手順0によれば、管理サーバ10にてVM40のランダムアクセス頻度を算出する準備を整えることができる。
手順0の後、手順1を行う。
Subsequently, in step A3, the
According to the procedure 0, the
After step 0, step 1 is performed.
(手順1)
図5に示すように、まず、ステップB1にて、物理サーバA(30−1)に配置されているCEM51は、CEM51自身のキャッシュ利用容量を、物理サーバA(30−1)のキャッシュ活性度として測定する。具体的には、CEM51は、物理サーバA(30−1)のメインメモリへのランダムアクセス頻度fを変化させて得られるCEM51自身のキャッシュ利用容量s(f)の推移を、物理サーバA(30−1)のキャッシュ活性度として測定する。また、物理サーバA(30−1)は、測定した、物理サーバA(30−1)のキャッシュ活性度を管理サーバ10に通知する。
また、物理サーバB(30−2)に配置されているCEM52は、CEM52自身のキャッシュ利用容量を、物理サーバB(30−2)のキャッシュ活性度として測定する。具体的には、CEM52は、物理サーバB(30−2)のメインメモリへのランダムアクセス頻度fを変化させて得られるCEM52自身のキャッシュ利用容量s(f)の推移を、物理サーバB(30−2)のキャッシュ活性度として測定する。また、物理サーバB(30−2)は、測定した、物理サーバB(30−2)のキャッシュ活性度を管理サーバ10に通知する。
(Procedure 1)
As shown in FIG. 5, first, in step B1, the
The
続いて、ステップB2にて、管理サーバ10は、物理サーバA,B(30−1,30−2)からそれぞれ通知された、物理サーバA,B(30−1,30−2)のキャッシュ活性度をキャッシュ活性度情報13aとして保存する。
手順1によれば、管理サーバ10が各物理サーバ30のキャッシュ活性度を把握することができる。
手順1の後、手順2を行う。
Subsequently, in step B2, the
According to the procedure 1, the
After step 1, step 2 is performed.
(手順2)
図6に示すように、まず、ステップC1にて、対象仮想マシンとなるVM40を測定サーバ20に配置する。なお、CEM53は、測定サーバ20から削除する。
続いて、ステップC2にて、測定サーバ20に配置されているCEM50(ランダムアクセス頻度f0で稼働)は、キャッシュ容量測定部50bによって、測定サーバ20に配置されているVM40のキャッシュ利用容量sVMを測定する。また、測定サーバ20は、測定したVM40のキャッシュ利用容量sVMを管理サーバ10に通知する。
(Procedure 2)
As shown in FIG. 6, first, in Step C <b> 1, a
Subsequently, in step C2, (running on a random access frequency f 0) measurement server 20 is arranged CEM50, depending cache
続いて、ステップC3にて、管理サーバ10は、測定サーバ情報13bから、測定サーバ20のキャッシュ活性度を読み取る。
続いて、ステップC4にて、管理サーバ10は、ランダムアクセス頻度算出部11bによって、測定サーバ20のキャッシュ活性度を用いて、VM40のキャッシュ利用容量sVMからVM40のランダムアクセス頻度fRFを算出する。
Subsequently, in step C3, the
Subsequently, in step C4, the
手順2によれば、CEM50のキャッシュ利用容量に依ることなく、VM40自身のランダムアクセス頻度を求めることができる。
手順2の後、手順3を行う。
According to the procedure 2, the random access frequency of the
After step 2, step 3 is performed.
(手順3)
図7に示すように、まず、ステップD1にて、管理サーバ10は、キャッシュ活性度情報13aから物理サーバA,B(30−1,30−2)のキャッシュ活性度を読み取る。
(Procedure 3)
As shown in FIG. 7, first, in step D1, the
続いて、ステップD2にて、管理サーバ10は、可用キャッシュ容量算出部11cによって、キャッシュ活性度情報13aから読み取った、物理サーバA,B(30−1,30−2)のキャッシュ活性度を用いて、ランダムアクセス頻度算出部11bが算出した、VM40のランダムアクセス頻度fRFから、物理サーバA,B(30−1,30−2)の各々に配置される場合のVM40のキャッシュ利用容量sVMをsA,sBとして算出する。
Subsequently, in step D2, the
手順3によれば、物理サーバA,B(30−1,30−2)に配置される場合のVM40のキャッシュ利用容量sA,sBを,物理サーバA,B(30−1,30−2)の可用キャッシュ容量として算出することができる。
以上で、キャッシュ管理システムが実行する処理の説明を終える。
According to the procedure 3, the cache usage capacities s A and s B of the
This is the end of the description of the processing executed by the cache management system.
本実施形態によれば、キャッシュ活性度という新たな指標を導入することで、すでに1または複数の仮想マシンが配置されている物理サーバA,B(30−1,30−2)に新たなVM40を配置する際にそのVM40がどの程度のキャッシュ容量を利用することができるかを明らかにすることができる。
なお、従来(例えば、非特許文献2)では、キャッシュ利用容量をメモリ空間単位[MB]で表示するのみであり、キャッシュ活性度という指標が存在しなかったので、配置しようとする新たなVM40の評価はできなかった。
これに対し、本実施形態によれば、物理サーバに配置しようとする新たな仮想マシンの、物理サーバに配置したときの性能を的確に評価することができる。
According to this embodiment, by introducing a new index called cache activity, a
In the past (for example, Non-Patent Document 2), only the cache usage capacity is displayed in the unit of memory space [MB], and there is no index of cache activity. Evaluation was not possible.
On the other hand, according to this embodiment, the performance of a new virtual machine to be placed on a physical server when placed on the physical server can be accurately evaluated.
本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲で、変更実施が可能であり、例えば、次の(a)〜(c)のようなものがある。
(a):本発明は、サーバ環境がヘテロなサーバ環境であっても新たな仮想マシンの配置先となる物理サーバ上でキャッシュ利用容量がどの程度になるかを評価することができる。つまり、サーバ環境を構成する物理サーバ30のキャッシュ容量やCPUアーキテクチャが各物理サーバ30間で異なるサーバ環境であっても本発明を適用することができ、各物理サーバ30の性能に依らない。
(b):本発明では、新たな仮想マシンが利用しようとするキャッシュが、最高次(最終レベル)キャッシュ(図8では、3次キャッシュメモリ)に限られず、より低次(1次、2次など)のキャッシュであっても、キャッシュ活性度を評価することができる。
(c):管理サーバ10は、物理サーバに配置しようとする新たな仮想マシンのキャッシュ利用容量が所定値以下であった場合には、インフラ運用者に所定態様のアラート通知を行うようにしてもよい。
The present invention is not limited to the above-described embodiment, and can be modified without departing from the spirit of the present invention. For example, there are the following (a) to (c).
(A): The present invention can evaluate how much the cache usage capacity is on a physical server that is a destination of a new virtual machine even if the server environment is a heterogeneous server environment. That is, the present invention can be applied even in a server environment in which the cache capacity and CPU architecture of the physical servers 30 constituting the server environment are different among the physical servers 30, and do not depend on the performance of the physical servers 30.
(B): In the present invention, the cache to be used by the new virtual machine is not limited to the highest-order (final level) cache (the tertiary cache memory in FIG. 8), but lower-order (primary and secondary). Etc.), the cache activity can be evaluated.
(C): When the cache usage capacity of a new virtual machine to be placed on the physical server is equal to or less than a predetermined value, the
また、本実施形態で説明した種々の技術を適宜組み合わせた技術を実現することもできる。
また、本実施形態で説明したソフトウェアをハードウェアとして実現することもでき、ハードウェアをソフトウェアとして実現することもできる。
その他、ハードウェア、ソフトウェア、処理手順などについて、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
In addition, it is possible to realize a technique in which various techniques described in this embodiment are appropriately combined.
Further, the software described in the present embodiment can be realized as hardware, and the hardware can also be realized as software.
In addition, hardware, software, processing procedures, and the like can be changed as appropriate without departing from the spirit of the present invention.
10 管理サーバ
11a キャッシュ活性度情報収集部
11b ランダムアクセス頻度算出部
11c 可用キャッシュ容量算出部
13a キャッシュ活性度情報
13b 測定サーバ情報
20 測定サーバ
30 物理サーバ
40 VM(対象仮想マシン)
41〜43 VM(仮想マシン)
50,53 CEM(測定サーバ側測定器)
51,52 CEM(物理サーバ側測定器)
50a キャッシュ負荷装置部
50b キャッシュ容量測定部
50c 入出力部(出力部)
DESCRIPTION OF
41-43 VM (virtual machine)
50, 53 CEM (measurement server side measuring instrument)
51,52 CEM (physical server side measuring instrument)
50a
Claims (5)
前記物理サーバの各々は、
前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定する前記物理サーバ側測定器と、
前記物理サーバ側測定器に、前記物理サーバごとのキャッシュ活性度を測定させる物理サーバ側制御部と、を備え、
前記測定サーバは、
前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として測定する前記測定サーバ側測定器と、
前記測定サーバ側測定器に、前記対象仮想マシンのキャッシュ利用容量を測定させる測定サーバ側制御部と、を備え、
前記管理サーバは、
前記測定サーバから取得した、前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出し、
前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出する管理サーバ側制御部と、を備える、
ことを特徴とするキャッシュ管理システム。 A cache management system comprising a plurality of physical servers in which one or more virtual machines are arranged, a measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged, and a management server,
Each of the physical servers is
The physical server-side measuring device that measures the transition of the cache usage capacity of the physical server-side measuring device itself obtained by changing the frequency of random access to the main memory of the physical server, as the cache activity for each physical server;
A physical server-side control unit that causes the physical server-side measuring device to measure cache activity for each physical server;
The measurement server
The measurement server-side measuring device that measures the transition of the cache usage capacity of the measurement server-side measuring device itself obtained by changing the random access frequency to the main memory of the measuring server, as the cache activity of the measuring server,
A measurement server-side control unit that causes the measurement server-side measuring instrument to measure the cache usage capacity of the target virtual machine,
The management server
Using the cache activity of the measurement server acquired from the measurement server, the random access frequency of the target virtual machine is calculated from the cache usage capacity of the target virtual machine acquired from the measurement server,
The target virtual machine to be arranged in each of the physical servers based on the calculated random access frequency of the target virtual machine using the cache activity for each physical server acquired from each of the physical servers A management server-side control unit that calculates the cache usage capacity of
A cache management system characterized by that.
前記測定サーバに配置されている測定サーバ側測定器が、前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる前記測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバごとのキャッシュ活性度として測定するステップと、
前記物理サーバに配置されている物理サーバ側測定器の各々が、前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる前記物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定するステップと、
前記測定サーバ側測定器が、前記対象仮想マシンのキャッシュ利用容量を測定するステップと、
前記管理サーバが、前記測定サーバから取得した、前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出するステップと、
前記管理サーバが、前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出するステップと、を実行する、
ことを特徴とする評価方法。 An evaluation method in a cache management system comprising a plurality of physical servers in which one or more virtual machines are arranged, a measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged, and a management server There,
The measurement server side measurement device arranged in the measurement server changes the cache usage capacity of the measurement server side measurement device itself obtained by changing the random access frequency to the main memory of the measurement server. Measuring each cache activity as
Each of the physical server-side measuring devices arranged in the physical server, the transition of the cache usage capacity of the physical server-side measuring device itself obtained by changing the random access frequency to the main memory of the physical server, Measuring the cache activity for each physical server;
The measurement server-side measuring instrument measuring the cache usage capacity of the target virtual machine;
The management server calculates the random access frequency of the target virtual machine from the cache usage capacity of the target virtual machine acquired from the measurement server, using the cache activity of the measurement server acquired from the measurement server. Steps,
When the management server is allocated to each physical server from the calculated random access frequency of the target virtual machine using the cache activity for each physical server acquired from each physical server. Calculating the cache usage capacity of the target virtual machine
An evaluation method characterized by that.
前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として記憶する管理サーバ側記憶部と、
前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる物理サーバ側測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として、前記物理サーバの各々から取得し、
前記対象仮想マシンのキャッシュ利用容量を、前記測定サーバから取得し、
前記測定サーバのキャッシュ活性度を用いて、前記測定サーバから取得した、前記対象仮想マシンのキャッシュ利用容量から前記対象仮想マシンのランダムアクセス頻度を算出し、
前記物理サーバの各々から取得した、前記物理サーバごとのキャッシュ活性度を用いて、前記算出した、前記対象仮想マシンのランダムアクセス頻度から、前記物理サーバの各々に配置される場合の前記対象仮想マシンのキャッシュ利用容量を算出する管理サーバ側制御部と、を備える、
ことを特徴とする管理サーバ。 A management server of a cache management system comprising a plurality of physical servers on which one or more virtual machines are arranged, a measurement server on which a target virtual machine indicating a virtual machine to be evaluated is arranged, and a management server There,
A management server-side storage unit that stores the transition of the cache usage capacity of the measurement server-side measuring device itself obtained by changing the frequency of random access to the main memory of the measurement server, as cache activity of the measurement server;
Transition of the cache usage capacity of the physical server-side measuring instrument itself obtained by changing the frequency of random access to the main memory of the physical server is acquired as the cache activity for each physical server from each of the physical servers,
Obtaining the cache usage capacity of the target virtual machine from the measurement server;
Using the cache activity of the measurement server, the random access frequency of the target virtual machine is calculated from the cache usage capacity of the target virtual machine acquired from the measurement server,
The target virtual machine to be arranged in each of the physical servers based on the calculated random access frequency of the target virtual machine using the cache activity for each physical server acquired from each of the physical servers A management server-side control unit that calculates the cache usage capacity of
A management server characterized by that.
前記物理サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定器自身のキャッシュ利用容量の推移を、前記物理サーバごとのキャッシュ活性度として測定する前記測定器を備え、
前記測定器は、
前記物理サーバの前記メインメモリに所定の前記ランダムアクセス頻度でアクセスするキャッシュ負荷装置部と、
前記物理サーバに配置されている前記仮想マシンおよび前記測定器自身のキャッシュ利用容量を測定するキャッシュ利用容量測定部と、
前記物理サーバごとの前記キャッシュ活性度を出力する出力部と、を備える、
ことを特徴とする物理サーバ。 A plurality of physical servers on which one or more virtual machines are arranged,
The measuring device that measures the transition of the cache usage capacity of the measuring device itself obtained by changing the frequency of random access to the main memory of the physical server as the cache activity for each physical server,
The measuring instrument is
A cache load unit that accesses the main memory of the physical server at a predetermined random access frequency;
A cache usage capacity measuring unit for measuring the cache usage capacity of the virtual machine and the measuring device itself arranged in the physical server;
An output unit that outputs the cache activity for each physical server;
A physical server characterized by that.
前記測定サーバのメインメモリへのランダムアクセス頻度を変化させて得られる測定サーバ側測定器自身のキャッシュ利用容量の推移を、前記測定サーバのキャッシュ活性度として測定する測定器を備え、
前記測定器は、
前記測定サーバの前記メインメモリに所定の前記ランダムアクセス頻度でアクセスするキャッシュ負荷装置部と、
前記対象仮想マシンのキャッシュ利用容量を測定するキャッシュ利用容量測定部と、
前記測定した、前記対象仮想マシンのキャッシュ利用容量を出力する出力部と、を備える、
ことを特徴とする測定サーバ。 A measurement server in which a target virtual machine indicating a virtual machine to be evaluated is arranged,
A measuring device that measures the transition of the cache usage capacity of the measuring server side measuring device itself obtained by changing the frequency of random access to the main memory of the measuring server as the cache activity of the measuring server;
The measuring instrument is
A cache load unit that accesses the main memory of the measurement server at a predetermined random access frequency;
A cache usage capacity measurement unit for measuring the cache usage capacity of the target virtual machine;
An output unit that outputs the measured cache usage capacity of the target virtual machine,
A measurement server characterized by that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016056550A JP6405331B2 (en) | 2016-03-22 | 2016-03-22 | Cache management system, evaluation method, management server, physical server, and measurement server |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016056550A JP6405331B2 (en) | 2016-03-22 | 2016-03-22 | Cache management system, evaluation method, management server, physical server, and measurement server |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017173946A true JP2017173946A (en) | 2017-09-28 |
JP6405331B2 JP6405331B2 (en) | 2018-10-17 |
Family
ID=59971315
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016056550A Active JP6405331B2 (en) | 2016-03-22 | 2016-03-22 | Cache management system, evaluation method, management server, physical server, and measurement server |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6405331B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005115653A (en) * | 2003-10-08 | 2005-04-28 | Ntt Data Corp | Virtual machine management device and program |
JP2008515095A (en) * | 2004-10-01 | 2008-05-08 | アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド | Dynamic reconfiguration of cache memory |
-
2016
- 2016-03-22 JP JP2016056550A patent/JP6405331B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005115653A (en) * | 2003-10-08 | 2005-04-28 | Ntt Data Corp | Virtual machine management device and program |
JP2008515095A (en) * | 2004-10-01 | 2008-05-08 | アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド | Dynamic reconfiguration of cache memory |
Also Published As
Publication number | Publication date |
---|---|
JP6405331B2 (en) | 2018-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108009016B (en) | Resource load balancing control method and cluster scheduler | |
CN103814358A (en) | Virtual machine placement within server farm | |
JP2015532997A (en) | Tuning for distributed data storage and processing systems | |
US10419305B2 (en) | Visualization of workload distribution on server resources | |
US20150160953A1 (en) | Data processing device, processor core array and method for characterizing behavior of equipment under observation | |
CN111143039B (en) | Scheduling method and device of virtual machine and computer storage medium | |
Yan et al. | Using memory in the right way to accelerate Big Data processing | |
JP2011192049A (en) | Virtual machine system, automatic migration method, and automatic migration program | |
Margery et al. | Resources description, selection, reservation and verification on a large-scale testbed | |
JP5914699B2 (en) | Database workload balancing through migration | |
JP6405331B2 (en) | Cache management system, evaluation method, management server, physical server, and measurement server | |
JP2006092053A (en) | System use ratio management device, and system use ratio management method to be used for the same device and its program | |
JP2019053448A (en) | Information processing apparatus, information processing method, and information processing program | |
JP2016192692A (en) | Path arrangement method, path arrangement device, and program | |
JP6839673B2 (en) | Application dividers, methods and programs | |
CN112860506A (en) | Monitoring data processing method, device, system and storage medium | |
JP6511023B2 (en) | Virtual machine management device and deployability determination method | |
US8533423B2 (en) | Systems and methods for performing parallel multi-level data computations | |
Ibrahim | PRESEnCE: a framework for monitoring, modelling and evaluating the performance of cloud saas web services | |
Barve et al. | Fecbench: An extensible framework for pinpointing sources of performance interference in the cloud-edge resource spectrum | |
JP6226895B2 (en) | Network evaluation system and network evaluation method | |
Tutov | Models and methods of resources allocation of infocommunication system in cloud data centers | |
JP5871018B2 (en) | Performance prediction apparatus, performance model generation method, and program | |
JP5141788B2 (en) | System usage rate management apparatus, system usage rate management method used therefor, and program thereof | |
JP6070717B2 (en) | Distributed data processing system and distributed data processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180911 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180914 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6405331 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |