JP5505925B2 - Network operation management method and network operation management apparatus - Google Patents

Network operation management method and network operation management apparatus Download PDF

Info

Publication number
JP5505925B2
JP5505925B2 JP2009188033A JP2009188033A JP5505925B2 JP 5505925 B2 JP5505925 B2 JP 5505925B2 JP 2009188033 A JP2009188033 A JP 2009188033A JP 2009188033 A JP2009188033 A JP 2009188033A JP 5505925 B2 JP5505925 B2 JP 5505925B2
Authority
JP
Japan
Prior art keywords
server
physical server
power consumption
physical
data center
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009188033A
Other languages
Japanese (ja)
Other versions
JP2011039889A (en
Inventor
大輔 荒井
貴仁 吉原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2009188033A priority Critical patent/JP5505925B2/en
Publication of JP2011039889A publication Critical patent/JP2011039889A/en
Application granted granted Critical
Publication of JP5505925B2 publication Critical patent/JP5505925B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Power Sources (AREA)

Description

本発明は、複数のサーバが接続されたネットワークの運用管理に関し、詳しくは、データセンタ内に設置された複数のサーバ機器に対して、物理的に1台のサーバ機器(物理サーバ)を論理的に複数台のサーバ機器(論理サーバ)として動作させることにより、限られた物理リソースを有効活用する仮想化技術が導入されたサーバ群が接続されるネットワークのネットワーク運用管理方法及びネットワーク運用管理装置に関する。   The present invention relates to operation management of a network in which a plurality of servers are connected. Specifically, one server device (physical server) is logically connected to a plurality of server devices installed in a data center. The present invention relates to a network operation management method and a network operation management apparatus for a network to which a server group in which a virtualization technology for effectively utilizing limited physical resources is introduced by operating as a plurality of server devices (logical servers) .

ネットワーク人口の増加や動画像配信など各種通信サービスの普及により、インターネット内のトラヒック量が将来的に急激に増大することが予想される。図17は、経済産業大臣主催で開催された「グリーンITイニシアティブ会議(第1回)」で示されたトラヒック量及び消費電力の推計であり、2025年には2006年との比較でトラヒック量が190倍になると推計される。また、トラヒック量の増大に伴い、それを処理するサーバやルータなどのIT機器(ネットワーク機器)も増加する傾向にあり、その消費電力量は2025年には2006年との比較で5倍になると推計される。   The traffic volume in the Internet is expected to increase rapidly in the future due to the increase in the network population and the spread of various communication services such as moving image distribution. Fig. 17 is an estimate of traffic volume and power consumption shown in the "Green IT Initiative Conference (1st)" held by the Minister of Economy, Trade and Industry. Estimated to be 190 times. In addition, as the amount of traffic increases, IT devices (network devices) such as servers and routers that process the traffic tend to increase, and the amount of power consumption will increase fivefold in 2025 compared to 2006. Estimated.

これらサーバやネットワーク機器の電力消費量を削減することは、トラヒック量の増大を支えるうえで、重要な課題である。特に、複数のサーバやネットワーク機器が集中設置されるデータセンタにおける省電力化は急務である。   Reducing the power consumption of these servers and network devices is an important issue in supporting the increase in traffic volume. In particular, there is an urgent need to save power in a data center where a plurality of servers and network devices are centrally installed.

通常、データセンタには、複数のサーバ(サーバ群)を冷却するための空調機が設置され、データセンタ全体の省電力化を図るためには、空調機を駆動するための消費電力についても考慮する必要がある。
データセンタの電力消費量の内訳の一例として、空調機(Chiller(冷却機)+CRAC(Computer room air conditioning))に関するものが全体の42%、サーバ及びネットワーク機器(IT Equipment)に関するものが30%、電力系設備(PDU(Power Distributed Unit)、UPS(Uninterruptible PowerSupply))に関するものが23%、照明や静電気の発生を防ぐための加湿器が5%であることが知られている。
Normally, an air conditioner for cooling a plurality of servers (server groups) is installed in a data center, and power consumption for driving the air conditioner is also considered in order to save power in the entire data center. There is a need to.
As an example of the breakdown of data center power consumption, 42% is related to air conditioners (Chiller + CRAC (Computer room air conditioning)), 30% is related to servers and network equipment (IT Equipment), It is known that 23% are related to power system equipment (PDU (Power Distributed Unit), UPS (Uninterruptible PowerSupply)), and 5% are humidifiers to prevent generation of lighting and static electricity.

サーバの仮想化技術が適用されたデータセンタを想定する。ここでは、簡単に仮想化技術について触れる。
非特許文献1及び非特許文献2に示された仮想化技術は、物理的な計算機資源を複数の論理的な資源として見せるための技術である。仮想化技術の適用により、単一の物理サーバ上で2つの(実際は2つ以上の複数の論理サーバを単一の物理サーバ上で実行することが可能)論理サーバを動作させることが可能となる。また、論理サーバは、物理サーバのハードウェアリソース(CPU、メモリ、ネットワーク、ハードディスク)を分割して利用する(分割したハードウェアリソースが論理サーバに割り当てられる)。
特許文献1、非特許文献3及び非特許文献4には、仮想化技術を応用し、仮想化されたサーバ(論理サーバ)への物理リソース(CPUやメモリ、ネットワーク帯域、ハードディスク)の割り当てを、リソースの利用状況に応じて動的に変更し、不要となった機器の電源を休止することで、更なる省電力化を図る技術が提案されている。
Assume a data center to which server virtualization technology is applied. Here, we will briefly touch on virtualization technology.
The virtualization techniques shown in Non-Patent Document 1 and Non-Patent Document 2 are techniques for making a physical computer resource appear as a plurality of logical resources. Application of virtualization technology makes it possible to operate two logical servers (actually, two or more logical servers can be executed on a single physical server) on a single physical server. . Further, the logical server divides and uses the hardware resources (CPU, memory, network, hard disk) of the physical server (the divided hardware resources are allocated to the logical server).
Patent Document 1, Non-Patent Document 3 and Non-Patent Document 4 apply virtualization technology to allocate physical resources (CPU, memory, network bandwidth, hard disk) to a virtualized server (logical server). There has been proposed a technique for further reducing power consumption by dynamically changing according to the resource usage status and stopping the power supply of devices that are no longer needed.

従来技術(特許文献1、非特許文献3及び非特許文献4)の動作概要について、図15を参照しながら説明する。
従来技術においては、物理リソースの使用状況を定期監視し、リソースの使用状況が少ない場合(図15における左の例)、物理リソースの論理サーバへの割り当てを動的に再構成し、一部の物理サーバで全ての論理サーバを実行し、さらに不要となった物理サーバを休止することが行われる(図15における右の例)。
図15の例においては、5台の物理サーバが設置されたサーバラック内でのみ論理サーバの物理サーバへの再割り当てを行っているが、実際にはデータセンタ内に設置された任意の物理サーバに論理サーバを割り当てることが可能である。
The operation outline of the prior art (Patent Literature 1, Non-Patent Literature 3 and Non-Patent Literature 4) will be described with reference to FIG.
In the prior art, the usage status of physical resources is regularly monitored, and when the usage status of resources is low (the example on the left in FIG. 15), the allocation of physical resources to logical servers is dynamically reconfigured. All logical servers are executed on the physical server, and the physical server that is no longer necessary is paused (right example in FIG. 15).
In the example of FIG. 15, the logical server is reassigned to the physical server only in the server rack in which five physical servers are installed. However, in actuality, any physical server installed in the data center is used. Can be assigned a logical server.

特開2007−310791JP2007-310791A

VMware: http://www.vmware.com/VMware: http://www.vmware.com/ Xen: http://www.xen.org/Xen: http://www.xen.org/ 畑崎 恵介, 高本 良史, "サーバ仮想化を用いたシステムの省電力ポリシー運用技術," 電子情報通信学会技術研究報告 コンピュータシステム研究会CPSY2006-44 Vol.106, No.436, pp. 37-42, Dec. 2006.Keisuke Hatazaki, Yoshifumi Takamoto, "Power-saving Policy Operation Technology for Systems Using Server Virtualization," IEICE Technical Report Computer System Study Group CPSY2006-44 Vol.106, No.436, pp. 37- 42, Dec. 2006. VMware Distributed Power Management(DPM)VMware Distributed Power Management (DPM)

上述した従来技術(特許文献1、非特許文献3及び非特許文献4)においては、稼働中の物理サーバを削減することにより、サーバ群の電力消費量を削減することが行われていた。
すなわち、従来技術によれば、図16に示すように、サーバ1、ネットワーク機器2及び空調機5が設置されたデータセンタにおいて、サーバ群の使用状況に応じ、その都度最小のサーバ数でユーザからのサービス要求を処理するようサーバ群の構成を動的に変更することで、サーバ群の電力消費量を最小化することが行われていた。
その一方、一部のサーバに処理を集中させた場合、サーバの電力消費量は使用率に比例して増加し、また、そのサーバによる排熱は電力消費量に応じて増加するため、一部のサーバの排熱が大きくなり、それらを冷却するために(図16中、斜線で表示された矢印が冷気)空調機5の出力を上げる必要が発生し、空調機5の電力消費量を含むデータセンタ全体の電力消費量が大きくなる現象が生じることが懸念される。
In the above-described conventional technologies (Patent Literature 1, Non-Patent Literature 3 and Non-Patent Literature 4), the power consumption of the server group has been reduced by reducing the number of operating physical servers.
That is, according to the prior art, as shown in FIG. 16, in the data center in which the server 1, the network device 2, and the air conditioner 5 are installed, the minimum number of servers is used each time according to the usage status of the server group. The server group's power consumption has been minimized by dynamically changing the configuration of the server group to process the service request.
On the other hand, when processing is concentrated on some servers, the power consumption of the server increases in proportion to the usage rate, and the heat exhausted by that server increases with the power consumption. The exhaust heat of the server becomes larger, and it is necessary to increase the output of the air conditioner 5 in order to cool them (the arrow indicated by the diagonal line in FIG. 16 is cold air), and the power consumption of the air conditioner 5 is included. There is a concern that the power consumption of the entire data center may increase.

すなわち、上述した従来技術(特許文献1、非特許文献3及び非特許文献4)のように、物理リソースの使用状況にのみ注目し、物理リソースの論理サーバへの割り当て、さらに不要となった物理サーバを休止し、サーバ群の電力消費量を少なくする技術だけでは、場合により、空調機(CRAC)の電力消費量の増加につながり、結果としてデータセンタDC全体の電力消費量も大きくなる可能性がある。   That is, as in the above-described prior art (Patent Document 1, Non-Patent Document 3, and Non-Patent Document 4), paying attention only to the usage status of physical resources, assigning physical resources to logical servers, and further eliminating physical The technology that pauses the server and reduces the power consumption of the server group may lead to an increase in the power consumption of the air conditioner (CRAC) in some cases, resulting in an increase in the power consumption of the entire data center DC. There is.

本発明は上記事情に鑑みて提案されたもので、データセンタに電力消費量を削減するため、物理リソースの論理サーバへの割り当てを動的に変更する場合に、サーバの電力消費量に加え、空調機の電力消費量も考慮することにより、データセンタ全体の電力消費量を削減することができるネットワーク運用管理方法及びネットワーク運用管理装置を提供することを目的としている。   The present invention has been proposed in view of the above circumstances, and in order to reduce power consumption in the data center, when dynamically allocating physical resources to logical servers, in addition to server power consumption, An object of the present invention is to provide a network operation management method and a network operation management apparatus capable of reducing the power consumption of the entire data center by taking into consideration the power consumption of the air conditioner.

上記目的を達成するため本発明は、仮想化技術が適用されたサーバと、サーバを冷却するための空調機を主な構成要素とするデータセンタにおいて、データセンタの構成(物理リソースの論理サーバへの割り当て、空調機の設定)を管理する管理サーバを新たに設置する。そして、この管理サーバが、データセンタの電力消費量のうち、サーバ群および空調機による電力消費量の合計を最小化するため、物理リソースの使用状況に応じて、空調機による電力消費量を考慮した物理リソースの論理サーバへの動的割り当て変更を行う。   In order to achieve the above object, the present invention provides a data center configuration (to a logical server of a physical resource) in a data center mainly comprising a server to which a virtualization technology is applied and an air conditioner for cooling the server. Management server to manage the allocation of air conditioners and the setting of air conditioners. And this management server considers the power consumption by the air conditioner according to the usage condition of the physical resource in order to minimize the total power consumption by the server group and the air conditioner among the power consumption of the data center. Change the dynamic allocation of the physical resource to the logical server.

すなわち、請求項1の発明は、データセンタ内に複数の物理サーバを設置し、1台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理方法において、
CPUの製品型式などハードウェアスペックより算出可能な物理サーバの電力消費モデルと、空調機の製品型式から算出可能な空調機の電力消費モデルと、物理サーバや空調機の物理的な位置から算出可能な、データセンタ内の空気の流れのモデルをあらかじめ管理し、
物理リソースの論理サーバへの割り当てを変更する際、前記各物理サーバの電力消費モデルから、割り当て変更後の各物理サーバの電力消費量と、データセンタ内の全ての物理サーバによる電力消費量の総量を試算するとともに、前記物理サーバの電力消費モデルと、空調機の電力消費モデル、データセンタ内の空気の流れのモデル(データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を2つ以上収集し作成した方程式を解くことで算出し、空気の割合αを考慮したモデル)から、割り当て変更後の各物理サーバを冷却するための空調機の電力消費量を試算することで、データセンタ全体の電力消費量を試算し、
物理リソースの使用状況に応じ、物理リソースの論理サーバへの割り当てについて、論理サーバをデータセンタ内のいずれの物理リソースに割り当てるかの組み合わせを複数算出し、各組み合わせにおける、物理リソースの論理サーバへの割り当て変更後の、データセンタ全体の電力消費量(物理サーバによる電力消費量の総量と空調機の電力消費量の和)を、前述の手順により試算し、データセンタ全体の電力消費量が最も小さい組み合わせを選択し、
その選択結果を基に、物理リソースの論理サーバへの割り当てを動的に変更する
ことを特徴としている。
In other words, the invention of claim 1 is provided with a plurality of physical servers to which a virtualization technology is applied in which a plurality of physical servers are installed in a data center and one physical server is logically operated as a plurality of logical servers. Each physical server is connected via a network and dynamically changes the allocation of physical resources to logical servers in accordance with the resource usage status of each physical server. In the network operation management method for cooling
Can be calculated from the physical server power consumption model that can be calculated from the hardware specifications such as the CPU product model, the air conditioner power consumption model that can be calculated from the product model of the air conditioner, and the physical location of the physical server and air conditioner The air flow model in the data center is managed in advance,
When changing the allocation of a physical resource to a logical server, the power consumption of each physical server after the allocation change and the total power consumption of all physical servers in the data center are determined from the power consumption model of each physical server. And the physical server power consumption model, the air conditioner power consumption model, the air flow model in the data center (the overall air flow in the data center, and the overall air flow). As for the ratio α of the air that flows into the intake side of the physical server without the air exhausted from each physical server circulating to the air conditioner, the exhaust surface and the air supply surface in different time zones, operating conditions in each physical server of temperature by detecting respectively, said sets of different temperatures in each physical server calculated by solving two or more collected created equations, the air From considering if α model), by estimate the power consumption of the air conditioner for cooling each physical server after allocation change, estimates the power consumption of the entire data center,
Depending on how the physical resources are used, calculate multiple combinations of the physical resources to be allocated to the logical servers, and assign the physical servers to which physical resources in the data center. Calculate the power consumption of the entire data center after the allocation change (the sum of the power consumption of the physical servers and the power consumption of the air conditioner) according to the above procedure, and the power consumption of the entire data center is the smallest. Select a combination
Based on the selection result, the allocation of physical resources to logical servers is dynamically changed.

請求項2は、データセンタ内に複数の物理サーバを設置し、1台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理装置であって、次の構成を含むことを特徴としている。 According to a second aspect of the present invention, a plurality of physical servers to which a virtualization technology for installing a plurality of physical servers in a data center and operating a single physical server as a plurality of logical servers is applied via a network. A network that is connected and dynamically changes the allocation of physical resources to logical servers according to the resource usage status of each physical server, while cooling the physical servers with an air conditioner installed in a data center. The operation management apparatus is characterized by including the following configuration.

前記物理サーバのCPUの製品型式などのハードウェアスペック及び論理サーバに割り当てた場合のリソース量を管理する物理サーバ情報管理データベース。
CPUの製品型式などハードウェアスペックより算出可能な前記物理サーバの電力消費モデルと、空調機の製品型式から算出可能な前記空調機の電力消費モデルと、物理サーバや空調機の物理的な位置から算出可能な、前記データセンタ内の全体の空気の流れのモデル、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を2つ以上収集し作成した方程式を解くことで算出して管理する電力消費モデル管理データベース。
前記物理サーバや前記物理サーバの電力消費モデルと前記空調機の電力消費モデル、前記データセンタ内の空気の流れのモデルを前記物理サーバ情報管理データベース及び前記電力消費モデル管理データベースに登録する管理インタフェース提供部。
前記物理サーバのリソースの使用状況を定期的に取得し前記物理サーバ情報管理データベースに保存するリソース利用状況取得部。
前記各物理サーバの電力消費の総量を試算する物理サーバ電力消費試算部と、前記空調機の電力消費量を試算する空調機電力消費試算部からなり、各部の和によりデータセンタ全体の電力消費量を試算するデータセンタ電力消費試算部。
各物理サーバの使用状況に応じ、物理リソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組における電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択する物理サーバ配置算出部。
前記物理サーバ配置算出部の出力結果を基にデータセンタ内における物理リソースの論理サーバへの割り当てを変更し、物理サーバの再配置結果を前記物理サーバ情報管理データベースに保存する物理サーバ構成管理部。
前記各部を制御する中央制御部。
A physical server information management database that manages hardware specifications such as the product model of the CPU of the physical server and the resource amount when allocated to a logical server.
From the power consumption model of the physical server that can be calculated from hardware specifications such as the CPU product model, the power consumption model of the air conditioner that can be calculated from the product model of the air conditioner, and the physical location of the physical server and air conditioner A model of the total air flow in the data center that can be calculated, and the air exhausted from each physical server with respect to the total air flow without circulating to the air conditioner By detecting the temperature of the exhaust surface and the air supply surface of each physical server at different time zones, the temperature ratio α flowing into each physical server, two or more sets of different temperatures at each physical server are collected. Power consumption model management database that is calculated and managed by solving the created equations .
Provide a management interface for registering the power consumption model of the physical server or the physical server, the power consumption model of the air conditioner, and the model of the air flow in the data center in the physical server information management database and the power consumption model management database Department.
A resource usage status acquisition unit that periodically acquires the resource usage status of the physical server and stores it in the physical server information management database.
It consists of a physical server power consumption calculation unit for calculating the total power consumption of each physical server and an air conditioner power consumption calculation unit for calculating the power consumption of the air conditioner. Data center power consumption estimation section.
According to the usage status of each physical server, a plurality of combinations are calculated for the allocation of physical resources to logical servers, and the power consumption in each set is estimated by the data center power consumption calculation unit, and the power consumption is the smallest A physical server arrangement calculation unit for selecting.
A physical server configuration management unit that changes allocation of physical resources to logical servers in a data center based on an output result of the physical server allocation calculation unit, and stores a physical server relocation result in the physical server information management database.
A central control unit that controls each unit.

請求項3は、請求項2のネットワーク運用管理装置において、前記電力消費モデル管理データベースは、複数の前記各物理サーバに対して、当該物理サーバを含めた複数の各物理サーバの吸気側に流れ込む空気の割合を予め登録したテーブルを備えることで、前記空気の割合αを管理することを特徴としている。 3. The network operation management apparatus according to claim 2, wherein the power consumption model management database is air that flows into an intake side of a plurality of physical servers including the physical server with respect to the plurality of physical servers. The ratio of air is managed by providing a table in which the ratio of air is registered in advance.

本発明によれば、物理サーバの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する処理を行うに際して、物理サーバが消費する電力消費量及びそれらを冷却する空調機の電力消費量の両方を考慮して、データセンタ全体の電力消費量が最小となるように、複数の物理リソースの論理サーバへの割り当ての組合せの中から、データセンタ全体の電力消費量が最も小さくなる組み合わせを選び、物理リソースの論理サーバへの割り当てを変更するとともに、データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を2つ以上収集し作成した方程式を解くことで算出した空気の割合αを考慮することで、物理サーバの使用状況にのみ注目し割り当てを変更する従来技術と比較し、データセンタの省電力化を実現することができる。 According to the present invention, the power consumption consumed by the physical server and the air conditioner for cooling them when performing the process of dynamically changing the allocation of the physical resource to the logical server according to the usage status of the physical server. Considering both power consumption, the power consumption of the entire data center is the smallest among the combinations of allocation of multiple physical resources to the logical server so that the power consumption of the entire data center is minimized. And the allocation of physical resources to logical servers is changed, and the entire air flow in the data center and the air exhausted from each physical server with respect to the entire air flow are air-conditioned. the proportion of air flowing to the intake side of the physical server without circulating the machine alpha, each physical server, different times, the operating status exhaust surface and the sheet By detecting the temperature of the surface, respectively, wherein by considering the proportion α of the air calculated by solving different temperature set two or more collected created equations in each physical server, the usage of the physical servers Compared with the prior art in which only the attention is paid and the assignment is changed, the power saving of the data center can be realized.

本発明のネットワーク運用管理装置(管理サーバ)の一例を示すブロック図である。It is a block diagram which shows an example of the network operation management apparatus (management server) of this invention. ネットワーク運用管理装置の物理サーバ情報管理データベースが管理する情報の例を示すテーブル図である。It is a table figure which shows the example of the information which the physical server information management database of a network operation management apparatus manages. ネットワーク運用管理装置の電力消費モデル管理データベースが管理する情報の例を示すテーブル図である。It is a table figure which shows the example of the information which the power consumption model management database of a network operation management apparatus manages. ネットワーク運用管理装置が設置されるデータセンタ内の想定環境及び動作概要を示すモデル図である。It is a model figure which shows the assumed environment and operation | movement outline | summary in the data center in which a network operation management apparatus is installed. ネットワーク運用管理装置が設置されるデータセンタ内の一つのサーバラックに対する物理サーバ配置算出部とデータセンタ電力消費試算部、物理サーバ構成管理部の動作概要を示すモデル図である。It is a model figure which shows the operation | movement outline | summary of the physical server arrangement | positioning calculation part with respect to one server rack in the data center in which a network operation management apparatus is installed, a data center power consumption calculation part, and a physical server structure management part. 空調機とサーバ及びネットワーク機器の関係を示すモデル図である。It is a model figure which shows the relationship between an air conditioner, a server, and network equipment. データセンタ内における空気の流れを説明するためのモデル図である。It is a model figure for demonstrating the flow of the air in a data center. データセンタ内におけるサーバラックの配置例を示すモデル図である。It is a model figure which shows the example of arrangement | positioning of the server rack in a data center. 図8に対応する排気効率(物理サーバからの排気熱がどの程度、空調機までとどくか)の例を示すモデル図である。It is a model figure which shows the example of the exhaust efficiency (how much the exhaust heat from a physical server reaches to an air conditioner) corresponding to FIG. 図8に対応する給気効率(他の物理サーバからの排気が空調機からの冷気にどの程度混ざるか)の例を示すモデル図である。It is a model figure which shows the example of the air supply efficiency (how much the exhaust_gas | exhaustion from another physical server mixes with the cool air from an air conditioner) corresponding to FIG. データセンタ内の一つのサーバに着目した空気の流れを示すモデル図である。It is a model figure which shows the flow of the air paying attention to one server in a data center. ある空調機の電力効率モデルを示すグラフ図である。It is a graph which shows the power efficiency model of a certain air conditioner. サーバの電力消費のモデルを示すグラフ図である。It is a graph which shows the model of the power consumption of a server. ネットワーク運用管理装置が設置されるデータセンタ内の想定環境を示すモデル図である。It is a model figure which shows the assumed environment in the data center in which a network operation management apparatus is installed. 従来の物理サーバの使用率に応じて、物理リソースの論理サーバへの割り当てを変更する技術において、その動作概要を示すモデル図である。It is a model figure which shows the operation | movement outline | summary in the technique which changes allocation to the logical server of the physical resource according to the utilization rate of the conventional physical server. 従来技術において空調機とサーバ及びネットワーク機器の各電力消費量の関係を示すモデル図である。It is a model figure which shows the relationship of each power consumption of an air conditioner, a server, and a network apparatus in a prior art. トラヒック量及び消費電力量の推計を示したグラフ図である。It is the graph which showed the estimation of traffic amount and power consumption.

以下、本発明のネットワーク運用管理装置の実施形態の一例について、図1乃至図5を参照しながら説明する。
本発明のネットワーク運用管理装置は、複数のサーバ及びネットワーク機器と、それらの安定稼働のための空調機が設置されるデータセンタにおいて、データセンタの電力消費量を最小化することを目的に、時々刻々と変化するユーザのデータセンタの利用量に応じて、サーバの電力消費量と空調機の電力消費量の両方を考慮し、データセンタの構成を動的に変更する処理を行うものである。
Hereinafter, an example of an embodiment of a network operation management apparatus of the present invention will be described with reference to FIGS.
The network operation management apparatus of the present invention is sometimes used in a data center in which a plurality of servers and network devices and air conditioners for stable operation thereof are installed in order to minimize power consumption of the data center. According to the usage amount of the data center of the user changing every moment, the processing of dynamically changing the configuration of the data center is performed in consideration of both the power consumption of the server and the power consumption of the air conditioner.

ネットワーク運用管理装置は、図4に示すように、仮想化技術が適用された物理サーバ1(論理的に複数台の論理サーバ1´として動作させる)と、物理サーバ1の安定稼働のため、物理サーバ1を冷却する空調機5を主な構成要素とするデータセンタDCにおいて、データセンタの構成(物理リソースの論理サーバへの割り当て)を管理する管理サーバ10を新たに設置することで実現される。各物理サーバ1には、物理サーバ1から排気する空気の温度を測定する温度センサ8と、各物理サーバ1が給気する空気の温度を測定する温度センサ9が設けられている。   As shown in FIG. 4, the network operation management apparatus is configured so that the physical server 1 to which the virtualization technology is applied (logically operates as a plurality of logical servers 1 ′) and the physical server 1 for stable operation. This is realized by newly installing a management server 10 for managing the data center configuration (assignment of physical resources to logical servers) in the data center DC including the air conditioner 5 that cools the server 1 as a main component. . Each physical server 1 is provided with a temperature sensor 8 for measuring the temperature of the air exhausted from the physical server 1 and a temperature sensor 9 for measuring the temperature of the air supplied by each physical server 1.

各物理サーバ1には、その物理サーバ1が安定稼働するための動作保障温度が、物理サーバを製造する製造会社等により設定される。データセンタDC内においては、各物理サーバ1が給気する空気の温度が、動作保障温度以下となるように、空調機5が出力する空気の温度が決まる。物理サーバ1の給気側に到達した空調機5からの空気は、各物理サーバ1の電力消費が熱エネルギーとなるため、各物理サーバ1内で温度が高くなり、排気側より排熱される。排気された空気は、空調機5に循環され、空調機5で冷却され再度、各物理サーバ1に到達するが、循環の際、各物理サーバ1から排気される電力消費により温められた空気の一部(全体の空気の流れに対する割合α)は空調機5に循環することなく、一部の物理サーバ1(図4の例では上側の3つの物理サーバ1)の給気側に流れ込む。各物理サーバ1から排気された空気が、空調機5に循環することなく、そのまま物理サーバの吸気側に流れ込む空気の割合αは、データセンタDCの広さや物理サーバ1及び空調機5の数や配置状態により異なる。
運用者は、本発明のネットワーク運用管理装置を使用する際、データセンタDC内の全ての物理サーバ1の組み合わせに対する空気の流れの割合αを管理サーバ10に登録する。更には、CPUの製品型式などハードウェアスペックより算出可能な物理サーバの電力消費モデルと、空調機の製品型式から算出可能な空調機の電力消費モデルを空気の流れの割合αに加えて管理サーバ10に登録する。
For each physical server 1, an operation guarantee temperature for stable operation of the physical server 1 is set by a manufacturing company or the like that manufactures the physical server. In the data center DC, the temperature of the air output from the air conditioner 5 is determined so that the temperature of the air supplied by each physical server 1 is equal to or lower than the operation guarantee temperature. The air from the air conditioner 5 that has reached the air supply side of the physical server 1 has a high temperature in each physical server 1 because the power consumption of each physical server 1 becomes thermal energy, and is exhausted from the exhaust side. The exhausted air is circulated to the air conditioner 5, cooled by the air conditioner 5, and reaches each physical server 1 again. However, the air heated by the power consumption exhausted from each physical server 1 is circulated. A part (ratio α to the total air flow) flows into the air supply side of some physical servers 1 (the upper three physical servers 1 in the example of FIG. 4) without circulating to the air conditioner 5. The ratio α of the air exhausted from each physical server 1 to the air intake side of the physical server without being circulated to the air conditioner 5 is the size of the data center DC, the number of physical servers 1 and the air conditioners 5 It depends on the arrangement state.
When using the network operation management apparatus of the present invention, the operator registers in the management server 10 the air flow ratio α for all combinations of physical servers 1 in the data center DC. In addition, the physical server power consumption model that can be calculated from the hardware specifications such as the CPU product model and the air conditioner power consumption model that can be calculated from the product model of the air conditioner are added to the air flow rate α, and the management server 10 to register.

空気の流れの割合(他のノードもしくはノード自身の排気が含まれる割合)αは、データセンタDCの設計時点で運用者がシミュレーションにより求めたものを管理サーバ10に登録してもよいし、データセンタDC内の各サーバに対して設けた温度センサ8,9等を用いて得た環境情報を基に管理サーバ10が算出してもよい。
例えば、各ノードの稼働状況において、温度センサ8及び温度センサ9から排気面及び給気面の温度を検出し、各ノードの稼働状況が異なる時点の温度センサ8および温度センサ9(各センサの値は、稼働状況が異なるため、異なる温度を示す)から、αを求める方程式を作成し、解くことでαを求める。
The air flow ratio (the ratio including the exhaust of other nodes or the node itself) α may be registered in the management server 10 as obtained by simulation by the operator at the time of designing the data center DC. The management server 10 may calculate based on environmental information obtained using the temperature sensors 8 and 9 provided for each server in the center DC.
For example, in the operation status of each node, the temperature of the exhaust surface and the supply surface is detected from the temperature sensor 8 and the temperature sensor 9, and the temperature sensor 8 and the temperature sensor 9 (value of each sensor) at the time when the operation status of each node is different. Shows different temperatures because the operating conditions are different), and create α and find α by solving.

単純のため、2つのノードのみで構成されたデータセンタDCを例に説明する。空調機が供給する空気の温度をTsup、ノード1の温度センサ8の温度をT1_out、ノード2の温度センサ8の温度をT2_out、同様にノード1の温度センサ9の温度をT1_in、ノード2の温度をT2_inとする。さらに、ノードi の給気に含まれるノードj からの排気の割合αをαjiと標記した場合、T1_in = (1−(α11+α21))×Tsup + α11×T1_out+α21×T2_outとなる。異なる温度の組を2つ以上収集することで、上記式を解き、αを求めることができる。   For the sake of simplicity, a data center DC composed of only two nodes will be described as an example. The temperature of the air supplied by the air conditioner is Tsup, the temperature of the temperature sensor 8 of the node 1 is T1_out, the temperature of the temperature sensor 8 of the node 2 is T2_out, and similarly the temperature of the temperature sensor 9 of the node 1 is T1_in and the temperature of the node 2 Is T2_in. Furthermore, when the ratio α of the exhaust from the node j included in the supply of the node i is denoted as αji, T1_in = (1− (α11 + α21)) × Tsup + α11 × T1_out + α21 × T2_out. By collecting two or more sets of different temperatures, the above equation can be solved to obtain α.

管理サーバ10は、論理サーバ1´のリソースの使用状況(各論理サーバに割当てられたCPU、メモリ、ネットワーク、ディスク等の物理リソースがどの程度使用されているか)を定期的、もしくは運用者からの要求により収集する。
そして、管理サーバ10は、物理サーバ1による電力消費量と空調機(CRAC)5による電力消費量の和が最小となるよう、どの物理サーバ1にどの論理サーバ1´を割り当てるのか、また各論理サーバ1´にどの程度の物理リソースを割り当てるのかを算出し、データセンタDC内における物理リソースの論理サーバへの割り当ての動的変更を行う。
The management server 10 periodically uses the resource usage status of the logical server 1 ′ (how much physical resources such as CPU, memory, network, and disk allocated to each logical server are used) or from the operator. Collect on request.
Then, the management server 10 assigns which logical server 1 'to which physical server 1 so that the sum of the power consumption by the physical server 1 and the power consumption by the air conditioner (CRAC) 5 is minimized, The number of physical resources to be allocated to the server 1 ′ is calculated, and the allocation of the physical resources to the logical server in the data center DC is dynamically changed.

管理サーバ10ではこれらの処理が繰り返し実行されることで、データセンタDCの電力消費量が最小化されるように、時々刻々と変化するユーザからのサービス要求量に応じて、都度最適な(電力消費量を最小化する)データセンタDC内の構成を算出し、さらに構成変更を行う。
すなわち、管理サーバ10が、データセンタの電力消費量のうち、サーバ群、および、空調機による電力消費量を最小化するため、論理サーバの使用状況に応じて、物理リソースの論理サーバへの割り当てを動的に変更する処理を行うように構成されている。
The management server 10 repeatedly executes these processes, so that the power consumption of the data center DC is minimized, so that the management server 10 optimizes the power consumption every time according to the service request amount from the user that changes from moment to moment. The configuration in the data center DC (which minimizes the consumption amount) is calculated, and the configuration is further changed.
In other words, the management server 10 allocates physical resources to the logical server according to the usage status of the logical server in order to minimize the power consumption of the server group and the air conditioner among the power consumption of the data center. It is configured to perform a process of dynamically changing.

ネットワーク運用管理装置を実現する管理サーバ10の詳細構成について、図1を参照して説明する。
ネットワーク運用管理装置(管理サーバ)10は、各物理サーバ1に関する各種情報を管理する物理サーバ情報管理データベース11と、物理サーバ1及び空調機5の電源消費モデル等を管理する電力消費モデル管理データベース12と、運用者が情報を入力するための管理インタフェース提供部13と、電力消費量が最小となるデータセンタDCの構成候補を求める物理サーバ配置算出部14と、物理リソースの論理サーバへの割り当て変更(物理サーバの再配置)と再配置結果を管理する物理サーバ構成管理部15と、データセンタDCの構成候補から電力消費を試算するデータセンタ電力消費試算部16と、リソース利用状況取得部17と、各部を制御する中央制御部18を備えて構成されている。
A detailed configuration of the management server 10 realizing the network operation management apparatus will be described with reference to FIG.
The network operation management apparatus (management server) 10 includes a physical server information management database 11 that manages various information related to each physical server 1, and a power consumption model management database 12 that manages power consumption models of the physical server 1 and the air conditioner 5. A management interface providing unit 13 for an operator to input information, a physical server placement calculating unit 14 for obtaining a configuration candidate of a data center DC that minimizes power consumption, and a change in allocation of physical resources to logical servers (Physical server relocation) and a physical server configuration management unit 15 that manages the result of the relocation, a data center power consumption calculation unit 16 that calculates power consumption from the configuration candidates of the data center DC, and a resource usage status acquisition unit 17 The central control unit 18 is configured to control each unit.

物理サーバ情報管理データベース11は、図2に示すように、複数の物理サーバ1の各ハードウェアスペック、各物理サーバを複数の論理サーバに割り当てた場合の割当リソース量(各論理サーバの使用率)等の物理サーバに関する各情報が管理されている。物理サーバのハードウェアスペックとは、例えば、CPUの製品型式のような情報である。これらの情報は、運用者が管理インタフェース提供部13から入力して記憶させる。   As shown in FIG. 2, the physical server information management database 11 includes the hardware specifications of a plurality of physical servers 1 and the amount of resources allocated when each physical server is allocated to a plurality of logical servers (usage rate of each logical server). Each information related to the physical server is managed. The hardware specifications of the physical server are information such as the product type of the CPU, for example. These pieces of information are input and stored by the operator from the management interface providing unit 13.

電力消費モデル管理データベース12は、図3に示すように、物理サーバ1の電源消費モデル、空調機5の電源消費モデル、空気の流れ(空気の流れの割合α)のモデルが登録されて管理されている。物理サーバ1の電源消費モデルとは、各物理サーバにおける物理リソースの使用量に対する電力消費量の値であり、各サーバに数式として登録されている。
物理サーバ1の電力消費モデルは、例えばCPUの製品型式から一意に求めることができるCPU使用率(物理リソースの使用量)と、その時の電力消費量とすることができる。空調機5の電源消費モデルとは、空調機の冷却能力に対する電力消費量である。
空調機5の電力消費モデルは、例えば空調機の製品型式から一意に求めることができる。空気の流れ(空気の流れの割合α)のモデルとは、各サーバの排熱が他のサーバの給気側に流れ込む割り合い等であり、各サーバに対するテーブルにより管理される。空気の流れのモデルは、例えばデータセンタDCの設計時点で運用者がシミュレーションにより求めることができる。管理されるテーブルの具体例については後述する。
As shown in FIG. 3, the power consumption model management database 12 registers and manages a power consumption model of the physical server 1, a power consumption model of the air conditioner 5, and a model of air flow (air flow ratio α). ing. The power consumption model of the physical server 1 is a value of the power consumption with respect to the usage amount of the physical resource in each physical server, and is registered as a mathematical formula in each server.
The power consumption model of the physical server 1 can be, for example, the CPU usage rate (physical resource usage) that can be uniquely determined from the product type of the CPU and the power consumption at that time. The power consumption model of the air conditioner 5 is the power consumption with respect to the cooling capacity of the air conditioner.
The power consumption model of the air conditioner 5 can be uniquely determined from the product type of the air conditioner, for example. The model of the air flow (air flow rate α) is a ratio of the exhaust heat of each server flowing into the supply side of other servers, and is managed by a table for each server. The air flow model can be obtained by simulation by the operator at the time of designing the data center DC, for example. A specific example of the managed table will be described later.

電力消費モデルデータベース12で管理される内容は、データセンタDCの設計時点で運用者がシミュレーションにより求めたものを、予め運用者により管理インタフェース部13を介して手動で入力して登録される。また、必要に応じて、データセンタDC内に配置された温度センサ8,9等を用いて、ネットワーク運用管理装置(管理サーバ)10がセンサより収集した情報を基に算出するものであってもよい。   The contents managed in the power consumption model database 12 are registered by manually inputting in advance by the operator via the management interface unit 13 that the operator has obtained through simulation at the time of designing the data center DC. Further, if necessary, the network operation management device (management server) 10 may calculate based on information collected from the sensors by using the temperature sensors 8, 9 and the like arranged in the data center DC. Good.

管理インタフェース提供部13は、運用者がデータセンタDC内の物理サーバやその構成、上記各電力消費モデルなどを登録するためのユーザインタフェースとしての機能を有する。例えば、運用者は、自身のPCにインストールされたブラウザ等により、管理サーバ10に接続し、各物理サーバ1に関する情報を登録する。登録された情報は物理サーバ情報管理データベース11に保存される。
また、電力消費モデル管理データベース12に登録されるデータセンタDC内の空気の流れは、温度センサ8,9等を用いて、管理サーバ10がセンサより収集した情報を基に算出して登録してもよいし、データセンタDCの設計時点で運用者がシミュレーションにより求めた空気の流れを直接管理インタフェース提供部13を介して電力消費モデル管理データベース12に手動登録してもよい。
運用者がデータセンタDCの電力消費を試算するために手動で登録する情報としては、各物理サーバ1の電力消費モデル、空調機5の電力消費モデル、データセンタDC内の空気の流れのモデルが考えられる。
The management interface providing unit 13 has a function as a user interface for an operator to register a physical server in the data center DC, its configuration, each power consumption model, and the like. For example, the operator connects to the management server 10 using a browser or the like installed on his / her PC and registers information related to each physical server 1. The registered information is stored in the physical server information management database 11.
The air flow in the data center DC registered in the power consumption model management database 12 is calculated and registered based on the information collected from the sensors by the management server 10 using the temperature sensors 8 and 9 and the like. Alternatively, the air flow obtained by simulation by the operator at the time of designing the data center DC may be manually registered in the power consumption model management database 12 via the direct management interface providing unit 13.
Information that the operator manually registers to estimate the power consumption of the data center DC includes the power consumption model of each physical server 1, the power consumption model of the air conditioner 5, and the air flow model in the data center DC. Conceivable.

物理サーバ配置算出部14は、データセンタDCの電力消費量が最小となるデータセンタDCの構成(どのように物理リソースを論理サーバに割り当てるか)を求めるものであり、管理インタフェース提供部13を介しての運用者からの指示、又は、中央制御部18からの定期的な呼び出しにより実行される。
電力消費量が最小となるデータセンタDCの構成を求めることは、例えば、図5に示すように、各論理サーバの使用状況(論理サーバに割り当てた物理リソースがどの程度の割合で使用され、物理リソースがどの程度の割合で使用されているか)に応じ、物理リソースの論理サーバへの割り当てについて複数の組み合わせを求め、さらに、各組の構成とした場合の電力消費量を、データセンタ電力消費試算部16により組み合わせ毎に試算し、その結果、最も電力消費が最も小さい組み合わせを選択する手順により実現される。
The physical server arrangement calculation unit 14 obtains the configuration of the data center DC that minimizes the power consumption of the data center DC (how to allocate physical resources to the logical server). It is executed by an instruction from every operator or a periodic call from the central control unit 18.
As shown in FIG. 5, for example, as shown in FIG. 5, the usage status of each logical server (how much physical resources allocated to the logical server are used, Data resource power consumption calculation is performed by obtaining multiple combinations of allocation of physical resources to logical servers according to how much resources are being used) The calculation is performed for each combination by the unit 16, and as a result, the combination of the lowest power consumption is selected.

物理サーバ構成管理部15は、物理サーバ配置算出部14の出力結果を基に、データセンタDCの構成を変更する。図5の例では、物理リソースの論理サーバへの割り当てについて、物理サーバ配置算出部14が4種の構成について、それぞれデータセンタDCの電力消費量を試算し、結果、データセンタDCの電力消費量が一番少ない図5中最右の構成(電力消費量:1465.7W)を選択する。物理サーバ構成管理部15は、物理サーバ配置算出部14の結果に従い、物理リソースの論理サーバへの割り当てを変更する。さらに、物理サーバ情報管理データベース11では、物理サーバ毎に、実行する論理サーバ等を管理するため、物理サーバ構成管理部15が割り当てを変更した結果を物理サーバ情報管理データベース11に保存する。   The physical server configuration management unit 15 changes the configuration of the data center DC based on the output result of the physical server arrangement calculation unit 14. In the example of FIG. 5, regarding the allocation of physical resources to logical servers, the physical server placement calculation unit 14 calculates the power consumption of the data center DC for each of the four types of configurations, and as a result, the power consumption of the data center DC. The rightmost configuration (power consumption: 1465.7 W) in FIG. The physical server configuration management unit 15 changes the allocation of physical resources to logical servers according to the result of the physical server arrangement calculation unit 14. Further, in the physical server information management database 11, the physical server configuration management unit 15 stores the result of the assignment change in the physical server information management database 11 in order to manage the logical server to be executed for each physical server.

データセンタ電力消費試算部16は、物理サーバ再配置算出部より呼び出され、データセンタDCの構成候補から、その際のデータセンタDCの電力消費を試算する機能を提供する。データセンタ電力消費試算部16は、物理サーバ電力消費試算部16aと空調機電力消費試算部16bからなり、それら各部が試算する電力消費量の和により、データセンタDCの電力消費量が求められる。各部の試算のため、電力消費モデル管理データベース12より、物理サーバや空調機、さらにデータセンタDC内の空気の流れのモデルを取得する。   The data center power consumption calculation unit 16 is called from the physical server relocation calculation unit and provides a function of calculating the power consumption of the data center DC at that time from the configuration candidates of the data center DC. The data center power consumption trial calculation unit 16 includes a physical server power consumption trial calculation unit 16a and an air conditioner power consumption trial calculation unit 16b, and the power consumption amount of the data center DC is obtained from the sum of the power consumptions calculated by these units. For trial calculation of each part, a model of air flow in the physical server, the air conditioner, and further the data center DC is acquired from the power consumption model management database 12.

リソース利用状況取得部17は、運用者からの指示、または中央制御部からの定期呼び出しにより、論理サーバのリソースの使用状況を定期的に取得する。各論理サーバのリソースの使用状況は、前述の通り、利用者からのサービス要求量に応じ、時々刻々と変化する。また、使用状況の取得には、仮想化ソフトウェアが提供する管理インタフェース等を用いることで実現することもできる。取得した使用状況に関する情報は、物理サーバ情報管理データベース11に保存され、時々刻々と変化する各論理サーバによる物理リソースの使用状況が、物理サーバ情報管理データベース11に反映される。   The resource usage status acquisition unit 17 periodically acquires the usage status of the resource of the logical server by an instruction from the operator or a periodic call from the central control unit. As described above, the usage status of the resources of each logical server changes from moment to moment according to the service request amount from the user. The usage status can also be obtained by using a management interface provided by the virtualization software. The acquired information on the usage status is stored in the physical server information management database 11, and the usage status of the physical resource by each logical server that changes every moment is reflected in the physical server information management database 11.

中央制御部18は、各部を制御しデータセンタDCの省電力オペレーションシステムの機能を実現するものである。   The central control unit 18 controls each unit to realize the function of the power saving operation system of the data center DC.

上述したネットワーク運用管理装置においては、データセンタ電力消費試算部16でデータセンタDC全体の電力消費量を算出するため、空調機5の消費電力についても考慮する必要がある。そのため、データセンタ内の各サーバに対する空調機5からの空気の流れを電力消費モデル管理データベース12にデータとして入力しておく必要がある。以下、各サーバに対する空調機5からの空気の流れ等の把握の仕方について、図6〜図14を参照しながら説明する。   In the network operation management apparatus described above, the data center power consumption trial calculation unit 16 calculates the power consumption of the entire data center DC. Therefore, it is necessary to input the air flow from the air conditioner 5 to each server in the data center as data in the power consumption model management database 12. Hereinafter, how to grasp the flow of air from the air conditioner 5 to each server will be described with reference to FIGS.

図6において、ユーザからのサービス要求は、インターネットなどのネットワークを介し、データセンタDCに到達する。データセンタDC内部には、ルータやスイッチなどのネットワーク機器2が存在し、ユーザからのサービス要求を適切なサーバ1に転送する。サービス要求を受け取ったサーバ1は、ユーザにサービス応答を返す。ユーザからのサービス要求量は、例えば平日昼間が多く休日夜間は少ないなど、時々刻々と変化する。   In FIG. 6, a service request from a user reaches the data center DC via a network such as the Internet. A network device 2 such as a router or a switch exists inside the data center DC, and transfers a service request from a user to an appropriate server 1. The server 1 that has received the service request returns a service response to the user. The amount of service requests from users changes from moment to moment, for example, during weekdays during daytime and during holiday nights.

また、サービス要求量に応じ、ネットワーク機器群及びサーバ群の処理負荷も時々刻々と変化する。各サーバ1は、電力により稼働される。また、各サーバ1で消費された電力は、熱としてデータセンタDC内に放出される。各サーバ1には、そのサーバ1が正常に動作するための温度(動作保障温度)がサーバ1毎に仕様として決まっており、サーバ1を正常に動作させるためには、データセンタDC内において動作保障温度以下の空気をサーバ1に供給する必要がある。そのため、各サーバからの排熱は、データセンタ内に設置された空調機(CRAC)5に取り込まれ、空調機(CRAC)5にて取り込んだ各サーバの排熱を含む空気を冷却し、再度サーバ1に供給することが行われる。   Further, the processing load of the network device group and the server group also changes every moment according to the service request amount. Each server 1 is operated by electric power. In addition, the power consumed by each server 1 is released into the data center DC as heat. Each server 1 has a temperature (operation guarantee temperature) for the server 1 to operate normally as a specification for each server 1. In order to operate the server 1 normally, the server 1 operates in the data center DC. It is necessary to supply air below the guaranteed temperature to the server 1. Therefore, the exhaust heat from each server is taken into the air conditioner (CRAC) 5 installed in the data center, the air containing the exhaust heat of each server taken in by the air conditioner (CRAC) 5 is cooled, and again Supplying to the server 1 is performed.

この場合、図6に示すように、サーバ1からの排熱の100%が空調機(CRAC)5に取り込まれるわけではなく、その一部は、サーバ1に供給される(空調機(CRAC)5により冷却された)空気と混ざり、サーバ1に取り込まれることとなる。上述したように、各サーバ1に対しては、正常動作する温度(動作保障温度)以下の空気を供給する必要があるため、サーバ1からの排熱がサーバに供給される空気と多量に混ざる場合には、空調機(CRAC)5の出力を大きくする必要がある(電力消費量も大きくなる)。また、Chillerは、データセンタDCの屋外に設置される冷却のための熱源を生成する、一般家庭のエアコンに例えると室外機にあたる機器であり、空調機(CRAC)5がデータセンタDC屋内の空気を冷却するための熱源(例えば冷却水など)を空調機(CRAC)5に提供する。   In this case, as shown in FIG. 6, 100% of the exhaust heat from the server 1 is not taken into the air conditioner (CRAC) 5, and a part thereof is supplied to the server 1 (air conditioner (CRAC)). 5) and is taken into the server 1. As described above, since it is necessary to supply air below the temperature (operation guarantee temperature) at which each server 1 operates normally, exhaust heat from the server 1 is mixed in a large amount with the air supplied to the server. In this case, it is necessary to increase the output of the air conditioner (CRAC) 5 (the power consumption is also increased). In addition, the Chiller is a device that generates a heat source for cooling installed outside the data center DC, which is an outdoor unit compared to an ordinary air conditioner in the home. A heat source (for example, cooling water) for cooling the air conditioner (CRAC) 5 is provided.

データセンタDCの冷却方法は、多種多様なベンダより様々な方式が提案されている。多くのデータセンタDCで一般的に採用されている構造としては、例えば図7に示すように、底上げした床面4より空調機(CRAC)5からの空気を、サーバラック3に収納されたサーバに分配し、排熱を天井面より収集する。
その他、データセンタの天井より空調機(CRAC)5からの空気をサーバに供給し、さらに排気も天井から行う天井方式冷却ソリューション方式や、サーバラック3ごとに空調機(CRAC)5を配置しサーバラック内で給気と排気を行う方式などが提案されている。いずれの方式であっても、サーバの電力消費により排熱が発生し、空調機(CRAC)5が排熱を取り込み冷却し再度サーバに提供すること、及び、排熱の一部が空調機(CRAC)5からの冷却された空気と混ざること(図6における空気の流れ)は変わらない。
Various methods for cooling the data center DC have been proposed by various vendors. As a structure generally employed in many data centers DC, for example, as shown in FIG. 7, a server in which air from an air conditioner (CRAC) 5 is stored in a server rack 3 from a floor 4 raised to the bottom. The exhaust heat is collected from the ceiling surface.
In addition, the ceiling cooling solution system that supplies air from the air conditioner (CRAC) 5 to the server from the ceiling of the data center and further exhausts from the ceiling, and the air conditioner (CRAC) 5 is arranged for each server rack 3 and the server A method of supplying and exhausting air in a rack has been proposed. In any system, exhaust heat is generated due to power consumption of the server, the air conditioner (CRAC) 5 takes in the exhaust heat, cools it, and supplies it to the server again. Mixing with the cooled air from CRAC) 5 (air flow in FIG. 6) remains the same.

一般的なデータセンタDCにおいては、図7に示すように、複数の縦長のサーバラック3が設置され、各サーバラック3に複数のサーバが納められている。空調機(CRAC)5により冷却された空気は、床下を通り、サーバラック3の給気面(多くの場合ラック前面)から給気される。また、サーバの電力消費により発生した熱はサーバラック3の排気面(多くの場合ラック背面)から排気される。排気は、天井付近を通り、空調機(CRAC)5に取り込まれ、取り込まれた空気は空調機(CRAC)5で冷却されて再度サーバラック3側に供給される。   In a general data center DC, as shown in FIG. 7, a plurality of vertically long server racks 3 are installed, and a plurality of servers are stored in each server rack 3. The air cooled by the air conditioner (CRAC) 5 passes under the floor and is supplied from the air supply surface of the server rack 3 (in many cases, the front surface of the rack). Further, the heat generated by the power consumption of the server is exhausted from the exhaust surface of the server rack 3 (in many cases, the rear surface of the rack). The exhaust passes through the vicinity of the ceiling, is taken into the air conditioner (CRAC) 5, and the taken-in air is cooled by the air conditioner (CRAC) 5 and supplied again to the server rack 3 side.

各サーバラック3は、サーバの排熱が空調機5により冷却された給気用の空気と混合することを防ぐため、サーバラック3の給気面は一般的に他のサーバラック3の給気面と向かい合うように、また、排気面は他のサーバラック3の排気面と向かい合うように設置される。
サーバラック3に納められた各サーバからの排熱の一部は、空調機(CRAC)5から供給される冷却された空気と混合するが、その混ざり方は、サーバラック3や冷却された空気を供給する位置、排熱が空調機(CRAC)5に取り込まれる経路によりデータセンタDC毎に不均一となる。そのため、データセンタDC内の空気の流れは、データセンタDC毎に異なるものとなる。
Each server rack 3 prevents the exhaust heat of the server from being mixed with the air for supply cooled by the air conditioner 5, so that the supply surface of the server rack 3 is generally the supply air of the other server racks 3. The exhaust surface is installed so as to face the surface, and the exhaust surface of the other server rack 3 is faced.
A part of the exhaust heat from each server stored in the server rack 3 is mixed with the cooled air supplied from the air conditioner (CRAC) 5, and the mixing method is the server rack 3 or the cooled air. The position where the heat is supplied and the path through which the exhaust heat is taken into the air conditioner (CRAC) 5 become non-uniform for each data center DC. Therefore, the air flow in the data center DC differs for each data center DC.

図7に示したデータセンタDCの構造のように、床面より冷気を供給し、天井面より排気を取り込む場合を例に、データセンタDC内で給気と排気の流れがどのようになるかの一例について、図8〜図10を参照しながら説明する。
データセンタDC内には、図8に示すように、10個のサーバラックにそれぞれ5つのサーバ(サーバA〜E)を設置した場合を想定する。図6で述べたように、サーバからの排熱の一部は、自身もしくは他のサーバの給気に混ざり、その割合をα、排熱をToutとすると"α×Tout"で表すことができる。また、残りは空調機(CRAC)5に取り込まれ、空調機に取り込まれる熱をTACinとすると、"TACin = Tout−(α×Tout)"と表すことができる。
図9に、各サーバの排気がどの程度空調機(CRAC)5に取り込まれるかの一例を示す( = (Tout−(α×Tout))/Tout)。縦軸の1.0は、排気の全てが(CRAC)5に取り込まれることを示す。
As in the structure of the data center DC shown in FIG. 7, the flow of air supply and exhaust in the data center DC will be described by taking as an example the case where cold air is supplied from the floor and exhaust is taken in from the ceiling. An example will be described with reference to FIGS.
In the data center DC, as shown in FIG. 8, it is assumed that five servers (servers A to E) are installed in each of ten server racks. As described in FIG. 6, a part of the exhaust heat from the server is mixed with the air supply of itself or another server, the ratio is α, and the exhaust heat can be expressed as “α × Tout”. . The remainder is taken into the air conditioner (CRAC) 5 and the heat taken into the air conditioner is TACin, which can be expressed as “TACin = Tout− (α × Tout)”.
FIG. 9 shows an example of how much the exhaust of each server is taken into the air conditioner (CRAC) 5 (= (Tout− (α × Tout)) / Tout). 1.0 on the vertical axis indicates that all of the exhaust is taken into (CRAC) 5.

図10に、各サーバ給気に、どの程度、他もしくは自身の排熱が混ざるのか、その割合(1−α)の一例を示す。本例では、サーバラックにおいて物理的に低い位置に設置されたサーバ(サーバA,B,C)の給気には、ほとんど他もしくは自身からの排熱が混ざることはなく、物理的に高い位置に設置されたサーバ(サーバD,E)の給気には、他もしくは自身の排気が多く混ざることが分かる。   FIG. 10 shows an example of the ratio (1-α) of how much other or own exhaust heat is mixed with each server air supply. In this example, the supply air of the servers (servers A, B, C) installed at physically low positions in the server rack is hardly mixed with exhaust heat from other or itself, and is physically high. It can be seen that the air supplied to the servers (servers D and E) installed in the station is mixed with a lot of other or own exhaust.

図9の排気効率及び図10の給気効率は、データセンタの想定環境により分布は異なるが、一般的に空気の流れは図11のように表現することができる。図11において、サーバ(Si)(i=1〜3)からの排気が隣接するサーバ(Sj)(j=1〜3)の給気に混ざる割合をαij と表す。
空調機(CRAC)5の電力消費量は、供給する冷気の温度(Tsup)と冷却する熱量から求まる。図12に実験的に求めたある空調機(CRAC)5の供給する空気の温度(Tsup)とその電力効率(COP, Coefficient of Performance)を示す。
The exhaust efficiency of FIG. 9 and the air supply efficiency of FIG. 10 have different distributions depending on the assumed environment of the data center, but generally the air flow can be expressed as shown in FIG. In FIG. 11, the ratio of the exhaust from the server (Si) (i = 1 to 3) mixed with the supply air of the adjacent server (Sj) (j = 1 to 3) is expressed as αij.
The power consumption of the air conditioner (CRAC) 5 is obtained from the temperature (Tsup) of the supplied cool air and the amount of heat to be cooled. FIG. 12 shows the temperature (Tsup) of air supplied by an air conditioner (CRAC) 5 and its power efficiency (COP, Coefficient of Performance) obtained experimentally.

図12より、供給する空気の温度が高いほど、電力効率が優れていることが分かる。例えば、10kwの熱を冷却し15℃としたい場合、COP = 2 = 0.0068*15*15+0.0008*15+0.458 であることから、空調機(CRAC)5の電力消費量は5kw=10kw/2となる。
また、10kwの熱を冷却し20℃としたい場合、COP=3.338 であることから、空調機(CRAC)5の電力消費量は2.996kw(電力消費量が40%削減される)となる。一方で、最終的に各サーバに到達する空気の温度(Tin)は、各サーバが正常に動作するための温度(動作保障温度)以下となる必要がある。
Cillerの電力消費量は,図6に示した通り、空調機(CRAC)5の動作と密接に関係しており、空調機(CRAC)5の電力消費量に単純に比例するものと考えることができる。
From FIG. 12, it can be seen that the higher the temperature of the supplied air, the better the power efficiency. For example, if you want to cool 10 kW of heat and set it to 15 ° C., COP = 2 = 0.068 * 15 * 15 + 0.0008 * 15 + 0.458, so the power consumption of the air conditioner (CRAC) 5 is 5 kW = 10 kW / 2 It becomes.
Further, when it is desired to cool the heat of 10 kw to 20 ° C., since COP = 3.338, the power consumption of the air conditioner (CRAC) 5 is 2.996 kw (the power consumption is reduced by 40%). On the other hand, the temperature (Tin) of the air finally reaching each server needs to be equal to or lower than the temperature (operation guarantee temperature) at which each server operates normally.
The power consumption of Ciller is closely related to the operation of the air conditioner (CRAC) 5, as shown in FIG. 6, and can be considered to be simply proportional to the power consumption of the air conditioner (CRAC) 5. it can.

サーバの電力消費量は、図13中の実線または点線で示されるような、サーバのCPU等の物理リソースの使用率に応じて変化する特性を有することが知られている。図13中の実線及び点線のいずれの特性となるかは、CPUの製品型式により決まる。実線及び点線のいずれの特性においても、「使用率の増加に比例して、電力消費量が増加する」と想定できる。図13における実線を数式で示すと下記の式1となる。このような電力消費のモデルは、一般的に全てのサーバに適用可能なものである。
P=Pidle+(Pmax − Pidle)*n (式1)
Pidle:サーバのCPU使用率が0%の時の電力消費量
Pmax:サーバのCPU使用率が100%の時の電力消費量
n:サーバの使用率(0〜1)
It is known that the power consumption of a server has a characteristic that changes according to the usage rate of a physical resource such as a CPU of the server, as indicated by a solid line or a dotted line in FIG. Whether the characteristic is a solid line or a dotted line in FIG. 13 is determined by the product type of the CPU. In both the solid line and dotted line characteristics, it can be assumed that “the power consumption increases in proportion to the increase in the usage rate”. The solid line in FIG. 13 is expressed by the following equation (1). Such a power consumption model is generally applicable to all servers.
P = Pidle + (Pmax−Pidle) * n (Formula 1)
Pidle: Power consumption when server CPU usage is 0%
Pmax: Power consumption when the CPU usage rate of the server is 100% n: Server usage rate (0 to 1)

データセンタDCの電力消費量の具体例について、図14を参照して説明する。
図14では、5つのサーバを設置したデータセンタDCを仮定する。データセンタDC内の空気の流れαは、表1に示したようなサーバ同士のテーブルを仮定する。表1に示されるデータセンタDC内の空気の流れαのモデルは、電力消費モデル管理データベース12に記憶され、これらの情報は、前記したデータセンタ電力消費試算部16でデータセンタDCの電力消費を試算する際に用いられる。
表1では、サーバAの排熱のうち、5%が自身に、2.5%がサーバBに、10%がサーバCに、25%がサーバDに、25%がサーバEの給気と混ざり、残りが空調機(CRAC)5に取り込まれるとしている。
A specific example of the power consumption of the data center DC will be described with reference to FIG.
In FIG. 14, a data center DC in which five servers are installed is assumed. The air flow α in the data center DC is assumed to be a table between servers as shown in Table 1. The model of the air flow α in the data center DC shown in Table 1 is stored in the power consumption model management database 12, and these pieces of information are used to calculate the power consumption of the data center DC by the data center power consumption calculation unit 16 described above. Used when making trial calculations.
In Table 1, of the exhaust heat from server A, 5% is for itself, 2.5% is for server B, 10% is for server C, 25% is for server D, and 25% is for server E. The mixture is mixed and the rest is taken into the air conditioner (CRAC) 5.

また、サーバの電力消費は、前記した式1で計算し、Pidle=100W(サーバの使用率が0%の時の電力消費量)、Pmax=300W(サーバの使用率が100%の時の電力消費量)と仮定した(実際の高密度サーバではさらに大きな電力を消費するが、ここではあくまで例示するための値とする)。   In addition, the power consumption of the server is calculated by the above-described equation 1, Pidle = 100 W (power consumption when the server usage rate is 0%), Pmax = 300 W (power when the server usage rate is 100%) (Consumption amount) (the actual high-density server consumes a larger amount of power, but here is a value for illustration only).

また、各サーバの排気温度は、給気温度が15℃だとすると、300W(サーバの使用率100%)消費した場合は30℃、100W(Pidle)消費した場合、20℃の排気温度になるとする。
排気温度=給気温度+K*サーバの電力消費量
(注)Kは、空気の密度とサーバを流れる空気の流量、空気の比熱から求めることができる係数。ここでは簡単のため0.05(定数)を用いる。
さらに、空調機(CRAC)の電力消費は、図12に前述の電力消費モデルを用いる。また、冷却する熱量は、簡単のため、サーバの電力消費量の和とした。
サーバが安定的に動作するための温度は、25℃とし、空調機は、起動中のサーバの給気温度が25℃以下となるよう0.5℃刻みで出力を変更するものとする。
Assuming that the supply air temperature is 15 ° C., the exhaust temperature of each server is assumed to be 30 ° C. when 300 W (server usage rate 100%) is consumed, and 20 ° C. when 100 W (Pidle) is consumed.
Exhaust temperature = Supply air temperature + K * Server power consumption (Note) K is a coefficient that can be obtained from the density of air, the flow rate of air flowing through the server, and the specific heat of air. Here, 0.05 (constant) is used for simplicity.
Furthermore, the power consumption of the air conditioner (CRAC) uses the above-described power consumption model in FIG. The amount of heat to be cooled is the sum of the power consumption of the server for simplicity.
The temperature for the stable operation of the server is 25 ° C., and the air conditioner changes the output in 0.5 ° C. increments so that the supply air temperature of the running server is 25 ° C. or less.

上述の各値を使用し、各サーバの使用率を図15における左の例とした場合、データセンタ全体DCの電力消費量(サーバと空調機(CRAC)の電力消費量の和)は、
空調機(CRAC)の設定温度:16.5度
サーバの電力消費量の和:1090W
空調機(CRAC)の電力消費量の和:469.3W
データセンタDC全体の電力消費量:1559.3W
となる。
When the above values are used and the usage rate of each server is the left example in FIG. 15, the power consumption of the entire data center DC (the sum of the power consumption of the server and the air conditioner (CRAC)) is
Air conditioner (CRAC) set temperature: 16.5 degrees Sum of server power consumption: 1090W
Sum of power consumption of air conditioner (CRAC): 469.3W
Power consumption of the entire data center DC: 1559.3W
It becomes.

また、各サーバの使用量を図15における右の例とした場合、データセンタDC全体の電力消費量(サーバと空調機(CRAC)の電力消費量の和)は、
空調機(CRAC)の設定温度:16度
サーバの電力消費量の和:1080W
空調機(CRAC)の電力消費量の和:488.3W
データセンタDC全体の電力消費量:1568.3W
となる。
Further, when the usage amount of each server is the right example in FIG. 15, the power consumption of the entire data center DC (the sum of the power consumption of the server and the air conditioner (CRAC)) is
Air conditioner (CRAC) set temperature: 16 degrees Sum of server power consumption: 1080W
Sum of power consumption of air conditioner (CRAC): 488.3W
Power consumption of the entire data center DC: 1568.3 W
It becomes.

上述の2例によれば、図15における左の例から右の例とすることで、サーバ1台を休止状態とすることでサーバの電力消費量の和を1090Wから1080Wに削減したにも関わらず、空調機(CRAC)の電力消費量が増加し、データセンタDC全体の電力消費量が1559.3Wから1568.3Wに増加している。
すなわち、サーバの使用率にのみ注目し、サーバ群の電力消費量を少なくしただけでは、データセンタDC全体の電力消費量が大きくなる可能性がある。
According to the above-mentioned two examples, although the example from the left in FIG. 15 is changed to the right example, the total power consumption of the server is reduced from 1090 W to 1080 W by putting one server in a dormant state. However, the power consumption of the air conditioner (CRAC) has increased, and the power consumption of the entire data center DC has increased from 1559.3 W to 1568.3 W.
That is, paying attention only to the usage rate of the server and reducing the power consumption of the server group may increase the power consumption of the entire data center DC.

これに対して上述した本発明の実施例によれば、データセンタ電力消費試算部16を設け、物理サーバ電力消費試算部16aと空調機電力消費試算部16bが試算する電力消費量の和によりデータセンタDCの電力消費量を求めるようにしたので、物理サーバ配置算出部14によりデータセンタDC全体の電力消費量が最小となる論理サーバの構成(物理リソースの論理サーバへの割り当ての組み合わせ)を選択することができる。   On the other hand, according to the embodiment of the present invention described above, the data center power consumption trial calculation unit 16 is provided, and the data is calculated by the sum of the power consumption calculated by the physical server power consumption trial calculation unit 16a and the air conditioner power consumption trial calculation unit 16b. Since the power consumption of the center DC is obtained, the physical server arrangement calculation unit 14 selects the logical server configuration (combination of allocation of physical resources to the logical server) that minimizes the power consumption of the entire data center DC. can do.

1…物理サーバ(サーバ)、 1´…論理サーバ 2…ネットワーク機器、 3…サーバラック、 4…床面、 5…空調機、 6…室外機、 8,9…温度センサ、 10…管理サーバ(ネットワーク運用管理装置)、 11…物理サーバ情報管理データベース、 12…電力消費モデル管理データベース、 13…管理インタフェース提供部、 14…物理サーバ配置算出部、 15…物理サーバ構成管理部、 16…データセンタ電力消費試算部、 17…リソース利用状況取得部、 18…中央制御部、   DESCRIPTION OF SYMBOLS 1 ... Physical server (server) 1 '... Logical server 2 ... Network equipment 3 ... Server rack 4 ... Floor surface 5 ... Air conditioner 6 ... Outdoor unit 8, 9 ... Temperature sensor 10 ... Management server ( Network operation management apparatus), 11 ... physical server information management database, 12 ... power consumption model management database, 13 ... management interface providing unit, 14 ... physical server arrangement calculation unit, 15 ... physical server configuration management unit, 16 ... data center power Consumption estimation part, 17 ... Resource utilization status acquisition part, 18 ... Central control part,

Claims (3)

データセンタ内に複数の物理サーバを設置し、1台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバがネットワークを介して接続され、前記各物理サーバのリソースの使用状況に応じて物理サーバのリソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理方法において、
前記物理サーバのハードウェアスペック及び論理サーバに割り当てたリソース量を管理し、
前記物理サーバ及び前記空調機に関する電力消費量を予め管理するとともに、前記データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を2つ以上収集し作成した方程式を解くことで算出し、予め若しくは動的に管理し、
前記各物理サーバの電力消費の総量を試算するとともに、前記各物理サーバを冷却するための空調機の電力消費量を試算することで、データセンタ全体の電力消費量を試算し、
各物理サーバの使用状況に応じ、物理サーバのリソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組における電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択し、
その出力結果を基にデータセンタ内における物理サーバのリソースの論理サーバへの割り当てを動的に変更する
ことを特徴とするネットワーク運用管理方法。
A plurality of physical servers to which a virtualization technology is applied in which a plurality of physical servers are installed in a data center and one physical server is logically operated as a plurality of logical servers are connected via a network. In a network operation management method for dynamically changing the allocation of physical server resources to logical servers according to the usage status of physical server resources, while cooling each physical server with an air conditioner installed in a data center ,
Managing the hardware specifications of the physical server and the amount of resources allocated to the logical server;
The power consumption related to the physical server and the air conditioner is managed in advance, and the entire air flow in the data center and the air exhausted from each physical server with respect to the entire air flow are air-conditioned. By detecting the temperature of the exhaust surface and the air supply surface in different time zones and operating states at each physical server with respect to the ratio α of air flowing into the intake side of the physical server without circulating to the machine, the physical server It is calculated by collecting two or more sets of different temperatures in and solving the created equation, and managing in advance or dynamically,
While calculating the total amount of power consumption of each physical server and calculating the power consumption of the air conditioner for cooling each physical server, the power consumption of the entire data center is calculated,
According to the usage status of each physical server, a plurality of combinations are calculated for the allocation of the physical server resources to the logical servers, and the power consumption in each set is estimated by the data center power consumption calculation unit. Choose a small one,
A network operation management method characterized by dynamically changing allocation of physical server resources to logical servers in a data center based on the output result.
データセンタ内に複数の物理サーバを設置し、1台の物理サーバを論理的に複数台の論理サーバとして動作させる仮想化技術が適用された複数の物理サーバが、ネットワークを介して接続され、前記各サーバのリソースの使用状況に応じて、物理サーバのリソースの論理サーバへの割り当てを動的に変更する一方、データセンタ内に設置された空調機により前記各物理サーバを冷却するネットワーク運用管理装置であって、
前記物理サーバのハードウェアスペック及び論理サーバに割り当てたリソース量を管理する物理サーバ情報管理データベースと、
前記物理サーバ及び前記空調機に関する電力消費量、前記データセンタ内の全体の空気の流れ、及び、全体の空気の流れに対して前記各物理サーバから排気された空気が前記空調機に循環することなく物理サーバの吸気側に流れ込む空気の割合αについて、各物理サーバにおいて、異なる時間帯、稼働状況の排気面及び給気面の温度をそれぞれ検出することで、前記各物理サーバにおける異なる温度の組を2つ以上収集し作成した方程式を解くことで算出して管理する電力消費モデル管理データベースと、
前記物理サーバや前記空調機の情報を前記物理サーバ情報管理データベース及び前記電力消費モデル管理データベースに登録する管理インタフェース提供部と、
前記物理サーバのリソースの使用状況を定期的に取得し前記物理サーバ情報管理データベースに保存するリソース利用状況取得部と、
前記各物理サーバの電力消費の総量を試算する物理サーバ電力消費試算部と、前記各物理サーバを冷却するための空調機の電力消費量を試算する空調機電力消費試算部からなり、各部の和によりデータセンタ全体の電力消費量を試算するデータセンタ電力消費試算部と、
各物理サーバの使用状況に応じ、物理サーバのリソースの論理サーバへの割り当てについて、複数の組み合わせを算出し、各組におけるデータセンタ全体の電力消費量を前記データセンタ電力消費試算部により試算し、最も電力消費が小さいものを選択する物理サーバ配置算出部と、
前記物理サーバ配置算出部の出力結果を基にデータセンタ内における物理サーバのリソースの論理サーバへの割り当てを変更し、物理サーバの再配置(物理サーバのリソースの論理サーバへの割り当て)結果を前記物理サーバ情報管理データベースに保存する物理サーバ構成管理部と、
前記各部を制御する中央制御部と
を備えたことを特徴とするネットワーク運用管理装置。
A plurality of physical servers to which a virtualization technology is applied in which a plurality of physical servers are installed in a data center and one physical server is logically operated as a plurality of logical servers are connected via a network, A network operation management device that dynamically changes the allocation of physical server resources to logical servers according to the usage status of each server resource, and cools each physical server with an air conditioner installed in a data center. Because
A physical server information management database for managing the hardware specifications of the physical server and the resource amount allocated to the logical server;
The air consumption from the physical server and the air conditioner, the entire air flow in the data center, and the air exhausted from each physical server with respect to the entire air flow circulate to the air conditioner. As for the ratio α of the air flowing into the intake side of the physical server, the temperature of the exhaust surface and the supply surface in different time zones and operating states is detected in each physical server, so that a set of different temperatures in each physical server is detected. A power consumption model management database that calculates and manages two or more by collecting and creating an equation ,
A management interface providing unit for registering information on the physical server and the air conditioner in the physical server information management database and the power consumption model management database;
A resource usage status acquisition unit that periodically acquires the resource usage status of the physical server and stores the resource usage status in the physical server information management database;
The physical server power consumption calculation unit for calculating the total power consumption of each physical server and the air conditioner power consumption calculation unit for calculating the power consumption of the air conditioner for cooling each physical server. A data center power consumption trial calculation unit that calculates the power consumption of the entire data center by
According to the usage status of each physical server, a plurality of combinations are calculated for allocation of physical server resources to logical servers, and the power consumption of the entire data center in each set is estimated by the data center power consumption calculation unit, A physical server placement calculation unit that selects the one with the lowest power consumption;
Based on the output result of the physical server allocation calculation unit, the allocation of the physical server resource to the logical server in the data center is changed, and the physical server relocation (physical server resource allocation to the logical server) result is A physical server configuration management unit stored in the physical server information management database;
A network operation management apparatus comprising: a central control unit that controls each unit.
前記電力消費モデル管理データベースは、複数の前記各物理サーバに対して、当該物理サーバを含めた複数の各物理サーバの吸気側に流れ込む空気の割合を予め登録したテーブルを備えることで、前記空気の割合αを管理する請求項2に記載のネットワーク運用管理装置。   The power consumption model management database includes, for each of the plurality of physical servers, a table in which the ratio of air flowing into the intake side of each of the plurality of physical servers including the physical server is registered in advance. The network operation management apparatus according to claim 2, which manages the ratio α.
JP2009188033A 2009-08-14 2009-08-14 Network operation management method and network operation management apparatus Expired - Fee Related JP5505925B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009188033A JP5505925B2 (en) 2009-08-14 2009-08-14 Network operation management method and network operation management apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009188033A JP5505925B2 (en) 2009-08-14 2009-08-14 Network operation management method and network operation management apparatus

Publications (2)

Publication Number Publication Date
JP2011039889A JP2011039889A (en) 2011-02-24
JP5505925B2 true JP5505925B2 (en) 2014-05-28

Family

ID=43767575

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009188033A Expired - Fee Related JP5505925B2 (en) 2009-08-14 2009-08-14 Network operation management method and network operation management apparatus

Country Status (1)

Country Link
JP (1) JP5505925B2 (en)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5672099B2 (en) * 2011-03-22 2015-02-18 富士通株式会社 Device equipped with electronic device, cooling program for device equipped with electronic device, and method for cooling device equipped with electronic device
WO2013042271A1 (en) 2011-09-22 2013-03-28 富士通株式会社 Electronic computer system and virtual machine deployment method
JP5949048B2 (en) * 2012-03-28 2016-07-06 富士通株式会社 Air conditioning control system and air conditioning control method
CN103105923B (en) * 2013-03-07 2015-05-27 鄂尔多斯市云泰互联科技有限公司 Energy-efficient scheduling method and system for information technology (IT) business of cloud computing center
JP6002098B2 (en) * 2013-07-23 2016-10-05 日本電信電話株式会社 Air conditioning control method and air conditioning control system
KR101511542B1 (en) 2013-09-30 2015-04-14 전자부품연구원 Mtehod for Handling Abnormal State of Module Type Data Center Ingra-structure
JP6699720B2 (en) * 2016-03-30 2020-05-27 富士通株式会社 Location search program, location search method, and location search device
KR101830859B1 (en) * 2016-10-27 2018-02-21 이상수 Method of diagnosing energy being consumed in internet data center by using virtual building model
CN116390461B (en) * 2023-05-30 2023-08-08 广州豪特节能环保科技股份有限公司 Data center energy-saving temperature regulating method, system and medium based on artificial intelligence

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4895266B2 (en) * 2005-12-28 2012-03-14 富士通株式会社 Management system, management program, and management method
DK2123140T3 (en) * 2007-01-24 2016-12-05 Schneider Electric It Corp System and method for evaluation of cooling conditions of an equipment rack

Also Published As

Publication number Publication date
JP2011039889A (en) 2011-02-24

Similar Documents

Publication Publication Date Title
JP5505925B2 (en) Network operation management method and network operation management apparatus
Ilager et al. ETAS: Energy and thermal‐aware dynamic virtual machine consolidation in cloud data center with proactive hotspot mitigation
Mukherjee et al. Spatio-temporal thermal-aware job scheduling to minimize energy consumption in virtualized heterogeneous data centers
US8458500B2 (en) Server allocation to workload based on energy profiles
Zhang et al. Towards joint optimization over ICT and cooling systems in data centre: A survey
Sharma et al. Balance of power: Dynamic thermal management for internet data centers
Tang et al. Energy-efficient thermal-aware task scheduling for homogeneous high-performance computing data centers: A cyber-physical approach
JP5785050B2 (en) Information processing system, power saving control method thereof, and apparatus
Abbasi et al. Tacoma: Server and workload management in internet data centers considering cooling-computing power trade-off and energy proportionality
JP4751962B2 (en) Operation management method of information processing system
Tang et al. Thermal-aware task scheduling for data centers through minimizing heat recirculation
Banerjee et al. Integrating cooling awareness with thermal aware workload placement for HPC data centers
JP4724730B2 (en) Information processing system operation management method, operation management program, operation management apparatus, and information processing system
CA2723442C (en) Arrangement for managing data center operations to increase cooling efficiency
Wan et al. Air flow measurement and management for improving cooling and energy efficiency in raised-floor data centers: A survey
Sun et al. Energy-efficient and thermal-aware resource management for heterogeneous datacenters
Yao et al. Adaptive power management through thermal aware workload balancing in internet data centers
Cao et al. Cooling-aware job scheduling and node allocation for overprovisioned HPC systems
Xie et al. Energy saving virtual machine allocation in cloud computing
Li et al. Data center power minimization with placement optimization of liquid-cooled servers and free air cooling
Mukherjee et al. A detailed study on data centre energy efficiency and efficient cooling techniques
Kaplan et al. Optimizing communication and cooling costs in HPC data centers via intelligent job allocation
Sharma et al. On building next generation data centers: Energy flow in the information technology stack
Ahmed et al. A novel reliability index to assess the computational resource adequacy in data centers
Meng et al. Communication and cooling aware job allocation in data centers for communication-intensive workloads

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130731

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131030

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140312

R150 Certificate of patent or registration of utility model

Ref document number: 5505925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees