JP2016502714A - 高密度クラスタラー化コンピュータシステムのためのツインサーバブレード - Google Patents
高密度クラスタラー化コンピュータシステムのためのツインサーバブレード Download PDFInfo
- Publication number
- JP2016502714A JP2016502714A JP2015541765A JP2015541765A JP2016502714A JP 2016502714 A JP2016502714 A JP 2016502714A JP 2015541765 A JP2015541765 A JP 2015541765A JP 2015541765 A JP2015541765 A JP 2015541765A JP 2016502714 A JP2016502714 A JP 2016502714A
- Authority
- JP
- Japan
- Prior art keywords
- computing
- blade
- board
- cooling
- calculation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/20—Cooling means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/18—Packaging or power distribution
- G06F1/181—Enclosures
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K7/00—Constructional details common to different types of electric apparatus
- H05K7/20—Modifications to facilitate cooling, ventilating, or heating
- H05K7/20709—Modifications to facilitate cooling, ventilating, or heating for server racks or cabinets; for data centers, e.g. 19-inch computer racks
- H05K7/20754—Air circulating in closed loop within cabinets
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K7/00—Constructional details common to different types of electric apparatus
- H05K7/20—Modifications to facilitate cooling, ventilating, or heating
- H05K7/20709—Modifications to facilitate cooling, ventilating, or heating for server racks or cabinets; for data centers, e.g. 19-inch computer racks
- H05K7/208—Liquid cooling with phase change
- H05K7/20827—Liquid cooling with phase change within rooms for removing heat from cabinets, e.g. air conditioning devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2200/00—Indexing scheme relating to G06F1/04 - G06F1/32
- G06F2200/20—Indexing scheme relating to G06F1/20
- G06F2200/201—Cooling arrangements using cooling fluid
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Thermal Sciences (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Power Engineering (AREA)
- Cooling Or The Like Of Electrical Apparatus (AREA)
- Mounting Of Printed Circuit Boards And The Like (AREA)
Abstract
複数の計算ブレードを伴う高性能計算シテスムは、1つ以上の計算ボードと、計算ボードのいずれかの側面に配置された2つのサイドレールを含む少なくとも1つの計算ブレードを有する。各サイドレールは、計算ボードを計算ブレード内に保持するように構成されているボード整列要素を有し、その結果として、計算ボードの上部は、ボード整列要素の部分に結合され、かつ、それに隣接する。本発明は、概して、マルチノードコンピュータシステムにおけるブレード構成に関し、より特定すると、本発明は、高密度クラスタラー化コンピュータシステムのためのツインサーバ構成に関する。
Description
関連出願への相互参照
本出願は、2013年6月28日に出願された米国特許出願第13/931,748号への優先権を主張し、その米国特許出願は、2012年11月8日に出願された米国仮特許出願第61/724,274号への優先権を主張し、これらの開示はそれらの全体が本明細書に参照によって援用される。
本出願は、2013年6月28日に出願された米国特許出願第13/931,748号への優先権を主張し、その米国特許出願は、2012年11月8日に出願された米国仮特許出願第61/724,274号への優先権を主張し、これらの開示はそれらの全体が本明細書に参照によって援用される。
本出願は、「ON−BLADE COLD SINK FOR HIGH−DENSITY CLUSTERED COMPUTER SYSTEM」と題される2013年6月28日に出願された米国特許出願第13/934,730号、および、「CLOSED−LOOP COOLING SYSTEM FOR HIGH−DENSITY CLUSTERED」と題される2013年6月28日に出願された米国特許出願第13/934,754号に関連し、これら開示は、それらの全体が本明細書に参照によって援用される。
技術分野
本発明は、概して、マルチノードコンピュータシステムにおけるブレード構成に関し、より特定すると、本発明は、高密度クラスタラー化コンピュータシステムのためのツインサーバ構成に関する。
本発明は、概して、マルチノードコンピュータシステムにおけるブレード構成に関し、より特定すると、本発明は、高密度クラスタラー化コンピュータシステムのためのツインサーバ構成に関する。
背景技術
高性能計算システム(「HPC」)がよりパワフルになっていくにつれ、物理的制約および密度要件が、高密度クラスタラー化コンピュータ構成の多くのアスペクトを駆動している。効率的なスーパーコンピューティングアーキテクチャは最新のテクノロジを同時に可能にしなければならない一方で、相互接続、パワー、および、冷却に関して最大限のフレキシビリティを提供しなければならない。しかし、標準的なブレードおよび冷却構成は、高密度クラスターについて現在要求されるスケールおよび密度要件を十分に取り扱うことができない。したがって、新たなコンピュータブレード設計が、要求の厳しい高密度クラスター化コンピュータ設備における物理的および性能密度要件に対応するために必要とされている。
高性能計算システム(「HPC」)がよりパワフルになっていくにつれ、物理的制約および密度要件が、高密度クラスタラー化コンピュータ構成の多くのアスペクトを駆動している。効率的なスーパーコンピューティングアーキテクチャは最新のテクノロジを同時に可能にしなければならない一方で、相互接続、パワー、および、冷却に関して最大限のフレキシビリティを提供しなければならない。しかし、標準的なブレードおよび冷却構成は、高密度クラスターについて現在要求されるスケールおよび密度要件を十分に取り扱うことができない。したがって、新たなコンピュータブレード設計が、要求の厳しい高密度クラスター化コンピュータ設備における物理的および性能密度要件に対応するために必要とされている。
種々の実施形態の要旨
本発明の種々の実施形態は、高性能計算(「HPC」)システムで使用される計算ブレードのための特有の物理的パッケージングおよび据え付けの解決法を提供する。本発明の1つの実施形態では、少なくとも1つの計算ブレードが、1つ以上の計算ボード、および、上記計算ボードのいずれかの側面に配置された2つのサイドレールを含む。各サイドレールが、上記計算ボードを上記計算ブレード内に保持するように構成されたボード整列要素を有し、その結果として、上記計算ボードの上部が、上記ボード整列要素のボード取り付け部分に結合され、かつ、隣接している。
本発明の種々の実施形態は、高性能計算(「HPC」)システムで使用される計算ブレードのための特有の物理的パッケージングおよび据え付けの解決法を提供する。本発明の1つの実施形態では、少なくとも1つの計算ブレードが、1つ以上の計算ボード、および、上記計算ボードのいずれかの側面に配置された2つのサイドレールを含む。各サイドレールが、上記計算ボードを上記計算ブレード内に保持するように構成されたボード整列要素を有し、その結果として、上記計算ボードの上部が、上記ボード整列要素のボード取り付け部分に結合され、かつ、隣接している。
関連する実施形態では、上記ボード整列要素が、上記サイドレールに実質的に垂直である上部ボード取り付け部分および下部ボード取り付け部分を伴って実質的にc字形状であり得、上記計算ボードが、上記上部ボード取り付け部分および上記下部ボード取り付け部分の外側側面に隣接し得る。上記計算ブレードが、2つの別個の計算ノードとして構成された2つの計算ボードを含み得、各ボードの上部が、上記ボード整列要素の対応するボード取り付け部分に結合し、かつ、隣接し得る。上記2つの計算ボードは、1つの計算ボードの上部がもう一方の計算ボードの上部に面するように互いの上部の上に配置され得る。各計算ボードが、ベース計算セクションを有し得、上記ベース計算セクションにおける構成要素のレイアウトが、上記2つの計算ボードにおいて実質的に同じであり得る。各計算ボードが、ベース計算セクションを有し得、1つの計算ボード上のベース計算セクションにおけるいくつかの構成要素が、もう一方の計算ボード上のベース計算セクションにおける対応する構成要素間に交互配置され得る。上記計算ブレードがさらに、1つ以上の空冷ヒートシンクを含み得、各々のヒートシンクが、上記2つの計算ボード間に配置される。
他の関連する実施形態では、上記HPCシステムはさらに、上記複数の計算ブレードを保持するように構成された1つ以上のブレードエンクロージャを備え得、上記ブレードエンクロージャが、上記サイドレールを保持するように構成された少なくとも2つの側面マウントを有し得る。上記計算ブレードが、2つの計算ボードを含み得、上記ブレードエンクロージャが、流体冷却マニホールドを含み得る。上記システムがさらに、1つ以上の冷却プレートであって、各冷却プレートは、上記2つの計算ボード間に配置される、1つ以上の冷却プレートと、上記冷却プレートに結合され、上記流体冷却マニホールドと流体連通している流体接続とを含み得る。上記流体冷却マニホールドは、上記ブレードエンクロージャの背面に沿っても、上記ブレードエンクロージャの側面に沿ってもよく、上記2つの計算ボード間にある各冷却プレートに接続するように構成されてもよい。上記2つの冷却プレートが、横に並んだ構成で上記2つの計算ボード間に配置されてもよく、上記2つの計算ボード間の1つのプレートが、上記計算ブレードの1つの領域にあり、上記2つの計算ボード間のもう一方のプレートが、上記計算ブレードの別の領域にあってもよい。あるいは、4つの冷却プレートが、上記2つの計算ボード間に配置されてもよく、上記2つの計算ボード間の2つのプレートが、上記計算ブレードの1つの領域にあり、上記2つの計算ボード間のもう一方の2つのプレートが、上記計算ブレードの別の領域にあってもよい。上記冷却マニホールドは、供給ラインおよび戻りラインを含んでいてもよい。
他の関連する実施形態では、上記システムはさらに、上記冷却マニホールドと流体連通している流体接続を有する外部冷却分配ユニットを含み得る。この外部冷却分配ユニットがさらに、上記流体接続の一部分と接触している液冷熱交換器と、上記流体接続内の液体を上記冷却マニホールドから上記液冷熱交換器に移動させるように構成されている1つ以上のポンプとを含んでいてもよい。上記ブレードエンクロージャが、2つの計算ラックにおいて構成され、上記システムがさらに、第1の計算ラックの側面および第2の計算ラックの側面に隣接する冷却タワーを含んでもよい。この冷却タワーは、少なくとも1つの水冷熱交換器と、上記側面から上記第1の計算ラックおよび上記第2の計算ラックの背面に向かって上記水冷熱交換器を横切って暖かい空気を引き込み、かつ、冷却された空気を上記第1の計算ラックおよび上記第2の計算ラックの前面に向かって側面に循環するように構成された1つ以上のブロワとを有してもよい。計算ラックおよび冷却タワーは、上記ハウジング内の閉鎖ループ空気流れを提供するように、ハウジング内に囲われてもよい。上記ボード整列要素が、上記ボード取り付け部分を超えて延びる据え付けセクションを含んでもよく、上記据え付けセクションが、上記ボード整列要素と係合し、かつ、上記ボード整列要素を上記サイドレールに結合するように構成されてもよい。
当業者は、直下に要約される図面を参照して議論される下記の「例示的な実施形態」から、本発明の種々の実施形態の利点をより完全に認識するはずである。
例示的な実施形態の説明
本発明の実施形態は、コンピュータブレードのためのコンパクトな物理的パッケージング構成を提供し、これは、パンまたはキャリアの代わりに、サイドレールを使用し、かつ、計算ボードの上部側から離れて取り付ける。このアプローチは、バックプレーンへのブラインド嵌合コネクタのより良好な位置制御、および、設計者がより広い範囲のプリント回路ボード(PCB)の厚みを(それゆえ、層カウントも)考慮するためのより大きなフレキシビリティを提供する。これは、設計者が、より厚いボードとより大きな背側構成要素高さとの間のトレードオフを評価することを可能にする。しかし、これら考慮のいずれも、ボードの上側上の重要なコネクタの基本的位置を変えない。パンまたはキャリアをなくして、サイドレールは、ブレードの重量および使用材料を最小にし、それゆえ、全体HPCシステムの重量を低減する。さらに、このサイドレールは、引き込み(lead−in)特徴、整列特徴を提供し、典型的になされるように、ボードの底部に代わってボードの上部とインターフェース接続するボードのための取り付け用意を取り入れる。
本発明の実施形態は、コンピュータブレードのためのコンパクトな物理的パッケージング構成を提供し、これは、パンまたはキャリアの代わりに、サイドレールを使用し、かつ、計算ボードの上部側から離れて取り付ける。このアプローチは、バックプレーンへのブラインド嵌合コネクタのより良好な位置制御、および、設計者がより広い範囲のプリント回路ボード(PCB)の厚みを(それゆえ、層カウントも)考慮するためのより大きなフレキシビリティを提供する。これは、設計者が、より厚いボードとより大きな背側構成要素高さとの間のトレードオフを評価することを可能にする。しかし、これら考慮のいずれも、ボードの上側上の重要なコネクタの基本的位置を変えない。パンまたはキャリアをなくして、サイドレールは、ブレードの重量および使用材料を最小にし、それゆえ、全体HPCシステムの重量を低減する。さらに、このサイドレールは、引き込み(lead−in)特徴、整列特徴を提供し、典型的になされるように、ボードの底部に代わってボードの上部とインターフェース接続するボードのための取り付け用意を取り入れる。
上側取り付けはまた、ボード間の間隔のより良好な制御を可能にし、ブレードにおける全てのボードのより良好なボード対シャーシ整列を可能にし、ボード対ボード間隔、または、ボード対シャーシ整列を変更することなく支持されるべきより広い範囲のボード厚を可能にする。さらに、サイドレールは、PCBを保護するための離隔絶縁子として作用し、パンまたはトレイよりも有意に軽く、より低いコストである。ブレード構成の実施形態は、両方のノードボードを横切る1つのデザインに梃子入れすることによって、より単純な設計を可能し、また、よりコンパクトな構成および空間節約のための構成要素の交互配置を可能にする。
HPCシステムの実施形態は、ファンおよび空冷ヒートシンクを利用するラックレベルの冷却よりも大きな冷却能力(例えば、600ワットを超えるプロセッサのための)を提供するオンブレード冷却システムをさらに含み得る。さらなる冷却は、ブレードを保持するブレードエンクロロージャーの外部にある冷却分配ユニットを備えたシステム中でブレードに提供され得る。さらに、ブレードは、冷却タワーを備えた閉鎖ループ空気流れ配列を使用してさらに空冷され得る。例示的な実施形態は、下記で議論される。
システムアーキテクチャ
図1は、本発明の例示的な実施形態とともに使用され得る例示的な高性能計算システム100の論理図を概略的に示す。詳細には、当業者に公知であるように、「高性能計算システム」または「HPCシステム」は、ハードウェア相互接続を使用してタイトに結合されている複数のモジュール式計算リソースを有する計算システムであり、その結果として、プロセッサは、共通のメモリアドレススペースを使用して遠隔データに直接アクセスし得る。
図1は、本発明の例示的な実施形態とともに使用され得る例示的な高性能計算システム100の論理図を概略的に示す。詳細には、当業者に公知であるように、「高性能計算システム」または「HPCシステム」は、ハードウェア相互接続を使用してタイトに結合されている複数のモジュール式計算リソースを有する計算システムであり、その結果として、プロセッサは、共通のメモリアドレススペースを使用して遠隔データに直接アクセスし得る。
HPCシステム100は、計算リソースを提供するための多くの論理計算パーティション120、130、140、150、160、170と、この複数のパーティション120〜170を管理するためのシステムコンール110とを含む。HPCシステムにおける「計算パーティション(または「パーティション)」は、単一のオペレーティングシステムインスタンスを走らせるコンピュータリソースの管理用割り当てであり、共通メモリアドレススペースを有する。パーティション120〜170は、論理通信ネットワーク180を使用してシステムコンソール110と通信し得る。計算を実施することを望む科学者、エンジニア、または、技術者のようなシステムユーザは、システムコンソール110を使用することによりこれらのリソースを割り当て、管理するシステムオペレータからの計算リソースを要求し得る。パーティションへの計算リソースの割り当ては、下記で説明される。このHPCシステム100は、下記でより詳細に説明されるように、管理用に指定される任意の数の計算パーティションを有し得、しばしば、利用可能な計算リソースの全てを包含するただ1つのパーティションを有する。したがって、この図は、本発明の実施形態の範囲を限定するものとして見られるべきではない。
パーティション160のような各計算パーティションは、それがデスクトップコンピュータに似通った単一の計算デバイスであるかのように論理的に見られ得る。それゆえ、パーティション160は、当該技術分野で一緒に使用されるような基本入出力システム(「BIOS」)192を使用する単一オペレーティングシステム(「OS」)インスタンス191と、1以上のシステムユーザのためのアプリケーションソフトウェァ193とを含むソフトウェアを実行し得る。
したがって、図1にまた示されるように、計算パーティションは、システムオペレータによってそれに割り当てられた種々のハードウェアを有し得、それは、1つ以上のプロセッサ194、揮発性メモリ195、不揮発性ストレージ196、ならびに、入力および出力(「I/O」)デバイス197(例えば、ネットワークカード、ビデオディスプレイデバイス、および、キーボードなど)を含む。しかし、図1における実施形態のようなHPCシステムにおいて、各計算パーティションは、典型的なデスクトップコンピュータよりも多量のプロセッシンパワーおよびメモリを有する。OSソフトウェアは、例えば、ワシントン州レドモンドのMicrosoft CorporationによるWindows(登録商標)オペレーティングシステム、または、Linux(登録商標)オペレーティングシステムを含み得る。さらに、BIOSは、カリフォルニア州サンタクララのIntel Corporationのようなハードウェア製造業者によるファームウェアとして提供され得るが、それは、典型的に、下記でより詳細に記載されるように、高性能計算をサポートするように、HPCシステム設計者のニーズに応じてカスタマイズされる。
そのシステム管理役割の一部として、システムコンソール110は、計算パーティション120〜170の計算能力と、システムオペレータまたは他の計算システムとの間のインターフェースとして作用する。その目的のために、システムコンソール110は、システムオペレータのために、とりわけ、1)ハードウェアをブートすること、2)システム計算リソースを計算パーティションに分割すること、3)パーティションを初期化すること、4)各パーティションおよびその中で生じさせられる任意のハードウェアまたはソフトウェアのエラーの健全性をモニタすること、5)オペレーティングシステムおよびアプリケリーションソフトウェアを種々のパーティションに分配すること、6)オペレーティングシステムおよびソフトウェアを実行させること、7)パーティションまたはその中のソフトウェアの状態をバックアップすること、8)アプリケーションソフトウェアをシャトダウンすること、および、9)計算パーティションまたは全体のHPCシステム100をシャトダウンすることを可能にするコマンドを、HPCシステムハードウェアおよびソフトウェアに発する。これらの特定機能は、「システムオペレーション」と題される下記のセクションでより詳細に記載される。
図2は、図1の実施形態に従う、高性能計算システム100の物理図を概略的に示す。図1のHPCシステム100を含むハードウェアは、点線によって取り囲まれている。このHPCシステム100は、ユーザアクセスを容易にするために、企業データネットワーク210に接続されている。
このHPCシステム100は、システムコンソール110の機能を実施するシステム管理ノード(「SMN」)220を含む。この管理ノード220は、デスクトップコンピュータ、サーバコンピュータ、または、企業もしくはHPCシステム設計者のいずれかによって提供される他の類似の計算デバイスとして実行され得、HPCシステム100を制御するために必要なソフトウェア(すなわち、システムコンソールソフトウェア)を含み得る。
HPCシステム100は、企業ローカルエリアネットワーク(「LAN」)、仮想私設網(「VPN」)、インターネットなど、または、これらネットワークの組み合わせのような、当該技術分野で公知の任意のデータネットワークを含み得るデータネットワーク210を使用してアクセス可能である。これらのネットワークのうちの任意のものは、多くのユーザが、HPCシステムリソースに、遠隔から、かつ/または、同時にアクセスすることを可能にし得る。例えば、管理ノード220は、Window(登録商標)Remote Desktop ServicesまたはUnix(登録商標) secure shellのような当該技術分野で公知のツールを使用する遠隔ログインを介して、企業コンピュータ230によってアクセスされ得る。企業がそのような気になると、HPCシステム100へのアクセスは、遠隔コンピュータ240に提供され得る。遠隔コンピュータ240は、まさに記載されたように管理ノード220へのログインを介して、または、当業者に公知であるようなゲートウェイまたはプロキシシステムを使用して、HPCシステムにアクセスし得る。
HPCシステム100のハードウェア計算リソースは(例えば、図1に示されるプロセッサ、メモリ、不揮発性ストレージ、および、I/Oデバイス)、図2に示されるブレードシャーシ252、254、256、258のような1つ以上の「ブレードシャーシ」によって集合的に提供され、それらは、管理され、かつ、計算パーティションに割り当てられる。ブレードシャーシは、「ブレード(blade)」と呼ばれる複数のスタック可能なモジュール式電子回路ボード間の高速度データ通信を収容し、それに出力を与え、それを提供するように構成されている電子シャーシである。各ブレードは、独立型の計算サーバとして作用するために十分な計算ハードウェアを含む。ブレードシャーシのこのモジュール式の設計は、ブレードが、最小の配線と垂直スペースを伴って電源およびデータラインに接続されることを可能にする。
したがって、各ブレードシャーシ、例えばブレードシャーシ252は、計算リソースを提供するために、ブレードシャーシ252、および、多くのブレード262、264、266におけるシステム機能を管理するためのシャーシ管理コントローラ260(「シャーシコントローラ」または「CMC」とも称される)を有する。各ブレード、例えばブレード262は、そのハードウェア計算リソースをHPCシステム100の集合的な全体リソースに寄与させる。システム管理ノード220が、シャーシコントローラ260のようなシャーシコントローラを使用して、全体のHPCシステム100のハードウェア計算リソースを管理する一方で、各シャーシコントローラは、そのブレードシャーシにおける適切なブレードについてのリソースを管理する。シャーシコントローラ260は、下記でより詳細に記載されるように、ローカル管理バス268によってブレードシャーシ252の内側でブレード262〜266に物理的かつ電気的に結合される。他のブレードシャーシ254〜258におけるハードウェアは、同様に構成される。
シャーシコントローラは、管理接続270を使用して互いと通信する。管理接続270は、例えば、イーサネット(登録商標)通信プロトコル、または、他のデータバスを稼働させるための高速度LANであり得る。対照的に、ブレードは、計算接続280を使用して互いと通信する。その目的のために、計算接続280は、カリフォルニア州フレモントのSilicon Graphics International Corpによって開発されたNumaLInkのような、高バンド幅、低待ち時間システム相互接続を例示的に有する。
シャーシコントローラ260は、HPCシステムの残りにシステムハードウェア管理機能を提供する。例えば、シャーシコントローラ260は、SMN200からシステムブートコマンドを受け取り得、ローカル管理バス268を使用して、ブレード262〜266の各々にブートコマンドを発することによって応答する。同様に、シャーシコントローラ260は、ブレード262〜266のうちの1つ以上からハードウェアエラーデータを受け取り得、他のシャーシコントローラによって記憶されたエラーデータと組み合わせて、後の分析のためにこの情報を記憶し得る。いくつの実施形態では、図2に示されるもののように、SMN220または企業コンピュータ230は、システム管理コマンドを処理することによりHPCシステム100を制御し、かつ、これらのコマンドを他のシャーシコントローラに転送する単一のマスターシャーシコントローラ260へのアクセスを提供される。しかし、他の実施形態では、SMN220は、管理接続270に直接結合され、各シャーシコントローラにコマンドを個々に発する。当業者は、同じタイプの機能性を可能にするこれらの設計の改変例を企図し得るが、明瞭さのためにこれらの設計のみが本明細書に提示されている。
ブレードシャーシ252、そのブレード262〜266、および、ローカル管理バス268は、当該分野で公知であるように提供され得る。しかし、シャーシコントローラ260は、HPCシステム設計者によって提供されるハードウェア、ファームウェア、または、ソフトウェアを使用して実装され得る。各ブレードは、独立型のコンピュータサーバの技術分野で公知の、ある程度の量のプロセッサ、揮発性メモリ、不揮発性ストレージ、および、I/Oデバイスを備えたHPCシステム100を提供する。しかし、各ブレードはまた、「システムオペシーション」と題されるセクションでより詳細に下記で説明されるように、これら計算リソースが、一緒にグループ化されて、計算パーティションとして集合的に扱われることを可能にするためのハードウェア、ファームウェア、および/または、ソフトウェアを有する。
図2は、各シャーシ中に4つのシャーシおよび3つのブレードを有するHPCシステム100を示しているが、シャーシとブレードとの任意の組み合わせが使用され得、これらの図は、本発明の実施形態の範囲を限定しないことが認識されるべきである。例えば、HPCシステムは、数十のシャーシおよび数百のブレードを有し得、実際、HPCシステムは、しばしば、所望される。なぜなら、それらは、非常に大きな量のしっかりと結合された計算リソースを提供するからである。
図3は、単一ブレードのシャーシ252をより詳細に概略的に示す。この図では、この場での説明に関連しないパーツが省略されている。シャーシコントローラ260は、システム管理ノード220への、および、管理接続270へのその接続とともに示されている。シャーシコントローラ260は、シャーシ管理データを記憶するためのシャーシデータ記憶装置302を提供される。シャーシデータ記憶装置302は、揮発性ランダムアクセスメモリ(「RAM」)であり得、シャーシデータ記憶装置302におけるケースデータは、計算パーティションのうちの1つ以上が(例えば、OSクラッシュに起因して)故障するか、または、ブレードが誤作動した場合でさえ、電力がブレードシャーシ252に印加されている限り、SMN220によってアクセス可能である。シャーシデータ記憶装置302は、ハードディスクドライブ(「HDD」)またはソリッドステートドライブ(「SSD」)のような不揮発性ストレージであり得る。この場合、シャーシデータ記憶装置302におけるデータは、HPCシステムがパワーダウンして再ブートされた後にアクセス可能である。
図3は、議論の目的のためのブレード262および264の詳細な実装の関連する部分を示す。ブレード262は、シャーシレベルでシャーシコントローラによって実施される機能に類似の様式で、ブレードレベルでシステム管理機能を実行するブレード管理コントローラ310(「ブレードコントローラ」または「BMC」とも呼ばれる)を含む。シャーシコントローラおよびブレードコントローラの動作に関するより詳細については、下記の「システムオペレーション」と題されるセクションを参照のこと。ブレードコントローラ310は、HPCシステム設計者によってシャーシコントローラ260との通信を可能にするように設計されたカスタムハードウェアとして実装され得る。さらに、ブレードコントローラ310は、それ自体のRAM316を有することによりその管理機能を実施し得る。シャーシコントローラ260は、図3および先の図に示されるように、ローカル管理バス268を使用して各ブレードのブレードコントローラと通信する。
ブレード262はまた、RAM324、326に接続される1つ以上のプロセッサ320、322を含む。ブレード262は、当該分野で公知であるように、複数のプロセッサが単一のバス上で共通セットのRAMにアクセスし得るように、交互に構成され得る。プロセッサ320、322は、当該技術分野で公知であるように、任意の数の中央プロセッシングユニット(「CPU」)またはコアを含み得ることも、認識されるべきである。ブレード262におけるプロセッサ320、322は、I/Oデバイス332と通信するデータバス、不揮発性ストレージ334と通信するデータバス、および、スタンドアローン計算システムで共通に見出される他のバスのような他のアイテムに接続され得る(明瞭さのために、図3は、プロセッサ320からこれら他のデバイスへの接続のみを示す)。プロセッサ320、322は、例えば、Intel Corporationによって製造されるIntel(登録商標)CoreTMプロセッサであり得る。I/Oバスは、例えば、PCIまたはPCI Express(「PCIe」)バスであり得る。ストレージは、例えば、SATA、SCSI、または、ファイバチャネルバスであり得る。他のバス標準、プロセッサタイプ、および、プロセッサ製造業者が本発明の例示的な実施形態とともに使用され得ることが、認識される。
各ブレード(例えば、ブレード262および264)は、その機能性の多くを制御するアプリケーション特定用途向けIC340(「ASIC」、「ハブチップ」、または、「ハブASIC」とも称される)を含み得る。より詳細には、プロセッサ320、322、RAM324、326、および、他のデバイス332、334を論理的に一緒に接続することにより、管理された複数プロセッサの同期共有分散メモリ(managed, multi−processor, coherently−shared distributed−memory)HPCシステムを形成するために、プロセッサ320、322は、ハブASIC340に電気的に接続される。それゆえ、このハブASIC340は、SMN220によって生じさせられるHPCシステム管理機能、シャーシコントローラ260、および、ブレードコントローラ310と、ブレード262の計算リソースとの間のインターフェースを提供する。
この接続では、ハブASIC340は、集積回路間に信号を通過させるための書き換え可能ゲートアレイ(「FPGA」)342または類似のプログラム可能なデバイスによって、ブレードコントローラ310と接続する。特に、シャーシコントローラ260によって発せられたコマンドに応答して、信号が、ブレードコントローラ310の出力ピン上に生じさせられる。これらの信号は、FPGA342によって、ハブASIC340の特定の入力ピンのためのコマンドに翻訳され、その逆も起こる。例えば、シャーシコントローラ260からブレードコントローラ310によって受け取られる「パワーオン」信号は、とりわけ、ハブASIC340上の特定のピンに「パワーオン」電圧を提供することを要求し、このFPGA342は、このタスクを容易にする。
FPGA342の書き換え可能性質は、ブレードコントローラ310とASIC340との間のインターフェースが、製造後に再プログラム可能であることを可能にする。それゆえ、例えば、ブレードコントローラ310とASIC340は、特定の包括的な機能を有するように設計され得、FPGA342は、アプリケーション特異的な様式でこれら機能の使用をプログラムするために有利に使用され得る。ブレードコントローラ310とASIC340との間の通信インターフェースはまた、いずれかのモジュールでハードウェア設計エラーが発見された場合、アップデートされ得、新たなハードウェアが製造される必要なしで迅速なシステム修復を可能にする。
また、計算リソースとシステム管理との間のインターフェースとしての役割と関連して、ハブASIC340は、高速プロセッサ相互接続344によってプロセッサ320、322に接続される。1つの実施形態では、プロセッサ320、322は、この目的のためにIntel(登録商標)QuickPath Interconnect(「QPT」)を提供するIntel Corporationによって製造され、ハブASIC340は、QPIを使用してプロセッサ320、322と通信するためのモジュールを含む。他の実施形態は、他のプロセッサ相互接続構成を使用し得る。
各ブレードにおけるハブチップ340はまた、高バンド幅、低待ち時間のデータ通信のための他のブレードへの接続を提供する。それゆえ、ハブチップ340は、異なるブレードシャーシを接続する計算接続280へのリンク350を含む。このリンク350は、例えば、ネットワークケーブルを使用して実装される。ハブASIC340はまた、同じブレードシャーシ252における他のブレードへの接続を含む。ブレード262のハブASIC340は、シャーシ計算接続352によって、ブレード264のハブASIC340に接続する。シャーシ計算接続352は、ネットワークケーブルを使用するのではなく、ブレードシャーシ252のバックプレーン上のデータバスとして実装され得、有利なことに、高性能計算タスクのために要求されるブレード間超高速データ通信を可能にする。シャーシ間計算接続280およびシャーシ内計算接続352の両方におけるデータ通信は、NumaLinkプロトコルまたは類似のプロトコルを使用して実装され得る。
システムオペレーション
システム管理コマンドは、概して、SMN220から、管理接続270を通り、ブレードシャーシ(およびそれらのシャーシコントローラ)に、次いで、ブレード(およびそれらのブレードコントローラ)に、最終的に、システム計算ハードウェアを使用してコマンドを実装するハブASICSに伝搬する。
システム管理コマンドは、概して、SMN220から、管理接続270を通り、ブレードシャーシ(およびそれらのシャーシコントローラ)に、次いで、ブレード(およびそれらのブレードコントローラ)に、最終的に、システム計算ハードウェアを使用してコマンドを実装するハブASICSに伝搬する。
例えば、HPCシステムをパワーオンするプロセスを考える。HPCシステム100は、システムオペレータがSMN220から「パワーオン」コマンドを発するとき、パワーが与えられる。SMN220は、ブレードシャーシ252におけるシャーシコントローラ260のようなそれらの個々のシャーシコントローラによって、このコマンドをブレードシャーシ252〜258の各々に伝搬する。次いで、各シャーシコントローラは、ブレード262のブレードコントローラ310のような、それらのそれぞれのブレードコントローラによって、そのブレードシャーシにおけるそれぞれのブレードの各々に「パワーオン」コマンドを発する。ブレードコントローラ310は、「パワーオン」コマンドを、ハブチップ340を初期化するハブチップのピンのうちの1つに信号を提供するFPGA342を使用して、その対応するハブチップ340に発する。他のコマンドも同様に伝搬される。
HPCシステムがパワーオンされると、その計算リソースは、計算パーティションに分割され得る。各計算パーティションに割り当てられる計算リソースの量は、管理者決定である。例えば、企業は、完成すべき多くのプロジェクトを有し得、各プロジェクトは、特定量の計算リソースを要求するように企画される。異なるプロジェクトは、異なる比率の処理パワー、メモリ、および、I/Oデバイス使用を要求し得、異なるブレードは、インストールされる異なる量のリソースを有し得る。HPCシステム管理者は、HPCシステム100の計算リソースをパーティション化するときにこれらを考慮する。計算リソースをパーティション化することは、各ブレードのRAM316をプログラムすることによって達成され得る。例えば、SMN220は、システムコンフィグレーションファイルを読み取った後に、適切なブレードプログラミングコマンドを発し得る。
HPCシステム100の集合的ハードウェア計算リソースは、任意の管理者ニーズにしたがって、計算パーティションに分割され得る。それゆえ、例えば、単一の計算パーティションは、1つのブレードシャーシ252のブレードのうちのいくつかまたは全て、複数のブレードシャーシ252および254のブレードのうちの全て、1つのブレードシャーシ252のブレードのうちのいくつか、および、ブレードシャーシ254のブレードのうちの全ての計算リソース、全体のHPCシステム100の計算リソースのうちの全て、または、他の類似の組み合わせを含み得る。ハードウェア計算リソースは、統計的にパーティションに区切られ、この場合、全体のHPCシステム100の再ブートは、ハードウェアを再割り当てすることが必要とされる。あるいは、かつ、好ましくは、HPCシステム100がパワーオンされる間に、ハードウェア計算リソースは、動的にパーティション化される。このようにして、割り当てられないリソースは、他のパーティションの動作を中断することなくパーティションに指定され得る。
HPCシステム100が適切にパーティション化されると、各パーティションは、スタンドアローンの計算システムとして作用すると考えられ得ることが、注記されるべきである。それゆえ、2つ以上のパーティションは、HPCシステム100の内側で、論理的計算グループを形成するように組み合わされ得る。このようなグルーピングは、例えば、特定の計算タスクが、単一のオペレーティングシステムが制御し得るよりも多くのプロセッサまたはメモリに割り当てられる場合、必要であり得る。例えば、単一のオペレーティングシステムが64のプロセッサのみを制御し得るが、特定の計算タスクが256のプロセッサの組み合わされたパワーを必要とする場合は、4つのパーティションが、このようなグループにおいてタスクを割り当てられる。このグルーピングは、各計算パーティションに同じソフトウェアをインストールすること、および、パーティションにVPNを提供することのような当該分野で公知の技法を使用して達成され得る。
少なくとも1つのパーティションが作成されると、このパーティションは、ブートされ得、その計算リソースは初期化される。パーティション160のような各計算パーティションは、単一のOS 191および単一のBIOS192を有するように論理的に見られ得る。当該分野で公知のように、BIOSは、利用可能なハードウェアを電気的に探り、かつ、OSがブート可能であるような既知状態にそれを初期化する命令の集合であり、典型的に、各物理的サーバ上のファームウェアチップ上に提供されている。しかし、単一の論理的計算パーティション160は、いくつかのブレードにまたがり得、または、いくつかのブレードシャーシにさえまたがり得る。ブレードは、特定のパーティションへのその割り当てを強調するために「計算ノード」または単に「ノード」と称され得るが、物理的ブレードは、それが複数のプロセッサ320、322およびメモリ324、326を有する場合、1つよりも多い計算ノードを含み得ることが、理解される。
パーティションをブートすることは、標準ブレードシャーシに多くの改変がなされることを要求し得る。特に、各ブレードにおけるBIOSは、同じブレードまたはブレードシャーシにおけるものではない同じ計算パーティションにおける他のハードウェアリソースを決定するように改変される。SMN220によってブートコマンドが発せられた後、ハブASIC340は、適切な信号をプロセッサ320に最終的に提供することにより、BIOS命令を使用してブートプロセスを開始する。BIOS命令は、次いで、パーティションにおける識別(ノード)番号、ノード相互接続トポロジー、パーティションにおける他のノード中に存在するデバイスのリスト、および、パーティションにおける全てのノードによって使用されるマスタークロック信号などのような、ハブASIC340からのパーティション情報を得る。この情報で武装させられて、プロセッサ320は、ブレード262を初期化するために要求されるいかなるステップをも取り得、これは、1)I/Oデバイス332および不揮発性ストレージ334を初期化することのような非HPC特異的ステップと、2)また、ローカルハードウェアクロックをマスタークロック信号に同期すること、所与のノードにおけるHPC特化型ハードウェアを初期化すること、パーティションにおける他のノードがそのRAMにアクセスした情報を含むメモリディレクトリを管理すること、および、パーティション幅の物理的メモリマップを準備することなどのHPC特異的ステップとを含む。
この点で、各物理的BIOSは、パーティションのそれ自体のビュー(view)を有し、各ノードにおける計算リソースの全ては、OSがロードするために準備される。次いで、BIOSは、OSイメージを読み取り、マルチプロセッサシステムの分野で公知の技法にしたがって、それを実行する。BIOSは、ハードウェア自体が複数ブレードシャーシおよびブレードの間に分散させられているとしても、OSにパーティションハードウェアのビューを、それが単一の非常に大きな計算デバイス中に存在する全てであるかのように提示する。このようにして、単一のOSインスタンスは、それ自体を、そのパーティションに指定されているブレードシャーシおよびブレードのいくつかまたは好ましくは全てを横切って広がる。異なるオペレーティングシステムが種々のパーティションにインストールされ得る。OSイメージが存在しない場合、例えばパーティションが作成された直後には、パーティションブートの前に当該分野で公知のプロセッサを使用してOSイメージがインストールされ得る。
OSが安全に実行していると、そのパーティションは、単一の論理的計算デバイスとして動作させられ得る。所望の計算処理を実行するためのソフトウェアは、HPCシステムオペレータによって種々のパーティションにインストールされ得る。ユーザは、次いでSMN220にログインする。SMN220からのそれらのそれぞれのパーティションへのアクセスは、例えば、ログイン資格証明書に基づいたボリュームマウンティングおよびディレクトリ許可を使用して制御され得る。システムオペレータは、各パーティションの健全性をモニタし得、ハードウェアまたはソフトウェアのエラーが検出されるとき、矯正ステップをとる。長期実行アプリケーションプログラムの現在の状態は、定期的、または、システムオペレータまたはアプリケーションユーザのコマンドのいずれかで、不揮発性ストレージにセーブされることにより、システムまたはアプリケーションのクラッシュの事象で作業を失うことに対する保護を行う。システムオペレータまたはシステムユーザは、アプリケーションソフトウェアをシャットダウンするためのコマンドを発し得る。HPCパーティションの他のオペレーションは、当業者に公知であり得る。管理者が要求するとき、システムオペレータは、計算パーティションを完全にシャットダウンし得、パーティションにおける計算リソースを再割り当てもしくは割り当て解除し得、または、全体のHPCシステム100をパワーダウンし得る。
ツインサーバブレード構成
図4A〜4Dは、本発明の実施形態にしたがって、HPCシステム100中で使用され得る計算ブレード12の種々の図を概略的に示す。計算ブレード12は、1つ以上の計算ボード14と、計算ボード14のいずれかの側面に配置された2つのサイドレール16とを含む。図4Cおよび4Dに示されるように、各サイドレール16は、計算ブレード12内に計算ボード14を保持するように構成された1つ以上のボード整列要素18を有する。図5により詳細に示されるように、ボード整列要素18は、計算ボード14の上部14aがボード取り付け部分18aに隣接するように、計算ボード14に結合するように構成されているボード取り付け部分18aを含む。サイドレール16およびボード整列要素18のこの構成の利点は、それが広範な種々の機能的ボードアセンブリが使用されることを可能にするからである。なぜなら、このボード取り付け特徴は、ボード14の底部14bよりもむしろ、ボードの上部整列のために構成されているからである。これは、ブレード整列可能許容差のより良好な制御を可能にし、使用されるべきボード厚みのより広い範囲を可能にする。さらに、計算ボード14をブレード12内にマウントするためのサイドレール16およびボード整列要素18の使用は、パンまたはキャリアトレイの必要性をなくし、このことは、ブレード12で使用される重量および材料を最小にし、それゆえ、全体のHPCシステム100の重量を低減する。
図4A〜4Dは、本発明の実施形態にしたがって、HPCシステム100中で使用され得る計算ブレード12の種々の図を概略的に示す。計算ブレード12は、1つ以上の計算ボード14と、計算ボード14のいずれかの側面に配置された2つのサイドレール16とを含む。図4Cおよび4Dに示されるように、各サイドレール16は、計算ブレード12内に計算ボード14を保持するように構成された1つ以上のボード整列要素18を有する。図5により詳細に示されるように、ボード整列要素18は、計算ボード14の上部14aがボード取り付け部分18aに隣接するように、計算ボード14に結合するように構成されているボード取り付け部分18aを含む。サイドレール16およびボード整列要素18のこの構成の利点は、それが広範な種々の機能的ボードアセンブリが使用されることを可能にするからである。なぜなら、このボード取り付け特徴は、ボード14の底部14bよりもむしろ、ボードの上部整列のために構成されているからである。これは、ブレード整列可能許容差のより良好な制御を可能にし、使用されるべきボード厚みのより広い範囲を可能にする。さらに、計算ボード14をブレード12内にマウントするためのサイドレール16およびボード整列要素18の使用は、パンまたはキャリアトレイの必要性をなくし、このことは、ブレード12で使用される重量および材料を最小にし、それゆえ、全体のHPCシステム100の重量を低減する。
サイドレール16およびボード整列要素18は、種々の方法で構成され得る。好ましくは、ボード取り付け部分18aは、サイドレール16の主要部分に実質的に垂直である比較的平坦な領域を含み、その結果として、計算ボード14は、ブレード12内で互いに実質的に垂直に保持される。例えば、図5に示されるように、ボード整列要素18は、サイドレール16に実質的に垂直である上部ボード取り付け部分および下部ボード取り付け部分18aを伴ってc字形状であり得、その結果として、計算ボード14の上部14は、ボード取り付け部分18aの外側側面に隣接し、それに結合される。あるいは、ボード整列要素18はまた、図6に示されるように、他の形状を有し得る。ボード整列要素18はまた、図6に示されるように、ボード取り付け部分18aを超えて延びる据え付けセクション18bを含み得る。据え付けセクション18bは、スナップ嵌め構成にあるように、ボード整列要素18をサイドレール16に係合しかつ結合するような構成され得る。
サイドレール16およびボード整列要素18構成を使用してブレード12内の側面上に計算ボード14をマウントする別の利点は、2つ以上の計算ボード14が、図4A〜4Dおよび7Bに示されるように、ブレード12内で互いの上部上に容易に積み重ねられ得ることである。この構成は、1つの計算ボード14の上部14aが、他の計算ボード14の上部14aに面することを可能にし、これは、この2つのボード14がブレード12内の構成要素を共有することを可能にする。例えば、図7Aおよび7Bに示されるように、空冷ヒートシンク20が、対向する計算ボード14上で2つのプロセッサ22の間に配置され得る。
計算ボード14は、MIC(多数の一体化されたコア)またはCPU(グラフィックスプロセッシングユニット)の密集形態ファクタカードを含み得る。好ましくは、各計算ボード14は、別個の計算ノードとして構成され得、その結果として、計算ブレード12は、2つの計算ノードを含み、それらの計算ノードは、論理的には独立ではあるが、下記の図13Aおよび13Bに示されるように、ブレードエンクロージャにおける単一のスロットを共有するために、物理的には一緒に繋ぎ合わされ、種々のハードウェア構成要素を共有する。このようにして、1つの計算ボード14の損失が、全体の計算ブレード12を動作不能にはしない。このツインノード構成は、存在する単一ノードブレード構成を上回る達成可能な計算密度を効率的に倍増させる。
本発明の実施形態に従う計算ブレード12構成の別の利点は、共通のレイアウトまたはインフラストラクチャーが、図7Aに示されるような、ベース計算セクションにおいて、ベースノード(「Aノード」と指定される)および中二階(mezzanine)ノード(「Bノード」と指定される)の両方上で使用され得ることである。このブレード構成はまた、構成要素(例えば、メモリ24)の交互配置(interleaving)を可能にし、これは、よりコンパクトな構成を規定し、空間を節約し、また、ベース計算セクションにおける両方のボード14を横切る1つの設計に梃子入れことによって、より単純な設計を可能にする。
さらに、このブレード12構成は、種々の冷却システムを可能にする。例えば、ブレード12は、下記の「オンブレード冷却システム」および「CDUとの閉鎖ループ冷却セル構成」と題されるセクションでより詳細に説明されるように、空冷されても、液冷されても、または、それら2つの組み合わせであってもよい。
オンブレード冷却システム
図8Aおよび8Bは、オンブレード冷却システムを含む計算ブレード12構成を概略的に示す。このオンブレード冷却システムは、1つ以上の冷却プレート26と、この冷却プレート26に結合されて(図13Aおよび13Bに示されるような)ブレードエンクロージャ32における冷却マニホールド30と流体連通している流体接続28とを含む。1つ以上の冷却プレート26は、2つの計算ボード14間に配置され、かつ、上部および下部計算ボード14上のプロセッサコア22間に位置させられるように構成される。この構成に応じて、オンブレード冷却システムは、計算ブレード12における個々のデュアルソケットノードによって散逸させられる熱の約50〜60%を吸収し得る。
図8Aおよび8Bは、オンブレード冷却システムを含む計算ブレード12構成を概略的に示す。このオンブレード冷却システムは、1つ以上の冷却プレート26と、この冷却プレート26に結合されて(図13Aおよび13Bに示されるような)ブレードエンクロージャ32における冷却マニホールド30と流体連通している流体接続28とを含む。1つ以上の冷却プレート26は、2つの計算ボード14間に配置され、かつ、上部および下部計算ボード14上のプロセッサコア22間に位置させられるように構成される。この構成に応じて、オンブレード冷却システムは、計算ブレード12における個々のデュアルソケットノードによって散逸させられる熱の約50〜60%を吸収し得る。
このオンブレード冷却システムは、図9Aに示されるような、互いの上部に配置された1つ以上の冷却プレート26、または、図9Bに示されるような、横に並んだ構成における1つ以上の冷却プレート26を含み得る。好ましくは、図8Bに示されるように、2つの冷却プレート26は、計算ブレード12の1つの領域における2つの計算ボード間に配置され、2つの冷却プレート26は、計算ブレード12の別の領域における2つの計算ボード間に配置され、その結果として、計算ボード14中の各プロセッサ22は、それ自体の冷却プレート26を有する。計算ブレード12のバルクヘッドまたは前面プレート36は、計算ブレード12の内側部分へのアクセスを可能にするために容易に除去され得、ブレードを分解することなしの冷却プレート26の設置および除去を可能にし得る。さらに、前面パネル36は、内部計算ブレード構成要素と外部環境との間の電磁妨害(EMI)バリアを提供し得る。
図9Bにより詳細に示されるように、冷却プレート26は、内部通路34を有し得、これは、冷却流体(例えば、水)が、冷却プレート26における熱を除去するためにこの通路を通って流れることを可能にする。熱は、計算ブレード12におけるプロセッサ22によって発生させられ、冷却プレート26によって吸収される。オンブレード冷却システムおよび冷却プレート26構成のさらなる詳細は、「ON−BLADE COLD SINK FOR HIGH−DENSITY CLUSTERED COMPUTER SYSTEM」と題される米国特許出願第13/931,730号に見出されることができ、この出願は、その全体が本明細書に参照によって援用される。
冷却プレート26は、計算ブレード12内のプロセッサとともに典型的に使用されるヒートシンクを置き換え得る。例えば、図10Aおよび10Bは、単一セットの冷却プレート26が対向するボード14間に配置される計算ブレード12構成を示し、図11Aおよび11Bは、2セットの冷却プレート26が対向するボード14間に配置される結果として各プロセッサ22がそれ自体の冷却プレート26に隣接している計算ブレード12構成を示す。
あるいは、冷却プレート26は、図12に示されるように、空冷ヒートシンクと組み合わせて使用され得る。例えば、計算ブレード12の1つの領域(例えば、領域12a)において、ヒートシンク20は、計算ボード14のいずれかの側面上に配置され得、次いで、冷却プレート26は、ヒートシンク20のうちの1つ以上に隣接して配置され得る。任意のさらなる熱は、ラックの後部に位置させられるファンによって空冷され得るか、または、下記の「CDUとの閉鎖ループ冷却セル構成」と題されるセクションにおいてより詳細に議論されるような閉鎖ループ空気流れ構成によって空冷され得る。
図13Aおよび13Bは、オンブレード冷却システムを使用するHPCシステム100を概略的に示す。冷却プレート26および流体接続28に加え、このオンブレード冷却システムは、冷却マニホールド38を有し、かつ、複数の計算ブレード12を保持するように構成された1つ以上のブレードエンクロージャ32を含む。冷却マニホールド38は、専用の供給ライン38aおよび戻りライン38bを含み得、これらは、流体接続28のそれぞれの供給ライン28aおよび戻りライン28bに流体的に結合され得る。冷却マニホールド38は、図13Aおよび13Bに示されるように、ブレードエンクロージャ32の側面に沿って垂直に配置され得、または、水平および垂直に配置され得る。しかし、冷却マニホールド38の流体接続28への接続をブレードエンクロージャ32の前面に向かって配置することは、何らかの漏れの場合に流体接続28の視覚的検査を容易に可能にする。
1つ以上の冷却プレート26を使用するとしても、各計算ブレード12のための冷却プレート26(単数または複数)は、流体コネクタ42(図14にファントムで示される)を介して流体冷却マニホールド38に接続される。流体コネクタ42は、流体接続28の端部、例えば可撓性ホースの端部に取り付けられる。この構成は、冷却流体が、冷却マニホールド38から、実質的に互いと平行である計算ブレード12の各々のための流体接続28の各々を通って(それゆえ、所与の計算ブレード12内の冷却プレート26の各セットを通って)流れることを可能にする。
動作において、冷却液体は、流体接続40を通り、ブレードエンクロージャ32中の冷却マニホールド38における供給ライン38aに流れ、次いで、各個々のブレード12を冷却マニホールド38に接続する流体接続28の供給ライン28aを通って流れる。次いで、冷却流体は、冷却マニホールド38における戻りライン28bを通って戻りライン38bに流れ、暖められた冷却流体は、流体接続40を介して戻る。流体接続40は、この流体接続40に接続されるさらなる外部冷却ユニットとともに、または、それなしで、供給ライン40aおよび戻りライン40bを介して広範な設備供給冷却水に接続され得る。さらなる冷却が必要である状況では、液体 対 水熱交換器が、下記の「オンブレード冷却との冷却分配ユニット」と題されるセクションでさらに詳細に議論されるように、流体接続40に接続され得る。
オンブレード冷却との冷却分配ユニット
図15に示されるように、オンブレードコールドシンクシステムは、特定のタイプの計算ブレード、例えばカリフォルニア州フレモントのSilicon Graphics International Corp.によって販売されている720W Gemini Twin計算ブレードのための増加した冷却要件をサポートするために、ブレードエンクロージャ(単数または複数)32を保持する計算ラック46の外部にある冷却分配ユニット(CDU)44のような外部冷却システムとともに使用され得る。例えば、計算ブレード12によって生成される熱の量が約600ワットを超えるとき、CDU44は、上記のオンブレードコールドシンクシステムとともに使用され得る。このCDU44は、1つが供給ライン40aを有し、かつ、1つが戻りライン40bを有する流体接続(例えば、ホース)40のセットを介して、図15に示されるように、1つ以上のブレードエンクロージャ32に接続され得る。
図15に示されるように、オンブレードコールドシンクシステムは、特定のタイプの計算ブレード、例えばカリフォルニア州フレモントのSilicon Graphics International Corp.によって販売されている720W Gemini Twin計算ブレードのための増加した冷却要件をサポートするために、ブレードエンクロージャ(単数または複数)32を保持する計算ラック46の外部にある冷却分配ユニット(CDU)44のような外部冷却システムとともに使用され得る。例えば、計算ブレード12によって生成される熱の量が約600ワットを超えるとき、CDU44は、上記のオンブレードコールドシンクシステムとともに使用され得る。このCDU44は、1つが供給ライン40aを有し、かつ、1つが戻りライン40bを有する流体接続(例えば、ホース)40のセットを介して、図15に示されるように、1つ以上のブレードエンクロージャ32に接続され得る。
図16をまた参照して、このCDU44は、熱交換器50と、他の制御、バルブ、および、配管に加えて1つ以上の循環ポンプ(単数または複数)52とを取り囲むハウジング48を含む。図15は、CDU44から、ブレードエンクロージャ32の側面に位置させられる冷却マニホールド38のセットへの冷却剤経路を示す。動作において、1つ以上の循環ポンプ52は、流体接続40の供給ライン40a内の冷却流体を冷却マニホールド38に移動させ、次いで、各個々のブレード12を冷却マニホールド38に接続する流体接続28を通って移動させるように構成される。冷却流体が、冷却プレート26における通路34を通って流れ、ブレード12におけるプロセッサ22によって生成された熱を除去した後、次いで、冷却流体は、冷却マニホールド38における戻りラインに流れ、暖まった冷却流体は、流体接続40の戻りライン40bを介してCDU44に戻される。このCDU44は、流体接続54を介して設備供給冷却水を用いて冷却される熱交換器50を介して冷却液体から熱を除去し、次いで、このCDU44は、冷却された冷却液体を冷却マニホールド38に戻すようにポンプ輸送する。
CDU44から冷却マニホールド38への冷却剤経路は、閉鎖ループシステムであり、これは、流体接続28または40で漏れが生じた場合に失われる液体の量を最小にすることを支援する。例えば、この閉鎖ループシステムは、水処理溶液、例えば約1リットルとともに、約55ガロンの蒸留水を保持し得る。使用され得る好適な水処理溶液は、バージニア州リッチモンドのChemtreat,Inc.から商業的に入手可能であるもののような、水酸化ナトリウム溶液を含む。
CDU44は、ビルディング冷水システムと、計算ラック46内の冷却マニホールド38との間でインターフェース接続され、冷却マニホールド38への冷水を循環させて制御するように設計されている。この目的のために、CDU44は、部屋条件をモニタし得、冷却マニホールド38にポンプ輸送されている冷水を部屋の露点を超える温度に維持することによってコイル結露を防ぐ。(利用可能な場合)ポンプをスイッチすること、水温を制御することのような、CDU44内の全ての機能は、自動化され得る。CDU44は、流体接続54によってビルディング供給および戻り配管に接続され、また、流体接続40によって冷却マニホールド38に結合される。
CDUとの閉鎖ループ冷却セル構成
オンブレードコールドシンクシステムはまた、図17に示されるように、2つの計算ラック46と、計算ラック46間の冷却タワー62とを含む閉鎖ループ冷却セル構成とともに使用され得る。各計算ラック46は、上記で議論されるような冷却マニホールド38とオンブレード冷却システムを有する少なくとも1つのブレードエンクロージャ32を含む。例えば、冷却タワー62は、冷却マニホールド38を含むM−Rackおよびワイド−ラック構成とともに使用され得る。
オンブレードコールドシンクシステムはまた、図17に示されるように、2つの計算ラック46と、計算ラック46間の冷却タワー62とを含む閉鎖ループ冷却セル構成とともに使用され得る。各計算ラック46は、上記で議論されるような冷却マニホールド38とオンブレード冷却システムを有する少なくとも1つのブレードエンクロージャ32を含む。例えば、冷却タワー62は、冷却マニホールド38を含むM−Rackおよびワイド−ラック構成とともに使用され得る。
冷却タワー62は、1つ以上の水冷熱交換器、および、水背面に向かう計算ラックの側面からの暖まった空気を、冷熱交換器を横切って引き込み、かつ、冷却された空気を前面に向かって計算ラックの側面に循環させるように構成された1つ以上のブロワを含む。この閉鎖ループ冷却セル構成はさらに、計算ラック46および冷却タワー62を取り囲むハウジング64を含むことにより、ハウジング64内に閉鎖ループ空気流れを提供する。閉鎖ループ冷却セル構成のさらなる詳細は、「CLOSED−LOOP COOLING SYSTEM FOR HIGH−DENSITY CLUSTERED COMPUTER SYSTMEM」と題される米国特許出願第13/931,754に見出されることができ、この出願は、その全体が本明細書に参照によって援用される。
上記の議論は、本発明の種々の例示的な実施形態を開示しているが、当業者が、本発明の真の範囲から逸脱することなく、本発明の利点のいくつかを達成する種々の改変をなし得ることは、明らかである。
Claims (19)
- 複数の計算ブレードを有する高性能計算(HPC)システムであって、少なくとも1つの計算ブレードは、
1つ以上の計算ボードと、
前記計算ボードのいずれかの側面に配置された2つのサイドレールであって、各サイドレールは、前記計算ボードを前記計算ブレード内に保持するように構成されたボード整列要素を有し、その結果として、前記計算ボードの上部は、前記ボード整列要素のボード取り付け部分に結合され、かつ、それに隣接している、サイドレールと
を備える、HPCシステム。 - 前記ボード整列要素は、前記サイドレールに実質的に垂直である上部ボード取り付け部分および下部ボード取り付け部分を伴って実質的にc字形状であり、前記計算ボードは、前記上部ボード取り付け部分および前記下部ボード取り付け部分の外側側面に隣接している、請求項1に記載のHPCシステム。
- 前記計算ブレードは、2つの別個の計算ノードとして構成された2つの計算ボードを含み、各ボードの上部は、前記ボード整列要素の対応するボード取り付け部分に結合し、かつ、それに隣接している、請求項1に記載のHPCシステム。
- 前記2つの計算ボードは、1つの計算ボードの上部がもう一方の計算ボードの上部に面するように互いの上部上に配置される、請求項3に記載のHPCシステム。
- 各計算ボードは、ベース計算セクションを有し、前記ベース計算セクションにおける構成要素のレイアウトは、前記2つの計算ボードにおいて実質的に同じである、請求項4に記載のHPCシステム。
- 各計算ボードは、ベース計算セクションを有し、1つの計算ボード上のベース計算セクションにおけるいくつかの構成要素は、もう一方の計算ボード上のベース計算セクションにおける対応する構成要素間に交互配置される、請求項4に記載のHPCシステム。
- 前記計算ブレードは、
1つ以上の空冷ヒートシンクであって、各ヒートシンクは、前記2つの計算ボード間に配置される、ヒートシンク
をさらに含む、請求項4に記載のHPCシステム。 - 前記複数の計算ブレードを保持するように構成された1つ以上のブレードエンクロージャをさらに備え、前記ブレードエンクロージャは、前記サイドレールを保持するように構成された少なくとも2つの側面マウントを有する、請求項1に記載のHPCシステム。
- 前記計算ブレードは、2つの計算ボードを含み、前記ブレードエンクロージャは、流体冷却マニホールドを含み、前記システムは、
1つ以上の冷却プレートであって、各冷却プレートは、前記2つの計算ボード間に配置される、冷却プレートと、
前記冷却プレートに結合され、前記流体冷却マニホールドと流体連通している流体接続と
をさらに含む、請求項8に記載のHPCシステム。 - 前記流体冷却マニホールドは、前記ブレードエンクロージャの背面に沿っていて、前記2つの計算ボード間にある各冷却プレートに接続するように構成されている、請求項9に記載のHPCシステム。
- 前記冷却マニホールドは、前記ブレードエンクロージャの側面に沿っていて、前記2つの計算ボード間にある各冷却プレートに接続するように構成されている、請求項9に記載のHPCシステム。
- 2つの冷却プレートは、横に並んだ構成で前記2つの計算ボード間に配置され、前記2つの計算ボード間の1つのプレートは、前記計算ブレードの1つの領域にあり、前記2つの計算ボード間のもう一方のプレートは、前記計算ブレードの別の領域にある、請求項9に記載のHPCシステム。
- 4つの冷却プレートは、前記2つの計算ボード間に配置され、前記2つの計算ボード間の2つのプレートは、前記計算ブレードの1つの領域にあり、前記2つの計算ボード間のもう一方の2つのプレートは、前記計算ブレードの別の領域にある、請求項9に記載のHPCシステム。
- 前記冷却マニホールドは、供給ラインおよび戻りラインを含む、請求項9に記載のHPCシステム。
- 前記冷却マニホールドと流体連通している流体接続を有する外部冷却分配ユニットをさらに備える、請求項9に記載のHPCシステム。
- 前記外部冷却分配ユニットは、
前記流体接続の一部分と接触している液冷熱交換器と、
前記流体接続内の液体を前記冷却マニホールドから前記液冷熱交換器に移動させるように構成されている1つ以上のポンプと
をさらに含む、請求項15に記載のHPCシステム。 - 前記ブレードエンクロージャは、2つの計算ラックにおいて構成され、前記システムは、
前記第1の計算ラックの側面および前記第2の計算ラックの側面に隣接する冷却タワーであって、前記冷却タワーは、少なくとも1つの水冷熱交換器と1つ以上のブロワとを有し、前記1つ以上のブロワは、前記側面から前記第1の計算ラックおよび前記第2の計算ラックの背面に向かって前記水冷熱交換器を横切って暖かい空気を引き込み、かつ、冷却された空気を前記第1の計算ラックおよび前記第2の計算ラックの前面に向かって前記側面に循環させるように構成される、冷却タワーと、
前記第1の計算ラックと、前記第2の計算ラックと、前記冷却タワーとを取り囲むことにより、前記ハウジング内の閉鎖ループ空気流れを提供するハウジングと
をさらに含む、請求項16に記載のHPCシステム。 - 前記複数の計算ブレードを保持するように構成されている1つ以上のブレードエンクロージャをさらに備え、前記ブレードエンクロージャは、2つの計算ラックにおいて構成され、前記システムは、
前記第1の計算ラックの側面および前記第2の計算ラックの側面に隣接する冷却タワーであって、前記冷却タワーは、少なくとも1つの水冷熱交換器と1つ以上のブロワとを有し、前記1つ以上のブロワは、前記側面から前記第1の計算ラックおよび前記第2の計算ラックの背面に向かって前記水冷熱交換器を横切って暖かい空気を引き込み、かつ、冷却された空気を前記第1の計算ラックおよび前記第2の計算ラックの前面に向かって前記側面に循環させるように構成される、冷却タワーと、
前記第1の計算ラックと、前記第2の計算ラックと、前記冷却タワーとを取り囲むことにより、前記ハウジング内の閉鎖ループ空気流れを提供するハウジングと
をさらに含む、請求項1に記載のHPCシステム。 - 前記ボード整列要素は、前記ボード取り付け部分を超えて延びる据え付けセクションを含み、前記据え付けセクションは、前記ボード整列要素と係合し、かつ、前記ボード整列要素を前記サイドレールに結合するように構成されている、請求項1に記載のHPCシステム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201261724274P | 2012-11-08 | 2012-11-08 | |
US61/724,274 | 2012-11-08 | ||
US13/931,748 US9811127B2 (en) | 2012-11-08 | 2013-06-28 | Twin server blades for high-density clustered computer system |
US13/931,748 | 2013-06-28 | ||
PCT/US2013/061392 WO2014074233A1 (en) | 2012-11-08 | 2013-09-24 | Twin server blades for high-density clustered computer system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016502714A true JP2016502714A (ja) | 2016-01-28 |
Family
ID=50621286
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015541765A Pending JP2016502714A (ja) | 2012-11-08 | 2013-09-24 | 高密度クラスタラー化コンピュータシステムのためのツインサーバブレード |
JP2015541767A Pending JP2016505917A (ja) | 2012-11-08 | 2013-09-24 | コンピュータシステムのための閉鎖ループ冷却システム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015541767A Pending JP2016505917A (ja) | 2012-11-08 | 2013-09-24 | コンピュータシステムのための閉鎖ループ冷却システム |
Country Status (4)
Country | Link |
---|---|
US (4) | US9229497B2 (ja) |
EP (2) | EP2918151B1 (ja) |
JP (2) | JP2016502714A (ja) |
WO (4) | WO2014074232A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9811127B2 (en) | 2012-11-08 | 2017-11-07 | Hewlett Packard Enterprise Development Lp | Twin server blades for high-density clustered computer system |
JP2019133631A (ja) * | 2018-01-30 | 2019-08-08 | 廣達電腦股▲ふん▼有限公司 | 冷却システム、サーバー、及びサーバーシステム |
Families Citing this family (56)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8523643B1 (en) | 2007-06-14 | 2013-09-03 | Switch Communications Group LLC | Electronic equipment data center or co-location facility designs and methods of making and using the same |
US10028415B1 (en) | 2007-06-14 | 2018-07-17 | Switch, Ltd. | Electronic equipment data center and server co-location facility configurations and method of using the same |
US9823715B1 (en) | 2007-06-14 | 2017-11-21 | Switch, Ltd. | Data center air handling unit including uninterruptable cooling fan with weighted rotor and method of using the same |
US9788455B1 (en) | 2007-06-14 | 2017-10-10 | Switch, Ltd. | Electronic equipment data center or co-location facility designs and methods of making and using the same |
US9693486B1 (en) | 2007-06-14 | 2017-06-27 | Switch, Ltd. | Air handling unit with a canopy thereover for use with a data center and method of using the same |
US9784460B2 (en) * | 2013-08-01 | 2017-10-10 | Nautilus Data Technologies, Inc. | Data center facility and process that utilizes a closed-looped heat management system |
US9007221B2 (en) | 2013-08-16 | 2015-04-14 | Cisco Technology, Inc. | Liquid cooling of rack-mounted electronic equipment |
FR3025333B1 (fr) * | 2014-08-26 | 2017-12-08 | Bull Sas | Serveur comprenant une pluralite de modules |
WO2016053323A1 (en) * | 2014-09-30 | 2016-04-07 | Hewlett Packard Enterprise Development Lp | Modular utilities |
US10225953B2 (en) | 2014-10-31 | 2019-03-05 | Thermal Corp. | Vehicle thermal management system |
EP3259967A4 (en) * | 2015-02-17 | 2018-02-28 | Hewlett-Packard Enterprise Development LP | Fluid manifold |
US10817398B2 (en) * | 2015-03-09 | 2020-10-27 | Vapor IO Inc. | Data center management via out-of-band, low-pin count, external access to local motherboard monitoring and control |
AU2016229829B2 (en) | 2015-03-09 | 2020-03-05 | Vapor IO Inc. | Rack for computing equipment |
US11349701B2 (en) * | 2015-03-09 | 2022-05-31 | Vapor IO Inc. | Data center management with rack-controllers |
US10404523B2 (en) * | 2015-03-09 | 2019-09-03 | Vapor IO Inc. | Data center management with rack-controllers |
US10257268B2 (en) | 2015-03-09 | 2019-04-09 | Vapor IO Inc. | Distributed peer-to-peer data center management |
US10085367B2 (en) * | 2015-03-12 | 2018-09-25 | International Business Machines Corporation | Minimizing leakage in liquid cooled electronic equipment |
US10736239B2 (en) | 2015-09-22 | 2020-08-04 | Z-Impact, Inc. | High performance computing rack and storage system with forced cooling |
US9622380B1 (en) * | 2015-09-30 | 2017-04-11 | Toyota Motor Engineering & Manufacturing North America, Inc. | Two-phase jet impingement cooling devices and electronic device assemblies incorporating the same |
US10237999B2 (en) * | 2015-10-30 | 2019-03-19 | Hewlett Packard Enterprise Development Lp | Configurable node expansion space |
JP6565611B2 (ja) * | 2015-11-04 | 2019-08-28 | 富士通株式会社 | 情報処理装置 |
US10156873B2 (en) * | 2015-12-21 | 2018-12-18 | Dell Products, L.P. | Information handling system having fluid manifold with embedded heat exchanger system |
US10349557B2 (en) | 2016-02-24 | 2019-07-09 | Thermal Corp. | Electronics rack with compliant heat pipe |
US10136556B2 (en) | 2016-02-24 | 2018-11-20 | Thermal Corp. | Electronics rack with selective engagement of heat sink |
WO2018053200A1 (en) | 2016-09-14 | 2018-03-22 | Switch, Ltd. | Ventilation and air flow control |
JP2018074100A (ja) * | 2016-11-04 | 2018-05-10 | 富士通株式会社 | ラックマウント型情報処理装置 |
CN108123337B (zh) * | 2016-11-28 | 2021-06-22 | 泰连公司 | 用于通信系统的电力连接器组件 |
CN106774714B (zh) * | 2016-12-20 | 2019-10-22 | 河北思达歌数据科技投资有限公司 | 一种大数据用一体机保护装置 |
US11076509B2 (en) | 2017-01-24 | 2021-07-27 | The Research Foundation for the State University | Control systems and prediction methods for it cooling performance in containment |
US10806056B2 (en) * | 2017-07-19 | 2020-10-13 | Hewlett Packard Enterprise Development Lp | Cooling system for high-performance computer |
US10356959B2 (en) | 2017-07-31 | 2019-07-16 | Hewlett Packard Enterprise Development Lp | Chassis cooling resource |
US11546992B2 (en) * | 2017-08-07 | 2023-01-03 | Sanmina Corporation | Modular motherboard for a computer system and method thereof |
JP6579633B2 (ja) * | 2017-10-20 | 2019-09-25 | Necプラットフォームズ株式会社 | 装置 |
CN109757060B (zh) | 2017-11-03 | 2020-11-24 | 阿里巴巴集团控股有限公司 | 冷却设备 |
CN109757061B (zh) * | 2017-11-03 | 2021-06-11 | 阿里巴巴集团控股有限公司 | 冷却机柜及冷却系统 |
CN107894809A (zh) * | 2017-11-14 | 2018-04-10 | 郑州云海信息技术有限公司 | 一种mezz卡型四路架构互连方法及系统 |
CN107801362B (zh) | 2017-11-29 | 2019-11-22 | 北京百度网讯科技有限公司 | 用于数据中心的冷却系统 |
CN107809894B (zh) * | 2017-12-05 | 2020-03-03 | 北京百度网讯科技有限公司 | 一种数据中心机柜的冷却装置 |
US10613950B2 (en) | 2018-01-05 | 2020-04-07 | Quanta Computer Inc. | CMC failover for two-stick canisters in rack design |
US10893630B2 (en) | 2018-01-30 | 2021-01-12 | Hewlett Packard Enterprise Development Lp | Pumps with pre-charged fluid |
US10225958B1 (en) * | 2018-05-03 | 2019-03-05 | Baidu Usa Llc | Liquid cooling system for a data center |
US10673189B2 (en) | 2018-06-06 | 2020-06-02 | Te Connectivity Corporation | Power connector assembly for a communication system |
US10939576B2 (en) | 2018-11-28 | 2021-03-02 | Te Connectivity Corporation | Power connector assembly for a communication system |
US20200205309A1 (en) * | 2018-12-21 | 2020-06-25 | Abb Power Electronics Inc. | Modular edge power systems |
US10912225B2 (en) * | 2019-02-28 | 2021-02-02 | Lenovo Enterprise Solutions (Singapore) Pte. Ltd. | Systems having fluid conduit carriers for holding different portions of a fluid conduit and methods of using the same |
US11044141B2 (en) * | 2019-07-09 | 2021-06-22 | Phillip N Hughes | High density, high availability compute system |
US11665861B2 (en) | 2020-01-15 | 2023-05-30 | Dell Products, L.P. | Edge datacenter nano enclosure with chimney and return air containment plenum |
US11044834B1 (en) | 2020-02-21 | 2021-06-22 | Google Llc | Inverted liquid cooling system |
TWI738571B (zh) * | 2020-02-27 | 2021-09-01 | 雙鴻科技股份有限公司 | 冷卻液分配裝置 |
EP3886548B1 (en) * | 2020-03-27 | 2023-06-07 | CB Borey LLC | Cabinet for electronic equipment and a cooling method of electronic equipment |
TWI736242B (zh) * | 2020-04-30 | 2021-08-11 | 勤誠興業股份有限公司 | 伺服器系統及其伺服機箱 |
US20230413465A1 (en) * | 2020-11-17 | 2023-12-21 | Tritium Holdings Pty Ltd | A modular electronics assembly |
US11963327B2 (en) | 2021-03-24 | 2024-04-16 | Aes Global Holdings Pte Ltd. | Front and rear loading control circuit for a server power shelf |
US11778789B2 (en) | 2021-06-07 | 2023-10-03 | International Business Machines Corporation | Constant temperature closed-loop airflow containment |
CN114625226B (zh) * | 2022-03-11 | 2023-06-23 | 北部湾大学 | 一种计算机机群用温度异常控制器 |
US20230376084A1 (en) * | 2022-05-23 | 2023-11-23 | Hewlett Packard Enterprise Development Lp | CABLE BRACKET FOR STACKED HBAs WITH BRACKET-MOUNTED CONNECTORS |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0644193U (ja) * | 1992-11-16 | 1994-06-10 | 株式会社日本電子 | キャビネットにおけるプリント基板の止着構造 |
JPH0964566A (ja) * | 1995-08-21 | 1997-03-07 | Fujitsu General Ltd | 基板の取付構造 |
JPH0981264A (ja) * | 1995-09-20 | 1997-03-28 | Toshiba Corp | カード状電子機器 |
JP2006521620A (ja) * | 2003-03-17 | 2006-09-21 | ユニシス コーポレイシヨン | 冷却を向上させるよう構成されたコンピュータシステムおよび方法 |
JP2007272293A (ja) * | 2006-03-30 | 2007-10-18 | Toshiba Corp | 電子機器 |
JP2010244546A (ja) * | 2009-04-06 | 2010-10-28 | Internatl Business Mach Corp <Ibm> | メカニカルな流体密封接続を形成するための器具および方法、並びに電子システムの冷却を容易化するためのアセンブリ |
JP2010267945A (ja) * | 2009-04-16 | 2010-11-25 | Molex Inc | 冷却装置、電子基板、電子機器 |
JP3167274U (ja) * | 2011-02-01 | 2011-04-14 | 株式会社エーエス | ヒートアイルシステム |
Family Cites Families (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA1283225C (en) | 1987-11-09 | 1991-04-16 | Shinji Mine | Cooling system for three-dimensional ic package |
US4884168A (en) | 1988-12-14 | 1989-11-28 | Cray Research, Inc. | Cooling plate with interboard connector apertures for circuit board assemblies |
US5030108A (en) | 1990-06-29 | 1991-07-09 | Amp Incorporated | Card edge bus bar assembly for power distribution system |
FR2709915B1 (fr) * | 1993-09-10 | 1995-11-17 | Sextant Avionique | Dispositif de verrouillage et d'échange thermique pour structure modulaire porte cartes de circuits imprimés. |
US5810501A (en) | 1996-10-22 | 1998-09-22 | Penn Engineering & Manufacturing Corp. | Perpendicular edge fastener |
US6071143A (en) | 1996-12-13 | 2000-06-06 | International Business Machines Corporation | Cabinet for insertion of circuit boards in tight spaces |
US6175490B1 (en) | 1997-10-01 | 2001-01-16 | Micron Electronics, Inc. | Fault tolerant computer system |
US5892658A (en) | 1998-05-12 | 1999-04-06 | Lockhead Martin Corporation | VME eurocard triple printed wiring board single slot module assembly |
US6104613A (en) | 1998-05-12 | 2000-08-15 | Lockheed Martin Federal Systems, Inc. | VME eurocard double printed wiring card host circuit card circuit (module) assembly |
US6255588B1 (en) | 1998-09-08 | 2001-07-03 | International Business Machines Corporation | Arrangement for supplying power from a buss bar to a circuit board |
US7339786B2 (en) | 2001-03-05 | 2008-03-04 | Intel Corporation | Modular server architecture with Ethernet routed across a backplane utilizing an integrated Ethernet switch module |
US6828675B2 (en) | 2001-09-26 | 2004-12-07 | Modine Manufacturing Company | Modular cooling system and thermal bus for high power electronics cabinets |
GB2381953B (en) * | 2001-11-08 | 2004-04-28 | Sun Microsystems Inc | Rack-mountable systems |
JP4199018B2 (ja) | 2003-02-14 | 2008-12-17 | 株式会社日立製作所 | ラックマウントサーバシステム |
US7173821B2 (en) | 2003-05-16 | 2007-02-06 | Rackable Systems, Inc. | Computer rack with power distribution system |
US6934152B1 (en) * | 2003-06-27 | 2005-08-23 | Emc Corporation | Systems and methods for connecting an electronic apparatus to a backplane |
US20050071689A1 (en) | 2003-09-26 | 2005-03-31 | Continuous Computing Corporation | Independently powered slots architecture and method |
US7142411B2 (en) | 2004-12-02 | 2006-11-28 | Cisco Technology, Inc. | Methods and apparatus for distributing power in a computerized device |
US7394667B2 (en) | 2005-03-30 | 2008-07-01 | Emerson Network Power - Embedded Computing, Inc. | High density power distribution unit |
US7342789B2 (en) | 2005-06-30 | 2008-03-11 | International Business Machines Corporation | Method and apparatus for cooling an equipment enclosure through closed-loop, liquid-assisted air cooling in combination with direct liquid cooling |
US7589974B2 (en) | 2006-04-21 | 2009-09-15 | Helwett-Packard Development Company, L.P. | Modular server and method |
US7724513B2 (en) * | 2006-09-25 | 2010-05-25 | Silicon Graphics International Corp. | Container-based data center |
US20080080149A1 (en) | 2006-09-29 | 2008-04-03 | Hanna Timothy G | Tray mechanism for servers |
CN101622595A (zh) | 2006-12-06 | 2010-01-06 | 弗森多系统公司(dba弗森-艾奥) | 用于服务器内的存储区域网络的装置、系统和方法 |
US7564685B2 (en) * | 2006-12-29 | 2009-07-21 | Google Inc. | Motherboards with integrated cooling |
JP5030631B2 (ja) * | 2007-03-22 | 2012-09-19 | 富士通株式会社 | 情報機器の冷却システム |
US20090086432A1 (en) | 2007-09-27 | 2009-04-02 | International Business Machines Corporation | Docking station with closed loop airlfow path for facilitating cooling of an electronics rack |
WO2009114018A1 (en) | 2008-03-14 | 2009-09-17 | Hewlett-Packard Development Company, L.P. | Blade server for increased processing capacity |
US9342121B2 (en) | 2008-05-06 | 2016-05-17 | International Business Machines Corporatoin | Cooling system for electronic components |
US7639499B1 (en) | 2008-07-07 | 2009-12-29 | International Business Machines Corporation | Liquid cooling apparatus and method for facilitating cooling of an electronics system |
JP2010211363A (ja) * | 2009-03-09 | 2010-09-24 | Sanyo Electric Co Ltd | 電子機器冷却装置 |
US20110013348A1 (en) | 2009-03-17 | 2011-01-20 | Seibold Lawrence B | Apparatus and Method for Power Distribution to and Cooling of Computer Components on Trays in a Cabinet |
US8027162B2 (en) | 2009-09-24 | 2011-09-27 | International Business Machines Corporation | Liquid-cooled electronics apparatus and methods of fabrication |
US7907406B1 (en) * | 2009-09-28 | 2011-03-15 | International Business Machines Corporation | System and method for standby mode cooling of a liquid-cooled electronics rack |
JP5540860B2 (ja) | 2010-04-20 | 2014-07-02 | 日本電気株式会社 | サーバラック及びサーバラックの給電方法 |
US9908691B2 (en) * | 2010-06-30 | 2018-03-06 | Gpcp Ip Holdings Llc | Dispenser and sheet product dispensing plate therefor |
US8351192B2 (en) | 2010-08-10 | 2013-01-08 | International Business Machines Corporation | Cable-free power distribution in a rack |
US8274790B2 (en) | 2010-11-16 | 2012-09-25 | International Business Machines Corporation | Automatically reconfigurable liquid-cooling apparatus for an electronics rack |
US8644020B2 (en) | 2010-12-01 | 2014-02-04 | Google Inc. | Cooling heat-generating electronics |
JP2014513336A (ja) | 2011-03-02 | 2014-05-29 | イナーテック アイピー エルエルシー | モジュール型itラック冷却アセンブリおよびその組み立て方法 |
TWM413895U (en) | 2011-05-19 | 2011-10-11 | Pegatron Corp | Rack mountable server |
TWI411375B (zh) | 2011-06-21 | 2013-10-01 | Quanta Comp Inc | 伺服器機櫃系統 |
US9155230B2 (en) | 2011-11-28 | 2015-10-06 | Asetek Danmark A/S | Cooling system for a server |
US9229497B2 (en) | 2012-11-08 | 2016-01-05 | Silicon Graphics International Corp. | On-blade cold sink for high-density clustered computer system |
-
2013
- 2013-06-28 US US13/931,730 patent/US9229497B2/en active Active
- 2013-06-28 US US13/931,754 patent/US9606588B2/en active Active
- 2013-06-28 US US13/931,748 patent/US9811127B2/en active Active
- 2013-07-24 US US13/949,920 patent/US9128682B2/en active Active
- 2013-09-24 JP JP2015541765A patent/JP2016502714A/ja active Pending
- 2013-09-24 JP JP2015541767A patent/JP2016505917A/ja active Pending
- 2013-09-24 WO PCT/US2013/061374 patent/WO2014074232A1/en active Application Filing
- 2013-09-24 EP EP13853840.0A patent/EP2918151B1/en active Active
- 2013-09-24 WO PCT/US2013/061424 patent/WO2014074235A1/en active Application Filing
- 2013-09-24 EP EP13852972.2A patent/EP2918149A4/en not_active Withdrawn
- 2013-09-24 WO PCT/US2013/061469 patent/WO2014074236A1/en active Application Filing
- 2013-09-24 WO PCT/US2013/061392 patent/WO2014074233A1/en active Application Filing
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0644193U (ja) * | 1992-11-16 | 1994-06-10 | 株式会社日本電子 | キャビネットにおけるプリント基板の止着構造 |
JPH0964566A (ja) * | 1995-08-21 | 1997-03-07 | Fujitsu General Ltd | 基板の取付構造 |
JPH0981264A (ja) * | 1995-09-20 | 1997-03-28 | Toshiba Corp | カード状電子機器 |
JP2006521620A (ja) * | 2003-03-17 | 2006-09-21 | ユニシス コーポレイシヨン | 冷却を向上させるよう構成されたコンピュータシステムおよび方法 |
JP2007272293A (ja) * | 2006-03-30 | 2007-10-18 | Toshiba Corp | 電子機器 |
JP2010244546A (ja) * | 2009-04-06 | 2010-10-28 | Internatl Business Mach Corp <Ibm> | メカニカルな流体密封接続を形成するための器具および方法、並びに電子システムの冷却を容易化するためのアセンブリ |
JP2010267945A (ja) * | 2009-04-16 | 2010-11-25 | Molex Inc | 冷却装置、電子基板、電子機器 |
JP3167274U (ja) * | 2011-02-01 | 2011-04-14 | 株式会社エーエス | ヒートアイルシステム |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9811127B2 (en) | 2012-11-08 | 2017-11-07 | Hewlett Packard Enterprise Development Lp | Twin server blades for high-density clustered computer system |
JP2019133631A (ja) * | 2018-01-30 | 2019-08-08 | 廣達電腦股▲ふん▼有限公司 | 冷却システム、サーバー、及びサーバーシステム |
US10694640B2 (en) | 2018-01-30 | 2020-06-23 | Quanta Computer Inc. | Server water cooling modules prevent water leakage device |
JP6991953B2 (ja) | 2018-01-30 | 2022-01-13 | 廣達電腦股▲ふん▼有限公司 | 冷却システム、サーバー、及びサーバーシステム |
Also Published As
Publication number | Publication date |
---|---|
EP2918151A1 (en) | 2015-09-16 |
US20140126142A1 (en) | 2014-05-08 |
WO2014074232A1 (en) | 2014-05-15 |
EP2918151B1 (en) | 2020-04-22 |
WO2014074233A1 (en) | 2014-05-15 |
US9229497B2 (en) | 2016-01-05 |
US20140126141A1 (en) | 2014-05-08 |
US9128682B2 (en) | 2015-09-08 |
US20140124168A1 (en) | 2014-05-08 |
EP2918149A1 (en) | 2015-09-16 |
JP2016505917A (ja) | 2016-02-25 |
WO2014074236A1 (en) | 2014-05-15 |
EP2918151A4 (en) | 2016-10-19 |
US9811127B2 (en) | 2017-11-07 |
EP2918149A4 (en) | 2016-07-13 |
US20140126143A1 (en) | 2014-05-08 |
WO2014074235A1 (en) | 2014-05-15 |
US9606588B2 (en) | 2017-03-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9811127B2 (en) | Twin server blades for high-density clustered computer system | |
US20180027063A1 (en) | Techniques to determine and process metric data for physical resources | |
US20150160702A1 (en) | Hot Swappable Computer Cooling System | |
US20080259555A1 (en) | Modular blade server | |
US9036342B2 (en) | Storage apparatus and storage controller of storage apparatus | |
US10806056B2 (en) | Cooling system for high-performance computer | |
US11395433B2 (en) | Server system | |
KR100859760B1 (ko) | 스케일러블 인터넷 엔진 | |
CN100541391C (zh) | 多处理器系统之机壳隔间结构 | |
US11809893B2 (en) | Systems and methods for collapsing resources used in cloud deployments | |
CN214011980U (zh) | 一种具有ras特性的服务器 | |
CN217034655U (zh) | 一种双路服务器 | |
US20230380099A1 (en) | Systems with at least one multi-finger planar circuit board for interconnecting multiple chassis | |
CN218630661U (zh) | 一种支持8个gpu模块的4u服务器 | |
US20170285696A1 (en) | Method and Apparatus for Mounting Power Supplies in Rack-Mountable Computer Chassis | |
US20230109137A1 (en) | Liquid cooling leakage abatement system and method of using the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160907 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170502 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20171122 |