JPWO2018207305A1 - 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール - Google Patents

液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール Download PDF

Info

Publication number
JPWO2018207305A1
JPWO2018207305A1 JP2017541132A JP2017541132A JPWO2018207305A1 JP WO2018207305 A1 JPWO2018207305 A1 JP WO2018207305A1 JP 2017541132 A JP2017541132 A JP 2017541132A JP 2017541132 A JP2017541132 A JP 2017541132A JP WO2018207305 A1 JPWO2018207305 A1 JP WO2018207305A1
Authority
JP
Japan
Prior art keywords
circuit board
memory
processor
mounting area
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017541132A
Other languages
English (en)
Other versions
JP6494772B1 (ja
Inventor
齊藤 元章
元章 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Exascaler Inc
Original Assignee
Exascaler Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Exascaler Inc filed Critical Exascaler Inc
Application granted granted Critical
Publication of JP6494772B1 publication Critical patent/JP6494772B1/ja
Publication of JPWO2018207305A1 publication Critical patent/JPWO2018207305A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K7/00Constructional details common to different types of electric apparatus
    • H05K7/20Modifications to facilitate cooling, ventilating, or heating
    • H05K7/20218Modifications to facilitate cooling, ventilating, or heating using a liquid coolant without phase change in electronic enclosures
    • H05K7/20236Modifications to facilitate cooling, ventilating, or heating using a liquid coolant without phase change in electronic enclosures by immersion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/20Cooling means
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K7/00Constructional details common to different types of electric apparatus
    • H05K7/20Modifications to facilitate cooling, ventilating, or heating
    • H05K7/20709Modifications to facilitate cooling, ventilating, or heating for server racks or cabinets; for data centers, e.g. 19-inch computer racks
    • H05K7/20763Liquid cooling without phase change
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/20Indexing scheme relating to G06F1/20
    • G06F2200/201Cooling arrangements using cooling fluid

Landscapes

  • Engineering & Computer Science (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Thermal Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Cooling Or The Like Of Electrical Apparatus (AREA)

Abstract

比較的背の高いメモリモジュールを実装してもなお実装密度が低下しない、もしくは実装密度をより一層高めることのできる電子機器及びプロセッサモジュールを提供する。プロセッサモジュールは、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有する第1の回路基板及び第2の回路基板を含む。プロセッサ実装領域に少なくとも1つのプロセッサを実装し、メモリ実装領域に櫛状配列された複数のメモリモジュールを実装する。第1の回路基板の前記一の面と第2の回路基板の前記一の面とが向かい合わせに組み合わされる。第1の回路基板と第2の回路基板とは、第1の回路基板のプロセッサ実装領域及びメモリ実装領域が、第2の回路基板のプロセッサ実装領域及びメモリ実装領域とそれぞれ向かい合うように、かつ、第1の回路基板の櫛状配列された複数のメモリモジュールの先端部及び第2の回路基板の櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている。

Description

本発明は電子機器に係り、特に、冷却装置内の冷却液中に浸漬されて直接冷却される電子機器に関するものである。また、本発明は、当該電子機器に好適に使用される、液浸冷却用プロセッサモジュールに関するものである。本明細書において電子機器とは、一般に、スーパーコンピュータやデータセンター等の超高性能動作や安定動作が要求され、かつ、それ自体からの発熱量が大きな電子機器をいうが、これに限定されるものではない。
近年のスーパーコンピュータの性能の限界を決定する最大の課題の一つは消費電力であり、スーパーコンピュータの省電力性に関する研究の重要性は、既に広く認識されている。すなわち、消費電力当たりの速度性能(Flops/W)が、スーパーコンピュータを評価する一つの指標となっている。また、データセンターにおいては、データセンター全体の消費電力の45%程度を冷却に費やしているとされ、冷却効率の向上による消費電力の削減の要請が大きくなっている。
スーパーコンピュータやデータセンターの冷却には、従来から空冷式と液冷式が用いられている。液冷式は、空気より格段に熱伝達性能の優れる液体を用いるため、一般的に冷却効率がよいとされている。特に、フッ化炭素系冷却液を用いる液浸冷却システムは、合成油を用いるものに比べて電子機器のメンテナンス(具体的には、例えば調整、点検、修理、交換、増設。以下同様)に優れる等の利点を有しており、近年注目されている。
本発明者は、小規模液浸冷却スーパーコンピュータ向けの、小型で冷却効率の優れた液浸冷却装置をすでに開発している。当該装置は、高エネルギー加速器研究機構に設置されている小型スーパーコンピュータ「Suiren(睡蓮)」に適用され、運用されている(非特許文献1)。
また、本発明者は、液浸冷却される電子機器における実装密度を大幅に高めることのできる、種々の改良された液浸冷却装置を提案している(特許文献1、非特許文献2、非特許文献3、非特許文献4)。
日本国特許第6042587号公報
「液浸冷却小型スーパーコンピュータ「ExaScaler-1」が、25%を超える性能改善により最新のスパコン消費電力性能ランキング「Green500」の世界第一位相当の値を計測」、2015年3月31日、プレスリリース、株式会社ExaScaler他、URL:http://www.exascaler.co.jp/wp-content/uploads/2015/03/20150331.pdf 「Exa級の高性能機を目指し、半導体・冷却・接続を刷新(上)」、日経エレクトロニクス2015年7月号、pp.99−105、2015年6月20日、株式会社日経BP発行 「高効率・高密度・低温運用による液浸冷却のメリットを最大限に活かしつつ、各種Brickの構成と規模を任意に変更可能な新世代の液浸冷却システム「ZettaScaler-1.5」をSC15で発表」、2015年11月17日、プレスリリース、株式会社ExaScaler、URL: http://www.exascaler.co.jp/wp-content/uploads/2015/11/20151117.pdf 「スーパーコンピュータ「Shoubu(菖蒲)」がスパコンの省エネランキングGreen500で3期連続の世界第1位を獲得−「Satsuki(皐月)」も2位を獲得 理研設置のスパコンが1,2位を占める−」、2016年6月20日、プレスリリース、株式会社ExaScaler他、URL:http://www.exascaler.co.jp/wp-content/uploads/2016/06/20160620_1.pdf
上記先行技術文献のうち非特許文献3は、16個のXeonプロセッサ(「Xeon」はIntel Corporationの商標)を高密度に実装することができる、液浸冷却用電子機器「Multi-Xeon Server Brick」を開示する。この技術によれば、2個のXeonプロセッサをQPI(Intel CorporationのQuickPath Interconnect)に従い接続することにより、1つの電子機器が8台のMulti-Xeonサーバノードを含むよう構成されている。また、1個のプロセッサあたりのメモリに、超低背なメモリモジュールである、汎用の16GB又は32GB DDR4(Double-Data-Rate4) VLP DIMM(Very Low Profile Dual Inline Memory Module)を8個実装することができる。また、特許文献1は、非特許文献3が開示する液浸冷却用電子機器を実現する基板群の構成例を開示する。
上記のとおり、非特許文献3が開示する液浸冷却用電子機器は、超低背なメモリモジュールである32GB DDR4 VLP DIMMを実装している。しかるに、プロセッサあたりのメモリ容量をさらに増やすことを要請されることがある。かかる要請に応えるための方法には、32GB DIMMのメモリモジュール数を増やすことや、より容量の大きいメモリモジュール、例えば64GB DIMMを実装することが考えられる。しかしながら、メモリモジュール数を増やす場合、メモリモジュールを実装するための基板上の実装領域を増やす必要があり、基板が大型化して基板群の結合体すなわちBrickの体積が大きくなってしまい、実装密度が低くなってしまうという問題がある。他方、より大容量な64GB DIMMを実装する場合、汎用の64GB DIMM が、VLPよりも背の高いStandard Heightを有するため、メモリモジュールが別の基板の面に干渉しないように、基板間の距離を離す必要が生じる。このため、Brickの体積が大きくなってしまい、実装密度が低くなってしまうという問題がある。
よって、液浸冷却装置に適用される電子機器において、Standard Heightその他の比較的背の高いメモリモジュールを実装してもなお実装密度が低下しない、もしくは実装密度をより一層高めることのできる新構成の電子機器と、当該電子機器に好適に使用される新構成のプロセッサモジュールを開発することが望まれている。
加えて、プロセッサモジュールにおいて、プロセッサモジュールの内部に作り出すことのできるスペースを活用する技術を開発することが望まれている。
上記の課題を解決するために、本発明の一局面によれば、冷却装置内の冷却液中に浸漬されて直接冷却される電子機器に適用される、液浸冷却用プロセッサモジュールは、
第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
前記第1の回路基板と前記第2の回路基板との間を電気的に接続するコネクタと、
を含み、
前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている。
本発明の一局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記メモリ実装領域は、個々のメモリモジュールを固定する複数のメモリソケットを含み、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面との距離Hは、前記一の面からの前記メモリモジュールの高さh、前記メモリソケットの高さhに関して、(h+h)<H<2hを満たすとよい。
また、本発明の一局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記メモリモジュールがStandard Heightのメモリモジュールであり、当該モジュールは、メモリモジュールの基板面が前記一の面に対し垂直にもしくは傾斜して、前記メモリソケットに差し込まれるとよい。
また、本発明の一局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記第1の回路基板の前記プロセッサと前記第2の回路基板の前記プロセッサとが、プロセッサ間相互接続用インターフェースを介して接続されているとよい。
本発明のもう一つの局面によれば、冷却装置内の冷却液中に浸漬されて直接冷却される電子機器は、前記電子機器用の直流電圧を供給する電圧入力端を備えるキャリア基板であって、前記電圧入力端は、電源ユニットの電圧出力端に電気的に接続される、キャリア基板と、
前記キャリア基板の一の面に配置された複数のモジュールコネクタと、
複数のプロセッサモジュールであって、前記複数のプロセッサモジュールの各々は、前記複数のモジュールコネクタの各々に電気的に結合されるモジュールコネクタプラグを有する、プロセッサモジュールと、
前記電子機器が前記電源ユニットと電気的に接続されたときに、前記冷却装置が備える冷却槽の底部に設置された前記電源ユニットの上部に位置するように前記キャリア基板を支持する支持部材と、
を含み、
前記プロセッサモジュールは、
第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
前記第1の回路基板と前記第2の回路基板との間を電気的に接続するコネクタと、
を含み、
前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている。
本発明のもう一つの局面に係る電子機器の好ましい実施の形態において、前記支持部材は、前記キャリア基板が一の面に固定されるバックボード又はフレーム構造を含むとよい。
また、本発明のもう一つの局面に係る電子機器の好ましい実施の形態において、前記バックボード又はフレーム構造は、前記冷却槽内に垂直に起立して固定された複数の支持柱によってスライド可能に支持されるとよい。
また、本発明のさらにもう一つの局面によれば、冷却装置内の冷却液中に浸漬されて直接冷却される電子機器に適用される、液浸冷却用プロセッサモジュールは、
第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
前記第1の回路基板と前記第2の回路基板との間を電気的に接続する第1のコネクタと、
前記第1の回路基板と前記第2の回路基板との間に配置される、第3の回路基板と、
前記第3の回路基板と前記第1の回路基板もしくは前記第2の回路基板との間を電気的に接続する第2のコネクタと、
を含み、
前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされており、
前記第3の回路基板は、前記第1の回路基板及び前記第2の回路基板の前記プロセッサの上面が互いに向かい合ってできる空間内に配置されている。
本発明のさらにもう一つの局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記メモリ実装領域は、個々のメモリモジュールを固定する複数のメモリソケットを含み、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面との距離Hは、前記一の面からの前記メモリモジュールの高さh、前記メモリソケットの高さhに関して、(h+h)<H<2hを満たすとよい。
また、本発明のさらにもう一つの局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記メモリモジュールがStandard Heightのメモリモジュールであり、当該モジュールは、メモリモジュールの基板面が前記一の面に対し垂直にもしくは傾斜して、前記メモリソケットに差し込まれるとよい。
また、本発明のさらにもう一つの局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記第1の回路基板の前記プロセッサと前記第2の回路基板の前記プロセッサとが、プロセッサ間相互接続用インターフェースを介して接続されているとよい。
また、本発明のさらにもう一つの局面に係る液浸冷却用プロセッサモジュールの好ましい実施の形態において、前記第3の回路基板は、ストレージデバイス及び/又はI/O制御用チップセットを搭載した回路基板であるとよい。
本発明のさらにもう一つの局面によれば、冷却装置内の冷却液中に浸漬されて直接冷却される電子機器は、
前記電子機器用の直流電圧を供給する電圧入力端を備えるキャリア基板であって、前記電圧入力端は、電源ユニットの電圧出力端に電気的に接続される、キャリア基板と、
前記キャリア基板の一の面に配置された複数のモジュールコネクタと、
複数のプロセッサモジュールであって、前記複数のプロセッサモジュールの各々は、前記複数のモジュールコネクタの各々に電気的に結合されるモジュールコネクタプラグを有する、プロセッサモジュールと、
前記電子機器が前記電源ユニットと電気的に接続されたときに、前記冷却装置が備える冷却槽の底部に設置された前記電源ユニットの上部に位置するように前記キャリア基板を支持する支持部材と、
を含み、
前記プロセッサモジュールは、
第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
前記第1の回路基板と前記第2の回路基板との間を電気的に接続する第1のコネクタと、
前記第1の回路基板と前記第2の回路基板との間に配置される、第3の回路基板と、
前記第3の回路基板と前記第1の回路基板もしくは前記第2の回路基板との間を電気的に接続する第2のコネクタと、
を含み、
前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされており、
前記第3の回路基板は、前記第1の回路基板及び前記第2の回路基板の前記プロセッサの上面が互いに向かい合ってできる空間内に配置されている。
第1の回路基板の一の面と第2の回路基板の一の面とが向かい合わせに組み合わされるようにするとき、メモリモジュールが互いに干渉するのを避けるためには、基板間の距離を、当該一の面からのメモリモジュールの高さhの2倍よりも長くとる必要があった。本発明によれば、第1の回路基板と第2の回路基板とは、第1の回路基板のプロセッサ実装領域及びメモリ実装領域が第2の回路基板のプロセッサ実装領域及びメモリ実装領域とそれぞれ向かい合うように、かつ、第1の回路基板の櫛状配列された複数のメモリモジュールの先端部及び第2の回路基板の櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされているため、メモリモジュールが互いに干渉し合うという課題を解決し、より小さい体積内に超高密度にプロセッサ及びメモリモジュールを実装することができる。例えば、メモリ実装領域が、個々のメモリモジュールを差し込む複数のメモリソケットを含む場合、第1の回路基板の一の面と第2の回路基板の一の面との距離Hを、一の面からのメモリモジュールの高さh、メモリソケットの高さhに関して、(h+h)<H<2hを満たすように、短くすることができる。なお、複数のメモリモジュールの先端部は、隣り合うメモリモジュール間に隙間を作って互い違いに並んでいるため、冷却液が当該隙間を通ってメモリモジュールの表面から熱を奪う。メモリモジュールの発熱量は、プロセッサの発熱量に比べてはるかに小さいため、隣り合うメモリモジュール間の隙間が比較的狭くても、冷却液による奪熱作用が損なわれることはない。
液浸冷却用のモジュールに実装されるプロセッサにおいては、一般的にプロセッサの上面にヒートスプレッダ(ヒートスプレッダが一体化されたプロセッサも市販されている。)及びヒートシンクを熱的に接続して、その上を流通する冷却液がプロセッサからの発熱を効率的に奪うことができるよう構成している。空冷のときには、比較的大きい放熱面積を得るためにヒートシンクのフィンを高くする必要があるのとは対象的に、液浸冷却によると、冷却液による奪熱効率が優れるため、ヒートシンクのフィンの高さが低くてもよい。したがって、第1の又は第2の回路基板の一の面から、ヒートスプレッダ及びヒートシンクを含めたプロセッサの上面までの高さは、当該一の面からのメモリモジュールの高さhよりも低くできる。本発明によれば、この高低差を利用し、第1の回路基板の一の面と第2の回路基板の一の面とが向かい合わせに組み合わされるときに、プロセッサの上面が互いに向かい合ってできる比較的大きなスペース内に、第3の回路基板を配置するようにした。これにより、プロセッサモジュールの内部に作り出すことのできるスペースを活用して、プロセッサモジュールの機能を拡張もしくは増強することができる。また、プロセッサモジュール内の余ったスペースに別の回路基板が配置されているので、より一層の超高密度実装を実現することができる。
なお、本明細書における「開放空間」を有する冷却槽には、電子機器の保守性を損なわない程度の簡素な密閉構造を有する冷却槽も含まれるものである。例えば、冷却槽の開口部に、冷却槽の開放空間を閉じるための天板を置くことのできる構造や、パッキン等を介して天板を着脱可能に取り付けることのできる構造は、簡素な密閉構造といえる。
上記した本発明の目的及び利点、並びに他の目的及び利点は、以下の実施の形態の説明を通じてより明確に理解される。もっとも、以下に記述する実施の形態は例示であって、本発明はこれに限定されるものではない。
本発明の一実施形態に係る電子機器の斜視図である。 本発明の一実施形態に係る電子機器の部分組立図であり、バックボード又はフレーム構造、キャリア基板、及びプロセッサモジュールの組立図である。 本発明の一実施形態に係る電子機器に含まれるプロセッサモジュールのうち、第1の回路基板の一例を示す平面図である。 本発明の一実施形態に係る電子機器に含まれるプロセッサモジュールのうち、第2の回路基板の一例を示す平面図である。 本発明の一実施形態に係る電子機器に含まれるプロセッサモジュールのうち、第3の回路基板の一例を示し、(A)は平面図、(B)は側面図である。 プロセッサモジュールの一例を示す組立図であり、第1の回路基板、第2の回路基板、及び第3の回路基板の組立図である。 プロセッサモジュールの一例を示す斜視図である。 図5Aに示すプロセッサモジュールのA−A断面図である。 電源ユニットにおけるステージの一例を示す斜視図である。 電源ユニットのユニット基板をステージ上に取り付けた状態を示す斜視図である。 本発明の一実施形態に係る冷却システムにおける、冷却装置が備える冷却槽の斜視図である。 本発明の一実施形態に係る冷却システムにおける、冷却装置が備える冷却槽の平面図である。 本発明の一実施形態に係る冷却システムにおける、冷却装置の一部断面図である。 ユニット基板が取り付けられた4つのステージを冷却槽の底部に並べて設置する例を示す平面図である。
以下、本発明に係る電子機器、及び当該電子機器に好適に使用される液浸冷却用プロセッサモジュールの好ましい実施の形態を、図面に基づいて詳細に説明する。
まず、図1及び図2を参照して、本発明の一実施形態に係る電子機器100を説明する。図1は、本発明の一実施形態に係る電子機器100の斜視図、図2は部分組立図である。電子機器100は、後述する冷却装置内の冷却液中に浸漬されて直接冷却される電子機器である。電子機器100は、バックボード又はフレーム構造110(以下、単に「バックボード110」と記載する。)と、複数のプロセッサモジュール120と、キャリア基板121と、ネットワークカード122を含んでいる。なお、図示のとおり、電子機器100から、電源ユニットが廃されている。電源ユニットは、後述するように、冷却装置が備える冷却槽の底部に設置される。図2において、プロセッサモジュール120は1個のみ描かれており、ネットワークカードは描かれていない。
バックボード110は、キャリア基板121を支持する支持部材を構成する。バックボード110は、図2に示すように、外枠部110bと、外枠部110b内を幅方向に横断する梁部110cとから構成される。外枠110bの上部には、電子機器100を冷却槽に入れ又は取り出す際に、吊り下げ具を通す吊り金具穴(図示せず)が形成されていてよい。また、バックボード110は、外枠部110bの下部から下に延びる一対の支持ピン又はガイドピン(以下、単に「支持ピン」と記載する。)を含んでよい。複数の支持板(図示せず)が、キャリア基板121を貫通するねじ等の留め具を介して、外枠部110bと梁部110cに取り付けられていてよい。これにより、キャリア基板121がバックボード110の一の面に固定されるとともに、複数の支持板(図示せず)が、キャリア基板121の長手方向に所定間隔で取り付けられる。支持板(図示せず)の各々には、複数の溝が形成されており、複数の溝の各々に、複数のプロセッサモジュール120の端部の各々が挿入されるとよい。このようにして、隣り合う支持板(図示せず)は、複数のプロセッサモジュール120の上下両端を保持するとよい。
キャリア基板121の下部には、電子機器用の直流電圧を供給する直流電圧入力コネクタ131を備える。直流電圧入力コネクタ131は、キャリア基板121が備える電圧入力端に相当する。キャリア基板121の一の面には、複数のモジュールコネクタ128が配置されている。図3A以下を参照して後述するように、複数のプロセッサモジュール120の各々は、複数のモジュールコネクタ128の各ペアに電気的に結合されるモジュールコネクタプラグ129のペアを有している。したがって、プロセッサモジュール120ごとに、キャリア基板121に差し込むこと、及びキャリア基板121から引き抜くことが可能である。なお、図示の例において、4枚のネットワークカード122がキャリア基板121に取り付けられている。また、16個のプロセッサモジュール120がキャリア基板121に取り付けられているが、プロセッサモジュール120の個数は任意であり、特に限定されない。
次に、図3A−図5Bを参照して、プロセッサモジュール120を詳しく説明する。
プロセッサモジュール120は、第1の回路基板123A、第2の回路基板123B、及び第1の回路基板123Aと第2の回路基板123Bとの間を電気的に接続するコネクタ125A、125Bを含んでいる。また、プロセッサモジュール120は、第3の回路基板123C、並びに、第3の回路基板123Cと第1の回路基板123Aとの間を電気的に接続するコネクタ125C、125Dを含んでいるが、これらは必要に応じて省略してもよい。
図3Aに示すように、第1の回路基板123Aは、その一の面に、当該基板の中央寄りに位置するプロセッサ実装領域PAと、プロセッサ実装領域PAの両側に位置する2つのメモリ実装領域MAとを有する。プロセッサ実装領域PAには、少なくとも1つのプロセッサ124Aが実装されている。プロセッサ124Aは、特に限定しないが、例えば、Intel Corporation製のXeonプロセッサ(「Xeon」はIntel Corporationの商標)であるとよい。プロセッサ124Aは、バックプレート、ソケット、プロセッサ124Aの上面に熱的に接続されたヒートスプレッダ(プロセッサ124Aと一体化されていてよい。)、及びヒートシンクを有していてよい(図5B参照)。なお、図3Aにおいて、ヒートシンクのフィンが描かれておらず、ヒートシンクの下にあるヒートスプレッダも描かれていない。ここで、冷却液のフロー方向に一致させるべく、ヒートシンクのフィンの配列方向を、後述するメモリモジュールの配列方向と同じにするとよい。
2つのメモリ実装領域MAのそれぞれに、櫛状配列された2個のメモリモジュール127Aが実装されている。メモリ実装領域MAに実装されるメモリモジュール127Aの個数は、2つ以上であればよい。なお、メモリモジュール127Aは、本発明の目的に従って、VLPのモジュールではなく、汎用のStandard Heightの64GB DIMMであるとよい。図示のように、基板上には汎用のメモリソケット126Aを、所定の間隔を置いて必要本数取り付けて、メモリソケット126Aの各々にメモリモジュール127Aを差し込むとよい。また、第1の回路基板123Aの一の面には、第2の回路基板123Bとの電気的接続のためのコネクタ125A、第3の回路基板123Bとの電気的接続のためのコネクタ125D、並びに、キャリア基板121のモジュールコネクタ128のペアの一方と結合される、モジュールコネクタプラグ129のペアの一方を有している。なお、第1の回路基板123Aの一の面上には、上記の構成部分以外に、種々の電子部品が搭載されるが、当該電子部品は描かれていない。以上のように構成されている第1の回路基板123とそれに実装される構成部分の全体を、以下、「A基板120A」と呼ぶことがある。
図3Bに示すように、第2の回路基板123Bは、第1の回路基板123Aと類似する構成を有している。具体的には、第2の回路基板123Bは、その一の面に、当該基板の中央寄りに位置するプロセッサ実装領域PBと、プロセッサ実装領域PBの両側に位置する2つのメモリ実装領域MBとを有する。プロセッサ実装領域PBには、少なくとも1つのプロセッサ124Bが実装されている。プロセッサ124Bは、プロセッサ124Aと同様であるので、ここでの説明を省略する。
2つのメモリ実装領域MBのそれぞれに、櫛状配列された2個のメモリモジュール127Bを実装している。メモリ実装領域MBに実装されるメモリモジュール127Bの個数は、2つ以上であればよい。なお、メモリモジュール127B、メモリソケット126Bは、メモリモジュール127A、メモリソケット126Aと同様であるので、ここでの説明を省略する。第2の回路基板123Bの一の面には、第1の回路基板123Aとの電気的接続のためのコネクタ125B、並びに、キャリア基板121のモジュールコネクタ128のペアの他方と結合される、モジュールコネクタプラグ129のペアの他方を有している。なお、第2の回路基板123Bの一の面上には、上記の構成部分以外に、種々の電子部品が搭載されるが、当該電子部品は描かれていない。以上のように構成されている第2の回路基板123Bとそれに実装される構成部分の全体を、以下、「B基板120B」と呼ぶことがある。
ここで、図3Aと図3Bとを比較するとわかるように、第1の回路基板123Aのサイズと、第2の回路基板123Bのサイズは同じであり、第1の回路基板123Aのプロセッサ実装領域PA、メモリ実装領域MA、及びモジュールコネクタプラグ129の位置と、第2の回路基板123Bのプロセッサ実装領域PB、メモリ実装領域MB、及びモジュールコネクタプラグ129の位置とは、ほぼ上下対称の関係にある。ただし、第2の回路基板123Bのプロセッサ実装領域PB、及びメモリ実装領域MBの全体が、少しだけ基板中央寄りに(下側に)シフトしている。これは、第1の回路基板123Aの一の面と第2の回路基板123Bの一の面とが向かい合わせに組み合わされるときに、第1の回路基板123Aの四隅と、第2の回路基板123Bの四隅とを一致させて、プロセッサ領域及びメモリ実装領域を互いに向かい合わせて近づけると、第1の回路基板123Aの櫛状配列された複数のメモリモジュール127Aの先端部、及び第2の回路基板123Bの櫛状配列された複数のメモリモジュール127Bの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶようにするため(図5B参照)であり、これにより、メモリモジュールが互いに干渉し合うのを避けることができる。
次に、図3Cに示すように、第3の回路基板123Cは、基板の一の面に4枚のストレージデバイス130を実装し、基板の他の面に第1の回路基板123Aとの電気的接続のためのコネクタ125Dを有している。第3の回路基板123Cは、代替的にもしくは追加的にI/O制御用チップセットを実装してよい。また、第3の回路基板123Cは、代替的にもしくは追加的にプログラマブルロジックデバイスを実装してよい。ストレージデバイス130に、フラッシュストレージ、例えばM.2 SSD(Solid State Drive)又はmSATA (mini Serial ATA) SSDを使用してよい。また、プログラマブルロジックデバイスに、FPGA(Field-Programmable Gate Array)を使用してよい。第3の回路基板123Cの一の面上には、上記の構成部分以外に、種々の電子部品が搭載されるが、当該電子部品は描かれていない。以上のように構成されている第3の回路基板123Cとそれに実装される構成部分の全体を、以下、「C基板120C」と呼ぶことがある。
図4は、A基板120Aと、B基板120Bと、C基板120Cとを組み合わせてプロセッサモジュール120を構成するときの組立図、図5Aは、組み立てられたプロセッサモジュール120の斜視図、図5Bは、図5Aに示すプロセッサモジュール120のA−A線断面図である。なお、図中、プロセッサ124A、124Bの上面に熱的に接続されているヒートシンクのフィンは描かれていない。ここで、冷却液のフロー方向に一致させるべく、ヒートシンクのフィンの配列方向を、後述するメモリモジュールの配列方向と同じにするとよい。プロセッサモジュール120の組み立て方法は、図4に示すように、まず、C基板120Cのコネクタ125CをA基板120Aのコネクタ125Dに結合し、次いで、B基板120Bの一の面がA基板120Aの一の面と向かい合わせになるように、B基板120Bを裏返して、B基板120Bのコネクタ125BをA基板120Aのコネクタ125Aに結合する。コネクタ125A、125Bは、互いに結合されたとき、A基板120Aの櫛状配列された複数のメモリモジュール127Aの先端部、及びB基板120Bの櫛状配列された複数のメモリモジュール127Bの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、A基板120AとB基板120Bと位置合わせをするのに役立つだけでなく、A基板120Aの一の面とB基板120Bの一の面との距離Hを所定の長さに保つのに役立つ。
図5Bを参照して、上述のとおり、A基板120A及びB基板120Bは、A基板120Aの櫛状配列された複数のメモリモジュール127Aの先端部及びB基板120Cの櫛状配列された複数のメモリモジュール127Bの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている。例えば、メモリソケット126Aは、中心線間距離が約8mmになるような間隔に設置することができる。汎用のStandard Heightの64GB DIMMの高さは約30mm、厚さは約3mmであるので、メモリモジュール127Aとメモリモジュール127Bが互い違いに並んでいるときの、隣り合うメモリモジュール間の隙間は約1mm(=(8−3−1.5×2)/2)である。メモリモジュールの発熱量は、プロセッサの発熱量に比べてはるかに小さいため、隣り合うメモリモジュール間の隙間がこの程度に狭くても、冷却液による奪熱作用が損なわれることはない。
図5Bに示すように、A基板120Aの一の面とB基板120Bの一の面との距離Hを、一の面からのメモリモジュール127A、127Bの高さh、メモリソケット126A、126Bの高さhに関して、(h+h)<H<2hを満たすように、短くすることができる。例えば、汎用のStandard Heightの64GB DIMM用のメモリソケット126A、126Bの高さは、約5mmであるので、距離Hを36mm〜40mmまで短くすることができ、より一層の高密度実装を実現することができる。例えば、距離Hを約40mmに、基板の一の面からのプロセッサ(ヒートシンクのフィンを含む)の高さを約15mmに設計した場合、プロセッサ124A、124Bの上面が互いに向かい合ってできるスペースは、約10mm(=40−15×2)の高さを持つ。この、プロセッサモジュール120内に作られる約10mmの高さのスペースは、プロセッサモジュールの機能を拡張もしくは増強するための種々の構成部品を、追加的に配置するために十分な大きさである(もし、その半分の約5mmの高さのスペースであると、高さが低すぎてそこに構成部品を配置することが極めて困難である)。C基板120Cは、このスペースに配置される、機能拡張又は増大用の別の回路基板である。もちろん、この程度の高さがあると、A基板120Aのプロセッサ124Aの上面とC基板120Cの裏面との隙間、並びに、B基板120Bのプロセッサ124Bの上面とC基板120Cの表面との隙間を、問題なく確保することができるので、そこを通る冷却液による所望の奪熱性能を達成するうえで問題は生じないものである。
次に、図2に戻って、電子機器100の構成をさらに詳しく説明すると、バックボード110の一の面と反対の面には、バックボード110の外枠部110bの長手方向に沿って、複数のスライダー(図示せず)が取り付けられていてよい。外枠部110bの左右両方に取り付けられた、一対のスライダーは、後述する冷却槽内に垂直に起立して固定された、隣り合う支持柱に設けられたレール溝に係合することにより、バックボード110は、スライド(垂直方向に上げ下げ)可能に支持されるとよい。
以上のように構成されている電子機器100が、バックボード110を複数の支持柱に対してスライドさせて、冷却装置内の冷却液中に浸漬されて直接冷却されるとき、電子機器内を流通する冷却液が、プロセッサモジュール120の内と外を通って、プロセッサモジュール120、及びキャリア基板121から熱を速やかに、かつ、効率よく奪い取るので、高密度に実装しても電子機器100の安定した動作を確保できる。このとき、プロセッサモジュール120の内で、A基板120AとC基板120Cとの隙間、B基板120BとC基板120Cとの隙間、隣り合うメモリモジュール間の隙間が、それぞれ確保されており、それらの隙間が、冷却液の通るフローチャネルを形成することは、上述したとおりである。また、各プロセッサモジュール120を、キャリア基板121に取り付け、加えて、キャリア基板121から取り外すことができる。これにより、プロセッサモジュール120ごとに、調整、点検、修理、交換、増設等を行うことができるので、メンテナンス性が格段に向上する。
次に、図6−図7を参照して、冷却装置の下部に設置される電源ユニット20を説明する。図6は、電源ユニット20におけるステージ22の一例を示す斜視図、図7は、電源ユニット20におけるユニット基板21をステージ22上に取り付けた状態を示す斜視図である。
前述のとおり、電源ユニット20は、電子機器100に含まれない構成部分であり、冷却装置が備える冷却槽の底部に設置される。電源ユニット20は、ユニット基板21と、ユニット基板21に搭載される降圧デバイス215とを含んでいる。ユニット基板21は、外部電源(図示せず)から電源ケーブル211を介して外部電源電圧を供給する電源電圧入力コネクタ212と、降圧デバイス215により降圧された直流電圧を出力する直流電圧出力コネクタ213とを備える。降圧デバイス215は、例えば、200V−420Vの外部高圧直流電圧を、24V−52Vの直流電圧に降圧するコンバータモジュール、又は100V−250Vの単相又は三相の外部高圧交流電圧を、24V−52Vの直流電圧に交直変換及び降圧するコンバータモジュールを含むとよい。前者のコンバータモジュールは、より具体的には、DC380VをDC48Vに降圧することができるとよく、後者のコンバータモジュールは、AC200VをDC48Vに交直変換及び降圧することができるとよい。必要に応じて、降圧デバイス215は、力率改善回路、ノイズフィルタ、追加の整流器、及びサージ回路のうちのいずれか1つ又は2つ以上の周辺回路を含むとよい。降圧デバイス215の表面には、放熱用のヒートシンク216が熱的に接続されているとよい。また、ユニット基板21には、故障時の保護を行う複数の入力ヒューズ217が含まれていてよい。ユニット基板21は、図7に示すように、複数のスペーサ218を介して、ステージ22に固定される。これにより、ユニット基板21は、ユニット基板21の一の面と、後述する冷却槽の底部との間に冷却液を通すフローチャネル219を形成するように、底部から離れて配置されている。なお、ユニット基板21が、冷却液を通すフローチャネルを有するように構成してもよい。例えば、ユニット基板21を、中間スペースを有する階層構造体もしくは中空構造体に形成し、構造体の内部に冷却液を通すとよい。
ステージ22は、図6に示すように、後述する冷却槽の底部に置かれる平板を含む。平板の幅方向中央寄りに、底部から流入する冷却液を通す複数の穴23が、長手方向に間隔を隔てて、形成されている。また、平板の幅方向端部には、複数の切り欠き24が、長手方向に間隔を隔てて形成されている。隣り合う切り欠き24は、複数のステージ22が並べて配置されるとき、隣り合う切り欠き24同士が合わさって穴23と実質同じ穴を形成するのに必要な長さと幅を有する。ステージ22上には、L型ブラケット26を使用して、複数の支持柱25が垂直に取り付けられる。よって、ステージ22が、冷却槽の底部に設置されるとき、複数の支持柱25は、冷却槽内に垂直に起立することになる。また、ステージ22上には、複数のブラケット27が固定されている。ブラケット27には、支持ピン挿入穴28が形成されている。
複数の支持柱25の各々にはレール溝251が形成されている。電子機器100のバックボード110が有する一対のスライダー(図示せず)が、隣り合う支持柱に設けられたレール溝251に係合することにより、バックボード110が、スライド(垂直方向に上げ下げ)可能に支持される。
以上のように構成されている電源ユニット20に対して、電子機器100が、バックボード110を複数の支持柱25に対してスライドさせて上昇させ、又は下降させることができる。そして、電子機器100を下降させたとき、電子機器100のバックボード110の外枠部110bの下部から下に延びる一対の支持ピン(図示せず)が、電源ユニット20に固定された一対のブラケット27の支持ピン挿入穴に挿入され、電源ユニット20の直流電圧出力コネクタ213と、電子機器100の直流電圧入力コネクタ131との正確な位置合わせが行われるとよい。さらに電子機器100を下降させると、直流電圧出力コネクタ213と直流電圧入力コネクタ131とが電気的に接続される。このとき、一対の支持柱25及び一対のブラケット27が、1ユニットの電子機器100の重量を支えている。
電源ユニット20は、直流電圧出力コネクタ213が電子機器100の直流電圧入力コネクタ131と結合した状態を検出したとき、電子機器100への直流電圧の供給を開始する第1のコントローラをさらに含むとよい。第1のコントローラは、付加回路又は電子的な機構として、ユニット基板21に実装されるとよい。これにより、電子機器100を冷却槽内に下降させ、電源ユニット20と結合させるだけで、直ちに通電動作させる、電子機器100のプラグイン動作が可能となる。
また、電源ユニット20は、冷却槽の冷却液の液面の上部、冷却槽の壁面構造部、又は冷却槽の近傍に設置された制御盤から操作可能なスイッチのON/OFFを検出して、電子機器100への電圧の供給の開始/切断を切り替える第2のコントローラをさらに含むとよい。これにより、オペレータが、手動で、電子機器100ごとのON/OFFを切り替えることができるので、メンテナンス性を向上させることができる。第2のコントローラもまた、付加回路又は電子的な機構として、ユニット基板21に実装されるとよい。
電子機器100への電圧の供給の開始/切断を切り替える信号を、第2のコントローラに送るためのスイッチは、複数の支持柱25の各々の上端、又は側面に設けられてよい。
次に、以上説明した本発明の一実施形態に係る電子機器100と、上述の電源ユニット20を、冷却液中に浸漬して直接冷却するための液浸冷却装置の一例を、図面に基づいて説明する。以下の説明では、電子機器100及び電源ユニット20をそれぞれ合計24ユニット、冷却槽の6×4の区画にそれぞれ収納して冷却する、高密度液浸冷却装置の構成を説明する。なお、これは例示であって、高密度液浸冷却装置における電子機器のユニット数は任意であり、本発明に使用可能な電子機器の構成を何ら限定するものではない。
図8−図11を参照して、一実施形態に係る液浸冷却装置1は冷却槽10を有し、冷却槽10の底壁11及び側壁12によって開放空間10aが形成されている。底壁11には、冷却液が流入する複数の流入開口150が、9×3のパターンで形成されている。また、側壁12には、電源ケーブル導入口12aと、ネットワークケーブル導入口12bと、冷却液の液面近傍に形成された流出開口170が形成されている。
液浸冷却装置1は、冷却槽10の開放空間10aを閉じるための天板10bを有する。液浸冷却装置1の保守作業時には、天板10bを開口部から外して開放空間10aを開き、液浸冷却装置1の運用時には、天板10bを冷却槽10の開口部に置くことにより、開放空間10aを閉じることができる。
冷却槽10には、電子機器100の全体を浸漬するのに十分な量の冷却液が図10に示す液面まで入れられている(図10参照)。冷却液としては、3M社の商品名「フロリナート(3M社の商標、以下同様)FC−72」(沸点56℃)、「フロリナートFC−770」(沸点95℃)、「フロリナートFC−3283」(沸点128℃)、「フロリナートFC−40」(沸点155℃)、「フロリナートFC−43」(沸点174℃)として知られる、完全フッ素化物(パーフルオロカーボン化合物)からなるフッ素系不活性液体を好適に使用することができるが、これらに限定されるものではない。なお、フロリナートFC−40、FC−43は、沸点が150℃よりも高く、極めて蒸発しにくいため、いずれかを冷却液に使用する場合、冷却槽10内における液面の高さが長期間に亘って保たれ、有利である。
冷却槽10の底壁11の下に、冷却液の入口15を一端に有する複数の流入ヘッダ16が設けられている。また、冷却槽10の側壁12の外側に、冷却液の出口18を有する受部17が設けられている。受部17は、流出開口170を覆い、流出開口170から流出する冷却液を漏らさず受ける。
図11を参照して、冷却槽10の底壁11の上には、4枚の平板のステージ22が並べて配置される。ステージ22に形成された複数の穴23、及び隣り合う切り欠き24同士が合わさって形成される、穴23と実質同じ穴のそれぞれは、底壁11に形成された複数の流入開口150のそれぞれに一致する。したがって、流入開口150から流入する冷却液は、電源ユニット20によって流入を阻害されることはない。また、電源ユニット20のユニット基板21とステージ22(底壁11)との間に冷却液が通るフローチャネルが確保されているので、冷却液がユニット基板21の両面から熱を速やかに、かつ、効率よく奪い取る。したがって、電源ユニット20の冷却効率に優れている。さらに、電源ユニット20のユニット基板21を、冷却槽10の底壁11と平行に置くことができるので、冷却槽10の高さ(深さ)方向における、電源ユニット20の高さを、従来に比べて低く抑えることができる。したがって、電子機器100と電源ユニット20を合わせた長さを短くできるので、冷却槽10の高さを低く(深さを浅く)設計することが可能となる。
加えて、流入開口150から流入する冷却液は、電子機器100の下側から上側に、プロセッサモジュールの内と外を通って、プロセッサモジュール120、及びキャリア基板121から熱を速やかに、かつ、効率よく奪い取る。このようにして暖められた冷却液は、流出開口170、受け部17を通って、出口18に至る。出口18には、熱交換器(図示せず)を通って入口15に至る配管(図示せず)が接続されており、当該熱交換器において冷却液が冷やされ、冷えた冷却液が入口15に供給される。
本発明は、超高密度に実装された液浸冷却用のプロセッサモジュール及び電子機器に広く適用することができる。
1 液浸冷却装置
10 冷却槽
10a 開放空間
10b 天板
11 底壁
12 側壁
12a 電源ケーブル導入口
12b ネットワークケーブル導入口
100 電子機器
110 バックボード又はフレーム構造
110a 穴
110b 外枠部
110c 梁部
120 プロセッサモジュール
121 キャリア基板
122 ネットワークカード
123A、123B、123C 回路基板
124A、124B プロセッサ
125A、125B、125C、125D コネクタ
126A、126B メモリソケット
127A、127B メモリモジュール
128 モジュールコネクタ
129 モジュールコネクタプラグ
130 ストレージデバイス
PA、PB プロセッサ実装領域
MA、MB メモリ実装領域

Claims (10)

  1. 冷却装置内の冷却液中に浸漬されて直接冷却される電子機器に適用される、液浸冷却用プロセッサモジュールであって、
    第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
    前記第1の回路基板と前記第2の回路基板との間を電気的に接続するコネクタと、
    を含み、
    前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている、
    液浸冷却用プロセッサモジュール。
  2. 前記メモリ実装領域は、個々のメモリモジュールを固定する複数のメモリソケットを含み、
    前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面との距離Hは、前記一の面からの前記メモリモジュールの高さh、前記メモリソケットの高さhに関して、(h+h)<H<2hを満たす、請求項1に記載の液浸冷却用プロセッサモジュール。
  3. 前記メモリモジュールがStandard Heightのメモリモジュールであり、当該モジュールは、メモリモジュールの基板面が前記一の面に対し垂直にもしくは傾斜して、前記メモリソケットに差し込まれる、請求項2に記載の液浸冷却用プロセッサモジュール。
  4. 前記第1の回路基板の前記プロセッサと前記第2の回路基板の前記プロセッサとが、プロセッサ間相互接続用インターフェースを介して接続されている、請求項1に記載の液浸冷却用プロセッサモジュール。
  5. 冷却装置内の冷却液中に浸漬されて直接冷却される電子機器であって、
    前記電子機器用の直流電圧を供給する電圧入力端を備えるキャリア基板であって、前記電圧入力端は、電源ユニットの電圧出力端に電気的に接続される、キャリア基板と、
    前記キャリア基板の一の面に配置された複数のモジュールコネクタと、
    複数のプロセッサモジュールであって、前記複数のプロセッサモジュールの各々は、前記複数のモジュールコネクタの各々に電気的に結合されるモジュールコネクタプラグを有する、プロセッサモジュールと、
    前記電子機器が前記電源ユニットと電気的に接続されたときに、前記冷却装置が備える冷却槽の底部に設置された前記電源ユニットの上部に位置するように前記キャリア基板を支持する支持部材と、
    を含み、
    前記プロセッサモジュールは、
    第1の回路基板及び第2の回路基板であって、それぞれの基板の一の面にプロセッサ実装領域とメモリ実装領域とを有し、前記プロセッサ実装領域に少なくとも1つのプロセッサを実装し、前記メモリ実装領域に櫛状配列された複数のメモリモジュールを実装し、前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面とが向かい合わせに組み合わされた状態にある、第1の回路基板及び第2の回路基板と、
    前記第1の回路基板と前記第2の回路基板との間を電気的に接続するコネクタと、
    を含み、
    前記第1の回路基板と前記第2の回路基板とは、前記第1の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域が前記第2の回路基板の前記プロセッサ実装領域及び前記メモリ実装領域とそれぞれ向かい合うように、かつ、前記第1の回路基板の前記櫛状配列された複数のメモリモジュールの先端部及び前記第2の回路基板の前記櫛状配列された複数のメモリモジュールの先端部が、隣り合うメモリモジュール間に隙間を作って互い違いに並ぶように、位置合わせされている、
    電子機器。
  6. 前記支持部材は、前記キャリア基板が一の面に固定されるバックボード又はフレーム構造を含む、請求項5に記載の電子機器。
  7. 前記バックボード又はフレーム構造は、前記冷却槽内に垂直に起立して固定された複数の支持柱によってスライド可能に支持される、請求項6に記載の電子機器。
  8. 前記メモリ実装領域は、個々のメモリモジュールを固定する複数のメモリソケットを含み、
    前記第1の回路基板の前記一の面と前記第2の回路基板の前記一の面との距離Hは、前記一の面からの前記メモリモジュールの高さh、前記メモリソケットの高さhに関して、(h+h)<H<2hを満たす、請求項5に記載の電子機器。
  9. 前記メモリモジュールがStandard Heightのメモリモジュールであり、当該モジュールは、メモリモジュールの基板面が前記一の面に対し垂直にもしくは傾斜して、前記メモリソケットに差し込まれる、請求項5に記載の電子機器。
  10. 前記第1の回路基板の前記プロセッサと前記第2の回路基板の前記プロセッサとが、プロセッサ間相互接続用インターフェースを介して接続されている、請求項5に記載の電子機器。
JP2017541132A 2017-05-11 2017-05-11 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール Expired - Fee Related JP6494772B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/017836 WO2018207305A1 (ja) 2017-05-11 2017-05-11 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール

Publications (2)

Publication Number Publication Date
JP6494772B1 JP6494772B1 (ja) 2019-04-03
JPWO2018207305A1 true JPWO2018207305A1 (ja) 2019-06-27

Family

ID=64105586

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017541132A Expired - Fee Related JP6494772B1 (ja) 2017-05-11 2017-05-11 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール

Country Status (4)

Country Link
US (1) US11058029B2 (ja)
EP (1) EP3623902A4 (ja)
JP (1) JP6494772B1 (ja)
WO (1) WO2018207305A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7081368B2 (ja) * 2018-07-24 2022-06-07 富士通株式会社 液浸槽及び電子装置
US11464133B2 (en) * 2019-01-14 2022-10-04 Hewlett Packard Enterprise Development Lp Cooling container
US20210378148A1 (en) * 2020-06-01 2021-12-02 Robert CV Chen Liquid immersion cooling tank as a high density aggregated server chassis for modular blades
US11510346B2 (en) * 2020-08-24 2022-11-22 Baidu Usa Llc Method and system for enhancing electronics cooling using a thermoelectric element
US20220104394A1 (en) * 2020-09-28 2022-03-31 Christopher L. Boyd Appliance Immersion Cooling System
JP2023132139A (ja) * 2022-03-10 2023-09-22 日本電気株式会社 液浸冷却装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6042587B2 (ja) 1982-04-22 1985-09-24 古河電池株式会社 蓄電池用格子基板の製造方法
US5131233A (en) * 1991-03-08 1992-07-21 Cray Computer Corporation Gas-liquid forced turbulence cooling
JP2007066480A (ja) * 2005-09-02 2007-03-15 Hitachi Ltd ディスクアレイ装置
JP2008205402A (ja) * 2007-02-22 2008-09-04 Fuji Xerox Co Ltd 電子モジュール
US9596787B1 (en) * 2014-11-06 2017-03-14 Google Inc. Cooling electronic devices in a data center
EP3379375A4 (en) * 2015-11-16 2018-12-26 Exascaler Inc. Electronic device for liquid immersion cooling and cooling system using same
US10306799B2 (en) 2015-11-16 2019-05-28 Exascaler Inc. Electronic device for liquid immersion cooling and cooling system using the same
CN108781519B (zh) * 2016-01-29 2020-08-25 慧与发展有限责任合伙企业 服务器和实现服务器的方法

Also Published As

Publication number Publication date
JP6494772B1 (ja) 2019-04-03
EP3623902A4 (en) 2021-03-31
US11058029B2 (en) 2021-07-06
EP3623902A1 (en) 2020-03-18
WO2018207305A1 (ja) 2018-11-15
US20200120831A1 (en) 2020-04-16

Similar Documents

Publication Publication Date Title
JP6494772B1 (ja) 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール
US8659897B2 (en) Liquid-cooled memory system having one cooling pipe per pair of DIMMs
JP6644907B2 (ja) 液浸冷却用電子機器、及び電源ユニット、並びに冷却システム
US20080084667A1 (en) Hybrid cooling system and method for a multi-component electronics system
JPWO2018087905A1 (ja) 液浸冷却用電子機器、及び電源ユニット、並びに冷却システム
JP6042587B1 (ja) 液浸冷却用電子機器、及びそれを用いた冷却システム
JP6042589B1 (ja) 液浸冷却用電子機器、及びそれを用いた冷却システム
JP6442066B2 (ja) 液浸冷却用電子機器
JP6042588B1 (ja) 液浸冷却用電子機器、及びそれを用いた冷却システム
JP6523470B6 (ja) 液浸冷却用電子機器
JP6523469B6 (ja) 液浸冷却用電子機器
JP6644908B2 (ja) 液浸冷却用電子機器、及び電源ユニット、並びに冷却システム
JP6494773B1 (ja) 液浸冷却用電子機器、及び液浸冷却用プロセッサモジュール
JP6244067B1 (ja) 液浸冷却用電子機器
JP6644906B2 (ja) 液浸冷却用電子機器、及び電源ユニット、並びに冷却システム
JP6042590B1 (ja) 液浸冷却用電子機器、及びそれを用いた冷却システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180612

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20181011

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190305

R150 Certificate of patent or registration of utility model

Ref document number: 6494772

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees