JP7105248B2 - 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法 - Google Patents

高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法 Download PDF

Info

Publication number
JP7105248B2
JP7105248B2 JP2019552237A JP2019552237A JP7105248B2 JP 7105248 B2 JP7105248 B2 JP 7105248B2 JP 2019552237 A JP2019552237 A JP 2019552237A JP 2019552237 A JP2019552237 A JP 2019552237A JP 7105248 B2 JP7105248 B2 JP 7105248B2
Authority
JP
Japan
Prior art keywords
subnet
partition
multicast
port
mlid
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019552237A
Other languages
English (en)
Other versions
JP2020515188A (ja
Inventor
ヨンセン,ビョルン・ダグ
ボグダンスキー,バルトシュ
ホレン,リネ
Original Assignee
オラクル・インターナショナル・コーポレイション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オラクル・インターナショナル・コーポレイション filed Critical オラクル・インターナショナル・コーポレイション
Publication of JP2020515188A publication Critical patent/JP2020515188A/ja
Priority to JP2022077499A priority Critical patent/JP7411719B2/ja
Application granted granted Critical
Publication of JP7105248B2 publication Critical patent/JP7105248B2/ja
Priority to JP2023217956A priority patent/JP2024038087A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/185Arrangements for providing special services to substations for broadcast or conference, e.g. multicast with management of multicast group membership
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2255Hash tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1886Arrangements for providing special services to substations for broadcast or conference, e.g. multicast with traffic restrictions for efficiency improvement, e.g. involving subnets or subdomains
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • H04L41/0806Configuration setting for initial configuration or provisioning, e.g. plug-and-play
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/085Retrieval of network configuration; Tracking network configuration history
    • H04L41/0853Retrieval of network configuration; Tracking network configuration history by actively collecting configuration information or by backing up configuration information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0893Assignment of logical groups to network elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/30Decision processes by autonomous network management units using voting and bidding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/02Topology update or discovery
    • H04L45/021Ensuring consistency of routing table updates, e.g. by using epoch numbers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/16Multipoint routing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/48Routing tree calculation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00Routing or path finding of packets in data switching networks
    • H04L45/48Routing tree calculation
    • H04L45/484Routing tree calculation using multiple routing trees
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/36Flow control; Congestion control by determining packet size, e.g. maximum transfer unit [MTU]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/15Interconnection of switching modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/20Support for services
    • H04L49/201Multicast operation; Broadcast operation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/35Switches specially adapted for specific applications
    • H04L49/356Switches specially adapted for specific applications for storage area networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/35Switches specially adapted for specific applications
    • H04L49/356Switches specially adapted for specific applications for storage area networks
    • H04L49/357Fibre channel switches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/35Switches specially adapted for specific applications
    • H04L49/356Switches specially adapted for specific applications for storage area networks
    • H04L49/358Infiniband Switches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00Network arrangements, protocols or services for addressing or naming
    • H04L61/09Mapping addresses
    • H04L61/10Mapping addresses of different types
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00Network arrangements, protocols or services for addressing or naming
    • H04L61/09Mapping addresses
    • H04L61/10Mapping addresses of different types
    • H04L61/103Mapping addresses of different types across network layers, e.g. resolution of network layer into physical layer addresses or address resolution protocol [ARP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L61/00Network arrangements, protocols or services for addressing or naming
    • H04L61/50Address allocation
    • H04L61/5069Address allocation for group communication, multicast communication or broadcast communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L69/00Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
    • H04L69/18Multiprotocol handlers, e.g. single devices capable of handling multiple protocols
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/4557Distribution of virtual machine instances; Migration and load balancing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/455Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533Hypervisors; Virtual machine monitors
    • G06F9/45558Hypervisor-specific management and integration aspects
    • G06F2009/45595Network integration; Enabling network access in virtual machine instances
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2101/00Indexing scheme associated with group H04L61/00
    • H04L2101/60Types of network addresses
    • H04L2101/618Details of network addresses
    • H04L2101/622Layer-2 addresses, e.g. medium access control [MAC] addresses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L2101/00Indexing scheme associated with group H04L61/00
    • H04L2101/60Types of network addresses
    • H04L2101/668Internet protocol [IP] address subnets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/30Peripheral units, e.g. input or output ports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L49/00Packet switching elements
    • H04L49/70Virtual switches

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Multi Processors (AREA)

Description

著作権表示
本特許文献の開示の一部には、著作権保護の対象となるものが含まれている。著作権者は、この特許文献または特許開示の何者かによる複製が、特許商標庁の特許ファイルまたは記録にある限り、それに対して異議を唱えないが、そうでなければ、いかなる場合もすべての著作権を留保する。
優先権の主張および関連出願への相互参照
この出願は、2017年3月24日に提出された「SAアクセスおよびスタートアップフェイルオーバー時間を最小限にするインフィニバンドファブリック最適化のためのシステムならびに方法(SYSTEM AND METHOD FOR INFINIBAND FABRIC OPTIMIZATIONS TO MINIMIZE SA ACCESS AND STARTUP FAILOVER TIMES)」と題する米国仮特許出願第62/476,423号;2017年8月18日に提出された「高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性を提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE HOMOGENEOUS FABRIC ATTRIBUTES TO REDUCE THE NEED FOR SA ACCESS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,203号;2017年8月18日に提出された「高性能コンピューティング環境において同種のファブリック属性に基づいてARP応答およびピアツーピアネゴシエーションから導出されるパスレコードを提供するシステムならびに方法(SYSTEM AND METHOD TO PROVIDE PATH RECORDS DERIVED FROM ARP RESPONSES AND PEER-TO-PEER NEGOTIATION ON HOMOGENOUS FABRIC ATTRIBUTE IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,206号;2017年8月18日に提出された「高性能コンピューティング環境においてパーティションメンバーシップに対して定義されたマルチキャストグループメンバーシップを提供するシステムおよび方法」と題する米国仮特許出願第62/547,213号;2017年8月18日に提出された「高性能コンピューティング環境において正規パーティションメンバーおよび制限付きパーティションメンバーの両方を容易にするためにマルチキャストグループごとにデュアルマルチキャストLID割り当てを提供するシステムならびに方法(SYSTEM AND METHOD TO PROVIDE DUAL MULTICAST LID ALLOCATION PER MULTICAST GROUP TO FACILITATE BOTH FULL AND LIMITED PARTITION MEMBERS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,218号;2017年8月18日に提出された「高性能コンピューティング環境において関連するMGIDについて受信マルチキャストメッセージ上でマルチキャストグループMLIDダイナミックディスカバリを提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE MULTICAST GROUP MLID DYNAMIC DISCOVERY ON RECEIVED MULTICAST MESSAGES FOR RELEVANT MGID IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第第62/547,223号;2017年8月18日に提出された「高性能コンピューティング環境において追加のSMA属性としてパーティションごとにデフォルトのマルチキャストLID値を提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE DEFAULT MULTICAST LID VALUES PER PARTITION AS ADDITIONAL SMA ATTRIBUTES IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,225号;2017年8月18日に提出された「高性能コンピューティング環境においてSMポリシー入力として定義されるパーティションごとのデフォルトのマルチキャストLIDに対する明示的なマルチキャストLID割り当てを提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE EXPLICIT MULTICAST LID ASSIGNMENT FOR PER PARTITION DEFAULT MULTICAST LIDS DEFINED AS SM POLICY INPUT IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,255号;2017年8月18日に提出された「高性能コンピューティング環境において拡張ポート情報としてアナウンスメントおよびディスカバリのためにデフォルトのマルチキャストグループ(MCG)を提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE DEFAULT MULTICAST GROUP (MCG) FOR ANNOUNCEMENTS AND DISCOVERY AS EXTENDED PORT INFORMATION IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,258号;2017年8月18日に提出された「高性能コンピューティング環境におけるアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトのマルチキャストプロキシを提供するシステムならびに方法(SYSTEM AND METHOD TO PROVIDE DEFAULT MULTICAST PROXY FOR SCALABLE FORWARDING OF ANNOUNCEMENTS AND INFORMATION REQUEST INTERCEPTING IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,259号;2017年8月18日に提出された「高性能コンピューティング環境において複数のパーティションにおいてマルチキャストベースのアナウンスメントを受信するためにキューペア1を用いるシステムおよび方法(SYSTEM AND METHOD TO USE QUEUE PAIR 1 FOR RECEIVING MULTICAST BASED ANNOUNCMENTS IN MULTIPLE PARTITIONS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,260号;2017年8月18日に提出された「高性能コンピューティング環境においてGUIDからLIDへのキャッシュコンテンツのための基礎としてすべての着信マルチキャストパケットを用いるシステムおよび方法(SYSTEM AND METHOD TO USE ALL INCOMING MULTICAST PACKETS AS A BASIS FOR GUID TO LID CACHE CONTENTS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する米国仮特許出願第62/547,261号;および2017年8月18日に提出された「高性能コンピューティング環境におけるデフォルトのIBマルチキャストグループを介する組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供するシステムならびに方法(SYSTEM AND METHOD TO PROVIDE COMBINED IB AND IP ADDRESS AND NAME RESOLUTION SCHEMES VIA DEFAULT IB MULTICAST GROUPS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題する仮特許出願第62/547,264号の優先権の利益を主張し、これらの各出願をここに引用により援用する。
この出願は、以下の特許出願に関連しており、それらの各々はその全体がここに引用により援用される。本願と同時に提出された「高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性を提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE HOMOGENEOUS FABRIC ATTRIBUTES TO REDUCE THE NEED FOR SA ACCESS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題される米国特許出願、出願番号、(弁護士整理番号ORACL‐05828US1);本願と同時に提出された「高性能コンピューティング環境において同種のファブリック属性に基づいてARP応答およびピアツーピアネゴシエーションから導出されるパスレコードを提供するシステムならびに方法(SYSTEM AND METHOD TO PROVIDE PATH RECORDS DERIVED FROM ARP RESPONSES AND PEER-TO-PEER NEGOTIATION ON HOMOGENOUS FABRIC ATTRIBUTE IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題される米国特許出願、出願番号、(弁護士整理番号ORACL‐05829US1);本願と同時に提出された「高性能コンピューティング環境において正規パーティションメンバーおよび制限付きパーティションメンバーの両方を容易にするためにマルチキャストグループごとにデュアルマルチキャストLID割り当てを提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE DUAL MULTICAST LID ALLOCATION PER MULTICAST GROUP TO FACILITATE BOTH FULL AND LIMITED PARTITION MEMBERS IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題される米国特許出願、出願番号、(代理整理番号ORACL‐05831US1);本願と同時に提出された「高性能コンピューティング環境において関連するマルチキャストGIDの受信マルチキャストメッセージに基づいてマルチキャストグループマルチキャストLIDダイナミックディスカバリを提供するシステムおよび方法(SYSTEM AND METHOD TO PROVIDE MULTICAST GROUP MULTICAST LID DYNAMIC DISCOVERY BASED ON RECEIVED MULTICAST MESSAGES FOR RELEVANT MULTICAST GID IN A HIGH PERFORMANCE COMPUTING ENVIRONMENT)」と題される米国特許出願、出願番号、(弁護士整理番号ORACL‐05832US1)。
背景
導入されるクラウドコンピューティングアーキテクチャがより大規模になるのに応じて、従来のネットワークおよびストレージに関する性能および管理の障害が深刻な問題になってきている。クラウドコンピューティングファブリックのための基礎としてインフィニバンド(InfiniBand:IB)技術などの高性能な無損失相互接続を用いることへの関心がますます高まってきている。これは、本発明の実施形態が対応するように意図された一般領域である。
概要:
高性能コンピューティング環境でパーティションメンバーシップに関連するマルチキャストグループ(MCG)メンバーシップを提供するシステムおよび方法。高性能コンピューティング環境でパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供する例示的な方法は、サブネットマネージャが、マルチキャストグループを作成する要求を受信することができ、要求はインジケータを含み、インジケータは、サブネットにおいて定義されるパーティションの各メンバーがマルチキャストグループに関連付けられることを示す。この方法は、サブネットマネージャが、サブネットにおいて定義されるパーティションのメンバーである、ある数の追加のエンドポートを決定することができる。この方法は、サブネットマネージャが、パーティションのメンバーである、ある数の追加のエンドポートを、マルチキャストグループを定義する識別子に関連付けることができる。この方法は、サブネットマネージャが、マルチキャストグループを定義する識別子を含むマルチキャストパケットを、マルチキャストグループを定義する識別子に関連付けられた各エンドポートに配信するためのルートを定義することができる。
一実施形態に従うインフィニバンド環境の一例を示す図である。 一実施形態に従う分割されたクラスタ環境の一例を示す図である。 一実施形態に従うネットワーク環境におけるツリートポロジーの一例を示す図である。 一実施形態に従う例示的な共有ポートアーキテクチャを示す図である。 一実施形態に従う例示的なvSwitchアーキテクチャを示す図である。 一実施形態に従う例示的なvPortアーキテクチャを示す図である。 一実施形態に従うLIDが予めポピュレートされている例示的なvSwitchアーキテクチャを示す図である。 一実施形態に従う動的LID割当てがなされた例示的なvSwitchアーキテクチャを示す図である。 一実施形態に従う、vSwitchに動的LID割当てがなされかつLIDが予めポピュレートされている、例示的なvSwitchアーキテクチャを示す図である。 一実施形態に従う例示的なマルチサブネットインフィニバンドファブリックを示す図である。 一実施形態に従う、高性能コンピューティング環境における2つのサブネット間の相互接続を示す図である。 一実施形態に従う、高性能コンピューティング環境におけるデュアルポート仮想ルータ構成を介した2つのサブネット間の相互接続を示す図である。 一実施形態に従う、高性能コンピューティング環境においてデュアルポート仮想ルータをサポートする方法のフローチャートを示す図である。 実施形態による、マルチキャスト通信をサポートする例示的なサブネットA00を示す。 一実施形態による、マルチキャストグループを管理するためにSM/SAによって用いられる例示的なSAデータストアを示す。 実施形態による、サブネット内においてスパニングツリーアルゴリズムを介して判断され得る例示的なルートを示す。 一実施形態によるスイッチの詳細図を示す。 一実施形態による、マルチキャストグループのメンバーへのマルチキャストパケット配信を提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートする方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートする方法のフローチャートである。 一実施形態による、高性能コンピューティング環境における同種のファブリック属性に関するARP応答およびピアツーピアネゴシエーションから導出されたパスレコードを提供するためのシステムを示す。 一実施形態による、ファブリックの最小値/最大値との相関を含む、入来ARP要求および応答からGIDおよびLIDを判断する方法のフローチャートである。 一実施形態による、ファブリックの最小値/最大値との相関を含む、新たなCMタイプのメッセージ交換に基づいてパス情報を構築する方法のフローチャートである。 一実施形態による、ファブリックの最小値/最大値との相関を含む、新たなCMタイプのメッセージ交換に基づいてパス情報を構築する方法のフローチャートである。 一実施形態による、マルチキャストグループ(MCG)の作成および参加のフローチャートを示す。 一実施形態による、エンドポートによるMLIDに対する要求(例えば、MCGへの参加の要求)に応答するためのフローチャートを示す。 一実施形態による、サブネット内において制限付きパーティションメンバーMLIDに対してスパニングツリーアルゴリズムを介して判断され得る例示的なマルチキャストパケットルートを示す。 一実施形態による、デュアルMLIDがMCGに対して割り当てられた状態で用いるためにエンドポートを構成するためのフローチャートを示す。 一実施形態による、高性能コンピューティング環境において正規パーティションメンバーおよび制限されたパーティションメンバーの両方を容易にするようマルチキャストグループごとにデュアルマルチキャストローカル識別子(MLID)を提供するためのフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供するためのフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供する方法のフローチャートを示す。 一実施形態による、エンドポートのパーティションテーブルに従ってエンドポートのデフォルトのMLIDテーブルを更新する方法のフローチャートである。 一実施形態による、IBクライアントによって、サポートするエンドポートのデフォルトのMLIDテーブルからデフォルトMLID値を判断するための方法のフローチャートである。 一実施形態による、高性能コンピューティング環境において追加のサブネット管理エージェント(SMA)属性としてパーティションごとにデフォルトのマルチキャストローカル識別子(MLID)値を提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージ上でマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージ上でマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートである。 一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージ上でマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートである。 一実施形態による、パーティション固有のMLIDと、発信マルチキャストパケット用の専用MCG MLIDとの両方のレコードを維持するためのフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてマルチキャストローカル識別子のエンドノードダイナミックディスカバリを提供する方法のフローチャートを示す。 一実施形態による、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを提供する方法のフローチャートを示す。 一実施形態による、SMポリシー入力として定義されるパーティションごとのデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを提供する方法のフローチャートを示す。 一実施形態による、サブネットマージ操作前において、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを各々が有する2つの独立したファットツリーベースのサブネットを示す。 サブネットマージ操作後において、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを有する単一のファットツリーベースのサブネットを示す。 一実施形態による、高性能コンピューティング環境において拡張ポート情報としてアナウンスメントおよびディスカバリのためにデフォルトマルチキャストグループ(MCG)を提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において拡張ポート情報としてアナウンスメントおよびディスカバリのためにデフォルトマルチキャストグループ(MCG)を提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いる方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。 一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いる方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いる方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いるシステムを示す。 一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いるシステムを示す。 一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いる方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供するシステムを示す。より具体的には、この図は、従来のGUIDからLIDへのキャッシュを示す。 一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。 一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。
詳細な説明:
本発明は、同様の参照番号が同様の要素を指している添付図面の図において、限定のためではなく例示のために説明されている。なお、この開示における「ある」または「1つの」または「いくつかの」実施形態への参照は必ずしも同じ実施形態に対するものではなく、そのような参照は少なくとも1つを意味する。特定の実現例が説明されるが、これらの特定の実現例が例示的な目的のためにのみ提供されることが理解される。当業者であれば、他の構成要素および構成が、この発明の範囲および精神から逸脱することなく使用され得ることを認識するであろう。
図面および詳細な説明全体にわたって同様の要素を示すために、共通の参照番号が使用され得る。したがって、ある図で使用される参照番号は、要素が別のところで説明される場合、そのような図に特有の詳細な説明において参照される場合もあり、または参照されない場合もある。
本明細書では、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供するシステムおよび方法について説明する。
この発明の以下の説明は、高性能ネットワークの一例として、インフィニバンドTM(IB)ネットワークを使用する。以下の説明全体にわたり、インフィニバンドTMの仕様(インフィニバンド仕様、IB仕様、またはレガシーIB仕様など、さまざまな呼ばれ方がある)を引用することがある。このような引用は、2015年3月に発表され、http://www.inifinibandta.orgから入手可能な、本明細書にその全体を引用により援用するInfiniBand Trade Association Architecture Specification, Volume 1, Version 1.3を引用することであると理解される。他のタイプの高性能ネットワークが何ら限定されることなく使用され得ることが、当業者には明らかであるだろう。以下の説明ではまた、ファブリックトポロジーについての一例として、ファットツリートポロジーを使用する。他のタイプのファブリックトポロジーが何ら限定されることなく使用され得ることが当業者には明らかであるだろう。
今の時代(たとえばエクサスケール(exascale)時代)のクラウドの要求を満たすためには、仮想マシンが、リモートダイレクトメモリアクセス(Remote Direct Memory Access:RDMA)等の低オーバーヘッドのネットワーク通信パラダイムを利用できることが望ましい。RDMAはOSスタックをバイパスしハードウェアと直接通信するため、シングルルートI/O仮想化(SR-IOV)ネットワークアダプタのようなパス・スルー技術を使用することができる。一実施形態に従うと、仮想スイッチ(vSwitch)SR-IOVアーキテクチャを、高性能無損失相互接続ネットワークに適用することができる。ネットワーク再構成時間はライブマイグレーションを現実的な選択肢にするために重要なので、ネットワークアーキテクチャに加えて、スケーラブルでありトポロジーに依存しない動的再構成機構を提供することができる。
一実施形態に従い、さらに、vSwitchを使用する仮想化環境に対するルーティングストラテジーを提供することができ、ネットワークトポロジー(たとえばファットツリートポロジー)に対する効率的なルーティングアルゴリズムを提供することができる。動的再構成機構をさらに調整することにより、ファットツリーに課されるオーバーヘッドを最小にすることができる。
本発明の一実施形態に従うと、仮想化は、クラウドコンピューティングにおける効率的なリソースの利用および柔軟なリソースの割当てにとって有益になり得る。ライブマイグレーションは、アプリケーションにとってトランスペアレントになるように物理サーバ間で仮想マシン(VM)を移動させることでリソースの利用を最適化することを可能にする。このように、仮想化は、ライブマイグレーションにより、コンソリデーション、リソースのオンデマンドプロビジョニング、および柔軟性を可能にする。
インフィニバンドTM
インフィニバンドTM(IB)は、インフィニバンドTM・トレード・アソシエーション(InfiniBandTM Trade Association)によって開発されたオープン標準無損失ネットワーク技術である。この技術は、特に高性能コンピューティング(high-performance computing:HPC)アプリケーションおよびデータセンタを対象とする、高スループットおよび少ない待ち時間の通信を提供するシリアルポイントツーポイント全二重相互接続(serial point-to-point full-duplex interconnect)に基づいている。
インフィニバンドTM・アーキテクチャ(InfiniBand Architecture:IBA)は、2層トポロジー分割をサポートする。低層では、IBネットワークはサブネットと呼ばれ、1つのサブネットは、スイッチおよびポイントツーポイントリンクを使用して相互接続される一組のホストを含み得る。より高いレベルでは、1つのIBファブリックは、ルータを使用して相互接続され得る1つ以上のサブネットを構成する。
1つのサブネット内で、ホストは、スイッチおよびポイントツーポイントリンクを使用して接続され得る。加えて、サブネットにおける指定されたデバイス上に存在する、1つのマスター管理エンティティ、すなわちサブネットマネージャ(subnet manager:SM)があり得る。サブネットマネージャは、IBサブネットを構成し、起動し、維持する役割を果たす。加えて、サブネットマネージャ(SM)は、IBファブリックにおいてルーティングテーブル計算を行なう役割を果たし得る。ここで、たとえば、IBネットワークのルーティングは、ローカルサブネットにおけるすべての送信元と宛先とのペア間の適正な負荷バランシングを目標とする。
SMは、サブネット管理(SA)をローカルサブネットに提供する役割を果たす。SAは、ローカルサブネットに関するいくつかのタイプの情報へのアクセスおよびその保存を提供する。SAを提供するために、サブネットマネージャは通常、サブネット関連情報を記憶するためのクエリ可能なデータベースを保持する。一般にSAによって記憶/提供される情報の例には、エンドノード間のパス、イベントの通知、サービス属性など、エンドノードがサブネットでの動作に必要な情報;パーティショニングデータ、M_Keysなどの非アルゴリズム情報;トポロジーデータ、スイッチ転送テーブルなど、他の管理エンティティに役立つオプションの情報が含まれる。
SAが提供するデータは、管理データグラム(MAD)の使用を介してアクセス、照会、または報告される。MADは標準化された管理パケットであり、他の用途の中でも特に、SM/SAとIBデバイスとの間、およびIBデバイス、それら自体間の管理操作を可能にする。
サブネットマネージャは、サブネット管理インターフェイスを介して、サブネット管理パケット(MADのサブセットであるSMP)と呼ばれる制御パケットをサブネット管理エージェント(SMA)と交換する。サブネット管理エージェントは、すべてのIBサブネットデバイスに常駐する。SMPを用いることにより、サブネットマネージャはファブリックを発見し、エンドノードおよびスイッチを構成し、SMAから通知を受信することができる。
サブネット管理インターフェイスを通して、サブネットマネージャは、サブネット管理パケット(subnet management packet:SMP)と呼ばれる制御パケットを、サブネット管理エージェント(subnet management agent:SMA)と交換する。サブネット管理エージェントは、すべてのIBサブネットデバイス上に存在する。SMPを使用することにより、サブネットマネージャは、ファブリックを発見し、エンドノードおよびスイッチを構成し、SMAから通知を受信することができる。
一実施形態に従うと、IBネットワークにおけるサブネット内のルーティングは、スイッチに格納されたリニアフォワーディングテーブル(linear forwarding table)(LFT)に基づき得る。LFTは、使用中のルーティングメカニズムに従って、SMによって計算される。サブネットでは、エンドノード上のホストチャネルアダプタ(Host Channel Adapter:HCA)ポートおよびスイッチが、ローカル識別子(LID)を使用してアドレス指定される。LFTにおける各エントリは、宛先LID(destination LID:DLID)と出力ポートとからなる。テーブルにおけるLIDごとに1つのエントリのみがサポートされる。パケットがあるスイッチに到着すると、その出力ポートは、そのスイッチのフォワーディングテーブルにおいてDLIDを検索することによって判断される。所与の送信元-宛先ペア(LIDペア)間のネットワークにおいてパケットは同じ経路を通るため、ルーティングは決定論的である。
一般に、マスタサブネットマネージャを除く他のすべてのサブネットマネージャは、耐故障性のために待機モードで作動する。しかしながら、マスタサブネットマネージャが故障した状況では、待機中のサブネットマネージャによって、新しいマスタサブネットマネージャが取り決められる。マスタサブネットマネージャはまた、サブネットの周期的なスイープ(sweep)を行なってあらゆるトポロジー変化を検出し、それに応じてネットワークを再構成する。
IBサブネットでは、各エンドノードは1つ以上のホストチャネルアダプタ(HCA)を含むことができる。HCAは、データパケットの生成および送信、ならびにデータパケットの受信および処理を担う。各ホストチャネルアダプタ(HCA)は、1つ以上のポートを有することができる。HCAのポートは、HCA、およびHCAを含むエンドノードをネットワークファブリックに接続するために用いられる。たとえば、HCAのポートは、ケーブル(ツイストペア銅線、光ファイバーケーブルなど)などの物理的媒体を介してサブネットスイッチに接続することができる。
ネットワークファブリックに接続されたHCAポートには、ローカルサブネットマネージャ(つまり、HCAが接続されるサブネットのサブネットマネージャ)によってローカル識別子(LID)が割り当てられる。LIDは、HCAポートのアドレス指定に用いられる。他のサブネットノードにも、ローカルサブネットマネージャによってLIDを割り当てることができる。たとえば、サブネットホストおよびスイッチに、サブネットマネージャによってローカル識別子(LID)を割り当てることができ、サブネットホストおよびスイッチは、それらの割り当てられたLIDによってアドレス指定することができる。LIDはサブネット内で一意であり、単一のサブネットは49151のユニキャストLIDに制限され得る。
一実施形態によれば、IBネットワークにおけるサブネット内ルーティングは、ローカルサブネットスイッチに格納された線形転送テーブル(LFT)に基づくことができる。LFTは、使用中のルーティングメカニズムに従ってSMによって計算される。各データパケットには、パケットを作成したポートを識別するソースLID(SLID)と、パケットの配信先ポートを識別する宛先LID(DLID)とが含まれる。さらに、線形転送テーブル(LFT)の各エントリは、DLIDと出力ポートとで構成される。テーブル内のLIDごとに1つのエントリのみがサポートされる。パケットがスイッチに到着すると、その出力ポートはスイッチの転送テーブルにおいてパケットのDLIDを探索することにより判断される。次に、パケットは、LFTにおけるパケットのDLIDに対応するスイッチポートを介して外部に転送される。ルーティングは、パケットがネットワーク内で所与の送信元/宛先ペア(LIDペア)間において同じパスを取るため、決定論的である。
さらに、サブネット内のホストおよびスイッチは、ローカル識別子(LID)を用いてアドレス指定され得るとともに、単一のサブネットは49151個のユニキャストLIDに制限され得る。サブネット内で有効なローカルアドレスであるLIDの他に、各IBデバイスは、64ビットのグローバル一意識別子(global unique identifier:GUID)を有し得る。GUIDは、IBレイヤー3(L3)アドレスであるグローバル識別子(global identifier:GID)を形成するために使用され得る。
SMは、ネットワーク初期化時間に、ルーティングテーブル(すなわち、サブネット内のノードの各ペア間の接続/ルート)を計算し得る。さらに、トポロジーが変化するたびに、ルーティングテーブルは、接続性および最適性能を確実にするために更新され得る。通常動作中、SMは、トポロジー変化をチェックするためにネットワークの周期的なライトスイープ(light sweep)を実行し得る。ライトスイープ中に変化が発見された場合、または、ネットワーク変化を信号で伝えるメッセージ(トラップ)をSMが受信した場合、SMは、発見された変化に従ってネットワークを再構成し得る。
たとえば、SMは、リンクがダウンした場合、デバイスが追加された場合、またはリンクが除去された場合など、ネットワークトポロジーが変化する場合に、ネットワークを再構成し得る。再構成ステップは、ネットワーク初期化中に行なわれるステップを含み得る。さらに、再構成は、ネットワーク変化が生じたサブネットに制限されるローカルスコープを有し得る。また、ルータを用いる大規模ファブリックのセグメント化は、再構成スコープを制限し得る。
サブネット内で有効で一意のローカルアドレスであるLIDに加えて、各IBデバイス(例えばHCAまたはスイッチ)は64ビットのグローバル一意識別子(GUID)を有することができる。さらに、HCAの各ポートは独自のGUIDを有することができる。IBデバイスのGUIDは、デバイスのベンダーによって割り当てられることができる。IBデバイスのGUIDは、ネットワークインターフェイスカードのメディアアクセス制御(MAC)アドレスのように、デバイスにハードコーディングすることができる。GUIDを用いて、IBレイヤ3(L3)アドレスであるグローバル識別子(GID)を形成することができる。
一実施形態に従うインフィニバンド環境100の一例を示す図1に、インフィニバンドファブリックの一例を示す。図1に示す例では、ノードA101~E105は、インフィニバンドファブリック120を使用して、それぞれのホストチャネルアダプタ111~115を介して通信する。一実施形態に従うと、さまざまなノード(たとえばノードA101~E105)はさまざまな物理デバイスによって表わすことができる。一実施形態に従うと、さまざまなノード(たとえばノードA101~E105)は仮想マシンなどのさまざまな仮想デバイスによって表わすことができる。
インフィニバンドにおけるパーティショニング
一実施形態に従うと、IBネットワークは、ネットワークファブリックを共有するシステムの論理グループを分離するためのセキュリティメカニズムとしてのパーティショニングをサポートし得る。ファブリックにおけるノード上の各HCAポートは、1つ以上のパーティションのメンバである可能性がある。パーティションメンバーシップは、SMの一部であり得る集中型パーティションマネージャによって管理される。SMは、各ポートに関するパーティションメンバーシップ情報を、16ビットのパーティションキー(partition key:P_Key)のテーブルとして構成することができる。SMはまた、これらのポートを介してデータトラフィックを送信または受信するエンドノードに関連付けられたP_Key情報を含むパーティション実施テーブルを用いて、スイッチポートおよびルータポートを構成することができる。加えて、一般的な場合には、スイッチポートのパーティションメンバーシップは、(リンクに向かう)出口方向に向かってポートを介してルーティングされたLIDに間接的に関連付けられたすべてのメンバーシップの集合を表わし得る。
P_Keyは、制限付きまたは正規の、2つのタイプのパーティションメンバーシップのいずれかを指定することができる。P_Keyの上位ビットは、自身のP_KeyテーブルにP_Keyを有するHCAのメンバーシップのタイプを指定するために用いられる。値1は正規メンバーを示し、値0は制限付きメンバーを示す。制限付きパーティションメンバーは、他の制限付きメンバーからのパケットを受け入れることはできない。ただし、他のすべての組み合わせのメンバーシップタイプ間での通信は許可される。
一実施形態に従うと、パーティションはポートの論理グループであり、あるグループのメンバは同じ論理グループの他のメンバとしか通信できない。ホストチャネルアダプタ(HCA)およびスイッチにおいて、パーティションメンバーシップ情報を用いてパケットをフィルタリングすることにより、分離を実施することができる。無効なパーティショニング情報を有するパケットは、当該パケットが入口ポートに達すると直ちにドロップすることができる。パーティショニングされたIBシステムにおいて、パーティションを用いることにより、テナントクラスタを作成できる。パーティションを適所で実施すると、ノードは異なるテナントクラスタに属する他のノードと通信することができない。このようにして、欠陥があるまたは悪意があるテナントノードが存在していても、システムのセキュリティを保証することができる。
一実施形態に従うと、ノード間の通信のために、マネージメントキューペア(QP0およびQP1)を除き、キューペア(Queue Pair:QP)およびエンドツーエンドコンテキスト(End-to-End context:EEC)を特定のパーティションに割当てることができる。次に、P_Key情報を、送信されたすべてのIBトランスポートパケットに追加することができる。パケットがHCAポートまたはスイッチに到着すると、そのP_Key値を、SMによって構成されたテーブルに対して確認することができる。無効のP_Key値が見つかった場合、そのパケットは直ちに廃棄される。このようにして、通信は、パーティションを共有するポート間でのみ許可される。
一実施形態に従い、パーティショニングされたクラスタ環境の一例を示す図2に、IBパーティションの一例が示される。図2に示す例では、ノードA101~E105は、インフィニバンドファブリック120を使用して、それぞれのホストチャネルアダプタ111~115を介して通信する。ノードA~Eは、パーティション、すなわち、パーティション1 130、パーティション2 140、およびパーティション3 150に配置されている。パーティション1はノードA 101とノードD 104とを含む。パーティション2はノードA 101とノードB 102とノードC 103とを含む。パーティション3はノードC 103とノードE 105とを含む。パーティションのこの配置により、ノードD 104およびノードE 105は、1つのパーティションを共有していないので、通信することができない。一方、たとえばノードA 101およびノードC 103は、どちらもパーティション2 140のメンバなので、通信することができる。
インフィニバンドにおける仮想マシン
過去10年の間に、ハードウェア仮想化サポートによってCPUオーバーヘッドが実質的に排除され、メモリ管理ユニットを仮想化することによってメモリオーバーヘッドが著しく削減され、高速SANストレージまたは分散型ネットワークファイルシステムの利用によってストレージオーバーヘッドが削減され、シングルルートI/O仮想化(Single Root Input/Output Virtualization:SR-IOV)のようなデバイス・パススルー技術を使用することによってネットワークI/Oオーバーヘッドが削減されてきたことに応じて、仮想化された高性能コンピューティング(High Performance Computing:HPC)環境の将来の見通しが大幅に改善されてきた。現在では、クラウドが、高性能相互接続ソリューションを用いて仮想HPC(virtual HPC:vHPC)クラスタに対応し、必要な性能を提供することができる。
しかしながら、インフィニバンド(IB)などの無損失ネットワークと連結されたとき、仮想マシン(VM)のライブマイグレーションなどのいくつかのクラウド機能は、これらのソリューションにおいて用いられる複雑なアドレス指定およびルーティングスキームのせいで、依然として問題となる。IBは、高帯域および低レイテンシを提供する相互接続ネットワーク技術であり、このため、HPCおよび他の通信集約型の作業負荷に非常によく適している。
IBデバイスをVMに接続するための従来のアプローチは直接割当てされたSR-IOVを利用することによるものである。しかしながら、SR-IOVを用いてIBホストチャネルアダプタ(HCA)に割当てられたVMのライブマイグレーションを実現することは難易度の高いものであることが判明した。各々のIBが接続されているノードは、3つの異なるアドレス(すなわちLID、GUIDおよびGID)を有する。ライブマイグレーションが発生すると、これらのアドレスのうち1つ以上が変化する。マイグレーション中のVM(VM-in-migration)と通信する他のノードは接続性を失う可能性がある。これが発生すると、IBサブネットマネージャ(Subnet Manager:SM)にサブネット管理(Subnet Administration:SA)経路記録クエリを送信することによって、再接続すべき仮想マシンの新しいアドレスを突きとめることにより、失われた接続を回復させるように試みることができる。
IBは3つの異なるタイプのアドレスを用いる。第1のタイプのアドレスは16ビットのローカル識別子(LID)である。少なくとも1つの固有のLIDは、SMによって各々のHCAポートおよび各々のスイッチに割当てられる。LIDはサブネット内のトラフィックをルーティングために用いられる。LIDが16ビット長であるので、65536個の固有のアドレス組合せを構成することができ、そのうち49151個(0×0001-0×BFFF)だけをユニキャストアドレスとして用いることができる。結果として、入手可能なユニキャストアドレスの数は、IBサブネットの最大サイズを定義することとなる。第2のタイプのアドレスは、製造業者によって各々のデバイス(たとえば、HCAおよびスイッチ)ならびに各々のHCAポートに割当てられた64ビットのグローバル一意識別子(GUID)である。SMは、HCAポートに追加のサブネット固有GUIDを割当ててもよく、これは、SR-IOVが用いられる場合に有用となる。第3のタイプのアドレスは128ビットのグローバル識別子(GID)である。GIDは有効なIPv6ユニキャストアドレスであり、少なくとも1つが各々のHCAポートに割当てられている。GIDは、ファブリックアドミニストレータによって割当てられたグローバルに固有の64ビットプレフィックスと各々のHCAポートのGUIDアドレスとを組合わせることによって形成される。
ファットツリー(FTree)トポロジーおよびルーティング
一実施形態に従うと、IBベースのHPCシステムのいくつかは、ファットツリートポロジーを採用して、ファットツリーが提供する有用な特性を利用する。これらの特性は、各送信元宛先ペア間の複数経路の利用可能性に起因する、フルバイセクション帯域幅および固有の耐故障性を含む。ファットツリーの背後にある初期の概念は、ツリーがトポロジーのルート(root)に近づくにつれて、より利用可能な帯域幅を用いて、ノード間のより太いリンクを採用することであった。より太いリンクは、上位レベルのスイッチにおける輻輳を回避するのに役立てることができ、バイセクション帯域幅が維持される。
図3は、一実施形態に従う、ネットワーク環境におけるツリートポロジーの例を示す。図3に示すように、ネットワークファブリック200において、1つ以上のエンドノード201~204が接続され得る。ネットワークファブリック200は、複数のリーフスイッチ211~214と複数のスパインスイッチまたはルート(root)スイッチ231~234とを含むファットツリートポロジーに基づき得る。加えて、ネットワークファブリック200は、スイッチ221~224などの1つ以上の中間スイッチを含み得る。
また、図3に示すように、エンドノード201~204の各々は、マルチホームノード、すなわち、複数のポートを介してネットワークファブリック200のうち2つ以上の部分に接続される単一のノードであり得る。たとえば、ノード201はポートH1およびH2を含み、ノード202はポートH3およびH4を含み、ノード203はポートH5およびH6を含み、ノード204はポートH7およびH8を含み得る。
加えて、各スイッチは複数のスイッチポートを有し得る。たとえば、ルートスイッチ231はスイッチポート1~2を有し、ルートスイッチ232はスイッチポート3~4を有し、ルートスイッチ233はスイッチポート5~6を有し、ルートスイッチ234はスイッチポート7~8を有し得る。
実施形態に従うと、ファットツリールーティングメカニズムは、IBベースのファットツリートポロジーに関して最も人気のあるルーティングアルゴリズムのうちの1つである。ファットツリールーティングメカニズムはまた、OFED(Open Fabric Enterprise Distribution:IBベースのアプリケーションを構築しデプロイするための標準ソフトウェアスタック)サブネットマネージャ、すなわちOpenSMにおいて実現される。
ファットツリールーティングメカニズムの目的は、ネットワークファブリックにおけるリンクにわたって最短経路ルートを均一に広げるLFTを生成することである。このメカニズムは、索引付け順序でファブリックを横断し、エンドノードの目標LID、ひいては対応するルートを各スイッチポートに割当てる。同じリーフスイッチに接続されたエンドノードについては、索引付け順序は、エンドノードが接続されるスイッチポートに依存し得る(すなわち、ポートナンバリングシーケンス)。各ポートについては、メカニズムはポート使用カウンタを維持することができ、新しいルートが追加されるたびに、ポート使用カウンタを使用して使用頻度が最小のポートを選択することができる。
一実施形態に従うと、パーティショニングされたサブネットでは、共通のパーティションのメンバではないノードは通信することを許可されない。実際には、これは、ファットツリールーティングアルゴリズムによって割当てられたルートのうちのいくつかがユーザトラフィックのために使用されないことを意味する。ファットツリールーティングメカニズムが、それらのルートについてのLFTを、他の機能的経路と同じやり方で生成する場合、問題が生じる。この動作は、リンク上でバランシングを劣化させるおそれがある。なぜなら、ノードが索引付けの順序でルーティングされているからである。パーティションに気づかずにルーティングが行なわれるため、ファットツリーでルーティングされたサブネットにより、概して、パーティション間の分離が不良なものとなる。
一実施形態に従うと、ファットツリーは、利用可能なネットワークリソースでスケーリングすることができる階層ネットワークトポロジーである。さらに、ファットツリーは、さまざまなレベルの階層に配置された商品スイッチを用いて容易に構築される。さらに、k-ary-n-tree、拡張された一般化ファットツリー(Extended Generalized Fat-Tree:XGFT)、パラレルポート一般化ファットツリー(Parallel Ports Generalized Fat-Tree:PGFT)およびリアルライフファットツリー(Real Life Fat-Tree:RLFT)を含むファットツリーのさまざまな変形例が、一般に利用可能である。
また、k-ary-n-treeは、nレベルのファットツリーであって、kエンドノードと、n・kn-1スイッチとを備え、各々が2kポートを備えている。各々のスイッチは、ツリーにおいて上下方向に同数の接続を有している。XGFTファットツリーは、スイッチのための異なる数の上下方向の接続と、ツリーにおける各レベルでの異なる数の接続とをともに可能にすることによって、k-ary-n-treeを拡張させる。PGFT定義はさらに、XGFTトポロジーを拡張して、スイッチ間の複数の接続を可能にする。多種多様なトポロジーはXGFTおよびPGFTを用いて定義することができる。しかしながら、実用化するために、現代のHPCクラスタにおいて一般に見出されるファットツリーを定義するために、PGFTの制限バージョンであるRLFTが導入されている。RLFTは、ファットツリーにおけるすべてのレベルに同じポートカウントスイッチを用いている。
入出力(I/O)仮想化
一実施形態に従うと、I/O仮想化(I/O Virtualization:IOV)は、基礎をなす物理リソースに仮想マシン(VM)がアクセスすることを可能にすることによって、I/Oを利用可能にすることができる。ストレージトラフィックとサーバ間通信とを組合わせると、シングルサーバのI/Oリソースにとって抗し難い高い負荷が課され、結果として、データの待機中に、バックログが発生し、プロセッサがアイドル状態になる可能性がある。I/O要求の数が増えるにつれて、IOVにより利用可能性をもたらすことができ、最新のCPU仮想化において見られる性能レベルに匹敵するように、(仮想化された)I/Oリソースの性能、スケーラビリティおよび融通性を向上させることができる。
一実施形態に従うと、I/Oリソースの共有を可能にして、VMからリソースへのアクセスが保護されることを可能にし得るようなIOVが所望される。IOVは、VMにエクスポーズされる論理装置を、その物理的な実装から分離する。現在、エミュレーション、準仮想化、直接的な割当て(direct assignment:DA)、およびシングルルートI/O仮想化(SR-IOV)などのさまざまなタイプのIOV技術が存在し得る。
一実施形態に従うと、あるタイプのIOV技術としてソフトウェアエミュレーションがある。ソフトウェアエミュレーションは分離されたフロントエンド/バックエンド・ソフトウェアアーキテクチャを可能にし得る。フロントエンドはVMに配置されたデバイスドライバであり得、I/Oアクセスをもたらすためにハイパーバイザによって実現されるバックエンドと通信し得る。物理デバイス共有比率は高く、VMのライブマイグレーションはネットワークダウンタイムのわずか数ミリ秒で実現可能である。しかしながら、ソフトウェアエミュレーションはさらなる不所望な計算上のオーバーヘッドをもたらしてしまう。
一実施形態に従うと、別のタイプのIOV技術として直接的なデバイスの割当てがある。直接的なデバイスの割当てでは、I/OデバイスをVMに連結する必要があるが、デバイスはVM間では共有されない。直接的な割当てまたはデバイス・パススルーは、最小限のオーバーヘッドでほぼ固有の性能を提供する。物理デバイスはハイパーバイザをバイパスし、直接、VMに取付けられている。しかしながら、このような直接的なデバイスの割当ての欠点は、仮想マシン間で共有がなされないため、1枚の物理ネットワークカードが1つのVMと連結されるといったように、スケーラビリティが制限されてしまうことである。
一実施形態に従うと、シングルルートIOV(Single Root IOV:SR-IOV)は、ハードウェア仮想化によって、物理装置がその同じ装置の複数の独立した軽量のインスタンスとして現われることを可能にし得る。これらのインスタンスは、パス・スルー装置としてVMに割当てることができ、仮想機能(Virtual Function:VF)としてアクセスすることができる。ハイパーバイザは、(1つのデバイスごとに)固有の、十分な機能を有する物理機能(Physical Function:PF)によってデバイスにアクセスする。SR-IOVは、純粋に直接的に割当てする際のスケーラビリティの問題を軽減する。しかしながら、SR-IOVによって提示される問題は、それがVMマイグレーションを損なう可能性があることである。これらのIOV技術の中でも、SR-IOVは、ほぼ固有の性能を維持しながらも、複数のVMから単一の物理デバイスに直接アクセスすることを可能にする手段を用いてPCI Express(PCIe)規格を拡張することができる。これにより、SR-IOVは優れた性能およびスケーラビリティを提供することができる。
SR-IOVは、PCIeデバイスが、各々のゲストに1つの仮想デバイスを割当てることによって複数のゲスト間で共有することができる複数の仮想デバイスをエクスポーズすることを可能にする。各々のSR-IOVデバイスは、少なくとも1つの物理機能(PF)と、1つ以上の関連付けられた仮想機能(VF)とを有する。PFは、仮想マシンモニタ(virtual machine monitor:VMM)またはハイパーバイザによって制御される通常のPCIe機能であるのに対して、VFは軽量のPCIe機能である。各々のVFはそれ自体のベースアドレス(base address:BAR)を有しており、固有のリクエスタIDが割当てられている。固有のリクエスタIDは、I/Oメモリ管理ユニット(I/O memory management unit:IOMMU)がさまざまなVFへの/からのトラフィックストリームを区別することを可能にする。IOMMUはまた、メモリを適用して、PFとVFとの間の変換を中断する。
しかし、残念ながら、直接的デバイス割当て技術は、仮想マシンのトランスペアレントなライブマイグレーションがデータセンタ最適化のために所望されるような状況においては、クラウドプロバイダにとって障壁となる。ライブマイグレーションの本質は、VMのメモリ内容がリモートハイパーバイザにコピーされるという点である。さらに、VMがソースハイパーバイザにおいて中断され、VMの動作が宛先において再開される。ソフトウェアエミュレーション方法を用いる場合、ネットワークインターフェイスは、それらの内部状態がメモリに記憶され、さらにコピーされるように仮想的である。このため、ダウンタイムは数ミリ秒にまで減らされ得る。
しかしながら、SR-IOVなどの直接的デバイス割当て技術が用いられる場合、マイグレーションはより困難になる。このような状況においては、ネットワークインターフェイスの内部状態全体は、それがハードウェアに結び付けられているのでコピーすることができない。代わりに、VMに割当てられたSR-IOV VFが分離され、ライブマイグレーションが実行されることとなり、新しいVFが宛先において付与されることとなる。インフィニバンドおよびSR-IOVの場合、このプロセスがダウンタイムを数秒のオーダでもたらす可能性がある。さらに、SR-IOV共有型ポートモデルにおいては、VMのアドレスがマイグレーション後に変化することとなり、これにより、SMにオーバーヘッドが追加され、基礎をなすネットワークファブリックの性能に対して悪影響が及ぼされることとなる。
インフィニバンドSR-IOVアーキテクチャ-共有ポート
さまざまなタイプのSR-IOVモデル(たとえば共有ポートモデル、仮想スイッチモデルおよび仮想ポートモデル)があり得る。
図4は、一実施形態に従う例示的な共有ポートアーキテクチャを示す。図に示されるように、ホスト300(たとえばホストチャネルアダプタ)はハイパーバイザ310と対話し得る。ハイパーバイザ310は、さまざまな仮想機能330、340および350をいくつかの仮想マシンに割当て得る。同様に、物理機能はハイパーバイザ310によって処理することができる。
一実施形態に従うと、図4に示されるような共有ポートアーキテクチャを用いる場合、ホスト(たとえばHCA)は、物理機能320と仮想機能330、350、350との間において単一の共有LIDおよび共有キュー対(Queue Pair:QP)のスペースがあるネットワークにおいて単一のポートとして現われる。しかしながら、各々の機能(すなわち、物理機能および仮想機能)はそれら自体のGIDを有し得る。
図4に示されるように、一実施形態に従うと、さまざまなGIDを仮想機能および物理機能に割当てることができ、特別のキュー対であるQP0およびQP1(すなわちインフィニバンドTM管理パケットのために用いられる専用のキュー対)が物理機能によって所有される。これらのQPはVFにも同様にエクスポーズされるが、VFはQP0を使用することが許可されておらず(VFからQP0に向かって入来するすべてのSMPが廃棄され)、QP1は、PFが所有する実際のQP1のプロキシとして機能し得る。
一実施形態に従うと、共有ポートアーキテクチャは、(仮想機能に割当てられることによってネットワークに付随する)VMの数によって制限されることのない高度にスケーラブルなデータセンタを可能にし得る。なぜなら、ネットワークにおける物理的なマシンおよびスイッチによってLIDスペースが消費されるだけであるからである。
しかしながら、共有ポートアーキテクチャの欠点は、トランスペアレントなライブマイグレーションを提供することができない点であり、これにより、フレキシブルなVM配置についての可能性が妨害されてしまう。各々のLIDが特定のハイパーバイザに関連付けられており、かつハイパーバイザ上に常駐するすべてのVM間で共有されているので、マイグレートしているVM(すなわち、宛先ハイパーバイザにマイグレートする仮想マシン)は、そのLIDを宛先ハイパーバイザのLIDに変更させなければならない。さらに、QP0アクセスが制限された結果、サブネットマネージャはVMの内部で実行させることができなくなる。
インフィニバンドSR-IOVアーキテクチャモデル-仮想スイッチ(vSwitch)
図5は、一実施形態に従う例示的なvSwitchアーキテクチャを示す。図に示されるように、ホスト400(たとえばホストチャネルアダプタ)はハイパーバイザ410と対話することができ、当該ハイパーバイザ410は、さまざまな仮想機能430、440および450をいくつかの仮想マシンに割当てることができる。同様に、物理機能はハイパーバイザ410によって処理することができる。仮想スイッチ415もハイパーバイザ401によって処理することができる。
一実施形態に従うと、vSwitchアーキテクチャにおいては、各々の仮想機能430、440、450は完全な仮想ホストチャネルアダプタ(virtual Host Channel Adapter:vHCA)であり、これは、ハードウェアにおいて、VFに割当てられたVMに、IBアドレス一式(たとえばGID、GUID、LID)および専用のQPスペースが割当てられていることを意味する。残りのネットワークおよびSMについては、HCA400は、仮想スイッチ415を介して追加のノードが接続されているスイッチのように見えている。ハイパーバイザ410はPF420を用いることができ、(仮想機能に付与された)VMはVFを用いる。
一実施形態に従うと、vSwitchアーキテクチャは、トランスペアレントな仮想化を提供する。しかしながら、各々の仮想機能には固有のLIDが割当てられているので、利用可能な数のLIDが速やかに消費される。同様に、多くのLIDアドレスが(すなわち、各々の物理機能および各々の仮想機能ごとに1つずつ)使用されている場合、より多くの通信経路をSMによって演算しなければならず、それらのLFTを更新するために、より多くのサブネット管理パケット(SMP)をスイッチに送信しなければならない。たとえば、通信経路の演算は大規模ネットワークにおいては数分かかる可能性がある。LIDスペースが49151個のユニキャストLIDに制限されており、(VFを介する)各々のVMとして、物理ノードおよびスイッチがLIDを1つずつ占有するので、ネットワークにおける物理ノードおよびスイッチの数によってアクティブなVMの数が制限されてしまい、逆の場合も同様に制限される。
インフィニバンドSR-IOVアーキテクチャモデル-仮想ポート(vPort)
図6は、一実施形態に従う例示的なvPortの概念を示す。図に示されるように、ホスト300(たとえばホストチャネルアダプタ)は、さまざまな仮想機能330、340および350をいくつかの仮想マシンに割当てることができるハイパーバイザ410と対話することができる。同様に、物理機能はハイパーバイザ310によって処理することができる。
一実施形態に従うと、ベンダーに実装の自由を与えるためにvPort概念は緩やかに定義されており(たとえば、当該定義では、実装がSRIOV専用とすべきであるとは規定されていない)、vPortの目的は、VMがサブネットにおいて処理される方法を標準化することである。vPort概念であれば、空間ドメインおよび性能ドメインの両方においてよりスケーラブルであり得る、SR-IOV共有のポートのようなアーキテクチャおよびvSwitchのようなアーキテクチャの両方、または、これらのアーキテクチャの組合せが規定され得る。また、vPortはオプションのLIDをサポートするとともに、共有のポートとは異なり、SMは、vPortが専用のLIDを用いていなくても、サブネットにおいて利用可能なすべてのvPortを認識する。
インフィニバンドSR-IOVアーキテクチャモデル-LIDが予めポピュレートされたvSwitch
一実施形態に従うと、本開示は、LIDが予めポピュレートされたvSwitchアーキテクチャを提供するためのシステムおよび方法を提供する。
図7は、一実施形態に従う、LIDが予めポピュレートされた例示的なvSwitchアーキテクチャを示す。図に示されるように、いくつかのスイッチ501~504は、ネットワーク切替環境600(たとえばIBサブネット)内においてインフィニバンドTMファブリックなどのファブリックのメンバ間で通信を確立することができる。ファブリックはホストチャネルアダプタ510、520、530などのいくつかのハードウェアデバイスを含み得る。さらに、ホストチャネルアダプタ510、520および530は、それぞれ、ハイパーバイザ511、521および531と対話することができる。各々のハイパーバイザは、さらに、ホストチャネルアダプタと共に、いくつかの仮想機能514、515、516、524、525、526、534、535および536と対話し、設定し、いくつかの仮想マシンに割当てることができる。たとえば、仮想マシン1 550はハイパーバイザ511によって仮想機能1 514に割当てることができる。ハイパーバイザ511は、加えて、仮想マシン2 551を仮想機能2 515に割当て、仮想マシン3 552を仮想機能3 516に割当てることができる。ハイパーバイザ531は、さらに、仮想マシン4 553を仮想機能1 534に割当てることができる。ハイパーバイザは、ホストチャネルアダプタの各々の上で十分な機能を有する物理機能513、523および533を介してホストチャネルアダプタにアクセスすることができる。
一実施形態に従うと、スイッチ501~504の各々はいくつかのポート(図示せず)を含み得る。いくつかのポートは、ネットワーク切替環境600内においてトラフィックを方向付けるためにリニアフォワーディングテーブルを設定するのに用いられる。
一実施形態に従うと、仮想スイッチ512、522および532は、それぞれのハイパーバイザ511、521、531によって処理することができる。このようなvSwitchアーキテクチャにおいては、各々の仮想機能は完全な仮想ホストチャネルアダプタ(vHCA)であり、これは、ハードウェアにおいて、VFに割当てられたVMに、IBアドレス一式(たとえばGID、GUID、LID)および専用のQPスペースが割当てられていることを意味する。残りのネットワークおよびSM(図示せず)については、HCA510、520および530は、仮想スイッチを介して追加のノードが接続されているスイッチのように見えている。
一実施形態に従うと、本開示は、LIDが予めポピュレートされたvSwitchアーキテクチャを提供するためのシステムおよび方法を提供する。図7を参照すると、LIDは、さまざまな物理機能513、523および533に、さらには、仮想機能514~516、524~526、534~536(その時点でアクティブな仮想マシンに関連付けられていない仮想機能であっても)にも、予めポピュレートされている。たとえば、物理機能513はLID1が予めポピュレートされており、仮想機能1 534はLID10が予めポピュレートされている。ネットワークがブートされているとき、LIDはSR-IOV vSwitch対応のサブネットにおいて予めポピュレートされている。VFのすべてがネットワークにおけるVMによって占有されていない場合であっても、ポピュレートされたVFには、図7に示されるようにLIDが割当てられている。
一実施形態に従うと、多くの同様の物理的なホストチャネルアダプタが2つ以上のポートを有することができ(冗長性のために2つのポートが共用となっている)、仮想HCAも2つのポートで表わされ、1つまたは2つ以上の仮想スイッチを介して外部IBサブネットに接続され得る。
一実施形態に従うと、LIDが予めポピュレートされたvSwitchアーキテクチャにおいては、各々のハイパーバイザは、それ自体のための1つのLIDをPFを介して消費し、各々の追加のVFごとに1つ以上のLIDを消費することができる。IBサブネットにおけるすべてのハイパーバイザにおいて利用可能なすべてのVFを合計すると、サブネットにおいて実行することが可能なVMの最大量が得られる。たとえば、サブネット内の1ハイパーバイザごとに16個の仮想機能を備えたIBサブネットにおいては、各々のハイパーバイザは、サブネットにおいて17個のLID(16個の仮想機能ごとに1つのLIDと、物理機能のために1つのLID)を消費する。このようなIBサブネットにおいては、単一のサブネットについて理論上のハイパーバイザ限度は利用可能なユニキャストLIDの数によって規定されており、(49151個の利用可能なLIDをハイパーバイザごとに17個のLIDで割って得られる)2891であり、VMの総数(すなわち限度)は(ハイパーバイザごとに2891個のハイパーバイザに16のVFを掛けて得られる)46256である(実質的には、IBサブネットにおける各々のスイッチ、ルータまたは専用のSMノードが同様にLIDを消費するので、実際これらの数はより小さくなる)。なお、vSwitchが、LIDをPFと共有することができるので、付加的なLIDを占有する必要がないことに留意されたい。
一実施形態に従うと、LIDが予めポピュレートされたvSwitchアーキテクチャにおいては、ネットワークが一旦ブートされると、すべてのLIDについて通信経路が計算される。新しいVMを始動させる必要がある場合、システムは、サブネットにおいて新しいLIDを追加する必要はない。それ以外の場合、経路の再計算を含め、ネットワークを完全に再構成させ得る動作は、最も時間を消費する要素となる。代わりに、VMのための利用可能なポートはハイパーバイザのうちの1つに位置し(すなわち利用可能な仮想機能)、仮想マシンは利用可能な仮想機能に付与されている。
一実施形態に従うと、LIDが予めポピュレートされたvSwitchアーキテクチャはまた、同じハイパーバイザによってホストされているさまざまなVMに達するために、さまざまな経路を計算して用いる能力を可能にする。本質的には、これは、LIDを連続的にすることを必要とするLMCの制約によって拘束されることなく、1つの物理的なマシンに向かう代替的な経路を設けるために、このようなサブネットおよびネットワークがLIDマスク制御ライク(LID-Mask-Control-like:LMCライク)な特徴を用いることを可能にする。VMをマイグレートしてその関連するLIDを宛先に送達する必要がある場合、不連続なLIDを自由に使用できることは特に有用となる。
一実施形態に従うと、LIDが予めポピュレートされたvSwitchアーキテクチャについての上述の利点と共に、いくつかの検討事項を考慮に入れることができる。たとえば、ネットワークがブートされているときに、SR-IOV vSwitch対応のサブネットにおいてLIDが予めポピュレートされているので、(たとえば起動時の)最初の経路演算はLIDが予めポピュレートされていなかった場合よりも時間が長くかかる可能性がある。
インフィニバンドSR-IOVアーキテクチャモデル-動的LID割当てがなされたvSwitch
一実施形態に従うと、本開示は、動的LID割当てがなされたvSwitchアーキテクチャを提供するためのシステムおよび方法を提供する。
図8は、一実施形態に従う、動的LID割当てがなされた例示的なvSwitchアーキテクチャを示す。図に示されるように、いくつかのスイッチ501~504は、ネットワーク切替環境700(たとえばIBサブネット)内においてインフィニバンドTMファブリックなどのファブリックのメンバ間で通信を確立することができる。ファブリックは、ホストチャネルアダプタ510、520、530などのいくつかのハードウェアデバイスを含み得る。ホストチャネルアダプタ510、520および530は、さらに、ハイパーバイザ511、521および531とそれぞれ対話することができる。各々のハイパーバイザは、さらに、ホストチャネルアダプタと共に、いくつかの仮想機能514、515、516、524、525、526、534、535および536と対話し、設定し、いくつかの仮想マシンに割当てることができる。たとえば、仮想マシン1 550はハイパーバイザ511によって仮想機能1 514に割当てることができる。ハイパーバイザ511は、加えて、仮想マシン2 551を仮想機能2 515に割当て、仮想マシン3 552を仮想機能3 516に割当てることができる。ハイパーバイザ531はさらに、仮想マシン4 553を仮想機能1 534に割当てることができる。ハイパーバイザは、ホストチャネルアダプタの各々の上において十分な機能を有する物理機能513、523および533を介してホストチャネルアダプタにアクセスすることができる。
一実施形態に従うと、スイッチ501~504の各々はいくつかのポート(図示せず)を含み得る。いくつかのポートは、ネットワーク切替環境700内においてトラフィックを方向付けるためにリニアフォワーディングテーブルを設定するのに用いられる。
一実施形態に従うと、仮想スイッチ512、522および532は、それぞれのハイパーバイザ511、521および531によって処理することができる。このようなvSwitchアーキテクチャにおいては、各々の仮想機能は完全な仮想ホストチャネルアダプタ(vHCA)であり、これは、ハードウェアにおいて、VFに割当てられたVMに、IBアドレス一式(たとえばGID、GUID、LID)および専用のQPスペースが割当てられていることを意味する。残りのネットワークおよびSM(図示せず)については、HCA510、520および530は、仮想スイッチを介して、追加のノードが接続されているスイッチのように見えている。
一実施形態に従うと、本開示は、動的LID割当てがなされたvSwitchアーキテクチャを提供するためのシステムおよび方法を提供する。図8を参照すると、LIDには、さまざまな物理機能513、523および533が動的に割当てられており、物理機能513がLID1を受取り、物理機能523がLID2を受取り、物理機能533がLID3を受取る。アクティブな仮想マシンに関連付けられたそれらの仮想機能はまた、動的に割当てられたLIDを受取ることもできる。たとえば、仮想マシン1 550がアクティブであり、仮想機能1 514に関連付けられているので、仮想機能514にはLID5が割当てられ得る。同様に、仮想機能2 515、仮想機能3 516および仮想機能1 534は、各々、アクティブな仮想機能に関連付けられている。このため、これらの仮想機能にLIDが割当てられ、LID7が仮想機能2 515に割当てられ、LID11が仮想機能3 516に割当てられ、LID9が仮想機能1 534に割当てられている。LIDが予めポピュレートされたvSwitchとは異なり、アクティブな仮想マシンにその時点で関連付けられていない仮想機能はLIDの割当てを受けない。
一実施形態に従うと、動的LID割当てがなされていれば、最初の経路演算を実質的に減らすことができる。ネットワークが初めてブートしており、VMが存在していない場合、比較的少数のLIDを最初の経路計算およびLFT分配のために用いることができる。
一実施形態に従うと、多くの同様の物理的なホストチャネルアダプタが2つ以上のポートを有することができ(冗長性のために2つのポートが共用となっている)、仮想HCAも2つのポートで表わされ、1つまたは2つ以上の仮想スイッチを介して外部IBサブネットに接続され得る。
一実施形態に従うと、動的LID割当てがなされたvSwitchを利用するシステムにおいて新しいVMが作成される場合、どのハイパーバイザ上で新しく追加されたVMをブートすべきであるかを決定するために、自由なVMスロットが発見され、固有の未使用のユニキャストLIDも同様に発見される。しかしながら、新しく追加されたLIDを処理するためのスイッチのLFTおよびネットワークに既知の経路が存在しない。新しく追加されたVMを処理するために新しいセットの経路を演算することは、いくつかのVMが毎分ごとにブートされ得る動的な環境においては望ましくない。大規模なIBサブネットにおいては、新しい1セットのルートの演算には数分かかる可能性があり、この手順は、新しいVMがブートされるたびに繰返されなければならないだろう。
有利には、一実施形態に従うと、ハイパーバイザにおけるすべてのVFがPFと同じアップリンクを共有しているので、新しいセットのルートを演算する必要はない。ネットワークにおけるすべての物理スイッチのLFTを繰返し、(VMが作成されている)ハイパーバイザのPFに属するLIDエントリから新しく追加されたLIDにフォワーディングポートをコピーし、かつ、特定のスイッチの対応するLFTブロックを更新するために単一のSMPを送信するだけでよい。これにより、当該システムおよび方法では、新しいセットのルートを演算する必要がなくなる。
一実施形態に従うと、動的LID割当てアーキテクチャを備えたvSwitchにおいて割当てられたLIDは連続的である必要はない。各々のハイパーバイザ上のVM上で割当てられたLIDをLIDが予めポピュレートされたvSwitchと動的LID割当てがなされたvSwitchとで比較すると、動的LID割当てアーキテクチャにおいて割当てられたLIDが不連続であり、そこに予めポピュレートされたLIDが本質的に連続的であることが分かるだろう。さらに、vSwitch動的LID割当てアーキテクチャにおいては、新しいVMが作成されると、次に利用可能なLIDが、VMの生存期間の間中ずっと用いられる。逆に、LIDが予めポピュレートされたvSwitchにおいては、各々のVMは、対応するVFに既に割当てられているLIDを引継ぎ、ライブマイグレーションのないネットワークにおいては、所与のVFに連続的に付与されたVMが同じLIDを得る。
一実施形態に従うと、動的LID割当てアーキテクチャを備えたvSwitchは、いくらかの追加のネットワークおよびランタイムSMオーバーヘッドを犠牲にして、予めポピュレートされたLIDアーキテクチャモデルを備えたvSwitchの欠点を解決することができる。VMが作成されるたびに、作成されたVMに関連付けられた、新しく追加されたLIDで、サブネットにおける物理スイッチのLFTが更新される。この動作のために、1スイッチごとに1つのサブネット管理パケット(SMP)が送信される必要がある。各々のVMがそのホストハイパーバイザと同じ経路を用いているので、LMCのような機能も利用できなくなる。しかしながら、すべてのハイパーバイザに存在するVFの合計に対する制限はなく、VFの数は、ユニキャストLIDの限度を上回る可能性もある。このような場合、当然、アクティブなVM上でVFのすべてが必ずしも同時に付与されることが可能になるわけではなく、より多くの予備のハイパーバイザおよびVFを備えることにより、ユニキャストLID限度付近で動作する際に、断片化されたネットワークの障害を回復および最適化させるための融通性が追加される。
インフィニバンドSR-IOVアーキテクチャモデル-動的LID割当てがなされかつLIDが予めポピュレートされたvSwitch
図9は、一実施形態に従う、動的LID割当てがなされてLIDが予めポピュレートされたvSwitchを備えた例示的なvSwitchアーキテクチャを示す。図に示されるように、いくつかのスイッチ501~504は、ネットワーク切替環境800(たとえばIBサブネット)内においてインフィニバンドTMファブリックなどのファブリックのメンバ間で通信を確立することができる。ファブリックはホストチャネルアダプタ510、520、530などのいくつかのハードウェアデバイスを含み得る。ホストチャネルアダプタ510、520および530は、それぞれ、さらに、ハイパーバイザ511、521および531と対話することができる。各々のハイパーバイザは、さらに、ホストチャネルアダプタと共に、いくつかの仮想機能514、515、516、524、525、526、534、535および536と対話し、設定し、いくつかの仮想マシンに割当てることができる。たとえば、仮想マシン1 550は、ハイパーバイザ511によって仮想機能1 514に割当てることができる。ハイパーバイザ511は、加えて、仮想マシン2 551を仮想機能2 515に割当てることができる。ハイパーバイザ521は、仮想マシン3 552を仮想機能3 526に割当てることができる。ハイパーバイザ531は、さらに、仮想マシン4 553を仮想機能2 535に割当てることができる。ハイパーバイザは、ホストチャネルアダプタの各々の上において十分な機能を有する物理機能513、523および533を介してホストチャネルアダプタにアクセスすることができる。
一実施形態に従うと、スイッチ501~504の各々はいくつかのポート(図示せず)を含み得る。これらいくつかのポートは、ネットワーク切替環境800内においてトラフィックを方向付けるためにリニアフォワーディングテーブルを設定するのに用いられる。
一実施形態に従うと、仮想スイッチ512、522および532は、それぞれのハイパーバイザ511、521、531によって処理することができる。このようなvSwitchアーキテクチャにおいては、各々の仮想機能は、完全な仮想ホストチャネルアダプタ(vHCA)であり、これは、ハードウェアにおいて、VFに割当てられたVMに、IBアドレス一式(たとえばGID、GUID、LID)および専用のQPスペースが割当てられていることを意味する。残りのネットワークおよびSM(図示せず)については、HCA510、520および530は、仮想スイッチを介して、追加のノードが接続されているスイッチのように見えている。
一実施形態に従うと、本開示は、動的LID割当てがなされLIDが予めポピュレートされたハイブリッドvSwitchアーキテクチャを提供するためのシステムおよび方法を提供する。図9を参照すると、ハイパーバイザ511には、予めポピュレートされたLIDアーキテクチャを備えたvSwitchが配置され得るとともに、ハイパーバイザ521には、LIDが予めポピュレートされて動的LID割当てがなされたvSwitchが配置され得る。ハイパーバイザ531には、動的LID割当てがなされたvSwitchが配置され得る。このため、物理機能513および仮想機能514~516には、それらのLIDが予めポピュレートされている(すなわち、アクティブな仮想マシンに付与されていない仮想機能であってもLIDが割当てられている)。物理機能523および仮想機能1 524にはそれらのLIDが予めポピュレートされ得るとともに、仮想機能2 525および仮想機能3 526にはそれらのLIDが動的に割当てられている(すなわち、仮想機能2 525は動的LID割当てのために利用可能であり、仮想機能3 526は、仮想マシン3 552が付与されているので、11というLIDが動的に割当てられている)。最後に、ハイパーバイザ3 531に関連付けられた機能(物理機能および仮想機能)にはそれらのLIDを動的に割当てることができる。これにより、結果として、仮想機能1 534および仮想機能3 536が動的LID割当てのために利用可能となるとともに、仮想機能2 535には、仮想マシン4 553が付与されているので、9というLIDが動的に割当てられている。
LIDが予めポピュレートされたvSwitchおよび動的LID割当てがなされたvSwitchがともに(いずれかの所与のハイパーバイザ内で独立して、または組合わされて)利用されている、図9に示されるような一実施形態に従うと、ホストチャネルアダプタごとの予めポピュレートされたLIDの数はファブリックアドミニストレータによって定義することができ、(ホストチャネルアダプタごとに)0<=予めポピュレートされたVF<=総VFの範囲内になり得る。動的LID割当てのために利用可能なVFは、(ホストチャネルアダプタごとに)VFの総数から予めポピュレートされたVFの数を減じることによって見出すことができる。
一実施形態に従うと、多くの同様の物理的なホストチャネルアダプタが2つ以上のポートを有することができ(冗長性のために2つのポートが共用となっている)、仮想HCAも2つのポートで表わされ、1つまたは2つ以上の仮想スイッチを介して外部IBサブネットに接続され得る。
インフィニバンド-サブネット間通信(ファブリックマネージャ)
一実施形態に従うと、1つのサブネット内にインフィニバンドファブリックを提供することに加え、本開示の実施形態は、2つ以上のサブネットにまたがるインフィニバンドファブリックを提供することもできる。
図10は、一実施形態に従う例示的なマルチサブネットインフィニバンドファブリックを示す。この図に示されるように、サブネットA 1000の内部の多数のスイッチ1001~1004は、サブネットA 1000(たとえばIBサブネット)内におけるインフィニバンドファブリックなどのファブリックのメンバ間の通信を提供することができる。このファブリックは、たとえばチャネルアダプタ1010などの多数のハードウェアデバイスを含み得る。ホストチャネルアダプタ1010は、ハイパーバイザ1011と対話することができる。ハイパーバイザは、対話の相手であるホストチャネルアダプタとともに、多数の仮想機能1014をセットアップすることができる。加えて、ハイパーバイザは、仮想マシンを仮想機能各々に割当てることができる。たとえば、仮想マシン1 1015は仮想機能1 1014に割当てられる。ハイパーバイザは、その対応付けられたホストチャネルアダプタに、各ホストチャネルアダプタ上の物理機能1013などの十分な機能を有する物理機能を通して、アクセスすることができる。多数のスイッチ1021~1024は、サブネットB 1040(たとえばIBサブネット)内におけるインフィニバンドファブリックなどのファブリックのメンバ間の通信を提供することができる。このファブリックは、たとえばホストチャネルアダプタ1030などの多数のハードウェアデバイスを含み得る。ホストチャネルアダプタ1030は、ハイパーバイザ1031と対話することができる。ハイパーバイザは、対話の相手であるホストチャネルアダプタとともに、多数の仮想機能1034をセットアップすることができる。加えて、ハイパーバイザは、仮想マシンを仮想機能各々に割当てることができる。たとえば、仮想マシン2 1035は仮想機能2 1034に割当てられる。ハイパーバイザは、その対応付けられたホストチャネルアダプタに、各ホストチャネルアダプタ上の物理機能1033などの十分な機能を有する物理機能を通して、アクセスすることができる。なお、各サブネット(すなわちサブネットAおよびサブネットB)内に示されているホストチャネルアダプタは1つだけであるが、各サブネット内に複数のホストチャネルアダプタおよびそれらに対応するコンポーネントが含まれていてもよいことが、理解されるはずである。
一実施形態に従うと、各ホストチャネルアダプタはさらに、仮想スイッチ1012および仮想スイッチ1032などの仮想スイッチに対応付けられていてもよく、上記のように各HCAは異なるアーキテクチャモデルでセットアップされてもよい。図10のサブネットはどちらもLIDが予めポピュレートされているvSwitchのアーキテクチャモデルを使用するものとして示されているが、これは、このようなサブネット構成すべてが同様のアーキテクチャモデルに従い得ることを示唆しようとしているのではない。
一実施形態に従うと、各サブネット内の少なくとも1つのスイッチがルータに対応付けられていてもよい。たとえば、サブネットA 1000内のスイッチ1002はルータ1005に対応付けられ、サブネットB 1040内のスイッチ1021はルータ1006に対応付けられている。
一実施形態に従うと、少なくとも1つのデバイス(たとえばスイッチ、ノード等)を、ファブリックマネージャ(図示せず)に対応付けることができる。ファブリックマネージャを使用して、たとえば、サブネット間ファブリックトポロジーを発見し、ファブリックプロファイル(たとえば仮想マシンファブリックプロファイル)を作成し、仮想マシンファブリックプロファイルを構築するための基礎を形成する仮想マシン関連データベースオブジェクトを構築することができる。加えて、ファブリックマネージャは、どのサブネットがどのルータポートを介しどのパーティション番号を用いて通信することを許可されるかについて、法的なサブネット間接続性を規定することができる。
一実施形態に従うと、サブネットA内の仮想マシン1などの発信ソースにおけるトラッフィックを、サブネットB内の仮想マシン2などの異なるサブネットを宛先としてそれに向ける場合、トラフィックは、サブネットA内のルータ、すなわち、ルータ1005に向ければよく、そうすると、ルータ1005はこのトラッフィックをルータ1006とのリンクを介してサブネットBに送ることができる。
仮想デュアルポートルータ
一実施形態に従うと、デュアルポートルータアブストラクション(dual port router abstraction)は、GRH(グローバルルートヘッダ(global route header))からLRH(ローカルルートヘッダ(local route header))への変換を、通常のLRHベースのスイッチングの実行に加えて行なう機能を有するスイッチハードウェア実装に基づいてサブネット間ルータ機能を規定することを可能にする簡単な方法を提供することができる。
一実施形態に従うと、仮想デュアルポートルータは、対応するスイッチポートの外部で論理的に接続することができる。この仮想デュアルポートルータは、サブネットマネージャ等の標準管理エンティティに対しインフィニバンド規格に準拠したビューを提供することができる。
一実施形態に従うと、デュアルポートルータモデルは、異なるサブネットを、各サブネットがサブネットへの進入(ingress)経路におけるパケット転送とアドレスマッピングとを完全に制御し、かつ、間違って接続されたサブネットのうちいずれのサブネット内のルーティングおよび論理的接続にも影響を与えないように、接続できることを、示している。
一実施形態に従うと、間違って接続されたファブリックを含む状況において、仮想デュアルポートルータアブストラクションを使用することにより、サブネットマネージャおよびIB診断ソフトウェア等の管理エンティティが、遠隔サブネットへの意図しない物理的接続の存在下で、正しく作用するようにすることもできる。
図11は、一実施形態に従う、高性能コンピューティング環境における2つのサブネット間の相互接続を示す。仮想デュアルポートルータを用いて構成する前に、サブネットA 1101内のスイッチ1120を、スイッチ1120のスイッチポート1121を通し、物理接続1110を介して、サブネットB 1102内のスイッチ1130に、スイッチ1130のスイッチポート1131を通して接続することができる。このような実施形態において、スイッチポート1121および1131の各々は、スイッチポートとしてもルータポートとしても機能することができる。
一実施形態に従うと、この構成の問題は、インフィニバンドサブネット内のサブネットマネージャ等の管理エンティティが、スイッチポートでもありルータポートでもある物理ポートを区別できないことである。このような状況において、SMは、スイッチポートを、このスイッチポートに接続されたルータポートを有するものとして扱うことができる。しかしながら、スイッチポートがたとえば物理リンクを介して別のサブネットマネージャを有する別のサブネットに接続されている場合、サブネットマネージャはディスカバリメッセージを物理リンクに送ることができる。しかしながら、このようなディスカバリメッセージは他方のサブネットでは許可されない。
図12は、一実施形態に従う、高性能コンピューティング環境におけるデュアルポート仮想ルータ構成を介した2つのサブネット間の相互接続を示す。
一実施形態に従うと、構成後に、デュアルポート仮想ルータ構成を、サブネットマネージャの責任であるサブネットの端部を示す適切なエンドノードが、サブネットマネージャにわかるように、提供することができる。
一実施形態に従うと、サブネットA 1201内のスイッチ1220におけるスイッチポートは、仮想リンク1223を介して仮想ルータ1210内のルータポート1211に接続(すなわち論理的に接続)することができる。仮想ルータ1210(たとえばデュアルポート仮想ルータ)は、実施形態ではスイッチ1220の外部にあるものとして示されているが、論理的にはスイッチ1220の中に含めることができ、第2のルータポートであるルータポートII 1212も含み得る。一実施形態に従うと、2つの端部を有し得る物理リンク1203は、サブネットA 1201を、サブネットB 1202に、物理リンクの第1の端部を介し、物理リンクの第2の端部を介し、ルータポートII 1212を介し、サブネットB 1202内の仮想ルータ1230に含まれるルータポートII 1232を介して、接続することができる。仮想ルータ1230はさらに、仮想リンク1233を介してスイッチ1240上のスイッチポート1241に接続(すなわち論理的に接続)することができるルータポート1231を含み得る。
一実施形態に従うと、サブネットA上のサブネットマネージャ(図示せず)は、仮想ルータ1210上のルータポート1211を、当該サブネットマネージャが制御するサブネットの終点として検出することができる。デュアルポート仮想ルータアブストラクションは、サブネットA上のサブネットマネージャが、サブネットAを通常のやり方で(たとえばインフィニバンド規格に規定されているように)扱うことを可能にする。サブネット管理エージェント(subnet management agent)レベルにおいて、デュアルポート仮想ルータアブストラクションを提供して通常のスイッチポートがSMにわかるようにし、その後、SMAレベルにおいて、当該アブストラクションを提供してこのスイッチポートに接続されている別のポートが存在しこのポートがデュアルポート仮想ルータ上のルータポートとなるようにすることができる。ローカルSMでは、従来のファブリックトポロジーを引続き使用することができ(このトポロジーにおいてSMはポートを標準スイッチポートとみなす)、したがって、SMはルータポートをエンドポートとみなす。物理的接続は、2つの異なるサブネット内のルータポートとしても構成されている2つのスイッチポート間で行なうことができる。
一実施形態に従うと、デュアルポート仮想ルータは、物理リンクが間違って同じサブネット内の他のいずれかのスイッチポートに接続される、または、別のサブネットへの接続を提供することを意図していないスイッチポートに接続される可能性があるという問題を、解決することもできる。したがって、本明細書に記載の方法およびシステムは、サブネットの外側にあるものも表現する。
一実施形態に従うと、サブネットA等のサブネット内のローカルSMは、スイッチポートを確定し、次に、このスイッチポートに接続されているルータポート(たとえば仮想リンク1223を介してスイッチポート1221に接続されているルータポート1211)を確定する。SMは、ルータポート1211を、当該SMが管理するサブネットの端部とみなすので、SMはディスカバリおよび/または管理メッセージをこのポイントよりも遠くに(たとえばルータポートII 1212に)送ることができない。
一実施形態に従うと、上記デュアルポート仮想ルータは、当該デュアルポート仮想ルータが属するサブネット内の管理エンティティ(たとえばSMまたはSMA)によってデュアルポート仮想ルータアブストラクションが完全に管理されるという利点を提供する。管理をローカル側のみにすることにより、システムは外部の独立した管理エンティティを提供する必要がない。すなわち、サブネット間接続の各側は自身のデュアルポート仮想ルータを構成する役割を担う。
一実施形態に従うと、遠隔の宛先(すなわちローカルサブネットの外部)に向けられたSMP等のパケットが、上記デュアルポート仮想ルータを介して構成されていないローカルターゲットポートに到着した場合、ローカルポートは、自身はルータポートではないことを示すメッセージを返すことができる。
本発明の多数の特徴は、ハードウェア、ソフトウェア、ファームウェア、またはこれらを組合わせたものにおいて、これを用いて、またはこれに支援されて、実施することができる。したがって、本発明の特徴は、処理システム(たとえば1つ以上のプロセッサを含む)を用いて実現し得る。
図13は、一実施形態に従う、高性能コンピューティング環境においてデュアルポート仮想ルータをサポートする方法を示す。ステップ1310において、1つ以上のマイクロプロセッサを含む1つ以上コンピュータに、この方法は第1のサブネットを設けることができる。第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は複数のスイッチポートを含む。第1のサブネットはさらに、各々が少なくとも1つのホストチャネルアダプタポートを含む複数のホストチャネルアダプタと、各々が複数のホストチャネルアダプタのうちの少なくとも1つのホストチャネルアダプタに対応付けられている複数のエンドノードと、サブネットマネージャとを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方において実行される。
ステップ1320において、この方法は、複数のスイッチのうちの1つのスイッチ上の複数のスイッチポートのうちの1つのスイッチポートを、ルータポートとして構成することができる。
スイッチ1330において、この方法は、ルータポートとして構成したスイッチポートを仮想ルータに論理的に接続することができ、この仮想ルータは少なくとも2つの仮想ルータポートを含む。
マルチキャスト通信
マルチキャストは、単一のパケットを複数の宛先に配信する機能である。したがって、マルチキャストは、ネットワークファブリックのエンドノード間の通信を簡素化し、その効率を向上させることができる。マルチキャストは、マルチキャストグループの使用を通して実現および管理される。マルチキャストをサポートする各HCA、スイッチ、またはルータは、ゼロ、1つ、または多数のマルチキャストグループに参加する(つまり、メンバーになる)ことができる。マルチキャストグループは、サブネットマネージャなどの管理エンティティによって管理されることができる。
マルチキャストグループは、エンドノードの集合であり、それらの各々は、単一のマルチキャストアドレスに送信されるマルチキャストパケットを受信する。各マルチキャストグループは、サブネット固有のマルチキャストLID(ここではMLIDと呼ばれる)およびグローバルに一意なマルチキャストGID(ここではMGIDと呼ばれる)に関連付けられる。マルチキャストグループは、それのMGIDによって定義され、それはマルチキャストグループの作成時にマルチキャストグループに関連付けられている。マルチキャストグループのMGIDは、サブネットマネージャによって割り当てることもできるし、マルチキャストグループの作成時にSMに提供することもできる。MLIDは、マルチキャストグループの作成時にSMによって割り当てられる。複数のMGIDを単一のMLIDに関連付けることができる(つまり、複数のマルチキャストグループが同じMLIDを共有することができる)。ただし、所与のMGIDを同じサブネット上の複数のMLIDに関連付けることはできない。マルチキャストグループのメンバーであるポートのLIDやおよびGIDなど、マルチキャストグループに関するMLID、MGID、およびその他の詳細は、サブネット管理(SA)によって、またはサブネット管理(SA)のためにアクセス可能なデータストアに格納することができる。
一実施形態によれば、ローカルサブネットで定義されたマルチキャストグループに関する情報は、サブネット内のスイッチに配信することができる。各スイッチは、受信したマルチキャストパケットのコピーを1つ以上のポートに転送するために用いられるルーティング情報とともに構成され、受信したマルチキャストパケットのコピーは、受信したマルチキャストパケットのMLID/MGIDに対応するマルチキャストグループに含まれる(つまりマルチキャストグループのMGIDに関連付けられる)LIDを有する各HCAポートに転送される。ある場合には、マルチキャストパケットは複製され、コピーを直接HCAポートに送信するポートに転送され、他の場合では、コピーはHCAポートに到達する前に別のスイッチに転送される必要がある。
SMは、マルチキャストパケットの配信先となるべきマルチキャストグループ内のすべてのポートを含む単一のスパニングツリーを生成することができる。マルチキャスト転送に参加するサブネット内の各スイッチのマルチキャスト転送テーブル(MFT)が、この場合、スパニングツリーから取得することができる。単一のスパニングツリーを用いてスイッチMFTを導出すると、マルチキャストパケットの重複コピーが既にそのマルチキャストパケットのコピーを処理したスイッチに転送されないことが保証される。
マルチキャストパケットは、それのパケットヘッダのDLIDフィールドにMLIDを含むパケットである。スイッチがマルチキャストパケットを受信すると、スイッチはパケットヘッダを調べてDLIDを抽出し、それがマルチキャストグループに対応しているかどうかを判断する。DLIDがマルチキャストグループに対応する(つまり、DLIDフィールドにMLIDが含まれる)と判断されると、スイッチはパケットを複製し、マルチキャストパケットのMLIDが関連付けられているマルチキャストグループに関連付けられている、MFTで指定されているポートの各々(到着ポートを除く)に、そのパケットを送信する。
図14は、実施形態による、マルチキャスト通信をサポートする例示的なサブネット1400を示す。サブネットAはノード1401~1408を含む。ノード1401~1408は、それぞれHCA1409~1416を含む。HCA1409~1416は各々ポート、つまりポート1417~1424を含む。ポート1417~1424は、リンク1425~1432を介してスイッチ1450~1453に接続されている。たとえば、ポート1417はリンク1425を介してスイッチ1450に接続され、ポート1418はリンク1426を介してスイッチ1450に接続され、ポート1419はリンク1427を介してスイッチ1451に接続されている。
サブネット1400にはSM/SA1460が含まれる。簡略化のために図15では別個のエンティティとして描かれているが、異なる実施形態に従って、SM/SA1460は、スイッチ1450~1453のいずれかのコンポーネント、ノード1401~1408のいずれか、または図示されていない別のIBデバイスのコンポーネントとして展開することができることを理解されたい。マルチキャストグループ(MCG)1465はSM/SA1460で定義される。MCG1465は、一点鎖線のブロック図形式で描かれている。さらなるポート1417~1419およびポート1421~1423も、それらがMCG1465のメンバーであることを示すために、一点鎖線で示される。逆に、ポート1420および1424は、それらがMCG1465のメンバーではないことを示すために、実線のブロック図形式で描かれている。
スイッチ1450は、リンク1440を介してスイッチ1453に相互接続され、リンク1442を介してスイッチ1452に相互接続される。同様に、スイッチ1451は、リンク1441を介してスイッチ1452に相互接続され、リンク1443を介してスイッチ1453に相互接続される。
一実施形態によれば、ポート1421がMCG1465を定義するMGIDを含むマルチキャストパケットをネットワークに送信すると、ポート1417~1419ならびにポート1422および1423の各々は、MCG1465のメンバーであることにより、ポート1421によって送信されたマルチキャストパケットのコピーを受信する。
図15は、一実施形態による、マルチキャストグループを管理するためにSM/SAによって用いられる例示的なSAデータストアを示す。データストア1500は、リレーショナルデータベースダイアグラムのテーブルとして表され、なぜならば、そのようなダイアグラムは関連するコンポーネント間の関係を示すからである。ただし、図15は、マルチキャストグループコンポーネント間の関係およびそのようなコンポーネント間の連想マッピングを示すことを意図しており、限定することを意図していない。関連するコンポーネント間の適切な連想マッピングを可能にする任意の好適なデータ構造により、実施形態を提供することができる。実際、IB仕様では、SAの特定の実現例および任意のSAデータストアは未定義のままである。
図15に示されるように、SAデータストア1500は、MCGテーブル1540およびLIDテーブル1544を含むことができる。MCGテーブル1540は、ローカルサブネットにおいて各定義されたMCGのMGIDおよび対応するMLIDを含む、ローカルサブネットにおいて定義されたMCGに関する情報を含むことができる。LIDテーブル1544は、各LIDが割り当てられているポートの対応するGUIDなど、サブネットにおけるLIDに関する情報を含むことができる。関係は、クエリが、所与のMGID(つまり、所与のMGIDによって定義されるMCGのメンバーであるすべてのポート)に関連付けられるすべてのLID(エンドポートに割り当てられた)を示すデータを返すことができるように構成することができる。
例えば、一実施形態によれば、マッピングテーブルを利用して、ローカルサブネット内のLIDを、LIDが関連付けられているマルチキャストグループのMGIDにマッピングすることができる。引き続き図15を参照すると、MCGおよびLIDデータは、たとえばマッピングテーブルMCG_LID1542においてマッピングすることができ、ローカルサブネットのエンドポートに割り当てられたLIDは、1つ以上のMGIDにマッピングすることができる。一実施形態によれば、テーブル1540および1542は、関係1550を介して関係付けることができ、テーブル1542および1544は、関係1552を介して関係付けることができる。このような関係が整っていると、SMは、データストアのクエリを介して、どのLIDがどのMGIDに関連付けられているか(つまり、どのポートがどのマルチキャストグループのメンバーであるか)を判断することができる。
前述のように、各マルチキャストパケットの単一コピーをすべてのマルチキャストグループメンバーに効率的に転送するために、SMはサブネットトポロジーを通る単一のスパニングツリールートを判断することができる。一実施形態によれば、図16は、サブネット1600内においてスパニングツリーアルゴリズムを介して判断され得る例示的なルートを示す。前述のように、マルチキャストグループ(MCG)1665はSM/SA 1660によって定義される。MCG1665は、一点鎖線のブロック図形式で描かれている。さらなるポート1617~1619およびポート1621~1623も、それらがMCG1665のメンバーであることを示すために一点鎖線で描かれている。図16では、マルチキャストトラフィックの配信を処理するべくスパニングツリーに含まれるリンクも一点鎖線で示され、スパニングツリーから除外されたリンクは実線形式で示される。
一実施形態によれば、SM1660は、どのエンドポートがMCG1665のメンバーであるかを判断することができる。判断されたエンドポートを用いて、SM1660は、サブネットに注入されたマルチキャストパケットのわずか1つのコピーのみがMCG1665のメンバーである各エンドポートに配信されることを保証するスパニングツリーを判断することができる。例えば、リンク1642、1640、および1643をスパニングツリーに含めることができるが、リンク1641を含める必要はない。リンク1642、1640、および1643を含めると、どのエンドポートがマルチキャストパケットをサブネットに注入するかに関係なく、MCG1665のメンバーである各エンドポートにマルチキャストパケットのコピーが1つだけ配信される。
たとえば、ポート1621がマルチキャストパケットをサブネットに注入すると、スイッチ1652によって受信される。次に、スイッチ1652は、スパニングツリーで指定された各リンクにマルチキャストパケットのコピーを転送することができる(マルチキャストパケットが受信されたリンクを除く)。したがって、スイッチ1652は、受信されたマルチキャストパケットのコピーをリンク1642および1630に転送し、(リンク1629を除外することができ、なぜならば、マルチキャストパケットはこのリンクで受信されたからである)。この場合では、ポート1622は、それの、マルチキャストパケットの(唯一の)コピーを、リンク1630を介して受信し、スイッチ1650はリンク1642を介してコピーを受信する。ここから、スイッチ1650も、リンク1642から受信したマルチキャストパケットのコピーをリンク1625、1626、および1640に転送すること(およびリンク1642を除外すること)ができる。したがって、ポート1617および1618は、それぞれリンク1625および1626を介して、それらの、マルチキャストパケットの(唯一の)それぞれのコピーを受信し、スイッチ1653はリンク1640を介してコピーを受信する。このパターンは、SMによって判断されたスパニングツリールートを介して、すべてのエンドポートがマルチキャストパケットのコピーを1つだけ受信するまで継続することができる。
一実施形態によれば、SMがマルチキャストトラフィックのために単一のスパニングツリールートを判断すると、SMは、スパニングツリールートの一部である各スイッチのマルチキャスト転送テーブル(MFT)を判断することができる。図17は、リンク1725~1732およびリンク1740~1743が接続されているスイッチリンクポートを含むスイッチ1750~1753の詳細図を示す。図17に示すように、リンク1725~1732は、それぞれスイッチポート1733~1740に接続される。同様に、リンク1740~1743は、それぞれ、一端がポート1760~1763に、他端がスイッチポート1764~1767にそれぞれ接続されている。前の図と整合して、SM1765(図示せず)のスパニングツリールートに含まれるリンクに接続されるスイッチポートは一点鎖線で示され、スパニングツリーから除外されたリンクに接続されるポートは実線形式で示される。
スイッチのMFTを判断する際に、SMは、マルチキャストトラフィックの配信のためにスパニングツリールートに含まれるリンクに接続される所与のスイッチの各ポートを判断することができる。例として、図17を参照すると、スイッチ1750のMFTはリンク1733、1734、1760、および1762を含み得、なぜならば、MCG1765のメンバーである各エンドポートがマルチキャストパケットのコピーを確実に受信するために、受信したマルチキャストパケットのコピーをこれらの各ポート(リンクを受信したポートを除く)から転送しなければならないからである。スイッチ1751に関しては、ポート1735および1763はスイッチ1751のMFTエントリに含まれ、ポート1736および1761はMFTエントリから除外される。MFTはMLIDによってインデックスが付けられ、特定のMFTエントリには、MLIDが関連付けられるスパニングツリーに対応するポートベクトルが含まれる。
図18は、一実施形態による、マルチキャストグループのメンバーにマルチキャストパケット配信を提供する方法のフローチャートを示す。ステップ1810で、サブネットマネージャは、マルチキャストグループのメンバーである各エンドポートを判断することができる。ステップ1820で、サブネットマネージャは、マルチキャストグループのメンバーである各エンドポートにマルチキャストパケットのコピーを配信する単一のスパニングツリーを判断することができる。ステップ1830で、サブネットマネージャは、スパニングツリーによって判断されるように、マルチキャストトラフィックを転送するローカルサブネット内の各スイッチのマルチキャスト転送テーブルを判断することができる。ステップ1840で、SMは、各それぞれのスイッチごとに判断される転送テーブルでマルチキャストトラフィックを転送する各スイッチを更新することができる。
SAアクセスに対する必要性を低減するための同種のファブリック属性
InfiniBand(IB)仕様で定義されているサブネットマネージャ(SM)およびサブネットアドミニストレータ(SA)は、IBサブネットディスカバリおよび初期化ならびに探索および登録サービスを実行する中央集中型の方法を提供する。
IBクライアントとSAとの間の通信のためのプロトコルは、SAとIBクライアントとの両方が最小機能IBエンドポート実装形態を表すことができるように設計される。したがって、仕様では、256バイトのUD(信頼できないデータグラム)パケットのみがプロトコルの実現に用いられる。
一実施形態によれば、サブネットマネージャ(SM)は、それぞれのサブネットを通るパスを確立/定義する責任を担い得る。これは、たとえば、スイッチ転送テーブル(線形転送テーブル)、LIDなどを設定することができるサブネット管理パケット(SMP)を介して行なう。サブネットアドミニストレータ(SA)は、パス解決要求GMP(一般的な管理パケット)への応答を担い得る。たとえば、パスレコードの要求で、SAは、応答することができ、ローカルルートヘッダ(DLID、SLID、SL)、グローバルヘッダ(DGID、SGID)、およびMTU、レート、レイテンシ、P_Keyなどの他のプロパティを含むことができる。
通信パラメータが関連するIBファブリックおよびピアノードの機能ならびに関連付けられる管理ポリシーと整合するようにするために、IBクライアントは、関連するL2アドレス情報(LID)、および最大MTU(最大伝送単位)、最大レート、サービスレベル(SL)などの通信パラメータの両方を得るために、SAからパスレコードを取得するよう期待される。
関連するピアノードが到達可能であり、同じマスターSM/SAインスタンスがサブネットを担当している限り、SAからクライアントによって取得されたパスレコードおよびその他の情報は変更されないことが期待されるが、一般的には、新たなマスターSM/SAインスタンスがアクティブになるたびに、キャッシュされた情報をリフレッシュする必要がある。
マルチキャストグループメンバーシップの場合、新たなSMが新たなMGIDをMLIDマッピングに割り当てることがあるため、新たなマスターSM/SAがアクティブなときは常にどのマルチキャストメンバーシップも(再)参加させる内在的な必要性がある。
特定の実施形態では、IBクライアントが、マスターSM/SAの変更にわたってもパスレコードおよびマルチキャストグループ情報を楽観的にキャッシュするようマスターSM/SAに対する任意の変更が可能になると、IBクライアントがパスレコードマルチキャストグループメンバーシップ情報をキャッシュすることが可能であり得る。ただし、マルチキャストメンバーシップの場合、キャッシュされた情報がもはや有効ではない例外ケースを選別することは、さまざまな競合状態のため、簡単ではない場合がある。
SRIOVベースのVM展開の場合、各そのようなVMが物理サーバとして同様のタイプのSA要求(たとえば、パスレコードの照会)を実行する限り、SA要求トラフィックの問題は拡大される。つまり、各クライアントが、システム内でエンドノードとして機能する(つまり、非SRIOV環境で物理サーバとして機能する)単一の仮想マシンを含み得る仮想化環境では、それは、従来であればそのようなSA要求を必要とするであろうイベントでSA要求を介してSAへのトラフィックを大幅に増大させ得る。
スイッチ管理インターフェイスに接続される低パフォーマンスプロセッサモジュールに基づく実装など、低能力SM/SA実装例では、SA要求負荷の中程度の増大でも、SMおよび全体としてシステムの両方について深刻なオーバーヘッドおよび前進の低減を引き起こし得る。
高速フェールオーバーおよびリカバリが重要な高可用性(HA)システムの場合、遅延は問題を表わす。たとえば、1秒未満のフェールオーバー時間が目標である場合、動作可能なノード間の物理的な接続が失われない限り、動作可能な計算ノードが通常の動作および他の動作可能なノードとの通信をどのような中断もなく継続することができることが重要である。したがって、すべてのノードがSAと対話する必要なくユニキャストトラフィックとマルチキャストトラフィックとの両方に対して既存のアドレスおよびパス情報を引き続き用いることができること、および唯一の接続の中断が生じるのは、SMがファブリック内の障害のあるリンクのために再ルーティングまたは再初期化を実行する必要がある場合であることが、望ましい。
また、本格的なHCAを伴うハイエンドサーバに基づくSM/SA実装例でも、SA通信に256バイトのMAD(管理データグラム)を用いると、パフォーマンスおよびスケーラビリティが大幅に制限される可能性がある。そのような場合、SA要求処理のための最適なキャッシングおよび非常に高いパフォーマンスであっても、新たなマスターSMとともにマルチキャストメンバーシップを再登録する必要性は、動作可能なスイッチおよびリンクによって接続される動作可能なノード間の接続性の不必要な中断を表わし得る。
IBクライアントとSM/SAインフラストラクチャとの間の対話の最適化に関連する2つの主な目標がある。スイッチが組み込まれた(ローエンド)SM/SA実装を伴う中小規模のシステムの場合、目標は、可能な限り、SMが、SA要求を処理したり、またはそうでない場合に物理サーバや仮想マシンなどのIBクライアントと通信したりする必要なく(つまり、SMAレベルでのディスカバリおよび初期化動作を越えて)、できるだけ早くサブネットを発見して初期化することができることである。ハイエンドのSM/SA実装を伴う大規模システムの場合、目標は、SM/SAが最適なIB通信メカニズムを利用する方法で関連情報をIBクライアントに配信できることであり、また、スケーラビリティを提供し、非常に大規模なクラスタドメインでも大規模なマルチキャストストームを防止する階層実現を有する能力を提供もすることである。
一実施形態によれば、デフォルトで、各IBクライアントは、SAに対して、許可されたレート、MTU、SL、パーティション、LIDなどに関してリモートエンドポートと通信する方法を記述するパスレコードを取得するように要求することができる。
一実施形態によれば、一部のIBファブリック構成では、リモートポートのアイデンティティから独立したパラメータの変動はない。代替的に、すべてのノードで用いることができる充分に定義された共通の最大値が存在するか、またはノードのペアが中間のファブリック接続性を考慮せずに関連する最大値を交換およびそれに合意できるようにファブリックを構築し、それによって、SAにそのようなパラメータを取得するよう要求する必要性を回避することができる。
一実施形態によれば、クライアントノードが上記のように振る舞うべきであることを指定することが可能である。ただし、これはエラーが発生しやすく、関連する前提条件に違反するファブリックの変更が動的に検出されない可能性があることを意味する。
一実施形態によれば、ポート毎のSMAレベル属性(例えば、「同種ファブリック」バイナリフラグ属性)を導入することができる。このような属性により、サブネットマネージャは、簡易スキームを用いることができるかどうか、およびローカルポートパラメータに関連する制約(それがある場合)について、関連するクライアントに指示する情報をクライアントポートレベルで動的に維持することができる。従来のポートレベルイベントを用いて、動的な変更についてIBクライアントに非同期的に通知することもできる。
一実施形態によれば、エンジニアドシステム(ES)プライベートファブリックが同種のHCAおよびスイッチ機能に基づいており、通常のファットツリートポロジーが使用されている場合、通常の場合に適切なパスパラメータが用いられることを保証するためにSM/SAによって定義される必要のあるパス属性は一般的にはない。たとえば、サポートされるデータレート、MTU、およびSLのセットはローカルHCAポートの機能によって定義することができ、通信のための関連するパーティションはローカルHCAに対するパーティションセットアップによって定義されるであろう。
一実施形態によれば、ESプライベートファブリックのこの態様は、関連するESホストノードで用いられるホストスタックの構成パラメータであり得る。ただし、特別なシステム構成とは無関係に用いることができる、より柔軟なスキームは次のとおりである。
一実施形態によれば、SMが、ファブリック内のすべてのホストノードならびにホストノードを接続するスイッチおよびスイッチポートがすべて同じ機能をサポートすると判断すると、この状態を明記する特別なSMAフラグ属性(例えば、「同種ファブリック」属性フラグ)を、システムのさまざまなHCAポートに対して設定することができる。(HCAポートには、そもそもこの属性に対するサポートを示す機能フラグを含めることもできる。)
一実施形態によれば、このフラグは、ポートが現在メンバーとして設定されている各パーティションの追加属性としてさらに含めることができる。
一実施形態によれば、スキームの柔軟性を改善するために、そのような属性を拡張して、すべてのパス属性について(グローバルに、またはパーティションごとに)最大値を含めることができ、最大機能が、異なるホストノードに対して異なり得る場合でも、ホストノードが、すべてのピアによってサポートされる値を用いることができるようにする態様で、SMが不均一なケースも処理できるようになる。このようにして、ホストノードは、ローカルポート情報のみに基づいて、SAクエリを実行する必要なく、リモートピアのアイデンティティおよびアドレスに依存しないすべてのパス情報を判断することができる。
一実施形態によれば、構成パラメータおよび/または新たなSMA属性の代替は、ノードごとに1つまたは少数のSA要求を用いてエンドノードがサブネットまたはパーティションごとに「デフォルト最大パスパラメータ」を取得できるであろう新たなタイプのSAクエリを導入することであろう。‐それでも、多数のノードがある場合、それは依然として起動時に大きな負荷を表わすであろう。
一実施形態によれば、いくつかの追加のSMA/PortInfo(ポート情報)属性を含めることができる。
一実施形態によれば、「Homogenous Fabric Attributes(同種ファブリック属性)」をサポートするためのポート機能をサポートすることができる。この属性のデフォルト値は偽である。それは、リンクアップでサポートSMAにより真にセットされることができる。真にセットされると、サポートマスターSMが、関連するSMAプロパティを更新してもよい。
一実施形態によれば、「HomogeneousSubnet(同種サブネット)」フラグをサポートすることができる。このフラグのデフォルト値は偽とすることができる。このフラグは、このローカルポートから潜在的に見えるローカルサブネット内のすべてのエンドポートが同じパスプロパティを有し、すべての中間リンクが同じプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントは、ローカルポートプロパティから、関連するパスプロパティを安全に導出することができる。
一実施形態によれば、「SemiHomogeneousSubnet(準同種サブネット)」フラグをサポートすることができる。このフラグのデフォルト値は偽とすることができる。このフラグは、中間リンクが、常に、ローカルポートがサポートする値とローカルポートから見えるローカルサブネット内のピアポートがサポートする値との間の最小値と同じパスプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。フラグの値が真にセットされている場合、ローカルポートは、関連するピアポートと直接、ネゴシエーションに基づいて、パスプロパティを判断することができる。
一実施形態によれば、有効フラグ(真/偽)、MTU(法的MTU値)、レート(法的レート値)の「SubnetGlobalMinimalPathParameters(サブネットグローバル最小パスパラメータ)」レコードをサポートすることができる。これは、サポートマスターSMによって、このローカルポートから潜在的に見えるローカルサブネット内の任意のエンドポートおよび任意の中間リンクによってサポートされる最小値に設定することができる。真にセットされると、ローカルIBクライアントは、ローカルサブネット内の通信にこれらのパスプロパティを用いることを選択することができる。
一実施形態によれば、「HomogeneousFabric(同種のファブリック)」フラグをサポートすることができる。このフラグのデフォルト値は偽とすることができる。このフラグは、ローカルポートから潜在的に見えるすべてのエンドポートが同じパスプロパティを有し、すべての中間リンクが同じプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントはローカルポートプロパティからすべてのパスプロパティを安全に導出することができる。
一実施形態によれば、「SemiHomogeneousFabric(準同種ファブリック)」フラグをサポートすることができる。このフラグのデフォルト値は偽とすることができる。このフラグは、中間リンクが、常に、ローカルポートがサポートする値とローカルポートから見えるピアポートがサポートする値との間の最小値と同じパスプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントは、直接、関連するピアポートと、ネゴシエーションに基づいて、パスプロパティを判断することができる。
一実施形態によれば、「FabricGlobalMinimalPathParameters(ファブリックグローバル最小パスパラメータ)」‐有効フラグ(真/偽)、MTU(法的MTU値)、レート(法的レート値)のレコードをサポートすることができる。これは、サポートマスターSMによって、このローカルポートから潜在的に見える任意のエンドポートおよび中間リンクによってサポートされる最小値に設定することができる。真にセットされると、ローカルIBクライアントは、通信にこれらのパスプロパティを用いることを選択することができる。
図19は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。
一実施形態によれば、図19は、複数のノード、ノードA~ノードE、1910~1914を含む簡略化されたインフィニバンドファブリックを示し、それらは、多数のスイッチ1902およびサブネットマネージャ/サブネットアドミニストレータ1901を含むInfiniBandファブリック1900を介して(それぞれ)ホストチャネルアダプタ1920~1924を介して相互接続される。
一実施形態によれば、サブネットマネージャ/サブネットアドミニストレータ1901は、複数のホスト(例えば、ノードA~E)および複数のスイッチ1902が同じ機能セットをサポートすると判断することができる。複数のホストおよび複数のスイッチが同じ機能セットをサポートすると判断すると、サブネットマネージャは、フラグA(図ではフラグAを含む円として表示)などのSMAフラグを設定する。このフラグはある状態をホストチャネルアダプタポートごとに設定することができることを示す。フラグAは、上述の同種のファブリック属性などの1つ以上の属性を含むことができる。フラグAのデフォルト値は偽にセットされることができ、それは、さまざまなポートが同じ機能セットをサポートすると判断されると、SA/SMによって真に変更することができる。
一実施形態によれば、SA/SMは、IBファブリック内の異なるポート間およびHCAポートで同じである機能セットを判断することができる。この機能セットは、サポートされるデータレート、MTU(最大伝送単位)、サポートされるリンク幅、サポートされるリンク速度、およびサポートされる拡張リンク速度のセットで構成されるが、これらに限定されない。(実施形態では、異なるリンク速度および幅の組み合わせが同じデータレートを表してもよいことに留意されたい。したがって、パス情報の観点からは、レートのみが関係する。ただし、SMはすべての速度と幅との組み合わせを相関させて、関係するレートセットを判断する必要がある。)
一実施形態によれば、フラグAは、「Homogenous Fabric Attributes」をサポートするためにポート機能を反映/含むことができ、サポートされることができる。そのような状況におけるフラグAのデフォルト値は偽である。それは、リンクアップでサポートSMAにより真にセットされることができる。真にセットされると、サポートマスターSMが、関連するSMAプロパティを更新してもよい。
一実施形態によれば、フラグAは「HomogeneousSubnet」フラグを反映/含むことができる。このフラグのデフォルト値は偽とすることができる。このフラグは、ローカルポートから潜在的に見えるローカルサブネット内のすべてのエンドポートが同じパスプロパティ(たとえば、MTU、サポートされるデータレート)を有し、すべての中間リンクが同じプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントは、従来のIBファブリックよりもSAへの要求が少ない状態で、ローカルポートプロパティから関連するパスプロパティを安全に導出することができる。
一実施形態によれば、フラグAは、「SemiHomogeneousSubnet」フラグを反映/含むことができる。このフラグのデフォルト値は偽である。このフラグは、エンドノード(ローカルポートおよびリモートポート)間の中間リンクが、ローカルポートがサポートする値とローカルポートサポートから見えるローカルサブネット内のピアポートがサポートする値との間の最小値と同じパスプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。フラグの値が真にセットされると、ローカルポートは、直接、関連するリモートポートと、ネゴシエーションに基づいて、パスプロパティを判断することができる。
一実施形態によれば、フラグAは、有効フラグ(真/偽)、MTU(法的MTU値)、レート(法的レート値)の「SubnetGlobalMinimalPathParameters」レコードを反映/含み、サポートされることができる。これは、サポートマスターSMによって、このローカルポートから潜在的に見えるローカルサブネット内の任意のエンドポートおよび任意の中間リンクによってサポートされる最小値に設定することができる。真にセットされると、ローカルIBクライアントは、ローカルサブネット内の通信にこれらのパスプロパティを用いることを選択することができる。
一実施形態によれば、フラグAは、「HomogeneousFabric」フラグを反映/含むことができ:このフラグのデフォルト値は偽とすることができる。このフラグは、ローカルポートから潜在的に見えるすべてのエンドポート(ローカルポートのサブネット外のものを含む)が同じパスプロパティを有し、すべての中間リンクが同じプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントはローカルポートプロパティからすべてのパスプロパティを安全に導出することができる。
一実施形態によれば、フラグAは、「SemiHomogeneousFabric」フラグを反映/含むことができる。このフラグのデフォルト値は偽とすることができる。このフラグは、中間リンクが、常に、ローカルポートがサポートする値とローカルポートから見えるピアポートがサポートする値との間の最小値と同じパスプロパティをサポートする場合に、サポートマスターSMによって設定されることができる。真にセットされると、ローカルIBクライアントは、直接、関連するピアポートと、ネゴシエーションに基づいて、パスプロパティを判断することができる。
一実施形態によれば、フラグAは、「FabricGlobalMinimalPathParameters」フラグを反映/含むことができる。このフラグは、有効フラグ(真/偽)、MTU(法的MTU値)、レート(法的レート値)のレコードを含むことができ、サポートされることができる。これは、サポートマスターSMによって、このローカルポートから潜在的に見える任意のエンドポートおよび任意の中間リンクによってサポートされる最小値に設定することができる。真にセットされると、ローカルIBクライアントは、通信にこれらのパスプロパティを用いることを選択することができる。
図20は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。
より詳細には、この図は、ノード1 2010、ノード2 2020、およびノード3 2030を含むいくつかのノードを備える例示的なサブネットを示し、各ノードはホストチャネルアダプタ、すなわちHCA1 2011、HCA2 2021、およびHCA3 2031を介して、切り換えられたファブリックに接続される。ノードは、それぞれのHCAを介して、スイッチ1 2040やスイッチ2 2041などの多数のスイッチを介して相互接続される。
一実施形態によれば、サブネットの各メンバー(HCAおよびスイッチ)はすべて同じ「タイプ」を含むことができ、これらのサブネットメンバーの各々上の各ポートは、同じ機能、例えばサポートされるデータレート、MTU(最大伝送単位)、サポートされるリンク幅、サポートされるリンク速度、およびサポートされる拡張リンク速度などをサポートすることを意味する。
図21は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。
より詳細には、この図は、ノード1 2110、ノード2 2120、およびノード3 2130を含むいくつかのノードを備える例示的なサブネットを示し、各ノードはホストチャネルアダプタ、すなわちHCA1 2111、HCA2 2121およびHCA3 2131を介して、切り替えられたファブリックに接続される。ノードは、それぞれのHCAを介して、スイッチ1 2140やスイッチ2 2141などの多数のスイッチを介して相互接続される。
一実施形態によれば、サブネットの異なるメンバー(HCAおよびスイッチ)は異なる「タイプ」を含むことができ、同じタイプのサブネットのメンバーは同じ機能セットをサポートするが、異なるタイプのメンバーは同じ機能セットをサポートしないことを意味する。
たとえば、図のタイプAのスイッチのホストチャネルアダプタは第1の最大データレートおよび第1の最大伝送単位をサポートし、タイプBのホストチャネルアダプタおよびスイッチは同じ第1の最大データレートおよび異なる第2の最大伝送単位をサポートする。このような状況では、フラグ、「SemiHomogeneousSubnet」フラグは、エンドノード(ローカルポートおよびリモートポート)間の中間リンクが、ローカルポートがサポートする値とローカルポートから見えるローカルサブネット内のピアポートがサポートする値との間の最小値と同じパスプロパティをサポートする場合に、サブネットマネージャによって設定されることができる。フラグの値が真にセットされると、ローカルポートは、直接、関連するリモートポートと、ネゴシエーションに基づいて、パスプロパティを判断することができる。
図22は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートするシステムを示す。
より具体的には、この図は、ノード1 2210、ノード2 2220、ノード3 2230、ノード4 2215、ノード5 2225、およびノード6 2235を含む複数のノードを備える例示的なサブネットを示しており、各ノードは、ホストチャネルアダプタ、つまりHCA1 2211、HCA2 2221、およびHCA3 2231、HCA4 2216、HCA5 2226、およびHCA6 2236を介して、切り替えられたファブリックに接続される。ノードは、それぞれのHCAを介して、スイッチ1 2240、スイッチ2 2241、スイッチ3 2242、スイッチ4 2243、スイッチ5 2244、スイッチ6 2245などの多数のスイッチを介して相互接続される。
一実施形態によれば、スイッチは、いくつかのレベルで配置することができる。ここでは、スイッチは2つのレベルに配置され、レベル0はスイッチ1~4を含み、レベル1はスイッチ5~6を含む。
一実施形態によれば、サブネットの異なるメンバー(HCAおよびスイッチ)は異なる「タイプ」を含むことができ、同じタイプのサブネットのメンバーは同じ機能セットをサポートするが、異なるタイプのメンバーは同じ機能セットをサポートしないことを意味する。たとえば、「タイプB」のスイッチおよびHCAは、「タイプA」のスイッチおよびHCAよりも高い能力であることができる(つまり、より大きなMTU、最大データレート、リンク幅などをサポートすることができる)。
一実施形態によれば、次に、サブネットマネージャは、いくつかの異なるパスに沿って進むことができる。
一実施形態では、サブネットマネージャは、「タイプB」のすべてのスイッチおよびHCAが単一のサブネットに属し、「タイプA」に属するスイッチおよびHCAが異なるサブネットに属すると判断することができる。次に、SMは「サブネットB」内の各ポートにHomogenousSubnetフラグでフラグを立て、「サブネットA」内の各ポートに同様にフラグを立てることができる。
ある実施形態では、サブネットマネージャは、「SemiHomogeneousSubnet」フラグを設定することができる。これは、エンドノード(ローカルポートおよびリモートポート)間の中間リンクが、ローカルポートがサポートする値とローカルポートから見えるローカルサブネット内のピアポートがサポートする値との間の最小値と同じパスプロパティをサポートするからである。フラグの値が真にセットされると、ローカルポートは、直接、関連するリモートポートと、ネゴシエーションに基づいて、パスプロパティを判断することができる。
一実施形態によれば、サブネットマネージャは、有効フラグ(真/偽)、MTU(法的MTU値)、レート(法的レート値)の「SubnetGlobalMinimalPathParameters」レコードを設定することができ、サポートされることができる。これは、サポートマスターSMによって、ローカルポートから潜在的に見えるローカルサブネット内の任意のエンドポートと任意の中間リンクとでサポートされる最小値に設定されることができる。真にセットされると、ローカルIBクライアントは、ローカルサブネット内の通信にこれらのパスプロパティを用いることを選択することができる。
図23は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートする方法のフローチャートである。
一実施形態によれば、ステップ2301で、この方法は、ファブリックディスカバリを開始および実行することができる。
一実施形態によれば、ステップ2302で、この方法は、サブネット/ファブリック内のすべてのHCAが同じ最大機能を有するかどうか、およびすべてのスイッチも少なくともそれらの機能をサポートするかどうかを判断することができる。
一実施形態によれば、ステップ2303で、この方法は、HCAとスイッチとの両方で同じ最大機能がサポートされているかどうかを判断することができる。
一実施形態によれば、ステップ2304で、HCAとスイッチとの両方で同じ最大機能がサポートされる場合、ファブリックは初期化され、すべてのエンドノード(少なくとも、このような新しい属性をサポートするすべてのエンドノード)について<<同種ファブリック>>(またはSMがサブネットをただ見ている場合の同種サブネット属性)を反映することができる。
一実施形態によれば、ステップ2305で、同じ最大機能がサポートされない場合、この方法は、同じタイプのすべてのHCAが同じ最大機能をサポートするスイッチを介して同じタイプの他のすべてのHCAと通信することができるかどうかを判断することができる。
一実施形態によれば、ステップ2306で、この方法は、同じタイプのHCA間でそのような同じ最大パス機能がサポートされているかどうかを判断することができる。
一実施形態によれば、ステップ2307で、同じタイプのHCA間で同じ最大パス機能がサポートされる場合、ファブリックを初期化して、すべてのエンドノード(そのような新たな属性をサポートする少なくともすべてのエンドノード)について<<準同種ファブリック>>を反映させることができる。
一実施形態によれば、ステップ2308で、同じタイプのHCA間で同じ最大パス機能がサポートされない場合、ファブリックを初期化して、すべてのエンドノード(そのような新たな属性をサポートする少なくともすべてのエンドノード)について<<グローバル最小パスパラメータ>>を反映させることができる。
図24は、一実施形態による、高性能コンピューティング環境においてSAアクセスの必要性を低減するために同種のファブリック属性をサポートする方法のフローチャートである。
ステップ2410で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、この1つ以上のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
ステップ2420で、この方法は、サブネットマネージャが、複数のホストチャネルアダプタポートのセットと複数のスイッチのセットとが同じ機能のセットをサポートする、と判断することができる。
ステップ2430で、この方法は、前記判断で、サブネットマネージャが、SMA(サブネット管理エージェント)フラグ、複数のホストチャネルアダプタポートのセットに対してある条件を設定することができることを示すフラグを構成することができる。
同種のファブリック属性に基づいたARP応答およびピアツーピアネゴシエーションから導出されるパスレコード
一実施形態によれば、IB固有のアイデンティティ情報の判断がARP(アドレス解決プロトコル)のようなブロードキャストベースのクエリメカニズムに基づく限り、リモートポート固有のIBアドレス情報は、ソースGIDとソースLIDとの両方を含むIBマルチキャストメッセージが受信されるたびに、適切に定義される。
一実施形態によれば、このリモートポート固有の情報は、その場合、同種のファブリック」属性/フラグによって定義される情報と組み合わされて、リモートポートのフルパスレコードを形成することができる。
一実施形態によれば、「同種のファブリック」フラグ属性自体または追加の属性を用いて、通信を確立するときに宛先アドレスとして用いることができるという意味ですべてのソースIBアドレスが可逆的であることを指定することができる。
実施形態によれば、さらに、マルチキャストベースのアドレス解決プロトコルとユニキャストベースの通信管理プロトコルとの両方を用いて、「同種のファブリック」属性によって定義される情報を増強するために用いることができるポート固有のパスパラメータを表すことができる。
一実施形態によれば、上述のパス情報に加えて、SAパスレコードによって定義される追加情報は、GIDに関する関連ピアポートのアイデンティティおよびLIDに関するサブネットローカルアドレスである。
一実施形態によれば、汎用RDMA CM(接続マネージャ)ベースの接続の場合、アドレス解決はパーティションの範囲内のIPアドレスに基づき、IPアドレスからGIDへのマッピングはブロードキャストベースのARPプロトコルを介して定義される。
一実施形態によれば、単一のサブネット内では、各HCAポートに単一のLIDが割り当てられている限り、ピアHCAポートのサブネットローカル宛先LIDアドレスは、最初のARP要求マルチキャストパケットおよび対応するARP応答ユニキャストパケットの両方におけるソースLIDアドレスに基づいて充分に定義される。
一実施形態によれば、上記で定義された同種のファブリック/サブネットフラグ(または構成パラメータ)からの値で定義されたパスレコードパラメータと、IPoIB ARP要求および応答によって定義されるGIDおよびSLID情報との組み合わせに基き、一般にパスレコードまたはパス関連情報を取得するSA要求の追加的必要性はない。
一実施形態によれば、マルチサブネットファブリックの場合、GID情報は依然としてIPoIB ARPプロトコルによって十分に定義される。ただし、カプセル化IBパケットのSLID情報は、元の送信元を定義しなくなり、パケットをローカルサブネットへの入力パスで転送したIB‐IBルータポートのLIDを定義する。‐これは、元のマルチキャスト要求と後のユニキャスト応答との両方に適用される。
実施形態によれば、依然として、全体的なサブネット間ルーティングがサブネット境界を越えた可逆的パスを許可する限り、ユニキャストトラフィックのDLIDとしてルータSLIDを用いると、依然として、完全なパスレコード情報が、同種のファブリックフラグからの情報との組み合わせで、提供される。次に、接続されているさまざまなサブネットにおいてSM間で同種のファブリックフラグを同期させる必要があるであろう。
一実施形態によれば、IPoIB ARPプロトコル(またはRDMA CMプロトコル)は、ピアノードが「グローバル」最大値を超えるであろう相互パラメータ値を交渉し、それらに合意できるように、ローカルの同種ファブリック属性を含むように拡張することができる。特に、これにより、異なる速度インターフェイスを有するノードの異なる「サブファブリック」(例えば、QDR(クアドラプルデータレート)ベースのサブファブリックのEDR(拡張データレート)との組み合わせ、または、同じ、より速い速度のノードの接続が常にこの高速度をサポートするスイッチ/ルータのみを介するであろうHDR(ハイデータレート)ベースのサブファブリック)が可能になるであろう。
一実施形態によれば、様々なPortInfo(ポート情報)属性を定義することができる。
一実施形態によれば、そのような属性の1つは、「AllSubnetLocalChannelAdapterLIDsUsable(すべてのサブセットローカルチャネルアダプタLID使用可能)」フラグとすることができる。このフラグは真/偽フラグにすることができ、デフォルトで偽にセットされる。このフラグは、ローカルポートから潜在的に見えるローカルサブネット内のCA(チャネルアダプタ)ポートに関連付けられるすべてのLIDが有効なDLIDを表す場合に、サポートマスターSMによって設定されることができる。真の場合、ローカルIBクライアントは、ローカルサブネットのリモートCAポートと通信するときに、リモートCAポートから受信した任意のソースLIDを宛先LIDとして用いることができる。
一実施形態によれば、そのような属性の1つは、「RouterSourceLIDsReversible(ルータソースLID可逆)」フラグであることができる。このフラグは真/偽フラグにすることができ、デフォルトで偽にセットされる。このフラグは、リモートサブネットのエンドポートからパケットを転送するときにローカルサブネットのルータポートによって生成されるすべてのソースLIDを用いてリモートサブネットの関連のエンドポートに到達することができる場合に、サポートマスターSMによって、設定されることができる。真の場合、ローカルIBクライアントは、リモートサブネットのリモートCAポートと通信するときに、CAポートから受信した任意のパケットのソースLIDを宛先LIDとして用いることができる。
一実施形態によれば、新たに定義された様々な通信管理プロトコルの追加を提供することができる。
一実施形態によれば、そのような方法の1つは、新たな通信管理(CM)方法(メッセージタイプ)である「PortAndNodeAttributeRequestMessage(ポートおよびノード属性要求メッセージ)」とすることができる。メッセージには、送信ポートが表す最大パスパラメータ(レート、MTUなど)、および送信ポートに関する追加情報(プラットフォーム固有の情報も含めることができる)が含まれる。この方法は、LIDが既知であるリモートポートへの他の通信を開始する前に、SAパス要求のピアツーピアベースの置換として用いることができる。SAへのパスクエリと同様に、リモートポートが依然として利用可能な限り、受信した情報をキャッシュし、複数の接続にわたって再利用することができる。
一実施形態によれば、そのような方法の1つは、新たなCMメソッド(メッセージタイプ)である「PortAndNodeAttributeResponseMessage(ポートおよびノード属性応答メッセージ)」とすることができる。メッセージには、応答ポートが表す最大パスパラメータ(レート、MTUなど)、および応答ポートに関する追加情報(プラットフォーム固有の情報も含めることができる)が含まれる。SAへのパスクエリと同様に、リモートポートが依然として利用可能な限り、受信した情報をキャッシュし、複数の接続にわたって再利用することができる。
図25は、高性能コンピューティング環境で同種のファブリック属性に関するアドレス解決プロトコル(ARP)応答およびピアツーピアネゴシエーションから導出されたパスレコードを提供するシステムを示す。
一実施形態によれば、この図は、複数のノード、ノードA~ノードE、2510~2514を含む簡略化されたInfiniBandファブリックを示し、複数のノードは、多数のスイッチ2502およびサブネットマネージャ2501を備えるInfiniBandファブリック2500を通って(それぞれ)ホストチャネルアダプタ2520~2524を介して相互接続される。
一実施形態によれば、サブネットマネージャ2501は、複数のホスト(例えば、ノードA~E)および複数のスイッチ2502が同じ機能セットをサポートすることを判断するように構成され得る。複数のホストおよび複数のスイッチが同じ機能セットをサポートすると判断すると、サブネットマネージャは、フラグA(図ではフラグAを含む円として表示)などのSMAフラグを設定する。このフラグはある状態をホストチャネルアダプタポートごとに設定することができることを示す。フラグAは、上述の同種のファブリック属性などの1つ以上の属性を含むことができる。
一実施形態では、パケット2530をリモートポートから受信することができ、そのパケットはソースLIDおよびソースGIDを含む。リモートポートアドレス情報を同種のファブリック属性と組み合わせて、完全なパスレコード2535を判断することができる。
一実施形態によれば、マルチサブネットファブリックの場合(すなわち、パケットがリモートサブネットから到着する場合)、GID情報は依然としてIPoIB ARPプロトコルによって十分に定義される。ただし、カプセル化IBパケットのSLID情報は、元の送信元を定義しなくなり、パケットをローカルサブネットへの入力パスで転送したIB‐IBルータポートのLIDを定義する。‐これは、元のマルチキャスト要求と後のユニキャスト応答との両方に適用される。
実施形態によれば、依然として、全体的なサブネット間ルーティングがサブネット境界を越えた可逆的パスを許可する限り、ユニキャストトラフィックのDLIDとしてルータSLIDを用いると、依然として、完全なパスレコード情報が、同種のファブリックフラグからの情報との組み合わせで、提供される。次に、接続されているさまざまなサブネットにおいてSM間で同種のファブリックフラグを同期させる必要があるであろう。
図26は、同種のファブリック属性に基づいてARP応答およびピアツーピアネゴシエーションからパスレコードを導出する方法のフローチャートである。
より具体的には、この図は、一実施形態による、リモートノードからの、ファブリックの最小/最大値との相関を含む、着信ARP要求および応答からGIDおよびLIDを判断する方法のフローチャートを示す。
一実施形態によれば、ステップ2601で、方法を開始することができる。
一実施形態によれば、ステップ2602で、この方法は、着信ARP要求または応答からソースGID(グローバル識別子)およびソースLID(SLIDまたはソースローカル識別子)を取得することができる。
一実施形態によれば、ステップ2603で、この方法は、ソースGIDがローカルサブネットからのものであるかどうかを判断することができる。
ソースGIDがローカルサブネットからのものである場合、この方法は、ステップ2604で、ローカルポートから潜在的に見えるローカルサブネット内のCA(チャネルアダプタ)ポートに関連付けられたすべてのLIDが有効なDLID(上記の「AllSubnetLocalChannelAdapterLIDsUsable」フラグ)を表わす旨を、ローカルマスターSMによって設定されたフラグが示す、とローカル拡張ポート情報が示すかどうかを判断することができる。
そのような判断が行われた場合、一実施形態によれば、ステップ2606で、この方法は、そのような判断が受信したソースLIDをリモートノードの宛先LIDとして用いることができる旨を記録することができることを、記録することができる。
そのような判断が行われない場合、一実施形態によれば、ステップU05で、この方法は、リモートノードの宛先LIDを判断するためにSAアクセスまたは他の追加情報が必要であることを記録することができる。
ソースGIDがローカルサブネットからのものではないと判断された場合、実施形態によれば、ステップ2607で、この方法は、拡張PortInfoがRouterSourceLIDsReversibleフラグ(またはリモートサブネットのエンドポートからパケットを転送するときにローカルサブネットのルータポートによって生成されるすべてのソースLIDを、リモートサブネットの関連するエンドポートに到達するために用いることができることを表す、別のフラグ)が真であることを示すかどうかを判断することができる。
そのような判断が行われる場合、実施形態によれば、ステップで2608で、この方法は、受信したソースLIDをリモートノードの宛先LIDとして用いることができることを記録することができる。
そのような判断が行われない場合、実施形態に従って、ステップ2609で、この方法は、リモートノードの宛先LIDを判断するためにSAアクセスまたはその他の追加情報が必要であることを記録することができる。
図27は、同種のファブリック属性に基づいて、ARP応答およびピアツーピアネゴシエーションからパスレコードを導出する方法のフローチャートである。
より具体的には、この図は、一実施形態による、ファブリックの最小値/最大値との相関を含む、新たなCMタイプのメッセージ交換に基づくパス情報を構築する方法のフローチャートを示す。
一実施形態によれば、ステップ2701で、方法を開始することができる。
一実施形態によれば、ステップ2702で、この方法は、同種ファブリックフラグが真にセットされていることをローカル拡張PortInfoが示すかどうかを判断することができる。
一実施形態によれば、ステップ2703で、同種ファブリックフラグが真にセットされている場合、この方法は、ローカルPortInfo情報に基づいてパス情報属性を構築することができる。
一実施形態によれば、ステップ2704で、同種ファブリックフラグが真にセットされていない場合、この方法は、準同種ファブリックフラグが真にセットされていることをローカル拡張PortInfoが示すかどうかを判断することができる。
一実施形態によれば、ステップ2705で、準同種ファブリックフラグが真にセットされている場合、この方法は「PortandNodeAttributeReqeustMessage(ポートおよびノード属性要求メッセージ)」または「PortandNodeAttributeResponseMessage(ポートおよびノード属性応答メッセージ)」のいずれかを受信する。
一実施形態によれば、PortandNodeAttributeRequestMessageは、送信ポートが表す最大パスパラメータ(レート、MTUなど)および送信ポートに関する追加情報(プラットフォーム固有の情報も含むことができる)を含むことができる。この方法は、LIDが既知であるリモートポートへの他の通信を開始する前に、SAパス要求のピアツーピアベースの置換として用いることができる。SAへのパスクエリと同様に、リモートポートが依然として利用可能な限り、受信した情報をキャッシュし、複数の接続にわたって再利用することができる。
一実施形態によれば、「PortAndNodeAttributeResponseMessage」はCMメソッド(メッセージタイプ)である。メッセージには、応答ポートが表す最大パスパラメータ(レート、MTUなど)、および応答ポートに関する追加情報(プラットフォーム固有の情報も含めることができる)が含まれる。SAへのパスクエリと同様に、リモートポートが依然として利用可能な限り、受信した情報をキャッシュし、複数の接続にわたって再利用することができる。
一実施形態によれば、ステップ2705でメッセージの一方または両方を受信した後、この方法は、ステップ2706で、ローカルPortInfo情報とリモートノードからメッセージで受信した情報との間の最小値に基づいてパス情報を構築することができる。
一実施形態によれば、ローカル拡張PortInfoが、準同種ファブリックフラグが真であることを示さない場合、この方法は、ステップ2707で、SAクエリまたは他の手段(例えば、ローカルPortInfoからの「FabricGlobalMinimalPathParameters」)を用いて、リモートノードの情報属性を取得することができる。
図28は、一実施形態による、パスレコードを導出する方法のフローチャートである。
実施形態によれば、ステップ2810で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは1つ以上のスイッチを介して相互接続され、第1のサブネットは、さらに、複数のホストと、サブネットマネージャとを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ2820で、この方法は、サブネットマネージャが、複数のホストチャネルアダプタポートのセットおよび複数のスイッチポートのセットが同じ機能セットをサポートすると判断することができる。
一実施形態によれば、ステップ2830で、サブネットマネージャが複数のホストチャネルアダプタポートのセットおよび複数のスイッチポートのセットが同じ機能セットをサポートすると判断すると、サブネットマネージャはSMAフラグを構成することができ、このフラグは、複数のホストチャネルアダプタポートおよび複数のスイッチポートの各々に、ある条件を設定することができることを示す。
一実施形態によれば、ステップ2840で、リモートポートから、第1のサブネット内のスイッチ上のポートでソースLIDおよびソースGIDを含むパケットを受信することができる。
一実施形態によれば、ステップ2850で、ソースLIDおよびソースGIDをSMAフラグと組み合わせて完全なパスレコードを判断することができる。
マルチキャストグループの作成および参加
マルチキャストグループは、管理ポリシー/アクションに基づいてファブリックアドミニストレータによって作成することができる。ファブリックアドミニストレータは、管理インターフェイスを用いて、マルチキャストグループの作成を促すことができる。このようなインターフェイスは、マルチキャストグループの定義に必要なパラメータを受け入れることができる。多くの場合、マルチキャストグループは上位プロトコル(ULP)が用いるために作成される。これらのULPの一部は、IBパーティションのコンテキストで作成されるマルチキャストグループを用い、IBパーティションはULPのリンク境界を表す。一部の管理インターフェイスでは、IBパーティションとの関連でマルチキャストグループを作成できるため、マルチキャストグループを特定のIBパーティションに関連付ける場合の管理オーバーヘッドが軽減される。たとえば、IBパーティションが作成されると、作成されたIBパーティションのコンテキストでマルチキャストグループの自動作成を容易にするフラグを設定することができる(たとえば、Internet Protocol over InfiniBand (インフィニバンドを介するインターネットプロトコル(IPoIB) フラグ)。
一実施形態によれば、リスティング1は、対応するIBパーティションのコンテキストで(およびそれを作成するための同じコマンド内で)IPoIBマルチキャストグループを作成するための管理インターフェイスコマンドを示す。リスティング1に示すように、「ipoib」フラグを用いると、作成中の「partition_name」パーティションのコンテキストでマルチキャストグループが作成される。
Figure 0007105248000001
上記のように、IBパーティションに関連付けられるマルチキャストグループを用いるULPの1つの例は、 Internet Protocol over InfiniBand(IPoIB)である。IPoIBは、特定のIBパーティションのコンテキストで作成されたIBマルチキャストグループであるブロードキャストグループを用いる。ブロードキャストグループはレガシーインターネットプロトコル(IP)サブネットでブロードキャストトラフィックをシミュレートするために用いられ、なぜならば、IBアーキテクチャはブロードキャストトラフィックをサポートしていないからである。
IPoIBは、IBパーティションを用いてIPサブネットをシミュレートする(つまり、IBパーティションは、IPoIBプロトコルからブロードキャストトラフィックのリンク境界を定義およびシミュレートする)。ブロードキャストグループに関連付けられるIBパーティションの各メンバーエンドポートは、IPサブネットのシミュレートされたメンバーである。トラフィックは、ブロードキャスト(マルチキャスト)グループを介して、シミュレートされたIPサブネットの各メンバー(つまり、IBパーティションメンバー)に「ブロードキャスト」される。パーティションのメンバーである各エンドポートは、そのパーティションのコンテキストにおいて定義されるブロードキャストグループのメンバーでもある。これにより、IPプロトコルを用いるレガシーアプリケーションは、IBサブネットを介してブロードキャストされるパケット(アドレス解決プロトコル(ARP)パケットなど)を受信できる。
マルチキャストグループがIBパーティションのコンテキストで定義される場合、マルチキャストグループのMGIDは、既知の規則に従ってアルゴリズムで作成することができる。マルチキャストグループが作成されるコンテキストのパーティションのP_Keyは、マルチキャストグループのMGIDに埋め込むことができる。MGIDの作成時に、追加の規則に従うこともできる。たとえば、ブロードキャストIPoIBマルチキャストグループの場合、特別な署名もMGIDに埋め込まれる。このような規則に従うことにより、IBクライアントは、マルチキャストグループを定義するMGIDを導出するためにマルチキャストグループを定義するコンテキストのパーティションのP_Keyを知るだけで済む。
マルチキャストグループは、エンドポートがMADをSMに送信して、新たなマルチキャストグループの作成を要求するときに、動的に作成することもできる。MADは、新たなマルチキャストグループの定義/作成に用いる特定のパラメータを指定することができる。たとえば、MADは有効なMGIDを指定することができる。代替的に、MADはMGIDを未指定のままにすることができ、その場合、SMは有効なMGIDを生成し、生成されたMGIDを新たに作成されたマルチキャストグループに割り当てることができる。新たなマルチキャストグループを作成する要求で指定することができるその他のパラメータには、P_Key、Q_Key、 Service Level(サービスレベル) (SL), FlowLabel(フローレベル), TClass, JoinState(参加状態)およびPortGID(ポートGID)が含まれる。
新たなマルチキャストグループの作成を要求するMADは、IB仕様で定義されているサブネット管理クラスによって提供されるSubnAdmSet() メソッドを指定することができる。MADは、MCMemberRecord(MCメンバーレコード)属性をさらに指定することができ、上記のパラメータ(MGID、P_Key、Q_KEYなど)を指定することができる。
一般に、新たなマルチキャストグループを作成する要求は、要求元のエンドポート(つまり、新たなマルチキャストグループの作成を要求するMADを送信するエンドポート)による、新たに作成されるマルチキャストグループに参加する暗黙的な要求として扱われ、SMは、新たに作成されたマルチキャストグループに要求元のポートを含ませる。つまり、SMは要求元のポートのLIDを、要求元のポートと新たに作成されたマルチキャストグループのMGIDとの間の関連付けを作成する方法として用いる(つまり、ポートのLIDはマルチキャスト処理にとって重要性はない)。
従来は、既存のマルチキャストグループに参加するために、エンドポートはSMに参加要求を送信する。参加要求は、既存のマルチキャストグループの構成が既存のマルチキャストグループへの参加を要求しているポートの構成と互換性があるかどうかをSMが判断できるようにする他のパラメータとともに、既存のマルチキャストグループのMGIDを指定する。SMは、要求元のポートの構成が既存のマルチキャストグループの構成と互換性があると判断した場合、要求元のポートのLIDを既存のマルチキャストグループに追加する。つまり、SMは、要求元のポートのLIDを(たとえば、図15に示すようなSAデータストアにおいて)既存のマルチキャストグループのMGIDと関連付ける。さらに、SMは、マルチキャストパケットを送信するときにエンドポートで用いるためにMCGに割り当てられたMLIDで要求元のエンドポートに応答する。
エンドポートが既存のMCGに参加した後、SMは、マルチキャストグループに関連付けられている要求元のポートを含む、関連付けられたスパニングツリーを再生成する。さらに、更新されたMFT(新たに生成されたスパニングツリーによって更新される)は、要求元のポートのマルチキャストグループへの追加によって既存のMFTが廃止されたスイッチに送信することができる。したがって、パケットのDLIDフィールドに既存のマルチキャストグループのMLIDを有するマルチキャストパケットが送信されると、要求元のポートは関連するマルチキャストグループのメンバーとして認識され、マルチキャストパケットのコピーが要求元のポートに配信される。
図29は、一実施形態による、マルチキャストグループ(MCG)の作成および参加のためのフローチャートを示す。ステップ2910で、SMは新たなMCGを作成する要求を受信することができる。ステップ2930で、SMは、第1のエンドポートから新たなMCGに参加する要求を受信することができる。ステップ2940で、SMは、第1のエンドポートのLIDを新たなMCGのMGIDと関連付けることができる。ステップ2950で、SMは、新たなMCGにおける第1のエンドポートのメンバーシップに基づいてスパニングツリーおよびM29Tを生成することができる。ステップ2960で、SMは、第2のエンドポートから新たなMCGに参加する別の要求を受信することができる。ステップ2970で、SMは、第2のエンドポートのLIDを新たなMCGのMGIDと関連付けることができる。ステップ2980で、SMは新たなMCGにおける第2のエンドポートのメンバーシップに基づいてスパニングツリーおよびMFTを生成することができる。
図29からわかるように、エンドポートがMCGに参加するたびに、SMはMADを受信して処理し、関連付けを更新し、スパニングツリーを判断し、新たなMFTを判断する。これは、多くのエンドポートが参加要求を送信する大規模なサブネットでは、特にサブネットの初期化時に、SM/SAに対して多大なオーバーヘッドを生じる可能性がある。
マルチキャストグループの作成および参加に関する上記のプロセスからわかるように、マルチキャストグループに含まれることになるすべてのエンドポートは、マルチキャストグループに参加するために、SM/SAと対話する必要がある。さらに、新たなマスターSMがサブネットで選択されるたびに、どのエンドポートも、そのエンドポートがメンバーであるマルチキャストグループに再参加するという内在的な必要性があり、なぜならば、新たなSMが新たなMGIDをMLIDマッピングに割り当て得るからである。サブネット上のSR‐IOVベースの仮想マシン展開の場合、複数のvPortが各々同じタイプのSM/SA要求(例えば、マルチキャストグループ参加要求)を物理的なエンドポートとして実行することになるため、SM/SAが処理する必要がある要求トラフィックの量が増加する。
その結果、サブネットの管理要件がこれらの要件を処理するSMの能力を超えて拡大する場合、(物理エンドポートおよび仮想エンドポートの両方で)密集したサブネットで問題が発生する可能性がある。特に、能力の低いSM/SA実装例(たとえば、スイッチ管理インターフェイスに接続された低パフォーマンスプロセッサモジュールに基づく実装例)の場合、中程度のSA要求負荷でも、SMおよび全体としてシステムの両方について深刻なオーバーヘッドと効率の低下と遅延の増加とを引き起こし得る。
高速フェールオーバーと復旧とが重要な高可用性(HA)システムの場合、遅延は問題を表す。特に、1秒未満のフェールオーバー時間が必要な場合、(ノード間の物理的な接続が失われない限り、)ファブリックノードが通常の動作および他の動作可能なノードとの通信を中断なく継続することができることが重要である。したがって、すべてのノードがSM/SAと対話する必要なくユニキャストトラフィックとマルチキャストトラフィックとの両方に対して既存のアドレスおよびパス情報を引き続き用いることができること、およびSMがファブリック内の障害のあるリンク(またはスイッチ)のために再ルーティングまたは再初期化を実行する必要がある場合に接続性の中断のみが生ずることが、望ましい。
さらに、完全に機能するHCAを有するハイエンドサーバに基づくSM/SA実装例でも、SA通信に256バイトのMADを用いると、パフォーマンスおよびスケーラビリティが大幅に制限される。そのため、SA要求処理に対して最適なキャッシングおよび高性能ハードウェアを用いる場合でも、新たなマスターSMが選出されたときにマルチキャストメンバーシップを再登録(つまり、それに対する新たな参加要求を処理)する必要性は、動作可能なスイッチおよびリンクによって接続される動作可能なノード間の接続が中断する結果となり得る。
したがって、IBクライアントとSM/SAインフラストラクチャとの間の対話を最適化する必要がある。ローエンドの、スイッチが埋め込まれたSM/SA実装を伴う小規中規模のシステムでは、SA要求を処理したり、またはそうでなければIBクライアントと(つまり、ディスカバリをこえて)通信したりする必要性を回避しながら(つまり、SMAレベルでのディスカバリおよび初期化動作を越えて)、サブネットの高速ディスカバリおよび初期化が必要である。よりハイエンドのSM/SA実装を有するシステムの場合、最適なIB通信メカニズムを利用し、‐非常に大規模なクラスタドメインでも‐スケーラビリティを提供し、大規模なマルチキャストストームを防止する階層実現例を有する能力を提供もする方法で関連情報をSM/SA実装によってIBクライアントに配信するための処理が必要とされる。
マルチキャストグループの作成、参加、削除、および参加解除の管理に関する既存の技術プロセスの改善は、SM/SAのオーバーヘッドを克服し、SM/SA実装の効率を強化するのに役立ち得る。
MCGに対するデュアルMLID割り当て
上記のように、IBパーティションのコンテキストでマルチキャストグループを作成することができる。さらに、各パーティションメンバーは、制限付きメンバーまたは正規メンバーの2種類のうちの1つであることができる。ただし、マルチキャストグループメンバーシップを定義する場合、IB仕様では、正規パーティションメンバーと制限付きパーティションメンバーとを区別しない。したがって、MLIDごとにわずか1つのルート(たとえば、わずか1つのスパニングツリー)しか判断されないため、所与のポートがどのようなタイプのパーティションメンバーであるかに関係なく、判断されたルートは、マルチキャストグループの各メンバーポートにマルチキャストパケットを配信しなければならない。
MLIDごとに1つのルートという制限があると問題が発生する可能性があり、なぜならば、IB仕様によれば、制限付きパーティションメンバーは他の制限付きパーティションメンバーからパケットを受け入れない場合があるためである。したがって、制限付きパーティションメンバーがマルチキャストパケットを送信すると、マルチキャストパケットは、パーティションの制限付きメンバーでもあるパーティション内の各受信ポートについてP_Keyアクセス違反を表わす。このようなP_Keyアクセス違反は、SMに送信されるP_Key違反トラップの生成につながる可能性がある。
IB仕様は、ここで、マルチキャストパケットが1つの制限付きパーティションメンバーから別のパーティションメンバーに転送される結果であるP_Keyアクセス違反は、P_Keyアクセス違反として(トラップ経由でSMに)報告する必要がないことを反映するが、一方で、この現代的な機能を提供しないレガシー実装例の重要なセットが依然として存在する。さらに、リンク容量がマルチキャストパケット自体で浪費され、それは、宛先ポートに転送されるべくサブネットリソースを使用した後、宛先ポートでドロップされるだけとなる。
一実施形態によれば、P_Keyアクセス違反の上記の特別な処理の必要性を回避し、マルチキャストトラフィックに関して制限付きパーティションメンバー間の完全な分離を保証するために、2つのMLIDを単一のMCGに割り当てることができる。第1のMLIDは、正規パーティションメンバーから正規パーティションメンバーおよび制限付きパーティションメンバーの両方に送信するために、割り当てられ、エンドポートによって用いられる(ここでは「正規パーティションメンバーMLID」と呼ぶ)。さらに、第2のMLIDは、制限付きパーティションメンバーから正規パーティションメンバーに送信するために、割り当てられ、エンドポートによって用いられる(ここでは「制限付きパーティションメンバーMLID」と呼ぶ)。このスキームを用いると、制限付きパーティションメンバーは、MCG内の他の制限付きパーティションメンバーにマルチキャストパケットを送信することを回避することができる。
一実施形態によれば、SMは、マルチキャストグループのメンバーシップを要求したエンドポートにマルチキャストグループのMLIDを提供することを担う。エンドポートは、マルチキャストグループにマルチキャストパケットを送信するときに、SMによって提供されるMLIDを用いる。さらに、要求元のエンドポートは、エンドポートがSMに参加を要求しているマルチキャストグループに関連付けられるP_Keyを提供することができる。P_Keyは、MCG参加要求でSMに送信されるMCMemberRecord(MCメンバーレコード)の一部である。したがって、SMは、エンドポートの参加要求からンドポートが参加を要求しているMCGに関連付けられるP_Keyを判断することができる。SMは、どのエンドポートがどのパーティションのメンバーであるか、およびポートが関連するパーティションの制限付きメンバーであるかまたは正規メンバーであるかについて、それの独自のポリシー情報を維持することもできる。
SMは、エンドポートが参加を要求しているMCGに関連付けられるP_keyを判断すると、SMは、要求元のエンドポートが、それが参加を要求しているMCGに関連付けられるパーティションの正規メンバーであるかまたは制限付きメンバーであるかどうかを(判断されたP_Keyの上位ビットから)判断することができる。要求元のエンドポートがパーティションの正規メンバーであると判断された場合、SMは正規パーティションメンバーMLIDをエンドポートに提供することができる。要求元のエンドポートがパーティションの制限付きメンバーである場合、SMはエンドポートに制限付きパーティションメンバーMLIDを提供することができる。
リスティング1の擬似コードは、一実施形態による、エンドポートによるMLIDの要求(MCGへの参加要求など)に応答するためのアルゴリズムを示す。
Figure 0007105248000002
図30は、一実施形態による、エンドポートによるMLIDに対する要求(例えば、MCGへの参加の要求)に応答するためのフローチャートを示す。開始3002で、エンドポートから参加要求を受信する。ステップ3004で、要求元エンドポートのパーティションメンバータイプが判断される。判断3006で、参加要求が正規パーティションメンバーからのものかどうかが判断される。参加要求が正規パーティションメンバーからのものであると判断された場合、制御はステップ3010に進み、応答MLIDは、要求元のエンドポートが参加を要求したMCGグループに割り当てられる正規パーティションメンバーMLIDの値にセットされる。参加要求が正規パーティションメンバーからのものではないと判断された場合、制御はステップ3008に進み、応答MLIDは、要求元のエンドポートが参加を要求したMCGに割り当てられる制限付きパーティションメンバーMLIDの値にセットされる。ステップ3010または3008のいずれかから、制御はステップ3012に進み、応答MLIDは応答メッセージで要求元のエンドポートに送信される。
図30およびリスティング1に示すように、一実施形態によれば、SMは、MCGに関連付けられたパーティションについての要求元エンドノードのパーティションメンバーシップに基づいてMCGの正規パーティションメンバーMLIDまたは制限付きパーティションメンバーMLIDのいずれかをMCGのメンバーシップを要求したエンドポートに提供することができる。このプロセスはエンドノードに対して完全に透過的であり、要求元のエンドノードのSMAにおいてレガシーコードまたは属性を変更する必要はない。さらに、制限付きパーティションメンバーが正規MLIDを用いて他の制限付きメンバーにパケットを転送しようとすると、それは有効なP_Keyアクセス違反となり、そのように報告する必要がある。このような違反は、一般に、エンドノードがパケットを生成して任意の宛先LID‐任意のユニキャストDLIDまたはマルチキャストDLID(つまりMLID)を含む‐に送信した結果である。ただし、送信されたパケットは送信元ポートに対して有効なP_Key値しか表すことができず、送信P_Keyが宛先ポートに対して有効でない場合、パケットはP_Keyチェック後に破棄される。
一実施形態によれば、SMは、2つのMLID‐正規パーティションメンバーMLIDおよび制限付きパーティションメンバーMLID‐をMCGに割り当てることができる。さらに、SM/SAによって保存されるMCGレコードは、正規パーティションメンバーMLID、制限付きパーティションメンバーMLID、正規パーティションメンバーMLIDのスパニングツリールート、制限付きパーティションのスパニングツリールート、両方のMLIDのメンバーノードのリスト、MGID、関連するP_Keyなどのメタデータを含むことができる。
MCGの正規パーティションメンバーMLIDおよび制限付きパーティションメンバーMLIDの両方を正しくルーティングするために、SMは、正規パーティションメンバーMLID用に1つ、および制限付きパーティションメンバーMLID用に1つ、の2つのスパニングツリーを計算することができる。さらに、SMは、判断された各スパニングツリーごとにすべての影響を受けたスイッチに対する関連のMLIDについてMFTエントリの内容を判断し、更新されたMFTを任意の影響を受けたサブネットスイッチに転送することができる。
図31は、一実施形態による、サブネット3100内の制限付きパーティションメンバーMLIDについてスパニングツリーアルゴリズムを介して判断され得る例示的なマルチキャストパケットルートを示す。サブネット3100には、ノード3101~3108が含まれる。ノード3101~3108には、それぞれHCA3109~3116が含まれる。さらに、HCA 3109~3116は各々、ポート、すなわちポート3117~3124を含む。サブネット3100のすべてのポートは、パーティション3170のメンバーである。同様に、サブネット3100のすべてのポートはMCG3165のメンバーである。
サブネット3100では、マルチキャストグループ(MCG)3165はSM/SA3160によって定義される。デュアルMLIDがMCG3165に割り当てられている。正規パーティションメンバーMLID3172は、実線のブロック図形式で示される。制限付きパーティションメンバーMLID3174は、一点鎖線のブロック図形式で示される。ポート3118~3119ならびにポート3121および3123は、それらがSM/SA3160から制限付きパーティションメンバーMLID3174を受信したこと(およびしたがって、パーティション3170の制限付きメンバーであること)を示すために、一点鎖線で描かれている。さらに、ポート3117、3120、3122、および3124は実線で示されており、それらがSM/SA3160から正規パーティションメンバーMLID3172を受け取ったこと(したがって、パーティション3170の正規メンバーであること)を示す。
図31では、制限付きパーティションメンバーMLID3174のマルチキャストトラフィックの配信を処理するスパニングツリーに含まれるリンクが実線で示される。これは、パケットのDLIDとして制限付きパーティションメンバーMLIDを有するマルチキャストパケットの配信用に生成されたスパニングツリーがパーティションの正規メンバーにのみマルチキャストパケットを配信するからである。一実施形態によれば、SM/SA3160は、制限付きパーティションメンバーMLID3174のスパニングツリーを生成するときに、パーティション3170の各メンバー(MCG3165のメンバーでもある)を判断し、DLIDとして制限付きパーティションメンバーMLID3174を有するパケットをパーティション3170の判断された正規メンバーにのみ配信するスパニングツリーを判断することができる。このようにして、制限付きメンバーP_Keyを有するマルチキャストパケットは、パーティション3170の制限付きメンバーである他のポートに配信されない。したがって、P_Keyアクセス違反が引き起こされてSM/SAに送信されることはなく、リンクリソースは、最終的に配信ポートでドロップされるパケットで無駄にされない。
さらに図31を参照すると、制限付きパーティションメンバーMLID3174に対して判断されたスパニングツリーにリンク3142、3141、3143を含めることができる。さらに、それぞれエンドポート3117、3120、3122、および3124にサービスを提供するリンク3125、3128、3130、および3132も、制限付きパーティションメンバーMLID3174のスパニングツリーに含めることができる。したがって、制限付きパーティションメンバーMLID3174のスパニングツリーは、DLIDとして制限付きパーティションメンバーMLID3174を有するマルチキャストパケットが、MCG3165のメンバーおよびパーティション3170の正規メンバーの両方である各エンドポートにのみ配信されることを保証することができる。
たとえば、ポート3121がマルチキャストパケットをサブネットに注入すると、スイッチ3152がそれを受信する。次に、スイッチ3152は、マルチキャストパケットのコピーをスパニングツリーで指定された各リンクに転送することができる。したがって、スイッチ3152は、受信したマルチキャストパケットのコピーをリンク3142、3141、および3130に転送することができる。この場合では、ポート3122はリンク3130を介してマルチキャストパケットのコピーを受信し、スイッチ3150はリンク3142を介してコピーを受信し、スイッチ3151はリンク3141を介してコピーを受信する。ここから、スイッチ3150もリンク3142から受信したマルチキャストパケットのコピーをリンク3125に転送することができる(ただし、スパニングツリーの一部ではないため、リンク3126には転送できない)。このパターンは、すべての正規パーティションメンバーポートがマルチキャストパケットのコピーを受信するまで、サブネット全体を通してスパニングツリーをたどって続行することができる。
正規メンバーMLID3172のスパニングツリールートは、図31には示されてはいない。これは、サブネット3100のすべてのノードが(上記のとおり)MCG3165のメンバーおよびパーティション3170のメンバーであるため、一実施形態によれば、ルートにはすべてのポート3117~3124が含まれるであろうからである。そうではあるが、SM/SA3160は、各ポート3117~3124が正規メンバーMLID3172のスパニングツリーに含まれるであろうことを除いて、上記と同じ方法で正規メンバーMLID3172のスパニングツリーを生成することができる。
一実施形態によれば、SM/SA3160は、図31に示されるスパニングツリーに基づいて、影響を受ける各スイッチ3150~3153のMFTを生成することができる。生成されると、SM/SA3160はMFTをスイッチ3150~3153に送信して、それぞれのスイッチで実装することができる。さらに、正規メンバーMLID3172用に生成されたスパニングツリーのMFTを生成し、それぞれのスイッチによる実装のためにスイッチ3150~3153に送信することができる。これらのMFTのそれぞれのセットは、図17に関して上で説明したプロセスに従って生成することができる。
一実施形態によれば、エンドポートは、SMがデュアルMGIDをMCGに割り当てたことを認識することができる。SMがMCGにデュアルMLIDを割り当てたことをエンドポートが認識すると、エンドポートはデュアルMLID間の区別を行うことができる。このような認識により、エンドポートは、エンドポートが対応するパーティションの正規メンバーであっても、マルチキャストパケットを関連するMCG内の他の正規パーティションメンバーにのみ転送するために、限定付きパーティションメンバーMLIDを用いることができる。
追加のプロパティを、たとえばPortInfo属性に追加して、MCGに割り当てられたデュアルMLIDを、エンドポートが認識し、利用できるようにすることができる。一実施形態によれば、そのようなプロパティの1つは、エンドポートが正規メンバーMLIDと制限付きメンバーMLIDとの区別をサポートするかどうかを示すことができる。たとえば、PortInfo属性に「DualMLIDAllocation(デュアルMLID割り当て)」インジケータを追加することができる。DualMLIDAllocationインジケータは、たとえば、ビットとすることができ、ハイにセットされると、エンドポートが正規メンバーMLIDと制限付きメンバーMLIDとの区別をサポートすることを示す、とすることができる。DualMLIDAllocationインジケータは、デフォルトで偽にセットすることができる(たとえば、ビットをローに設定することができる)。サポートするHCAのSMAは、リンクアップ/初期化中にDualMLIDAllocationインジケータを真にセットすることができる。真にセットした場合(たとえば、ハイにセットした場合)、サポートするSMは関連付けられるSMAプロパティを更新することができる。
別のそのようなプロパティは、実施形態に従って、サブネット内のMCGにデュアルMLIDが割り当てられているかどうかを示すことができる。例示的なプロパティは、「DualMLIDAllocationInUse(デュアルMLID割り当て使用中)」インジケータである。DualMLIDAllocationInUseインジケータは、たとえば、ビットとすることができ、ビットをハイにセットすると、サポートするSMがサブネットにおいて定義されたマルチキャストグループにデュアルMLID(正規パーティションメンバー用に1つ、および制限付きパーティションメンバー用に1つ)を割り当てたことを示す、とすることができる。DualMLIDAllocationInUseインジケータは、デフォルトで偽にセットすることができる(たとえば、ビットをローにセットすることができる)。SMがサブネット内のMCGにデュアルMLIDを割り当てている場合、サポートするSMはDualMLIDAllocationInUseインジケータを真にセットすることができる。
一実施形態によれば、制限付きパーティションメンバーによる使用のための第2のMLIDの割り当ては、サブネットオーバーヘッドおよびトラフィックを低減するために、ある規則に従うことができる。たとえば、制限付きパーティションメンバーが用いる第2のMLIDは、正規パーティションメンバーが用いるために割り当てられたMLID値の(数値的に)後の次のMLID値として定義することができる。このようにして、サポートするエンドポートは、第2のMLIDの値を、SMから実際に受信することなく、判断することができる。
一実施形態によれば、たとえば、PortInfo属性のプロパティは、制限付きパーティションメンバーが使用する第2のMLIDの割り当てに関して、SMがある規則に従うことを示すことができる。例示的なインジケータは、「ConsecutiveDualMLIDs(連続デュアルMLID)」インジケータであることができる。インジケータ(例:ConsecutiveDualMLIDs)は、たとえば、ビットとすることができ、ビットをハイにセットすると、制限付きパーティションメンバーが用いる第2のMLIDが正規パーティションメンバーが用いるために割り当てられたMLID値の(数値的に)後の次のMLID値として定義されることを示す、とすることができる。ConsecutiveDualMLIDsインジケータは、デフォルトで偽にセットすることができる(たとえば、ビットをローにセットすることができる)。サポートするSMが、正規パーティションメンバーが用いるために割り当てられたMLID値の(数値的に)後の次のMLID値として制限付きパーティションメンバーが用いるために第2のMLIDを割り当てる場合、サポートSMはConsecutiveDualMLIDsインジケータを真にセットすることができる。
一実施形態によれば、サブネット内のMCGへのデュアルMLID割り当てを認識し、かつデュアルMLIDが割り当てられたMCGに関連付けられるパーティションの正規メンバーであるエンドポートは、SMへの参加要求で、SMから制限付きパーティションメンバーMLIDが返されることを要求することができる。SMは、エンドポートが、参加を要求しているMCGに関連付けられるパーティションの正規メンバーであることを確認することができ、SMによって、エンドポートがそのパーティションの正規メンバーであると判断された場合、SMは制限付きパーティションメンバーMLIDを要求元のエンドポートに返すことができる。この方法は、関連するMCGのメンバーでもある他の正規パーティションメンバーエンドポートにのみマルチキャストパケットを転送するために、正規パーティションメンバーエンドポートによって用いることができる。
一実施形態によれば、送信元エンドポートをメッセージで指定される(すなわち、メッセージで指定されたMGIDに関連付けられる)MCGに参加させること、および制限付きパーティションメンバーMLIDを要求元のエンドポートに返すことの両方を要求するメッセージタイプを定義することができる。このメッセージタイプには、(デフォルトの)正規パーティションメンバーMLIDではなく、制限付きパーティションメンバーMLIDが要求元のエンドポートに返されることを除き、通常の参加操作と同じパラメータを含めることができる。このメッセージタイプは、たとえば、MCMemberRecord属性のプロパティ(GetLimitedMLID (制限付きMGID取得)プロパティなど)として、または新たなSAメソッドとして実装することができる。
一実施形態によれば、MCGへのデュアルMLID割り当ての使用、構成、および/または管理をサポートするIB実装例は、MCGへのデュアルMLID割り当ての使用、構成、および/または管理(たとえば、上記のDualMLIDAllocationおよびDualMLIDAllocationInUse)で用いられるプロパティの状態変更イベントを含むことができる。さらに、MCGへのデュアルMLID割り当ての使用、構成、および/または管理をサポートするIB実装例には、MCGへのデュアルMLID割り当て(たとえば、上記のようなDualMLIDAllocation、およびDualMLIDAllocationInUse)の使用、構成、および/または管理で用いられるプロパティの値を照会するための動詞インターフェイスを含めることができる。
図32は、一実施形態による、デュアルMLIDがMCGに割り当てられた状態での使用のためにエンドポートを構成するためのフローチャートを示す。ステップ3202で、SMはデュアルMLIDをMCGに割り当てる。ステップ3204で、SMは、サブネットに接続されたエンドポートがMCGへのデュアルMLID割り当てをサポートするという指示を受信する。ステップ3206で、SMは、SMがデュアルMLIDをMCGに割り当てたことを示すインジケータをエンドポートに設定する。ステップ3208で、SMはMCGに参加するための要求をエンドポートから受信する。ステップ3210で、SMはMCGに割り当てられたデュアルMLIDの1つをエンドポートに提供する。ステップ3212で、この方法は終了することができる。
図33は、一実施形態による、マルチキャストグループごとにデュアルマルチキャストローカル識別子(MLID)を提供して、高性能コンピューティング環境において正規および制限付きパーティションメンバーの両方を容易にするフローチャートを示す。ステップ3310で、第1のマルチキャストローカル識別子および第2のマルチキャストローカル識別子が、サブネット内においてマルチキャストグループを定義するマルチキャストグローバル識別子に関連付けられる。ステップ3330で、マルチキャストグループのメンバーであり、サブネットで定義された第1のパーティションのメンバーである、サブネットにおけるある数のエンドポートが判断される。ステップ3340で、ある数のエンドポートのうち、パーティションの正規メンバーであるエンドポートからなる第1のサブセットが判断される。ステップ3350で、ある数のエンドポートのうち、パーティションの制限付きメンバーであるエンドポートからなる第2のサブセットが判断される。ステップ3360で、第1のマルチキャストローカル識別子は、ある数のエンドポートのうちの第1のサブセットの各エンドポートに関連付けられる。ステップ3370で、第2のマルチキャストローカル識別子は、ある数のエンドポートのうちの第2のサブセットの各エンドポートに関連付けられる。ステップ3380で、第1のマルチキャストローカル識別子を含むマルチキャストパケットを、マルチキャストグループのメンバーであり、サブネットにおいて定義される第1のパーティションのメンバーである、サブネットの、判断された数のエンドポートの各々に配信する、サブネットトポロジーを通る第1のルートが判断される。ステップ3390で、第2のマルチキャストローカル識別子を含むマルチキャストパケットを、ある数のエンドポートのうち、パーティションの正規メンバーである、判断された第1のサブセットの各エンドポートのみに配信する、サブネットトポロジーを通る第2のルートが判断される。
パーティションメンバーシップに関連して定義されるマルチキャストグループ(MCG)メンバーシップ
一実施形態によれば、特定のIBパーティションのメンバーであるすべてのエンドポートが特定のIBマルチキャストグループのすべてのメンバーでもあることは珍しくない。たとえば、上記のように、IPoIBブロードキャストグループは、IBパーティションのコンテキストで定義されたマルチキャストグループである。パーティションのメンバーである各エンドポートは、そのパーティションのコンテキストで定義されたブロードキャストグループのメンバーでもある。これにより、IPプロトコルを用いるレガシーアプリケーションは、IBサブネットを介してブロードキャストパケットを受信できる。
ただし、上記でさらに論じたように、ブロードキャストグループが対応するIBパーティションの各エンドポートメンバーは、ブロードキャスト(マルチキャスト)グループのメンバーになるために、SM/SAに参加要求を送信する必要がある。MCG参加要求に応答して、要求元エンドポートのLIDをブロードキャストグループのMGIDに関連付けることに加えて、SMは単一のスパニングツリーを再作成し(上記を参照)、影響を受ける任意のスイッチのMFTを再作成して送信する必要がある。この場合のオーバーヘッドおよび非効率性を回避するために、ある実施形態に従って、特定のパーティションのコンテキストで定義されるマルチキャストグループをそのように示すことができる。さらに、SMは、パーティションがこの態様でいつマルチキャストグループに関連付けられるかを判断することができ、次いで、パーティションの各メンバーからMCG参加要求を受信する必要なく、パーティションメンバーをマルチキャストグループに自動的に追加することができる。
一実施形態によれば、SMが新たなマルチキャストグループ(MCG)を作成する要求を受信すると、サブネットマネージャは要求を調べて、マルチキャストグループを定義するために必要な従来のパラメータ(例えば、IB仕様で指定されるパラメータ)を判断することができる。上記のように、P_Keyは、マルチキャストグループを定義するために要求に必要なパラメータの1つである。さらに、要求に含まれるP_Keyに対応するパーティションの各メンバーを新たなマルチキャストグループのメンバーとしても追加するかどうかを示すパラメータ(またはインジケータ)を要求に含めることができる(たとえば、「JoinAllPartitionMembers(すべてのパーティションメンバーを参加させる)」パラメータ)。SMは、指定されたパーティションの各エンドポートメンバーも新たなマルチキャストグループに追加されることをパラメータが示すと判断すると、SMは指定されたパーティションの各メンバーのLIDを新たなマルチキャストグループのMGIDに関連付けることができる。
この方法は、MCG作成要求で指定されたパーティションの各エンドポートメンバー(MCGが動的に作成される場合は作成エンドポートメンバーを除く)が、新たに作成されたMCGのSMに参加要求を伝達する必要性を取り除き、なぜならば、これらのパーティションメンバーは、MCG作成要求に含まれる追加パラメータの指示の結果として追加することができるからである。したがって、この方法は、クライアント/エンドポートとSM/SA実装例と間の通信を、特に、そのような通信の大部分が通常行われているファブリックの初期化の重要な時間中に、大幅に削減する。
さらに、この方法により、SM/SAが、各参加要求の後にスパニングツリーを生成し、MFTを更新して、各個々の参加要求の影響を受けるスイッチに送信する必要がなくなる。そうではなく、SMは、パーティションメンバーのすべてのLIDを新たに作成されたMCGのMGIDに関連付けることができる。次に、SMは、MCGに追加された各LIDを考慮に入れた単一のスパニングツリーを作成することができる。このスパニングツリーから、SMはMCGに追加されたすべてのLIDを説明するMFTのセットを生成し、このMFTのセットをサブネットスイッチに送信することができる。その結果、SMの作業負荷を、初期化中およびその他のときに大幅に低減することができる。
図34は、一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供するためのフローチャートを示す。ステップ3410で、サブネットのサブネットマネージャは、マルチキャストグループを作成する要求を受信し、要求はインジケータを含み、インジケータは、サブネットで定義されたパーティションの各メンバーがマルチキャストグループに関連付けられることを示す。ステップ3420で、サブネットマネージャは、サブネットで定義されたパーティションのメンバーである、ある数の追加のエンドポートを判断する。ステップ3430で、サブネットマネージャは、パーティションのメンバーである、ある数の追加のエンドポートを、マルチキャストグループを定義する識別子に関連付ける。ステップ3440で、サブネットマネージャは、マルチキャストグループを定義する識別子を含むマルチキャストパケットを、マルチキャストグループを定義する識別子に関連付けられた各エンドポートに配信するためのルートを定義する。
図35は、一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供する方法のフローチャートを示す。より具体的には、図35は、マルチキャストルーティングを設定し、対応するパーティションの各メンバーを作成されたマルチキャストグループに追加すべきであることを示すマルチキャストグループ作成要求に基づいてマルチキャスト転送テーブルを更新するフローチャートを示す。
図35を参照すると、ステップ3505で、すべてのパーティションメンバーが関連のMCGのメンバーであるべきであることを示すMCG参加要求またはMCG作成命令を受信することができる。判断ステップ3510で、要求がMCGに関する最初の要求であるかどうかを判断することができる。MCGに関して最初の要求ではないと判断された場合、ステップ3515で、要求が関連するMCGに参加するための参加要求であるかどうかをさらに判断することができる。要求が参加要求であると判断された場合、ステップ3520で、MCGレコードを、更新されたMLIDとともに返すことができる。ただし、ステップ3510で、要求がMCGに関する最初の要求であると判断された場合、制御はステップ3525に進むことができる。ステップ3525で、MCGに対してMLIDを割り当てることができる。次に、ステップ3530で、キャッシュされたトポロジー情報から関連するすべてのパーティションメンバーを取得することができる。ステップ3535で、すべてのパーティションメンバーエンドノードを含むスパニングツリーを生成することができる。ステップ3540で、影響を受けるスイッチのMFTを更新してスパニングツリーを反映することができ、更新されたMFTをそれらのそれぞれのスイッチに送信することができる。
表1は、対応するパーティションの各メンバーも新たに作成されたマルチキャストグループのメンバーとして追加する必要があるかどうかを示すために SM/SAによって使用されるパラメータを含むマルチキャストグループを作成するための例示的なサブネット管理属性(MCMemberRecord属性など)を示す。表1の属性には、新しいMCGを作成するためにIB仕様で指定された従来のパラメータが含まれる。表1で指定された属性には、さらに、対応するパーティションの各メンバーを作成されたマルチキャストグループのメンバーとしても追加する必要があるかどうかを示すJoinAllPartitionMembers(すべてのパーティションのメンバー参加)パラメータまたはインジケータが含まれる。対応するパーティションは、属性で指定されたパーティションとすることができる。
Figure 0007105248000003
一実施形態によれば、表1の属性などの属性(属性は、新たなMCGを作成するための管理要求または動的要求のいずれかに含まれる)を受信すると、SM/SAのロジックは、JoinAllPartitionMembersパラメータの値を判断することができる。SMは、判断されたJoinAllPartitionMembersパラメータの値に基づいて、対応するパーティションの各メンバーを新たなMCGグループに追加するべきであると判断することができる。つまり、パーティションの各エンドポートメンバーのLIDは、新たなMCGを定義するMGIDに関連付ける必要がある。これらの関連付けは、SAデータストアなどに保存することができる。
たとえば、SMは新たなマルチキャストグループの作成を要求するMADを受信することができる。MADは、IB仕様で定義されているサブネット管理クラスによって提供されるSubnAdmSet()メソッドを指定することができる。MADは、MCMemberRecord属性をさらに指定することができ、上記のパラメータ(MGID、P_Key、Q_KEYなど)を指定することができる。さらに、MCMemberRecord属性にはJoinAllPartitionMembersパラメータを含めることができる。一実施形態によれば、JoinAllPartitionMembersパラメータは単一ビットとすることができる。
JoinAllPartitionMembersパラメータを有するMCMemberRecord属性を含むMADを受信すると、SM/SAはJoinAllPartitionMembersパラメータの値を判断することができる。たとえば、JoinAllPartitionMembersパラメータビットを1にセットして、MCMemberRecordのP_Keyパラメータで指定されたパーティションの各メンバーが新たなMCGグループに参加するべきであることを示してもよい。JoinAllPartitionMembersパラメータビットが1(または設計に応じて0)にセットされていると判断すると、サブネットマネージャのロジックは、MCMemberRecord属性で指定されたP_Keyで表されるパーティションのすべてのメンバーを新たに作成されたMCGに追加することができる。
図36は、一実施形態による、高性能コンピューティング環境においてパーティションメンバーシップに関して定義されたマルチキャストグループメンバーシップを提供する方法のフローチャートを示す。ステップ3600で、パーティションAなどのパーティションのメンバーである、あるエンドノードは、MCG AなどのMCGに参加するマルチキャストグループ(MCG)参加要求を開始することができる。ステップ3605で、サブネットマネージャはMCG参加要求を受信することができる。示された方法では、参加要求が向けられたMCGにはすでにサブネット内においてマルチキャストローカル識別子(MLID)が割り当てられている。ステップ3610で、(たとえば、エンドノードがサブネットへの新規追加であり、MCG Aへの追加を要求している場合)SMマネージャはパーティションAの他のメンバーがすでにMCG Aのメンバーでもあるかどうかを判断することができる。そのような場合、MCG参加要求は通常通りに処理され(3615)、この方法は終了する。ただし、パーティションAの他のメンバー(一部またはすべてのメンバー)がMCG Aのメンバーではない場合、SMは、ステップ3620で、SMが最初のエンドノードから受信したMCG参加要求にのみ基づいて、パーティションAの他のすべてのメンバーをMCG Aに自動的に追加することができる。パーティションAの他のメンバーがMCG Aに追加されると、SMは3625でMCG AのMLIDを更新して、MCG A宛てのMCパケットの宛先としてパーティションAの他のメンバーを含めることができる。この方法は3630で終了することができる。
SMA属性としてのパーティションごとのデフォルトMLID値
一実施形態によれば、上述のように、複数のMCGが同じMLIDを共有することが可能である。つまり、(マルチキャストグループを定義する)複数のMGIDを1つの同じMLIDに関連付けることができる。さらに、マルチキャストパケットルーティングはマルチキャストパケットのDLIDとして指定されるMLIDに基づいているため、同じMLIDを共有するMCGは、サブネットを介するそれぞれのマルチキャストパケットの同じルーティングを共有する。したがって、サブネットマネージャは、パーティションごとに専用のMLIDを割り当てることができ、パーティションには、パーティションのコンテキストで1つ以上のMCGが定義される。パーティションに関連付けられた、またはパーティションのコンテキストで定義されたすべてのMCGは、同じMLIDを共有することができる。これにより、サブネット内のLIDの数を増やすことができ、なぜならば、有限数のLIDのうち、より少ないLIDがマルチキャストグループに用いられるからである。これにより、サブネットのSMは単一のスパニングツリーを作成し、同じパーティションに関連付けられた複数のMCGに対して単一のMFTセットを作成できるため、SM/SAオーバーヘッドが低減される。
一実施形態によれば、SMポリシーは、パーティションに対してデフォルトMLIDが定義されることを指定することができる。このポリシーは、サブネット内の各パーティションにデフォルトのMLIDを割り当てること、またはマルチキャスト通信用に定義されたパーティション(つまり、MCGがコンテキストに定義されているパーティション)にのみデフォルトのMLIDを割り当てることを指定することができる。さらに、関連するパーティションのエンドポートメンバーに、関連するパーティションにおけるエンドポートのメンバーシップによって、デフォルトのMLIDを知らせることができる。
一実施形態によれば、デフォルトのMLID値は、サブネットの初期化中にSMが各ポートに配信するP_Keyテーブルコンテンツに関連するメタデータとして提供され得る。このようにして、特定のパーティションのエンドポートメンバーに対して、エンドポートが特定のパーティションのメンバーである限り、特定のパーティションのコンテキストにおいて設定されている任意のMCGのMLIDを、認識させることができる。したがって、エンドポートは、事前にエンドポートがメンバーであるMCGグループのMLIDを学習することができるため、SMによって処理されるMCG参加要求の送信を回避することができる。
デフォルト(つまり、「パーティション固有」)MLIDが、パーティションに関連付けられた1つ以上のMCGに割り当てられる場合、一実施形態によれば、パーティション固有のMLIDは、エンドポートのP_Keyテーブルに配置される各P_Keyとともに、SMA属性としてエンドポートに提供することができる。P_Keyテーブルの情報は、P_KeyテーブルのエントリとデフォルトのMLIDテーブルのエントリとの間に関連付けまたは関係を含めることにより、論理的に拡張することができる。
P_Keyテーブルのサイズは、IB仕様に従って、サブネットの各ノード(たとえば、各HCA)によって実装されるNodeInfo(ノード情報)属性のPartitionCap(パーティションキャップ)コンポーネントによって指定することができる。P_Keyテーブルのサイズは一般にベンダー固有であるが、PartitionCapコンポーネントは各ノードについて少なくとも1の値にセットされて、P_Keyテーブルが少なくとも1つの16ビットP_Keyを格納することができることを示し、なぜならば、各エンドポートは、少なくともデフォルトパーティションのメンバーであるからである。ただし、より大きなP_Keyテーブルが一般的である。一実施形態によれば、従来のP_Keyテーブルは、配列の要素の数がノードのPartitionCapコンポーネントで指定された数に等しい配列を含むことができる。
一実施形態によれば、HCAは、エンドポートがメンバーである任意のパーティションのパーティション固有のMLID(割り当てられている場合)を含むデフォルトのMLIDテーブルを格納するように構成することができる。エンドポートのデフォルトのMLIDテーブルは、P_Keyテーブルの各エントリがデフォルトのMLIDテーブルのエントリにマッピングされるように、エンドポートのP_Keyテーブルに関連付けることができる。
例えば、P_Keyテーブルが配列である実施形態では、デフォルトのMLIDテーブルも配列であり得る。デフォルトのMLIDテーブル配列は、P_Keyテーブル配列と同じ数の要素を有することができる。さらに、P_Keyテーブル配列の所与の要素のインデックス値は、P_Keyテーブル配列の所与の要素に保持されるP_Keyによって表されるパーティションに対して割り当てられるデフォルトのMLIDを保持するデフォルトのMLIDテーブル配列の要素のインデックス値と等しくすることができる。つまり、P_KeyテーブルおよびデフォルトのMLIDテーブルは並列配列にすることができる。この方法では、P_Keyテーブルの各要素をデフォルトのMLIDテーブルの要素に直接マッピングすることができ、エンドポートノードは、P_KeyテーブルからデフォルトのMLIDテーブルへのマッピングを用いて、(存在する場合には)パーティションに割り当てられるデフォルトMLIDを判断することができる。
リスティング2は、一実施形態による、例示的な並列配列としてP_KeyテーブルおよびデフォルトのMLIDテーブルを表す。リスティング2に見られるように、P_KeyテーブルはデフォルトのMLIDテーブル配列と並列な配列であるため、P_Key配列要素NのP_Keyの場合、そのP_Keyに関連付けられるデフォルトのMLIDはデフォルトのMLID配列要素Nに見出されることになる。
Figure 0007105248000004
P_KeyテーブルからデフォルトのMLIDテーブルへのマッピングの他の例示的な実施形態は、例えば、プライマリキーおよび外部キーならびに/またはマッピングテーブルを利用するリレーショナルデータベース構造を含み、P_keyテーブルにおけるP_KeyとデフォルトのMLIDテーブルにおけるそれの割り当てられたデフォルトMLIDとの間の関係を形成する。さらに別の実施形態では、記述されるマッピング関係をパーティションキーとデフォルトMLIDとの間に形成するために、2次元配列(または、デュアルデフォルトMLIDがパーティションに割り当てられる場合は多次元配列)を用いることができる。さらに他の実施形態は、コンマ区切り値などのファイルアーキテクチャを含むことができる。適切なマッピング手法を用いて、記述される関係をパーティションのP_Keyとパーティションに割り当てられたデフォルトのMLIDの間に形成することができる。
(上記で詳細に説明したように)デフォルトパーティション固有のデュアルMLIDがMCGに割り当てられている場合、2つの独立した値がデフォルトのMLIDテーブルで表され、‐1つの値は、正規パーティションメンバーシップを有するMCGメンバーに割り当てられるMLIDに対してであり、1つの値は、限定付きパーティションメンバーシップを有するMCGメンバーに割り当てられるMLIDに対してである。代替的に、デフォルトのMLIDテーブルで、対応する値(正規のまたは制限付きメンバーMLID値)を簡単に導出できるように定義された規則を用いて、単一の値を表すことができる。たとえば、正規パーティションメンバーシップを有するMCGメンバーに割り当てられたMLIDがデフォルトのMLIDテーブルで表される場合、その規則は、正規パーティションメンバーシップを有するMCGメンバーに割り当てられたMLIDは、正規メンバーシップMLIDのそれ+1(つまり、正規パーティションメンバーMLID+1=制限付きパーティションメンバーMLID)であることを明記し得る。したがって、デュアルMLIDの1つを、エンドポートに明示的に知られるようにしたり、通信したりする必要はない。
一実施形態によれば、パーティションにデフォルトMLIDが割り当てられていない場合、そのパーティションを表すP_Keyを保持するP_Keyテーブル内の要素は、(P_Keyテーブルを収容するノードによって)既知の値にマッピングされて、そのパーティションにはデフォルトのMLIDは割り当てられていないことを示すことができる。たとえば、特定のパーティションにデフォルトのMLIDが割り当てられていない場合、特定のパーティションのP_Keyを保持するパーティションテーブルの要素にマッピングされるデフォルトのMLIDテーブルの要素は、ゼロ(0)の値を格納することができ、0の値は、対応するパーティションにデフォルトのMLIDが割り当てられていないことを示す。
一実施形態によれば、IBコンポーネントは、ノードのエンドポートのデフォルトのMLIDテーブルをサポートすることができる。たとえば、HCAはデフォルトのMLIDテーブルを含むことができるだけでなく、その構成および使用を属性を通してサポートすることもできる。さらに、サブネットマネージャはノードと連携して、このような属性の使用を通してデフォルトのMLIDテーブルの構成および管理をサポートすることもできる。
そのような属性の1つは、ノード(HCAなど)がデフォルトのMLIDテーブルをサポートすることを示すフラグまたはインジケータである。このようなインジケータは、「偽」のデフォルト値を有することができる。たとえば、デフォルトのMLIDテーブルの使用/構成/管理をサポートするSMは、デフォルトのMLIDテーブルサポート属性(たとえば、「HasDefaultMLIDsTable(デフォルトのMLIDテーブルを有する)」属性)を「偽」にセットすることができる。したがって、SMが、デフォルトのMLIDテーブルをサポートしないHCAを発見した場合、SMは、サポートされていない、またはそのサポートしていないHCAにおいて含まれていないデフォルトのMLIDテーブルを構成しようとしてそのサポートしていないHCAにサポートのない属性修飾子を送信しない。
初期化中に、SMはサブネットに接続されたHCAを発見し、発見されたHCAに構成情報を送信することができる。HCAは、サポートされているHCAの機能について、SMと通信したり、SMからの要求に応答したりすることもできる。一実施形態によれば、発見されたHCAがデフォルトのMLIDテーブルをサポートすることを明示的に通信しないとき、SMは、例えば、HasDefaultMLIDsTable属性のデフォルト設定を偽として単純に残すことができる。逆に、HCAがデフォルトのMLIDテーブルをサポートする場合、サポートするHCAは初期化SMへの通信で属性を「真」にセットすることができる。このような通信は、SMへの直接通信、または情報の要求に対する応答(SubnGet() SMPなどであり、応答はSMに戻るSubnGetResp() SMPの形式である)とすることができる。
ノードのエンドポートがデフォルトのMLIDテーブルをサポートする旨をノードが(サポートしている)SMに通信すると、SMはエンドポートのデフォルトのMLIDテーブルを設定することができる。SMは、デフォルトのMLIDのレコードを維持することができる。デフォルトのMLIDの各々は、それぞれのパーティションに関連付けることができる。これらのMLIDは、サブネットポリシーによって、それらのそれぞれのパーティションに関連付けられ得る(つまり、それらのそれぞれのパーティションのデフォルトMLIDとして割り当てられ得る)。サブネットマネージャは、サポートするエンドポートがどのパーティションのメンバーであるかを判断し、エンドポートのP_Keyテーブルを更新し、更新されたP_Keyテーブルに基づいてデフォルトのMLIDテーブルを更新することができる。
一実施形態によれば、エンドポートとともに用いるためのデフォルトのMLIDテーブルをサポートするHCAは、デフォルトのMLIDテーブルが使用中であるかどうかを示す属性を含むことができる。たとえば、デフォルトのMLIDテーブルを含み、その使用をサポートするHCAは、DefaultMLIDTableInUse(デフォルトのMLIDテーブル使用中)属性を含むこともできる。SMが、サポートするエンドポートのMLIDテーブルを更新すると、この属性は、SMによって「真」にセットされることができる。IBクライアントは、この属性を用いて、クライアントに関連するMLID値を、サポートするエンドポートのデフォルトのMLIDテーブルから学習/取得することができるかどうかを判断することができる。
一実施形態によれば、以下のリスティング3に示される擬似コードは、エンドポートのパーティションテーブルに従ってエンドポートのデフォルトのMLIDテーブルを更新する方法を示す。
Figure 0007105248000005
図37は、一実施形態による、エンドポートのパーティションテーブルに従ってエンドポートのデフォルトのMLIDテーブルを更新する方法のフローチャートである。図37を参照して、(およびリスティング3の擬似コードに反映されるように、)エンドポートのP_Keyテーブルを更新する際、SMは、最初に、エンドポートがデフォルトのMLIDテーブルをサポートするかどうかの判断を、そのように示す属性(例えば、HasDefaultMLIDsTable属性)を確認することにより行なうことができる。エンドポートがデフォルトのMLIDテーブルをサポートしていない場合(例:エンドポートのHasDefaultMLIDsTable属性が偽の場合)、SMは、エンドポートのパーティションテーブルを更新する必要がある場合には、エンドポートのパーティションテーブルを更新し続けることができる。ただし、エンドポートがデフォルトのMLIDテーブルをサポートする(したがって、含む)場合(たとえば、エンドポートのHasDefaultMLIDsTable属性が真の場合)、SMは、エンドポートのデフォルトのMLIDテーブルが使用中であるかどうか示すエンドポートの属性の値を確認することができる。
引き続き図37を参照し、エンドポートのデフォルトのMLIDテーブルが使用中であるかどうかを示すエンドポートの属性(たとえば、エンドポートのDefaultMLIDTableInUse属性)が真にセットされている場合、およびエンドポートのパーティションテーブルの更新が必要な場合、SMはこの属性を真にセットされるままにし、エンドポートのデフォルトのMLIDテーブルをクリアし、エンドポートのパーティションテーブルを更新してから、エンドポートの更新されたパーティションテーブルに基づいてエンドポートのデフォルトのMLIDテーブルを更新することができる。
逆に、エンドポートのデフォルトのMLIDテーブルが使用中であるかどうかを示すエンドポートの属性(たとえば、エンドポートの DefaultMLIDTableInUse属性)が偽にセットされている場合、SMは、エンドポートのデフォルトのMLIDテーブルをクリアして、この属性を真にセットすることができる。次いで、エンドポートのパーティションテーブルが更新を必要とする場合、SMはパーティションテーブルを更新することができる。最後に、SMは、更新されたエンドポートのパーティションテーブルに基づいて、エンドポートのデフォルトのMLIDテーブルを更新することができる。
図38は、一実施形態による、IBクライアントにより、サポートするエンドポートのデフォルトのMLIDテーブルからデフォルトのMLID値を判断するための方法のフローチャートである。図38を参照すると、サポートするエンドポートのデフォルトのMLIDテーブルからデフォルトのMLIDを取得/学習する際に、IBクライアントはまず、関連するローカルエンドポートのP_Keyテーブルの内容が変更または更新されたかどうかを判断することができる。これは、たとえば、IBクライアントが認識しているローカルポートイベントによって判断することができる。ローカルエンドポートのP_Keyテーブルの内容に変更があると判断されると、P_Keyテーブルの内容をローカルキャッシュにコピーすることができる。IBクライアントは、ローカルエンドポートがデフォルトのMLIDテーブルをサポートしていること(例:エンドポートのHasDefaultMLIDsTable属性が真であること)およびMLIDテーブルが使用中であること(例:エンドポートのDefaultMLIDTableInUse属性が真であること)をチェックすることができる。両方の属性が真にセットされている場合、エンドポートのP_Keyテーブル内の各有効なエントリについて、IBクライアントは、エンドポートのデフォルトのMLIDテーブル内の対応するエントリがデフォルトのMLIDを示すまで(たとえば、エントリが非零になるまで)待機し、次いで、MLIDテーブルの内容をローカルキャッシュにコピーすることができる。
実施形態に従って、以下のリスティング4に示す疑似コードは、IBクライアントが、サポートしているエンドポートのデフォルトのMLIDテーブルからデフォルトのMLID値を判断する方法を示す。
Figure 0007105248000006
一実施形態によれば、デフォルトのMLIDテーブルの使用、構成、および/または管理をサポートするIB実装例は、デフォルトのMLIDテーブルの使用、構成、および/または管理で用いられる属性(例えば、上記の属性)についての状態変更イベントを含むことができる。さらに、デフォルトのMLIDテーブルの使用、構成、および/または管理をサポートするIB実装例は、デフォルトのMLIDテーブルの使用、構成、および/または管理で用いられる属性(たとえば、上記の属性)の値を問い合わせるための動詞インターフェイスを含むことができる。
図39は、一実施形態による、高性能コンピューティング環境において追加のサブネット管理エージェント(SMA)属性としてパーティションごとにデフォルトのマルチキャストローカル識別子(MLID)値を提供する方法のフローチャートを示す。ステップ3900で、パーティションキーを格納するためのテーブルがサブネットのノードに提供され、パーティションキーはサブネットのパーティションを定義する。ステップ3910で、マルチキャストローカル識別子を格納するためのテーブルがサブネットのノードに提供される。ステップ3920で、パーティションキーを格納するためのテーブルの要素とマルチキャストローカル識別子を格納するためのテーブルの要素との関係が構成され、この関係は、パーティションキーを格納するためのテーブルの要素を、マルチキャストローカル識別子を格納するためのテーブルの要素にマッピングする。ステップ3930で、サブネットのサブネットマネージャへの通信がノードから送信され、この通信は、ノードがマルチキャストローカル識別子を格納するためのテーブルをサポートすることを示す。ステップ3940で、パーティションキーがノードで受信される。ステップ3950で、マルチキャストローカル識別子がノードで受信される。ステップ3960で、パーティションキーは、パーティションキーを格納するためのテーブルに格納される。ステップ3970で、マルチキャストローカル識別子は、マルチキャストローカル識別子を格納するためのテーブルに格納される。ステップ3980で、パーティションキーを格納するためのテーブルの要素とマルチキャストローカル識別子を格納するためのテーブルの要素との間の関係を用いて、マルチキャストローカル識別子を格納するためのテーブルからマルチキャストローカル識別子を検索する。ステップ3990で、ノードのマルチキャストグループレコード内のマルチキャストローカル識別子フィールドに、マルチキャストローカル識別子を格納するためのテーブルから検索されたマルチキャストローカル識別子がポピュレートされる。
エンドポートによるMLIDのダイナミックディスカバリ
IB仕様によれば、IBマルチキャストメッセージを受信するには、QPをマルチキャストグループにアタッチする(つまり、マルチキャストグループを表すMGIDに関連付ける)必要がある。QPは、IB動詞を用いてマルチキャストグループに対してアタッチまたはデタッチされる。IB動詞は、セマンティクスのセットを含むサービスインターフェイスであり、HCAの必要な動作を、HCAが提供するI/Oサービスの消費者(IBクライアント)に公開する。動詞は、作業要求をHCAに提出し、完了ステータスを返すための特定のキューイングモデルに基づいてHCAとIBクライアントの間で行われる操作を記述する。動詞は、チャネルアダプタの構成および管理、キューペアの割り当て(作成および破棄)、QP操作の構成、QPへの作業要求のポスティング、完了キューからの完了ステータスの取得に必要なパラメータを記述する。
IBクライアントが、それが参加したいMCGのMGIDを知っていることが、IB仕様の要件である。従来の参加要求では、IBクライアントに関連付けられたエンドポートは既知のMGIDをSMに渡し、SMはエンドポートを参加させるMCGを認識する。さらに、上記のように、IBマルチキャストメッセージを受信するために、QPをマルチキャストグループにアタッチする(つまり、マルチキャストグループを表すMGIDに関連付ける)必要がある。したがって、一実施形態によれば、HCAは、参加要求をSMに送信することなく、ローカルQPを関連するマルチキャストグループ(MCG)のMGIDと関連付けるIBクライアントをサポートすることができる。したがって、このようなサポートするHCAのエンドポートは、SMに、パケットの受信元であるMCGにおいてメンバーシップを要求する参加要求を送信することなく、MCGのマルチキャストパケットを受信し始めることができる。
図40は、一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージにおいてマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートを示す。ステップ4000で、ローカルの信頼できないデータグラム(UD)QPをMCGのMGIDに関連付けることができる。ステップ4005で、MCGからのマルチキャストパケットをULPで受信することができる。ステップ4010で、ULPは、マルチキャストパケットからMCGのMLIDを判断することができる。ステップ4015で、ULPは、MCGのMLIDを別のUD QPに関連付けることができる。ステップ4020で、ローカルMCGアドレスキャッシュを更新して、MLIDとMCG/MGIDとの関連付けを反映することができる。
一実施形態によれば、HCAは、MLIDが知られていない状態でMGID(すなわち、MCG)とのQP関連付けをサポートするかどうかを判断するために評価することができるクエリパラメータをサポートすることができる。例えば、「NoMLIDRequiredForQPMCGAttach(QPMCGアタッチのためにMLIDを必要としない)」パラメータが、サポートするHCAにおいて照会可能パラメータとして含まれてもよい。このようなパラメータのデフォルト値は「偽」である。HCAインターフェイスプロバイダは、HCA実装例がQP対MCG関連付け操作中にMLID(例:MLIDパラメータにおける0の値など)をサポートする場合、パラメータを「真」にセットすることができる。そのようなパラメータは、IBクライアントによって照会されて、QP対MCG関連付け操作中に、HCAが未知のMLID(例:MLIDパラメータにおける0の値)をサポートするかどうかを判断してもよい。パラメータの照会のため、および未知のMLIDでのQP対MCG関連付けのために、インターフェイスプロバイダによって、適切な動詞を提供することもできる。
一実施形態によれば、リスティング5は、照会されたHCAがQP対MCG関連付け操作中に未知のMLIDをサポートするかどうかに応じて、QPをMCGに関連付けるための例示的な擬似コードを示す。
Figure 0007105248000007
図41は、一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージ上においてマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートである。より具体的には、この図は、MLIDの有無にかかわらずMCGとのローカルQP関連付けを判断するためのフローチャートを示す。
この方法は、ステップ4105でローカルQPを作成することから開始することができる。QPをMCGに、MLIDが指定されない状態でアタッチすることができる旨を、ローカルHCA情報が示す場合(ステップ4110)、ステップ4115で、関連するMGIDを指定する操作を介してQPをMCGにアタッチすることができるが、MLID=0である。そうでない場合、ステップ4125で、関連するMCGに参加し、関連するMLIDで応答を取得する、従来のSA要求を実行することができる。次に、ステップ4130で、関連のMGIDおよびSAから応答で受信されるMLID値を指定する、QPをMCGにアタッチする操作を実行することができる。
エンドポートからのMCGへの参加要求により、通常、マルチキャストパケット配信の2つの必要な側面が確実に実行される。まず、正常な参加要求は、SMが、要求元エンドポートを、要求元エンドポートが参加を要求したMCGのマルチキャストルートに組み込むことを含む。次に、1つ以上のQPが、エンドポートが参加を要求したMCGのMGIDに関連付けられる。上述のように、第2の局面を実行するための情報は、例えば、IBクライアントまたはULPに既知であるので、第2の局面は、エンドポートがSMに参加要求を送信することなく実行することができる。さらに、これも前述のように、SMは管理/サブネットポリシーの問題として、またはMCGの「作成参加」操作の副作用として、MCGのマルチキャストルートに適切なエンドポートを暗黙的に組み込むことができ、‐たとえば、関連するエンドポートは、前述のように、パーティションメンバーシップに関連して定義されたMCGメンバーシップのプロダクトとして、MCGのスパニングツリールートに含めることができる。したがって、一実施形態によれば、エンドノードが従来の参加要求をSMに送信することなく、マルチキャストパケットをエンドノードで受信することができる。
ただし、マルチキャストパケットを送信するには、エンドポートはMCGに関連付けられたMLIDを知っている必要がある。IB仕様では、MCGに参加するためにエンドノードがMCGのMLIDを認識する必要はなく、なぜならば、従来、MLIDは、SMによって、エンドポートに、SMが参加要求に応答してエンドポートに返すMCMemberRecord属性において提供されるためである。ただし、エンドポートがMCGのマルチキャストルートに組み込まれ、QPが同じMCGのMGIDに関連付けられている、と想定できる場合、エンドポートには、従来の参加要求の送信およびそれに対する応答の受信を超えてMCGのMLIDを学習する、他のオプションがある。
一実施形態によれば、IBクライアント/ULPは、IBクライアント/ULPに関連付けられたエンドポートで受信されたマルチキャストパケットのMLIDフィールドを検査することからMCGのMLIDを学習することができる。各マルチキャストパケットには、パケットが関連付けられているMCGのMGIDも含まれる。したがって、IBクライアント/ULPは、受信したマルチキャストパケットに含まれるMGIDを判断し、MLID(つまり、受信したマルチキャストパケットのDLID)を検査し、検出されたMLIDを、受信したパケットから判断されるMGIDによって表されるMCGのMLIDとして保存する。したがって、IBクライアント/ULPは、従来のMCG参加要求を送信およびそれに対する応答を受信することなく、MCGのMLIDを動的に学習することができる。
MGIDを判断し、マルチキャストパケットのMLIDフィールドを検査して、MCGのMLIDを学習する際の課題の1つは、関連するMGIDを含む最初のマルチキャストパケットが送信されなければならないことである。一実施形態によれば、作成/参加操作を実行するエンドポートによって動的に作成されるMCGに関して、作成するエンドポートに関連付けられるIBクライアント/ULPは、最初のマルチキャストパケット(例えば、無償ARP)を送信するように構成することができる。MCGメンバーエンドポートは、この配信されたパケットで検査を実行することができる。
ただし、SMが作成したMCGの場合、マルチキャストグループの作成後に最初のマルチキャストパケットを送信することを担う、作成するMCGメンバーエンドポートはない。一実施形態によれば、そのような場合、SM/SA(または関連する特別なサービス‐例えば、SMと協調して実行するデーモン)は、最初のマルチキャストパケットの生成を担い得る。ただし、MCGについて最初のマルチキャストパケットを生成する場合、SM(またはデーモン)は、パケットが生成されるべきマルチキャストパケットプロトコルを認識しなくてもよい。一実施形態によれば、任意のMCGメンバーエンドポートに配信され、ULP/IBクライアントによって一様に処理されることができる汎用マルチキャストパケットタイプを定義する規則が、最初のマルチキャストパケットを送信する際に、SMによって使用されることができる。このような規則に従って、関連するIBクライアント/ULPは、この規則に準拠するマルチキャストパケットを、パケットに含まれるMLIDおよびパケットに含まれるその他のMLID関連情報の検査/学習を除き、無視することができる。
実施形態によれば、関連するMLIDおよびMGID(すべてのマルチキャストパケットにデフォルトで含まれる)に加えて、最初のマルチキャストパケットは、含まれるMLIDがパーティション固有のMLID(つまり、上記のように、関連するパーティションのコンテキストにおいて作成されるすべてのMCGに対するデフォルトMLID)であるかどうかを示す情報を含むことができる。たとえば、最初のマルチキャストパケットの規則またはプロトコルは、最初のマルチキャストパケットが、(たとえば、特別な最初のマルチキャストパケットペイロードおよび/または最初のマルチキャストパケットヘッダ内において、)パーティション固有のMLID、または専用MLID、を識別するかどうかを示す情報を含んでもよい。最初のマルチキャストパケットがパーティション固有のMLIDを識別する場合、最初のマルチキャストパケットは、パケットのMLIDがデフォルトのMLIDであるパーティションのP_Keyを含むこともできる。
一実施形態によれば、パーティション固有のデフォルトMLID(上で詳細に説明した)がサブネットで用いられる場合、任意のエンドポートが、特定のパーティションのコンテキストにおいて定義される任意のMCGのMLIDを、特定のパーティションに関連付けられた任意のマルチキャストパケットのMLIDを検査することによって、学習することが可能である。これは、別の専用(つまり、パーティション固有ではない)MLID(または専用MLIDのペア)がMCGに関連付けられる場合でも当てはまり、なぜならば、IBには、エンドノードついて、任意のMGIDとともに用いられるよう特定のMLIDを実施する要件はなく、IB仕様では、複数のMGIDを単一のMLIDに明示的に関連付けることが許可されるからである。
一実施形態によれば、リスティング6は、着信マルチキャストパケットから学習されたMLIDを既知のMGIDと関連付け、(必要な場合には)デフォルトのMLIDテーブルを更新するための例示的な擬似コードを示す。
Figure 0007105248000008
図42は、一実施形態による、高性能コンピューティング環境において、関連するMGID(マルチキャストグローバル識別子)について受信マルチキャストメッセージ上でマルチキャストグループマルチキャストローカル識別子(MLID)ダイナミックディスカバリを提供する方法のフローチャートである。より具体的には、この図は、最初のマルチキャストパケット規則に準拠し、(たとえば、特別な最初のマルチキャストパケットペイロードおよび/または最初のマルチキャストパケットヘッダ内において)最初のマルチキャストパケットがパーティション固有のMLID、または専用MLID、を識別するかどうかを示す情報を含むパケットを含む着信MCパケットの結果としてMLIDを登録するためのフローチャートを示す。
この方法は、着信マルチキャストパケットを受信するステップ4205で開始することができる。マルチキャストパケットが最初のマルチキャストパケット(たとえば、最初のマルチキャスト規則またはプロトコルに準拠するパケット)であり、最初のマルチキャストパケットが専用(非パーティション固有)MLIDを示す場合(ステップ4210)、受信パケットからMCG MLIDを反映するローカルMCG情報を、ステップ4215で更新することができる。そうではなく、ステップ4225で、マルチキャストパケットが最初のマルチキャストパケットであり、最初のマルチキャストパケットがパーティション固有のMLIDを示す場合には、ステップ4230で、ローカルパーティション情報を更新して、受信したマルチキャストパケットからパーティション固有のMLIDを反映することができる。そうでない場合には、ステップ4245で、この方法は、受信したMGIDに関連付けられるローカルMCG情報を見つけることができる。MLIDがMCGに関連付けられていないか、またはMCG MLIDがパーティションMLIDと同じである場合、この方法は、ステップ4255で、ローカルMCG情報を更新して、受信したマルチキャストパケットからMLIDを反映することができる。
一実施形態によれば、リスティング7は、パーティション固有のMLIDと発信パケットのための専用のMLIDとの両方を追跡するための例示的な擬似コードを示す。
Figure 0007105248000009
図43は、一実施形態による、パーティション固有のMLIDおよび発信マルチキャストパケット用の専用MCG MLIDの両方のレコードを維持するためのフローチャートを示す。ステップ4305で、発信MCパケットからMGIDが検索される。ステップ4310で、検索されたMGIDのMCGレコードが探索される。判断4315で、MCGレコードが専用MCG MLIDを反映する場合、ステップ4320でパケット宛先LIDがMCGレコードからの専用MCG MLIDに設定され、MCパケットはステップ4350で送信される。そうではなく、MCGに関連付けられるパーティションが、関連付けられたデフォルト(パーティション固有)MLIDを有する場合には(ステップ4325)、パケット宛先LIDはMCGのパーティションに関連付けられたデフォルトMLIDに設定され、MCパケットはステップ4350で送信される。そうでなければ(ステップ4335で)、この方法は、マルチキャストパケットを送信することができる前にMLIDを判断しなければならないことを記録することができ、ステップ4335でタイムアウト期間を開始することができる。関連するMGIDのMLIDが判断されたかどうかは、タイム期間が終了するまで引き続きチェックされることができる。MLIDがタイムアウト期間の満了までに判断されていない場合、この方法はタイムアウトして終了することができる(ステップ4355)。ただし、タイムアウト期間内に(たとえば、ステップ4315または4325のいずれかで)MLIDが判断される場合、正しいMLIDでパケットを送信することができる。
含まれるMLIDの検査/学習のための最初のマルチキャストパケットの配信に関連するさらに別の課題は、ホストノードおよび関連付けられるエンドノードがサブネットの開始/初期化においてだけでなく、いつでも開始/初期化できることである。したがって、このような遅延到着ノード/ULP/エンドポートが関連するMLIDを効果的に学習できるようにすることを保証するために、「最初の」MCパケット(たとえば、上記のように、MLID学習パケット規則に準拠する最初のマルチキャストパケット)の、定期的な、時間を設定された送信は、遅延開始/初期化ノード/エンドポートによるMLID学習が妥当な遅延内でMLIDを学習することができるように実行されなければならない。
一実施形態によれば、リスティング8は、特別な最初のマルチキャストパケットプロトコルの使用と、IPoIBが有効にされた状態でのパーティションにおける逆アドレス解決プロトコル(RARP)などのプロトコルの利用との両方で、最初のマルチキャストパケットを送信するための例示的な擬似コードを示す。このコードは、たとえば、関連するMCGの作成を担当するコンポーネントに関連付けられたSM共存デーモンから実行することができる。関連するパーティションごとに1つのデーモンコンテキストが存在することができる。
Figure 0007105248000010
図44は、一実施形態による、高性能コンピューティング環境においてマルチキャストローカル識別子のエンドノードダイナミックディスカバリを提供する方法のフローチャートを示す。ステップ4410で、サブネットのマルチキャストグループを定義するマルチキャストグローバル識別子が、サブネットのノードでマルチキャストグループレコードに含まれる。ステップ4420で、ノードのポートに関連付けられるキューペアが、サブネット内のマルチキャストグループを定義するマルチキャストグローバル識別子に関連付けられ、それにより、キューペアをマルチキャストグローバル識別子に関連付けることにより、ポートが、マルチキャストグローバル識別子を含むマルチキャストパケットを受信することを可能にする。ステップ4430で、マルチキャストグローバル識別子およびマルチキャストローカル識別子を含むマルチキャストパケットがノードで受信される。ステップ4440で、マルチキャストパケットは、マルチキャストローカル識別子を学習するために検査される。ステップ4450で、学習されたマルチキャストローカル識別子は、サブネットのノードでマルチキャストグループレコードに含まれる。
デフォルトおよび専用MLIDの明示的なMLID割り当て
従来の実装例では、異なるマスターSMインスタンスが、ローカル状態情報に基づいて、およびIBクライアントが新たなマルチキャストグループが定義されるよう要求した結果として、MLID値を割り当てる。このような場合では、どのようなマスターSMの再起動もしくはフェールオーバー、またはどのようなサブネットマージ操作も、異なるMLIDが異なるMGIDに用いられる(つまり、ことなるMGIDからMLIDへのマッピング)に至る可能性があり、それによって、マルチキャスト通信が関連するエンドポート間で再び完全に動作可能になる前に些細ならぬ遅延を生じる可能性がある。
一実施形態によれば、(上記のような)パーティション固有のデフォルトMLID値が使用中である実装例において、どのMLIDがどのパーティションに用いられるかを明示的に定義する明示的なMLID割り当てポリシーを(例えば管理入力として)提供することができる。さらに、MLID割り当てポリシーは、どの専用MLIDを所与のMGIDに関連付けるかを定義することもできる(たとえば、パーティションに依存しないMLID)。このようなMLID割り当てポリシーを採用することにより、新たなまたは再起動されたマスターSMは、新たなMGIDからMLIDへのマッピングを生成する代わりに、既存のIBパーティションに用いられるMLIDを観察(および検証)することができる。このようにして、対応するMGIDに対するMLID関連付けにおける変更を、マスターSMの再起動もしくはフェールオーバーまたはサブネットマージ操作の結果として、回避することができる。
図45は、一実施形態による、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDについて明示的なマルチキャストローカル識別子(MLID)割り当てを提供する方法のフローチャートを示す。ステップ4500で、この方法は、サブネットのサブネットマネージャに、複数のパーティションのうちのあるパーティションについてデフォルトMLID値を提供することができる。ステップ4505で、この方法は、サブネットへのアクセスおよび制御を有するマスターサブネットマネージャをオフラインにすることができる。ステップ4510で、この方法は、サブネットへのアクセスおよび制御を有する新たなマスターサブネットマネージャを起動することができる。ステップ4515で、この方法は、複数のパーティションのうちのあるパーティションのデフォルトMLID値を新たなマスターサブネットマネージャに提供することができる。ステップ4520で、この方法は終了することができる。
図46は、一実施形態による、SMポリシー入力として定義されるパーティションごとのデフォルトMLIDについて明示的なマルチキャストローカル識別子(MLID)割り当てを提供する方法のフローチャートを示す。特に、図46は、サブネット再ディスカバリ中に既存のMLID/P_Keyインデックス(たとえば、前述のP_KeyテーブルからデフォルトのMLIDテーブルへのマッピング)関連付けを検証する方法のフローチャートである。この方法は、サブネットディスカバリを実行し、発見されたHCAポートについてP_Keyテーブルの内容および任意の定義済みのMLIDテーブルの両方をキャッシュすることができる。発見された各HCAポートについて、キャッシュされたP_Keyテーブルの内容が現在のメンバーシップポリシーと同期していない場合、この方法はCAポートがパーティションテーブルの更新を必要とすることを記録することができる。それ以外の場合、HCAポートがMLIDテーブルをサポートし、かつMLIDテーブルが現在のP_Keyテーブルと同期していないか、またはMLIDテーブルの内容が現在のP_KeyごとのMLID割り当てと同期していない場合には、この方法はHCAポートがMLIDテーブルの更新を必要とすることを記録することができる。次に、この方法は、サブネットの再ルーティングを実行し、パーティションメンバーシップが変更されたパーティションごとのMLIDに新たなスパニングツリーを生成することができる。この方法は、次いで、P_Keyテーブルおよび/またはMLIDテーブルの更新に対する記録されたニーズに従って、サブネットの再初期化を実行し、各CAポートを更新することができる。
一実施形態によれば、MLID割り当てポリシーは、4つのポリシー変数の値を指定することができる。MLID割り当てポリシーは、(たとえば、管理入力を介して)サブネットにおいて明示的に定義されるMCGに割り当てられるMLIDの範囲の開始値と終了値とを指定することができる。さらに、MLID割り当てポリシーは、エンドポートによって動的に作成されるMCGに割り当てられるMLIDの範囲の開始値と終了値とを指定することができる。MLIDは各タイプのMCGに割り当てられるので、割り当ては、たとえば不揮発性フォーマットで保存することができ、現在のマスターSMおよび将来のSMは、MLIDからMGID(つまり、MCG)へのマッピングを判断することができ、新たなMLIDからMGIDへのマッピングを作成する代わりに、これらのマッピングを再利用することができる。
従来の実装例では、サブネット内のすべてのパーティション定義は、SMへの明示的なポリシー入力に基づいている。一実施形態によれば、従来のパーティションポリシー入力規則を拡張して、明示的なMLID割り当てポリシーを含めることができる。たとえば、SMは、パーティションを作成するためのサブネットパーティションポリシー入力を受信することができる。ポリシー入力には、パーティション番号(つまりP_Key)、パーティション名、IPoIBフラグ(IPoIBがパーティションメンバーに対して有効にされることを示す)、およびサブネット内のポートのメンバーシップ仕様を含めることができる。さらに、ポリシー入力には、ポリシー入力の結果としてパーティションのコンテキストにおいて作成されるMCGに割り当てられるMLIDの値であるMLID値を含めることができる。一実施形態によれば、ポリシー入力に含まれるMLID値は、正規パーティションメンバーMLIDの値を示し、制限付きパーティションMLID値を導出することができる(またはその逆)(上述の)規則に準拠するベース値とすることができる。
一実施形態によれば、例えば上記の明示的なポリシー入力を用いて、パーティションのコンテキストにおいてMCGが作成される場合、MLID値は、サブネットにおいて明示的に定義されるMCGについて割り当てられるMLIDの範囲からのMLID値であることができる。一実施形態によれば、MLID値は、ポリシー入力で明示的に定義されなくてもよく、サブネットにおいて明示的に定義されるMCGについて割り当てられるMLIDの範囲から、SMによって、割り当てられることができる。
一実施形態によれば、MLID割り当てポリシーを採用するサブネットでは、MLIDからMGIDへのマッピングを変更することなく、サブネットのマージおよび分割を行うことができる。独立したサブネット間のスイッチ間クロスリンクは、MLIDからMGIDへの再マッピングを必要とせずに、MCパケットの選択的な転送に用いることができる。さらに、グローバルルートヘッダからローカルルートヘッダへのマッピングを実行するべくヘッダマッピングリソースを割り当てる必要なく、異なるIBサブネット間のIB間ルータベースの接続を実現することができる。
図47は、一実施形態による、サブネットマージ操作前において、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを各々が有する2つの独立したファットツリーベースのサブネットを示す。図47に示すように、各サブネット、サブネット4702および4704には、各サブネットのスパニングツリーのルートとして単一のスパインスイッチを有する、関連するMCG/MLIDのためのスパニングツリーが含まれる。サブネット4702では、スパインスイッチ4730は、(スイッチ4730を定義する太線で示されているように)サブネット4702のスパニングツリーのルートである。同様に、スイッチ4733は、サブネット4704のスパニングツリーのルートである。一実施形態に従って(例えば、上記のように)、スパニングツリーが生成され、対応するMFTがスイッチに配布されている。
引き続き図47を参照すると、一実施形態によれば、サブネット4702のスパニングツリーは、スイッチ4730をサブネット4702のスパニングツリーのルートとして示すことができる。この場合、スパニングツリーには、スイッチ4731への/からのリンクは含まれない。同様に、サブネット4704のスパニングツリーは、スイッチ4733をサブネット4704のスパニングツリーのルートとして示すことができ、スイッチ4732への/からのリンクは含まない。
図48は、サブネットマージ操作後において、SMポリシー入力として定義されるパーティション固有のデフォルトMLIDに対する明示的なマルチキャストローカル識別子(MLID)割り当てを有する単一のファットツリーベースのサブネットを示す。図48に示すように、サブネットマージ操作は、元の各サブネット(つまり、図47のサブネット4702および4704)からスパインを相互接続することによって実現される。一実施形態によれば、各元のサブネットで同じポリシーベースのMLIDを採用しながら、マージ後に必要な唯一の再構成は、相互転送を実行するようスパインスイッチ4830および4833のMFTを更新することにより2つの元のスパニングツリーを論理的に接続することである。したがって、スイッチ4830に到着し、スイッチ4833の下流で接続されているエンドポートに向かうすべてのマルチキャストトラフィックをスイッチ4833に転送する、スイッチ4830のMFTにおけるエントリを作成することができる。このようなパケット(スイッチ4830から転送される)がスイッチ4833に到着すると、MLID割り当てポリシーの結果として生成された元のMFTは、パケットをMCGメンバーのエンドポートに転送する。したがって、スパインスイッチ4830のMFTのみをサブネットマージの結果として更新する必要がある。同様に、スパインスイッチ4833のMFTのみを更新して、スイッチ4833で受信されスパインスイッチ4830の下流のエンドポートに向かうパケットをスイッチ4830に転送する必要がある。スパインスイッチの「下流」エンドポートは、たとえばHCA4801~4812となるであろう。
アナウンスメントおよびディスカバリのためのデフォルトマルチキャストグループ(MCG)
一実施形態によれば、IB仕様は、SA要求に用いられるLIDおよびSL(サービスレベル)値を指定するPortInfo要素を定義することにより、および各ポートがデフォルトパーティションの少なくとも限定付きメンバーであることを指定することにより、ノードからのIB通信のブートストラップの問題を解決する。
一実施形態によれば、同様に、IP‐over‐IB仕様(InfiniBand仕様の一部ではない)は、IPからIBへのアドレス解決に用いることができるデフォルトマルチキャストグループ(MCG)を定義する。ただし、IP‐over‐IBはIB仕様の一部ではないため、汎用IBのディスカバリ、アナウンスメント、およびアドレス解決スキームに関して依存することができる機能ではない。
したがって、実施形態によれば、SAアクセスに依存せずに充分に定義された方法でIBマルチキャスト動作を可能にするために、少なくとも1つのIBマルチキャストグループ(MCG)をサブネットマネージャによって定義し、拡張SMA属性を介してIBクライアントに通信することができる。
一実施形態によれば、MCG定義を追加のSMAレベル情報として含めることにより、異なるIBクライアントバージョンが関連付けられるMGIDに関して同期していることに対する依存性はない。また、サブネットマネージャは、現在予約されていない1つ以上のMGID値を予約し、SMが自身の使用のために予約するよう意図するMGID値を伴うMCGの作成を防ぐこともできる。
一実施形態によれば、SMAレベルで定義される専用MCGの追加的局面は、それが関連するポートに対して定義される任意のパーティションとともに用いることができるように指定することができることであり、その場合、IBクライアントは、MCメッセージを送信するときに、そのパーティションに定義されたパーティション固有のMLIDを用いることができる。
一実施形態によれば、基本的なアナウンスメントプロトコルを実装するために、ポートおよびノード属性のピアツーピア交換に用いられるものと同じメッセージフォーマットを用いることができる。ただし、この場合、送信元のアドレス情報のみが指定され、ターゲットは指定されず、応答も期待されない。
一実施形態によれば、アドレス解決およびディスカバリも実施するために、1つの特定のノードからの期待される応答とともにターゲットGIDまたはGUIDを指定する1つの要求メッセージフォーマットを用いることができる。また、利用可能なピアノードの一般的なディスカバリを可能にするために、完全または部分的にワイルドカード化されたターゲットを指定し、すべての関連する受信者がユニキャスト応答をそれらのローカル情報とともに送信することができる。‐このスキームは、送信されるマルチキャストメッセージが少ないことを意味するため、IBファブリックを介して転送され、異なるノードで受信される「無関係な」マルチキャストメッセージの数に関して全体のオーバーヘッドが削減される。
一実施形態によれば、上記の開示により、様々なInfiniBand仕様の強化/追加が企図される。このような追加のSMA属性の1つは、デフォルト値が偽の「DefaultMCG(デフォルトMCG)」をサポートするポート機能である。この属性は、リンクアップ時に、サポートするSMAによって真にセットすることができる。真にセットすると、SMまたはマスターSMは関連するSMAプロパティを更新することができる。
一実施形態によれば、128ビット整数である「DefaultMCGMGID(デフォルトMCGMGID)」を設定することができる(デフォルト0‐すなわち、DefautlMCGポート機能が偽の場合)。
一実施形態によれば、32ビット整数である「DefaultMCGMQ_Key」を設定することができる(デフォルト0‐すなわち、DefautlMCGポート機能が偽の場合)。
一実施形態によれば、IB仕様は、従来のMCGメタデータを、MGID、P_Key、MLID、および他の属性を含むものとして定義する。上記で企図されることは、新たなMCG対複数のMLID(またはMLIDペア)値の関連付けを定義する。特別なMCGメタデータは、(たとえば、拡張PortInfoのからの「FabricGlobalMinimalPathParameters」に基づいて、)(拡張PortInfoからの)MGID、パーティショングローバルフラグ、およびその他の属性を含むことができる。PartitionGlobalFlagは、MCGを、ローカルで定義されたP_Key値および対応するP_Key固有のMLIDとともに、送信時の宛先MLIDとして用いることができることを意味する。
一実施形態によれば、アナウンスメントマルチキャストメッセージを提供することができる。アナウンスメントMCメッセージは、MCメッセージのGRHおよびLRHの一部として送信元GUIDおよび送信元LIDを含むことができる。アナウンスメントメッセージの受信者は、送信元に関するキャッシュされた情報を更新することができる。
一実施形態によれば、ターゲット固有のディスカバリ要求MCメッセージを提供することができる。このメッセージは、MCメッセージのGRHおよびLRHの一部として、送信元GUIDおよび送信元LIDを含むことができる。メッセージタイプは、ターゲットディスカバリメッセージであってもよい。このアナウンスメントメッセージの受信者は、指定されたターゲット情報がローカル情報の完全一致またはワイルドカード一致を表すかどうかを確認し、該当する場合はユニキャスト応答を関連するローカル情報とともに送信することができる。
一実施形態によれば、上記の開示により、様々なInfiniBand仕様の強化/追加が企図される。そのような拡張機能の1つは、新たなクラスのアナウンスメントおよびディスカバリプロトコルメッセージである。これらには、アナウンスメントマルチキャストメッセージ、ターゲット固有のディスカバリ要求マルチキャストメッセージ、およびディスカバリ応答ユニキャストメッセージを含めることができる。
図49は、一実施形態による、高性能コンピューティング環境において拡張ポート情報としてアナウンスメントおよびディスカバリのためにデフォルトマルチキャストグループ(MCG)を提供する方法のフローチャートを示す。
一実施形態によれば、ステップ4900で、この方法はサブネットを提供することができ、サブネットは2つ以上のノードを含み、2つ以上のノードの第1のノードは第1のバージョンの仕様を含み、第2のノードは第2のバージョンの仕様を含む。
一実施形態によれば、ステップ4905で、この方法は、サブネットマネージャによって、デフォルトMGIDとして用いられるマルチキャストグローバル識別子を予約する。
一実施形態によれば、ステップ4910で、この方法は、サブネット管理エージェントで、デフォルトMGIDを含むマルチキャストグループ定義を提供する。
一実施形態によれば、ステップ4915で、この方法はサブネットの他の要素を発見することができ、このディスカバリは少なくともマルチキャストグループ定義に基づいている。
図50は、一実施形態による、高性能コンピューティング環境において拡張ポート情報としてアナウンスメントおよびディスカバリのためにデフォルトマルチキャストグループ(MCG)を提供する方法のフローチャートを示す。
実施形態によれば、ステップ5010で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ5020で、この方法は、サブネットマネージャによって、少なくともマルチキャストグローバル識別子(MGID)によって定義されるマルチキャストグループを定義することができる。
一実施形態によれば、ステップ5030で、この方法は、定義されたMCGを、複数のホストチャネルアダプタに対して、MGIDとともに、サブネット管理エージェント(SMA)属性を介して、通信することができる。
一実施形態によれば、ステップ5040で、この方法は、複数のエンドノードのうちの送信側エンドノードを介して、定義されたMCGを利用するアナウンスメントメッセージを複数のエンドノードに送信することができ、このアナウンスメントメッセージは少なくとも送信側エンドノードのローカル識別子を含む。
スケーラブル転送用のデフォルトマルチキャストグループプロキシ(5836)
一実施形態によれば、情報を交換する必要があるノードの数が増加すると、すべてのN個のノードが他のすべてのノードに対してアドレス解決を実行するようマルチキャストメッセージを送信する際に基本的な複雑さがN乗されるため、ブロードキャストベースのアナウンスメントおよびディスカバリ/アドレス解決プロトコルのスケーラビリティが低下する。
一実施形態によれば、単一の要求マルチキャストメッセージにおける複数のターゲットノードのアドレス解決の要求の集約により、スケーラビリティを高めることができるが、大きなノードセットの場合、これは依然として限られたスケーラビリティを有する。
一実施形態によれば、任意の数のノードをカバーするようにプロトコルをスケーリングするために、システム全体が複数のドメインに分割され、各ドメインが関連プロトコルのMCGプロキシインスタンスによって表される階層スキームを導入することができる。
一実施形態によれば、そのような各プロキシインスタンスは、それのドメイン内のノードからMCベースのアナウンスメントおよび要求を受信することができるが、そのようなMC要求はローカルドメインの境界を越えて直接送信されないであろう。代わりに、さまざまなプロキシは、プロキシ間のMCベースのプロトコルの組み合わせ、およびプロキシのペア間のピアツーピアトラフィックとしてのデータのバルク転送を介して、情報を交換することができる。
一実施形態によれば、プロキシは、サブネット/ファブリック内のSMと協働することもでき、SMに代わって、利用可能なノードのためにMCベースのアナウンスメントを送信することができる(すなわち、ユニキャストベースのSAイベント通知と同様)。
一実施形態によれば、特権プロキシは、関与するクライアントノードに対してプロキシの存在を透過的にする態様で、他のノードに代わってメッセージを送信することができるモードで動作することを許可されてもよい。この場合、プロキシは、要求または応答を転送するときに、関連するノードのソースアドレス情報を用いることができるであろう。
一実施形態によれば、このようにして、デフォルトパーティション(参照管理パーティション)において正規メンバーとして動作するプロキシは、制限付きメンバークライアントノードからのディスカバリ要求に応答することができ、それにより、関与するクライアントノードの実際のパーティションメンバーシップに基づく可視性ルールを実施することができるであろう。
一実施形態によれば、プロキシにより転送または生成される要求、応答、およびアナウンスメントは、プロキシインスタンスを含むものとして明示的に識別されてもよい。この場合、そのようなメッセージを受信するクライアントノードは、メッセージのIBソースアドレスが、メッセージが関係する関連のピアノードにではなく、プロキシに関連付けられていることを知っているだろう。
単一のサブネット内のドメイン間で必要な分離を提供するために、SMはドメイン境界およびさまざまなプロキシインスタンスを識別することができる必要があり、単一の論理MCGでも、マルチキャストルーティングが設定され、非プロキシにより送信されるMCパケットは、ドメインから外に転送されない。
一実施形態によれば、異なるIBスイッチ間にドメイン境界が存在する限り、同じMLIDを、異なるドメインにおいて、ドメイン間の「偶発的な転送」なしに用いることができる。ただし、1つのIBスイッチを2つの異なるドメインで共有する場合、同じ論理MCGについて2つのMLIDを割り当てなければならないであろう。したがって、実際には、単一のスイッチ内にドメイン境界があることは意味をなさないであろう。
一実施形態によれば、ファットツリーベースのトポロジーでは、個々のリーフスイッチを単一のドメインとして有することは意味をなすであろうと考えられるか、または、独自のスイッチのセットを有するが、関与するすべてのリーフスイッチ間に完全に冗長な物理接続を有するサブツリーが、ドメインを表し得る。
一実施形態によれば、様々なIB仕様の拡張が想定される。1つのそのような拡張は、アナウンスメントおよびディスカバリプロトコルメッセージの拡張であり得る。このような拡張により、プロキシの生成および転送の明示的な表現が可能になるであろう。
一実施形態によれば、別のそのような拡張は、プロキシ間通信用の特定のプロトコルを可能にすることができるが、ベンダー、コンソーシアム、またはディストリビューション固有の革新および付加価値のための領域として残すこともできる。
一実施形態によれば、ドメインおよびプロキシ対応のマルチキャストルーティングを提供するために、SMは、ドメイン境界および個々のプロキシポートの両方を認識しなければならない。これは、SM実装固有の構成ポリシーを介して実現することができるか、または、プロキシの存在およびドメイン境界の両方がノードローカル構成情報を表す場合には、インバンドディスカバリを介して実現することができるかもしれない。
図51は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。
一実施形態によれば、ステップ5100で、この方法は、階層を複数のドメインに分割することができ、複数のドメインの各々は、マルチキャストグループプロキシインスタンスを含む。
一実施形態によれば、ステップ5105で、この方法は、MCGプロキシインスタンスで、MCGプロキシインスタンスのドメイン内のノードからMCベースのアナウンスメントを受信することができる。
一実施形態によれば、ステップ5110において、この方法は、MCGプロキシインスタンスにより、別のドメイン内の別のMCGプロキシインスタンスに、MCベースのアナウンスメントに含まれる情報を送信することができる。
一実施形態によれば、ステップ5115で、この方法は、MCGプロキシインスタンスにより、MCベースのアナウンスメントに含まれる情報をサブネットマネージャに送信することができる。
一実施形態によれば、ステップ5120で、この方法は終了することができる。
図52は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。
より具体的には、この図は、プロキシインスタンスが各リーフスイッチに関連付けられる任意のファブリックのシステムを示す。システム5200は、ドメインA 5250、ドメインB 5251、ドメインC 5252など、いくつかの任意のドメインに分割することができる。このシステムは、HCA1~HCA9 5210~5218などの多数のホストチャネルアダプタ、およびスイッチ1~スイッチ6 5240~5245などのHCAを相互接続する多数のスイッチを含むことができる。HCAは、1つの以上のホスト/エンドノード(図示せず)をシステム5200に接続した。
一実施形態によれば、特定のスイッチ(例えば、定義された各ドメイン内の1つのスイッチ)をプロキシとして定義することができる。図示の実施形態では、スイッチ1 5240、スイッチ3 5242、およびスイッチ5 5244がプロキシとして定義される。特定の実施形態では、これらのスイッチは、特定のプロトコルのマルチキャストグループプロキシインスタンスとして定義することができる。
一実施形態によれば、そのような各プロキシインスタンスは、それのドメイン内のノードからMCベースのアナウンスメントおよび要求を受信することができるが、そのようなMC要求はローカルドメインの境界を越えて直接送信はされないであろう。代わりに、さまざまなプロキシは、情報を、他のプロキシとの間で、MCベースのプロトコルを組み合わせを介して交換したり、プロキシのペア間で、ピアツーピアトラフィックとして、データのバルク転送を介して交換したりすることができる。
一実施形態によれば、プロキシは、サブネット/ファブリック内のSMと協働することもでき、SMに代わって、利用可能なノードのためにMCベースのアナウンスメントを送信することができる(すなわち、ユニキャストベースのSAイベント通知と同様)。
図53は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。
より具体的には、この図は、プロキシが特定のサイズ‐単一レベル‐の各サブツリーに関連付けられる中規模のファットツリーベースのファブリックを示す。スイッチプロキシ1 5301は、左サブツリーまたはサブツリー1 5330を処理し、サブツリー1 5330は、スイッチ1 5310およびスイッチ2 5311と、HCA1~HCA3 5320~5322とを含む。同様に、スイッチプロキシ2 5302は、右サブツリーまたはサブツリー2 5331を処理し、サブツリー2 5331は、スイッチ3 5312およびスイッチ4 5313と、HCA4~HCA6 5323~5325とを含む。
図54は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供するシステムを示す。
より具体的には、この図は、プロキシが階層的なサブツリー、複数のレベルに関連付けられる、大きなファットツリーベースのファブリックを示す。太字の境界線を有するスイッチはプロキシインスタンスを表し、1つは各スパインベースのサブツリーにあり、1つはスパインレベルプロキシ間の集約を提供するルートスイッチレベルにある。
一実施形態によれば、ファブリックは、HCA 5401~HCA 5412などのいくつかのHCA、およびツリートポロジーの様々なレベルにおけるいくつかのスイッチを含むことができる。図示の実施形態では、スイッチ5420~5427はリーフレベルスイッチであり、スイッチ5440~5443はルートレベルスイッチである。スイッチ5430~5433は中間レベルのスイッチである。
一実施形態によれば、太字の境界線を有するスイッチ、すなわち、スイッチ5430、スイッチ5432、およびスイッチ5440は、プロキシインスタンスを表す。スイッチ5430は左端のサブツリーのプロキシインスタンスであり、スイッチ5432は右端のサブツリーのプロキシインスタンスである。スイッチ5440は、サブツリープロキシインスタンス間の集約を提供するルートレベルのプロキシインスタンスである。
図55は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。
一実施形態によれば、ある方法では、プロキシは、他のプロキシに転送するか、または他のプロキシと相談する必要があってもよい。
一実施形態によれば、この方法は、ステップ5501でメッセージを受信することができる。この方法は、ステップ5502でメッセージの内容に基づいてローカル情報を更新することができる。受信したメッセージがローカルドメイン内のノードからの情報要求であり、関連情報がローカルにキャッシュされている場合、この方法はステップ5504で応答メッセージを関連情報とともに送信することができる。関連情報がローカルにキャッシュされていない場合、この方法は、ステップ5505で関連のピアプロキシのセットに情報要求を送信することができる。
一実施形態によれば、受信したメッセージが異なるドメイン内のプロキシからの情報要求である場合、この方法は現在キャッシュされているローカル情報に基づいて応答を送信することができる。
一実施形態によれば、受信したメッセージが別のドメイン内のプロキシからの応答または更新である場合、この方法は、受信した情報を待っていた保留中の要求を完了することができる。この方法は、ローカルドメインの関連ノードに更新通知を送信し、他のドメインの関連プロキシに更新通知を送信することができる。
図56は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。
ステップ5601で、この方法はプロキシでメッセージを受信することができる。
ステップ5602で、この方法は、メッセージの内容に基づいてローカル情報を更新することができる。
ステップ5603で、この方法は、受信したメッセージがローカルドメイン内のノードからの情報要求メッセージであったかどうかを判断することができる。
ステップ5604で、メッセージがローカルドメイン内のノードからの情報要求メッセージである場合、この方法は、関連情報がローカルにキャッシュされているかどうかを判断することができる。
ステップ5605で、関連情報がローカルにキャッシュされている場合、プロキシは応答メッセージを関連情報とともに送信することができる。
ステップ5606で、関連情報がローカルにキャッシュされていない場合、プロキシは関連のピアプロキシのセットに情報要求を送信することができる。
ステップ5607で、受信したメッセージが別のドメインのプロキシからのものであった場合、この方法は、受信したメッセージが別のドメインのプロキシからの情報要求であったかどうかを判断することができる。
ステップ5608で、受信したメッセージが別のドメインのプロキシからの情報要求であった場合、プロキシは現在キャッシュされているローカル情報に基づいて応答を送信することができる。
ステップ5609で、メッセージが別のドメインのプロキシからの情報要求でなかった場合、プロキシはメッセージが別のドメインのプロキシからの応答または更新であったかどうかを判断することができる。
ステップ5610で、メッセージが別のドメインのプロキシからの応答または更新であったという判断で、プロキシは、受信した情報を待っていた保留中の要求を完了することができる。
ステップ5611で、プロキシは、更新通知をローカルドメイン内の関連するノードに送信することができる。
ステップ5612で、プロキシは更新通知を他のドメイン内の関連するプロキシに送信することができる。
図57は、一実施形態による、高性能コンピューティング環境においてアナウンスメントのスケーラブルな転送および情報要求インターセプトのためにデフォルトマルチキャストグループ(MCG)プロキシを提供する方法のフローチャートを示す。
実施形態によれば、ステップ5710で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ5720で、この方法は、サブネットアドミニストレータによって、第1のサブネットを2つ以上の論理ドメインに分割することができ、各論理ドメインは、複数のスイッチの少なくとも1つのスイッチおよび複数のホストチャネルアダプタの少なくとも1つのホストチャネルアダプタを含む。
一実施形態によれば、ステップ5730で、この方法は、サブネットマネージャによって、2つ以上の論理ドメインの各々内にデフォルトマルチキャストグループプロキシを定義することができ、各デフォルトマルチキャストグループプロキシはキャッシュに関連付けられる。
一実施形態によれば、ステップ5740で、この方法は、2つ以上の論理ドメインの第1の論理ドメイン内の第1のマルチキャストグループプロキシで、2つ以上の論理ドメインの第2の論理ドメイン内の第2のマルチキャストグループプロキシから、情報に対する要求を受信することができる。
一実施形態によれば、ステップ5750で、この方法は、第1のMCGプロキシによって、第1のMCGプロキシに関連付けられた第1のキャッシュ内で、受信した要求に応答する情報をチェックすることができる。
一実施形態によれば、ステップ5760で、この方法は、第1のMCGプロキシによって、第2のMCGプロキシに、要求に応答する情報を含む応答メッセージを送信する。
複数のパーティションでMCベースのアナウンスメントを受信するためのQP1の使用
一実施形態によれば、一般管理パケット(GMP)のために充分に定義された宛先として用いられるキューペア1(QP1)を伴うある独自の機能は、通常のQPとは異なり、単一のパーティションに関連付けられるだけでなく、代わりに、関連するポートに現在関連付けられているすべてのパーティションに代わって送信および受信の両方に対して動作することができることである。
一実施形態によれば、QP1の範囲を拡張して、ポートに対して定義された任意のパーティションでマルチキャストパケットを送受信することも含めることにより、個々のパーティションに対する独自のQPの複雑さも、パーティションメンバーシップの変更の結果としてのQP構成の更新も必要とせずに、汎用なMCベースのアナウンスメントおよびディスカバリを実現することができる。
一実施形態によれば、ポートのデフォルトMGIDは、SMAレベルで定義されているため、この機能をサポートするポートに対しては本質的に充分に定義される。したがって、おそらくはこのようなMCトラフィックに対してQP1の使用を有効または無効にするためのサポートを除き、特別な初期化手順は必要ない。
一実施形態によれば、IBクライアントは、いずれにせよ、関連するパーティションに対して特に割り当てられる他のQPを介して、関連するMCトラフィックを処理することを許可されるであろう。任意のQP MCG関連付けと同様に、同じMCGに関連付けられる複数のローカルQPが存在することができ、したがって、異なるパーティションにおけるデフォルトMCGトラフィックに対する専用QPの使用を、同じパーティションに対するQP1の使用の代わりに、またはそれに加えて、用いることができる。
一実施形態によれば、プロキシを含むリモートノードに対して、異なるパーティションでのデフォルトMCGトラフィックに対するQP1または専用QPの使用は、一般に、GMPトラフィックの場合のそれを除き、完全に透過的であることができ、着信要求のソースQPを対応する(ユニキャスト)応答の宛先QPとして用いることが可能であるはずである。ただし、この方式は、ソースQPがQP1であるかまたは他のQP番号であるかに関係なく、同じ態様で当てはまる。
一実施形態によれば、パーティションごとに専用のMLIDを利用することにより、IBクライアントは、任意のローカルパーティションでアナウンスメントおよびディスカバリメッセージを送信し、それを追加の初期化なしに関連するすべてのピアノードに受信してもらうことができる。
一実施形態によれば、プロキシベースの動作の場合、関連するドメインプロキシがドメインごとのデフォルトパーティションで通知を送信することも可能であろうが、異なるパーティションのMLIDを用い、関連するノードのみが対応するメッセージを受信するであろう。パーティション固有のMLIDは、関連する実際のメンバーのルーティングを有するであろうが、プロキシが用いるポートは依然として送信専用メンバーとして含まれ得る。
一実施形態によれば、プロキシがすべての関連するパーティションでポートメンバーシップを有する場合、デフォルトパーティションを用いる代わりに特定のパーティションでそのようなMCメッセージを送信することを選択することができる。
一実施形態によれば、IB仕様は、QP1を介するMCトラフィックのためにHCAサポートを照会する動詞インターフェイス、およびサポートされる場合にこの機能を有効化および無効化するポート固有の動作を含むように拡張することができる。
図58は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いる方法のフローチャートを示す。
一実施形態によれば、ステップ5800で、この方法は、InfiniBandサブネットにおいて、各パーティションが1つ以上のエンドノードを含む複数のパーティションを提供することができる。
一実施形態によれば、ステップ5805で、この方法は、2つ以上のパーティションからのマルチキャストパケットの送信および受信を含むよう、キューペア1を拡張した。
一実施形態によれば、ステップ5810で、この方法は、キューペア1を介した汎用なマルチキャストベースのアナウンスメントを実現することができる。
一実施形態によれば、ステップ5815で、この方法は終了することができる。
図59は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。
より具体的には、この図は、各パーティションに対して専用のアナウンスメントQPを備えたデフォルトスキームを示す。
一実施形態によれば、インフィニバンドファブリックなどのファブリック内のHCAの、ポート1 5901などのポートは、パーティションテーブルと、キューペアA 5902、キューペアB 5903、キューペアC 5904、キューペアD 5905、キューペアE 5906などのマルチキャストアナウンスメント用の専用キューペアとを備えるようにセットアップすることができる。関連付けられたマルチキャストグループに従って、各キューペアを、異なるパーティションキーに関連付けることができる。
図60は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。
より具体的には、この図は、パーティションメンバーシップ処理の結果としてのアナウンスメントQPポピュレーションの再構成を示す。
一実施形態によれば、インフィニバンドファブリックなどのファブリック内のHCAの、ポート1 6001などのポートは、パーティションテーブルと、キューペアA 6002、キューペアB 6003、キューペアC 6004、キューペアE 6005、およびキューペアF 6006などの、マルチキャストアナウンスメントのための専用キューペアとを備えるようにセットアップすることができる。関連付けられたマルチキャストグループに従って、各キューペアを異なるパーティションキーに関連付けることができる。
一実施形態によれば、図60は、図59に示されるシステムのパーティションメンバーシップの変更後の再構成を示す。
図61は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。
より具体的には、この図は、アナウンスメントが行われたときに新たなQPが配置されていないためにアナウンスメントが失われる特別な競合状態を示す。
一実施形態によれば、インフィニバンドファブリックなどのファブリック内のHCAのポート1 6101などのポートは、パーティションテーブルと、キューペアA 6102、キューペアB 6103、キューペアC 6104、キューペアD 6105、キューペアE 6106などのマルチキャストアナウンスメント用の専用キューペアとを備えるようにセットアップすることができる。関連付けられたマルチキャストグループに従って、各キューペアを、異なるパーティションキーに関連付けることができる。
一実施形態によれば、図61は、マルチキャストグループFからのマルチキャストアナウンスメントを処理するために新たなキューペア(QP F)をセットアップすることができる前の、図60のシステムを示す。MC情報メッセージ6110がポート1で受信される状況において、ポート1は、キューペアFがP_KeyFおよび/またはマルチキャストグループFに対して確立されていないため、MC情報メッセージを処理できない。
図62は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。
より具体的には、この図は、QP1が拡張された接続管理ユニキャストメッセージとマルチキャストベースのアナウンスメントメッセージとの両方を受信する簡略化されたスキームを示す。
一実施形態によれば、インフィニバンドファブリックなどのファブリック内のHCAの、ポート1 6201などのポートは、パーティションテーブルを含むようにセットアップすることができる。同様に、ポートは、キューペア1 6202が6220などの拡張された接続管理ユニキャストメッセージおよび6210などのマルチキャスト情報メッセージの両方に用いられる単純化されたスキームを利用することができる。
一実施形態によれば、ユニキャスト管理メッセージおよびマルチキャスト情報メッセージの両方にキューペア1を採用することにより、システムは図61に示される競合状態を回避することができる。
一実施形態によれば、QP1の範囲を拡張して、ポートのために定義された任意のパーティションでマルチキャストパケットを送受信することも含めることにより、 個々のパーティションに対する独自のQPの複雑さも、パーティションメンバーシップの変更の結果としてのQP構成の更新も必要とせずに、汎用なMCベースのアナウンスメントおよびディスカバリを実現することができる。
一実施形態によれば、ポートのデフォルトMGIDは、SMAレベルで定義されているため、それは、この機能をサポートするポートに対しては本質的に充分に定義される。したがって、おそらくはこのようなMCトラフィックに対してQP1の使用を有効または無効にするためのサポートを除き、特別な初期化手順は必要ない。
一実施形態によれば、IBクライアントは、いずれにせよ、関連するパーティションに対して特に割り当てられる他のQPを介して、関連するMCトラフィックを処理することを許可されるであろう。 任意のQP MCG関連付けと同様に、同じMCGに関連付けられる複数のローカルQPが存在することができ、したがって、異なるパーティションにおけるデフォルトMCGトラフィックに対する専用QPの使用を、同じパーティションに対するQP1の使用の代わりに、またはそれに加えて、用いることができる。
図63は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いるシステムを示す。
より具体的には、この図は、デフォルトのMCG/MGIDに関連付けられるQPの存在が、QPの確立とアナウンスメントMCパケット6310の受信との間の競合状態を除去することを示す。
一実施形態によれば、QP1 6302は、ポート1 6301によって使用されるように、MCG‐Speに永久的に関連付けることができ、SMが関連付けられたポートに対してセットアップしたどのようなP_Key値のセットにも常に関連付けられる。
図64は、一実施形態による、高性能コンピューティング環境において複数のパーティションでマルチキャストベースのアナウンスメントを受信するためにキューペア1(QP1)を用いる方法のフローチャートを示す。
実施形態によれば、ステップ6410で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ6420で、この方法は、複数のパーティションのすべてのパーティションからマルチキャストパケットを受信するようにキューペア1をセットアップすることができる。
一実施形態によれば、ステップ6430で、この方法は、複数のホストチャネルアダプタのうちのあるホストチャネルアダプタに関連付けられたローカルノードから、アナウンスメントマルチキャストパケットを通信することができる。
一実施形態によれば、ステップ6440で、この方法は、キューペア1を利用して第1のサブネット内でアナウンスメントマルチキャストパケットを転送することができる。
GUID/GIDからLIDへのキャッシュコンテンツの基礎として着信MCパケットを用いる(5838)
一実施形態によれば、すべてのマルチキャストパケットはグローバルルートヘッダ(GRH)を有するため、着信マルチキャストパケットに対して定義されるソースGIDおよびソースLIDの両方が常に存在する。これは、一般に、HCA実装例が、すべての着信MCパケットに基づいて、送信元ノードについてGIDおよびGUIDからLIDへのマッピングに関する情報を収集することが可能であることを意味する。
一実施形態によれば、「AllSubnetLocalChannelAdapterLIDsUsable」フラグ値および「RouterSourceLIDsReversible」フラグ値が真または偽であるかどうかについてローカルSMAレベルのプロパティと相関させることにより、およびローカルデフォルトMCGについて着信する明示的なプロキシMCメッセージを識別できることに基づいて、ローカルポートロジックは、GIDおよび/またはGUIDと対応するLIDとの間のマッピングを含む動的キャッシュを構築および維持することができる。
一実施形態によれば、着信作業要求処理を処理するためにHCA固有の機能が存在する限り、この種のキャッシングロジックをHCAのCI(チャネルインターフェイス)インターフェイスの下に維持することが可能である。
一実施形態によれば、そのようなキャッシュ保守の実行は大きなオーバーヘッドを表さないが、それはゼロではなく、したがってこの理由から、この機能の有効化はポートおよび個々のQPレベルの両方で明示的に制御可能でなければならない。
一実施形態によれば、本開示により、様々なIB仕様の拡張が企図される。第1の拡張機能は、MCベースのアドレスマップキャッシングのHCAサポートを照会するための新たな動詞インターフェイス、ならびにこれをポートごとおよびQP(QP1を含む)ごとレベルの両方で有効および無効にする制御操作を含むことができる。キャッシュがサポートされて有効になっている場合、キャッシュの内容を監視および制御するための動詞インターフェイスが存在する必要がある。
図65は、一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いる方法のフローチャートを示す。
一実施形態によれば、ステップ6500で、この方法は、複数のマルチキャストグループを含むサブネットを提供することができる。
一実施形態によれば、ステップ6505で、この方法はマルチキャストパケットを受信することができ、マルチキャストパケットは、ソースグローバル識別子(GID)およびソースローカル識別子(LID)を定義するグローバルルータヘッダ(GRH)を含む。
一実施形態によれば、ステップ6510で、この方法は、GRHならびにソースGIDおよびソースLIDをローカルサブネット管理エージェント(SMA)レベルプロパティと相関させることができる。
一実施形態によれば、ステップ6515で、この方法は動的キャッシュを構築することができ、キャッシュはソースGIDまたはソースGUIDと対応するLIDとの間のマッピングを含む。
一実施形態によれば、ステップ6520で、この方法は終了することができる。
図66は、一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いるシステムを示す。
一実施形態によれば、この図は、CIインターフェイス、およびCIインターフェイスの下のGUIDからLIDへのキャッシュの存在の図を示す。
一実施形態によれば、汎用な動詞インターフェイス6601およびチャネルプロバイダインターフェイス6602(CI)を備えるホストチャネルアダプタでは、動詞インターフェイスのプラットフォーム固有の実装6603およびGIDまたはGUIDからLIDへのマッピングキャッシュ6604を、CIレベルの下に提供することができる。
図67は、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)へのキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いるシステムを示す図である。
一実施形態によれば、この図は、CIインターフェイス上の標準の受信機能およびIBクライアントが着信MCパケットの結果としてキャッシュ更新を認識していない図を示す。
一実施形態によれば、次いで、MCパケットを受信すると、HCAはプラットフォーム固有の受信機能6703を実行し、GID/GUIDからLIDへのキャッシュ6704においてMCパケットのGRHに基づいてGID/GUIDからLIDへのマッピングをキャッシュするが、受信機能6701など、CI6702の上の何も、そのようなキャッシュを認識しない。次に、たとえば、MCメッセージ完了メッセージを汎用受信機能に送信することができる。
一実施形態によれば、メッセージ交換の数を低減するために、接続管理動作を実行する前に、ローカルキャッシュを用いて「相談」する。
一実施形態によれば、宛先ノードへの新たな接続をセットアップするときに、ローカルGID/GUIDからLIDへのキャッシュマッピングを用いることができる。宛先ノードに既知/(キャッシュに)保存されたGUID/GIDがない場合、ローカルノードは典型的なARPタイプの操作を用いて宛先ノードのGUID/GIDを取得することができる。一方、宛先ノードのGID/GUIDが(以前のMCメッセージから)キャッシュに保存されている場合、宛先ノードのGID/GUIDからLIDへのマッピングを用いて、メッセージのアドレスを作成することができる。
図68は、一実施形態による、高性能コンピューティング環境においてグローバル一意識別子(GUID)からローカル識別子(LID)のキャッシュコンテンツの基礎としてすべての着信マルチキャスト(MC)パケットを用いる方法のフローチャートを示す。
実施形態によれば、ステップ6810で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ6820で、この方法は、第1のサブネット内において複数のマルチキャストグループを定義することができる。
一実施形態によれば、ステップ6830において、この方法は、第1のサブネット内のノードで、ソースグローバル識別子(GID)およびソースローカル識別子(LID)を定義するグローバルルートヘッダ(GRH)を含むマルチキャストパケットを受信することができる。
一実施形態によれば、ステップ6840で、この方法は、サブネットマネージャによって、少なくともソースグローバル識別子と対応するソースローカル識別子との間のマッピングを含む動的キャッシュを構築することができる。
デフォルトIB MCGを介してIBおよびIPアドレスならびに名前解決を組み合わせる(5839)
一実施形態によれば、IBファブリックにおけるノード/ポートのほとんどのアドレス指定およびノード識別スキームは、RDMA‐CMおよび通信するエンドノードのアプリケーションレベル識別としてのIPアドレスの使用に基づいているため、IPアドレスからIBアドレスへのマッピング、ならびにノードおよびインターフェイスとの記号名関連付けを解決することが必要である。
一実施形態によれば、デフォルトIB MCGを活用するアナウンスメントおよびディスカバリプロトコルに基づいてIBアドレスを解決するための効率的でスケーラブルなスキームに基づいて、プロトコルを拡張して、IPアドレスおよび記号名情報を含める機能を含めることもできる。
一実施形態によれば、より具体的には、プロトコルは、TLV(タイプ‐長さ‐値)スタイルの汎用表現を用いてアプリケーション固有の値を提供するためのオプションを含むことができる。このようにして、IBアドレスマッピングが要求される、アプリケーション固有の引数(例:IPアドレス)を有する要求を発行でき、そのようなTLVの任意のセットを含む応答およびアナウンスメントメッセージを有することも可能であろう。
一実施形態によれば、コアIBアドレスキャッシュに基づいて、様々なTLVをキャッシュ内のIBアドレスに関連付けることができ、探索基準として用いることもできる。このようにして、両方のさまざまなIPアドレス、記号名、MACアドレスなどをすべて、関連するIBアドレス情報に関連付け、各ノードの単一キャッシュで維持し、IBファブリック上で単一のメッセージで伝達することもできる。
図69は、一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。
一実施形態によれば、ステップ6900で、この方法は、複数のマルチキャストグループを含むサブネットを提供することができる。
一実施形態によれば、ステップ6905で、この方法は、インフィニバンドアドレスマッピングを求める、アプリケーション固有の引数を有する要求を発行することができる。
一実施形態によれば、ステップ6910で、この方法は、要求に応答して、アプリケーション固有の引数に対応するIBアドレスマッピングを発行することができる。
一実施形態によれば、6915で、アプリケーション固有の引数は、IPアドレス、TLV、記号名、およびMACアドレスのうちの1つである。
一実施形態によれば、ステップ6920で、この方法は終了することができる。
図70は、一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わせられたIBおよびIPアドレスならびに名前解決のスキームを提供するシステムを示す。より具体的には、この図は、従来のGUIDからLIDへのキャッシュを示す。
一実施形態によれば、従来のGUIDからLIDへのキャッシュは、GUIDのためのハッシュ関数7001と、バケット1 7002からバケットN 7004などのN個のバケットと、GUID7005をLID7006に関係付けるいくつかのバケットエントリとを含むことができる。
一実施形態によれば、GUIDからLIDへのキャッシュは、固定された機能として利用することができる。TLVベースのノード情報レコードを用いると、そのようなレコードの動的リストを、関連付けられたインデックス付けスキームで維持することができる。
一実施形態によれば、サポートされる各情報タイプ(例えば、IP、MACアドレスなど)について、ハッシュベースのGUIDからLIDへのキャッシュに類似した専用の探索インフラストラクチャを提供することができる。ただし、この場合、探索される値は、ノード情報レコードリストのメインインデックスにアクセスするためのインデックス値である。
一実施形態によれば、探索機能は、サポートされるTLVを入力として取り、一致する場合には、関連するレコードを返す。追加のパラメータは、探索の範囲を制限することができる(たとえば、名前の探索を特定のパーティションに制限することができる)。
一実施形態によれば、任意の情報のための汎用TLVを備えた拡張通知マルチキャストパケットプロトコルを用いることができる。送信元GUIDと送信元LIDは、マルチキャストパケットおよびユニキャストパケットのGRHおよびLRHの一部であり、‐GRHは両方に必要である。
一実施形態によれば、複数のメッセージを用いて、単一のメッセージが含むことができるものよりも多くのTLVベースの情報を表すことができる。
図71は、一実施形態による、高性能コンピューティング環境においてデフォルトのIBマルチキャストグループを介して組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。
より具体的には、このフローチャートは、IBアドレス(GIDおよびLID)をマッピングするため、または追加のTLVでキャッシュレコードを完成するために、TLV(タイプ‐長さ値)タイプおよび値を入力できる汎用キャッシュ探索スキームを示す。
一実施形態によれば、ステップ7101で、この方法を開始することができる。
一実施形態によれば、ステップ7102で、この方法は、指定されたタイプがキャッシュインスタンスによってサポートされることを保証することができる。つまり、この方法は、受信メッセージの、指定されたタイプが、当該メッセージが受信されるノード内で実行されているキャッシュインスタンスによってサポートされていることを保証することができる。
一実施形態によれば、ステップ7103で、この方法は、関連するタイプに対するハッシュ構造を用いて、関連するインデックス(すなわち、受信メッセージの、指定されたタイプをサポートするインデックス)を探索することができる。
一実施形態によれば、ステップ7104で、インデックスが見つかった場合、この方法は、見つかったインデックス(すなわち、見つかったインデックスを意味する、関連するタイプをサポートする正しい見つかったインデックス)を用いて、関連するレコード(すなわち、GRHまたはGUID/LIDおよびLIDマッピング)を探索することができる。
一実施形態によれば、ステップ7105で、この方法は、探索されたレコードから要求された情報を返すことができる。
一実施形態によれば、ステップ7106で、インデックスが見つからない/位置を突き止められない場合、この方法は、インデックスが見つからない、および/または指定されたタイプがサポートされていない、というメッセージを返すことができる。
図72は、一実施形態による、高性能コンピューティング環境において、デフォルトのIBマルチキャストグループを介して、組み合わされたIBおよびIPアドレスならびに名前解決スキームを提供する方法のフローチャートを示す。
実施形態によれば、ステップ7210で、この方法は、1つ以上のマイクロプロセッサにおいて、第1のサブネットを提供することができ、第1のサブネットは複数のスイッチを含み、複数のスイッチは少なくともリーフスイッチを含み、複数のスイッチの各々は、複数のスイッチポートのうちの少なくとも1つのスイッチポートを含み、第1のサブネットは、さらに、複数のホストチャネルアダプタを含み、各ホストチャネルアダプタは、複数のホストチャネルアダプタポートのうちの少なくとも1つのホストチャネルアダプタポートを含み、複数のホストチャネルアダプタは複数のスイッチを介して相互接続され、第1のサブネットは、さらに、サブネットマネージャを含み、サブネットマネージャは、複数のスイッチおよび複数のホストチャネルアダプタの一方で実行される。
一実施形態によれば、ステップ7220で、この方法は、第1のサブネットに関連して、ハッシュ関数を提供することができる。
一実施形態によれば、ステップ7230で、この方法は、インフィニバンドアドレスマッピングを求める、アプリケーション固有の引数を含む要求を受信することができる。
一実施形態によれば、ステップ7240で、この方法は、ハッシュ関数との関連においてアプリケーション固有の引数に基づいてIBアドレスマッピングを発行することができ、アプリケーション固有の引数は、IPアドレス、TLV、記号名、またはMACアドレスの1つである。
本発明の様々な実施形態を説明してきたが、上記実施形態が限定ではなく例示として提示されていることが理解されるべきである。上記実施形態は、本発明の原理およびその実際の適用例を説明するために選択され記載されたものである。上記実施形態は、新たな特徴および/もしくは改善された特徴を提供することによって、ならびに/または、リソース利用の低減、容量の増加、効率の向上および待ち時間の低下などの利点を提供することによって、システムおよび方法の性能を向上させるために本発明が利用されているシステムおよび方法を例示している。
いくつかの実施形態においては、本発明の特徴は、全体的または部分的に、プロセッサ、メモリなどの記憶媒体、および他のコンピュータと通信するためのネットワークカードを含むコンピュータにおいて実現される。いくつかの実施形態においては、本発明の特徴は、コンピュータの1つ以上のクラスタがローカルエリアネットワーク(Local Area Network:LAN)、スイッチファブリックネットワーク(例えば、インフィニバンド)、またはワイドエリアネットワーク(Wide Area Network:WAN)などのネットワークによって接続されている分散コンピューティング環境において実現される。分散コンピューティング環境は、一箇所において全てのコンピュータを有していてもよく、または、WANによって接続されているさまざまな遠隔地理位置においてコンピュータのクラスタを有していてもよい。
いくつかの実施形態においては、本発明の特徴は、全体的または部分的に、ウェブ技術を用いたセルフサービスの調整された態様でユーザに送達される共有型で融通性のあるリソースに基づいて、クラウド・コンピューティング・システムの一部またはサービスとしてクラウドにおいて実現される。(米国標準技術局(National Institute of Standards and Technology)よって定義される)クラウドの5つの特徴がある。すなわち、オン・デマンドのセルフサービス、広域ネットワークアクセス、リソースプール化、高速伸縮性、およびメジャードサービスである。例えば、本明細書に引用によって援用されている「クラウドコンピューティングのNIST定義(The NIST Definition of Cloud Computing)」(特殊出版(Special Publication)800~145(2011))を参照されたい。クラウド展開モデルは、パブリック、プライベートおよびハイブリッドを含む。クラウドサービスモデルは、ソフトウェア・アズ・ア・サービス(Software as a Service:SaaS)、プラットフォーム・アズ・ア・サービス(Platform as a Service:PaaS)、データベース・アズ・ア・サービス(Database as a Service:DBaaS)およびインフラストラクチャ・アズ・ア・サービス(Infrastructure as a Service:IaaS)を含む。本明細書で使用するとき、クラウドは、セルフサービスの調整された態様で、共有される融通性のあるリソースをユーザに対して配信する、ハードウェア技術とソフトウェア技術とネットワーク技術とウェブ技術とを組合せたものである。特に指定がなければ、クラウドは、本明細書で使用するとき、パブリッククラウド、プライベートクラウドおよびハイブリッドクラウドの実施形態を包含しており、全てのクラウド展開モデルは、クラウドSaaS、クラウドDBaaS、クラウドPaaSおよびクラウドIaaSを含むもののこれらに限定されない。
いくつかの実施形態においては、本発明の特徴が、ハードウェア、ソフトウェア、ファームウェアまたはそれらの組合せを用いて、またはそれらの組合せの助けを借りて実現される。いくつかの実施形態においては、本発明の特徴は、本発明の1つ以上の機能を実行するように構成されたかまたはプログラムされたプロセッサを用いて実現される。プロセッサは、いくつかの実施形態においては、シングルプロセッサもしくはマルチチッププロセッサ、デジタル信号プロセッサ(digital signal processor:DSP)、システム・オン・ア・チップ(system on a chip:SOC)、特定用途向け集積回路(application specific integrated circuit:ASIC)、フィールドプログラマブルゲートアレイ(field programmable gate array:FPGA)もしくは他のプログラマブルロジックデバイス、ステートマシン、離散的なゲートもしくはトランジスタ論理、離散的なハードウェアコンポーネント、または、本明細書に記載される機能を実行するように設計されたそれらのいずれかの組合せである。いくつかの実現例においては、本発明の特徴が、特定の機能に特化した回路類によって実現され得る。他の実現例においては、これらの特徴は、例えば、コンピュータ可読記憶媒体上に格納された命令を用いて特定の機能を実行するように構成されたプロセッサにおいて実現され得る。
いくつかの実施形態においては、本発明の特徴は、処理システムおよび/またはネットワーキングシステムのハードウェアを制御するために、かつ、プロセッサおよび/またはネットワークが本発明の特徴を利用する他のシステムと対話することを可能にするために、ソフトウェアおよび/またはファームウェアに組込まれている。このようなソフトウェアまたはファームウェアは、アプリケーションコード、デバイスドライバ、オペレーティングシステム、仮想マシン、ハイパーバイザ、アプリケーションプログラミングインターフェイス、プログラミング言語、および実行環境/コンテナを含み得るがこれらに限定されない。適切なソフトウェアコーディングは、ソフトウェア技術に精通した当業者にとって明らかになるように、熟練したプログラマであれば本開示の教示に基づいて容易に準備することができる。
いくつかの実施形態においては、本発明は、命令が格納された記憶媒体またはコンピュータ可読媒体であるコンピュータプログラムプロダクトを含む。これらの命令を用いて、本発明の処理または機能のいずれかを実行するように、コンピュータなどのシステムをプログラムするか、または他の方法で構成することができる。記憶媒体またはコンピュータ可読媒体は、フロッピー(登録商標)ディスク、光ディスク、DVD、CD-ROM、マイクロドライブ、および磁気光ディスクを含む任意のタイプのディスク、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、フラッシュメモリデバイス、磁気または光カード、ナノシステム(分子メモリICを含む)、ならびに、命令および/またはデータを格納するのに適した任意のタイプの媒体または装置、を含み得るが、これらには限定されない。特定の実施形態においては、記憶媒体またはコンピュータ可読媒体は、非一時的な記憶媒体または非一時的なコンピュータ可読媒体である。
上述の記載は、網羅的となるように意図されたものではなく、または、本発明を開示通りの形態に限定するように意図されたものではない。また、本発明の実施形態を特定の一連のトランザクションおよびステップを用いて説明したが、本発明の範囲が上述の一連のトランザクションおよびステップに限定されないことは、当業者にとって明らかであろう。さらに、本発明の実施形態をハードウェアとソフトウェアとの特定の組合せを用いて説明したが、ハードウェアとソフトウェアとの他の組合せが本発明の範囲内にあることも認識すべきである。さらに、さまざまな実施形態で本発明の特徴の特定の組合せを記載したが、一実施形態の特徴が別の実施形態に組込まれ得るというように、これらの特徴の異なる組合せが本発明の範囲内にあることは当業者にとって明らかであることを理解すべきである。さらに、本発明の精神および範囲から逸脱することなく、形態、詳細、実施および用途のさまざまな追加、削減、削除、変形および他の変更がなされ得ることも、当業者にとっては明らかであろう。より広い本発明の精神および範囲を添付の特許請求の範囲およびその均等物によって規定することを意図している。

Claims (10)

  1. 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するための方法であって、
    サブネットのサブネットマネージャが、マルチキャストグループを作成する要求を受信することを備え、前記要求はインジケータを含み、前記インジケータは前記サブネットで定義されるパーティションの各メンバーが前記マルチキャストグループに関連付けられることを示し、前記方法はさらに、
    前記サブネットマネージャが、前記サブネットで定義される前記パーティションのメンバーである、ある数の追加のエンドポートを判断することと、
    前記サブネットマネージャが、前記パーティションのメンバーである前記ある数の追加のエンドポートを、前記マルチキャストグループを定義する識別子に関連付けることと、
    前記サブネットマネージャが、前記マルチキャストグループを定義する前記識別子を含むマルチキャストパケットを、前記マルチキャストグループを定義する前記識別子に関連付けられる各エンドポートに配信する少なくとも1つのスパニングツリールートを定義することとを備え、
    前記少なくとも1つのスパニングツリールートは、前記サブネット内においてスパニングツリーアルゴリズムを介して判断され
    前記パーティションの各メンバーは、第1のパーティションメンバー識別子または第2のパーティションメンバー識別子に関連付けられ、
    前記第1のパーティションメンバー識別子に関連付けられたメンバーは、前記第1のパーティションメンバー識別子に関連付けられた他のメンバーまたは前記第2のパーティションメンバー識別子に関連付けられたメンバーへマルチキャストパケットを送信することを許可され、
    前記第2のパーティションメンバー識別子に関連付けられたメンバーは、前記第2のパーティションメンバー識別子に関連付けられた他のメンバーからマルチキャストパケットを受信することを禁止され、
    前記サブネットマネージャは、前記第1のパーティションメンバー識別子用のスパニングツリールートおよび前記第2のパーティションメンバー識別子用のスパニングツリールートを判断する、高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供する方法。
  2. 前記マルチキャストグループを作成する要求は、管理インターフェイスから受信される、請求項1に記載の方法。
  3. 前記マルチキャストグループを作成する要求は、前記サブネットのエンドノードから受信される、請求項1または2に記載の方法。
  4. 前記マルチキャストグループを作成する要求は管理データグラムパケットを含み、前記管理データグラムパケットはメソッドおよびメソッド属性を指定し、前記インジケータは前記メソッド属性に設定されるビットである、請求項1~3のいずれかに記載の方法。
  5. 前記メソッドはSubnAdmSet()であり、前記メソッド属性はMCMemberRecordである、請求項4に記載の方法。
  6. 前記マルチキャストグループを作成する要求は、前記パーティションを作成する要求に含まれるフラグの結果として管理サービスによって生成される、請求項1~5のいずれかに記載の方法。
  7. 前記フラグは、インターネットプロトコルオーバーインフィニバンド(IPoIB)フラグである、請求項6に記載の方法。
  8. 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するためのシステムであって、前記システムはサブネットのサブネットマネージャを含み、前記サブネットマネージャはプロセッサを含み、前記プロセッサは、
    マルチキャストグループを作成する要求を受信するよう構成され、前記要求はインジケータを含み、前記インジケータは前記サブネットで定義されるパーティションの各メンバーが前記マルチキャストグループに関連付けられることを示し、前記プロセッサはさらに、
    前記サブネットで定義される前記パーティションのメンバーである、ある数の追加のエンドポートを判断し、
    前記パーティションのメンバーである前記ある数の追加のエンドポートを、前記マルチキャストグループを定義する識別子に関連付け、
    前記マルチキャストグループを定義する前記識別子を含むマルチキャストパケットを、前記マルチキャストグループを定義する前記識別子に関連付けられる各エンドポートに配信する少なくとも1つのスパニングツリールートを定義するように構成され、
    前記少なくとも1つのスパニングツリールートは、前記サブネット内においてスパニングツリーアルゴリズムを介して判断され
    前記パーティションの各メンバーは、第1のパーティションメンバー識別子または第2のパーティションメンバー識別子に関連付けられ、
    前記第1のパーティションメンバー識別子に関連付けられたメンバーは、前記第1のパーティションメンバー識別子に関連付けられた他のメンバーまたは前記第2のパーティションメンバー識別子に関連付けられたメンバーへマルチキャストパケットを送信することを許可され、
    前記第2のパーティションメンバー識別子に関連付けられたメンバーは、前記第2のパーティションメンバー識別子に関連付けられた他のメンバーからマルチキャストパケットを受信することを禁止され、
    前記サブネットマネージャは、前記第1のパーティションメンバー識別子用のスパニングツリールートおよび前記第2のパーティションメンバー識別子用のスパニングツリールートを判断する、高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するためのシステム。
  9. 請求項1~6のいずれか1項に記載の方法をコンピューターに実行させるプログラム命令を含むコンピュータプログラム。
  10. 請求項1~6のいずれか1項に記載の方法を実行するための手段を備える装置。
JP2019552237A 2017-03-24 2018-03-22 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法 Active JP7105248B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022077499A JP7411719B2 (ja) 2017-03-24 2022-05-10 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法
JP2023217956A JP2024038087A (ja) 2017-03-24 2023-12-25 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法

Applications Claiming Priority (29)

Application Number Priority Date Filing Date Title
US201762476423P 2017-03-24 2017-03-24
US62/476,423 2017-03-24
US201762547225P 2017-08-18 2017-08-18
US201762547255P 2017-08-18 2017-08-18
US201762547213P 2017-08-18 2017-08-18
US201762547260P 2017-08-18 2017-08-18
US201762547259P 2017-08-18 2017-08-18
US201762547258P 2017-08-18 2017-08-18
US201762547261P 2017-08-18 2017-08-18
US201762547203P 2017-08-18 2017-08-18
US201762547264P 2017-08-18 2017-08-18
US201762547218P 2017-08-18 2017-08-18
US201762547223P 2017-08-18 2017-08-18
US201762547206P 2017-08-18 2017-08-18
US62/547,218 2017-08-18
US62/547,260 2017-08-18
US62/547,264 2017-08-18
US62/547,206 2017-08-18
US62/547,223 2017-08-18
US62/547,258 2017-08-18
US62/547,259 2017-08-18
US62/547,225 2017-08-18
US62/547,255 2017-08-18
US62/547,261 2017-08-18
US62/547,213 2017-08-18
US62/547,203 2017-08-18
US15/927,448 2018-03-21
US15/927,448 US10432414B2 (en) 2017-03-24 2018-03-21 System and method to provide multicast group membership defined relative to partition membership in a high performance computing environment
PCT/US2018/023837 WO2018175771A1 (en) 2017-03-24 2018-03-22 System and method to provide multicast group membership defined relative to partition membership in a high performance computing environment

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022077499A Division JP7411719B2 (ja) 2017-03-24 2022-05-10 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法

Publications (2)

Publication Number Publication Date
JP2020515188A JP2020515188A (ja) 2020-05-21
JP7105248B2 true JP7105248B2 (ja) 2022-07-22

Family

ID=63581182

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2019552237A Active JP7105248B2 (ja) 2017-03-24 2018-03-22 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法
JP2019551952A Active JP6899445B2 (ja) 2017-03-24 2018-03-22 高性能コンピューティング環境においてサブネットアドミニストレータアクセスの必要性を低減するために同種のファブリック属性を提供するシステムおよび方法
JP2022077499A Active JP7411719B2 (ja) 2017-03-24 2022-05-10 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法
JP2023217956A Pending JP2024038087A (ja) 2017-03-24 2023-12-25 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2019551952A Active JP6899445B2 (ja) 2017-03-24 2018-03-22 高性能コンピューティング環境においてサブネットアドミニストレータアクセスの必要性を低減するために同種のファブリック属性を提供するシステムおよび方法
JP2022077499A Active JP7411719B2 (ja) 2017-03-24 2022-05-10 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法
JP2023217956A Pending JP2024038087A (ja) 2017-03-24 2023-12-25 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法

Country Status (5)

Country Link
US (9) US10630499B2 (ja)
EP (2) EP3602963B1 (ja)
JP (4) JP7105248B2 (ja)
CN (2) CN110603785B (ja)
WO (2) WO2018175771A1 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9882968B1 (en) 2014-12-09 2018-01-30 Amazon Technologies, Inc. Virtual network interface multiplexing
US10630499B2 (en) 2017-03-24 2020-04-21 Oracle International Corporation System and method to provide path records derived from ARP responses and peer-to-peer negotiation based on homogeneous fabric attribute in a high performance computing environment
US10868685B2 (en) 2017-03-24 2020-12-15 Oracle International Corporation System and method to provide explicit multicast local identifier assignment for per-partition default multicast local identifiers defined as subnet manager policy input in a high performance computing environment
US10841199B2 (en) 2017-03-24 2020-11-17 Oracle International Corporation System and method for optimized path record handling in homogenous fabrics without host stack cooperation in a high performance computing environment
US10868686B2 (en) 2017-03-24 2020-12-15 Oracle International Corporation System and method to provide default multicast group (MCG) for announcements and discovery as extended port information in a high performance computing environment
US10862694B2 (en) 2017-03-24 2020-12-08 Oracle International Corporation System and method to provide default multicast proxy for scalable forwarding of announcements and information request intercepting in a high performance computing environment
US11968132B2 (en) 2017-03-24 2024-04-23 Oracle International Corporation System and method to use queue pair 1 for receiving multicast based announcements in multiple partitions in a high performance computing environment
US10461947B2 (en) 2017-03-24 2019-10-29 Oracle International Corporation System and method to provide default multicast lid values per partition as additional SMA attributes in a high performance computing environment
US10693815B2 (en) 2017-03-24 2020-06-23 Oracle International Corporation System and method to use all incoming multicast packets as a basis for GUID to LID cache contents in a high performance computing environment
US10601765B2 (en) 2017-03-24 2020-03-24 Oracle International Corporation System and method to provide combined IB and IP address and name resolution schemes via default IB multicast groups in a high performance computing environment
US11102108B2 (en) 2017-08-31 2021-08-24 Oracle International Corporation System and method for a multicast send duplication instead of replication in a high performance computing environment
US11356327B2 (en) 2017-08-31 2022-06-07 Oracle International Corporation System and method for a single logical IP subnet across multiple independent layer 2 (L2) subnets in a high performance computing environment
US11567969B2 (en) * 2018-05-29 2023-01-31 Sap Se Unbalanced partitioning of database for application data
CN109743254B (zh) * 2018-12-25 2021-06-08 新华三技术有限公司 报文转发方法、pe设备及堆叠系统
CN113016163A (zh) * 2019-01-29 2021-06-22 甲骨文国际公司 用于高性能计算环境中跨多个独立的层2(l2)子网的单个逻辑ip子网的系统和方法
CN111614424B (zh) * 2019-02-22 2022-01-25 大唐移动通信设备有限公司 一种子网融合方法、装置、节点及存储介质
US11089507B2 (en) 2019-04-02 2021-08-10 Cisco Technology, Inc. Scalable reachability for movable destinations attached to a leaf-spine switching architecture
JP7193734B2 (ja) * 2019-04-16 2022-12-21 富士通株式会社 通信制御プログラム、通信制御方法および情報処理装置
JP7193733B2 (ja) * 2019-04-16 2022-12-21 富士通株式会社 通信制御プログラム、通信制御方法および情報処理装置
US11178060B2 (en) * 2019-10-08 2021-11-16 Hewlett Packard Enterprise Development Lp Self forming local fabric
US11238019B2 (en) * 2020-05-29 2022-02-01 Microsoft Technology Licensing, Llc Distributed database systems partition merge
CN112073321B (zh) * 2020-11-16 2021-02-09 北京壁仞科技开发有限公司 信息处理方法、互连设备和计算机可读存储介质
CN112671808B (zh) * 2021-03-16 2021-07-13 北京顺谋科技有限公司 互联网数据传输防篡改哨兵系统及互联网数据传输系统
CN114338269B (zh) * 2021-12-24 2023-10-20 北京东土科技股份有限公司 数据传输方法、装置、宽带现场总线设备、系统及介质
WO2023135674A1 (ja) * 2022-01-12 2023-07-20 日本電信電話株式会社 処理システム、処理装置、処理方法およびプログラム
US20230318969A1 (en) * 2022-03-31 2023-10-05 Lenovo (United States) Inc. Optimizing network load in multicast communications

Family Cites Families (87)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5355371A (en) 1982-06-18 1994-10-11 International Business Machines Corp. Multicast communication tree creation and control method and apparatus
CA2094410C (en) 1992-06-18 1998-05-05 Joshua Seth Auerbach Distributed management communications network
US5748736A (en) * 1996-06-14 1998-05-05 Mittra; Suvo System and method for secure group communications via multicast or broadcast
US6671276B1 (en) * 1997-11-18 2003-12-30 Nec Corporation Switch based network architecture for IP multicast and integrated services
US6711163B1 (en) 1999-03-05 2004-03-23 Alcatel Data communication system with distributed multicasting
US6917985B2 (en) * 2000-03-10 2005-07-12 The Regents Of The University Of California Core assisted mesh protocol for multicast routing in ad-hoc Networks
US6738376B1 (en) 2000-04-07 2004-05-18 International Business Machines Corporation Method and system for managing multicast traffic
US7136907B1 (en) * 2000-10-19 2006-11-14 International Business Machines Corporation Method and system for informing an operating system in a system area network when a new device is connected
US7133929B1 (en) 2000-10-24 2006-11-07 Intel Corporation System and method for providing detailed path information to clients
US20040213220A1 (en) 2000-12-28 2004-10-28 Davis Arlin R. Method and device for LAN emulation over infiniband fabrics
WO2002062021A1 (en) * 2001-01-31 2002-08-08 International Business Machines Corporation Providing control information to a management processor of a communications switch
US6944786B2 (en) 2001-07-27 2005-09-13 International Business Machines Corporation Network node failover using multicast address or port
US7016299B2 (en) * 2001-07-27 2006-03-21 International Business Machines Corporation Network node failover using path rerouting by manager component or switch port remapping
US7116673B2 (en) 2001-08-09 2006-10-03 International Business Machines Corporation Queue pair resolution in infiniband fabrics
US8935333B2 (en) * 2001-08-09 2015-01-13 International Business Machines Corporation Implementing multicast on a system area network channel adapter
US20030236900A1 (en) 2002-05-14 2003-12-25 Hsiao-Keng Chu Method and apparatus for facilitating the implementation of an IP link over an InfiniBand network
US7307996B2 (en) 2002-07-30 2007-12-11 Brocade Communications Systems, Inc. Infiniband router having an internal subnet architecture
US7401157B2 (en) 2002-07-30 2008-07-15 Brocade Communications Systems, Inc. Combining separate infiniband subnets into virtual subnets
US20040030763A1 (en) 2002-08-08 2004-02-12 Manter Venitha L. Method for implementing vendor-specific mangement in an inifiniband device
US7283473B2 (en) * 2003-04-10 2007-10-16 International Business Machines Corporation Apparatus, system and method for providing multiple logical channel adapters within a single physical channel adapter in a system area network
US7493409B2 (en) * 2003-04-10 2009-02-17 International Business Machines Corporation Apparatus, system and method for implementing a generalized queue pair in a system area network
US7171568B2 (en) 2003-06-13 2007-01-30 International Business Machines Corporation Remote power control in a multi-node, partitioned data processing system
US7574526B2 (en) * 2003-07-31 2009-08-11 International Business Machines Corporation Multicast group management in infiniband
US7295525B2 (en) 2003-09-11 2007-11-13 Sun Microsystems, Inc. System and method for managing multicast group membership
US7428598B2 (en) 2003-11-20 2008-09-23 International Business Machines Corporation Infiniband multicast operation in an LPAR environment
US7362764B2 (en) * 2004-06-08 2008-04-22 Sun Microsystems, Inc. Method and apparatus for verifying service level in a communications network
US7733855B1 (en) 2004-06-08 2010-06-08 Oracle America, Inc. Community separation enforcement
US7602712B2 (en) 2004-06-08 2009-10-13 Sun Microsystems, Inc. Switch method and apparatus with cut-through routing for use in a communications network
US7835301B1 (en) * 2005-04-15 2010-11-16 Nvidia Corporation Extended service set mesh topology representation
US7620981B2 (en) * 2005-05-26 2009-11-17 Charles William Frank Virtual devices and virtual bus tunnels, modules and methods
CN1980178A (zh) 2005-12-03 2007-06-13 鸿富锦精密工业(深圳)有限公司 网络装置及其转发多播封包的方法
US7724678B1 (en) 2006-06-14 2010-05-25 Oracle America, Inc. Method and apparatus for testing a communication link
US7698408B1 (en) 2006-07-24 2010-04-13 Oracle America, Inc. Method and apparatus for testing a network
US7801027B2 (en) 2006-08-30 2010-09-21 Mellanox Technologies Ltd. Auto-negotiation by nodes on an infiniband fabric
US8249068B2 (en) 2006-10-20 2012-08-21 Alcatel Lucent Method and apparatus for establishing multicast groups
US20080192654A1 (en) * 2007-02-09 2008-08-14 Timothy Roy Block Method, Apparatus, and Computer Program Product for Implementing Infiniband Network Topology Simplification
US20090077268A1 (en) * 2007-09-14 2009-03-19 International Business Machines Corporation Low Latency Multicast for Infiniband Host Channel Adapters
US8041773B2 (en) 2007-09-24 2011-10-18 The Research Foundation Of State University Of New York Automatic clustering for self-organizing grids
US7782869B1 (en) 2007-11-29 2010-08-24 Huawei Technologies Co., Ltd. Network traffic control for virtual device interfaces
US7962564B2 (en) * 2008-02-25 2011-06-14 International Business Machines Corporation Discovery of a virtual topology in a multi-tasking multi-processor environment
US8949389B1 (en) 2008-03-31 2015-02-03 Intel Corporation Method and system for configuring virtual fabrics
US8225182B2 (en) 2009-10-04 2012-07-17 Mellanox Technologies Ltd. Processing of block and transaction signatures
US9660864B2 (en) 2009-10-16 2017-05-23 Brocade Communications Systems, Inc. Staged port initiation of inter switch links
US20110137991A1 (en) * 2009-12-01 2011-06-09 Lester Paul Russell Systems and methods for management and collaboration in a private network
US8374182B2 (en) * 2010-08-13 2013-02-12 Juniper Networks, Inc. Virtual local area network (VLAN)-based membership for multicast VLAN registration
US8443078B2 (en) 2010-08-20 2013-05-14 International Business Machines Corporation Method of determining equivalent subsets of agents to gather information for a fabric
WO2012037518A1 (en) 2010-09-17 2012-03-22 Oracle International Corporation System and method for facilitating protection against run-away subnet manager instances in a middleware machine environment
US10063544B2 (en) 2011-06-03 2018-08-28 Oracle International Corporation System and method for supporting consistent handling of internal ID spaces for different partitions in an infiniband (IB) network
KR20120140076A (ko) 2011-06-20 2012-12-28 한국전자통신연구원 대용량 스위치를 위한 고확장성의 멀티캐스팅 패킷 포워딩 장치 및 방법
US9402271B2 (en) 2011-06-27 2016-07-26 Brocade Communications Systems, Inc. Converged wireless local area network
US8805672B2 (en) 2011-06-30 2014-08-12 International Business Machines Corporation Translation cache prediction
CN103621048B (zh) 2011-07-11 2016-08-17 甲骨文国际公司 在中间件机器环境中利用多播组和分组处理代理中的至少一种来支持泛洪机制的系统与方法
US8739273B2 (en) * 2011-07-11 2014-05-27 Oracle International Corporation System and method for supporting subnet management packet (SMP) firewall restrictions in a middleware machine environment
WO2013028175A1 (en) * 2011-08-23 2013-02-28 Intel Corporation Gid capable switching in an infiniband fabric
US8743878B2 (en) 2011-08-30 2014-06-03 International Business Machines Corporation Path resolve in symmetric infiniband networks
US8780913B2 (en) 2011-08-30 2014-07-15 International Business Machines Corporation Operating an infiniband network having nodes and at least one IB switch
US8665723B2 (en) 2011-08-30 2014-03-04 International Business Machines Corporation Managing data on Infiniband (IB) networks
US8782128B2 (en) * 2011-10-18 2014-07-15 International Business Machines Corporation Global queue pair management in a point-to-point computer network
US8913620B2 (en) * 2012-03-14 2014-12-16 International Business Machines Corporation Multicast traffic generation using hierarchical replication mechanisms for distributed switches
WO2013170205A1 (en) * 2012-05-10 2013-11-14 Oracle International Corporation System and method for supporting state synchronization in a network environment
US9584605B2 (en) 2012-06-04 2017-02-28 Oracle International Corporation System and method for preventing denial of service (DOS) attack on subnet administrator (SA) access in an engineered system for middleware and application execution
US9898317B2 (en) * 2012-06-06 2018-02-20 Juniper Networks, Inc. Physical path determination for virtual network packet flows
US8989183B2 (en) 2012-10-10 2015-03-24 Microsoft Technology Licensing, Llc Virtual machine multicast/broadcast in virtual network
US9083550B2 (en) * 2012-10-29 2015-07-14 Oracle International Corporation Network virtualization over infiniband
US9319922B2 (en) * 2012-12-18 2016-04-19 Rajant Corporation System and method for multicast over highly mobile mesh networks
US9385949B2 (en) * 2012-12-20 2016-07-05 Mellanox Technologies Tlv Ltd. Routing controlled by subnet managers
US8937949B2 (en) * 2012-12-20 2015-01-20 Oracle International Corporation Method and system for Infiniband host channel adapter multicast packet replication mechanism
US9203750B2 (en) * 2013-02-13 2015-12-01 Red Hat Israel, Ltd. Ethernet frame translation to internet protocol over infiniband
US9467366B2 (en) * 2013-07-03 2016-10-11 Avaya Inc. Method and apparatus providing single-tier routing in a shortest path bridging (SPB) network
US9602294B1 (en) * 2013-09-30 2017-03-21 Juniper Networks, Inc. Rendezvous point link resiliency for bidirectional protocol independent multicast (PIM-BIDIR)
JP2015088051A (ja) 2013-10-31 2015-05-07 富士通株式会社 情報処理装置、方法、及びプログラム
CN103618659A (zh) * 2013-11-22 2014-03-05 上海电机学院 一种基于逻辑环的可靠多播方法
US9419811B2 (en) * 2014-04-17 2016-08-16 Cisco Technology, Inc. Automatic fabric multicast group selection in a dynamic fabric automation network architecture
US9723008B2 (en) 2014-09-09 2017-08-01 Oracle International Corporation System and method for providing an integrated firewall for secure network communication in a multi-tenant environment
US9747249B2 (en) 2014-12-29 2017-08-29 Nicira, Inc. Methods and systems to achieve multi-tenancy in RDMA over converged Ethernet
US10536357B2 (en) * 2015-06-05 2020-01-14 Cisco Technology, Inc. Late data detection in data center
US10142353B2 (en) * 2015-06-05 2018-11-27 Cisco Technology, Inc. System for monitoring and managing datacenters
US20170026282A1 (en) * 2015-07-21 2017-01-26 Intel IP Corporation Configuration of Data Path Groups in Wireless Networks
US10432470B2 (en) 2015-09-23 2019-10-01 International Business Machines Corporation Distributed subnet manager for InfiniBand networks
US10594547B2 (en) * 2016-01-27 2020-03-17 Oracle International Corporation System and method for application of virtual host channel adapter configuration policies in a high-performance computing environment
US10050770B2 (en) * 2016-09-29 2018-08-14 Intel Corporation Positioning system configuration with round trip time
US10949235B2 (en) 2016-12-12 2021-03-16 Intel Corporation Network semantics integrated into central processing unit (CPU) chipset
US10841195B2 (en) 2017-02-10 2020-11-17 Oracle International Corporation System and method for controlled re-cabling and link testing for switches and switch ports in a high performance computing network
US10461947B2 (en) 2017-03-24 2019-10-29 Oracle International Corporation System and method to provide default multicast lid values per partition as additional SMA attributes in a high performance computing environment
US10868685B2 (en) 2017-03-24 2020-12-15 Oracle International Corporation System and method to provide explicit multicast local identifier assignment for per-partition default multicast local identifiers defined as subnet manager policy input in a high performance computing environment
US10630499B2 (en) * 2017-03-24 2020-04-21 Oracle International Corporation System and method to provide path records derived from ARP responses and peer-to-peer negotiation based on homogeneous fabric attribute in a high performance computing environment
US10942666B2 (en) * 2017-10-13 2021-03-09 Cisco Technology, Inc. Using network device replication in distributed storage clusters

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
H.K. Jerry Chu, et al.,IP link and multicast over InfiniBand networks,INTERNET-DRAFT,IETF,2003年06月,https://tools.ietf.org/pdf/draft-ietf-ipoib-link-multicast-04.pdf
MAMIDALA, Amith R.; JIN, Hyun-Wook; PANDA, Dhabaleswar K.,Efficient Hardware Multicast Group Management for Multiple MPI Communicators over InfiniBand,In: European Parallel Virtual Machine/Message Passing Interface Users’ Group Meeting ,Springer,2005年,pp. 388-398
NAKAMURA Minoru,InfiniBand プログラムに必要な基本的な概念 [ONLINE],2014年05月11日,http://www.nminoru.jp/~nminoru/network/infiniband/iba-concept.html
ZHOU, Jiazheng; LIN, Xuan-Yi; CHUNG, Yeh-Ching,Hardware supported multicast in fat-tree-based InfiniBand networks,The Journal of Supercomputing,2007年,40.3,pp. 333-352

Also Published As

Publication number Publication date
US11695583B2 (en) 2023-07-04
CN110574340B (zh) 2022-07-05
EP3602962A1 (en) 2020-02-05
EP3602963B1 (en) 2021-04-21
US20200007351A1 (en) 2020-01-02
EP3602962B1 (en) 2022-10-05
US20220086017A1 (en) 2022-03-17
US20180278513A1 (en) 2018-09-27
US20180278491A1 (en) 2018-09-27
US20200259671A1 (en) 2020-08-13
US11949530B2 (en) 2024-04-02
US10673644B2 (en) 2020-06-02
US20180278578A1 (en) 2018-09-27
US10630499B2 (en) 2020-04-21
JP2022122873A (ja) 2022-08-23
CN110603785A (zh) 2019-12-20
CN110603785B (zh) 2022-06-28
WO2018175771A1 (en) 2018-09-27
US10432414B2 (en) 2019-10-01
US11139994B2 (en) 2021-10-05
US20180278429A1 (en) 2018-09-27
EP3602963A1 (en) 2020-02-05
JP2024038087A (ja) 2024-03-19
CN110574340A (zh) 2019-12-13
JP2020515188A (ja) 2020-05-21
US10560277B2 (en) 2020-02-11
US11184185B2 (en) 2021-11-23
US20210399909A1 (en) 2021-12-23
US20180278430A1 (en) 2018-09-27
US10530594B2 (en) 2020-01-07
JP7411719B2 (ja) 2024-01-11
JP6899445B2 (ja) 2021-07-07
JP2020512638A (ja) 2020-04-23
WO2018175778A1 (en) 2018-09-27

Similar Documents

Publication Publication Date Title
JP7411719B2 (ja) 高性能コンピューティング環境においてパーティションメンバーシップに関連して定義されるマルチキャストグループメンバーシップを提供するシステムおよび方法
US11405229B2 (en) System and method to provide explicit multicast local identifier assignment for per-partition default multicast local identifiers defined as subnet manager policy input in a high performance computing environment
US11218400B2 (en) System and method for optimized path record handling in homogeneous fabrics without host stack cooperation in a high performance computing environment
US10461947B2 (en) System and method to provide default multicast lid values per partition as additional SMA attributes in a high performance computing environment
US10868686B2 (en) System and method to provide default multicast group (MCG) for announcements and discovery as extended port information in a high performance computing environment
US10693815B2 (en) System and method to use all incoming multicast packets as a basis for GUID to LID cache contents in a high performance computing environment
US11968132B2 (en) System and method to use queue pair 1 for receiving multicast based announcements in multiple partitions in a high performance computing environment
US10862694B2 (en) System and method to provide default multicast proxy for scalable forwarding of announcements and information request intercepting in a high performance computing environment
US10601765B2 (en) System and method to provide combined IB and IP address and name resolution schemes via default IB multicast groups in a high performance computing environment

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191217

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210806

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220510

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220510

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220527

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220711

R150 Certificate of patent or registration of utility model

Ref document number: 7105248

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150