JP4604794B2

JP4604794B2 - Internode connection device

Info

Publication number: JP4604794B2
Application number: JP2005093820A
Authority: JP
Inventors: 雄介小林
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 2005-03-29
Filing date: 2005-03-29
Publication date: 2011-01-05
Anticipated expiration: 2025-03-29
Also published as: JP2006279390A

Description

本発明は、集団通信が可能な回線交換方式のノード間接続装置に関する。 The present invention relates to a circuit switching inter-node connection apparatus capable of collective communication.

コンピュータを用いた処理手法として、「並列処理（Parallel Processing）」が知られている。並列処理によれば、複数の計算ノード（以下、「ノード」と参照される）間で処理の同期、分割、スケジューリングが行われ、複数ノードが協調して処理を行う。また、ノード間の通信として、「集団通信（Collective Communication）」が知られている。集団通信は、複数のプロセスから成るグループに関連した通信として定義されており、集団通信においては、複数のプロセス（ＣＰＵ）が同時に通信を行う。ノード数が多い場合、各ノード間で負荷をバランスさせるために、並列処理の集団通信は、複数の通信ステップで実現されることが一般に知られている。 As a processing technique using a computer, “Parallel Processing” is known. According to parallel processing, processing is synchronized, divided, and scheduled between a plurality of computing nodes (hereinafter referred to as “nodes”), and the plurality of nodes perform processing in cooperation. In addition, “collective communication” is known as communication between nodes. Collective communication is defined as communication related to a group consisting of a plurality of processes. In collective communication, a plurality of processes (CPUs) communicate simultaneously. When the number of nodes is large, it is generally known that collective communication in parallel processing is realized by a plurality of communication steps in order to balance the load among the nodes.

図１は、集団通信の例を示す概念図である。図１に示される例においては、４つのノードＮ０〜Ｎ３が用いられる。これらノードのうち、データを送信するノードは、「ソースノード（SN; Source Node）」と呼ばれ、一方、データを受信するノードは、「デスティネーションノード（DN; Destination Node）」と呼ばれる。最初の通信ステップにおいて、ノードＮ０（ＳＮ）はノードＮ１（ＤＮ）にデータを送信し、ノードＮ１（ＳＮ）はノードＮ０（ＤＮ）にデータを送信する。また、ノードＮ２（ＳＮ）はノードＮ３（ＤＮ）にデータを送信し、ノードＮ３（ＳＮ）はノードＮ２（ＤＮ）にデータを送信する。その後、各ノードにおいて演算が行われる。次の通信ステップにおいて、ノードＮ０（ＳＮ）はノードＮ２（ＤＮ）にデータを送信し、ノードＮ１（ＳＮ）はノードＮ３（ＤＮ）にデータを送信する。また、ノードＮ２（ＳＮ）はノードＮ０（ＤＮ）にデータを送信し、ノードＮ３（ＳＮ）はノードＮ１（ＤＮ）にデータを送信する。その後、各ノードにおいて演算が行われる。 FIG. 1 is a conceptual diagram illustrating an example of collective communication. In the example shown in FIG. 1, four nodes N0 to N3 are used. Among these nodes, a node that transmits data is called a “source node (SN)”, while a node that receives data is called a “destination node (DN)”. In the first communication step, the node N0 (SN) transmits data to the node N1 (DN), and the node N1 (SN) transmits data to the node N0 (DN). The node N2 (SN) transmits data to the node N3 (DN), and the node N3 (SN) transmits data to the node N2 (DN). Thereafter, an operation is performed at each node. In the next communication step, the node N0 (SN) transmits data to the node N2 (DN), and the node N1 (SN) transmits data to the node N3 (DN). The node N2 (SN) transmits data to the node N0 (DN), and the node N3 (SN) transmits data to the node N1 (DN). Thereafter, an operation is performed at each node.

このような複数のステップからなる集団通信により、ギャザー、全ノードへのギャザー、リダクション、全ノードへのリダクション等の処理が実行される。例えば、ノードＮ０〜Ｎ３のそれぞれがデータＡ〜データＤを有しているとする。この場合、例えばノードＮ０に対する加算によるリダクション処理が実行されると、複数のステップ後に、ノードＮ０にそれらデータの総和Ａ＋Ｂ＋Ｃ＋Ｄが現れる。このような集団通信においては、通信ステップの進行に伴って、ＳＮとＤＮの関係が一定のルール（規則）に従って遷移する。 By such collective communication consisting of a plurality of steps, processes such as gather, gather to all nodes, reduction, reduction to all nodes, and the like are executed. For example, each of the nodes N0 to N3 has data A to data D. In this case, for example, when the reduction process by addition to the node N0 is executed, the sum A + B + C + D of the data appears at the node N0 after a plurality of steps. In such collective communication, as the communication step proceeds, the relationship between SN and DN transitions according to a certain rule.

また、データ通信方式として、回線交換方式とパケット交換方式が知られている。回線交換方式のノード間接続装置は、データを送信するノードであるＳＮからデータを受信するノードであるＤＮへの通信路を確保する必要がある。また、図１に示されたように、回線交換方式のノード間接続装置は、各通信ステップにおいて各ノードが送信先として要求するＤＮが競合しないように制御を行う。 As data communication systems, a circuit switching system and a packet switching system are known. A circuit switching inter-node connection apparatus needs to secure a communication path from an SN that is a node that transmits data to a DN that is a node that receives data. Also, as shown in FIG. 1, the circuit switching inter-node connection apparatus performs control so that DNs requested by each node as a transmission destination do not compete in each communication step.

図２は、従来の回線交換方式のノード間接続装置による、複数のステップの通信からなる集団通信の制御例を示す概念図である。この例においては、４つのノードＮ０〜Ｎ３とノード間接続装置が用いられ、全ノードへのリダクション処理が行われるとする。複数の通信ステップで実現される集団通信において、ノード間接続装置は、通信ステップごとに通信路を確保する処理を行う。 FIG. 2 is a conceptual diagram illustrating a control example of collective communication including communication of a plurality of steps by a conventional circuit switching inter-node connection apparatus. In this example, it is assumed that four nodes N0 to N3 and an inter-node connection device are used and reduction processing to all nodes is performed. In collective communication realized by a plurality of communication steps, the inter-node connection device performs processing for securing a communication path for each communication step.

図２に示されるように、集団通信の第１ステップにおいて、まず、通信路を確保する処理が行われる。通信路を確保する処理において、各ＳＮは、通信路確保の要求である「ロック要求」をノード間接続装置に送信する。ノード間接続装置は、ＳＮからロック要求を受信した後、そのロック要求に従って通信路（ＤＮ）をロックする処理を行う。通信路のロックに成功した後、ノード間接続装置は、ＳＮに対して通信路確保成功の通知である「ロック要求リプライ」を送信する。各ＳＮは、ロック要求リプライを受信すると、ロックされたＤＮにデータを送信する。その後、各ノードにおいて演算が行われる。 As shown in FIG. 2, in the first step of collective communication, first, processing for securing a communication path is performed. In the process of securing the communication path, each SN transmits a “lock request”, which is a request for securing the communication path, to the inter-node connection device. After receiving the lock request from the SN, the internode connection apparatus performs a process of locking the communication path (DN) according to the lock request. After successfully locking the communication path, the inter-node connection device transmits a “lock request reply” that is a notification of the communication path securing success to the SN. When each SN receives the lock request reply, each SN transmits data to the locked DN. Thereafter, an operation is performed at each node.

集団通信の第２ステップ以降において、まず、ノード間の同期をとる処理が行われる。同期をとる処理において、ＳＮは、同期確保の要求である「同期要求」をノード間接続装置に送信する。ノード間接続装置は、全ＳＮから同期要求を受信した後、その同期要求に従ってノード間の同期をとる処理を行う。ノード間の同期に成功した後、ノード間接続装置は、ＳＮに対して同期確保成功の通知である「同期要求リプライ」を送信する。次に、各ＳＮは、第１ステップと同様に、ロック要求をノード間接続装置に送信する。ノード間接続装置は、ロック処理を行い、ロック要求リプライをＳＮに送信する。各ＳＮは、ロック要求リプライを受信すると、ロックされたＤＮにデータを送信する。その後、各ノードにおいて演算が行われる。 In the second and subsequent steps of collective communication, first, processing for synchronizing nodes is performed. In the process of obtaining synchronization, the SN transmits a “synchronization request”, which is a request for ensuring synchronization, to the internode connection apparatus. After receiving the synchronization request from all the SNs, the inter-node connection device performs processing for synchronizing the nodes according to the synchronization request. After successful synchronization between the nodes, the inter-node connection device transmits a “synchronization request reply” which is a notification of successful synchronization securing to the SN. Next, each SN transmits a lock request to the inter-node connection device as in the first step. The internode connection apparatus performs a lock process and sends a lock request reply to the SN. When each SN receives the lock request reply, each SN transmits data to the locked DN. Thereafter, an operation is performed at each node.

並列処理やリダクション処理に関連する一般的な技術として、以下のものが知られている。 The following are known as general techniques related to parallel processing and reduction processing.

特許文献１は、並列計算機におけるリダクション処理方法を開示している。並列計算機上でリダクション処理を行う際に、計算機個数が２のべき乗でない場合、端数計算機によって従来行われていた処理が、演算部及び収集部に組み込まれる。これにより、端数計算機が２のべき乗個の計算機に転送するデータ量が削減される。そして、端数計算機の処理にかかる時間が短縮される。 Patent Document 1 discloses a reduction processing method in a parallel computer. When performing the reduction process on the parallel computer, if the number of computers is not a power of 2, the processing conventionally performed by the fractional computer is incorporated in the calculation unit and the collection unit. As a result, the amount of data transferred by the fractional computer to a power-of-two computer is reduced. And the time which processing of a fraction calculator takes is shortened.

特許文献２は、並列計算機のリダクション処理装置を開示している。このリダクション処理装置は、保持する演算済みの全データを相互に転送する全データ転送手段と、保持する全データを分割し、分割した各部分データをそれぞれ相互に転送する部分データ転送手段と、全データ転送手段による転送と部分データ転送手段による転送とを切り換える切り換え手段とを備える。切り換え手段は、保持する全データを相互に転送する全データ通信法による全体処理時間を演算する。また、切り換え手段は、保持する全データを分割し、分割した各部分データをそれぞれ相互に転送する部分データ通信法による全体処理時間を演算する。そして、切り換え手段は、全体処理時間の短い通信法を選択する。 Patent Document 2 discloses a reduction processing device for a parallel computer. This reduction processing apparatus includes all data transfer means for transferring all the calculated data to be held mutually, partial data transfer means for dividing all the held data, and transferring each divided partial data to each other, And switching means for switching between transfer by the data transfer means and transfer by the partial data transfer means. The switching means calculates the total processing time according to the all data communication method for transferring all the held data to each other. Further, the switching means divides all the data to be held, and calculates the total processing time by the partial data communication method in which the divided partial data are transferred to each other. The switching means selects a communication method with a short overall processing time.

特許文献３は、複数の処理手段の間で相互に情報を転送することにより各々の処理手段が同期をとって処理を実行する同期処理方法を開示している。この同期処理方法は、（ａ）複数の処理手段でいくつかのプログラムを処理するためにプログラム毎に同期をとるべき処理手段の組み合わせを示す同期組情報を記憶するステップと、（ｂ）自己の処理手段が処理を終了したときに同期待ち状態に至ったことを示す同期状態情報を記憶するステップと、（ｃ）同期状態情報を他の全ての処理手段に送出するステップと、（ｄ）同期組情報に基づき同期組情報により示される全ての処理手段から同期状態情報を受信したか否かを判定するステップと、（ｅ）同期組情報により示される全ての処理手段から同期状態情報が受信された場合、その同期組情報により示される全ての処理手段に対してその同期組情報に対応するプログラムの次の処理に移行させるステップとからなる。 Patent Document 3 discloses a synchronous processing method in which information is transferred between a plurality of processing means so that each processing means performs processing in synchronization. The synchronization processing method includes (a) storing synchronization set information indicating a combination of processing means to be synchronized for each program in order to process several programs by a plurality of processing means; A step of storing synchronization state information indicating that the processing unit has finished processing, and (c) a step of sending the synchronization state information to all other processing units; and (d) synchronization. Determining whether or not synchronization state information has been received from all processing means indicated by the synchronization group information based on the group information; and (e) receiving synchronization state information from all processing means indicated by the synchronization group information. In this case, all processing means indicated by the synchronous group information are transferred to the next process of the program corresponding to the synchronous group information.

特許文献４は、並列計算機のリダクション処理方法を開示している。この方法は、通信ネットワーク接続された並列計算機により、各々が複数の入力データに依存する複数の出力データを生成する計算を処理するための方法である。そのリダクション処理方法は、ブロードキャスト処理の実行により中間結果を得るステップと、その中間結果に基づいてコンビネーション処理を実行するステップとを含む。 Patent Document 4 discloses a reduction processing method for a parallel computer. This method is a method for processing calculations for generating a plurality of output data, each of which depends on a plurality of input data, by a parallel computer connected to a communication network. The reduction processing method includes a step of obtaining an intermediate result by executing a broadcast process, and a step of executing a combination process based on the intermediate result.

特許文献５は、交換機を開示している。この交換機は、クロスコネクト・スイッチング手段と接続手段とを備えている。クロスコネクト・スイッチング手段は、複数のデータ・ユニットと、入力ポートと、出力ポートとを有している。クロスコネクト・スイッチング手段は、入力ポートにおいて受信したデータを出力ポートに転送するために供されるデータ転送パスを提供する。接続手段は、上記入力ポートに接続され、複数のデータ・ユニットのうちの少なくとも２つに接続される。複数のデータ・ユニットは、入力ポートに関係付けられたデータ・デリバリー・グループを構成する。接続手段は、そのデータ・デリバリー・グループの異なるデータ・ユニットから、それぞれ異なる時間に、上記関係付けられた入力ポートにデータを転送するように動作可能である。 Patent Document 5 discloses an exchange. This exchange includes cross-connect switching means and connection means. The cross-connect switching means has a plurality of data units, an input port, and an output port. The cross-connect switching means provides a data transfer path provided for transferring data received at the input port to the output port. The connecting means is connected to the input port and is connected to at least two of the plurality of data units. The plurality of data units form a data delivery group associated with the input port. The connecting means is operable to transfer data from the different data units of the data delivery group to the associated input port at different times.

特許文献６は、マルチプロセッサシステムにおける集団通信装置を開示している。この集団通信装置は、プロセッサグループ定義部と、マスタプロセッサ登録更新部と、集団通信実行制御部と、リスト参照集団通信実行部とを備える。プロセッサグループ定義部は、様々な性能レベルの通信経路で繋がった複数のプロセッサについて、均一な性能レベルの通信経路でデータ転送を実現できるプロセッサの集合を定義し、リストを作成する。マスタプロセッサ登録更新部は、通信要求で指定されたｒｏｏｔプロセッサ指示によってリストを更新する。集団通信実行制御部は、集団通信の種類によってリストの実行順序を制御する。リスト参照集団通信実行部は、リストを使って特定なプロセッサの間で集団通信を行う。 Patent Document 6 discloses a collective communication device in a multiprocessor system. The collective communication apparatus includes a processor group definition unit, a master processor registration update unit, a collective communication execution control unit, and a list reference collective communication execution unit. The processor group definition unit defines a set of processors capable of realizing data transfer through communication paths having a uniform performance level for a plurality of processors connected by communication paths having various performance levels, and creates a list. The master processor registration update unit updates the list according to the root processor instruction specified in the communication request. The collective communication execution control unit controls the execution order of the list according to the type of collective communication. The list reference collective communication execution unit performs collective communication between specific processors using the list.

特開２０００−３３９２７８号公報JP 2000-339278 A 特開２００１−３２５２３９号公報JP 2001-325239 A 特開平０６−１８７３０３号公報Japanese Patent Laid-Open No. 06-187303 特開平０９−８１５３０号公報JP 09-81530 A 特開平１０−１１７２００号公報JP-A-10-117200 特開平１１−１３４３１１号公報JP-A-11-134311

一般に、ノード内のＣＰＵの動作速度と比較して、ノード間通信の伝送時間は非常に大きい。また、ノード数の増加とともに集団通信の通信ステップ数は増加する。従って、ノード数が多いほど、並列処理の時間の総和における通信路確保の処理の時間が占める割合は大きくなる。つまり、集団通信における通信路確保処理は、並列処理効率向上を妨げる一因といえる。 In general, the transmission time for inter-node communication is very long compared to the operating speed of the CPU in the node. Further, the number of communication steps of collective communication increases with the increase in the number of nodes. Therefore, the larger the number of nodes, the greater the proportion of the processing time for securing the communication path in the total time for parallel processing. That is, it can be said that the communication path securing process in collective communication is one factor that hinders the improvement of parallel processing efficiency.

本発明の目的は、複数のステップからなる集団通信において、ノード間の通信路を確保するための処理数を削減することができる回線交換方式のノード間接続装置を提供することにある。 An object of the present invention is to provide a circuit switching type inter-node connection apparatus that can reduce the number of processes for securing a communication path between nodes in collective communication including a plurality of steps.

本発明の他の目的は、並列処理の実行時間を短縮することができる回線交換方式のノード間接続装置を提供することにある。 Another object of the present invention is to provide a circuit switching inter-node connection apparatus that can shorten the execution time of parallel processing.

以下に、［発明を実施するための最良の形態］で使用される番号・符号を用いて、［課題を解決するための手段］を説明する。これらの番号・符号は、［特許請求の範囲］の記載と［発明を実施するための最良の形態］との対応関係を明らかにするために括弧付きで付加されたものである。ただし、それらの番号・符号を、［特許請求の範囲］に記載されている発明の技術的範囲の解釈に用いてはならない。 [Means for Solving the Problems] will be described below using the numbers and symbols used in [Best Mode for Carrying Out the Invention]. These numbers and symbols are added in parentheses in order to clarify the correspondence between the description of [Claims] and [Best Mode for Carrying Out the Invention]. However, these numbers and symbols should not be used for the interpretation of the technical scope of the invention described in [Claims].

本発明によれば、複数のノード（Ｎ０〜Ｎ（Ｍ−１））間において複数の通信ステップで実現される集団通信が可能なノード間接続装置（１０）が提供される。このノード間接続装置（１０）は、複数のノードと通信可能に接続された制御送受信部（２０）と、その制御送受信部（２０）と接続されたロック制御部（３０）とを備える。ロック制御部（３０）は、複数のノードのうち集団通信に参加する参加ノード群のそれぞれに関して通信路のロックを行い、複数の通信ステップにわたって、その通信路のロックを維持する。 ADVANTAGE OF THE INVENTION According to this invention, the inter-node connection apparatus (10) which can perform the collective communication implement | achieved by several communication steps between several nodes (N0-N (M-1)) is provided. The inter-node connection device (10) includes a control transmission / reception unit (20) that is communicably connected to a plurality of nodes, and a lock control unit (30) connected to the control transmission / reception unit (20). The lock control unit (30) locks the communication path for each of the participating nodes participating in the collective communication among the plurality of nodes, and maintains the lock of the communication path over a plurality of communication steps.

ロック制御部（３０）は、複数のノードのそれぞれに対応して設けられた複数のロック更新判定部（３１）と、複数のノードのそれぞれに関してロックの状態を示す集団通信ロックフラグ（３３）とを備える。複数のロック更新判定部（３１）の各々は、参加ノード群中の対応するノードが集団通信に参加する「残りステップ数」を記憶する。集団通信ロックフラグ（３３）は、この残りステップ数に基づいて更新される。 The lock control unit (30) includes a plurality of lock update determination units (31) provided corresponding to each of the plurality of nodes, a collective communication lock flag (33) indicating a lock state with respect to each of the plurality of nodes, Is provided. Each of the plurality of lock update determination units (31) stores “the number of remaining steps” at which the corresponding node in the participating node group participates in the collective communication. The collective communication lock flag (33) is updated based on the number of remaining steps.

参加ノード群のうち第１ノード（Ｎｍ）は、複数の通信ステップの最初のステップにおいて、通信路確保の要求であるロック要求（１０１）を制御送受信部（２０）に送信する。制御送受信部（２０）は、複数のロック更新判定部（３１）のうち上記第１ノード（Ｎｍ）に対応する第１ロック更新判定部（３１−ｍ）に格納される残りステップ数を、ロック要求（１０１）に示される初期値に設定する。この残りステップ数は、複数の通信ステップが進む毎に更新される。 The first node (Nm) in the participating node group transmits a lock request (101), which is a request for securing a communication path, to the control transmission / reception unit (20) in the first step of the plurality of communication steps. The control transmission / reception unit (20) locks the remaining number of steps stored in the first lock update determination unit (31-m) corresponding to the first node (Nm) among the plurality of lock update determination units (31). Set to the initial value shown in the request (101). This remaining number of steps is updated each time a plurality of communication steps progress.

また、第１ノード（Ｎｍ）は、複数の通信ステップのうち最初のステップより後のステップにおいて、同期要求（１０３）を制御送受信部（２０）に送信する。制御送受信部（２０）は、この同期要求（１０３）に応答して、第１ロック更新判定部（３１−ｍ）に格納された残りステップ数をデクリメントする。 The first node (Nm) transmits the synchronization request (103) to the control transmission / reception unit (20) in a step after the first step among the plurality of communication steps. In response to the synchronization request (103), the control transmission / reception unit (20) decrements the remaining number of steps stored in the first lock update determination unit (31-m).

ロック制御部（３０）は、更に、複数のノードのそれぞれに関する集団通信への参加状態を示す集団通信参加フラグ（３４）を備える。第１ロック更新判定部（３１−ｍ）は、残りステップ数が１以上の場合、集団通信参加フラグ（３４）のうち第１ノード（Ｎｍ）に対応する第１参加ビットを、第１の値（“１”）に設定する。一方、残りステップ数が０未満の場合、第１ロック更新判定部（３１−ｍ）は、上記第１参加ビットを、第１の値（“１”）の反転値である第２の値（“０”）に設定する。 The lock control unit (30) further includes a collective communication participation flag (34) indicating a participation state in collective communication for each of the plurality of nodes. When the number of remaining steps is 1 or more, the first lock update determination unit (31-m) sets the first participation bit corresponding to the first node (Nm) in the collective communication participation flag (34) to the first value. Set to (“1”). On the other hand, when the number of remaining steps is less than 0, the first lock update determination unit (31-m) sets the first participation bit to a second value (inverted value of the first value (“1”)) ( Set to “0”).

集団通信ロックフラグ（３３）のビット値は、集団通信参加フラグ（３４）のビット値で更新される。 The bit value of the collective communication lock flag (33) is updated with the bit value of the collective communication participation flag (34).

本発明に係るノード間接続装置（１０）は、更に、制御送受信部（２０）及びロック制御部（３０）に接続されたノード間同期部（４０）を備える。ノード間同期部（４０）は、複数のノードのそれぞれに対して設けられた同期フラグ（４１）と、その同期フラグ（４１）をリセットするリセット論理（４２）とを備える。制御送受信部（２０）は、同期要求（１０３）に応答して、同期フラグ（４１）のうち第１ノード（Ｎｍ）に対応する第１同期ビットを、第１の値（“１”）に設定する。 The inter-node connection device (10) according to the present invention further includes an inter-node synchronization unit (40) connected to the control transmission / reception unit (20) and the lock control unit (30). The inter-node synchronization unit (40) includes a synchronization flag (41) provided for each of the plurality of nodes, and a reset logic (42) for resetting the synchronization flag (41). In response to the synchronization request (103), the control transmission / reception unit (20) sets the first synchronization bit corresponding to the first node (Nm) in the synchronization flag (41) to the first value (“1”). Set.

制御送受信部（２０）は、上述の集団通信ロックフラグ（３３）を参照し、参加ノード群の全てに対して通信路のロックが行われた場合、ロック要求リプライ（２０１）をリセット論理（４２）及び第１ノード（Ｎｍ）に送信する。第１ノード（Ｎｍ）は、このロック要求リプライ（２０１）に応答して、ロックされた通信路を用いてデータ（１０２、１０３）の送受信を行う。 The control transmission / reception unit (20) refers to the collective communication lock flag (33), and when the communication path is locked for all the participating nodes, the lock request reply (201) is reset logic (42). ) And the first node (Nm). In response to the lock request reply (201), the first node (Nm) transmits and receives data (102, 103) using the locked communication path.

また、制御送受信部（２０）は、上述の同期フラグ（４１）の全てのビットが第１の値（“１”）になった場合、同期要求リプライ（２０３）を発行する。制御送受信部（２０）は、同期要求リプライ（２０３）を、第１ノード（Ｎｍ）及びロック制御部（３０）に送信する。第１ノード（Ｎｍ）は、同期要求リプライ（２０３）に応答して、ロックされた通信路を用いてデータの送受信を行う。 Further, the control transmission / reception unit (20) issues a synchronization request reply (203) when all the bits of the above-described synchronization flag (41) become the first value ("1"). The control transmission / reception unit (20) transmits the synchronization request reply (203) to the first node (Nm) and the lock control unit (30). In response to the synchronization request reply (203), the first node (Nm) transmits and receives data using the locked communication path.

リセット論理（４２）は、ロック要求リプライ（２０１）に応答して、集団通信ロックフラグ（３３）のビット値の反転値で同期フラグ（４１）のビット値をリセットする。また、リセット論理（４２）は、同期要求リプライ（２０３）に応答して、集団通信参加フラグ（３４）のビット値の反転値で同期フラグ（４１）のビット値をリセットする。 In response to the lock request reply (201), the reset logic (42) resets the bit value of the synchronization flag (41) with the inverted value of the bit value of the collective communication lock flag (33). The reset logic (42) resets the bit value of the synchronization flag (41) with the inverted value of the bit value of the collective communication participation flag (34) in response to the synchronization request reply (203).

集団通信ロックフラグ（３３）のビット値は、同期要求リプライ（２０３）に応答して、集団通信参加フラグ（３４）のビット値で更新される。 The bit value of the collective communication lock flag (33) is updated with the bit value of the collective communication participation flag (34) in response to the synchronization request reply (203).

上記集団通信として、ギャザー、全ノードへのギャザー、リダクション、全ノードへのリダクションのいずれかが例示される。 Examples of the collective communication include gather, gather to all nodes, reduction, and reduction to all nodes.

本発明に係る回線交換方式のノード間接続装置によれば、複数のステップからなる集団通信において、ノード間の通信路を確保するための処理数が削減される。 According to the inter-node connection apparatus of the circuit switching method according to the present invention, the number of processes for securing a communication path between nodes is reduced in collective communication including a plurality of steps.

本発明に係る回線交換方式のノード間接続装置によれば、並列処理の実行時間が短縮される。 According to the circuit switching type inter-node connection apparatus according to the present invention, the execution time of parallel processing is shortened.

添付図面を参照して、本発明によるノード間接続装置を説明する。本発明に係るノード間接続装置は、回線交換方式のノード間接続装置である。また、本発明に係るノード間接続装置は、集団通信を行うことが可能である。集団通信は、複数の通信ステップからなり、通信ステップの進行とともに、ＳＮとＤＮの関係が一定の規則に従って遷移する。そのような集団通信として、ギャザー、全ノードへのギャザー、リダクション、全ノードへのリダクションが例示される。 An inter-node connection device according to the present invention will be described with reference to the accompanying drawings. The internode connection apparatus according to the present invention is a circuit switching internode connection apparatus. The internode connection apparatus according to the present invention can perform collective communication. Collective communication is composed of a plurality of communication steps. As the communication steps progress, the relationship between SN and DN changes according to a certain rule. Examples of such collective communication include gathers, gathers to all nodes, reductions, and reductions to all nodes.

図３は、本発明のノード間接続装置による、複数のステップの通信からなる集団通信の制御を示す概念図である。この図３に示される例を用いて、本発明の概要を説明する。この例においては、４つのノードＮ０〜Ｎ３とノード間接続装置が用いられ、全ノードへの「リダクション処理」が行われるとする。本発明に係るノード間接続装置は、複数の通信ステップにわたってＤＮ（通信路）のロックを維持する。つまり、本発明によれば、複数の通信ステップで実現される集団通信において、ＤＮのロックが維持されたまま通信ステップが進む。 FIG. 3 is a conceptual diagram showing control of collective communication including communication of a plurality of steps by the internode connection apparatus of the present invention. The outline of the present invention will be described with reference to the example shown in FIG. In this example, it is assumed that four nodes N0 to N3 and an inter-node connection device are used and “reduction processing” is performed on all nodes. The inter-node connection device according to the present invention maintains a DN (communication path) lock over a plurality of communication steps. That is, according to the present invention, in the collective communication realized by a plurality of communication steps, the communication step proceeds while the DN lock is maintained.

図３に示されるように、集団通信の第１ステップにおいて、まず、通信路を確保する処理が行われる。通信路を確保する処理において、各ＳＮは、通信路確保の要求である「集団通信ロック要求」をノード間接続装置に送信する。ノード間接続装置は、各ＳＮから集団通信ロック要求を受信した後、その集団通信ロック要求に従って通信路（ＤＮ）をロックする処理を行う。通信路のロックに成功した後、ノード間接続装置は、ＳＮに対して通信路確保成功の通知である「集団通信ロック要求リプライ」を送信する。各ＳＮは、集団通信ロック要求リプライを受信すると、ロックされたＤＮにデータを送信する。その後、各ノードにおいて演算が行われる。 As shown in FIG. 3, in the first step of collective communication, first, a process for securing a communication path is performed. In the process of securing the communication path, each SN transmits a “collective communication lock request”, which is a request for securing the communication path, to the inter-node connection device. After receiving the collective communication lock request from each SN, the internode connection apparatus performs a process of locking the communication path (DN) according to the collective communication lock request. After successfully locking the communication path, the inter-node connection device transmits a “collective communication lock request reply” that is a notification of the successful communication path reservation to the SN. When each SN receives the collective communication lock request reply, each SN transmits data to the locked DN. Thereafter, an operation is performed at each node.

集団通信の第２ステップ以降において、まず、ノード間の同期をとる処理が行われる。同期をとる処理において、ＳＮは、同期確保の要求である「同期要求」をノード間接続装置に送信する。ノード間接続装置は、全ＳＮから同期要求を受信した後、その同期要求に従ってノード間の同期をとる処理を行う。ノード間の同期に成功した後、ノード間接続装置は、ＳＮに対して同期確保成功の通知である「同期要求リプライ」を送信する。各ＳＮは、ロック要求リプライを受信すると、ロックされたＤＮにデータを送信する。その後、各ノードにおいて演算が行われる。この第２ステップにおいて、通信路を確保する処理は行われない。従って、従来技術と比較して、並列処理の実行時間が短縮される。 In the second and subsequent steps of collective communication, first, processing for synchronizing nodes is performed. In the process of obtaining synchronization, the SN transmits a “synchronization request”, which is a request for ensuring synchronization, to the internode connection apparatus. After receiving the synchronization request from all the SNs, the inter-node connection device performs processing for synchronizing the nodes according to the synchronization request. After successful synchronization between the nodes, the inter-node connection device transmits a “synchronization request reply” which is a notification of successful synchronization securing to the SN. When each SN receives the lock request reply, each SN transmits data to the locked DN. Thereafter, an operation is performed at each node. In this second step, the process for securing the communication path is not performed. Therefore, the execution time of parallel processing is shortened compared with the prior art.

以下、図３に示された集団通信を伴う並列処理を実現するための構成及び動作が詳しく説明される。 The configuration and operation for realizing the parallel processing with collective communication shown in FIG. 3 will be described in detail below.

（構成）
図４は、本発明に係る並列処理システム及びノード間接続装置の構成を示すブロック図である。並列処理システム１は、Ｍ台のノードＮ０〜Ｎ（Ｍ−１）からなるノード群と、ノード間接続装置１０を備えている。ノード間接続装置１０は、ノード群のそれぞれと通信可能に接続されている。ノード間接続装置１０は、制御送受信部２０、ロック制御部３０、ノード間同期部４０、及びデータ転送パス５０を備えている。後に示されるように、制御送受信部２０は、Ｍ台のノードＮ０〜Ｎ（Ｍ−１）のそれぞれに接続されたＭ個の制御受信部２１とＭ個の制御送信部２２を有している。ロック制御部３０は、ロック処理の制御と、ロックされるＤＮ（通信路）の維持と更新を行う。ノード間同期部４０は、ノード間の同期の制御を行う。データ転送パス５０は、送信データ及び受信データの転送に用いられる。 (Constitution)
FIG. 4 is a block diagram showing the configuration of the parallel processing system and inter-node connection apparatus according to the present invention. The parallel processing system 1 includes a node group including M nodes N0 to N (M-1) and an inter-node connection device 10. The inter-node connection device 10 is communicably connected to each node group. The inter-node connection device 10 includes a control transmission / reception unit 20, a lock control unit 30, an inter-node synchronization unit 40, and a data transfer path 50. As will be described later, the control transmission / reception unit 20 includes M control reception units 21 and M control transmission units 22 connected to each of the M nodes N0 to N (M−1). . The lock control unit 30 controls lock processing and maintains and updates a locked DN (communication path). The inter-node synchronization unit 40 controls synchronization between nodes. The data transfer path 50 is used for transferring transmission data and reception data.

各ノードは、集団通信ロック要求１０１をノード間接続装置１０に送信する。その集団通信ロック要求１０１は、制御送受信部２０を通してロック制御部３０に転送される。集団通信ロック要求１０１に応答して、ロック制御部３０は、ロック処理を行い、集団通信ロック要求リプライ２０１を生成する。その集団通信ロック要求リプライ２０１は、制御送受信部２０を通して各ノードに送信される。また、ＳＮは、送信データ１０２を、データ転送パス５０を介してＤＮに送信する。ＤＮは、受信データ２０２を、データ転送パス５０を介してＳＮから受信する。また、各ノードは、同期要求１０３をノード間接続装置１０に送信する。その同期要求１０３は、制御送受信部２０を通して、ロック制御部３０及びノード間同期部４０に転送される。ロック制御部３０は、同期要求１０３に応答して、ロックされるＤＮの維持と更新を行う。ノード間同期部４０は、同期要求１０３に応答して、ノード間の同期処理を行い、同期要求リプライ２０３を生成する。その同期要求リプライ２０３は、制御送受信部２０を通して各ノードに送信される。 Each node transmits a collective communication lock request 101 to the inter-node connection device 10. The collective communication lock request 101 is transferred to the lock control unit 30 through the control transmission / reception unit 20. In response to the collective communication lock request 101, the lock control unit 30 performs a lock process and generates a collective communication lock request reply 201. The collective communication lock request reply 201 is transmitted to each node through the control transmission / reception unit 20. In addition, the SN transmits the transmission data 102 to the DN via the data transfer path 50. The DN receives the received data 202 from the SN via the data transfer path 50. Each node transmits a synchronization request 103 to the inter-node connection device 10. The synchronization request 103 is transferred to the lock control unit 30 and the inter-node synchronization unit 40 through the control transmission / reception unit 20. In response to the synchronization request 103, the lock control unit 30 maintains and updates the locked DN. In response to the synchronization request 103, the inter-node synchronization unit 40 performs a synchronization process between the nodes and generates a synchronization request reply 203. The synchronization request reply 203 is transmitted to each node through the control transmission / reception unit 20.

図５は、本発明に係るノード間接続装置１０のロック制御部３０の構成を示すブロック図である。ロック制御部３０は、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれと通信可能に接続された制御受信部２１−０〜２１−（Ｍ−１）と接続されている。また、ロック制御部３０は、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれと通信可能に接続された制御送信部２２−０〜２２−（Ｍ−１）と接続されている。ロック制御部３０は、ロック更新判定部３１−０〜３１−（Ｍ−１）、ロック競合調停部３２、集団通信ロックフラグ３３、集団通信参加フラグ３４を備えている。 FIG. 5 is a block diagram showing a configuration of the lock control unit 30 of the internode connection apparatus 10 according to the present invention. The lock control unit 30 is connected to control reception units 21-0 to 21- (M-1) that are communicably connected to the nodes N0 to N (M-1). The lock control unit 30 is connected to control transmission units 22-0 to 22- (M-1) that are communicably connected to the nodes N0 to N (M-1). The lock control unit 30 includes lock update determination units 31-0 to 31- (M-1), a lock contention arbitration unit 32, a collective communication lock flag 33, and a collective communication participation flag 34.

ロック更新判定部３１−０〜３１−（Ｍ−１）は、それぞれ制御受信部２１−０〜２１−（Ｍ−１）に接続されている。ロック更新判定部３１の各々は、ロックされるＤＮの維持と更新を行う。そのため、ロック更新判定部３１−ｍ（ｍは０以上Ｍ−１以下の整数）は、ノードＮｍがＤＮとして集団通信に参加する残ステップ数を保持するカウンタを備える。ロック競合調停部３２は、制御受信部２１−０〜２１−（Ｍ−１）に接続されている。ロック競合調停部３２は、通信路確保処理の際、通常の競合調停に従い、ロックの取得を行う。 The lock update determination units 31-0 to 31- (M-1) are respectively connected to the control reception units 21-0 to 21- (M-1). Each of the lock update determination units 31 maintains and updates the locked DN. Therefore, the lock update determination unit 31-m (m is an integer of 0 to M-1) includes a counter that holds the number of remaining steps in which the node Nm participates in collective communication as a DN. The lock contention arbitration unit 32 is connected to the control reception units 21-0 to 21- (M-1). The lock contention arbitration unit 32 acquires a lock in accordance with normal contention mediation during the communication channel securing process.

集団通信ロックフラグ３３は、ロック競合調停部３２及び制御送信部２２−０〜２２−（Ｍ−１）に接続されている。集団通信ロックフラグ３３は、ロックを取得したノードを示すためのものであり、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれに対応したＭ個のｂｉｔを持つ。言い換えれば、集団通信ロックフラグ３３は、複数のノードＮ０〜Ｎ（Ｍ−１）のそれぞれに関してロックの状態を示す。集団通信参加フラグ３４は、ロック更新判定部３１と集団通信ロックフラグ３３に接続されている。集団通信参加フラグ３４は、集団通信に参加するノード（参加ノード群）を示すためのものであり、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれに対応したＭ個のｂｉｔを持つ。言い換えれば、集団通信参加フラグ３４は、複数のノードＮ０〜Ｎ（Ｍ−１）のそれぞれに関する集団通信への参加状態を示す。 The collective communication lock flag 33 is connected to the lock contention arbitration unit 32 and the control transmission units 22-0 to 22- (M-1). The collective communication lock flag 33 is for indicating the node that has acquired the lock, and has M bits corresponding to each of the nodes N0 to N (M−1). In other words, the collective communication lock flag 33 indicates a lock state for each of the plurality of nodes N0 to N (M−1). The collective communication participation flag 34 is connected to the lock update determination unit 31 and the collective communication lock flag 33. The collective communication participation flag 34 is for indicating a node (participating node group) participating in collective communication, and has M bits corresponding to each of the nodes N0 to N (M-1). In other words, the collective communication participation flag 34 indicates a participation state in the collective communication regarding each of the plurality of nodes N0 to N (M-1).

図６は、本発明に係るノード間接続装置１０のノード間同期部４０の構成を示すブロック図である。ノード間同期部４０は、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれと通信可能に接続された制御受信部２１−０〜２１−（Ｍ−１）と接続されている。また、ノード間同期部４０は、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれと通信可能に接続された制御送信部２２−０〜２２−（Ｍ−１）と接続されている。ノード間同期部４０は、集団通信参加ノード間同期フラグ４１と、リセット論理４２を備えている。 FIG. 6 is a block diagram showing a configuration of the inter-node synchronization unit 40 of the inter-node connection device 10 according to the present invention. The inter-node synchronization unit 40 is connected to control reception units 21-0 to 21- (M-1) that are communicably connected to the nodes N0 to N (M-1). The inter-node synchronization unit 40 is connected to control transmission units 22-0 to 22- (M-1) that are communicably connected to the nodes N0 to N (M-1). The inter-node synchronization unit 40 includes a collective communication participating node synchronization flag 41 and a reset logic 42.

集団通信参加ノード間同期フラグ４１は、制御受信部２１−０〜２１−（Ｍ−１）及び制御送信部２２−０〜２２−（Ｍ−１）に接続されている。集団通信参加ノード間同期フラグ４１は、集団通信に参加するノード（参加ノード群）を示すためのものであり、ノードＮ０〜Ｎ（Ｍ−１）のそれぞれに対応したＭ個のｂｉｔを持つ。リセット論理４２は、集団通信参加ノード間同期フラグ４１に接続されている。リセット論理４２は、ロック制御部３０からの信号に応答して、集団通信参加ノード間同期フラグ４１をリセットする。 The collective communication participating node synchronization flag 41 is connected to the control receivers 21-0 to 21- (M-1) and the control transmitters 22-0 to 22- (M-1). The collective communication participating node synchronization flag 41 is for indicating a node (participating node group) participating in collective communication, and has M bits corresponding to each of the nodes N0 to N (M-1). The reset logic 42 is connected to the collective communication participating node synchronization flag 41. The reset logic 42 resets the collective communication participating node synchronization flag 41 in response to a signal from the lock control unit 30.

（動作）
１．ロック動作
集団通信の複数のステップのうちの第１のステップ（最初のステップ）として、「ロック動作」が行われる。このロック動作は、ノード間接続装置１０が集団通信ロック要求１０１を受信してから、集団通信ロック要求リプライ２０１を送信するまでの動作であり、ロック制御部３０によって行われる。 (Operation)
1. Locking operation A “locking operation” is performed as a first step (first step) of a plurality of steps of collective communication. This lock operation is an operation from when the internode connection apparatus 10 receives the collective communication lock request 101 to when the collective communication lock request reply 201 is transmitted, and is performed by the lock control unit 30.

図７は、本発明に係るロック制御部３０によるロック動作（第１の動作）を示すブロック図である。ノードＮｍから送信された集団通信ロック要求１０１は、制御受信部２１−ｍに入力される。制御受信部２１−ｍは、その集団通信ロック要求１０１に応答して、以下に示される３種類の信号を送出する。 FIG. 7 is a block diagram showing a lock operation (first operation) by the lock control unit 30 according to the present invention. The collective communication lock request 101 transmitted from the node Nm is input to the control receiving unit 21-m. In response to the collective communication lock request 101, the control reception unit 21-m transmits the following three types of signals.

第１として、制御受信部２１−ｍは、ノードＮｍに対応するロック更新判定部３１−ｍに初期設定信号Ｓ１を送出する。この初期設定信号Ｓ１は、ロック更新判定部３１−ｍを初期設定するための信号であり、ロック更新判定部３１−ｍに集団通信のための初期値を設定するための信号である。初期値は集団通信ロック要求１０１に示されている。より具体的には、ロック更新判定部３１−ｍは、ノードＮｍがＤＮとして集団通信に参加する残ステップ数を保持するカウンタを備えている。上述の初期設定信号Ｓ１によって、ノードＮｍが集団通信にＤＮとして参加するステップ数が、そのカウンタの初期値として設定される。このカウンタによって、ノードＮｍを何ステップの間ロックするべきかを把握することができるので、ロックを維持したまま通信ステップを進めることが可能となる。このように、本発明に係るロック制御部３０は、ロックするＤＮ（通信路）を維持・更新するための情報を保持する。 First, the control reception unit 21-m sends an initial setting signal S1 to the lock update determination unit 31-m corresponding to the node Nm. The initial setting signal S1 is a signal for initial setting of the lock update determination unit 31-m, and is a signal for setting an initial value for collective communication in the lock update determination unit 31-m. The initial value is indicated in the collective communication lock request 101. More specifically, the lock update determination unit 31-m includes a counter that holds the number of remaining steps in which the node Nm participates in collective communication as a DN. The number of steps at which the node Nm participates in collective communication as DN is set as the initial value of the counter by the above-described initial setting signal S1. By this counter, it is possible to grasp how many steps the node Nm should be locked, so that it is possible to proceed with the communication steps while maintaining the lock. Thus, the lock control unit 30 according to the present invention holds information for maintaining / updating a DN (communication path) to be locked.

第２として、制御受信部２１−ｍは、ロック競合調停部３２にロック要求信号Ｓ２を送出する。このロック要求信号Ｓ２は、集団通信の第１ステップにおけるデータ送受信のためのロック取得を要求する信号である。このロック要求信号Ｓ２は、ノードＮｍの送信先であるＤＮに関する情報を含む。 Secondly, the control reception unit 21-m sends a lock request signal S <b> 2 to the lock contention arbitration unit 32. This lock request signal S2 is a signal for requesting acquisition of a lock for data transmission / reception in the first step of collective communication. The lock request signal S2 includes information regarding DN that is the transmission destination of the node Nm.

ロック競合調停部３２は、ロック要求信号Ｓ２によって要求されたノードのロック取得を行う。つまり、ロック競合調停部３２は、制御受信部２１−ｍからロック要求信号Ｓ２を受けることにより、ノードＮｍが要求するＤＮ（通信路）のロックを取得する。そのロック取得において、ロック競合調停部３２は、周知の競合調停に従う。ロックを取得した後、ロック競合調停部３２は、ロック信号Ｓ３を、ノードＮｍに対応する集団通信ロックフラグ３３のビットｍに送出する。このロック信号Ｓ３により、集団通信ロックフラグ３３のビットｍに“１”が格納される。尚、この集団通信ロックフラグ３３の値は、ロック競合調停の結果に対して優先される。すなわち、集団通信ロックフラグ３３のビットｍが１の間は、ロック競合調停部３２は、ノードＮｍのロックを取得しない。 The lock contention arbitration unit 32 acquires the lock of the node requested by the lock request signal S2. That is, the lock contention arbitration unit 32 acquires the lock of the DN (communication path) requested by the node Nm by receiving the lock request signal S2 from the control reception unit 21-m. In the lock acquisition, the lock contention arbitration unit 32 follows a well-known contention mediation. After acquiring the lock, the lock contention arbitration unit 32 sends the lock signal S3 to the bit m of the collective communication lock flag 33 corresponding to the node Nm. With this lock signal S3, “1” is stored in the bit m of the collective communication lock flag 33. Note that the value of the collective communication lock flag 33 has priority over the result of lock contention arbitration. That is, while the bit m of the collective communication lock flag 33 is 1, the lock contention arbitration unit 32 does not acquire the lock of the node Nm.

第３として、制御受信部２１−ｍは、全ての制御送信部２２−０〜２２−（Ｍ−１）に、通知信号Ｓ４を送出する。この通知信号Ｓ４は、ノードＮｍから集団通信ロック要求１０１を受信したことを、全ての制御送信部２２−０〜２２−（Ｍ−１）に通知するための信号である。この通知信号Ｓ４は、ノードＮｍが集団通信に参加するか否かの情報と、ノードＮｍの送信先であるＤＮに関する情報を含む。この通知信号Ｓ４によって、各制御送信部２２は、集団通信にＤＮとして参加するノードを識別する。 Thirdly, the control receiver 21-m sends a notification signal S4 to all the control transmitters 22-0 to 22- (M-1). This notification signal S4 is a signal for notifying all the control transmission units 22-0 to 22- (M-1) that the collective communication lock request 101 has been received from the node Nm. This notification signal S4 includes information on whether or not the node Nm participates in collective communication and information on the DN that is the transmission destination of the node Nm. With this notification signal S4, each control transmitter 22 identifies a node that participates in collective communication as a DN.

制御送信部２２−ｍは、全ての制御受信部２１から通知信号Ｓ４を受信する。また、制御送信部２２−ｍは、集団通信ロックフラグ３３から、ロック取得信号Ｓ５を受信する。このロック取得信号Ｓ５は、Ｍ個のノードＮ０〜Ｎ（Ｍ−１）に関するロック取得状態を示す信号である。尚、このロック取得信号Ｓ５は、制御送信部２２だけでなくノード間同期部４０にも送出される。制御送信部２２−ｍは、ロック取得信号Ｓ５と全ての制御受信部２１からの通知信号Ｓ４に基づいて、集団通信にＤＮとして参加する全てのノード（参加ノード群）がロックを取得しているかどうか判定する。集団通信に参加する全てのノード（参加ノード群）に対する集団通信ロックフラグ３３が“１”となった場合、制御送信部２２−ｍは、ノードＮｍに集団通信ロック要求リプライ２０１を送信する。つまり、制御送信部２２−ｍは、集団通信ロックフラグ３３を参照し、参加ノード群の全てに対してロックが行われた時、集団通信ロック要求リプライ２０１を出力する。尚、集団通信ロック要求リプライ２０１は、ノード間同期部４０にも転送される。 The control transmitter 22-m receives the notification signal S4 from all the control receivers 21. In addition, the control transmission unit 22-m receives the lock acquisition signal S <b> 5 from the collective communication lock flag 33. The lock acquisition signal S5 is a signal indicating a lock acquisition state regarding the M nodes N0 to N (M−1). The lock acquisition signal S5 is transmitted not only to the control transmission unit 22 but also to the inter-node synchronization unit 40. Based on the lock acquisition signal S5 and the notification signal S4 from all the control reception units 21, the control transmission unit 22-m has acquired all the nodes (participation node group) participating in collective communication as DNs. Judge whether. When the collective communication lock flag 33 for all the nodes participating in collective communication (participating node group) becomes “1”, the control transmission unit 22-m transmits the collective communication lock request reply 201 to the node Nm. That is, the control transmission unit 22-m refers to the collective communication lock flag 33 and outputs the collective communication lock request reply 201 when all the participating nodes are locked. The collective communication lock request reply 201 is also transferred to the inter-node synchronization unit 40.

ノードＮｍは、制御送信部２２−ｍから集団通信ロック要求リプライ２０１を受信する。そのノードＮｍは、ノード間接続装置１０のデータ転送パス５０を介して、送信データ１０２をＤＮに送信し、受信データ２０２をＳＮから受信する。このように、集団通信に参加する各ノードは、集団通信ロック要求リプライ２０１を受信した後、送信データ１０２及び受信データ２０２を送受信する。データの送受信をしたノードＮｍは、ノード内で演算を行い、ノード間接続装置１０に対して同期要求１０３を送信する。 The node Nm receives the collective communication lock request reply 201 from the control transmission unit 22-m. The node Nm transmits the transmission data 102 to the DN and receives the reception data 202 from the SN via the data transfer path 50 of the internode connection apparatus 10. As described above, each node participating in the collective communication transmits and receives the transmission data 102 and the reception data 202 after receiving the collective communication lock request reply 201. The node Nm that has transmitted and received data performs an operation within the node, and transmits a synchronization request 103 to the inter-node connection device 10.

以上に示されたように、ロック制御部３０は、複数のノードＮ０〜Ｎｍのうち集団通信に参加する参加ノード群のそれぞれに関して通信路のロックを行う。そして、ロック制御部３０は、後に示されるように、集団通信の複数のステップにわたって、その通信路のロックを維持する。 As described above, the lock control unit 30 locks the communication path for each of the participating node groups participating in the collective communication among the plurality of nodes N0 to Nm. And the lock control part 30 maintains the lock | rock of the communication channel over several steps of collective communication so that it may show later.

２．同期動作
集団通信の複数のステップのうちの第２のステップにおいて、「同期動作」が行われる。この同期動作は、ノード間接続装置１０が同期要求１０３を受信してから、同期要求リプライ２０３を送信するまでの動作であり、ノード間同期部４０及びロック制御部３０によって行われる。 2. Synchronous operation A “synchronous operation” is performed in the second step of the plurality of steps of collective communication. This synchronization operation is an operation from when the internode connection apparatus 10 receives the synchronization request 103 to when the synchronization request reply 203 is transmitted, and is performed by the internode synchronization unit 40 and the lock control unit 30.

図８は、本発明に係るノード間同期部４０による同期動作を示すブロック図である。ノードＮｍから送信された同期要求１０３は、制御受信部２１−ｍに入力される。制御受信部２１−ｍは、その同期要求１０３に応答して、同期要求信号Ｓ６を、ノードＮｍに対応する集団通信参加ノード間同期フラグ４１のビットｍに送出する。この同期要求信号Ｓ６により、集団通信参加ノード間同期フラグ４１のビットｍに“１”が格納される。つまり、制御受信部２１−ｍは、同期要求１０３に応答して、集団通信参加ノード間同期フラグ４１のビットｍを“１”に設定する。 FIG. 8 is a block diagram showing a synchronization operation by the inter-node synchronization unit 40 according to the present invention. The synchronization request 103 transmitted from the node Nm is input to the control reception unit 21-m. In response to the synchronization request 103, the control reception unit 21-m transmits a synchronization request signal S6 to the bit m of the collective communication participating node synchronization flag 41 corresponding to the node Nm. By this synchronization request signal S6, “1” is stored in the bit m of the collective communication participating node synchronization flag 41. That is, in response to the synchronization request 103, the control reception unit 21-m sets the bit m of the collective communication participating node synchronization flag 41 to “1”.

制御送信部２２−ｍは、集団通信参加ノード間同期フラグ４１から、同期信号Ｓ７を受信する。この同期信号Ｓ７は、Ｍ個のノードＮ０〜Ｎ（Ｍ−１）に関する同期状態を示す信号である。制御送信部２２−ｍは、同期信号Ｓ７に基づいて、集団通信参加ノード間同期フラグ４１の全ビットが“１”になっているかどうか判定する。集団通信参加ノード間同期フラグ４１の全てのｂｉｔが“１”になると、制御送信部２２−ｍは、ノードＮｍに同期要求リプライ２０３を発行する。尚、この同期要求リプライ２０３は、ロック制御部３０にも転送される。 The control transmission unit 22-m receives the synchronization signal S7 from the collective communication participating node synchronization flag 41. The synchronization signal S7 is a signal indicating a synchronization state regarding the M nodes N0 to N (M-1). Based on the synchronization signal S7, the control transmission unit 22-m determines whether or not all the bits of the collective communication participating node synchronization flag 41 are “1”. When all the bits of the collective communication participating node synchronization flag 41 are “1”, the control transmitter 22-m issues a synchronization request reply 203 to the node Nm. The synchronization request reply 203 is also transferred to the lock control unit 30.

一方、ロック制御部３０は、同期要求１０３に応答して、ロック更新判定部３１のカウンタ値を変更して、集団通信ロックフラグ３３を更新する。図９は、本発明に係るロック制御部３０による更新動作（第２の動作）を示すブロック図である。ノードＮｍから送信された同期要求１０３は、制御受信部２１−ｍに入力される。制御受信部２１−ｍは、その同期要求１０３に応答して、ノードＮｍに対応するロック更新判定部３１−ｍに設定変更信号Ｓ８を送出する。この設定変更信号Ｓ８は、ロック更新判定部３１−ｍのカウンタ値（残ステップ数）を変更するための信号である。 On the other hand, in response to the synchronization request 103, the lock control unit 30 changes the counter value of the lock update determination unit 31 and updates the collective communication lock flag 33. FIG. 9 is a block diagram showing an update operation (second operation) by the lock control unit 30 according to the present invention. The synchronization request 103 transmitted from the node Nm is input to the control reception unit 21-m. In response to the synchronization request 103, the control reception unit 21-m sends a setting change signal S8 to the lock update determination unit 31-m corresponding to the node Nm. The setting change signal S8 is a signal for changing the counter value (the number of remaining steps) of the lock update determination unit 31-m.

上述の通り、ロック更新判定部３１−ｍは、ノードＮｍがＤＮとして集団通信に参加する残ステップ数を保持するカウンタを有している。そして、このカウンタの値は、上記設定変更信号Ｓ８によってデクリメントされる。つまり、制御受信部２１−ｍ（あるいはロック更新判定部３１−ｍ）は、設定変更信号Ｓ８に応答して、ノードＮｍが集団通信にＤＮとして参加する残ステップ数をデクリメントする。 As described above, the lock update determination unit 31-m has a counter that holds the number of remaining steps in which the node Nm participates in collective communication as a DN. The counter value is decremented by the setting change signal S8. That is, the control reception unit 21-m (or the lock update determination unit 31-m) decrements the number of remaining steps in which the node Nm participates as a DN in the collective communication in response to the setting change signal S8.

次に、ロック更新判定部３１−ｍは、ノードＮｍにおける集団通信の全通信ステップが終了しているかどうか判定する。その判定の結果、ロック更新判定部３１−ｍは、ノードＮｍに対応する集団通信参加フラグ３４のビットｍに対して、ビット信号Ｓ９を送出する。残ステップ数が１以上の場合、ロック更新判定部３１−ｍは、ビット信号Ｓ９として“１”を送出する。残ステップ数が１未満の場合、ロック更新判定部３１−ｍは、ビット信号Ｓ９として“０”を送出する。つまり、ロック更新判定部３１−ｍは、全通信ステップが終了している場合は、集団通信参加フラグ３４のビットｍを“０”に設定し、終了していない場合は、集団通信参加フラグ３４のビットｍを“１”に設定する。ビット値“０”は、集団通信への不参加を示し、ビット値“１”は、集団通信への参加を示している。 Next, the lock update determination unit 31-m determines whether all communication steps of collective communication at the node Nm have been completed. As a result of the determination, the lock update determination unit 31-m sends a bit signal S9 to the bit m of the collective communication participation flag 34 corresponding to the node Nm. When the number of remaining steps is 1 or more, the lock update determination unit 31-m sends “1” as the bit signal S9. When the number of remaining steps is less than 1, the lock update determination unit 31-m sends “0” as the bit signal S9. That is, the lock update determination unit 31-m sets the bit m of the collective communication participation flag 34 to “0” when all communication steps are completed, and the collective communication participation flag 34 when not completed. Bit m is set to "1". A bit value “0” indicates non-participation in collective communication, and a bit value “1” indicates participation in collective communication.

集団通信参加フラグ３４の内容は、更新信号Ｓ１０として集団通信ロックフラグ３３に転送される。ここで、その転送は、ノード間同期部４０から発行される同期要求リプライ２０３を契機に行われる。つまり、集団通信ロックフラグ３３のビットｍは、同期要求リプライ２０３に応答して、集団通信参加フラグ３４のビットｍの値で更新される。言い換えれば、集団通信ロックフラグ３３のビットｍは、ロック更新判定部３１−ｍが有するカウンタ値に基づいて更新される。尚、更新信号Ｓ１０は、ノード間同期部４０にも送信される。 The contents of the collective communication participation flag 34 are transferred to the collective communication lock flag 33 as an update signal S10. Here, the transfer is performed in response to the synchronization request reply 203 issued from the inter-node synchronization unit 40. That is, the bit m of the collective communication lock flag 33 is updated with the value of the bit m of the collective communication participation flag 34 in response to the synchronization request reply 203. In other words, the bit m of the collective communication lock flag 33 is updated based on the counter value included in the lock update determination unit 31-m. The update signal S10 is also transmitted to the inter-node synchronization unit 40.

既出の図８に示されるように、ロック制御部３０からのロック取得信号Ｓ５及び更新信号Ｓ１０は、ノード間同期部４０のリセット論理４２に入力される。上述の通り、ロック取得信号Ｓ５及び更新信号Ｓ１０は、集団通信ロックフラグ３３のＭビットの内容を示している。すなわち、ロック取得信号Ｓ５及び更新信号Ｓ１０は、ノードＮ０〜Ｎ（Ｍ−１）の集団通信への参加状態を示している。 As shown in FIG. 8, the lock acquisition signal S5 and the update signal S10 from the lock control unit 30 are input to the reset logic 42 of the inter-node synchronization unit 40. As described above, the lock acquisition signal S5 and the update signal S10 indicate the contents of the M bit of the collective communication lock flag 33. That is, the lock acquisition signal S5 and the update signal S10 indicate the participation state of the nodes N0 to N (M−1) in the collective communication.

リセット論理４２は、ロック制御部３０から集団通信ロック要求リプライ２０１を受け取った時、ロック取得信号Ｓ５を反転させた信号であるｒｅｓｅｔ信号を、集団通信参加ノード同期フラグ４１に出力する。つまり、集団通信ロック要求リプライ２０１の発行を契機として、集団通信ロックフラグ３３のビットｍの反転値が、集団通信参加ノード間同期フラグ４１のビットｍに格納される。また、リセット論理４２は、同期要求リプライ２０３が発行された時、更新信号Ｓ１０を反転させた信号であるｒｅｓｅｔ信号を、集団通信参加ノード同期フラグ４１に出力する。つまり、同期要求リプライ２０３の発行を契機として、集団通信ロックフラグ３３（集団通信参加フラグ３４）のビットｍの反転値が、集団通信参加ノード間同期フラグ４１のビットｍに格納される。リセット論理４２は、例えば、ＮＯＴ（インバータ）により実現される。 When the reset logic 42 receives the collective communication lock request reply 201 from the lock control unit 30, the reset logic 42 outputs a reset signal, which is a signal obtained by inverting the lock acquisition signal S 5, to the collective communication participating node synchronization flag 41. That is, when the collective communication lock request reply 201 is issued, the inverted value of the bit m of the collective communication lock flag 33 is stored in the bit m of the collective communication participating node synchronization flag 41. Further, when the synchronization request reply 203 is issued, the reset logic 42 outputs a reset signal, which is a signal obtained by inverting the update signal S10, to the collective communication participation node synchronization flag 41. That is, when the synchronization request reply 203 is issued, the inverted value of the bit m of the collective communication lock flag 33 (collective communication participation flag 34) is stored in the bit m of the collective communication participating node synchronization flag 41. The reset logic 42 is realized by NOT (inverter), for example.

このように、リセット論理４２は、集団通信ロック要求リプライ２０１あるいは同期要求リプライ２０３が発行された時に、集団通信ロックフラグ３３の反転値を用いて集団通信参加ノード間同期フラグ４１をリセットする。この動作により、集団通信に参加していないノードに対応する集団通信ノード間同期フラグ４１に“１”が格納される。つまり、不参加ノードに対応するビット値は“１”に固定される。 Thus, when the collective communication lock request reply 201 or the synchronization request reply 203 is issued, the reset logic 42 resets the collective communication participating node synchronization flag 41 using the inverted value of the collective communication lock flag 33. With this operation, “1” is stored in the collective communication node synchronization flag 41 corresponding to the node not participating in the collective communication. That is, the bit value corresponding to the non-participating node is fixed to “1”.

上述の通り、あるステップ（第ｎステップ）において、集団通信に参加するノードＮｍに対応する制御受信部２１−ｍは、同期要求１０３に応答して、集団通信参加ノード間同期フラグ４１のビットｍを“１”に設定する。集団通信に参加しないノードに対応する集団通信参加ノード間同期フラグ４１のビットは、上記リセット論理４２により“１”に設定されている。これにより、集団通信参加ノード間同期フラグ４１の全てのｂｉｔが“１”となるので、制御送信部２２−ｍは、同期要求リプライ２０３を発行することができる。 As described above, in a certain step (n-th step), the control receiving unit 21-m corresponding to the node Nm participating in the collective communication responds to the synchronization request 103, and the bit m of the collective communication participating node synchronization flag 41 Is set to “1”. The bit of the collective communication participating node synchronization flag 41 corresponding to a node that does not participate in collective communication is set to “1” by the reset logic 42. Thereby, since all the bits of the collective communication participating node synchronization flag 41 are “1”, the control transmission unit 22-m can issue the synchronization request reply 203.

また、上述の通り、同じステップ（第ｎステップ）の間に、ロック制御部３０のロック更新判定部３１は、同期要求１０３に応答して、集団通信参加フラグ３４の内容を更新する。具体的には、ロック更新判定部３１−ｍは、ノードＮｍが集団通信にＤＮとして参加する残ステップ数をデクリメントする。残ステップ数が０になった場合、ロック更新判定部３１−ｍは、集団通信参加フラグ３４のビットｍに“０”を格納する。残ステップ数が１以上の場合、ロック更新判定部３１−ｍは、集団通信参加フラグ３４のビットｍに“１”を格納する。この時の集団通信参加フラグ３４の内容は、次のステップ（第ｎ＋１ステップ）におけるノードＮ０〜Ｎ（Ｍ−１）の集団通信への参加状態を示している。つまり、第ｎステップの間に、集団通信参加フラグ３４には、次の第（ｎ＋１）ステップにおける参加状態が予め用意される。そして、第ｎステップの同期要求リプライ２０３に応答して、この集団通信参加フラグ３４の反転値により、集団通信参加ノード間同期フラグ４１が更新される。すなわち、第ｎステップの同期要求リプライ２０３が発行された時、第（ｎ＋１）ステップでの参加・不参加を示す情報が、即座に集団通信参加ノード間同期フラグ４１に格納される。従って、実行時間が削減される。また、ジョブＩＤや、集団通信の管理を行うマスターノードを用いることなく、通信ステップごとの同期を行うことが可能となる。 Further, as described above, during the same step (n-th step), the lock update determination unit 31 of the lock control unit 30 updates the content of the collective communication participation flag 34 in response to the synchronization request 103. Specifically, the lock update determination unit 31-m decrements the number of remaining steps in which the node Nm participates in collective communication as DN. When the number of remaining steps becomes 0, the lock update determination unit 31-m stores “0” in the bit m of the collective communication participation flag 34. When the number of remaining steps is 1 or more, the lock update determination unit 31-m stores “1” in the bit m of the collective communication participation flag 34. The contents of the collective communication participation flag 34 at this time indicate the participation state of the nodes N0 to N (M−1) in the collective communication in the next step (the (n + 1) th step). That is, during the n-th step, the participation state in the next (n + 1) -th step is prepared in advance in the collective communication participation flag 34. Then, in response to the synchronization request reply 203 in the nth step, the collective communication participating node synchronization flag 41 is updated with the inverted value of the collective communication participation flag 34. That is, when the synchronization request reply 203 in the nth step is issued, information indicating participation / nonparticipation in the (n + 1) th step is immediately stored in the collective communication participating node synchronization flag 41. Therefore, the execution time is reduced. In addition, synchronization for each communication step can be performed without using a job ID or a master node that manages collective communication.

以上に示されたように、ノード間接続装置１０は、集団通信に参加している複数のノードから同期要求１０３を受信した後に、ロックの状態の更新を行い、また、各ノードに対して同期要求リプライ２０３を送信する。同期要求リプライ２０３を受信したノードは、ノード間接続装置１０のデータ転送パス５０を介して、送信データ１０２をＤＮに送信し、受信データ２０２をＳＮから受信する。このように、集団通信に参加する各ノードは、同期要求リプライ２０３を受信した後、送信データ１０２及び受信データ２０２を送受信する。データの送受信をしたノードＮｍは、ノード内で演算を行い、ノード間接続装置１０に対して同期要求１０３を送信する。以降、ノードＮｍとノード間接続装置１０の間で、同期要求１０３と同期要求リプライ２０３の送受信が繰り返される。これにより、複数の通信ステップにおける送信データ１０２及び受信データ２０２の送受信が実現される。 As described above, the inter-node connection device 10 updates the lock state after receiving the synchronization request 103 from a plurality of nodes participating in collective communication, and also synchronizes with each node. A request reply 203 is transmitted. The node that has received the synchronization request reply 203 transmits the transmission data 102 to the DN and receives the reception data 202 from the SN via the data transfer path 50 of the inter-node connection device 10. As described above, each node participating in the collective communication transmits and receives the transmission data 102 and the reception data 202 after receiving the synchronization request reply 203. The node Nm that has transmitted and received data performs an operation within the node, and transmits a synchronization request 103 to the inter-node connection device 10. Thereafter, transmission / reception of the synchronization request 103 and the synchronization request reply 203 is repeated between the node Nm and the inter-node connection device 10. Thereby, transmission / reception of the transmission data 102 and the reception data 202 in a plurality of communication steps is realized.

以上に説明されたように、本発明に係るノード間接続装置１０は、並列処理の集団通信を処理する場合において、ＤＮのロックを維持した状態で通信ステップを進めるように構成されている。これにより、従来集団通信の第２ステップ以降に必要であった、ノード間の通信路を確保するための処理（通信路確保処理）を削減することが可能となる。従って、並列処理の実行時間が短縮される。尚、複数の通信ステップにわたってＤＮのロックを維持するには、次の３つの条件が必要である。第１の条件は、集団通信の各ステップにおいて、ＳＮが要求するＤＮが競合しないことである。第２の条件は、通信ステップの進行とともに、ＳＮとＤＮの関係が一定の規則に従って遷移することである。第３の条件は、通信の第（ｎ＋１）ステップのＤＮが第ｎステップのＤＮに包含されることである。これら３つの条件を満たす集団通信として、ギャザー、全ノードへのギャザー、リダクション、全ノードへのリダクションがある。 As described above, the internode connection apparatus 10 according to the present invention is configured to advance the communication step while maintaining the DN lock when processing the collective communication in parallel processing. As a result, it is possible to reduce processing (communication path securing processing) for securing a communication path between nodes, which is necessary after the second step of conventional collective communication. Therefore, the execution time of parallel processing is shortened. In order to maintain the DN lock over a plurality of communication steps, the following three conditions are necessary. The first condition is that the DN requested by the SN does not compete at each step of collective communication. The second condition is that the relationship between SN and DN changes according to a certain rule as the communication step proceeds. The third condition is that the (n + 1) -th step DN of communication is included in the n-th step DN. Collective communication that satisfies these three conditions includes gather, gather to all nodes, reduction, and reduction to all nodes.

本発明によれば、以下に記載される効果が得られる。 According to the present invention, the following effects can be obtained.

第１の効果は、複数の通信ステップで実現される集団通信を用いる並列処理の実行時間を削減できるということである。その理由は、複数の通信ステップで実現される集団通信が行われる際に、その複数の通信ステップにわたってＤＮのロックが維持され、通信の第２ステップ以降の通信路確保処理が削減されるからである。一般に、ノード内のＣＰＵの動作時間に比べて、ノードとノード間接続装置１０の間の信号の伝送時間は非常に長い。よって、通信路確保の処理に伴うロック要求やロック要求リプライの削減は、並列処理の実行時間の短縮に大きく寄与する。 The first effect is that the execution time of parallel processing using collective communication realized by a plurality of communication steps can be reduced. The reason is that when collective communication realized by a plurality of communication steps is performed, the DN lock is maintained over the plurality of communication steps, and the communication path securing process after the second step of communication is reduced. is there. In general, the signal transmission time between the node and the inter-node connection device 10 is much longer than the operation time of the CPU in the node. Therefore, the reduction of lock requests and lock request replies associated with the process of securing the communication path greatly contributes to shortening the execution time of parallel processing.

第２の効果は、ジョブＩＤや、集団通信の管理を行うマスターノードを用いることなく、集団通信を行っているノード間のみで、通信ステップごとの同期処理が実行されることである。ノード、もしくはノードで動作するプログラムが、同期をとるべきノードを管理することなく、通信ステップごとの同期処理が実行される。その理由は、第ｎステップの通信において集団通信のロックがされているノード間で、第（ｎ＋１）ステップの同期が行われるからである（第３の条件）。また、第１ステップの通信において、ロックが保持されるべき通信ステップ数が、ノード間接続装置１０に予め設定されるからである。 The second effect is that synchronization processing for each communication step is executed only between nodes that perform collective communication without using a job ID or a master node that manages collective communication. The synchronization process for each communication step is executed without managing a node or a program that runs on the node to be synchronized. This is because the (n + 1) -th step synchronization is performed between the nodes in which the collective communication is locked in the n-th step communication (third condition). In addition, in the first step communication, the number of communication steps to be locked is preset in the inter-node connection device 10.

尚、各ノードが通信ステップ数をカウントし、ロック維持の判定を行ってもよい。この場合、本発明に係るロック更新判定部３１−ｍが、ノードＮｍ内に設けられる。また、同期要求１０３に、ノード間接続装置１０がノードＮｍのロックを維持するかどうかを判定するために用いる情報、もしくは通信ステップ数が付加される。制御受信部２１−ｍは、同期要求１０３を受信すると、集団通信参加フラグ３４のビットｍを更新する。これにより、上述の動作と同様の動作が実現される。 Each node may count the number of communication steps and determine whether to maintain the lock. In this case, the lock update determination unit 31-m according to the present invention is provided in the node Nm. In addition, information used for determining whether the internode connection apparatus 10 maintains the lock of the node Nm or the number of communication steps is added to the synchronization request 103. When receiving the synchronization request 103, the control receiver 21-m updates the bit m of the collective communication participation flag 34. Thereby, an operation similar to the above-described operation is realized.

図１は、集団通信の例を示す概念図である。FIG. 1 is a conceptual diagram illustrating an example of collective communication. 図２は、従来技術に係るノード間接続装置による集団通信制御を示す概念図である。FIG. 2 is a conceptual diagram showing collective communication control by the inter-node connection device according to the prior art. 図３は、本発明に係るノード間接続装置による集団通信制御を示す概念図である。FIG. 3 is a conceptual diagram showing collective communication control by the internode connection apparatus according to the present invention. 図４は、本発明に係る並列処理システム及びノード間接続装置の構成を示すブロック図である。FIG. 4 is a block diagram showing the configuration of the parallel processing system and inter-node connection apparatus according to the present invention. 図５は、本発明に係るノード間接続装置のロック制御部の構成を示すブロック図である。FIG. 5 is a block diagram showing the configuration of the lock control unit of the internode connection apparatus according to the present invention. 図６は、本発明に係るノード間接続装置のノード間同期部の構成を示すブロック図である。FIG. 6 is a block diagram showing the configuration of the inter-node synchronization unit of the inter-node connection device according to the present invention. 図７は、本発明に係るロック制御部の第１の動作を示すブロック図である。FIG. 7 is a block diagram showing a first operation of the lock control unit according to the present invention. 図８は、本発明に係るノード間同期部の動作を示すブロック図である。FIG. 8 is a block diagram showing the operation of the inter-node synchronization unit according to the present invention. 図９は、本発明に係るロック制御部の第２の動作を示すブロック図である。FIG. 9 is a block diagram showing a second operation of the lock control unit according to the present invention.

Explanation of symbols

１並列処理システム
１０ノード間接続装置
２０制御送受信部
２１制御受信部
２２制御送信部
３０ロック制御部
３１ロック更新判定部
３２ロック競合調停部
３３集団通信ロックフラグ
３４集団通信参加フラグ
４０ノード間同期部
４１集団通信参加ノード間同期フラグ
４２リセット論理
５０データ転送パス
１０１集団通信ロック要求
２０１集団通信ロック要求リプライ
１０２送信データ
２０２受信データ
１０３同期要求
２０３同期要求リプライ DESCRIPTION OF SYMBOLS 1 Parallel processing system 10 Internode connection apparatus 20 Control transmission / reception part 21 Control reception part 22 Control transmission part 30 Lock control part 31 Lock update determination part 32 Lock contention arbitration part 33 Collective communication lock flag 34 Collective communication participation flag 40 Internode synchronization part 41 Collective Communication Participating Node Synchronization Flag 42 Reset Logic 50 Data Transfer Path 101 Collective Communication Lock Request 201 Collective Communication Lock Request Reply 102 Transmission Data 202 Received Data 103 Synchronization Request 203 Synchronization Request Reply

Claims

An inter-node connection device that performs collective communication realized by a plurality of communication steps between a plurality of nodes,
A control transmission / reception unit communicably connected to the plurality of nodes;
A lock control unit connected to the control transmission / reception unit,
The inter-node connection device, wherein the lock control unit locks a communication path for each of participating nodes participating in the collective communication among the plurality of nodes, and maintains the lock of the communication path over the plurality of communication steps.

The inter-node connection device according to claim 1,
The lock control unit
A plurality of lock update determination units provided corresponding to each of the plurality of nodes;
A collective communication lock flag indicating the lock state for each of the plurality of nodes, and
Each of the plurality of lock update determination units stores the number of remaining steps in which the corresponding node in the participating node group participates in the collective communication,
The collective communication lock flag is updated based on the number of remaining steps.

The inter-node connection device according to claim 2,
The first node of the participating node group transmits a lock request, which is a request for securing a communication path, to the control transmission / reception unit in the first step of the plurality of communication steps,
The control transmission / reception unit sets the remaining number of steps stored in a first lock update determination unit corresponding to the first node among the plurality of lock update determination units to an initial value indicated in the lock request. Inter-connection device.

The inter-node connection device according to claim 3,
The number of remaining steps is updated each time the plurality of communication steps proceeds.

The inter-node connection device according to claim 3 or 4,
The first node transmits a synchronization request to the control transmission / reception unit in a step after the first step among the plurality of communication steps,
In response to the synchronization request, the control transmission / reception unit decrements the number of remaining steps stored in the first lock update determination unit.

The inter-node connection device according to claim 5,
The lock control unit further includes a collective communication participation flag indicating a participation state in the collective communication regarding each of the plurality of nodes,
When the number of remaining steps is 1 or more, the first lock update determining unit sets a first participation bit corresponding to the first node in the collective communication participation flag to a first value, and the remaining steps When the number is less than 0, the internode connection apparatus sets the first participation bit to a second value that is an inverted value of the first value.

The inter-node connection device according to claim 6,
The inter-node connection device in which the bit value of the collective communication lock flag is updated with the bit value of the collective communication participation flag.

The inter-node connection device according to claim 7,
Further comprising an inter-node synchronization unit connected to the control transmission / reception unit and the lock control unit;
The inter-node synchronization unit is
A synchronization flag provided for each of the plurality of nodes;
Reset logic for resetting the synchronization flag, and
In response to the synchronization request, the control transmission / reception unit sets a first synchronization bit corresponding to the first node in the synchronization flag to the first value.

The inter-node connection device according to claim 8,
The inter-node connection device, wherein the control transmission / reception unit refers to the collective communication lock flag and outputs a lock request reply to the reset logic when the communication path is locked for all of the participating node groups.

The inter-node connection device according to claim 9, wherein
The control transmission / reception unit further transmits the lock request reply to the first node,
The inter-node connection device, wherein the first node transmits and receives data using the locked communication path in response to the lock request reply.

The inter-node connection device according to claim 9 or 10,
In response to the lock request reply, the reset logic resets the bit value of the synchronization flag with an inverted value of the bit value of the collective communication lock flag.

The inter-node connection device according to any one of claims 8 to 11,
The inter-node connection apparatus that issues a synchronization request reply when all the bits of the synchronization flag become the first value.

The inter-node connection device according to claim 12,
The inter-node connection device, wherein the reset logic resets the bit value of the synchronization flag with an inverted value of the bit value of the collective communication participation flag in response to the synchronization request reply.

The inter-node connection device according to claim 12 or 13,
The control transmission / reception unit transmits the synchronization request reply to the lock control unit,
The inter-node connection device, wherein the bit value of the collective communication lock flag is updated with the bit value of the collective communication participation flag in response to the synchronization request reply.

The inter-node connection device according to any one of claims 12 to 14,
The control transmission / reception unit further transmits the synchronization request reply to the first node,
The internode connection apparatus, wherein the first node transmits and receives data using the locked communication path in response to the synchronization request reply.

The inter-node connection device according to any one of claims 1 to 15,
The collective communication is an inter-node connection device that performs one of gather, gather to all nodes, reduction, and reduction to all nodes.