JP6468066B2 - 並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム - Google Patents
並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム Download PDFInfo
- Publication number
- JP6468066B2 JP6468066B2 JP2015098201A JP2015098201A JP6468066B2 JP 6468066 B2 JP6468066 B2 JP 6468066B2 JP 2015098201 A JP2015098201 A JP 2015098201A JP 2015098201 A JP2015098201 A JP 2015098201A JP 6468066 B2 JP6468066 B2 JP 6468066B2
- Authority
- JP
- Japan
- Prior art keywords
- collective communication
- change
- communication
- collective
- predetermined threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/3001—Arithmetic instructions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/173—Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
- G06F15/17306—Intercommunication techniques
- G06F15/17331—Distributed shared memory [DSM], e.g. remote direct memory access [RDMA]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/173—Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
- G06F15/17306—Intercommunication techniques
- G06F15/17318—Parallel communications techniques, e.g. gather, scatter, reduce, roadcast, multicast, all to all
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computer And Data Communications (AREA)
Description
2ステップ目・・・プロセス#0からプロセス#2へ送信、プロセス#1からプロセス#3へ送信
3ステップ目・・・プロセス#0からプロセス#4へ送信、プロセス#1からプロセス#5へ送信、プロセス#2からプロセス#6へ送信、プロセス#3からプロセス#7へ送信
プロセス#0は、1ステップ目で、(0+2^(1−1))=1すなわちプロセス#1へ送信、
プロセス#0は、2ステップ目で、(0+2^(2−1))=2すなわちプロセス#2へ送信、
プロセス#0は、3ステップ目で、(0+2^(3−1))=4すなわちプロセス#4へ送信、
プロセス#1は、2ステップ目で、(1+2^(2−1))=3すなわちプロセス#3へ送信、等である。
2ステップ目・・・プロセス#0は#6へ送信、プロセス#1は#7へ送信、プロセス#2は#0へ送信、プロセス#3は#1へ送信、プロセス#4は#2へ送信、プロセス#5は#3へ送信、プロセス#6は#4へ送信、プロセス#7は#5へ送信
3ステップ目・・・プロセス#0は#4へ送信、プロセス#1は#5へ送信、プロセス#2は#6へ送信、プロセス#3は#7へ送信、プロセス#4は#0へ送信、プロセス#5は#1へ送信、プロセス#6は#2へ送信、プロセス#7は#3へ送信
2ステップ目・・・プロセス#0とプロセス#2間で交換、プロセス#1とプロセス#3間で交換、プロセス#4とプロセス#6間で交換、プロセス#5とプロセス#7間で交換
3ステップ目・・・プロセス#0とプロセス#4間で交換、プロセス#1とプロセス#5間で交換、プロセス#2とプロセス#6間で交換、プロセス#3とプロセス#7間で交換
2ステップ目・・・プロセス#p(pは0〜7)は(p+2^(2−1))%(2^2)+(2^2)*[p/(2^2)]
3ステップ目・・・プロセス#p(pは0〜7)は(p+2^(3−1))%(2^3)+(2^3)*[p/(2^3)]
2 スイッチ
3 プロセス
10 PCクラスタシステム
11 HCA
12 CPU
12a MC
12b コア
13 メモリ
13a 領域
14 LANインタフェース
15 HDD
16 ODD
31 平均算出部
32 変更制御部
32a 判定部
32b 対象決定部
32c 指示送信部
33 完了待部
Claims (7)
- 複数の演算装置が並列に演算を行う並列演算装置において、
各演算装置は、
集合通信の開始から前記集合通信に関する受信までの時間が所定の閾値以下であるか否かを判定する判定部と、
前記判定部により前記時間が所定の閾値以下であると判定された場合に、前記集合通信に関する待ち方式を変更する対象演算装置を決定する決定部と、
前記決定部により決定された対象演算装置に前記集合通信に関する待ち方式の変更指示を送信する送信部と
を有することを特徴とする並列演算装置。 - 前記送信部は、前記集合通信に関する待ち方式について割込み方式からポーリング方式への変更指示を送信することを特徴とする請求項1に記載の並列演算装置。
- 前記送信部は、RDMAを用いて前記変更指示を送信することを特徴とする請求項1又は2に記載の並列演算装置。
- 前記決定部は、前記集合通信のアルゴリズムに基づいて前記対象演算装置を決定することを特徴とする請求項1、2又は3に記載の並列演算装置。
- 並列に演算を行う複数の演算装置と前記複数の演算装置が接続されたスイッチとを有する並列演算システムにおいて、
各演算装置は、
集合通信の開始から前記集合通信に関する受信までの時間が所定の閾値以下であるか否かを判定する判定部と、
前記判定部により前記時間が所定の閾値以下であると判定された場合に、前記集合通信に関する待ち方式を変更する対象演算装置を決定する決定部と、
前記決定部により決定された対象演算装置に前記集合通信に関する待ち方式の変更指示を送信する送信部と
を有することを特徴とする並列演算システム。 - 他の演算装置と並列に演算を行う演算装置による集合通信方法において、
集合通信の開始から前記集合通信に関する受信までの時間が所定の閾値以下であるか否かを判定し、
前記時間が所定の閾値以下であると判定した場合に、前記集合通信に関する待ち方式を変更する対象演算装置を決定し、
決定した対象演算装置に前記集合通信に関する待ち方式の変更指示を送信する
処理を実行することを特徴とする集合通信方法。 - 他の演算装置と並列に演算を行う演算装置で実行される集合通信プログラムにおいて、
集合通信の開始から前記集合通信に関する受信までの時間が所定の閾値以下であるか否かを判定し、
前記時間が所定の閾値以下であると判定した場合に、前記集合通信に関する待ち方式を変更する対象演算装置を決定し、
決定した対象演算装置に前記集合通信に関する待ち方式の変更指示を送信する
処理を前記演算装置に実行させることを特徴とする集合通信プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015098201A JP6468066B2 (ja) | 2015-05-13 | 2015-05-13 | 並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム |
US15/083,672 US9766885B2 (en) | 2015-05-13 | 2016-03-29 | System, method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015098201A JP6468066B2 (ja) | 2015-05-13 | 2015-05-13 | 並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016212787A JP2016212787A (ja) | 2016-12-15 |
JP6468066B2 true JP6468066B2 (ja) | 2019-02-13 |
Family
ID=57277192
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015098201A Active JP6468066B2 (ja) | 2015-05-13 | 2015-05-13 | 並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9766885B2 (ja) |
JP (1) | JP6468066B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108153584B (zh) * | 2016-12-02 | 2021-11-09 | 百度在线网络技术(北京)有限公司 | 一种用于确定目标网络设备需分配的线程数的方法与设备 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5414858A (en) * | 1992-12-11 | 1995-05-09 | International Business Machines Corporation | System and method for dynamically varying between interrupt and polling to service requests of computer peripherals |
JP4720236B2 (ja) | 2005-03-22 | 2011-07-13 | 富士ゼロックス株式会社 | 画像処理装置 |
US9003413B1 (en) * | 2009-09-28 | 2015-04-07 | Xilinx, Inc. | Thread synchronization by transitioning threads to spin lock and sleep state |
JP5549574B2 (ja) * | 2010-12-17 | 2014-07-16 | 富士通株式会社 | 並列計算機システム、同期装置、並列計算機システムの制御方法 |
CN102779075B (zh) | 2012-06-28 | 2014-12-24 | 华为技术有限公司 | 一种在多处理器核系统中进行调度的方法、装置及系统 |
US9652300B2 (en) * | 2012-06-28 | 2017-05-16 | Intel Corporation | Systems, methods, and computer program products for preemption of threads at a synchronization barrier |
JP6070150B2 (ja) * | 2012-12-14 | 2017-02-01 | 富士通株式会社 | 情報処理装置、情報処理装置の制御方法及び情報処理装置の制御プログラム |
EP2937783B1 (en) * | 2014-04-24 | 2018-08-15 | Fujitsu Limited | A synchronisation method |
-
2015
- 2015-05-13 JP JP2015098201A patent/JP6468066B2/ja active Active
-
2016
- 2016-03-29 US US15/083,672 patent/US9766885B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20160335083A1 (en) | 2016-11-17 |
JP2016212787A (ja) | 2016-12-15 |
US9766885B2 (en) | 2017-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5568048B2 (ja) | 並列計算機システム、およびプログラム | |
US7953915B2 (en) | Interrupt dispatching method in multi-core environment and multi-core processor | |
KR102245247B1 (ko) | 트리거된 동작을 이용하는 gpu 원격 통신 | |
CN109697122B (zh) | 任务处理方法、设备及计算机存储介质 | |
JP2018512678A (ja) | 時間ベースのノード選出方法及び装置 | |
US10614542B2 (en) | High granularity level GPU resource allocation method and system | |
US11144366B2 (en) | Computing node processor resource optimization method, computing node and server cluster | |
US9389923B2 (en) | Information processing device and method for controlling information processing device | |
JP2007026095A (ja) | 並列演算装置 | |
KR102083289B1 (ko) | 마이크로서버 환경의 소프트웨어 이주 방법 및 이를 지원하는 장치 | |
WO2014047902A1 (zh) | 负载均衡方法、装置、系统及计算机可读介质 | |
WO2017185615A1 (zh) | 一种业务处理设备的业务状态确定方法及调度设备 | |
WO2012113232A1 (zh) | 调整时钟中断周期的方法和装置 | |
US20190026142A1 (en) | Information processing apparatus, control method and storage medium | |
JP6468066B2 (ja) | 並列演算装置、並列演算システム、集合通信方法及び集合通信プログラム | |
JP5866077B2 (ja) | 情報管理方法及びデバイス | |
TWI625630B (zh) | 電腦系統及匯流排仲裁方法 | |
WO2018106392A1 (en) | Technologies for multi-core wireless network data transmission | |
JP5978849B2 (ja) | 並列計算機システム、クロスバスイッチ及び並列計算機システムの制御方法 | |
JP2011124677A (ja) | パケット処理装置、パケット振り分け装置、制御プログラム及びパケット分散方法 | |
JP6079805B2 (ja) | 並列計算装置 | |
JP4089506B2 (ja) | ファイル共有システム及びサーバー並びにプログラム | |
US20110191638A1 (en) | Parallel computer system and method for controlling parallel computer system | |
Takagi et al. | Adaptive transport service selection for MPI with InfiniBand network | |
JP5879159B2 (ja) | 複数サーバにおける同期方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181023 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181211 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181231 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6468066 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |