JP7135468B2 - 分散処理システムおよび分散処理方法 - Google Patents
分散処理システムおよび分散処理方法 Download PDFInfo
- Publication number
- JP7135468B2 JP7135468B2 JP2018110926A JP2018110926A JP7135468B2 JP 7135468 B2 JP7135468 B2 JP 7135468B2 JP 2018110926 A JP2018110926 A JP 2018110926A JP 2018110926 A JP2018110926 A JP 2018110926A JP 7135468 B2 JP7135468 B2 JP 7135468B2
- Authority
- JP
- Japan
- Prior art keywords
- distributed processing
- node
- data
- aggregated data
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Description
こうして、分散処理が行われることにより、深層学習には、集約通信(II)と全ノード集計処理(III)と分配通信(IV)の各処理時間が加わる。
近年、深層学習がより複雑な問題に適用されるようになってきており、重みの総数が増加する傾向にある。このため、分散データや集計データのデータ量が増大し、集約通信時間と分配通信時間が増大している。
以下、本発明の実施例について図面を参照して説明する。図1は本発明の第1の実施例に係る深層学習用分散処理システムの構成例を示すブロック図である。図1の分散処理システムは、ニューラルネットワークのサンプルデータ(学習データ)の集合毎に設けられたN個(Nは2以上の整数)の分散処理ノード1[n](n=1,・・・,N)と、各分散処理ノード1[j](j=1,・・・,N-1)から分散処理ノード1[j+1]に対して、中間集計データR*[m,j]を転送し、分散処理ノード1[N]から各分散処理ノード1[j](j=1,・・・,N-1)に対して集計データR[m]を分配するための、分散処理用ネットワーク2とを備える。分散処理用ネットワーク2は、双方向の通信が可能なネットワークである。なお、本発明において、「ノード」とは、ネットワーク上に分散配置されているサーバ等の機器を意味する。
図4は分散処理ノード1[n]の集約通信処理とノード間集計処理と重み更新処理を説明するフローチャートである。
R*[m,1]=D[m,1] ・・・(2)
R*[m,i]=R*[m,i-1]+D[m,i] ・・・(3)
R[m]=R*[m,N-1]+D[m,N] ・・・(4)
各分散処理ノード1[n](n=1,・・・,N)の処理における手順(重みw[m]の番号mの順番にパイプライン処理を行う動作)を、以下に説明する。
P番目の集約通信パケットSP[P,1]については、(M-L×(P-1))個の中間集計データR*[r,1]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての集約通信パケットが等しくL個のデータを格納するようにしてもよい。
P番目の集約通信パケットSP[P,i]については、(M-L×(P-1))個の中間集計データR*[r,i]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての集約通信パケットが等しくL個のデータを格納するようにしてもよい。
P番目の分配通信パケットDP[p]については、(M-L×(P-1))個の集計データR[r]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての分配通信パケットが等しくL個のデータを格納するようにしてもよい。
各分散処理ノード1[n]における重み更新処理は、上記で説明したとおりである。
次に、本発明の第2の実施例について説明する。本実施例の深層学習用分散処理システムの構成例を図7に示す。図7の分散処理システムは、K個(Kは3以上の整数)のリングノード3[k](k=1,・・・,K)と、番号kのリングノード3[k](k=1,・・・,K)が次の番号k+(k+=k+1、ただしk=Kの場合はk+=1)のリングノード3[k+]と双方向に通信するための通信路4[k](k=1,・・・,K)と、分散処理制御部5と、制御用ネットワーク6とを備える。
中間の分散処理ノード3a[i]の受信部14aは、前の番号z-(z-=z-1、ただしz=1の場合はz-=K)のリングノード3[z-]から通信路4[z-]を介して中間集計データR*[m,i-1]を受信する(図12ステップS205,S206)。
最終の分散処理ノード3a[N]の受信部14aは、前の番号e-(e-=e-1、ただしe=1の場合はe-=K)のリングノード3[e-]から通信路4[e-]を介して中間集計データR*[m,N-1]を受信する(図12ステップS209,S210)。
各分散処理ノード3a[n](n=1,・・・,N)の処理における手順(重みw[m]の番号mの順番にパイプライン処理を行う動作)を、以下に説明する。
P番目の集約通信パケットSP[P,1]については、(M-L×(P-1))個の中間集計データR*[r,1]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての集約通信パケットが等しくL個のデータを格納するようにしてもよい。
P番目の集約通信パケットSP[P,i]については、(M-L×(P-1))個の中間集計データR*[r,i]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての集約通信パケットが等しくL個のデータを格納するようにしてもよい。
P番目の分配通信パケットDP[p,N]については、(M-L×(P-1))個の集計データR[r]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての分配通信パケットが等しくL個のデータを格納するようにしてもよい。
P番目の分配通信パケットDP[p,i]については、(M-L×(P-1))個の集計データR[r]の後に、{L-(M-L×(P-1))}個のダミーの数値を追加し、全ての分配通信パケットが等しくL個のデータを格納するようにしてもよい。
次に、本発明の第3の実施例について説明する。本実施例では、第2の実施例の深層学習用分散処理システムに関して、分散処理ノード間の通信に障害が発生した場合の前記障害を回避するための分散処理制御部5の動作(各リングノードへの分散処理ノード3a[n](n=1,・・・,N)の再指定)について説明する。
次に、本発明の第4の実施例について説明する。第2の実施例、第3の実施例、および本実施例の深層学習用分散処理システムは、リングシステムであり、K個(Kは3以上の整数)のリングノード3[k](k=1,・・・,K)と、番号kのリングノード3[k](k=1,・・・,K)が次の番号k+(k+=k+1、ただしk=Kの場合はk+=1)のリングノード3[k+]と双方向に通信するための通信路4[k](k=1,・・・,K)と、分散処理制御部5と、制御用ネットワーク6とを備える。分散処理制御部5は、制御用ネットワーク6を介して各リングノード3[k](k=1,・・・,K)と接続される。
グループBに属する分散処理ノード3aB[δ]の構成も、分散処理ノード3aA[γ]と同様である。
Claims (8)
- ネットワークを介して互いに接続されたN個(Nは2以上の整数)の分散処理ノードを備え、
各分散処理ノードは、学習対象のニューラルネットワークのM個(Mは2以上の整数)の重みw[m]毎(m=1,・・・,M)の分散データを生成し、
N個の分散処理ノードのうち、予め定められた1番目の分散処理ノードは、自ノードで生成された分散データを第1の集計データとして、この第1の集計データを重みw[m]の番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信し、
N個の分散処理ノードのうち、前記1番目と最終とを除く中間の分散処理ノードは、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて更新後の第1の集計データを生成し、この第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信し、
N個の分散処理ノードのうち、予め定められた最終の分散処理ノードは、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて第2の集計データを生成し、この第2の集計データを前記番号mの順番にパケット化して、前記1番目および前記中間の分散処理ノードに送信し、
各分散処理ノードは、前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新することを特徴とする分散処理システム。 - 請求項1記載の分散処理システムにおいて、
各分散処理ノードは、
自ノードが前記1番目の分散処理ノードである場合に、前記第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信し、自ノードが前記中間の分散処理ノードである場合に、前記更新後の第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信し、自ノードが前記最終の分散処理ノードである場合に、前記第2の集計データを前記番号mの順番にパケット化して、前記1番目および前記中間の分散処理ノードに送信する集計データ送信部と、
自ノードが前記中間の分散処理ノードである場合に、前記更新後の第1の集計データを生成し、自ノードが前記最終の分散処理ノードである場合に、前記第2の集計データを生成する集計データ生成部と、
自ノードが前記1番目または前記中間の分散処理ノードである場合に、前記第1の集計データと前記第2の集計データとを受信し、自ノードが前記最終の分散処理ノードである場合に、前記第1の集計データを受信する受信部と、
前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新する重み更新処理部とを備えることを特徴とする分散処理システム。 - リング状に配置され、隣接するノードと通信路を介して互いに接続されたK個(Kは3以上の整数)のリングノードと、
前記K個のリングノードの各々を、分散処理ノードあるいは中継ノードの何れかに指定する分散処理制御部とを備え、
K個のリングノードのうち、分散処理ノードとして機能するN個(Nは2以上K以下の整数)の各リングノードは、学習対象のニューラルネットワークのM個(Mは2以上の整数)の重みw[m]毎(m=1,・・・,M)の分散データを生成し、
N個の分散処理ノードのうち、予め指定された1番目の分散処理ノードとして機能するリングノードは、自ノードで生成された分散データを第1の集計データとして、この第1の集計データを重みw[m]の番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、前記1番目と最終とを除く中間の分散処理ノードとして機能するリングノードは、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて更新後の第1の集計データを生成し、この第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、予め指定された最終の分散処理ノードとして機能するリングノードは、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて第2の集計データを生成し、この第2の集計データを前記番号mの順番にパケット化して、予め指定された前の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、前記中間の分散処理ノードとして機能するリングノードは、受信した第2の集計データを前記番号mの順番にパケット化して、予め指定された前の番号の分散処理ノードに向けて送信し、
K個のリングノードのうち、前記中継ノードとして機能する各リングノードは、受信した前記第1の集計データまたは前記第2の集計データを、転送先の分散処理ノードに向けて送信し、
各分散処理ノードは、前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新することを特徴とする分散処理システム。 - 請求項3記載の分散処理システムにおいて、
各リングノードは、
自ノードが前記1番目の分散処理ノードとして機能する場合に、前記第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信し、自ノードが前記中間の分散処理ノードとして機能する場合に、前記更新後の第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信し、自ノードが前記最終の分散処理ノードとして機能する場合に、前記第2の集計データを前記番号mの順番にパケット化して、予め指定された前の番号の分散処理ノードに向けて送信し、自ノードが前記中継ノードとして機能する場合に、受信した前記第1の集計データまたは前記第2の集計データを、転送先の分散処理ノードに向けて送信する集計データ送信部と、
自ノードが前記中間の分散処理ノードとして機能する場合に、前記更新後の第1の集計データを生成し、自ノードが前記最終の分散処理ノードとして機能する場合に、前記第2の集計データを生成する集計データ生成部と、
自ノードが前記1番目または前記中間の分散処理ノードとして機能する場合に、前記第1の集計データと前記第2の集計データとを受信し、自ノードが前記最終の分散処理ノードとして機能する場合に、前記第1の集計データを受信する受信部と、
自ノードが前記分散処理ノードとして機能する場合に、前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新する重み更新処理部とを備えることを特徴とする分散処理システム。 - 請求項3または4記載の分散処理システムにおいて、
前記分散処理制御部は、
前記K個のリングノードの各々を、前記分散処理ノードあるいは前記中継ノードの何れかに指定する機能指定部と、
前記第1の集計データまたは前記第2の集計データを転送先の分散処理ノードに送信できない障害が発生したときに、この障害を回避するように各リングノードの機能指定を変更する機能指定変更部とを備えることを特徴とする分散処理システム。 - 請求項3乃至5のいずれか1項に記載の分散処理システムにおいて、
前記分散処理制御部は、前記分散処理ノードとして指定するリングノードの各々を、複数の異なるグループのうちいずれか1つのグループに属するように指定し、
N個の分散処理ノードのうち、予め指定された1番目の分散処理ノードとして機能するリングノードは、自ノードで生成された分散データを第1の集計データとして、この第1の集計データを重みw[m]の番号mの順番にパケット化して、同じグループに属する、予め指定された次の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、前記1番目と最終とを除く中間の分散処理ノードとして機能するリングノードは、同じグループの分散処理ノードから送信された第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて更新後の第1の集計データを生成し、この第1の集計データを前記番号mの順番にパケット化して、同じグループに属する、予め指定された次の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、予め定められた最終の分散処理ノードとして機能するリングノードは、同じグループの分散処理ノードから送信された第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて第2の集計データを生成し、この第2の集計データを前記番号mの順番にパケット化して、同じグループに属する、予め指定された前の番号の分散処理ノードに向けて送信し、
N個の分散処理ノードのうち、前記中間の分散処理ノードとして機能するリングノードは、同じグループの分散処理ノードから送信された第2の集計データを前記番号mの順番にパケット化して、同じグループに属する、予め指定された前の番号の分散処理ノードに向けて送信し、
各分散処理ノードは、同じグループの分散処理ノードで生成・送信された前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新することを特徴とする分散処理システム。 - ネットワークを介して互いに接続されたN個(Nは2以上の整数)の分散処理ノードの各々が、学習対象のニューラルネットワークのM個(Mは2以上の整数)の重みw[m]毎(m=1,・・・,M)の分散データを生成する第1のステップと、
N個の分散処理ノードのうち、予め定められた1番目の分散処理ノードが、自ノードで生成された分散データを第1の集計データとして、この第1の集計データを重みw[m]の番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信する第2のステップと、
N個の分散処理ノードのうち、前記1番目と最終とを除く中間の分散処理ノードが、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて更新後の第1の集計データを生成し、この第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに送信する第3のステップと、
N個の分散処理ノードのうち、予め定められた最終の分散処理ノードが、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて第2の集計データを生成し、この第2の集計データを前記番号mの順番にパケット化して、前記1番目および前記中間の分散処理ノードに送信する第4のステップと、
各分散処理ノードが、前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新する第5のステップとを含むことを特徴とする分散処理方法。 - リング状に配置され、隣接するノードと通信路を介して互いに接続されたK個(Kは3以上の整数)のリングノードのうち、分散処理ノードとして機能するN個(Nは2以上K以下の整数)の各リングノードが、学習対象のニューラルネットワークのM個(Mは2以上の整数)の重みw[m]毎(m=1,・・・,M)の分散データを生成する第1のステップと、
N個の分散処理ノードのうち、予め指定された1番目の分散処理ノードとして機能するリングノードが、自ノードで生成された分散データを第1の集計データとして、この第1の集計データを重みw[m]の番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信する第2のステップと、
N個の分散処理ノードのうち、前記1番目と最終とを除く中間の分散処理ノードとして機能するリングノードが、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて更新後の第1の集計データを生成し、この第1の集計データを前記番号mの順番にパケット化して、予め指定された次の番号の分散処理ノードに向けて送信する第3のステップと、
N個の分散処理ノードのうち、予め指定された最終の分散処理ノードとして機能するリングノードが、受信した第1の集計データと自ノードで生成された分散データとの和を、対応する重みw[m]毎に求めて第2の集計データを生成し、この第2の集計データを前記番号mの順番にパケット化して、予め指定された前の番号の分散処理ノードに向けて送信する第4のステップと、
N個の分散処理ノードのうち、前記中間の分散処理ノードとして機能するリングノードが、受信した第2の集計データを前記番号mの順番にパケット化して、予め指定された前の番号の分散処理ノードに向けて送信する第5のステップと、
K個のリングノードのうち、中継ノードとして機能する各リングノードが、前記第1の集計データまたは前記第2の集計データを受信したときに、受信した前記第1の集計データまたは前記第2の集計データを、転送先の分散処理ノードに向けて送信する第6のステップと、
各分散処理ノードが、前記第2の集計データに基づいて前記ニューラルネットワークの重みw[m]を更新する第7のステップとを含むことを特徴とする分散処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018110926A JP7135468B2 (ja) | 2018-06-11 | 2018-06-11 | 分散処理システムおよび分散処理方法 |
US16/973,717 US20210209443A1 (en) | 2018-06-11 | 2019-05-05 | Distributed Processing System and Distributed Processing Method |
PCT/JP2019/019895 WO2019239802A1 (ja) | 2018-06-11 | 2019-05-20 | 分散処理システムおよび分散処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018110926A JP7135468B2 (ja) | 2018-06-11 | 2018-06-11 | 分散処理システムおよび分散処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019215603A JP2019215603A (ja) | 2019-12-19 |
JP7135468B2 true JP7135468B2 (ja) | 2022-09-13 |
Family
ID=68842478
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018110926A Active JP7135468B2 (ja) | 2018-06-11 | 2018-06-11 | 分散処理システムおよび分散処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20210209443A1 (ja) |
JP (1) | JP7135468B2 (ja) |
WO (1) | WO2019239802A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7412699B2 (ja) | 2020-01-14 | 2024-01-15 | 慶應義塾 | 情報処理システム、情報処理装置、及びプログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017168950A (ja) | 2016-03-15 | 2017-09-21 | 株式会社日立製作所 | 通信制御装置、通信システム、および、通信制御方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1083383A (ja) * | 1996-09-09 | 1998-03-31 | Toshiba Corp | ニューロ演算装置 |
US11436433B2 (en) * | 2017-12-28 | 2022-09-06 | Intel Corporation | Malleable fabric attached virtual artificial intelligence (AI) training appliances |
US10728091B2 (en) * | 2018-04-04 | 2020-07-28 | EMC IP Holding Company LLC | Topology-aware provisioning of hardware accelerator resources in a distributed environment |
-
2018
- 2018-06-11 JP JP2018110926A patent/JP7135468B2/ja active Active
-
2019
- 2019-05-05 US US16/973,717 patent/US20210209443A1/en active Pending
- 2019-05-20 WO PCT/JP2019/019895 patent/WO2019239802A1/ja active Application Filing
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017168950A (ja) | 2016-03-15 | 2017-09-21 | 株式会社日立製作所 | 通信制御装置、通信システム、および、通信制御方法 |
Non-Patent Citations (2)
Title |
---|
HEGDE, V., et al.,"Parallel and Distributed Deep Learning",[online],2016年06月09日,Pages 1-8,[平成31年3月12日検索], インターネット, <URL: https://stanford.edu/~rezab/classes/cme323/S16/projects_reports/hedge_usmani.pdf>. |
SHOU KING FOO, et al.,"Parallel Implementation of Backpropagation Neural Networks on a Heterogeneous Array of Transputers",IEEE Transactions on Systems, Man, and Cybernetics, Part B (Cybernetics),1997年02月,Vol.27, No.1,Pages 118-126,ISSN: 1083-4419, <DOI: 10.1109/3477.552191>. |
Also Published As
Publication number | Publication date |
---|---|
US20210209443A1 (en) | 2021-07-08 |
WO2019239802A1 (ja) | 2019-12-19 |
JP2019215603A (ja) | 2019-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10541861B2 (en) | Network system, method, and switch device | |
CN113098773B (zh) | 数据处理方法、装置及系统 | |
CN114567598B (zh) | 一种基于深度学习和跨域协作的负载均衡方法及装置 | |
CN103348638A (zh) | 通信系统、控制装置、通信节点以及通信方法 | |
CN110891019B (zh) | 一种基于负载均衡的数据中心流量调度方法 | |
WO2020095678A1 (ja) | 分散処理システムおよび分散処理方法 | |
US20230134135A1 (en) | Real-time detection of completion of sensor wrap completion in gnmi telemetry of a network device | |
JP2017118438A (ja) | パケット送信プログラム、情報処理装置、および、障害検出方法 | |
JP7135468B2 (ja) | 分散処理システムおよび分散処理方法 | |
Tuyishimire et al. | Modelling and analysis of interference diffusion in the internet of things: An epidemic model | |
Pinyoanuntapong et al. | Toward scalable and robust AIoT via decentralized federated learning | |
Carro-Calvo et al. | A genetic algorithm with switch-device encoding for optimal partition of switched industrial Ethernet networks | |
CN111901237B (zh) | 源路由选路方法及系统、相关设备及计算机可读存储介质 | |
CN101237408A (zh) | 基于距离完全蚁群算法的多播路由方法 | |
WO2019159784A1 (ja) | 分散処理システムおよび分散処理方法 | |
KR101913745B1 (ko) | 소프트웨어 정의 네트워크에서 데이터 평면 애플리케이션을 활용하여 전송 경로를 설정하는 장치 및 방법 | |
JP7272460B2 (ja) | 分散深層学習システム | |
CN110431824B (zh) | 通过对等消息彼此通信的节点的计算机网络以及关联的用于使节点之间互连的方法 | |
WO2020245864A1 (ja) | 分散処理システムおよび分散処理方法 | |
WO2020085058A1 (ja) | 分散処理システムおよび分散処理方法 | |
Srivastava et al. | Combined resource allocation and route optimization in multiagent networks: A scalable approach | |
JP7074018B2 (ja) | 分散処理システムおよび分散処理方法 | |
CN113705826B (zh) | 面向分布式机器学习的参数同步组播方法 | |
JP7283577B2 (ja) | 分散深層学習システムおよび分散深層学習方法 | |
CN115277217B (zh) | 一种异域网络靶场虚拟网络的构建系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201116 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220802 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220815 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7135468 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |