JP2014050037A

JP2014050037A - 大規模ニューラルネットワークシステムのためのハイブリッド相互接続（ＨｙｂｒｉｄＩｎｔｅｒｃｏｎｎｅｃｔＳｔｒａｔｅｇｙｆｏｒＬａｒｇｅ−ＳｃａｌｅＮｅｕｒａｌＮｅｔｗｏｒｋＳｙｓｔｅｍｓ）

Info

Publication number: JP2014050037A
Application number: JP2012193327A
Authority: JP
Inventors: Yasunao Katayama; 泰尚片山; Toshi Yamane; 敏志山根; Daiki Nakano; 大樹中野
Original assignee: International Business Machines Corp
Current assignee: International Business Machines Corp
Priority date: 2012-09-03
Filing date: 2012-09-03
Publication date: 2014-03-17
Also published as: US20140067741A1; US20140067742A1

Abstract

【課題】
学習結果に対応して柔軟にネットワーク構造を再構成可能である（リコンフィギュアラブルである）大規模ニューラルネットワークの構成を実現すること。
【解決手段】
自由空間に面して所定の形状に沿って配置される複数のチップと、単数または複数の光学素子とを有している。あるチップにおける電気的な通信の信号トラフィックが所定の閾値を超えた場合、もしくは超えることが予想される場合において、その超えた信号トラフィックの通信ルーティングに関与している複数のチップを特定し、それら特定された複数のチップを横切っている関連する信号トラフィックの一部を電気信号から光信号に変換して、その超えた信号トラフィックをバイパスさせる。複数のチップ間の固定配線経由の経路から、自由空間中の光学的通信経由の経路に、動的に適合させる。
【選択図】図１

Description

本発明は、大規模なニューラルネットワークシステム（Large-Scale Neural Network
Systems）を実現するための構成に関する。より具体的には、電気的に模倣されたニューロンに対応する計算エレメント間を接続する場合に、電子回路による実装と光学系による実装とをハイブリッドに相互接続する構成に関する。

New computing paradigm（新しいコンピューティング方法論）の一つとして、cognitive（コグニティブ）技術が注目されており、人間の脳にも匹敵するような大規模ニューラルネットワークの研究開発が進められている。

規模の拡大に伴って、例えば既存の電気的なパケット交換を使ったNeuron（ニューロン）間の結合手法では、人間の脳を超える高性能化を目指す場合において、ニューロン間の結合ＢＷ：Band Width（バンド幅）の最適化が全体性能のボトルネックになりつつある。

現在のニューラルネットワークの実装方法には、大別すると、FPGA/ASICなどの電子回路によるもの（例えば、非特許文献１）と光学素子を組み合わせた光学系によるもの（例えば、特許文献１）とが存在する。

電子回路による実装では、ニューロンに対応する計算エレメントをメッシュ状に集積化してそれらを固定配線で結合する。この場合、学習アルゴリズムによってどの程度の結合がどの計算エレメント間に必要であるかが異なってくるので、計算エレメント間を直接接続するためには事前にすべての可能な結合パスを固定配線で用意しておく必要がある。

しかし、現実には、計算エレメントを集積したチップの製造時にネットワーク構造があらかじめ固定化される上に、１つのニューロンから出せるリンク（Fanout ファンアウト）の数に限りがあるため、直接結合されていないニューロン間の通信はパケット通信などの時分割多重の通信手法を用いて他のニューロンを経由して通信することになる。

その結果、ニューロン数が大きい場合には、回路全体でホッピングする信号間の影響によるCollision（衝突）、Congestion（輻輳）が生じ、バンド幅・Latency（レイテンシ）を悪化させる大きな要因となる。

一方で、光学系による実装では、発光素子、レンズやミラーなどの光学素子としきい値素子などの論理演算素子を組み合わせて作る。しかし、光学系全体を電子回路なみに集積化することは困難であり、結果として高性能化の達成は難しい。

Learning algorithm（学習アルゴリズム）に伴って、柔軟に構成を変化させることが可能なReconfigurable（リコンフィギュラブル）なニューロン間の結合も望まれている。

ニューラルネットワークとは、本来、脳の神経細胞ネットワークからヒントを得た技術であり、３次元的に大きなファンアウトで結合した多数のニューロンが階層構造をなしているが、学習によりそのネットワーク構造やリンクの重みを変化させていく点に大きな特徴がある。

従って、大規模ニューラルネットワークの実装においては、学習結果に対応して柔軟にネットワーク構造を再構成可能であること（リコンフィギュアラブルであること）が、ニューロン数が増大しても現実的な回路サイズと処理速度で動作すること（スケーラブルであること）とともに重要な課題として挙げられる。

特許文献２および特許文献４には、ニューラルネット装置についての記載があるものの、光学系を含むチップの構造を開示するものではない。

特許文献３、特許文献５および特許文献６には、光ニューラル・チップについての記載があるものの、光学系の部分でのネットワーク再構成手法を開示しておらず、本発明の構成とは大きく異なる。

米国特許第４９６３７２５号明細書（John H. Hong et. al, “ADAPTIVE OPTICAL NEURALNETWORK”1990.）日本国特許第４３５０３７３号公報（国際公開ＷＯ２００２／０３５６１６号公報ＰＣＴ／ＪＰ２０００／００７３７６が日本国に国内段階移行）‘‘ 日本国特許第３４０７２６６号公報日本国特許第３２６２８５７号公報日本国特許第２８６１７８４号公報日本国特開平５−３０７８号公報

Avinash Rajah, Mohamed Khalil Han, "ASIC DESIGN OF AKOHONEN NEURAL NETWORK MICROCHIP", iICSE2004

本発明の目的は、学習結果に対応して柔軟にネットワーク構造を再構成可能である（リコンフィギュアラブルである）大規模ニューラルネットワークの構成を実現することにある。

電気信号によるニューロン間の有線配線の集積化における長所と自由空間光配線の柔軟性を組み合わせることで、大規模で高性能のニューラルネットワークを構成し、３次元的に複雑に結合した脳を模倣できるニューラルネットワークの結合構造を開示する。

その結果、人間の脳に匹敵するニューロン間の大規模な接続要求を性能・集積度に妥協することなく実現し、また、同時に学習アルゴリズムに従って柔軟に変更可能なリコンフィギュアラブルなネットワークを実現する。

大規模なニューラルネットワークを実現するための構成として、電気信号によるニューロン間の有線配線の集積化における長所と、自由空間光配線の柔軟性を組み合わせることによって、大規模で高性能のニューラルネットワークを構成する。

より具体的には、自由空間に面して所定の形状に沿って配置され、複数の所定のチップ同士が相互に固定配線された経路を通じて電気的に通信できるように構成されている、複数のチップと、複数のチップのうちの、あるチップからの電気信号を光信号に変換し、固定配線された経路を通じてはあるチップから電気的には直接通信を確立していない他のチップへ向かって、自由空間中の選択された光学的通信経路を経由して光学的な通信を可能にする、単数または複数の光学素子とを有している構成を開示する。

また、このような構成のもと、あるチップにおける電気的な通信の信号トラフィックが所定の閾値を超えた場合、もしくは超えることが予想される場合において、その超えた信号トラフィックの通信ルーティングに関与している複数のチップを特定し、それら特定された複数のチップを横切っている関連する信号トラフィックの一部を電気信号から光信号に変換して、その超えた信号トラフィックをバイパスさせる目的で、複数のチップ間の固定配線経由の経路から、単数または複数の光学素子を通じての自由空間中の光学的通信経由の経路に、信号トラフィックの経路を動的にリコンフィギュアラブルに適合させることを特徴とする。

本発明の構成に従えば、以下の（１）〜（３）のような特有の効果が得られる。

（１）電気信号用の固定配線と光信号用の自由空間配線の特徴を組み合わせることで、３次元的に複雑に結合した脳を効率よく人工的な計算エレメントの集合体として模倣することができるニューラルネットワークの結合構造が提供できる。

（２）特に、性能・集積度を落とすことなく多数のニューロン間の複雑な接続要求に対応できる。

（３）学習アルゴリズムに従って柔軟に変更可能なリコンフィギュアラブルなネットワークを実現できる。

図１は、本発明であるところの、学習結果に対応して柔軟にネットワーク構造を再構成可能である（リコンフィギュアラブルである）大規模ニューラルネットワークシステムの構成を示す全体図である。図２は、大規模ニューラルネットワークを実現するための構成として、ニューロンに対応する計算エレメントを集積したチップによる電子回路による実装と、光学素子による光学系による実装とを組合せた、ハイブリッド構成の例を示す図である。図３は、複数チップ間のメッシュネットワークとして構成される固定配線による電気的な通信を行う電子回路実装のデメリットと、自由空間中の選択された光学的通信経路を経由して光学的な通信を行う光学系による実装上・性能上のメリットとを説明する図である。図４は、生体ニューロンの構成を、電子回路によるニューロン構成と、光学系によるニューロン構成とのハイブリッド構成によって模倣することの課題・意義を説明する模式図である。図５は、電気的なニューロン間の相互接続ネットワークと、自由空間を利用したニューロン間の光結合ネットワーク構成の比較を説明する図である。図６は、脳、固定配線相互接続、自由空間を利用した相互接続の特性を比較したマトリックス図である。図７は、本発明による自由空間を使った光通信を、ニューラルネットワークを用いた新しいコンピューティング方法に適用した場合の場合のより一般的な観点での相互接続の意義を説明する図である。

図１は、本発明であるところの、学習結果に対応して柔軟にネットワーク構造を再構成可能である（リコンフィギュアラブルである）大規模ニューラルネットワークシステムの構成を示す全体図である。

人間の脳は、主に、白質（White matter）と灰白質（Gray Matter）とに区別される。

灰白質は、中枢神経系の神経組織のうち、神経細胞の細胞体が存在している部位のことを指す。これに対し、神経細胞体がなく、神経線維ばかりの部位を白質と呼ぶ。

白質では、灰白質に比べて、有髄神経線維が多いからと考えられ、灰白質が大脳や小脳でその表面を薄く覆う様に存在している皮質（Cortex）と異なり、脳の中心に近い、間脳、脳幹、脊髄などに相対的に多く存在している。

人間の脳の中では、生体ニューロンという構成単位（図４で後述）をもって捉えることができる通信経路が３次元的に多数のニューロンが階層構造をなしていて、複雑にマッピングされているため、相互接続（crossconnect）を人工的な計算エレメントの集合体に模倣して組織化することは容易ではない。

本発明のネットワークシステムでは、複数のチップと、単数または複数の光学素子とを有することで、複数のチップ間の固定配線経由の経路から、単数または複数の光学素子を通じての自由空間中の光学的通信経由の経路に、信号トラフィックの経路を動的にリコンフィギュアラブルに適合させる。

このようなネットワークは、生体ニューロンを模倣して組織化された大規模ニューラルネットワークとして、ネットワークの構成の変化に柔軟に適合することができるものである。

複数のチップは、自由空間に面して所定の形状に沿って配置され、複数の所定のチップ同士が相互に固定配線された経路を通じて電気的に通信できるように構成されている。

図１の中では２次元平面状のアレイとして模式的に示されているが、自由空間に面して所定の形状に沿って配置されてさえていればよく、例えば、自由曲面に沿って配置されていてもよい。

光学素子は、複数のチップのうちの、あるチップからの電気信号を光信号に変換し、前記固定配線された経路を通じてはあるチップから電気的には直接通信を確立していない他のチップへ向かって、自由空間中の選択された光学的通信経路を経由して光学的な通信を可能にする。

図１の中において、光学的通信経路において、チップからの電気信号が変換された光信号を反射させることができ、かつ、向きを変えることで反射の方向を可変にすることができる、可動 (movable) ミラーが描かれている。

ミラーが複数（図１の中では３つ）用意され、自由空間を取り囲むようにアレイ状に配置されていると、多くの通信経路を複数のチップから成るグループ毎に専用化して確保することができる等の点で有利となるであろう。しかし、ミラーの数は、たとえ単数であっても動作可能である。

チップの各々は、平面図として示すように、ニューラル・チップ（Neural Chip）として、光学素子（Optics）、スタッガード状の貫通孔であるバイア（Staggered Via）、レンズ（Lens）等を構成に含むことができ、電子回路による実装と光学系による実装とをハイブリッドに相互接続する。

図２は、大規模ニューラルネットワークを実現するための構成として、ニューロンに対応する計算エレメントを集積したチップによる電子回路による実装と、光学素子による光学系による実装とを組合せた、ハイブリッド構成の例を示す図である。

チップによる電子回路による実装と、光学素子による光学系による実装とを組合せた場合における、ハイブリッドな相互接続の構成を示す一例にすぎない。

ニューラルチップ（Neural Chip）は、ＣＭＯＳであってもよい。

チップについて、電気信号と光信号とを相互に変換するための複数の電気−光の変換素子を用意することで、電子回路による実装と光学系による実装とを一体に作り込むことができる。

複数のレンズが用意されて、これらと複数のチップとが、光学的に透過なフィラー樹脂（Optically transparent filler）によって一体的に形成されてもよい。

電気的なワイヤード（Electrical wired）、光学的なワイヤード（Optical wired）、光学的な自由空間の利用（Optical freespace）、とについて、ピッチ（Pitch）の目安となる数値とルーティング（Routing）の次元とを比較した図も示している。

ハイブリッド相互接続を実現しようとすると、電気回路による実装と光学系による実装とを一体に作り込む組合せを実現する必要性から、これらの数値やその範囲が重要な意義を持ってくる。

ＷＤＭとは、波長分割多重（Wavelength Division Multiplexing）の略であり、光学系の場合、電気回路による実装と比較して、空間的なピッチの制限を、波長空間に自由度で越えることを可能にする。

たとえば、電気回路と光学系の空間的なピッチが同じ時に、波長数Ｎ_λのWDMを使うことにより、ニューロン間の結合ＢＷ：Band Width（バンド幅）が全体性能のボトルネックになりつつある背景から、ＢＷo〜（Ｎ_λ＋１）×ＢＷｅという関係があるので、波長数にほぼ比例する形で、バンド幅を向上させることが可能となる。

図３は、複数チップ間のメッシュネットワークとして構成される固定配線による電気的な通信を行う電子回路実装のデメリットと、自由空間中の選択された光学的通信経路を経由して光学的な通信を行う光学系による実装上・性能上のメリットとを説明する図である。

自由空間中に配置されている複数のチップの所定の形状は、２次元アレイを形成するものを図示してあって、電気的に通信する固定配線を、複数チップ間のメッシュ（Mesh）ネットワークとして構成してもよい。これは、本発明を単純化して実施化しようとする例に相当している。

具体的な動作としては、あるチップにおける特定の電気的な通信の信号トラフィックが所定の閾値を超えているかどうか、もしくは超えることが予想されるかどうかを判断する。

これは、実際に信号トラフィックをモニターすることで行うことも可能であるが、特定の処理に伴って明らかにそのような事態が予測される場合は、必ずしも、信号トラフィックをモニターする必要性はない。

図のように、通信ルーティングには複数の信号トラフィックが衝突(Collision)することにより輻輳（Congestion）が生じることなどが原因となって、あるチップにおける電気的な通信の信号トラフィックが所定の閾値を超えている場合がある。

このことが、ニューロン間の結合ＢＷ：Band Width（バンド幅）が全体性能のボトルネックになり得る大きな原因である。ただし、どの部分がボトルネックになるかは、システムの製造時には決定されず、実際の処理が行われるまでわからないこともある。

もし、ボトルネックとなる部分の信号トラフィックが閾値を超えている場合、もしくは超えることが予想される場合において、その超えた信号トラフィックの通信ルーティングに関与している複数のチップを特定し、それら特定された複数のチップを横切っている関連する信号トラフィックの一部を電気信号から光信号に変換する。

その超えた信号トラフィックの通信ルーティングに関与している複数のチップは、ルーティングの長い経路に関与している場合も多く、２つのチップだけでなく、多数のチップにわたって広範囲に関与している場合も予想される。

その超えた信号トラフィックをバイパスさせる目的で、複数のチップ間の固定配線経由の経路から、単数または複数の光学素子を通じての自由空間中の光学的通信経由の経路に、信号トラフィックの経路を動的にリコンフィギュアラブルに適合させる。

この場合、その超えた信号トラフィックの通信ルーティングに関与している複数のチップ間におけるルーティング距離（Distance）の大小（チップ間のホップ数（number of hops））を考慮に入れることが好ましい。

なぜならば、グラフの傾きが示すように、ルーティング距離が大きい場合（チップ間のホップ数が多い）の信号トラフィックをバイパスさせる場合ほど、効果的なＢＷ（Effective BW）の改善を実現できることになり、光学的通信経路を経由することが有利になる。

このようにして、特定されたチップと、光学的な通信が増加された通信量との関係とを、記憶装置に学習して、ファンアウトの増加（または減少）に柔軟に対応して、生体ニューロンを模倣して組織化された大規模ニューラルネットワークを再構成することができる。

通信のバンド幅（ＢＷ）と通信のレイテンシとの両方が最適化された値になるように、再構成することができる。光学的な自由通信経路は、光信号が交差しても互いに影響なく独立した信号トラフィックを通信させることが可能である。このような性質は、non-blockingと呼ばれており、相互接続スイッチにおいては、理想的な特性である。

図４は、生体ニューロンの構成を、電子回路によるニューロン構成と、光学系によるニューロン構成とのハイブリッド構成によって模倣することの課題・意義を説明する模式図である。

生体ニューロンは、神経細胞とも呼ばれ、神経系を構成する細胞であって、その機能は情報処理と情報伝達に特化しており、動物に特有である。

神経細胞の基本的な機能は、神経細胞へ入力刺激が入ってきた場合に、活動電位を発生させ、他の細胞に情報を伝達することである。ひとつの神経細胞に複数の細胞から入力したり、活動電位がおきる閾値を変化させたりすることにより、情報の修飾が行われる。

神経細胞は主に３つの部分に区分けされ、細胞核のある細胞体（Cell body, soma）、他の細胞からの入力を受ける樹状突起（Dendrite）、他の細胞に出力する軸索（Axon）に分けられる。

樹状突起と軸索は発生的にはほぼ同じ過程をたどるため、両者をまとめて神経突起(neurite)とも言うこともある。

前の細胞の軸索終末と後ろの細胞の樹状突起の間の情報を伝達する部分には、微小な間隙を持つシナプスと呼ばれる化学物質による伝達構造が形成される。

神経細胞の増殖は、ヒトでは小児期に、神経幹細胞が盛んに分裂して分化することで起こる。神経細胞は分化が進むとともに、軸索誘導によって特定の位置にある神経細胞が特定の細胞に軸索を伸ばし、シナプスを形成して神経回路を形成していく。

脳の中でも、さまざまな皮質（cortex）として示す部分では、特定の機能ごとにさまざまな分化が見られる部分がある。例えば、海馬にはある種のコンテクスト処理に特化した神経構造があると考えられている。

脳の内部では、３次元的に大きなファンアウトで結合した多数のニューロンが階層構造をなしているが、これをコンピュータによって模倣しようとすると、学習によりそのネットワーク構造やリンク結合の重みを変化させていくことになる。

３次元的な構造を模倣するための構成として、固定配線を多層にすることで、スタックされたワイヤード相互接続（Stacked wired crossconnect）を形成することもできるが、層の方向には、限定された接続（Restricted connections）しか得られず、限界がある。

図５は、電気的なニューロン間の相互接続ネットワークと、自由空間を利用したニューロン間の光結合ネットワーク構成の比較を説明する図である。

単位ニューロンあたりでファンアウト数が拡張した場合に、適合できる可能性の度合いをトポロジーに従って概算しているものである。１ニューロンあたりのファンアウトが増加するにしたがって、すべてを自由空間光通信で行った場合は、必ずしも集積度の点でのメリットが得られないことが示されている。

図６は、脳、固定配線相互接続、自由空間を利用した相互接続の特性を比較したマトリックス図である。

接続マトリックスの次元（Connection matrix dimension）や、場所やルーティングの空間利用（Place & routing space utilization）や、インテグレーション（Integration）について、比較している。

この比較において、脳（Brain）は、非常に優れたベンチマーク特性を有している。

固定配線相互接続（Wired crossconnet）は、場所やルーティングの空間利用（Place & routing space utilization）の自由度が低く、自由に相互接続を可能にする点で好ましいものではない。

自由空間を利用した相互接続（Freespace crossconnect）は、脳の非常に優れた特性に近づけるために有効であるが、図６に示したように、集積度の点で、見劣りがする。

従って、本発明で開示したような、固定配線相互接続と自由空間を利用した相互接続の良いところをうまく組み合わせたハイブリッド（Hybrid）な構成方法が望まれることになる。

図７は、本発明による自由空間を使った光通信を、ニューラルネットワークを用いた新しいコンピューティング方法に適用した場合の場合のより一般的な観点での相互接続の意義を説明する図である。

固定配線を使った通常の内部接続（Conventional interconnect）では、別々の配線経路を通らない限り、信号トラフィックを交差させることは不可能である。また、異なる信号トラフィックをアナログ的に足しこむことは、電流の反射もあり難しい。

一方、自由空間を利用した内部接続（Freespace interconnet）では、信号トラフィックを自由空間で交差させる上での制限がなく、また信号の反射の影響も限定的なため自由空間でのアナログ的な信号の足しこみも比較的容易である。

Claims

ネットワークシステムであって、
自由空間に面して所定の形状に沿って配置され、複数の所定のチップ同士が相互に固定配線された経路を通じて電気的に通信できるように構成されている、複数のチップと、
複数のチップのうちの、あるチップからの電気信号を光信号に変換し、固定配線された経路を通じてはあるチップから電気的には直接通信を確立していない他のチップへ向かって、自由空間中の選択された光学的通信経路を経由して光学的な通信を可能にする、単数または複数の光学素子とを有していて、
あるチップにおける電気的な通信の信号トラフィックが所定の閾値を超えた場合、もしくは超えることが予想される場合において、その超えた信号トラフィックの通信ルーティングに関与している複数のチップを特定し、それら特定された複数のチップを横切っている関連する信号トラフィックの一部を電気信号から光信号に変換して、その超えた信号トラフィックをバイパスさせる目的で、複数のチップ間の固定配線経由の経路から、単数または複数の光学素子を通じての自由空間中の光学的通信経由の経路に、信号トラフィックの経路を動的にリコンフィギュアラブルに適合させる、
ネットワークシステム。
ネットワークが、生体ニューロンを模倣して組織化された大規模ニューラルネットワークであり、ネットワークの構成の変化に柔軟に適合することができる、
請求項１に記載のネットワークシステム。
自由空間中に配置されている複数のチップの所定の形状が、２次元アレイを形成し、
前記固定配線が複数チップ間のメッシュネットワークとして構成されている、
請求項１に記載のネットワークシステム。
前記単数または複数の光学素子が、
チップからの電気信号が変換された光信号を反射させることができ、かつ、向きを変えることで反射の方向を可変にすることができる、可動 (movable) ミラーを含むものである、
請求項１に記載のネットワークシステム。
ミラーが複数用意され、自由空間を取り囲むようにアレイ状に配置されている、
請求項４に記載のネットワークシステム。
チップについて電気信号と光信号とを相互に変換するための複数の電気−光の変換素子と、複数のレンズとが用意されていて、これらと複数のチップとが、光学的に透過なフィラー樹脂によって一体的に形成されている、
請求項１に記載のネットワークシステム。
前記単数または複数の光学素子を通じての自由空間中の光学的通信経路を、前記固定配線された経路に、動的にリコンフィギュアラブルに適合させるにあたり、
その超えた信号トラフィックの通信ルーティングに関与している複数のチップ間におけるルーティング距離の大小（チップ間のホップ数）が考慮に入れられる、
請求項１に記載のネットワークシステム。
自由空間に面して所定の形状に沿って配置され、複数の所定のチップ同士が相互に固定配線された経路を通じて電気的に通信できるように構成されている、複数のチップと、複数のチップのうちの、あるチップからの電気信号を光信号に変換し、固定配線された経路を通じてはあるチップから電気的には直接通信を確立していない他のチップへ向かって、自由空間中の選択された光学的通信経路を経由して光学的な通信を可能にする、単数または複数の光学素子とを有するネットワークシステムを動作させる方法であって、
あるチップにおける電気的な通信の信号トラフィックが所定の閾値を超えているかどうか、もしくは超えることが予想されるかどうかを判断するステップと、
超えているか超えることが予想される場合において、その超えた信号トラフィックの通信ルーティングに関与している複数のチップを特定するステップと、
それら特定された複数のチップを横切っている関連する信号トラフィックの一部を電気信号から光信号に変換するステップと、
その超えた信号トラフィックをバイパスさせる目的で、複数のチップ間の固定配線経由の経路から、単数または複数の光学素子を通じての自由空間中の光学的通信経由の経路に、信号トラフィックの経路を動的にリコンフィギュアラブルに適合させる、
方法。
特定されたチップと、光学的な通信が増加された通信量との関係とを、記憶装置に学習して、ファンアウトの増加（または減少）に柔軟に対応して、生体ニューロンを模倣して組織化された大規模ニューラルネットワークを再構成する、
請求項８に記載の方法。
通信のバンド幅（ＢＷ）と通信のレイテンシとの両方が最適化された値になるように、再構成する、
請求項８に記載の方法。