JP2017509982A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2017509982A5 JP2017509982A5 JP2016553381A JP2016553381A JP2017509982A5 JP 2017509982 A5 JP2017509982 A5 JP 2017509982A5 JP 2016553381 A JP2016553381 A JP 2016553381A JP 2016553381 A JP2016553381 A JP 2016553381A JP 2017509982 A5 JP2017509982 A5 JP 2017509982A5
- Authority
- JP
- Japan
- Prior art keywords
- core
- processing
- neural network
- processing node
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
- 238000013528 artificial neural network Methods 0.000 claims 19
- 230000003068 static effect Effects 0.000 claims 10
- 238000000034 method Methods 0.000 claims 7
- 230000006870 function Effects 0.000 claims 3
- 230000002787 reinforcement Effects 0.000 claims 2
Claims (13)
- 人工ニューラルネットワークにおいてコプロセッシングを実行する、コンピュータ実装方法であって、
一定時間期間にわたって、前記ニューラルネットワークの一部を第2の処理ノードから第1の処理ノードにスワッピングすること、ここにおいて、前記第1の処理ノードおよび前記第2の処理ノードは、相互に前記ニューラルネットワークの機能的特徴の処理を包含するように構成され、前記第1の処理ノードは、強化学習を実装するように構成される、学習処理コアを備える、と、
前記第1の処理ノードで前記ニューラルネットワークの前記一部を実行することと、
前記一定時間期間後に、前記ニューラルネットワークの前記一部を前記第2の処理ノードに返すことと、
前記第2の処理ノードで前記ニューラルネットワークの前記一部を実行すること、ここにおいて、前記一部は、前記ニューラルネットワークに関する状態変数および接続性情報を含む、前記一部がそこから送られる前記ノードについての状態情報を備える、と
を備える、方法。 - 前記第1の処理ノードは、第1のハードウェアコアに含まれ、前記第2の処理ノードは、第2のハードウェアコアに含まれ、前記第1のハードウェアコアは、前記第2のハードウェアコアとは別個である、
請求項1に記載の方法。 - 前記学習処理コアは、前記第2の処理ノードよりも多くのリソースで構成される、
請求項1に記載の方法。 - 前記第2の処理ノードは、前記ニューラルネットワークまたは前記一部を動作することに関連付けられる機能を実行するために構成された静的処理コアを備え、
スワッピングすることは、
前記静的処理コアの状態を前記学習処理コアにコピーすることと、
前記学習処理コアが前記静的処理コアの機能を包含するように、前記学習処理コアに入力をルーティングすることと
を備え、
返すことは、
前記学習処理コアの状態を前記静的処理コアにコピーすることと、
前記静的処理コアに制御を返すことと
を備える、請求項1に記載の方法。 - 前記人工ニューラルネットワークの前記一部は、深層信念ネットワークのレイヤを備える、
請求項1に記載の方法。 - 前記第1の処理ノードは、デバッギングコアを備える、
請求項1に記載の方法。 - 人工ニューラルネットワークにおいてコプロセッシングを実行するための装置であって、
メモリと、
前記メモリに結合された少なくとも1つのプロセッサと
を備え、前記少なくとも1つのプロセッサは、
一定時間期間にわたって、前記ニューラルネットワークの一部を第2の処理ノードから第1の処理ノードにスワッピングすること、ここにおいて、前記第1の処理ノードおよび前記第2の処理ノードは、相互に前記ニューラルネットワークの機能的特徴の前記処理を包含するように構成され、前記第1の処理ノードは、強化学習を実装するように構成される、学習処理コアを備える、と、
前記第1の処理ノードで前記ニューラルネットワークの前記一部を実行することと、
前記一定時間期間後に、前記ニューラルネットワークの前記一部を前記第2の処理ノードに返すことと、
前記第2の処理ノードで前記ニューラルネットワークの前記一部を実行すること、ここにおいて、前記一部は、前記ニューラルネットワークに関する状態変数および接続性情報を含む、前記一部がそこから送られる前記ノードについての状態情報を備える、と
を行うように構成される、装置。 - 前記第1の処理ノードは、第1のハードウェアコアに含まれ、前記第2の処理ノードは、第2のハードウェアコアに含まれ、前記第1のハードウェアコアは、前記第2のハードウェアコアとは別個である、
請求項7に記載の装置。 - 前記学習処理コアは、前記第2の処理ノードよりも多くのリソースで構成される、
請求項7に記載の装置。 - 前記第2の処理ノードは、前記ニューラルネットワークまたは前記一部を動作することに関連付けられる機能を実行するために構成された静的処理コアを備え、前記少なくとも1つのプロセッサは、
前記静的処理コアの状態を前記学習処理コアにコピーすることと、
前記学習処理コアが前記静的処理コアの機能を包含するように、前記学習処理コアに入力をルーティングすることと、
前記学習処理コアの状態を前記静的処理コアにコピーすることと、
変更された静的処理コアに制御を返すことと
を行うようにさらに構成される、請求項7に記載の装置。 - 前記人工ニューラルネットワークの前記一部は、深層信念ネットワークのレイヤを備える、
請求項7に記載の装置。 - 前記第1の処理ノードは、デバッギングコアを備える、
請求項7に記載の装置。 - 人工ニューラルネットワークにおいてコプロセッシングを実行するためのプログラムコードを符号化した非一時的コンピュータ可読媒体であって、前記プログラムコードは、プロセッサによって実行され、請求項1〜請求項6に記載の方法のいずれかを実行するためのプログラムコードを備える、非一時的コンピュータ可読媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201461943155P | 2014-02-21 | 2014-02-21 | |
US61/943,155 | 2014-02-21 | ||
US14/273,214 | 2014-05-08 | ||
US14/273,214 US20150242741A1 (en) | 2014-02-21 | 2014-05-08 | In situ neural network co-processing |
PCT/US2015/015917 WO2015178977A2 (en) | 2014-02-21 | 2015-02-13 | In situ neural network co-processing |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017509982A JP2017509982A (ja) | 2017-04-06 |
JP2017509982A5 true JP2017509982A5 (ja) | 2018-03-01 |
Family
ID=53882555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016553381A Ceased JP2017509982A (ja) | 2014-02-21 | 2015-02-13 | 原位置ニューラルネットワークコプロセッシング |
Country Status (5)
Country | Link |
---|---|
US (1) | US20150242741A1 (ja) |
EP (1) | EP3108414A2 (ja) |
JP (1) | JP2017509982A (ja) |
CN (1) | CN106030622B (ja) |
WO (1) | WO2015178977A2 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3185184A1 (en) | 2015-12-21 | 2017-06-28 | Aiton Caldwell SA | The method for analyzing a set of billing data in neural networks |
WO2017176356A2 (en) * | 2016-02-11 | 2017-10-12 | William Marsh Rice University | Partitioned machine learning architecture |
CN106897768B (zh) * | 2017-01-25 | 2020-04-21 | 清华大学 | 神经网络信息发送方法和系统 |
WO2018149217A1 (zh) * | 2017-02-17 | 2018-08-23 | 清华大学 | 神经网络计算核信息处理方法、系统和计算机设备 |
WO2018154494A1 (en) * | 2017-02-23 | 2018-08-30 | Cerebras Systems Inc. | Accelerated deep learning |
CN110326004B (zh) * | 2017-02-24 | 2023-06-30 | 谷歌有限责任公司 | 使用路径一致性学习训练策略神经网络 |
WO2018193353A1 (en) | 2017-04-17 | 2018-10-25 | Cerebras Systems Inc. | Neuron smearing for accelerated deep learning |
EP3607503B1 (en) | 2017-04-17 | 2022-03-09 | Cerebras Systems Inc. | Task activating for accelerated deep learning |
US11488004B2 (en) | 2017-04-17 | 2022-11-01 | Cerebras Systems Inc. | Neuron smearing for accelerated deep learning |
US12017241B2 (en) | 2017-07-21 | 2024-06-25 | The Regents Of The University Of California | Acoustic wave atomizer |
GB2566702B (en) * | 2017-09-20 | 2021-11-03 | Imagination Tech Ltd | Hardware implementation of a deep neural network with variable output data format |
WO2019095873A1 (zh) * | 2017-11-20 | 2019-05-23 | 上海寒武纪信息科技有限公司 | 任务并行处理方法、装置、系统、存储介质及计算机设备 |
US10846621B2 (en) * | 2017-12-12 | 2020-11-24 | Amazon Technologies, Inc. | Fast context switching for computational networks |
US10803379B2 (en) | 2017-12-12 | 2020-10-13 | Amazon Technologies, Inc. | Multi-memory on-chip computational network |
US11429862B2 (en) | 2018-03-20 | 2022-08-30 | Sri International | Dynamic adaptation of deep neural networks |
KR102329590B1 (ko) * | 2018-03-19 | 2021-11-19 | 에스알아이 인터내셔널 | 딥 신경망들의 동적 적응 |
WO2020044152A1 (en) | 2018-08-28 | 2020-03-05 | Cerebras Systems Inc. | Scaled compute fabric for accelerated deep learning |
US11328208B2 (en) | 2018-08-29 | 2022-05-10 | Cerebras Systems Inc. | Processor element redundancy for accelerated deep learning |
WO2020044208A1 (en) | 2018-08-29 | 2020-03-05 | Cerebras Systems Inc. | Isa enhancements for accelerated deep learning |
TW202018596A (zh) * | 2018-11-09 | 2020-05-16 | 財團法人資訊工業策進會 | 分散式網路運算系統、分散式網路運算方法以及非暫態電腦可讀取記錄媒體 |
CN109901878B (zh) | 2019-02-25 | 2021-07-23 | 北京灵汐科技有限公司 | 一种类脑计算芯片及计算设备 |
CN112418389A (zh) * | 2019-08-23 | 2021-02-26 | 北京希姆计算科技有限公司 | 数据处理方法、装置、电子设备及计算机可读存储介质 |
US20240005162A1 (en) * | 2020-11-20 | 2024-01-04 | University Of Zurich | Error-triggered learning of multi-layer memristive spiking neural networks |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6418423B1 (en) * | 1999-01-29 | 2002-07-09 | International Business Machines Corporation | Method and apparatus for executing neural network applications on a network of embedded devices |
US6804632B2 (en) * | 2001-12-06 | 2004-10-12 | Intel Corporation | Distribution of processing activity across processing hardware based on power consumption considerations |
US7219085B2 (en) * | 2003-12-09 | 2007-05-15 | Microsoft Corporation | System and method for accelerating and optimizing the processing of machine learning techniques using a graphics processing unit |
US7533071B2 (en) * | 2005-06-28 | 2009-05-12 | Neurosciences Research Foundation, Inc. | Neural modeling and brain-based devices using special purpose processor |
US9665822B2 (en) * | 2010-06-30 | 2017-05-30 | International Business Machines Corporation | Canonical spiking neuron network for spatiotemporal associative memory |
US9111224B2 (en) * | 2011-10-19 | 2015-08-18 | Qualcomm Incorporated | Method and apparatus for neural learning of natural multi-spike trains in spiking neural networks |
US8819489B2 (en) * | 2011-12-14 | 2014-08-26 | Ati Technologies Ulc | Accelerated processing unit debugging using a graphics processing unit centric debug core |
-
2014
- 2014-05-08 US US14/273,214 patent/US20150242741A1/en not_active Abandoned
-
2015
- 2015-02-13 EP EP15759970.5A patent/EP3108414A2/en not_active Ceased
- 2015-02-13 CN CN201580009326.3A patent/CN106030622B/zh active Active
- 2015-02-13 WO PCT/US2015/015917 patent/WO2015178977A2/en active Application Filing
- 2015-02-13 JP JP2016553381A patent/JP2017509982A/ja not_active Ceased
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017509982A5 (ja) | ||
JP2017111826A5 (ja) | ||
JP2014160453A5 (ja) | ||
JP2016517638A5 (ja) | ||
MX2020007870A (es) | Sistema de creacion de sitio web para crear sitios web que tienen al menos una serie de paginas web direccionales y metodos relacionados. | |
JP2018526733A5 (ja) | ||
EP4386624A3 (en) | Environment navigation using reinforcement learning | |
JP2017504910A5 (ja) | ||
BR112018070530A8 (pt) | Método e dispositivo para planejar e controlar a operação de uma máquina de construção, máquina de construção e produto de programa | |
JP2017516181A5 (ja) | ||
WO2017176356A3 (en) | Partitioned machine learning architecture | |
JP2016531366A5 (ja) | ||
JP2017535854A5 (ja) | ||
MX2017008086A (es) | Deteccion de objetos con red neuronal. | |
JP2016520912A5 (ja) | ||
RU2016144028A (ru) | Человекоподобный робот со способностью автономного функцинирования | |
JP2015511032A5 (ja) | ソフトウエアを開発するためのコンピュータプログラム、方法、コンピュータシステム、装置及びコンピュータ | |
JP2016530609A5 (ja) | ||
JP2012234520A5 (ja) | ||
JP2017509952A5 (ja) | ||
JP2020530172A5 (ja) | ||
EP3182279A3 (en) | Software-as-a-service reference process extension verification framework | |
JP2015084256A5 (ja) | ||
RU2015102084A (ru) | Способ предоставления функций в промышленной системе автоматизации и промышленная система автоматизации | |
JP2016531335A5 (ja) |