CN112163673B - 一种用于大规模类脑计算网络的种群路由方法 - Google Patents

一种用于大规模类脑计算网络的种群路由方法 Download PDF

Info

Publication number
CN112163673B
CN112163673B CN202011042170.8A CN202011042170A CN112163673B CN 112163673 B CN112163673 B CN 112163673B CN 202011042170 A CN202011042170 A CN 202011042170A CN 112163673 B CN112163673 B CN 112163673B
Authority
CN
China
Prior art keywords
brain
population
routing
bit
data packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011042170.8A
Other languages
English (en)
Other versions
CN112163673A (zh
Inventor
丁宸
环宇翔
梁龙飞
闫钰龙
邹卓
郑立荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai New Helium Brain Intelligence Technology Co ltd
Fudan University
Original Assignee
Shanghai New Helium Brain Intelligence Technology Co ltd
Fudan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai New Helium Brain Intelligence Technology Co ltd, Fudan University filed Critical Shanghai New Helium Brain Intelligence Technology Co ltd
Priority to CN202011042170.8A priority Critical patent/CN112163673B/zh
Publication of CN112163673A publication Critical patent/CN112163673A/zh
Application granted granted Critical
Publication of CN112163673B publication Critical patent/CN112163673B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明公开了一种用于大规模类脑计算网络的种群路由方法，涉及类脑人工智能技术领域，通过查找片上路由表中种群ID对应的路由信息，对每个收到的数据包进行转发和保留。根据路由信息，数据包可能会被转发至二维Mesh网络或二维Torus网络中四个临近的芯片，以及可能被该芯片保留。通过源芯片和中途芯片在路由过程中对一个数据包的转发，目的地芯片对数据包进行保留，一次多播路由过程以此完成。本方法有效地解决传统路由方法中路由表所需的巨大体积问题。

Description

一种用于大规模类脑计算网络的种群路由方法
技术领域
本发明涉及类脑人工智能技术领域，尤其是一种用于大规模类脑计算网络的种群路由方法。
背景技术
脉冲神经网络（SNN）被称为第三代人工神经网络，更加接近于人脑的实际行为，同时将时间信息的影响考虑进来。脉冲神经网络通过模拟神经元的活动进行学习和推理。神经元之间通过突触连接，以脉冲的形式传递信息，通过突触可塑性对自身进行调整，达到学习和记忆的效果，实现神经网络的预期功能。
神经拟态计算的具体实现与脉冲神经网络极为相似。不同的是脉冲神经网络是被设计用于特定的应用场景的人工智能，其目的是实现一定的推断功能。而神经拟态计算旨在通过同化人脑的部分生物学信号，从而在一定程度上对人脑进行学习和模仿。这对深入认识大脑的结构和功能，了解思维过程中的意识流向有着重要的作用。
无论是脉冲神经网络或者神经拟态计算，都离不开庞大算力的支持。现有的CPU在大规模并行计算上并不占有优势，而GPU（图形处理器）也存在着内存墙瓶颈，通用化的运算单元与存储单元带来了普适性的同时也决定了它并不完美契合类脑计算的需求。
因此定制化的FPGA（FPGA（Field Programmable Gate Array）是在PAL、GAL等可编程器件的基础上进一步发展的产物。它是作为专用集成电路（ASIC）领域中的一种半定制电路而出现的，既解决了定制电路的不足，又克服了原有可编程器件门电路数有限的缺点。）或ASIC(专用集成电路，是指应特定用户要求和特定电子系统的需要而设计、制造的集成电路。)芯片能够更好适应类脑计算，有着广阔的应用场景。优点其计算单元完全依据神经拟态算法来设计，移去了冗余。计算单元也与存储单元更加靠近，减少了数据存取的开销，解除了内存墙瓶颈。神经间的信号传递更契合稀疏的特性，减少了不必要的带宽占用。同时稀疏特性有助于解决超算芯片面临的超高能耗问题。
大规模类脑计算网络可以支持大体量的脉冲神经网络和神经拟态计算，为其提供传统计算平台不具备的超高算力。但是大规模类脑计算网络下，传统路由方法会产生巨大体积的路由表，带来存储负担。
因此，急需一种技术方案来解决该问题。
发明内容
本发明针对现有技术的不足，提出一种用于大规模类脑计算网络的种群路由方法，通过查找片上路由表中种群ID对应的路由信息，对每个收到的数据包进行转发和保留。根据路由信息，数据包可能会被转发至二维Mesh网络或二维Torus网络中四个临近的芯片，以及可能被该芯片保留。通过源芯片和中途芯片在路由过程中对一个数据包的转发，目的地芯片对数据包进行保留，一次多播路由过程以此完成。
为了实现上述发明目的，本发明提供以下技术方案：
一种用于大规模类脑计算网络的种群路由方法，将类脑计算芯片上的神经元划分为若干种群，每个所述种群包含唯一种群ID，所述种群ID对应唯一路由表信息；所述类脑计算芯片间的神经元脉冲以数据包的形式传递；包括如下步骤：
步骤（1）类脑计算芯片接收其它类脑计算芯片发送的数据包；
步骤（2）提取所述数据包中的神经元源ID，获取所述神经元源ID对应的种群ID；
步骤（3）通过所述种群ID获取对应的路由表的路由信息；
步骤（4）根据所述路由信息决定所述数据包的转发或保留。
优选的，所述路由表由若干M位种群ID和对应的5位路由信息组成，所述5位路由信息包括标记数据包转发方向的东、西、南、北标志位，和标记数据包保留使用的保留标志位。
优选的，单个芯片的类脑计算芯片的所述路由表的长度为2^M条。
优选的，所述数据包由1位脉冲类型标志位和N位神经元源ID组成；所述N位神经元源ID的前M位为M位种群ID。
有益效果
本发明所提供的一种用于大规模类脑计算网络的种群路由方法，通过查找片上路由表中种群ID对应的路由信息，对每个收到的数据包进行转发和保留。根据路由信息，数据包可能会被转发至二维Mesh网络或二维Torus网络中四个临近的芯片，以及可能被该芯片保留。通过源芯片和中途芯片在路由过程中对一个数据包的转发，目的地芯片对数据包进行保留，一次多播路由过程以此完成。本方法有效地解决传统路由方法中路由表所需的巨大体积问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图示出的结构获得其他的附图。
图1为本发明所述一种用于大规模类脑计算网络的种群路由方法的流程图；
图2为本发明所述一种用于大规模类脑计算网络的种群路由方法中数据包结构示意图；
图3为本发明所述一种用于大规模类脑计算网络的种群路由方法中路由表结构示意图；
图4为本发明所述一种用于大规模类脑计算网络的种群路由方法中单芯片执行路由过程的流程图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明针对组网为二维Mesh网络或二维Torus网络的大规模类脑计算网络，提出一种路由方法，以解决传统路由方法中路由表所需的巨大体积问题。
如图1所示，一种用于大规模类脑计算网络的种群路由方法，将类脑计算芯片上的神经元划分为若干种群，每个所述种群包含唯一种群ID，所述种群ID对应唯一路由表信息；所述类脑计算芯片间的神经元脉冲以数据包的形式传递，包括如下步骤：
步骤（1）类脑计算芯片接收其它类脑计算芯片发送的数据包；
步骤（2）提取所述数据包中的神经元源ID，获取所述神经元源ID对应的种群ID；
步骤（3）通过所述种群ID获取对应的路由表的路由信息；
步骤（4）根据所述路由信息决定所述数据包的转发或保留。
如图3所示，本实施例中，所述路由表由若干M位种群ID和对应的5位路由信息组成，所述5位路由信息包括标记数据包转发方向的东、西、南、北标志位，和标记数据包保留使用的保留标志位。数据包被接收后，对应的根据5位路由信息分别决定是否需要将该数据包转发向东、南、西、北四个临近芯片以及该芯片是否需要将该数据包保留使用。
单个芯片的类脑计算芯片的所述路由表的长度为2^M条，在2^M条片上路由表中，种群ID是无重复的。通过种群ID查找到相应的路由信息，就可以对该数据包进行分发，以此来完成路由过程。
如图2所示，所述数据包可表示为N+1的数据包形式，即由1位脉冲类型标志位（单个数据包表示了从神经元源ID对应的神经元发出的一次脉冲，，1位脉冲类型标志位代表该次脉冲是真实脉冲还是噪声脉冲（这是拟态神经计算时的需求））和N位神经元源ID组成（表示发出脉冲的神经元。N位源ID最多可表示2^N个神经元，当类脑计算网络规模扩展的时候，N也可以随之增大以适应更多的神经元）；所述N位神经元源ID的前M位为M位种群ID，因此无需通过额外计算就可以取得该N位神经元源ID对应的M位种群ID，进而获得对应的路由表，以及对应的路由信息。
如图4所示，本实施例中，单芯片执行路由的过程：
步骤S101，芯片接受其他芯片从某一方向传入的N+1位数据包，含义为该芯片收到一个脉冲；
步骤S102，芯片从数据包中的N位源ID内取出M位种群ID，根据种群ID查找片上路由表；
步骤S103，从该种群ID对应路由表中取的5位路由信息；
步骤S104，根据5位路由信息中东、南、西、北四个标志位对该数据包进行转发至临近芯片；
步骤S405，根据5位路由信息中的保留标志位，判断是否需要对该数据包进行保留。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (2)

1.一种用于大规模类脑计算网络的种群路由方法，其特征在于：将类脑计算芯片上的神经元划分为若干种群，每个所述种群包含唯一种群ID，所述种群ID对应唯一路由表信息；所述类脑计算芯片间的神经元脉冲以数据包的形式传递；每个所述类脑计算芯片的东、南、西、北四个方向均设置有所述类脑计算芯片；包括：
类脑计算芯片接收其它类脑计算芯片发送的数据包；
提取所述数据包中的神经元源ID，获取所述神经元源ID对应的种群ID；
通过所述种群ID获取对应的路由表的路由信息；
根据所述路由信息决定所述数据包的转发或保留；
所述路由表由若干M位种群ID和对应的5位路由信息组成，所述5位路由信息包括标记数据包转发方向的东、西、南、北标志位，和标记数据包保留使用的保留标志位；
所述数据包由1位脉冲类型标志位和N位神经元源ID组成；所述N位神经元源ID的前M位为M位种群ID。
2.根据权利要求1所述一种用于大规模类脑计算网络的种群路由方法，其特征在于：单个芯片的类脑计算芯片的所述路由表的长度为2^M条。
CN202011042170.8A 2020-09-28 2020-09-28 一种用于大规模类脑计算网络的种群路由方法 Active CN112163673B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011042170.8A CN112163673B (zh) 2020-09-28 2020-09-28 一种用于大规模类脑计算网络的种群路由方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011042170.8A CN112163673B (zh) 2020-09-28 2020-09-28 一种用于大规模类脑计算网络的种群路由方法

Publications (2)

Publication Number Publication Date
CN112163673A CN112163673A (zh) 2021-01-01
CN112163673B true CN112163673B (zh) 2023-04-07

Family

ID=73861606

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011042170.8A Active CN112163673B (zh) 2020-09-28 2020-09-28 一种用于大规模类脑计算网络的种群路由方法

Country Status (1)

Country Link
CN (1) CN112163673B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114338506B (zh) * 2022-03-15 2022-08-05 之江实验室 一种类脑计算机操作系统的神经任务片内路由方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103595627A (zh) * 2013-11-28 2014-02-19 合肥工业大学 基于多播维序路由算法的NoC路由器及其路由算法
CN104065575A (zh) * 2014-07-16 2014-09-24 曙光信息产业(北京)有限公司 一种基于节点数指示路由及路由信息的方法及装置
CN106056212A (zh) * 2016-05-25 2016-10-26 清华大学 一种人工神经网络计算核
CN107533666A (zh) * 2015-04-27 2018-01-02 苏黎世大学 具有用于可扩展事件驱动计算系统的异构存储器结构的网络和分层路由构造
CN108334942A (zh) * 2017-12-22 2018-07-27 清华大学 神经网络的数据处理方法、装置、芯片和存储介质
CN108446764A (zh) * 2018-03-12 2018-08-24 清华大学 一种新型神经形态芯片架构
CN109165730A (zh) * 2018-09-05 2019-01-08 电子科技大学 交叉阵列神经形态硬件中状态量化网络实现方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10810488B2 (en) * 2016-12-20 2020-10-20 Intel Corporation Neuromorphic core and chip traffic control

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103595627A (zh) * 2013-11-28 2014-02-19 合肥工业大学 基于多播维序路由算法的NoC路由器及其路由算法
CN104065575A (zh) * 2014-07-16 2014-09-24 曙光信息产业(北京)有限公司 一种基于节点数指示路由及路由信息的方法及装置
CN107533666A (zh) * 2015-04-27 2018-01-02 苏黎世大学 具有用于可扩展事件驱动计算系统的异构存储器结构的网络和分层路由构造
CN106056212A (zh) * 2016-05-25 2016-10-26 清华大学 一种人工神经网络计算核
CN108334942A (zh) * 2017-12-22 2018-07-27 清华大学 神经网络的数据处理方法、装置、芯片和存储介质
CN108446764A (zh) * 2018-03-12 2018-08-24 清华大学 一种新型神经形态芯片架构
CN109165730A (zh) * 2018-09-05 2019-01-08 电子科技大学 交叉阵列神经形态硬件中状态量化网络实现方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
脉冲神经网络模拟多核计算机的互连网络的研究;李冕;《中国优秀博硕士学位论文全文数据库（硕士） 信息科技辑（月刊）》;20200215;第12-13、16-17、27-29页、图3-4、图3-14 *

Also Published As

Publication number Publication date
CN112163673A (zh) 2021-01-01

Similar Documents

Publication Publication Date Title
CN112149815B (zh) 用于大规模类脑计算网络的种群聚类及种群路由方法
AU2021254524B2 (en) An improved spiking neural network
DE69032680T2 (de) Neuronaler Rechner
KR102588838B1 (ko) 초전도 뉴로모픽 코어
CN104424507B (zh) 一种回声状态网络的预测方法和预测装置
CN111814973B (zh) 一种适用于神经常微分方程网络计算的存内计算系统
CN112163673B (zh) 一种用于大规模类脑计算网络的种群路由方法
Davies et al. Population-based routing in the SpiNNaker neuromorphic architecture
CN111340194B (zh) 脉冲卷积神经网络神经形态硬件及其图像识别方法
Ding et al. A hybrid-mode on-chip router for the large-scale FPGA-based neuromorphic platform
CN112529148A (zh) 一种基于图神经网络的智能QoS推理方法
CN114580630B (zh) 用于ai芯片设计的神经网络模型训练方法及图形分类方法
CN106897768B (zh) 神经网络信息发送方法和系统
CN112511445B (zh) 一种基于负载加权的最短路径路由生成方法
CN113078958B (zh) 一种基于迁移学习的网络节点距离矢量同步方法
KR20230007220A (ko) 멀티 인코딩 기반의 스파이크 뉴럴 네트워크 장치 및 그의 동작 방법
CN112446463B (zh) 一种神经网络全连接层运算方法、装置以及相关产品
JPH06203005A (ja) 高速区分化ニューラルネットワーク及びその構築方法
KR20210004342A (ko) 뉴로모픽 장치
CN111860793A (zh) 神经网络系统中的数据传输技术及神经网络系统
US20240296325A1 (en) Neural network device and synaptic weight update method
WO2024216858A1 (zh) 片上网络电路及电子设备
KR102644669B1 (ko) 학습 수렴속도 향상을 위한 연합학습 시스템 및 그 방법
WO2024216859A1 (zh) 数字神经形态计算处理器及计算方法
US20230004777A1 (en) Spike neural network apparatus based on multi-encoding and method of operation thereof

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant