CN112329327A - 一种硬件感知的液体状态机网络生成方法及系统 - Google Patents

一种硬件感知的液体状态机网络生成方法及系统 Download PDF

Info

Publication number
CN112329327A
CN112329327A CN202011351853.1A CN202011351853A CN112329327A CN 112329327 A CN112329327 A CN 112329327A CN 202011351853 A CN202011351853 A CN 202011351853A CN 112329327 A CN112329327 A CN 112329327A
Authority
CN
China
Prior art keywords
lsm
neurons
network
hardware
aware
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011351853.1A
Other languages
English (en)
Other versions
CN112329327B (zh
Inventor
王蕾
王世英
曲连华
康子扬
李石明
张剑锋
刘威
张英
潘国腾
苏金树
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National University of Defense Technology
Original Assignee
National University of Defense Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National University of Defense Technology filed Critical National University of Defense Technology
Priority to CN202011351853.1A priority Critical patent/CN112329327B/zh
Publication of CN112329327A publication Critical patent/CN112329327A/zh
Application granted granted Critical
Publication of CN112329327B publication Critical patent/CN112329327B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/25—Design optimisation, verification or simulation using particle-based methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00—Computer-aided design [CAD]
    • G06F30/20—Design optimisation, verification or simulation
    • G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2111/00—Details relating to CAD techniques
    • G06F2111/08—Probabilistic or stochastic CAD
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种硬件感知的液体状态机网络生成方法及系统，本发明方法包括将LSM神经元随机映射到类脑处理器中并生成形成距离矩阵；通过迭代调整LSM网络的控制参数λ、C的参数值指导产生新的LSM网络结构，并针对输入的距离矩阵计算任意两个LSM神经元之间有无连接的概率得到连接矩阵，重复上述迭代调整LSM网络过程直至达到终止条件；将最优的LSM网络结构输出。本发明通过初始化生成LSM网络结构时就可以加入距离信息，使神经元之间的通信尽量保持在核内，极大地降低了核间的通信开销，而且采用启发式算法搜索不同的LSM网络结构，生成的LSM网络既能够极大降低NoC中通信开销，同时还能够保证很好的分类精度。

Description

一种硬件感知的液体状态机网络生成方法及系统
技术领域
本发明涉及液体状态机(Liquid State Machine,LSM)的自动生成技术，具体涉及一种硬件感知的液体状态机网络生成方法及系统。
背景技术
液体状态机模型(liquid state machine,简称LSM网络)是一种带回环的脉冲神经网络(Spiking Neural Network,SNN)，由于其强大的计算能力，生物学上的合理性，简单的结构和较低的训练复杂性而吸引了许多研究者的兴趣。相比较于其他神经网络，它能够以很小的开销来进行图片分类、语音识别等。LSM的结构如图1所示，它主要由三部分组成：输入层、液体层和输出层。输入层负责离散的脉冲输入，其神经元和液体层中的神经元相连。液体层由脉冲神经元递归连接组成，突触连接的方向和权值大小都是随机的。输出层由输出神经元组成，主要是负责提取液体层的结果。输出层的神经元和液体层中的而每个神经元都相连。它的工作原理如下：输入层将输入脉冲序列输入到水库中，水库层的神经元相应的会产生一些脉冲，经过一段时间的统计，输出层会统计水库层中神经元发射的脉冲的数量。水库就形成了一个状态向量，然后输出底层的分类器就会对这个状态向量进行分类。
LSM的液体层中神经元数量巨大，通常神经元排列成x*y*z的长方体结构，其中的神经元为LIF神经元，两两神经元之间的连接是在液体层刚刚生成的时候随机确定的，而且确定后不再改变，也就是说，两两神经元之间的连接权值是不需要训练改变的，这是它和一般的神经网络的第一个最大的不同点。
LSM网络的LSM神经元之间有无连接的概率通过以下方程确定：
Figure BDA0002800964330000011
上式中，Pi,j表示两两神经元之间有无连接的概率。D(i,j)表示在长方体结构中两个神经元之间的欧式距离，λ、C为控制参数。C随着两两神经元之间是兴奋型还是抑制型而不同。
类脑处理器(Neuromorphic Processor)是一种用数字电路或模拟电路来模拟大脑中的神经元结构的硬件，它们通常包括许多核，每个核可以模拟多个神经元，核与核之间通过片上网络(NoC)互相连接，核与核之间通过片上网络连接进行通信。类脑处理器中的通信可以分为两个层面：核内的通信以及核间的通信。在核内是通过Crossbar进行通信。核间是通过片上网络(NoC)进行通信。类脑处理器可以用来运行LSM。在类脑处理器中运行LSM时，为了减少其中的通信量进而降低通信销，目前通常采用映射算法，将随机初始化的LSM映射到类脑处理器中的各个核中，目标是使得类脑处理器中的NoC所消耗的开销尽可能地小。但是，现有技术的这种映射方法仅仅减少了少量的通信量，没有从根本上将LSM网络结构与类脑处理器的结构结合起来。LSM中的神经元之间是有距离的属性的，距离越远，之间连接的概率越小。
发明内容
本发明要解决的技术问题：针对现有技术的上述问题，提供一种硬件感知的液体状态机网络生成方法及系统，本发明通过初始化生成LSM网络结构时就可以加入距离信息，使得神经元之间的通信尽量保持在核内，这种方法极大地降低了核间的通信开销，而且采用启发式算法搜索不同的LSM网络结构，生成的LSM网络既能够极大降低NoC中通信开销，同时还能够保证很好的分类精度。
为了解决上述技术问题，本发明采用的技术方案为：
一种硬件感知的液体状态机网络生成方法，包括：
1)在类脑处理器的每个核的LSM神经元不超过预设阈值的前提下，将一组无连接的LSM神经元随机映射到类脑处理器的每个核中；根据LSM神经元在类脑处理器中分配的核的位置计算任意两个LSM神经元之间的距离，形成距离矩阵；
2)通过迭代调整LSM网络的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵，采用启发式算法重复上述迭代调整LSM网络过程直至达到预设的终止条件；
3)将最优的LSM网络结构输出。
可选地，步骤1)中计算任意两个LSM神经元之间的距离的函数表达式为：
D(i，j)＝|xi-xj|+|yi-yj|
上式中，D(i,j)表示两个LSM神经元i和j之间的距离，xi表示LSM神经元i的x坐标，xj表示LSM神经元j的x坐标，yi表示LSM神经元i的y坐标，yj表示LSM神经元j的y坐标。
可选地，步骤2)中终止条件是指迭代调整LSM网络的次数达到指定次数。
可选地，步骤2)中终止条件是指新的LSM网络结构的分类精度达到预设阈值。
可选地，步骤2)包括：
2.1)确定控制参数λ、C的搜索空间，将控制参数λ、C作为粒子群算法的粒子，在控制参数λ、C的搜索空间内初始化粒子群；
2.2)通过当前粒子群中的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵；
2.3)计算每一个粒子的适应度，且该适应度是指LSM网络结构的分类精度；
2.4)根据适应度值更新粒子群算法的参数、粒子的速度和位置；
2.5)判断是否达到预设的终止条件，若达到预设的终止条件，则跳转执行步骤3)；否则，跳转执行步骤2.2)。
可选地，所述LSM网络中的LSM神经元包含三种突触：兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触，所述控制参数C包括兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触三种突触对应的控制参数Cee,Cei,Cie。
可选地，通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率的函数表达式为：
Figure BDA0002800964330000031
上式中，Pi,j表示两个LSM神经元i和j之间有无连接的概率，D(i,j)表示两个LSM神经元i和j之间的距离，λ、C为控制参数。
可选地，步骤3)之后还包括对得到的最优的LSM网络结构采用RTL级的NoC模拟器进行硬件仿真，然后计算包括运行时间、吞吐率、传输延迟、数据包数量中的至少一项在内的通信性能指标的步骤。
此外，本发明还提供一种硬件感知的液体状态机网络生成系统，包括计算机设备，该计算机设备至少包括相互连接的微处理器和存储器，该微处理器被编程或配置以执行所述硬件感知的液体状态机网络生成方法的步骤，或者该存储器中存储有被编程或配置以执行所述硬件感知的液体状态机网络生成方法的计算机程序。
此外，本发明还提供一种计算机可读存储介质，该计算机可读存储介质中存储有被编程或配置以执行所述硬件感知的液体状态机网络生成方法的计算机程序。
和现有技术相比，本发明具有下述优点：
1、本发明根据LSM神经元在类脑处理器中分配的核的位置计算任意两个LSM神经元之间的距离形成距离矩阵，在迭代调整LSM网络的控制参数λ、C的参数值时通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵，由于初始化生成LSM网络结构时就可以加入距离信息，实现了对类脑处理器的硬件感知，使得神经元之间的通信尽量保持在核内，这种方法极大地降低了核间的通信开销。
2、本发明采用启发式算法搜索不同的LSM网络结构，生成的LSM网络既能够极大降低NoC中通信开销，同时还能够保证很好的分类精度。
附图说明
图1为现有LSM网络的结构示意图。
图2为本发明实施例方法的基本步骤示意图。
图3为本发明实施例中初始化阶段的原理示意图。
图4为本发明实施例中产生水库层的一个实例。
图5为本发明实施例中粒子群算法的执行流程图。
图6为本发明实施例中硬件仿真的流程示意图。
具体实施方式
如图2所示，本实施例硬件感知的液体状态机网络生成方法包括：
1)初始化阶段：在类脑处理器的每个核的LSM神经元不超过预设阈值的前提下，将一组无连接的LSM神经元随机映射到类脑处理器的每个核中；根据LSM神经元在类脑处理器中分配的核的位置计算任意两个LSM神经元之间的距离，形成距离矩阵；参见图2，其中任意两个LSM神经元之间的距离记为Di,j，形成距离矩阵记为Distance Martrix(D)；
2)LSM参数搜索阶段：通过迭代调整LSM网络的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵，采用启发式算法重复上述迭代调整LSM网络过程直至达到预设的终止条件；参见图2，其中LSM网络的任意两个LSM神经元之间有无连接的概率记为Pi,j，形成距离矩阵记为Connection Martrix(P)；
3)输出阶段：将最优的LSM网络结构输出。
在初始化阶段，由于类脑处理器的每个核所能承载的神经元的数量的固定的，因此将一组无连接的LSM神经元随机映射到类脑处理器的每个核中时，要保证每个核内的神经元数量不能超过所能容忍的上限。例如本实施例中测试的神经元数量为1000，采用类脑处理器的每个核所容纳的神经元上限为64。为了更清楚说明，以如4所示情形为例：共有三个孤立的神经元N1,N2,N3(在第一个方块中)。首先，这三个神经元被映射到了不同的核里面(第二个方框中)，神经元N1的位置为1，神经元N2的位置为5，神经元N3的位置为9。然后就可以计算神经元之间的距离。最终我们就得到了距离矩阵Distance Matrix(第三个方块中)。需要说明的是，任意两个LSM神经元之间的距离可以有多种不同的计算方式，作为一种可选的实施方式，本实施例步骤1)中计算任意两个LSM神经元之间的距离的函数表达式为：
D(i，j)＝|xi-xj|+|yi-yj|
上式中，D(i,j)表示两个LSM神经元i和j之间的距离，xi表示LSM神经元i的x坐标，xj表示LSM神经元j的x坐标，yi表示LSM神经元i的y坐标，yj表示LSM神经元j的y坐标。
在LSM参数搜索阶段，根据每个神经元在NoC中的位置产生合适的LSM结构。参见图2，本实施例中采用LSM生成器(LSMgenerator)作为执行主体来产生LSM中的水库层，且采用了粒子群算法(PSO算法)用来搜索LSM的参数。
作为一种可选的实施方式，步骤2)中终止条件是指迭代调整LSM网络的次数达到指定次数。作为另一种可选的实施方式，步骤2)中终止条件是指新的LSM网络结构的分类精度达到预设阈值。上述两种方式可以根据需要进行选择。
LSM生成器(LSMgenerator)的作用是根据(C，lam)产生一个LSM中的水库层。这个模块的输入包括三部分：C、lam、以及Position[N]。C和lam是控制参数，N为水库层中神经元的数量。Position指的是每个神经元在类脑处理器的哪个核内，如图3中，神经元N2的位置就是5。模块的输出为连接矩阵(Connection Matrix)。LSM生成器(LSMgenerator)工作流程的一个例子如图4所示：首先，根据在初始化阶段产生的距离矩阵(Distance Matrix)，LSM生成器(LSMgenerator)计算得到相应的连接矩阵(Connection Matrix)。如果连接矩阵(Connection Matrix)中的第i行j列元素C(i,j)＝1,则神经元i与神经元j之间有一条连接。这个连接矩阵(Connection Matrix)就是对应了水库层的神经元的连接结构。
不同的控制参数λ、C生成的LSM水库层结构是不同的，而不同LSM网络分类能力也不同。针对不同的分类任务，我们需要有针对性地找到具有最好分类能力的LSM结构。因此，我们需要对这些参数进行探索。但是手动调整非常耗费时间。因此，本实施例中采用PSO算法(粒子群算法)来进行搜索。如图5所示，本实施例中步骤2)包括：
2.1)确定控制参数λ、C的搜索空间，将控制参数λ、C作为粒子群算法的粒子，在控制参数λ、C的搜索空间内初始化粒子群；
2.2)通过当前粒子群中的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵；
2.3)计算每一个粒子的适应度，且该适应度是指LSM网络结构的分类精度Acc；
2.4)根据适应度值更新粒子群算法的参数(pbest、gbest)、粒子的速度和位置；需要说明的是，粒子群算法为公知算法，粒子群算法的参数(pbest、gbest)、粒子的速度和位置均为公知的更新操作，故其具体细节在此不再赘述。
2.5)判断是否达到预设的终止条件，若达到预设的终止条件，则跳转执行步骤3)；否则，跳转执行步骤2.2)。
作为一种可选的实施方式，本实施例中LSM网络中的LSM神经元包含三种突触：兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触，所述控制参数C包括兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触三种突触对应的控制参数Cee,Cei,Cie。将[Cee,Cei,Cie,lam]设为搜索空间，将分类准确性设为适应度。经过多轮搜索，具有最高适应度的粒子的坐标即为我们想要的参数值。按照这套参数值即可构建LSM的水库层。
本实施例中，通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率的函数表达式为：
Figure BDA0002800964330000061
上式中，Pi,j表示两个LSM神经元i和j之间有无连接的概率，D(i,j)表示两个LSM神经元i和j之间的距离，λ、C为控制参数。控制参数C可以为兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触三种突触对应的控制参数Cee,Cei,Cie中的某一种。
参见图2，本实施例中步骤3)之后还包括对得到的最优的LSM网络结构采用RTL级的NoC模拟器进行硬件仿真，然后计算包括运行时间、吞吐率、传输延迟、数据包数量中的至少一项在内的通信性能指标的步骤。
硬件仿真的目标是分析生成的LSM网络在类脑处理器中运行时的通信性能。在LSM分类的过程中，它的神经元行为会被记录到日志文件(log文件)中。本实施例中通过跟踪生成器(Tracegenerator)根据日志文件产生供NoC读取的跟踪文件(trace)。硬件仿真流程如图6所示，其中左侧顶部的四边形为RTL级的NoC模拟器，其下部的四边形为跟踪生成器(Tracegenerator)根据日志文件产生的跟踪文件(trace)。模拟器在将所trace传输完毕后会统计通信性能，包括：运行时间、吞吐率、传输延迟、数据包的数量。
此外，本实施例还提供一种硬件感知的液体状态机网络生成系统，包括计算机设备，该计算机设备至少包括相互连接的微处理器和存储器，该微处理器被编程或配置以执行所述硬件感知的液体状态机网络生成方法的步骤，或者该存储器中存储有被编程或配置以执行所述硬件感知的液体状态机网络生成方法的计算机程序。
此外，本实施例还提供一种计算机可读存储介质，该计算机可读存储介质中存储有被编程或配置以执行所述硬件感知的液体状态机网络生成方法的计算机程序。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可读存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种硬件感知的液体状态机网络生成方法，其特征在于，包括：
1)在类脑处理器的每个核的LSM神经元不超过预设阈值的前提下，将一组无连接的LSM神经元随机映射到类脑处理器的每个核中；根据LSM神经元在类脑处理器中分配的核的位置计算任意两个LSM神经元之间的距离，形成距离矩阵；
2)通过迭代调整LSM网络的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵，采用启发式算法重复上述迭代调整LSM网络过程直至达到预设的终止条件；
3)将最优的LSM网络结构输出。
2.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，步骤1)中计算任意两个LSM神经元之间的距离的函数表达式为：
D(i，j)＝|xi-xj|+|yi-yj|
上式中，D(i,j)表示两个LSM神经元i和j之间的距离，xi表示LSM神经元i的x坐标，xj表示LSM神经元j的x坐标，yi表示LSM神经元i的y坐标，yj表示LSM神经元j的y坐标。
3.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，步骤2)中终止条件是指迭代调整LSM网络的次数达到指定次数。
4.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，步骤2)中终止条件是指新的LSM网络结构的分类精度达到预设阈值。
5.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，步骤2)包括：
2.1)确定控制参数λ、C的搜索空间，将控制参数λ、C作为粒子群算法的粒子，在控制参数λ、C的搜索空间内初始化粒子群；
2.2)通过当前粒子群中的控制参数λ、C的参数值指导产生新的LSM网络结构，并通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率，从而得到由LSM神经元之间有无连接的概率构成的连接矩阵；
2.3)计算每一个粒子的适应度，且该适应度是指LSM网络结构的分类精度；
2.4)根据适应度值更新粒子群算法的参数、粒子的速度和位置；
2.5)判断是否达到预设的终止条件，若达到预设的终止条件，则跳转执行步骤3)；否则，跳转执行步骤2.2)。
6.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，所述LSM网络中的LSM神经元包含三种突触：兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触，所述控制参数C包括兴奋-兴奋型突触、兴奋-抑制型突触、抑制-兴奋型突触三种突触对应的控制参数Cee,Cei,Cie。
7.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，通过新的LSM网络结构针对输入的距离矩阵进行计算LSM网络的任意两个LSM神经元之间有无连接的概率的函数表达式为：
Figure FDA0002800964320000021
上式中，Pi,j表示两个LSM神经元i和j之间有无连接的概率，D(i,j)表示两个LSM神经元i和j之间的距离，λ、C为控制参数。
8.根据权利要求1所述的硬件感知的液体状态机网络生成方法，其特征在于，步骤3)之后还包括对得到的最优的LSM网络结构采用RTL级的NoC模拟器进行硬件仿真，然后计算包括运行时间、吞吐率、传输延迟、数据包数量中的至少一项在内的通信性能指标的步骤。
9.一种硬件感知的液体状态机网络生成系统，包括计算机设备，该计算机设备至少包括相互连接的微处理器和存储器，其特征在于，该微处理器被编程或配置以执行权利要求1～8中任意一项所述硬件感知的液体状态机网络生成方法的步骤，或者该存储器中存储有被编程或配置以执行权利要求1～8中任意一项所述硬件感知的液体状态机网络生成方法的计算机程序。
10.一种计算机可读存储介质，其特征在于，该计算机可读存储介质中存储有被编程或配置以执行权利要求1～8中任意一项所述硬件感知的液体状态机网络生成方法的计算机程序。
CN202011351853.1A 2020-11-26 2020-11-26 一种硬件感知的液体状态机网络生成方法及系统 Active CN112329327B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011351853.1A CN112329327B (zh) 2020-11-26 2020-11-26 一种硬件感知的液体状态机网络生成方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011351853.1A CN112329327B (zh) 2020-11-26 2020-11-26 一种硬件感知的液体状态机网络生成方法及系统

Publications (2)

Publication Number Publication Date
CN112329327A true CN112329327A (zh) 2021-02-05
CN112329327B CN112329327B (zh) 2022-06-07

Family

ID=74309618

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011351853.1A Active CN112329327B (zh) 2020-11-26 2020-11-26 一种硬件感知的液体状态机网络生成方法及系统

Country Status (1)

Country Link
CN (1) CN112329327B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113158567A (zh) * 2021-04-21 2021-07-23 中国人民解放军国防科技大学 一种液体状态机模型中通信的软硬件联合优化方法及系统
CN113298242A (zh) * 2021-06-08 2021-08-24 浙江大学 一种基于脉冲神经网络的脑机接口解码方法
WO2022193183A1 (zh) * 2021-03-17 2022-09-22 北京希姆计算科技有限公司 片上网络的仿真模型生成方法、装置、电子设备及计算机可读存储介质
CN115099395A (zh) * 2022-08-25 2022-09-23 北京灵汐科技有限公司 神经网络构建方法及装置、设备、介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150106314A1 (en) * 2013-10-16 2015-04-16 University Of Tennessee Research Foundation Method and apparatus for constructing a dynamic adaptive neural network array (danna)
US20160098629A1 (en) * 2014-10-01 2016-04-07 Thalchemy Corporation Efficient and scalable systems for calculating neural network connectivity in an event-driven way
CN110826437A (zh) * 2019-10-23 2020-02-21 中国科学院自动化研究所 基于生物神经网络的智能机器人控制方法、系统、装置
KR20200020545A (ko) * 2018-08-17 2020-02-26 삼성전자주식회사 전자 장치 및 그 제어 방법
CN111783320A (zh) * 2020-08-03 2020-10-16 中国人民解放军国防科技大学 针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质
CN111783973A (zh) * 2020-08-03 2020-10-16 中国人民解放军国防科技大学 一种面向液体状态机计算的神经形态处理器及设备
CN111882042A (zh) * 2020-08-03 2020-11-03 中国人民解放军国防科技大学 用于液体状态机的神经网络架构自动搜索方法、系统及介质
CN111882065A (zh) * 2020-08-03 2020-11-03 中国人民解放军国防科技大学 映射脉冲神经网络到类脑计算平台的方法、系统及介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150106314A1 (en) * 2013-10-16 2015-04-16 University Of Tennessee Research Foundation Method and apparatus for constructing a dynamic adaptive neural network array (danna)
US20160098629A1 (en) * 2014-10-01 2016-04-07 Thalchemy Corporation Efficient and scalable systems for calculating neural network connectivity in an event-driven way
KR20200020545A (ko) * 2018-08-17 2020-02-26 삼성전자주식회사 전자 장치 및 그 제어 방법
CN110826437A (zh) * 2019-10-23 2020-02-21 中国科学院自动化研究所 基于生物神经网络的智能机器人控制方法、系统、装置
CN111783320A (zh) * 2020-08-03 2020-10-16 中国人民解放军国防科技大学 针对指定应用的类脑处理器NoC设计空间探索方法、系统及介质
CN111783973A (zh) * 2020-08-03 2020-10-16 中国人民解放军国防科技大学 一种面向液体状态机计算的神经形态处理器及设备
CN111882042A (zh) * 2020-08-03 2020-11-03 中国人民解放军国防科技大学 用于液体状态机的神经网络架构自动搜索方法、系统及介质
CN111882065A (zh) * 2020-08-03 2020-11-03 中国人民解放军国防科技大学 映射脉冲神经网络到类脑计算平台的方法、系统及介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
桑永胜等: "神经形态视觉传感器及其应用研究", 《物联网学报》 *
桑永胜等: "神经形态视觉传感器及其应用研究", 《物联网学报》, no. 04, 31 December 2019 (2019-12-31), pages 67 - 75 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022193183A1 (zh) * 2021-03-17 2022-09-22 北京希姆计算科技有限公司 片上网络的仿真模型生成方法、装置、电子设备及计算机可读存储介质
CN113158567A (zh) * 2021-04-21 2021-07-23 中国人民解放军国防科技大学 一种液体状态机模型中通信的软硬件联合优化方法及系统
CN113158567B (zh) * 2021-04-21 2022-05-03 中国人民解放军国防科技大学 一种液体状态机模型中通信的软硬件联合优化方法及系统
CN113298242A (zh) * 2021-06-08 2021-08-24 浙江大学 一种基于脉冲神经网络的脑机接口解码方法
CN113298242B (zh) * 2021-06-08 2022-08-05 浙江大学 一种基于脉冲神经网络的脑机接口解码方法
CN115099395A (zh) * 2022-08-25 2022-09-23 北京灵汐科技有限公司 神经网络构建方法及装置、设备、介质
CN115099395B (zh) * 2022-08-25 2022-11-15 北京灵汐科技有限公司 神经网络构建方法及装置、设备、介质

Also Published As

Publication number Publication date
CN112329327B (zh) 2022-06-07

Similar Documents

Publication Publication Date Title
CN112329327B (zh) 一种硬件感知的液体状态机网络生成方法及系统
CN106201651A (zh) 神经形态芯片的模拟器
CN112684700B (zh) 一种群体机器人的多目标搜索与围捕控制方法及系统
CN110363286A (zh) 神经网络模型的生成方法及装置
CN111882065B (zh) 映射脉冲神经网络到类脑计算平台的方法、系统及介质
CN107169557A (zh) 一种对布谷鸟优化算法进行改进的方法
CN106875004A (zh) 复合模式神经元信息处理方法和系统
CN108304926B (zh) 一种适用于神经网络的池化计算装置及方法
CN114162146B (zh) 行驶策略模型训练方法以及自动驾驶的控制方法
CN111311702B (zh) 一种基于BlockGAN的图像生成和识别模块及方法
CN115186821A (zh) 面向芯粒的神经网络推理开销估计方法及装置、电子设备
CN113561986A (zh) 自动驾驶汽车决策方法及装置
CN115860081B (zh) 一种芯粒算法调度方法、系统、电子设备及存储介质
CN115300910B (zh) 基于多智能体强化学习的去混淆游戏策略模型生成方法
CN108229536A (zh) 分类预测模型的优化方法、装置及终端设备
CN114881225A (zh) 输变电巡检模型网络结构搜索方法、系统及存储介质
CN113722980A (zh) 海洋浪高预测方法、系统、计算机设备、存储介质、终端
CN113255873A (zh) 一种聚类天牛群优化方法、系统、计算机设备和存储介质
CN111461284A (zh) 数据离散化方法、装置、设备及介质
CN113158567B (zh) 一种液体状态机模型中通信的软硬件联合优化方法及系统
Zhou et al. Deeptree: Modeling trees with situated latents
CN112749516A (zh) 适应多类型数据特征的体系组合模型可信度智能评估方法
CN116510302A (zh) 虚拟对象异常行为的分析方法、装置及电子设备
CN114547954A (zh) 物流配送中心选址方法、装置、计算机设备
Kusari Assessing and accelerating coverage in deep reinforcement learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant