CN113792857A - 一种基于膜电位自增机制的脉冲神经网络训练方法 - Google Patents

一种基于膜电位自增机制的脉冲神经网络训练方法 Download PDF

Info

Publication number
CN113792857A
CN113792857A CN202111065696.2A CN202111065696A CN113792857A CN 113792857 A CN113792857 A CN 113792857A CN 202111065696 A CN202111065696 A CN 202111065696A CN 113792857 A CN113792857 A CN 113792857A
Authority
CN
China
Prior art keywords
neural network
training
formula
membrane potential
exp
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111065696.2A
Other languages
English (en)
Other versions
CN113792857B (zh
Inventor
梁东晨
曹江
平洋
吴冠霖
栾绍童
闫妍
马宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Research Institute of War of PLA Academy of Military Science
Original Assignee
Research Institute of War of PLA Academy of Military Science
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Research Institute of War of PLA Academy of Military Science filed Critical Research Institute of War of PLA Academy of Military Science
Priority to CN202111065696.2A priority Critical patent/CN113792857B/zh
Publication of CN113792857A publication Critical patent/CN113792857A/zh
Application granted granted Critical
Publication of CN113792857B publication Critical patent/CN113792857B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/061Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Manipulator (AREA)

Abstract

本发明公开的一种基于膜电位自增机制的脉冲神经网络训练方法,涉及一种脉冲神经网络训练方法,特别涉及一种基于膜电位自增机制的时间编码训练方法,属于人工智能领域。本发明针对脉冲神经网络训练时受到信号稀疏性的影响,只有少数神经元被激活,网络输出层的误差无法有效传播到网络的各个隐层,不能参与参数更新的问题,在采用时间编码方法对脉冲神经网络进行训练时,为脉冲神经元细胞膜电位动力学模型加入一个随时间变化的自增项。这个自增项使得全部脉冲神经元都可以在有限的时间内被激活,从而使反向传播过程能够为全部神经元更新参数,提升脉冲神经网络的训练效果。本方法可用于人工智能、神经形态工程、机器人等领域,实现高精度控制。

Description

一种基于膜电位自增机制的脉冲神经网络训练方法
技术领域
本发明涉及一种脉冲神经网络训练方法,特别涉及一种基于膜电位自增机制的脉冲神经网络训练方法,属于人工智能领域。
背景技术
脉冲神经网络模拟大脑的计算原理,相比于传统计算方法,拥有低功耗、低延迟处理等优势,与类脑传感器结合,可用于对机器人的低功耗、低延迟控制。
脉冲神经网络的训练有多种方法,主要包括:一是参考生物学原理,利用突触可塑性进行训练;二是首先进行人工神经网络训练,把训练好的网络转化为脉冲神经网络;三是把人工神经网络中的反向传播技术用于脉冲神经网络的训练,面临的挑战是脉冲神经元模型的不可导问题,当前可用的解决方案主要包括频率编码法、时间编码方法、导数替代法等。
其中,时间编码方法是把信息编码为脉冲的发出时间,通过公式转化,获得与人工神经网络一致的计算模型,使得反向传播技术可以应用于脉冲神经网络的训练,相比于其他方法更适用于在主流的深度学习平台上进行开发。但是,使用该方法时,由于脉冲神经网络的输入信号具有稀疏性,会导致大部分神经元无法在训练的过程中被激活。这些神经元在反向传播时导数被置为0,无法参与训练,从而损害脉冲神经网络在强化学习时的性能,使其性能无法用于对机器人的精确控制。
发明内容
本发明的目的是解决在采用时间编码方法对脉冲神经网络进行训练时受到信号稀疏性的影响,只有少数神经元被激活,网络输出层的误差无法有效传播到网络的各个隐层,不能参与参数更新的问题。使脉冲神经网络经过强化学习,可用于人工智能、神经形态工程、机器人等领域,实现高精度控制。
本发明的目的是通过以下技术方案实现的:
本发明在采用时间编码方法对脉冲神经网络进行训练时,为脉冲神经元细胞膜电位动力学模型加入一个随时间变化的自增项。这个自增项使得全部脉冲神经元都可以在有限的时间内被激活,从而使反向传播过程能够为全部神经元更新参数,提升脉冲神经网络的训练效果。
本发明具体实施步骤如下:
步骤一、基于机器人虚拟仿真环境,采用深度强化学习方法,搭建强化学习环境,把其中的人工神经网络部分替换为脉冲神经网络;
步骤二、以机器人虚拟仿真环境提供的环境状态信息,作为脉冲神经网络的输入信号。
步骤三、采用引入膜电位自增机制的神经元模型构造脉冲神经网络。
在训练过程中,采用无漏电流的积分与兴奋神经元,在其膜电位动力学公式的右端加入一个自增项βexp(t),β为可调节自增项大小的参数,新的膜电位动力学公式可以表示为:
Figure BDA0003256941250000021
其中,Vmem(t)为细胞膜电位,它是时间t的函数。公式右侧为输入的突触电流,wi为突触连接的权重,
Figure BDA0003256941250000022
为第i个神经元发出第r个脉冲的时间,κ为突触电流的计算公式:
Figure BDA0003256941250000023
其中,τsyn为时间常数,为简化公式表达,把它设置为1。
对公式(1)进行积分,可以得到:
Vment(tout)=∑i∈Cwi(1-exp(-tout+ti))+βexp(tout)-β (3)
其中,tout为神经元被激活后,产生脉冲的时间。
Figure BDA0003256941250000024
C={i:ti<tout},为所有在tout之前出现的输入脉冲,只有这些脉冲才能影响tout。Vment(tout)是神经元被激活时细胞膜电位需达到的阈值,为简化公式表达,在下列公式中设置为1。
在公式(3)中对exp(tout)进行求解,可以得到表达式:
Figure BDA0003256941250000025
公式(4)成立的条件是公式(5)满足,另外由于tout为时间,需大于0,所以公式(4)的右端应大于1,公式(6)也需满足。
(∑i∈Cwi-1-β)2>-4β∑i∈Cwiexp(ti) (5)
由于β∑i∈Cwiexp(ti)大于0,公式(5)恒成立。
Figure BDA0003256941250000026
i∈Cwi(exp(ti)-1)>-1 (7)
公式(6)等价为公式(7),由于exp(ti)>1,公式(7)恒成立。因此,公式(4)恒成立,所以tout总是存在的,即脉冲神经网络中每个神经元都会在有限的时间范围内兴奋。
步骤四、在强化学习框架下,采用反向传播方法对脉冲神经网络进行训练,使其能够准确预测当前环境状态对应的未来奖励,并把其输出结果用于对机器人的控制。
采用反向传播算法进行训练时,需要先对脉冲神经网络进行转化:
如果令zout=exp(tout),zi=exp(ti),代入(4)可以得到:
Figure BDA0003256941250000027
公式(8)可以写为:
zout=f(∑i∈Cwizi) (9)
如果把zi看作上一层神经元的激活值,f为激活函数,zout为当前神经元的输出,公式(9)与人工神经网络的激活函数具有一致的格式。因此,可以把反向传播算法运用到引入自增项的脉冲神经网络训练,即构造等价的人工神经网络,采用反向传播算法进行训练,训练结果用于脉冲神经网络的计算,与时间编码方法的原理一致。
步骤五、脉冲神经网络的输出作为当前环境状态下,机器人采取各个动作后预期获得的未来奖励,选择未来奖励最高的动作对机器人进行控制。
有益效果
1、本发明在采用时间编码方法对脉冲神经网络进行训练时,为神经元模型引入自增项,使全部脉冲神经元都可以在有限的时间内被激活,解决网络输出层的误差无法有效传播到网络的各个隐层,不能参与参数更新的问题,使脉冲神经网络经过强化学习训练,可用于机器人的精确控制。
附图说明
图1为训练步骤的流程图;
图2为引入膜电位自增机制前后的训练曲线对比图。
具体实施方式
下面将结合附图和实施例对本发明加以详细说明。同时也叙述了本发明技术方案解决的技术问题及有益效果,需要指出的是,所描述的实施例仅旨在便于对本发明的理解,而对其不起任何限定作用。
以OpenAI Gym强化学习工具包中的CartPole-v0机器人仿真环境作为实验环境,在CartPole-v0任务里有一个小车,车上竖着一根杆子,每次任务开始后小车和杆子的位置是随机的。小车需要左右移动来保持杆子竖直,为保证任务不失败需满足以下两个条件:一是杆子倾斜的角度不能大于15°,二是小车移动的位置需保持在一定范围,范围设置为4.8个单位长度。
1)采用DDQN深度强化学习方法,搭建强化学习环境。
2)把DDQN深度强化学习方法中的人工神经网络替换为脉冲神经网络,脉冲神经网络采用3层结构,分别是输入层、隐层、输出层。其中,输入层为80个脉冲信号输入通道,用于接收采用本发明提出的编码方法生成的脉冲,隐层为128个神经元,输出层为2个神经元,分别对应小车的两个动作:左移、右移。网络采用全连接方式。
3)以机器人虚拟仿真环境提供的环境状态信息,作为脉冲编码的输入。共有4个信号,分别为小车在轨道上的位置、小车速度、杆子与竖直方向的夹角、角度的变化速率。
为每个输入信号,采用空间展开方法设置20个脉冲产生通道,采用正态分布对展开的20个通道的脉冲时间进行分配,每个通道生成脉冲的时间可以表示为si,k,其中i代表输入信号,k代表当前输入信号对应的通道,输入信号的数值用xi表示。在CartPole-v0环境中,ai=9.5,bi=10.9,是在整个实验中,环境提供的输入信号可能达到的最小值和最大值,并且设置σ=1,
Figure BDA0003256941250000041
C=6。每个通道的脉冲时间的计算过程可以表示为:
Figure BDA0003256941250000042
公式(10)把原始输入信号编码为分布在80个通道上的连续脉冲时间。
把编码后的80个通道产生的脉冲信号,作为脉冲神经网络的输入信号。
4)采用无漏电流的积分与兴奋神经元构成的脉冲神经网络,开展基于时间编码方法的训练。无漏电流的积分与兴奋神经元的细胞膜电位动力学模型为:
Figure BDA0003256941250000043
其中,Vmem(t)为细胞膜电位,它是时间t的函数。公式右侧为输入的突触电流,wi为突触连接的权重,
Figure BDA0003256941250000044
为第i个神经元发出第r个脉冲的时间,κ为突触电流的计算公式:
Figure BDA0003256941250000045
其中,τsyn为时间常数,把它设置为1。
为公式(13)的右端加入一个自增项,βexp(t),更新脉冲神经元的模型为:
Figure BDA0003256941250000046
其中,β作为一个可调节自增项大小的参数,设置为0.001。
对公式(13)进行积分,可以得到:
Vment(tout)=∑i∈Cwi(1-exp(-tout+ti))+0.001exp(tout)-0.001 (14)
其中,tout为神经元被激活后,产生脉冲的时间。
Figure BDA0003256941250000048
C={i:ti<tout},为所有在tout之前出现的输入脉冲,只有它们才能影响tout。Vment(tout)是神经元被激活时细胞膜电位需达到的阈值,设置为1。
在公式(14)中对exp(tout)进行求解,可以得到表达式:
Figure BDA0003256941250000047
公式(15)成立的条件是公式(16)满足,另外由于tout为时间,需大于0,所以公式(15)的右端应大于1,公式(17)也需满足。
(∑i∈Cwi-1-0.001)2>-4*0.001∑i∈Cwiexp(ti) (16)
由于0.001*∑i∈Cwiexp(ti)大于0,公式(16)恒成立。
Figure BDA0003256941250000051
i∈Cwi(exp(ti)-1)>-1 (18)
公式(17)等价为公式(18),由于exp(ti)>1,(18)恒成立。因此,公式(15)恒成立,所以tout总是存在的,即脉冲神经网络中每个神经元都会在有限的时间范围内兴奋。
5)如果令zout=exp(tout),zi=exp(ti),代入公式(15)可以得到:
Figure BDA0003256941250000052
公式(19)可以写为:
zout=f(∑i∈Cwizi) (20)
如果把zi看作上一层神经元的激活值,f为激活函数,zout为当前神经元的输出,公式(20)与人工神经网络的激活函数具有一致的格式,因此,可以把反向传播算法运用到引入自增项的脉冲神经网络训练,即构造等价的人工神经网络,采用反向传播算法进行训练,训练结果用于脉冲神经网络的参数更新,与时间编码方法的原理一致。
6)脉冲神经网络输出层神经元产生脉冲的时间,作为当前环境状态下,机器人采取各个动作后对未来奖励的预期,时间越小奖励值越大。选择奖励值大的神经元所对应的动作,对机器人进行控制,使其左移或右移。
7)在强化学习框架下,采用反向传播方法对脉冲神经网络进行训练。设置强化学习训练过程的样本经验池的容量为1000,一次训练抓取样本数量为32。在任务进行过程中,环境在每一帧反馈的奖励值为1,持续累加。当任务失败时,累计奖励值设为-1。目标网络的更新频率为每100步。以累计奖励值为输入,采用均方误差作为回归损失函数,优化算法采用的是Adam方法。学习率设为0.001251。
8)训练后在相同的环境下进行测试。实验结果如图2所示。结果显示在CartPole-v0任务中,采用本发明提出的脉冲神经网络训练方法能有效提升机器人获得的平均累计奖励,即小车保持杆子直立的时间,而原来没有引入自增项的脉冲神经网络训练方法无法适用于该强化学习任务。
通过上述步骤,实现在强化学习框架下对脉冲神经网络的有效训练,训练过程中所有神经元都可以在有限的时间范围被激活并参与训练,提高脉冲神经网络的训练效果。脉冲神经网络的输出作为机器人各个动作实施后长期奖励的预测,可作为机器人动作选择的依据,实现对机器人的有效控制。结合神经形态处理器和传感器,本发明提出的方法,可用于对机器人的低功耗、低延迟、高精度控制。
以上所述的具体描述,对发明的目的、技术方案和有益效果进行进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (3)

1.一种基于膜电位自增机制的脉冲神经网络训练方法,其特征在于:包含以下步骤:
步骤一、基于机器人虚拟仿真环境,采用深度强化学习方法,搭建强化学习环境,把其中的人工神经网络部分替换为脉冲神经网络;
步骤二、以机器人虚拟仿真环境提供的环境状态信息,作为脉冲神经网络的输入信号;
步骤三、采用引入膜电位自增机制的神经元模型构造脉冲神经网络;
步骤四、在强化学习框架下,采用反向传播方法对脉冲神经网络进行训练,使其能够准确预测当前环境状态对应的未来奖励,并把其输出结果用于对机器人的控制;
步骤五、脉冲神经网络的输出作为当前环境状态下,机器人采取各个动作后预期获得的未来奖励,选择未来奖励最高的动作对机器人进行控制。
2.如权利要求1所述的一种基于膜电位自增机制的脉冲神经网络训练方法,其特征在于:步骤三的实现方法为:
在训练过程中,采用无漏电流的积分与兴奋神经元,在其膜电位动力学公式的右端加入一个自增项βexp(t),β为可调节自增项大小的参数,新的膜电位动力学公式可以表示为:
Figure FDA0003256941240000011
其中,Vmem(t)为细胞膜电位,它是时间t的函数;公式右侧为输入的突触电流,wi为突触连接的权重,
Figure FDA0003256941240000012
为第i个神经元发出第r个脉冲的时间,κ为突触电流的计算公式:
Figure FDA0003256941240000013
其中,Tsyn为时间常数,为简化公式表达,把它设置为1;
对公式(1)进行积分,可以得到:
Vment(tout)=∑i∈Cwi(1-exp(-tout+ti))+βexp(tout)-β (3)
其中,tout为神经元被激活后,产生脉冲的时间;
Figure FDA0003256941240000014
C={i:ti<tout},为所有在tout之前出现的输入脉冲,只有这些脉冲能影响tout;Vment(tout)是神经元被激活时细胞膜电位需达到的阈值,为简化公式表达,在下列公式中设置为1;
在公式(3)中对exp(tout)进行求解,可以得到表达式:
Figure FDA0003256941240000015
公式(4)成立的条件是公式(5)满足,另外由于tout为时间,需大于0,所以公式(4)的右端应大于1,公式(6)也需满足;
(∑i∈Cwi-1-β)2>-4β∑i∈Cwiexp(ti) (5)
由于β∑i∈Cwiexp(ti)大于0,公式(5)恒成立;
Figure FDA0003256941240000016
i∈Cwi(exp(ti)-1)>-1 (7)
公式(6)等价为公式(7),由于exp(ti)>1,(7)恒成立;因此,公式(4)恒成立,所以tout总是存在的,即脉冲神经网络中每个神经元都会在有限的时间范围内兴奋。
3.如权利要求1所述的一种基于膜电位自增机制的脉冲神经网络训练方法,其特征在于:步骤四的实现方法为:
采用反向传播算法进行训练时,需要先对脉冲神经网络进行转化:
如果令zout=exp(tout),zi=exp(ti),代入(4)可以得到:
Figure FDA0003256941240000021
公式(8)可以写为:
zout=f(∑i∈Cwizi) (9)
如果把zi看作上一层神经元的激活值,f为激活函数,zout为当前神经元的输出,公式(9)与人工神经网络的激活函数具有一致的格式;因此,可以把反向传播算法运用到引入自增项的脉冲神经网络训练,即构造等价的人工神经网络,采用反向传播算法进行训练,训练结果用于脉冲神经网络的参数更新,与时间编码方法的原理一致。
CN202111065696.2A 2021-09-10 2021-09-10 一种基于膜电位自增机制的脉冲神经网络训练方法 Active CN113792857B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111065696.2A CN113792857B (zh) 2021-09-10 2021-09-10 一种基于膜电位自增机制的脉冲神经网络训练方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111065696.2A CN113792857B (zh) 2021-09-10 2021-09-10 一种基于膜电位自增机制的脉冲神经网络训练方法

Publications (2)

Publication Number Publication Date
CN113792857A true CN113792857A (zh) 2021-12-14
CN113792857B CN113792857B (zh) 2023-10-20

Family

ID=79182936

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111065696.2A Active CN113792857B (zh) 2021-09-10 2021-09-10 一种基于膜电位自增机制的脉冲神经网络训练方法

Country Status (1)

Country Link
CN (1) CN113792857B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114372563A (zh) * 2022-01-10 2022-04-19 四川大学 基于混合脉冲强化学习网络结构的机器人控制方法及系统
CN114781608A (zh) * 2022-04-19 2022-07-22 安徽科技学院 一种基于数字孪生的煤矿供电系统故障预警方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160093290A1 (en) * 2014-09-29 2016-03-31 Nuance Communications, Inc. System and method for compressed domain language identification
CN107092959A (zh) * 2017-04-07 2017-08-25 武汉大学 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型
CN110659730A (zh) * 2019-10-10 2020-01-07 电子科技大学中山学院 基于脉冲神经网络的端到端功能性脉冲模型的实现方法
CN111783944A (zh) * 2020-06-19 2020-10-16 中国人民解放军军事科学院战争研究院 基于组合训练的规则嵌入多智能体强化学习方法及装置
CN112906828A (zh) * 2021-04-08 2021-06-04 周士博 一种基于时域编码和脉冲神经网络的图像分类方法
CN113298231A (zh) * 2021-05-19 2021-08-24 复旦大学 用于脉冲神经网络的图表示时空反向传播算法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160093290A1 (en) * 2014-09-29 2016-03-31 Nuance Communications, Inc. System and method for compressed domain language identification
CN107092959A (zh) * 2017-04-07 2017-08-25 武汉大学 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型
CN110659730A (zh) * 2019-10-10 2020-01-07 电子科技大学中山学院 基于脉冲神经网络的端到端功能性脉冲模型的实现方法
CN111783944A (zh) * 2020-06-19 2020-10-16 中国人民解放军军事科学院战争研究院 基于组合训练的规则嵌入多智能体强化学习方法及装置
CN112906828A (zh) * 2021-04-08 2021-06-04 周士博 一种基于时域编码和脉冲神经网络的图像分类方法
CN113298231A (zh) * 2021-05-19 2021-08-24 复旦大学 用于脉冲神经网络的图表示时空反向传播算法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
GUO LEI等: "Research on Disturbance Rejection of Adaptive Spiking Neural Network Based on Synaptic Plasticity under White Gaussian Noise", 《电工技术学报》, vol. 35, no. 2, pages 225 - 235 *
SONIA BOSCOLO等: "Artificial neural networks for nonlinear pulse shaping in optical fibers", pages 1 - 7, Retrieved from the Internet <URL:《网页在线公开:https://sci-hub.se/https://doi.org/10.1016/j.optlastec.2020.106439》> *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114372563A (zh) * 2022-01-10 2022-04-19 四川大学 基于混合脉冲强化学习网络结构的机器人控制方法及系统
CN114781608A (zh) * 2022-04-19 2022-07-22 安徽科技学院 一种基于数字孪生的煤矿供电系统故障预警方法
CN114781608B (zh) * 2022-04-19 2023-06-20 安徽科技学院 一种基于数字孪生的煤矿供电系统故障预警方法

Also Published As

Publication number Publication date
CN113792857B (zh) 2023-10-20

Similar Documents

Publication Publication Date Title
Jin et al. Hybrid macro/micro level backpropagation for training deep spiking neural networks
CN107092959B (zh) 基于stdp非监督学习算法的脉冲神经网络模型构建方法
CN113792857A (zh) 一种基于膜电位自增机制的脉冲神经网络训练方法
JP2017509951A (ja) スパースニューラルネットワークを構成すること
CN111260124A (zh) 一种基于注意力机制深度学习的混沌时间序列预测方法
CN110659730A (zh) 基于脉冲神经网络的端到端功能性脉冲模型的实现方法
CN108710770A (zh) 一种面向多脉冲神经网络监督学习的精确突触调整方法
CN113448245A (zh) 一种基于深度学习的污水处理过程溶解氧控制方法及系统
CN116382267B (zh) 一种基于多模态脉冲神经网络的机器人动态避障方法
CN106896724B (zh) 用于太阳跟踪器的跟踪系统及跟踪方法
CN114037050B (zh) 一种基于脉冲神经网络内在可塑性的机器人退化环境避障方法
CN115600669A (zh) 基于局部分类器的高效深层脉冲神经网络学习方法
CN111832911A (zh) 一种基于神经网络算法的水下作战效能评估方法
CN115730743A (zh) 一种基于深度神经网络的战场作战趋势预测方法
Zhao et al. Knowledge distillation via module replacing for automatic speech recognition with recurrent neural network transducer
Zhang et al. A network traffic prediction model based on quantum inspired PSO and neural network
Rao et al. Learning mappings in brain machine interfaces with echo state networks
CN113298231A (zh) 用于脉冲神经网络的图表示时空反向传播算法
CN108388115A (zh) 基于广义预测控制的ncs网络时延补偿方法
CN113935457A (zh) 一种基于正态分布的脉冲神经网络输入信号编码方法
CN117008620A (zh) 一种无人驾驶自适应路径规划方法、系统、设备及介质
JP3515267B2 (ja) 多層神経回路網学習装置
CN108319146B (zh) 一种径向基神经网络基于离散粒子群训练的方法
Wang et al. LSTM wastewater quality prediction based on attention mechanism
CN114372563A (zh) 基于混合脉冲强化学习网络结构的机器人控制方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant