CN106875006B - 人工神经元信息转换为脉冲神经元信息的方法和系统 - Google Patents

人工神经元信息转换为脉冲神经元信息的方法和系统 Download PDF

Info

Publication number
CN106875006B
CN106875006B CN201710056188.5A CN201710056188A CN106875006B CN 106875006 B CN106875006 B CN 106875006B CN 201710056188 A CN201710056188 A CN 201710056188A CN 106875006 B CN106875006 B CN 106875006B
Authority
CN
China
Prior art keywords
information
neuron
artificial
input
spiking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710056188.5A
Other languages
English (en)
Other versions
CN106875006A (zh
Inventor
裴京
吴臻志
施路平
邓磊
李国齐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201710056188.5A priority Critical patent/CN106875006B/zh
Publication of CN106875006A publication Critical patent/CN106875006A/zh
Priority to PCT/CN2017/114660 priority patent/WO2018137411A1/zh
Application granted granted Critical
Publication of CN106875006B publication Critical patent/CN106875006B/zh
Priority to US16/520,792 priority patent/US20190347546A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/061Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明涉及一种人工神经元信息转换为脉冲神经元信息的方法,所述方法包括:接收前继人工神经元输入的人工神经元输入信息;判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息;当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息;输出所述第一脉冲神经元信息或第二脉冲神经元信息。本发明可以将人工神经元输入信息根据需求转换为脉冲神经元信息,提高神经网络的对于人工神经元信息和脉冲神经元信息的兼容性。

Description

人工神经元信息转换为脉冲神经元信息的方法和系统
技术领域
本发明涉及人工神经网络技术领域,特别是涉及人工神经元信息转换为脉冲神经元信息的方法和系统。
背景技术
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。
然而,传统的神经形态系统中,神经网络的主要有两种形态,一种为脉冲神经网络,一种人工神经网络,两者对同样的输入信息有着不同的表达方式,导致人工神经网络和脉冲神经网络因处理的信息不同而不能兼容。
发明内容
基于此,有必要针对两种不同的神经网络输入的信息不兼容的问题,提供一种人工神经元信息转换为脉冲神经元信息的方法和系统,所述方法包括:
接收前继人工神经元输入的人工神经元输入信息;
判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息,并输出所述第一脉冲神经元信息;
当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息,并输出所述第二脉冲神经元信息。
在其中一个实施例中,所述当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息,包括:
将第一时间窗等间隔划分为多个时间步;
在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;
将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
在其中一个实施例中,所述根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息,包括:
将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
在其中一个实施例中,所述当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息,包括:
根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。
在其中一个实施例中,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
在其中一个实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
在其中一个实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
在其中一个实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
本发明还提供一种人工神经元信息转换为脉冲神经元信息的系统,包括:
人工神经元输入信息接收模块,用于接收前继人工神经元输入的人工神经元输入信息;
第一转换模块,用于判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息;
脉冲神经元信息输出模块,用于输出所述第一脉冲神经元信息;
第二转换模块,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息;
所述脉冲神经元信息输出模块,用于输出第二脉冲神经元信息。
在其中一个实施例中,所述第一转换模块,包括:
时间步划分单元,用于将第一时间窗等间隔划分为多个时间步;
第一时间步处理单元,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
第一脉冲神经元信息确定单元,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
在其中一个实施例中,所述后续时间步处理单元,用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
在其中一个实施例中,所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。
在其中一个实施例中,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
在其中一个实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
在其中一个实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
在其中一个实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
附图说明
图1为一个实施例的人工神经元信息转换为脉冲神经元信息的方法的流程示意图;
图2为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法的流程示意图;
图3为一个实施例的人工神经元信息转换为脉冲神经元信息的方法的流程示意图;
图4为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法的流程示意图;
图5一个实施例的实现人工神经元信息转换为脉冲神经元信息的方法的计算核的结构示意图;
图6为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法中第一脉冲神经元信息的示意图;
图7为另一个实施例的人工神经元信息转换为脉冲神经元信息的系统的结构示意图;
图8为另一个实施例的人工神经元信息转换为脉冲神经元信息的系统中第一转换模块的结构示意图;
图9为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法中第二脉冲神经元信息的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
图1为一个实施例的人工神经元信息转换为脉冲神经元信息的方法的流程示意图,如图1所示的人工神经元信息转换为脉冲神经元信息的方法包括:
步骤S100,接收前继人工神经元输入的人工神经元输入信息。
具体地,脉冲神经网络神经元之间的连接采用Spike(1比特)实现,并带有一定的时间深度。在一定的时间范围内,脉冲发放的频率和模式代表着不同的信息。人工神经网络的神经元之间的连接采用多比特量(例如8比特)实现,且没有时间深度。当一个神经网路处理的任务,即需要处理脉冲神经网络信息,也需要处理脉冲神经网络信息时,两种不同的神经网络输出的信息不兼容。
所述接收前继人工神经元输入的人工神经元输入信息,包括采用多比特量(例如8比特量)实现的,不具有时间深度的神经元输入信号,是所述前继人工神经元输入的膜电位。
步骤S200,判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,接步骤S300a,当所述输入模式为单次输入时,跳至步骤S300b。
具体地,所述前继人工神经元输入的膜电位,有两种输入模式,一直为持续输入模式,即在预设的输入时段内,保持所述的膜电位的输入不变,另一种为单次的输入,即所述膜电位的输入,不是持续一段时间的输入,而是在某设定好的输出时刻进行单次输入。
步骤S300a,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息。
具体地,所述第一转换模式,用于将持续输入的人工神经元输入信息,根据膜电位持续输入的特征,转换为第一脉冲神经元信息,如利用高于预设发射阈值的膜电位的释放动作发送脉冲信号,并进行释放后的膜电位累积以判断是否继续释放从而发送脉冲信号。
步骤S300b,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息。
具体地,所述第二转换模式,用于将单次输入的所述人工神经元输入信息,利用单次输入的特征,转换为第二脉冲神经元信息,如利用设定的脉冲信号发送频率和人工神经元膜电位之间的对应关系,确定不同的脉冲信号的发送频率表达不同的人工神经元膜电位信息,或利用预设时段内的固定发送频率的脉冲信号的发送时长和预设时段的时长的比值,来表示人工神经元膜电位信息。
步骤S400,输出所述第一脉冲神经元信息或第二脉冲神经元信息。
在神经网络的具体实现中,如图5所示,本发明的方法通过一个计算核来实现,其中,计算核接收前继ANN(人工神经网络)输入的人工神经元输入信息,将其转换为SNN(脉冲神经网络)信息后,发送给后续的SNN网路使用。在计算核中,轴突模块输入用于接收人工神经元输入信息,树突模块用于具体地信号的累计计算,包括积分计算等,胞体模块发放用于发放转换后的脉冲神经元信息。通过神经核的计算和处理,将前继的ANN网络和后续的SNN网络进行了无缝连接。
在本实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
图2为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法中,第一转换模式下的方法的流程示意图,如图2所示的人工神经元信息转换为脉冲神经元信息的方法包括:
步骤S310a,将第一时间窗等间隔划分为多个时间步。
具体地,所述第一转换模式,为根据持续输入的人工神经元输入信息转换脉冲神经元信息,根据所述持续输入的特征,将时长为第一时长的第一时间窗,等间隔划分为时长为第二时长的时间步,在每个时间步判断是否发送脉冲尖峰信号,然后将整个时间发送的脉冲尖峰信号,确定为转换后的脉冲神经元信息即可。本实施例中给出的转换模式,转换出的脉冲尖峰信息,也是等间隔的。
步骤S320a,在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息。
具体地,根据预设的脉冲发射阈值,在第一个时间步内,所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,小于所述脉冲发射阈值时,不发射脉冲尖端信息。
当发射脉冲尖峰信息时,将所述人工神经元输入信息减去发射递减值后,获取一个神经元发射后信息的信息,所述神经元发射后信息的膜电位值小于所述人工神经元输入信息的膜电位值。
当不发射脉冲尖峰信息时,所述人工神经元输入信息,不和所述的发射递减值进行计算。
如图6所示,将一个时间窗等间隔划分为时间步后,在第一个时间步,发放时,根据膜电位值Vj与脉冲发射阈值Vth的关系,判定是否发放:
其中,Fire=1表示发射脉冲尖峰信息,Fire=0表示不发射脉冲尖峰信息,Vj为当前时间步j的膜电位信息,Vth为脉冲发射阈值。
若Fire=1,则Vx=Vj-ΔV,其中Vx为当前时间步的神经元发射后信息;
若Fire=0,则Vy=Vj,其中Vy为当前时间步的神经元未发射信息。
步骤S330a,将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息。
具体地,在所述时间窗的后续时间步中,第一个时间步获取到的神经元未发射信息和神经元未发射信息,均作为第一个时间步的神经元中间信息,参加后续时间步的计算。
将神经元发射后信息Vx和神经元未发射信息Vy为当前时间步的神经元中间信息Vi
步骤S340a,在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息。
具体地,在后续的各时间步,要分别根据人工神经元输入信息,和所述第一个时间步的神经元中间信息,判断是否发射脉冲尖峰信息。
步骤S350a,将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
具体地,当一个时间窗内的时间步都完成脉冲尖峰信息发射或不发射的动作后,将所述时间窗内发射的所有的脉冲尖峰信息,确定为所述第一时间窗的第一脉冲神经元信息。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
图3为一个实施例的人工神经元信息转换为脉冲神经元信息的方法中,在第一时间窗内的除第一个时间步的后续时间步的脉冲转换方法的的流程示意图,如图3所示的人工神经元信息转换为脉冲神经元信息的方法包括:
步骤S341a,将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息。
具体地,在第一个时间步后的后续各时间步,将接收到的前续人工神经元的人工神经元输入信息,和上一个时间步获取的神经元中间信息进行累加,后获取当前时间步的神经元累加信息。由于所述人工神经元输入信息的输入模式是持续输入的,在每个时间步获取到的膜电位信息都是持续的,相等的。
根据当前时间步接收到的前续人工神经元输入的膜电位值Vj,前一个时间步的神经元中间信息Vi累加后,判断其与脉冲发射阈值Vth的关系,判定是否发放,
步骤S342a,当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息。
具体地,将每个时间步获取到的神经元累加信息,和预设的脉冲发射阈值进行比较,当所述神经元累加信息大于所述脉冲发射阈值时,发射脉冲尖峰信号,并将所述神经元累加信息减去所述预设的发射递减值后进入下一个时间步的计算。
步骤S343a,当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
具体地,不发射脉冲尖峰信息时,将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息,并参与后续的时间步的计算即可。
如图6所示,在一个时间窗内的各时间步,通过是否发射脉冲尖峰信息,获取多个脉冲尖峰信息组成的脉冲信号。根据输入的人工神经元输入信息的不同,发射脉冲尖峰信息的间隔不同,转换的脉冲神经元信息也不同。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,在除第一个时间步外的后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
图4为另一个实施例的人工神经元信息转换为脉冲神经元信息的方法中,第二转换模式下的方法的流程示意图,如图4所示的人工神经元信息转换为脉冲神经元信息的方法包括:
步骤S310b,根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长。
具体地,当所述人工神经元输入信息的输入模式为单次输入时,输入的膜电位不是持续输入,需要将所述单次输入的非持续的膜电位信息,转换为脉冲神经元信息。
步骤S320b,在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。
具体地,在一个时间窗内,根据所述人工神经元输入信息的膜电位值,来确定发射和不发射脉冲尖峰信息的时长的比值。所述在所述第四时长内发射脉冲尖峰信息,包括连续发送,或在第四时长的开始和结束时刻,各发送一个脉冲尖峰信息即可。所述连续发送方式,包括:在所述第四时长内连续发射脉冲尖峰信息。所述连续发射脉冲尖峰信息,包括连续等间隔发送,和连续不等间隔发送。
如图9所示,通过在第四时长内连续发送脉冲尖峰信息,并根据第四时长和第二时间窗时长之间的关系的比值,确定第二脉冲神经元信息。
在本实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
图7为另一个实施例的人工神经元信息转换为脉冲神经元信息的系统的结构示意图,如图7所示的人工神经元信息转换为脉冲神经元信息的系统,包括:
人工神经元输入信息接收模块100,用于接收前继人工神经元输入的人工神经元输入信息;
输入模式判断模块200,用于判断所述人工神经元输入信息的输入模式;
第一转换模块300,用于当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息;
第二转换模块400,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息;所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。所述第四时长内发射脉冲尖峰信息,包括在所述第四时长内连续发射脉冲尖峰信息。
脉冲神经元信息输出模块500,用于输出所述第一脉冲神经元信息或第二脉冲神经元信息。
在本实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
图8为另一个实施例的人工神经元信息转换为脉冲神经元信息的系统中第一转换模块的结构示意图,如图8另一个实施例的人工神经元信息转换为脉冲神经元信息的系统包括:
时间步划分单元210,用于将第一时间窗等间隔划分为多个时间步。
第一时间步处理单元220,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元230,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
第一脉冲神经元信息确定单元240,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (8)

1.一种人工神经元信息转换为脉冲神经元信息的方法,其特征在于,所述方法包括:
接收前继人工神经元输入的人工神经元输入信息;
判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息,并输出所述第一脉冲神经元信息;
当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息,并输出所述第二脉冲神经元信息;
所述当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息,包括:
将第一时间窗等间隔划分为多个时间步;
在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;
将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
2.根据权利要求1所述的人工神经元信息转换为脉冲神经元信息的方法,其特征在于,所述根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息,包括:
将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
3.根据权利要求1所述的人工神经元信息转换为脉冲神经元信息的方法,其特征在于,所述当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息,包括:
根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。
4.根据权利要求3所述的人工神经元信息转换为脉冲神经元信息的方法,其特征在于,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
5.一种人工神经元信息转换为脉冲神经元信息的系统,其特征在于,包括:
人工神经元输入信息接收模块,用于接收前继人工神经元输入的人工神经元输入信息;
输入模式判断模块,用于判断所述人工神经元输入信息的输入模式;
第一转换模块,用于当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元信息;
脉冲神经元信息输出模块,用于输出所述第一脉冲神经元信息;
第二转换模块,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元信息;
所述脉冲神经元信息输出模块,用于输出第二脉冲神经元信息;
所述第一转换模块,包括:
时间步划分单元,用于将第一时间窗等间隔划分为多个时间步;
第一时间步处理单元,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
第一脉冲神经元信息确定单元,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元信息。
6.根据权利要求5所述的人工神经元信息转换为脉冲神经元信息的系统,其特征在于:
所述后续时间步处理单元,用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
7.根据权利要求5所述的人工神经元信息转换为脉冲神经元信息的系统,其特征在于:
所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元信息。
8.根据权利要求7所述的人工神经元信息转换为脉冲神经元信息的系统,其特征在于,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
CN201710056188.5A 2017-01-25 2017-01-25 人工神经元信息转换为脉冲神经元信息的方法和系统 Active CN106875006B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201710056188.5A CN106875006B (zh) 2017-01-25 2017-01-25 人工神经元信息转换为脉冲神经元信息的方法和系统
PCT/CN2017/114660 WO2018137411A1 (zh) 2017-01-25 2017-12-05 神经网络信息转换方法、系统及计算机设备
US16/520,792 US20190347546A1 (en) 2017-01-25 2019-07-24 Method, system and computer device for converting neural network information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710056188.5A CN106875006B (zh) 2017-01-25 2017-01-25 人工神经元信息转换为脉冲神经元信息的方法和系统

Publications (2)

Publication Number Publication Date
CN106875006A CN106875006A (zh) 2017-06-20
CN106875006B true CN106875006B (zh) 2019-07-09

Family

ID=59158259

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710056188.5A Active CN106875006B (zh) 2017-01-25 2017-01-25 人工神经元信息转换为脉冲神经元信息的方法和系统

Country Status (1)

Country Link
CN (1) CN106875006B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018137411A1 (zh) * 2017-01-25 2018-08-02 清华大学 神经网络信息转换方法、系统及计算机设备
CN107563505A (zh) * 2017-09-24 2018-01-09 胡明建 一种外控植入反馈人工神经元的设计方法
CN107633299A (zh) * 2017-09-26 2018-01-26 胡明建 一种压频式人工神经元的设计方法
CN107563506A (zh) * 2017-09-27 2018-01-09 胡明建 一种压频式择频输出人工神经元的设计方法
CN107609640A (zh) * 2017-10-01 2018-01-19 胡明建 一种阀值择端分级电位式人工神经元的设计方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101771412A (zh) * 2008-12-31 2010-07-07 南方医科大学 基于神经元工作原理的模数转换方法及装置
CN101770560A (zh) * 2008-12-31 2010-07-07 南方医科大学 模拟生物神经元信息处理机制的信息处理方法及装置
CN106845633A (zh) * 2017-01-25 2017-06-13 清华大学 神经网络信息转换方法和系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101771412A (zh) * 2008-12-31 2010-07-07 南方医科大学 基于神经元工作原理的模数转换方法及装置
CN101770560A (zh) * 2008-12-31 2010-07-07 南方医科大学 模拟生物神经元信息处理机制的信息处理方法及装置
CN106845633A (zh) * 2017-01-25 2017-06-13 清华大学 神经网络信息转换方法和系统

Also Published As

Publication number Publication date
CN106875006A (zh) 2017-06-20

Similar Documents

Publication Publication Date Title
CN106875006B (zh) 人工神经元信息转换为脉冲神经元信息的方法和系统
CN106845633A (zh) 神经网络信息转换方法和系统
CN111340181A (zh) 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法
CN106875004B (zh) 复合模式神经元信息处理方法和系统
CN106875005B (zh) 自适应阈值神经元信息处理方法和系统
CN110210563A (zh) 基于Spike cube SNN的图像脉冲数据时空信息学习及识别方法
CN106845632A (zh) 脉冲神经网络信息转换为人工神经网络信息的方法和系统
CN106875003A (zh) 自适应泄漏值神经元信息处理方法和系统
CN111833590B (zh) 交通信号灯的控制方法、装置及计算机可读存储介质
CN111611749A (zh) 基于rnn的室内人群疏散自动引导仿真方法及系统
CN106022294A (zh) 一种面向智能机器人的人机交互方法及装置
CN108992066A (zh) 基于肌电信号的便携式下肢行为模式实时识别系统及方法
CN102521655A (zh) 基于非支配邻域免疫算法的动态网络社区检测方法
CN114186665A (zh) 一种基于gpu的脉冲神经网络仿真方法
CN108632791A (zh) 蓝牙主设备及业务配置方法
CN109681165A (zh) 用于油田采油中的注水策略优化方法及装置
CN116340737A (zh) 基于多智能体强化学习的异构集群零通信目标分配方法
CN108919804A (zh) 一种智能车辆无人驾驶系统
CN109871474B (zh) 一种基于模体的网络动态信息流生成方法
CN1628322A (zh) 使用含有受脉冲作用的神经元网络对网络通信的业务量动态特性进行分类的方法
Chaturvedi et al. Image segmentation using leaky integrate-and-fire model of spiking neural network
CN110348681A (zh) 一种电力cps动态负荷分配方法
CN110008321A (zh) 信息交互方法和装置,存储介质及电子装置
Amiri et al. Detection in neuronal communications with finite channel state
CN107274080A (zh) 基于着色脉冲神经膜系统的交替平行路由工作流模式

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant