CN106845633A - 神经网络信息转换方法和系统 - Google Patents

神经网络信息转换方法和系统 Download PDF

Info

Publication number
CN106845633A
CN106845633A CN201710056211.0A CN201710056211A CN106845633A CN 106845633 A CN106845633 A CN 106845633A CN 201710056211 A CN201710056211 A CN 201710056211A CN 106845633 A CN106845633 A CN 106845633A
Authority
CN
China
Prior art keywords
information
neuron
input
spiking
artificial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710056211.0A
Other languages
English (en)
Other versions
CN106845633B (zh
Inventor
裴京
吴臻志
施路平
邓磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Ling Xi Technology Co Ltd
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN201710056211.0A priority Critical patent/CN106845633B/zh
Publication of CN106845633A publication Critical patent/CN106845633A/zh
Priority to PCT/CN2017/114660 priority patent/WO2018137411A1/zh
Priority to US16/520,792 priority patent/US20190347546A1/en
Application granted granted Critical
Publication of CN106845633B publication Critical patent/CN106845633B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明涉及一种神经网络信息转换方法和系统,所述方法包括:接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;或根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;输出所述脉冲神经元转换信息或所述人工神经元转换信息。本发明实现了在一个神经网络中,同时兼容两种不同的神经元信息的方式,提高了神经网络的信息处理能力。

Description

神经网络信息转换方法和系统
技术领域
本发明涉及神经网络技术领域,特别是涉及神经网络信息转换方法和系统。
背景技术
如今的人工神经网络研究绝大多数仍是在冯·诺依曼计算机软件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用图形处理单元)平台中实现的,整个过程的硬件开销、能耗和信息处理速度都不容乐观。为此,近几年神经形态计算领域迅猛发展,即采用硬件电路直接构建神经网络从而模拟大脑的功能,试图实现大规模并行、低能耗、可支撑复杂模式学习的计算平台。
然而,传统的神经形态系统中,神经网络的主要有两种形态,一种为脉冲神经网络,一种人工神经网络,两者对同样的输入信息有着不同的表达方式,导致人工神经网络和脉冲神经网络因处理的信息不同而不能兼容。
发明内容
基于此,有必要针对两种不同的神经网络输入的信息不兼容的问题,提供一种神经网络信息转换方法和系统,所述方法包括:
接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;
根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;
输出所述脉冲神经元转换信息;
或根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;
输出所述人工神经元转换信息。
在其中一个实施例中,所述根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息,包括:
判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息,则所述输出所述脉冲神经元转换信息,包括:输出所述第一脉冲神经元转换信息;
当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息,则所述输出所述脉冲神经元转换信息,包括:输出所述第二脉冲神经元转换信息。
在其中一个实施例中,所述当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息,包括:
将第一时间窗等间隔划分为多个时间步;
在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;
将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
在其中一个实施例中,所述根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息,包括:
将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
在其中一个实施例中,所述当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息,包括:
根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。
在其中一个实施例中,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
在其中一个实施例中,所述根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息,包括:
获取转换时间步;
在所述转换时间步持续时长内,接收所述前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;
根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;
输出所述人工神经元转换信息。
在其中一个实施例中,所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,包括:
将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;
将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。
在其中一个实施例中,所述接收前继脉冲神经元输入的脉冲神经元输入信息,还包括:
接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;
则所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:
将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;
将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。
在其中一个实施例中,所述脉冲神经元输入信息,还包括:
前继脉冲神经元与当前神经元的连接权重索引;
所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:
根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;
根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;
根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
在其中一个实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
在其中一个实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
在其中一个实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
在其中一个实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。
在其中一个实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。
在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。
在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。
在其中一个实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。
本发明还提供一种神经网络信息转换系统,包括:
神经元输入信息获取模块,用于接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;
人工转脉冲模块,用于根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;
神经元转换信息输出模块,用于输出所述脉冲神经元转换信息;
或脉冲转人工模块,用于根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;
所述神经元转换信息输出模块,用于输出所述人工神经元转换信息。
在其中一个实施例中,所述人工转脉冲模块,包括:
输入模式判断模块,用于判断所述人工神经元输入信息的输入模式;
第一转换模块,用于当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息;
则所述神经元转换信息输出模块,包括脉冲神经元信息输出模块,所述脉冲神经元信息输出模块,用于输出所述第一脉冲神经元转换信息;
第二转换模块,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息;
则所述脉冲神经元信息输出模块,还用于输出第二脉冲神经元转换信息。
在其中一个实施例中,所述第一转换模块,包括:
时间步划分单元,用于将第一时间窗等间隔划分为多个时间步;
第一时间步处理单元,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
第一脉冲神经元转换信息确定单元,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
在其中一个实施例中,所述后续时间步处理单元,用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
在其中一个实施例中,所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。
在其中一个实施例中,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
在其中一个实施例中,所述脉冲转人工模块,包括:
转换时间步获取模块,用于获取转换时间步;
脉冲神经元输入信息获取模块,用于在所述转换时间步的持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;
人工神经元转换信息获取模块,用于根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;
则所述神经元转换信息输出模块包括:人工神经元转换信息输出模块,所述人工神经元转换信息输出模块,用于输出所述人工神经元转换信息。
在其中一个实施例中,所述人工神经元转换信息获取模块,包括:
前继脉冲神经元脉冲尖峰信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;
第一人工神经元转换信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。
在其中一个实施例中,所述转换时间步获取模块,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;
则所述人工神经元转换信息获取模块,还包括:
多前继脉冲神经元脉冲尖峰信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;
第二人工神经元转换信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。
在其中一个实施例中,所述脉冲神经元输入信息,还包括:
前继脉冲神经元与当前神经元的连接权重索引;
所述人工神经元转换信息获取模块,还包括:
带权重前继脉冲神经元获取单元,用于根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;
第三人工神经元转换信息获取单元,用于根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
在其中一个实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
在其中一个实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
在其中一个实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
在其中一个实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。
在其中一个实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。
在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。
在其中一个实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。
在其中一个实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。
附图说明
图1为一个实施例的神经网络信息转换方法的流程示意图;
图2为一个实施例的神经网络信息转换方法的流程示意图;
图3为另一个实施例的神经网络信息转换方法的流程示意图;
图4为一个实施例的神经网络信息转换方法的流程示意图;
图5为另一个实施例的神经网络信息转换方法的流程示意图;
图6一个实施例的实现神经网络信息转换方法的计算核的结构示意图;
图7为另一个实施例的神经网络信息转换方法中第一脉冲神经元转换信息的示意图;
图8为另一个实施例的神经网络信息转换方法中第一脉冲神经元转换信息的示意图;
图9为一个实施例的神经网络信息转换方法的流程示意图;
图10为另一个实施例的神经网络信息转换方法的流程示意图;
图11为一个实施例的神经网络信息转换方法的流程示意图;
图12为另一个实施例的神经网络信息转换方法的流程示意图;
图13为另一个实施例的神经网络信息转换方法中计算核的结构示意图;
图14为一个实施例的神经网络信息转换系统的结构示意图;
图15为另一个实施例的神经网络信息转换系统的结构示意图;
图16为另一个实施例的神经网络信息转换系统的结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
图1为一个实施例的神经网络信息转换方法的流程示意图,如图1所示的神经网络信息转换方法包括:
步骤S1,接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息。
具体地,在本实施例所提供的神经网络信息转换方法,通过识别不同的神经网络的输入信号,可以将输入的人工神经元信息转换为脉冲神经元信息,也可以将输入的脉冲神经元信息转换为人工神经元信息。
步骤S2,根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息。
步骤S3,根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息。
具体地,通过预设的人工信息转换算法,如通过判断累计膜电位和发射阈值电位之间的大小,发射脉冲尖峰信号的方式,将人工神经元信息转换为脉冲神经元信心,通过对转换时间窗内的脉冲尖峰信号的个数进行计数的方式,将脉冲神经元信息转换为人工神经元信息。
步骤S4,输出所述脉冲神经元转换信息或所述人工神经元转换信息。
在本实施中,根据接收到的神经网络的信息,根据需求,通过预设的转换算法,将人工神经元信息转换为脉冲神经元信息,或将脉冲神经元信息转换为人工神经元信息,实现了在一个神经网络中,同时兼容两种不同的神经元信息的方式,提高了神经网络的信息处理能力。
图2为一个实施例的神经网络信息转换方法的流程示意图,如图2所示的神经网络信息转换方法包括:
步骤S100,接收前继人工神经元输入的人工神经元输入信息。
具体地,脉冲神经网络神经元之间的连接采用Spike(1比特)实现,并带有一定的时间深度。在一定的时间范围内,脉冲发放的频率和模式代表着不同的信息。人工神经网络的神经元之间的连接采用多比特量(例如8比特)实现,且没有时间深度。当一个神经网路处理的任务,即需要处理脉冲神经网络信息,也需要处理脉冲神经网络信息时,两种不同的神经网络输出的信息不兼容。
所述接收前继人工神经元输入的人工神经元输入信息,包括采用多比特量(例如8比特量)实现的,不具有时间深度的神经元输入信号,是所述前继人工神经元输入的膜电位。
步骤S200,判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,接步骤S300a,当所述输入模式为单次输入时,跳至步骤S300b。
具体地,所述前继人工神经元输入的膜电位,有两种输入模式,一直为持续输入模式,即在预设的输入时段内,保持所述的膜电位的输入不变,另一种为单次的输入,即所述膜电位的输入,不是持续一段时间的输入,而是在某设定好的输出时刻进行单次输入。
步骤S300a,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息。
具体地,所述第一转换模式,用于将持续输入的人工神经元输入信息,根据膜电位持续输入的特征,转换为第一脉冲神经元转换信息,如利用高于预设发射阈值的膜电位的释放动作发送脉冲信号,并进行释放后的膜电位累积以判断是否继续释放从而发送脉冲信号。
步骤S300b,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息。
具体地,所述第二转换模式,用于将单次输入的所述人工神经元输入信息,利用单次输入的特征,转换为第二脉冲神经元转换信息,如利用设定的脉冲信号发送频率和人工神经元膜电位之间的对应关系,确定不同的脉冲信号的发送频率表达不同的人工神经元膜电位信息,或利用预设时段内的固定发送频率的脉冲信号的发送时长和预设时段的时长的比值,来表示人工神经元膜电位信息。
步骤S400,输出所述第一脉冲神经元转换信息或第二脉冲神经元转换信息。
在神经网络的具体实现中,如图6所示,本发明的方法通过一个计算核来实现,其中,计算核接收前继ANN(人工神经网络)输入的人工神经元输入信息,将其转换为SNN(脉冲神经网络)信息后,发送给后续的SNN网路使用。在计算核中,轴突模块输入用于接收人工神经元输入信息,树突模块用于具体地信号的累计计算,包括积分计算等,胞体模块发放用于发放转换后的脉冲神经元信息。通过神经核的计算和处理,将前继的ANN网络和后续的SNN网络进行了无缝连接。
在本实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。
图3为另一个实施例的神经网络信息转换方法中,第一转换模式下的方法的流程示意图,如图3所示的神经网络信息转换方法包括:
步骤S310a,将第一时间窗等间隔划分为多个时间步。
具体地,所述第一转换模式,为根据持续输入的人工神经元输入信息转换脉冲神经元信息,根据所述持续输入的特征,将时长为第一时长的第一时间窗,等间隔划分为时长为第二时长的时间步,在每个时间步判断是否发送脉冲尖峰信号,然后将整个时间发送的脉冲尖峰信号,确定为转换后的脉冲神经元信息即可。本实施例中给出的转换模式,转换出的脉冲尖峰信息,也是等间隔的。
步骤S320a,在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息。
具体地,根据预设的脉冲发射阈值,在第一个时间步内,所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,小于所述脉冲发射阈值时,不发射脉冲尖端信息。
当发射脉冲尖峰信息时,将所述人工神经元输入信息减去发射递减值后,获取一个神经元发射后信息的信息,所述神经元发射后信息的膜电位值小于所述人工神经元输入信息的膜电位值。
当不发射脉冲尖峰信息时,所述人工神经元输入信息,不和所述的发射递减值进行计算。
如图7所示,将一个时间窗等间隔划分为时间步后,在第一个时间步,发放时,根据膜电位值Vj与脉冲发射阈值Vth的关系,判定是否发放:
其中,Fire=1表示发射脉冲尖峰信息,Fire=0表示不发射脉冲尖峰信息,Vj为当前时间步j的膜电位信息,Vth为脉冲发射阈值。
若Fire=1,则Vx=Vj-△V,其中Vx为当前时间步的神经元发射后信息;
若Fire=0,则Vy=Vj,其中Vy为当前时间步的神经元未发射信息。
步骤S330a,将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息。
具体地,在所述时间窗的后续时间步中,第一个时间步获取到的神经元未发射信息和神经元未发射信息,均作为第一个时间步的神经元中间信息,参加后续时间步的计算。
将神经元发射后信息Vx和神经元未发射信息Vy为当前时间步的神经元中间信息Vi
步骤S340a,在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息。
具体地,在后续的各时间步,要分别根据人工神经元输入信息,和所述第一个时间步的神经元中间信息,判断是否发射脉冲尖峰信息。
步骤S350a,将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
具体地,当一个时间窗内的时间步都完成脉冲尖峰信息发射或不发射的动作后,将所述时间窗内发射的所有的脉冲尖峰信息,确定为所述第一时间窗的第一脉冲神经元转换信息。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
图4为一个实施例的神经网络信息转换方法中,在第一时间窗内的除第一个时间步的后续时间步的脉冲转换方法的的流程示意图,如图4所示的神经网络信息转换方法包括:
步骤S341a,将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息。
具体地,在第一个时间步后的后续各时间步,将接收到的前续人工神经元的人工神经元输入信息,和上一个时间步获取的神经元中间信息进行累加,后获取当前时间步的神经元累加信息。由于所述人工神经元输入信息的输入模式是持续输入的,在每个时间步获取到的膜电位信息都是持续的、相等的。
根据当前时间步接收到的前续人工神经元输入的膜电位值Vj,前一个时间步的神经元中间信息Vi累加后,判断其与脉冲发射阈值Vth的关系,判定是否发放,
步骤S342a,当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息。
具体地,将每个时间步获取到的神经元累加信息,和预设的脉冲发射阈值进行比较,当所述神经元累加信息大于所述脉冲发射阈值时,发射脉冲尖峰信号,并将所述神经元累加信息减去所述预设的发射递减值后进入下一个时间步的计算。
步骤S343a,当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
具体地,不发射脉冲尖峰信息时,将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息,并参与后续的时间步的计算即可。
如图7所示,在一个时间窗内的各时间步,通过是否发射脉冲尖峰信息,获取多个脉冲尖峰信息组成的脉冲信号。根据输入的人工神经元输入信息的不同,发射脉冲尖峰信息的间隔不同,转换的脉冲神经元信息也不同。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,在除第一个时间步外的后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
图5为另一个实施例的神经网络信息转换方法中,第二转换模式下的方法的流程示意图,如图5所示的神经网络信息转换方法包括:
步骤S310b,根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长。
具体地,当所述人工神经元输入信息的输入模式为单次输入时,输入的膜电位不是持续输入,需要将所述单次输入的非持续的膜电位信息,转换为脉冲神经元信息。
步骤S320b,在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。
具体地,在一个时间窗内,根据所述人工神经元输入信息的膜电位值,来确定发射和不发射脉冲尖峰信息的时长的比值。所述在所述第四时长内发射脉冲尖峰信息,包括连续发送,或在第四时长的开始和结束时刻,各发送一个脉冲尖峰信息即可。所述连续发送方式,包括:在所述第四时长内连续发射脉冲尖峰信息。所述连续发射脉冲尖峰信息,包括连续等间隔发送,和连续不等间隔发送。
如图8所示,通过在第四时长内连续发送脉冲尖峰信息,并根据第四时长和第二时间窗时长之间的关系的比值,确定第二脉冲神经元转换信息。
在本实施例中,根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
图9为一个实施例的神经网络信息转换方法的流程示意图,如图9所示的神经网络信息转换方法,包括:
步骤S10,获取转换时间步。
具体地,脉冲神经网络神经元之间的连接采用Spike(1比特)实现,并带有一定的时间深度。在一定的时间范围内,脉冲发放的频率和模式代表着不同的信息。人工神经网络的神经元之间的连接采用多比特量(例如8比特)实现,且没有时间深度。当一个神经网路处理的任务,即需要处理脉冲神经网络信息,也需要处理脉冲神经网络信息时,两种不同的神经网络输出的信息不兼容。
所述转换时间步,是一个预设的时间段,由于所接收到的脉冲神经元输入信息,是具有时间深度的脉冲尖峰信号组成的信息,不同的时间段内的不同发射数量相同发射间隔的尖峰信息,或相同发射数量不同发射间隔的脉冲尖峰信息,也代表不同的含义。因此,需要设定一个预设的时间段,用于将预设时间段内的脉冲尖峰信息进行分析,转换为人工神经元转换信息。
步骤S20,在所述转换时间步持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息。
具体地,所述接收前继脉冲神经元输入的脉冲神经元输入信息,在实际的神经网络中,包括多个所述前继脉冲神经元输入的多个脉冲神经元输入信息。
步骤S30,根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息。
具体地,所述将一个时间步的持续时长内接收到所述脉冲尖峰信息进行转换,包括将脉冲尖峰信号的数量进行累加,或将脉冲尖峰信号的膜电位进行累积,将累加后的脉冲尖峰信号的总数量,或累积后的脉冲尖峰信号的总的膜电位,按照预设的脉冲转换算法进行转换,获取到人工神经元转换信息。
步骤S40,输出所述人工神经元转换信息。
在神经网络的具体实现中,如图13所示,本发明的方法通过一个计算核来实现,其中,计算核接收前继SNN(脉冲神经网络)输入的人工神经元输入信息,将其转换为ANN(人工神经网络)信息后,发送给后续的ANN网路使用。在计算核中,轴突输入用于接收人工神经元输入信息,树突用于具体地信号的累计计算,包括积分计算等,胞体发放用于发放转换后的脉冲神经元信息。通过神经核的计算和处理,将前继的SNN网络和后续的ANN网络进行了无缝连接。
在本实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。
图10为另一个实施例的神经网络信息转换方法的流程示意图,如图10所示的神经网络信息转换方法,包括:
步骤S31a,将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量。
具体地,将接收到的脉冲尖峰信号的个数进行累加,获取所述时间步持续时长内接收到的脉冲尖峰信号的总数量。
步骤S32a,将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。
具体地,将所述总数量,直接用数字的形式表现出来即可,根据实际需求的不同,也可经过一定的数学算法的转换,转换为一定取值范围内的数字,或取不同精度的数字均可。
在本实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。
图11为一个实施例的神经网络信息转换方法的流程示意图,如图11所示的神经网络信息转换方法,包括:
步骤S10b,获取转换时间步。
具体地,同步骤S100。
步骤S20b,接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。
步骤S30b,将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。
具体地,当所述前继脉冲神经元信息包括至少两个时,将所述至少两个前继神经元输入的脉冲尖峰信号的数量进行累加后,获取到所接收到的脉冲尖峰信号的总数量,在将所述的总数量进行转换。
也可将所述至少两个前继脉冲神经元输入的脉冲尖峰信号的膜电位全部进行累积后,获取一个总的膜电位值,再进行转换均可。
步骤S40b,输出所述第二人工神经元转换信息。
在本实施例中,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。
图12为另一个实施例的神经网络信息转换方法的流程示意图,如图12所示的神经网络信息转换方法,包括:
步骤S10c,获取转换时间步。
具体地,同步骤S100。
步骤S20c,接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息,所述脉冲神经元输入信息,还包括前继脉冲神经元与当前神经元的连接权重索引。
具体地,所述前继脉冲神经元与当前神经元的连接权重索引,是前继脉冲神经元信息在当前神经元的计算中所占的权重信息的索引值。采用权重索引的方式,可以在信息的传递过程中,占用更小的信息传递空间,不但降低了硬件的处理需求,并且只需要改变索引信息,就能够更加灵活的方便的对权重信息的变化进行更新,使得神经网络中权重信息的更新更加方便。
步骤S30c,根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
具体地,所述连接权重索引信息,可以存储在当前神经元本地,也可以存储在神经网络中的其它位置,只要当前神经元能够读取到即可。在接收到多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息后,需要将单个前继脉冲神经元的连接权重信息读取后,与各自接收到的脉冲尖峰信息进行运算后,获取单个前继脉冲神经元输入的脉冲神经元输入信息即可。即,所述的连接权重信息,需要单个前继脉冲神经元在进行脉冲神经元信息和人工神经元信息的转换前,将其与脉冲尖峰信息进行计算。
步骤S40c,输出所述第三人工神经元转换信息。
在本实施例中,所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。
图14为一个实施例的神经网络信息转换系统的结构示意图,如图14所示的神经网络信息转换系统包括:
神经元输入信息获取模块1,用于接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;
人工转脉冲模块2,用于根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;
神经元转换信息输出模块4,用于输出所述脉冲神经元转换信息;
或脉冲转人工模块3,用于根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;
所述神经元转换信息输出模块4,用于输出所述人工神经元转换信息。
在本实施中,根据接收到的神经网络的信息,根据需求,通过预设的转换算法,将人工神经元信息转换为脉冲神经元信息,或将脉冲神经元信息转换为人工神经元信息,实现了在一个神经网络中,同时兼容两种不同的神经元信息的方式,提高了神经网络的信息处理能力。
图15为另一个实施例的神经网络信息转换系统的结构示意图,如图15所示的神经网络信息转换系统包括:
人工神经元输入信息接收模块100,用于接收前继人工神经元输入的人工神经元输入信息;
输入模式判断模块200,用于判断所述人工神经元输入信息的输入模式;
第一转换模块300,用于当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息;
第二转换模块400,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息;所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。所述第四时长内发射脉冲尖峰信息,包括在所述第四时长内连续发射脉冲尖峰信息。
脉冲神经元信息输出模块500,用于输出所述第一脉冲神经元转换信息或第二脉冲神经元转换信息。
在本实施例中,通过判断接收到的前继人工神经元输入的人工神经元输入信息的输入模式,将输入模式为持续输入或单次输入的人工神经元输入信息,别分采用不同的转换模式,转换为脉冲神经元信息。本实施例不但能够将人工神经元输入信息转换为脉冲神经元信息,而且能够兼容不同的人工神经元输入信息的输入模式,提高了神经网络对于人工神经元输入信息和脉冲神经元输入信息的兼容性。根据所述人工神经元输入信息,确定一个时间窗内的发射脉冲尖峰信息的时长,并根据发射的所述脉冲尖峰信息,确定转换后的额脉冲神经元信息,本实施例,用一定时间窗内的脉冲尖峰信息的个数,或所述发射脉冲尖峰信息的时长和时间窗内未发射脉冲尖峰信息的时长的比值,确定转换后的脉冲神经元信息,实现方式简单。
在其中一个实施例中,所述第一转换模块包括:
时间步划分单元,用于将第一时间窗等间隔划分为多个时间步。
第一时间步处理单元,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
第一脉冲神经元转换信息确定单元,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
在本实施例中,当所述人工神经元输入信息的输入模式为持续输入时,通过将时间窗等间隔划分为时间步,在第一个时间步,根据所述人工神经元输入信息和脉冲发射阈值进行比较,确定是否发射脉冲尖峰信息,并获取第一个时间步的神经元中间信息,在后续的各时间步,则根据所述人工神经元输入信息、脉冲发射阈值和发射递减值,确定是否发射脉冲尖峰信息,最后将所述时间窗内发射的所有脉冲尖峰信息,确认为转换后的脉冲神经元信息。通过在时间窗内,利用脉冲发射阈值和发射递减值,控制是否根据所述人工神经元输入信息发射脉冲尖峰信号的方式,可以将所述人工神经元输入信息,根据不同的需求,通过调整脉冲发射阈值和发射递减值的方式,给出不同的脉冲神经元信息转换结果,实施方式简单。
图16为另一个实施例的神经网络信息转换系统的结构示意图,如图16所示的神经网络信息转换系统包括:
转换时间步获取模块10,用于获取转换时间步,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。
脉冲神经元输入信息获取模块20,用于在所述转换时间步的持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息。
人工神经元转换信息获取模块30,用于根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;包括前继脉冲神经元脉冲尖峰信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;所述脉冲神经元输入信息,还包括前继脉冲神经元与当前神经元的连接权重索引。第一人工神经元转换信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。还包括:多前继脉冲神经元脉冲尖峰信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量。第二人工神经元转换信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。带权重前继脉冲神经元获取单元,用于根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息。第三人工神经元转换信息获取单元,用于根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
人工神经元转换信息输出模块40,用于输出所述人工神经元转换信息。
在本实施例中,通过获取转换时间步的设置,将前继脉冲神经元输入的脉冲尖峰信息,按照不同的时间步持续时长内接收到的脉冲尖峰信息,和预设的脉冲转换算法,将脉冲神经元输入信息,转换为人工神经元信息的表达方式。本实施例所提供的脉冲神经元信息转人工神经元信息的方法,将脉冲神经元信息,按照时间步的方式转换的方式,转换为人工神经元信息,提高了神经网络对于脉冲神经元信息和人工神经元信息的兼容能力。
在本实施例中,通过对转换时间步内的脉冲尖峰信息的数量进行累计的方式,将前继脉冲神经元信息转换为人工神经元转换信息,实施方式简单可靠,且转换效率高。对于多个前继脉冲神经元输入的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲信息转换为人工神经元信息,获取到多个前继脉冲神经元输入的人工神经元转换信息,以便当前的神经元再进行后续的计算,其分别转换的方式,适合前继脉冲神经元数量不多的情况,转换后的单个前继脉冲神经元的人工神经元转换信息,在当前神经元的计算使用中不会产生任何影响。进一步,对于多个前继脉冲神经元输入的脉冲神经元输入信息,将所有前继脉冲神经元输入的脉冲信息进行累加后,将累加的和转换为人工神经元信息,获取到所有前继脉冲神经元输入的一个人工神经元转换信息,其累加后统一转换的方式,适合前继脉冲神经元数量较多的情况,可以提高脉冲神经元信息转换为人工神经元信息的转换效率。所接收到的前继脉冲神经元信息,分别携带连接权重索引,对于多个前继脉冲神经元输入的携带连接权重索引的脉冲神经元输入信息,将单个前继脉冲神经元输入的脉冲尖峰信息,分别与其连接权重信息进行计算后,再进行单个前继脉冲神经元的人工神经元转换信息,保证信息转换过程不会影响最终的计算。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

Claims (20)

1.一种神经网络信息转换方法,其特征在于,所述方法包括:
接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;
根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;
输出所述脉冲神经元转换信息;
或根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;
输出所述人工神经元转换信息。
2.根据权利要求1所述的神经网络信息转换方法,其特征在于,所述根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息,包括:
判断所述人工神经元输入信息的输入模式,当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息,则所述输出所述脉冲神经元转换信息,包括:输出所述第一脉冲神经元转换信息;
当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息,则所述输出所述脉冲神经元转换信息,包括:输出所述第二脉冲神经元转换信息。
3.根据权利要求2所述的神经网络信息转换方法,其特征在于,所述当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息,包括:
将第一时间窗等间隔划分为多个时间步;
在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;
将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
4.根据权利要求3所述的神经网络信息转换方法,其特征在于,所述根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息,包括:
将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
5.根据权利要求2所述的神经网络信息转换方法,其特征在于,所述当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息,包括:
根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。
6.根据权利要求5所述的神经网络信息转换方法,其特征在于,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
7.根据权利要求1所述的神经网络信息转换方法,其特征在于,所述根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息,包括:
获取转换时间步;
在所述转换时间步持续时长内,接收所述前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;
根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;
输出所述人工神经元转换信息。
8.根据权利要求7所述的神经网络信息转换方法,其特征在于,所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,包括:
将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;
将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。
9.根据权利要求7所述的神经网络信息转换方法,其特征在于,所述接收前继脉冲神经元输入的脉冲神经元输入信息,还包括:
接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;
则所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:
将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;
将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。
10.根据权利要求7所述的神经网络信息转换方法,其特征在于,所述脉冲神经元输入信息,还包括:
前继脉冲神经元与当前神经元的连接权重索引;
所述根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息,还包括:
根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;
根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;
根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
11.一种神经网络信息转换系统,其特征在于,包括:
神经元输入信息获取模块,用于接收前继神经元输入的神经元输入信息,包括接收前继人工神经元输入的人工神经元输入信息,或接收前继脉冲神经元输入的脉冲神经元输入信息;
人工转脉冲模块,用于根据所述前继人工神经元输入的所述人工神经元输入信息,通过预设的人工信息转换算法,将所述人工神经元输入信息转换为脉冲神经元转换信息;
神经元转换信息输出模块,用于输出所述脉冲神经元转换信息;
或脉冲转人工模块,用于根据所述脉冲神经元输入信息,通过预设的脉冲信息转换算法,将所述脉冲神经元输入信息转换为人工神经元转换信息;
所述神经元转换信息输出模块,用于输出所述人工神经元转换信息。
12.根据权利要求11所述的神经网络信息转换系统,其特征在于,所述人工转脉冲模块,包括:
输入模式判断模块,用于判断所述人工神经元输入信息的输入模式;
第一转换模块,用于当所述输入模式为持续输入时,利用第一转换模式将所述人工神经元输入信息转换为第一脉冲神经元转换信息;
则所述神经元转换信息输出模块,包括脉冲神经元信息输出模块,所述脉冲神经元信息输出模块,用于输出所述第一脉冲神经元转换信息;
第二转换模块,用于当所述输入模式为单次输入时,利用第二转换模式将所述人工神经元输入信息转换为第二脉冲神经元转换信息;
则所述脉冲神经元信息输出模块,还用于输出第二脉冲神经元转换信息。
13.根据权利要求12所述的神经网络信息转换系统,其特征在于,所述第一转换模块,包括:
时间步划分单元,用于将第一时间窗等间隔划分为多个时间步;
第一时间步处理单元,用于在所述第一时间窗内的第一个时间步,当所述人工神经元输入信息大于等于脉冲发射阈值时,发射脉冲尖峰信息,并根据所述人工神经元输入信息和发射递减值,获取神经元发射后信息;当所述人工神经元输入信息小于所述脉冲发射阈值时,不发射脉冲尖峰信息,并将所述人工神经元输入信息确定为神经元未发射信息;将所述神经元发射后信息或所述神经元未发射信息,确认为所述第一个时间步的神经元中间信息;
后续时间步处理单元,用于在所述第一时间窗内的后续各时间步,分别根据所述人工神经元输入信息、前一个时间步的所述神经元中间信息、所述脉冲发射阈值和所述发射递减值,判断是否发射脉冲尖峰信息;
第一脉冲神经元转换信息确定单元,用于将所述第一时间窗内发射的所有脉冲尖峰信息,确定为第一脉冲神经元转换信息。
14.根据权利要求13所述的神经网络信息转换系统,其特征在于:
所述后续时间步处理单元,用于将所述人工神经元输入信息和所述前一个时间步的所述神经元中间信息进行累加,获取当前时间步的神经元累加信息;
当所述当前时间步的神经元累加信息大于等于所述预设的脉冲发射阈值时,发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息减去所述预设的发射递减值,获取当前时间步的神经元发射后信息;
当所述当前时间步的神经元累加信息小于所述预设的脉冲发射阈值时,不发射脉冲尖峰信息,并将所述当前时间步的神经元累加信息确定为当前时间步的神经元未发射信息。
15.根据权利要求12所述的神经网络信息转换系统,其特征在于:
所述第二转换模块,用于根据所述人工神经元输入信息和第二时间窗,确定所述第二时间窗内的第四时长;
在所述第四时长内发射脉冲尖峰信息,并将所述第二时间窗内所有的所述脉冲尖峰信息确认为第二脉冲神经元转换信息。
16.根据权利要求15所述的神经网络信息转换系统,其特征在于,所述在所述第四时长内发射脉冲尖峰信息,包括:
在所述第四时长内连续发射脉冲尖峰信息。
17.根据权利要求11所述的神经网络信息转换系统,其特征在于,所述脉冲转人工模块,包括:
转换时间步获取模块,用于获取转换时间步;
脉冲神经元输入信息获取模块,用于在所述转换时间步的持续时长内,接收前继脉冲神经元输入的脉冲神经元输入信息,所述脉冲神经元输入信息包括脉冲尖峰信息;
人工神经元转换信息获取模块,用于根据所述前继脉冲神经元输入的所述脉冲尖峰信息,通过预设的脉冲转换算法,获取人工神经元转换信息;
则所述神经元转换信息输出模块包括:人工神经元转换信息输出模块,所述人工神经元转换信息输出模块,用于输出所述人工神经元转换信息。
18.根据权利要求17所述的神经网络信息转换系统,其特征在于,所述人工神经元转换信息获取模块,包括:
前继脉冲神经元脉冲尖峰信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量;
第一人工神经元转换信息获取单元,用于将所述前继脉冲神经元输入的脉冲尖峰信息的第一总数量,确定为所述时间步的,所述前继脉冲神经元输入的第一人工神经元转换信息。
19.根据权利要求17所述的神经网络信息转换系统,其特征在于:
所述转换时间步获取模块,还用于接收至少两个所述前继脉冲神经元分别输入的脉冲神经元输入信息;
则所述人工神经元转换信息获取模块,还包括:
多前继脉冲神经元脉冲尖峰信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的数量进行累计,获取所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量;
第二人工神经元转换信息获取单元,用于将所有所述前继脉冲神经元输入的脉冲尖峰信息的第二总数量,确定为所述时间步的,所有所述前继脉冲神经元输入的第二人工神经元转换信息。
20.根据权利要求17所述的神经网络信息转换系统,其特征在于,所述脉冲神经元输入信息,还包括:
前继脉冲神经元与当前神经元的连接权重索引;
所述人工神经元转换信息获取模块,还包括:
带权重前继脉冲神经元获取单元,用于根据所述前继脉冲神经元与当前神经元的连接权重索引,读取前继脉冲神经元与当前神经元的连接权重信息;根据所述前继脉冲神经元与当前神经元的连接权重信息,和所述前继脉冲神经元输入的所述脉冲尖峰信息,获取所述前继脉冲神经元的带权重脉冲尖峰信息;
第三人工神经元转换信息获取单元,用于根据所述前继脉冲神经元的带权重脉冲尖峰信息,通过预设的脉冲转换算法,获取第三人工神经元转换信息。
CN201710056211.0A 2017-01-25 2017-01-25 神经网络信息转换方法和系统 Active CN106845633B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201710056211.0A CN106845633B (zh) 2017-01-25 2017-01-25 神经网络信息转换方法和系统
PCT/CN2017/114660 WO2018137411A1 (zh) 2017-01-25 2017-12-05 神经网络信息转换方法、系统及计算机设备
US16/520,792 US20190347546A1 (en) 2017-01-25 2019-07-24 Method, system and computer device for converting neural network information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710056211.0A CN106845633B (zh) 2017-01-25 2017-01-25 神经网络信息转换方法和系统

Publications (2)

Publication Number Publication Date
CN106845633A true CN106845633A (zh) 2017-06-13
CN106845633B CN106845633B (zh) 2021-07-09

Family

ID=59121274

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710056211.0A Active CN106845633B (zh) 2017-01-25 2017-01-25 神经网络信息转换方法和系统

Country Status (1)

Country Link
CN (1) CN106845633B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106875006A (zh) * 2017-01-25 2017-06-20 清华大学 人工神经元信息转换为脉冲神经元信息的方法和系统
CN107590536A (zh) * 2017-10-02 2018-01-16 胡明建 一种分级电位式择端反馈人工神经元的设计方法
CN107609643A (zh) * 2017-09-18 2018-01-19 胡明建 一种双控植入择端输出人工神经元的设计方法
WO2018137411A1 (zh) * 2017-01-25 2018-08-02 清华大学 神经网络信息转换方法、系统及计算机设备
CN108764464A (zh) * 2018-04-12 2018-11-06 清华大学 神经元信息发送方法、装置和存储介质
CN110059800A (zh) * 2019-01-26 2019-07-26 中国科学院计算技术研究所 脉冲神经网络转换方法及相关转换芯片
CN110059812A (zh) * 2019-01-26 2019-07-26 中国科学院计算技术研究所 脉冲神经网络运算芯片及相关运算方法
CN111860778A (zh) * 2020-07-08 2020-10-30 北京灵汐科技有限公司 一种全加卷积方法和装置
CN111932440A (zh) * 2020-07-09 2020-11-13 中国科学院微电子研究所 一种图像处理方法及装置
CN114139695A (zh) * 2022-01-06 2022-03-04 国网浙江省电力有限公司电力科学研究院 脉冲神经网络加速方法及脉冲神经网络的事件驱动加速器

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101770560A (zh) * 2008-12-31 2010-07-07 南方医科大学 模拟生物神经元信息处理机制的信息处理方法及装置
CN105095966A (zh) * 2015-07-16 2015-11-25 清华大学 人工神经网络和脉冲神经网络的混合计算系统
CN105095965A (zh) * 2015-07-16 2015-11-25 清华大学 人工神经网络和脉冲神经网络神经的混合通信方法
CN105095967A (zh) * 2015-07-16 2015-11-25 清华大学 一种多模态神经形态网络核

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101770560A (zh) * 2008-12-31 2010-07-07 南方医科大学 模拟生物神经元信息处理机制的信息处理方法及装置
CN105095966A (zh) * 2015-07-16 2015-11-25 清华大学 人工神经网络和脉冲神经网络的混合计算系统
CN105095965A (zh) * 2015-07-16 2015-11-25 清华大学 人工神经网络和脉冲神经网络神经的混合通信方法
CN105095967A (zh) * 2015-07-16 2015-11-25 清华大学 一种多模态神经形态网络核

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018137411A1 (zh) * 2017-01-25 2018-08-02 清华大学 神经网络信息转换方法、系统及计算机设备
CN106875006B (zh) * 2017-01-25 2019-07-09 清华大学 人工神经元信息转换为脉冲神经元信息的方法和系统
CN106875006A (zh) * 2017-01-25 2017-06-20 清华大学 人工神经元信息转换为脉冲神经元信息的方法和系统
CN107609643A (zh) * 2017-09-18 2018-01-19 胡明建 一种双控植入择端输出人工神经元的设计方法
CN107590536A (zh) * 2017-10-02 2018-01-16 胡明建 一种分级电位式择端反馈人工神经元的设计方法
CN108764464B (zh) * 2018-04-12 2020-10-16 清华大学 神经元信息发送方法、装置和存储介质
CN108764464A (zh) * 2018-04-12 2018-11-06 清华大学 神经元信息发送方法、装置和存储介质
CN110059800A (zh) * 2019-01-26 2019-07-26 中国科学院计算技术研究所 脉冲神经网络转换方法及相关转换芯片
CN110059812A (zh) * 2019-01-26 2019-07-26 中国科学院计算技术研究所 脉冲神经网络运算芯片及相关运算方法
CN110059800B (zh) * 2019-01-26 2021-09-14 中国科学院计算技术研究所 脉冲神经网络转换方法及相关转换芯片
CN110059812B (zh) * 2019-01-26 2021-09-14 中国科学院计算技术研究所 脉冲神经网络运算芯片及相关运算方法
CN111860778A (zh) * 2020-07-08 2020-10-30 北京灵汐科技有限公司 一种全加卷积方法和装置
CN111932440A (zh) * 2020-07-09 2020-11-13 中国科学院微电子研究所 一种图像处理方法及装置
CN114139695A (zh) * 2022-01-06 2022-03-04 国网浙江省电力有限公司电力科学研究院 脉冲神经网络加速方法及脉冲神经网络的事件驱动加速器

Also Published As

Publication number Publication date
CN106845633B (zh) 2021-07-09

Similar Documents

Publication Publication Date Title
CN106845633A (zh) 神经网络信息转换方法和系统
CN106875006A (zh) 人工神经元信息转换为脉冲神经元信息的方法和系统
CN106845632A (zh) 脉冲神经网络信息转换为人工神经网络信息的方法和系统
CN110210563A (zh) 基于Spike cube SNN的图像脉冲数据时空信息学习及识别方法
CN106875005B (zh) 自适应阈值神经元信息处理方法和系统
CN106875004B (zh) 复合模式神经元信息处理方法和系统
Skinner et al. Mechanisms for oscillation and frequency control in reciprocally inhibitory model neural networks
JP2615422B2 (ja) 時系列学習神経回路素子およびそれを用いた時系列学習神経回路
CN106875003A (zh) 自适应泄漏值神经元信息处理方法和系统
CN103279958B (zh) 一种基于Spiking神经网络的图像分割方法
CN107045785B (zh) 一种基于灰色elm神经网络的短时交通流量预测的方法
CN107092959A (zh) 基于stdp非监督学习算法的硬件友好型脉冲神经网络模型
GB2384558A (en) Neural net prediction of seismic streamer shape
CN106022471A (zh) 基于粒子群优化算法的小波神经网络模型船舶横摇实时预测方法
CN110444022A (zh) 交通流数据分析模型的构建方法和装置
KR20160125967A (ko) 일반적인 뉴런 모델들의 효율적인 구현을 위한 방법 및 장치
Vogelstein et al. Spike timing-dependent plasticity in the address domain
CN107644266A (zh) 一种车辆出入库动态调整管理方法
CN110378476A (zh) 脉冲卷积神经网络的最大池化层的近似实现方法、系统及介质
CN109800517A (zh) 一种改进的磁流变阻尼器逆向建模方法
KR102574887B1 (ko) 스파이크 뉴럴 네트워크를 사용하는 생성적 적대 신경망을 구현하기 위한 전자 회로
CN110163660A (zh) 一种共享单车投放规模测算方法及系统
CN109547102A (zh) 一种光性能监测方法、装置、电子设备及可读存储介质
CN118069607A (zh) 异步联邦学习辅助下的区块链数据共享方法
CN106875010A (zh) 神经元权重信息处理方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20180213

Address after: 100036 Beijing city Haidian District West Sanhuan Road No. 10 wanghailou B block two layer 200-30

Applicant after: Beijing Ling Xi Technology Co. Ltd.

Address before: 100084 Haidian District Tsinghua Yuan Beijing No. 1

Applicant before: Tsinghua University

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant