CN104992224B - 一种脉冲耦合神经网络扩展系统和方法 - Google Patents
一种脉冲耦合神经网络扩展系统和方法 Download PDFInfo
- Publication number
- CN104992224B CN104992224B CN201510313828.7A CN201510313828A CN104992224B CN 104992224 B CN104992224 B CN 104992224B CN 201510313828 A CN201510313828 A CN 201510313828A CN 104992224 B CN104992224 B CN 104992224B
- Authority
- CN
- China
- Prior art keywords
- pulse
- internal activity
- threshold value
- channel signal
- neuron
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 17
- 238000000034 method Methods 0.000 title claims abstract description 14
- 210000002569 neuron Anatomy 0.000 claims abstract description 91
- 230000000694 effects Effects 0.000 claims abstract description 88
- 230000008878 coupling Effects 0.000 claims abstract description 28
- 238000010168 coupling process Methods 0.000 claims abstract description 28
- 238000005859 coupling reaction Methods 0.000 claims abstract description 28
- 230000009191 jumping Effects 0.000 claims 1
- 230000000052 comparative effect Effects 0.000 abstract 1
- 230000001537 neural effect Effects 0.000 abstract 1
- 230000000875 corresponding effect Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 210000002856 peripheral neuron Anatomy 0.000 description 3
- 230000003313 weakening effect Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 241000282693 Cercopithecidae Species 0.000 description 1
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 1
- 241000282326 Felis catus Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 210000003710 cerebral cortex Anatomy 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明一种脉冲耦合神经网络扩展系统和方法，包括：接收模块接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t‑1)；并根据外部输入信号Ii和脉冲信号Yj(t‑1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。调制模块将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。脉冲发生模块实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)。通过本发明的方案，能够表示神经元之间的负相关性。
Description
技术领域
本发明涉及神经网络领域，尤其涉及一种脉冲耦合神经网络扩展系统和方法。
背景技术
脉冲耦合神经网络PCNN是一种不同于传统神经网络的模型，基于猫、猴等动物的大脑皮层上的同步脉冲发放现象提出，不需要学习或训练，能直接从复杂背景下提取有效信息，具有同步脉冲发放和全局耦合等特性。由于其生物学背景，脉冲耦合神经网络在很多领域都有着广泛的应用，如图像处理、模式识别、通讯同步、决策优化等。但是，现有的PCNN模型在计算当前神经元与邻域神经元间的耦合关系时，仅考虑了邻域神经元信号对当前神经元的增强作用，而未考虑邻域神经元信号对当前神经元的削弱作用。因此，如何对现有PCNN模型进行扩展，使其也可以表示神经元之间的负相关性是需要解决的技术问题。
发明内容
为了解决上述问题，本发明提出了一种脉冲耦合神经网络扩展系统和方法，能够表示神经元之间的负相关性。
为了达到上述目的，本发明提出了一种脉冲耦合神经网络扩展系统，该系统包括：接收模块、调制模块和脉冲发生模块。
接收模块，用于接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。
调制模块，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。
脉冲发生模块，用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)。
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
优选地，脉冲发生模块用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)是指：
首次产生内部活动项Ui(1)时，脉冲发生模块将首次产生的内部活动项Ui(1)与预设的阈值Ei(t)的初始值Ei(1)相比较，当阈值Ei(t)的初始值Ei(1)大于内部活动项Ui(t)时，脉冲发生模块不产生脉冲；并且当脉冲发生模块不产生脉冲时，减小预设的阈值Ei(t)；其中，阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的内部活动项Ui(t)。
后续每次产生内部活动项Ui(t)时，脉冲发生模块将所产生的内部活动项Ui(t)与阈值Ei(t)相比较，当阈值Ei(t)大于内部活动项Ui(t)时，脉冲发生模块不产生脉冲；并且减小阈值Ei(t)；当阈值Ei(t)小于内部活动项Ui(t)时，脉冲发生模块产生脉冲，并且阈值Ei(t+1)跳变到阈值Ei(t)的初始值Ei(1)。
优选地，接收模块根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：接收模块通过下式计算反馈通道信号Fi(t)和连接通道信号Li(t)：
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
优选地，调制模块用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)是指：调制模块通过下式产生内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示当前神经元与邻域神经元的正相关关系。
Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示当前神经元与邻域神经元的负相关关系。
βi＝0，表示当前神经元与邻域神经元不相关。
本发明还提出一种脉冲耦合神经网络扩展方法，该方法包括：
接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。
将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。
实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节阈值Ei(t+1)。
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
优选地，实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节阈值Ei(+1t)包括：
首次产生内部活动项Ui(1)时，将首次产生的内部活动项Ui(t)与预设的阈值Ei(t)的初始值Ei(1)相比较，当阈值Ei(t)的初始值Ei(1)大于内部活动项Ui(t)时，不产生脉冲；并且当不产生脉冲时，减小预设的阈值Ei(t)；其中，阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的内部活动项Ui(t)。
后续每次产生内部活动项Ui(t)时，将所产生的内部活动项Ui(t)与阈值Ei(t)相比较，当阈值Ei(t)大于内部活动项Ui(t)时，不产生脉冲；并且减小阈值Ei(t)；当阈值Ei(t)小于内部活动项Ui(t)时，产生脉冲，并且阈值Ei(t+1)跳变到阈值Ei(t)的初始值Ei(1)。
优选地，根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：通过下式计算反馈通道信号Fi(t)和连接通道信号Li(t)：
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
优选地，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)是指：通过下式产生内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的正相关关系；
Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的负相关关系；
βi＝0，表示所述当前神经元与所述邻域神经元不相关。
与现有技术相比，本发明包括：接收模块，用于接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。调制模块，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。脉冲发生模块，用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)。其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。通过本发明的方案，能够表示神经元之间的负相关性。
附图说明
下面对本发明实施例中的附图进行说明，实施例中的附图是用于对本发明的进一步理解，与说明书一起用于解释本发明，并不构成对本发明保护范围的限制。
图1为本发明的脉冲耦合神经网络扩展系统组成框图；
图2为常规的PCNN的正相关表示模型；
图3为常规的PCNN的负相关扩展表示模型；
图4为本发明提出的扩展PCNN模型；
图5为本发明提出的扩展PCNN模型的一种简化模型；
图6为本发明的脉冲耦合神经网络扩展方法流程图。
具体实施方式
为了便于本领域技术人员的理解，下面结合附图对本发明作进一步的描述，并不能用来限制本发明的保护范围。
为了达到上述目的，本发明提出了一种脉冲耦合神经网络扩展系统01，如图1所示，该系统包括：接收模块02、调制模块03和脉冲发生模块04。
接收模块02，用于接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块03。
优选地，接收模块02根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：接收模块通过下式计算反馈通道信号Fi(t)和连接通道信号Li(t)：
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
这里需要说明的是，接收模块中F通道的计算模型可进行简化，如简化为：Fi(n)＝Ii。接收模块中L通道的计算模型也可进行简化，如简化为：Li(n)＝∑WijYj(n-1)。
调制模块03，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。
优选地，调制模块03用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)是指：调制模块03通过下式产生内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示当前神经元与邻域神经元的正相关关系。其模型如图2所示，图2为PCNN的正相关表示模型(β>0)，即经典PCNN神经元模型。Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示当前神经元与邻域神经元的负相关关系。其模型如图3所示，图3为PCNN的负相关表示模型(β>0)。
βi＝0，表示当前神经元与邻域神经元不相关。
这里需要说明的是，调制模块03可通过对连接因子β取值范围的扩展将上式统一为以下计算模型：
其中连接因子β用于表示信号间的耦合性。
如图4所示，为本发明提出的扩展PCNN模型。
其中，β>0，表示当前神经元与邻域神经元为正相关，即邻域信号对当前神经元有增强作用，
β<0，表示当前神经元与邻域神经元为负相关，即邻域信号对当前神经元有削弱作用，
β＝0，当前神经元与周围神经元不相关，即不存在耦合性
其中，β的绝对值越大，两者间的耦合性越大。
如图5所示，为本发明提出的扩展PCNN模型的一种简化模型。
另外，各神经元的连接因子可以相同，也可以不同，可以由专家指定，也可以根据外部输入信号的特征进行计算，还可以通过某种训练的方法进行自适应性计算。
这里需要说明的是，本申请中的接受模块和调制模块的计算模型不限于实施例所列出的模型，在不冲突的情况下，可以为任意现有脉冲耦合神经网络模型中的接受模块和调制模块的计算模型。
脉冲发生模块04，用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)。
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
优选地，脉冲发生模块04用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)是指：
首次产生内部活动项Ui(1)时，脉冲发生模块将首次产生的内部活动项Ui(1)与预设的阈值Ei(t)的初始值Ei(1)相比较，当阈值Ei(t)的初始值Ei(1)大于内部活动项Ui(t)时，脉冲发生模块不产生脉冲；并且当脉冲发生模块不产生脉冲时，减小预设的阈值Ei(t)；其中，阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的内部活动项Ui(t)。
后续每次产生内部活动项Ui(t)时，脉冲发生模块将所产生的内部活动项Ui(t)与阈值Ei(t)相比较，当阈值Ei(t)大于内部活动项Ui(t)时，脉冲发生模块不产生脉冲；并且减小阈值Ei(t)；当阈值Ei(t)小于内部活动项Ui(t)时，脉冲发生模块产生脉冲，并且阈值Ei(t+1)跳变到阈值Ei(t)的初始值Ei(1)。
下面通过具体实施方式进一步说明本发明的方案。
本发明方案包括以下具体实施步骤：
S101、接受外部输入Ii和邻域内神经元上一时刻的脉冲信号Yj(t-1)，j为当前i的邻域位置。
S102、计算反馈通道信号Fi(t)，如Fi(t)＝Ii。
S103、计算连接通道信号Li(t)，如Li(t)＝∑WijYj(t-1)。
S104、根据当前外部输入信号Ii的局部特征计算连接因子β，如：βi＝Ii-∑Ij/N，N为邻域单元数目。
S105、实时计算内部活动项Ui(t)：Ui(t)＝Fi(t)*(1+βi*Li(t))。
S106、将实时产生的内部活动项Ui(t)与脉冲输出阈值Ei(t-1)比较。
S107、根据比较结果计算神经元脉冲信号输出Yi(t)：
S108、根据神经元脉冲信号输出Yi(t)调整点火阈值Ei(t)，如果Yi(t)＝0，则降低阈值Ei(t)，如果Yi(t)＝1，则提高阈值Ei(t)。
这里需要说明的是，Ei(t)会预先设置一个初始值，这个初始值必须确保大于任何可能产生的内部活动项Ui(t)，当Yi(t)＝1时，将阈值Ei(t)提高到这个初始值。
通过本发明的方案，能够表示神经元与周围神经元间的增强或削弱关系，提高了原有模型的描述能力和准确性，扩大了模型的应用范围。
为了达到上述目的，本发明还提出一种脉冲耦合神经网络扩展方法，如图6所示，该方法包括：
S201、接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
优选地，根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：通过下式计算反馈通道信号Fi(t)和连接通道信号Li(t)：
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
S202、将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。
优选地，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)是指：通过下式产生内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的正相关关系；
Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的负相关关系；
βi＝0，表示所述当前神经元与所述邻域神经元不相关。
S203、实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节阈值Ei(t+1)。
优选地，实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节阈值Ei(+1t)包括：
首次产生内部活动项Ui(1)时，将首次产生的内部活动项Ui(t)与预设的阈值Ei(t)的初始值Ei(1)相比较，当阈值Ei(t)的初始值Ei(1)大于内部活动项Ui(t)时，不产生脉冲；并且当不产生脉冲时，减小预设的阈值Ei(t)；其中，阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的内部活动项Ui(t)。
后续每次产生内部活动项Ui(t)时，将所产生的内部活动项Ui(t)与阈值Ei(t)相比较，当阈值Ei(t)大于内部活动项Ui(t)时，不产生脉冲；并且减小阈值Ei(t)；当阈值Ei(t)小于内部活动项Ui(t)时，产生脉冲，并且阈值Ei(t+1)跳变到阈值Ei(t)的初始值Ei(1)。
与现有技术相比，本发明包括：接收模块，用于接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据外部输入信号Ii和脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的反馈通道信号Fi(t)和连接通道信号Li(t)传输到调制模块。调制模块，用于将收到的反馈通道信号Fi(t)和连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)。脉冲发生模块，用于实时将产生的内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)。其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。通过本发明的方案，能够表示神经元与周围神经元间的增强或削弱关系，提高了原有模型的描述能力和准确性，扩大了模型的应用范围。
需要说明的是，以上所述的实施例仅是为了便于本领域的技术人员理解而已，并不用于限制本发明的保护范围，在不脱离本发明的发明构思的前提下，本领域技术人员对本发明所做出的任何显而易见的替换和改进等均在本发明的保护范围之内。
Claims (6)
1.一种脉冲耦合神经网络扩展系统，其特征在于，所述系统包括：接收模块、调制模块和脉冲发生模块；
所述接收模块，用于接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据所述外部输入信号Ii和所述脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的所述反馈通道信号Fi(t)和所述连接通道信号Li(t)传输到所述调制模块；
所述调制模块，用于将收到的所述反馈通道信号Fi(t)和所述连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)，包括：所述调制模块通过下式产生所述内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的正相关关系；
Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的负相关关系；
βi＝0，表示所述当前神经元与所述邻域神经元不相关；
所述脉冲发生模块，用于实时将产生的所述内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)；
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
2.如权利要求1所述的系统，其特征在于，所述脉冲发生模块用于实时将产生的所述内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)是指：
首次产生内部活动项Ui(1)时，所述脉冲发生模块将首次产生的所述内部活动项Ui(1)与预设的所述阈值Ei(t)的初始值Ei(1)相比较，当所述阈值Ei(t)的初始值Ei(1)大于所述内部活动项Ui(t)时，所述脉冲发生模块不产生脉冲；并且当所述脉冲发生模块不产生脉冲时，减小预设的所述阈值Ei(t)；其中，所述阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的所述内部活动项Ui(t)；
后续每次产生所述内部活动项Ui(t)时，所述脉冲发生模块将所产生的所述内部活动项Ui(t)与所述阈值Ei(t)相比较，当所述阈值Ei(t)大于所述内部活动项Ui(t)时，所述脉冲发生模块不产生脉冲；并且减小所述阈值Ei(t)；当所述阈值Ei(t)小于所述内部活动项Ui(t)时，所述脉冲发生模块产生脉冲，并且所述阈值Ei(t+1)跳变到所述阈值Ei(t)的初始值Ei(1)。
3.如权利要求1所述的系统，其特征在于，所述接收模块根据所述外部输入信号Ii和所述脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：所述接收模块通过下式计算所述反馈通道信号Fi(t)和所述连接通道信号Li(t)：
<mrow>
<msub>
<mi>F</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<mo>-</mo>
<msub>
<mi>&tau;</mi>
<mi>Fi</mi>
</msub>
<mo>)</mo>
</mrow>
<msub>
<mi>F</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>V</mi>
<mi>F</mi>
</msub>
<msubsup>
<mi>&Sigma;</mi>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</msubsup>
<msub>
<mi>M</mi>
<mi>ij</mi>
</msub>
<msub>
<mi>Y</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>I</mi>
<mi>i</mi>
</msub>
<mo>;</mo>
</mrow>
<mrow>
<msub>
<mi>L</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<mo>-</mo>
<msub>
<mi>&tau;</mi>
<mi>Li</mi>
</msub>
<mo>)</mo>
</mrow>
<msub>
<mi>L</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>V</mi>
<mi>L</mi>
</msub>
<msubsup>
<mi>&Sigma;</mi>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</msubsup>
<msub>
<mi>W</mi>
<mi>ij</mi>
</msub>
<msub>
<mi>Y</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>;</mo>
</mrow>
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
4.一种脉冲耦合神经网络扩展方法，其特征在于，所述方法包括：
接收当前神经元的外部输入信号Ii和上一时刻邻域内神经元的脉冲信号Yj(t-1)；并根据所述外部输入信号Ii和所述脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)，将获得的所述反馈通道信号Fi(t)和所述连接通道信号Li(t)传输到调制模块；
将收到的所述反馈通道信号Fi(t)和所述连接通道信号Li(t)进行耦合调制，产生内部活动项Ui(t)，包括：通过下式产生所述内部活动项Ui(t)：
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0；Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0
其中，βi为连接因子，用于表示信号间的耦合性；
Ui(t)＝Fi(t)*(1+βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的正相关关系；
Ui(t)＝Fi(t)*(1-βi*Li(t))，βi>0表示所述当前神经元与所述邻域神经元的负相关关系；
βi＝0，表示所述当前神经元与所述邻域神经元不相关；
实时将产生的所述内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(t+1)；
其中，i是指当前神经元对应的输入位置；j是指位置i的邻域，j＝1-n，n为正整数；t是指当前时刻；t-1是指上一时刻；t+1是指下一时刻。
5.如权利要求4所述的方法，其特征在于，所述实时将产生的所述内部活动项Ui(t)与预设的阈值Ei(t)相比较，根据比较结果确定是否产生脉冲并调节所述阈值Ei(+1t)包括：
首次产生内部活动项Ui(1)时，将首次产生的所述内部活动项Ui(t)与预设的所述阈值Ei(t)的初始值Ei(1)相比较，当所述阈值Ei(t)的初始值Ei(1)大于所述内部活动项Ui(t)时，不产生脉冲；并且当不产生脉冲时，减小预设的所述阈值Ei(t)；其中，所述阈值Ei(t)的初始值Ei(1)在预先设置时确保大于所有可能出现的所述内部活动项Ui(t)；
后续每次产生所述内部活动项Ui(t)时，将所产生的所述内部活动项Ui(t)与所述阈值Ei(t)相比较，当所述阈值Ei(t)大于所述内部活动项Ui(t)时，不产生脉冲；并且减小所述阈值Ei(t)；当所述阈值Ei(t)小于所述内部活动项Ui(t)时，产生脉冲，并且所述阈值Ei(t+1)跳变到所述阈值Ei(t)的初始值Ei(1)。
6.如权利要求4所述的方法，其特征在于，所述根据所述外部输入信号Ii和所述脉冲信号Yj(t-1)计算反馈通道信号Fi(t)和连接通道信号Li(t)是指：通过下式计算所述反馈通道信号Fi(t)和所述连接通道信号Li(t)：
<mrow>
<msub>
<mi>F</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>&tau;</mi>
<mrow>
<mi>F</mi>
<mi>i</mi>
</mrow>
</msub>
<mo>)</mo>
</mrow>
<msub>
<mi>F</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>V</mi>
<mi>F</mi>
</msub>
<msubsup>
<mi>&Sigma;</mi>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</msubsup>
<msub>
<mi>M</mi>
<mrow>
<mi>i</mi>
<mi>j</mi>
</mrow>
</msub>
<msub>
<mi>Y</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>I</mi>
<mi>i</mi>
</msub>
<mo>;</mo>
</mrow>
<mrow>
<msub>
<mi>L</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mi>exp</mi>
<mrow>
<mo>(</mo>
<mo>-</mo>
<msub>
<mi>&tau;</mi>
<mrow>
<mi>L</mi>
<mi>i</mi>
</mrow>
</msub>
<mo>)</mo>
</mrow>
<msub>
<mi>L</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msub>
<mi>V</mi>
<mi>L</mi>
</msub>
<msubsup>
<mi>&Sigma;</mi>
<mrow>
<mi>j</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>n</mi>
</msubsup>
<msub>
<mi>W</mi>
<mrow>
<mi>i</mi>
<mi>j</mi>
</mrow>
</msub>
<msub>
<mi>Y</mi>
<mi>j</mi>
</msub>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>-</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>;</mo>
</mrow>
其中，exp是指求指数幂；-τFi为Fi(t)的衰减系数；-τLi为Li(t)的衰减系数；VF为Fi(t)的放大系数；VL为Li(t)的放大系数；Mij为Fi(t)的加权系数；Wij为Li(t)的加权系数；Yj(t-1)为邻域神经元上一时刻的输出，n为邻域个数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510313828.7A CN104992224B (zh) | 2015-06-09 | 2015-06-09 | 一种脉冲耦合神经网络扩展系统和方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201510313828.7A CN104992224B (zh) | 2015-06-09 | 2015-06-09 | 一种脉冲耦合神经网络扩展系统和方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN104992224A CN104992224A (zh) | 2015-10-21 |
| CN104992224B true CN104992224B (zh) | 2018-02-06 |
Family
ID=54304036
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201510313828.7A Active CN104992224B (zh) | 2015-06-09 | 2015-06-09 | 一种脉冲耦合神经网络扩展系统和方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN104992224B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101546430A (zh) * | 2009-04-30 | 2009-09-30 | 上海大学 | 基于简化型脉冲耦合神经网络的边缘提取方法 |
| CN101968882A (zh) * | 2010-09-21 | 2011-02-09 | 重庆大学 | 一种多源图像融合方法 |
| CN102663428A (zh) * | 2012-03-29 | 2012-09-12 | 中国科学院上海光学精密机械研究所 | 神经网络模式识别系统和模式识别方法 |
| CN102831476A (zh) * | 2012-08-22 | 2012-12-19 | 中国科学院上海光学精密机械研究所 | 脉冲神经网络模式探测装置和模式探测方法 |
-
2015
- 2015-06-09 CN CN201510313828.7A patent/CN104992224B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101546430A (zh) * | 2009-04-30 | 2009-09-30 | 上海大学 | 基于简化型脉冲耦合神经网络的边缘提取方法 |
| CN101968882A (zh) * | 2010-09-21 | 2011-02-09 | 重庆大学 | 一种多源图像融合方法 |
| CN102663428A (zh) * | 2012-03-29 | 2012-09-12 | 中国科学院上海光学精密机械研究所 | 神经网络模式识别系统和模式识别方法 |
| CN102831476A (zh) * | 2012-08-22 | 2012-12-19 | 中国科学院上海光学精密机械研究所 | 脉冲神经网络模式探测装置和模式探测方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN104992224A (zh) | 2015-10-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11521012B2 (en) | Method for training neural network model and apparatus | |
| CN110503192B (zh) | 资源有效的神经架构 | |
| US10755162B2 (en) | Method and apparatus to reduce neural network | |
| CN108416327B (zh) | 一种目标检测方法、装置、计算机设备及可读存储介质 | |
| CN113449864B (zh) | 用于图像数据分类的反馈型脉冲神经网络模型训练方法 | |
| JP6676722B2 (ja) | アクティベーション演算とコンボリューション演算を同時に遂行するための方法及び装置、そしてこのための学習方法及び学習装置 | |
| CN106933649B (zh) | 基于移动平均和神经网络的虚拟机负载预测方法及系统 | |
| CN110991483A (zh) | 高阶邻域混合的网络表示学习方法及装置 | |
| CN109670574B (zh) | 用于同时执行激活和卷积运算的方法和装置及其学习方法和学习装置 | |
| CN106845632B (zh) | 脉冲神经网络信息转换为人工神经网络信息的方法和系统 | |
| KR20210116923A (ko) | 디노이징 네트워크의 학습 방법, 및 이미지 처리 방법 및 그 장치 방법 | |
| KR20190041819A (ko) | 컨볼루션 신경망의 컨볼루션 연산 장치 및 방법 | |
| US6601052B1 (en) | Selective attention method using neural network | |
| Krithivasan et al. | Dynamic spike bundling for energy-efficient spiking neural networks | |
| CN104992224B (zh) | 一种脉冲耦合神经网络扩展系统和方法 | |
| KR102574887B1 (ko) | 스파이크 뉴럴 네트워크를 사용하는 생성적 적대 신경망을 구현하기 위한 전자 회로 | |
| KR20190105368A (ko) | 심층신경망 모델의 선형 근사화 방법 및 장치 | |
| Wee et al. | A proximal splitting approach to regularized distributed adaptive estimation in diffusion networks | |
| KR102478256B1 (ko) | 랭크 오더 코딩 기반 스파이킹 cnn 연산 방법 및 그 처리기 | |
| RU2342702C2 (ru) | Устройство ассоциативного распознавания | |
| CN112561050A (zh) | 一种神经网络模型训练方法及装置 | |
| CN112232477A (zh) | 图像数据处理方法、装置、设备及介质 | |
| JP7104183B2 (ja) | ニューラルネットワークの縮約装置 | |
| KR102602963B1 (ko) | 설계 가능한 생성적 적대 신경망을 적용한 도메인 적응 최적화 설계 시스템 및 그 방법 | |
| KR20180019347A (ko) | 심층 신경망 기반의 음성인식 시스템 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |