CN112200314B - 一种基于微柱自荐的htm空间池快速训练方法及系统 - Google Patents
一种基于微柱自荐的htm空间池快速训练方法及系统 Download PDFInfo
- Publication number
- CN112200314B CN112200314B CN202011056881.0A CN202011056881A CN112200314B CN 112200314 B CN112200314 B CN 112200314B CN 202011056881 A CN202011056881 A CN 202011056881A CN 112200314 B CN112200314 B CN 112200314B
- Authority
- CN
- China
- Prior art keywords
- input
- microcolumn
- microcolumns
- self
- micro
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 46
- 238000000034 method Methods 0.000 title claims abstract description 31
- 230000006835 compression Effects 0.000 claims abstract description 41
- 238000007906 compression Methods 0.000 claims abstract description 41
- 210000000225 synapse Anatomy 0.000 claims abstract description 36
- 230000004913 activation Effects 0.000 claims abstract description 32
- 238000013507 mapping Methods 0.000 claims abstract description 10
- 230000001965 increasing effect Effects 0.000 claims description 10
- 230000003213 activating effect Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 abstract description 9
- 210000004027 cell Anatomy 0.000 description 6
- 238000013461 design Methods 0.000 description 4
- 230000000946 synaptic effect Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000008520 organization Effects 0.000 description 2
- RTWIRLHWLMNVCC-WQYNNSOESA-M sodium (2S)-2-[[(2S)-2-[[(2S)-2-amino-4-[hydroxy(methyl)phosphoryl]butanoyl]amino]propanoyl]amino]propanoate Chemical compound [Na+].[O-]C(=O)[C@H](C)NC(=O)[C@H](C)NC(=O)[C@@H](N)CCP(C)(O)=O RTWIRLHWLMNVCC-WQYNNSOESA-M 0.000 description 2
- 230000001629 suppression Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 230000001054 cortical effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 210000001787 dendrite Anatomy 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于微柱自荐的HTM空间池快速训练方法及系统,通过重构空间池中微柱的结构,赋予微柱更多的信息来表达微柱的承载程度。利用微柱和输入的重叠值计算微柱的自荐状态,基于自荐状态和承载度构建微柱的激活规则。针对被激活的微柱,利用基于压缩编码的微柱突触调整规则,构建输入与微柱集合的映射,形成空间池的训练结果。本发明利用微柱的重叠值和承载度作为微柱激活的依据,能够保证被激活的微柱稀疏分布在空间池中,提高空间池中微柱的利用率;利用基于压缩编码的微柱突触调整规则,能够快速构建激活微柱与输入之间的映射,提高空间池的训练效率,并且在新输入的训练过程中,基于压缩编码的微柱突触调整规则不会更改已训练的内容,提高了空间池训练结果的稳定性。
Description
技术领域
本发明涉及人工智能领域,尤其涉及一种基于微柱自荐的HTM空间池快速训练方法及系统。
背景技术
类脑学习是当前人工智能和机器学习领域研究的热点。层级时序记忆HTM(Hierarchical Temporal Memory)是一种通过模拟大脑皮层细胞的组织和机构,模仿人脑对信息的处理机制的机器学习技术。HTM本质上讲是一个基于记忆的系统。HTM网络被大量具有时间性的数据训练而成,存储着大量的模式序列,通过记忆的模式序列预测下一次可能的输入或者利用上一时刻预测检测当前时刻输入是否异常。HTM可以在拥有时序数据的领域中进行预测和异常检测。
与现有的人工神经网络不同,HTM以细胞为基本单位,并使用层级方式进行管理;首先将几个细胞组成一个微柱,再由这些微柱构成HTM网络空间。空间池算法和时间池算法是训练HTM时的两个重要步骤,首先使用空间池算法,从所有微柱中选择出部分被激活微柱以对应当前的输入。再使用时间池算法从这些微柱中选择部分激活的细胞表达输入所处位置信息,通过调整这些活跃细胞上相关的树突分支,构建输入与输入之间的关联,进行学习;同时利用活跃细胞和已构建的树突分支,对下一时刻的输入进行预测。
HTM以输入的稀疏分布表示为基础进行工作,空间池训练算法(spatial poollearning algorithm,SPL)利用赫比规则建立输入编码与微柱突触之间的连接,通过输入编码的有效位激活空间池中的微柱集,实现用空间池微柱的稀疏分布表征来表达输入。在该过程中,希望空间池能够像大脑皮层一样维持一定的灵活性:1、尽可能让空间池的所有微柱都参与输入的表达,2、表达输入的微柱具有一定的稀疏度并散列在空间池中,3、避免微柱与输入产生过多无效的突触连接,4、避免微柱被少量活跃突触激活,5、空间池具有一定的自适应性,应对微柱或输入的损坏。为此空间池训练算法引入了激励规则和抑制规则,设置微柱激活阈值以及维持庞大的突触池,通过多次训练,空间池便可动态调整到所希望的目标,但是维持庞大的突触池会降低空间池训练算法训练效率,激励规则和抑制规则会导致训练结果的不稳定。因此有必要设计新型的空间池池算法,降低HTM空间池训练算法的时间开销,提高空间池训练结果的稳定性。
发明内容
为了解决现有技术中存在的不足,本发明提出了一种基于微柱自荐的HTM空间池快速训练方法及系统,通过基于自荐状态的微柱激活规则以及基于压缩编码的微柱突触调整规则,用以解决HTM空间池训练效率低和空间池训练结果稳定性差的问题。
本发明所采用的技术方案如下:
一种基于微柱自荐的HTM空间池快速训练方法,包括如下步骤:
步骤1,根据输入编码中1分量的位置对编码进行压缩,得到输入序列的压缩编码;
步骤2,利用微柱与压缩编码的重叠值计算微柱的自荐状态,将自荐状态和微柱的承载度信息共同作为微柱的激活依据,构建微柱激活规则,在空间池中形成输入的稀疏分布表征;
步骤3,针对被输入所激活的微柱集,通过基于压缩编码的微柱突触调整规则调整激活微柱中的近端突触,构建输入压缩编码与激活微柱集的映射关系。
步骤4,将被激活的微柱集送入时间池进行训练,构建输入之间的时序关系,并在HTM中形成记忆,HTM根据记忆的内容预测后续的输入。
进一步,步骤1中针对于标量j,获得压缩编码的方法为:
s(j)=(w-k)×j+1
encoder(j)={s(j),s(j)+1,s(j)+2,……s(j)+w}
其中,w代表编码中为1分量的个数,k代表相邻标量编码中1分量的重叠数量,s(j)表达输入编码中为1分量的起始位置,encoder(j)为标量j的压缩编码。
进一步,步骤2中计算微柱与压缩编码的重叠值oi的方法为:
oi=|Wactive_i∩encoder(CurrentInput)|
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码为1分量的位置序号的集合;CurrentInput是当前输入的内容。
进一步,依据微柱与压缩编码的重叠值,计算微柱的自荐状态state(i)的方法为:
其中,othreshold代表可以激活微柱的最小重叠阈值,state(i)表达第i个微柱在当前输入的训练环境下所具备的自荐状态,取值为same、similar和distinct三种情况。
进一步,步骤2中微柱激活规则为:
步骤2.3.1,针对自荐状态为same的一类微柱,挑选包含当前输入值的微柱进行激活并统计微柱个数记为n1,若n1大于等于a_n,则返回这个激活的微柱集作为输入的表达;否则,在剩余的微柱中随机挑选承载度最低的n2个微柱进行激活,n2取满足约束n1+n2≤o_n的最大值;然后更新这n2个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1。
步骤2.3.2,若在自荐状态为same类的微柱中,激活的微柱数量少于o_n,则在自荐状态为similar的微柱中随机挑选承载度最低的n3个微柱进行激活,n3取满足约束n1+n2+n3≤o_n的最大值;同时更新这n3个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行调整;
步骤2.3.3,在自荐状态为distinct的一类微柱中,随机挑选承载度最低的a_n-n1-n2-n3个微柱进行激活;同时更新这些微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行更新;
其中,a_n表示空间池用多少个微柱来表达输入,o_n表述两个相邻输入的微柱集最多重叠多少个微柱。
进一步,步骤3中压缩编码与激活微柱集的映射关系表示为:
Wactive_i=Wactive_i∪encoder(CurrentInput)
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码中1分量的位置序号的集合;CurrentInput是当前输入的内容。
一种基于微柱自荐的HTM空间池快速训练系统,包括依次连接的压缩编码模块、空间池模块和时间池模块;所述压缩编码模块对输入的序列进行压缩;所述空间池模块包括依次连接微柱激活子模块和微柱突触调整子模块,所述微柱激活子模块用于激活空间池的微柱集,获取输入的稀疏分布表征;所述微柱突触调整子模块用于对微柱上的突触进行调整,构建输入与激活微柱集的映射关系;所述时间池模块用于构建时序序列中输入的前后关系以及对后续输入形成预测。
本发明的有益效果:
1、本发明对HTM空间池的结构进行了重构,在每个微柱中增加所匹配的输入信息,计算微柱的承载度,作为考核微柱在HTM空间池中利用程度的度量,为选择的微柱能够稀疏分布空间池提供支撑。
2、本发明与现有空间池算法主要使用重叠值挑选微柱不同,利用HTM中微柱与输入的重叠值对微柱进行分级,再结合微柱的承载度等信息挑选微柱,增强HTM空间池中选择微柱的均匀性,提高空间池微柱的利用率。
3、本发明与现有空间池算法使用赫比规则调整输入与微柱之间的链接不同,设计基于压缩编码的突触调整规则,在学习新输入时,保护HTM微柱中已有的有效关联信息,从而在保证HTM良好动态适应能力的同时,减少HTM空间池的抖动,提高HTM训练的效率,增强空间池的稳定性。
附图说明
图1为基于微柱自荐的HTM空间池快速训练系统流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用于解释本发明,并不用于限定本发明。
如图1所示,一种基于微柱自荐的HTM空间池快速训练系统,包括依次连接的压缩编码模块、空间池模块和时间池模块;所述压缩编码模块对输入的序列进行压缩,并将压缩后得到的压缩编码输入空间池模块;所述空间池模块包括依次连接微柱激活子模块和微柱突触调整子模块,所述微柱激活子模块用于激活空间池的微柱集,获取输入的稀疏分布表征;所述微柱突触调整子模块用于对微柱上的突触进行调整,构建输入与激活微柱集的映射关系;所述时间池模块用于构建时序序列中输入的前后关系以及对后续输入形成预测。
基于上述一种基于微柱自荐的HTM空间池快速训练系统,本发明还提出了一种基于微柱自荐的HTM空间池快速训练方法,该训练方法包括计算输入序列的压缩编码、激活微柱集形成输入的稀疏分布表征、调整微柱树突分支、时间池训练和预测这四个步骤,具体过程如下:
步骤1,计算输入序列对应的编码,构建输入序列的分布特征表示;并根据输入编码中1分量的位置对编码进行压缩,得到输入序列的压缩编码,过程可表示为:
s(j)=(w-k)×j+1
encoder(j)={s(j),s(j)+1,s(j)+2,……s(j)+w}
其中,w代表编码中为1分量的个数,k代表相邻标量编码中1分量的重叠数量,s(j)表达输入编码中为1分量的起始位置,encoder(j)为标量j的压缩编码。
最后将序列的压缩编码输入微柱激活子模块中。
步骤2,在微柱激活子模块中,利用微柱与所输入的压缩编码的重叠值计算微柱的自荐状态,将自荐状态和微柱的承载度信息共同作为激活微柱的依据,构建微柱的激活规则,具体地过程为:
步骤2.1,计算微柱与压缩编码的重叠值oi,表示为:
oi=|Wactive_i∩encoder(CurrentInput)|
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码为1分量的位置序号的集合;CurrentInput是当前输入的内容。
步骤2.2,依据微柱与压缩编码的重叠值,计算微柱的自荐状态state(i),表示为:
othreshold代表可以激活微柱的最小重叠阈值,state(i)表达第i个微柱在当前输入的训练环境下所具备的自荐状态,取值可以为same、similar和distinct三种情况。
步骤2.3,依据微柱自荐状态和微柱的承载度构建微柱的激活规则,挑选微柱进行激活,构造输入的稀疏分布表征;微柱的激活规则可表示为:
步骤2.3.1,在每个微柱中增加所匹配的输入信息,计算微柱的承载度,作为考核微柱在HTM空间池中利用程度的度量,为选择的微柱能够稀疏分布空间池提供支撑。针对自荐状态为same的一类微柱,挑选包含当前输入值的微柱进行激活并统计微柱个数记为n1,若n1大于等于a_n,则返回这个激活的微柱集作为输入的表达。否则,在剩余的微柱中随机挑选承载度最低的n2个微柱进行激活,n2取满足约束n1+n2≤o_n的最大值。然后更新这n2个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1。
步骤2.3.2,若在自荐状态为same类的微柱中,激活的微柱数量少于o_n,则在自荐状态为similar的微柱中随机挑选承载度最低的n3个微柱进行激活,n3取满足约束n1+n2+n3≤o_n的最大值。同时更新这n3个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行调整。
步骤2.3.3,在自荐状态为distinct的一类微柱中,随机挑选承载度最低的a_n-n1-n2-n3个微柱进行激活。同时更新这些微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行更新。
其中,a_n表示空间池用多少个微柱来表达输入,o_n表述两个相邻输入的微柱集最多重叠多少个微柱。
步骤3,针对被输入所激活的微柱集,根据基于压缩编码的突触调整规则调整激活微柱中的近端突触,构建输入压缩编码与激活微柱集的映射关系,方法可表示为:
Wactive_i=Wactive_i∪encoder(CurrentInput)
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码中1分量的位置序号的集合;CurrentInput是当前输入的内容。
步骤4,将被激活的微柱集送入时间池进行训练,构建输入之间的时序关系,并在HTM中形成记忆,此时HTM可根据记忆的内容预测后续的输入。
为了更清楚的解释本发明的技术方案,在本实施例中,假设空间池设定用7个微柱形成输入的稀疏分布表征,相邻输入的编码可重叠5个1分量,相邻输入对应的微柱稀疏分布表征可重叠3个微柱,并假设当前输入50进入空间池的训练过程:
首先通压缩编码过程,形成输入50的编码为{101,102,103,104,105,106,107}。
通过X的压缩编码与所有微柱的重叠值,计算每一个微柱的自荐状态:same、similar、distinct,通过微柱自荐状态,可以将空间池中的微柱分为三个级别的集合Usame、Usimilar和Udistinct,分别表示微柱参与的输入与当前输入极其相似甚至相同、微柱参与的输入与当前输入只是相似、微柱参与的输入与当前输入不相同。在Usame中,如果参与的内容包含当前输入50的微柱个数是7个,则激活这些微柱作为50的稀疏分布表征;如果,参与的内容包含当前输入50的微柱个数是0个且|Usame|>0,则在Usame中最多随机选择3个承载度最少的微柱进行激活。如果|Usimiliar|>0且在上一次激活的微柱个数少于3个,则在Usimilar随机选择承载度最少的微柱激活,但要保证此时总体激活的微柱个数不超过3个。然后在Udistinct中随机选择4个承载度最少的微柱进行激活,此时,完成了输入50的训练过程,用激活微柱形成了输入50的稀疏分布表征。
更新这些激活微柱的承载度信息,在每个激活的微柱中增加输入50的信息,并将激活微柱的参与个数增加1.
调整这些激活微柱的突触,将50的编码信息加载到激活微柱的突触上。
至此,我们完成了对于输入50的训练过程。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示意性实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上实施例仅用于说明本发明的设计思想和特点,其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施,本发明的保护范围不限于上述实施例。所以,凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰,均在本发明的保护范围之内。
Claims (5)
1.一种基于微柱自荐的HTM空间池快速训练方法,其特征在于,包括如下步骤:
步骤1,根据输入编码中1分量的位置对编码进行压缩,得到输入序列的压缩编码;
步骤2,利用微柱与压缩编码的重叠值计算微柱的自荐状态,将自荐状态和微柱的承载度信息共同作为微柱的激活依据,构建微柱激活规则,在空间池中形成输入的稀疏分布表征;微柱激活规则为:
步骤2.3.1,针对自荐状态为same的一类微柱,挑选包含当前输入值的微柱进行激活并统计微柱个数记为n1,若n1大于等于a_n,则返回这个激活的微柱集作为输入的表达;否则,在剩余的微柱中随机挑选承载度最低的n2个微柱进行激活,n2取满足约束n1+n2≤o_n的最大值;然后更新这n2个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1;
步骤2.3.2,若在自荐状态为same类的微柱中,激活的微柱数量少于o_n,则在自荐状态为similar的微柱中随机挑选承载度最低的n3个微柱进行激活,n3取满足约束n1+n2+n3≤o_n的最大值;同时更新这n3个微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行调整;
步骤2.3.3,在自荐状态为distinct的一类微柱中,随机挑选承载度最低的a_n-n1-n2-n3个微柱进行激活;同时更新这些微柱的承载度信息,即在微柱上保存当前输入的内容,并将微柱参与输入的个数增加1,这些微柱的近端突触也要根据当前输入的编码进行更新;
其中,a_n表示空间池用多少个微柱来表达输入,o_n表述两个相邻输入的微柱集最多重叠多少个微柱;
步骤3,针对被输入所激活的微柱集,通过基于压缩编码的微柱突触调整规则调整激活微柱中的近端突触,构建输入压缩编码与激活微柱集的映射关系;压缩编码与激活微柱集的映射关系表示为:
Wactive_i=Wactive_i∪encoder(CurrentInput)
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码中1分量的位置序号的集合;CurrentInput是当前输入的内容;
步骤4,将被激活的微柱集送入时间池进行训练,构建输入之间的时序关系,并在HTM中形成记忆,HTM根据记忆的内容预测后续的输入。
2.根据权利要求1所述的一种基于微柱自荐的HTM空间池快速训练方法,其特征在于,步骤1中获得压缩编码的方法为:
s(j)=(w-k)×j+1
encoder(j)={s(j),s(j)+1,s(j)+2,……s(j)+w}
其中,w代表编码中为1分量的个数,k代表相邻标量编码中1分量的重叠数量,s(j)表达输入编码中为1分量的起始位置,encoder(j)为标量j的压缩编码,j为标量。
3.根据权利要求1或2所述的一种基于微柱自荐的HTM空间池快速训练方法,其特征在于,步骤2中计算微柱与压缩编码的重叠值oi的方法为:
oi=|Wactive_i∩encoder(CurrentInput)|
其中,active_i表示当前输入通过算法挑选出的活跃微柱的编号,Wactive_i表示该微柱所拥有的连通突触集合,encoder(CurrentInput)对应输入编码为1分量的位置序号的集合;CurrentInput是当前输入的内容。
4.根据权利要求3所述的一种基于微柱自荐的HTM空间池快速训练方法,其特征在于,依据微柱与压缩编码的重叠值,计算微柱的自荐状态state(i)的方法为:
其中,othreshold代表可以激活微柱的最小重叠阈值,state(i)表达第i个微柱在当前输入的训练环境下所具备的自荐状态,取值为same、similar和distinct三种情况。
5.一种实现权利要求1所述的一种基于微柱自荐的HTM空间池快速训练方法的基于微柱自荐的HTM空间池快速训练系统,其特征在于,包括依次连接的压缩编码模块、空间池模块和时间池模块;所述压缩编码模块对输入的序列进行压缩;所述空间池模块包括依次连接微柱激活子模块和微柱突触调整子模块,所述微柱激活子模块用于激活空间池的微柱集,获取输入的稀疏分布表征;所述微柱突触调整子模块用于对微柱上的突触进行调整,构建输入与激活微柱集的映射关系;所述时间池模块用于构建时序序列中输入的前后关系以及对后续输入形成预测。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011056881.0A CN112200314B (zh) | 2020-09-30 | 2020-09-30 | 一种基于微柱自荐的htm空间池快速训练方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011056881.0A CN112200314B (zh) | 2020-09-30 | 2020-09-30 | 一种基于微柱自荐的htm空间池快速训练方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112200314A CN112200314A (zh) | 2021-01-08 |
CN112200314B true CN112200314B (zh) | 2024-05-14 |
Family
ID=74007127
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011056881.0A Active CN112200314B (zh) | 2020-09-30 | 2020-09-30 | 一种基于微柱自荐的htm空间池快速训练方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112200314B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114387030B (zh) * | 2022-01-13 | 2024-03-15 | 瑞祥全球购超市有限公司 | 一种面向网络购物平台的在线用户量的智能分析方法 |
CN114387028B (zh) * | 2022-01-13 | 2024-02-23 | 瑞祥全球购超市有限公司 | 一种面向网络购物平台的商品需求量的智能分析方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612125A (zh) * | 2020-04-13 | 2020-09-01 | 江苏大学 | 一种面向在线学习的新型htm时间池方法及其系统 |
-
2020
- 2020-09-30 CN CN202011056881.0A patent/CN112200314B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612125A (zh) * | 2020-04-13 | 2020-09-01 | 江苏大学 | 一种面向在线学习的新型htm时间池方法及其系统 |
Also Published As
Publication number | Publication date |
---|---|
CN112200314A (zh) | 2021-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Bas et al. | A modified genetic algorithm for forecasting fuzzy time series | |
CN112200314B (zh) | 一种基于微柱自荐的htm空间池快速训练方法及系统 | |
Wilck IV et al. | A genetic algorithm for the split delivery vehicle routing problem | |
Lu et al. | Environmental/economic dispatch problem of power system by using an enhanced multi-objective differential evolution algorithm | |
Wang et al. | Differential Evolution Algorithm with Self‐Adaptive Population Resizing Mechanism | |
Zhang et al. | Differentiable dynamic quantization with mixed precision and adaptive resolution | |
CN106610867B (zh) | 一种片上网络任务调度方法及装置 | |
Lourenço et al. | Evolving evolutionary algorithms | |
Yang et al. | A hybrid approach based on stochastic competitive Hopfield neural network and efficient genetic algorithm for frequency assignment problem | |
Yan et al. | A genetic based hyper-heuristic algorithm for the job shop scheduling problem | |
CN117875397B (zh) | 一种待更新参数选择方法、装置、计算设备及存储介质 | |
CN112330361B (zh) | 面向线上购物用户消费习惯的智能大数据分析设计方法 | |
CA2808756C (en) | Devices for learning and/or decoding messages using a neural network, learning and decoding methods, and corresponding computer programs | |
CN116301621A (zh) | 一种应用于分布式存储的深度学习多集群选择方法 | |
CN111831955A (zh) | 一种锂离子电池剩余寿命预测方法及系统 | |
US10559093B2 (en) | Selecting encoding options | |
Soliman et al. | A self-adaptive strategy for controlling parameters in differential evolution | |
CN114387028B (zh) | 一种面向网络购物平台的商品需求量的智能分析方法 | |
CN113657592B (zh) | 一种软件定义卫星自适应剪枝模型压缩方法 | |
Wouafo et al. | Clone-based encoded neural networks to design efficient associative memories | |
CN116541165A (zh) | 实时系统任务调度方法、装置、计算机设备以及存储介质 | |
Chang et al. | Lightweight CNN frameworks and their optimization using evolutionary algorithms | |
Li et al. | Adaptive genetic network programming | |
KR20210157826A (ko) | 심층 신경망 구조 학습 및 경량화 방법 | |
Ortiz-Bayliss et al. | On the idea of evolving decision matrix hyper-heuristics for solving constraint satisfaction problems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |