CN112819036B - 一种基于忆阻器阵列的球形数据分类装置及其操作方法 - Google Patents
一种基于忆阻器阵列的球形数据分类装置及其操作方法 Download PDFInfo
- Publication number
- CN112819036B CN112819036B CN202110037230.5A CN202110037230A CN112819036B CN 112819036 B CN112819036 B CN 112819036B CN 202110037230 A CN202110037230 A CN 202110037230A CN 112819036 B CN112819036 B CN 112819036B
- Authority
- CN
- China
- Prior art keywords
- data
- memristor array
- vector
- control module
- data vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 101
- 239000013598 vector Substances 0.000 claims abstract description 200
- 230000008569 process Effects 0.000 claims abstract description 54
- 238000012549 training Methods 0.000 claims description 38
- 238000010606 normalization Methods 0.000 claims description 26
- 239000011159 matrix material Substances 0.000 claims description 22
- 238000006243 chemical reaction Methods 0.000 claims description 18
- 238000012512 characterization method Methods 0.000 claims description 11
- 230000008859 change Effects 0.000 claims description 9
- 230000002457 bidirectional effect Effects 0.000 claims description 6
- 230000003139 buffering effect Effects 0.000 claims description 5
- 238000003491 array Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 abstract description 14
- 230000008901 benefit Effects 0.000 abstract description 6
- 238000007405 data analysis Methods 0.000 abstract description 3
- 238000007418 data mining Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 6
- 238000003058 natural language processing Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- KXLUWEYBZBGJRZ-POEOZHCLSA-N Canin Chemical compound O([C@H]12)[C@]1([C@](CC[C@H]1C(=C)C(=O)O[C@@H]11)(C)O)[C@@H]1[C@@]1(C)[C@@H]2O1 KXLUWEYBZBGJRZ-POEOZHCLSA-N 0.000 description 1
- GPFVKTQSZOQXLY-UHFFFAOYSA-N Chrysartemin A Natural products CC1(O)C2OC2C34OC3(C)CC5C(CC14)OC(=O)C5=C GPFVKTQSZOQXLY-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000003064 k means clustering Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C8/00—Arrangements for selecting an address in a digital store
- G11C8/14—Word line organisation; Word line lay-out
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Probability & Statistics with Applications (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
本发明公开了一种基于忆阻器阵列的球形数据分类装置及其操作方法,属于数据挖掘与数据分析领域,包括分类器和辅助控制模块;其中,分类器包括输入控制模块、忆阻器阵列、字线控制模块、比较模块和输出缓存模块;本发明利用球形数据的原生优势,在数据模长为“1”时,将数据之间的距离等价转化为向量之间的点乘结果,并将数据距离计算的过程映射到忆阻器阵列中,利用忆阻器阵列高效的乘加操作,实现并行的数据距离计算的过程,极大的简化了距离计算的复杂性,计算复杂度低。且与传统的非单位化数据的聚类过程相比,可以在硬件电路上实现数据之间距离的完整计算与表达,能够更加精准的刻画数据之间的距离特征,保证聚类结果的精度。
Description
技术领域
本发明属于数据挖掘与数据分析领域,更具体地,涉及一种基于忆阻器阵列的球形数据分类装置及其操作方法。
背景技术
数据聚类以其快速、有效的特点在数据挖掘、数据分析等领域具有十分重要的作用。以K-means为代表的聚类算法通常是利用增大内间间距减小类内间距的原则来实现聚类过程,数据之间的距离度量方法包含余弦距离、欧式距离等。伴随着互联网技术的普及,数据的维度急剧增大,利用传统冯诺依曼构架计算数据之间的距离所带来的巨大的时间和功耗的消耗已经成为限制数据聚类过程的主要瓶颈。忆阻器作为一种新兴的存储器件,其交叉杆阵列结构可以通过欧姆定律和基尔霍夫定律实现高效、并行的矩阵向量乘法的过程,被认为是有望突破冯诺依曼构架的有效候选者之一。通过忆阻器阵列可以极大的加速数据之间的距离计算过程,并进一步的加速数据聚类的过程。特别地,现有的一些研究中,基于欧氏距离的数据聚类算法以及硬件数据分类器已经表现出良好的效果。
对于模长为“1”的单位向量,其在高维数据空间中分布在半径为“1”的超球体表面上,故被称为球形数据。作为一种通用的数据预处理方式,球形数据通常是通过自然界中获取的原始数据经过数据预处理的过程得到,例如在自然语言处理过程中得到的TF-IDF方法得到的特征向量等。球形数据的聚类过程利用竞争学习网络算法,能够主动发掘数据之间的内在联系,实现数据的特征学习并完成分类的过程。该算法表现出算法简单、数据处理能力强、收敛速度快、可调参数少等优势,并在自然语言处理、数据推荐系统等领域表现出巨大的应用前景。与传统K-means聚类算法类似,球形数据聚类的核心是通过计算样本数据与特征数据的样本点之间的距离,并将样本点划分到聚类最近的特征数据所表征的类别上,以达到分类的目的。特别地,针对于球形数据,数据之间的距离可以通过数据之间的点乘结果表征。但是,以应对传统非单位数据向量的距离计算方法来实现聚类的过程不能很好利用数据的本身特性,会造成更多冗余的消耗。
在现有的研究中,基于非监督的竞争学习网络实现球形数据在硬件电路上分类过程的问题主要表现在:(1)随着数据量的不断增大与数据维度的不断增长,数据之间的距离比较过程需要消耗大量的时间和能耗,分类效率较低;非单位化的数据向量在忆阻器阵列中的距离计算比较方式相对复杂,不能充分的利用球形数据本身的数据特性,进而会造成额外的计算消耗。(2)现有的基于忆阻器阵列的分类方法大多依赖于数据的在线数据计算与离线更新相配合的方式实现完整的聚类过程,缺少基于忆阻器阵列的全硬件的数据分类器和分类方法,难以形成系统级专用加速集成电路;(3)对于球形聚类算法,在数据训练过程中,需要保持聚类中心的模长保持在单位化状态,硬件电路中数据单位化的过程困难且实现复杂;(4)对于高稀疏性数据,大多数数据的值都为0值,利用传统的欧氏距离表征不能够很好的区分数据之间的差异,需要通过余弦距离的方式刻画数据之间的距离,利用忆阻器阵列计算数据之间的余弦距离方案尚未成熟。
综上所述,提供一种以余弦距离表征的计算复杂度低、计算速度快的球形数据分类装置及其分类方法是亟待解决的问题。
发明内容
针对现有技术的以上缺陷或改进需求,本发明提供了一种基于忆阻器阵列的球形数据分类装置及其操作方法,其目的在于解决球形数据聚类全阵列实现过程以及数据的余弦相似度表征困难、计算复杂度高的技术问题。
为实现上述目的,第一方面,本发明提供了一种基于忆阻器阵列的球形数据分类装置,包括:分类器和辅助控制模块;
辅助控制模块用于对分类器进行控制,从而依次执行初始化聚类中心操作和训练操作;训练操作包括将待分类的球形数据集中的各数据向量进行分类的过程;一次完整的训练操作表示对待分类的球形数据集中的各数据向量均完成了数据分类操作;其中,每完成一次数据分类操作后,辅助控制模块控制分类器依次执行聚类中心更新操作和归一化判断操作;归一化判断操作用于计算更新后的聚类中心的模长,并与预设阈值Wth 2进行比较;若更新后的聚类中心的模长大于预设阈值Wth 2,则辅助控制模块控制分类器执行归一化操作;
辅助控制模块还用于判断分类器是否完成了一次完整的训练操作,若未完成,则继续对分类器进行控制,对球形数据集中的待分类数据向量执行训练操作;否则,判断训练次数是否达到预设训练次数,若未达到预设训练次数,则将球形数据集中的各数据向量均标记为待分类,重新控制分类器执行训练操作;若已达到,则分类完成;
分类器包括:输入控制模块、忆阻器阵列、字线控制模块、比较模块和输出缓存模块;
输入控制模块与忆阻器阵列的列端口双向连接;字线控制模块的输出端与忆阻器阵列的行输入端连接,忆阻器阵列的行输出端与比较模块的输入端相连,比较模块的输出端与输出缓存模块的输入端相连;
执行初始化聚类中心操作时,输入控制模块用于从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到忆阻器阵列中,构成聚类中心矩阵Wk×m;其中,n为球形数据集中数据向量的个数,m为数据向量的维度;字线控制模块用于确定忆阻器阵列上各聚类中心数据向量的写入行坐标位置,并使相对应的行使能;
执行数据分类操作时,输入控制模块用于选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对数据向量Si进行编码后施加在忆阻器阵列上;忆阻器阵列用于实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到数据向量Si与各个聚类中心之间的余弦相似度,并输出到比较模块中;比较模块用于比较数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将聚类中心Cp所对应的类别标签作为数据向量Si的类别标签,输出到输出缓存模块中进行缓存;
执行聚类中心更新操作时,输入控制模块用于基于写电压对ηSi进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,将聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率。
进一步优选地,执行归一化判断操作时,字线控制模块用于选中忆阻器阵列中聚类中心Cp所在的行,反向读取聚类中心Cp所在的行中存储的数据,以聚类中心Wp的表征电流形式输出至输入控制模块;输入控制模块用于将读出的聚类中心Wp的表征电流转换为对应的聚类中心的数据向量Wp,基于读电压对数据向量Wp进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上;忆阻器阵列用于实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2,并输出到比较模块中;比较模块用于比较模长Wp 2与预设阈值Wth 2的大小。
进一步优选地,执行归一化操作时,字线控制模块用于在忆阻器阵列中聚类中心Cp所在的行施加大小为α的反向读信号,得到数据向量αWp的表征电流,并输出至输入控制模块,其中,ε为常数调整因子;输入控制模块用于将数据向量αWp的表征电流转换为对应的数据向量αWp,并基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,完成对聚类中心Cp的数据向量Wp的归一化操作,此时将Wp更新为αWp,即Wp=αWp。
进一步优选地,上述输入控制模块包括:数据输入单元、第一缓存单元和数据转换单元;
数据输入单元的输出端与第一缓存单元的输入端相连,第一缓存单元的输出端与数据转换单元的输入端相连,数据转换单元的输入端与数据输入单元的输入端相连;第一缓存单元与忆阻器阵列的列端口双向连接;
数据输入单元用于将需要写入忆阻器阵列的数据基于写电压进行编码后,缓存在第一缓存单元,并在上述字线控制模块行选中操作的控制下,写入到忆阻器阵列中;还用于将需要与忆阻器阵列中所储存的数据进行运算的数据基于读电压进行编码后,缓存在第一缓存单元,并在上述字线控制模块行选中操作的控制下,输入到忆阻器阵列中;
第一缓存单元用于缓存数据输入单元输入的数据;还用于缓存字线控制模块反向读取的忆阻器阵列中所存储数据的表征电流数据,并输出到数据转换单元中;
数据转换单元用于将第一缓存单元输入的表征电流转化为原始忆阻器阵列中所存储的实际数据,并输出至数据输入单元。
进一步优选地,比较模块包括:第二缓存单元、模式开关和数据比较电路;第二缓存单元和模式开关的输出端均与数据比较电路的输入端相连;第二缓存单元的输入端与忆阻器阵列的行输出端相连;数据比较电路的输出端与输出缓存模块的输入端相连;
第二缓存单元用于缓存来自忆阻器阵列的余弦相似度数据或聚类中心的模长数据,并输出到数据比较电路中;
模式开关用于控制比较模块的比较模式;当输入到数据比较电路的数据为余弦相似度数据时,将比较模式切换为距离比较模式,控制数据比较电路比较并获取最大余弦相似度及其所对应的聚类中心,并将最大相似度对应的标签保存于输出缓存模块中;当输入到数据比较电路的数据为聚类中心的模长数据时,将比较模式切换为更新比较模式,用于比较模长数据与预设阈值Wth 2的大小。
进一步优选地,上述忆阻器阵列为具有交叉杆结构的二维拓扑结构;构成忆阻器阵列结构的节点单元为具有模拟电导特性的非易失性存储器件,包括阻变存储器、相变存储器、铁电存储器、磁存储器或非易失晶体管器件;其中,模拟电导特性是指可以通过外部信号控制实现忆阻器节点的电导值连续多阶可调制的特性。
第二方面,本发明提供了上述基于忆阻器阵列的球形数据分类装置的操作方法,包括以下步骤:
S1、从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到忆阻器阵列中,构成聚类中心矩阵Wk×m;其中,m为数据向量的维度;
S2、选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对数据向量Si进行编码后施加在忆阻器阵列上,实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到数据向量Si与各个聚类中心之间的余弦相似度;
S3、比较数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将聚类中心Cp所对应的类别标签作为数据向量Si的类别标签;
S4、基于写电压对ηSi进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,将聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率;
S5、计算聚类中心Cp的模长Wp 2,并与预设阈值Wth 2的大小;若大于,则对聚类中心Cp的数据向量Wp进行归一化;
S6、判断上述待分类的球形数据集中的各数据向量是否全部分类完毕;若未全部分类完毕,则转至步骤S2;否则,判定为完成了一次训练,转至步骤S7;
S7、判断训练次数是否达到预设训练次数;若未达到,则将球形数据集中的各数据向量均标记为待分类,转至步骤S2;否则,判定为分类完成。
进一步优选地,计算聚类中心Cp的模长Wp 2的方法包括:
反向读取聚类中心Cp所在的行存储的数据,得到聚类中心Wp的表征电流,并对该表征电流进行转换后得到聚类中心的数据向量Wp;
基于读电压对数据向量Wp进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2。
进一步优选地,对聚类中心Cp的数据向量Wp进行归一化的方法包括:
在忆阻器阵列中聚类中心Cp所在的行施加α的反向读信号,得到数据向量αWp的表征电流,并对该表征电流进行转换后得到数据向量αWp;其中,ε为常数调整因子;
基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,即完成对聚类中心Cp的数据向量Wp进行归一化的过程,此时将Wp更新为αWp,即Wp=αWp。
总体而言,通过本发明所构思的以上技术方案与现有技术相比,能够取得下列有益效果:
1、本发明提供了一种基于忆阻器阵列的球形数据分类装置及其操作方法,利用了球形数据的原生优势,在数据模长为“1”时,将数据之间的距离等价转化为向量之间的点乘结果,并将数据距离计算的过程映射到忆阻器阵列中,利用忆阻器阵列高效的乘加操作,实现并行的数据距离计算的过程,极大的简化了距离计算的复杂性,计算复杂度低。
2、本发明所提供的一种基于忆阻器阵列的球形数据分类装置及其操作方法,与传统的非单位化数据的聚类过程相比,可以在硬件电路上实现数据之间距离的完整计算与表达,能够更加精准的刻画数据之间的距离特征,保证聚类结果的精度。
3、本发明提供了一种在硬件电路上快速实现球形数据聚类的方案,该方案利用无监督的竞争神经网络的特性,将数据的距离计算、对比过程和网络权重的更新过程利用忆阻器阵列和少量的外部电路进行实现,实现了全硬件的球形数据的分类过程。整体上来看,由于忆阻器阵列的高效、高密度以及存算一体化特性,使得本发明的电路尺寸更小、计算效率更高、能量消耗更低。
4、本发明提供了一种在忆阻器阵列上实现数据向量归一化的方法,该方法利用数据近似与阈值比较的方式将需要大量外部电路实现的除法过程转化至忆阻器阵列上实现,在不牺牲数据聚类精度的情况下,极大的简化了在数据聚类过程中的硬件电路结构,并且可用于简化其他算法在阵列中的数据求模的过程。
5、本发明提供了一种在忆阻器阵列上实现向量之间的余弦相似度的硬件电路解决方案,该方案可用于弥补现有聚类方法下,利用欧式距离进行距离表征带来的缺陷。更进一步的,该方案适用于高维稀疏向量之间的距离刻画过程,并在商业化的数据推荐系统、搜索引擎等方面应用前景广泛。
附图说明
图1是本发明实施例1所提供的基于忆阻器阵列的球形数据分类装置的结构示意图;
图2是本发明实施例1所提供的分类器的结构示意图;
图3是本发明实施例2所提供的传统的数据聚类方法的操作流程图;
图4是本发明实施例2所提供的在基于忆阻器阵列的球形数据分类装置上实现数据聚类的操作流程图;
图5是本发明实施例2所提供的在忆阻器阵列中计算数据模长的过程示意图;其中,(a)为反向读取忆阻器阵列的第p行存储的数据的示意图;(b)为将数据Wp输入至忆阻器阵列进行点乘运算的过程示意图;
图6是本发明实施例2所提供的在忆阻器阵列中实现数据归一化的过程示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
实施例1、
一种基于忆阻器阵列的球形数据分类装置,包括:分类器和辅助控制模块;
辅助控制模块用于对分类器进行控制,从而依次执行初始化聚类中心操作和训练操作;训练操作包括将待分类的球形数据集中的各数据向量进行分类的过程;一次完整的训练操作表示对待分类的球形数据集中的各数据向量均完成了数据分类操作;其中,每完成一次数据分类操作后,辅助控制模块控制分类器依次执行聚类中心更新操作和归一化判断操作;归一化判断操作用于计算更新后的聚类中心的模长,并与预设阈值Wth 2进行比较;若更新后的聚类中心的模长大于预设阈值Wth 2,则辅助控制模块控制分类器执行归一化操作;
辅助控制模块还用于判断分类器是否完成了一次完整的训练操作,若未完成,则继续对分类器进行控制,对球形数据集中的待分类数据向量执行训练操作;否则,判断训练次数是否达到预设训练次数,若未达到预设训练次数,则将球形数据集中的各数据向量均标记为待分类,重新控制分类器执行训练操作;若已达到,则分类完成;
具体的,分类器的结构示意图如图1所示,包括:输入控制模块1、忆阻器阵列2、字线控制模块3、比较模块4和输出缓存模块5;
其中,输入控制模块1与忆阻器阵列2的列端口双向连接;字线控制模块3的输出端与忆阻器阵列2的行输入端连接,忆阻器阵列2的行输出端与比较模块4的输入端相连,比较模块4的输出端与输出缓存模块5的输入端相连;
执行初始化聚类中心操作时,输入控制模块1用于从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到忆阻器阵列2中,构成聚类中心矩阵Wk×m;其中,m为数据向量的维度;字线控制模块3用于确定忆阻器阵列2上各聚类中心数据向量的写入位置,并使相对应的行使能;
执行数据分类操作时,输入控制模块1用于选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对数据向量Si进行编码后施加在忆阻器阵列2上;忆阻器阵列2用于实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到数据向量Si与各个聚类中心之间的余弦相似度(利用了球形数据的原生优势,数据向量的模长为“1”),并输出到比较模块4中;比较模块4用于比较数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将聚类中心Cp所对应的类别标签作为数据向量Si的类别标签,输出到输出缓存模块5中进行缓存;输出缓存模块5用于临时存储在聚类过程中的临时聚类标签,并将最后的聚类结果输出;
执行聚类中心更新操作时,输入控制模块1用于基于写电压对ηSi进行编码后施加在忆阻器阵列2中聚类中心Cp所在的行上,将聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率。
具体的,执行归一化判断操作时,字线控制模块用于选中忆阻器阵列中聚类中心Cp所在的行,反向读取聚类中心Cp所在的行中存储的数据,以聚类中心Wp的表征电流形式输出至输入控制模块;输入控制模块用于将读出的聚类中心Wp的表征电流转换为对应的聚类中心的数据向量Wp,基于读电压对数据向量Wp进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上;忆阻器阵列用于实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2,并输出到比较模块中;比较模块用于比较模长Wp 2与预设阈值Wth 2的大小。
执行归一化操作时,字线控制模块用于在忆阻器阵列中聚类中心Cp所在的行施加大小为α的反向读信号,得到数据向量αWp的表征电流,并输出至输入控制模块,其中,ε为常数调整因子;输入控制模块用于将数据向量αWp的表征电流转换为对应的数据向量αWp,并基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,完成对聚类中心Cp的数据向量Wp的归一化操作,此时将Wp更新为αWp,即Wp=αWp。
在上述过程中,本发明中字线控制模块3用于实现阵列行选中操作以及向忆阻器阵列2施加反向读取电压信号。具体而言,阵列行选中操作用于在忆阻器阵列2写入时确定写入位置的行坐标,并使相对应的阵列行使能;反向读取过程将选中忆阻器阵列2某一行并通过施加适当的读信号将其对应的数值读出,反向读出的数值对应存储于第一缓存模块12中。
进一步地,如图2所示,本实施例中,输入控制模块1包括:数据输入单元11、第一缓存单元12和数据转换单元13;
其中,数据输入单元11的输出端与第一缓存单元12的输入端相连,第一缓存单元12的输出端与数据转换单元13的输入端相连,数据转换单元13的输入端与数据输入单元11的输入端相连;第一缓存单元12与忆阻器阵列2的列端口双向连接;
数据输入单元11用于将需要写入忆阻器阵列2的数据基于写电压进行编码后,缓存在第一缓存单元12,并在上述字线控制模块3行选中操作的控制下,写入到忆阻器阵列2中;还用于将需要与忆阻器阵列2中所储存的数据进行运算的数据基于读电压进行编码后,缓存在第一缓存单元12,并在上述字线控制模块3行选中操作的控制下,输入到忆阻器阵列2中;具体而言,数据输入单元11主要包含两个功能,一是将需要写入忆阻器阵列的数据,利用写电压进行编码,将编码后的电压保存在第一缓存单元12中,并配合字线控制模块3的行选中过程,将需要写入的数据写入到忆阻器阵列2中;二是将需要与忆阻器阵列运算进行读取操作的数据进行读电压编码,然后将编码的数据保存在第一缓存单元12;需要说明的是,通过字线控制模块3控制选中的行,可以通过忆阻器阵列2一次读出一行或者多行的数据。其中,进行读编码的信号为具有相同脉冲宽度的利用电压脉冲幅度进行编码的电压信号;进行写编码的信号为与忆阻器单元连续电导调控特性相关的电压信号。
第一缓存单元12用于缓存数据输入单元11输入的数据;还用于缓存字线控制模块3反向读取的忆阻器阵列2中所存储数据的表征电流数据,并输出到数据转换单元13中;具体而言,第一缓存单元12首先保存来自数据输入单元11经过读写编码后的电压信号,并将其输入到忆阻器阵列2中;另一方面,字线控制单元3经过忆阻器阵列2反向读出的电流值也临时存储于第一缓存单元12。
数据转换单元13用于将第一缓存单元12输入的表征电流转化为原始忆阻器阵列中所存储的数据,并输出至数据输入单元11。
进一步地,比较模块4包括:第二缓存单元41、模式开关43和数据比较电路42;第二缓存单元41和模式开关43的输出端均与数据比较电路42的输入端相连;第二缓存单元41的输入端与忆阻器阵列2的行输出端相连;数据比较电路42的输出端与输出缓存模块5的输入端相连;
第二缓存单元41用于缓存来自忆阻器阵列2的余弦相似度数据或聚类中心的模长数据,并输出到数据比较电路42中;
模式开关43用于控制比较模块4的比较模式;本实施例中比较模块4具有两种可控的比较模式。当输入到数据比较电路42的数据为余弦相似度数据时,将比较模式切换为距离比较模式,控制数据比较电路42比较并获取最大余弦相似度及其所对应的聚类中心,并将大相似度对应的标签保存于输出缓存模块5中;当输入到数据比较电路42的数据为聚类中心的模长数据时,将比较模式切换为更新比较模式,用于比较模长数据与预设阈值Wth 2的大小,以进一步判断忆阻器阵列2中聚类中心的权重值是否需要单位化更新。
需要进一步说明的是,忆阻器阵列2为具有交叉杆结构的二维拓扑结构,且受输入控制模块1和字线控制模块3控制。构成忆阻器阵列结构的节点单元为具有模拟电导特性的非易失性存储器件,包括但不限于阻变存储器、相变存储器、铁电存储器、磁存储器、非易失晶体管器件等。其中模拟电导特性是指可以通过外部信号控制实现忆阻器节点的电导值连续多阶可调制的特性。
进一步的,由于输入信号的大小以及信号的流向的不同,忆阻器阵列2有三种工作模式。一是数据写入模式,即经过输入控制模块1进行写编码的数据被写入到忆阻器阵列2中的指定位置,对应的数据被保存为忆阻器节点的电导值,通过字线控制模块3和输入控制模块1的联合控制和选择,可以将数据写入至忆阻器阵列3的某一行的一个或者多个忆阻器节点;二是正向读出过程,即经过输入控制模块1进行读编码的数据电压与忆阻器阵列2电导进行运算后,产生的结果电流流向比较模块5的正向读出过程,通过字线控制模块3给忆阻器阵列2的一行或者多行施加使能电压,可以一次实现一行或者多行数据的读出,进一步的正向读出的过程实际上是输入向量与存储在忆阻器阵列2中的被选中向量点乘的计算过程;三是反向读出过程,即经过字线控制模块3选中需要读取的忆阻器阵列2中的某一行的数据并进行数据读出,反向读出的数据经过保存在输入控制模块1中的第一缓存单元12中。
实施例2、
实施例1中基于忆阻器阵列的球形数据分类装置的操作方法;
在详细介绍本发明所提供的球形数据分类装置的操作方法之前,先对传统的球形数据聚类方法进行分析,如图3所示为传统的球形数据聚类方法的操作流程图。该聚类网络训练的目的是训练得到一组聚类中心使得所有的样本通过比较与聚类中心之间的距离实现类别划分的过程。其主要过程包括,随机选取k个向量作为聚类中心然后依次计算输入向量与聚类中心之间的距离,然后将该输入向量划分到距离近的聚类中心所对应的类别,并实现聚类中心的更新过程,直到整个聚类过程收敛。这里的k是算法的超参数,表示需要聚类的类别数。
而本发明所设计的基于忆阻器阵列的球形数据分类装置的操作方法,如图4所示,具体包含以下步骤:
S1、从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量(每一个数据向量具有m个属性维度)作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到忆阻器阵列中,构成聚类中心矩阵Wk×m;
具体的,通过字线控制模块4每次选中阵列的一行,依次将k个选择的聚类中心经过输入控制模块1进行写电压编码写入到阵列中;本实施例中,忆阻器阵列的大小应当为k*m;写入完成后忆阻器阵列2的每一行的忆阻器节点存储并表征着一个聚类中心。
S2、选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对数据向量Si进行编码后施加在忆阻器阵列上,实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到数据向量Si与各个聚类中心之间的余弦相似度;
具体的,输入的读数据向量经过读电压编码为具有不同脉冲幅度的电压值,当施加在忆阻器阵列2上时,在输出端将得到k个电流值,该电流值遵守欧姆定律和基尔霍夫定律,表征着输入向量与聚类中心矩阵Wk×m之间的矩阵点乘结果;进一步的,该点乘结果表征输入向量与各个聚类中心之间的余弦相似度。
S3、比较数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将聚类中心Cp所对应的类别标签作为数据向量Si的类别标签;
具体的,设置比较单元模式开关43的比较状态为距离比较的模式,将第二缓存单元41中临时存储的点乘结果输入到数据比较电路42中进行数据比较。
S4、基于写电压对ηSi进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,将聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率;通过将ηSi编码为写电压,利用忆阻器阵列的非易失特性,将更新的数据增量添加至被选中忆阻器阵列的第p行中实现数据的更新过程。
S5、计算聚类中心Cp的模长Wp 2,并与预设阈值Wth 2的大小;若大于,则对聚类中心Cp的数据向量Wp进行归一化;
需要说明的是,为保证输入数据与数据聚类中心之间的向量点乘结果能够表征两者之间的余弦距离,聚类中心Cp更新后应当仍然具有球形数据(或者近似球形数据)的特征,因此需要判断Cp是否需要进行归一化操作;在传统方法下每一次中心向量完成更新后都应该做归一化处理,但是数据归一化的过程需要用忆阻器阵列中存储的数据向量除以其模长并实现原位更新,该过程涉及到数据开平方的过程,利用硬件电路难以实现。因此本工作中通过将存储的数据向量的模长近似为一个固定阈值,当向量的模长小于阈值时,认为聚类中心的更新造成的模长改变较小,对于余弦相似度的计算结果影响较小;而当存储的向量模长大于阈值时,认为该向量的模长变化较大,需要进行归一化。应当注意的是,存储的聚类中心的变化幅度是由学习率确定的,即每次变化的向量模长与学习率相当,当学习率较小时,存储的聚类中心向量的模长不会出现较大幅度的突变,因此认为该方法是可靠的。
具体的,计算聚类中心Cp的模长Wp 2的方法包括:
反向读取聚类中心Cp所在的行存储的数据,得到聚类中心Wp的表征电流,并对该表征电流进行转换后得到聚类中心的数据向量Wp;
基于读电压对数据向量Wp进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2。
具体的,如图5中的(a)图所示,通过字线控制模块3选中忆阻器阵列的第p行(即聚类中心Cp所在的行),并反向读取其存储的数据至第一缓存单元12,并进一步的输入数据转换单元13,得到忆阻器阵列2中第p行存储的实际数据值Wp,然后再将获取的实际数据Wp通过数据转换单元13输入到数据输入单元11进行正向读取,经过忆阻器阵列2的矩阵向量乘法的运算过程,在第p行的数据输出端即可得到Wp 2,如图5中的(b)图所示。此时将比较模块4的模式开关53设置为阈值比较模式,即可用于比较更新的聚类中心的模长Wp 2和预设阈值Wth 2。
进一步地,如图6所示,对聚类中心Cp的数据向量Wp进行归一化的方法包括:
通过字线控制模块3在忆阻器阵列中聚类中心Cp所在的行施加大小为α的反向读信号,即可在第一缓存单元得到数据向量αWp的表征电流,经过数据转换单元将αWp的表征电流转换为实际的数据值(数据向量αWp)输入到数据输入单元11中;其中,ε为一个较小的常数调整因子,用于保证训练过程中Wp能够收敛。通常情况下,||Wth||可以取值在1.1左右,实际操作中ε应该不大于学习率的取值。
利用数据输入单元11对基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,即完成了对聚类中心Cp的数据向量Wp的归一化操作,此时将Wp更新为αWp,即Wp=αWp。
S6、判断上述待分类的球形数据集中的各数据向量是否全部分类完毕;若未全部分类完毕,则转至步骤S2;否则,判定为完成了一次训练,转至步骤S7;
S7、判断训练次数是否达到预设训练次数(一般设置在10-20左右);若未达到,则将球形数据集中的各数据向量均标记为待分类,转至步骤S2;否则,判定为分类完成。
本发明提出的一种基于忆阻器阵列的球形数据分类装置及其操作方法,利用传统K-means算法的核心思想和竞争学习的网络构架,将聚类中心当作训练的权重,映射并保存在忆阻器阵列中,创造性的提出了一种在忆阻器阵列中实现存储向量单位化的方法,该方法可用于球形数据在硬件平台上聚类实现的在线训练过程,进一步的本发明提出的在利用忆阻器阵列计算向量之间的余弦相似度的方法对于在高维空间上的稀疏向量的相似对比问题具有很高的参考价值。本发明结合忆阻器阵列极大的加快了在数据向量之间的距离计算过程,并且实现了完整的球形数据聚类的硬件电路设计,与传统方法相比,本发明提出的基于忆阻器阵列的球形数据分类装置及其操作方法具有显著的功耗和时间上的优势,在自然语言处理系统、数据推荐系统等领域具有重要的应用价值。
本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.一种基于忆阻器阵列的球形数据分类装置,其特征在于,包括:分类器和辅助控制模块;
所述辅助控制模块用于对所述分类器进行控制,从而依次执行初始化聚类中心操作和训练操作;所述训练操作包括将待分类的球形数据集中的各数据向量进行分类的过程;一次完整的训练操作表示对待分类的球形数据集中的各数据向量均完成了数据分类操作;其中,每完成一次数据分类操作后,所述辅助控制模块控制分类器依次执行聚类中心更新操作和归一化判断操作;所述归一化判断操作用于计算更新后的聚类中心的模长,并与预设阈值Wth 2进行比较;若更新后的聚类中心的模长大于预设阈值Wth 2,则辅助控制模块控制分类器执行归一化操作;
所述辅助控制模块还用于判断所述分类器是否完成了一次完整的训练操作,若未完成,则继续对所述分类器进行控制,对球形数据集中的待分类数据向量执行训练操作;否则,判断训练次数是否达到预设训练次数,若未达到预设训练次数,则将球形数据集中的各数据向量均标记为待分类,重新控制分类器执行训练操作;若已达到,则分类完成;
所述分类器包括:输入控制模块、忆阻器阵列、字线控制模块、比较模块和输出缓存模块;
所述输入控制模块与所述忆阻器阵列的列端口双向连接;所述字线控制模块的输出端与所述忆阻器阵列的行输入端连接,所述忆阻器阵列的行输出端与所述比较模块的输入端相连,所述比较模块的输出端与所述输出缓存模块的输入端相连;
执行所述初始化聚类中心操作时,所述输入控制模块用于从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到所述忆阻器阵列中,构成聚类中心矩阵Wk×m;其中,n为球形数据集中数据向量的个数,m为数据向量的维度;所述字线控制模块用于确定忆阻器阵列上各聚类中心数据向量的写入行坐标位置,并使相对应的行使能;
执行所述数据分类操作时,所述输入控制模块用于选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对数据向量Si进行编码后施加在所述忆阻器阵列上;所述忆阻器阵列用于实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到数据向量Si与各个聚类中心之间的余弦相似度,并输出到所述比较模块中;所述比较模块用于比较数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将聚类中心Cp所对应的类别标签作为数据向量Si的类别标签,输出到所述输出缓存模块中进行缓存;
执行所述聚类中心更新操作时,所述输入控制模块用于基于写电压对ηSi进行编码后施加在所述忆阻器阵列中聚类中心Cp所在的行上,将聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率。
2.根据权利要求1所述的球形数据分类装置,其特征在于,执行所述归一化判断操作时,所述字线控制模块用于选中所述忆阻器阵列中聚类中心Cp所在的行,反向读取聚类中心Cp所在的行中存储的数据,以聚类中心Wp的表征电流形式输出至所述输入控制模块;所述输入控制模块用于将读出的聚类中心Wp的表征电流转换为对应的聚类中心的数据向量Wp,基于读电压对数据向量Wp进行编码后施加在所述忆阻器阵列中聚类中心Cp所在的行上;所述忆阻器阵列用于实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2,并输出到所述比较模块中;所述比较模块用于比较模长Wp 2与预设阈值Wth 2的大小。
3.根据权利要求1或2所述的球形数据分类装置,其特征在于,执行所述归一化操作时,所述字线控制模块用于在所述忆阻器阵列中聚类中心Cp所在的行施加大小为α的反向读信号,得到数据向量αWp的表征电流,并输出至输入控制模块,其中,ε为常数调整因子;所述输入控制模块用于将数据向量αWp的表征电流转换为对应的数据向量αWp,并基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,完成对聚类中心Cp的数据向量Wp的归一化操作,此时将Wp更新为αWp,即Wp=αWp。
4.根据权利要求3所述的球形数据分类装置,其特征在于,所述输入控制模块包括:数据输入单元、第一缓存单元和数据转换单元;
所述数据输入单元的输出端与所述第一缓存单元的输入端相连,所述第一缓存单元的输出端与所述数据转换单元的输入端相连,所述数据转换单元的输入端与所述数据输入单元的输入端相连;所述第一缓存单元与所述忆阻器阵列的列端口双向连接;
所述数据输入单元用于将需要写入所述忆阻器阵列的数据基于写电压进行编码后,缓存在所述第一缓存单元,并在所述字线控制模块行选中操作的控制下,写入到所述忆阻器阵列中;还用于将需要与忆阻器阵列中所储存的数据进行运算的数据基于读电压进行编码后,缓存在所述第一缓存单元,并在所述字线控制模块行选中操作的控制下,输入到所述忆阻器阵列中;
所述第一缓存单元用于缓存数据输入单元输入的数据;还用于缓存所述字线控制模块反向读取的忆阻器阵列中所存储数据的表征电流数据,并输出到所述数据转换单元中;
所述数据转换单元用于将所述第一缓存单元输入的表征电流转化为原始忆阻器阵列中所存储的实际数据,并输出至所述数据输入单元。
5.根据权利要求3所述的球形数据分类装置,其特征在于,所述比较模块包括:第二缓存单元、模式开关和数据比较电路;所述第二缓存单元和所述模式开关的输出端均与所述数据比较电路的输入端相连;所述第二缓存单元的输入端与所述忆阻器阵列的行输出端相连;所述数据比较电路的输出端与所述输出缓存模块的输入端相连;
所述第二缓存单元用于缓存来自所述忆阻器阵列的余弦相似度数据或聚类中心的模长数据,并输出到所述数据比较电路中;
所述模式开关用于控制所述比较模块的比较模式;当输入到所述数据比较电路的数据为余弦相似度数据时,将比较模式切换为距离比较模式,控制所述数据比较电路比较并获取最大余弦相似度及其所对应的聚类中心,并将最大相似度对应的标签保存于输出缓存模块中;当输入到数据比较电路的数据为聚类中心的模长数据时,将比较模式切换为更新比较模式,用于比较模长数据与预设阈值Wth 2的大小。
6.根据权利要求1所述的球形数据分类装置,其特征在于,所述忆阻器阵列为具有交叉杆结构的二维拓扑结构;构成所述忆阻器阵列结构的节点单元为具有模拟电导特性的非易失性存储器件,包括阻变存储器、相变存储器、铁电存储器、磁存储器或非易失晶体管器件;其中,模拟电导特性是指可以通过外部信号控制实现忆阻器节点的电导值连续多阶可调制的特性。
7.权利要求1-6任意一项所述的基于忆阻器阵列的球形数据分类装置的操作方法,其特征在于,包括以下步骤:
S1、从待分类的球形数据集S={S1,S2,…,Sn}中随机选择k个数据向量作为聚类中心,基于写电压对各聚类中心的数据向量进行编码后,将各聚类中心的数据向量写入到忆阻器阵列中,构成聚类中心矩阵Wk×m;其中,n为球形数据集中数据向量的个数,m为数据向量的维度;
S2、选取待分类的球形数据集中的一个待分类数据向量Si,i∈{1,...,n};基于读电压对所述数据向量Si进行编码后施加在忆阻器阵列上,实现数据向量Si与聚类中心矩阵Wk×m的向量矩阵点乘运算,得到所述数据向量Si与各个聚类中心之间的余弦相似度;
S3、比较所述数据向量Si与各个聚类中心之间的余弦相似度,得到最大余弦相似度所对应的聚类中心Cp,其数据向量为Wp,将所述聚类中心Cp所对应的类别标签作为数据向量Si的类别标签;
S4、基于写电压对ηSi进行编码后施加在忆阻器阵列中所述聚类中心Cp所在的行上,将所述聚类中心Cp的数据向量Wp更新为Wp+ηSi,即Wp=Wp+ηSi;其中,η为学习率;
S5、计算聚类中心Cp的模长Wp 2,并与预设阈值Wth 2的大小;若大于,则对聚类中心Cp的数据向量Wp进行归一化;
S6、判断所述待分类的球形数据集中的各数据向量是否全部分类完毕;若未全部分类完毕,则转至步骤S2;否则,判定为完成了一次训练,转至步骤S7;
S7、判断训练次数是否达到预设训练次数;若未达到,则将球形数据集中的各数据向量均标记为待分类,转至步骤S2;否则,判定为分类完成。
8.根据权利要求7所述的球形数据分类装置的操作方法,其特征在于,计算聚类中心Cp的模长Wp 2的方法包括:
反向读取聚类中心Cp所在的行存储的数据,得到聚类中心Wp的表征电流,并对该表征电流进行转换后得到聚类中心的数据向量Wp;
基于读电压对数据向量Wp进行编码后施加在忆阻器阵列中聚类中心Cp所在的行上,实现数据向量Wp与数据向量Wp的点乘运算,得到聚类中心Cp的模长Wp 2。
9.根据权利要求7所述的球形数据分类装置的操作方法,其特征在于,对聚类中心Cp的数据向量Wp进行归一化的方法包括:
在忆阻器阵列中聚类中心Cp所在的行施加α的反向读信号,得到数据向量αWp的表征电流,并对该表征电流进行转换后得到数据向量αWp;其中,ε为常数调整因子;
基于写电压对数据向量αWp进行编码后,将数据向量αWp写入到忆阻器阵列中聚类中心Cp所在的行上,即完成对聚类中心Cp的数据向量Wp进行归一化的过程,此时将Wp更新为αWp,即Wp=αWp。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110037230.5A CN112819036B (zh) | 2021-01-12 | 2021-01-12 | 一种基于忆阻器阵列的球形数据分类装置及其操作方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110037230.5A CN112819036B (zh) | 2021-01-12 | 2021-01-12 | 一种基于忆阻器阵列的球形数据分类装置及其操作方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112819036A CN112819036A (zh) | 2021-05-18 |
CN112819036B true CN112819036B (zh) | 2024-03-19 |
Family
ID=75868908
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110037230.5A Active CN112819036B (zh) | 2021-01-12 | 2021-01-12 | 一种基于忆阻器阵列的球形数据分类装置及其操作方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112819036B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020052342A1 (zh) * | 2018-09-11 | 2020-03-19 | 华中科技大学 | 一种基于非易失存储器的卷积神经网络片上学习系统 |
CN111027619A (zh) * | 2019-12-09 | 2020-04-17 | 华中科技大学 | 一种基于忆阻器阵列的K-means分类器及其分类方法 |
CN111626346A (zh) * | 2020-05-15 | 2020-09-04 | 安徽江淮汽车集团股份有限公司 | 数据分类方法、设备、存储介质及装置 |
CN112183739A (zh) * | 2020-11-02 | 2021-01-05 | 中国科学技术大学 | 基于忆阻器的低功耗脉冲卷积神经网络的硬件架构 |
-
2021
- 2021-01-12 CN CN202110037230.5A patent/CN112819036B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020052342A1 (zh) * | 2018-09-11 | 2020-03-19 | 华中科技大学 | 一种基于非易失存储器的卷积神经网络片上学习系统 |
CN111027619A (zh) * | 2019-12-09 | 2020-04-17 | 华中科技大学 | 一种基于忆阻器阵列的K-means分类器及其分类方法 |
CN111626346A (zh) * | 2020-05-15 | 2020-09-04 | 安徽江淮汽车集团股份有限公司 | 数据分类方法、设备、存储介质及装置 |
CN112183739A (zh) * | 2020-11-02 | 2021-01-05 | 中国科学技术大学 | 基于忆阻器的低功耗脉冲卷积神经网络的硬件架构 |
Non-Patent Citations (1)
Title |
---|
基于忆阻器交叉阵列的卷积神经网络电路设计;胡飞;尤志强;刘鹏;邝继顺;;计算机研究与发展;20180515(05);第207-217页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112819036A (zh) | 2021-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109460817B (zh) | 一种基于非易失存储器的卷积神经网络片上学习系统 | |
CN111027619B (zh) | 一种基于忆阻器阵列的K-means分类器及其分类方法 | |
Novikov et al. | Tensorizing neural networks | |
Passalis et al. | Neural bag-of-features learning | |
Ankit et al. | TraNNsformer: Neural network transformation for memristive crossbar based neuromorphic system design | |
CN111143567B (zh) | 一种基于改进神经网络的评论情感分析方法 | |
Xiang et al. | Incremental few-shot learning for pedestrian attribute recognition | |
US20220083848A1 (en) | Arithmetic device, computer system, and arithmetic method | |
CN111984791B (zh) | 一种基于注意力机制的长文分类方法 | |
Ran et al. | Stable and compact design of Memristive GoogLeNet neural network | |
CN113496277A (zh) | 用于检索图像的神经网络装置及其操作方法 | |
Andrade et al. | Overview of the state of the art in embedded machine learning | |
Zhang et al. | Modulated convolutional networks | |
Chen | PUFFIN: an efficient DNN training accelerator for direct feedback alignment in FeFET | |
Ma et al. | Deep progressive asymmetric quantization based on causal intervention for fine-grained image retrieval | |
Ran et al. | Compact and stable memristive visual geometry group neural network | |
CN112819036B (zh) | 一种基于忆阻器阵列的球形数据分类装置及其操作方法 | |
Du et al. | Towards efficient neural networks on-a-chip: Joint hardware-algorithm approaches | |
Chang et al. | Face recognition based on stacked convolutional autoencoder and sparse representation | |
Rezende et al. | Kernel square-loss exemplar machines for image retrieval | |
Wang et al. | A convolutional neural network image classification based on extreme learning machine | |
Van Nguyen et al. | Comparative study on quantization-aware training of memristor crossbars for reducing inference power of neural networks at the edge | |
Xu et al. | Fsl-hd: Accelerating few-shot learning on reram using hyperdimensional computing | |
Huang et al. | Memory-efficient training with streaming dimensionality reduction | |
CN113379060A (zh) | 一种基于量子熵的量子特征选择的量子线路构造方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |