CN112433028B - 基于忆阻细胞神经网络的电子鼻气体分类方法 - Google Patents

Abstract

本发明涉及电子鼻技术领域，具体公开了一种基于忆阻细胞神经网络的电子鼻气体分类方法，在硬件层面上使用了多类嗅觉传感器阵列来获取样本数据，然后再使用具有自适应约束条件的忆阻细胞神经网络(M‑CeNN)来提取数据特征，并在此基础上，采用结合增量式量化(INQ)方案的启发式优化算法来降低硬件层面计算和存储的资源损耗并尽可能提升软件层面的分类器精度和实时性，从而达到在一定程度上提升M‑CeNN模板参数的硬件友好性并保证模板精度的效果，处理精度高且应用门槛低，可应用于边缘计算，能够满足日常生活甚至是工业级强度的应用和精度需求。

Description

基于忆阻细胞神经网络的电子鼻气体分类方法

技术领域

本发明涉及电子鼻技术领域，尤其涉及一种基于忆阻细胞神经网络的电子鼻气体分类方法。

背景技术

电子鼻是一种模拟动物嗅觉器官的技术产品，它由一系列特定的传感器和模式识别系统构成。在感官分析方面，经过长期的发展和完善，电子鼻的气体分析技术作为端侧/边缘计算智能技术的应用典范之一，得到了广泛的发展和研究。它能够取代传统依靠经验和个人嗅觉的评估方法，消除人类在判断事务上的主观性心理因素，从而能够根据事物散发的气味完成对事物的客观性评估。因此，自诞生以来，电子鼻技术就被广泛地应用于各类领域，如评估伤口感染情况、食品工程、环境控制，甚至是危险气体的浓度探测等。

但是一方面，大多电子鼻技术在数据分析和提取上采取的手段过于传统，愈发地不能适应于当代复杂的应用场景。另一方面，具有可重用性的精密仪器分析方法(如气相色谱法GC、气象色谱比气法GC-O、质谱法MS等)因为其过于昂贵的价格、过于复杂的操作手段、过于高的专业素养需求和过于严苛的预处理程序使得其难以满足日常生活的需求领域，因为这一类气体分析技术虽然具有极高的数据处理精度，但是远远无法达到人工智能端侧或边缘计算的应用强度，只能作为完备的研究平台被应用于有限的科研领域。

发明内容

本发明提供一种基于忆阻细胞神经网络的电子鼻气体分类方法，解决的技术问题在于：目前缺乏一种数据处理精度高且应用门槛低的电子鼻气体分类技术，应用于边缘计算，使得其能够满足日常生活甚至是工业级强度的应用和精度需求。

为解决以上技术问题，本发明提供一种基于忆阻细胞神经网络的电子鼻气体分类方法，包括步骤：

S1.在硬件层面上构建嗅觉传感器阵列和基于忆阻细胞神经网络的特征提取模块，在软件层面上构建分类器；

S2.基于所述嗅觉传感器阵列制作离散型数据集；

S3.采用所述离散型数据集对所述忆阻细胞神经网络和所述分类器进行训练，训练过程中采用结合增量式量化的启发式权值优化算法进行优化，在训练精度收敛的情况下，得到所述忆阻细胞神经网络的最优模板参数和所述分类器的最终结构以用于实际应用。

进一步地，在所述步骤S1中，所述忆阻细胞神经网络由M行×N列个局部互联的神经元组成，每一个神经元在预定义的邻域范围r内与邻域细胞直接互联，其中邻域尺寸为：(2r+1)²。

进一步地，每个所述神经元的电路结构包括电容、状态忆阻器、两个压控电流源，所述压控电流源的权值设置以及加权操作通过基于忆阻桥电路的人工突触结构实现，分别表示邻域细胞输入、输出对当前细胞造成的影响。

进一步地，所述忆阻细胞神经网络的模板表示为：

其中，在反馈模板A和控制模板B中，参数a,x₁,x₂,x₃,b分别代表能够自适应变化的所述忆阻细胞神经网络中神经元的权值(a,x₁,x₂,x₃,b≥0)，其约束条件为：2(x₂+x₃)+4x₁≤b,b≤8，I代表偏置电流。

进一步地，，所述步骤S3具体包括步骤：

S31.初始化分类器，与此同时，将所述忆阻细胞神经网络的模板中的参数切分为差分进化算法的空间搜索矩阵；

S32.设定所述差分进化算法的超参数；

S33.初始化所述空间搜索矩阵；

S34.开始迭代，在每一次迭代过程中，通过评估适应度函数来依次执行变异、交叉、选择操作，并使用当前模板特征提取的结果和分类器训练的结果参与到分类器的精度评估中以获得新的适应度，当适应度函数趋于收敛且达到结束条件以后，输出全局最优解，经过矩阵重构，将全局最优解转化为其对应的自适应特征提取模板；

S35.引入神经网络的量化策略对优化后的权值完成符合忆阻器精度需求的量化。

进一步地，所述步骤S35具体为：

在模板权值的精度限制范围内，将优化后的模板权值量化为整型数据，其量化公式为：

其中，X和

分别代表由差分优化算法生成的模板权值和量化后的模板权值；

代表对模板权值X向上取整后再取绝对值，模板权值X的取值范围在[2^a,2^b]和[-2^b,-2^a]之间，b和a分别代表量化的上界和下界，b-a为量化位宽；

模板权值损失度的评估公式为：

基于贪心策略，在每一轮量化完毕后评估剩余权值的量化损失，并按照量化损失的升序进行量化优先级由高到低的排序，优先级高的权值参与本轮的量化流程，经过权值共享后，剩余的权值被纳入再训练的过程，用以补偿由量化造成的精度损失，经过多次迭代后，所有的网络权值均被量化完毕，从而得到最终的忆阻细胞神经网络低精度模型。

进一步地，所述步骤S2具体包括步骤：

S21.基于不同类型的嗅觉传感器对不同化学元素的气味敏感程度不同，将所述嗅觉传感器阵列中的V个不同的嗅觉传感器视为V个独立属性，将某一时刻的V个所述嗅觉传感器所获取的电压值视为一个样本，即一个样本拥有V个属性，分别对应当前时刻下V个所述嗅觉传感器检测到的电压特征值；

S22.分别对每一个阶段的电压曲线均匀切分W次，获得W个离散的数据样本，即数据集尺寸为W×V；

S23.对P组实验的Q个阶段执行数据集重构，获得尺寸为P×Q×W×V的离散型数据集。

本发明提供的一种基于忆阻细胞神经网络的电子鼻气体分类方法，在硬件层面上使用了多类嗅觉传感器阵列来获取样本数据，然后再使用具有自适应约束条件的忆阻细胞神经网络(M-CeNN)来提取数据特征，并在此基础上，采用结合增量式量化(INQ)方案的启发式优化算法来降低硬件层面计算和存储的资源损耗并尽可能提升软件层面的分类器精度和实时性，从而达到在一定程度上提升M-CeNN模板参数的硬件友好性并保证模板精度的效果，处理精度高且应用门槛低，可应用于边缘计算，能够满足日常生活甚至是工业级强度的应用和精度需求。

附图说明

图1是本发明实施例提供的基于忆阻细胞神经网络的电子鼻气体分类方法的技术框架图；

图2是本发明实施例提供的样本1在四个阶段的不同响应曲线；

图3是本发明实施例提供的离散型数据集的划分流程图；

图4-1是本发明实施例提供的M-CeNN的拓扑结构图；

图4-2是本发明实施例提供的M-CeNN中每个神经元的电路结构图；

图5是本发明实施例提供的忆阻器桥电路的电路结构图；

图6是本发明实施例提供的实现M-CeNN单个细胞加权操作的电路示意图；

图7是本发明实施例提供的结合DE算法的M-CeNN自适应模板流程图；

图8是本发明实施例提供的M-CeNN模板权值的INQ量化流程框架图。

具体实施方式

下面结合附图具体阐明本发明的实施方式，实施例的给出仅仅是为了说明目的，并不能理解为对本发明的限定，包括附图仅供参考和说明使用，不构成对本发明专利保护范围的限制，因为在不脱离本发明精神和范围基础上，可以对本发明进行许多改变。

细胞神经网络(CeNN)是一种结合了元胞自动机和全连接神经网络特性的局部互联的非线性神经网络结构，其神经元的连接数目灵活多变，拓扑结构简单且具有可编程性，更易于在硬件层面上实现，所以，可以被广泛地应用于信号处理和模式识别等领域。但传统的模板参数大多基于公式推导，模板固定且使用了大量的放大器和乘法器，在处理复杂信号时无法根据需要自适应改变权值，难以得到较好的结果；另一方面，因为传统的CMOS工艺达到了发展的瓶颈，无法达到实现细胞神经网络VLSI(Very Large Scale Integration，超大规模集成)的条件。因此，忆阻器，作为一种新兴的第四类电气元件自被发现以来就受到了广泛关注和研究。基于此，广大学者研究设计了多种忆阻突触结构(如忆阻交叉阵列和忆阻桥电路)，这一类结构可以作为人工突触结构的候选来代替传统的乘法器和放大器，从而被广泛地应用在大规模神经态计算系统的人工智能领域(尤其是在)端侧甚至是边缘计算环节。

值得注意的是，特征提取是数据分析和模式识别的关键步骤，合理的特征提取方法能够科学地提取数据特征，从而能够提升算法的识别精度和泛化能力。传统的特征提取方法有取最大值、最小值法或积分法(比如对气体浓度的数据集进行特征提取时，最大值代表气体浓度的终态，最小值代表气体浓度的初态，而积分法则用于代表客观整体的气体浓度状态)等，很明显的是这一类方法往往过于重视数据的整体或初态/终态，容易损失很多有价值的特征信息，对数据分类有严重的局限性，泛化能力很弱。

进一步的，随着机器学习进程的发展，数据预处理和特征工程成为一门重要的科学领域。其中，针对单个特征的归一化、标准化、缺失值处理，针对多个特征的降维算法(如：主成分分析PCA、奇异值分解SVD等算法)受到了最为广泛的应用，但是这类算法只适用于一定的场景，作为特征提取环节的一个补充能够发挥有效的作用，如，PCA和SVD能够缓解维度灾难，并在压缩数据的同时让信息损失最小化，但是当数据集不服从高斯分布时，往往无法得到最优的结果。与此同时，随着计算机视觉和深度学习的发展，卷积滤波被广泛地应用于图特征提取，这种卷积滤波通过构造卷积层并结合残差结构或正则化的方法，能够有效且精确地提取数据特征并缓解维度灾难和梯度爆炸/消失等问题。

基于以上的研究现状和问题，本发明实施例设计并研发了一种高精度、低门槛的电子鼻气体分类技术，应用于边缘计算，使得其能够满足日常生活甚至是工业级强度的应用和精度需求。

本实施例设计了一款使用忆阻细胞神经网络(M-CeNN)实现卷积滤波方案进行特征提取的软-硬件协同的电子鼻气体分类方法。其中，硬件部分由一系列气体传感器和基于忆阻桥电路的CeNN组成，分别用于数据收集和M-CeNN特征提取；软件算法则由多种分类器算法构成，用于完成分类器的训练和数据分类。另外，在此基础之上，本实施例将增量式量化与启发式优化算法相结合用于优化特征提取参数和分类精度，从而实现在不断提升分类精度、补偿量化损失的同时，优化特征提取方案硬件友好度和实时性的效果。本发明主要的贡献可以总结为如下几点：

1)通过使用忆阻桥电路这一纳米级的硬件单元构建忆阻细胞神经网络，实现了特征提取方案的硬件化，充分利用忆阻细胞神经网络的纳米级属性和权值可编程性，实现轻量化的硬件集成和特征的自适应提取；

2)使用启发式优化算法完成M-CeNN模板权值和分类器超参数的训练，在M-CeNN模板权值的约束情况下，以分类器精度的不断提升为目标完成对M-CeNN模板权值和分类器的训练优化；

3)结合了INQ来提升优化算法参数硬件友好度的同时，降低M-CeNN模板的计算复杂度和资源损耗，并尽可能地避免由于量化造成的模板精度损失。

参考图1所示的技术框架，本发明实施例提供的一种基于忆阻细胞神经网络的电子鼻气体分类方法，具体包括步骤：

S1.在硬件层面上构建嗅觉传感器阵列和基于忆阻细胞神经网络的特征提取模块，在软件层面上构建分类器；

S2.基于嗅觉传感器阵列制作离散型数据集；

S3.采用离散型数据集对忆阻细胞神经网络和分类器进行训练，训练过程中采用结合增量式量化的启发式权值优化算法进行优化，在训练精度收敛的情况下，得到忆阻细胞神经网络的最优模板参数和分类器的最终结构以用于实际应用。

(1)嗅觉传感器的选取和数据集制作(步骤S2)

不同类型的嗅觉传感器对不同化学元素的气味敏感程度不同，因此，可以通过构建多类嗅觉传感器阵列的方式来构建电子鼻系统以获取不同农产品或食物的电压变化曲线。本实施例以橙汁为实验样本进行了气味分类实验的模拟仿真，用以判别等量橙汁静置于开放环境中的时长，由现有技术可知，橙汁中的化学元素可归纳为表1中的数据：

表1.橙汁的化学成分汇总

本实施例选择的针对不同气味具有不同敏感程度的嗅觉传感器如表2所示：

表2.不同气体传感器的敏感成分

本实验在相同的室内环境下(26摄氏度，40％的湿度)预制了容积为500ml的四个实验样本，每个实验样本的橙汁具有相同的化学成分。然后，使用如上所示的15类传感器并联构建传感器阵列对目标气味进行检测和数据收集，每隔15天(360小时)收集一次(收集时长为10分钟)，一共收集四次。在进行实验数据收集前，需要对传感器阵列执行时长为2小时的预热流程，预热完毕后，开始正式执行实验，执行实验的步骤为：

步骤1：将装有传感器阵列的容器暴露于纯净空气中，时长为三分钟，这一过程会排除无关因素的影响，计算机将获得15个不同的传感器基线(最小值范围)；

步骤2：将目标气体(橙汁的挥发气体)导入容器，时长为五分钟，这一过程计算机将会记录15个传感器的电压变化曲线，电压曲线会持续增长至最大值；

步骤3：中断通入目标气体，将纯净空气缓慢通入容器中，时长为两分钟，这一过程计算机将会记录传感器复位的电压变化曲线，最终会达到初态的基线；

步骤4：每隔15天执行步骤1～3，总共执行4次。

实验执行完毕会获得4个样本的实验数据，每个样本的数据分为4个阶段(0天、15天、30天、45天)。其中，样本1的数据曲线如图2所示。可以从电压曲线中看到，在每个阶段的前3分钟内，电压曲线维持在基线附近，从3分钟到8分钟内，所有传感器的电压曲线会呈缓慢上升的态势，直至上升至最大值，8分钟到10分钟内，电压曲线下降，复位至基线附近。但是，考虑到电压曲线无法被分类器处理，所以在训练分类器之前，需要设计数据集以及执行特征提取对电压曲线进行预处理，将连续的数据曲线转化为离散的数据特征矩阵。其中，如图3所示，数据集的制作步骤包括：

S21.基于不同类型的嗅觉传感器对不同化学元素的气味敏感程度不同，将嗅觉传感器阵列中的V(本实施例V＝15)个不同的嗅觉传感器视为V个独立属性，将某一时刻的V个嗅觉传感器所获取的电压值视为一个样本，即一个样本拥有V个属性，分别对应当前时刻下V个嗅觉传感器检测到的电压特征值；

S22.分别对每一个阶段的电压曲线均匀切分W次(本实施例W＝3000)，获得W个离散的数据样本，即数据集尺寸为W×V；

S23.对P(本实施例P＝4)组实验的Q(本实施例Q＝4)个阶段执行数据集重构，获得尺寸为P×Q×W×V＝4×4×3000×15的离散型数据集。

(2)基于M-CeNN实现卷积滤波的特征提取

传统的二维CeNN是一种非线性的模拟信号处理系统，虽然具有局部互联的结构和高速并行的图像处理能力，但是不具备自适应性且难以实现大规模的高度集成。而M-CeNN能够较好地解决这些难题，忆阻桥电路能够充分发挥CeNN局部互联、高速并行和可编程性的同时，还能够充分利用忆阻器纳米级、电阻可变和非易失性的特性实现CeNN的大规模硬件集成和模板的自适应变化，突破传统CMOS工艺的瓶颈限制。

如图4-1所示，M-CeNN由多个规则排列且局部互联的神经元组成，每一个神经元仅仅在预定义的邻域范围(r)内与邻域细胞直接互联，其中邻域尺寸为：(2r+1)²。

如图4-2所示，在M-CeNN中，每一个神经元都有其独立的电路结构，其中包括：电容(C)、忆阻状态的电阻(Mem)(状态忆阻器)、两个压控电流源(VCCS)，其中，压控电流源的权值设置以及加权操作通过忆阻桥电路实现，分别表示邻域细胞输入、输出对当前细胞造成的影响。

另外，有：

其中，I_xy(i,j；k,l)代表神经元C(i,j)的加权输入，I_xu(i,j；k,l)代表神经元C(i,j)的加权状态，a_ij,kl代表着反馈模板A的元素，用于控制邻域细胞输出对中心细胞造成的影响，而b_ij,kl则代表控制模板B中的元素，用于控制邻域细胞输入对中心细胞造成的影响，y_kl代表输出函数的计算结果，受到反馈模板A的约束，u_kl代表当前的输入状态，受控制模板B的约束。

由上述可以看出，单个神经元C(i,j)的动力学由与输出Y_ij相关联的反馈模板A、与输入U_ij相关联的控制模板B、偏执电流I和其自身状态X_ij相关。根据基尔霍夫电流定律(KCL)可知，当前神经元的输入输出方程可由如下公式表示：

其中，神经元的邻居C(k,l)满足的约束条件为：c(k,l)∈N_r(i,j)，代表邻居应当满足中心神经元C(i,j)的r级领域范围(在CeNN中，r通常取1)。x_ij(t)代表神经元的输入，y_ij(t)代表神经元的输出，m(x_ij(t))代表当前流经忆阻器的电流状态。m(x_ij(t))可以表示为：

v_m代表当前忆阻器的状态电压，m(t)代表忆阻器的阻值。换言之，M-CeNN其自适应模板神经元的权值变化可以归因于忆阻器阻值的权值编程和加权操作，而这样的操作则可以使用基于忆阻桥电路(如图5所示)的人工突触结构实现信号模拟过程。

忆阻桥电路的输出可表示为：

g_m代表跨导参数，可以通过图5右部分的差分放大器将电压转化为电流；ω代表一个常量，代表突触输入和输出之间的线性关系(这种线性关系由忆阻器M1,M2,M3,M4实现动态的控制)，V_in代表电流的输入值。

由上述的内容可知，一个神经元C(i,j)会收到来自于其邻域细胞的18个突触的输入，这18个输入分别代表加权输入b_ij；klu_kl和加权状态a_ij,kly_kl。它们会进行相加并依次注入到当前中心神经元C(i,j)的状态节点中(如图6中所示的忆阻器Mem)。

图6的电路结构示意图能够实现M-CeNN单个神经元的权值编程操作。首先，图6中右下端的电路结构会提供当前中心神经元C(i,j)的偏执电流I；然后，来自k个桥电路(I₀₁₊,I₀₁-,...,I_0k-，如图5)的权值信号会通过图6中左下端的输入端口输入到当前的神经元电路结构中；接下来，通过图6中左上端的差分电路将来自下部的偏置电流和突触电流聚集并与输出端口连接；最后，通过图6中右上方的积分电路，将总电流反馈入忆阻器中，k个桥电路的总输入电流可以表示为：

I_total＝I₀₁+I₀₂+I₀₃+...+I_0k+I (5)

其中，I代表偏置电流，而I_0i＝I_0i++I_0i-代表与差分放大器相连的第i个忆阻桥电路的电流输出。根据公式(3)，总电流I₀可以重写为：

因此，当电流流经状态忆阻器Mem时，其对应的神经元状态电压可以表示为：

使用M-CeNN实现特征提取时，通常要忽略反馈模板的输出影响，因此需要对CeNN的结构作出一定的简化，在这里，本实施例将反馈模板A设置为如式(8)左侧所示，即邻域突触的输入由k＝18化简为k＝10，即，模板为：

现有技术已经证明，CeNN能够通过使用不同的模板(自适应模板)实现对图像的边缘提取。不同于传统的图像特征提取方案，本实施例将传感器阵列中不同数据曲线的标记点作为特征提取的对象，重点提取在相同时刻下不同传感器的数据特征(即垂直方向的数据特征)，因此，为了将传感器的响应曲线与M-CeNN模板的输入格式相匹配，模板可以重写为：

其中，在反馈模板A和控制模板B中，参数a,x₁,x₂,x₃,b分别代表能够自适应变化的M-CeNN神经元权值(a,x₁,x₂,x₃,b≥0)，其约束条件为：2(x₂+x₃)+4x₁≤b,b≤8。基于此，本实施例在模板的训练过程中忽略水平方向上相互独立的数据影响(某一时刻下不同传感器的数据特征)，提取数据集在垂直方向的数据特征(某一传感器在不同时刻提取的数据特征)。与此同时，为了尽可能提升分类器的分类精度，本实施例使用优化算法对M-CeNN模板与分类器的训练过程进行优化，以期在训练精度收敛的情况下，获取最优的模板参数和分类器结构。

(3)结合INQ的启发式权值优化方法

差分进化算法(DE)是在遗传算法(GA)的思想的基础上提出的，模拟遗传学中的杂交、变异、复制来设计遗传算子，其本质是一种多目标(连续变量)的启发式优化算法，用于求解多维空间中的整体最优解。差分进化算法能够根据随机生成的初始种群进行迭代，并在每一轮迭代过程中以种群中每个个体的适应度值为选择标准完成变异、交叉和选择三个步骤，当满足终止条件且适应度收敛以后，就可以获得全局最优的结果，DE算法有着比GA算法更优秀的最优值逼近效果，能够保证M-CeNN模板的精度。

本实施例采用了DE算法来实现M-CeNN的自适应模板设计方案并优化分类器，首先本实施例需要将M-CeNN中的多个神经元权值转化为差分算法中的多连续型自变量。基于式(9)所示的模板约束条件，模板可以被重写为：

随后，M-CeNN模板的参数权值以及偏置电流可以被转化为DE算法中的解空间自变量矩阵，当t＝0时(初始化状态)，其对应的向量矩阵为：

其中，M代表种群的数量，而n代表DE算法的空间搜索维度(在本实施例中，n＝6)。第i个个体的第j维(自变量)的初始取值应当满足：

其中，L_{j_max}代表第j个自变量的最大取值，L_{j_min}代表第j个自变量的最小取值，L_{j_max}-L_{j_min}决定了初始化函数的约束条件，rand(0,1)代表0～1之间的随机数。

此外，由于本项目需要训练分类器以获得最优分类精度，所以需要以最优化分类精度为目标设计适应度函数，将分类器的分类精度作为评估标准与M-CeNN模板的参数一起参与优化算法迭代。

接下来，通过在迭代过程(如图7所示)中的变异、交叉、选择操作，优秀的个体将会得到留存，而劣等的个体会在选择的过程中因竞争而被淘汰。

因此，全局最优的自适应特征提取模板可由如图7所示的启发式优化算法流程获得。包括步骤：

S31.初始化分类器的同时，将模板的参数切分为DE算法的空间搜索矩阵X；

S32.设定DE算法的超参数(如种群个数、缩放因子、变异概率等)；

S33.初始化空间搜索矩阵；

S34.随后在每一次迭代过程中，通过评估适应度函数来依次执行变异、交叉、选择操作，并使用当前模板特征提取和分类器训练的结果参与到分类器的精度评估中以获得新的适应度。当适应度函数趋于收敛且达到结束条件以后，全局最优解就会被输出，经过矩阵重构，便会将全局最优解转化为其对应的自适应特征提取模板；

S35.引入神经网络的量化策略对优化后的权值完成符合忆阻器精度需求的量化。

步骤S35引入神经网络的量化策略的原因在于：由最优化算法的逼近特性可知，模板的权值往往是高浮点位的，高浮点位的数据不易于硬件层面上的实现，且会造成计算资源的占用和能源损耗，另外，由于当代忆阻器技术的精度具有一定的限制条件，难以存储精度过高的模板权值。为了降低优化模板的精度，节省计算复杂度并基于欧姆定理进一步降低卷积操作的运算难度，需要引入神经网络的量化策略对优化后的权值完成符合忆阻器精度需求的量化来提升优化算法的硬件友好度。

本实施例提出了一种基于深度学习网络的INQ量化方案，该方案基于损失度评估函数(损失度越高，量化优先级越低)将训练后的模板动态的划分为多个不同的量化优先级，然后在按照量化优先级决定的量化迭代中，以再训练作为补偿策略来不断地补偿由量化造成的权值精度损失，从而在尽可能保证量化损失的情况下将原本的全精度M-CeNN模型量化为一个稳定的低精度模型(如图8)，节省了M-CeNN计算复杂度并满足忆阻器的存储精度条件。

在M-CeNN模板权值的精度限制范围内，将优化后的模板权值尽可能的量化为整型数据，因此其量化公式为：

其中，X和

分别代表由优化算法生成的模板权值和量化后的模板权值，

代表对权值向上取整后再取绝对值，sgn(X)为阶跃函数。模板权值的取值范围在[2^a,2^b]和[-2^b,-2^a]之间。另外，b和a由CeNN状态方程的边界条件决定(如式(9)中模板权值的约束条件)，分别代表量化的上界和下界，b-a也被称之为量化位宽。

模板权值损失度的评估公式为：

基于贪心策略，在每一轮量化完毕后评估剩余权值的量化损失，并按照量化损失的升序进行量化优先级由高到低的排序，优先级高的权值参与本轮的量化流程，经过权值共享后，剩余的权值被纳入再训练的过程，用以补偿由量化造成的精度损失，经过多次迭代后，所有的网络权值均被量化完毕，从而得到最终的M-CeNN低精度模型。

综上，经过图8所示的流程获得的低精度模型具有计算复杂度低，硬件友好度高，实时性好，精度稳定且鲁棒的特点。进一步地，通过结合基于忆阻桥电路实现的细胞神经网络电路结构，该模型能够有效地突破传统CMOS工艺的硬件瓶颈，实现具有大规模的硬件加速的自适应性CeNN特征提取功能。

(4)实验对比和分析

本节的工作包含了两个部分。首先，讨论由自适应M-CeNN特征提取方法提取特征的客观性能，并结合每种分类器不同的训练方案完成响应传感器特征提取的对比分析。然后，本实施例以特征提取和分类结果的均值作为评价基准，将本实施例方法与其他的特征提取方法进行对比。

在第一部分，本实施例将结合M-CeNN特征提取与三种分类器方法分别对比的方法评估分类器精度来完成分类效果性能的客观分析，其中分类器分别使用了SVM、RandomForest和XGBoost，并结合了增量式量化的DE算法来优化M-CeNN和分类器参数。在本部分的实验中，每种分类器的方法都被重复执行了10次，每次的迭代总数为300次，其实验结果如表3所示。

表3.不同分类器的分类精度(％)

可以看出，本实施例的特征提取方法拥有着较为明显的动态特征提取特性。在本实施例特征提取基础上完成的分类任务中，支持向量机的rbf核具有更加客观和精准的分类精度，即该方法能够最佳地反映传感器阵列的动态特性和最佳性能。

接下来，基于上文的实验结果，本实施例使用三种分类器中其各自最优的分类方法(SVM选择rbf核函数，Random Forest选择gini系数，XGBoost选择gbtree)进行不同特征提取方法的对比，如同前文，常用的特征提取方法有最大取值法(Max)、PCA、SVD、线性判别分析(LDA)等。第二部分将会分别使用了这四种特征提取方法与本实施例方法进行对比，其对比结果如表4。可以看出，与其他算法相比，本实施例结合了INQ的启发式优化M-CeNN特征提取方法能够更好地提取数据特征。

表4.四种特征提取方法与本实施例方法进行对比(％)

结果显示，结合了INQ的启发式优化M-CeNN特征提取可以被用于电子鼻系统的特征提取，并能够赋予电子鼻系统极高的识别精度(相比于其他特征提取方法)，与此同时，本实施例方法提出的训练模型在尽可能提升分类精度的同时引入了神经网络的INQ来量化M-CeNN模板权值，从而能够以降低软件算法的计算复杂度的方式来提升算法的硬件友好性、实时性和稳定性。另外应当注意的是，本实施例方法是一种软硬件结合的模式，能够通过硬件加速分担软件算法的部分资源节约了算力和存储空间，更加适用于端侧智能、边缘计算等领域。

(5)总结和结论

本实施例设计了一种能够应用于电子鼻系统的M-CeNN软硬件结合特征提取方案。其中，硬件部分由传感器阵列和基于忆阻桥电路实现的M-CeNN构成，软件算法部分则由优化算法和强分类器构成。首先，传感器阵列被用于收集原始的数据曲线，然后，由M-CeNN实现针对数据曲线的特征提取，并将结果提取结果转化为离散的特征数据集。此外，为了使M-CeNN实现特征提取的自适应性，本实施例在算法部分提出了一种结合INQ的启发式优化算法，该算法能够在分类器训练的过程中以分类精度的提升为目的并根据数据集特征自适应的调整M-CeNN模板的神经元参数，然后在忆阻器的精度限制条件下，由神经网络的INQ完成模板参数的增量式量化，该量化方案能够以再训练作为补偿机制，补偿由量化造成的M-CeNN模板权值的精度损失，从而在尽可能保证分类精度的前提下，提升模板权值算法的硬件友好性，实时性和稳定性，满足忆阻器对M-CeNN模板权值的精度限制条件。最后，本实施例执行了一系列的实验，通过对比不同分类器的分类精度和特征提取方法证明了本实施例方法在电子鼻系统中出色的分类精度。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (6)

1.基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于，包括步骤：

S1.在硬件层面上构建嗅觉传感器阵列和基于忆阻细胞神经网络的特征提取模块，在软件层面上构建分类器；所述忆阻细胞神经网络的模板表示为：

其中，在反馈模板A和控制模板B中，参数a,x₁,x₂,x₃,b≥0分别代表能够自适应变化的所述忆阻细胞神经网络中神经元的权值，其约束条件为：2(x₂+x₃)+4x₁≤b,b≤8，I代表偏置电流；

S2.基于所述嗅觉传感器阵列制作离散型数据集；

S3.采用所述离散型数据集对所述忆阻细胞神经网络和所述分类器进行训练，训练过程中采用结合增量式量化的启发式权值优化算法进行优化，在训练精度收敛的情况下，得到所述忆阻细胞神经网络的最优模板参数和所述分类器的最终结构以用于实际应用。

2.如权利要求1所述的基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于：在所述步骤S1中，所述忆阻细胞神经网络由M行×N列个局部互联的神经元组成，每一个神经元在预定义的邻域范围r内与邻域细胞直接互联，其中邻域尺寸为：(2r+1)²。

3.如权利要求2所述的基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于，每个所述神经元的电路结构包括电容、状态忆阻器、两个压控电流源，所述压控电流源的权值设置以及加权操作通过基于忆阻桥电路的人工突触结构实现，分别表示邻域细胞输入、输出对当前细胞造成的影响。

4.如权利要求3所述的基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于，所述步骤S3具体包括步骤：

S31.初始化所述分类器，与此同时，将所述忆阻细胞神经网络的模板中的参数切分为差分进化算法的空间搜索矩阵；

S32.设定所述差分进化算法的超参数；

S33.初始化所述空间搜索矩阵；

S34.开始迭代，在每一次迭代过程中，通过评估适应度函数来依次执行变异、交叉、选择操作，并使用当前模板特征提取的结果和分类器训练的结果参与到分类器的精度评估中以获得新的适应度，当适应度函数趋于收敛且达到结束条件以后，输出全局最优解，经过矩阵重构，将全局最优解转化为其对应的自适应特征提取模板；

S35.引入神经网络的量化策略对优化后的权值完成符合忆阻器精度需求的量化。

5.如权利要求4所述的基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于，所述步骤S35具体为：

在模板权值的精度限制范围内，将优化后的模板权值量化为整型数据，其量化公式为：

其中，X和

分别代表由差分优化算法生成的模板权值和量化后的模板权值，

代表对模板权值X向上取整后再取绝对值，sgn(X)代表阶跃函数，模板权值X的取值范围在[2^a,2^b]和[-2^b,-2^a]之间，b和a分别代表量化的上界和下界，b-a为量化位宽；

模板权值损失度的评估公式为：

基于贪心策略，在每一轮量化完毕后评估剩余权值的量化损失，并按照量化损失的升序进行量化优先级由高到低的排序，优先级高的权值参与本轮的量化流程，经过权值共享后，剩余的权值被纳入再训练的过程，用以补偿由量化造成的精度损失，经过多次迭代后，所有的网络权值均被量化完毕，从而得到最终的忆阻细胞神经网络低精度模型。

6.如权利要求 1～5任意一项所述的基于忆阻细胞神经网络的电子鼻气体分类方法，其特征在于，所述步骤S2具体包括步骤：

S21.基于不同类型的嗅觉传感器对不同化学元素的气味敏感程度不同，将所述嗅觉传感器阵列中的V个不同的嗅觉传感器视为V个独立属性，将某一时刻的V个所述嗅觉传感器所获取的电压值视为一个样本，即一个样本拥有V个属性，分别对应当前时刻下V个所述嗅觉传感器检测到的电压特征值；

S22.分别对每一个阶段的电压曲线均匀切分W次，获得W个离散的数据样本，即数据集尺寸为W×V；

S23.对P组实验的Q个阶段执行数据集重构，获得尺寸为P×Q×W×V的离散型数据集。

Images