CN115206455B - 基于深度神经网络的稀土元素组分含量预测方法及系统 - Google Patents

Abstract

本发明公开了一种基于深度神经网络的稀土元素组分含量预测方法及系统,包括：获取同等外界条件下具备颜色特征的稀土元素混合溶液图像数据集；根据所述稀土元素混合溶液图像数据集以及对应的稀土元素组分含量真实值，构建CNN模型，根据所述CNN模型卷积层、池化层和全连接层节点的不同，构建轻量化VGG模型；根据所述轻量化VGG模型提取图像抽象表征，输出稀土元素组分含量预测值；根据所述稀土元素组分含量预测值与所述稀土元素组分含量真实值通过L1Loss损失函数构建深度神经网络回归模型，获取网络权值并进行迭代训练获取最优网络权值，输出稀土元素混合溶液的稀土元素组分含量。本发明成本较低、精度较高、速度较快。

Description

基于深度神经网络的稀土元素组分含量预测方法及系统

技术领域

本发明属于组分含量测量技术领域，尤其涉及一种基于深度神经网络的稀土元素组分含量预测方法及系统。

背景技术

稀土是全球公认的未来科技发展必须依赖的关键战略金属，因其独特优异的磁、光、电、催化等物理化学特性，被誉为“现代工业维生素”，在新能源汽车、航空航天、国防军工、节能环保等战略性新兴产业中起到了不可或缺的关键作用。但目前稀土萃取分离系统基本处理离线分析、手动调节和经验控制的阶段，而稀土萃取过程中元素组分含量的快速检测是影响出口产品质量的首要条件。目前的检测仪器使用方法多为分光光度法、光谱法、质谱法等方法，但是这些装置存在检测延时大、有放射性、结构复杂和维护成本高等问题，尚未得到普遍应用，且由于稀土萃取槽的强腐蚀环境导致很难找出合适的传感器来测量稀土组分含量。而目前国内学者大多使用传统机器学习方法进行稀土元素组分含量的软测量，模型可处理数据规模小、特征提取过程繁琐且泛化力不足。通过深度神经网络提取具有颜色特征稀土混合溶液图像表征检测稀土萃取分离过程中各组分含量的方法成本较低、精度较高、速度较快、可处理样本规模大、特征提取过程简单且泛化力更强，对于稀土生产过程的操作运行和自动控制具有十分重要的实际意义。

发明内容

本发明的目的在于提出一种基于深度神经网络的稀土元素组分含量预测方法及系统，获得具备颜色特征的稀土元素混合溶液下的元素组分含量，提高模型泛化能力，满足稀土萃取分离现场检测需求。

为实现上述目的，本发明提供了一种基于深度神经网络的稀土元素组分含量预测方法，包括以下步骤：获取同等外界条件下具备颜色特征的稀土元素混合溶液图像数据集；

根据所述稀土元素混合溶液图像数据集以及对应的稀土元素组分含量真实值，构建CNN模型，根据所述CNN模型卷积层、池化层和全连接层节点的不同，构建轻量化VGG模型；

根据所述轻量化VGG模型提取图像抽象表征，输出稀土元素组分含量预测值；

根据所述稀土元素组分含量预测值与所述稀土元素组分含量真实值通过L1Loss损失函数构建深度神经网络回归模型，获取网络权值并进行迭代训练获取最优网络权值，输出稀土元素混合溶液的稀土元素组分含量。

可选的，获取同等外界条件下具备颜色特征的稀土元素混合溶液图像数据集包括：采集待预测稀土元素的不同组分含量混合溶液，在同等条件下拍摄不同组分含量混合溶液图像，并通过离线实验室化验获得每种样本溶液的组分含量真实值；将所述获取的稀土元素不同组分含量混合溶液图像按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的稀土元素组分含量真实值，用于建立预测模型。

可选的，根据所述轻量化VGG模型提取图像抽象表征包括：所述轻量化VGG模型由输入层、卷积层、池化层、全连接层和输出层组成，并采用ReLU+dropout技术，用于提取图像抽象表征，

所述轻量化VGG模型中输入层为图像样本；卷积层和池化层共有5组，给定'M'为池化操作，其余数字为卷积操作卷积核的个数，则5组卷积池化具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；全连接层共三层，第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为待测稀土元素组分含量的类别数；输出层输出待测样本的稀土元素组分含量预测值。

可选的，根据所述稀土元素组分含量预测值与所述稀土元素组分含量真实值通过L1Loss损失函数构建深度神经网络回归模型包括：

对已标记稀土元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；

将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；

对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集稀土元素组分含量预测，并将预测值与所述验证集稀土元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型。

可选的，输出稀土元素混合溶液的稀土元素组分含量包括：给定所述基于深度神经网络的稀土元素组分含量回归模型待预测组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，待预测组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值从而确定输入的稀土混合溶液图像单个样本中待测稀土元素组分含量值。

为实现上述目的，本发明还提供了一种基于深度神经网络的稀土元素组分含量预测系统，包括：图像样本建立模块、图像表征提取模块、网络权值优化模块、待测稀土元素组分含量预测模块，所述图像样本建立模块、所述图像表征提取模块、所述网络权值优化模块与所述待测稀土元素组分含量预测模块连接；

所述图像样本建立模块，通过机器视觉技术在同等外界条件下采集具有颜色特征的稀土元素混合溶液图像数据集；

所述图像表征提取模块，以所述稀土元素混合溶液图像数据集作为输入，以已知对应的稀土元素组分含量真实值作为输出建立CNN模型，提取图像抽象表征；

所述网络权值优化模块，对所述CNN模型中的网络权值通过损失函数进行优化，得到基于深度神经网络的稀土元素组分含量回归模型；

所述待测稀土元素组分含量预测模块，根据所述基于深度神经网络的稀土元素组分含量回归模型，以所述稀土元素混合溶液图像单个样本为输入，确定稀土混合溶液中待测稀土元素组分含量值。

可选的，所述图像样本建立模块包括：原始图像采集及化验子模块，用于采集待预测稀土元素的不同组分含量混合溶液，在同等条件下拍摄不同组分含量混合溶液图像，并通过离线实验室化验获得每种样本溶液的组分含量真实值；原始图像裁剪及标记子模块，将所述获取的稀土元素不同组分含量混合溶液图像按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的稀土元素组分含量真实值，用于建立预测模型。

可选的，所述图像表征提取模块包括：所述轻量化VGG模型中输入层为图像样本；卷积层和池化层共有5组，给定'M'为池化操作，其余数字为卷积操作卷积核的个数，则5组卷积池化具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；全连接层共三层，第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为待测稀土元素组分含量的类别数，通过卷积、池化和全连接操作提取图像抽象表征；输出层输出待测样本的稀土元素组分含量预测值。

可选的，所述网络权值优化模块包括：图像划分子模块、图像增强及图像归一化子模块、损失函数建立子模块、深度神经网络权值优化子模块、深度神经网络回归模型建立子模块；

所述图像划分子模块，对已标记稀土元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；

所述图像增强及图像归一化子模块，将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；

所述损失函数建立子模块，对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集稀土元素组分含量预测，并将预测值与所述验证集稀土元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型，所述L1Loss损失函数对包含N个样本中第n个样本的损失值l_n具体表示如下：

给定x_n为深度神经网络回归模型第n个样本的输出outputs，y_n为传入网络中训练集第n个样本的稀土元素组分含量真实值，x_n与y_n同维度，则l_n＝|x_n-y_n|；

所述深度神经网络权值优化子模块，使用梯度下降法优化所述深度神经网络回归模型的网络权值，当梯度不再下降时，利用优化器让初始值为1e-4的学习率自适应地改变；对所述回归模型进行大规模迭代训练，在损失函数收敛时停止训练，获得最优网络权值；

所述深度神经网络回归模型建立子模块，通过所述最优网络权值确定基于深度神经网络的稀土元素组分含量回归模型，获取单一稀土元素组分含量预测值。

可选的，所述待测稀土元素组分含量预测模块包括：给定所述基于深度神经网络的稀土元素组分含量回归模型待预测组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，待预测组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值 从而确定输入的稀土混合溶液图像样本中待测稀土元素组分含量值。

本发明技术效果：本发明公开了一种基于深度神经网络的稀土元素组分含量预测方法及系统，通过深度神经网络提取具有颜色特征稀土混合溶液图像表征检测稀土萃取分离过程中各组分含量的方法成本较低、精度较高、速度较快、可处理样本规模大、特征提取过程简单且泛化力更强，对于稀土生产过程的操作运行和自动控制具有十分重要的实际意义。

附图说明

构成本申请的一部分的附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本发明实施例基于深度神经网络的Pr元素组分含量预测方法的流程图；

图2为本发明实施例部分不同组分含量Pr/Nd混合溶液图像；

图3为本发明实施例卷积层与池化层一维结构示意图；

图4为本发明实施例多层感知器结构示意图；

图5为本发明实施例轻量化VGG模型示例图；

图6为本发明实施例基于深度神经网络的Pr元素组分含量回归模型中验证集预测值与真实值在迭代训练过程中的绝对误差变化图；

图7为本发明实施例基于深度神经网络的Pr元素组分含量预测系统的流程图；

图8为本发明实施例十折交叉验证法每组的性能指标值图；

图9为本发明实施例VGG模型的对比实验示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

实施例一

如图1所示，本实施例中提供一种基于深度神经网络的Pr元素组分含量预测方法，包括：所述预测方法包括：

步骤101：通过机器视觉技术在同等外界条件下采集具有颜色特征的Pr/Nd元素混合溶液图像样本，按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的Pr元素组分含量真实值。

步骤102：以所述Pr/Nd元素混合溶液图像作为输入，以已知对应的Pr元素组分含量真实值作为输出，根据CNN模型卷积层、池化层和全连接层节点的不同，建立轻量化VGG模型；

具体的，步骤102中，CNN利用图像的空间相关性提取图像轮廓信息，有效地从大量样本中学习到相应的特征，避免复杂的特征提取或构建过程。可直接输入三维图像，通过非线性变换从原始图像中提取更加抽象的表征，提高模型的泛化能力。且在整个过程中只需少量的人工参与，在图像处理方面得到广泛应用并取得较多的研究成果。CNN包括：输入层、卷积层、池化层、全连接层及输出层并采用ReLU+dropout技术提高模型泛化能力。而根据卷积层、池化层、全连接的组合不同，衍生出许多经典卷积神经网络模型，网络模型根据项目的样本数据集实际情况来选择。针对Pr/Nd元素混合溶液图像特征并不复杂，选用卷积和池化操作相对更少的VGG11模型，减少卷积核的个数和全连接层节点的个数，通过PyCharm集成开发环境利用PyTorch框架建立轻量化VGG模型。

步骤103：所述轻量化VGG模型共有五组卷积池化操作、三层全连接操作，其中第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为Pr元素组分含量的类别数，用于提取图像抽象表征；

具体的，步骤103中，输入层输入Pr/Nd混合溶液图像大小为224X224，图像对应R、G、B三个颜色通道，因此把一个Pr/Nd混合溶液图像数字化为一个224X224X3的矩阵。模型的迭代过程共有五组卷积和池化，具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；五次卷积通过后向传播不断更新参数值，直到寻找到最佳的网络权值。池化层通过不断减小数据空间大小，让参数的数量和计算量相应下降，在一定程度上控制了过拟合。在卷积和池化的迭代操作后，起始224X224X3的数字图像矩阵最终缩小成7X7X512的数字矩阵。将缩小后矩阵的数据展开依次排列成为一个向量，然后通过三次全连接操作，其中第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为Pr元素组分含量的类别数；输出层输出待测样本的Pr元素组分含量预测值。

步骤104：将所述轻量化VGG模型输出层Pr元素的预测值与所述对应的Pr元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型，进行迭代训练优化网络权值；

具体的，步骤104中，对所述已标记Pr元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集Pr元素组分含量预测，并将预测值与所述验证集Pr元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型；相较于L1Loss，L2Loss将误差平方化，会加剧忽略微小的误差。例如，真实元素组分含量为0.001的溶液，其预测值为0.011。虽然误差是真实值的10倍，但数值较小。若使用L2Loss，会进一步增加修改该误差的难度，因此采用L1Loss作为模型的损失函数。将卷积神经网络的输出与训练集的样本真实值通过L1Loss损失函数建立回归模型。所述L1Loss损失函数对包含N个样本中第n个样本的损失值l_n具体表示如下：

给定x_n为深度神经网络回归模型第n个样本的输出outputs，y_n为传入网络中训练集第n个样本的Pr元素组分含量真实值，x_n与y_n同维度，则l_n＝|x_n-y_n|；在正向传播和反向传播迭代过程中在损失值减小时利用梯度下降法自动优化网络权值。当梯度不再下降时，利用优化器让初始值为1e-4的学习率自适应地改变。合适的学习率能够使目标函数在合适的时间收敛到局部最小值。

步骤105：判断损失函数是否收敛，是则结束模型训练，否则继续训练网络权值。

步骤106：在最优网络权值下输出Pr/Nd混合溶液图像样本中Pr元素组分含量值；

具体的，步骤106中，以Pr/Nd元素混合溶液图像为输入确定Pr/Nd混合溶液中Pr元素组分含量值，具体表示如下：

给定所述基于深度神经网络的Pr元素组分含量回归模型Pr组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，Pr组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值从而确定输入的Pr/Nd混合溶液图像样本中Pr元素组分含量值。

如图2所示，部分稀土元素在萃取混合溶液中具有明显的颜色特征，且颜色特征随元素组分含量的不同而变化。

具体的，图3中卷积层由多个特征面组成，每个特征面由多个神经元组成，每个神经元通过一组权值被连接到上一层特征面的局部区域，然后将该局部加权和传递给一个非线性函数(如ReLU函数)即可获得卷积层中每个神经元的输出值，在同一个输入特征面和一个输出特征面中的权值共享。每一个卷积层的每个输出特征面的大小oMapN计算如下：

oMapN＝(W-F+2P)/S+1

其中W为输入特征面大小；F为卷积核大小；P称为padding(若为1则在特征面四周补零，使卷积过程充分提取特征面边缘数据)；S为卷积核在其上一层的滑动步长。ReLU函数的计算公式如式下：

f_c(x)＝max(0,x)

池化层在卷积层之后，也是由多个特征面组成，它的每一个特征面与其上一层的一个特征面唯一对应，不会改变特征面的个数。池化层旨在通过降低特征面的分辨率来获得具有空间不变性的特征，它的每个神经元对局部接受域进行池化操作，其中最常用的池化方法为最大池化(即取局部接受域中值最大的点)。每一个输出特征面的大小DoMapN计算如下：

其中oMapN为输入特征面的大小，F为卷积核大小。通过池化操作使得神经元数量减少，降低网络模型的计算量，提高模型的泛化能力，避免过拟合。

具体的，图4中全连接层其结构与多层感知器(MLP)类似，其中的每个神经元与前一层的所有神经元进行全连接，可以整合卷积层或池化层中具有类别区分性的局部信息，一般采用ReLU函数来提升CNN网络性能。全连接层可为1个或1个以上，最后一层的输出值一般采用Softmax()函数传递给一个输出层。Softmax()函数的计算如下：

其中z_i为第i个节点的输出值，C为输出节点的个数(即分类的类别个数)，通过Softmax()函数就可以将多分类的输出值转换为范围在[0,1]，和为1的概率分布。为避免训练过程中的过拟合，通常在全连接层中采用dropout技术，使隐层神经元的输出值以0.5的概率变为0，让部分隐层节点失效。由于dropout技术的随机性，降低了神经元之间相互适应的复杂性，使整体网络更具备鲁棒性。

MLP每个连接都有一个连接权值，隐含层和输出层中每个神经元的输入为前一层所有神经元输出的加权和。假设是全连接层中第l层第m个神经元的输入值，/>和/>分别为该神经元输出值和偏置值，/>为该神经元与第l-1层第i个神经元的连接权值，则有：

当MLP用于分类任务时，其输入神经元个数为信号输入的维度，输出神经元个数为类别数。其中BP算法可以分为前向传播和后向传播两个阶段，后向传播开始于MLP的输出层，建立损失函数，其中第l层为输出层，t_j为输出层第j个神经元的期望输出，对损失函数求一阶偏导，使用梯度下降法在损失值更低时更新网络权值，则网络权值更新公式如下：

其中η为学习率。

具体的，图5中VGG轻量化模型在卷积和池化的迭代操作后，起始224X224X3的数字图像矩阵最终缩小成7X7X512的数字矩阵。将缩小后矩阵的数据展开依次排列成为一个向量，然后通过三次全连接操作，其中第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为Pr元素组分含量的类别数。

图6为本发明实施例提供的基于深度神经网络的Pr元素组分含量回归模型中验证集预测值与真实值在迭代训练过程中的绝对误差变化图，如图6所示，验证集预测值与真实值绝对误差在损失函数收敛过后均在1.5％以内，能达到稀土萃取生产的要求。

实施例二

如图7所示，本发明实施例还提供的一种基于深度神经网络的Pr元素组分含量预测系统的流程图，所述预测系统包括：

图像样本建立模块201，用于通过机器视觉技术在同等外界条件下采集具有颜色特征的Pr/Nd元素混合溶液图像数据集；

具体的，所述图像样本建立模块201中具体包括：

原始图像采集及化验子模块，用于采集Pr元素的不同组分含量混合溶液，在同等条件下拍摄不同组分含量混合溶液图像，并通过离线实验室化验获得每种样本溶液的Pr组分含量真实值；

原始图像裁剪及标记子模块，将所述获取的Pr元素不同组分含量混合溶液图像按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的Pr元素组分含量真实值，用于建立预测模型。

CNN模型建立模块202，用于通过CNN模型卷积层、池化层、全连接层组成网络结构的不同，建立模型；

具体的，所述CNN模型建立模块202具体包括：

所述CNN模型由输入层、卷积层、池化层、全连接层和输出层组成，根据所述卷积层、池化层和全连接层节点的不同，减少卷积核的个数和全连接层节点的个数，通过PyCharm集成开发环境利用PyTorch框架建立轻量化VGG模型；

表征提取模块203，用于以所述Pr/Nd元素混合溶液图像数据集作为输入，以已知对应的Pr元素组分含量真实值作为输出，提取图像抽象表征；

具体的，所述表征提取模块203具体包括：

所述轻量化VGG模型中输入层为图像样本；卷积层和池化层共有5组，给定'M'为池化操作，其余数字为卷积操作卷积核的个数，则5组卷积池化具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；全连接层共三层，第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为Pr元素组分含量的类别数，通过卷积、池化和全连接操作提取图像抽象表征；提取图像表征。

网络权值优化模块204，用于对所述CNN模型中的网络权值通过损失函数进行优化，得到基于深度神经网络的Pr元素组分含量回归模型；

具体的，所述网络权值优化模块204具体包括：

图像划分子模块，对所述已标记Pr元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；

图像增强及图像归一化子模块，将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；

损失函数建立子模块，对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集Pr元素组分含量预测，并将预测值与所述验证集Pr元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型，所述L1Loss损失函数对包含N个样本中第n个样本的损失值l_n具体表示如下：

给定x_n为深度神经网络回归模型第n个样本的输出outputs，y_n为传入网络中训练集第n个样本的Pr元素组分含量真实值，x_n与y_n同维度，则l_n＝|x_n-y_n|；

深度神经网络权值优化子模块，使用梯度下降法优化所述深度神经网络回归模型的网络权值，当梯度不再下降时，利用优化器让初始值为1e-4的学习率自适应地改变；对所述回归模型进行大规模迭代训练，在损失函数收敛时停止训练，获得最优网络权值；

深度神经网络回归模型建立子模块，通过所述最优网络权值确定基于深度神经网络的Pr元素组分含量回归模型，获取单一稀土元素组分含量预测值。

判断模块205，用于判断损失函数是否收敛，是则完成模型训练，否则继续训练网络权值。

Pr元素组分含量预测模块206，用于根据所述基于深度神经网络的Pr元素组分含量回归模型，以所述Pr/Nd元素混合溶液图像单个样本为输入，确定Pr/Nd混合溶液中Pr元素组分含量值；

具体的，所述Pr元素组分含量预测模块206具体表示如下：

给定所述基于深度神经网络的Pr元素组分含量回归模型待预测组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，待预测组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值从而确定输入的Pr/Nd混合溶液图像样本中Pr元素组分含量值。

如图8所示，十折交叉验证法十组实验中最大平均相对误差为±1.5569％，模型整体精度和泛化力都较高；最大相对误差为±2.7738％，满足稀土萃取分离过程中对元素组分含量检测最大相对误差在±5％范围内的最低要求；最大均方根误差为0.0168，模型整体稳定性较高。

如图9所示，为体现轻量化VGG模型在稀土元素组分含量预测方面的优越性，将对比模型在训练样本及测试样本均相同，且均为模型最优网络权值的条件下进行如下对比实验：

1)采用VGG模型中常用的VGG11、VGG13和VGG16建立稀土元素组分含量预测模型。

2)采用轻量化VGG模型与上述模型进行实验对比。

3)采用测试集中20个不同Pr组分含量的稀土混合溶液样本对4种模型进行测试，可得到如图9所示的相对误差，对应的测试性能指标值MRE、MAXRE和RMSE如表1所示。

表1

由图9和表1可以看出：

1)VGG11、VGG13和VGG16三种模型对稀土元素组分含量预测的测试结果比较，从中可以得出，VGG11模型的3个测试性能指标值MRE、MAXRE和RMSE远优于其他两个模型，说明卷积和池化操作相对更少的VGG模型更适合稀土混合溶液图像中的元素组分含量预测。

2)轻量化VGG模型是基于VGG11模型进行的改进，减少了卷积核和全连接层节点的个数。将轻量化VGG模型与VGG11模型进行比较，可以发现前者的最大相对误差及均方根误差更低，说明轻量化VGG模型的精度和稳定性更高，能降低预测模型的误差，提高模型的稳定性。

以上所述，仅为本申请较佳的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应该以权利要求的保护范围为准。

Claims (6)

1.一种基于深度神经网络的稀土元素组分含量预测方法，其特征在于，包括以下步骤：

获取同等外界条件下具备颜色特征的稀土元素混合溶液图像数据集，包括：采集待预测稀土元素的不同组分含量混合溶液，在同等条件下拍摄不同组分含量混合溶液图像，并通过离线实验室化验获得每种样本溶液的组分含量真实值；将所述获取的稀土元素不同组分含量混合溶液图像按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的稀土元素组分含量真实值，用于建立预测模型；

根据所述稀土元素混合溶液图像数据集以及对应的稀土元素组分含量真实值，构建CNN模型，根据所述CNN模型卷积层、池化层和全连接层节点的不同，构建轻量化VGG模型；

根据所述轻量化VGG模型提取图像抽象表征，输出稀土元素组分含量预测值；根据所述轻量化VGG模型提取图像抽象表征包括：所述轻量化VGG模型由输入层、卷积层、池化层、全连接层和输出层组成，并采用ReLU+dropout技术，用于提取图像抽象表征，

所述轻量化VGG模型中输入层为图像样本；卷积层和池化层共有5组，给定'M'为池化操作，其余数字为卷积操作卷积核的个数，则5组卷积池化具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；全连接层共三层，第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为待测稀土元素组分含量的类别数；输出层输出待测样本的稀土元素组分含量预测值；

根据所述稀土元素组分含量预测值与所述稀土元素组分含量真实值通过L1Loss损失函数构建深度神经网络回归模型，获取网络权值并进行迭代训练获取最优网络权值，输出稀土元素混合溶液的稀土元素组分含量；根据所述稀土元素组分含量预测值与所述稀土元素组分含量真实值通过L1Loss损失函数构建深度神经网络回归模型包括：

对已标记稀土元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；

将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；

对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集稀土元素组分含量预测，并将预测值与所述验证集稀土元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型；

输出稀土元素混合溶液的稀土元素组分含量包括：给定所述基于深度神经网络的稀土元素组分含量回归模型待预测组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，待预测组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值从而确定输入的稀土混合溶液图像单个样本中待测稀土元素组分含量值。

2.根据权利要求1所述的一种基于深度神经网络的稀土元素组分含量预测方法的预测系统，其特征在于，包括：图像样本建立模块、图像表征提取模块、网络权值优化模块、待测稀土元素组分含量预测模块，所述图像样本建立模块、所述图像表征提取模块、所述网络权值优化模块与所述待测稀土元素组分含量预测模块连接；

所述图像样本建立模块，通过机器视觉技术在同等外界条件下采集具有颜色特征的稀土元素混合溶液图像数据集；

所述图像表征提取模块，以所述稀土元素混合溶液图像数据集作为输入，以已知对应的稀土元素组分含量真实值作为输出建立CNN模型，提取图像抽象表征；

所述网络权值优化模块，对所述CNN模型中的网络权值通过损失函数进行优化，得到基于深度神经网络的稀土元素组分含量回归模型；

所述待测稀土元素组分含量预测模块，根据所述基于深度神经网络的稀土元素组分含量回归模型，以所述稀土元素混合溶液图像单个样本为输入，确定稀土混合溶液中待测稀土元素组分含量值。

3.如权利要求2所述的一种基于深度神经网络的稀土元素组分含量预测系统，其特征在于，所述图像样本建立模块包括：原始图像采集及化验子模块，用于采集待预测稀土元素的不同组分含量混合溶液，在同等条件下拍摄不同组分含量混合溶液图像，并通过离线实验室化验获得每种样本溶液的组分含量真实值；原始图像裁剪及标记子模块，将所述获取的稀土元素不同组分含量混合溶液图像按照从左至右、从上至下的顺序依次裁剪为若干张颜色均匀的图像，依照不同组分含量进行归类，并分别将每个图像类别标记上对应的稀土元素组分含量真实值，用于建立预测模型。

4.如权利要求3所述的一种基于深度神经网络的稀土元素组分含量预测系统，其特征在于，所述图像表征提取模块包括：所述轻量化VGG模型中输入层为图像样本；卷积层和池化层共有5组，给定'M'为池化操作，其余数字为卷积操作卷积核的个数，则5组卷积池化具体表示为[64,'M',64,'M',64,64,'M',64,64,'M',512,512,'M']；全连接层共三层，第一、二层全连接隐含节点数为1024，第三次全连接层的隐含节点数为待测稀土元素组分含量的类别数，通过卷积、池化和全连接操作提取图像抽象表征；输出层输出待测样本的稀土元素组分含量预测值。

5.如权利要求4所述的一种基于深度神经网络的稀土元素组分含量预测系统，其特征在于，所述网络权值优化模块包括：图像划分子模块、图像增强及图像归一化子模块、损失函数建立子模块、深度神经网络权值优化子模块、深度神经网络回归模型建立子模块；

所述图像划分子模块，对已标记稀土元素组分含量真实值的图像进行划分，其中80％为训练集、10％为验证集和10％为预测集；

所述图像增强及图像归一化子模块，将所述训练集、验证集和预测集数据统一随机裁剪为224×224×3的张量图像，再将张量图像随机水平翻转用于图像增加，并用均值和标准差对张量图像进行归一化处理；

所述损失函数建立子模块，对所述归一化处理后的训练集在基于PyTorch框架搭建的深度神经网络模型中进行迭代训练，提取图像抽象表征用于验证集稀土元素组分含量预测，并将预测值与所述验证集稀土元素组分含量真实值通过L1Loss损失函数建立深度神经网络回归模型，所述L1Loss损失函数对包含N个样本中第n个样本的损失值l_n具体表示如下：

给定x_n为深度神经网络回归模型第n个样本的输出outputs，y_n为传入网络中训练集第n个样本的稀土元素组分含量真实值，x_n与y_n同维度，则l_n＝|x_n-y_n|；

所述深度神经网络权值优化子模块，使用梯度下降法优化所述深度神经网络回归模型的网络权值，当梯度不再下降时，利用优化器让初始值为1e-4的学习率自适应地改变；对所述回归模型进行大规模迭代训练，在损失函数收敛时停止训练，获得最优网络权值；

所述深度神经网络回归模型建立子模块，通过所述最优网络权值确定基于深度神经网络的稀土元素组分含量回归模型，获取单一稀土元素组分含量预测值。

6.如权利要求5所述的一种基于深度神经网络的稀土元素组分含量预测系统，其特征在于，所述待测稀土元素组分含量预测模块包括：给定所述基于深度神经网络的稀土元素组分含量回归模型待预测组分含量类别数为n，在最优网络权值下softmax()函数的输出列向量a_n(n×1)为第n个预测样本在各组分含量真实值的概率值，待预测组分含量类别对应的真实值列向量为y_n(1×n)，则第n个样本的预测值从而确定输入的稀土混合溶液图像样本中待测稀土元素组分含量值。