CN115901677B - 具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法 - Google Patents

Abstract

本发明提供一种具有更新机制的硝酸‑硝酸铵溶液中硝酸铵浓度预测方法，属于炸药工艺和近红外光谱定量分析。本发明的方法为采集不同硝酸铵浓度的硝酸‑硝酸铵溶液样品近红外光谱，并通过化学分析方法测定样品的浓度，通过构建的随机梯队下降初始模型对样品近红外光谱和浓度学习；当新的样本数据加入时，随机梯队下降初始模型只对通过阈值筛选后的样本数据进行训练并更新模型参数，达到再学习的目的；最后，反馈待测硝酸‑硝酸铵溶液中硝酸铵浓度结果，以实现对硝酸‑硝酸铵溶液中硝酸铵浓度的快速分析，达到保证最终HMX产品质量的目的。

Description

具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法

技术领域

本发明属于炸药工艺和近红外光谱定量分析，尤其涉及一种具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法。

背景技术

硝酸-硝酸铵溶液是生产奥克托今(HMX)重要的原材料，硝酸铵的浓度对产品质量和生产工艺有着重要的影响。对生产过程中的硝酸铵的浓度进行快速分析，有利于增强原材料投料比的稳定性，生产出得率高、质量优的合格产品。

目前，过程分析主要采用化学计量学中的偏最小二乘法(Partial LeastSquares，PLS)建立分析模型。PLS模型的特点是批量学习，即在训练前收集所有的数据后再进行学习，并且完成后不在重复进行。为了得到较高的分析精度，PLS要求训练数据越完备越好。然而，在实际应用中，所有的训练数据不可能一次性全部获得。当数据分布发生变化时，预测模型的精度将会下降，导致泛化能力不足，需要抛弃已有模型，将新数据与原有数据一起重新训练建立新模型，存在训练时间长、空间消耗大和建模效率低的问题。

发明内容

本发明的目的是提供具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法，该方法可以在不重复训练原有数据的基础上，利用新数据的简单筛选对模型参数进行更新，以提高模型的训练效率和泛化能力。

为达到以上目的，本发明采用如下技术方案。具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法，包括以下步骤：

步骤一、采集待测硝酸铵浓度的硝酸-硝酸铵溶液近红外光谱数据；

步骤二、通过增量随机梯度下降模型，获得该近红外光谱数据所对应溶液中硝酸铵浓度。

优选的，步骤二中所述的增量随机梯度模型通过以下方法建立：

步骤2-1、收集n个不同硝酸铵浓度的硝酸-硝酸铵溶液近红外光谱数据及其对应的硝酸铵浓度数据，作为初始近红外光谱数据集和初始浓度数据集；

步骤2-2、对初始近红外光谱数据集中的数据做标准正态变量变换和最大最小归一化，得到预处理后的近红外光谱数据；

步骤2-3、通过无信息变量消除法(UVE)降维对所述预处理后的近红外光谱数据进行降维，得到降维后的近红外光谱数据；

步骤2-4、对所述降维后的近红外光谱数据进行标准化处理，然后将标准化后的近红外光谱数据与收集到的初始硝酸铵浓度数据按照随机算法划分为训练集数据(包括训练集近红外光谱数据和训练集浓度数据)和测试集数据(包括测试集近红外光谱数据和测试集浓度数据)；

步骤2-5、将所述的训练集数据输入到随机梯度下降模型(SGD)中学习，得到初始模型参数θ(θ₀、θ₁、…、θ_m)，即得随机梯度下降初始模型，然后对所述测试集近红外光谱数据进行拟合预测，得到测试集浓度预测数据；将测试集浓度预测数据与测试集浓度数据进行对比，运用相关系数R²、均方误差MSE和平均绝对误差MAE进行评价；

步骤2-6、当获得第k个硝酸-硝酸铵溶液近红外光谱数据时，对其进行标准正态变量变换和最大最小归一化处理，以及无信息变量消除法降维分析与标准化处理，通过所述随机梯度下降初始模型获得相应的预测值，其中k＝n+1，n+2，……；

步骤2-7、计算所述预测值与真实值之间的相对误差；若该相对误差的绝对值小于等于阈值δ，则令k＝k+1，转至步骤2-6；否则将第k个硝酸-硝酸铵溶液近红外光谱数据及其对应的浓度真实值输入到随机梯度下降初始模型中，对模型参数θ进行更新迭代后，令k＝k+1，转至步骤2-6，直至得到最终的模型参数θ′，即得增量随机梯度下降模型，并通过增量随机梯度下降模型对待测硝酸-硝酸铵溶液中硝酸铵浓度进行预测。

本发明的步骤2-3中，通过以下步骤进行无信息变量消除法降维分析：

(1)将上述预处理后的近红外光谱数据与初始浓度数据集组合成近红外光谱矩阵X(n×m)和硝酸铵浓度矩阵Y(n×1)，其中m代表光谱波段总数。随机产生噪声矩阵R(n×m)，并将近红外光谱矩阵X与噪声矩阵R组合形成混合矩阵XR(n×2m)，所述混合矩阵前m列为近红外光谱矩阵X，后m列为噪声矩阵R；

(2)对所述混合矩阵XR和硝酸铵浓度Y进行PLS回归，每次剔除一个样品的交互验证，得到一个回归系数向量b，最终得到回归系数矩阵B(n×2m)；

(3)按列计算回归系数矩阵B的标准差S(b)和平均值mean(b)，并计算各变量指标系数C_j：

其中j代表回归系数矩阵B中的每一列；

(4)在[m+1，2m]区间取变量指标系数C的绝对值的最大绝对值C_max＝max(abs(C))，其中abs(C)代表变量指标系数C的绝对值；

(5)在[1，m]区间去除近红外光谱矩阵X对应C_j<C_max的变量数据，得到降维后的近红外光谱数据。

上述方法的步骤2-5中，所述随机梯度下降模型的预测函数f(x)表达式为：

f(x_i)＝θ₀x_i0+θ₁x_i1+…+θ_mx_im (2)

式中x为输入的近红外光谱数据，θ(θ₀、θ₁、…、θ_m)表示模型参数，x_i0＝0，i＝1，2，…，n。

模型参数θ通过在迭代循环中不断更新，找到误差函数J(θ)最小值时对应的模型参数。误差函数J(θ)的计算式为：

式中y为输入的近红外光谱数据对应的真实值，α为控制正则化强度的非负超参数，h(y，f(x))为损失函数，g(θ)为惩罚模型复杂度的正则化。

模型参数θ的更新过程为：

式中η为学习效率，θ_j：代表θ_j的更新值。通过不断循环迭代来更新模型参数θ，使得误差函数J(θ)最小，并得到对应的模型参数θ，再根据预测函数与输入的近红外光谱数据，可以得到输入的近红外光谱数据对应的浓度值。

本发明具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法中，步骤2-7中的阈值δ，根据最大可接受相对误差决定。当相对误差的绝对值大于阈值δ时，模型参数θ′是在前一个训练完毕的模型参数θ的基础上开始更新，即保留原有学习效果和权重，继续学习，直至得到最终的模型参数θ′，即得增量随机梯度下降模型。

有益效果

1、使用本发明方法可以由硝酸-硝酸铵溶液的近红外光谱数据通过增量随机梯度下降模型得到硝酸铵浓度的预测值，且具有算法简单易行、运算高效和计算精确的优点。

2、本发明中具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法，能够筛选需要学习的数据，并且在新数据到达时在原有学习结构的基础上继续学习，从分批获得的新数据中获取新知识，逐步提高模型的适应性和预测性能。

附图说明

图1是本发明具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法的流程图。

图2是增量随机梯度下降模型对测试集红外光谱数据的预测值与实际值对比情况。

具体实施方式

本发明的具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法流程图如图1所示。

下面结合附图对本发明做进一步的详细说明：

实施例1：

一、收集和处理硝酸-硝酸铵溶液样品

直接称取一定量的硝酸铵和浓硝酸，配制成硝酸-硝酸铵溶液样品。测定各样品近红外光谱(扫描的波长范围4000～10000cm^-1，共计扫描1557个光谱波段)，并用常规方法测定各溶液样品中硝酸铵的浓度数据。共收集样品149个，取其中89个样品的近红外光谱数据及其对应的浓度数据作为初始近红外光谱数据集和初始浓度数据集，剩余60个硝酸-硝酸铵溶液样品数据用于后续更新学习。

二、建立增量随机梯度下降模型

(1)对初始近红外光谱数据集中的数据做标准正态变量变换和最大最小归一化，消除由固体颗粒大小、表面散射及光程变换对漫反射的影响后，得到预处理后的近红外光谱数据。

所述对光谱数据进行标准正态变量变换，变换公式为：

式中m表示光谱波段数，x_j表示波段数为j时对应的初始近红外光谱数据中的数据，经标准正态变量变换后的数据再进行最大最小归一化处理，处理公式为：

式中x_max-min为预处理后的近红外光谱数据，min是数据所在列的最小值，max是数据所在列的最大值。

(2)采用无信息变量消除法(UVE)对上述预处理后的近红外光谱数据进行降维，通过消除不提供信息的变量，实现以较少的变量提供最多信息的目的，最终得到降维后的近红外光谱数据。

所述UVE算法实现降维的具体方法包括以下步骤：

a.将所述预处理后的近红外光谱数据与初始浓度数据组合成近红外光谱矩阵X(89×1557)和硝酸铵浓度矩阵Y(89×1)。随机产生噪声矩阵R(89×1557)，并将近红外光谱矩阵X与噪声矩阵R组合形成混合矩阵XR(89×3114)，所述混合矩阵前1557列为近红外光谱矩阵X，1557列为噪声矩阵R；

b.对所述混合矩阵XR和硝酸铵浓度矩阵Y进行PLS回归，每次剔除一个样品的交互验证，得到一个回归系数向量b，组合成回归系数矩阵B(89×3114)；

c.按列计算回归系数矩阵B的标准差S(b)和平均值mean(b)，并计算各变量指标系数C_j：

其中j代表回归系数矩阵B中的每一列，得到变量指标系数矩阵C(1×3114)；

d.对变量指标系数矩阵C在[1558，3114]的列区间范围内，取变量指标系数C的最大绝对值C_max；

e.对变量指标系数矩阵C在[1，1557]的列区间范围内，找出C＜C_max的光谱波段数，并在所述红外光谱矩阵X中剔除，得到降维后的近红外光谱数据矩阵X′(89×p)，式中p为剔除后所述C＜C_max的光谱波段数，降维后的近红外光谱数据矩阵X′中的数据即为降维后的近红外光谱数据。

最优模型中，提取波长从原始的1557个光谱波段数减少至89个特征点波段。

(3)对所述降维后的近红外光谱数据进行标准化处理，然后将标准化的近红外光谱数据与前述收集到的初始浓度数据按照随机算法，依照85：15的比例划分为训练集数据(包括训练集近红外光谱数据和训练集浓度数据)和测试集数据(包括测试集近红外光谱数据和测试集浓度数据)。

对所述降维后的近红外光谱数据x进行标准化处理，计算式为：

式中σ(x)为方差。

(4)将所述的训练集数据输入到随机梯度下降模型(SGD)中学习，得到随机梯度下降初始模型，对所述测试集近红外光谱数据进行拟合预测，得到测试集浓度预测数据；将测试集浓度预测数据与测试集浓度数据进行对比，运用相关系数R²、均方误差MSE和平均绝对误差MAE进行评价。

所述随机梯队下降初始模型构建具体包括以下几个步骤：

a.构建预测函数f(x)：

f(x_i)＝θ₀x_i0+θ₁x_i1+…+θ_mx_im (7)

式中x为输入的近红外光谱数据，f(x)为输入的近红外光谱数据对应的浓度预测值，θ表示模型参数,x_i0＝0，i＝1，2，…，n；

b.构建误差函数J(θ)、惩罚模型复杂度的正则化g(θ)和损失函数h(y，f(x))：

式中y为输入的近红外光谱数据对应的真实值，α为控制正则化强度的非负超参数，；

c.对随机梯度下降模型参数θ(θ₀、θ₁、…、θ_m)随机赋值；

d.模型参数θ在迭代过程中会不断进行更新，更新过程为：

t＝n×n_iter (14)

式中θ_j：代表θ_j的更新值，η为学习效率，eta₀和power_t为超参数，t为时间步长，n_iter为迭代次数。

第一次迭代时：

第二次迭代时，将第一次迭代得到的θ：(θ₀：、θ₁：、…、θ_m：)作为第二次迭代的初始值进行更新；第三次迭代时，将第二次迭代得到的θ：(θ₀：、θ₁：、…、θ_m：)作为第三次迭代的初始值更新，以此类推，不断更新。

e.当迭代完成或损失函数J(θ)取最小值时停止，得到初始模型参数θ(θ₀、θ₁、…、θ_m)，即得随机梯度下降初始模型，再对输入的近红外光谱数据对应的浓度值进行预测。

所述评价指标：

①相关系数R²：R²越接近1说明模型的预测效果越好，计算式为：

式中是实测值的平均值。

②均方误差MSE：MSE越小，说明模型的预测能力越强，计算式为：

MSE越小，说明模型的预测能力越强。

③平均绝对误差MAE：MAE越小，说明模型的预测能力越强，计算式为：

结果表明，选择标准正态变量变换和最大最小归一化进行光谱数据预处理，以无信息变量消除法进行降维，用标准化后的数据进行预测，在最佳模型条件下得到的测试集均方误差MSE为0.0327，平均绝对误差MAE为0.1675，相关系数R²为0.9997。最佳建模的模型参数及预测性能如表1所示。

表1最终建模参数

(5)构建增量随机梯度下降模型

对所述剩余60个硝酸-硝酸铵溶液样品近红外光谱数据经过标准正态变量变换和最大最小归一化、无信息变量消除法降维和标准化处理后，通过所述随机梯度下降初始模型获得相应的预测值。逐一计算预测值与真实值之间的相对误差，若相对误差的绝对值小于等于阈值0.1％，则进行下一个样品数据的预测；否则，对增量模型参数θ′(θ′₀：、θ′₁：、…、θ′_m：)进行更新，其初始值为前一个训练完毕θ(θ₀：、θ₁：、…、θ_m)，迭代学习完成后进行下一个样品数据的预测，直至得到最终的模型参数θ′(θ′₀：、θ′₁：、…、θ′_m：)，即得增量随机梯度下降模型。利用构建的增量随机梯度下降模型对测试集数据进行预测，运用相关系数R²、均方误差MSE和平均绝对误差MAE进行评价。

结果表明，利用前述随机梯度下降初始模型对60个硝酸-硝酸铵溶液样品近红外光谱数据和浓度数据进行分析，相对误差绝对值大于阈值的有50个硝酸-硝酸铵溶液样品。利用50个硝酸-硝酸铵溶液样品对增量模型参数θ′更新后，对测试集近红外光谱数据预测，并与测试集浓度数据比较，发现相关系数R²从0.9997提高到了0.9999，均方误差MSE从0.0327降低为0.0195，平均绝对误差MAE从0.1675降低到了0.121。图2所示为增量随机梯度下降模型对测试集红外光谱数据的预测值与实际值对比情况。

表2所示的是采用随机梯度下降初始模型和增量随机梯度下降模型对测试集近红外光谱数据进行预测的结果。从表2中可以看出，采用增量随机梯度下降模型，预测相对误差最大值从1.16％减少为0.78％，偏差更小，说明了本发明的增量随机梯度下降模型可用于新数据的再学习，能够进一步降低模型的预测误差，提高模型的预测精度。

表2不同模型对测试集近红外光谱数据预测情况对比

三、未知硝酸铵浓度的硝酸-硝酸铵溶液浓度预测

模型建好后，便可对未知硝酸铵浓度的硝酸-硝酸铵溶液中硝酸铵浓度进行快速预测。将在线采集到的15个硝酸-硝酸铵溶液新样品的近红外光谱数据，通过标准正态变量变换、最大最小归一化处理、无信息变量消除法降维和标准化分析得到的数据，输入到所述增量随机梯度下降模型中，能够直接预测得到未知硝酸铵浓度的硝酸-硝酸铵溶液浓度中硝酸铵的浓度值，预测结果见表3。由表3的结果可知，相对误差最大的仅为0.84％，说明构建的方法可用于硝酸-硝酸铵溶液中硝酸铵浓度的预测。

表3未知硝酸-硝酸铵溶液样品中硝酸铵浓度预测值与实际值对比

以上所述的具体描述，对发明的目的、技术方案和有益效果进行了进一步详细说明，所应理解的是，以上所述仅为本发明的具体实施例而已，并不用于限定本发明的保护范围，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法，其特征在于：包括以下步骤：

步骤一、采集待测硝酸铵浓度的硝酸-硝酸铵溶液近红外光谱数据；

步骤二、通过增量随机梯度下降模型，获得该近红外光谱数据所对应溶液中硝酸铵浓度；

步骤二中所述的增量随机梯度模型通过以下方法建立：

步骤2-1、收集n个不同硝酸铵浓度的硝酸-硝酸铵溶液近红外光谱数据及其对应的硝酸铵浓度数据，作为初始近红外光谱数据集和初始浓度数据集；

步骤2-2、对初始近红外光谱数据集中的数据做标准正态变量变换和最大最小归一化，得到预处理后的近红外光谱数据；

步骤2-3、通过无信息变量消除法对所述预处理后的近红外光谱数据进行降维，得到降维后的近红外光谱数据；

通过以下步骤进行无信息变量消除法降维分析：

(1)将上述预处理后的近红外光谱数据与初始浓度数据集组合成近红外光谱矩阵X(n×m)和硝酸铵浓度矩阵Y(n×1)，其中m代表光谱波段总数；随机产生噪声矩阵R(n×m)，并将近红外光谱矩阵X与噪声矩阵R组合形成混合矩阵XR(n×2m)，所述混合矩阵前m列为近红外光谱矩阵X，后m列为噪声矩阵R；

(2)对所述混合矩阵XR和硝酸铵浓度Y进行PLS回归，每次剔除一个样品的交互验证，得到一个回归系数向量b，最终得到回归系数矩阵B(n×2m)；

(3)按列计算回归系数矩阵B的标准差S(b)和平均值mean(b)，并计算各变量指标系数C_j：

其中j代表回归系数矩阵B中的每一列；

(4)在[m+1，2m]区间取变量指标系数C的绝对值的最大绝对值C_max＝max(abs(C))，其中abs(C)代表变量指标系数C的绝对值；

(5)在[1，m]区间去除近红外光谱矩阵X对应C_j<C_max的变量数据，得到降维后的近红外光谱数据；

步骤2-4、对所述降维后的近红外光谱数据进行标准化处理，然后将标准化后的近红外光谱数据与收集到的初始硝酸铵浓度数据按照随机算法划分为训练集数据和测试集数据，所述训练集数据包括训练集近红外光谱数据和训练集浓度数据，所述测试集数据包括测试集近红外光谱数据和测试集浓度数据；

步骤2-5、将所述的训练集数据输入到随机梯度下降模型中学习，得到初始模型参数θ(θ₀、θ₁、...、θ_m)，即得随机梯度下降初始模型，然后对所述测试集近红外光谱数据进行拟合预测，得到测试集浓度预测数据；将测试集浓度预测数据与测试集浓度数据进行对比，运用相关系数R²、均方误差MSE和平均绝对误差MAE进行评价；

所述随机梯度下降模型的预测函数f(x)表达式为：

f(x_i)＝θ₀x_i0+θ₁x_i1+...+θ_mx_im (2)

式中x为输入的近红外光谱数据，θ(θ₀、θ₁、...、θ_m)表示模型参数，x_i0＝0，i＝1，2，…，n；

模型参数θ通过在迭代循环中不断更新，找到误差函数J(θ)最小值时对应的模型参数；误差函数J(θ)的计算式为：

式中y为输入的近红外光谱数据对应的真实值，α为控制正则化强度的非负超参数，h(y，f(x))为损失函数，g(θ)为惩罚模型复杂度的正则化；

模型参数θ的更新过程为：

式中η为学习效率，θ_j：代表θ_j的更新值；通过不断循环迭代来更新模型参数θ，使得误差函数J(θ)最小，并得到对应的模型参数θ，再根据预测函数与输入的近红外光谱数据，可以得到输入的近红外光谱数据对应的浓度值；

步骤2-6、当获得第k个硝酸-硝酸铵溶液近红外光谱数据时，对其进行标准正态变量变换和最大最小归一化处理，以及无信息变量消除法降维分析与标准化处理，通过所述随机梯度下降初始模型获得相应的预测值，其中k＝n+1，n+2，……；

步骤2-7、计算所述预测值与真实值之间的相对误差；若该相对误差的绝对值小于等于阈值δ，则令k＝k+1，转至步骤2-6；否则将第k个硝酸-硝酸铵溶液近红外光谱数据及其对应的浓度真实值输入到随机梯度下降初始模型中，对模型参数θ进行更新迭代后，令k＝k+1，转至步骤2-6，直至得到最终的模型参数θ′，即得增量随机梯度下降模型，并通过增量随机梯度下降模型对待测硝酸-硝酸铵溶液中硝酸铵浓度进行预测。

2.如权利要求1所述具有更新机制的硝酸-硝酸铵溶液中硝酸铵浓度预测方法，其特征在于：步骤2-7中的阈值δ，根据最大可接受相对误差决定；当相对误差的绝对值大于阈值δ时，在前一个训练完毕的模型参数θ的基础上开始更新，即保留原有学习效果和权重，继续学习，直至得到最终的模型参数θ′，即得增量随机梯度下降模型。