CN112289391A - 一种基于机器学习的阳极铝箔性能预测系统 - Google Patents

Abstract

本发明公开了一种基于机器学习的阳极铝箔性能预测系统，其先收集阳极铝箔生产线上实时的工艺参数及其对应的产品性能指标的实测数据组成在线制造数据样本库Database；然后对在线制造数据样本库Database中的数据进行主成分分析后，再分成训练数据集Data‑train‑p和测试数据集Data‑test；分别采用四种机器学习算法模型使用训练数据集Data‑train‑p进行模型的训练学习和测试；再将每个机器学习模型的测试部分Data‑train‑p‑II进行合并用于进行次级学习器的训练；最后将测试数据集Data‑test中输入到stacking模型中，得到预测值，比较预测值与实测值之间的差异，若满足预设的预测精度要求，则预测系统构建结束，反之则重新构建初级学习器和次级学习器。本发明解决阳极铝箔性能预测方法适用性差，预测精度低的问题。

Description

一种基于机器学习的阳极铝箔性能预测系统

技术领域

本发明属于阳极铝箔生产工艺技术领域，具体涉及一种基于机器学习的阳极铝箔性能预测系统。

背景技术

阳极铝箔是制造铝电解电容器的关键原材料，是由具有特定织构的高纯铝箔经过腐蚀扩面和阳极化成制备而成。阳极铝箔的全流程制造过程涉及多达几十个工艺参数，工艺参数之间的非线性影响因素较多，各性能参数之间相互关联，通过实验室正交测试及生产线调试得到最优工艺参数的难度较大。如何找到并利用生产工艺参数与性能指标之间的内在复杂关系，实现工艺参数优化设计与产品性能指标的准确预测，是阳极铝箔制造行业急需解决的关键问题。

机器学习作为人工智能领域中的一项先进技术，为实现多维非线性系统及模型未知系统的预测和优化，提供了科学简便的途径。现有的材料性能预测机器学习模型涉及的输入量较少，对原始数据通常不进行降维处理，直接进行机器学习建模分析。由于阳极铝箔制造过程中工艺参数众多且相互关联，在进行机器学习建模之前需要开展特征工程，进行数据的清洗、分析及降维，找出其中相互独立的主成分作为输入量进行机器学习的训练和测试，实现大量实时生产数据的有效压缩，减少数据存储空间，减少数据间的冗余，提高计算效率。现有采用单一机器学习算法进行性能预测，对于阳极铝箔性能预测时涉及到大量相互影响的工艺参数和性能指标的情形，适用性较差，预测精度较低。

发明内容

针对上述不足，本发明公开了一种基于机器学习的阳极铝箔性能预测系统，解决阳极铝箔性能预测方法适用性差，预测精度低的问题。

本发明是采用如下技术方案实现的：

一种基于机器学习的阳极铝箔性能预测系统，其建立包括以下步骤：

(1)收集阳极铝箔生产线上实时的工艺参数及其对应的产品性能指标的实测数据，筛选整理成在线制造数据样本库Database；

(2)对在线制造数据样本库Database中的数据进行主成分分析，得到由m个主成分为输入量，k个产品性能指标为输出量的数据集Data-set，随机将数据集Data-set分成训练数据集Data-train-p和测试数据集Data-test，其中80％的数据分给训练数据集Data-train-p，剩下的数据分给测试数据集Data-test；

(3)将神经网络、支持向量回归机、朴素贝叶斯和随机森林四种机器学习算法模型组成初级学习器；然后对训练数据集Data-train-p采用4折交叉验证方法，将每个机器学习算法模型所输入的训练数据集Data-train-p进行再次分割，其中3/4的数据作为该机器学习算法模型本身的训练部分Data-train-p-I进行模型的训练学习，另外1/4的数据作为该机器学习算法模型本身的测试部分Data-train-p-II进行模型的测试；

(4)将每个机器学习模型的测试部分Data-train-p-II进行合并，得到新的训练数据集Data-train-s，用于进行次级学习器的训练；

(5)次级学习器训练完成后，将测试数据集Data-test中输入到stacking模型中，得到该模型预测的阳极铝箔性能参数；比较预测值与实测值之间的差异，若满足预设的预测精度要求，则机器学习模型构建结束，得到基于机器学习的阳极铝箔性能预测系统；反之，则重新构建初级学习器和次级学习器。

进一步的，步骤(1)中所述在线制造数据样本库Database中的工艺参数包括腐蚀工艺参数和化成工艺参数；所述腐蚀工艺参数包括发孔腐蚀和扩孔腐蚀阶段的溶液成分、浓度、温度、电压、电流密度和处理时间；所述化成工艺参数，包括水煮处理阶段的温度及时间，一级化成、二级化成、三级化成、四级化成等阶段的溶液成分及浓度、温度、电压、电流密度、处理时间，后处理阶段的温度及时间。

进一步的，步骤(1)中所述在线制造数据样本库Database中的产品性能指标包括电学性能和力学性能；所述电学性能包括比电容、耐压值、漏电流、升压时间、耐水性能；所述力学性能包括折弯强度、抗拉强度。

进一步的，步骤(2)中所述对在线制造数据样本库Database中的数据进行主成分分析的步骤如下：

Step1、对原始数据集进行预处理，对于定性类型的数据进行哑编码处理；对于定量类型的数据进行标准化处理，计算公式为：

式中，

为数据集每一行数据的平均值、方差；

Step2、计算数据集的协方差矩阵W，W中第i行第j列元素c_ij的计算公式为：

c_ij＝Cov(X_i，X_j)＝E{[X_i-E(X_i)][X_j-E(X_j)]}

式中，i，j＝1，2，…，p，X_i为标准化处理后元素

组成的矩阵；

Step3、计算协方差矩阵Ω的n个特征值λ₁，λ₂，…，λ_p和特征向量A；

Step4、将计算出来的n个特征值λ₁，λ₂，…，λ_p按照从大到小排序，计算每个特征值的方差贡献率的计算公式为：

Step5、计算前m个特征值的累积方差贡献率，直至累积方差贡献率超过预设的阈值为止，则选取对应的前m个最大的特征值作为主成分。

进一步的，Step5步骤中所述预设的阈值大于或等于80％。根据二八定律，才能保证综合变量能包括原始变量的绝大多数信息。

进一步的，步骤(3)中所述的四种初级学习器的机器学习算法模型如下：

对于神经网络模型，采用BP算法构建一个三层前馈型神经网络，包含一个输入层、一个隐含层与一个输出层，其中输入层、隐含层、输出层节点数分别为m、

k，其中

取整数，隐含层与输出层神经元都使用Sigmoid函数，设置随机的初始权值和阈值；

对于支持向量回归机模型，回归拟合函数定义为：

式中，α_i、

是拉格朗日乘子，K(x_i，x)为径向基核函数，b为阈值；

对于朴素贝叶斯模型，采用的朴素贝叶斯表达式为：

式中，P(Y＝c_k)为先验概率，P(X^(j)＝x^(j)|Y＝c_k)为第j个事件的类条件概率；

对于随机森林模型，设置每个决策树随机选择的特征数目与主成分个数m相同，根据处理器能力选择合适的子树数量，以决策树作为基学习器构建Bagging集成，在决策树的训练过程加入随机属性的选择。

进一步的，步骤(4)中训练次级学习器的方法如下：

采用决策树模型作为次级学习器，对四个初级学习器模型的结果进行集成归纳学习，采用信息熵作为决策树分支产生的衡量标准，每一次选择分裂属性时，计算一次这种分裂引起的信息增益，并比较不同分类下的信息增益的大小，最终通过一定的规则来选择最佳的分类属性；

信息熵的计算公式为：

式中，x_i表示第i个分类，p(x_i)表示选择第i个分类的概率函数，其中

条件熵的计算公式为：

式中，y_j表示给定事件Y的第j个分类，p(y_j)表示选择第j个分类的概率，其中

p(x_i|y_j)表示给定事件Y的条件下，x_i的条件概率；

信息增益的计算公式为：

IG(X，Y)＝H(X)-H(X|Y)。

本技术方案与现有技术相比较具有以下有益效果：

1、本发明通过采用主成分分析进行数据样本的降维处理，并采用机器学习中的stacking异质集成学习方法，构建一种基于机器学习的铝电解电容器用阳极铝箔性能预测系统，为其工艺设计优化及性能预测提供参考依据，提高研发效率。与现有技术相比，本发明采用主成分分析方法进行数据样本的降维处理，实现大量实时生产数据的有效压缩，减少数据存储空间，减少数据间的冗余，提高计算效率。

2、本发明主要解决了目前采用单一机器学习模型的预测准确率较低、泛化能力较弱等现象，通过采用机器学习中的stacking异质集成学习方法，构建一个准确率高于初级学习器的强预测模型，并利用降维处理后的数据样本进行模型的训练及测试，因为stacking异质集成学习的思路是通过合并多个模型来提升机器学习性能，所以本发明方法相较于单一算法模型通常能够获得更好的预测结果。

3、本发明得到的性能预测方法预测准确率有较大提高，可用于铝电解电容器用阳极铝箔的电学性能和力学性能预测，有利于降低工艺研发成本，提高研发效率。

附图说明

图1是实施例1中所述基于机器学习的阳极铝箔性能预测系统的操作流程示意图。

具体实施方式

以下通过实施例进一步说明本发明，但不作为对本发明的限制。下列实施例中未注明的具体实验条件和方法，所采用的技术手段通常为本领域技术人员所熟知的常规手段。

实施例1：

如图1所示，下面以采用四段化成工艺的铝电解电容器用阳极铝箔的电学性能和力学性能预测为例，来说明本方法的具体实施方案：

(1)收集实际生产线上采用四段化成工艺的工艺参数及对应的产品性能指标，筛选整理成在线制造数据样本库Database；样本库中的数据要求在正常运行的生产线上采集，在常用的工艺参数范围内，得到的样本数据尽量均匀离散；制造过程涉及的工艺参数包括腐蚀工艺参数和化成工艺参数；所述腐蚀工艺参数包括发孔腐蚀和扩孔腐蚀阶段的溶液成分、浓度、温度、电压、电流密度和处理时间；所述化成工艺参数，包括水煮处理阶段的温度及时间，一级化成、二级化成、三级化成、四级化成等阶段的溶液成分及浓度、温度、电压、电流密度、处理时间，后处理阶段的温度及时间；阳极铝箔的产品性能指标包括产品性能指标包括电学性能和力学性能；所述电学性能包括比电容、耐压值、漏电流、升压时间、耐水性能；所述力学性能包括折弯强度、抗拉强度；

(2)对在线制造数据样本库Database中的数据进行主成分分析，具体包括以下步骤：

Step1、对原始数据集进行预处理，对于定性类型(例如：溶液成分等)的数据进行哑编码处理；对于定量类型(例如：溶液浓度、温度、电压、电流密度、时间等)的数据进行标准化处理，计算公式为：

式中，

为数据集每一行数据的平均值、方差；

Step2、计算数据集的协方差矩阵W，W中第i行第j列元素c_ij的计算公式为：

c_ij＝Cov(X_i，X_j)＝E{[X_i-E(X_i)][X_j-E(X_j)]}

式中，i，j＝1，2，…，p，X_i为标准化处理后元素

组成的矩阵；

Step3、计算协方差矩阵Ω的n个特征值λ₁，λ₂，…，λ_p和特征向量A；

Step4、将计算出来的n个特征值λ₁，λ₂，…，λ_p按照从大到小排序，计算每个特征值的方差贡献率的计算公式为：

Step5、计算前m个特征值的累积方差贡献率，直至累积方差贡献率超过预设的阈值为止，则选取对应的前m个最大的特征值作为主成分；所述预设的阈值为80％；

接着由m个主成分为输入量，k个产品性能指标(如比电容、折弯强度等)为输出量的数据集Data-set，随机将数据集Data-set分成训练数据集Data-train-p和测试数据集Data-test，其中80％的数据分给训练数据集Data-train-p，剩下的数据分给测试数据集Data-test；

(3)将神经网络、支持向量回归机、朴素贝叶斯和随机森林四种机器学习算法模型组成初级学习器；然后对训练数据集Data-train-p采用4折交叉验证方法，将每个机器学习算法模型所输入的训练数据集Data-train-p进行再次分割，其中3/4的数据作为该机器学习算法模型本身的训练部分Data-train-p-I进行模型的训练学习，另外1/4的数据作为该机器学习算法模型本身的测试部分Data-train-p-II进行模型的测试；

所述的四种初级学习器的机器学习算法模型如下：

对于神经网络模型，采用BP算法构建一个三层前馈型神经网络，包含一个输入层、一个隐含层与一个输出层，其中输入层、隐含层、输出层节点数分别为m、

k，其中

取整数，隐含层与输出层神经元都使用Sigmoid函数，设置随机的初始权值和阈值；

对于支持向量回归机模型，回归拟合函数定义为：

式中，α_i、

是拉格朗日乘子，K(x_i，x)为径向基核函数，b为阈值；

对于朴素贝叶斯模型，采用的朴素贝叶斯表达式为：

式中，P(Y＝c_k)为先验概率，P(X^(j)＝x^(j)|Y＝c_k)为第j个事件的类条件概率；

对于随机森林模型，设置每个决策树随机选择的特征数目与主成分个数m相同，根据处理器能力选择合适的子树数量，以决策树作为基学习器构建Bagging集成，在决策树的训练过程加入随机属性的选择；

(4)将每个机器学习模型的测试部分Data-train-p-II进行合并，得到新的训练数据集Data-train-s，用于进行次级学习器的训练；

所述训练次级学习器的方法如下：采用决策树模型作为次级学习器，对四个初级学习器模型的结果进行集成归纳学习，采用信息熵作为决策树分支产生的衡量标准，每一次选择分裂属性时，计算一次这种分裂引起的信息增益，并比较不同分类下的信息增益的大小，最终通过一定的规则来选择最佳的分类属性；

信息熵的计算公式为：

式中，x_i表示第i个分类，p(x_i)表示选择第i个分类的概率函数，其中

条件熵的计算公式为：

式中，y_j表示给定事件Y的第j个分类，p(y_j)表示选择第j个分类的概率，其中

p(x_i|y_j)表示给定事件Y的条件下，x_i的条件概率；

信息增益的计算公式为：

IG(X，Y)＝H(X)-H(X|Y)；

(5)次级学习器训练完成后，将测试数据集Data-test中输入到stacking模型中，得到该模型预测的阳极铝箔性能参数；比较预测值与实测值之间的差异，若满足预设的预测精度要求，如预测值与实测值之间的差异小于2％，则机器学习模型构建结束，反之，则重新构建初级学习器和次级学习器。

此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

Claims (7)

1.一种基于机器学习的阳极铝箔性能预测系统，其特征在于：其建立包括以下步骤：

(1)收集阳极铝箔生产线上实时的工艺参数及其对应的产品性能指标的实测数据，筛选整理成在线制造数据样本库Database；

(2)对在线制造数据样本库Database中的数据进行主成分分析，得到由m个主成分为输入量，k个产品性能指标为输出量的数据集Data-set，随机将数据集Data-set分成训练数据集Data-train-p和测试数据集Data-test，其中80％的数据分给训练数据集Data-train-p，剩下的数据分给测试数据集Data-test；

(3)将神经网络、支持向量回归机、朴素贝叶斯和随机森林四种机器学习算法模型组成初级学习器；然后对训练数据集Data-train-p采用4折交叉验证方法，将每个机器学习算法模型所输入的训练数据集Data-train-p进行再次分割，其中3/4的数据作为该机器学习算法模型本身的训练部分Data-train-p-I进行模型的训练学习，另外1/4的数据作为该机器学习算法模型本身的测试部分Data-train-p-II进行模型的测试；

(4)将每个机器学习模型的测试部分Data-train-p-II进行合并，得到新的训练数据集Data-train-s，用于进行次级学习器的训练；

(5)次级学习器训练完成后，将测试数据集Data-test中输入到stacking模型中，得到该模型预测的阳极铝箔性能参数；比较预测值与实测值之间的差异，若满足预设的预测精度要求，则机器学习模型构建结束，得到基于机器学习的阳极铝箔性能预测系统；反之，则重新构建初级学习器和次级学习器。

2.根据权利要求1所述基于机器学习的阳极铝箔性能预测系统，其特征在于：步骤(1)中所述在线制造数据样本库Database中的工艺参数包括腐蚀工艺参数和化成工艺参数；所述腐蚀工艺参数包括发孔腐蚀和扩孔腐蚀阶段的溶液成分、浓度、温度、电压、电流密度和处理时间；所述化成工艺参数，包括水煮处理阶段的温度及时间，一级化成、二级化成、三级化成、四级化成等阶段的溶液成分及浓度、温度、电压、电流密度、处理时间，后处理阶段的温度及时间。

3.根据权利要求1所述基于机器学习的阳极铝箔性能预测系统，其特征在于：步骤(1)中所述在线制造数据样本库Database中的产品性能指标包括电学性能和力学性能；所述电学性能包括比电容、耐压值、漏电流、升压时间、耐水性能；所述力学性能包括折弯强度、抗拉强度。

4.根据权利要求1所述基于机器学习的阳极铝箔性能预测系统，其特征在于：步骤(2)中所述对在线制造数据样本库Database中的数据进行主成分分析的步骤如下：

Step1、对原始数据集进行预处理，对于定性类型的数据进行哑编码处理；对于定量类型的数据进行标准化处理，计算公式为：

式中，

为数据集每一行数据的平均值、方差；

Step2、计算数据集的协方差矩阵W，W中第i行第j列元素c_ij的计算公式为：

c_ij＝Cov(X_i，X_j)＝E{[X_i-E(X_i)][X_j-E(X_j)]}

式中，i，j＝1，2，…，p，X_i为标准化处理后元素

组成的矩阵；

Step3、计算协方差矩阵Ω的n个特征值λ₁，λ₂，…，λ_p和特征向量A；

Step4、将计算出来的n个特征值λ₁，λ₂，…，λ_p按照从大到小排序，计算每个特征值的方差贡献率的计算公式为：

Step5、计算前m个特征值的累积方差贡献率，直至累积方差贡献率超过预设的阈值为止，则选取对应的前m个最大的特征值作为主成分。

5.根据权利要求1所述基于机器学习的阳极铝箔性能预测系统，其特征在于：步骤(3)中所述的四种初级学习器的机器学习算法模型如下：

对于神经网络模型，采用BP算法构建一个三层前馈型神经网络，包含一个输入层、一个隐含层与一个输出层，其中输入层、隐含层、输出层节点数分别为m、

k，其中

取整数，隐含层与输出层神经元都使用Sigmoid函数，设置随机的初始权值和阈值；

对于支持向量回归机模型，回归拟合函数定义为：

式中，α_i、

是拉格朗日乘子，K(x_i，x)为径向基核函数，b为阈值；

对于朴素贝叶斯模型，采用的朴素贝叶斯表达式为：

y＝argmaxP(Y＝c_k)Π_jP(X^(j)＝x^(j)|Y＝c_k)

式中，P(Y＝c_k)为先验概率，P(X^(j)＝x^(j)|Y＝c_k)为第j个事件的类条件概率；

对于随机森林模型，设置每个决策树随机选择的特征数目与主成分个数m相同，根据处理器能力选择合适的子树数量，以决策树作为基学习器构建Bagging集成，在决策树的训练过程加入随机属性的选择。

6.根据权利要求1所述基于机器学习的阳极铝箔性能预测系统，其特征在于：步骤(4)中训练次级学习器的方法如下：

采用决策树模型作为次级学习器，对四个初级学习器模型的结果进行集成归纳学习，采用信息熵作为决策树分支产生的衡量标准，每一次选择分裂属性时，计算一次这种分裂引起的信息增益，并比较不同分类下的信息增益的大小，最终通过一定的规则来选择最佳的分类属性；

信息熵的计算公式为：

式中，x_i表示第i个分类，p(x_i)表示选择第i个分类的概率函数，其中

条件熵的计算公式为：

式中，y_j表示给定事件Y的第j个分类，p(y_j)表示选择第j个分类的概率，其中

p(x_i|y_j)表示给定事件Y的条件下，x_i的条件概率；

信息增益的计算公式为：

IG(X，Y)＝H(X)-H(X|Y)。

7.根据权利要求4所述基于机器学习的阳极铝箔性能预测系统，其特征在于：Step5步骤中所述预设的阈值大于或等于80％。

Images