CN115545321A - 一种制丝车间工艺质量在线预测方法 - Google Patents

Abstract

本发明公开了一种制丝车间工艺质量在线预测方法，包括以下步骤：(1)：从MES数据库中获取工艺参数和质量指标；(2)：对获取的制丝工艺参数历史数据的规则化表征和数据融合，并进行预处理；(3)：基于序列到序列的学习结构，采用混合神经网络以预测下一时刻的松散回潮质量指标为目标建立车间离线质量预测模型，即CTCN_A_B网络模型；(4)：通过与制丝车间在线监测设备传感器建立通信，获取在线制丝车间工艺数据，选取与离线数据相同的松散回潮工艺数据并进行处理；(5)：采用双线程法，利用迁移学习冻结离线预测模型中特征提取模块的网络结构和参数，并迁移至在线工艺质量预测模型中，实现动态调整预测模型，满足生产实际变动预测需求。

Description

一种制丝车间工艺质量在线预测方法

技术领域

本发明属于工业智能在线预测技术领域，具体涉及一种制丝车间工艺质量在线预测方法。

背景技术

“智能制造”作为我国制造业的发展方向，将智能化生产技术列为重要研究内容。工艺过程的科学、合理的过程工艺质量控制与管理的科技水平与发展成为关键。

对于烟草制丝车间工艺生产，目前仅初步实现工厂的自动化，未能实现以在线预测为生产调节手段来实时调控生产计划与生产过程控制参数等生产内容，无法进一步实现智能工厂的战略目标。为此，深入研究细化工艺参数和质量指标间的关联关系和内在特征规律，建立预测模型，借以应用工艺参数来表征制丝生产技术关键控制指标很有必要。

但在实际生产过程中，不同工序、不同产线的加工数据相互混搅，难以有效整理，这为实现工厂数字化提出挑战，同时也会出现类似于设备参数变更、生产环境变化等突发情况导致固定的特征挖掘手段无法适应任何场景下，机器内部固定的模型参数无法根据实际情况进行学习更新并重置设定，因此不断学习适应特征变化的能力是当前工厂智能化转变的必要研究方向。并且需要考虑到在实际生产中及时响应的重要性，要求自主学习的快速和有效性，因此在制丝生产过程中利用机器学习的特征学习能力和快速自适应学习是实现工艺质量在线预测的关键手段。为此提出本发明。

发明内容

本发明的目的是提供一种制丝车间工艺质量在线预测方法，解决了现有技术中存在的问题：依赖传统数理统计方法，需要依赖于专家经验预设的阈值，导致获取的关联特征带有一定的主观性；目前工业质量预测聚集于机器学习和神经网络等人工智能领域，但采用单一的网络结构无法完整提取工业生产中复杂的时序关联信息，丢失局部信息表达，致使预测结果无法达到满意精度；同时现有预测网络是基于离线历史数据训练得到的特征提取能力，但在实际应用中，由于突发状况导致在线数据与离线数据存在差异，而这种差异随着时间的推移越来越严重，导致预测结果严重失真。

本发明所采用的技术方案如下：

一种制丝车间工艺质量在线预测方法，包括以下步骤：

步骤(1)：从MES数据库中获取不同的生产厂区和生产线下的制丝工艺参数历史数据，包括不同工序的工艺参数和质量指标；

步骤(2)：对获取的制丝工艺参数历史数据的规则化表征和数据融合，并进行预处理；

步骤(3)：选取由步骤(2)预处理后的制丝工艺历史数据中的松散回潮工序数据，基于序列到序列的学习结构，采用混合神经网络以预测下一时刻的松散回潮质量指标为目标建立车间离线质量预测模型，即CTCN_A_B网络模型；

步骤(4)：通过与制丝车间在线监测设备传感器建立通信，获取在线制丝车间工艺数据，选取与离线数据相同的松散回潮工艺数据并进行处理；

步骤(5)：采用双线程法，利用迁移学习冻结离线预测模型中特征提取模块的网络结构和参数，并迁移至在线工艺质量预测模型中，实现动态调整预测模型，满足生产实际变动预测需求。

优选地，步骤(2)具体包括如下步骤：

步骤(2.1)：通过分析各厂区的工艺方案、工艺组合和数据采集方法、以及数据命名的相通性，制定制丝工艺过程配置内容，实现不同厂区不同工艺数据的规则化表征和数据融合；

步骤(2.2)：对各种异常数据，通过数据清理、数据类型转换、数据批次牌号采集、异常值处理和数据归一化的多道工序实现数据预处理。

优选地，步骤(3)具体包括如下步骤：

步骤(3.1)：从完整制丝工艺数据中选取松散回潮工序数据，并分析对质量指标具有重要影响作用的工艺参数，选取这些工艺参数数据作为离线预测模型的输入数据，训练预测模型；

步骤(3.2)：通过与传统回归方法、浅层机器学习方法和神经网络(DNN、 LSTM、GRU等网络)比较拟合值、标准误差和评价绝对百分比误差来验证所构建模型的有效性。

优选地，步骤(3.1)具体步骤为：

步骤(3.1.1)：选取的关键工艺参数为：工艺流量、工艺热风温度、物料累计量、加水流量、加水累计量和蒸汽自动阀门开度，质量指标为：出料温度和出料含水率；对这些数据按照一定比例划分训练集和测试集，用训练集对所构建的离线预测模型进行训练，利用测试集对离线预测模型进行测试；

步骤(3.1.2)：串联CNN_TCN的编码器组件，利用训练集数据对预处理过的离线预测模型进行训练；利用BiLSTM网络挖掘松散回潮质量指标数据中的双向时序特征，将松散回潮工艺参数的时序关联特征和质量指标数据的时序特征进行联结，再将联结向量作为多头注意力网络的输入，利用其进行对特征重新分配权重，实现多源特征信息的融合；

步骤(3.1.2)：构建基于序列到序列学习结构下的制丝车间工艺质量离线预测模型，该模型包括两个部分，分别为串联CNN_TCN的编码器组件和融合多头注意力机制的BiLSTM解码器组件；在编码组件中首先利用卷积神经网络 (CNN)来自动学习工艺参数数据中深度潜在特征，有效摆脱依赖专家经验获取得到的关联信息；随后串联时间卷积神经网络(TCN)，在保持工艺参数因果卷积特性下，可以有效分析车间工艺时序信息，并且TCN网络中应用因果卷积来提升长时间跨度记忆单元处理效率，实现工艺参数长距离时序特征提取；同时在解码组件中利用BiLSTM网络用以提取质量指标数据中的历史时序特征，然后利用多头注意力网络融合上述所提取的全部特征，并对特征进行权重重新分配，实现多源特征信息融合；最后通过全连接层输出质量指标预测值。

优选地，步骤(5)具体包括如下步骤：

步骤(5.1)：为应对实际生产中出现的各种突发情况，利用双线程法建立两个模型平台，训练平台和预测平台；训练平台用于不间断训练模型来达到实时更新模型的目的，预测平台用于未来时刻的制丝车间质量预测；

步骤(5.2)：在训练平台利用构建的CTCN_A_B网络对离线历史数据进行模型离线数据训练，并设定模型预测精度阈值，保存达到该阈值的模型结构和参数；

步骤(5.3)：在训练平台利用制丝车间生产在相同生产工艺流程下所获取的离线数据和在线数据，其内部所蕴含的生产信息相似，使得特征信息挖掘手段可以互通；在预测平台中冻结预训练模型中特征提取网络迁移至在线预测模型中，随机初始化模型的全连接层以适应实际生产变化需求，重新组建制丝在线预测模型。

本发明的有益效果：

1、本发明的方法将深度学习与迁移学习的思想进行结合，基于序列到序列的学习结构下，同步学习工业质量指标的历史信息和特征信息，在编码器中利用卷积神经网络提取工艺参数深度特征，并串联时间卷积网络深层次挖掘其潜在时序信息；在解码器中利用双向长短时记忆网络学习质量指标前后端历史时序信息，嵌连多头注意力机制，用于融合提取的全部特征信息，提升模型的表达能力，以未来时刻工业质量为预测目标，构建网络模型。应用所构建的模型预训练出较优网络结构，利用迁移学习，实现短期在线工业质量精准预测，为建设智能化车间提供基础。

2、本发明的方法，针对制丝车间中数据来源不统一，各工艺参数结构性质和数据量级的差异性造成制丝工艺数据具有明显的多源异构特征，进而使得数据融合困难，本发明提出一种解决制丝多源异构数据采集融合和数据预处理方法。

3、本发明的构建制丝工艺质量预测模型，摆脱了传统关联算法的经验依赖限制，自主充分提取工艺数据中蕴含的复杂关联时序信息，实现车间质量预测的需求。

4、本发明利用迁移学习实现在线质量预测，并应用双线程法，同时实行训练和预测，达到根据实际生产状况实时更新模型参数，完成自适应质量预测能力。

附图说明

图1为本发明的流程示意图。

图2为本发明步骤(2)按批次数据列采集分析结果。

图3为本发明的制丝车间质量预测模型结构图。

图4为本发明的松散回潮工艺参数关系图。

图5为本发明的时间卷积网络结构图。

图6为本发明的LSTM结构图。

图7为本发明的制丝松散回潮出料含水率预测对比。

图8为本发明的制丝松散回潮出料温度预测对比。

具体实施方式

下面结合附图和实施例，对本发明作进一步说明，但本发明的内容并不限于所述范围。

实施例：如图1所示，一种制丝车间工艺质量在线预测方法，主要包括以下步骤：

步骤(1)：分析制丝车间具体工艺流程，确定相关工艺参数和工艺指标，并从制造执行系统(MES)的数据库中获得不同的生产厂区和生产线下的制丝工艺参数历史数据，包括不同工序的工艺参数和质量指标；

步骤(2)：由于不同制丝工艺数据由不同传感器采集得到，存在数据融合问题，因此需要研究多源异构制丝工艺数据采集融合方法，并对所获历史工艺数据进行预处理；制丝工业车间数据采集融合方法的具体步骤包括：

步骤(2.1)：研究多源异构制丝工艺数据融合方法，通过分析各厂区的工艺方案、工艺组合和数据采集方法、以及数据命名的相通性，制定制丝工艺过程配置内容，实现不同厂区不同工艺数据的规则化表征和数据融合；

步骤(2.2)：制丝工艺数据预处理分析方法，为应对实际制丝工艺过程中出现的各种异常数据，通过数据清理、数据类型转换、数据批次牌号采集、异常值处理和数据归一化等多道工序实现数据预处理。

步骤(2.2.1)：数据清理主要包括无用数据列的删除、特殊字符的替换(如将″--″替换为0等)、删除空值所在的行数数据等；

步骤(2.2.2)：数据类型转换是在数据清理后，需要对数据进行数据类型转换，以便后续进行数据预处理与分析；同时需要根据前序工艺参数配置字典按照类别转换：将″时间列名″转换为时间戳、将″工模型名称″、“工序名称″、″批次号″、″牌号″转换为字符串类型，其他的工艺参数数据类型转换为数字类型；数据批次牌号采集；

步骤(2.2.3)：数据批次牌号采集以批次号为单位，并衔接牌号、模型名称、工序名称等，提取批次开始时间和结束时间，并计算批次的时长和采样间隔数据，结果如图2所示；

步骤(2.2.4)：异常值处理首先利用3σ方法来判定数据中的异常值，即异常值超出标准差的3倍，利用Savitzky-Golay平滑处理方法对异常值进行平滑滤波；

步骤(2.2.5)：数据归一化利用下列公式处理工艺参数量纲、数量级不统一问题，实现数据归一化，将所有参数控制在[0,1]的范围。

式中：X_min为参数指标数据中最小值，X_max为参数指标数据中最大值。

步骤(3)：需要对制丝工艺中具体工序建立离线质量预测模型，选取由上述步骤中预处理后的制丝工艺历史数据中某一项工序数据，本发明选取松散回潮工序为例，构建离线质量预测模型；具体是：基于序列到序列的学习结构，采用混合神经网络以预测下一时刻的松散回潮质量指标为目标构建制丝工业车间质量预测模型，即CTCN_A_B网络模型；其中构建制丝工业车间离线质量预测模型的具体步骤包括：

步骤(3.1)：选取制丝工艺中任一工序，构建制丝车间工艺离线质量预测模型，模型结构如图3所示。从上述步骤中得到的完整制丝工艺数据中选取该工序加工数据，并分析对质量指标具有重要影响作用的工艺参数，选取这些工艺参数数据作为离线预测模型的输入数据，训练预测模型。

步骤(3.1.1)：本发明针对制丝工艺中单独工序进行预测分析，因此经由步骤(1)和步骤(2)得到预处理后的制丝过程整体加工数据，选取松散回潮工序完整加工参数数据。对松散回潮加工过程进行分析，图4为松散回潮具体工艺参数关系图，从图4中可以整理出影响松散回潮中质量指标的关键工艺参数，其具体包含6项工艺参数，分别为工艺流量、工艺热风温度、物料累计量、加水流量、加水累计量和蒸汽自动阀门开度，同时在松散回潮中质量指标为出料温度和出料含水率；因此最终选定以上参数进行预测分析，总共提取出从2020年3月至9 月生成的历史数据，包含39000条数据，对这些数据按照7:3划分训练集和测试集，用训练集对所构建的离线预测模型进行训练，利用测试集对离线预测模型进行测试，用以判定模型的优劣性。

步骤(3.1.2)：CTCN_A_B网络模型是基于序列到序列的学习结构下构建而成，其主要有两大部分组成：串联CNN_TCN的编码器组件和融合多头注意力机制的BiLSTM解码器组件，以下是各组件的构成分析：

(3.1.2.1)串联CNN_TCN的编码器组件，利用训练集数据对预处理过的离线预测模型进行训练。具体地，以归一化后的工艺参数时序数据 X＝(x₁,x₂,…,x_T)＝(x¹,x²,…,x^N)^T，即上述中提及的工艺流量、工艺热风温度、物料累计量、加水流量、加水累计量和蒸汽自动阀门开度指标作为编码器组件的输入，即首先输入至CNN网络中，其依赖卷积神经网络自动学习数据中深度潜在特征的能力，有效摆脱依靠专家经验获取的关联参量关系；利用卷积神经网络中特有的卷积和池化结构，应用卷积核的滑窗运算捕捉时序数据的静态特征再利用池化层中关键特征的尺度不变性对提取出的特征进行降维，凸显关键特征，同时利用参数共享降低网络的复杂程度；随后将CNN网络的输出结果

作为输入，利用时间卷积神经网络，所图5所示，为时间卷积网络的结构。在保持工艺因果卷积特性下，有效分析车间工艺时序信息；应用扩张因果卷积来提升长时间跨度记忆单元处理效率，实现工艺参数时序特征提取，具体计算公式如下式。

式中：(s-d·i)表示与卷积核中元素对应的序列；f表示扩张卷积运算；

时间卷积网络中每个残差块包括直接映射部分和残差部分，其表达公式为：

式中：

表示第n层卷积层蕴含的依赖信息；F表示扩张卷积操作，即直接映射部分；R表示跨层进行残差映射操作。

(3.1.2.2)融合多头注意力机制的BiLSTM解码器组件，以归一化后的质量指标序列为Y＝(y₁,y₂,…,y_T)∈R^T，具体表述为出料温度和出料含水率质量指标作为编码器组件的输入，利用BiLSTM网络挖掘松散回潮质量指标数据中的双向时序特征，其中BiLSTM结构如图6所示，采用了门控输出的方式，即输入门、遗忘门、输出门和两种时间状态(CellState和Hidden State)；

在t时刻的输出值分别为i_t、f_t、o_t、c_t和h_t，具体求解方式如下：

假设给定输入序列由x＝{x₁,x₂,…,x_t,…,x_T}表示，其中t表示第t时刻，T表示总时间数，最后通过以下公式得到输出结果。

上述公式中：h_t表示在t时刻隐层的输出；

表示t时刻的LSTM输出结果；σ为Sigmids激活函数；b_α表示偏差，其中α∈{i,f,c,o,h}， W＝{W_xi,W_hi,W_ci,W_xf,W_hf,W_cf,W_xo,W_ho,W_co,W_xc,W_hc,W_xh,W_hh}表示通过时间反向转播得到的加权参数，W_xh例如表示输入层与隐藏层间的权重矩阵；

为综合处理不同组件获取的参数特征信息，先将松散回潮工艺参数的时序关联特征和质量指标数据的时序特征进行联结，再将联结向量

作为多头注意力网络的输入，利用其进行对特征重新分配权重，可以有效避免信息丢失，实现多源特征信息的融合。

h＝concat(h^enc+h^dec)

d_k＝dim/h

其中，dim表示特征向量表征维度；h表示设置的注意力机制头数；

表示可训练权重矩阵，Q^h，K^h，V^h分别与学习参数相乘获取的问题向量、键向量和值向量。

利用松散回潮的训练集数据训练构建的CTCN_A_B网络模型，得到模型参数，并利用测试集数据对模型进行测试，并对测试集和模型测试结果反归一化，经

公式计算可得真实质量数值和预测数据的拟合程度：

MAE_{出料含水率}＝3.19，RMSE_{出料含水率}＝3.19，R2_{出料含水率}＝97.78％；

MAE_出料温度＝4.02，RMSE_出料温度＝7.55，R2_出料温度＝96.36％；

由图7和图8可以看出，利用CTCN_A_B网络模型预测出的松散回潮出料含水率和出料温度很大程度上与真实值相重合。

步骤(3.2)：为判定所构建的CTCN_A_B网络模型的预测结果的优越性，与现下常见车间质量预测模型进行对比，通过与传统回归方法、浅层机器学习方法和神经网络(DNN、LSTM、GRU等网络)比较拟合值、标准误差和评价绝对百分比误差来验证所构建模型的有效性，如表1所示。经由对比，在测试集中本发明所提出的CTCN_A_B网络模型预测误差远低于现下常见预测模型。

表1不同预测模型结果对比

步骤(4)：为实现制丝在线预测能力，需要获取在线制丝工艺数据，即通过与制丝车间在线监测设备传感器建立通信，获取在线制丝车间工艺数据，选取与离线数据相同的松散回潮工艺数据：工艺流量、工艺热风温度、物料累计量、加水流量、加水累计量和蒸汽自动阀门开度以及出料含水率和出料温度在线数据，并对这些在线数据进行步骤(2.2)中的数据异常值处理和归一化处理；

步骤(5)：利用归一化后的在线制丝车间工艺数据实现制丝车间质量在线预测，采用双线程法，利用迁移学习冻结离线预测模型中特征提取模块的网络结构和参数，并迁移至在线工艺质量预测模型中，实现动态调整预测模型，满足生产实际变动预测需求；具体步骤包括：

步骤(5.1)：为应对实际生产中出现的各种突发情况，利用双线程法建立两个模型平台，训练平台和预测平台；训练平台用于不间断训练模型来达到实时更新模型的目的，预测平台用于未来时刻的制丝车间质量预测；

步骤(5.2)：在训练平台利用构建的CTCN_A_B网络对离线历史数据进行模型离线数据训练，并设定模型预测精度阈值，保存达到该阈值的模型结构和参数；

步骤(5.3)：在训练平台利用制丝车间生产在相同生产工艺流程下所获取的离线数据和在线数据，其内部所蕴含的生产信息相似，使得特征信息挖掘手段可以互通。在预测平台中冻结预训练模型中特征提取网络迁移至在线预测模型中，随机初始化模型的全连接层以适应实际生产变化需求，重新组建制丝在线预测模型。如表2所示，利用迁移学习进行在线预测的精度在98％以上，且训练时间很大程度上缩短，能够及时响应工业生成预测需求。

表2利用迁移学习进行在线预测结果

以上所述的仅是本发明的一些实施方式。对于本领域的普通技术人员来说，在不脱离本发明创造构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。

Claims (5)

1.一种制丝车间工艺质量在线预测方法，其特征在于，包括以下步骤：

步骤(1)：从MES数据库中获取不同的生产厂区和生产线下的制丝工艺参数历史数据，包括不同工序的工艺参数和质量指标；

步骤(2)：对获取的制丝工艺参数历史数据的规则化表征和数据融合，并进行预处理；

步骤(3)：选取由步骤(2)预处理后的制丝工艺历史数据中的松散回潮工序数据，基于序列到序列的学习结构，采用混合神经网络以预测下一时刻的松散回潮质量指标为目标建立车间离线质量预测模型，即CTCN_A_B网络模型；

步骤(4)：通过与制丝车间在线监测设备传感器建立通信，获取在线制丝车间工艺数据，选取与离线数据相同的松散回潮工艺数据并进行处理；

步骤(5)：采用双线程法，利用迁移学习冻结离线预测模型中特征提取模块的网络结构和参数，并迁移至在线工艺质量预测模型中，实现动态调整预测模型，满足生产实际变动预测需求。

2.根据权利要求1所述制丝车间工艺质量在线预测方法，其特征在于，步骤(2)具体包括如下步骤：

步骤(2.1)：通过分析各厂区的工艺方案、工艺组合和数据采集方法、以及数据命名的相通性，制定制丝工艺过程配置内容，实现不同厂区不同工艺数据的规则化表征和数据融合；

步骤(2.2)：对各种异常数据，通过数据清理、数据类型转换、数据批次牌号采集、异常值处理和数据归一化的多道工序实现数据预处理。

3.根据权利要求1所述制丝车间工艺质量在线预测方法，其特征在于，步骤(3)具体包括如下步骤：

步骤(3.1)：从完整制丝工艺数据中选取松散回潮工序数据，并分析对质量指标具有重要影响作用的工艺参数，选取这些工艺参数数据作为离线预测模型的输入数据，训练预测模型；

步骤(3.2)：通过与传统回归方法、浅层机器学习方法和神经网络(DNN、LSTM、GRU等网络)比较拟合值、标准误差和评价绝对百分比误差来验证所构建模型的有效性。

4.根据权利要求3所述制丝车间工艺质量在线预测方法，其特征在于，步骤(3.1)具体步骤为：

步骤(3.1.1)：选取的关键工艺参数为：工艺流量、工艺热风温度、物料累计量、加水流量、加水累计量和蒸汽自动阀门开度，质量指标为：出料温度和出料含水率；对这些数据按照一定比例划分训练集和测试集，用训练集对所构建的离线预测模型进行训练，利用测试集对离线预测模型进行测试；

步骤(3.1.2)：串联CNN_TCN的编码器组件，利用训练集数据对预处理过的离线预测模型进行训练；利用BiLSTM网络挖掘松散回潮质量指标数据中的双向时序特征，将松散回潮工艺参数的时序关联特征和质量指标数据的时序特征进行联结，再将联结向量作为多头注意力网络的输入，利用其进行对特征重新分配权重，实现多源特征信息的融合；

步骤(3.1.2)：构建基于序列到序列学习结构下的制丝车间工艺质量离线预测模型；该模型包括两个部分，分别为串联CNN_TCN的编码器组件和融合多头注意力机制的BiLSTM解码器组件；在编码组件中首先利用卷积神经网络(CNN)来自动学习工艺参数数据中深度潜在特征，有效摆脱依赖专家经验获取得到的关联信息；随后串联时间卷积神经网络(TCN)，在保持工艺参数因果卷积特性下，可以有效分析车间工艺时序信息，并且TCN网络中应用因果卷积来提升长时间跨度记忆单元处理效率，实现工艺参数长距离时序特征提取；同时在解码组件中利用BiLSTM网络用以提取质量指标数据中的历史时序特征，然后利用多头注意力网络融合上述所提取的全部特征，并对特征进行权重重新分配，实现多源特征信息融合；最后通过全连接层输出质量指标预测值。

5.根据权利要求1所述制丝车间工艺质量在线预测方法，其特征在于，步骤(5)具体包括如下步骤：

步骤(5.1)：为应对实际生产中出现的各种突发情况，利用双线程法建立两个模型平台，训练平台和预测平台；训练平台用于不间断训练模型来达到实时更新模型的目的，预测平台用于未来时刻的制丝车间质量预测；

步骤(5.2)：在训练平台利用构建的CTCN_A_B网络对离线历史数据进行模型离线数据训练，并设定模型预测精度阈值，保存达到该阈值的模型结构和参数；

步骤(5.3)：在训练平台利用制丝车间生产在相同生产工艺流程下所获取的离线数据和在线数据，其内部所蕴含的生产信息相似，使得特征信息挖掘手段可以互通；在预测平台中冻结预训练模型中特征提取网络迁移至在线预测模型中，随机初始化模型的全连接层以适应实际生产变化需求，重新组建制丝在线预测模型。

Images