CN112015153B - 一种无菌灌装生产线异常检测系统和方法 - Google Patents

Abstract

本发明公开了一种无菌灌装生产线异常检测系统和方法。本系统包括用于采集和上传信息的前端设备；用于接收信息并实现信息的初步滤波、处理，以及剔除问题信息的前端设备管理平台；用于通过自编码网络对信息行进判断并找出异常信息的信息服务平台。本方法包括物联网数据采集、数据预处理、自编码网络的构建，并最终判别处正常数据和异常数据。其准确度、稳定性和鲁棒性良好，实现了更为优异的故障预警效果。

Description

一种无菌灌装生产线异常检测系统和方法

技术领域

本发明涉及检测系统和方法，具体涉及一种无菌灌装生产线异常检测系统和方法。

背景技术

无菌灌装生产线生产过程中的异常检测一直以来是无菌灌装生产线工作时的重要工作。随着物联网技术的飞速发展，各传感器技术的日益完善，越来越精确的数据可以在无菌灌装生产设备上实时采集到，通过生产线上的各种数据进行异常检测一直是研究应用的重要方向。各种故障检测和预测方法大都基于通过物联网技术在无菌灌装生产设备上采集到的数据，而如何利用这些数据提高异常检测准确性成为重要研究课题。

发明内容

本发明要解决的技术问题是提供一种无菌灌装生产线异常检测系统和方法，结合了神经网络与物联网数据，大大提高了异常检测的准确度，且稳定性和鲁棒性良好，实现了更为优异的故障预警效果。

为了解决上述技术问题，本发明提供了一种无菌灌装生产线异常检测系统，包括用于采集和上传信息的前端设备；用于接收信息并实现信息的初步滤波、处理，以及剔除问题信息的前端设备管理平台；用于通过自编码网络对信息行进判断并找出异常信息的信息服务平台。

本发明一个较佳实施例中，进一步包括所述前端设备包括若干个分布在无菌灌装生产线上并针对生产环境设置的传感器。

本发明一个较佳实施例中，进一步包括所述传感器采用RS485总线形式串联。

本发明一个较佳实施例中，进一步包括所述前端设备管理平台包括传感器信息处理模块、传感器关联模块、传感器故障自诊断模块和网络通讯模块；所述传感器信息处理模块用于帮助传感器按照正确的频率采集数据，并对数据进行滤波以及剔除空白数据；所述传感器关联模块用于整合各传感器采集的数据，将其添加上时间和空间标签，形成同一组数据；所述传感器故障自诊断模块用于在传感器自身发生故障时，产生报警信号，并通知信息服务平台进行报警；所述网络通信模块用于将数据发送到信息服务平台。

本发明一个较佳实施例中，进一步包括包括用于展示传感器采集的数据、查询历史数据并展示、查看传感器运行状态、查看无菌灌装生产线各功能运行状态以及对异常数据进行报警的企业客户端。

本发明一个较佳实施例中，进一步包括所述企业客户端为web展示页面，所述信息服务平台布署在云服务器上，所述web展示页面与信息服务平台通信连接。

一种无菌灌装生产线异常检测方法，包括以下步骤：

S1，通过前端设备采集物联网数据；

S2，对采集到的历史数据进行预处理，根据实际生产线运行状态，将采集的历史数据分为正常数据和明显的异常数据，并对正常数据完成归一化和特征构建；

S3，通过正常数据得到马氏距离的判别阈值，若马氏距离不在阈值区间内，则判定该数据为异常数据；若马氏距离在阈值区间内，则将数据添加其马氏距离特征后记为不确定数据，输入自编码器，并加入稀疏性限制进行无监督的训练，调节参数和各层维度取得最优的隐层表达；

S4，将最优的隐层表达结合Sigmoid分类器构建自编码网络，在将带标签的数据输入到自编码网络后进行有监督的微调，得到最优参数，完成自编码网络的构建；

S5，对马氏距离在阈值区间内的不确定数据，将其输入到构建完成的自编码网络，并由自编码网络判定其是正常数据或异常数据。

本发明一个较佳实施例中，进一步包括步骤S3中，得到马氏距离的判别阈值的方法为：

计算n个数据、每个数据维度为m的数据集X＝(X₁,X₂,X₃,...,X_n)的马氏距离，其中均值为μ＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ，则对任一数据x＝(x₁,x₂,x₃,...,x_m)^T，则其马氏距离如下所示：

其中Σ^-1为协方差矩阵的逆矩阵；

对于采集到的正常数据集X_N＝(X₁,X₂,X₃,...,X_l)，其正常数据均值为μ_N＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ_N，根据上式计算得到正常数据集中每个数据的马氏距离记为：

M_N＝(M₁,M₂,...M_q,...,M_l)

其中，M_q表示在正常数据集中第q个正常数据的马氏距离；

在计算所有数据的马氏距离时使用的均值和协方差矩阵仍然为正常数据集中的μ_N和Σ_N，则数据X_i的马氏距离记为：

将数据集M_N的均值记为

标准差记为

根据统计学中的3σ准则，大部分正常数据的马氏距离分布于

区间中，部分异常数据的马氏距离不在上述区间内，因此可通过数据的马氏距离来进行异常数据的初步检测，设置马氏距离判别阈值T_up和T_low，将其马氏距离不在(T_low,T_up)区间内的数据判定为异常数据，T_up和T_low的表达式如下所示：

本发明一个较佳实施例中，进一步包括步骤S3中，自编码器的工作过程包括编码过程和解码过程，对于数据集X＝(X₁,X₂,X₃,...,X_n)，n为数据个数，每个数据维度为m，每一个数据X_i经过编码过程得到隐层表达，编码过程可描述为：

h_i＝σ_e(WX_i+b)

其中，W和b为编码权重和偏置，σ_e为编码层激活函数；

隐层表达经解码过程得到重构数据X_i'，解码过程可描述为：

X_i'＝σ_d(W'h_i+b')

其中，W'和b'为解码权重和偏置，取W'＝W^T，σ_d为解码层激活函数。

本发明一个较佳实施例中，进一步包括步骤S3中隐层表达的获得方法为：

首先，通过逐层贪婪算法调节权重和偏置使重构误差最小，对于整个训练数据集的代价函数为：

其中，L为单个数据的损失函数，L为均方误差损失函数；

然后，给代价函数添加一个L2正则化权重衰减项，λ为惩罚因子，添加KL散度作为约束条件，在其代价函数上加入稀疏惩罚项，使其形成稀疏自编码器，得到最终的损失函数为：

其中，

为正则化项，

为KL散度的约束条件，k为隐层神经元数量；

最后，经过马氏距离判别出部分异常数据后，将不确定数据作为自编码器输入层数据，进行训练，使得式损失函数的值最小，进而得到最佳隐层表达。

本发明的有益效果：

本发明的无菌灌装生产线异常检测系统，前端设备能够采集无菌灌装生产线各节点生产环境的信息，并上传至前端设备管理平台，前端管理平台将分立的信息融合后对信息进行降噪、筛选，最后由信息服务平台中构建的自编码网络找出异常信息。自编码网络作为一种使得输出等于输入的特殊的神经网络结构，在利用其进行图像处理、异常检测、故障预测、数据分类等过程中，能够重构数据，且在进行特征提取从而得到隐层表达时具有更好的代表数据的特征，能够大大提高无菌灌装生产线异常检测的准确性、稳定性和鲁棒性，实现了更为优异的故障预警效果。本方法解决了神经网络与物联网数据的联动问题，首先通过构建稀疏自编码器得到较好的隐层表达，随后结合Sigmoid分类器，构建出自编码网络进行有监督地微调，得到完整异常检测模型。将数据输入自编码网络异常检测模型中后得到准确的检测结果。相较于传统异常检测方法，本方法结合自编码网络与物联网数据进行智能分析检测，可以达到综合性强、准确度高、鲁棒性强等特点。

附图说明

图1为本发明优选实施例中无菌灌装生产线异常检测系统的结构示意图；

图2为无菌灌装生产线异常检测方法的流程示意图；

图3为自编码器的结构示意图；

图4为自编码网络的结构示意图；

图5为自编码网络的微调示意图。

具体实施方式

下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定。

实施例

本发明公开一种无菌灌装生产线异常检测系统，包括用于采集和上传信息的前端设备；用于接收信息并实现信息的初步滤波、处理，并剔除问题信息的前端设备管理平台；用于通过自编码网络对信息行进判断并找出异常信息的信息服务平台。以上优化的结构，前端设备能够采集无菌灌装生产线各节点生产环境的信息，并上传至前端设备管理平台，前端管理平台将分立的信息融合后对信息进行降噪、筛选，最后由信息服务平台中构建的自编码网络找出异常信息。自编码网络作为一种使得输出等于输入的特殊的神经网络结构，在利用其进行图像处理、异常检测、故障预测、数据分类等过程中，能够重构数据，且在进行特征提取从而得到隐层表达时具有更好的代表数据的特征，能够大大提高无菌灌装生产线异常检测的准确性、稳定性和鲁棒性，实现了更为优异的故障预警效果。

具体而言，参照图1所示，上述前端设备包括若干个分布在无菌灌装生产线上并针对生产环境设置的传感器。传感器至少包括振动传感器、电压电流传感器、温度传感器、湿度传感器和噪声传感器中的一种或多种。对于正常运行的无菌灌装生产线而言，其生产环境是稳定的，即振动、电压电流、温度、湿度、噪声等数据保持在正常的范围内，而一旦生产环境发生异常，这些数据也必定会发生相应的变化。

在无菌灌装生产车间，影响网络通信的因素较多，为了降低这些因素的影响，上述各传感器采用RS485总线形式串联。

上述前端设备管理平台与前端设备通信连接。前端设备管理平台包括传感器信息处理模块、传感器关联模块、传感器故障自诊断模块和网络通讯模块。传感器信息处理模块能够帮助传感器按照正确的频率采集数据，并对数据进行滤波以及剔除空白数据，增强抗干扰能力。传感器关联模块能够整合各传感器采集的数据，将其添加上时间和空间标签，形成同一组数据。传感器故障自诊断模块能够在传感器自身发生故障时，产生报警信号，并通知信息服务平台进行报警。网络通信模块能够将数据发送到信息服务平台。

为了降低生产车间对通信的影响，网络通讯模块可以将数据通过有线以太网数据发送传输至信息服务平台。

上述信息服务平台与前端设备管理平台通信连接。信息服务平台包括物联网数据处理模块、异常数据检测模块和异常报警模块。物联网数据处理模块能够接收前端发送来的数据并进行处理，为异常数据检测模块提供数据基础。异常数据检测模块能够对数据通过自编码网络模型进行判断，实现信息联动异常检测功能。异常报警模块能够在异常数据检测模块判断出异常数据时进行报警。信息服务平台主要负责对传感器采集到的物联网数据进行处理，并且通过物联网数据结合自编码网络进行异常数据检测。

为了方便信息服务平台的访问，其可以布署在云服务器上，其能够实现随时随地的访问，极大的增强了系统的便利性。

在本发明一些优选的实施例中，一种自编码网络与物联网数据的无菌灌装生产线异常检测系统还包括企业客户端。企业客户端与信息服务平台通信连接。企业客户端用于展示传感器采集的数据、查询历史数据并展示、查看传感器运行状态、查看无菌灌装生产线各功能运行状态、对异常数据进行报警等。一旦信息服务平台检测到异常数据，其会将报警数据发送到企业客户端，企业可以在企业客户端及时得知异常的发生，并实时观测数据。

企业客户端可以为web展示页面。其与云服务器上的信息服务平台通信连接。利用web组件，实现了数据展示、报警等功能，同时web页面不需要繁锁的安装和调试，进一步提高了系统的便利性和直观性。另外，使用web页面进行数据展示和报警，提高了整个系统的鲁棒性，并且使用灵活方便，体现了用户友好型的互联网思维，是互联网时代下生产线异常检测系统的大趋势。

企业客户端可以由数据展示界面和报警机制组成。

本发明公开一种无菌灌装生产线异常检测方法，包括以下步骤：

S1，通过前端设备采集物联网数据。为采集到较多的异常数据从而构建更好的自编码网络，可以进行长时间的数据采集，甚至人为造成一段时间的异常。

S2，对采集到的历史数据进行预处理，根据实际生产线运行状态，将采集的历史数据分为正常数据和明显的异常数据，并对正常数据完成归一化和特征构建。明显的异常数据包括空白数据和明显错误数据。

S3，通过正常数据得到马氏距离的判别阈值，若马氏距离不在阈值区间内，则判定该数据为异常数据；若马氏距离在阈值区间内，则将数据添加其马氏距离特征后记为不确定数据，输入自编码器，并加入稀疏性限制进行无监督的训练，调节参数和各层维度取得最优的隐层表达。

S4，将最优的隐层表达结合Sigmoid分类器构建自编码网络，在将带标签的数据输入到自编码网络后进行有监督的微调，得到最优参数，完成自编码网络的构建。其解决了神经网络参数初始化的问题，并且缩短了分类器的训练次数，提高了异常检测的准确度。

S5，对马氏距离在阈值区间内的不确定数据，将其输入到构建完成的自编码网络，并由自编码网络判定其是正常数据或异常数据。

本方法解决了神经网络与物联网数据的联动问题，首先通过构建稀疏自编码器得到较好的隐层表达，随后结合Sigmoid分类器，构建出自编码网络进行有监督地微调，得到完整异常检测模型。将数据输入自编码网络异常检测模型中后得到准确的检测结果。相较于传统异常检测方法，本方法结合自编码网络与物联网数据进行智能分析检测，可以达到综合性强、准确度高、鲁棒性强等特点。

具体而言，参照图2所示，在将物联网数据和自编码网络结合时，考虑到各变量之间相关性的广义距离，可以利用向量间的协方差矩阵来表示马氏距离。

对于包含n个数据、每个数据维度为m的数据集X＝(X₁,X₂,X₃,...,X_n)，其中均值为μ＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ，其中任一数据为x＝(x₁,x₂,x₃,...,x_m)^T，则其马氏距离如下所示：

其中Σ^-1为协方差矩阵的逆矩阵，马氏距离可看作数据与总体数据均值的距离。

由于马氏距离的计算需要使用数据集的协方差矩阵，所以较欧式距离等其他距离的最大优势为马氏距离考虑数据特征之间的相关性。在数据集中，如果一个数据的马氏距离越小，则说明其与数据集中均值数据的相似度越大。在采集到的无菌灌装生产线数据中，由于工艺流程和采集设备等缘故，数据的每个特征之间有着不可忽视的相关性，马氏距离更适合用于无菌灌装生产线数据的距离表达。

考虑在数据异常检测中，假设某数据为正常数据，使用正常数据集的均值和协方差矩阵根据式(1)计算其马氏距离。若该数据马氏距离与正常数据马氏距离接近，说明该数据与正常数据相似度较大，该数据大概率为正常数据；若该数据马氏距离与正常数据马氏距离相差较远，说明该数据与正常数据相似度较小，则该数据大概率为异常数据。所以能够使用数据的马氏距离来判断数据为异常数据的可能性。

由于数据量庞大，在自编码器和神经网络的训练过程中，过大的数据量使得训练效率较低并且检测准确度无法得到有效提升。为了减少自编码器和神经网络的训练数据量，可以通过正常数据样本的马氏距离得到判定阈值，计算数据与正常数据均值的马氏距离，将没有超过判定阈值的数据记为不确定数据并将该部分数据用于自编码器和神经网络的训练。

假设采集到的数据集记为X＝(X₁,X₂,X₃,...,X_n),数据维度为m。其中正常数据集记为X_N＝(X₁,X₂,X₃,...,X_l)，其中正常数据均值为μ_N＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ_N，根据式(1)计算得到正常数据集中每个数据的马氏距离记为：

M_N＝(M₁,M₂,...M_q,...,M_l) (2)

其中，M_q表示在正常数据集中第q个正常数据的马氏距离。

接下来根据式(1)计算整个数据集中所有数据的马氏距离。由于某一数据的变化会影响到数据集均值的变化，马氏距离夸大了微小变化向量的作用，从而影响其他数据的马氏距离计算。为了改善上述马氏距离的缺点，在计算所有数据的马氏距离时使用的均值和协方差矩阵仍然为正常数据集中的μ_N和Σ_N，显然独立的μ_N和Σ_N不受向量变化影响；得到的某个数据的马氏距离可看作该数据与正常数据集均值的距离。则数据X_i的马氏距离记为：

根据统计学相关知识以及后续对振动数据的实验分析可知：如果数据X_i为正常数据，则其马氏距离D_M(X_i)应符合正常数据马氏距离数据集即M_N的统计分布；如果X_i为异常数据，则D_M(X_i)不符合M_N的统计分布。

将数据集M_N的均值记为

标准差记为

根据统计学中的3σ准则，大部分正常数据的马氏距离分布于

区间中，部分异常数据的马氏距离不在上述区间内。因此可通过数据的马氏距离来进行异常数据的初步检测。设置马氏距离判别阈值T_up和T_low，将其马氏距离不在(T_low,T_up)区间内的数据判定为异常数据，结合实际数据分析，为保证异常检测的准确性，T_up和T_low的表达式如下所示：

将马氏距离在(T_low,T_up)区间内的数据判定为不确定数据，记为X_U，然后使用不确定数据集X_U训练自编码网络以完成模型构建。

于是，通过马氏距离检测出了一部分异常数据，将剩余的不确定数据输入自编码网络中。对于数据量大的无菌灌装生产线数据而言，减少了用于自编码网络的训练数据，并且能够根据马氏距离的判别阈值快速判别出一部分异常数据，提高了检测效率。

另外，无菌灌装生产线数据的马氏距离可以用来判断该数据为异常数据的可能性，故考虑将数据的马氏距离作为数据的一个特征。由于正常数据和异常数据的马氏距离有较大的差别，在神经网络的训练过程中，加入马氏距离特征作为重要特征，有利于提升神经网络的异常检测效果。所以将数据的马氏距离特征加入到数据特征中，用于自编码网络的训练。

参照图3所示，自编码器主要包括编码和解码阶段，且结构对称，即若存在多个隐层时，编码和解码阶段的隐层数量及结构相同。主要结构由输入层、隐层和输出层组成。隐层对输入层数据进行编码，输出层对隐层表达进行解码重构原始数据，最小化重构误差以获得最佳的隐层表达。其目标是拟合一个恒等函数，使得每个输出值尽可能等于相对应的输入值。

对于数据集X＝(X₁,X₂,X₃,...,X_n)，n为数据个数，每个数据维度为m。每一个数据X_i经过编码过程得到隐层表达，编码过程可描述为：

h_i＝σ_e(WX_i+b) (6)

其中，W和b为编码权重和偏置，σ_e为编码层激活函数，可以为Sigmoid、Tanh、Relu等。然后隐层表达经解码过程得到重构数据X_i'，解码过程可描述为：

X_i'＝σ_d(W'h_i+b')(7)

其中，W'和b'为解码权重和偏置，取W'＝W^T，σ_d为解码层激活函数。通过逐层贪婪算法调节权重和偏置使重构误差最小，对于整个训练数据集的代价函数为：

其中，L为单个数据的损失函数，在式(8)中L为均方误差损失函数。

为了防止出现过拟合，给代价函数添加一个L2正则化权重衰减项，λ为惩罚因子，控制正则化项影响权重衰减的程度；为了提高自编码器学习数据特征的能力，本发明优选的实施例中在自编码器基础上添加KL散度作为约束条件，在其代价函数上加入稀疏惩罚项，使其形成稀疏自编码器。得到最终的损失函数为：

其中，

为正则化项，

为KL散度的约束条件，k为隐层神经元数量。

将传感器采集到的物联网数据，经过马氏距离判别出部分异常数据后，将不确定数据作为上述自编码器输入层数据，进行训练，使得式(9)最小，得到最佳隐层表达。

参照图4所示，接下来，通过将得到的隐层作为Sigmoid分类器的输入层，构建自编码网络，将数据判断为正常数据和异常数据。这样，通过自编码器训练得到隐层表达，结合Sigmoid分类器，能够提高异常检测准确度，且由于隐层的参数通过自编码器的训练已得到，解决了神经网络的参数初始化问题，使得自编码网络的训练次数减少，提高模型的构建效率。

参照图5所示，然后，需要输入带标签的数据，进行自编码网络的训练过程，以进行有监督地微调。微调时，将误差进行反向传播，使其进入到隐层中和Sigmoid分类器中去。由于自编码器解决了分类器的参数初始化问题，所以减少了自编码网络的训练次数，提高了训练效率。

最终，完成自编码网络异常检测模型的构建，其主要步骤总结如下：

S31，计算正常数据的马氏距离，根据式(4)、式(5)得到马氏距离判别阈值。

S32，根据式(3)得到所有数据的马氏距离，将马氏距离超过阈值的数据判定为异常数据，没有超过阈值的数据记为不确定数据，并将数据的马氏距离加入数据特征中。

S33，将加入马氏距离特征的不确定数据集作为自编码器的输入，以无监督的方式训练自编码器，得到最优的编码层输出和参数。

S34，将自编码器编码层作为Sigmoid分类器的输入层，使用带标签的不确定数据作为输入，进行有监督地微调以得到整个网络的最优参数，完成自编码网络的构建。

S35，对于马氏距离在阈值区间内的数据，将其放入训练完成的自编码网络中得到判定结果。

以上所述实施例仅是为充分说明本发明而所举的较佳的实施例，本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换，均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。

Claims (3)

1.一种无菌灌装生产线异常检测方法，其特征在于：包括以下步骤：

S1，通过前端设备采集物联网数据；

S2，对采集到的历史数据进行预处理，根据实际生产线运行状态，将采集的历史数据分为正常数据和明显的异常数据，并对正常数据完成归一化和特征构建；

S3，通过正常数据得到马氏距离的判别阈值，若马氏距离不在阈值区间内，则判定该数据为异常数据；若马氏距离在阈值区间内，则将数据添加其马氏距离特征后记为不确定数据，输入自编码器，并加入稀疏性限制进行无监督的训练，调节参数和各层维度取得最优的隐层表达；

S4，将最优的隐层表达结合Sigmoid分类器构建自编码网络，在将带标签的数据输入到自编码网络后进行有监督的微调，得到最优参数，完成自编码网络的构建；

S5，对马氏距离在阈值区间内的不确定数据，将其输入到构建完成的自编码网络，并由自编码网络判定其是正常数据或异常数据；

步骤S3中，得到马氏距离的判别阈值的方法为：

计算n个数据、每个数据维度为m的数据集X＝(X₁,X₂,X₃,...,X_n)的马氏距离，其中均值为μ＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ，则对任一数据x＝(x₁,x₂,x₃,...,x_m)^T，则其马氏距离如下所示：

其中Σ^-1为协方差矩阵的逆矩阵；

对于采集到的正常数据集X_N＝(X₁,X₂,X₃,...,X_l)，其正常数据均值为μ_N＝(μ₁,μ₂,μ₃,...,μ_m)^T，协方差矩阵为Σ_N，根据上式计算得到正常数据集中每个数据的马氏距离，记为：

M_N＝(M₁,M₂,...M_q,...,M_l)

其中，M_q表示在正常数据集中第q个正常数据的马氏距离；

在计算所有数据的马氏距离时使用的均值和协方差矩阵仍然为正常数据集中的μ_N和Σ_N，则数据X_i的马氏距离记为：

将数据集M_N的均值记为

标准差记为

根据统计学中的3σ准则，大部分正常数据的马氏距离分布于

区间中，部分异常数据的马氏距离不在上述区间内，因此可通过数据的马氏距离来进行异常数据的初步检测，设置马氏距离判别阈值T_up和T_low，将其马氏距离不在(T_low,T_up)区间内的数据判定为异常数据，T_up和T_low的表达式如下所示：

2.如权利要求1所述的无菌灌装生产线异常检测方法，其特征在于：步骤S3中，自编码器的工作过程包括编码过程和解码过程，对于数据集X＝(X₁,X₂,X₃,...,X_n)，n为数据个数，每个数据维度为m，每一个数据X_i经过编码过程得到隐层表达，编码过程可描述为：

h_i＝σ_e(WX_i+b)

其中，W和b为编码权重和偏置，σ_e为编码层激活函数；

隐层表达经解码过程得到重构数据X_i'，解码过程可描述为：

X_i'＝σ_d(W'h_i+b')

其中，W'和b'为解码权重和偏置，取W'＝W^T，σ_d为解码层激活函数。

3.如权利要求2所述的无菌灌装生产线异常检测方法，其特征在于：步骤S3中隐层表达的获得方法为：

首先，通过逐层贪婪算法调节权重和偏置使重构误差最小，对于整个训练数据集的代价函数为：

其中，L为单个数据的损失函数，L为均方误差损失函数；

然后，给代价函数添加一个L2正则化权重衰减项，λ为惩罚因子，添加KL散度作为约束条件，在其代价函数上加入稀疏惩罚项，使其形成稀疏自编码器，得到最终的损失函数为：

其中，

为正则化项，

为KL散度的约束条件，k为隐层神经元数量；

最后，经过马氏距离判别出部分异常数据后，将不确定数据作为自编码器输入层数据，进行训练，使得损失函数的值最小，进而得到最佳隐层表达。

Images