CN109711714B - 基于并联长短期记忆网络的制造装配产品质量预测方法 - Google Patents

基于并联长短期记忆网络的制造装配产品质量预测方法 Download PDF

Info

Publication number
CN109711714B
CN109711714B CN201811583945.5A CN201811583945A CN109711714B CN 109711714 B CN109711714 B CN 109711714B CN 201811583945 A CN201811583945 A CN 201811583945A CN 109711714 B CN109711714 B CN 109711714B
Authority
CN
China
Prior art keywords
quality
model
term memory
station
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811583945.5A
Other languages
English (en)
Other versions
CN109711714A (zh
Inventor
刘振宇
张栋豪
郏维强
刘惠
谭建荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University ZJU
Original Assignee
Zhejiang University ZJU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University ZJU filed Critical Zhejiang University ZJU
Priority to CN201811583945.5A priority Critical patent/CN109711714B/zh
Publication of CN109711714A publication Critical patent/CN109711714A/zh
Application granted granted Critical
Publication of CN109711714B publication Critical patent/CN109711714B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Abstract

本发明公开了一种基于并联长短期记忆网络的制造装配产品质量预测方法。产品各个工位步骤的特征获取;产品各个工位步骤的特征预处理过程;基于并联长短期记忆网络的产品质量预测模型的建立;基于并联长短期记忆网络的产品质量预测模型的参数优化训练;基于上述质量预测模型,对待测样本的质量特征进行预测。本发明用于处理制造装配过程中可能存在并行工步时的产品质量预测问题,其可以自动获取并行工步之间的跨工步工艺过程参数之间的影响,具有较高的产品质量预测精度、灵活性、预测效率和模型重用性。

Description

基于并联长短期记忆网络的制造装配产品质量预测方法
技术领域
本发明涉及了可能存在并行工步的制造装配过程产品质量预测方法,尤其涉及一种基于并联长短期记忆网络的制造装配过程产品质量预测方法。
背景技术
目前在机械领域企业的发展中,产品的制造装配质量起到了决定性作用。因此制造装配过程产品质量预测,作为制造装配过程产品质量监控和控制的基础,受到了广泛的关注与研究。然而在制造装配过程中,产品通常经过不同类型的多种工位步骤,不同工位步骤之间又存在相互影响,单独工位步骤内部与多个工位步骤之间包含了很多的耦合性特征与不确定性特征。又由于当前制造装配企业产品定制程度高,产品制造装配工艺及设备使用灵活,不同产品经过的工步很可能不同,导致实现制造装配过程的产品质量预测建模将会更加复杂。同时在制造装配过程中,工步与工步之间存在着两种关系,串联关系和并联关系,这两种关系增加了产品质量工步依赖关系探索的难度,同时增加了制造装配过程产品质量预测的难度。
目前存在的制造装配过程产品质量预测装备与方法中,有以下几种方式:基于物理或数学模型的质量预测方法、数据驱动的质量预测方法。
基于物理或数学模型的质量预测模型,针对制造装配过程这种复杂的多工步串并联耦合过程,实现起来十分困难,所以目前的该方向的研究往往针对单工步或相邻工步之间的影响。
数据驱动的质量预测模型,目前的研究中通常使用以下两种方式:使用判别函数直接拟合、假设制造过程为马尔科夫过程。使用判别函数直接拟合时,不考虑产品制造装配过程工艺参数之间的影响,直接以产品制造装配过程的工艺过程参数作为输入,以质量特征作为输出,寻找一个相对较优的映射函数。此时模型的预测精度低,且可重用性很差。使用马尔科夫过程假设时,忽略了制造装配过程的跨工步之间的影响,假设了制造装配过程的当前工步只和上一工步相关。然而在制造装配过程中,经常会出现跨工步之间的影响很大的情况。因此很有必要开发一种可以获取跨工步之间依赖关系的产品制造装配过程质量预测装置及方法。同时在制造装配过程中,可能存在并行工步的情况,即在产品在同一时刻经过了多个工步,此时传统的长短期记忆网络将无法获取跨工步的依赖关系。因此本发明提出了一种长短期记忆网络的变体:并联长短期记忆网络,用于处理存在并行工步情况下的工步依赖关系获取,进而用于产品制造装配过程质量预测。当产品制造装配过程不存在并行工步即所有工步时序上串联连接时,该模型等价于长短期记忆网络。
发明内容
为了解决制造装配过程中产品质量无法准确预测的技术问题,本发明提出一种数据驱动的制造装配过程跨工步质量参数记忆的产品质量预测装置及方法,针对制造装配过程可能存在并行工步的情况,量化并计算制造装配过程跨工步之间的影响及作用,分析各工步产生的工艺过程参数数据的内在特征,获取其和最终产品质量参数之间的联系,最终预测产品质量。本发明所述方法可以广泛用于各种制造装配过程产品质量预测中,所述制造装配过程产品质量预测案例如:大型盾构装备部件制造与整件装配、火箭壳体制造装配、航空发动机部件制造与整件装配、工业汽轮机部件制造与整件装配、水平轴海流能发电机组部件制造与整件装配、空分装备部件制造与整件装配、汽车部件制造与整件装配、高档数控机床部件制造与整件装配、注塑装备部件制造与整件装配等。
本发明特殊地按照可能存在并行工步的制造装配工序将制造装配过程分为各个模块,并且建立各个模块各自独立的质量预测子模型,设计了并联长短期记忆网络按照零部件工序中的各个时刻的制造步骤将各个模块的质量处理模型通过串联或并联连接起来,获取跨工步过程的影响,同时在所有连接之后的质量处理模型最后加入连接上终处理模型,实现质量分类或回归需求。
如图1所示,本发明采用了以下技术方案,方法包括以下主要流程步骤:
步骤一、产品各个工位步骤的特征获取;
步骤二、产品各个工位步骤的特征预处理过程;
步骤三、基于并联长短期记忆网络的产品质量预测模型的建立;
步骤四、基于并联长短期记忆网络的产品质量预测模型的参数优化训练;
步骤五、基于上述质量预测模型,对待测样本的质量特征进行预测;
本发明方法具体如下:
本发明是通过以下技术方案步骤实现的,具体的流程图如图2所示。
步骤1、数据获取
该步骤体现在系统架构的数据获取模块(1)中,数据获取模块(1)与CAPP系统等有接口直接获取工艺过程参数,最终将获取到的工艺过程参数存储在分布式数据库中。通过多传感器获取产品制造装配过程各个工位步骤中的过程参数数据作为输入特征数据,包括产品各个工位步骤的工艺过程参数和测量参数;
步骤2、数据预处理
该步骤体现在系统架构的数据预处理模块(2)中,数据预处理模块(2)与数据获取模块之间存在数据流,对存储在分布式数据库中的数据做一定的预处理步骤。数据预处理过程包括异常值处理、依据产品制造装配过程的特征分组与排序处理、特征分组组内空缺输入特征的处理、工位步骤不平衡数据集的均衡随机重采样处理、组内特征的降维处理;
步骤2-1、样本数据异常值处理
在数据获取过程中,可能存在由于人为失误或测量设备故障而出现一些异常数据。所以首先对各个输入特征依据领域知识设定阈值基准,根据参数数据与阈值基准之间的大小关系,判断所有输入特征是否存在异常值或离群点,若存在异常值或离群点则删除;
步骤2-2、依据产品制造装配过程的特征分组与排序处理
将产品的制造装配过程按照制造装配工序设置不同模块,工序中的每个工位步骤设置一个模块,按照输入特征记录时所处的模块将所有输入特征进行分组,同时按照模块之间工位步骤的时序关系将分好组后的输入特征进行排序,分为并行和串行两种排序方式;并且对于处于同一时刻的多个工位步骤对应的模块之间并行,形成并行模块,并行模块中的各个工位步骤之间的排列顺序无影响;
步骤2-3、特征分组组内空缺输入特征的处理
一个零件在整个制造装配工序中所得到的输入特征以及最终该零件的质量特征组成了样本条目,质量特征比如产品是否合格、或者产品表面粗糙度;然后作以下判断:若含有空缺输入特征的样本条目的数量少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用其他样本条目中的该空缺输入特征的均值进行填充;若含有空缺输入特征的样本条目的数量不少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用空缺输入特征所在工位步骤的其他特征作为输入,使用回归或分类方法进行预测获得后进行填充;
空缺输入特征是指在特征获取过程中由于人员记录失误而未获得的空缺数值。
步骤2-4、工位步骤不平衡数据集的均衡随机重采样处理
由步骤2-3填充处理获得的所有特征构成数据集,在产品制造装配过程中,往往故障样本的数目会远远少于合格样本的数量,展现出数据集类别极不平衡的特点,同时也会展现出工位步骤样包含样本数目极不平衡的特点,采用工位步骤样本均衡随机重采样算法对数据集进行处理;
步骤2-5、组内特征的降维处理
由于从不同的工位步骤得到的测量值和工艺过程参数可能存在很多非线性特征,造成特征冗余度高,若直接使用这些粗糙的数据,将会导致模型的训练和预测的时间复杂度和空间复杂度提高,同时导致模型极易过拟合。
采用自编码器进行维度缩减,获取产品的特征数据从高维空间到低维空间的非线性映射关系,能够解决导致模型过拟合的问题;
步骤2-6、样本数据集划分训练集与验证集
在构建模型的过程中,涉及到很多模型超参数的选择以及过拟合判断,合适的超参数选择及合适的模型复杂度会对模型的表现有很大的帮助。此处划分出验证集,使用交叉验证的方法评估当前模型在某一超参数或复杂度下对未知数据的表现能力;
步骤3、基于并联长短期记忆网络的制造装配过程产品质量预测模型构建
该步骤体现在系统架构的质量预测模型构建模块(4)。质量预测模型可以分割为3个部分:质量特征嵌入模型、并联长短期记忆网络、终处理模型,如图3,图4,图5。
针对某一样本对应工序的每个工位步骤的模块构建单独的质量特征嵌入模型、并联长短期记忆网络和终处理模型,质量特征嵌入模型由质量预测子模型和后处理子模型构成,并联长短期记忆网络由长短期记忆单元、传输门和输出门构成;质量特征嵌入模型和并联长短期记忆网络依次衔接,输出工步特征嵌入et,j,该工步特征嵌入接下来作为并联长短期记忆网络中长短期记忆单元的输入,最终连接任务导向的终处理模型。不同工位步骤根据制造装配工序的时序关系共享(即共用)并联长短期记忆网络。
本发明设计了并联长短期记忆网络来进行记忆,获取制造装配工序中第i步的制造装配工步(SPi)对其后一系列制造装配工步(SPi+1,…SPN)的影响作用,同时可以处理制造装配过程中存在的并行工步的情况。并联长短期记忆网络中的每个长短期记忆单元实现状态的传递,可以让模型自主选取需要记忆的状态,学习不同工位步骤之间的长期依赖关系,而并联长短期记忆网络中的传输门和输出门用于整合并行工步对后续工步的影响。
本发明中的工步是指工位步骤。
对于质量预测子模型的建立,理论上可尝试使用任何让模型泛化能力最优的方法,比如前馈神经网络、支持向量回归、随机森林、梯度提升树、深度森林甚至该工位步骤制造过程的数学或物理模型等等。这也是本发明提出的制造装配过程产品质量预测模型灵活性的体现。
对于后处理子模型,连接了某一工位步骤质量预测子模型和并联长短期记忆网络中的长短期记忆单元,其主要作用是提取出该工位步骤质量预测子模型单元输出量的关键参数,同时规范长短期记忆单元的输入维度。
以最后一个时刻所有并行工位步骤的并联长短期记忆网络的长短期记忆单元的单元状态
Figure BDA0001918616390000051
和隐藏状态
Figure BDA0001918616390000052
作为并联长短期记忆网络的输出门的输入,使用输出门整合所有工位步骤的质量特征影响,获得终处理模型的输入hT,而终处理模型以最终的产品质量特征预测任务作为输出,综合所有工步制造阶段对最终产品制造质量的影响,获得一个较优的输出值。
在每个工位步骤的模块中,包含一个质量预测子模型、一个后处理子模型和一个长短期记忆单元;质量特征嵌入模型和长短期记忆单元依次衔接,每个工位步骤的工艺过程参数和测量参数输入到质量特征嵌入模型的质量预测子模型中,经质量预测子模型处理获得该工位步骤的隐式质量参数,然后输入到质量特征嵌入模型的后处理子模型,经后处理子模型升维或降维处理获得规范维度的向量,由规范维度的向量得到工位步骤对应的工步特征嵌入et,j;然后输入到长短期记忆单元,经长短期记忆单元处理获得长短期记忆单元的单元状态ci和隐藏状态hi,进而用于工位步骤之间的传递;
在相邻时刻并行工位步骤对应的并行模块之间的设置连接有多个传输门,传输门的数量和处于下一时刻的并行模块中的工位步骤数量相同,在终处理模型和最后一个并行工位步骤对应的并行模块之间设置连接有一个输出门;上一个时刻的以及上一时刻之前所有的工位步骤的长短期记忆单元获得的长短期记忆单元的单元状态
Figure BDA0001918616390000053
和隐藏状态
Figure BDA0001918616390000054
输入到后面所连接的传输门中,得到本时刻当前长短期记忆单元的输入单元状态ct-1,j和隐藏状态ht-1,j,传输门中将上一时刻的以及上一时刻之前的所有并行工位步骤的两种状态进行合并,且单元状态ct-1,j和隐藏状态ht-1,j分别各自合并;传输门将合并后的单元状态ct-1,j和隐藏状态ht-1,j输入到当前时刻各自对应的工位步骤的长短期记忆单元中,用于记忆和传递该工序各个工位步骤的隐式质量参数对最终预测目标的影响情况。
最后一个工位步骤的长短期记忆网络输出的单元状态
Figure BDA0001918616390000055
和隐藏状态
Figure BDA0001918616390000056
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT,经终处理模型处理后获得输出产品的质量特征。
其中隐式质量参数是指对某一工位步骤的工艺过程参数或测量参数经过函数映射后,获得的不可解释的但对最终产品质量特征的预测产生影响的参数向量,工步特征嵌入是指某一工位步骤规范维度之后的隐式质量参数。
同时对于第一个工位步骤,将预设的初始单元状态c0输入和初始隐藏状态h0输入到第一个长短期记忆网络单元中。初始单元状态c0是指在第一个工位步骤之前所有工位步骤积累的隐式质量参数对最终预测目标的影响情况;初始隐藏状态h0是指第一个工位步骤的上一个工位步骤的隐式质量参数对第一个工位步骤的隐式质量参数的影响情况。一般初始单元状态c0和初始隐藏状态h0均预设为维度相同的0向量,代表在第一个工位步骤之前,不存在其他的隐式质量参数对第一个工位步骤的隐式质量参数和最终预测目标产生影响。
作为示例,本发明中具体化了质量预测模型的一种结构,如图4、图5所示。其将质量特征嵌入模型使用多层前馈神经网络的结构来表示,使其同时具有隐式质量参数提取的能力和规范维度的能力。目的是便于进行模型最优参数搜寻,同时简化本发明中提出的质量预测模型的概念结构。则每一个工位步骤的质量预测子模型和后处理子模型组合的多层前馈神经网络的层数为Li,每一层的单元数为ul,其中i=1,…,N,代表了当前质量预测子模型和后处理子模型所处的工位步骤的位置,l=1,…Li,代表了当前单元数所处的工位步骤的质量预测子模型和后处理子模型的多层前馈神经网络的层数位置。
对于每一个时刻所有工位步骤的并联长短期记忆网络中的长短期记忆单元接收上一个时刻所有工位步骤经传输门整合之后的长短期记忆单元的单元状态ct-1,j和隐藏状态ht-1,j,以及该工位步骤的质量特征嵌入模型的多层前馈神经网络的最后一层单元的输出et,j作为输入,以获取该工位步骤的并联长短期记忆网络的长短期记忆单元的单元状态
Figure BDA0001918616390000061
和隐藏状态
Figure BDA0001918616390000062
最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000064
和隐藏状态
Figure BDA0001918616390000063
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT
终处理模型具体结构为多层前馈神经网络,若最终目标为分类问题,如预测产品是否合格,则对应多层前馈神经网络的最后一层的激活函数为sigmoid激活函数,使用反向传播算法时对应的损失函数使用交叉熵损失函数;若最终目标为回归问题,即预测产品最终的表面粗糙度等质量特征,则对应多层前馈神经网络的最后一层的激活函数为线性激活函数,使用反向传播算法时对应的损失函数使用均方误差损失函数。
本发明特殊地针对并行工位步骤设置排序,并对并行工位步骤在长短期记忆网络增设传输门和输出门进行长短期记忆网络单元的网络传递处理,能够很好的针对并行工位步骤实现制造装配过程产品质量预测。
从图3中可以看出,模型中以每个工位步骤为一个模块,每个模块中包含了作为质量预测子模型和后处理子模型的多层前馈神经网络和一个并联长短期记忆网络的长短期记忆单元。其中多层前馈神经网络以该工位步骤的工艺过程参数和测量参数组成的向量xi作为输入向量,其中t=1,…,T,经多层前馈神经网络映射后获得et,j作为输出向量,接下来将et,j和上一时刻所有工位步骤经传输门处理的单元状态ct-1,j和隐藏状态ht-1,j作为当前时刻对应长短期记忆单元的输入向量,获得当前长短期记忆单元内部的单元状态
Figure BDA0001918616390000071
和隐藏状态
Figure BDA0001918616390000072
直至最后一个工位步骤。最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000073
和隐藏状态
Figure BDA0001918616390000074
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT。经终处理模型的多层前馈神经网络映射后,即可得到最终预测的产品质量特征y,此处预测问题可以是分类问题,也可以是回归问题,由终处理模型的最后一层激活函数和损失函数来变更整体模型的预测目标。
步骤4、模型最优参数优化训练
该步骤体现在系统架构的参数优化模块。将步骤2获得样本特征数据与预先已知定义的质量参数一起输入到质量预测模型中进行各自最优参数优化训练,训练获得质量特征嵌入模型、并联长短期记忆网络以及终处理模型各自的模型参数。
所述步骤4的模型最优参数优化训练分为两种情况,该步骤体现在系统架构的参数优化模块5:针对制造装配工序中各工位步骤的质量预测子模型的模型参数已知的最优参数优化训练和针对制造装配工序中各工位步骤的质量预测子模型的模型参数未知的最优参数优化训练。
1)针对制造装配工序中各工位步骤的质量预测子模型的模型参数已知的情况
针对该情况,可以将各个工位步骤按照本发明中提出的产品制造装配过程质量预测模型的架构连接起来,再使用训练数据集调整后处理子模型参数、终处理模型参数和并联长短期记忆网络中的共享参数;
针对该情况,可以通过基于时间的反向传播算法迭代获取最优的模型参数,同时使用交叉验证的方法对比多个模型超参数的影响,获取模型的最优超参数。当需要对新的产品进行质量特征预测时,若该产品的制造装配过程与训练集样本中的制造装配过程相同,则可以直接使用该流程对应的所有参数;若该产品的制造装配过程与训练集样本中的制造装配过程不同,则需要使用少量样本数据按照情况1)中所示的方法进行剩余参数的参数优化。
2)针对制造装配工序中各工位步骤的质量预测子模型的模型参数未知的情况
针对该情况,可以采用两种方式获取质量预测子模型最优模型和模型参数:依据单一零件批量制造装配过程的数据集进行优化;依据多个零件小批量制造装配过程的多个制造装配过程的数据集进行优化。
针对该情况,首先需要考虑所有不同的零部件所涉及到的所有制造装配过程的各个工位步骤,将各个工位步骤设立对应质量特征嵌入模型,集合所有的工位步骤质量特征嵌入模型形成质量特征嵌入模型库。将各个零件按照各自的工序流程,从质量特征嵌入模型库中选择相匹配的工位步骤质量特征嵌入模型,然后使用基于并联长短期记忆网络的质量预测模型的结构表示出该产品的制造装配过程。最后将工位步骤相似的样本数据组成样本数据组,使用基于时间的反向传播算法进行参数迭代优化。在最终得到最优的模型后,可以将所有制造装配过程中所涉及到的工位步骤质量特征嵌入模型保存起来,实现模型的重用效果。当需要对新的产品进行质量特征预测时,若该产品的制造装配过程与训练集样本中存在的某一制造装配过程相同,则可以直接使用该流程对应的所有参数;若该产品的制造装配过程与训练集中的所有制造装配过程均不同,则需要使用少量样本数据按照情况1)中所示的方法进行剩余参数的参数优化。
步骤5、待测样本质量特征预测
将步骤2获得待测输入特征数据输入到质量预测模型中各自的质量处理模型中进行预测,预测输出获得待测输入特征数据对应的质量特征,从而完成质量预测。
该步骤体现在系统架构的质量特征预测模块。针对已知新样本对应制造装配过程质量预测模型的质量特征预测,只需将该样本对应各个工位步骤的制造装配过程工艺过程参数及制造装配过程测量参数输入至对应的制造装配过程模块的质量特征嵌入模型中即可。
本发明最终模型的优势可以从4个角度进行评估,包括模型复杂度、模型预测精度、模型可重用性、模型灵活性。
从模型的复杂度角度出发,本发明提出的制造装配过程产品质量预测模型的优势在于:并联长短期记忆网络的一个关键特点是单元内部参数共享,同时使用模块化的思想处理工序中各个工位步骤,单一模块质量预测子模型的模型参数可以在不同零件之间共享。正是由于该方法中存在的这两个参数共享点,在面对一个新的制造零件或装配整件中,只需少量样本更新后处理子模型、并联长短期记忆网络以及终处理模型中的参数即可。
从模型的预测精度角度出发,本发明提出的制造装配过程产品质量预测模型的优势在于:从实际的领域知识出发,产品制造装配工序中各工位步骤不是独立存在的,它们之间可能存在跨工步之间的影响。独立工位步骤假设没有考虑工位步骤之间的相互影响,马尔科夫过程假设只考虑了串联的某一工步对下一步工步的影响,只有长短期记忆网络才考虑了各个工位步骤影响的长期依赖作用,而并联长短期网络作为长短期网络的变体,又进一步解决了工序中存在并行工步的问题。所以理论上使用了并联长短期记忆网络的质量预测模型才更加接近制造装配过程的实际领域特点,可以更好的对其产品进行质量预测。
从模型的可重用性角度出发,本发明提出的制造装配过程产品质量预测模型的优势在于:使用基于并联长短期记忆网络的质量预测模型,可以将不同制造装配步骤模块化,工序的改变只会影响到模块化质量预测模型的串并联连接顺序,而不会对单一模块的质量预测子模型产生影响。
从模型的灵活性角度出发,本发明提出的制造装配过程产品质量预测模型的优势在于:使用基于并联长短期记忆网络方法的制造装配产品质量预测,各个工位步骤作为一个模块,模块内部使用的算法并没有受到约束,可以根据模块的特点构建不同的子模块预测模型,具有极高的灵活性。同时本发明提出的并联长短期记忆网络作为长短期记忆网络的变体,可以灵活的处理制造装配过程中存在并行工步的情况。
综上所述,从实际制造装配过程中出发,本发明的有益效果是:
本发明能够灵活的处理制造装配过程中存在并行工步的情况,可以自动获取制造装配过程跨工步工艺过程参数之间的影响,提高制造装配过程中的产品质量预测精度。同时模块化各个工步的思想使其具有较高的灵活性和重用性,可以用来灵活处理制造装配过程需求变更与高频扰动造成产品制造装配过程工序变更的情况。而且发明提出的方法内部存在模型参数共享机制,降低了模型的复杂性,针对多品种产品的制造装配质量预测,可以使用较少的数据集进行模型最优参数的搜寻,有效降低由于人工或机器测量、标记数据集而造成的成本损失与人员浪费。
本发明方法具体实施采用的装置具体为,包含数据获取模块、数据预处理模块、质量预测模型构建模块、参数优化模块、质量特征预测模块;CAPP系统经数据获取模块连接到分布式数据库,分布式数据库和数据预处理模块连接,数据预处理模块和参数优化模块连接,参数优化模块和质量预测模型构建模块连接,质量特征预测模块分别和分布式数据库、质量预测模型构建模块连接。
其中数据获取模块与CAPP系统等具有接口可以直接获取制造装配过程工艺过程参数;数据预处理模块用于制造装配过程产品工艺参数数据的预处理;质量预测模型构建模块使用基于并联长短期记忆网络方法的产品质量预测模型架构;参数优化模块用于基于并联长短期记忆网络方法的产品质量预测模型的参数优化过程;质量特征预测模块基于上述质量预测模型,对新样本的质量特征进行预测。
本发明创新于基于并联长短期记忆网络的质量预测模型构建模块以及适配的参数优化模块。
分布式数据库存储特征数据,CAPP系统经数据获取模块向分布式数据库发送采集到的产品各个工位步骤的工艺过程参数和测量参数以及已标记的质量特征参数;分布式数据库向数据预处理模块发送工艺过程参数和测量参数,数据预处理模块进行预处理后发回到分布式数据库;分布式数据库向参数优化模块发送预处理后的工艺过程参数和测量参数以及已标记的质量特征参数进行训练,经参数优化模块将各个优化后的参数发送到质量预测模型构建模块获得优化后的模型;分布式数据库向质量特征预测模块发送待测的工艺过程参数和测量参数,质量预测模型构建模块将训练优化后的模型传递到质量特征预测模块,质量特征预测模块根据训练优化后的模型映射输出获得对应的质量特征参数。
附图说明
图1是本发明产品制造装配过程质量预测模型装置的系统架构数据流图。
图2是本发明产品制造装配过程质量预测模型方法的实施流程图。
图3是本发明实施过程的产品制造装配过程质量预测模型结构概念图,其中假设某一零件的制造装配过程工序中共有T个串联时刻,其中每个串联时刻中有不同数量的并联工步。
图4是本发明实施过程的质量特征嵌入模型,即质量预测子模型与后处理子模型的集成。
图5是本发明提出的并联长短期记忆网络模型与终处理模型。
图6是本发明提出的并联长短期记忆网络模型中的传输门的结构。
图7是本发明提出的并联长短期记忆网络模型中的输出门的结构。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
如图2所示,本发明的实施例及其具体实施过程如下:
步骤1、数据获取
通过多传感器获取火箭壳体制造装配工序中各个工位步骤中的过程参数数据作为输入特征数据,包括火箭壳体部件制造或整件装配工序中各个工位步骤的工艺过程参数和测量参数。每个工位步骤的输入特征比如:制造过程:切削速度、进给量、切削深度、主轴转速、工件转速、制造时间、背吃刀量、进给次数、偏心量、毛坯材料类别、刀具材料类别、刀具的几何角度、夹具类别编号、切削液类别、测量尺寸精度、测量形状精度、测量位置精度等;装配过程:错位量、贴合间隙、热装时的加热温度、冷装时的冷却温度、压装时的压力机压力、粘接时的固化温度时间、焊接时的工艺参数、几何中心的偏移量、同心度、环境温度、湿度、照明、降尘量等。
该步骤体现在系统架构的数据获取模块(1)中,数据获取模块(1)与CAPP系统等有接口直接获取工艺过程参数,最终将获取到的工艺过程参数存储在分布式数据库中。
步骤2、数据预处理
该步骤体现在系统架构的数据预处理模块(2)中,数据预处理模块(2)与数据获取模块之间存在数据流,对存储在分布式数据库中的数据做一定的预处理步骤。数据预处理过程包括异常值处理、依据产品制造装配过程的特征分组与排序、组内空缺输入特征的处理、不平衡数据集工位步骤样本均衡随机重采样、组内特征降维;
步骤2-1、样本数据异常值处理
设定阈值基准,根据参数数据与阈值基准之间的大小关系,判断所有输入特征是否存在异常值或离群点,若存在异常值或离群点则删除;
步骤2-2、依据产品制造装配过程的特征分组与排序
将火箭壳体的制造装配过程按照制造装配工序设置不同模块,工序中的每个工位步骤设置一个模块,按照输入特征记录时所处的模块将输入特征进行分组,同时按照模块之间的时序关系将分好组后的输入特征进行排序,可以分为并行和串行两种排序方式,若多个模块处于同一时刻,则这些模块为并行模块,并行模块的工步之间的排列顺序无影响;
步骤2-3、组内空缺输入特征的处理
一个零件在整个制造装配工序中所得到的输入特征以及最终该零件的质量特征组成了样本条目,然后作以下判断:若含有空缺输入特征的样本条目的数量少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用该特征的均值进行填充;若含有空缺输入特征的样本条目的数量不少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用空缺输入特征所在工位步骤的其他特征作为输入,使用回归或分类方法进行预测获得后进行填充;
步骤2-4、不平衡数据集的工位步骤样本均衡随机重采样
由步骤2-3处理获得的所有特征构成数据集,采用多标签随机重采样算法或对应改进算法方式对数据集的正例样本和负例样本分别进行工位步骤样本均衡随机重采样处理;
步骤2-5、组内特征降维
采用自编码器对步骤2-3处理获得的数据集的各个工位步骤的特征进行维度缩减,获取火箭壳体的特征数据从高维空间到低维空间的非线性映射关系;
步骤2-6、样本数据集划分训练集与验证集
具体实施中,在构建模型的过程中,涉及到很多模型超参数的选择以及过拟合判断,合适的超参数选择及合适的模型复杂度会对模型的表现有很大的帮助。划分出验证集,使用交叉验证的方法评估当前模型在某一超参数或复杂度下对未知数据的表现能力。
步骤3、基于并联长短期记忆网络的质量预测模型构建
该步骤体现在系统架构的质量预测模型构建模块(4)。模型结构图如图3、图4、图5所示,
针对每个工位步骤的模块构建对应的质量特征嵌入模型,质量特征嵌入模型由质量预测子模型和后处理子模型组成,质量预测子模型和后处理子模型依次连接,输出工步特征嵌入et,j;该工步特征嵌入接下来作为并联长短期记忆网络中长短期记忆单元的输入;不同工位步骤根据制造装配工序共享并联长短期记忆网络;
在每个工位步骤的模块中,质量预测子模型、后处理子模型和并联长短期记忆网络中的长短期记忆单元依次衔接,每个工位步骤的工艺过程参数和测量参数输入到质量预测子模型中,经质量预测子模型处理获得该工位步骤的隐式质量参数,然后输入到后处理子模型,经后处理子模型升维或降维处理获得规范维度的向量,及该工位步骤对应的工步特征嵌入et,j;上一个时刻所有的工位步骤的长短期记忆单元获得的长短期记忆单元的单元状态
Figure BDA0001918616390000121
和隐藏状态
Figure BDA0001918616390000122
输入到并联长短期记忆网络的传输门中,得到本时刻当前长短期记忆单元的输入单元状态ct-1,j和隐藏状态ht-1,j。然后将工步特征嵌入et,j、单元状态ct-1,j和隐藏状态ht-1,j输入到长短期记忆单元中,经长短期记忆单元内部处理获得当前长短期神经网络单元内部的单元状态
Figure BDA0001918616390000123
和隐藏状态
Figure BDA0001918616390000124
进而用于工位步骤之间的传递。其中传输门用于合并、记忆上一时刻以及上一时刻之前的所有并行工步的质量信息。当前工位步骤的长短期记忆单元中用于记忆和传递该工序各个工位步骤的隐式质量参数对最终预测目标的影响情况;同时对于第一个工位步骤,将初始单元状态c0和初始隐藏状态h0输入到第一个长短期记忆单元中。最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000133
和隐藏状态
Figure BDA0001918616390000134
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT,经终处理模型处理后获得输出火箭壳体的质量特征。
其中隐式质量参数是指对某一工位步骤的工艺过程参数或测量参数经过某一函数映射后,获得的不可解释的但对最终产品质量特征的预测产生影响的参数向量,工步特征嵌入是指某一工位步骤规范维度之后的隐式质量参数。初始单元状态c0是指在第一个工位步骤之前所有工位步骤积累的隐式质量参数对最终预测目标的影响情况;初始隐藏状态h0是指第一个工位步骤的上一个工位步骤的隐式质量参数对第一个工位步骤的隐式质量参数的影响情况。一般初始单元状态c0和初始隐藏状态h0均初始化为维度相同的0向量,代表在第一个工位步骤之前,不存在其他的隐式质量参数对第一个工位步骤的隐式质量参数和最终预测目标产生影响。
作为示例,本发明中具体化了质量预测模型的一种结构,如图4、图5所示。其将质量特征嵌入模型使用多层前馈神经网络的结构来表示,使其同时具有隐式质量参数提取的能力和规范维度的能力。目的是便于进行模型最优参数搜寻,同时简化本发明中提出的质量预测模型的概念结构。则每一个工位步骤的质量特征嵌入模型的多层前馈神经网络的层数为Li,每一层的单元数为ul,其中i=1,…,N,代表了当前质量预测子模型和后处理子模型所处的工位步骤的位置,l=1,…Li,代表了当前单元数所处的工位步骤的质量预测子模型和后处理子模型的多层前馈神经网络的层数位置。
对于每一个时刻所有工位步骤的并联长短期记忆网络中的长短期记忆单元接收上一个时刻所有工位步骤经传输门整合之后的长短期记忆单元的单元状态ct-1,j和隐藏状态ht-1,j,以及该工位步骤的质量预测子模型和后处理子模型组合起来的多层前馈神经网络的最后一层单元的输出et,j作为输入,以获取该工位步骤的长短期记忆单元的单元状态
Figure BDA0001918616390000135
和隐藏状态
Figure BDA0001918616390000136
其中传输门的计算方式如下所示,可以看出,当产品制造装配过程中没有并行工序时,该并联长短期记忆网络模型等价于长短期记忆网络:
Figure BDA0001918616390000131
Figure BDA0001918616390000132
Figure BDA0001918616390000141
Figure BDA0001918616390000142
其中,
Figure BDA0001918616390000143
Figure BDA0001918616390000144
分别代表第t-1时刻第i个工位步骤的长短期记忆单元的输出单元状态和隐藏状态;et,j代表第t时刻第j个工位步骤的质量特征嵌入模型的输出;Wc与bc为传输门待学习参数;σ(·)代表sigmoid激活函数,exp(·)代表以e为底的指数函数;gi,j代表第t-1时刻第i个工位步骤对第t时刻第j个工位步骤的长短期记忆单元的输入单元状态或隐藏状态的未归一化的权重;αi,j代表第t-1时刻第i个工位步骤对第t时刻第j个工位步骤的长短期记忆单元的输入单元状态或隐藏状态的归一化的权重;ct-1,j与ht-1,j分别表示第t-1时刻的所有工位步骤的单元状态和隐藏状态经过传输门合并后,针对第t时刻第j个工位步骤长短期记忆单元的输入单元状态和隐藏状态。
最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000145
和隐藏状态
Figure BDA0001918616390000146
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT。其中输出门的计算方式如下所示
Figure BDA0001918616390000147
Figure BDA0001918616390000148
Figure BDA0001918616390000149
其中,
Figure BDA00019186163900001410
Figure BDA00019186163900001411
分别代表产品制造装配过程最后一个时刻,即第T时刻,第k个工位步骤的长短期记忆单元的输出单元状态和隐藏状态;Wo与bo为输出门待学习参数;σ(·)代表sigmoid激活函数,exp(·)代表以e为底的指数函数;ok代表第T时刻第k个工位步骤对终处理模型输入的隐藏状态的未归一化的权重;αk代表第T时刻第k个工位步骤对终处理模型输入的隐藏状态的归一化的权重;hT表示第T时刻的所有工位步骤的隐藏状态经过输出门合并后,针对终处理模型输入的隐藏状态。
终处理模型具体结构为多层前馈神经网络,若最终目标为分类问题,如预测火箭壳体制造是否合格,则对应多层前馈神经网络的最后一层的激活函数为sigmoid激活函数,使用反向传播算法时对应的损失函数使用交叉熵损失函数;若最终目标为回归问题,即预测火箭壳体最终的表面粗糙度等质量特征,则对应多层前馈神经网络的最后一层的激活函数为线性激活函数,使用反向传播算法时对应的损失函数使用均方误差损失函数。
从图3中可以看出,模型中以每个工位步骤为一个模块,每个模块中包含了作为质量预测子模型和后处理子模型的多层前馈神经网络和一个并联长短期记忆网络的长短期记忆单元。其中多层前馈神经网络以该工位步骤的工艺过程参数和测量参数组成的向量xi作为输入向量,其中i=1,…,N,经多层前馈神经网络映射后获得et,j作为输出向量,接下来将et,j和上一时刻所有工位步骤经传输门处理的单元状态ct-1,j和隐藏状态ht-1,j作为当前时刻对应长短期记忆单元的输入向量,获得当前长短期记忆单元内部的单元状态
Figure BDA0001918616390000151
和隐藏状态
Figure BDA0001918616390000152
直至最后一个工位步骤。最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000153
和隐藏状态
Figure BDA0001918616390000154
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT。经终处理模型的多层前馈神经网络映射后,即可得到最终预测的产品质量特征y,此处预测问题可以是分类问题,也可以是回归问题,由终处理模型的最后一层激活函数和损失函数来变更整体模型的预测目标。
步骤3-2、模型最优参数优化训练
将步骤2获得样本特征数据与预先已知定义的质量参数一起输入到质量预测模型中进行各自最优参数优化训练,训练获得质量特征嵌入模型、并联长短期记忆网络和终处理模型各自的模型参数;
对于示例中具体化的质量预测模型的一种结构,可以首先根据预测目标为分类或回归,选择合适的损失函数。若为分类问题,则选择交叉熵损失函数,若为回归问题,则选择均方误差损失函数。再根据训练集中的数据,在前馈神经网络层与层之间使用反向传播算法,在并联长短期记忆网络各个单元之间使用基于时间的反向传播算法,来实现终处理模型的多层前馈神经网络、并联长短期记忆网络单元、质量预测子模型和后处理子模型的多层前馈神经网络的参数更新。
步骤4、新样本质量特征预测
将步骤2获得待测输入特征数据输入到质量预测模型中各自的质量预测模型中进行预测,获得待测输入特征数据对应的质量特征,完成质量预测。
该步骤体现在系统架构的质量特征预测模块(3)。针对已知该新样本对应制造装配过程质量预测模型的质量特征预测,只需将该样本对应各个工位步骤的制造装配过程工艺过程参数及制造装配过程测量参数输入至对应的制造装配过程模块的质量预测模型中即可。
同时此处以博世装配线的实际数据集为例,说明专利具体实施过程,博世装配线数据集是德国罗伯特·博世有限公司于2016年在kaggle比赛中更新的一个公开数据集。该数据集共有4条生产线,52个工位步骤,968个数值型特征。在该数据集中,每个样本都经过了不同的工位步骤或工位步骤的时序关系不同,同时该数据集中存在着并行工位,即一个产品在一个时刻可能经过多个工位步骤。每个样本由数值型特征、类别型特征以及时间特征组成,其中数值型特征是指该特征的所有可能取值为连续的,类别型特征指该特征的所有可能取值为离散的,时间特征标志了零件经过某一工位步骤的时间点。数据集中,Id代表零件的编号,“Lx_Sx_Fx”代表零件的特征编号,如“L0_S0_F16”代表特征编号为16的特征位于第0条生产线的第0号工位步骤;Response代表该零件的输出质量特征,若Response的值为1,代表零件未通过质量检测,若Response的值为0,代表零件通过质量检测。
获取上述数据集后,接下来需要进行数据预处理步骤(步骤2),数据预处理过程包括异常值处理、依据产品制造装配过程的特征分组与排序、组内空缺输入特征的处理、不平衡数据集工位步骤样本均衡随机重采样、组内特征降维;
步骤2-1、样本数据异常值处理
计算每一特征的上界(UB)=75%分位数+(75%分位数-25%分位数)*1.5和下界(LB)=25%分位数-(75%分位数-25%分位数)*1.5。若某一数据集的某一特征比该特征的上界大或比该特征的下界小,则判断为异常样本,将其删除;
步骤2-2、依据产品制造装配过程的特征分组与排序
将产品的制造装配过程按照制造装配工序设置不同模块,工序中的每个工位步骤设置一个模块,按照输入特征记录时所处的模块将输入特征进行分组,同时按照模块之间的时序关系将分好组后的输入特征进行排序并存储。工位和工位之间可以分为并行和串行两种排序方式,若多个模块处于同一时刻,则这些模块为并行模块,并行模块的工步之间的排列顺序无影响。比如针对ID为781693的样本,首先顺序提取出其经过的工位,如表1所示,其中表格中一个时间点中包含的多个工位代表这些工位为并行工位。
表1
Figure BDA0001918616390000161
步骤2-3、组内空缺输入特征的处理
经统计,该数据集含有空缺输入特征的样本条目的数量少于样本条目总数的30%,所以针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用该特征的均值进行填充;
步骤2-4、不平衡数据集的工位步骤样本均衡随机重采样
由步骤2-3处理获得的所有特征构成数据集,采用多标签随机重采样算法或对应改进算法方式对数据集的正例样本和负例样本分别进行工位步骤样本均衡随机重采样处理。
步骤2-5、组内特征降维
采用自编码器对步骤2-3处理获得的数据集的各个工位步骤的特征进行维度缩减,获取产品的特征数据从高维空间到低维空间的非线性映射关系;
步骤2-6、样本数据集划分训练集与验证集
使用交叉验证的方法评估当前模型在某一超参数或复杂度下对未知数据的表现能力,该数据集选取的训练集与验证集的比例为7:3。
步骤3、基于并联长短期记忆网络的质量预测模型构建
针对该数据集,本发明使用了如图4、图5所示的质量预测模型的具体化结构。由于该数据集一共含有52个工位步骤,所以其质量特征嵌入模型库中一共含有52个对应的模型。当输入数据如表1所示时,其经过了13个工位步骤,则从质量特征嵌入模型库中顺序选取这13个工位步骤对应的多层前馈神经网络。每一个工位步骤的质量预测子模型和后处理子模型组合的多层前馈神经网络的层数为Li,每一层的单元数为ul,其中i=1,…,13,代表了当前质量预测子模型和后处理子模型所处的工位步骤的位置,l=1,…Li,代表了当前单元数所处的工位步骤的质量预测子模型和后处理子模型的多层前馈神经网络的层数位置。
模型中以每个工位步骤为一个模块,每个模块中包含了作为质量预测子模型和后处理子模型的多层前馈神经网络和一个并联长短期记忆网络的长短期记忆单元。其中多层前馈神经网络以该工位步骤的工艺过程参数和测量参数组成的向量xi作为输入向量,其中i=1,…,13,经多层前馈神经网络映射后获得et,j作为输出向量,接下来将et,j和上一时刻所有工位步骤经传输门处理的单元状态ct-1,j和隐藏状态ht-1,j作为当前时刻对应长短期记忆单元的输入向量,获得当前长短期记忆单元内部的单元状态
Figure BDA0001918616390000171
和隐藏状态
Figure BDA0001918616390000172
直至最后一个工位步骤。最后一个工位步骤的长短期记忆单元输出的单元状态
Figure BDA0001918616390000173
和隐藏状态
Figure BDA0001918616390000174
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT。经终处理模型的多层前馈神经网络映射后,即可得到最终预测的产品质量是否合格的类别特征y。此处预测问题为分类问题,所以终处理模型的最后一层激活函数选择为sigmoid函数。
步骤4、模型最优参数优化训练
由于该数据集为分类问题,所以选择损失函数为交叉熵损失函数,再根据训练集中的数据,在前馈神经网络层与层之间使用反向传播算法,在并联长短期记忆网络单元之间使用基于时间的反向传播算法,来实现终处理模型的多层前馈神经网络、并联长短期记忆网络、质量特征嵌入模型的多层前馈神经网络的参数更新。
步骤5、新样本质量特征预测
对于分类问题,在预测之前还需要使用交叉验证的方法,通过比较分类的准确度或使用其他评判指标,来选取最佳的分类阈值。此处,分类阈值选取为0.50,即当模型输出大于等于0.50时,模型输出为1,该样本未能通过质量检测;否则,模型输出为0,该样本通过了质量检测。针对表1中所示的样本,将步骤2获得各个工位步骤的特征输入到该工位对应的质量预测子模型和后处理子模型组成的前馈神经网络中,然后经过质量预测模型的前向传播过程,即可得到输出的质量特征,经测试,模型输出为0.3005,小于0.50,故预测该样本的Response值为0,该样本通过了质量检测,和原始数据的Response值相符。

Claims (5)

1.一种基于并联长短期记忆网络的制造装配产品质量预测方法,其特征在于:
所述方法包括以下主要流程步骤:
步骤一、产品各个工位步骤的特征获取;
步骤二、产品各个工位步骤的特征预处理过程;
步骤三、基于并联长短期记忆网络的产品质量预测模型的建立;
步骤四、基于并联长短期记忆网络的产品质量预测模型的参数优化训练;
步骤五、基于上述质量预测模型,对待测样本的质量特征进行预测;
方法具体如下:
步骤1、数据获取
通过多传感器获取产品制造装配过程各个工位步骤中的过程参数数据作为输入特征数据,包括产品各个工位步骤的工艺过程参数和测量参数;
步骤2、数据预处理
数据预处理过程包括异常值处理、依据产品制造装配过程的特征分组与排序处理、特征分组组内空缺输入特征的处理、工位步骤不平衡数据集的均衡随机重采样处理、组内特征的降维处理;
步骤2-1、样本数据异常值处理
设定阈值基准,根据参数数据与阈值基准之间的大小关系,判断所有输入特征是否存在异常值或离群点,若存在异常值或离群点则删除;
步骤2-2、依据产品制造装配过程的特征分组与排序处理
将产品的制造装配过程按照制造装配工序设置不同模块,工序中的每个工位步骤设置一个模块,按照输入特征记录时所处的模块将所有输入特征进行分组,同时按照模块之间工位步骤的时序关系将分好组后的输入特征进行排序,分为并行和串行两种排序方式,处于同一时刻的多个工位步骤对应的模块形成并行模块,并行模块中的各个工位步骤之间的排列顺序无影响;
步骤2-3、特征分组组内空缺输入特征的处理
一个零件在整个制造装配工序中所得到的输入特征以及最终该零件的质量特征组成了样本条目,然后作以下判断:若含有空缺输入特征的样本条目的数量少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用其他样本条目中的该空缺输入特征的均值进行填充;若含有空缺输入特征的样本条目的数量不少于样本条目总数的30%,针对所有含有空缺输入特征的样本条目中的空缺输入特征,使用空缺输入特征所在工位步骤的其他特征作为输入,使用回归或分类方法进行预测获得后进行填充;
步骤2-4、工位步骤不平衡数据集的均衡随机重采样处理
由步骤2-3填充处理获得的所有特征构成数据集,采用工位步骤样本均衡随机重采样算法对数据集进行处理;
步骤2-5、组内特征的降维处理
采用自编码器进行维度缩减,获取产品的特征数据从高维空间到低维空间的非线性映射关系;
步骤3、基于并联长短期记忆网络的制造装配过程产品质量预测模型构建
针对每个工位步骤的模块构建单独的质量特征嵌入模型、并联长短期记忆网络和终处理模型,质量特征嵌入模型由质量预测子模型和后处理子模型构成,并联长短期记忆网络由长短期记忆单元、传输门和输出门构成;不同工位步骤根据制造装配工序的时序关系共享并联长短期记忆网络;
在每个工位步骤的模块中,质量特征嵌入模型和长短期记忆单元依次衔接,每个工位步骤的工艺过程参数和测量参数输入到质量预测子模型中,经质量预测子模型处理获得该工位步骤的隐式质量参数,然后输入到后处理子模型,经后处理子模型升维或降维处理获得规范维度的向量,由规范维度的向量得到工位步骤对应的工步特征嵌入et,j;然后输入到长短期记忆单元,经长短期记忆单元处理获得长短期记忆单元的单元状态
Figure FDA0003907228010000021
和隐藏状态
Figure FDA0003907228010000022
进而用于工位步骤之间的传递;在相邻时刻并行工位步骤对应的并行模块之间的设置连接有多个传输门,传输门的数量和处于下一时刻的并行模块中的工位步骤数量相同,在终处理模型和最后一个并行工位步骤对应的并行模块之间设置连接有一个输出门;上一个时刻的以及上一时刻之前所有的工位步骤的长短期记忆单元获得的长短期记忆单元的单元状态
Figure FDA0003907228010000023
和隐藏状态
Figure FDA0003907228010000024
输入到后面所连接的传输门中,传输门中将上一时刻的以及上一时刻之前的所有并行工位步骤的两种状态进行合并,且单元状态ct-1,j和隐藏状态ht-1,j分别各自合并;传输门将合并后的单元状态ct-1,j和隐藏状态ht-1,j输入到当前时刻各自对应的工位步骤的长短期记忆单元中,用于记忆和传递该工序各个工位步骤的隐式质量参数对最终预测目标的影响情况;同时对于第一个工位步骤,将预设的初始单元状态c0和初始隐藏状态h0输入到第一个长短期记忆单元中;最后一个工位步骤的长短期记忆网络输出的单元状态
Figure FDA0003907228010000025
和隐藏状态
Figure FDA0003907228010000026
作为并联长短期记忆网络的输出门的输入,获得终处理模型的输入hT,经终处理模型处理后获得输出产品的质量特征;
步骤4、基于并联长短期记忆网络的制造装配过程产品质量预测模型的参数优化训练
将步骤2预处理获得特征数据与已知的质量特征参数一起输入到质量预测模型中进行各自最优参数优化训练,训练获得质量特征嵌入模型、并联长短期记忆网络以及终处理模型各自的模型参数;
步骤5、待测样本质量特征预测
将步骤2获得待测输入特征数据输入到质量预测模型中各自的质量特征嵌入模型中进行预测,预测输出获得待测输入特征数据对应的质量特征,从而完成质量预测。
2.根据权利要求1所述的一种基于并联长短期记忆网络的制造装配产品质量预测方法,其特征在于:
所述步骤4的模型最优参数优化训练分为两种情况:
针对制造装配工序中各工位步骤的质量预测子模型的模型参数已知的最优参数优化训练和针对制造装配工序中各工位步骤的质量预测子模型的模型参数未知的最优参数优化训练;
1)针对制造装配工序中各工位步骤的质量预测子模型的模型参数已知的情况,将各个工位步骤按照产品制造装配过程质量预测模型的架构连接起来,再使用训练数据集调整后处理子模型参数、终处理模型参数和并联长短期记忆网络中的共享参数;
2)针对制造装配工序中各工位步骤的质量预测子模型的模型参数未知的情况,采用两种方式获取质量预测子模型最优模型和模型参数:依据单一零件批量制造装配过程的数据集进行优化;或者依据多个零件小批量制造装配过程的多个制造装配过程的数据集进行优化。
3.根据权利要求1所述的一种基于并联长短期记忆网络的制造装配产品质量预测方法,其特征在于:
所述方法采用以下装置,装置包含数据获取模块(1)、数据预处理模块(2)、质量预测模型构建模块(4)、参数优化模块(5)、质量特征预测模块(3);CAPP系统经数据获取模块(1)连接到分布式数据库,分布式数据库和数据预处理模块(2)连接,数据预处理模块(2)和参数优化模块(5)连接,参数优化模块(5)和质量预测模型构建模块(4)连接,质量特征预测模块(3)分别和分布式数据库、质量预测模型构建模块(4)连接。
4.根据权利要求3所述的一种基于并联长短期记忆网络的制造装配产品质量预测方法,其特征在于:
分布式数据库存储特征数据,CAPP系统经数据获取模块(1)向分布式数据库发送采集到的产品各个工位步骤的工艺过程参数和测量参数以及已标记的质量特征参数;分布式数据库向数据预处理模块(2)发送工艺过程参数和测量参数,数据预处理模块(2)进行预处理后发回到分布式数据库;分布式数据库向参数优化模块(5)发送预处理后的工艺过程参数和测量参数以及已标记的质量特征参数进行训练优化,经参数优化模块(5)将各个优化后的参数发送到质量预测模型构建模块(4)获得训练优化后的模型;分布式数据库向质量特征预测模块(3)发送待测的工艺过程参数和测量参数,质量预测模型构建模块(4)将训练优化后的模型传递到质量特征预测模块(3),质量特征预测模块(3)根据训练优化后的模型映射输出获得对应的质量特征参数。
5.根据权利要求1所述的一种基于并联长短期记忆网络的制造装配产品质量预测方法,其特征在于:所述终处理模型具体结构为多层前馈神经网络。
CN201811583945.5A 2018-12-24 2018-12-24 基于并联长短期记忆网络的制造装配产品质量预测方法 Active CN109711714B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811583945.5A CN109711714B (zh) 2018-12-24 2018-12-24 基于并联长短期记忆网络的制造装配产品质量预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811583945.5A CN109711714B (zh) 2018-12-24 2018-12-24 基于并联长短期记忆网络的制造装配产品质量预测方法

Publications (2)

Publication Number Publication Date
CN109711714A CN109711714A (zh) 2019-05-03
CN109711714B true CN109711714B (zh) 2023-01-10

Family

ID=66257225

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811583945.5A Active CN109711714B (zh) 2018-12-24 2018-12-24 基于并联长短期记忆网络的制造装配产品质量预测方法

Country Status (1)

Country Link
CN (1) CN109711714B (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110154024B (zh) * 2019-05-22 2020-09-15 清华大学 一种基于长短期记忆神经网络增量模型的装配控制方法
CN110442099B (zh) * 2019-08-05 2021-05-11 湘潭大学 一种基于长短期记忆的数控加工工艺参数优化方法
CN110673556B (zh) * 2019-09-23 2021-03-02 珠海格力电器股份有限公司 一种用于胀管过程的质量管控方法及系统
CN111103420B (zh) * 2019-11-20 2022-05-10 华东理工大学 一种原料不确定下的酚醛树脂产品质量预测方法
JP7084907B2 (ja) * 2019-11-28 2022-06-15 花王株式会社 品質計測方法及び品質計測装置
EP4058934A4 (en) 2019-12-27 2023-07-12 Siemens Aktiengesellschaft PRODUCT QUALITY INSPECTION METHOD AND APPARATUS
CN111241688B (zh) * 2020-01-15 2023-08-25 北京百度网讯科技有限公司 复合生产工艺过程监控方法及装置
US11698628B2 (en) * 2020-03-16 2023-07-11 Vitro Flat Glass Llc System, method, and computer program product for optimizing a manufacturing process
CN111565377B (zh) * 2020-04-14 2023-08-01 瑞数信息技术(上海)有限公司 应用于物联网的安全监测方法和装置
CN111832703B (zh) * 2020-06-29 2022-05-13 中南大学 一种流程制造工业不规则采样动态序列建模方法
CN111914927A (zh) * 2020-07-30 2020-11-10 北京智能工场科技有限公司 一种优化数据不平衡状态的移动app用户性别识别方法和系统
CN113033695B (zh) * 2021-04-12 2023-07-25 北京信息科技大学 一种电子器件故障的预测方法
CN113516285B (zh) * 2021-05-12 2024-02-13 中船重工鹏力(南京)智能装备系统有限公司 自动化装配检测生产线在生产中产品质量分析预测方法
US11769100B2 (en) * 2021-05-25 2023-09-26 Adobe, Inc. Leading indicators and monitor business KPIs and metrics for preemptive action
CN113592064B (zh) * 2021-07-05 2024-02-09 中国科学院上海光学精密机械研究所 环抛机工艺参数预测方法、系统、应用、终端及介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108280551A (zh) * 2018-02-02 2018-07-13 华北电力大学 一种利用长短期记忆网络的光伏发电功率预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170091615A1 (en) * 2015-09-28 2017-03-30 Siemens Aktiengesellschaft System and method for predicting power plant operational parameters utilizing artificial neural network deep learning methodologies

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108280551A (zh) * 2018-02-02 2018-07-13 华北电力大学 一种利用长短期记忆网络的光伏发电功率预测方法

Also Published As

Publication number Publication date
CN109711714A (zh) 2019-05-03

Similar Documents

Publication Publication Date Title
CN109711714B (zh) 基于并联长短期记忆网络的制造装配产品质量预测方法
CN109472057B (zh) 基于跨工步隐式参数记忆的产品加工质量预测装置及方法
CN109635677B (zh) 基于多标签分类卷积神经网络的复合故障诊断方法及装置
CN107220734A (zh) 基于决策树的数控车床车削过程能耗预测系统
CN110245745B (zh) 基于集成双向循环神经网络的设备剩余使用寿命预测方法
CN108153982B (zh) 基于堆叠自编码深度学习网络的航空发动机修后性能预测方法
CN110571792A (zh) 一种电网调控系统运行状态的分析评估方法及系统
Zhou et al. Deep learning enabled cutting tool selection for special-shaped machining features of complex products
Ayodeji et al. Causal augmented ConvNet: A temporal memory dilated convolution model for long-sequence time series prediction
CN111768000A (zh) 在线自适应微调深度学习的工业过程数据建模方法
US20210263495A1 (en) Systems, Methods, and Media for Manufacturing Processes
Nasser et al. A hybrid of convolutional neural network and long short-term memory network approach to predictive maintenance
Lindemann et al. Cloud-based control approach in discrete manufacturing using a self-learning architecture
Li et al. Data driven smart manufacturing technologies and applications
CN115510950A (zh) 基于时间卷积网络的飞行器遥测数据异常检测方法及系统
Ashiquzzaman et al. Compacting deep neural networks for light weight iot & scada based applications with node pruning
Huang et al. An adversarial learning approach for machine prognostic health management
Xue et al. Data-driven prognostics method for turbofan engine degradation using hybrid deep neural network
CN114905335A (zh) 一种结合域对抗和卷积神经网络的刀具磨损预测方法
CN105913142B (zh) 一种利用车间rfid数据提高订单完工期预测准确度的方法
Sayah et al. Towards distribution clustering-based deep LSTM models for RUL prediction
CN115905848A (zh) 基于多模型融合的化工过程故障诊断方法及系统
CN117113086A (zh) 一种储能机组负荷预测方法、系统、电子设备及介质
Xia et al. Tool wear prediction under varying milling conditions via temporal convolutional network and auxiliary learning
CN115658671A (zh) 基于深度学习的集装箱港口装卸设备故障数据补全方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant