CN117093852A - 工业机器人早期异常监测模型及方法 - Google Patents

工业机器人早期异常监测模型及方法 Download PDF

Info

Publication number
CN117093852A
CN117093852A CN202311221699.XA CN202311221699A CN117093852A CN 117093852 A CN117093852 A CN 117093852A CN 202311221699 A CN202311221699 A CN 202311221699A CN 117093852 A CN117093852 A CN 117093852A
Authority
CN
China
Prior art keywords
industrial robot
vector
attention
early
encoder
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311221699.XA
Other languages
English (en)
Inventor
杨波
徐文龙
焦健
王四宝
王时龙
李东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University
Original Assignee
Chongqing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University filed Critical Chongqing University
Publication of CN117093852A publication Critical patent/CN117093852A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01D—MEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00—Measuring or testing not otherwise provided for
    • G01D21/02—Measuring two or more variables by means not covered by a single other subclass
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/08—Feature extraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
    • G06F2218/12—Classification; Matching
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Numerical Control (AREA)

Abstract

本发明公开了一种工业机器人早期异常监测模型，包括编码器模块、聚合器和条件解码器；编码器模块包括生成路径和潜在路径；生成路径上设有第一编码器，第一编码器学习已知上下文数据与目标数据点序数之间的映射关系，并得到工业机器人运行周期信号在高维空间的表征向量；潜在路径上设有第二编码器，第二编码器学习已知上下文数据内部特征并模拟高斯过程推理，得到工业机器人运行周期信号在高维空间的表征向量；聚合器用于聚合两个表征向量以获得全局表征参数；条件解码器对全局隐变量进行解码，得到信号函数,从而在输入目标数据点后获得对应的目标数据点预测信号值；本发明还公开了一种工业机器人早期异常监测方法。

Description

工业机器人早期异常监测模型及方法
技术领域
本发明属于装备运行监控和管理技术领域，具体的为一种工业机器人早期异常监测模型及方法。
背景技术
随着经济与科技的发展以及人民生活水平的提高，汽车产销量与日俱增，汽车工业也进入了发展的黄金期。白车身作为汽车组成的关键部分，是汽车所有零部件的集合体。白车身焊接制造质量的好坏基本决定了该车的最终质量能否达到验收要求，而它的制造成本也几乎能够占到整车制造投入的一半，所以白车身的制造工艺水平基本上就决定了该车型产品的最终的生产质量、效率和安全性能。工业机器人作为白车身焊装生产线上的核心设备，若出现突发性异常故障情况将会导致生产计划延误，影响整个生产线的生产进度，增加生产成本，导致焊接质量下降，从而影响产品的质量和安全性。因此，生产企业对白车身工业机器人的安全性、可靠性、稳定性的要求很高。白车身工业机器人具有高效、准确、稳定、一致、安全等优点，可以提高焊装生产线的生产效率、产品质量和整体质量水平，是汽车白车身焊装生产线上不可或缺的重要设备。但是，由于复杂多变的生产环境，工业机器人经常会出现突发性的异常故障，然而，当前汽车生产企业大多采用传统的定期人工检修维护方式来预防这些异常故障，这种方式耗时耗力，降低生产线的生产效率和质量水平，同时也无法及时发现和预测异常故障。因此，非常有必要对工业机器人进行实时在线早期异常监测，采用更加智能化的监测与诊断技术，对工业机器人进行实时监控和预警，及时发现和解决潜在的异常故障，对于保证工业机器人的安全可靠性、生产效率至关重要。
机械设备的异常监测系统通过监测设备运行过程中产生的动态物理信号，综合评估设备运行状态，判断设备当前是否出现异常情况，若评判结果为异常，监测系统将标记异常设备并发出报警信息。传统的设备异常监测在很大程度上依赖于成熟的数学、物理和经验模型，这些方法需要准确的数据采集、处理和分析，对于信号数据的质量有较高的要求，而在实际应用中，信号数据常常受到各种干扰，如噪音和信号不稳定性，这对传统方法的准确性构成了挑战。近年来，随着AI技术、大数据技术和高性能计算集群的快速发展，基于机器学习的方法凭借计算机强大的计算能力，模拟人类分析和处理问题的方式，从海量数据信息中学习相关知识而不完全依赖人的经验知识，推动异常监测技术进入了智能化发展阶段，因其具备良好的多变场景适用性在工业领域得到了越来越多的应用。然而，工业机器人异常监测研究面临着异常信号数据缺乏、正常与异常信号数据极不平衡等问题，使得构建具有准确分类标记的工业机器人异常信号数据集颇有难度，无法使用有监督深度学习方法实现工业机器人的在线异常监测。
发明内容
有鉴于此，本发明的目的在于提供一种工业机器人早期异常监测模型及方法，能够实时在线对工业机器人进行早期异常监测，以预防突发性、非预期故障异常情况发生，保证工业机器人的安全可靠性和生产效率。
为达到上述目的，本发明提供如下技术方案：
本发明首先提出了一种工业机器人早期异常监测模型，包括编码器模块、聚合器和条件解码器；
所述编码器模块包括生成路径和潜在路径；
所述生成路径上设有第一编码器，所述第一编码器以(xC,yC,xt)作为输入以学习已知上下文数据(xC,yC)与目标数据点序数xt之间的映射关系，并得到工业机器人运行周期信号在高维空间的表征向量RT；
所述潜在路径上设有第二编码器，所述第二编码器以已知上下文数据(xC,yC)作为输入以学习已知上下文数据(xC,yC)内部特征并模拟高斯过程推理，得到工业机器人运行周期信号在高维空间的表征向量RC；
所述聚合器用于聚合表征向量RT和表征向量RC，以获得全局表征参数；
所述条件解码器接收全局隐变量zr与目标数据点序数xt并对全局隐变量zr进行解码，得到确定函数fr(x),从而在输入xt后获得对应的目标数据点预测信号值
其中：xC表示上下文数据点序数；yC表示上下文数据点信号值；xt表示目标数据点序数；表示目标数据点预测信号值；zr表示全局隐变量，通过对全局表征参数进行采样获取。
进一步，所述第一编码器和第二编码器均采用通道交叉注意力模块；所述通道交叉注意力模块包括串联的通道注意力单元和交叉注意力单元。
进一步，所述通道注意力单元首先采用全局最大池化操作和全局平均池化操作对输入的上下文信号值yC的特征进行聚合得到聚合特征图，然后采用一维卷积提取聚合特征图中的通道特征以实现局部跨通道交互并捕获通道间的联系，最后利用sigmoid激活函数将学习到的注意力系数缩放到[0,1]的范围内，得到附加通道权重的信号值ychannel。
进一步，所述交叉注意力单元采用Query-Key-Value模式，以所述通道注意力单元输出的信号值ychannel与对应的上下文数据点信号值yC拼接获得加权信号矩阵作为value、以上下文数据点序数/>作为key、以目标数据点序数/>作为query，并将输入的value、key和query线性映射到三个不同的空间，得到查询向量qi、键向量ki和值向量vi：
Q＝Wqxt
K＝Wkxc
V＝Wvychannel
对于每一个查询向量qi∈Q可以得到输出向量hi：
hi＝att((K,V),qi)
其中：Wq、Wk、Wv分别为线性映射参数矩阵；dr和dx分别表示加权信号和上下文数据点序数的特征维度；和/>分别表示每个元素为dr和dx维向量、且向量中的每个分量是实数；Q＝[q1,q2,…,qn]、K＝[k1,k2,…,kn]和V＝[v1,v2,…,vn]分别表示由查询向量、键向量和值向量构成的矩阵；i＝1,2,…,n。
进一步，所述交叉注意力单元采用多头交叉注意力模块；所述多头交叉注意力模块通过学习value、key和query之间的关联关系动态生成注意力权重矩阵，以深度挖掘上下文数据点(xC,yC)与目标数据点序数xt之间潜在依赖关系，在多个不同投影空间捕获交互信息。
进一步，所述多头交叉注意力模块用于将输入数据投影到多个空间；每个空间采用独立的注意力头对数据进行线性变换，每个注意力头得到线性变换后的Q、K、V；其中：Q为询问向量和K为键向量，用于计算注意力权重，并利用softmax函数将注意力权重矩阵进行归一化；V为值向量，用于计算输出特征；将所有注意力头输出的特征拼接起来，得到所述多头交叉注意力模块的输出特征。
进一步，所述条件解码器内设有多层感知机，所述多层感知机采用ReLU激活函数并融合交叉注意力单元的输出，得到工业机器人运行信号数据在高维空间的表征向量。
本发明还提出了一种工业机器人早期异常监测方法，包括如下步骤：
步骤一：采集焊装生产线现场工业机器人运行信号数据；将采集的工业机器人运行信号数据划分为已知上下文数据和目标数据；
步骤二：构建如上所述的工业机器人早期异常监测模型；
步骤三：利用已知上下文数据和目标数据训练所述工业机器人早期异常监测模型，以学习正常运行周期信号的函数分布特征，实现对工业机器人正常运行信号值的准确预测；
步骤四：统计所述工业机器人早期异常监测模型预测正常运行信号值的误差分布范围，采用3σ原则划分正常运行信号值的预测误差范围；
步骤五：实时采集焊装生产线现场工业机器人运行信号数据，利用工业机器人早期异常监测模型实时预测工业机器人的运行信号值；
步骤六：判断运行信号值是否落入正常运行信号值的预测误差范围内：若是，则工业机器人运行正常；若否，则工业机器人运行异常。
本发明的有益效果在于：
本发明的工业机器人早期异常监测方法，通过构建工业机器人早期异常监测模型(CANP)，利用生成路径学习已知上下文数据(xC,yC)与目标数据点序数xt之间的映射关系，利用潜在路径学习已知上下文数据(xC,yC)内部特征，通过聚合器聚合生成路径和潜在路径分别得到的表征向量RT和表征向量RC以获得全局表征参数，通过对全局表征参数进行采样获得全局隐变量后利用条件解码器进行解码，得到信号函数以实现对正常工业机器人运行信号值的准确预测；最后计算并统计CANP模型预测正常信号值的误差分布范围，采用3σ原则划分正常信号预测误差范围获取异常判别阈值进行异常判断，从而实现工业机器人实时在线异常监测，以预防突发性、非预期故障异常情况发生，保证工业机器人的安全可靠性和生产效率。
附图说明
为了使本发明的目的、技术方案和有益效果更加清楚，本发明提供如下附图进行说明：
图1为NP模型的结构图；
图2为基于神经过程的工业机器人周期信号预测过程图；
图3为工业机器人早期异常监测模型的结构图；
图4为通道交叉注意力模块的结构图；
图5为多头交叉注意力模块的结构图；
图6为正常信号预测误差值分布直方图；
图7为正常信号预测误差值散点图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好的理解本发明并能予以实施，但所举实施例不作为对本发明的限定。
本实施例的工业机器人早期异常监测方法，包括如下步骤：
步骤一：采集焊装生产线现场工业机器人运行信号数据。
采集焊装生产线现场工业机器人运行信号数据，将采集的工业机器人运行信号数据划分为已知上下文数据和目标数据。具体的，在数据采集前或数据采集过程中，分析工业机器人异常的形式和特点，并根据数据采集过程与焊装生产线现场工业机器人运行信号数据存在的问题进行分析，针对当前研究需要解决的问题与难点，提出工业机器人异常早期监测总体方案。
步骤二：构建工业机器人早期异常监测模型。
(1)工业机器人早期异常监测模型的原理
在概率分布视角下分析工业机器人周期信号数据，使用神经过程(NeuralProcess，NP)模型学习正常周期信号的函数分布空间，然后对大量的正常周期信号进行准确预测，计算并统计所有预测值与实际值的误差分布范围，由于异常周期信号函数分布远离函数分布空间，所以对应的模型预测误差也将在正常周期信号误差范围之外，从而通过函数预测实现异常判别。
具体的，神经过程(Neural Process，NP)模型是一种能够将输入映射到输出的回归函数族模型。其利用神经网络处理高维特征和并行计算的优势，模仿高斯过程回归(Gaussianprocess regression,GPR)的推断过程，通过少量观测数据即可推断出目标函数的概率分布，使其具备GPR的一些基本属性，即通过学习函数概率分布进行建模，这与深度神经网络对单个确定性函数的参数化学习思路有很大的不同。同时它借助神经网络强大的函数拟合能力，直接从数据中学习隐式核函数，克服了高斯过程中需要提前为特定场景指定合适且固定的核函数的限制问题。另外由于NP模型继承了深度神经网络的计算优势，弥补了GPR计算复杂度过高的不足。NP模型在训练过程中建模随机过程的多种任务，以灵活可变的观察数据为条件，构建编码器网络进行概率推断，通过解码器网络获取随机过程的分布函数，最终实现对目标函数的预测。
如图1所示，为NP模型结构图。(xC,yC)为已知上下文观测数据，(xt,yt)为目标数据，z为全局隐变量，为预测值。NP模型假设已知上下文数据,预测目标输入数据xt对应的目标输出数据，模型总体主要包括编码器、聚合器和条件解码器3个部分。编码器h接收上下文已知数据(xC,yC)，通过神经网络生成上下文数据在高维空间的表征向量rC；聚合器a对表征向量进行聚合操作，获得全局表征向量r，r将全局隐变量z的分布参数化，聚合器内为求均值操作；条件解码器g以z分布的采样值和目标输入xt作为输入,通过采样隐变量z值,得到确定函数f(x),从而在输入xt后获得其对应的预测值/>
基于深度神经过程模型学习工业机器人正常运行周期信号函数分布特征，进而实现机器人周期信号的精准预测，数据集为工业机器人关节(6轴)电流、转速及运行阶段信号的正常周期数据。工业机器人每一个运行周期时长约26秒，采样频率为250Hz，即每个运行周期数据为20通道6500个数据点的二维数据，信号数据形状为6500×20。
将机器人运行周期信号数据放在概率分布视角下进行分析，假设将整个信号周期数据集定义为R集合，每个周期数据表示为r(r∈R)。假设信号周期数据由随机过程F生成，将单个周期里的每一个采样点在该周期中的序数看作输入，对应的信号值看作输出的随机变量，那么每个信号周期就可以视为信号值随信号采样序数变化的随机变量的集合。换句话说，从概率分布的视角分析正常的机器人周期信号数据，假设每一个正常周期信号数据的分布函数为fr(r∈R)，那么所有正常的周期信号数据的分布函数构成了一个函数集合空间FR，即信号函数分布在FR空间内的周期信号被判定为正常周期信号，而信号函数分布在FR空间外或者存在较大距离的周期判定为异常周期信号。总的来说本实施例研究的核心思路是：使用训练NP模型学习到正常周期信号的函数分布空间FR，然后使用学习到FR的模型对大量的正常周期信号进行准确预测，计算并统计所有预测值与实际值的误差分布范围，那么该误差范围即是正常信号函数分布空间FR在误差空间的映射。由于异常周期信号函数分布远离FR，所以对应的模型预测误差也将在正常周期信号误差范围之外，从而通过函数预测实现异常判别。
工业机器人每个周期信号数据由6500个数据点对构成，数据点包含序数x和对应信号值向量y，序数表示的是该数据点在整个周期信号数据中的位置。定义集合A为全部序数集合，则每一个周期中任一序数为ai＝i∈A，其中1≤i≤6500。假设不同序数点信号值间相互独立，并且数据本身存在随机噪声，则序数ai处的信号值为yi＝f(ai)+ei，其中ei～N(0,σ2)为噪声值。信号值向量的条件概率分布为：
采用深度神经网络逼近确定性函数g来使得神经过程建模随机过程F，假设z作为一个高维向量来表示F，那么F(A)＝g(A,z)，将随机过程F的随机属性转移至隐变量z上，再对隐变量z进行采样便可以得到对应函数f(ai)＝g(ai,z)，其中函数g为通过深度神经网络逼近的确定性函数，通过确定性函数g近似出信号值分布情况，便能利用隐变量z结合目标序数输入预测对应目标信号值输出。因此可得：
上述推导过程是在隐变量z已经求得的情况下进行的，在实际训练模型过程中，每个正常信号周期r有各自的隐变量zr作为该周期在高维空间的表征，并且确定性函数g是由整个数据集通过深度神经网络训练得出，适用于整个集合R内所有信号周期数据。所以每一个信号周期r的概率分布函数fr使用同一个函数g去近似：
fr(ai)≈g(ai,zr),r∈R,i∈r
正常周期信号的概率分布函数构成的函数空间FR可以由确定性函数g和每个周期信号对应的隐变量{zr,r∈R}表示。求取隐变量zr的步骤至关重要，对于某三个信号周期数据，截取其前三分之二数据点作为观察到的已知上下文数据C，C是由上下文数据点(xC,yC)构成的集合(需要说明的是，上下文数据中xC与前文ai，都是序数集合A的子集，xC特指已知的上下文集合中的序数，ai表示集合A内任一序数，yC为xC对应的信号值向量)。将该数据的隐变量zr视为函数隐空间上的随机变量，使它服从已知的上下文数据C的后验概率分布，即假设zr服从于一个均值为μr，协方差为∑r的高斯分布，并且μr、∑r依赖于不同的周期信号数据r。求取隐变量zr的任务此刻转化为求取一系列高斯分布的参数集合((μr,∑r):r∈R)，与g函数类似NP使用深度神经网络来逼近一个确定性函数l近似分布函数空间FR中的每一个函数fr的后验分布参数：
l((xC,yC))＝(μr,∑r),r∈R
图2为基于神经过程的工业机器人周期信号预测过程图，深度神经过程模型从已知的机器人信号周期数据集合(xC,yC)中求得合适核函数和隐变量，模型最后通过输入的预测目标序数xt求出对应信号值向量yt的分布函数fr，实现对目标信号的准确预测。
(2)工业机器人早期异常监测模型
本实施例构建的工业机器人早期异常监测模型的结构如图3所示，本实施例的工业机器人早期异常监测模型，包括编码器模块、聚合器和条件解码器。
本实施例中，编码器模块包括生成路径和潜在路径，分别对应图中的实线与虚线，两条路径输入数据不同。其中，生成路径上设有第一编码器，第一编码器以(xC,yC,xt)作为输入以学习已知上下文数据(xC,yC)与目标数据点序数xt之间的映射关系，并得到工业机器人运行周期信号在高维空间的表征向量RT。潜在路径上设有第二编码器，第二编码器以已知上下文数据(xC,yC)作为输入以学习已知上下文数据(xC,yC)内部特征并模拟高斯过程推理，得到工业机器人运行周期信号在高维空间的表征向量RC。其中：xC表示上下文数据点序数；yC表示上下文数据点信号值；xt表示目标数据点序数；表示目标数据点预测信号值；zr表示全局隐变量，通过对全局表征参数进行采样获取。
本实施例中，聚合器用于聚合表征向量RT和表征向量RC，以获得全局表征参数。具体的，聚合器内部为取均值操作，用于聚合两个包含不同信息的表征向量RT和RC，获得全局表征参数。
本实施例中，条件解码器接收全局隐变量zr与目标数据点序数xt并对全局隐变量zr进行解码，得到信号函数fr(x),从而在输入xt后获得对应的目标数据点预测信号值本实施例中，条件解码器内部为多层感知机MLP，采用ReLU激活函数。条件解码器接收全局隐变量zr与目标数据序数xt，并对zr进行解码，得到确定函数fr(x),从而在输入xt后获得对应的目标信号预测值/>
本实施例中，第一编码器和第二编码器均采用通道交叉注意力模块。如图4所示，通道交叉注意力模块包括串联的通道注意力单元和交叉注意力单元。通道注意力单元首先采用全局最大池化操作(GMP)和全局平均池化(GAP)操作对输入的上下文信号值yC的特征进行聚合得到聚合特征图，然后采用一维卷积提取聚合特征图中的通道特征以实现局部跨通道交互并捕获通道间的联系，最后利用sigmoid激活函数将学习到的注意力系数缩放到[0,1]的范围内，得到附加通道权重的信号值ychannel。即本实施例的通道注意力单元的原理为：首先，将上下文信号值yC作为input，通过全局最大池化(GMP)和全局平均池化(GAP)操作对信号的全局特征进行聚合。然后采用1DCNN提取通道特征，实现有效的局部跨通道交互进而取代不必要的全局通道交互，捕获通道间的联系。随后通过sigmoid激活函数使学习到的注意力系数缩放到[0,1]的范围，通过聚合获得附加通道权重的信号值ychannel。工业机器人信号数据包含机器人六个关节的电机电流、转速、关节转动角度、机器人运行阶段四类信号共20通道，通道之间存在复杂联系，并且信号数据内存在工业噪音。本实施例的通道注意力单元能够挖掘通道间的联系，并且通过学习到的注意力权重突出重要信号通道弱化特征密度低的通道，达到抑制工业噪音、突出重点通道信息的效果。
本实施例的交叉注意力单元在结构上与自注意力模型相同，采用Query-Key-Value(查询-键-值)模式，以通道注意力单元输出的信号值ychannel与对应的上下文数据点信号值yC拼接获得加权信号矩阵作为value、以上下文数据点序数作为key、以目标数据点序数/>作为query，并将输入的value、key和query线性映射到三个不同的空间，得到查询向量qi、键向量ki和值向量vi：
Q＝Wqxt
K＝Wkxc
V＝Wvychannel
对于每一个查询向量qi∈Q可以得到输出向量hi：
hi＝att((K,V),qi)
其中：Wq、Wk、Wv分别为线性映射参数矩阵；dr和dx分别表示加权信号和上下文数据点序数的特征维度；和/>分别表示每个元素为dr和dx维向量、且向量中的每个分量是实数；Q＝[q1,q2,…,qn]、K＝[k1,k2,…,kn]和V＝[v1,v2,…,vn]分别表示由查询向量、键向量和值向量构成的矩阵；i＝1,2,…,n。
本实施例中，交叉注意力单元采用多头交叉注意力模块，多头交叉注意力模块通过学习value、key和query之间的关联关系动态生成注意力权重矩阵，以深度挖掘上下文数据点(xC,yC)与目标数据点序数xt之间潜在依赖关系，可以在多个不同投影空间捕获交互信息。如图5所示，多头交叉注意力模块用于将输入数据投影到多个空间；每个空间采用独立的注意力头对数据进行线性变换，每个注意力头得到线性变换后的Q、K、V；其中：Q为询问向量和K为键向量，用于计算注意力权重，并利用softmax函数将注意力权重矩阵进行归一化；V为值向量，用于计算输出特征；将所有注意力头输出的特征拼接起来，得到所述多头交叉注意力模块的输出特征。图5中，表示第i个头键向量k的转置；/>表示第i个头值向量v的转置；qT表示询问向量Q的转置；KT表示键向量K的转置；dk表示键向量k的维度；/>表示询问向量Q对应的权重；/>表示键向量K对应的权重；/>表示值向量V对应的权重；headh表示第h个注意力头的输出特征；h＝1,2,…,H；i＝1,2,…,n。
对应的，本实施例的条件解码器内设有多层感知机，当交叉注意力单元采用多头交叉注意力模块时，多层感知机采用ReLU激活函数并融合交叉注意力单元的输出，得到工业机器人运行信号数据在高维空间的表征向量。
步骤三：训练工业机器人早期异常监测模型
利用已知上下文数据和目标数据训练工业机器人早期异常监测模型，以学习信号函数的分布特征，实现对工业机器人正常运行信号值的准确预测。
在训练过程中，本实施例的CANP模型输入的数据是连续三周期的工业机器人正常运行周期信号数据，并按70％比例随机抽取信号数据点，将前两周期抽取的数据点作为已知上下文数据点(xC,yC)，将全部三周期抽取数据点作为预测目标信号数据点(xt,yt)。
CANP模型经过大量正常信号数据训练后，学习到工业机器人信号函数分布特征，实现对信号数据的准确预测，随后计算并统计正常信号的预测误差分布范围。
步骤四：划分正常运行信号值的预测误差范围
统计工业机器人早期异常监测模型预测正常运行信号值的误差分布范围，采用3σ原则划分正常运行信号值的预测误差范围。
对于异常监测问题来说，异常判别阈值的选择尤为重要，基于预测的异常检测一般是根据预测误差来进行异常的判别，当预测误差大于所选择的阈值时，将其视为异常，否则视为正常。在完成CANP模型的构建与训练后，模型内部编码器与解码器的网络权重得到收敛，模型预测结果良好。这说明模型已经学习到了正常信号的函数分布特点，因此可以根据模型预测误差值的大小来实现异常评判。为了求取合适有效的异常判别阈值，从训练集中随机挑选出2728个工业机器人正常运行周期信号输入到已训练好的CANP模型中，计算每次预测信号值与实际信号值yi的平均绝对误差(Mean Absolute Error，MAE)，如图6所示，为正常信号预测误差值分布直方图。
其中，n表示数据样本量。
需要说明的是，经过K-S检验表明正常信号预测误差值服从正态分布，因此可以采用经典的3σ原则求取异常判别阈值，即将CANP模型预测误差值分布在(μ-3σ,μ+3σ)外的工业机器人运行周期信号判别为异常信号。如图7所示为正常信号预测误差值散点图，可以看出采用3σ原则能够有效地将工业机器人正常周期信号预测误差区间划分出来,从而实现工业机器人实时在线异常监测，完成早期异常判别。
步骤五：实时在线采集数据
实时采集焊装生产线现场工业机器人运行信号数据，利用工业机器人早期异常监测模型实时预测工业机器人的运行信号值。
步骤六：异常判断
判断运行信号值是否落入正常运行信号值的预测误差范围内：若是，则工业机器人运行正常；若否，则工业机器人运行异常。
以上所述实施例仅是为充分说明本发明而所举的较佳的实施例，本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换，均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。

Claims (8)

1.一种工业机器人早期异常监测模型，其特征在于：包括编码器模块、聚合器和条件解码器；
所述编码器模块包括生成路径和潜在路径；
所述生成路径上设有第一编码器，所述第一编码器以(xC,yC,xt)作为输入以学习已知上下文数据(xC,yC)与目标数据点序数xt之间的映射关系，并得到工业机器人运行周期信号在高维空间的表征向量RT；
所述潜在路径上设有第二编码器，所述第二编码器以已知上下文数据(xC,yC)作为输入以学习已知上下文数据(xC,yC)内部特征并模拟高斯过程推理，得到工业机器人运行周期信号在高维空间的表征向量RC；
所述聚合器用于聚合表征向量RT和表征向量RC，以获得全局表征参数；
所述条件解码器接收全局隐变量zr与目标数据点序数xt并对全局隐变量zr进行解码，得到确定函数fr(x),从而在输入xt后获得对应的目标数据点预测信号值
其中：xC表示上下文数据点序数；yC表示上下文数据点信号值；xt表示目标数据点序数；表示目标数据点预测信号值；zr表示全局隐变量，通过对全局表征参数进行采样获取。
2.根据权利要求1所述的工业机器人早期异常监测模型，其特征在于：所述第一编码器和第二编码器均采用通道交叉注意力模块；所述通道交叉注意力模块包括串联的通道注意力单元和交叉注意力单元。
3.根据权利要求2所述的工业机器人早期异常监测模型，其特征在于：所述通道注意力单元首先采用全局最大池化操作和全局平均池化操作对输入的上下文信号值yC的特征进行聚合得到聚合特征图，然后采用一维卷积提取聚合特征图中的通道特征以实现局部跨通道交互并捕获通道间的联系，最后利用sigmoid激活函数将学习到的注意力系数缩放到[0,1]的范围内，得到附加通道权重的信号值ychannel。
4.根据权利要求2所述的工业机器人早期异常监测模型，其特征在于：所述交叉注意力单元采用Query-Key-Value模式，以所述通道注意力单元输出的信号值ychannel与对应的上下文数据点信号值yC拼接获得加权信号矩阵作为value、以上下文数据点序数/>作为key、以目标数据点序数/>作为query，并将输入的value、key和query线性映射到三个不同的空间，得到查询向量qi、键向量ki和值向量vi：
Q＝Wqxt
K＝Wkxc
V＝Wvychannel
对于每一个查询向量qi∈Q可以得到输出向量hi：
hi=att((K,V),qi)
其中：Wq、Wk、Wv分别为线性映射参数矩阵；dr和dx分别表示加权信号和上下文数据点序数的特征维度；和/>分别表示每个元素为dr和dx维向量、且向量中的每个分量是实数；Q=[q1,q2,…,qn]、K=[k1,k2,…,kn]和V=[v1,v2,…,vn]分别表示由查询向量、键向量和值向量构成的矩阵；i=1,2,…,n。
5.根据权利要求4所述的工业机器人早期异常监测模型，其特征在于：所述交叉注意力单元采用多头交叉注意力模块；所述多头交叉注意力模块通过学习value、key和query之间的关联关系动态生成注意力权重矩阵，以深度挖掘上下文数据点(xC,yC)与目标数据点序数xt之间潜在依赖关系，在多个不同投影空间捕获交互信息。
6.根据权利要求5所述的工业机器人早期异常监测模型，其特征在于：所述多头交叉注意力模块用于将输入数据投影到多个空间；每个空间采用独立的注意力头对数据进行线性变换，每个注意力头得到线性变换后的Q、K、V；其中：Q为询问向量和K为键向量，用于计算注意力权重，并利用softmax函数将注意力权重矩阵进行归一化；V为值向量，用于计算输出特征；将所有注意力头输出的特征拼接起来，得到所述多头交叉注意力模块的输出特征。
7.根据权利要求5所述的工业机器人早期异常监测模型，其特征在于：所述条件解码器内设有多层感知机，所述多层感知机采用ReLU激活函数并融合交叉注意力单元的输出，得到工业机器人运行信号数据在高维空间的表征向量。
8.一种工业机器人早期异常监测方法，其特征在于：包括如下步骤：
步骤一：采集焊装生产线现场工业机器人运行信号数据；将采集的工业机器人运行信号数据划分为已知上下文数据和目标数据；
步骤二：构建如权利要求1-7任一项所述的工业机器人早期异常监测模型；
步骤三：利用已知上下文数据和目标数据训练所述工业机器人早期异常监测模型，以学习正常运行周期信号的函数分布特征，实现对工业机器人正常运行信号值的准确预测；
步骤四：统计所述工业机器人早期异常监测模型预测正常运行信号值的误差分布范围，采用3σ原则划分正常运行信号值的预测误差范围；
步骤五：实时采集焊装生产线现场工业机器人运行信号数据，利用工业机器人早期异常监测模型实时预测工业机器人的运行信号值；
步骤六：判断运行信号值是否落入正常运行信号值的预测误差范围内：若是，则工业机器人运行正常；若否，则工业机器人运行异常。
CN202311221699.XA 2023-06-15 2023-09-20 工业机器人早期异常监测模型及方法 Pending CN117093852A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2023107104621 2023-06-15
CN202310710462 2023-06-15

Publications (1)

Publication Number Publication Date
CN117093852A true CN117093852A (zh) 2023-11-21

Family

ID=88771608

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311221699.XA Pending CN117093852A (zh) 2023-06-15 2023-09-20 工业机器人早期异常监测模型及方法

Country Status (1)

Country Link
CN (1) CN117093852A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117473337A (zh) * 2023-12-25 2024-01-30 中国科学院自动化研究所 轨迹关联方法及装置、设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117473337A (zh) * 2023-12-25 2024-01-30 中国科学院自动化研究所 轨迹关联方法及装置、设备及存储介质
CN117473337B (zh) * 2023-12-25 2024-03-22 中国科学院自动化研究所 轨迹关联方法及装置、设备及存储介质

Similar Documents

Publication Publication Date Title
Serradilla et al. Deep learning models for predictive maintenance: a survey, comparison, challenges and prospects
Zhao et al. Deep multi-scale convolutional transfer learning network: A novel method for intelligent fault diagnosis of rolling bearings under variable working conditions and domains
Huang et al. Deep ensemble capsule network for intelligent compound fault diagnosis using multisensory data
Feng et al. Similarity-based meta-learning network with adversarial domain adaptation for cross-domain fault identification
Cuevas et al. Nonlinear system identification based on ANFIS-Hammerstein model using Gravitational search algorithm
CN113255848B (zh) 基于大数据学习的水轮机空化声信号辨识方法
Wu et al. A weighted deep domain adaptation method for industrial fault prognostics according to prior distribution of complex working conditions
CN109145516B (zh) 一种基于改进型极限学习机的模拟电路故障识别方法
CN117093852A (zh) 工业机器人早期异常监测模型及方法
Huang et al. A novel Bayesian deep dual network with unsupervised domain adaptation for transfer fault prognosis across different machines
Shajihan et al. CNN based data anomaly detection using multi-channel imagery for structural health monitoring
CN110705694A (zh) 基于特征提取的面向边缘数据中心的窃电监测方法
Alizadeh et al. A hybrid ARIMA–WNN approach to model vehicle operating behavior and detect unhealthy states
Zhang et al. Gated recurrent unit-enhanced deep convolutional neural network for real-time industrial process fault diagnosis
Yuan et al. A multichannel MN-GCN for wheelset-bearing system fault diagnosis
Xu et al. Bearing fault diagnosis in the mixed domain based on crossover-mutation chaotic particle swarm
Song et al. Fault diagnosis and process monitoring using a statistical pattern framework based on a self-organizing map
Vo et al. Harnessing attention mechanisms in a comprehensive deep learning approach for induction motor fault diagnosis using raw electrical signals
Yin et al. Sensor selection and location scheme for prognostic and health management
Liu et al. Adaptive robustness evaluation for complex system prognostics and health management software platform
Andersson et al. Sample size prediction for anomaly detection in locks
Yang et al. An improved probabilistic neural network with ga optimization
CN117544021B (zh) 无刷直流电机的转速控制方法及系统
Márquez A Supervisory Control and Data Acquisition System Filtering Approach for Alarm Management with Deep Learning
Wang et al. Brain-Inspired Spiking Neural Networks for Industrial Fault Diagnosis: A Survey, Challenges, and Opportunities

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination