CN118133186A - 包装机故障检测方法、系统、装置及储存介质 - Google Patents
包装机故障检测方法、系统、装置及储存介质 Download PDFInfo
- Publication number
- CN118133186A CN118133186A CN202410366888.4A CN202410366888A CN118133186A CN 118133186 A CN118133186 A CN 118133186A CN 202410366888 A CN202410366888 A CN 202410366888A CN 118133186 A CN118133186 A CN 118133186A
- Authority
- CN
- China
- Prior art keywords
- packaging machine
- network
- training data
- fault detection
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004806 packaging method and process Methods 0.000 title claims abstract description 241
- 238000001514 detection method Methods 0.000 title claims abstract description 191
- 238000012549 training Methods 0.000 claims abstract description 167
- 238000012545 processing Methods 0.000 claims abstract description 150
- 230000002159 abnormal effect Effects 0.000 claims abstract description 98
- 238000000605 extraction Methods 0.000 claims abstract description 96
- 238000000034 method Methods 0.000 claims abstract description 43
- 230000006870 function Effects 0.000 claims description 26
- 238000012856 packing Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 17
- 230000004927 fusion Effects 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 17
- 125000004122 cyclic group Chemical group 0.000 claims description 14
- 230000015654 memory Effects 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 claims description 11
- 238000013527 convolutional neural network Methods 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 3
- 230000005856 abnormality Effects 0.000 description 11
- 238000007789 sealing Methods 0.000 description 8
- 239000013598 vector Substances 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000003058 natural language processing Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 239000000463 material Substances 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000005299 abrasion Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Image Analysis (AREA)
Abstract
本公开涉及包装机故障技术领域，提供了一种包装机故障检测方法、系统、装置及储存介质。该方法包括：将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果；利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数。
Description
技术领域
本公开涉及包装机故障技术领域，尤其涉及一种包装机故障检测方法、系统、装置及储存介质。
背景技术
产品在出货之前进行包装是必不可少的。对产品进行包装可以有效保护产品在运输过程中不会出现产品变形或破损，可以让产品外观更高端美观、更加干净卫生。为了节省劳动成本和物料成本，现在常使用包装机对产品进行包装。包装机在工作中常遇到各种故障，目前是技术人员根据维修经验分析出现故障时包装机的表现确定故障的原因，人力成本高并且效率还低。
发明内容
有鉴于此，本公开实施例提供了一种包装机故障检测方法、装置、电子设备及计算机可读存储介质，以解决现有技术中包装机故障检测人力成本高效率低的问题。
本公开实施例的第一方面，提供了一种包装机故障检测方法，包括：构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果；利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
本公开实施例的第二方面，提供了一种包装机故障检测系统，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本公开实施例的第三方面，提供了一种包装机故障检测装置，包括：构建模块，被配置为构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；获取模块，被配置为获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；第一处理模块，被配置为将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；第二处理模块，被配置为通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；第三处理模块，被配置为通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；第四处理模块，被配置为通过分类网络处理多模态特征，得到包装机的故障检测结果；优化模块，被配置为利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
本公开实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本公开实施例与现有技术相比存在的有益效果是：构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果；利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。采用上述技术手段，可以解决现有技术中包装机故障检测人力成本高效率低，进而降低包装机故障检测的成本提高效率。
附图说明
为了更清楚地说明本公开实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本公开实施例提供的一种包装机故障检测方法的流程示意图（一）；
图2是本公开实施例提供的一种包装机故障检测方法的流程示意图（二）；
图3是本公开实施例提供的一种包装机故障检测装置的结构示意图；
图4是本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本公开实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本公开。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本公开的描述。
图1是本公开实施例提供的一种包装机故障检测方法的流程示意图（一）。图1的包装机故障检测方法可以由计算机或服务器，或者计算机或服务器上的软件执行。如图1所示，该包装机故障检测方法包括：
S101，构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；
S102，获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；
S103，将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；
S104，通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；
S105，通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；
S106，通过分类网络处理多模态特征，得到包装机的故障检测结果；
S107，利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
在包装机故障检测模型内部：文本特征提取网络和图像特征提取网络并行，文本特征提取网络和图像特征提取网络的输出侧均连接到多模态特征处理网络的输入侧，多模态特征处理网络的输出侧连接到分类网络的输入侧。分类网络的输出也是包装机故障检测模型的输出。
异常数据是对包装机出现异常的描述，比如包装机包装的产品尺寸不准确，包装机包装的产品的封口效果不好，包装机噪音过大，包装机包装速度下降等；工作参数是包装机出现异常时的参数，包括：封装速度、传动带转动速度、传感器信号、封口温度和封口压力等；包装机的图像是包装机出现异常时包装机各个部位的图像，包括：封口模具的图像（该图像用于判断是否是封口模具磨损）、传动带或链条的图像（该图像用于判断是否是传动带或链条磨损或松动）、轴承的图像（该图像用于判断是否是轴承磨损）、螺丝的图像（该图像用于判断是否是螺丝松动）、进料口的图像（该图像用于判断是否是进料口是否堆叠产品以及产品的尺寸是否合适）等；包装物的图像是产品被包装后的图像（该图像用于判断是否是包装物的尺寸是否合适）。
比如异常数据是包装机包装的产品尺寸不准确，包装机的故障检测结果可能是传感器故障、执行器精度问题等；比如异常数据是包装机包装的产品的封口效果不好，包装机的故障检测结果可能是封口温度不合适、封口模具磨损等；比如异常数据是包装机噪音过大，包装机的故障检测结果可能是部件松动、磨损或不平衡等；比如异常数据是包装机包装速度下降，包装机的故障检测结果可能是电机故障、传动带或链条磨损、传感器信号不稳定等。
将各条训练数据中的各项数据输入包装机故障检测模型，各条训练数据中的各项数据是指包装机的工作参数、图像和异常数据以及包装物的图像。包装机故障检测模型对于各条训练数据的处理是类似的，所以以一条训练数据为例，包装机故障检测模型处理该训练数据，最终得到该训练数据的故障检测结果。
根据本公开实施例提供的技术方案，构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果；利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。采用上述技术手段，可以解决现有技术中包装机故障检测人力成本高效率低，进而降低包装机故障检测的成本提高效率。
进一步地：构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，包括：利用嵌入层、循环神经网络和BERT网络构建文本特征提取网络；利用切片及拉平层、卷积神经网络和BERT网络构建图像特征提取网络；利用特征融合层、注意力网络和Transformer网络构建多模态特征处理网络；利用全连接层和激活层构建分类网络。
构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络使用到的网络层均是常见的网络，所以不再赘述。组合常见的网络得到需要的网络是本申请实施例的发明点。
更进一步地：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征，包括：将工作参数和异常数据输入文本特征提取网络，在文本特征提取网络内部：通过嵌入层分别处理工作参数和异常数据，得到参数嵌入特征和异常嵌入特征；通过循环神经网络分别处理参数嵌入特征和异常嵌入特征，得到参数循环特征和异常循环特征；通过BERT网络分别处理参数循环特征和异常循环特征，得到参数特征和异常特征。
嵌入层（Embedding Layer）是自然语言处理（NLP）领域中的一种单词编码技术，其主要目的是将高维、稀疏的词汇表示转化为低维、稠密的向量表示。循环神经网络（Recurrent Neural Network，RNN）是一类具有短期记忆能力的神经网络，特别适用于处理序列数据（有前后或者上下文关系的数据）。BERT（Bidirectional EncoderRepresentations from Transformers）是一种基于Transformer的双向编码器模型，用于自然语言处理（NLP）任务中的预训练。
嵌入层处理工作参数得到参数嵌入特征，处理异常数据，得到异常嵌入特征。循环神经网络处理参数嵌入特征得到参数循环特征，处理异常嵌入特征得到异常循环特征；BERT网络处理参数循环特征得到参数特征，处理异常循环特征得到异常特征。
更进一步地：通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征，包括：将包装机的图像和包装物的图像输入图像特征提取网络，在图像特征提取网络内部：通过切片及拉平层分别处理包装机的图像和包装物的图像，得到包装机拉平特征和包装物拉平特征；通过卷积神经网络分别处理包装机拉平特征和包装物拉平特征，得到包装机卷积特征和包装物卷积特征；通过BERT网络分别处理包装机卷积特征和包装物卷积特征，得到包装机特征和包装物特征。
切片及拉平层用于将一个图像切片为多个小图像，然后将小图像对应的特征矩阵拉平为向量（图像本身就是一个特征矩阵）。卷积神经网络（Convolutional NeuralNetworks，CNN）是一种专门用来处理具有类似网格结构的数据的神经网络，如时间序列数据和图像数据。
切片及拉平层处理包装机的图像得到包装机拉平特征，处理包装物的图像得到包装物拉平特征。卷积神经网络处理包装机拉平特征得到包装机卷积特征，处理包装物拉平特征得到包装物卷积特征。BERT网络处理包装机卷积特征得到包装机特征，处理包装物卷积特征得到包装物特征。
更进一步地，通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征，包括：将参数特征、异常特征、包装机特征和包装物特征输入多模态特征处理网络，在多模态特征处理网络内部：通过特征融合层处理参数特征、包装机特征和包装物特征，得到融合特征；通过注意力网络处理融合特征和异常特征，得到注意力特征；通过Transformer网络处理注意力特征，得到多模态特征。
特征融合层用于融合参数特征、包装机特征和包装物特征。将异常特征作为查询向量，将融合特征同时作为键向量和值向量；利用注意力网络计算异常特征和融合特征的点积，得到权重，利用权重对融合特征进行加权，得到注意力特征，其中，注意力网络通过对应的注意力机制来学习融合特征和异常特征之间的关联关系。
更进一步地，利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失之后，方法还包括：对于各条训练数据，从训练数据集中任意确定出一条与该训练数据的标签相同的训练数据作为该训练数据的正样本，从训练数据集中任意确定出一条与该训练数据的标签不相同的训练数据作为该训练数据的负样本；利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；依据各条训练数据对应的检测损失和对比损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
该训练数据和其正样本标签相同，该训练数据和其负样本标签不相同。利用InfoNCE损失函数计算该训练数据的多模态特征、其正样本的多模态特征以及其负样本的多模态特征之间的对比损失。将该对比损失记作第一对比损失。
更进一步地，利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失之后，方法还包括：对于各条训练数据，从训练数据集中任意确定出一条与该训练数据的标签和异常数据均相同的训练数据作为该训练数据的正样本，从训练数据集中任意确定出一条与该训练数据的标签相同，但异常数据不相同的训练数据作为该训练数据的负样本；利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；依据各条训练数据对应的检测损失和对比损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
该训练数据和其正样本的标签和异常数据均相同（也就是异常的描述是相同的，故障的表现是一样的），该训练数据和其负样本标签相同异常数据不相同。利用InfoNCE损失函数计算该训练数据的多模态特征、其正样本的多模态特征以及其负样本的多模态特征之间的对比损失。将该对比损失记作第二对比损失。
依据各条训练数据对应的检测损失、第一对比损失和第二对比损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
图2是本公开实施例提供的一种包装机故障检测方法的流程示意图（二）。如图2所示，包括：
S201，获取发生目标异常的包装机的检测数据，检测数据包含该包装机的工作参数、图像和异常数据以及包装物的图像；
S202，将检测数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；
S203，通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；
S204，通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；
S205，通过分类网络处理多模态特征，得到包装机的故障检测结果。
在一个可选实施例中，获取发生目标异常的包装机的两条历史数据，其中，检测数据和该两条历史数据的异常数据均是相同的（异常数据均是描述目标异常，目标异常是包装机发生故障的表现），两条历史数据均包含该包装机的工作参数、图像和异常数据、包装物的图像和故障检测结果，一条历史数据的故障检测结果和检测数据的故障检测结果相同，另一条历史数据的故障检测结果和检测数据的故障检测结果不相同。
对于各条历史数据，将历史数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；利用InfoNCE损失函数计算检测数据和两条历史数据的多模态特征之间的对比损失；依据该对比损失优化包装机故障检测模型的模型参数，以完成在包装机故障检测模型的推理阶段对包装机故障检测模型的再训练，进一步提升包装机故障检测模型的精度。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。
图3是本公开实施例提供的一种包装机故障检测装置的示意图。如图3所示，该包装机故障检测装置包括：
构建模块301，被配置为构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；
获取模块302，被配置为获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；
第一处理模块303，被配置为将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；
第二处理模块304，被配置为通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；
第三处理模块305，被配置为通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；
第四处理模块306，被配置为通过分类网络处理多模态特征，得到包装机的故障检测结果；
优化模块307，被配置为利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
根据本公开实施例提供的技术方案，构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络构建包装机故障检测模型；获取训练数据集，其中，训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；将各条训练数据中的各项数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果；利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。采用上述技术手段，可以解决现有技术中包装机故障检测人力成本高效率低，进而降低包装机故障检测的成本提高效率。
在一些实施例中，构建模块301还被配置为利用嵌入层、循环神经网络和BERT网络构建文本特征提取网络；利用切片及拉平层、卷积神经网络和BERT网络构建图像特征提取网络；利用特征融合层、注意力网络和Transformer网络构建多模态特征处理网络；利用全连接层和激活层构建分类网络。
在一些实施例中，第一处理模块303还被配置为将工作参数和异常数据输入文本特征提取网络，在文本特征提取网络内部：通过嵌入层分别处理工作参数和异常数据，得到参数嵌入特征和异常嵌入特征；通过循环神经网络分别处理参数嵌入特征和异常嵌入特征，得到参数循环特征和异常循环特征；通过BERT网络分别处理参数循环特征和异常循环特征，得到参数特征和异常特征。
在一些实施例中，第二处理模块304还被配置为将包装机的图像和包装物的图像输入图像特征提取网络，在图像特征提取网络内部：通过切片及拉平层分别处理包装机的图像和包装物的图像，得到包装机拉平特征和包装物拉平特征；通过卷积神经网络分别处理包装机拉平特征和包装物拉平特征，得到包装机卷积特征和包装物卷积特征；通过BERT网络分别处理包装机卷积特征和包装物卷积特征，得到包装机特征和包装物特征。
在一些实施例中，第三处理模块305还被配置为将参数特征、异常特征、包装机特征和包装物特征输入多模态特征处理网络，在多模态特征处理网络内部：通过特征融合层处理参数特征、包装机特征和包装物特征，得到融合特征；通过注意力网络处理融合特征和异常特征，得到注意力特征；通过Transformer网络处理注意力特征，得到多模态特征。
在一些实施例中，优化模块307还被配置为对于各条训练数据，从训练数据集中任意确定出一条与该训练数据的标签相同的训练数据作为该训练数据的正样本，从训练数据集中任意确定出一条与该训练数据的标签不相同的训练数据作为该训练数据的负样本；利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；依据各条训练数据对应的检测损失和对比损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
在一些实施例中，优化模块307还被配置为对于各条训练数据，从训练数据集中任意确定出一条与该训练数据的标签和异常数据均相同的训练数据作为该训练数据的正样本，从训练数据集中任意确定出一条与该训练数据的标签相同，但异常数据不相同的训练数据作为该训练数据的负样本；利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；依据各条训练数据对应的检测损失和对比损失优化包装机故障检测模型的模型参数，以完成对包装机故障检测模型的训练。
在一些实施例中，第四处理模块306还被配置为获取发生目标异常的包装机的检测数据，检测数据包含该包装机的工作参数、图像和异常数据以及包装物的图像；将检测数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；通过分类网络处理多模态特征，得到包装机的故障检测结果。
在一些实施例中，优化模块307还被配置为获取发生目标异常的包装机的两条历史数据，其中，检测数据和该两条历史数据的异常数据均是相同的（异常数据均是描述目标异常，目标异常是包装机发生故障的表现），两条历史数据均包含该包装机的工作参数、图像和异常数据、包装物的图像和故障检测结果，一条历史数据的故障检测结果和检测数据的故障检测结果相同，另一条历史数据的故障检测结果和检测数据的故障检测结果不相同；对于各条历史数据，将历史数据输入包装机故障检测模型，在包装机故障检测模型内部：通过文本特征提取网络分别处理工作参数和异常数据，得到参数特征和异常特征；通过图像特征提取网络分别处理包装机的图像和包装物的图像，得到包装机特征和包装物特征；通过多模态特征处理网络处理参数特征、异常特征、包装机特征和包装物特征，得到多模态特征；利用InfoNCE损失函数计算检测数据和两条历史数据的多模态特征之间的对比损失；依据该对比损失优化包装机故障检测模型的模型参数，以完成在包装机故障检测模型的推理阶段对包装机故障检测模型的再训练，进一步提升包装机故障检测模型的精度。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本公开实施例的实施过程构成任何限定。
图4是本公开实施例提供的电子设备4的示意图。如图4所示，该实施例的电子设备4包括：处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者不同的部件。
处理器401可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
存储器402可以是电子设备4的内部存储单元，例如，电子设备4的硬盘或内存。存储器402也可以是电子设备4的外部存储设备，例如，电子设备4上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器402还可以既包括电子设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需的其它程序和数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本公开实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本公开的技术方案，而非对其限制；尽管参照前述实施例对本公开进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本公开各实施例技术方案的精神和范围，均应包含在本公开的保护范围之内。
Claims (10)
1.一种包装机故障检测方法，其特征在于，包括：
构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用所述文本特征提取网络、所述图像特征提取网络、所述多模态特征处理网络和所述分类网络构建包装机故障检测模型；
获取训练数据集，其中，所述训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；
将各条训练数据中的各项数据输入所述包装机故障检测模型，在所述包装机故障检测模型内部：
通过所述文本特征提取网络分别处理所述工作参数和所述异常数据，得到参数特征和异常特征；
通过所述图像特征提取网络分别处理所述包装机的图像和所述包装物的图像，得到包装机特征和包装物特征；
通过所述多模态特征处理网络处理所述参数特征、所述异常特征、所述包装机特征和所述包装物特征，得到多模态特征；
通过所述分类网络处理所述多模态特征，得到所述包装机的故障检测结果；
利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化所述包装机故障检测模型的模型参数，以完成对所述包装机故障检测模型的训练。
2.根据权利要求1所述的方法，其特征在于，构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，包括：
利用嵌入层、循环神经网络和BERT网络构建所述文本特征提取网络；
利用切片及拉平层、卷积神经网络和所述BERT网络构建所述图像特征提取网络；
利用特征融合层、注意力网络和Transformer网络构建所述多模态特征处理网络；
利用全连接层和激活层构建所述分类网络。
3.根据权利要求2所述的方法，其特征在于，通过所述文本特征提取网络分别处理所述工作参数和所述异常数据，得到参数特征和异常特征，包括：
将所述工作参数和所述异常数据输入所述文本特征提取网络，在所述文本特征提取网络内部：
通过所述嵌入层分别处理所述工作参数和所述异常数据，得到参数嵌入特征和异常嵌入特征；
通过所述循环神经网络分别处理所述参数嵌入特征和所述异常嵌入特征，得到参数循环特征和异常循环特征；
通过所述BERT网络分别处理所述参数循环特征和所述异常循环特征，得到所述参数特征和所述异常特征。
4.根据权利要求2所述的方法，其特征在于，通过所述图像特征提取网络分别处理所述包装机的图像和所述包装物的图像，得到包装机特征和包装物特征，包括：
将所述包装机的图像和所述包装物的图像输入所述图像特征提取网络，在所述图像特征提取网络内部：
通过所述切片及拉平层分别处理所述包装机的图像和所述包装物的图像，得到包装机拉平特征和包装物拉平特征；
通过所述卷积神经网络分别处理所述包装机拉平特征和所述包装物拉平特征，得到包装机卷积特征和包装物卷积特征；
通过所述BERT网络分别处理所述包装机卷积特征和所述包装物卷积特征，得到所述包装机特征和所述包装物特征。
5.根据权利要求2所述的方法，其特征在于，通过所述多模态特征处理网络处理所述参数特征、所述异常特征、所述包装机特征和所述包装物特征，得到多模态特征，包括：
将所述参数特征、所述异常特征、所述包装机特征和所述包装物特征输入所述多模态特征处理网络，在所述多模态特征处理网络内部：
通过所述特征融合层处理所述参数特征、所述包装机特征和所述包装物特征，得到融合特征；
通过所述注意力网络处理所述融合特征和所述异常特征，得到所述注意力特征；
通过所述Transformer网络处理所述注意力特征，得到所述多模态特征。
6.根据权利要求1所述的方法，其特征在于，利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失之后，所述方法还包括：
对于各条训练数据，从所述训练数据集中任意确定出一条与该训练数据的标签相同的训练数据作为该训练数据的正样本，从所述训练数据集中任意确定出一条与该训练数据的标签不相同的训练数据作为该训练数据的负样本；
利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；
依据各条训练数据对应的检测损失和对比损失优化所述包装机故障检测模型的模型参数，以完成对所述包装机故障检测模型的训练。
7.根据权利要求1所述的方法，其特征在于，利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失之后，所述方法还包括：
对于各条训练数据，从所述训练数据集中任意确定出一条与该训练数据的标签和异常数据均相同的训练数据作为该训练数据的正样本，从所述训练数据集中任意确定出一条与该训练数据的标签相同，但异常数据不相同的训练数据作为该训练数据的负样本；
利用InfoNCE损失函数计算各条训练数据和其正样本以及负样本的多模态特征之间的对比损失；
依据各条训练数据对应的检测损失和对比损失优化所述包装机故障检测模型的模型参数，以完成对所述包装机故障检测模型的训练。
8.一种包装机故障检测系统，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
9.一种包装机故障检测装置，其特征在于，包括：
构建模块，被配置为构建文本特征提取网络、图像特征提取网络、多模态特征处理网络和分类网络，利用所述文本特征提取网络、所述图像特征提取网络、所述多模态特征处理网络和所述分类网络构建包装机故障检测模型；
获取模块，被配置为获取训练数据集，其中，所述训练数据集包含多条训练数据，每条训练数据包含包装机的工作参数、图像和异常数据以及包装物的图像；
第一处理模块，被配置为将各条训练数据中的各项数据输入所述包装机故障检测模型，在所述包装机故障检测模型内部：通过所述文本特征提取网络分别处理所述工作参数和所述异常数据，得到参数特征和异常特征；
第二处理模块，被配置为通过所述图像特征提取网络分别处理所述包装机的图像和所述包装物的图像，得到包装机特征和包装物特征；
第三处理模块，被配置为通过所述多模态特征处理网络处理所述参数特征、所述异常特征、所述包装机特征和所述包装物特征，得到多模态特征；
第四处理模块，被配置为通过所述分类网络处理所述多模态特征，得到所述包装机的故障检测结果；
优化模块，被配置为利用交叉熵损失函数计算各条训练数据的故障检测结果和标签之间的检测损失，依据各条训练数据对应的检测损失优化所述包装机故障检测模型的模型参数，以完成对所述包装机故障检测模型的训练。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410366888.4A CN118133186A (zh) | 2024-03-28 | 2024-03-28 | 包装机故障检测方法、系统、装置及储存介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410366888.4A CN118133186A (zh) | 2024-03-28 | 2024-03-28 | 包装机故障检测方法、系统、装置及储存介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118133186A true CN118133186A (zh) | 2024-06-04 |
Family
ID=91242622
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410366888.4A Pending CN118133186A (zh) | 2024-03-28 | 2024-03-28 | 包装机故障检测方法、系统、装置及储存介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118133186A (zh) |
-
2024
- 2024-03-28 CN CN202410366888.4A patent/CN118133186A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Liu et al. | A stacked autoencoder‐based deep neural network for achieving gearbox fault diagnosis | |
| KR102101974B1 (ko) | 어노말리 디텍션 | |
| Shin et al. | One-class support vector machines—an application in machine fault detection and classification | |
| US20210096530A1 (en) | System and method for identifying manufacturing defects | |
| CN111091278A (zh) | 机械设备异常检测的边缘检测模型构建方法及装置 | |
| Do et al. | Lstm-autoencoder for vibration anomaly detection in vertical carousel storage and retrieval system (vcsrs) | |
| Sun et al. | Health status assessment for wind turbine with recurrent neural networks | |
| CN107491374A (zh) | 一种设备停机状态的判断方法及计算设备 | |
| CN115605813A (zh) | 容器处理机和用于监控容器处理机的运行的方法 | |
| CN110019784A (zh) | 一种文本分类方法及装置 | |
| JP7173168B2 (ja) | 異常検知装置、システム、方法及びプログラム | |
| Pan et al. | Rolling bearing fault diagnosis based on stacked autoencoder network with dynamic learning rate | |
| CN114692745A (zh) | 数据处理方法、装置、集成芯片、电子设备及存储介质 | |
| CN118133186A (zh) | 包装机故障检测方法、系统、装置及储存介质 | |
| CN116893924B (zh) | 设备故障处理方法、装置、电子设备和存储介质 | |
| CN112817279A (zh) | 用于定义数据传输工作流并且促进数据通信的数据模型 | |
| CN112836607A (zh) | 一种羊只产期预警的方法 | |
| CN116310644A (zh) | 一种基于归一化流网络和编码器的异常检测方法及设备 | |
| WO2023007825A1 (ja) | 異常検知装置、異常検知方法、及び異常検知プログラム | |
| CN115358914A (zh) | 用于视觉检测的数据处理方法、装置、计算机设备及介质 | |
| CN115660540A (zh) | 货物跟踪方法、装置、计算机设备和存储介质 | |
| CN114202095A (zh) | 关于经由制造过程制造的产品进行预测的系统和方法 | |
| US11263485B2 (en) | Transfer model training system and method | |
| Zabin et al. | Industrial Fault Diagnosis using Hilbert Transform and Texture Features | |
| CN112966038A (zh) | 从非结构化数据中提取结构化数据方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |