CN116415506A - 一种基于联邦学习的工业机器人故障诊断方法及系统 - Google Patents
一种基于联邦学习的工业机器人故障诊断方法及系统 Download PDFInfo
- Publication number
- CN116415506A CN116415506A CN202310500941.0A CN202310500941A CN116415506A CN 116415506 A CN116415506 A CN 116415506A CN 202310500941 A CN202310500941 A CN 202310500941A CN 116415506 A CN116415506 A CN 116415506A
- Authority
- CN
- China
- Prior art keywords
- data
- industrial robot
- server
- model
- fault diagnosis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003745 diagnosis Methods 0.000 title claims abstract description 77
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000012549 training Methods 0.000 claims abstract description 66
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 42
- 238000013528 artificial neural network Methods 0.000 claims abstract description 7
- 238000005520 cutting process Methods 0.000 claims abstract description 7
- 230000004927 fusion Effects 0.000 claims abstract description 7
- 238000004891 communication Methods 0.000 claims description 37
- 238000012545 processing Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 17
- 238000004220 aggregation Methods 0.000 claims description 15
- 230000002776 aggregation Effects 0.000 claims description 15
- 238000007637 random forest analysis Methods 0.000 claims description 15
- 238000012795 verification Methods 0.000 claims description 12
- 238000004140 cleaning Methods 0.000 claims description 9
- 238000013527 convolutional neural network Methods 0.000 claims description 8
- 230000002159 abnormal effect Effects 0.000 claims description 6
- 238000013480 data collection Methods 0.000 claims description 6
- 230000008034 disappearance Effects 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 6
- 238000004880 explosion Methods 0.000 claims description 6
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000010845 search algorithm Methods 0.000 claims description 6
- 238000012360 testing method Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 3
- 238000010801 machine learning Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/098—Distributed learning, e.g. federated learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Hardware Design (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Bioethics (AREA)
- Geometry (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Manipulator (AREA)
Abstract
本发明公开了一种基于联邦学习的工业机器人故障诊断方法及系统,属于联邦学习及信息安全技术领域,针对不同厂商工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;在不泄露数据隐私的情况下进行联邦学习训练,所有厂商工业机器人的本地故障诊断模型通过第三方聚合,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。本发明解决了多厂商工业机器人模型训练涉及的数据安全问题,提高了故障诊断的适应性和准确性。
Description
技术领域
本发明涉及联邦学习及信息安全技术领域,具体地说是一种基于联邦学习的工业机器人故障诊断方法及系统。
背景技术
工业机器人在工业应用中发挥着重要的作用,可以提高生产效率和产品质量。然而,由于工业机器人的复杂性和工作环境的严苛性,工业机器人常常会出现各种问题和故障。为了减少故障对生产的影响,提高工业机器人的可靠性,故障预测技术成为了很多企业和研究机构关注的焦点之一。现有的故障预测技术主要采用传统的机器学习方法或深度学习方法,但这些方法存在着数据隐私安全问题、数据集中问题、模型可解释性差等问题,对于工业机器人故障预测还存在一定的局限性。
发明内容
本发明的技术任务是针对以上不足之处,提供一种基于联邦学习的工业机器人故障诊断方法及系统,解决了多厂商工业机器人模型训练涉及的数据安全问题,提高了故障诊断的适应性和准确性,有效解决工业机器人故障诊断中单一厂商特征有限的难题。
本发明解决其技术问题所采用的技术方案是:
一种基于联邦学习的工业机器人故障诊断方法,针对不同厂商工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,所有厂商工业机器人的本地故障诊断模型通过第三方聚合,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
本方法使用基于改进一维卷积神经网络算法对工业机器人故障进行诊断,通过联邦学习,保证各机器人厂商数据在不泄露的前提下,对各厂商工业机器人的本地故障模型进行加权聚合,融合多厂商工业机器人故障特征,并通过不断迭代最终训练出可诊断不同品牌和型号工业机器人故障的全局诊断模型,提升故障诊断模型的泛化能力。
进一步的,所述本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、建立基于一维卷积神经网络(CNN-1D)和正交正则化(SRIP)相结合的工业机器人故障诊断模型(SPIPCNN-1D),使用正交初始化避免梯度爆炸/消失现象;
步骤106、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤107、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
进一步的,所述数据增强方法包括随机采样和Mixup数据增强;
随机采样算法:
1)、首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
2)、生成随机点1,选取[随机点1,L]为样本1;
3)、重复步骤2),直到生成n个样本;
4)、划分训练集、测试集、验证集;
Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
进一步的,所述联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数等;
步骤203、服务器对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
优选的,服务器采用Xavier方法对全局模型参数进行初始化。
本发明还要求保护一种基于联邦学习的工业机器人故障诊断系统,包括服务器和多个厂商工业机器人客户端,采用星形网络拓扑结构部署所述服务器和多个厂商工业机器人客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
所述多个厂商工业机器人客户端,针对工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商客户端在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,云服务器对所有厂商客户端工业机器人本地故障诊断模型进行模型参数的加权聚合,根据各方参数对全局模型参数进行调整,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
进一步的,所述厂商工业机器人客户端包括数据处理模块和模型训练模块,
数据处理模块,包括工业机器人原始数据采集,数据清洗、数据归一化处理,通过随机森林算法对数据进行特征选择,对选择出的特征数据进行数据增强处理;
模型训练模块,包括建立SPIPCNN-1D网络模型,模型参数正交初始化,反向传播对整个网络参数调优,网络搜索选取模型参数,迭代训练直至本地模型训练完成。
进一步的,本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商客户端根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、建立基于一维卷积神经网络(CNN-1D)和正交正则化(SRIP)相结合的工业机器人故障诊断模型(SPIPCNN-1D),使用正交初始化避免梯度爆炸/消失现象;
步骤106、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤107、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
进一步的,所述数据增强方法包括随机采样和Mixup数据增强;
随机采样算法:
1)、首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
2)、生成随机点1,选取[随机点1,L]为样本1;
3)、重复步骤2),直到生成n个样本;
4)、划分训练集、测试集、验证集;
Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
进一步的,联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数等;
步骤203、服务器对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
本发明的一种基于联邦学习的工业机器人故障诊断方法及系统与现有技术相比,具有以下有益效果:
首先,相对于传统的利用机器学习进行工业机器人故障诊断方法,基于联邦学习的工业机器人故障诊断有着更高的安全性和隐私性。在传统机器学习中,数据需要被中央服务器收集和处理,这暴露了大量的隐私信息。而联邦学习将数据存储在本地,只有模型通过交流才会共享,不会暴露机器人厂商数据隐私,因此更加安全可靠。
其次,联邦学习具有较高的效率。在传统的机器学习方法中,需要中央服务器传输大量的数据,这会极大地增加网络传输的负担。而联邦学习只有模型参数才会在联邦节点之间传输和聚合,因此网络传输的数据量较少,模型的训练速度也更快。这对于工业机器人故障预测这类对实时性要求较高的工业领域来说特别重要。
此外,联邦学习还兼顾了多样性与准确性的平衡。在传统的机器学习方法中,中央服务器无法获得全量的本地数据,因此在机器学习的数据方面,联邦学习比中央化训练具有更好的多样性。由于联邦学习的本地化训练不会丧失本地的数据差异性,这使得整个联邦学习过程具有更好的泛化能力。通过联邦学习的训练得到的工业机器人故障诊断模型,在不同的本地环境下具有更好的适应性和鲁棒性。
附图说明
图1是本发明一个实施例提供的工业机器人故障检测本地模型训练流程示图;
图2是本发明一个实施例提供的智能导盲拐杖结构原理示图。
具体实施方式
下面结合具体实施例对本发明作进一步说明。
本发明实施例提供了一种基于联邦学习的工业机器人故障诊断方法,针对不同厂商工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,所有厂商工业机器人的本地故障诊断模型通过第三方聚合,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
所述本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用基于Mixup的数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、所述基于Mixup的数据增强方法分为随机采样和Mixup两步;
步骤106、首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
步骤107、生成随机点1,选取[随机点1,L]为样本1;
步骤108、重复步骤107,直到生成n个样本;
步骤109、划分训练集、测试集、验证集;
步骤110、Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
步骤111、Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
步骤112、建立基于一维卷积神经网络(CNN-1D)和正交正则化(SRIP)相结合的工业机器人故障诊断模型(SPIPCNN-1D),使用正交初始化避免梯度爆炸/消失现象;
步骤113、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤114、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
所述联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数等;
步骤203、服务器采用Xavier方法对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
本方法使用基于改进一维卷积神经网络算法对工业机器人故障进行诊断,通过联邦学习,保证各机器人厂商数据在不泄露的前提下,对各厂商工业机器人的本地故障模型进行加权聚合,融合多厂商工业机器人故障特征,并通过不断迭代最终训练出可诊断不同品牌和型号工业机器人故障的全局诊断模型,提升故障诊断模型的泛化能力。相较于传统的工业机器人故障诊断方法,本方法解决了多厂商工业机器人模型训练涉及的数据安全问题,提高了故障诊断的适应性和准确性,为解决工业机器人故障诊断中单一厂商特征有限的难题提供了切实可行的思路。
本发明实施例还提供一种基于联邦学习的工业机器人故障诊断系统,包括服务器和多个厂商工业机器人客户端,采用星形网络拓扑结构部署所述服务器和多个厂商工业机器人客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
所述多个厂商工业机器人客户端,针对工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商客户端在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,云服务器对所有厂商客户端工业机器人本地故障诊断模型进行模型参数的加权聚合,根据各方参数对全局模型参数进行调整,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
参考图1所示,所述厂商工业机器人客户端包括数据处理模块和模型训练模块,
数据处理模块,包括工业机器人原始数据采集,数据清洗、数据归一化处理,通过随机森林算法对数据进行特征选择,对选择出的特征数据进行数据增强处理;
模型训练模块,包括建立SPIPCNN-1D网络模型,模型参数正交初始化,反向传播对整个网络参数调优,网络搜索选取模型参数,迭代训练直至本地模型训练完成。
本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商客户端根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用基于Mixup的数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、所述基于Mixup的数据增强方法分为随机采样和Mixup两步;
步骤106、随机采样算法,首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
步骤107、生成随机点1,选取[随机点1,L]为样本1;
步骤108、重复步骤107,直到生成n个样本;
步骤109、划分训练集、测试集、验证集;
步骤110、Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
步骤111、Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
步骤112、建立基于一维卷积神经网络(CNN-1D)和正交正则化(SRIP)相结合的工业机器人故障诊断模型(SPIPCNN-1D),使用正交初始化避免梯度爆炸/消失现象;
步骤113、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤114、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数等;
步骤203、服务器对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
通过上面具体实施方式,所述技术领域的技术人员可容易的实现本发明。但是应当理解,本发明并不限于上述的具体实施方式。在公开的实施方式的基础上,所述技术领域的技术人员可任意组合不同的技术特征,从而实现不同的技术方案。
除说明书所述的技术特征外,均为本专业技术人员的已知技术。
Claims (10)
1.一种基于联邦学习的工业机器人故障诊断方法,其特征在于,针对不同厂商工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,所有厂商工业机器人的本地故障诊断模型通过第三方聚合,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
2.根据权利要求1所述的一种基于联邦学习的工业机器人故障诊断方法,其特征在于,所述本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、建立基于一维卷积神经网络和正交正则化相结合的工业机器人故障诊断模型,使用正交初始化避免梯度爆炸/消失现象;
步骤106、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤107、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
3.根据权利要求2所述的一种基于联邦学习的工业机器人故障诊断方法,其特征在于,所述数据增强方法包括随机采样和Mixup数据增强;
随机采样算法:
1)、首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
2)、生成随机点1,选取[随机点1,L]为样本1;
3)、重复步骤2),直到生成n个样本;
4)、划分训练集、测试集、验证集;
Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
4.根据权利要求1或2或3所述的一种基于联邦学习的工业机器人故障诊断方法,其特征在于,所述联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数;
步骤203、服务器对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
5.根据权利要求4所述的一种基于联邦学习的工业机器人故障诊断方法,其特征在于,服务器采用Xavier方法对全局模型参数进行初始化。
6.一种基于联邦学习的工业机器人故障诊断系统,其特征在于,包括服务器和多个厂商工业机器人客户端,采用星形网络拓扑结构部署服务器和多个客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
所述多个厂商工业机器人客户端,针对工业机器人的振动信号,在本地使用多尺度卷积融合算法提取不同尺度下的故障特征并融合,各厂商客户端在本地使用处理后的特征变量通过基于一维卷积神经网络和正则化相结合的方法训练工业机器人本地故障诊断模型;
在不泄露数据隐私的情况下进行联邦学习训练,云服务器对所有厂商客户端工业机器人本地故障诊断模型进行模型参数的加权聚合,根据各方参数对全局模型参数进行调整,使用自适应梯度剪裁策略和高斯噪声差分隐私算法更新全局模型参数,最终实现多方联合训练工业机器人全局故障诊断模型。
7.根据权利要求6所述的一种基于联邦学习的工业机器人故障诊断系统,其特征在于,所述厂商工业机器人客户端包括数据处理模块和模型训练模块,
数据处理模块,包括工业机器人原始数据采集,数据清洗、数据归一化处理,通过随机森林算法对数据进行特征选择,对选择出的特征数据进行数据增强处理;
模型训练模块,包括建立SPIPCNN-1D网络模型,模型参数正交初始化,反向传播对整个网络参数调优,网络搜索选取模型参数,迭代训练直至本地模型训练完成。
8.根据权利要求6或7所述的一种基于联邦学习的工业机器人故障诊断系统,其特征在于,本地故障诊断模型的训练,包括以下步骤:
步骤101、各厂商客户端根据工业机器人的不同品牌和型号,收集机器人各种运行状态下的数据,数据包括机器人各个关节的传感器数据和相关的运行日志;
步骤102、数据收集后,进行清洗和预处理:首先对数据进行去噪处理,排除因传感器误差或异常运行出现的噪声干扰,然后对数据进行归一化处理,使得各个参数之间具有可比性,并缩小数据范围;
步骤103、利用随机森林算法对数据特征进行重要性排序,选择与故障相关的重要性特征,排除相关性不高的特征,实现数据的降维;
步骤104、对随机森林算法选择出的重要性数据特征使用数据增强方法对数据进行处理,构建虚拟训练样本,提升模型的泛化能力;
步骤105、建立基于一维卷积神经网络和正交正则化相结合的工业机器人故障诊断模型,使用正交初始化避免梯度爆炸/消失现象;
步骤106、使用网格搜索算法优化模型的超参数,采用Softmax分类器实现对目标类别的分类输出;
步骤107、将验证数据输入训练好的模型,验证机器人故障诊断模型效果。
9.根据权利要求8所述的一种基于联邦学习的工业机器人故障诊断系统,其特征在于,所述数据增强方法包括随机采样和Mixup数据增强;
随机采样算法:
1)、首先输入要生成的样本个数n,范围在(1,M-L)M为原始序列采样点数量,L为样本长度;
2)、生成随机点1,选取[随机点1,L]为样本1;
3)、重复步骤2),直到生成n个样本;
4)、划分训练集、测试集、验证集;
Mixup数据增强方法可表示为:
其中,(xi,yi)和(xj,yj)是训练集中任意抽取的两个样本;λ为混合系数,λ∈[0,1];λ:Beat(α,α),α∈(0,∞);
Mixup通过混合特征向量及其对应的标签实现线性差值,可通过超参数α的值来控制特征向量和标签的插值强度。
10.根据权利要求8所述的一种基于联邦学习的工业机器人故障诊断系统,其特征在于,联邦学习训练,包括以下步骤:
步骤201、采用星形网络拓扑结构部署服务器和客户端,服务器作为中心节点,各客户端作为边缘节点,服务器和客户端之间可进行双向通信,各客户端之间无通信;客户端代表具有不同数据资源的工业机器人厂商,服务器为云服务器;
步骤202、各客户端在本地部署工业机器人故障诊断模型,在服务器设置联邦学习中模型参数的聚合算法、通信轮数;
步骤203、服务器对全局模型参数进行初始化,在之后的每轮通信中服务器会将本轮全局模型参数向各客户端广播;
步骤204、客户端将步骤203得到的参数作为本轮局部模型训练的初始参数,并结合本地私有数据进行训练;
步骤205、客户端训练完成后向服务器上传局部模型参数更新,服务器将来自客户端的参数更新聚合后进行梯度裁剪,并添加高斯噪声得到新的全局模型参数;
步骤206、服务器进行模型参数的加权聚合,根据各方参数对全局模型参数进行适时调整,完成后将全局模型参数返回给各工业机器人厂商;
步骤207、重复步骤204-步骤206,直至达到指定通信轮数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310500941.0A CN116415506A (zh) | 2023-04-28 | 2023-04-28 | 一种基于联邦学习的工业机器人故障诊断方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310500941.0A CN116415506A (zh) | 2023-04-28 | 2023-04-28 | 一种基于联邦学习的工业机器人故障诊断方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116415506A true CN116415506A (zh) | 2023-07-11 |
Family
ID=87049479
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310500941.0A Pending CN116415506A (zh) | 2023-04-28 | 2023-04-28 | 一种基于联邦学习的工业机器人故障诊断方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116415506A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116738344A (zh) * | 2023-08-14 | 2023-09-12 | 北京奔驰汽车有限公司 | 一种基于物联网大数据的工业机器人故障预测方法及装置 |
CN117674303A (zh) * | 2024-02-02 | 2024-03-08 | 华北电力大学 | 一种基于数据价值阈值的虚拟电厂并行控制方法 |
CN117875455A (zh) * | 2024-03-08 | 2024-04-12 | 南京信息工程大学 | 一种基于数据增强的联邦学习数据投毒防御方法 |
CN117938691A (zh) * | 2024-03-25 | 2024-04-26 | 山东科技大学 | 一种工业物联网故障的诊断方法、系统、设备和存储介质 |
CN118035061A (zh) * | 2024-04-12 | 2024-05-14 | 四川华鲲振宇智能科技有限责任公司 | 基于深度学习的服务器故障预测及自动处理方法及系统 |
-
2023
- 2023-04-28 CN CN202310500941.0A patent/CN116415506A/zh active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116738344A (zh) * | 2023-08-14 | 2023-09-12 | 北京奔驰汽车有限公司 | 一种基于物联网大数据的工业机器人故障预测方法及装置 |
CN116738344B (zh) * | 2023-08-14 | 2023-10-31 | 北京奔驰汽车有限公司 | 一种基于物联网大数据的工业机器人故障预测方法及装置 |
CN117674303A (zh) * | 2024-02-02 | 2024-03-08 | 华北电力大学 | 一种基于数据价值阈值的虚拟电厂并行控制方法 |
CN117674303B (zh) * | 2024-02-02 | 2024-05-14 | 华北电力大学 | 一种基于数据价值阈值的虚拟电厂并行控制方法 |
CN117875455A (zh) * | 2024-03-08 | 2024-04-12 | 南京信息工程大学 | 一种基于数据增强的联邦学习数据投毒防御方法 |
CN117938691A (zh) * | 2024-03-25 | 2024-04-26 | 山东科技大学 | 一种工业物联网故障的诊断方法、系统、设备和存储介质 |
CN117938691B (zh) * | 2024-03-25 | 2024-05-31 | 山东科技大学 | 一种工业物联网故障的诊断方法、系统、设备和存储介质 |
CN118035061A (zh) * | 2024-04-12 | 2024-05-14 | 四川华鲲振宇智能科技有限责任公司 | 基于深度学习的服务器故障预测及自动处理方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116415506A (zh) | 一种基于联邦学习的工业机器人故障诊断方法及系统 | |
CN111898634B (zh) | 一种基于深度对抗域自适应的智能故障诊断方法 | |
CN110361176B (zh) | 一种基于多任务特征共享神经网络的智能故障诊断方法 | |
Liu et al. | Data synthesis using deep feature enhanced generative adversarial networks for rolling bearing imbalanced fault diagnosis | |
Surendran et al. | Deep learning based intelligent industrial fault diagnosis model. | |
CN109580215B (zh) | 一种基于深度生成对抗网络的风电传动系统故障诊断方法 | |
CN109655259A (zh) | 基于深度解耦卷积神经网络的复合故障诊断方法及装置 | |
CN111678696A (zh) | 基于联邦学习的机械智能故障诊断方法 | |
Yin et al. | Wasserstein Generative Adversarial Network and Convolutional Neural Network (WG‐CNN) for Bearing Fault Diagnosis | |
CN111680788B (zh) | 基于深度学习的设备故障诊断方法 | |
CN115560983A (zh) | 一种基于联邦特征迁移学习的不同工况下滚动轴承故障诊断方法及系统 | |
CN118133203A (zh) | 一种电能计量检测信息故障诊断方法 | |
CN113076920A (zh) | 一种基于非对称域对抗自适应模型的智能故障诊断方法 | |
CN114492534B (zh) | 一种跨尺寸电机轴承故障诊断模型的构建方法及应用 | |
CN113705407A (zh) | 基于时频残差神经网络的变转速下轴裂纹的故障诊断方法 | |
CN116595467A (zh) | 一种基于动态加权图卷积的异常用户检测方法及存储介质 | |
CN113343123A (zh) | 一种生成对抗多关系图网络的训练方法和检测方法 | |
CN115356599B (zh) | 一种多模态城市电网故障诊断方法及系统 | |
CN116244640A (zh) | 一种基于联邦学习的非平衡轴承故障诊断方法及系统 | |
Zhang et al. | Using bidirectional GAN with improved training architecture for imbalanced tasks | |
Chen et al. | An Anomaly Detection Scheme with K-means aided Extended Isolation Forest in RSS-based Wireless Positioning System | |
CN114140736A (zh) | 一种基于高低频重建的图像异常检测方法 | |
Liu et al. | A robustness-oriented data augmentation method for dnn | |
Chen et al. | Analog Circuit Fault Diagnosis Based on DE OS-ELM | |
Son et al. | Tutorial on Course-of-Action (COA) Attack Search Methods in Computer Networks |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |