CN117435997B - 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 - Google Patents
一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 Download PDFInfo
- Publication number
- CN117435997B CN117435997B CN202311756481.4A CN202311756481A CN117435997B CN 117435997 B CN117435997 B CN 117435997B CN 202311756481 A CN202311756481 A CN 202311756481A CN 117435997 B CN117435997 B CN 117435997B
- Authority
- CN
- China
- Prior art keywords
- time sequence
- features
- elevator
- vector
- layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012423 maintenance Methods 0.000 title claims abstract description 83
- 238000000034 method Methods 0.000 title claims abstract description 57
- 238000007906 compression Methods 0.000 title claims abstract description 52
- 230000006835 compression Effects 0.000 title claims abstract description 52
- 230000007246 mechanism Effects 0.000 title claims abstract description 40
- 239000013598 vector Substances 0.000 claims abstract description 93
- 238000011176 pooling Methods 0.000 claims abstract description 24
- 238000012545 processing Methods 0.000 claims abstract description 22
- 238000012549 training Methods 0.000 claims abstract description 22
- 238000009826 distribution Methods 0.000 claims abstract description 14
- 238000005311 autocorrelation function Methods 0.000 claims abstract description 13
- 238000004140 cleaning Methods 0.000 claims abstract description 12
- 230000006870 function Effects 0.000 claims description 47
- 238000004364 calculation method Methods 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 27
- 230000009466 transformation Effects 0.000 claims description 17
- 230000003068 static effect Effects 0.000 claims description 16
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 241000282326 Felis catus Species 0.000 claims description 12
- 238000007781 pre-processing Methods 0.000 claims description 11
- 230000009467 reduction Effects 0.000 claims description 10
- 239000011159 matrix material Substances 0.000 claims description 9
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 8
- 238000011156 evaluation Methods 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 5
- 238000010606 normalization Methods 0.000 claims description 5
- 238000012805 post-processing Methods 0.000 claims description 4
- 238000012216 screening Methods 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 abstract description 2
- 238000013507 mapping Methods 0.000 abstract description 2
- 238000005457 optimization Methods 0.000 abstract description 2
- 230000002596 correlated effect Effects 0.000 abstract 1
- 230000000875 corresponding effect Effects 0.000 abstract 1
- 238000013499 data model Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 230000002159 abnormal effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000004913 activation Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 230000007774 longterm Effects 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000007405 data analysis Methods 0.000 description 3
- 238000004821 distillation Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 238000007620 mathematical function Methods 0.000 description 3
- 238000003062 neural network model Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 239000012141 concentrate Substances 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000001944 continuous distillation Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/0006—Monitoring devices or performance analysers
- B66B5/0018—Devices monitoring the operating condition of the elevator system
- B66B5/0031—Devices monitoring the operating condition of the elevator system for safety reasons
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/0006—Monitoring devices or performance analysers
- B66B5/0018—Devices monitoring the operating condition of the elevator system
- B66B5/0025—Devices monitoring the operating condition of the elevator system for maintenance or repair
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/0087—Devices facilitating maintenance, repair or inspection tasks
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B66—HOISTING; LIFTING; HAULING
- B66B—ELEVATORS; ESCALATORS OR MOVING WALKWAYS
- B66B5/00—Applications of checking, fault-correcting, or safety devices in elevators
- B66B5/02—Applications of checking, fault-correcting, or safety devices in elevators responsive to abnormal operating conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/30—Post-processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2123/00—Data types
- G06F2123/02—Data types in the time domain, e.g. time-series data
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Indicating And Signalling Devices For Elevators (AREA)
Abstract
本发明提供的一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,其先采集物联网电梯的原始数据,将原始数据清洗后转换为多模态时序特征;采用偏自相关函数分析特征间的相关性,并选取与电梯故障高度相关的特征,将特征与对应的PACF值经过嵌入层处理和拼接,形成综合向量特征;对综合向量特征进行相对位置编码后,输入到Transformer模型中,在模型中,采用自注意力机制对综合向量特征进行提取和交叉,同时采用卷积池化层进行时序压缩操作以减少数据复杂度;通过全连接层将压缩后的特征映射为预测结果;模型训练时,通过优化算法进行调整提高性能;预测维保需求时,根据故障类型和概率分布,通过多层卷积块细化预测结果,生成具体的维保需求。
Description
技术领域
本发明涉及电梯故障预警技术,尤其涉及一种基于Transformer和时序压缩机制的电梯预警及按需维保方法。
背景技术
电梯作为高层建筑不可或缺的垂直运输设施,随着城市化进程的加速,人们对电梯的服务质量有了更高的要求,而安全性和可靠性则逐渐成为人们高度重视的问题。生活中,电梯卡人,故障停止、不正常的运行等问题频繁出现,给人们的生命、财产安全带来了极大的困扰。 随着时代发展国家出台了一系列对电梯安全方面的规整和政策,以增加电梯的安全性和可靠性,保证人们日常使用的安全。
随着人工智能和大数据技术的发展,人工智能和大数据技术逐渐在电梯行业得以体现,电梯与人工智能和大数据技术融合后,可以看出电梯的安全性和可靠性上得到了进一步的提升,为保证安全,使用过程中还需对电梯定期维护和检查,以避免出现电梯事故。然而传统的电梯维护大多依靠人工定期检查和固定周期维护的方式,虽然在一定程度上保障了电梯的安全运行,但仍然存在以下弊端:1、电梯的维保标准不一,维保人员的专业素质参差不齐,不能确保所有的维保人员均按照规定正确的对电梯进行维保,且电梯的维保需求参差不齐,维保人员只能按照规定维保标准对电梯进行维护保养,很大程度上增加了维保人员的工作量,降低了维保效率;2、一些通过远程对电梯维保的方式,电梯故障时获取的是电梯的静态数据,而这些静态数据不能把电梯的所有故障问题体现出来因为导致不能准确的判断电梯的故障状态,同时在电梯故障时产生的样本数据较少,获取数据不均匀,而导致数据不平稳的问题,因此,当前的电梯维保系统和预警预测系统难以适应电梯使用状况的多样性和故障的不确定性。
发明内容
本发明为了克服现有技术的不足,提供一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,该方法利用Transformer模型的强大处理能力,结合物联网技术收集的电梯数据,能够有效地分析和预测电梯的维保需求,为电梯维保提供科学、合理的数据支持。通过这种方式,可以实现从反应性维护到预测性维护的转变,大大提高电梯运行的安全性和可靠性。
为了实现上述目的,本发明提供了一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,具体步骤包括:
S1:采集物联网电梯的数据作为风险预警的原始数据,存储于数据库中;
S2:对采集的原始数据进行清洗,生成多模态时序特征,多模态时序特征包括:密集特征、稀疏特征和静态特征;
S3:对生成的多模态时序特征进行预处理,对预处理多模态时序特征采用偏自相关函数进行相关性计算;根据计算结果,筛选多模态时序特征;
S4:将预处理后的多模态时序特征与对应的偏自相关函数值进行拼接,形成一个包含特征相关性的综合向量特征;
S5:对综合向量特征通过相对位置编码层进行位置编码;
S6:将拼接和位置编码后的综合向量特征按照输入维度输入至多模态Transformer模型的块中,采用自注意力机制对输入的时序特征进行线性变换生成时序表示,捕捉序列中不同位置间的依赖关系,根据时序表示计算注意力权重,基于计算权重采用softmax函数对输入时序特征进行归一化处理;通过自注意力机制对综合向量特征进行提取和交叉;采用卷积池化操作对提取出的综合向量特征进行自时序压缩;
S7:将经自时序压缩后的综合向量特征通过全连接层进行降维,输出对应的故障类型,故障类型通过softmax函数转换后获得故障概率的分布,所述故障概率与全连接层相乘获得预警结果;
S8:对多模态Transformer 模型进行训练,调整多模态Transforme模型的参数,采用损失函数和Adam优化器,结合验证集评估模型性能,根据评估结果对模型结构或训练过程进行调整;
S9:采用自定义的多层卷积块对预测的故障类型和故障概率的分布数据进行后处理,以提取具体的维保需求。
优选的,步骤S1中风险预警的原始数据包括:电梯基础信息、故障信息、天气气温信息、维保信息。
优选的,步骤S3中,偏自相关函数进行相关性计算的公式为:
其中,Corr是相关性,Yt是在时间点 t的观察值,k 是滞后期数;
优选的,步骤S3中,对多模态时序特征进行预处理时,将静态特征和密集特征通过嵌入层转换为密集特征,将转换后的密集特征和数据清洗后生成的密集特征,进行拼接;其转换公式为:
x1=embedding(Xsparse)
x2=embedding(Xstatic)
x3=WXdense+b
F=cat(x1,x2,x3)
其中,x1是静态特征转换为密集特征的向量,x2是稀疏特征转换为密集特征的向量,x3是密集特征提取的向量,Xdense为密集特征,Xsparse,Xstatic为需要转换的one-hot编码特征,W为全连接层,F为得到的综合向量,b为偏置参数 ,Xdense通过全连接层W提取特征,进行cat拼接操作,embedding为转换函数。
优选的,步骤S4中的拼接公式为:
PACF=conv(PACF(k))
Xinput=cat(F,PACF)
其中,PACF为conv卷积函数计算得到的各时序关系的相关性,K为输入的特征信息,Xinput为经过cat拼接操作后获得的综合向量,作为步骤S5的输入。
优选的,步骤S5中,进行位置编码的具体步骤包括:
S5.1:定义一个位置编码函数,位置编码函数根据元素在时序序列中的位置生成唯一的位置编码;
S5.2:通过位置编码函数生成每个时序序列位置对应的位置编码;
S5.3:将生成的位置编码与时序序列中对应位置的特征向量相结合。
优选的,步骤S6中,自注意力机制和时序压缩的具体实现步骤包括:
S6.1:对输入的时序序列采用自注意力机制来捕获不同序列位置间的依赖关系;将输入的时序序列经过线性变换后获取查询、键和值:具体计算公式如下:
其中,X为拼接后的输入特征,Q为通过线性变换矩阵WQ转换得到的查询向量,K为通过线性变换矩阵WK转换得到的键向量,V为通过线性变换矩阵Wv转换得到的值向量;
S6.2:计算注意力权重,并应用到值中;注意力权重的计
算公式为:
其中,Softmax为归一化权重函数,Q为查询向量,KT为键向量,V为值向量,dk是键向量的维度;
优选的,自注意力机制的和时序压缩的具体实现步骤还包括:
S6.3:将每个注意力块的权重传递到卷积池化层进行时序压缩操作,其进行序压缩操作的公式为:
其中,Distilled为时序压缩操作,Conv1d为一维卷积操作,MaxPool为最大池化操作;
S6.4:将时序压缩操作的输出作为下一自注意力块的输入,反复迭代直至输入最后一个自注意力块,其实现公式为:
其中,Outputnext为下一个自注意力块的输入,是时序压缩操作Distilled的输出,
AttentionBlock表示注意力块,为时序压缩操作。
优选的,步骤S9中,自定义的多层卷积块包括:两层卷积层和一层全连接层。
优选的,多层卷积块提取具体维保需求的步骤包括:
S9.1:通过第一层卷积层初步提取电梯故障类型和故障概率的特征;
S9.2:将提取的特征通过最大池化层进行降维;
S9.3:提取第二层卷积层的电梯故障和故障概率的特征;
S9.4:通过平坦化层将第一卷积层和第二卷积层提取的特征转换成一维数组,在全连阶层对转换生成的一维数组进行整合;
S9.5:输出层基于整合的特征预测每个电梯的维保周期。
本发明提供的一种基于Transformer和时序压缩机制的电梯预警及按需维保方法的有益效果在于,其通过采集物联网电梯多方面原始数据,为模型训练和预测维保需求提供了数据支持及保障。原始数据获取后,对原始数据进行清洗,生成多模态时序特征,清洗时通过去除异常数据、填补缺失值和统一格式化处理,确保了数据质量,为数据分析和决策支持提供了可靠基础。生成的多模态时序特征通过偏自相关函数(PACF)来评估多模态时序特征之间的相关性,使得Transformer模型能够识别和理解各特征间的时间序列相关性,简化了模型,减少了不必要的计算负担,同时还提高了模型训练的效率和最终预测的准确性。获取多模态时序特征的PACF值后,将多模态时序特征与对应的PACF值进行拼接,形成综合向量特征,有效地融合了不同数据维度,降低模型复杂性,增加了模型决策过程的解释性。综合向量特征在输入Transformer模型前需进行相对位置编码,使得相同特征在不同位置的变体被区分开,帮助模型更准确地识别和处理序列数据中的局部模式和长期依赖关系。对进行拼接和位置编码的综合向量特征,采用自注意力机制进行特征提取和交叉,同时使用卷积池化层进行时序压缩操作以减少数据复杂度;进行时序压缩操作时,通过在Attention Block(自注意力块)之间加入卷积和池化操作,实现了对特征的降采样处理,有效地解决了传统深度学习模型处理长输入序列时面临的限制问题,提高了模型处理长时间序列数据的能力。综合向量特征经过卷积、池化操作后,提取的特征通过全连接层进行降维处理,生成对应的故障类型,故障类型通过softmax函数转换为故障类型的概率分布,使得模型能够输出一个量化的、概率性的预测结果,从而为电梯故障的可能类型提供了一种直观且可解释的表示。在模型训练过程中,采用Class Balanced Loss损失函数计算损失度,通过Adam优化器更新Transformer模型的参数,减小损失度,提高模型的预测性能。在模型预测维保需求过程中,根据故障类型及其对应的概率分布,采用自定义的卷积块生成最终的维保需求,有效提高了模型故障预测的准确性和实用性。
附图说明
图1为本发明提供的一种基于多模态Transformer的电梯风险预警及按需维保方法的流程图;
图2为本发明实施例中物联网电梯的原始数据表格类别示意图;
图3为本发明实施例提供的原始数据包括的主要异常类型信息示意图;
图4为本发明实施例提供的数据清洗流程示意图;
图5为本发明实施例提供的电梯风险预警大数据模型系统结构图;
图6为本发明实施例提供的多模态Transformer模块的示意图;
图7为本发明实施例提供的自注意力机制的示意图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
如图1所示,本发明提供了一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,具体步骤包括:
S1:采集物联网电梯的数据作为风险预警的原始数据,存储于数据库中;
S2:对采集到的原始数据进行清洗,生成多模态时序特征,多模态时序特征包括:密集特征、稀疏特征和静态特征;
S3:对生成的多模态时序特征进行预处理,对预处理多模态时序特征采用偏自相关函数进行相关性计算;根据计算结果,筛选多模态时序特征;
S4:将预处理后的多模态时序特征与对应的偏自相关函数值进行拼接,形成一个包含特征相关性的综合特征向量特征;
S5:对综合向量特征通过相对位置编码层进行位置编码;
S6:将拼接和进行位置编码后的综合特征向量特征按照输入维度输入至多模态Transformer 模型的块中,采用自注意力机制对输入的时序特征进行线性变换生成时序表示,捕捉序列中不同位置间的依赖关系,根据时序表示计算注意力权重,基于计算权重采用softmax函数对输入时序特征进行归一化处理;根据自注意力机制对综合向量特征进行提取和交叉;通过卷积池化操作对提取出的综合向量特征进行自时序压缩操作;
S7:将经自时序压缩后的综合向量特征通过全连接层进行降维,输出对应的故障类型,故障类型通过softmax函数转换后获得故障概率的分布,所述故障概率与全连接层相乘获得预警结果;
S8:对多模态Transformer 模型进行训练,调整多模态Transformer 模型的参数进行调整,采用损失函数和Adam优化器,结合验证集评估模型性能,根据评估结果对模型结构或筠连过程进行调整;
S9:采用自定义的多层卷积块对预测的故障类型和故障概率的分布数据进行后处理,以提取具体的维保需求。
具体的,本发明提供的一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,运用于电梯风险预警大数据模型系统中,本发明是基于时间序列对数据库中的物联网电梯数据进行提取,同时采用多模态Transformer模型进行数据训练、融合,采用时序压缩机制进行数据分析,以实现对物联网电梯故障的预测和评估,且基于评估结果提炼出电梯对应的维保需求。维保公司根据维保需求制定专属的维保方案对电梯进行维修,节约了维保时间、也减少了电梯维保的工作量。
如图2所示,于步骤S1中,通过电梯风险预警大数据模型系统采集物联网电梯的数据作为原始数据,存储于数据库中。其中,风险预警的原始数据包括:电梯基础信息、故障信息、天气气温信息、维保信息。
如表1所示,为本发明实施例提供的电梯基础信息表的具体内容信息。电梯基础信息包含了电梯的重要属性,如制造日期、型号、位置等,为了解电梯的基本状况提供了基础数据。故障信息则详细记录了电梯的设备代码、故障发生时间、维修到达时间、维修花费时间和故障类型等。
表1
如表2所示,为本发明实施例提供的电梯故障记录表的具体内容信息。故障信息在多模态Transformer模型中可用于故障类型预测、时间特征分析、故障统计和维修效果评估,从而提升预测准确性和维修决策效果。
表2
如表3所示,为本发明实施例提供的故障类型表的具体内容信息。电梯的故障类型有五种故障分类,分别是:困人、开门运行、开关门、超速、其他。
表3
如表4所示,本发明实施例提供的天气气温表的具体内容信息,天气气温表收集了与电梯位置相对应的历史天气数据,如温度、天气状况等,根据收集的气温数据,有助于分析天气条件对电梯性能的影响。
表4
如表5所示,本发明实施例提供的维保信息表的具体内容信息。维保信息表包含了电梯的维保信息。具体包括:电梯的注册代码、维保时间、维保单位、维保人数、维保类型、未通过部件代码和上传时间等信息。上述维保信息对于电梯的维保记录和管理非常重要,可以帮助监测电梯的维保情况、识别维保问题和追踪维保历史,提高维保效率。
表5
于步骤S1中,通过对大量的数据采集和分析,电梯风险预警大数据模型系统从不同的信息表中提取关键特征,形成一个综合的时间序列数据集,该数据集包括了电梯的基本信息和故障历史,还结合了外部环境因素,如天气条件,使得数据更为全面。这些整合后的数据被用来进行训练机器学习的模型,以实现对电梯故障的准确预测。模型通过分析电梯的运行状况、历史故障模式和外部环境因素之间的关系,能够预测未来可能发生的故障类型和时间。这不仅提高了维护效率,减少了意外故障发生,也为电梯的长期健康运行提供了重要的数据支持。
如图3所示,于步骤S2中,物联网电梯的原始数据上传之后,对原始数据进行清洗,本实施例中,数据清洗主要针对四种异常数据类型进行清洗,四种异常数据类型包括:错误值、异常值、重复数据和缺失值。其中,错误值是指数据集中出现的数值、格式、类型等错误数据,这些错误值可能由于上传信息时的缺失、错误输入或类型、格式不匹配等原因造成。要有效地识别错误值,需要结合对业务的深入理解以及多种数据源之间的互相对照。而修正错误值则需要明确错误产生的原因,这要求对业务及数据有深入的理解。异常值是指显著偏离多数样本的数据点。对于异常值的处理方式包括:视其为空值并在后期处理中填补、盖帽法(即,将异常值重新设定为数据的边界值)。重复数据是指数据集中相同的记录重复出现,可采用识别和删除重复记录的方式来处理。缺失值则是指数据集中未填写的数值。对于缺失值的处理,采用对比其他数据源来填补空值;如果缺失量不大,则可以采用填补中位数或均值的方法来处理。
本实施例中,结合步骤S1、S2,本发明在数据处理方面结合了内部数据关联和外部数据源的优势,有效地解决了物联网电梯数据的完整性和准确性问题,为电梯故障预测提供了可靠的数据支持。
如图4所示,本发明对数据清洗的步骤包括:
S2.1:对原始数据中的缺失值进行填补,通过补全或删除缺失的信息以确保数据完整性;
S2.2:对原始数据中异常值进行是被和修改,如不符合逻辑或范围的值。
S2.3:将所有数据的格式调整为统一的格式,修正数据表示的一致性和标准化问题;
S2.4:将所有数据进行数值化处理,将非数值数据转换为数值数据,以便于进行后续的分析和处理,生成最终的规范化数据集。
通过上述步骤对数据进行清洗,确保了数据质量,为后续数据分析和决策支持提供了可靠基础,原始数据经过上述步骤清洗后,生成多模态时序特征,其中,多模态时序特征包括:密集特征、稀疏特征和静态特征。
如表6所示,为本发明实施例提供的模型故障报错数据采样表。在处理原始数据过程中,电梯风险预警大数据模型系统将一天内同一故障类型的多次报警统计为一次报警,并将当天的报警次数转化为新的特征输入到Transformer模型中进行数据训练。通过该方式,使得Transformer模型的输入数据得到优化,提高了故障预测的准确性和效率。
于步骤S3中,电梯风险预警大数据模型系统对生成的多模态时序特征进行预处理,而后将预处理的多模态时序特征采用偏自相关函数(PACF)进行相关性计算。本实施例中,采用嵌入层embedding对多模态时序特征进行预处理,具体的,将静态特征和密集特征通过嵌入层转换为密集特征,提取转换后的密集特征和数据清洗后生成的密集特征,进行拼接;其转换公式为:
x1=embedding(Xsparse)
x2=embedding(Xstatic)
x3=WXdense+b
F=cat(x1,x2,x3)
其中,x1是静态特征经过转换后生成的密集特征向量,x2是稀疏特征转换为密集特征的向量,x3是密集特征提取的向量,Xdense为密集特征,Xsparse,Xstatic为需要转换的one-hot编码特征,W为全连接层,F为得到的综合向量,b为偏置参数 ,Xdense通过全连接层W提取特征,进行cat拼接操作,embedding为转换函数。
于该步骤中,密集特征可以直接利用时间序列数据进行 PACF 相关性计算,因此将静态特征和密集特征更有利于相关性计算。预处理过程中,因静态特征不会随时间变化,因此在时间序列的 PACF相关性计算中没有直接的影响。在这种情况下,可以将静态特征视为常数项或常量,而不考虑其在 PACF 计算中的影响。因此在预处理过程中,主要是将稀疏特征Xsparse转换成与密集特征Xdense,转换后二者具有相同维度的表示形式。通过one-hot编码的稀疏数据被转化为连续的、更小维度的向量,而这些向量在模型中可以学习到更多的语义信息。预处理结束后,采用偏自相关函数(PACF)来评估密集特征sdense、稀疏特征sparse在各个时间延迟下的直接关联性。考虑到时间序列的滞后效应,计算时,为每个滞后时间点计算时序特征之间的直接相关性,同时控制或排除其他滞后时间点的影响。偏自相关函数PACF(k)多模态时序特征进行相关性计算的公式为:
其中,Corr 为相关性,Yt为在时间点 t的观察值,k 为滞后期数。
通过计算每对时序特征间的PACF值,PACF值表明在这两个时序特征在该滞后时间点上是否有显著的直接关联性;如认为这两个特征之间的直接关联性是微弱的,应从Transformer模型中排除。通过这种方式,电梯风险预警大数据模型系统能够选择与目标变量具有明显相关性的特征,并消除可能因间接关系而误认为重要的特征。这种方法简化了Transformer模型,减少了不必要的计算负担,同时提高了Transformer模型训练的效率和最终预测的准确性。根据多模态时序特征的计算结果,筛选出与电梯故障高度相关的特征输出。
于步骤S4中,将预处理后的密集特征、稀疏特征和静态特征进行拼接,并将拼接好的特征和对应的PACF值进行拼接,形成一个包含特征相关性的综合特征向量,该过程采用如下公式完成拼接过程:
PACF=conv(PACF(k))
Xinput=cat(F,FPACF)
其中,PACF为conv卷积函数计算得到的各时序关系的相关性,K为输入的特征信息,Xinput为经过cat拼接操作后获得的综合向量,作为步骤S5的输入。该方法有效地融合了不同数据维度,通过保留具有较高PACF值的时序特征,,Transformer模型可以专注于那些在考虑其他滞后影响后依然重要的关系,降低了Transformer模型复杂性,使得Transformer模型能够专注于关键特征,处理复杂数据结构,增强了Transformer模型对时间序列依赖性的理解。这种整合不仅促进了时序特征的选择和降维,提升了Transformer模型预测的准确性,还增加了模型决策过程的解释性。
于步骤S5中,在多模态时序特征输入Transformer模型前,对多模态时序特征进行相对位置编码,以更准确地捕捉序列中元素之间的相对距离和方向,从而更有效地处理时序信息。这种编码方式有助于模型更好地理解序列中的局部模式和长期依赖关系,使得序列性就不会丢失,更有时间序列的特征。本实施例中,进行位置编码的具体步骤包括:
S5.1:定义一个位置编码函数,位置编码函数根据元素在时序序列中的位置生成唯一的位置编码;
具体的,采用如正弦和余弦函数等数学函数生成位置编码的向量,以确保每个元素位置都有一个独特且可区分的表示。本实施例中,进行位置编码的方式包括但不限于正弦和余弦函数等数学函数,还可以是其他能够实现位置编码的方式。正弦和余弦函数等数学函数生成位置编码的向量的公式为:
其中,PE为位置编码,pos为位置,i为维度索引,dmodel为模型的维度。这些位置向量独立于数据内容,仅代表序列中元素的位置。此外,这些位置向量被添加到序列中每个元素的特征向量上。
S5.2:通过位置编码函数生成每个时序序列的位置pos对应的位置编码;
该步骤使得每个位置都将有一个唯一的位置编码,这个编码不仅反映了该位置的绝对位置信息,还包含了与其他位置的相对位置信息。
S5.3:将生成的位置编码与时序序列中对应位置的特征向量相结合。
具体的,该结合过程,可采用加减法来完成。结合后的向量可表示为:
其中,是结合位置编码后的新特征向量,是原始特征向量,
位置编码向量。
于步骤S5来说,该步骤的核心在于,将位置信息融合到每个元素的特征中,使Transformer模型不仅能够理解每个元素自身的信息,还能识别其在序列中的位置。这种融合使得相同特征在不同位置的变体被区分开,帮助Transformer模型更准确地识别和处理序列数据中的局部模式和长期依赖关系(各数据之间的位置关系)。Transformer模型通过这些特征不仅学习到每个元素独立的信息,还包括它们在整个序列中的关系和模式。这一过程使得Transformer模型能够有效地处理时间序列数据,特别是在理解元素之间的相对位置关系、序列中的时间依赖性和上下文关系方面。
如图5所示,为本发明运用的电梯风险预警大数据模型系统结构图,系统中包括:数据库模块、预处理模块和深度学习模块。数据库模块用于存储由物联网电梯收集而来的信息,将其保存为电梯基础信息表、电梯故障信息表和天气温度表,本发明中步骤S1在数据库模块中完成。预处理模块用于对数据进行清洗、离散化和归一化操作,生成时间序列。深度学习模块用于根据输入时间序列预测下一周期内电梯发生故障的类别和概率。
于步骤6中,如图6所示,为本发明提供的多模态Transformer模型的示意图。步骤S4拼接生成的时序特征和位置编码后生成的综合向量特征按照输入维度输入至多模态的Transformer 模型的块中,采用自注意力机制对输入的综合向量特征进行线性变换生成时序表示,捕捉序列中不同位置间的依赖关系,根据时序表示计算注意力权重,基于计算权重,采用softmax函数对输入时序特征进行归一化处理;通过自注意力机制对时序特征进行提取和交叉;通过卷积池化操作对提取出的综合向量特征进行自时序压缩操作,本实施例中,多模态的Transformer模型可以同时处理多种类特征并且能够进行时序压缩操作,多模态的Transformer模型由多头注意力块、前馈神经网络和卷积池化层组成。该多模态的Transformer块的优势在于其能够处理不同类型的输入特征,并在模型内部进行有效的信息融合。于本实施例中,实现自注意力计算和自时序压缩操作的具体步骤包括:
S6.1:对输入的时序序列应用自注意力机制来捕获不同序列位置间的依赖关系;将输入的时序序列经过线性变换后获取查询、键和值:具体计算公式如下:
其中,X为拼接后的输入特征,Q为通过线性变换矩阵WQ转换得到的查询向量,K为通过线性变换矩阵WK转换得到的键向量,V为通过线性变换矩阵Wv转换得到的值向量;该步骤中通过获取的获取查询、键和值捕获序列中不同位置间的依赖关系。
S6.2:计算注意力权重,并应用到值中,注意力权重的计
算公式为:
其中,Softmax为归一化权重函数,Q为查询向量,K、KT均为键向量,V为值向量,dk是键向量的维度,
如图7所示,为本发明提供的自注意力机制的示意图。图中,Transpose(转置)操作在自注意力机制中用于转置维度,以满足点乘操作的要求,确保查询和键的维度匹配,从而计算注意力权重。在计算注意力权重时,通常使用查询和键的点乘操作,然后经过Softmax函数进行归一化。在这个点乘操作中,如果输入的查询和键的维度是不匹配的,就需要进行转置操作,以保证维度的匹配。softmax函数的作用是将注意力权重归一化,确保注意力权重的总和为1,从而表示不同序列部分的相对重要性。Feature Map(特征图)是指在卷积神经网络提取出的抽象特征表示,即输入向量。
S6.3:将每个注意力块的权重传递到卷积池化层进行时序压缩操作,其进行序压缩操作的计算公式为:
其中,Distilled为时序压缩操作,Conv1d为一维卷积操作,MaxPool为最大池化操作;
于该步骤中,自注意力块的输出,即Attention(Q,K,V),被传递到卷积池化层进行蒸馏。蒸馏是指通过特定的操作(如卷积和池化)降低综合向量特征中时序特征的维度和序列的长度,同时还能对特征提取和交叉。在这个步骤中,电梯风险预警大数据模型系统采用一维卷积(Conv1d)和最大池化(MaxPool)操作,降低时序特征的维度和序列的长度。一维卷积操作用于提取时间序列数据中的局部特征,而最大池化操作则有助于减少时序特征的维度和序列的长度,同时保留最显著的特征信息。由于引入了自时序压缩操作,通过在相邻的Attention Block之间加入卷积池化操作,这样可以减少时间序列的序列长度,以实现特征的降采样,这有助于解决输入特征过长无法有效堆叠处理的问题,并提高模型的处理效率。
S6.4:将时序压缩操作的输出作为下一自注意力块的输入,反复迭代直至输入最后一个自注意力块,其实现公式为:
其中,Outputnext为下一个自注意力块的输入,是时序压缩操作Distilled的输出,
于该步骤中,经过时序压缩操作的输出(Distilled)直接作为下一个自注意力块的输入,而不是与下一个块的输入进行合并。这意味着每个自注意力块的输出都经过蒸馏处理,然后直接进入下一个自注意力块,形成了一条连续的蒸馏路径。这个过程在多模态Transformer模型中多次重复,每次都进一步降低序列的长度。通过这样的迭代方式,多模态Transformer模型能够逐渐提取并精炼出更加重要的特征,同时减小序列长度,提高处理效率。
于步骤S7中,经自时序压缩后的特征被输入到全连接层进行最终的故障预测,这一层的模型通过全连接层对经过Transformer模型中的transformer块提取到的时序特征进行降维处理。即,将综合向量特征的维度降维为5的向量,降维后的向量分别对应五种故障类型。然后将该向量代入softmax函数得到预测结果。于该步骤中,经过自注意力机制和蒸馏过程精炼的时序特征集被引入到一个专门配置的全连接层,以实现精确的故障预测。该全连接层扮演着关键的降维角色,将先前Transformer块所提炼的高维特征映射至一个较低维度的向量空间中。具体来说,Transformer模型通过该层将特征向量的维度降低至五维,每一维对应一种特定的故障类型。随后,这五维向量被进一步输入至softmax激活函数。softmax函数的作用在于将向量转化为一个概率分布,其中每个元素的值代表相应故障类型发生的概率。这种转换使得Transformer模型能够输出一个量化的、概率性的预测结果,从而为电梯故障的可能类型提供了一种直观且可解释的表示。获得故障类型对应的故障概率后,将故障概率与全连阶层相乘,则可获得预警结果。
于步骤S8中,该步骤为Transformer模型的训练过程,训练过程中对调整Transformer模型参数进行调整。其中,调整的参数包括超参数和其他参数。训练过程中,采用Class Balanced Loss损失函数和Adam优化器,结合验证集(验证集:通过是数据处理得到的时序文件包含36个月的信息,将最后6个月不放入模型学习,作为验证集)评估Transformer模型的性能。具体的,本实施例中,采用Class Balanced Loss损失函数计算损失度。然后,通过Adam优化器更新神经网络模型的参数,减小损失度,提高模型的预测性能。首先,Class Balanced Loss 在类别不平衡的数据集上训练分类模型时,提高模型在少数类上的分类性能。该损失函数通过给不常见的类别更大的权重,降低常见类别的权重,从而强制模型更关注那些较少样本的类别。在实际运用过程中,数据集常常存在类别分布不均衡的问题,即某些类别的样本数量远多于其他类别。这会导致模型过度偏向于多数类别,从而忽视少数类别。Class Balanced Loss通过调整损失函数,减少对于“易分类样本”的关注,而增加对“难分类样本”的惩罚。这样的设计使得模型在训练过程中能更有效地学习到少数类别的特征,提高对这些难以识别类别的预测准确性。另外,Adam优化器是一种效率高、计算速度快的优化算法。它结合了Momentum和RMSprop优化器的优点,能够计算每个参数的自适应学习率。这意味着Adam优化器可以针对不同的参数进行个性化调整,确保更加稳定和快速的收敛过程,同时减少对超参数调整的依赖。在训练复杂的神经网络模型时,这一特性尤其有利于提高训练效率和改善模型性能。每次训练时,训练次数增加,有助于监控模型的学习进度。本实施例中采用的神经网络模型是Transformer模型。
于步骤S9中,该步骤为预测过程,及预测电梯的维保需求。具体的,将步骤S7Z中预测的五种故障类型及其概率分布数据通过一个复杂的多层卷积块进行后处理,该自定义的多层卷积块两个卷积层和一个全连接层,每层均配有相应的权重(W1, W2, Wfc, Wout)和偏置项(b1, b2, bfc, bout)。自定义的多层卷积块提取具体维保需求的步骤包括:
S9.1:通过第一层卷积层初步提取电梯故障类型和故障概率的特征f1(x),第一层卷积层的计算公式为:
F1(x)=ReLU(W1∗x+b1 );
其中,x 为输入的故障类型及对应的故障概率分布数据,W1为第一层卷积层和全连接层的故障权重,b1为第一层卷积层的偏置项,ReLU为激活函数。
S9.2:将提取的特征通过最大池化层进行降维;其计算公式为:
p(x)=MaxPool(f1 (x))
其中,p(x)为降维后的特征,MaxPool为最大池化操作。
S9.3:提取第二层卷积层的电梯故障和故障概率的特征,其提取公式为:
f2(x)=ReLU(W2∗p(x)+b2)
其中,f2 (x)为第二层故障类型和故障概率的特征,ReLU为激活函数,W2为第二层卷积层的权重,b2为第二层卷积层的偏置项。
S9.4:通过平坦化层将第一卷积层和第二卷积层提取的特征转换成一维数组fflat(x),在全连阶层对转换生成的一维数组进行整合。
平坦化层将两个卷积层的特征转换为数组fflat(x)的公式为:
fflat(x)=Flatten(f2(x))
其中,Flatten 使将多维特征转换为一维数组的操作。
全连接层ffc(x)对数组进行整合的公式为:
ffc(x)=ReLU(Wfc∗fflat(x)+bfc)
其中,Wfc为全连接层的权重,bfc为全连接层的偏置项。
S9.5:输出层基于整合特征预测每个电梯的维保周期。
具体的,该步骤中,输出层的激活函数σ基于集成特征预测每个电梯的维保周期,从而实现对故障类型和概率分布的有效解读和维保策略的准确制定,还提高了故障预测的准确性和实用性。激活函数σ预测维保周期的公式为:
y=σ(Wout∗ffc(x)+bout)
其中,y为维保周期,Wout为输出层的权重,ffc(x)为全连接层,bout为输出层的偏置项。
如表7~表11所示,为本发明实例提供的系统在不同故障类型的预测结果示意图,实测对象为通力电梯的8000台电梯,对通力数据中的三月上,三月下,四月上和四月下四个时间段进行预测,其结果如表格所示:在开关门方面模型表现出稳定性,能达到30%左右的命中率。在和其他故障方面也能表现出20%左右的命中率。这都证明了模型的有效性。而且即使在样本很小的情况下也能预测出困人,开门运行以及超速等故障。
表7
表8
表9
表10
表11
显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
Claims (9)
1.一种基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,具体步骤包括:
S1:采集物联网电梯的数据作为风险预警的原始数据,存储于数据库中;
S2:对采集的原始数据进行清洗,生成多模态时序特征,所述多模态时序特征包括:密集特征、稀疏特征和静态特征;
S3:对生成的多模态时序特征进行预处理,对预处理多模态时序特征采用偏自相关函数进行相关性计算;根据计算结果,筛选多模态时序特征;
S4:将预处理后的多模态时序特征与对应的偏自相关函数值进行拼接,形成一个包含特征相关性的综合向量特征;
S5:对综合向量特征通过相对位置编码层进行位置编码;
S6:将拼接和位置编码后的综合向量特征按照输入维度输入至多模态Transformer模型的块中,采用自注意力机制对输入的时序特征进行线性变换生成时序表示,捕捉序列中不同位置间的依赖关系,根据时序表示计算注意力权重,基于计算权重采用softmax函数对输入时序特征进行归一化处理;通过自注意力机制对综合向量特征进行提取和交叉;采用卷积池化操作对提取出的综合向量特征进行自时序压缩;
S7:将经自时序压缩后的综合向量特征通过全连接层进行降维,输出对应的故障类型,故障类型通过softmax函数转换后获得故障概率的分布,所述故障概率与全连接层相乘获得预警结果;
S8:对多模态Transformer 模型进行训练,调整多模态Transforme模型的参数,采用损失函数和Adam优化器,结合验证集评估模型性能,根据评估结果对模型结构或训练过程进行调整;
S9:采用自定义的多层卷积块对预测的故障类型和故障概率的分布数据进行后处理,以提取具体的维保需求;
所述自注意力机制和时序压缩的具体实现步骤包括:
将每个注意力块的权重传递到卷积池化层进行时序压缩操作,其进行序压缩操作的公式为:
,
其中,Distilled为时序压缩操作,Conv1d为一维卷积操作,MaxPool为最大池化操作,Q为查询向量,K为键向量,V为值向量;
将时序压缩操作的输出作为下一自注意力块的输入,反复迭代直至输入最后一个自注意力块,其实现公式为:
,
其中,Outputnext为下一个自注意力块的输入,是时序压缩操作Distilled的输出,AttentionBlock表示注意力块,为时序压缩操作。
2.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S1中风险预警的原始数据包括:电梯基础信息、故障信息、天气气温信息、维保信息。
3.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S3中,偏自相关函数进行相关性计算的公式为:
,
其中,Corr是相关性,Yt是在时间点 t的观察值,k是滞后期数。
4.根据权利要求3所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S3中,对多模态时序特征进行预处理时,将静态特征和密集特征通过嵌入层转换为密集特征,将转换后的密集特征和数据清洗后生成的密集特征,进行拼接;其转换公式为:
x1=embedding(Xsparse)
x2=embedding(Xstatic)
x3=WXdense+b
F=cat(x1,x2,x3)
其中,x1是静态特征转换为密集特征的向量,x2是稀疏特征转换为密集特征的向量,x3是密集特征提取的向量,Xdense为密集特征,Xsparse,Xstatic为需要转换的one-hot编码特征,W为全连接层,F为得到的综合向量,b为偏置参数 ,Xdense通过全连接层W提取特征,进行cat拼接操作,embedding为转换函数。
5.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S4中的拼接公式为:
PACF=conv(PACF(C))
Xinput=cat(F,PACF)
其中,PACF为conv卷积函数计算得到的各时序关系的相关性,C为输入的特征信息,Xinput为经过cat拼接操作后获得的综合向量,作为步骤S5的输入,F为多模态时序特征进行预处理后生成的综合向量。
6.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S5中,进行位置编码的具体步骤包括:
S5.1:定义一个位置编码函数,所述位置编码函数根据元素在时序序列中的位置生成唯一的位置编码;
S5.2:通过位置编码函数生成每个时序序列位置对应的位置编码;
S5.3:将生成的位置编码与时序序列中对应位置的特征向量相结合。
7.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S6中,自注意力机制和时序压缩的具体实现步骤包括:
S6.1:对输入的时序序列采用自注意力机制来捕获不同序列位置间的依赖关系;将所述输入的时序序列经过线性变换后获取查询、键和值:具体计算公式如下:
,
其中,X为拼接后的输入特征,Q为通过线性变换矩阵WQ转换得到的查询向量,K为通过线性变换矩阵WK转换得到的键向量,V为通过线性变换矩阵Wv转换得到的值向量;
S6.2:计算注意力权重,并应用到值中;注意力权重的计算公式为:
,
其中,Softmax为归一化权重函数,Q为查询向量,K为键向量,V为值向量,dk是键向量的维度。
8.根据权利要求1所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述步骤S9中,所述自定义的多层卷积块包括:两层卷积层和一层全连接层。
9.根据权利要求8所述的基于Transformer和时序压缩机制的电梯预警及按需维保方法,其特征在于,所述多层卷积块提取具体维保需求的步骤包括:
S9.1:通过第一层卷积层初步提取电梯故障类型和故障概率的特征;
S9.2:将提取的特征通过最大池化层进行降维;
S9.3:提取第二层卷积层的电梯故障和故障概率的特征;
S9.4:通过平坦化层将第一卷积层和第二卷积层提取的特征转换成一维数组,在全连阶层对转换生成的一维数组进行整合;
S9.5:输出层基于整合的特征预测每个电梯的维保周期。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311756481.4A CN117435997B (zh) | 2023-12-20 | 2023-12-20 | 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311756481.4A CN117435997B (zh) | 2023-12-20 | 2023-12-20 | 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117435997A CN117435997A (zh) | 2024-01-23 |
CN117435997B true CN117435997B (zh) | 2024-03-01 |
Family
ID=89558608
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311756481.4A Active CN117435997B (zh) | 2023-12-20 | 2023-12-20 | 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117435997B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117657912B (zh) * | 2024-01-30 | 2024-04-19 | 安徽建工生态科技股份有限公司 | 一种工地施工升降机监测系统、方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3627408A1 (en) * | 2018-09-24 | 2020-03-25 | Hitachi, Ltd. | Equipment repair management and execution |
CN113065451A (zh) * | 2021-03-29 | 2021-07-02 | 四川翼飞视科技有限公司 | 一种多模态融合的动作识别装置、方法和存储介质 |
CN114580709A (zh) * | 2022-01-28 | 2022-06-03 | 西安电子科技大学 | 基于Transformer的多模态自相关补偿的时序预测方法 |
CN114648097A (zh) * | 2022-03-17 | 2022-06-21 | 南京优湖科技有限公司 | 基于深度学习的电梯困人特征解析与时间序列预测模型构建方法、所得模型及预测方法 |
CN115585767A (zh) * | 2022-09-05 | 2023-01-10 | 中国地质环境监测院(自然资源部地质灾害技术指导中心) | 基于多源监测数据异常形变挖掘的滑坡预警规则生成方法 |
CN115796651A (zh) * | 2022-11-14 | 2023-03-14 | 中国铁道科学研究院集团有限公司电子计算技术研究所 | 基于多模态数据的客站设备智能化评价方法、装置和设备 |
CN116008729A (zh) * | 2023-01-03 | 2023-04-25 | 国网安徽省电力有限公司池州供电公司 | 电力故障诊断预警方法、装置、设备及存储介质 |
CN116821851A (zh) * | 2023-06-30 | 2023-09-29 | 浙江大学 | 一种山区管道揭底冲刷安全预警方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2024519533A (ja) * | 2021-05-06 | 2024-05-15 | ストロング フォース アイオーティ ポートフォリオ 2016,エルエルシー | 産業用モノのインターネットのための量子、生物学、コンピュータビジョン、ニューラルネットワークシステム |
-
2023
- 2023-12-20 CN CN202311756481.4A patent/CN117435997B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3627408A1 (en) * | 2018-09-24 | 2020-03-25 | Hitachi, Ltd. | Equipment repair management and execution |
CN113065451A (zh) * | 2021-03-29 | 2021-07-02 | 四川翼飞视科技有限公司 | 一种多模态融合的动作识别装置、方法和存储介质 |
CN114580709A (zh) * | 2022-01-28 | 2022-06-03 | 西安电子科技大学 | 基于Transformer的多模态自相关补偿的时序预测方法 |
CN114648097A (zh) * | 2022-03-17 | 2022-06-21 | 南京优湖科技有限公司 | 基于深度学习的电梯困人特征解析与时间序列预测模型构建方法、所得模型及预测方法 |
CN115585767A (zh) * | 2022-09-05 | 2023-01-10 | 中国地质环境监测院(自然资源部地质灾害技术指导中心) | 基于多源监测数据异常形变挖掘的滑坡预警规则生成方法 |
CN115796651A (zh) * | 2022-11-14 | 2023-03-14 | 中国铁道科学研究院集团有限公司电子计算技术研究所 | 基于多模态数据的客站设备智能化评价方法、装置和设备 |
CN116008729A (zh) * | 2023-01-03 | 2023-04-25 | 国网安徽省电力有限公司池州供电公司 | 电力故障诊断预警方法、装置、设备及存储介质 |
CN116821851A (zh) * | 2023-06-30 | 2023-09-29 | 浙江大学 | 一种山区管道揭底冲刷安全预警方法 |
Non-Patent Citations (2)
Title |
---|
Leveraging Sparse and Dense Feature Combinations for Sentiment Classification;Tao Yu等;《arXiv - Computation and Language》;20170813;第1-4页 * |
基于多模态时序信息建模与融合的视频分类方法研究;齐孟津;《万方数据库》;20231012;第8-37页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117435997A (zh) | 2024-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN117435997B (zh) | 一种基于Transformer和时序压缩机制的电梯预警及按需维保方法 | |
CN109583520B (zh) | 一种云模型与遗传算法优化支持向量机的状态评估方法 | |
CN115310674A (zh) | 基于并行神经网络模型LDformer的长时间序列预测方法 | |
CN117421582A (zh) | 一种基于多源数据驱动的设备健康分析方法 | |
CN116049764A (zh) | 一种面向物联网的跨尺度时序数据融合方法及系统 | |
CN115840893A (zh) | 一种多变量时间序列预测方法及装置 | |
CN117032165A (zh) | 一种工业设备故障诊断方法 | |
CN116702090A (zh) | 一种多模态数据融合与不确定估计的水位预测方法及系统 | |
CN116612645A (zh) | 一种高速公路服务区车流量预测方法 | |
CN116842379A (zh) | 一种基于DRSN-CS和BiGRU+MLP模型的机械轴承剩余使用寿命预测方法 | |
CN113673774A (zh) | 基于自编码器和时序卷积网络的航空发动机余寿预测方法 | |
Bond et al. | A hybrid learning approach to prognostics and health management applied to military ground vehicles using time-series and maintenance event data | |
CN116007937A (zh) | 一种机械设备传动部件智能故障诊断方法及装置 | |
Netisopakul et al. | AI-Enhanced Predictive Maintenance in Manufacturing Processes | |
CN115828744A (zh) | 一种白光发光二极管故障在线诊断与寿命预测方法 | |
CN113393102B (zh) | 一种基于数据驱动的配电变压器运行状态趋势预测方法 | |
CN115221942A (zh) | 一种基于时序融合和神经网络的设备缺陷预测方法及系统 | |
CN115204362A (zh) | 一种机械设备剩余寿命区间预测方法 | |
CN116128082A (zh) | 高速公路交通流量预测方法及电子设备 | |
CN111931798B (zh) | 进行冷头状态分类检测和寿命预测的方法 | |
CN116579505B (zh) | 一种无全寿命周期样本的机电设备跨域剩余寿命预测方法及系统 | |
CN117172138B (zh) | 一种基于深度学习的城市交通碳排放预测方法及装置 | |
CN117190078B (zh) | 一种输氢管网监测数据异常检测方法及系统 | |
CN117332377B (zh) | 一种基于深度学习的离散时间序列事件挖掘方法及系统 | |
CN116702990A (zh) | 基于多层长短期记忆模型的设备剩余寿命预测方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |