CN114580798A - 一种基于transformer的设备点位预测方法及系统 - Google Patents

一种基于transformer的设备点位预测方法及系统 Download PDF

Info

Publication number
CN114580798A
CN114580798A CN202210496808.8A CN202210496808A CN114580798A CN 114580798 A CN114580798 A CN 114580798A CN 202210496808 A CN202210496808 A CN 202210496808A CN 114580798 A CN114580798 A CN 114580798A
Authority
CN
China
Prior art keywords
model
point location
input
encoder
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210496808.8A
Other languages
English (en)
Other versions
CN114580798B (zh
Inventor
王三明
王聪明
赵伟帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anyuan Technology Co ltd
Qiye Cloud Big Data Nanjing Co ltd
Original Assignee
Qiye Cloud Big Data Nanjing Co ltd
Nanjing Anyuan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qiye Cloud Big Data Nanjing Co ltd, Nanjing Anyuan Technology Co ltd filed Critical Qiye Cloud Big Data Nanjing Co ltd
Priority to CN202210496808.8A priority Critical patent/CN114580798B/zh
Publication of CN114580798A publication Critical patent/CN114580798A/zh
Application granted granted Critical
Publication of CN114580798B publication Critical patent/CN114580798B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16Y—INFORMATION AND COMMUNICATION TECHNOLOGY SPECIALLY ADAPTED FOR THE INTERNET OF THINGS [IoT]
    • G16Y40/00—IoT characterised by the purpose of the information processing
    • G16Y40/10—Detection; Monitoring
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computing Systems (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • General Physics & Mathematics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Biomedical Technology (AREA)
  • Tourism & Hospitality (AREA)
  • Operations Research (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Game Theory and Decision Science (AREA)
  • Development Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Quality & Reliability (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于transformer的设备点位预测方法及系统，将人工操作时刻及之前某段时间的点位数据作为模型一输入，将模型一输入模拟成问句经过分词处理后映射的向量空间，人工操作之后的某段时间的点位数据模拟成回复句经过分词处理后映射的向量空间；将模型一输入作为seq2seq模型中第一编码器Encoder的输入，人工操作之后的某段时间的点位数据作为seq2seq模型中第一解码器Decoder的输出，由此构建一个类seq2seq模型。本发明能提前预测到某点位在人员操作后的点位数据变动情况，可以判断出人员操作对各测量点位的影响，从而调整可调点位的数值。

Description

一种基于transformer的设备点位预测方法及系统
技术领域
本发明涉及一种基于transformer的设备点位预测方法及系统，属于物联网设备点位数据处理技术领域。
背景技术
随着企业数智化转型加速进行，企业需采用整合且敏捷的方法，将智能传感器、分析技术和人工智能结合起来，助力实时监控运营和潜在的中断，降低工业化生产成本并满足客户的个性化需求，使生产保持在最优级别运行，以实现经济增长。
目前市面上，针对物联网采集到的设备点位等数据，大部分还在统计分析处理等阶段，没有得到充分的应用。
发明内容
发明目的：为了克服现有技术中存在的不足，本发明提供一种基于transformer的设备点位预测方法及系统，通过将基于transformer理论优化后的的深度学习算法——Informer和seq2seq算法应用在设备点位数据上进行分析，来预测设备点位的变动情况。
技术方案：为实现上述目的，本发明采用的技术方案为：
一种基于transformer的设备点位预测方法，包括对有人为操作时设备点位的变动情况的预测，对有人为操作时设备点位的变动情况的预测包括以下步骤：
步骤1，设监测设备一共包含
Figure 823843DEST_PATH_IMAGE001
个测量点位和
Figure 945383DEST_PATH_IMAGE002
个人工调节点位，将人工操作时刻及之前某段时间的点位数据作为模型一输入，则模型一输入为：
Figure 456130DEST_PATH_IMAGE003
其中，
Figure 612305DEST_PATH_IMAGE004
表示模型一输入，
Figure 409359DEST_PATH_IMAGE001
表示测量点位个数，
Figure 955878DEST_PATH_IMAGE002
表示人工调节点位个数，
Figure 863791DEST_PATH_IMAGE005
表示第m个时刻
Figure 809226DEST_PATH_IMAGE006
个点位的监测值，
Figure 777182DEST_PATH_IMAGE007
表示
Figure 873314DEST_PATH_IMAGE008
维的实数向量空间。
如果
Figure 522601DEST_PATH_IMAGE009
为测量点位的时间序列，则：
Figure 387789DEST_PATH_IMAGE010
如果
Figure 464330DEST_PATH_IMAGE009
为人工调节点位的时间序列，则：
Figure 47758DEST_PATH_IMAGE011
人工操作之后的某段时间的点位数据作为：
Figure 563053DEST_PATH_IMAGE012
其中，
Figure 220430DEST_PATH_IMAGE013
表示第i个点位，
Figure 530189DEST_PATH_IMAGE014
表示第i个点位时间序列的第m个值，
Figure 600913DEST_PATH_IMAGE015
表示调节前的值，
Figure 592003DEST_PATH_IMAGE016
表示调节后的值，
Figure 431783DEST_PATH_IMAGE017
表示人工操作之后的某段时间的点位数据，
Figure 850126DEST_PATH_IMAGE018
表示n维点位时间序列的第n个值，
Figure 408146DEST_PATH_IMAGE019
表示
Figure 937347DEST_PATH_IMAGE020
维的实数向量空间；
步骤2，将模型一输入
Figure 631634DEST_PATH_IMAGE021
模拟成问句经过分词处理后映射的向量空间，人工操作之后的某段时间的点位数据
Figure 486457DEST_PATH_IMAGE017
模拟成回复句经过分词处理后映射的向量空间；将模型一输入
Figure 31026DEST_PATH_IMAGE021
作为seq2seq模型中第一编码器Encoder的输入，人工操作之后的某段时间的点位数据
Figure 426235DEST_PATH_IMAGE017
作为seq2seq模型中第一解码器Decoder的输出，由此构建一个类seq2seq模型；
步骤3，采集包含
Figure 178291DEST_PATH_IMAGE001
个测量点位和
Figure 753DEST_PATH_IMAGE002
个人工调节点位的监测设备的采样数据，将
Figure 205470DEST_PATH_IMAGE001
个测量点位和
Figure 342053DEST_PATH_IMAGE022
个人工调节点位的监测设备的采样数据及人工操作之后的某段时间的点位数据
Figure 10932DEST_PATH_IMAGE017
作为训练样本一，将训练样本一输入到步骤2得到的类seq2seq模型中，对类seq2seq模型进行训练，得到训练好的类seq2seq模型；
步骤4，预测时，采集
Figure 941979DEST_PATH_IMAGE001
个测量点位的监测设备的采样数据，作为待预测样本，将待预测样本输入到训练好的类seq2seq模型中，得到
Figure 696308DEST_PATH_IMAGE001
个测量点位人工操作后的变化趋势进行预测。
进一步地：包括对无人为操作时设备点位的变动情况的预测，无人为操作时设备点位的变动情况的预测包括以下步骤：
步骤Ⅰ，采集
Figure 371003DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 832071DEST_PATH_IMAGE023
到
Figure 261916DEST_PATH_IMAGE024
的采样数据，将
Figure 441224DEST_PATH_IMAGE026
个测量点位在已经发生的某个时间段
Figure 651101DEST_PATH_IMAGE027
到
Figure 294572DEST_PATH_IMAGE028
的采样数据作为模型二输入，则模型二输入为：
Figure 567422DEST_PATH_IMAGE029
其中，
Figure 296343DEST_PATH_IMAGE030
表示模型二输入，
Figure 312841DEST_PATH_IMAGE027
表示采样数据的开始监测时间，
Figure 748501DEST_PATH_IMAGE028
表示采样数据的结束监测时间，
Figure 520148DEST_PATH_IMAGE031
表示第m个时刻的测量点位数据，即由N个测量点位组成的N维向量，
Figure 408470DEST_PATH_IMAGE032
表示
Figure 290975DEST_PATH_IMAGE033
维的实数向量空间，
Figure 581142DEST_PATH_IMAGE034
表示测量点位个数，
Figure 461373DEST_PATH_IMAGE035
表示
Figure 899308DEST_PATH_IMAGE027
到
Figure 257608DEST_PATH_IMAGE028
时刻的有效样本数量；
模型二输出为：
Figure 730178DEST_PATH_IMAGE036
其中，
Figure 784240DEST_PATH_IMAGE037
表示N个测量点位在时间段
Figure 647154DEST_PATH_IMAGE028
到
Figure 871462DEST_PATH_IMAGE038
的点位数据预测，
Figure 870642DEST_PATH_IMAGE039
表示第m+n个时刻N个点位的预测结果，
Figure 154993DEST_PATH_IMAGE040
表示
Figure 505203DEST_PATH_IMAGE041
维的实数向量空间。
步骤Ⅱ，将模型二输入
Figure 470885DEST_PATH_IMAGE042
作为Informer模型输入，N个测量点位在时间段
Figure 652467DEST_PATH_IMAGE028
到
Figure 779823DEST_PATH_IMAGE038
的点位数据预测
Figure 617329DEST_PATH_IMAGE037
作为Informer模型输出，由此构建一个Informer模型；
步骤Ⅲ，采集
Figure 183440DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 422791DEST_PATH_IMAGE027
到
Figure 783365DEST_PATH_IMAGE028
的采样数据，将
Figure 105238DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 412722DEST_PATH_IMAGE027
到
Figure 303318DEST_PATH_IMAGE028
的采样数据及N个测量点位在时间段
Figure 38056DEST_PATH_IMAGE028
到
Figure 646892DEST_PATH_IMAGE038
的点位数据预测
Figure 758067DEST_PATH_IMAGE043
作为训练样本二，将训练样本二输入对Informer模型进行训练，得到训练好的Informer模型；
步骤Ⅳ，采集
Figure 706432DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 674388DEST_PATH_IMAGE027
到
Figure 708203DEST_PATH_IMAGE028
的采样数据作为预测样本二，将预测样本二输入到训练好的Informer模型中，得到N个测量点位在时间段
Figure 419807DEST_PATH_IMAGE028
到
Figure 222678DEST_PATH_IMAGE038
的点位数据预测。
优选的：所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接。
优选的：所述第一编码器Encoder与第二编码器结构相同。
优选的：所述第一解码器Decoder与第二解码器结构相同。
一种基于transformer的设备点位预测预测系统，包括Informer模型和类seq2seq模型，其中：
所述类seq2seq模型包括依次连接的第一输入层、第一编码器Encoder、第一解码器Decoder、第一输出层，所述第一输入层的输入为
Figure 299218DEST_PATH_IMAGE037
，所述第一输出层输出为
Figure 882646DEST_PATH_IMAGE044
；
所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接；所述第二输入层一输入为
Figure 61256DEST_PATH_IMAGE045
；所述第二输出层的输出为
Figure 46529DEST_PATH_IMAGE046
。
本发明相比现有技术，具有以下有益效果：
1.使用了Informer算法使得整体时间序列预测的效率和结果大幅提高。
2.在传统的点位数据预测过程中，没有考虑到人工调节对点位数据造成的不确定性。
3.能提前预测到未来一段时间内无人操作情况下的各点位数据变动情况。
4.能提前预测到某点位在人员操作后的点位数据变动情况。
5.基于前两部分的内容，可以分别实现对有/无人员操作的测量点位进行预测，根据两部分预测结果的比较，可以判断出人员操作对各测量点位的影响，从而调整可调点位的数值。
附图说明
图1为Informer算法流程图。
图2为seq2seq算法流程图。
具体实施方式
下面结合附图和具体实施例，进一步阐明本发明，应理解这些实例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。
一种基于transformer的设备点位预测方法，由于通过物联网平台采集到的点位数据分两种类型，一种是可人工进行调节阀门值的可调点位，一种是根据测量装置反馈的温度、压力等测量点位。基于这两种不同的点位数据样本，采取不同的分析手段，第一部分是对无人为操作时测量点位的数据变化情况预测，第二部分是对有人员操作情况下的测量点位数据变动情况的预测，
如图1所示，为对无人为操作时设备点位的变动情况的预测，数据量比较充分，部分点位存在周期性，周期数据量较大，在这一场景下，可以考虑长序列时间序列预测（LSTF，long sequence time-series forecasting）。LSTF要求模型具有很高的预测能力，即能够有效地捕捉输出和输入之间精确的长程相关性耦合。长短期记忆人工神经网络（LSTM，LongShort-Term Memory）在预测较长序列时，预测错误（MSE）过高，预测速度过慢。所以采用Transformer模型进行预测，考虑到Informer算法基于普通的Transformer模型在时间和空间复杂度、计算消耗显存、预测长输出时速度太慢等做出了优化，采用Informer算法对无人为操作时设备点位的变动情况进行预测，包括以下步骤：
步骤Ⅰ，采集
Figure 293971DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 302378DEST_PATH_IMAGE027
到
Figure 355785DEST_PATH_IMAGE028
的采样数据，将
Figure 133248DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 551591DEST_PATH_IMAGE027
到
Figure 844032DEST_PATH_IMAGE028
的采样数据作为模型二输入，则模型二输入为：
Figure 638813DEST_PATH_IMAGE047
其中，
Figure 333100DEST_PATH_IMAGE048
表示模型二输入，
Figure 922344DEST_PATH_IMAGE027
表示采样数据的开始监测时间，
Figure 905343DEST_PATH_IMAGE028
表示采样数据的结束监测时间，
Figure 300553DEST_PATH_IMAGE049
表示第m个时刻的测量点位数据，即由N个测量点位组成的N维向量，
Figure 784099DEST_PATH_IMAGE050
表示
Figure 809824DEST_PATH_IMAGE051
维的实数向量空间，
Figure 76857DEST_PATH_IMAGE034
表示测量点位个数，
Figure 213440DEST_PATH_IMAGE052
表示
Figure 554423DEST_PATH_IMAGE027
到
Figure 813366DEST_PATH_IMAGE028
时刻的有效样本数量；
模型二输出为：
Figure 505379DEST_PATH_IMAGE053
其中，
Figure 242390DEST_PATH_IMAGE054
表示N个测量点位在时间段
Figure 703459DEST_PATH_IMAGE028
到
Figure 70986DEST_PATH_IMAGE055
的点位数据预测，
Figure 984716DEST_PATH_IMAGE056
表示第m+n个时刻N个点位的预测结果，
Figure 525418DEST_PATH_IMAGE057
表示
Figure 109502DEST_PATH_IMAGE058
维的实数向量空间。
步骤Ⅱ，将模型二输入
Figure 382352DEST_PATH_IMAGE059
作为Informer模型输入，N个测量点位在时间段
Figure 111273DEST_PATH_IMAGE028
到
Figure 127771DEST_PATH_IMAGE055
的点位数据预测
Figure 563431DEST_PATH_IMAGE054
作为Informer模型输出，由此构建一个Informer模型；
步骤Ⅲ，采集
Figure 69499DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 223400DEST_PATH_IMAGE027
到
Figure 105905DEST_PATH_IMAGE028
的采样数据，将
Figure 396072DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 276303DEST_PATH_IMAGE027
到
Figure 714238DEST_PATH_IMAGE028
的采样数据及N个测量点位在时间段
Figure 72538DEST_PATH_IMAGE028
到
Figure 479861DEST_PATH_IMAGE055
的点位数据预测
Figure 327731DEST_PATH_IMAGE054
作为训练样本二，将训练样本二输入对Informer模型进行训练，得到训练好的Informer模型；
步骤Ⅳ，采集
Figure 190645DEST_PATH_IMAGE034
个测量点位在已经发生的某个时间段
Figure 414953DEST_PATH_IMAGE027
到
Figure 679712DEST_PATH_IMAGE028
的采样数据作为预测样本二，将预测样本二输入到训练好的Informer模型中，得到N个测量点位在时间段
Figure 901746DEST_PATH_IMAGE028
到
Figure 314273DEST_PATH_IMAGE061
的点位数据预测。
所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接。
经过评估、测试，得到最优预测模型。此方法既适用于单点位分析，也适用于多点位分析。
如图2所示，为对有人为操作时设备点位的变动情况的预测，对有人为操作时设备点位的变动情况的预测包括以下步骤：
步骤1，将人工操作的过程模拟成一个对话系统，仿照问答库的模式，提出一种新的模型训练标注方式，标注过程如下：
设监测设备一共包含
Figure 14376DEST_PATH_IMAGE034
个测量点位和
Figure 195959DEST_PATH_IMAGE062
个人工调节点位，将人工操作时刻及之前某段时间的点位数据作为模型一输入，则模型一输入为：
Figure 588894DEST_PATH_IMAGE063
其中，
Figure 426400DEST_PATH_IMAGE064
表示模型一输入，也即
Figure 992510DEST_PATH_IMAGE065
个设备点位的m维时间序列组成的
Figure 966283DEST_PATH_IMAGE066
维向量，
Figure 592436DEST_PATH_IMAGE034
表示测量点位个数，
Figure 931886DEST_PATH_IMAGE067
表示人工调节点位个数，
Figure 973792DEST_PATH_IMAGE068
表示第m个时刻
Figure 129967DEST_PATH_IMAGE065
个点位的监测值，
Figure 864704DEST_PATH_IMAGE070
表示
Figure 473540DEST_PATH_IMAGE071
维的实数向量空间。
如果
Figure 584716DEST_PATH_IMAGE072
为测量点位的m维时间序列，则：
Figure 533080DEST_PATH_IMAGE073
如果
Figure 501036DEST_PATH_IMAGE072
为人工调节点位的m维时间序列，则：
Figure 534851DEST_PATH_IMAGE074
人工操作之后的某段时间的点位数据作为：
Figure 980876DEST_PATH_IMAGE075
其中，
Figure 49326DEST_PATH_IMAGE076
表示第i个点位，
Figure 125867DEST_PATH_IMAGE077
表示第i个点位时间序列的第m个值，
Figure 709295DEST_PATH_IMAGE078
表示调节前的值，
Figure 893764DEST_PATH_IMAGE079
表示调节后的值，
Figure 879038DEST_PATH_IMAGE080
表示人工操作之后的某段时间的点位数据，
Figure 126479DEST_PATH_IMAGE081
表示n维点位时间序列的第n个值，
Figure 134887DEST_PATH_IMAGE070
表示
Figure 188293DEST_PATH_IMAGE082
维的实数向量空间；
步骤2，将模型一输入
Figure 965756DEST_PATH_IMAGE064
模拟成问句经过分词处理后映射的向量空间，人工操作之后的某段时间的点位数据
Figure 446416DEST_PATH_IMAGE080
模拟成回复句经过分词处理后映射的向量空间；将模型一输入
Figure 676540DEST_PATH_IMAGE064
作为seq2seq模型中第一编码器Encoder的输入，人工操作之后的某段时间的点位数据
Figure 471321DEST_PATH_IMAGE080
作为seq2seq模型中第一解码器Decoder的输出，由此构建一个类seq2seq模型；
步骤3，采集包含
Figure 165608DEST_PATH_IMAGE034
个测量点位和
Figure 754852DEST_PATH_IMAGE062
个人工调节点位的监测设备的采样数据，将
Figure 737851DEST_PATH_IMAGE034
个测量点位和
Figure 133061DEST_PATH_IMAGE067
个人工调节点位的监测设备的采样数据及人工操作之后的某段时间的点位数据
Figure 622467DEST_PATH_IMAGE080
作为训练样本一，将训练样本一输入到步骤2得到的类seq2seq模型中，对类seq2seq模型进行训练，得到训练好的类seq2seq模型；
步骤4，预测时，采集
Figure 648191DEST_PATH_IMAGE034
个测量点位的监测设备的采样数据，作为待预测样本，将待预测样本输入到训练好的类seq2seq模型中，得到
Figure 915225DEST_PATH_IMAGE034
个测量点位人工操作后的变化趋势进行预测。
所述第一编码器Encoder与第二编码器结构相同。所述第一解码器Decoder与第二解码器结构相同。
一种基于transformer的设备点位预测预测系统，包括Informer模型和类seq2seq模型，其中：
所述类seq2seq模型包括依次连接的第一输入层、第一编码器Encoder、第一解码器Decoder、第一输出层，所述第一输入层的输入为
Figure 786229DEST_PATH_IMAGE072
，所述第一输出层输出为
Figure 455107DEST_PATH_IMAGE080
；
所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接；所述第二输入层一输入为
Figure 651734DEST_PATH_IMAGE083
；所述第二输出层的输出为
Figure 140484DEST_PATH_IMAGE084
。
本发明对无人为操作时设备点位的变动情况的预测采用Informer算法，能提前预测到未来一段时间内无人操作情况下的各点位数据变动情况，同时使得整体时间序列预测的效率和结果大幅提高。同时考虑了人工调节对点位数据造成的不确定性，对有人为操作时设备点位的变动情况的预测采用seq2seq模型进行预测，能提前预测到某点位在人员操作后的点位数据变动情况，因此本发明可以分别实现对有/无人员操作的测量点位进行预测，根据两部分预测结果的比较，可以判断出人员操作对各测量点位的影响，从而调整可调点位的数值。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (8)

1.一种基于transformer的设备点位预测方法，其特征在于，包括对有人为操作时设备点位的变动情况的预测，对有人为操作时设备点位的变动情况的预测包括以下步骤：
步骤1， 设监测设备一共包含
Figure 849407DEST_PATH_IMAGE001
个测量点位和
Figure 360023DEST_PATH_IMAGE002
个人工调节点位，将人工操作时刻及之前某段时间的点位数据作为模型一输入，则模型一输入为：
Figure 608602DEST_PATH_IMAGE003
其中，
Figure 862866DEST_PATH_IMAGE004
表示模型一输入，
Figure 146079DEST_PATH_IMAGE001
表示测量点位个数，
Figure 263815DEST_PATH_IMAGE002
表示人工调节点位个数，
Figure 389903DEST_PATH_IMAGE005
表示第m个时刻
Figure 57644DEST_PATH_IMAGE006
个点位的监测值，
Figure 319998DEST_PATH_IMAGE007
表示
Figure 110100DEST_PATH_IMAGE008
维的实数向量空间；
如果
Figure 333271DEST_PATH_IMAGE009
为测量点位的时间序列，则：
Figure 430802DEST_PATH_IMAGE010
如果为人工调节点位的时间序列，则：
Figure 423029DEST_PATH_IMAGE011
人工操作之后的某段时间的点位数据作为：
Figure 649611DEST_PATH_IMAGE012
其中，
Figure 484712DEST_PATH_IMAGE013
表示第i个点位，
Figure 228677DEST_PATH_IMAGE014
表示第i个点位时间序列的第m个值，
Figure 731202DEST_PATH_IMAGE015
表示调节前的值，
Figure 535210DEST_PATH_IMAGE016
表示调节后的值，
Figure 559405DEST_PATH_IMAGE017
表示人工操作之后的某段时间的点位数据，
Figure 231694DEST_PATH_IMAGE018
表示n维点位时间序列的第n个值，
Figure 198513DEST_PATH_IMAGE019
表示
Figure 829215DEST_PATH_IMAGE020
维的实数向量空间；
步骤2，将模型一输入
Figure 248695DEST_PATH_IMAGE021
模拟成问句经过分词处理后映射的向量空间，人工操作之后的某段时间的点位数据
Figure 927938DEST_PATH_IMAGE022
模拟成回复句经过分词处理后映射的向量空间；将模型一输入
Figure 640941DEST_PATH_IMAGE021
作为seq2seq模型中第一编码器Encoder的输入，人工操作之后的某段时间的点位数据
Figure 52331DEST_PATH_IMAGE022
作为seq2seq模型中第一解码器Decoder的输出，由此构建一个类seq2seq模型；
步骤3，采集包含
Figure 83741DEST_PATH_IMAGE001
个测量点位和
Figure 301096DEST_PATH_IMAGE002
个人工调节点位的监测设备的采样数据，将
Figure 508086DEST_PATH_IMAGE001
个测量点位和
Figure 215011DEST_PATH_IMAGE002
个人工调节点位的监测设备的采样数据及人工操作之后的某段时间的点位数据
Figure 609083DEST_PATH_IMAGE022
作为训练样本一，将训练样本一输入到步骤2得到的类seq2seq模型中，对类seq2seq模型进行训练，得到训练好的类seq2seq模型；
步骤4，预测时，采集
Figure 128664DEST_PATH_IMAGE001
个测量点位的监测设备的采样数据，作为待预测样本，将待预测样本输入到训练好的类seq2seq模型中，得到
Figure 783636DEST_PATH_IMAGE001
个测量点位人工操作后的变化趋势进行预测。
2.根据权利要求1所述基于transformer的设备点位预测方法，其特征在于：包括对无人为操作时设备点位的变动情况的预测，无人为操作时设备点位的变动情况的预测包括以下步骤：
步骤Ⅰ，采集
Figure 536829DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 808410DEST_PATH_IMAGE023
到
Figure 633147DEST_PATH_IMAGE024
的采样数据，将
Figure 283571DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 568184DEST_PATH_IMAGE023
到
Figure 202427DEST_PATH_IMAGE024
的采样数据作为模型二输入，则模型二输入为：
Figure 362013DEST_PATH_IMAGE025
其中，
Figure 460419DEST_PATH_IMAGE026
表示模型二输入，
Figure 289835DEST_PATH_IMAGE027
表示采样数据的开始监测时间，
Figure 270429DEST_PATH_IMAGE024
表示采样数据的结束监测时间，
Figure 374652DEST_PATH_IMAGE028
表示第m个时刻的测量点位数据，即由N个测量点位组成的N维向量，
Figure 357258DEST_PATH_IMAGE029
表示
Figure 951050DEST_PATH_IMAGE030
维的实数向量空间，
Figure 28728DEST_PATH_IMAGE001
表示测量点位个数，
Figure 795695DEST_PATH_IMAGE031
表示
Figure 540797DEST_PATH_IMAGE027
到
Figure 102229DEST_PATH_IMAGE024
时刻的有效样本数量；
模型二输出为：
Figure 496563DEST_PATH_IMAGE032
其中，
Figure 677009DEST_PATH_IMAGE033
表示N个测量点位在时间段
Figure 135672DEST_PATH_IMAGE024
到
Figure 8950DEST_PATH_IMAGE034
的点位数据预测，
Figure 185854DEST_PATH_IMAGE035
表示第m+n个时刻N个点位的预测结果，
Figure 232307DEST_PATH_IMAGE036
表示
Figure 686422DEST_PATH_IMAGE030
维的实数向量空间；
步骤Ⅱ，将模型二输入
Figure 377208DEST_PATH_IMAGE026
作为Informer模型输入，N个测量点位在时间段
Figure 916774DEST_PATH_IMAGE024
到
Figure 563656DEST_PATH_IMAGE034
的点位数据预测
Figure 200173DEST_PATH_IMAGE033
作为Informer模型输出，由此构建一个Informer模型；
步骤Ⅲ，采集
Figure 149675DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 301170DEST_PATH_IMAGE027
到
Figure 627110DEST_PATH_IMAGE024
的采样数据，将
Figure 619599DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 864635DEST_PATH_IMAGE027
到
Figure 644372DEST_PATH_IMAGE024
的采样数据及N个测量点位在时间段
Figure 633057DEST_PATH_IMAGE024
到
Figure 650691DEST_PATH_IMAGE034
的点位数据预测
Figure 535471DEST_PATH_IMAGE033
作为训练样本二，将训练样本二输入对Informer模型进行训练，得到训练好的Informer模型；
步骤Ⅳ，采集
Figure 894515DEST_PATH_IMAGE001
个测量点位在已经发生的某个时间段
Figure 562256DEST_PATH_IMAGE027
到
Figure 824610DEST_PATH_IMAGE024
的采样数据作为预测样本二，将预测样本二输入到训练好的Informer模型中，得到N个测量点位在时间段
Figure 880291DEST_PATH_IMAGE024
到
Figure 103462DEST_PATH_IMAGE034
的点位数据预测。
3.根据权利要求2所述基于transformer的设备点位预测方法，其特征在于：所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接。
4.根据权利要求3所述基于transformer的设备点位预测方法，其特征在于：所述第一编码器Encoder与第二编码器结构相同。
5.根据权利要求4所述基于transformer的设备点位预测方法，其特征在于：所述第一解码器Decoder与第二解码器结构相同。
6.一种如权利要求2所述基于transformer的设备点位预测方法的预测系统，其特征在于：包括Informer模型和类seq2seq模型，其中：
所述类seq2seq模型包括依次连接的第一输入层、第一编码器Encoder、第一解码器Decoder、第一输出层，所述第一输入层的输入为
Figure 699528DEST_PATH_IMAGE037
，所述第一输出层输出为
Figure 691755DEST_PATH_IMAGE038
；
所述Informer模型包括第二输入层一、第二编码器、第二解码器、第二输入层二、全连接层、第二输出层，所述输入层一与编码器连接，所述编码器与解码器通过串联特征映射连接，所述解码器分别与第二输入层二、全连接层连接，所述第二输出层与全连接层连接；所述第二输入层一输入为
Figure 216540DEST_PATH_IMAGE039
；所述第二输出层的输出为
Figure 989324DEST_PATH_IMAGE040
。
7.根据权利要求6所述预测系统，其特征在于：所述第一编码器Encoder与第二编码器结构相同。
8.根据权利要求7所述预测系统，其特征在于：所述第一解码器Decoder与第二解码器结构相同。
CN202210496808.8A 2022-05-09 2022-05-09 一种基于transformer的设备点位预测方法及系统 Active CN114580798B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210496808.8A CN114580798B (zh) 2022-05-09 2022-05-09 一种基于transformer的设备点位预测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210496808.8A CN114580798B (zh) 2022-05-09 2022-05-09 一种基于transformer的设备点位预测方法及系统

Publications (2)

Publication Number Publication Date
CN114580798A true CN114580798A (zh) 2022-06-03
CN114580798B CN114580798B (zh) 2022-09-16

Family

ID=81768925

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210496808.8A Active CN114580798B (zh) 2022-05-09 2022-05-09 一种基于transformer的设备点位预测方法及系统

Country Status (1)

Country Link
CN (1) CN114580798B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180032043A1 (en) * 2014-03-28 2018-02-01 Google Llc User-relocatable self-learning environmental control device capable of adapting previous learnings to current location in controlled environment
US20190132815A1 (en) * 2017-10-27 2019-05-02 Sentry Centers Holdings LLC Systems and methods for beacon integrated with displays
CN111612215A (zh) * 2020-04-18 2020-09-01 华为技术有限公司 训练时间序列预测模型的方法、时间序列预测方法及装置
CN111931905A (zh) * 2020-07-13 2020-11-13 江苏大学 一种图卷积神经网络模型、及利用该模型的车辆轨迹预测方法
CN112053004A (zh) * 2020-09-14 2020-12-08 胜斗士(上海)科技技术发展有限公司 用于时间序列预测的方法和装置
CN113269115A (zh) * 2021-06-04 2021-08-17 北京易航远智科技有限公司 一种基于Informer的行人轨迹预测方法
AU2021105525A4 (en) * 2021-08-15 2021-11-11 Sandeep Kumar Agrawal Mobile user trajectory prediction system with extreme machine learning algorithm
CN113988449A (zh) * 2021-11-05 2022-01-28 国家电网有限公司西北分部 基于Transformer模型的风电功率预测方法
CN114125709A (zh) * 2022-01-25 2022-03-01 南京安元科技有限公司 一种结合gis路网和蓝牙信标的实时数据挖掘定位的方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180032043A1 (en) * 2014-03-28 2018-02-01 Google Llc User-relocatable self-learning environmental control device capable of adapting previous learnings to current location in controlled environment
US20190132815A1 (en) * 2017-10-27 2019-05-02 Sentry Centers Holdings LLC Systems and methods for beacon integrated with displays
CN111612215A (zh) * 2020-04-18 2020-09-01 华为技术有限公司 训练时间序列预测模型的方法、时间序列预测方法及装置
CN111931905A (zh) * 2020-07-13 2020-11-13 江苏大学 一种图卷积神经网络模型、及利用该模型的车辆轨迹预测方法
CN112053004A (zh) * 2020-09-14 2020-12-08 胜斗士(上海)科技技术发展有限公司 用于时间序列预测的方法和装置
CN113269115A (zh) * 2021-06-04 2021-08-17 北京易航远智科技有限公司 一种基于Informer的行人轨迹预测方法
AU2021105525A4 (en) * 2021-08-15 2021-11-11 Sandeep Kumar Agrawal Mobile user trajectory prediction system with extreme machine learning algorithm
CN113988449A (zh) * 2021-11-05 2022-01-28 国家电网有限公司西北分部 基于Transformer模型的风电功率预测方法
CN114125709A (zh) * 2022-01-25 2022-03-01 南京安元科技有限公司 一种结合gis路网和蓝牙信标的实时数据挖掘定位的方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
LAN YOU，ET AL: "ST-Seq2Seq: A Spatio-Temporal Feature-Optimized Seq2Seq Model for Short-Term Vessel Trajectory Prediction", 《DIGITAL OBJECT IDENTIFIER》 *
QING TIAN，ET AL: "Probabilistic Forecasting Method of Metro Station Environment Based on Autoregressive LSTM Network", 《MATHEMATICAL PROBLEMS IN ENGINEERING》 *
田永林等: "视觉Transformer研究的关键问题：现状及展望", 《自动化学报》 *

Also Published As

Publication number Publication date
CN114580798B (zh) 2022-09-16

Similar Documents

Publication Publication Date Title
CN112101480B (zh) 一种多变量聚类与融合的时间序列组合预测方法
CN112838946B (zh) 基于通信网故障智能感知与预警模型的构建方法
CN111160620B (zh) 一种基于端到端记忆网络的短期风电功率预测方法
CN108399248A (zh) 一种时序数据预测方法、装置及设备
CN110287583B (zh) 基于循环神经网络的工业设备剩余寿命预测方法
Liu et al. Heating load forecasting for combined heat and power plants via strand-based LSTM
CN114239397A (zh) 基于动态特征提取与局部加权深度学习的软测量建模方法
Li et al. Deep spatio-temporal wind power forecasting
CN112507479B (zh) 一种基于流形学习和softmax的石油钻机健康状态评估方法
Ding et al. A convolutional transformer architecture for remaining useful life estimation
CN116541689A (zh) 多模态数据采集与标注方法、装置、计算机设备
CN115840893A (zh) 一种多变量时间序列预测方法及装置
CN117521512A (zh) 一种基于多尺度贝叶斯卷积Transformer模型的轴承剩余使用寿命预测方法
CN112381213A (zh) 一种基于双向长短期记忆网络的工业设备剩余寿命预测方法
CN116822920A (zh) 一种基于循环神经网络的流程预测方法
CN115482877A (zh) 一种基于时序图网络的发酵过程软测量建模方法
CN117634663A (zh) 一种铁路设备故障预测方法、系统以及电子设备
CN116975645A (zh) 一种基于vae-mrcnn的工业过程软测量建模方法
Yang et al. Teacher–Student Uncertainty Autoencoder for the Process-Relevant and Quality-Relevant Fault Detection in the Industrial Process
CN114648095A (zh) 一种基于深度学习的空气质量浓度反演方法
CN113609766A (zh) 一种基于深度概率潜隐模型的软测量方法
CN118035670A (zh) 基于Deep-Pred框架的台风风速预测方法及系统
CN117371608A (zh) 基于深度学习的猪舍多点位温湿度预测方法及系统
CN114580798B (zh) 一种基于transformer的设备点位预测方法及系统
CN117055527A (zh) 一种基于变分自编码器的工业控制系统异常检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder

Address after: 11-14 / F, tower a, Tengfei building, 88 Jiangmiao Road, yanchuangyuan, Jiangbei new district, Nanjing, Jiangsu Province 210000

Patentee after: Anyuan Technology Co.,Ltd.

Patentee after: Qiye cloud big data (Nanjing) Co.,Ltd.

Address before: 11-14 / F, tower a, Tengfei building, 88 Jiangmiao Road, yanchuangyuan, Jiangbei new district, Nanjing, Jiangsu Province 210000

Patentee before: NANJING ANYUAN TECHNOLOGY Co.,Ltd.

Patentee before: Qiye cloud big data (Nanjing) Co.,Ltd.

CP01 Change in the name or title of a patent holder