CN117494906B - 一种基于多元时间序列的天然气日负荷预测方法 - Google Patents
一种基于多元时间序列的天然气日负荷预测方法 Download PDFInfo
- Publication number
- CN117494906B CN117494906B CN202311830037.2A CN202311830037A CN117494906B CN 117494906 B CN117494906 B CN 117494906B CN 202311830037 A CN202311830037 A CN 202311830037A CN 117494906 B CN117494906 B CN 117494906B
- Authority
- CN
- China
- Prior art keywords
- time
- layer
- natural gas
- space
- dependence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 title claims abstract description 140
- 239000003345 natural gas Substances 0.000 title claims abstract description 70
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000036962 time dependent Effects 0.000 claims abstract description 17
- 230000001419 dependent effect Effects 0.000 claims abstract description 7
- 238000012549 training Methods 0.000 claims abstract description 6
- 238000007781 pre-processing Methods 0.000 claims abstract description 4
- 230000006870 function Effects 0.000 claims description 26
- 239000007789 gas Substances 0.000 claims description 13
- 230000004927 fusion Effects 0.000 claims description 12
- 239000011159 matrix material Substances 0.000 claims description 10
- 230000000737 periodic effect Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 6
- 230000000052 comparative effect Effects 0.000 claims description 3
- 230000003595 spectral effect Effects 0.000 claims description 3
- 238000012938 design process Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 abstract description 3
- 230000007774 longterm Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 8
- 238000013528 artificial neural network Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 239000013589 supplement Substances 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 238000012360 testing method Methods 0.000 description 4
- 238000000611 regression analysis Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 229910052799 carbon Inorganic materials 0.000 description 2
- 238000005265 energy consumption Methods 0.000 description 2
- 238000000547 structure data Methods 0.000 description 2
- 238000012300 Sequence Analysis Methods 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 239000003245 coal Substances 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 238000010248 power generation Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- General Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Game Theory and Decision Science (AREA)
- Operations Research (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- Educational Administration (AREA)
- Public Health (AREA)
- Water Supply & Treatment (AREA)
- General Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于多元时间序列的天然气日负荷预测方法。为了克服现有技术没有充分挖掘时间维度上的周期性、没有考虑用户之间的空间属性以及无法对区域性的天然气调度提供指导的问题;本发明包括MTTN模型训练和MTTN模型的使用两步。在MTTN模型的训练过程中,多元时间变量预处理,日期变量使用编码方式保留其周期性,其余的变量归一化处理;利用滑动窗口得到模型的数据集;使用包括时间依赖模块和空间依赖模块的MTTN提取时空特征;在模型在线使用的过程中,基于最新的M步多维特征输入模型,输出L步长的未来天然气负荷值。充分利用了多元时间序列变量的时空特征,设计过程简单,易于实施,能够有效对多个用户进行有效的天然气短期日负荷预测。
Description
技术领域
本发明涉及时间序列分析的能源使用预测领域,尤其涉及一种基于多元时间序列的天然气日负荷预测方法。
背景技术
在全球能源消耗持续攀升的背景下,天然气的一次能源消耗占24.7%,天然气作为低碳清洁能源,许多国家对天然气的需求正在迅速增加,预计到2030年将取代煤炭成为仅次于石油的世界第二大能源。
随着全球能源向绿色、低碳、环保的方向转型,一方面,天然气是城市发电、供热、制造业的主要动力来源,天然气需求的不确定性增加了天然气供应中断的风险,对社会和经济造成极大的威胁;另一方面,天然气负荷预测是天然气管理的基础,对天然气企业制定调度计划具有指导作用,减少不及时的调度所带来的经济损失。
天然气日负荷预测是一种短期预测,由于天然气与工业生产和人类活动紧密相关,准确的天然气日负荷预测将有利于天然气管网系统的运行效率,并减少系统成本。广泛采用的日前合约允许用户在工作日之前向供应商采购天然气,因此,准确的天然气日负荷预测在天然气调度系统中具有至关重要的作用。
在天然气负荷预测中,通常选择监测当前及历史天然气消耗情况来预测未来的天然气消耗情况。根据预测的范围,预测可分为短期预测、中期预测和长期预测。短期预测的时间粒度一般为小时或者日,主要用来指导用户层面的调度计划,中期预测的时间粒度一般是月或者季度,主要用来指导从上游气源站购气计划,长期预测一般是指以年为周期进行的预测,以指导管网系统的设计和检修。
之前关于每日天然气负荷预测的方法主要可分为回归分析法、时间序列法模型、人工神经网络和混合模型方法。
其中,回归分析法是通过建立历史消耗数据与影响因素之间的回归方程来进行预测;例如,一种在中国专利文献上公开的“一种天然气短期需求预测方法”,其公告号CN105894113A,在搜集各地区不同时期气象参数、历史负荷、用气结构基础上,利用MATLAB进行相关性分析确定负荷影响因素,通过人工神经网络、支持向量机、主成分分析预测、混合回归分析、节点倍比法、误差修正模型、自回归分布滞后模型分别进行预测,采用最优化技术和决策理论,根据虚拟预测结果确定各预测模型权重,得出模型预测值,最后根据各区域新增/减用户、用户检修等数据对模型预测值进行修正,得出最终预测结果。
时间序列模型方法通过估计时间变量序列中的统计参数,对未来的状态进行预测;例如,一种在中国专利文献上公开的“一种天然气时负荷预测方法”,其公告号CN109255730A,应用C-C法计算天然气时负荷时间序列的最佳嵌入维数和延迟时间,在相空间重构的基础上,提出应用Volterra自适应滤波器的天然气时负荷预测模型,对比不同阶数单步和多步Volterra自适应滤波器预测模型的预测性能。
然而,由于回归模型的结构形式简单,时间序列模型方法需要充分分析时间序列的统计特性,很难拟合天然气消耗与影响因素之间的非线性关系。因此在天然气每日负荷预测上存在较大的局限性。
首先,现有的方法没有充分挖掘时间维度上的周期性,使得实际预测效果并不理想。
其次,之前的方法集中研究用户的历史观察值和外生变量对预测的影响,没有考虑用户之间的空间属性,信息利用不足。
最后,现有的方法仅针对单一用户的预测,无法对区域性的天然气调度提供指导,缺乏落地应用价值。
发明内容
本发明主要解决现有技术没有充分挖掘时间维度上的周期性、没有考虑用户之间的空间属性以及仅针对单一用户的预测,无法对区域性的天然气调度提供指导的问题;提供一种基于多元时间序列的天然气日负荷预测方法,不仅考虑了时间维度上天然气消耗与日期、天气因素等外部特征的关系,也考虑利用各个用户之间的空间关系建立负荷预测模型,同步预测多个用户的短期预测。
本发明的上述技术问题主要是通过下述技术方案得以解决的:
一种基于多元时间序列的天然气日负荷预测方法,包括以下步骤:
S1:收集一段时间内的天然气用气情况数据及对应日期的天气数据;
将日期生成对应的日期变量,对日期变量以周期编码方式编码;对于天然气用气情况数据和天气数据采用标准归一化的方式预处理;
S2:对于处理后的数据采用滑动窗口的方式分割成多维特征集和下一阶段时间内用气量的目标集;
S3:构建基于时间依赖和空间依赖的多元时间序列Transformer负荷预测模型,利用网络搜索策略寻找模型的最优参数,完成模型训练;
S4:在线使用时,基于最新的M步多维特征输入模型,输出L步长的未来天然气负荷值。
提出了一个新的Transformer变体,称为多元时间序列Transformer网络(MTTN),以解决天然气消费数据序列中复杂的时间依赖。与以往预测不同时间跨度的天然气消费的工作不同,模型通过设计一个空间-时间块来动态地模拟长期的空间-时间依赖关系,考虑了多个用户之间的空间依赖关系。为了捕捉多个用户之间的动态空间关系,设计了一个空间依赖关系模型,可以动态地增加新的用户,以避免重建用户网络。还使用一个图卷积神经网络来补充空间依赖关系。对于单步和多步预测,设计了一个时间依赖模型来挖掘长期的时间依赖关系。由于天然气的用气量呈现出很强的周期性,采用卷积加关注机制的形式来考虑时间序列的区域信息。
作为优选,所述的标准归一化表达为:
其中,表示某一时间序列变量;
为该变量的均值;
表示该时间变量的标准差;
表示标准归一化后的数据。
作为优选,将日期划分为工作日、周末和节假日三种状态,采用独热编码处理;
对于日期变量中的“月”变量和“周”变量,采用正弦余弦编码方式将一维时间信息编码为二维信息;使用周期性的数值代替单独的数值特征。
对于日期变量中的“日”变量,使用径向基函数编码处理。选择特定的基函数数量可以观测信息来自哪一年的哪一天。
采取数值编码的方式将会忽略日期变量的周期性。为了让日期变量的连续周期性传递给模型,分别使用独热编码、正弦余弦编码和径向基函数(RBF)编码处理节假日、周末、月、周与日等周期属性。
作为优选,所述的独热编码表示为:
。
考虑到了对用户的影响。根据以往的经验,工作日和周末对天然气的用气有很大影响,除此以外,节假日影响了人们的出行和生活,也作为一种情况考虑。
作为优选,所述的正弦余弦编码表示为:
其中,max是时间序列x的最大值;
是数值使用正弦表达的编码值;
是数值使用余弦表达的编码值。
采用正弦余弦编码方式将一维时间信息编码为二维信息;使用周期性的数值代替单独的数值特征。
作为优选,径向基函数编码表示为:
其中,为时间戳;
p为周期长度;
为第i个基函数的中心时间;
为基函数的权重;
为径向基函数。
通常情况下,径向基函数被设定为高斯函数的形式。选择特定的基函数数量可以观测信息来自哪一年的哪一天。
作为优选,所述的多元时间序列Transformer负荷预测模型包括空间依赖模块、时间依赖模块和输出层;输出层为一个全连接层;
两个时间依赖模块之间夹一个空间依赖模块构成一个时空块,若干个时空块依次连接,最后与全连接层连接。
模型通过设计一个空间-时间块来动态地模拟长期的空间-时间依赖关系,考虑了多个用户之间的空间依赖关系。
作为优选,所述的空间依赖模块包括空间位置编码层、动态图卷积层、ChebyNet层和融合动态卷积特征与ChebyNet特征的动态融合层;
空间邻接信息通过空间位置编码层将信息编码,分别输入到动态图卷积层和ChebyNet层获取空间信息的动态和固定空间依赖,两种依赖关系最后输入到动态融合层,通过自适应学习两种依赖的权重,输出最后的空间依赖信息。
为了捕捉多个用户之间的动态空间关系,设计了一个空间依赖关系模型,可以动态地增加新的用户,以避免重建用户网络。还使用一个图卷积神经网络来补充空间依赖关系。
作为优选,所述的ChebyNet层具体表达为:
其中,v表示ChebyNet层的输入;
y表示ChebyNet层的输出;
是谱域上的滤波器;
是待学习的傅里叶系数向量;
U和是L的特征向量矩阵和特征值的对角矩阵;
和/>是进行比例计算;
是对比例拉普拉斯矩阵K阶切比雪夫多项式的计算;
是多项式的系数。
作为优选,所述的时间依赖模块包括时间位置编码层、时间卷积层、动态时间依赖层和融合时间卷积特征与动态时间依赖特征的动态融合层;
时间序列信息通过时间位置编码层将序列编码,分别输入到动态时间依赖层和时间卷积层获取时间的动态和固定依赖关系,将这两种时间依赖关系输入到动态融合层,通过自适应学习这两种依赖的权重,输出最后融合的时间依赖信息。对于单步和多步预测,设计了一个时间依赖模型来挖掘长期的时间依赖关系。
本发明的有益效果是:
1.模型通过设计一个空间-时间块来动态地模拟长期的空间-时间依赖关系,考虑了多个用户之间的空间依赖关系。充分利用了多元时间序列变量的时空特征,设计过程简单,易于实施,能够有效对多个用户进行有效的天然气短期日负荷预测。
2.为了捕捉多个用户之间的动态空间关系,设计了一个空间依赖关系模型,可以动态地增加新的用户,以避免重建用户网络;使用一个图卷积神经网络来补充空间依赖关系。
3.对于单步和多步预测,设计了一个时间依赖模型来挖掘长期的时间依赖关系。
4.由于天然气的用气量呈现出很强的周期性,采用卷积加关注机制的形式来考虑时间序列的区域信息。
附图说明
图1是本发明的基于多元时间序列的天然气短期日负荷预测方法流程图。
图2是本发明基于多用户信息的图结构数据示意图。
图3是本发明正弦余弦编码后的相关日期变量图。
图4是本发明RBF编码后的相关日期变量图。
图5是本发明基于多元时间序列的天然气短期日负荷的网络框架图。
图6是本发明的空间依赖模块网络连接图。
图7是本方面的时间依赖模块网络连接图。
图8为预测长度为1天时,预测值与真实值的拟合效果图。
图9为预测长度为7天时,预测值与真实值的拟合效果图。
具体实施方式
下面通过实施例,并结合附图,对本发明的技术方案作进一步具体的说明。
实施例:
本实施例的基于多元时间序列的天然气短期日负荷方法,如图1所示,包括以下步骤:
S1:收集一段时间内的天然气用气情况数据及对应日期的天气数据,并对收集到的数据进行预处理。
在本实施例中,收集了某省101个用户从2012年1月1日至2020年12月31日,共计3188天的天然气日消耗数据及其对应日期的天气数据,其中日期变量根据对应的日期自动生成年、月、日等日期变量数据。
对于天然气用气情况数据和天气数据,采用标准归一化(Z-score)的方式对数据进行预处理。具体的,标准归一化表达为:
其中,表示某一时间序列变量;
为该变量的均值;
表示该时间变量的标准差;
表示标准归一化后的数据。
为了充分利用空间信息,使用图来建模用户网络。在本实施例中,采用图来构建用户网络,用户的历史观测值/>通过图连接起来。
因此,历史观测值可以看作是定义在图/>上的图信号,如图2所示。在第t个时间步长,在图/>中,/>是一个有限的顶点集合,对应用户网络中N个用户的历史观测值;/>是图结构中边,表示第t个时间步长时,两个用户之间的关联性;A是图结构的邻接矩阵,表示所有用户之间的连接性。
将所有多元变量特征构建成图数据的形式,便于后续模型提取用户之间的空间关系。
将日期生成对应的日期变量,对日期变量以周期编码方式编码。将图结构数据上生成的日期变量进行周期编码方式进行编码,这是因为采取数值编码的方式将会忽略日期变量的周期性。
为了让日期变量的连续周期性传递给模型,分别使用独热编码、正弦余弦编码和径向基函数(RBF)编码处理节假日、周末、月、周与日等周期属性。
其中,考虑到对用户的影响,将日期分为工作日、周末和节假日三种状态,使用独热编码进行处理。独热编码表示为:
根据以往的经验,工作日和周末对天然气的用气有很大影响,除此以外,节假日影响了人们的出行和生活,也作为一种情况考虑。
对于“月”和“周”这两个日期变量,利用正弦余弦编码方式将一维时间信息编码为二维信息,使用周期性的数值(sin.cos)代替单独的数值特征。如图3所示,正弦余弦编码根据不同的日期变量转换成不同的编码值,途中是对12个月进行编码,这种编码方式使得相邻的月份有了联系。正弦余弦编码表示为:
其中,max是时间序列x的最大值;
是数值使用正弦表达的编码值;
是数值使用余弦表达的编码值。
使用径向基函数(RBF)对“日”这一日期进行编码,选择特定的基函数数量可以观测信息来自哪一年的哪一天。对于RBF编码,在本实施例中,使用12个基函数,使得时间信息的连续性得以保留,如图4所示,展示了每年中每日的编码关系。径向基函数编码表示为:
其中,为时间戳;
p为周期长度;
为第i个基函数的中心时间;
为基函数的权重;
为径向基函数。
通常情况下,径向基函数被设定为高斯函数的形式。
使用正余弦编码和径向基函数(RBF)编码对日期变量编码,在这种编码方式下,日期不单单只是数值的表示,具备了周期性的因素。
S2:对于处理后的数据采用滑动窗口的方式分割成多维特征集和下一阶段时间内用气量的目标集。
利用滑动窗口的机制,设定窗口的长度,将整理完毕的数据集通过滑动的方式分割成多维特征集和下一阶段时间内用气量的目标集。在本实施例中,M=12,L=1或L=7。
生成的多维特征集和目标集一一对应,并按照8:1:1比例划分训练集、验证集和测试集。
S3:构建基于时间依赖和空间依赖的多元时间序列Transformer负荷预测模型,利用网络搜索策略寻找模型的最优参数,完成模型训练。
构建基于时间依赖和空间依赖的多元时间序列Transformer负荷预测模型,模型的输入为t时刻前M步长多维特征集,输出为下一阶段L步长的负荷预测值,利用网络搜索策略寻找模型的最优参数。
本实施例的多元时间序列Transformer负荷预测模型包括空间依赖模块、时间依赖模块和输出层。
如图5所示,空间依赖模块与时间依赖模块构成时空块,由两个时间依赖模块夹一个空间模块堆叠“三明治”这种结构,输出层由一个全连接层组成。两个时间依赖模块之间夹一个空间依赖模块构成一个时空块,若干个时空块依次连接,最后与全连接层连接。
模型通过设计一个空间-时间块来动态地模拟长期的空间-时间依赖关系,考虑了多个用户之间的空间依赖关系。
如图6所示,空间依赖模块包括空间位置编码层、动态图卷积层、ChebyNet层和融合动态卷积特征与ChebyNet特征的动态融合层。
空间邻接信息通过空间位置编码层将信息编码,分别输入到动态图卷积层和ChebyNet层获取空间信息的动态和固定空间依赖,两种依赖关系最后输入到动态融合层,通过自适应学习两种依赖的权重,输出最后的空间依赖信息。
为了捕捉多个用户之间的动态空间关系,设计了一个空间依赖关系模型,可以动态地增加新的用户,以避免重建用户网络。还使用一个图卷积神经网络来补充空间依赖关系。
其中,ChebyNet层具体表达为:
其中,v表示ChebyNet层的输入;
y表示ChebyNet层的输出;
是谱域上的滤波器;
是待学习的傅里叶系数向量;
U和是L的特征向量矩阵和特征值的对角矩阵;
和/>是进行比例计算;
是对比例拉普拉斯矩阵K阶切比雪夫多项式的计算;
是多项式的系数。
空间依赖考虑不同用户之间的相似性、连通性等,捕获用户之间的连接关系。
如图7所示,时间依赖模块包括时间位置编码层、时间卷积层、动态时间依赖层和融合时间卷积特征与动态时间依赖特征的动态融合层。
时间序列信息通过时间位置编码层将序列编码,分别输入到动态时间依赖层和时间卷积层获取时间的动态和固定依赖关系,将这两种时间依赖关系输入到动态融合层,通过自适应学习这两种依赖的权重,输出最后融合的时间依赖信息。对于单步和多步预测,设计了一个时间依赖模型来挖掘长期的时间依赖关系。
时间依赖模块利用时间Transformer使用卷积网络提取多元时序的上下文信息再使用多头注意力机制学习节点的关系,并且使用多尺度因果卷积补充时间维度隐藏的信息,用于开发建模时间步长上的时间依赖,
当预测的长度为1天和7天时,输出了燃气数据集中测试集2020年1月1日到2020年12月31日的拟合可视化结果,图8为预测长度为1天时,预测值与真实值的拟合效果图,测试阶段的MAPE=0.0673,WMAPE=0.0589。图9为预测长度为7天时,预测值与真实值的拟合效果图,测试阶段的MAPE=0.1213,WMAPE=0.1661。
S4:在线使用时,基于最新的M步多维特征输入模型,输出L步长的未来天然气负荷值。
在线使用时,首先从数据库调取最新的数据,然后重新训练模型,如果数据没有更新,则使用上一次的模型参数。基于最新的M步多维特征输入模型后,输出L步长的未来天然气负荷值。
通过一个网络端口访问预测值,提供两个参数,分别是预测长度L和用户名字user_name。
本实施例的方案提出了一个新的Transformer变体,称为多元时间序列Transformer网络(MTTN),以解决天然气消费数据序列中复杂的时间依赖。与以往预测不同时间跨度的天然气消费的工作不同,模型通过设计一个空间-时间块来动态地模拟长期的空间-时间依赖关系,考虑了多个用户之间的空间依赖关系。为了捕捉多个用户之间的动态空间关系,设计了一个空间依赖关系模型,可以动态地增加新的用户,以避免重建用户网络。还使用一个图卷积神经网络来补充空间依赖关系。对于单步和多步预测,设计了一个时间依赖模型来挖掘长期的时间依赖关系。由于天然气的用气量呈现出很强的周期性,采用卷积+关注机制的形式来考虑时间序列的区域信息。充分利用了多元时间序列变量的时空特征,设计过程简单,易于实施,能够有效对多个用户进行有效的天然气短期日负荷预测。
应理解,实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
Claims (7)
1.一种基于多元时间序列的天然气日负荷预测方法,其特征在于,包括以下步骤:
S1:收集一段时间内的天然气用气情况数据及对应日期的天气数据;
将日期生成对应的日期变量,对日期变量以周期编码方式编码;对于天然气用气情况数据和天气数据采用标准归一化的方式预处理;
对于日期变量中的“月”变量和“周”变量,采用正弦余弦编码方式将一维时间信息编码为二维信息;
对于日期变量中的“日”变量,使用径向基函数编码处理;
S2:对于处理后的数据采用滑动窗口的方式分割成多维特征集和下一阶段时间内用气量的目标集;
S3:构建基于时间依赖和空间依赖的多元时间序列Transformer负荷预测模型,利用网络搜索策略寻找模型的最优参数,完成模型训练;
所述的多元时间序列Transformer负荷预测模型包括空间依赖模块、时间依赖模块和输出层;所述的输出层为一个全连接层;
两个时间依赖模块之间夹一个空间依赖模块构成一个时空块,若干个时空块依次连接,最后与全连接层连接;
所述的空间依赖模块包括空间位置编码层、动态图卷积层、ChebyNet层和融合动态卷积特征与ChebyNet特征的动态融合层;
空间邻接信息通过空间位置编码层将信息编码,分别输入到动态图卷积层和ChebyNet层获取空间信息的动态和固定空间依赖,两种依赖关系最后输入到动态融合层,通过自适应学习两种依赖的权重,输出最后的空间依赖信息;
所述的时间依赖模块包括时间位置编码层、时间卷积层、动态时间依赖层和融合时间卷积特征与动态时间依赖特征的动态融合层;
时间序列信息通过时间位置编码层将序列编码,分别输入到动态时间依赖层和时间卷积层获取时间的动态和固定依赖关系,将这两种时间依赖关系输入到动态融合层,通过自适应学习这两种依赖的权重,输出最后融合的时间依赖信息;
S4:在线使用时,基于最新的M步多维特征输入模型,输出L步长的未来天然气负荷值。
2.根据权利要求1所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,所述的标准归一化表达为:
;
其中,表示某一时间序列变量;
为该变量的均值;
表示该时间变量的标准差;
表示标准归一化后的数据。
3.根据权利要求1或2所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,将日期划分为工作日、周末和节假日三种状态,采用独热编码处理。
4.根据权利要求3所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,所述的独热编码表示为:
。
5.根据权利要求3所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,所述的正弦余弦编码表示为:
;
;
其中,max是时间序列x的最大值;
是数值使用正弦表达的编码值;
是数值使用余弦表达的编码值。
6.根据权利要求3所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,径向基函数编码表示为:
;
;
其中,为时间戳;
p为周期长度;
为第i个基函数的中心时间;
为基函数的权重;
为径向基函数。
7.根据权利要求1所述的一种基于多元时间序列的天然气日负荷预测方法,其特征在于,所述的ChebyNet层具体表达为:
;
其中,v表示ChebyNet层的输入;
y表示ChebyNet层的输出;
是谱域上的滤波器;
是待学习的傅里叶系数向量;
U和是L的特征向量矩阵和特征值的对角矩阵;
和/>是进行比例计算;
是对比例拉普拉斯矩阵K阶切比雪夫多项式的计算;
是多项式的系数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311830037.2A CN117494906B (zh) | 2023-12-28 | 2023-12-28 | 一种基于多元时间序列的天然气日负荷预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311830037.2A CN117494906B (zh) | 2023-12-28 | 2023-12-28 | 一种基于多元时间序列的天然气日负荷预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117494906A CN117494906A (zh) | 2024-02-02 |
CN117494906B true CN117494906B (zh) | 2024-03-29 |
Family
ID=89676745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311830037.2A Active CN117494906B (zh) | 2023-12-28 | 2023-12-28 | 一种基于多元时间序列的天然气日负荷预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117494906B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117828308A (zh) * | 2024-03-04 | 2024-04-05 | 山东捷瑞数字科技股份有限公司 | 基于局部分段的时间序列预测方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112884230A (zh) * | 2021-02-26 | 2021-06-01 | 润联软件系统(深圳)有限公司 | 基于多元时间序列的电力负荷预测方法、装置及相关组件 |
CA3109505A1 (en) * | 2020-02-18 | 2021-08-18 | Royal Bank Of Canada | System and method for weather dependent machine learning architecture |
CN114124734A (zh) * | 2021-11-20 | 2022-03-01 | 四川大学 | 一种基于GCN-Transformer集成模型的网络流量预测方法 |
CN114519469A (zh) * | 2022-02-22 | 2022-05-20 | 重庆大学 | 一种基于Transformer框架的多变量长序列时间序列预测模型的构建方法 |
CN114819340A (zh) * | 2022-04-24 | 2022-07-29 | 浙江浙能天然气运行有限公司 | 一种用于天然气日负荷的时序预测方法 |
CN116092294A (zh) * | 2023-03-02 | 2023-05-09 | 长沙理工大学 | 一种基于Transformer与图注意力网络的高速公路交通流量预测方法 |
CN116895157A (zh) * | 2023-08-07 | 2023-10-17 | 湖北工业大学 | 一种基于趋势时空图卷积的交通流量预测方法、系统及介质 |
CN117113054A (zh) * | 2023-08-24 | 2023-11-24 | 南京财经大学 | 一种基于图神经网络和Transformer的多元时间序列预测方法 |
-
2023
- 2023-12-28 CN CN202311830037.2A patent/CN117494906B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA3109505A1 (en) * | 2020-02-18 | 2021-08-18 | Royal Bank Of Canada | System and method for weather dependent machine learning architecture |
CN112884230A (zh) * | 2021-02-26 | 2021-06-01 | 润联软件系统(深圳)有限公司 | 基于多元时间序列的电力负荷预测方法、装置及相关组件 |
CN114124734A (zh) * | 2021-11-20 | 2022-03-01 | 四川大学 | 一种基于GCN-Transformer集成模型的网络流量预测方法 |
CN114519469A (zh) * | 2022-02-22 | 2022-05-20 | 重庆大学 | 一种基于Transformer框架的多变量长序列时间序列预测模型的构建方法 |
CN114819340A (zh) * | 2022-04-24 | 2022-07-29 | 浙江浙能天然气运行有限公司 | 一种用于天然气日负荷的时序预测方法 |
CN116092294A (zh) * | 2023-03-02 | 2023-05-09 | 长沙理工大学 | 一种基于Transformer与图注意力网络的高速公路交通流量预测方法 |
CN116895157A (zh) * | 2023-08-07 | 2023-10-17 | 湖北工业大学 | 一种基于趋势时空图卷积的交通流量预测方法、系统及介质 |
CN117113054A (zh) * | 2023-08-24 | 2023-11-24 | 南京财经大学 | 一种基于图神经网络和Transformer的多元时间序列预测方法 |
Non-Patent Citations (1)
Title |
---|
基于混沌理论和Volterra自适应滤波器的天然气负荷预测;乔伟彪;陈保东;卢泓方;;中国科学:技术科学;20150120(01);第91-102页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117494906A (zh) | 2024-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113962364B (zh) | 一种基于深度学习的多因素用电负荷预测方法 | |
López et al. | Application of SOM neural networks to short-term load forecasting: The Spanish electricity market case study | |
Hu et al. | Hybrid filter–wrapper feature selection for short-term load forecasting | |
Khotanzad et al. | A neuro-fuzzy approach to short-term load forecasting in a price-sensitive environment | |
CN117494906B (zh) | 一种基于多元时间序列的天然气日负荷预测方法 | |
CN109800898A (zh) | 一种智能短期负荷预测方法及系统 | |
Ozozen et al. | A combined seasonal ARIMA and ANN model for improved results in electricity spot price forecasting: Case study in Turkey | |
CN109409561B (zh) | 多时间尺度时间序列协同预测模型的构建方法 | |
CN111680841B (zh) | 基于主成分分析的短期负荷预测方法、系统及终端设备 | |
CN116186548B (zh) | 电力负荷预测模型训练方法及电力负荷预测方法 | |
Rathnayaka et al. | Taylor series approximation and unbiased GM (1, 1) based hybrid statistical approach for forecasting daily gold price demands | |
CN110889560A (zh) | 一种具有深度可解释性的快递序列预测的方法 | |
CN114626640A (zh) | 基于特征工程和lstm神经网络的天然气负荷预测方法及系统 | |
CN113887809A (zh) | 双碳目标下配电网供需平衡方法、系统、介质及计算设备 | |
CN117725537A (zh) | 实时计量数据处理平台 | |
Zheng et al. | Short-term energy consumption prediction of electric vehicle charging station using attentional feature engineering and multi-sequence stacked Gated Recurrent Unit | |
Wang et al. | Cloud computing and extreme learning machine for a distributed energy consumption forecasting in equipment-manufacturing enterprises | |
Benalcazar et al. | Short-term heat load forecasting in district heating systems using artificial neural networks | |
CN109034453A (zh) | 一种基于多标记神经网络的短期电力负荷预测方法 | |
Guan et al. | Advanced load forecast with hierarchical forecasting capability | |
Greitemann et al. | Quantitative model of the technology lifecycle for forecasting the maturity of manufacturing technologies | |
CN112330017A (zh) | 电力负荷预测方法、装置、电子设备和存储介质 | |
Rahman et al. | A Hybrid Deep Neural Network Model to Forecast Day-Ahead Electricity Prices in the USA Energy Market | |
Çetinkaya et al. | Next-Day Electricity Demand Forecasting Using Regression | |
CN117977587B (zh) | 基于深度神经网络的电力负荷预测系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |