CN110569279B - 基于变量投影算法的时间序列信号重建方法 - Google Patents
基于变量投影算法的时间序列信号重建方法 Download PDFInfo
- Publication number
- CN110569279B CN110569279B CN201910783006.3A CN201910783006A CN110569279B CN 110569279 B CN110569279 B CN 110569279B CN 201910783006 A CN201910783006 A CN 201910783006A CN 110569279 B CN110569279 B CN 110569279B
- Authority
- CN
- China
- Prior art keywords
- model
- fnn
- time series
- series signal
- optimization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/043—Architecture, e.g. interconnection topology based on fuzzy logic, fuzzy membership or fuzzy inference, e.g. adaptive neuro-fuzzy inference systems [ANFIS]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Automation & Control Theory (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Complex Calculations (AREA)
Abstract
本发明公开了一种基于变量投影算法的时间序列信号重建方法,采用FNN网络来拟合准线性AR模型的时变系数,构造出FNN‑AR模型,并对时间序列进行信号重建。由于FNN‑AR模型将复杂度分散到各回归项中,因此可有效降低模型中各FNN网络的阶次。本发明充分利用FNN‑AR模型参数可分离的结构特点,设计了一种高效的变量投影算法对FNN‑AR模型的参数进行优化,该方法较一般的非线性参数优化方法具有更高的优化效率和精度。
Description
技术领域
本发明涉及时间序列信号的重建方法,特别是一种基于变量投影算法的时间序列信号重建方法。
背景技术
伴随着信息采集技术的快速发展,很多研究领域,比如:经济学、气象学、生物学等已积累了大量的数据,而这些数据大都是以时间序列形式展现的。针对这类时间序列数据,研究者们所面临的一个挑战性问题是,如何对这些时间序列数据信号进行重建。比如,信息系统科学中的基于数据的系统辨识方法就采用了大量的时间序列数据进行信号重建。由于时间序列的易获取性与广泛存在性,时间序列的信号重建研究具有重要的理论与现实意义。到目前为止,研究者们已提出了众多的时间序列重建模型,比如:Volterra级数模型、Hammerstein模型、指数自回归模型、模糊系统模型、变系数结构模型等。已有研究表明,如果采用时变系数的准线性自回归结构(AR)模型来对时间序列进行信号重建往往会得到较好的效果。
神经网络(RBF)因其较强的函数逼近能力,可用于拟合准线性自回归模型的时变系数,进而得到RBF-AR模型,该类模型已被广泛应用于时间序列信号重建、非线性系统建模等。虽然,RBF网络具有较强的函数逼近能力,但不适合利用已有的经验知识,对一些具有强随机性、不确定性的时间序列的处理能力有一定的局限性。而模糊逻辑与神经网络的融合—模糊神经网络(FNN),由于吸取了模糊逻辑和神经网络各自的优点,可更有效的重建时间序列的不确定性等问题。但由于实际中时间序列的复杂性,为了达到较高的重建精度,FNN网络通常需要较高的阶次,这又会进一步造成后续模型参数优化的实时性问题。因此,本发明将采用FNN网络来拟合准线性AR模型的时变系数,构造出FNN-AR模型,并对时间序列进行信号重建。由于FNN-AR模型将复杂度分散到各回归项中,因此可有效降低FNN网络的阶次。一个模型的性能,除了模型本身之外,优化模型参数的方法也是至关重要的。传统方法是通过最小化建模误差平方和准则函数得到模型的参数,该类方法通常不考虑具体模型的结构特点,因此优化过程效率较低。因此,如何充分利用待优化模型的结构特点,对模型参数进行分类优化,以期能显著提高模型参数的优化效率是一个有待解决的问题。
发明内容
本发明所要解决的技术问题是,针对现有技术不足,提供一种基于变量投影算法的时间序列信号重建方法,提高非线性参数优化方法的优化效率和精度。
为解决上述技术问题,本发明所采用的技术方案是:一种一种基于变量投影算法的时间序列信号重建方法,包括以下步骤:
1)采集用于FNN-AR建模的时间序列信号数据集{y(1),y(2),...,y(M)};
2)利用所述时间序列信号数据集构建FNN-AR模型;
其中:y(t)为第t个时间序列信号的值;ξ(t)为第t个采样时刻的建模误差;φ0(y(t-1))和φy,i(y(t-1))为系数;
3)将步骤2)中的FNN-AR模型转换成参数分离的结构形式;
4)对FNN-AR模型的线性参数θL和非线性参数θN进行优化;
5)针对不同阶次的FNN-AR模型分别采用步骤4)方法进行参数优化,最终采用最小信息量准则判断时间序列信号的最优FNN-AR模型,利用该最优FNN-AR模型进行时间序列信号重建。
系数φ0(y(t-1))和φy,i(y(t-1))的具体结构如下:
步骤3)中,FNN-AR模型参数分离的结构形式如下:
y(t)=μ(θN,y(t-1))TθL+ξ(t);
步骤4)的具体实现过程包括:
1)定义FNN-AR模型参数优化的目标函数如下:
其中,E(θL,θN)=(eg+1(θL,θN),eg+2(θL,θN),...,eM(θL,θN))T,且et(θL,θN)=y(t)-μ(θN,y(t-1))TθL,g=max(m,n);则FNN-AR模型的参数优化问题转化为
2)设θN已知,则FNN-AR模型的线性参数θL=Φ(θN)-y,其中Φ(θN)-为矩阵Φ(θN)的Moore-Penrose逆,且Φ(θN)=(μ(θN,y(g+1)),μ(θN,y(g+2)),...μ(θN,y(M)))T,y=(y(g+1),y(g+2),...y(M))T;则参数优化目标函数转化为选择该优化问题的雅可比矩阵形式为:其中D(Φ(θN))为Φ(θN)的Frechet导数,得到雅可比矩阵J后,利用高斯-牛顿算法,得到非线性参数的更新方向为dk=-((Jk)TJk)-1(Jk)Trk,其中Jk为k时刻J的值,rk为k时刻r的值,且r=(I-Φ(θN)Φ(θN)-)y;更新方向dk的基础上使用线性搜索更新下一步的非线性参数其中α为搜索步长并采用混合三次多项式内插法确定;当本次优化的目标函数与其上一步优化的值相减偏差小于优化终止条件,或优化次数达到最大迭代次数P时,整个优化过程结束,此时模型的线性参数集通过θL=Φ(θN)-y计算得到。
步骤5)的具体实现过程包括:定义FNN-AR模型的AIC=-2(M-g)log(V(θL,θN))+8(m×(n+1)),针对不同的模型阶次(m,n)对模型参数进行优化,寻找一个使FNN-AR模型AIC值最小的阶次(m,n)来作为时间序列信号的FNN-AR模型。
与现有技术相比,本发明所具有的有益效果为:本发明采用FNN网络来拟合准线性AR模型的时变系数,构造出FNN-AR模型,并对时间序列进行信号重建。由于FNN-AR模型将复杂度分散到各回归项中,因此可有效降低模型中各FNN网络的阶次。本发明充分利用FNN-AR模型参数可分离的结构特点,设计了一种高效的变量投影算法对FNN-AR模型的参数进行优化,该方法较一般的非线性参数优化方法具有更高的优化效率和精度。
附图说明
图1为本发明具体实施方式中时间序列信号(SML2010-IT)的波形图。
图2为本发明具体实施方式中重构出的时间序列信号(SML2010-IT)的波形图。
图3为本发明具体实施方式中图1和图2之间的重构误差。
具体实施方式
本发明以公开的标准测试UCI数据库(说明详见参考文献:M.Lichman.(2013).UCIMachine Learning Repository Irvine.University of California.Irvine,CA,USA.[Online].Available:http://archive.ics.uci.edu/ml)中的SML2010数据集中的室内餐厅温度(SML2010-IT)时间序列为例说明其具体实施方式。
针对SML2010-IT时间序列信号,本发明所述一种基于变量投影算法的时间序列信号重建方法具体实施方式如下:
步骤1:采集用于FNN-AR建模的SML2010-IT时间序列信号数据集{y(1),y(2),...,y(1600)}如图1所示,其中数据集的采样周期为15分钟,采集温度的单位为摄氏度。
步骤2:设计用于对SML2010-IT时间序列信号进行重构的FNN-AR模型结构如下:
其中:y(t)为第t个时间序列信号的值;ξ(t)为第t个采样时刻的建模误差;系数φ0(y(t-1))和φy,i(y(t-1))的具体结构如下:
步骤3:将步骤(2)中的FNN-AR模型转换成如下参数分离的结构形式:
y(t)=μ(θN,y(t-1))TθL+ξ(t) (3)
步骤4:采用如下改进的变量投影算法对FNN-AR模型的线性参数θL和非线性参数θN进行优化:
当k<P时:
计算此时的优化目标函数:
其中,g=max(m,n),为矩阵的Moore-Penrose逆,Φ(θN)=(μ(θN,y(g+1)),μ(θN,y(g+2)),...μ(θN,y(1600)))T,y=(y(g+1),y(g+2),...y(1600))T。
计算此时目标函数的雅可比矩阵:
计算下一步的优化目标函数:
步骤5:针对不同的FNN-AR模型阶次(m,n)反复采用步骤(4)对模型参数进行优化,最终利用最小信息量准则(AIC)选择时间序列信号的最优FNN-AR模型。
定义FNN-AR模型的AIC值如下:
AIC=-2(1600-g)log(V(θL,θN))+8(m×(n+1)) (8)
针对不同的模型阶次(m,n)反复采用步骤(4)对模型参数进行优化,寻找一个可使FNN-AR模型AIC值最小的阶次(m,n)来作为时间序列信号的FNN-AR模型。本实施例最终选择的FNN-AR模型阶次为(m=1,n=5),采用步骤4优化出的FNN-AR模型具体参数为:线性参数θL=(0.1945,0.05,1.3512,1.6641,0.1307,-0.4963)T,非线性参数θN=(-0.4749,28.8653,1.7213,-0.0525,13.2124,1.2589,0.2199,24.9825,0.9812,0.3443,17.4771,1.1542,0.1633,25.0786,0.9632,-0.0885,16.8472,2.1543)T。此时,步骤4优化出的FNN-AR模型对图1所示SML2010-IT时间序列信号的重构结果如图2所示,图1和图2之间的重构误差如图3所示,由图3可以看出本发明提出方法可以较好的重构出图1中的SML2010-IT时间序列信号。
Claims (5)
1.一种基于变量投影算法的室内餐厅温度时间序列信号重建方法,其特征在于,包括以下步骤:
1)采集用于FNN-AR建模的室内餐厅温度时间序列信号数据集{y(1),y(2),...,y(M)};
2)利用所述室内餐厅温度时间序列信号数据集构建FNN-AR模型;
其中:y(t)为第t个室内餐厅温度时间序列信号的值;ξ(t)为第t个采样时刻的建模误差;φ0(y(t-1))和φy,i(y(t-1))为系数;
3)将步骤2)中的FNN-AR模型转换成参数分离的结构形式;
4)对FNN-AR模型的线性参数θL和非线性参数θN进行优化;
5)针对不同阶次的FNN-AR模型分别采用步骤4)方法进行参数优化,最终采用最小信息量准则判断室内餐厅温度时间序列信号的最优FNN-AR模型,利用该最优FNN-AR模型进行室内餐厅温度时间序列信号重建。
4.根据权利要求1所述的基于变量投影算法的室内餐厅温度时间序列信号重建方法,其特征在于,步骤4)的具体实现过程包括:
1)定义FNN-AR模型参数优化的目标函数如下:
其中,E(θL,θN)=(eg+1(θL,θN),eg+2(θL,θN),...,eM(θL,θN))T,且et(θL,θN)=y(t)-μ(θN,y(t-1))TθL,g=max(m,n);则FNN-AR模型的参数优化问题转化为
2)设θN已知,则FNN-AR模型的线性参数θL=Φ(θN)-y,其中Φ(θN)-为矩阵Φ(θN)的Moore-Penrose逆,且Φ(θN)=(μ(θN,y(g+1)),μ(θN,y(g+2)),...μ(θN,y(M)))T,y=(y(g+1),y(g+2),...y(M))T;则参数优化目标函数转化为选择该优化问题的雅可比矩阵形式为:其中D(Φ(θN))为Φ(θN)的Frechet导数,得到雅可比矩阵J后,利用高斯-牛顿算法,得到非线性参数的更新方向为dk=-((Jk)TJk)-1(Jk)Trk,其中Jk为k时刻J的值,rk为k时刻r的值,且r=(I-Φ(θN)Φ(θN)-)y;更新方向dk的基础上使用线性搜索更新下一步的非线性参数其中α为搜索步长并采用混合三次多项式内插法确定;当本次优化的目标函数与其上一步优化的值相减偏差小于优化终止条件,或优化次数达到最大迭代次数Ρ时,整个优化过程结束,此时模型的线性参数集通过θL=Φ(θN)-y计算得到。
5.根据权利要求4所述的基于变量投影算法的室内餐厅温度时间序列信号重建方法,其特征在于,步骤5)的具体实现过程包括:定义FNN-AR模型的AIC=-2(M-g)log(V(θL,θN))+8(m×(n+1)),针对不同的模型阶次(m,n)对模型参数进行优化,寻找一个使FNN-AR模型AIC值最小的阶次(m,n)来作为时间序列信号的FNN-AR模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910783006.3A CN110569279B (zh) | 2019-08-23 | 2019-08-23 | 基于变量投影算法的时间序列信号重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910783006.3A CN110569279B (zh) | 2019-08-23 | 2019-08-23 | 基于变量投影算法的时间序列信号重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110569279A CN110569279A (zh) | 2019-12-13 |
CN110569279B true CN110569279B (zh) | 2021-04-16 |
Family
ID=68775879
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910783006.3A Active CN110569279B (zh) | 2019-08-23 | 2019-08-23 | 基于变量投影算法的时间序列信号重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110569279B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886223A (zh) * | 2014-04-14 | 2014-06-25 | 中国科学院声学研究所 | 功率预测方法和系统 |
CN105760952A (zh) * | 2016-02-15 | 2016-07-13 | 国网山东省电力公司电力科学研究院 | 一种基于卡尔曼滤波与自适应模糊神经网络的负荷预测方法 |
CN106570562A (zh) * | 2016-11-14 | 2017-04-19 | 南京邮电大学 | 一种基于自适应de算法的桥式吊车模糊建模方法 |
CN107146004A (zh) * | 2017-04-20 | 2017-09-08 | 浙江大学 | 一种基于数据挖掘的矿渣粉磨系统健康状态识别系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9020874B2 (en) * | 2011-10-31 | 2015-04-28 | Siemens Aktiengesellschaft | Short-term load forecast using support vector regression and feature learning |
-
2019
- 2019-08-23 CN CN201910783006.3A patent/CN110569279B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103886223A (zh) * | 2014-04-14 | 2014-06-25 | 中国科学院声学研究所 | 功率预测方法和系统 |
CN105760952A (zh) * | 2016-02-15 | 2016-07-13 | 国网山东省电力公司电力科学研究院 | 一种基于卡尔曼滤波与自适应模糊神经网络的负荷预测方法 |
CN106570562A (zh) * | 2016-11-14 | 2017-04-19 | 南京邮电大学 | 一种基于自适应de算法的桥式吊车模糊建模方法 |
CN107146004A (zh) * | 2017-04-20 | 2017-09-08 | 浙江大学 | 一种基于数据挖掘的矿渣粉磨系统健康状态识别系统及方法 |
Non-Patent Citations (2)
Title |
---|
基于一种进化模型的RBF网络参数优化;张刚林等;《控制工程》;20100531;313-315 * |
电力短期负荷预报模糊神经网络模型的研究;李玉惠等;《昆明理工大学学报》;20000430;36-40 * |
Also Published As
Publication number | Publication date |
---|---|
CN110569279A (zh) | 2019-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110909926A (zh) | 基于tcn-lstm的太阳能光伏发电预测方法 | |
CN109784480B (zh) | 一种基于卷积神经网络的电力系统状态估计方法 | |
CN111242377B (zh) | 一种集成深度学习和数据去噪的短期风速预测方法 | |
CN111382906B (zh) | 一种电力负荷预测方法、系统、设备和计算机可读存储介质 | |
CN110826791A (zh) | 一种基于长短时记忆神经网络的混合风功率预测方法 | |
CN111027732B (zh) | 一种多风电场出力场景的生成方法及系统 | |
CN115146700B (zh) | 一种基于Transformer序列到序列模型的径流预测方法 | |
CN112396234A (zh) | 一种基于时域卷积神经网络的用户侧负荷概率预测方法 | |
CN115689008A (zh) | 基于集合经验模态分解的CNN-BiLSTM短期光伏功率预测方法及其系统 | |
CN115271225B (zh) | 一种基于小波降噪和神经网络的风力-风功率建模方法 | |
CN114036850A (zh) | 一种基于vecgm的径流预测方法 | |
CN116702831A (zh) | 一种考虑数据大量丢失的混合短期风电功率预测方法 | |
CN115840893A (zh) | 一种多变量时间序列预测方法及装置 | |
Lotrič | Wavelet based denoising integrated into multilayered perceptron | |
CN116451873A (zh) | 基于多尺度双时空网络区域风力发电功率预测方法及系统 | |
Chen et al. | Short term load forecasting based on SBiGRU and CEEMDAN-SBiGRU combined model | |
CN110569279B (zh) | 基于变量投影算法的时间序列信号重建方法 | |
CN113537586A (zh) | 集成小波分解与深度神经网络的水质指标多步预测方法 | |
CN116341720A (zh) | 基于动态图卷积和transformer的多风机风速风向预测方法 | |
Ji et al. | Prediction of soil moisture based on multilayer neural network with multi-valued neurons | |
CN112232570A (zh) | 一种正向有功总电量预测方法、装置及可读存储介质 | |
CN111476402A (zh) | 耦合气象信息与emd技术的风电发电能力预测方法 | |
CN111539558A (zh) | 一种采用优化极限学习机的电力负荷预测方法 | |
CN116502774A (zh) | 一种基于时间序列分解和勒让德投影的时间序列预测方法 | |
CN110826184A (zh) | 一种在时变时滞下narx模型结构和参数的变分贝叶斯辨识方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |