CN112329805A - 基于异方差噪声孪生lssvr的风速预报装置及方法 - Google Patents

基于异方差噪声孪生lssvr的风速预报装置及方法 Download PDF

Info

Publication number
CN112329805A
CN112329805A CN202010805239.1A CN202010805239A CN112329805A CN 112329805 A CN112329805 A CN 112329805A CN 202010805239 A CN202010805239 A CN 202010805239A CN 112329805 A CN112329805 A CN 112329805A
Authority
CN
China
Prior art keywords
twin
wind speed
heteroscedastic
support vector
vector regression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010805239.1A
Other languages
English (en)
Inventor
张仕光
刘超
周婷
苏亚娟
王伟
袁秋云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Henan Normal University
Original Assignee
Henan Normal University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Henan Normal University filed Critical Henan Normal University
Priority to CN202010805239.1A priority Critical patent/CN112329805A/zh
Publication of CN112329805A publication Critical patent/CN112329805A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Mathematical Physics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Strategic Management (AREA)
  • Evolutionary Biology (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Operations Research (AREA)
  • Economics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Algebra (AREA)
  • Development Economics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Game Theory and Decision Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于异方差噪声孪生LSSVR的风速预报方法，包括以下步骤：A、获取待预测地区具有异方差噪声影响的风速数据集D1，计算得到基于异方差噪声特性的损失函数；B、基于异方差噪声特性孪生最小二乘支持向量回归的原问题，推导并求解基于异方差噪声特性孪生最小二乘支持向量回归的对偶问题；C、确定基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的惩罚参数及核参数，选取合适的核函数；构造基于异方差噪声特性孪生最小二乘支持向量回归的上界和下界函数，最后构造决策函数；D、构造基于异方差噪声特性的孪生最小二乘支持向量回归的风速预报模型并对风速进行预报。本发明能够改进现有技术的不足，提高了风速预报精度。

Description

基于异方差噪声孪生LSSVR的风速预报装置及方法
技术领域
本发明涉及短期风速预报技术领域，尤其是一种基于异方差噪声孪生LSSVR的风速预报装置及方法。
背景技术
于线性系统而言，从Gauss时代起，就利用最小二乘技术把平面上的点拟合成直线，把高维空间的点拟合成超平面。经历了200多年的发展，经典最小二乘技术已经成为许多领域数据处理的最广泛使用的技术。但是，对于线性回归或非线性回归中的不适定问题，基于最小二乘回归技术的性能会变得很坏，针对这种情况，众多学者研究了最小二乘回归的改进模型，提出了许多新的回归算法。孪生的最小二乘支持向量回归(Twin Leastsquares support vector regression，简记为TLSSVR)就是其中之一，孪生最小二乘支持向量回归模型是一种专门用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法。通过沿着两个非平行超平面的线，最小二乘支持向量回归得到增强。孪生最小二乘支持向量回归保留了最小二乘支持向量回归的性能，因为它也需要求解线性方程。设给定风速数据：
Dl＝{(x1，y1)，(x2，y2)，…，(xl，yl)} (1)
其中xi∈Rn，yi∈R，i＝1，2，…l，多元线性回归模型为f(x)＝ωT·x+b，其中 i＝1，…，l，参数向量ω∈Rn决定孪生最小二乘支持向量回归模型，其中 xi∈X＝Rn，Rn表示n维欧式空间，R表示实数集，l表示样本个数，上标 T表示转置运算。通过最小化目标函数：
Figure RE-GSB0000191229520000011
Figure RE-GSB0000191229520000012
Figure RE-GSB0000191229520000021
Figure RE-GSB0000191229520000022
其中C1，C2是惩罚参数，
Figure RE-GSB0000191229520000023
是权重参数，目标函数(2)中假设样本噪声服从高斯分布，其均值为0，方差为σ2(i＝1，…，l)，即yi＝f(xi)+ξi，i＝1，…，l，ξi～N(0，σ2)。式(2)中的
Figure RE-GSB0000191229520000024
表示最小二乘支持向量回归模型的目标函数。
孪生最小二乘支持向量回归机在解决线性回归问题中取得了良好的效果。在实际应用中，样本Dl中xi与yi一般不满足线性关系，这样线性 TLSSVR-GN在解决非线性回归问题时往往不能取得预期的效果。2000年， Suykens等提出的基于Gauss噪声模型的最小二乘回归机，通过核技术构造合适的核变换Φ：Rn→H(H为Hilbert空间)，利用Hilbert空间中的內积运算引进非线性核函数K(xi，xj)＝(Φ(xi)·Φ(xj))，从而把非线性问题转化为线性问题来解决。一般地，基于高斯噪声特性孪生最小二乘回归机通过最小化目标函数来求解：
Figure RE-GSB0000191229520000025
Figure RE-GSB0000191229520000026
Figure RE-GSB0000191229520000027
Figure RE-GSB0000191229520000028
经典的回归模型(线性最小二乘回归、最小二乘支持向量回归等模型)一般都假设数据中的噪声分布服从高斯同方差分布。研究表明在许多实际应用领域中，噪声分布不一定服从高斯同方差分布，而服从Beta 分布、拉普拉斯分布、高斯异方差分布、威布尔分布，或其他类型噪声特性的分布。尤其在风速/风功率预报中，噪声分布随着季节和地域而变化，需要由某种新的模型表示，如利用高斯异方差噪声分布来进行数据预报。此时应用TLSSVR、TLSSVR-GN等回归技术进行预测，则预报结果不能满足实际领域中对风速预报精度的要求。
发明内容
本发明要解决的技术问题是提供一种基于异方差噪声孪生LSSVR的风速预报装置及方法，能够解决现有技术的不足，提高了风速预报精度。
为解决上述技术问题，本发明所采取的技术方案如下。
一种基于异方差噪声孪生LSSVR的风速预报装置，包括：
损失函数获取模块，用于获取待预测地区具有异方差噪声影响的风速数据集Dl，计算得到基于异方差噪声特性的损失函数；
对偶问题求解模块；用于建立基于异方差噪声特性孪生最小二乘支持向量回归的原问题PTLSSVR-HGN，推导并求解出基于异方差噪声特性孪生最小二乘支持向量回归对偶问题DTLSSVR-HGN
决策函数构造模块；用于确定基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的惩罚参数及核参数，选取核函数，构造基于异方差噪声特性孪生最小二乘支持向量回归的决策函数；
风速预报模块；用于构造风速预报模式并预测风速值。
一种上述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，包括以下步骤：
A、获取待预测地区具有异方差噪声影响的风速数据集Dl，计算得到基于异方差噪声特性的损失函数；
B、使用基于异方差噪声特性损失函数建立基于异方差噪声特性孪生最小二乘支持向量回归的原问题，推导并求解基于异方差噪声特性孪生最小二乘支持向量回归的对偶问题；
C、确定基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的惩罚参数及核参数，选取合适的核函数；构造基于异方差噪声特性孪生最小二乘支持向量回归的上界和下界函数，最后构造决策函数；
D、构造基于异方差噪声特性的孪生最小二乘支持向量回归的风速预报模型，利用上述风速预报模型对风速进行预报。
作为优选，步骤A中，利用Bayesian原理和最大化后验概率方法，求解出基于异方差噪声特性的损失函数为
Figure RE-GSB0000191229520000041
其中，
Figure RE-GSB0000191229520000042
是异方差变量，ξi为已知的独立同分布的随机变量。
作为优选，步骤B中，基于异方差噪声特性的孪生最小二乘支持向量回归的原问题为：
Figure RE-GSB0000191229520000043
Figure RE-GSB0000191229520000044
Figure RE-GSB0000191229520000045
Figure RE-GSB0000191229520000046
其中，
Figure RE-GSB0000191229520000047
是异方差变量，C1，C2是惩罚参数，l为样本个数， yi(i＝1，…，l)为测量值，ξi(i＝1，…，l)为已知的独立同分布的随机变量，Φ：Rn→H为核变换，H为Hilbert空间，ω1，ω2为参数向量，T为转置， b1，b2∈R；式中的PTLSSVR-HGN表示基于异方差噪声特性孪生最小二乘支持向量回归的原问题，
Figure RE-GSB00001912295200000411
表示基于异方差噪声特性孪生最小二乘支持向量回归原问题的目标函数。
作为优选，步骤B中，构造Lagrange泛函：
Figure RE-GSB0000191229520000048
Figure RE-GSB0000191229520000049
应用Lagrange乘子法，得到基于异方差噪声特性孪生最小二乘支持向量回归原问题的对偶问题，其中，
Figure RE-GSB00001912295200000410
为Lagrange乘子。
作为优选，步骤C中，所述基于异方差噪声特性的孪生最小二乘支持向量回归对偶问题为：
Figure RE-GSB0000191229520000051
Figure RE-GSB0000191229520000052
Figure RE-GSB0000191229520000053
Figure RE-GSB0000191229520000054
其中，l为样本个数，惩罚参数C1，C2＞0；
Figure RE-GSB0000191229520000055
为异方差变量；s.t.为subject to的缩写，
Figure RE-GSB0000191229520000056
表示基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的目标函数，
Figure RE-GSB0000191229520000057
为Lagrange 乘子，yi(i＝1，…，l)为测量值，K(xi，xj)为核函数。
作为优选，步骤C中，基于异方差噪声特性孪生最小二乘支持向量回归的下界函数为：
Figure RE-GSB0000191229520000058
上界函数为：
Figure RE-GSB0000191229520000059
最后，基于异方差噪声特性孪生最小二乘支持向量回归的决策函数：
Figure RE-GSB00001912295200000510
其中，
Figure RE-GSB00001912295200000511
，Φ：Rn→H为核变换，H为Hilbert空间，K(xi，xj)＝(Φ(xi)·Φ(xj))，ω1，ω2∈Rn为参数向量，(Φ(xi)·Φ(xj))表示H空间中的内积。
作为优选，步骤D中，输入向量为
Figure RE-GSB0000191229520000061
其中i，j为相关联的两个时刻；输出值为xi+step，其中step为预测间隔时间，利用该预报模式预报分析某一时刻i以后step间隔时刻的风速值。
采用上述技术方案所带来的有益效果在于：本发明提出一种应用基于异方差噪声特性孪生最小二乘支持向量回归技术进行风速预报分析的新的统一理论模型。通过Bayesian原理和最大化后验概率方法推导出基于异方差噪声特性的损失函数，在此基础上利用统计学习理论、Lagrange 乘子法构造基于异方差噪声特性孪生最小二乘支持向量回归问题的对偶函数，最后利用基于改造后的异方差噪声特性孪生最小二乘支持向量回归技术求解对偶函数得到决策函数，相比于传统的模型，经过改进的孪生最小二乘支持向量回归技术求解模型具有较高的精度和较强的泛化能力；本发明的方法及装置能够满足实际应用中，如风力发电、房价和股票预测等，符合风速预报精度的要求。
在风速预报中，需要根据噪声特性的实际分布确定预报技术，利用基于异方差噪声特性的孪生最小二乘支持向量回归技术、基于考虑Gauss 噪声特性的孪生最小二乘支持向量回归技术和孪生最小二乘支持向量回归技术进行风速预报，表现出了较好的预报效果。
附图说明
图1是本发明的流程图。
图2是本发明TLSSVR-HGN(step＝1)10分钟以后风速预报结果。
图3是现有技术中TLSSVR-GN(step＝1)10分钟以后风速预报结果。
图4是现有技术中TLSSVR(step＝1)10分钟以后风速预报结果。
图5是三种模型(TLSSVR-HGN，TLSSVR-GN，TLSSVR)10分钟以后风速预报误差结果。
图6是本发明TLSSVR-HGN(step＝3)30分钟以后风速预报结果。
图7是现有技术中TLSSVR-GN(step＝3)30分钟以后风速预报结果。
图8是现有技术中TLSSVR(step＝3)30分钟以后风速预报结果。
图9是三种模型(TLSSVR-HGN，TLSSVR-GN，TLSSVR)30分钟以后风速预报误差结果。
具体实施方式
参照图1，本实施例包括以下步骤：
1)获取某地区具有噪声影响的风速数据集Dl，利用Bayesian原理和最大化后验概率方法，得到异方差噪声特性的损失函数
Figure RE-GSB0000191229520000071
2)利用统计学习理论和Lagrange乘子法，结合步骤1)中得到的基于异方差噪声特性的损失函数，建立基于异方差噪声特性孪生最小二乘支持向量回归技术的原问题，推导并求解出基于异方差噪声特性孪生最小二乘支持向量回归技术对偶问题；
3)利用十折交叉验证技术确定基于异方差噪声特性孪生最小二乘支持向量回归技术对偶问题的最优参数C1，C2及核参数γ，选取核函数 K(·，·)；构造基于改进的异方差噪声特性孪生最小二乘支持向量回归技术的决策函数f(x)；
4)构造基于异方差噪声特性孪生最小二乘支持向量回归技术的风速预报模式：输入向量为
Figure RE-GSB0000191229520000072
其中i，j为相关联的两个时刻，输出值为xi+step，其中step为预测间隔时间；利用该预报模式预报分析某一时刻i以后step间隔时刻的风速值。
下面对上述步骤作进一步详细介绍：
步骤1)中，获取具有混合噪声特性的数据集Dl＝{(x1，y1)，(x2，y2)，…， (xl，yl)}，其中xi∈Rn，yi∈R，i＝1，2，…，l，Rn表示n维欧式空间，R表示实数集，l表示样本个数；利用Bayesian原理和最大化后验概率方法，推导基于异方差噪声特性的最优损失函数，具体过程为：
给定具有异方差噪声特性的数据集Dl，回归函数f(x)是未知的。一般地，最小化目标函数：
Figure RE-GSB0000191229520000073
其中c(ξi)＝c(yi-f(xi))表示在样本点(xi，yi)∈Dl进行预测时所得到预测值f(xi)与测量值yi(i＝1，…，l)比较所产生的损失值，λ是正数。假设噪声特性是加性的，即yi＝fi(xi)+ξi(i＝1，…，l)，且ξi(i＝1，…，l)是独立同分布(i.i.d.)的随机变量，ξi(i＝1，…，l)的方差为σ2，均值为μ。利用数据 g∈Dl估计函数f(x)，根据Bayesian原理和最大化后验概率方法可得噪声特性的最优损失函数为：
c(x，y，f(x))＝-log p(y-f(x)) (5)
其中p(y-f(x))＝p(ξ)表示误差ξ的概率密度函数，c(xi，yi，f(xi))＝c(ξi) (i＝1，…，l)表示在样本点(xi，yi)进行预测时所得到预测值f(xi)与yi比较所产生的损失值，c(ξ)表示损失函数。
Gauss同方差噪声特性的损失函数为：
Figure RE-GSB0000191229520000081
Gauss异方差噪声特性的损失函数为：
Figure RE-GSB0000191229520000082
步骤2)中，构造并求解最优化问题进一步具体为：
基于异方差噪声特性孪生最小二乘支持向量回归技术的原问题为：
Figure RE-GSB0000191229520000083
Figure RE-GSB0000191229520000084
Figure RE-GSB0000191229520000085
其中
Figure RE-GSB0000191229520000086
Figure RE-GSB0000191229520000087
C1，C2≥0是惩罚参数，异方差变量
Figure RE-GSB0000191229520000088
式(8)中的PTLSSVR-HGN表示基于异方差噪声特性孪生最小二乘支持向量回归技术的原问题，
Figure RE-GSB0000191229520000091
表示基于异方差噪声特性孪生最小二乘支持向量回归技术原问题的目标函数。
构造下界函数Lagrange泛函L(ω1，b1，α，ξ)：
Figure RE-GSB0000191229520000092
构造上界函数Lagrange泛函L(ω2，b2，α*，ξ*)：
Figure RE-GSB0000191229520000093
根据Lagrange乘子法，为求L(ω1，b1，α，ξ)和L(ω2，b2，α*，ξ*)的极小值，分别对ω1，b1，ξ和ω2，b2，ξ*求偏导数.由KKT(Karush-Kusn-Tucke)条件
Figure RE-GSB0000191229520000094
得
Figure RE-GSB0000191229520000095
Figure RE-GSB0000191229520000096
把上述极值条件代入L(ω1，b1，α，ξ)和L(ω2，b2，α*，ξ*)，并对α，η，α*，η*求极大值，可得到基于异方差噪声特性孪生最小二乘支持向量回归技术原问题(9)的对偶问题(简记为TLSSVR-HGN)为：
Figure RE-GSB0000191229520000101
Figure RE-GSB0000191229520000102
Figure RE-GSB0000191229520000103
其中，l为样本个数，惩罚参数C1，C2＞0；
Figure RE-GSB0000191229520000104
为异方差变量，且有
Figure RE-GSB0000191229520000105
Figure RE-GSB0000191229520000106
其中的DTLSSVR-HGN表示基于异方差噪声特性孪生最小二乘支持向量回归技术的对偶问题，
Figure RE-GSB0000191229520000107
表示基于异方差噪声特性孪生最小二乘支持向量回归技术对偶问题的目标函数。
Lagrange乘子法是Powel和Hestenes于1969年针对等式约束优化问题同时独立提出的优化算法，也称为PH算法；其基本思想是：从原问题的Lagrange函数出发，再加上适当的罚函数，从而将原问题转化为求解一系列的无约束优化子问题；增广Lagrange乘子法(Augmented Lagrange Multiplier method，简记为ALM)是1973年Rockfellar将PH算法推广到求解不等式约束优化问题，也称为PHR算法；ALM法是解决同时带有等式和不等式约束问题的一类优化方法。其基本思想是：把解等式约束优化问题的乘子法推广到不等式约束优化问题，即先引进辅助变量把不等式约束转化为等式约束，然后再利用最有效条件消去辅助变量。
对于一个求解函数最小值的优化问题(求函数最大值也类似)，一般可以描述为下列数学规划模型：
Figure RE-GSB0000191229520000111
式中x为决策变量，f(x)为目标函数，式
Figure RE-GSB0000191229520000112
为约束条件，U是基本空间，R是U的子集；满足约束条件的解X称为可行解，集合R表示所有满足约束条件的解所组成的集合，称为可行解集合；式(5)中的 x与式(12)
Figure RE-GSB0000191229520000113
中x的含义相同，x＝(x1，x2，…，xl)T，y＝(y1，y2，…， yl)T，(xi，yi)∈Dl，i＝1，2，…，l，上标T表示转置。p(y-f(x))＝p(ξ)表示误差ξ的概率密度函数；c(xi，yi，f(xi))＝c(ξi)表示在样本点(xi，yi)进行预测时所得到预测值f(xi)与yi比较所产生的损失值，c(ξ)表示损失函数。
步骤3)中，利用十折交叉验证技术确定最优参数C1，C2及核参数γ，具体为：利用基于我们改造的异方差噪声特性孪生最小二乘支持向量回归技术求解对偶问题(11)及利用十折交叉验证技术确定最优参数最优参数C1，C2及核参数γ。提出的基于异方差噪声特性孪生最小二乘支持向量回归机应用Python 3.7程序语言实现，技术TLSSVR-HGN的松弛参数C1，C2∈[0.5，250]，核参数γ∈[0.1，10]。
选取合适的核函数K(·，·)是利用核技术构造核函数K(·，·)，其中 K(xi，xj)＝(Φ(xi)·Φ(xj))，Φ：Rn→H，H为Hilbert空间，(Φ(xi)·Φ(xj)) 为H空间中的内积。常见核函数有：
(1)多项式核函数：K(xi，xj)＝((xi·xj)+1)d；
(2)Gauss径向基核函数：K(xi，xj)＝exp(-||xi-xj||2/γ2)；
其中d是正数，取d＝2或3；γ是正数，取γ＝0.1。
可得到基于异方差噪声特性孪生最小二乘支持向量回归技术的决策函数为
Figure RE-GSB0000191229520000121
其中，
Figure RE-GSB0000191229520000122
，Φ：Rn→H为核变换，H为Hilbert空间，K(xi，xj)＝(Φ(xi)·Φ(xj)，ω1，ω2∈Rn为参数向量，(Φ(xi)·Φ(xj))表示H空间中的内积。
步骤4)中，将基于异方差噪声特性孪生最小二乘支持向量回归技术应用于风速预报中，构造预报模式为：输入向量为
Figure RE-GSB0000191229520000123
其中i，j为相关联的两个时刻；输出值为xi+step，其中step为预测间隔时间。利用这种预报模式预报分析某一时刻i以后step间隔时刻的风速值。如取step＝1表示预测某一时刻i以后10分钟的风速值；取step＝3表示预测某一时刻i以后30分钟的风速值。
本发明的基于异方差噪声特性孪生最小二乘支持向量回归技术的风速预报装置，其特征在于该装置包括损失函数c(ξi)(i＝1，…，l)获取模块、对偶问题DTLSSVR-HGN求解模块、决策函数f(x)构造模块及风速预报模块；
其中，损失函数c(ξi)(i＝1，…，l)获取模块，用于获取某地区具有噪声影响的风速数据集Dl，利用Bayesian原理和最大化后验概率方法，得到异方差噪声特性的损失函数c(ξi)(i＝1，…，l)；
对偶问题DTLSSVR-HGN求解模块，用于利用统计学习理论和Lagrange 乘子法，结合步骤1)中得到的异方差噪声特性的损失函数，建立基于异方差噪声特性孪生最小二乘支持向量回归技术的原问题，推导并求解出基于改进的异方差噪声特性孪生最小二乘支持向量回归技术对偶问题；
决策函数f(x)构造模块，用于利用十折交叉验证技术确定基于异方差噪声特性最小二乘支持向量回归技术对偶问题的最优参数C1，C2以及核参数γ，选取核函数K(·，·)；构造基于改造的异方差噪声特性孪生最小二乘支持向量回归技术的决策函数f(x)；
风速预报模块，用于构造基于异方差噪声特性孪生最小二乘支持向量回归技术的风速预报模式：输入向量为
Figure RE-GSB0000191229520000131
其中 i，j为相关联的两个时刻；输出值为xi+step，其中step为预测间隔时间，利用该预报模式预报分析某一时刻i以后step间隔时刻的风速值。
下面给出了风速预报性能评价的方法：
风速预报性能的评价一般用两个时间序列中基于预测值xp和测量值 xm间的误差来度量，即εi＝xp，i-xm，i(i＝1，…，l)；
最常用的评价误差度量的指标是平均值绝对误差(the mean absolute error，简记为MAE)：
Figure RE-GSB0000191229520000132
根平方值(the root mean square error，简记为RMSE)：
Figure RE-GSB0000191229520000133
误差平方和(Sum of squared errors)：
Figure RE-GSB0000191229520000134
总平方和(Total sum of squares)：
Figure RE-GSB0000191229520000135
回归平方和(Sum of squares of the regression)：
Figure RE-GSB0000191229520000136
测试的平方和之比采样到偏差的平方和(The ratio of the sum of squares ofthe testing samples to the sum of squares of the deviations)：
Figure RE-GSB0000191229520000137
测试样本的方差解释性平方和与实际平方和之比(The ratio between theexplanatory sum of squares deviation of the testing samples and the actualsum of squares)：
Figure RE-GSB0000191229520000141
l为选择样本的尺度，xp，i、xm，i分别表示时间序列中第i个样本的预测值与测量值，
Figure RE-GSB0000191229520000146
为样本测量值的平均值。用平均值绝对误差、根平方值、根均方误差、测试的平方和之比采样到偏差的平方和、测试样本的方差解释性平方和与实际平方和之比对TLSSVR、TLSSVR-GN、TLSSVR-HGN三种回归技术进行了评价。
在黑龙江省的风速数据集Dl中，其中的样本是每10分钟测量一次，共收集有62466个样本，Dl各列属性分别包括均值、方差、最小值、最大值等多个因子。我们取训练样本100个(从201至300，即1000分钟的样本)，测试样本100个(从301至400，即1000分钟的样本)进行了实验分析。输入向量为
Figure RE-GSB0000191229520000142
其中i，j为相关联的两个时刻；输出值为xi+step，其中step＝1，3。即用向量
Figure RE-GSB0000191229520000143
分别预报某一时刻i以后10分钟、30分钟的风速值，其中i＝12。
1、时刻i以后10分钟的风速预报结果
应用回归技术TLSSVR、TLSSVR-GN、TLSSVR-HGN预报某一时刻i以后 10分钟以后的风速预报结果分别见图2-图4所示。
利用指标MAE、RMSE、SSE、SSE/SST和SSR/SST评价三种回归技术10分钟以后的风速预报结果如表1所示。
表1：三种技术10分钟以后的风速预报的误差统计(测试样本100)
Figure RE-GSB0000191229520000144
Figure RE-GSB0000191229520000151
2、时刻i以后30分钟的风速预报结果
应用回归技术TLSSVR、TLSSVR-GN、TLSSVR-HGN预报某一时刻i以后 30分钟以后的风速预报结果分别见图6-图8所示。
利用指标MAE、RMSE、SSE、SSE/SST和SSR/SST评价三种回归技术30分钟以后的风速预报结果如表2所示。
表2：三种技术30分钟以后的风速预报的误差统计(测试样本100)
Figure RE-GSB0000191229520000152
可见，应用回归技术TLSSVR、TLSSVR-GN和TLSSVR-HGN进行预报某一时刻i以后10分钟、30分钟的风速预报，从实验结果MAE说明， TLSSVR-HGN技术的预报效果比TLSSVR和TLSSVR-GN技术的预报效果更精确。另外，TLSSVR-HGN比TLSSVR和TLSSVR-GN有更低的RMSE，更高的SSR/SST，结果说明TLSSVR-HGN的泛化能力更强。
以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (8)

1.一种基于异方差噪声孪生LSSVR的风速预报装置，其特征在于包括：
损失函数获取模块，用于获取待预测地区具有异方差噪声影响的风速数据集Dl，计算得到基于异方差噪声特性的损失函数；
对偶问题求解模块；用于建立基于异方差噪声特性孪生最小二乘支持向量回归的原问题PTLSSVR-HGN，推导并求解出基于异方差噪声特性孪生最小二乘支持向量回归对偶问题DTLSSVR-HGN；
决策函数构造模块；用于确定基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的惩罚参数及核参数，选取核函数，构造基于异方差噪声特性孪生最小二乘支持向量回归的决策函数；
风速预报模块；用于构造风速预报模式并预测风速值。
2.一种权利要求1所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于包括以下步骤：
A、获取待预测地区具有异方差噪声影响的风速数据集Dl，计算得到基于异方差噪声特性的损失函数；
B、使用基于异方差噪声特性损失函数建立基于异方差噪声特性孪生最小二乘支持向量回归的原问题，推导并求解基于异方差噪声特性孪生最小二乘支持向量回归的对偶问题；
C、确定基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的惩罚参数及核参数，选取合适的核函数；构造基于异方差噪声特性孪生最小二乘支持向量回归的上界和下界函数，最后构造决策函数；
D、构造基于异方差噪声特性的孪生最小二乘支持向量回归的风速预报模型，利用上述风速预报模型对风速进行预报。
3.根据权利要求2所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤A中，利用Bayesian原理和最大化后验概率方法，求解出基于异方差噪声特性的损失函数为
Figure RE-FSB0000191229510000011
其中，
Figure RE-FSB0000191229510000012
是异方差变量，ξi为已知的独立同分布的随机变量。
4.根据权利要求3所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤B中，基于异方差噪声特性的孪生最小二乘支持向量回归的原问题为：
Figure RE-FSB0000191229510000021
Figure RE-FSB0000191229510000022
Figure RE-FSB0000191229510000023
Figure RE-FSB0000191229510000024
其中，
Figure RE-FSB0000191229510000025
是异方差变量，C1，C2是惩罚参数，l为样本个数，yi(i＝1，…，l)为测量值，ξi(i＝1，…，l)为已知的独立同分布的随机变量，Φ：Rn→H为核变换，H为Hilbert空间，ω1，ω2为参数向量，T为转置，b1，b2∈R；式中的PTLSSVR-HGN表示基于异方差噪声特性孪生最小二乘支持向量回归的原问题，
Figure RE-FSB0000191229510000026
表示基于异方差噪声特性孪生最小二乘支持向量回归原问题的目标函数。
5.根据权利要求4所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤B中，构造Lagrange泛函：
Figure RE-FSB0000191229510000027
Figure RE-FSB0000191229510000028
应用Lagrange乘子法，得到基于异方差噪声特性孪生最小二乘支持向量回归原问题的对偶问题，其中，
Figure RE-FSB0000191229510000029
为Lagrange乘子。
6.根据权利要求5所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤C中，所述基于异方差噪声特性的孪生最小二乘支持向量回归对偶问题为：
Figure RE-FSB0000191229510000031
Figure RE-FSB0000191229510000032
Figure RE-FSB0000191229510000033
Figure RE-FSB0000191229510000034
其中，l为样本个数，惩罚参数C1，C2＞0；
Figure RE-FSB0000191229510000035
为异方差变量；s.t.为subjectto的缩写，
Figure RE-FSB0000191229510000036
表示基于异方差噪声特性孪生最小二乘支持向量回归对偶问题的目标函数，
Figure RE-FSB0000191229510000037
为Lagrange乘子，yi(i＝1，…，l)为测量值，K(xi，xj)为核函数。
7.根据权利要求6所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤C中，基于异方差噪声特性孪生最小二乘支持向量回归的下界函数为：
Figure RE-FSB0000191229510000038
上界函数为：
Figure RE-FSB0000191229510000039
最后，基于异方差噪声特性孪生最小二乘支持向量回归的决策函数：
Figure RE-FSB00001912295100000310
其中，
Figure RE-FSB0000191229510000041
，Φ：Rn→H为核变换，H为Hilbert空间，K(xi，xj)＝(Φ(xi)·Φ(xj))，ω1，ω2∈Rn为参数向量，(Φ(xi)·Φ(xj))表示H空间中的内积。
8.根据权利要求7所述的基于异方差噪声孪生LSSVR的风速预报装置的预报方法，其特征在于：步骤D中，输入向量为
Figure RE-FSB0000191229510000042
其中i，j为相关联的两个时刻；输出值为xi+step，其中step为预测间隔时间，利用该预报模式预报分析某一时刻i以后step间隔时刻的风速值。
CN202010805239.1A 2020-08-11 2020-08-11 基于异方差噪声孪生lssvr的风速预报装置及方法 Pending CN112329805A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010805239.1A CN112329805A (zh) 2020-08-11 2020-08-11 基于异方差噪声孪生lssvr的风速预报装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010805239.1A CN112329805A (zh) 2020-08-11 2020-08-11 基于异方差噪声孪生lssvr的风速预报装置及方法

Publications (1)

Publication Number Publication Date
CN112329805A true CN112329805A (zh) 2021-02-05

Family

ID=74303293

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010805239.1A Pending CN112329805A (zh) 2020-08-11 2020-08-11 基于异方差噪声孪生lssvr的风速预报装置及方法

Country Status (1)

Country Link
CN (1) CN112329805A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114723120A (zh) * 2022-03-30 2022-07-08 北京城市气象研究院 一种近地面风速预报方法以及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279672A (zh) * 2013-06-04 2013-09-04 天津大学 基于噪声模型支持向量回归技术的短期风速预报方法
CN106405683A (zh) * 2016-09-29 2017-02-15 河南师范大学 基于g‑l混合噪声特性核岭回归技术的风速预报方法及装置
CN108520310A (zh) * 2018-03-01 2018-09-11 河南师范大学 基于G-L混合噪声特性v-支持向量回归机的风速预报方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279672A (zh) * 2013-06-04 2013-09-04 天津大学 基于噪声模型支持向量回归技术的短期风速预报方法
CN106405683A (zh) * 2016-09-29 2017-02-15 河南师范大学 基于g‑l混合噪声特性核岭回归技术的风速预报方法及装置
CN108520310A (zh) * 2018-03-01 2018-09-11 河南师范大学 基于G-L混合噪声特性v-支持向量回归机的风速预报方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SHIGUANG ZHANG ET AL: "Twin Least Squares Support Vector Regression of Heteroscedastic Gaussian Noise Model", 《IEEE ACCESS》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114723120A (zh) * 2022-03-30 2022-07-08 北京城市气象研究院 一种近地面风速预报方法以及装置

Similar Documents

Publication Publication Date Title
Boudt et al. The minimum regularized covariance determinant estimator
Wang et al. Wind power curve modeling and wind power forecasting with inconsistent data
Chien et al. Community detection in hypergraphs: Optimal statistical limit and efficient algorithms
CN108520310B (zh) G-L混合噪声特性v-支持向量回归机的风速预报方法
CN107451102B (zh) 一种基于改进自训练算法的半监督高斯过程回归软测量建模对脱丁烷塔底丁烷浓度进行预测的方法
Wang et al. Probabilistic power flow solution with graph convolutional network
CN111144644B (zh) 基于变分异方差高斯过程回归的短期风速预测方法
CN111768000A (zh) 在线自适应微调深度学习的工业过程数据建模方法
CN116448419A (zh) 基于深度模型高维参数多目标高效寻优的零样本轴承故障诊断方法
CN110782546A (zh) 基于组合树模型的半导体pvd制程的电阻率虚拟量测方法
CN111680726A (zh) 基于近邻成分分析和k近邻学习融合的变压器故障诊断方法和系统
CN108228978B (zh) 结合互补集合经验模态分解的Xgboost时间序列预测方法
CN106405683B (zh) 基于g-l混合噪声特性核岭回归技术的风速预报方法及装置
CN114970736A (zh) 基于密度估计的网络节点深度异常检测方法
CN112329805A (zh) 基于异方差噪声孪生lssvr的风速预报装置及方法
CN114357870A (zh) 基于局部加权偏最小二乘的计量设备运行性能预测分析方法
CN114117852A (zh) 一种基于有限差分工作域划分的区域热负荷滚动预测方法
CN114004346A (zh) 基于门控堆叠同构自编码器的软测量建模方法及存储介质
Tomarchio Matrix-variate normal mean-variance birnbaum–saunders distributions and related mixture models
Bi et al. Apple grading method based on ordered partition neural network
CN113496255B (zh) 基于深度学习与决策树驱动的配电网混合观测布点方法
Wang et al. Variable selection and parameter estimation via WLAD–SCAD with a diverging number of parameters
CN115186584A (zh) 一种融合注意力机制和自适应构图的宽度学习半监督软测量建模方法
CN111913461B (zh) 一种基于正则化gcca模型的分布式化工过程监测方法
CN113723707A (zh) 一种基于深度学习模型的中长期径流趋势预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210205