CN104899432A - 基于核函数组合的pso-lssvm脉动风速预测方法 - Google Patents

Abstract

本发明提供一种基于核函数组合的PSO-LSSVM脉动风速预测方法，其包括以下步骤：利用ARMA模型模拟生成垂直空间点脉动风速样本，将每一个空间点的脉动风速样本分为训练集、测试集两部分，对其分别进行归一化处理；建立基于组合核函数的PSO-LSSVM模型；利用PSO优化后的组合核函数将脉动风速训练样本变换成为核函数矩阵，映射到高维特征空间；得到脉动风速训练样本的非线性模型，利用此模型对脉动风速测试样本进行预测；将测试样本和利用组合核函数的PSO-LSSVM预测的脉动风速结果对比，计算预测风速与实际风速的平均误差、均方根误差以及相关系数。本发明确保脉动风速预测的精确性。

Description

基于核函数组合的PSO-LSSVM脉动风速预测方法

技术领域

本发明涉及一种采用高斯核函数与多项式核函数组合的粒子群优化的最小二乘支持向量机的单点脉动风速预测方法，具体的说是一种基于核函数组合的PSO-LSSVM(粒子群优化的最小二乘支持向量机)脉动风速预测方法。

背景技术

随着结构体系、建筑材料、设计和施工技术的进步和建筑观念的更新，超高层建筑逐渐呈现轻质量、高柔度和低阻尼特性。高柔度和低阻尼特性致使结构风致动力响应明显增加，结构风灵敏性的提高致使结构风荷载的设计和风致振动响应的估计与控制成为结构工程设计面临的主要问题。随着计算机技术的飞速发展和人们对随机过程数值模拟技术的深入研究，采用数值模拟方法得到风速时程曲线可以考虑场地、风谱特征、建筑物的特点等条件的任意性，使模拟得到的荷载尽量接近结构的实际风力。

研究风荷载时，通常把风处理为在一定时距内不随时间变化的平均风速和随时间随机变化的脉动风速两部分，平均风速产生结构静态响应，而脉动风速产生动态响应。风作用在高层结构时，其正负风压对结构形成风荷载，同时钝体绕流还会引起结构抖振、旋涡脱落引起的横向振动和扭转振动。极端风荷载作用下产生的抖振和颤振会引起建筑物倒塌或严重破坏；动态位移超限易引起墙体开裂和附属构件破坏；大幅振动会造成居住和生活的不舒适；脉动风频繁作用也会使外墙面构件和附属物产生疲劳破坏。掌握完整的脉动风速时程资料对于结构设计、安全具有重要意义。

支持向量机(SVM)是基于统计学习理论提出的一种小样本学习方法，遵循结构风险最小化原理，其基本思想是通过内积函数(核函数)定义的非线性变换将输入空间变换到一个高维空间，在这个高维空间中寻找输入变量和输出变量之间的一种非线性关系。支持向量机中核函数的选择决定了模型的特性，局部核函数学习能力强、泛化性能弱，而全局核函数泛化性能强、学习能力弱，结合全局核函数与局部核函数的优点构造组合核函数，可以使支持向量机既有良好学习能力又具有较强的泛化能力。通过优化方法调节组合核函数的核参数和惩罚参数来调节支持向量机回归分析精确度，将模拟生成的脉动风速作为学习训练样本，建立回归模型对单点脉动风速进行有效预测。

发明内容

本发明的目的在于提供一种基于核函数组合的PSO-LSSVM脉动风速预测方法，其利用ARMA(Auto-Regressive and Moving Average，自回归滑动平均)模拟脉动风速样本，构造基于全局核函数(POLY)与局部核函数(RBF)的组合的核函数核矩阵，建立组合核函数的最小二乘支持向量机(LSSVM)的模型，采用粒子群(PSO)对模型参数优化，利用组合核函数的PSO-LSSVM模型单点风速进行预测。计算实际风速与预测风速的平均误差(AE)、均方根误差(MSE)以及相关系数(R)评价本方法的有效性。

根据上述发明构思，本发明采用下述技术方案：本发明基于核函数组合的PSO-LSSVM脉动风速预测方法包括以下步骤：

第一步：利用ARMA模型模拟生成垂直空间点脉动风速样本，将每一个空间点的脉动风速样本分为训练集、测试集两部分，对其分别进行归一化处理；

第二步：分别推导RBF核函数核矩阵和POLY核函数核矩阵，根据Mercer定理，将RBF核函数与POLY核函数线性组合构造组合核函数，建立基于组合核函数的PSO-LSSVM模型；

第三步：引入PSO优化方法，对组合核函数的参数：RBF核函数参数γ、惩罚参数c、权重系数a进行寻优，确定最优模型参数；利用PSO优化后的组合核函数将脉动风速训练样本变换成为核函数矩阵，映射到高维特征空间，即将输入数据通过非线性函数映射到高维特征空间；然后对核函数矩阵实施各种线性算法，得到脉动风速训练样本的非线性模型，利用此模型对脉动风速测试样本进行预测；

第四步：将测试样本和利用组合核函数的PSO-LSSVM预测的脉动风速结果对比，计算预测风速与实际风速的平均误差(AE)、均方根误差(RMSE)以及相关系数(R)，评价本方法的有效性。

优选地，上述第一步中，ARMA模型模拟m维脉动风速表示为下式(1)：

$U\left(t\right)=\underset{i=1}{\overset{p}{\Σ}}{A}_{i}X\left(t-i\mathrm{\Δ}t\right)+\underset{j=0}{\overset{q}{\Σ}}{B}_{j}X\left(t-i\mathrm{\Δ}t\right)...\left(1\right)$

式中，U(t)为脉动风速；A_i,B_j分别是m×m阶AR和MA模型的系数矩阵；X(t)为m×1阶正态分布白噪声序列；p为自回归阶数，q为滑动回归阶数。相关函数由功率谱通过维纳—辛钦公式(2)算出：

$R_{uu}^{ij}\left(i\mathrm{\Δ}t\right)={\∫}_0^{\mathrm{\∞}}{S}_{ij}\left(n\right)cos\left(2\mathrm{\π}ni\mathrm{\Δ}t\right)dt...\left(2\right)$

通过对公式(1)的矩阵变换，分别求解自回归系数A_i和滑动回归系数B_j，建立脉动风速表达式。

优选地，第二步中，给定n个训练样本{x₁,x₂,…x_n}，RBF核函数表示为式(3)：

$K{(x_i,x_j)}_{RBF}=\exp \left(\frac{-{(x_i-x_j)}^2}{\mathrm{\γ}}\right)...\left(3\right)$

式中，x_i、x_j为训练样本空间第i、j个元素；γ为RBF核函数参数。

其核矩阵构造为式(4)：

$K{(x_i,x_j)}_{RBF}=\exp \left(-\frac{\left|\right|x_i-x_j|{|}^2}{\mathrm{\γ}}\right)\→\left\{\begin{array}{c}0,x_i\≠x_j\\ \exp \left(-\frac{\left|\right|x_i-x_j|{|}^2}{\mathrm{\γ}}\right),x_i\≠x_j\end{array}\right.......\left(4\right)$

核矩阵为对称矩阵有以下性质，如式(5)：

$K{(x_i,x_j)}_{RBF}=\left\{\begin{array}{c}0,x_i=x_j\\ k(x_i,x_j)=k(x_j,x_i),x_i\≠x_j\end{array}\right....\left(5\right)$

POLY核函数表示为：

K(x_i,x_j)_POLY＝((x_i,x_j)+1)^q……………(6)

式中，x_i、x_j为训练样本空间第i、j个元素；q为POLY核函数阶数。

其核矩阵构造为：

K(x_i,x_j)_POLY＝((x_i·x_j)+1)^q……………(7)

核矩阵为对称矩阵有以下性质：

$K{(x_i,x_j)}_{POLY}=\left\{\begin{array}{c}{\left(\left|\right|x_i|{|}^2+r\right)}^q,x_i=x_j\\ k(x_i,x_j)=k(x_j,x_i),x_i\≠x_j\end{array}\right....\left(8\right)$

由以上两个核矩阵推导组合核函数矩阵表示为：

$K(x_i,x_j)=(1-a)\·{\left(\right(x_i\·x_j)+1)}^q+a\·\exp \left(\frac{-\left|\right|x_i-x_j|{|}^2}{\mathrm{\γ}}\right)...\left(9\right)$

组合核函数矩阵具有以下性质：

$K(x_i,x_j)=\left\{\begin{array}{c}(1-a){\left(\right|\left|x_i\right|{|}^2+1)}^q,x_i=x_j\\ k(x_i,x_j)=k(x_j,x_i),x_i\≠x_j\end{array}\right....\left(10\right)$

LS-SVM将SVM中的不等式约束改为等式约束，将求解二次规划问题转化成求解线性方程组，并将经验风险由偏差的一次方改为二次方：

$\begin{array}{c}\min \[\frac{1}{2}\left|\right|\mathrm{\ω}|{|}^2+\frac{1}{2}C\underset{i=1}{\overset{l}{\Σ}}{\mathrm{\ξ}}^2\]\\ s.t.\[y_i-(\mathrm{\ω}\·\mathrm{\Φ}(x_i)+b)={\mathrm{\ξ}}_i\],i=1,2,3,...l\end{array}...\left(11\right)$

式中，C为惩罚因子，实现经验风险和置信范围的折中；ξ_i为松弛因子；b为偏置项；ω为权向量。

引入Lagrange函数，转化其对偶问题，并根据最优化理论中的KKT(Karush-Kuhn-Tucher)条件，得到如下等式和约束条件：

$\left\{\begin{array}{c}\mathrm{\ω}=\underset{i=1}{\overset{l}{\Σ}}{\mathrm{\α}}_i{y}_i\mathrm{\Φ}\left(x_i\right)\\ \underset{i=1}{\overset{l}{\Σ}}{\mathrm{\α}}_i{y}_i=0\\ {\mathrm{\α}}_i={\mathrm{C\ξ}}_i\\ \mathrm{\ω}\·\mathrm{\Φ}\left(x_i\right)+b+{\mathrm{\ξ}}_i-y_i=0\end{array}\right....\left(12\right)$

最后得到决策函数：

$f\left(x\right)=\underset{i=1}{\overset{l}{\Σ}}{\mathrm{\α}}_{i}K(x_i,x_j)+b...\left(13\right)$

式中，K(x_i,x_j)是利用组合核函数对输入的脉动风速训练样本所建立的核函数；α_i为Lagrange因子。

优选地，第三步中，设置粒子群规模m＝30，随机产生核参数的初始位置，确定待优化参数的范围，并设置最大迭代速度；最终根据终止迭代次数或适应度条件确定最优参数，建立组合核函数的PSO-LSSVM模型。

本发明基于核函数组合的PSO-LSSVM脉动风速预测方法具有如下优点：预测模型在高斯核函数的作用下有具有很好的学习能力(训练误差小)，在多项式核函数的作用下有很强的泛化能力(测试误差小)，组合核函数不仅能利用高斯核函数在小范围内的强拟合性，也能利用多项式核函数在整个数据集中的较强的泛化能力。同时，采用PSO对核参数进行优化，确保脉动风速预测的精确性。根据运行结果表明，基于核函数组合的PSO-LSSVM方法预测得到的脉动风速与实际脉动风速吻合很好，可以作为脉动风速预测的一种有效方法。

附图说明

图1是沿地面垂直方向30米处脉动风速模拟样本示意图；

图2是沿地面垂直方向50米处脉动风速模拟样本示意图；

图3是基于核函数组合的PSO-LSSVM脉动风速预测方法设计框架图示意图；

图4是基于核函数组合的PSO-LSSVM脉动风速预测方法程序流程图示意图；

图5是30米POLY核函数PSO-LSSVM预测风速与实际风速对比示意图；

图6是30米POLY核函数PSO-LSSVM预测风速与实际风速自相关函数对比示意图；

图7是30米POLY核函数PSO-LSSVM预测风速与实际风速功率谱密度函数对比示意图；

图8是30米RBF核函数PSO-LSSVM预测风速与实际风速对比示意图；

图9是30米RBF核函数PSO-LSSVM预测风速与实际风速自相关函数对比示意图；

图10是30米RBF核函数PSO-LSSVM预测风速与实际风速功率谱密度函数对比示意图；

图11是30米POLY+RBF核函数PSO-LSSVM预测风速与实际风速对比示意图；

图12是30米POLY+RBF核函数PSO-LSSVM预测风速与实际风速自相关函数对比示意图；

图13是30米POLY+RBF核函数PSO-LSSVM预测风速与实际风速功率谱密度函数对比示意图。

具体实施方式

本发明的构思如下：高斯核函数(RBF)是局部核函数，多项式核函数(POLY)是全局核函数。局部核函数学习能力强，泛化性能弱，而全局核函数泛化性能强，学习能力弱。根据Mercer定理，任意核函数k(x_i,x_j)的Gram矩阵K对称且半正定，满足一定数目的包闭性质，即允许从简单的核创立复杂的核。将POLY核函数和RBF核函数线性组合，构造出新的核函数：

$k(x_i,x_j)=(1-a)\·{\[(x_i,x_j)+1\]}^q+a\·\exp \left(\frac{-{(x_i-x_j)}^2}{\mathrm{\γ}}\right)$

使预测模型在高斯核函数(RBF)的作用下有具有很好的学习能力(训练误差小)，并且也能在多项式核函数(POLY)的作用下有很强的泛化能力(测试误差小)。组合核函数的最小二乘支持向量机(LSSVM)的参数包括：RBF核函数参数γ、惩罚参数c、权重系数a，利用粒子群(PSO)优化对上述三个参数进行优化，得到组合核函数的PSO-LSSVM模型。利用核函数组合PSO-LSSVM模型对脉动风压进行预测，并与传统单一核函数预测结果进行对比分析。

以下结合附图采用本发明对单点脉动风速预测作进一步详细说明，步骤如下：

第一步，利用ARMA模型模拟生成垂直空间点脉动风速样本，将每一个空间点的脉动风速样本分为训练集、测试集两部分，对其分别进行归一化处理；确定单点脉动风速样本的ARMA模型各参数，ARMA模型的自回归阶数p＝4，滑动回归阶数q＝1。模拟某200米的超高层建筑，沿高度方向取每隔10米的点作为各模拟风速点。其他相关参数见表1：

表1相关模拟参数表

模拟功率谱采用Kaimal谱，只考虑高度方向的空间相关性。模拟生成30米、50米脉动风速样本分别见图1、图2。

第二步，分别推导RBF核函数核矩阵和POLY核函数核矩阵，根据Mercer定理，将RBF核函数与POLY核函数线性组合构造组合核函数，建立基于组合核函数的PSO-LSSVM模型。具体来说，建立20维ARMA自回归滑动模型，生成20个模拟空间风速点5000s(5000个采样时间点)的脉动风速时程曲线。分别取30m、50m风速作为样本。将前4000个采样时间点脉动风速作为训练集，后1000个采样时间点脉动风速作为测试集标签，用于建立组合核函数的PSO-LSSVM预测模型，嵌入维数k＝15，流程图见图3。

第三步，引入PSO优化方法，对组合核函数的参数：RBF核函数参数γ、惩罚参数c、权重系数a进行寻优，确定最优模型参数；利用PSO优化后的组合核函数将脉动风速训练样本变换成为核函数矩阵，映射到高维特征空间，即将输入数据通过非线性函数映射到高维特征空间；然后对核函数矩阵实施各种线性算法，得到脉动风速训练样本的非线性模型，利用此模型对脉动风速测试样本进行预测；系统初始化后，选定PSO的惯性权重ω、参数范围，利用PSO对组合核函数核参数进行寻优，确定最优RBF核函数参数γ、惩罚参数c、权重系数a，建立组合核函数PSO-LSSVM模型。利用该模型对训练集进行学习训练，获得训练回归预测模型(trainlssvm-model)。

第四步：将后1000个采样时间点脉动风速作为测试集标签输入，利用训练集输出的回归预测模型(trainlssvm-model)对985个采样时间点脉动风速进行预测，即将测试样本和利用组合核函数的PSO-LSSVM预测的脉动风速结果对比，图5、图6、图7分别为POLY核函数对30米高度处脉动风速与实际风速幅值比较、自相关函数比较、功率谱函数比较；图8、图9、图10分别为RBF核函数对30米高度处脉动风速与实际风速幅值比较、自相关函数比较、功率谱函数比较；图11、图12、图13分别为组合POLY+RBF核函数对30米高度处脉动风速与实际风速幅值比较、自相关函数比较、功率谱函数比较。计算预测风速与实际风速的平均误差(AE)、均方根误差(MSE)以及相关系数(R)，评价本发明的有效性。

上面的步骤是基于Matlab平台编制的基于核函数组合的PSO-LSSVM脉动风速预测方法的计算程序进行分析和验证的，预测结果见表2。

表2三种方法预测结果指标对比表

以上步骤可以参考图4，直观地给出了本发明的实施流程。分析结果显示，组合核函数预测结果相关系数均大于0.9(相关系数大于0.9说明有很强相关性)；均方误差显示组合和函数预测结果更好的收敛于实际风速。本发明不仅能利用高斯核函数在小范围内的强拟合性，也能利用多项式核函数在整个数据集中的较强的学习能力，集成了高斯核函数的训练优点和多项式核函数的预测优点，并对参数进行优化，使预测结果的准确度有进一步的提高，为脉动风速预测提供一种精度更高的方法。

Claims (4)

1.一种基于核函数组合的PSO-LSSVM脉动风速预测方法，其特征在于，其包括以下步骤：

第一步：利用ARMA模型模拟生成垂直空间点脉动风速样本，将每一个空间点的脉动风速样本分为训练集、测试集两部分，对其分别进行归一化处理；

第二步：分别推导RBF核函数核矩阵和POLY核函数核矩阵，根据Mercer定理，将RBF核函数与POLY核函数线性组合构造组合核函数，建立基于组合核函数的PSO-LSSVM模型；

第三步：引入PSO优化方法，对组合核函数的参数：RBF核函数参数γ、惩罚参数c、权重系数a进行寻优，确定最优模型参数；利用PSO优化后的组合核函数将脉动风速训练样本变换成为核函数矩阵，映射到高维特征空间，即将输入数据通过非线性函数映射到高维特征空间；然后对核函数矩阵实施各种线性算法，得到脉动风速训练样本的非线性模型，利用此模型对脉动风速测试样本进行预测；

第四步：将测试样本和利用组合核函数的PSO-LSSVM预测的脉动风速结果对比，计算预测风速与实际风速的平均误差、均方根误差以及相关系数，评价本方法的有效性。

2.根据权利要求1所述的基于核函数组合的PSO-LSSVM脉动风速预测方法，其特征在于，所述第一步中，ARMA模型模拟m维脉动风速表示为下式：

$U\left(t\right)=\underset{i=1}{\overset{p}{\mathrm{\Σ}}}{A}_{i}X(t-\mathrm{i\Δt})+\underset{j=0}{\overset{q}{\mathrm{\Σ}}}{B}_{j}X(t-\mathrm{i\Δt})$

式中，U(t)为脉动风速；A_i,B_j分别是m×m阶AR和MA模型的系数矩阵；X(t)为m×1阶正态分布白噪声序列；p为自回归阶数，q为滑动回归阶数。

3.根据权利要求1所述的基于核函数组合的PSO-LSSVM脉动风速预测方法，其特征在于，所述第二步中，给定n个训练样本{x₁,x₂,…x_n}，RBF核函数表示为以下式：

$K{(x_i,x_j)}_{\mathrm{RBF}}=\exp \left(\frac{-{(x_i-x_j)}^2}{\mathrm{\γ}}\right)$

式中，x_i、x_j为训练样本空间第i、j个元素；γ为RBF核函数参数。

4.根据权利要求1所述的基于核函数组合的PSO-LSSVM脉动风速预测方法，其特征在于，所述第三步中，设置粒子群规模m＝30，随机产生核参数的初始位置，确定待优化参数的范围，并设置最大迭代速度；最终根据终止迭代次数或适应度条件确定最优参数，建立组合核函数的PSO-LSSVM模型。