CN108564204A - 基于最大相关熵准则的最小二乘支持向量机电量预测方法 - Google Patents

Abstract

本发明公开了一种基于最大相关熵准则的最小二乘支持向量机电量预测方法，步骤包括：步骤1、以历史三年的同期用电量以及所对应的月平均气温构建输入数据集，用最小二乘支持向量机方法，构建待测月的售电量预测模型；步骤2、数据预处理；步骤3、对输入数据集进行归一化处理；步骤4、针对历史用电量、气温小样本数据，选用最小二乘支持向量机模型进行售电量预测；步骤5、对模型的关键参数σ₀与σ进行优化，确定最优参数；步骤6、对关键参数σ₀与σ进行优化；步骤7、选用月相对误差与年平均相对误差作为预测结果的评价指标，计算此时的预测精度；步骤8、进行至少3‑5次预测，取平均值。本发明的方法，能有效对用户进行售电量预测。

Description

基于最大相关熵准则的最小二乘支持向量机电量预测方法

技术领域

本发明属于电力系统售电预测技术领域，涉及一种基于最大相关熵准则的最小二乘支持向量机电量预测方法。

技术背景

由于电力系统的长期交易合同电量均为计划值，而电力的供需受很多随机因素的影响，很难准确预测，因此高精度的售电量预测方法具有非常关键的理论意义与工程价值。

在实际的售电量预测方案中，当前各售电公司普遍选用在用户侧所收集的历史用电量数据作为预测依据。但是，由于这些数据可靠性普遍不高，导致用户侧历史用电量数据结构不够齐整，再加上气候、温度等外界因素的影响，使售电量预测精度一直未能满足实际工程需要。

对此，一方面国内外学者提出了很多售电量预测的基本算法，例如：1)神经网络算法；2)灰色预测法；3)时间序列法等。另外一方面，对预测方法的参数优化工作也有很大的进展，例如粒子群优化算法、果蝇优化算法等智能寻优算法。但在上述方案中，神经网络算法需要大量的历史数据，这是在实际工程中不能被满足的，因此预测效果相对略差或一时难以采用。灰色预测法与时间序列法由于模型的局限性，仅适用于线性数据序列的预测，而历史用电量数据序列一般是非线性的序列。应用智能算法对参数寻优，易陷入局部最优，且不适用于小样本寻优。所以，目前这些预测方案仍不能达到售电交易满意的预测精度。

发明内容

本发明的目的是提出一种基于最大相关熵准则的最小二乘支持向量机电量预测方法，解决了现有技术条件下售电量预测模型精度不高，难以满足售电交易要求的问题。

本发明采用的技术方案是，一种基于最大相关熵准则的最小二乘支持向量机电量预测方法，按照以下步骤实施：

步骤1、以历史三年的同期用电量以及所对应的月平均气温作为自变量，构建输入数据集x_i(i＝1,2,...n)，用最小二乘支持向量机方法，构建待测月的售电量预测模型；

步骤2、数据预处理，

对历史用电量数据可能出现的缺损数据，利用往年同期的用电量与同年上、下月的用电量进行加和平均进行补充；

步骤3、对输入数据集进行归一化处理，

由于输入数据集中含有历史用电量与历史气温两种输入，对输入数据集x_i进行归一化处理见式(1)：

其中，x_i ^*表示归一化之后的输入数据集，x_max和x_min分别表示输入数据中的最大值与最小值；

步骤4、针对历史用电量、气温小样本数据的统计现状，选用最小二乘支持向量机模型进行售电量预测；

步骤5、引入K-折交叉验证与网格寻优法对模型的关键参数σ₀与σ进行优化，并使用最大相关熵准则代替均方误差准则作为模型的参数优化评价准则，确定最优参数；

步骤6、将输入数据集分为训练集和测试集，引入K-折交叉验证与网格寻优法对最小二乘支持向量机模型的关键参数σ₀与σ进行优化；

步骤7、选用月相对误差与年平均相对误差作为预测结果的评价指标，计算此时的预测精度，年平均相对误差的计算见式(7)：

其中，N为12，代表一年中12个月，j为第j月；

步骤8、进行至少3-5次预测，取其平均值以减小误差。

本发明的有益效果是，在最小二乘支持向量机预测方案的基础上，为改善其在非高斯分布时间序列预测时易出现过大的局部误差的情况，采用最大相关熵准则代替最小二乘支持向量机中普遍存在的均方误差准则作为模型的参数优化评价准则，并引入K-折交叉验证确保参数的普适性。最大相关熵准则用以衡量两个随机变量的局部相似程度，在非高斯、非线性信号处理中已有广泛证明。使用最大相关熵准则作为参数优化评价准则后，预测结果与真实值的局部相似度得到明显改善，没有局部误差过大的情况。与现有的售电量预测方案相比，鲁棒性更强，计算速度更快；与神经网络等智能方法相比，数据需求量小了很多，更与工程实践相契合；与未改进的最小二乘支持向量机相比，更能反映在误差处于非高斯分布时的数据特性，预测效果更好。

附图说明

图1是本发明预测方法的总流程示意图；

图2是本发明预测方法的参数优化流程图；

图3是本发明预测方法实施例的结果示意图。

具体实施方式

参照图1，本发明的电量预测方法，按照以下步骤实施：

步骤1、以历史三年的同期用电量以及所对应的月平均气温作为自变量，构建输入数据集x_i(i＝1,2,...n)，用最小二乘支持向量机方法，构建待测月的售电量预测模型。

步骤2、数据预处理，

对历史用电量数据可能出现的缺损数据，利用往年同期的用电量与同年上、下月的用电量进行加和平均进行补充。

步骤3、对输入数据集进行归一化处理，

由于输入数据集中含有历史用电量与历史气温两种输入，对输入数据集x_i进行归一化处理见式(1)：

其中，x_i ^*表示归一化之后的输入数据集，x_max和x_min分别表示输入数据中的最大值与最小值；

步骤4、针对历史用电量、气温小样本数据的统计现状，选用最小二乘支持向量机(Least Squares Support Veotor Machine，LSSVM)模型进行售电量预测，最小二乘支持向量机的原始最优化问题见式(2)：

其中，n表示训练样本中的数据总数；C为惩罚因子，其作用为衡量经验风险和模型复杂度的权重；ξ_i表示松弛变量，用以限制拟合误差，即回归误差；两个参数(ω,b)∈Rⁿ×R是控制函数的参数，最小二乘的方法通过最小化偏离数据的误差平方和来选择参数(ω,b)；φ(x_i)为输入空间到某个特征空间的映射；y_i表示输出数据集，即最终所求的电量预测值。

通过拉格朗日对偶性(Lagrange Duality)，将原目标函数及约束条件变换到其对偶变量(Dual Variable)的优化问题，得到下式(3)：

L为变换得到的拉格朗日函数，α_i即为拉格朗日乘子。

解上式，得线性方程组，见式(4)：

其中，K为n×n的核矩阵，将输入数据集x_i分为训练集x_trian和测试集x_test，σ₀为核宽度，Y＝[y₁,y₂,...,y_n]^T，e＝[1,1,...,1]^T；

将系数α和b解出后，即可得到最终的预测结果回归模型，称为最小二乘支持向量机模型，见式(5)：

步骤5、引入K-折交叉验证与网格寻优法对模型的关键参数σ₀与σ进行优化，并使用最大相关熵准则代替均方误差准则作为模型的参数优化评价准则，确定最优参数。

为了使最小二乘支持向量机模型适应具有非高斯误差分布的时间序列预测，对于最小二乘支持向量机中的关键参数，采用最大相关熵准则(Maximum CorrentropyCriterion，MCC)代替最小二乘支持向量机模型中原有的均方误差准则(Mean SquaredError，MSE)，作为参数优化评价准则的预测机制，避免出现局部过大误差的情况，使得当训练样本不满足高斯分布时也能找到合适的参数，并引入K-折交叉验证确保参数的普适性，最大相关熵准则的表达式见式(6)：

其中，σ表示核参数，y_real表示电量真实值，由该式可以看出此函数恒为正值，当且仅当电量真实值y_real与电量预测值y_i相等时函数有最大值。

该步骤5的流程参照图2所示。

步骤6、将输入数据集分为训练集和测试集，引入K-折交叉验证与网格寻优法对最小二乘支持向量机模型的关键参数σ₀与σ进行优化，

在参数优化过程中，首先定义参数所处区间，将参数区间划分为一定数量的网格，每个网格代表一组参数；训练过程中，在每个网格内参数的指导下都会生成一个误差值，即MCC值；遍历完所有网格的参数后，选择最大的MCC值所对应的网格内参数作为最优参数。

步骤7、选用月相对误差与年平均相对误差作为预测结果的评价指标，计算此时的预测精度，年平均相对误差的计算见式(7)：

其中，N为12，代表一年中12个月，j为第j月。

步骤8、由于最小二乘支持向量机模型每运行一次都会初始化参数，故每次的预测结果都会存在微小波动，因此需要进行至少3-5次预测，取平均值以减小误差。

实施例

步骤1、使用某市某机械制造企业历史三年的同期用电量以及所对应的月平均气温建立输入数据集。

步骤2、对历史用电量数据集中与缺损数据，利用往年同期的用电量与同年上、下月的用电量进行加和平均进行补充。

步骤3、对输入数据集进行归一化处理。

步骤4、应用下式对电量进行预测

其中，x_trian为训练集的输入，x_test为测试集的输入，将其带入式中，就能够得到最终的预测结果y_i。

步骤5、引入K-折交叉验证与网格寻优法对模型的关键参数σ₀与σ进行优化，并使用最大相关熵准则代替均方误差准则作为模型的参数优化评价准则，确定最优参数。

步骤6、对最小二乘支持向量机模型的关键参数σ₀与σ进行优化。

步骤7、选用月相对误差与年平均相对误差作为预测结果的评价指标，计算此时的预测精度。

步骤8、进行3-5次预测，取平均预测值。见图3，最终得到年平均相对预测误差为1.672％的预测结果，与MSE-LSSVM预测结果的对比以及月相对预测误差如表1所示。

表1

可见，本发明方法(即MCC-LSSVM方法)预测的结果，准确率能够满足实际的需要。

本发明的方法，基于最大相关熵准则的最小二乘支持向量机进行预测，通过在原始模型中引入最大相关熵准则代替原有的均方误差准则作为模型的参数优化评价准则，并使用K-折交叉验证与网格寻优法相结合的优化算法对模型的参数进行优化，达到有效提高售电量预测精度的目的。最大相关熵准则的引入能够使该模型同样适用于非高斯分布的售电量序列预测，有效避免了预测结果中局部预测误差过大的情况出现。首次应用于电力系统售电量预测，能有效对用户进行售电量预测，具有非常关键的理论意义与工程价值。

Claims (4)

1.一种基于最大相关熵准则的最小二乘支持向量机电量预测方法，其特征在于，按照以下步骤实施：

步骤1、以历史三年的同期用电量以及所对应的月平均气温作为自变量，构建输入数据集x_i(i＝1,2,...n)，用最小二乘支持向量机方法，构建待测月的售电量预测模型；

步骤2、数据预处理，

对历史用电量数据可能出现的缺损数据，利用往年同期的用电量与同年上、下月的用电量进行加和平均进行补充；

步骤3、对输入数据集进行归一化处理，

由于输入数据集中含有历史用电量与历史气温两种输入，对输入数据集x_i进行归一化处理见式(1)：

其中，x_i ^*表示归一化之后的输入数据集，x_max和x_min分别表示输入数据中的最大值与最小值；

步骤4、针对历史用电量、气温小样本数据的统计现状，选用最小二乘支持向量机模型进行售电量预测；

步骤5、引入K-折交叉验证与网格寻优法对模型的关键参数σ₀与σ进行优化，并使用最大相关熵准则代替均方误差准则作为模型的参数优化评价准则，确定最优参数；

步骤6、将输入数据集分为训练集和测试集，引入K-折交叉验证与网格寻优法对最小二乘支持向量机模型的关键参数σ₀与σ进行优化；

步骤7、选用月相对误差与年平均相对误差作为预测结果的评价指标，计算此时的预测精度，年平均相对误差的计算见式(7)：

其中，N为12，代表一年中12个月，j为第j月；

步骤8、进行至少3-5次预测，取平均值。

2.根据权利要求1所述的基于最大相关熵准则的最小二乘支持向量机电量预测方法，其特征在于：所述的步骤4中，具体过程是：

最小二乘支持向量机的原始最优化问题见式(2)：

其中，n表示训练样本中的数据总数；C为惩罚因子；ξ_i表示松弛变量；两个参数(ω,b)∈Rⁿ×R是控制函数的参数；φ(x_i)为输入空间到某个特征空间的映射；y_i表示输出数据集，即最终所求的电量预测值；

通过拉格朗日对偶性，将原目标函数及约束条件变换到其对偶变量(Dual Variable)的优化问题，得到下式(3)：

L为变换得到的拉格朗日函数，a_i即为拉格朗日乘子，

解上式，得线性方程组，见式(4)：

其中，K为n×n的核矩阵，将输入数据集x_i分为训练集x_trian和测试集x_test，σ₀为核宽度，Y＝[y₁,y₂,...,y_n]^T，e＝[1,1,...,1]^T；

将系数a和b解出后，即可得到最终的预测结果回归模型，称为最小二乘支持向量机模型，见式(5)：

3.根据权利要求1所述的基于最大相关熵准则的最小二乘支持向量机电量预测方法，其特征在于：所述的步骤5中，具体过程是：

为了使最小二乘支持向量机模型适应具有非高斯误差分布的时间序列预测，对于最小二乘支持向量机中的关键参数，采用最大相关熵准则代替最小二乘支持向量机模型中原有的均方误差准则，作为参数优化评价准则的预测机制，避免出现局部过大误差的情况，使得当训练样本不满足高斯分布时也能找到合适的参数，并引入K-折交叉验证确保参数的普适性，最大相关熵准则的表达式见式(6)：

其中，σ表示核参数，y_real表示电量真实值，由该式可以看出此函数恒为正值，当且仅当电量真实值y_real与电量预测值y_i相等时函数有最大值。

4.根据权利要求1所述的基于最大相关熵准则的最小二乘支持向量机电量预测方法，其特征在于：所述的步骤6中，具体过程是：

在参数优化过程中，首先定义参数所处区间，将参数区间划分为一定数量的网格，每个网格代表一组参数；训练过程中，在每个网格内参数的指导下都会生成一个误差值，即MCC值；遍历完所有网格的参数后，选择最大的MCC值所对应的网格内参数作为最优参数。