CN105303262A - 一种基于核主成分分析和随机森林的短期负荷预测方法 - Google Patents

Abstract

本发明公开了一种基于核主成分分析与随机森林的短期负荷预测方法，包括如下步骤：(1)分析和选取运行的电力系统中影响待预测日负荷预测精度的数据，初步构造训练、预测样本集；(2)采用核主成分分析对训练样本数据进行降维；(3)采用随机森林模型对上述已降维的训练样本数据进行训练，得到训练后的随机森林模型；(4)将预测样本数据输入训练后的随机森林模型，进行待预测日的短期负荷预测。本发明的优点为通过结合核主成分分析和随机森林模型对电力系统进行短期预测负荷，提高了预测的精度、效率以及数据的合理性。

Description

一种基于核主成分分析和随机森林的短期负荷预测方法

技术领域

本发明属于电力系统技术领域，具体涉及一种基于核主成分分析和随机森林的短期负荷预测方法。

背景技术

电力负荷预测是电力系统调度、用电、计划、规划等管理部门的重要工作之一。准确的短期负荷预测是合理安排发电机组的起停、提高电能质量、保持电网安全稳定性运行的重要依据，有助于减少不必要的旋转储备容量、合理安排机组检修计划、有效降低发电成本、提高经济和社会效益。

为了提高短期负荷预测的精度，众多研究者展开了长期研究与探索，并形成了以时间序列法为代表的传统预测方法和以人工神经网络(ArtificialNeuralNetworks,ANN)为代表的人工智能方法。与此同时，支持向量机(SupportVectorMachines,SVM)等新的机器学习算法，也得到越来越广泛的应用。

但是在实际应用过程中普遍存在以下两个问题：第一个问题是当输入影响因素过多时，将会导致预测模型结构过于复杂，训练效率低；第二个问题是ANN方法在训练中容易导致学习不足或过拟合的问题。SVM等机器学习算法虽能有效避免陷入局部最小的风险，能实现较为精确的预测，但是仍存在以下不足：(1)核函数必须满足Mercer条件，可选核函数较少；(2)只能实现点预测，无法描述数据的不确定信息；(3)参数较多，且支持向量随着训练样本的增加而线性增长，计算量较大。

对于第一个问题，目前常用的解决思路是进行样本输入的降维，其中核主成分分析(KernelPrincipleComponentAnalysis，KPCA)能通过其核函数实现非线性降维，可有效避免粗糙集理论、灰色关联分析法等传统降维方法只能提取出部分影响因素，而剩余的影响因素则被完全舍弃的不足，以及主成分分析(PrincipleComponentAnalysis,PCA)方法因其本质为一种线性算法，不能提取数据中的非线性关系的不足。

对于第二个问题，随机森林(RandomForest,RF)是数据挖掘思想的代表算法，能够从有限的数据中挖掘出大量的有效信息。RF算法以Bootsrap重抽样法获取训练样本，其基本思想是构造多决策树模型，具有预测精度高、泛化误差可控、收敛速度快、调节参数少等优点，可有效避免“过拟合”现象发生，尤其适用于高维数据的运算。已有文献将RF算法与SVM和ANN算法进行了比较，证明了RF算法的优越性。RF算法早期多应用于图像识别、故障诊断等分类问题，目前将该算法运用于负荷预测的成果非常少。

发明内容

发明目的：本发明的目的是提供一种结合核主成分分析和随机森林模型、提高预测精度与效率的短期预测负荷方法。

技术方案：本发明所述的基于核主成分分析和随机森林的短期负荷预测方法包括如下步骤：

(1)分析和选取运行的电力系统中影响待预测日负荷预测精度的数据，初步构造训练、预测样本集；进一步说，所述数据包括历史负荷、气温、湿度以及光照数据。

(2)采用核主成分分析对训练样本数据进行降维；采用核主成分分析对样本的输入数据进行优选降维，是为了能在保证输入数据相对较少的同时，保留绝大多数有效信息，核主成分分析的构建方法进一步说包括如下步骤：

(21)给定M个样本，每个样本有N维的原始输入，输入样本数据构成M行N列矩阵；

(22)选择核函数，根据 ${\mathrm{KN}}_{ij}=K_{ij}-\frac{1}{M}\underset{m=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mj}-\frac{1}{M}\underset{n=1}{\overset{M}{\Σ}}{l}_{in}{K}_{nj}+\frac{1}{M^2}\underset{m,n=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mn}{l}_{nj}$ 得到核函数矩阵KN(即一般情况下的核函数矩阵)，计算该矩阵的特征值λ和特征向量ν，其中，KN_ij表示核函数矩阵中第i行第j列的核函数，K_ij表示中心化时的核函数矩阵中第i行第j列的核函数，l_im表示第i行第m列的修正系数，K_mj表示第m行第j列的核函数，l_in表示第i行第n列的修正系数，K_nj表示第n行第j列的核函数，K_mn表示第m行第n列的核函数，l_nj表示第n行第j列的修正系数；选择的核函数优选可为高斯径向基核函数K(x,x_i)＝exp(-||x-x_i||/σ²)，其中，σ为核函数参数，x为任一点，x_i为某一点；

(22)计算上述特征值的贡献率以及累计贡献率，提取主成分分量，并计算KN在提取出的特征向量α上的投影Y＝KN·α，其中，所述Y为经核主成分分析降维后的训练样本，KN表示核函数矩阵。

(3)采用随机森林模型对上述已降维的训练样本数据进行训练，得到训练后的随机森林模型；随机森林模型的构建方法进一步说包括如下步骤：

(31)应用Bootstrap方法对已降维的训练样本数据进行重抽样，随机产生k个训练子集S₁,…,S_k；采用Bootstrap方法对已降维的训练样本数据进行重抽样进一步说是对集合S中含有n个不同的样本{x₁,…,x_n}，有放回地从集合S中抽取一个样本，抽取n次，汇总抽取的样本形成新的集合S^*；

(32)对每个训练子集构建对应的不剪枝决策树CART₁,…,CART_k，在对决策树内部节点进行分裂过程中，是从M个属性中随机抽取m个属性作为该分裂节点的分裂属性集，其中，M为训练样本的属性个数，m为大于0且小于M的整数；

(33)对于测试样本X，利用每个决策树进行测试，得到对应的决策树CART₁(X)，…，CART_k(X)，对k个决策树的结果求平均值，得到测试样本X对应的最终预测结果。最终的预测结果进一步表示为其中，H(x)为预测输出，k为决策树的个数，h_t(x)为第t个CART决策树模型。

(4)将预测样本数据输入训练后的随机森林模型，进行待预测日的短期负荷预测。

有益效果：与现有技术相比，本发明的显著优点为通过结合核主成分分析和随机森林模型对电力系统进行短期预测负荷，提高了预测的精度、效率以及数据的合理性，可较好的运用于工程实际问题。核主成分分析降低了样本输入的维数，该方法能实现输入的非线性降维，在保证输入数据相对较少的同时，保留绝大多数有效信息；随机森林方法具有预测精度高、泛化误差可控、收敛速度快、调节参数少等优点，可有效避免“过拟合”现象，尤其适用于高维数据的运算。

附图说明

图1为本发明的短期负荷预测流程框图；

图2为随机森林预测示意图；

图3为预测效果示意图。

具体实施方式

下面结合附图对本发明的技术方案进行详细说明。需要说明的是，此处的说明仅仅以短期负荷预测为例，该发明还可适用于风速预测、光伏出力预测等其他范围与领域。

为了提高短期负荷预测的预测精度与运算效率，本发明提出一种基于核主成分分析和随机森林的短期负荷预测方法，如图1所示。一方面引入核主成分分析对初始的高维样本输入进行非线性降维，在保证输入数据相对较少的同时，保留绝大多数有效信息，降低了模型的规模，缩短了模型的运行时间；另一方面采用已降维的新训练样本训练随机森林模型，充分挖掘训练样本中的有效信息；最后使用训练好的模型进行待预测日的短期负荷预测。

本发明所述的基于核主成分分析和随机森林的短期负荷预测方法包括如下步骤：

步骤(1)：分析和选取运行的电力系统中影响待预测日负荷预测精度的数据，初步构造训练、预测样本集；进一步说，影响待预测日负荷预测精度的数据包括历史负荷、气温、湿度以及光照数据。

步骤(2)：采用核主成分分析对训练样本数据进行降维；采用核主成分分析对样本的输入数据进行优选降维，是为了能在保证输入数据相对较少的同时，保留绝大多数有效信息，核主成分分析的构建方法进一步说包括如下步骤：

(1)给定M个样本，每个样本有N维的原始输入，输入样本数据构成M行N列矩阵；

(2)选择核函数，根据 ${\mathrm{KN}}_{ij}=K_{ij}-\frac{1}{M}\underset{m=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mj}-\frac{1}{M}\underset{n=1}{\overset{M}{\Σ}}{l}_{in}{K}_{nj}+\frac{1}{M^2}\underset{m,n=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mn}{l}_{nj}$ 得到一般情况下的核函数矩阵KN，计算该矩阵的特征值λ和特征向量ν，其中，KN_ij表示核函数矩阵中第i行第j列的核函数(一般情况下)，K_ij表示中心化时的核函数矩阵中第i行第j列的核函数，l_im表示第i行第m列的修正系数，K_mj表示第m行第j列的核函数，l_in表示第i行第n列的修正系数，K_nj表示第n行第j列的核函数，K_mn表示第m行第n列的核函数，l_nj表示第n行第j列的修正系数；选择的核函数优选可为高斯径向基核函数K(x,x_i)＝exp(-||x-x_i||/σ²)，其中，σ为核函数参数，x为任一点，x_i为某一点；

(3)计算上述特征值的贡献率以及累计贡献率，提取主成分分量，并计算KN在提取出的特征向量α上的投影Y＝KN·α，其中，所述Y为经核主成分分析降维后的训练样本。

步骤(3)：采用随机森林模型对上述已降维的训练样本数据进行训练，得到训练后的随机森林模型；随机森林模型的构建方法进一步说包括如下步骤：

a、给定训练样本S的属性个数为M，m为大于0且小于M的整数；

b、利用Bootstrap方法对已降维的训练样本数据进行重抽样，随机产生k个训练子集S₁,…,S_k；采用Bootstrap方法对原始训练样本进行重抽样进一步说是对集合S中含有n个不同的样本数据{x₁,…,x_n}，有放回地从集合S中抽取一个样本，抽取n次，汇总抽取的样本形成新的集合S^*；

c、利用每个训练子集，生成对应的决策树CART₁,…,CART_k；在每个非叶子节点(内部节点)上选择属性前，从M个属性中随机抽取m个属性作为当前节点的分裂属性集，并以这m个属性中最好的分裂方式对该节点进行分裂(在整个森林的生长过程中，m保持不变)；

d、每棵树都完整生长，不进行剪枝，直至训练完毕；

e、对于测试样本X，利用每个决策树进行测试，得到对应的决策树CART₁(X)，…，CART_k(X)；

f、对k个决策树的结果求平均值，得到测试样本X对应的最终预测结果；最终的预测结果进一步表示为其中，H(x)为预测输出，k为决策树的个数，h_t(x)为第t个CART决策树模型。

步骤(4)：将预测样本数据输入训练后的随机森林模型，进行待预测日的短期负荷预测，其输出即为待预测日一天48个点的负荷预测值。

分析并选取的影响负荷预测效果的数据如表1所示。

表1样本输入影响数据

影响数据具体为：前一天同时刻负荷值、前两天同时刻负荷值、前七天同时刻负荷值、前八天同时刻负荷值、前十四天同时刻负荷值、去年同期同时刻负荷值、待预测日气温预报值、前一天同时刻气温历史值、前两天同时刻气温历史值、前七天同时刻气温历史值、前八天同时刻气温历史值、前十四天同时刻气温历史值、去年同期同时刻气温历史值、待预测日湿度预报值、前一天同时刻湿度历史值、前两天同时刻湿度历史值、前七天同时刻湿度历史值、前八天同时刻湿度历史值、前十四天同时刻湿度历史值、去年同期同时刻湿度历史值。

样本的输入向量为X(i,t)＝[L(i-1,t),L(i-2,t),L(i-7,t),L(i-8,t),L(i-14,t),L(i-365,t),T(i,t),T(i-1,t),T(i-2,t),T(i-7,t),T(i-8,t),T(i-14,t),T(i-365,t),H(i,t),H(i-1,t),H(i-2,t),H(i-7,t),H(i-8,t),H(i-14,t),H(i-365,t)]，输出向量为y(i,t)＝L(i,t)。

其中，X(i,t)表示第i天样本输入第t时刻的影响数据；y(i,t)表示第i天样本输入对应第t时刻的输出；L(i-1,t)表示前一天第t时刻的负荷数据；L(i-2,t)表示前两天第t时刻的负荷数据；L(i-7,t)表示前七天第t时刻的负荷数据；L(i-8,t)表示前八天第t时刻的负荷数据；L(i-14,t)表示前十四天第t时刻的负荷数据；L(i-365,t)表示去年同期第t时刻的负荷数据；T(i,t)表示待预测日第t时刻的气温预报数据；T(i-1,t)表示前一天第t时刻的气温数据；T(i-2,t)表示前两天第t时刻的气温数据；T(i-7,t)表示前七天第t时刻的气温数据；T(i-8,t)表示前八天第t时刻的气温数据；T(i-14,t)表示前十四天第t时刻的气温数据；T(i-365,t)表示去年同期第t时刻的气温数据；H(i,t)表示待预测日第t时刻的湿度预报数据；H(i-1,t)表示前一天第t时刻的湿度数据；H(i-2,t)表示前两天第t时刻的湿度数据；H(i-7,t)表示前七天第t时刻的湿度数据；H(i-8,t)表示前八天第t时刻的湿度数据；H(i-14,t)表示前十四天第t时刻的湿度数据；H(i-365,t)表示去年同期第t时刻的湿度数据，其中，负荷数据可以从SCADA系统中获取，气温等数据可以从附近气象站或气象局得到。

引入核主成分分析对初构的训练、预测样本进行非线性降维。

对于N维输入空间的M个样本x_k(k＝1,…,M)，将x_k中心化，其均值为0，协方差矩阵C为：

$C=\frac{1}{M}\underset{j=1}{\overset{M}{\Σ}}{x}_j{x}_j^T---\left(1\right)$

式中：x_j表示第j个样本，为x_j的转置，M为样本数。

通过非线性映射函数Φ，将输入空间样本点x_k(k＝1,…,M)变换到特征空间中样本点Φ(x₁)，…，Φ(x_M)，并假设特征空间中样本均值为0，即

$\underset{k=1}{\overset{M}{\Σ}}\mathrm{\Φ}\left(x_k\right)=0---\left(2\right)$

则特征空间中的协方差矩阵C₁为：

$C_1=\frac{1}{M}\underset{j=1}{\overset{M}{\Σ}}\mathrm{\Φ}\left(x_j\right)\mathrm{\Φ}{\left(x_j\right)}^T---\left(3\right)$

式中：Φ(x_j)^T为Φ(x_j)的转置。

核主成分分析(KPCA)就是求解λν＝C₁ν中的特征值λ和特征向量ν。两边同乘Φ(x_k)可得：

λ[Φ(x_k)ν]＝Φ(x_k)C₁ν(4)

ν可线性表示为：

$\mathrm{\ν}=\underset{i=1}{\overset{M}{\mathrm{\Σ}}}{\mathrm{\α}}_i\mathrm{\Φ}\left(x_i\right)---\left(5\right)$

式中：α_i第i个特征值对应的特征向量；x_i表示第i个样本。

则式(4)可表示为：

$\mathrm{\λ}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}\left\{{\mathrm{\α}}_i\[\mathrm{\Φ}\left(x_k\right)\·\mathrm{\Φ}\left(x_i\right)\]\right\}=\frac{1}{M}\underset{i=1}{\overset{M}{\mathrm{\Σ}}}\left\{{\mathrm{\α}}_i\[\mathrm{\Φ}\left(x_k\right)\·\underset{j=1}{\overset{M}{\mathrm{\Σ}}}\mathrm{\Φ}\left(x_j\right)\]\·\[\mathrm{\Φ}\left(x_j\right)\·\mathrm{\Φ}\left(x_i\right)\]\right\}---\left(6\right)$

定义M×M核函数矩阵K中元素表示为K_ij＝Φ(x_i)·Φ(x_j)，则式(6)可表述为：

MλKα＝K²α(7)

由式(7)可解得要求的特征值与特征向量。对于测试样本，其在特征空间V^k上的投影为：

$V^k\·\mathrm{\Φ}\left(x\right)=\underset{i=1}{\overset{M}{\Σ}}\{{\mathrm{\α}}_i^k\[\mathrm{\Φ}\left(x_i\right)\·\mathrm{\Φ}\left(x\right)\]\}---\left(8\right)$

式中：表示第k个样本的第i个特征值对应的特征向量。

然而，一般情况下高维空间中样本的中心化不成立，此时K可由如下KN代替，KN表示一般情况下的核函数，其元素(其中l_ij＝1)为：

${\mathrm{KN}}_{ij}=K_{ij}-\frac{1}{M}\underset{m=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mj}-\frac{1}{M}\underset{n=1}{\overset{M}{\Σ}}{l}_{in}{K}_{nj}+\frac{1}{M^2}\underset{m,n=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mn}{l}_{nj}---\left(9\right)$

式中：KN_ij表示核函数矩阵中第i行第j列的核函数(一般情况下)，K_ij表示中心化时的核函数矩阵中第i行第j列的核函数，l_im表示第i行第m列的修正系数，K_mj表示第m行第j列的核函数，l_in表示第i行第n列的修正系数，K_nj表示第n行第j列的核函数，K_mn表示第m行第n列的核函数，l_nj表示第n行第j列的修正系数。

常用核函数有如下几种：

(1)线性核函数(多项式核的特例)

K(x,x_i)＝x·x_i(10)

(2)p阶多项式核函数

K(x,x_i)＝[(x·x_i)+1]^p(11)

式中：p表示阶数；

(3)高斯径向基(RBF)核函数

K(x,x_i)＝exp(-||x-x_i||/σ²)(12)

式中：σ表示核函数的核参数；

(4)多层感知器(MLP)核函数

K(x,x_i)＝tanh[ν(x·x_i)+c](13)

式中：v表示参数系数，c表示常数系数

其中，本方法中KPCA的核函数选择RBF径向基核，核参数σ＝0.5，累计贡献率阈值τ＝95％。

在上述参数设置下，统计所有成分的特征值λ、贡献率θ、累计贡献率τ的结果如表2所示。

表2KPCA分析结果

由表2所示，在τ＝95％阈值下，经KPCA非线性降维后样本输入变量只需12个，明显少于初选，该步骤显著降低模型规模、缩短运行时间。

采用随机森林模型对上述已降维的训练样本数据进行训练，并采用训练好的模型进行预测，如图2所示。

给定训练样本S的属性个数为M，m为大于0且小于M的整数。在进行模型训练前，初设N_tree＝300，N_tree表示决策树的个数，后续可根据预测误差调整其大小；M_try＝log₂(M+1)(M为样本输入的维数)，M_try表示分裂的节点数，在训练过程中该参数不作调整。

利用Bootstrap方法对原始训练样本重抽样，随机产生k个训练集S₁,…,S_k；

利用每个训练集，生成对应的决策树CART₁,…,CART_k，决策树模型为h(X)，其中，X表示输入向量；在每个非叶子节点(内部节点)上选择属性前，从M个属性中随机抽取m个属性作为当前节点的分裂属性集，并以这m个属性中最好的分裂方式对该节点进行分裂(一般而言，在整个森林的生长过程中，m保持不变)；

每棵树都完整生长，不进行剪枝，直至训练完毕；

对于测试样本X，利用每个决策树进行测试，得到对应的{h₁(X),…,h_k(X)}；

对k个决策树的结果求平均值，最终的预测结果表示为：

$H\left(x\right)=\frac{1}{k}\underset{t=1}{\overset{k}{\Σ}}{h}_t\left(x\right)---\left(14\right)$

其中，t为第t个CART决策树；H(x)为预测输出。

为评价模型预测效果的好坏，采用以下两个指标对预测结果进行误差分析。

(1)相对误差(RelativeError,RE)

$RE=\frac{|y_{true}-y_{fore}|}{y_{true}}\×100\%---\left(15\right)$

(1)平均相对误差(MeanAbsolutePercentageError，MAPE)

$MAPE=\frac{1}{N}\underset{i=1}{\overset{N}{\Σ}}\left|\frac{y_{true}-y_{fore}}{y_{fore}}\right|\×100\%---\left(16\right)$

式中：y_true表示负荷实际值，y_fore表示预测值，N表示样本总数。RE和MAPE用于评价预测值与实际值之间的偏差，其值越小，预测精度越高。

为分析本发明的预测效果，将本发明方法(KPCA-RF)与BP神经网络方法(BP)、支持向量机方法(SVM)、随机森林方法(RF)的预测结果进行对比分析，采用RE指标和MAPE指标和运行时间t对预测误差进行评价，其短期负荷预测效果如图3所示，部分预测结果及指标分析结果如表3、表4所示。

表3预测结果及误差分析

表4四种方法预测效果比较

结合图3中各曲线的特点以及表3、表4的误差结果可以得知本发明方法的预测结果与实际负荷波动情况基本一致，说明了本方法的可行性；与BP方法、SVM方法、RF方法相比，本发明方法的RE指标总体较小，MAPE指标明显最小，运行时间最短，充分体现了本发明方法的有效性。综上所述，本发明方法可较好的实现短期负荷预测，具有较高的工程实用价值。

Claims (7)

1.一种基于核主成分分析和随机森林的短期负荷预测方法，其特征在于包括如下步骤：

(1)分析和选取运行的电力系统中影响待预测日负荷预测精度的数据，初步构造训练、预测样本集；

(2)采用核主成分分析对训练样本数据进行降维；

(3)采用随机森林模型对上述已降维的训练样本数据进行训练，得到训练后的随机森林模型；

(4)将预测样本数据输入训练后的随机森林模型，进行待预测日的短期负荷预测。

2.根据权利要求1所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(1)中，所述数据包括历史负荷、气温、湿度以及光照数据。

3.根据权利要求1所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(2)中，所述核主成分分析的构建方法包括如下步骤：

(21)给定M个样本，每个样本有N维的原始输入，输入样本数据构成M行N列矩阵；

(22)选择核函数，根据 ${\mathrm{KN}}_{ij}=K_{ij}-\frac{1}{M}\underset{m=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mj}-\frac{1}{M}\underset{n=1}{\overset{M}{\Σ}}{l}_{in}{K}_{nj}+\frac{1}{M^2}\underset{m,n=1}{\overset{M}{\Σ}}{l}_{im}{K}_{mn}{l}_{nj}$ 得到核函数矩阵KN，计算该矩阵的特征值λ和特征向量ν，其中，KN_ij表示核函数矩阵中第i行第j列的核函数，K_ij表示中心化时的核函数矩阵中第i行第j列的核函数，l_im表示第i行第m列的修正系数，K_mj表示第m行第j列的核函数，l_in表示第i行第n列的修正系数，K_nj表示第n行第j列的核函数，K_mn表示第m行第n列的核函数，l_nj表示第n行第j列的修正系数；

(23)计算上述特征值的贡献率以及累计贡献率，提取主成分分量，并计算KN在提取出的特征向量α上的投影Y＝KN·α，其中，所述Y为经核主成分分析降维后的训练样本，KN表示核函数矩阵。

4.根据权利要求3所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(22)中，所述选择的核函数为高斯径向基核函数K(x,x_i)＝exp(-||x-x_i||/σ²)，其中，σ为核函数参数，x为任一点，x_i为某一点。

5.根据权利要求1所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(3)中，所述随机森林模型的构建方法包括如下步骤：

(31)应用Bootstrap方法对已降维的训练样本数据进行重抽样，随机产生k个训练子集S₁,…,S_k；

(32)对每个训练子集构建对应的不剪枝决策树CART₁,…,CART_k，在对决策树内部节点进行分裂的过程，是从M个属性中随机抽取m个属性作为该分裂节点的分裂属性集，其中，M为训练样本的属性个数，m为大于0且小于M的整数；

(33)对于测试样本X，利用每个决策树进行测试，得到对应的决策树CART₁(X)，…，CART_k(X)，对k个决策树的结果求平均值，得到测试样本X对应的最终预测结果。

6.根据权利要求5所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(31)中，所述应用Bootstrap方法对已降维的训练样本数据进行重抽样是对集合S中含有n个不同的样本数据{x₁,…,x_n}，有放回地从集合S中抽取一个样本数据，抽取n次，汇总抽取的样本形成新的集合S^*。

7.根据权利要求5所述的基于核主成分分析和随机森林的短期负荷预测方法，其特征在于：步骤(33)中，所述最终的预测结果表示为其中，H(x)为预测输出，k为决策树的个数，h_t(x)为第t个CART决策树模型。