CN105894114A - 一种基于动态条件玻尔兹曼机的太阳能预测方法 - Google Patents

Abstract

本发明公开了一种基于动态条件玻尔兹曼机的太阳能预测方法,包括如下步骤：获取条件玻尔兹曼机的参数；建立动态条件玻尔兹曼机的模型；对动态条件玻尔兹曼机进行训练，获取训练好的动态条件玻尔兹曼机模型的参数；采用训练好的动态条件玻尔兹曼机参数以及样本向量，经过吉布斯采样获取太阳能预测值；由于所采用的条件波尔兹曼机模型可以有效动态捕捉基于时间序列的数据的变化，因此采用该模型可以学习到太阳能数据的变化规律，具有提高实时预测准确率的效果，另一方面，采样数据挖掘的方法实时获取最相似样本作为输入样本，具有进一步提高实时预测准确度效果。

Description

一种基于动态条件玻尔兹曼机的太阳能预测方法

技术领域

本发明属于机器学习领域，更具体地，涉及一种基于动态条件玻尔兹曼机的太阳能预测方法。

背景技术

由于太阳能发电、风力发电所产生的新能源具有不稳定性和动态变化的特点，负载与新能源不匹配的问题成为存储系统利用新能源的瓶颈；现有技术通过预测新能源发电量，根据能源动态变化的趋势对应地调整数据中心的作业调度和能耗安排，提高新能源的利用率，减少对电网供电的依赖。

现有的新能源预测方法包括物理模型预测、统计模型预测和人工智能预测等；物理模型预测方法对长期预测(3-10天)具有良好的效果，但对超短期预测(0-4小时)效果欠佳；统计学模型预测方法的短期预测效果较好；但因其没有学习能力不适于进行长期预测；人工智能预测方法适用于短期和长期预测，包括多元线性回归算法、人工神经网络(ANN)算法、支持向量机(SVM)算法，但在天气骤变情况下，这类方法预测误差较大。

发明内容

针对现有技术的以上缺陷或改进需求，本发明提供了一种基于动态条件玻尔兹曼机的太阳能预测方法，其目的在于提高太阳能预测准确率。

为实现上述目的，按照本发明的一个方面，提供了一种基于动态条件玻尔兹曼机的太阳能预测方法，包括如下步骤：

(1)建立条件玻尔兹曼机的参数，包括输入层向量，隐藏层向量，输出层向量，隐藏层与输出层的连接权值，输入向量指向输出向量的链接权值，输入向量与隐藏层向量的连接权值；

(2)根据所述动态条件玻尔兹曼机的参数，建立动态条件玻尔兹曼机的模型；

(3)对动态条件玻尔兹曼机的模型进行训练，获取训练好的动态条件玻尔兹曼机模型的参数；

(4)采用训练好的动态条件玻尔兹曼机模型的参数以及与当天输出向量最接近的样本向量，经过吉布斯采样处理获取太阳能预测值。

优选地，上述太阳能预测方法，其动态条件玻尔兹曼机的模型的函数

其中，u是指输入层向量，h是指隐藏层向量，v是指输出层向量，是指隐藏层与输出层在T＝n时刻的无向连接权值，是指输入层与输出层在T＝n时刻的有向连接权值，是指输入层与隐藏层在T＝n时刻的有向连接权值，是输出层在T＝n时刻的偏差值，是隐藏层在T＝n时刻的偏差值；

在上述动态条件玻尔兹曼机中，输入层与输出层的节点数目随着时间动态变化，输入层向量u与输出层向量v的维度动态变化，而这两个向量的维度之和是固定的。

优选地，上述太阳能预测方法，其步骤(3)中，采用随机梯度下降法或对比散度算法对动态条件玻尔兹曼机进行训练，获取训练好的动态条件玻尔兹曼机模型的参数

优选地，上述太阳能预测方法，其步骤(4)采用训练好的动态条件玻尔兹曼机，进行太阳能预测；

在输入向量中输入(t-1)个历史数据，采用数据挖掘方法获取与输出向量最接近的k个样本向量，并获取这k个样本向量的均值；将该均值作为输出层的输入变量，经过吉布斯采样获取预测值其中，k的取值范围为[5,20]。

优选地，上述太阳能预测方法，其步骤(3)具体如下：

(3-1)随机初始化动态条件玻尔兹曼机的参数；

(3-2)采用对比散度算法更新隐藏层与输出层的连接权值ΔW^vh，更新法则为：ΔW^vh∝＜v·h＞_data-＜v·h＞recon；

(3-3)根据下式更新隐藏层静态偏差值和输出层静态偏差值

$b_{T=n}^h=b_{T=n}^h+{\mathrm{\Δb}}_{T=n}^h;$

$b_{T=n}^v=b_{T=n}^v+{\mathrm{\Δb}}_{T=n}^v;$

其中，

(3-4)根据下式更新输入层与输出层的有向连接权值以及输入层与隐藏层的有向连接权值

$b_{T=n}^{uv}=b_{T=n}^{uv}+{\mathrm{\Δb}}_{T=n}^{uv}$

$b_{T=n}^{uh}=b_{T=n}^{uh}+{\mathrm{\Δb}}_{T=n}^{uh}$

其中是输入向量和输出向量的连接权值矩阵的更新法则，是输入向量和隐藏权值的连接权值矩阵的更新法则；

(3-5)获取各向量的训练误差，并判断各向量的训练误差是否满足各自精度要求，若否，则重复步骤(3-2)～(3-4)；若是，则结束训练。

优选地，上述太阳能预测方法，其步骤(4)具体如下：

(4-1)根据当前的时间点t，确定输入层节点数与输出层的节点数；

(4-2)根据所述输入层与输出层的节点数，采用KNN(K-Nearest Neighbor)算法获取与当天输出向量最接近的k个样本向量v(k)；v(k)＝KNN(u,D,k)；

(4-3)获取所述k个样本向量的均值，并在所述均值上加入噪音，获得输出层的激活概率的初始化值p(v)；

其中，p(v)＝mean(v(k))+α*rand()；rand()是指随机函数，mean()是指求均值函数，α是噪音因子；

(4-4)将前(t-1)个数据作为输入向量u，初始化输入向量u；根据初始化后的输入向量u以及步骤(3)训练得到的模型参数和获取隐藏层的动态偏差值b_uh，以及输出层的动态偏差值b_uv；

$b_{uh}=b_{uh}+u*b_{T=n}^{uh};$

$b_{uv}=b_{uv}+u*b_{T=n}^{uv};$

其中，是指输入层与隐藏层在T＝n时刻的有向连接权值；是指输入层与输出层在T＝n时刻的有向连接权值；

(4-5)进行N次吉布斯采样，迭代更新输出层的激活概率p(v)与隐藏层的激活概率p(h)；其中，N为正整数；

(4-6)通过均场采样对输出层向量进行去噪处理，获得太阳能预测值

优选地，上述太阳能预测方法，其步骤(4-5)具体如下：

(4-5-1)从输入层和输出层向隐藏层传播，计算隐藏层多个节点的激活概率；其中，隐藏层节点的激活概率其中，向量的每个单元分别对应一个节点；

(4-5-2)根据s(h)＝Activation(p(h))，概率性地激活隐藏层的部分节点；

如果随机的参数大于p(h)，则对应的节点为1，为激活状态；否则为0，处于非激活状态；其中，Activation()是指激活函数，s(h)的取值为0或者1；取值为0表示非激活状态，取值为1表示激活状态；

(4-5-3)从隐藏层向输出层传播，获取输出层的激活概率采样值

(4-5-4)判断采样的次数是否超过预设定的阈值，若否，则重复步骤(4-5-1)～(4-5-3)；若是，则结束吉布斯采样。

总体而言，通过本发明所构思的以上技术方案与现有技术相比，能够取得下列有益效果：

(1)本发明提供的基于动态条件玻尔兹曼机的太阳能预测方法，由于所采用的条件波尔兹曼机可以有效动态捕捉基于时间序列的数据的变化，因此采用该模型可以学习到太阳能数据的变化规律，具有提高实时预测准确率效果；

(2)本发明提供的基于动态条件玻尔兹曼机的太阳能预测方法，采用KNN算法找出最接近当天输出向量的k个样本向量，将数据挖掘的方法引进到条件玻尔兹曼机，可以实时获取最相似样本作为输入样本，具有进一步提高实时预测准确度效果。

附图说明

图1是本发明实施例提供的条件玻尔兹曼机模型示意图；

图2是本发明实施例提供的基于动态条件玻尔兹曼机的太阳能预测方法的流程示意图；

图3是本发明实施例提供的动态条件玻尔兹曼机模型示意图之一；

图4是本发明实施例建立的动态条件玻尔兹曼预测模型示意图之二。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。

图1所示，是实施例中用于太阳能预测的条件玻尔兹曼机，由于太阳能发电数据是时间序列数据，所以输出向量是一维向量，输入向量由多个一维向量组成。

图2所示，是实施例提供的动态条件玻尔兹曼机的模型示意图之一，将其中涉及的相关参数解释如下：h是指隐藏层的隐藏向量；v是指输入向量；u是指输出向量；ΔW^vh是指输入层与隐藏层之间的无向连接权值；Δb^uv是指输入向量与输出向量之间的有向连接权值；Δb^uh是指输入向量与隐藏向量之间的有向连接权值。

实施例所提供的基于动态条件玻尔兹曼机的太阳能预测方法，其流程如图2所示，包括以下步骤：

(1)建立条件玻尔兹曼机的参数，包括输入层向量u，隐藏层向量h，输出层向量v；上述向量的维度固定；隐藏层与输出层的连接权值ΔW^vh是无向连接，输入向量指向输出向量的链接权值Δb^uv是有向连接，输入向量与隐藏层向量的连接权值Δb^uh是有向链接；

(2)建立动态条件玻尔兹曼机，其函数为：

${\mathrm{Model}}_{T=n}=DynamicCRBM(W_{T=n}^{vh},b_{T=n}^{uv},b_{T=n}^{uh},b_{T=n}^v,b_{T=n}^h);$

其中，u是指输入层向量，h是指隐藏层向量，v是指输出层向量，是指隐藏层与输出层在T＝n时刻的无向连接权值，是指输入层与输出层在T＝n时刻的有向连接权值，是指输入层与隐藏层在T＝n时刻的有向连接权值，是输出层在T＝n时刻的偏差值，是隐藏层在T＝n时刻的偏差值；

如图3所示，当t＝7时，输入向量的节点数为6个，输出向量的节点数为18个；当t＝8时，输入向量的节点数为7个，输出向量的节点数为17个；输入向量与输出向量的节点个数之和固定为24个；

(3)采用随机梯度下降法或对比散度算法对动态条件玻尔兹曼机进行训练，获取模型的参数

(4)采用训练好的动态条件玻尔兹曼机，进行太阳能预测；

在输入向量中输入(t-1)个历史数据；然后采用KNN数据挖掘方法获取与当天输出向量最接近的k个样本向量，进而算出k个样本的均值，在所述均值上加入噪音，获得输出层的激活概率的初始化值；迭代更新输出层的激活概率，根据该激活概率去概率性的激活输出层部分节点；根据输入向量与动态玻尔兹曼机模型，获取输出层向量；通过均场采样对输出层向量进行去噪处理，获得太阳能预测值；实施例中，k的取值范围是[5,20]。

如图4所示，在t＝h的时刻，输入向量是当天从第1小时的发电量到第(n-1)小时发电量的实际数据；而输出层输入的数据是k个最接近当天天气的样本向量的均值，通过多次吉布斯采样获取预测值

实施例中，步骤(3)包括以下子步骤：

(3-1)随机初始化动态条件玻尔兹曼机的参数；

(3-2)获取隐藏层与可视层的连接权值，根据下式采用对比散度的方法来更新权值ΔW^uh：

ΔW^vh∝＜vh＞_data-＜v·h＞recon

(3-3)根据下式获取隐藏层偏差值Δb_h和输出层的偏差值Δb_v；

Δb_h∝＜h＞_data-＜h＞_recon

Δb_v∝＜v＞_data-＜v＞_recon

(3-4)获取输出向量和隐藏层的动态偏差值，其中Δb^uv是输入向量和输出向量的连接权值矩阵的更新法则，Δb^uh是输入向量和隐藏权值的连接权值矩阵的更新法则；

Δb^uv∝u(＜v＞_data-＜v＞_recon)

Δb^uh∝u(＜h＞_data-＜h＞_recon)

(3-5)判断训练误差是否满足精度要求，若否，则重复步骤(3-2)～(3-4)；若是，则结束；

实施例中，步骤(4)如图4所示意的，包括以下子步骤：

(4-1)根据当前的时间点t，确定输入层和输出层的节点数目；

首先要判断t是否大于T；若以1小时为单位粒度，T＝24；如果以0.5小时为单位粒度，则T＝48；实施例中，T＝24，代表一天24小时，输入层的每个输入节点代表一个小时；

(4-2)利用下式的KNN算法找出最接近当天输出向量的k个样本向量v(k)＝KNN(u,D,k)

本步骤所采用的KNN算法是简单易行的数据挖掘方法，具有计算开销小的特点；

(4-3)获取k个最相近的样本的均值，并根据下式加入噪音p(ν)以增加随机性，使之与实际工况更匹配；

p(v)＝mean(v(k))+α*rand()；

其中，rand()是随机函数，mean()是求均值函数，α是噪音因子，v(k)表示k个样本向量；

(4-4)将前(t-1)个实际数据作为输入，初始化输入向量u，再根据步骤(3)训练好的参数计算隐藏层的动态偏差值b_uh和输出层的动态偏差值b_uv；

$b_{uh}=b_{uh}+u*b_{T=n}^{uh}$

$b_{uv}=b_{uv}+u*b_{T=n}^{uv};$

其中，u是指输入向量，是指输入层与隐藏层在T＝n时刻的有向连接权值，是输入层和输出层在T＝n时刻的有向连接权值；

(4-5)进行N次(N>0)吉布斯采样，获得输出层和隐藏层的激活概率；

(4-6)通过均场采样对输出层向量进行去噪处理，获得预测值

实施例中，步骤(4-5)包括以下子步骤：

(4-5-1)从输入层和输出层向隐藏层传播，根据下式获取隐藏层多个节点的激活概率p(h)：

$p\left(h\right)=p{\left(v\right)}^T{W}_{T=n}^{vh}+b_{T=n}^h+b_{uh}$

(4-5-2)激活隐藏层的所有节点，如果随机的参数大于p(h)，那么对应的节点为1，否则为0，隐藏层的节点激活公式如下所示：

s(h)＝Activation(p(h))

其中，Activation()是激活函数，s(h)的取值为0或者1；值为0表示非激活状态，取值为1表示激活状态；

(4-5-3)从隐藏层向输出层传播，获取输出层节点的激活概率，根据下式获取输出层向量的激活概率p(v)：

$p\left(v\right)=s{\left(h\right)}^T{W}_{T=n}^{vh}+b_{T=n}^v+b_{uv}$

(4-5-4)判定采样的次数是否超过预设定的阈值，若否，则重复步骤(4-5-1)～(4-5-3)；若是，则结束采样。

实施例提供的上述基于动态条件玻尔兹曼机的太阳能预测方法，一方面，其动态模型指的是向量维度是随着时间移动而变化的，如图3所示，输入层向量u与输出层向量v的维度是动态变化的，而这两个向量的维度之和是固定的；由于所采用的条件波尔兹曼机可以有效动态捕捉基于时间序列的数据的变化，模型可以学习到太阳能数据的变化规律，具有提高实时预测准确率效果；

另一方面，由于将数据挖掘的方法引进到条件玻尔兹曼机，如图4所示，采用KNN算法获取最接近当天输出向量的k个样本向量，可实时找到最相似样本作为输入样本，具有进一步提高实时预测准确度效果。

本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于动态条件玻尔兹曼机的太阳能预测方法，其特征在于，包括如下步骤：

(1)获取动态条件玻尔兹曼机的参数，包括输入层向量，隐藏层向量，输出层向量，隐藏层与输出层的连接权值，输入向量指向输出向量的链接权值，输入向量与隐藏层向量的连接权值；

(2)根据所述动态条件玻尔兹曼机的参数，建立动态条件玻尔兹曼机的模型；

(3)对动态条件玻尔兹曼机的模型进行训练，获取训练好的动态条件玻尔兹曼机模型的参数；

(4)采用训练好的动态条件玻尔兹曼机模型的参数以及与当天输出向量最接近的样本向量，经过吉布斯采样处理及均场采样去噪处理获取太阳能预测值。

2.如权利要求1所述的太阳能预测方法，其特征在于，所述动态条件玻尔兹曼机的模型的函数

其中，u是指输入层向量，h是指隐藏层向量，v是指输出层向量，是指隐藏层与输出层在T＝n时刻的无向连接权值，是指输入层与输出层在T＝n时刻的有向连接权值，是指输入层与隐藏层在T＝n时刻的有向连接权值，是输出层在T＝n时刻的偏差值，是隐藏层在T＝n时刻的偏差值。

3.如权利要求2所述的太阳能预测方法，其特征在于，所述步骤(3)中，采用随机梯度下降法或对比散度算法对动态条件玻尔兹曼机进行训练，获取训练好的动态条件玻尔兹曼机模型的参数

4.如权利要求3所述的太阳能预测方法，其特征在于，所述步骤(3)具体如下：

(3-1)随机初始化动态条件玻尔兹曼机的参数；

(3-2)采用对比散度算法更新隐藏层与输出层的连接权值ΔW^vh，更新法则为：ΔW^vh∝＜v·h＞_data-＜v·h＞recon；

(3-3)根据下式更新隐藏层静态偏差值和输出层静态偏差值

$b_{T=n}^h=b_{T=n}^h+{\mathrm{\Δb}}_{T=n}^h;$

$b_{T=n}^v=b_{T=n}^v+{\mathrm{\Δb}}_{T=n}^v;$

其中，

(3-4)根据下式更新输入层与输出层的有向连接权值以及输入层与隐藏层的有向连接权值

$b_{T=n}^{uv}=b_{T=n}^{uv}+{\mathrm{\Δb}}_{T=n}^{uv}$

$b_{T=n}^{uh}=b_{T=n}^{uh}+{\mathrm{\Δb}}_{T=n}^{uh}$

其中是输入向量和输出向量的连接权值矩阵的更新法则，是输入向量和隐藏权值的连接权值矩阵的更新法则；

(3-5)获取各向量的训练误差，并判断各向量的训练误差是否满足各自精度要求，若否，则重复步骤(3-2)～(3-4)；若是，则结束训练。

5.如权利要求1所述的太阳能预测方法，其特征在于，所述步骤(4)具体如下：

(4-1)根据当前的时间点t，确定输入层节点数与输出层的节点数；

(4-2)根据所述输入层与输出层的节点数，采用KNN算法获取与当天输出向量最接近的k个样本向量v(k)；

(4-3)获取所述k个样本向量的均值，并在所述均值上加入噪音，获得输出层的激活概率的初始化值p(v)；

其中，p(v)＝mean(v(k))+α*rand()；rand()是指随机函数，mean()是指求均值函数，α是噪音因子；

(4-4)将前(t-1)个数据作为输入向量u，初始化输入向量u；根据初始化后的输入向量u以及步骤(3)训练得到的模型参数和获取隐藏层的动态偏差值b_uh，以及输出层的动态偏差值b_uv；

$b_{uh}=b_{uh}+u*b_{T=n}^{uh};$

$b_{uv}=b_{uv}+u*b_{T=n}^{uv};$

其中，是指输入层与隐藏层在T＝n时刻的有向连接权值；是指输入层与输出层在T＝n时刻的有向连接权值；

(4-5)进行N次吉布斯采样，迭代更新输出层的激活概率p(v)与隐藏层的激活概率p(h)；其中，N为正整数；

(4-6)通过均场采样对输出层向量进行去噪处理，获得太阳能预测值

6.如权利要求5所述的太阳能预测方法，其特征在于，所述步骤(4-5)具体如下：

(4-5-1)从输入层和输出层向隐藏层传播，计算隐藏层多个节点的激活概率；其中，隐藏层节点的激活概率

(4-5-2)根据s(h)＝Activation(p(h))，激活隐藏层的部分节点；

(4-5-3)从隐藏层向输出层传播，获取输出层的激活概率采样值

(4-5-4)判断采样的次数是否超过预设定的阈值，若否，则重复步骤(4-5-1)～(4-5-3)；若是，则结束吉布斯采样。