CN115719116B

CN115719116B - 一种电力负荷预测方法、装置及终端设备

Info

Publication number: CN115719116B
Application number: CN202211460794.0A
Authority: CN
Inventors: 胡春强; 庄惠钧; 邓绍江; 胡海波; 夏晓峰; 蔡斌; 桑军
Original assignee: Chongqing University
Current assignee: Chongqing University
Priority date: 2022-11-21
Filing date: 2022-11-21
Publication date: 2023-07-14
Anticipated expiration: 2042-11-21
Also published as: CN115719116A

Abstract

本发明适用于电力预测技术领域，提供了一种电力负荷预测方法、装置及终端设备，方法包括：获取用户客户端的加密用电数据，作为加密训练数据；使用加密训练数据训练预测模型，获得初始预测模型，以及初始预测模型的加密模型参数；将加密模型参数反馈给用户客户端，以使用户客户端解密加密模型参数；获取用户客户端解密加密模型参数所输出的更新模型参数；根据更新模型参数调整初始预测模型，获得电力负荷预测模型；通过电力负荷预测模型预测用户客户端的电力负荷情况。通过本发明可以克服电力负荷预测方法中深度学习、机器学习过程中的数据没有隐私保护措施，存在泄露用户隐私风险的问题。

Description

一种电力负荷预测方法、装置及终端设备

技术领域

本发明涉及电力预测技术领域，尤其涉及电力负荷预测方法、装置及终端设备。

背景技术

目前在智能电网中，对电力系统安全调度和运行策略等方面控制是重要部分，而电力负荷预测是电网调度和平稳运行的基础之一。电力负荷预测的方法多使用预测模型，预测模型基于用户上传的明文数据进行构建，根据明文数据可直接获取用户的用电习惯等信息，存在泄露用户隐私的风险。

对于电力负荷预测中的隐私保护，多数方案聚焦于数据的安全聚合、数据不可伪造性、数据来源验证等，仍不能有效降低深度学习、机器学习中的数据泄露风险。

发明内容

本发明的主要目的在于提出一种电力负荷预测方法，以解决现有的电力负荷预测方法不能保护深度学习、机器学习中的数据安全，存在泄露用户隐私风险的问题。

为实现上述目的，本发明实施例第一方面提供一种电力负荷预测方法，包括：

获取用户客户端的加密用电数据，作为加密训练数据；

使用所述加密训练数据训练预测模型，获得初始预测模型，以及所述初始预测模型的加密模型参数；

将所述加密模型参数反馈给所述用户客户端，以使所述用户客户端解密所述加密模型参数；

获取所述用户客户端解密所述加密模型参数所输出的更新模型参数；

根据所述更新模型参数调整所述初始预测模型，获得电力负荷预测模型；

通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况。

结合本发明第一方面，本发明第一实施方式中，所述电力负荷预测模型为N层全连接预测网络，N为大于1或者等于1的正整数；

N大于1时，将上一层的输出作为下一层的输入。

结合本发明第一方面第一实施方式，本发明第二实施方式中，在一层全连接预测网络中，所述电力负荷预测模型将所述更新模型参数转化为定点表示，并表示到有限域中；

所述全连接预测网络的核心计算矩阵为u＝Wv；

其中，

Z_p为有限域。

结合本发明第一方面第二实施方式，本发明第三实施方式中，通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况，包括：

获取所述用户客户端的同态密文，所述同态密文为所述用户客户端所输出的历史电力数据通过第一映射函数向量编码到用户客户端多项式，并将所述用户客户端多项式加密获得；

获取所述用户客户端向所述电网服务器传输的加密历史电力数据；

通过第二映射函数将所述加密历史数据向量编码到电网服务器多项式；

根据所述同态密文、电网服务器多项式以及更新模型参数计算密文；

随机生成掩码；

在所述密文中提取目标系数，将所述掩码加到所述目标系数的第一个分量处，得到处理后的目标系数；

将所述处理后的目标系数传回所述用户客户端，并获取所述用户客户端接收到目标系数后，解密输出的第一秘密份额；

通过所述掩码和更新模型参数重新计算所述电网服务器多项式，输出第二秘密份额；

所述第一秘密份额和所述第二秘密份额为一层全连接预测网络的输出。

结合本发明第一方面第三实施方式，本发明第四实施方式中，用<v>^B表示用户客户端所输出的历史电力数据，

为第一映射函数，所述用户客户端多项式/>

的计算公式为：

所述用户客户端的同态密文表示为

用<v>^A表示电网服务器传输的加密历史电力数据，

为第二映射函数，所述电网服务器多项式/>

的计算公式为：

根据所述同态密文CT′、电网服务器多项式

以及更新模型参数W计算密文CT，计算公式为：

其中/>

分别表示同态加法和同态乘法；

在有限域范围中随机生成掩码

其中n₀和q为整数；

在密文CT中提取目标系数记为ct_i，ct_i＝Extract(CT_i，i*n_i+n_i-1)(i∈{0，...，n₀})；

将所述掩码r加到所述目标系数ct_i的第一个分量处，得到处理后的目标系数记为ct′_i。

用户客户端对目标系数记为ct′_i解密，获得第一秘密份额^B[i]，第一秘密份额的解密计算公式为：

通过所述掩码r和更新模型参数b重新计算所述电网服务器多项式

输出第二秘密份额^A，计算公式为：

^A＝b-「p·r/q」mod p；

所述第一秘密份额^B和所述第二秘密份额^A为一层全连接预测网络的输出S，计算公式为：

S＝^B+^A＝wv+b。

结合本发明第一方面，本发明第五实施方式中，使用所述加密训练数据训练预测模型，获得初始预测模型，以及所述初始预测模型的加密模型参数，包括：

用户客户端生成CKKS算法的同态加密公私钥对；

电网服务器初始化预测模型的模型参数；

获取用户客户端随机选取并使用加密的B条加密训练数据，B为正整数；

使用所述加密训练数据训练预测模型，获得初始预测模型；

在所述初始预测模型中，先前向传播，后反向传播并计算得到加密梯度；

将所述加密梯度传回所述用户客户端，以使所述用户客户端使用私钥解密所述加密梯度得到模型参数梯度；

其中，所述用户客户端使用自适应梯度裁剪方案，裁剪所述模型参数梯度：计算同一批大小的，裁剪后的模型参数梯度的平均梯度，并对其添加高斯噪声；所述用户客户端将添加高斯噪声后的平均梯度传回电网服务器；

所述电网服务器根据添加高斯噪声后的平均梯度更新模型参数。

结合本发明第一方面，本发明第六实施方式中，使用所述加密训练数据训练预测模型，获得基于训练完成后的初始预测模型的加密模型参数之前，包括：

用外部公开电网数据进行模型预训练，获得预测模型。

本发明实施例第二方面提供一种电力负荷预测装置，包括：

训练数据获取模块，用于获取用户客户端的加密用电数据，作为加密训练数据；

加密模型参数获取模块，用于使用所述加密训练数据训练预测模型，获得初始预测模型，以及所述初始预测模型的加密模型参数；

参数解密模块，用于将所述加密模型参数反馈给所述用户客户端，以使所述用户客户端解密所述加密模型参数；

更新模型参数获取模块，用于获取所述用户客户端解密所述加密模型参数所输出的更新模型参数；

电力负荷预测模型获取模块，用于根据所述更新模型参数调整所述初始预测模型，获得电力负荷预测模型；

电力负荷预测模块，用于通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况。

本发明实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序，上述处理器执行上述计算机程序时实现如上第一方面所提供的方法的步骤。

发明实施例的第四方面提供了一种计算机可读存储介质，上述计算机可读存储介质存储有计算机程序，上述计算机程序被处理器执行时实现如上第一方面所提供的方法的步骤。

本发明实施例提出一种电力负荷预测方法，在初始预测模型的训练过程中使用加密训练数据，在获取更新模型参数的过程中，电网服务器不参与用户客户端的加解密步骤，从而通过电网服务器，不能交互期间所获得的隐私信息从客户端推断出隐私数据信息，克服电力负荷预测方法中深度学习、机器学习过程中的数据没有隐私保护措施，存在泄露用户隐私风险的问题。

附图说明

图1为本发明实施例提供的电力负荷预测方法的实现流程示意图；

图2为本发明实施例提供的数据效用分析的分析结果示意图；

图3为本发明实施例提供的隐私性分析的分析结果示意图；

图4为本发明实施例提供的在线预测耗时分析的分析结果示意图；

图5为本发明实施例提供的电力负荷预测装置的组成结构示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

在本文中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身并没有特定的意义。因此，″模块″与″部件″可以混合地使用。

如图1所示，本发明实施例提供一种电力负荷预测方法，运用多种隐私保护，实现深度学习模型的训练与预测，实现数据的可用不可见，方法包括但不限于如下步骤：

S101、获取用户客户端的加密用电数据，作为加密训练数据。

在本发明实施例中，用户客户端安装有智能电表，电网服务器内设置电力负荷预测模型，因此，上述步骤S101中，电网服务器获取用户客户端的加密用电数据。

S102、使用所述加密训练数据训练预测模型，获得初始预测模型，以及所述初始预测模型的加密模型参数。

在上述步骤S102中，使用加密训练数据训练，则获得的参数也是加密的，即加密模型参数，电网服务器本身无法获得有关输入数据的任何隐私信息，则也无法根据交互期间所获得的隐私信息从用户客户端推断出隐私数据信息。

其中，对于预测模型，本发明实施例中，在上述步骤S102之前，包括：

用外部公开电网数据进行模型预训练，获得预测模型。

S103、将所述加密模型参数反馈给所述用户客户端，以使所述用户客户端解密所述加密模型参数。

S104、获取所述用户客户端解密所述加密模型参数所输出的更新模型参数。

在上述步骤S103和步骤S104中，更新模型参数最终由用户客户端输出，其对于电网服务器来说，是无法追溯的数据，因此，具有较高的安全性。

上述步骤S103和步骤S104的更新模型参数的获取过程，可以为：

用户客户端生成CKKS算法的同态加密公私钥对；

电网服务器初始化预测模型的模型参数；

获取用户客户端随机选取并使用加密的条加密训练数据，B为正整数；

使用所述加密训练数据训练预测模型，获得初始预测模型；

在本发明实施例中，假设用户客户端生成同态加密CKKS算法的同态加密公私钥对为(PK，SK)，电网服务器初始化预测模型的模型参数为W⁰和b⁰，fort←0toT-1do。训练数据表示为(x₁，...，x_B)。

则先前向传播，后反向传播并计算得到的加密梯度为：

用户客户端使用私钥SK解密所述加密梯度得到的模型参数梯度为：

用户客户端使用自适应梯度裁剪方案，得到的裁剪后的模型参数梯度为：

计算为平均梯度，表示为：

添加高斯噪声后的平均梯度为：

则添加高斯噪声后的平均梯度

为电网服务器最终获取的梯度信息。电网服务器根据其更新模型参数W⁰和b⁰，表示为：

S105、根据所述更新模型参数调整所述初始预测模型，获得电力负荷预测模型。

在上述步骤S105中，所述电力负荷预测模型为N层全连接预测网络，N为大于1或者等于1的正整数；

N大于1时，将上一层的输出作为下一层的输入。

本发明实施例中，通过一层全连接预测网络的结构及算法，对电力负荷预测模型进行说明。

首先，在一层全连接预测网络中，所述电力负荷预测模型将所述更新模型参数转化为定点表示，并表示到有限域中；

所述全连接预测网络的核心计算矩阵为u＝Wv；

其中，

Z_p为有限域。

基于此，在一层全连接预测网络中，通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况，包括：

随机生成掩码；

通过所述掩码重新计算所述电网服务器多项式，输出第二秘密份额；

可以想到是，N大于1时，所述第一秘密份额和所述第二秘密份额则作为下一层的输入。

在上述步骤中，结合了同态加密、差分隐私、其他多方安全计算技术，构建了安全高效的用于电力负荷预测的深度学习模型。其中，同态加密即将用户客户端多项式进行同态加密，以及获取更新模型参数时的同态加密公钥私钥对的使用，差分隐私即目标系数的计算，其他多方安全计算技术即数据的向量编码、用户客户端的解密计算以及获取更新模型参数时的梯度计算等。

在本发明实施例中，用<v>^B表示用户客户端所输出的历史电力数据，

为第一映射函数，则用户客户端多项式/>

的计算方式为/>

所述用户客户端的同态密文表示为/>

用<v>^A表示电网服务器传输的加密历史电力数据，

为第二映射函数，则电网服务器多项式/>

的计算方式为/>

根据所述同态密文CT′、电网服务器多项式

以及更新模型参数W计算密文CT的公式为/>

其中/>

分别表示同态加法和同态乘法。

在有限域范围中随机生成掩码

n₀和q为整数，在密文CT中提取目标系数记为ct_i，其中，ct_i＝Extract(CT_i，i*n_i+n_i-1)(i∈{0，...，n₀})，将所述掩码r加到所述目标系数ct_i的第一个分量处，得到处理后的目标系数记为ct′_i。

其中，处理后的目标系数将传回用户客户端，用户客户端对其解密，获得第一秘密份额^B[i]；第一秘密份额的解密计算公式为：

其中，掩码以及更新模型参b用于重新计算电网服务器多项式

输出第二秘密份额^A；第二秘密份额的解密计算公式为：^A＝b-「p·r/q」mod p。

第一秘密份额^B和第二秘密份额^A为一层全连接预测网络的输出，计算公式为：S＝^B+^A＝wv+b。

本发明实施例中，将全连接预测网络中的核心计算矩阵-向量乘法u＝Wv被视为一系列的向量内积。这里有

然后构建第一映射函数/>

以及第二映射函数/>

用于使用多项式算术计算内积。直观地说，当将两个N次多项式相乘时，所得多项式的第(N-1)个系数是两个相反阶系数向量的内积。

在实际应用中，假设n_On_i≤N

因此，多项式乘法

在他的一些系数中给出了矩阵-向量乘法u＝Wv的计算结果。

S106、通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况。

需要说明的是，电力负荷预测模型可以传输回用户客户端，也可以保存于电网服务器，本发明实施例不对其的存储位置进行限定。

本发明实施例还对上述步骤S101至步骤S106获得的电力负荷预测模型进行数据效用分析、隐私性分析、在线预测耗时分析。

对于数据效用分析：

本发明实施例对于基于梯度自适应加噪的差分隐私方法的评估，考虑以隐私预算作为隐私保护理论约束，研究不同加噪方式下模型的均方误差(MSE)损失，以减少损失为目的。均方误差的定义如下：

首先采用不添加差分隐私机制的原始模型训练，得到一个基准模型，证明模型的合理性。将它与通过算法1训练得到的模型对同一数据集进行推理，从而对模型效用进行分析。

然后，考虑不同的梯度裁剪和加噪训练方式得到差分隐私保护模型，并评估差分隐私带来的可用性损失。因此，对比固定裁剪阈值C(dpsgd-fixedC)的方案和本发明使用的自动梯度裁剪方案(dpsgd-auto)。

裁剪阈值C取梯度的平均值0.1。采用高斯加噪机制，噪声乘子σ＝1，隐私参数δ＝10^-5，隐私预算∈作为研究变量之一。

数据效用分析的结果如图2所示，横轴为预测时间点，每一小时输出一次，纵轴为归一化后的电荷负载。图2中，点虚线是真实数据折线图，线点结合线是明文模型预测得到的折线图，直线是本发明实施例的电力负荷预测模型得到的折线图。直观上可看出本发明实施例提供的电力负荷预测方法与明文训练得到模型效果相差不大。计算两者结果的均方误差为0.0001014，说明本发明实施例提供的电力负荷预测方法具有很好的可用性，提高了数据效用。

对于隐私性分析：

本发明实施例通过隐私预算∈对模型损失值变化情况，进行隐私性分析。分析结果如图3所示，仍然对比固定裁剪阈值C(dpsgd-fixedC)的方案和本发明使用的自动梯度裁剪方案(dpsgd-auto)，在两种裁剪方案下，隐私预算越大，模型损失越小。图3中，横轴为隐私预算∈，纵轴为模型训练损失值，点虚线表示自动梯度裁剪方案，实线表示固定梯度裁剪方案，根据图3，可以得出，本发明实施例的自动梯度裁剪方案在相同的隐私预算下，优于固定梯度裁剪的方法，说明本发明实施例提供的电力负荷预测方法，可以消耗更小的隐私预算达到所需要的精度，从而提供更好的隐私保护效果。

对于在线预测耗时分析：

首先，选取50条数据进行预测，并测量其延迟。然后将本发明实施例提供的电力负荷预测方法中的电力负荷预测模型(PDFSG)、纯同态的预测方案(Pure-HE)、算法一训练方案中的前向传播部分(PDTSG-FP)三者进行比较，测量几个方案的预测延时。最后得到的结果如图4所示。图4中，纵轴为时间，单位为秒，第一柱形表示本发明实施例提供的电力负荷预测方法，第二柱形表示纯同态的预测方案，第三柱形表示初始预测模型的前向传播部分，根据图4，可以得出初始预测模型比纯同态方案的耗时稍短一些。而电力负荷预测模型方案使用了非线性激活函数，且其在训练时反向传播时非线性激活函数的梯度部分使用明文计算，可有效地减少计算资源消耗。电力负荷预测模型耗时最短，约为其他两个方案的四分之一。说明本发明实施例提供的电力负荷预测方法于在线预测方面有较大的优势。

根据图2至图4，本发明实施例提供的电力负荷预测方法，不仅解决了电网中用户用电数据分析与隐私保护的问题，还提出了一个高效的数据保护模型训练方案与一个高效的电力负荷预测方案。

如图5所示，本发明实施例还提供一种电力负荷预测装置50，包括：

训练数据获取模块51，用于获取用户客户端的加密用电数据，作为加密训练数据；

加密模型参数获取模块52，用于使用所述加密训练数据训练预测模型，获得初始预测模型，以及所述初始预测模型的加密模型参数；

参数解密模块53，用于将所述加密模型参数反馈给所述用户客户端，以使所述用户客户端解密所述加密模型参数；

更新模型参数获取模块54，用于获取所述用户客户端解密所述加密模型参数所输出的更新模型参数；

电力负荷预测模型获取模块55，用于根据所述更新模型参数调整所述初始预测模型，获得电力负荷预测模型；

电力负荷预测模块56，用于通过所述电力负荷预测模型预测所述用户客户端的电力负荷情况。

本发明实施例还提供一种终端设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时，实现如上述实施例中所述的电力负荷预测方法中的各个步骤。

本发明实施例还提供一种存储介质，所述存储介质为计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现如上述实施例中所述的电力负荷预测方法中的各个步骤。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。