CN117556475A - 一种面向虚拟电厂的分布式多方可信联合学习方法 - Google Patents

Abstract

一种面向虚拟电厂的分布式多方可信联合学习方法，包括以下步骤：虚拟电厂云平台根据本地历史数据进行模型预训练，将全局模型通过区块链发送给各训练节点，并保存至区块链，训练节点接收到全局模型后，对本地模型进行更新并训练，完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息，接受到元组信息的虚拟电厂根据本地验证结果进行投票，若通过投票验证，则将更新后的本地模型参数保存进区块链并上传至虚拟电厂云平台，完成模型参数聚合，得到新的全局模型，若没有通过投票验证，则结束任务并保存当前区块链；本发明用户数据不离本地，充分保证了用户用电信息隐私。

Description

一种面向虚拟电厂的分布式多方可信联合学习方法

技术领域

本发明涉及配电网络技术领域，具体涉及一种面向虚拟电厂的分布式多方可信联合学习方法。

背景技术

随着电力市场化改革的发展，未来电力市场有望从单一购电者模式逐渐转变为批发竞争、零售竞争模式。虚拟电厂(Virtual Power Plant，VPP)作为灵活聚合分布式电力资源的一种有效手段不仅可以整合各种发电设备与储能设备，通过削峰填谷提高电网安全性与稳定性，还能作为桥梁为小负荷用户参与电力市场交易提供途径，推动电力零售市场与批发市场的发展。

出于运行需要，虚拟电厂往往需要进行各类数据驱动的负荷预测与可再生能源出力预测为能源调度与交易策略制定提供依据，因此对各类业务模型精度有较高的要求。目前虚拟电厂在模型训练一般采用集中式训练架构，在模型训练过程中存在遭受信息窃取、信息篡改、用户用电隐私泄露等风险，对虚拟电厂可靠经济运行构成威胁，亟需对虚拟电厂传统训练架构进行改进，以保护虚拟电厂数据的可信性和可用性。

与运行在相对隔离的安全网络空间下的电网公司不同，虚拟电厂等第三方控制主体处于一个开放的网络环境，安全防护能力较弱。在与电网公司的信息交互中虚拟电厂可能成为恶意第三方向电网信息系统发起网络攻击的跳板。针对电网信息系统的网络攻击将给电网运行造成巨大影响，全球大停电事件中已有网络协同攻击的身影。因此在探索联邦学习框架在虚拟电厂环境下的应用时，要避免在虚拟电厂上传参数的过程中形成一条“开放网络空间-虚拟电厂-电网信息系统”的跨信息物理攻击路径，保证电网公司信息系统的安全。

为解决上述问题，提出一种面向虚拟电厂的分布式多方可信联合训练方法。利用联邦学习算法，虚拟电厂上传本地模型参数进行聚合，在不获取虚拟电厂本地数据的前提下完成联合模型训练，保护电力用户用电信息隐私；利用区块链共识机制与密钥签名在数据传输过程中及时识别恶意信息并予以排除，提高系统通信安全可靠性，保护虚拟电厂与电网公司信息网络安全。

发明内容

有鉴于此，本发明提供了一种面向虚拟电厂的分布式多方可信联合学习方法，用以至少解决现有技术中电网信息系统易被恶意攻击的问题。

为了实现上述目的，本发明采用如下技术方案：

一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，包括以下步骤：

S1.初始化；虚拟电厂云平台按需确定负荷预测任务，筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链，虚拟电厂云平台根据本地历史数据进行模型预训练，得到全局模型P^t；

S2.本地训练；将全局模型P^t通过区块链发送给各训练节点，并保存至区块链，训练节点接收到全局模型P^t后，对本地模型进行更新，并使用本地数据对更新后的本地模型进行训练，直至收敛得到新的本地模型；

S3.参数验证；完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息，元组信息包括S2中得到的新的本地模型参数与数字签名，接受到元组信息的虚拟电厂根据本地验证结果进行投票，若通过投票验证，则将更新后的本地模型参数保存进区块链并上传至虚拟电厂云平台，进入S4，若没有通过投票验证，则结束任务并保存当前区块链；

S4.模型聚合；虚拟电厂云平台接收经过验证的虚拟电厂本地模型参数，进行模型参数聚合，并将聚合后的全局模型下发给所有训练节点；

S5.重复S1-S4直至达到预设的全局通信轮数T，将最新的全局模型保存至区块链并下发。

优选的，S1的具体内容包括：

虚拟电厂云平台根据虚拟电厂模型需求确定负荷预测任务，虚拟电厂云平台根据虚拟电厂业务范围与虚拟电厂计算环境筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链；

各训练节点交换密钥。

优选的，S2的具体内容包括：

S21.训练节点k接收到本轮全局模型P^t后，对本地模型进行更新，其中，t表示当前训练全局轮数；

S22.训练节点k利用本地训练数据X_k＝(x_i，y_i)对更新后的本地模型进行训练得到新的本地模型/>其中，x_i为输入，y_i为输出；直至达到预设的本地训练轮数j。

优选的，S22中在训练节点k利用本地训练数据对更新后的本地模型进行训练得到新的本地模型的过程中，统一选用SoftMax函数为激活函数，选用均方差损失函数为损失函数，选用随机梯度下降算法进行目标优化，计算公式为：

其中，n为样本数，y_i为真实值，为预测值；

其中，θ_t表示第t次迭代后的模型参数，η_t表示学习率，f_i(θ_t)表示损失函数的第i个样本的梯度。

优选的，S3的具体内容包括：

S31.完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息；元组信息包括新的本地模型参数与数字签名；

S32.接受到元组信息的虚拟电厂使用数据发送方的公钥解密数字签名并与本地模型参数对比验证，判断其是否满足：

decrypt(S)＝hash(SHA256，IP||m||t)

S33.训练节点对信息验证后向虚拟电厂云平台发送信息验证结果进行投票，投票规则为：

若一个由N个节点组成的网络，每个节点都有一次机会验证信息进行并投票，仅在满足以下标准时，数据才被接受：

其中，K表示一条信息的通过票数；τ为大于50％的阈值；

S34.通过投票验证的信息将被所有训练节点接受并打包进新的区块进行记录，未通过验证的节点将被隔离出系统，以保护其他训练节点的安全。

优选的，元组信息具体包括：IP、m、t、test和S，其中IP为数据发送方IP地址，用以识别数据发送方身份信息；m为明文信息，m中包括数据发送方更新后的本地模型参数t为全局轮数；test为本地模型测试结果；S为数据发送方使用SK加密后的数字签名，计算方法为：

S＝SIN(hash(SHA256，IP||m||t))

其中，SIN()为椭圆曲线数字签名算法；hash(SHA256，IP+m+t)为信息摘要由24个字节组成，字节由集合{0，1，2，…，9，A，B，…，E，F}中的元素组成。

优选的，S4中模型参数聚合的具体内容包括：

虚拟电厂云平台在接收到所有训练节点的信息后通过FedAvg算法进行模型参数聚合：

其中，P^t表示第t轮更新时全局模型M^t的模型参数；λ为学习率；为第k个节点在第t轮本地更新后的本地模型/>的模型参数，ω_k＝α_kh_k为第k个客户端的本地模型权重。

经由上述的技术方案可知，与现有技术相比，本发明公开提供了一种面向虚拟电厂的分布式多方可信联合学习方法，具有以下有益效果：

1)分布式训练方式，充分利用各个虚拟电厂的计算资源与数据资源；

2)用户数据不离本地，虚拟电厂只上传模型参数不上传本地用户数据，各虚拟电厂之间有严格的数据隔离，充分保证了用户用电信息隐私；

3)基于区块链共识算法的投票验证机制及时识别恶意信息，防止恶意第三方以虚拟电厂为跳板对电网公司虚拟电厂平台发起攻击；

4)区块中保存客户端每轮的本地模型参数与每轮全局模型参数，避免系统遭到攻击或发生故障后全局信息的丢失；

5)具有良好的泛用性，针对不同任务场景仅需更换初始模型。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明提供的一种面向虚拟电厂的分布式多方可信联合学习方法的流程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明提供了一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，包括以下步骤：

S1.初始化；虚拟电厂云平台按需确定负荷预测任务，筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链，虚拟电厂云平台根据本地历史数据进行模型预训练，得到全局模型P^t；

S2.本地训练；将全局模型P^t通过区块链发送给各训练节点，并保存至区块链，训练节点接收到全局模型P^t后，对本地模型进行更新，并使用本地数据对更新后的本地模型进行训练，直至收敛得到新的本地模型；

S3.参数验证；完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息，元组信息包括S2中得到的新的本地模型参数与数字签名，接受到元组信息的虚拟电厂根据本地验证结果进行投票，若通过投票验证，则将更新后的本地模型参数保存进区块链并上传至虚拟电厂云平台，进入S4，若没有通过投票验证，则结束任务并保存当前区块链；

S4.模型聚合；虚拟电厂云平台接收经过验证的虚拟电厂本地模型参数，进行模型参数聚合，并将聚合后的全局模型下发给所有训练节点；

S5.重复S1-S4直至达到预设的全局通信轮数T，将最新的全局模型保存至区块链并下发。

为了进一步实施上述技术方案，S1的具体内容包括：

虚拟电厂云平台根据虚拟电厂模型需求确定负荷预测任务，虚拟电厂云平台根据虚拟电厂业务范围与虚拟电厂计算环境筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链；

各训练节点交换密钥。

需要说明的是：

虚拟电厂云平台根据虚拟电厂模型需求确定负荷预测任务，例如居民负荷预测任务或某类型工厂负荷预测模型任务，虚拟电厂业务范围指该虚拟电厂是否有任务所需的数据，如某虚拟电厂下不涉及居民负荷则无法参加居民负荷预测任务，虚拟电厂计算环境主要是判断服务器是否空闲或是否可负担计算任务。

各训练节点根据Diffie-Hellman密钥交换算法交换密钥。

为了进一步实施上述技术方案，S2的具体内容包括：

S21.训练节点k接收到本轮全局模型P^t后，对本地模型进行更新，其中，t表示当前训练全局轮数；

S22.训练节点k利用本地训练数据X_k＝(x_i，y_i)对更新后的本地模型进行训练得到新的本地模型/>其中，x_i为输入，y_i为输出；直至达到预设的本地训练轮数j。

为了进一步实施上述技术方案，S22中在训练节点k利用本地训练数据对更新后的本地模型进行训练得到新的本地模型的过程中，统一选用SoftMax函数为激活函数，选用均方差损失函数为损失函数，选用随机梯度下降算法进行目标优化，计算公式为：

其中，n为样本数，y_i为真实值，为预测值；

其中，θ_t表示第t次迭代后的模型参数，η_t表示学习率，f_i(θ_t)表示损失函数的第i个样本的梯度。

为了进一步实施上述技术方案，S3的具体内容包括：

S31.完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息；元组信息包括新的本地模型参数与数字签名；

S32.接受到元组信息的虚拟电厂使用数据发送方的公钥解密数字签名并与本地模型参数对比验证，判断其是否满足：

decrypt(S)＝hash(SHA256，IP||m||t)

S33.训练节点对信息验证后向虚拟电厂云平台发送信息验证结果进行投票，投票规则为：

若一个由N个节点组成的网络，每个节点都有一次机会验证信息进行并投票，仅在满足以下标准时，数据才被接受：

其中，K表示一条信息的通过票数；τ为大于50％的阈值；

S34.通过投票验证的信息将被所有训练节点接受并打包进新的区块进行记录，未通过验证的节点将被隔离出系统，以保护其他训练节点的安全。

为了进一步实施上述技术方案，元组信息具体包括：IP、m、t、test和S，其中IP为数据发送方IP地址，用以识别数据发送方身份信息；m为明文信息，m中包括数据发送方更新后的本地模型参数t为全局轮数；test为本地模型测试结果；S为数据发送方使用SK加密后的数字签名，计算方法为：

S＝SIN(hash(SHA256，IP||m||t))

其中，SIN()为椭圆曲线数字签名算法；hash(SHA256，IP+m+t)为信息摘要由24个字节组成，字节由集合{0，1，2，…，9，A，B，…，E，F}中的元素组成。

为了进一步实施上述技术方案，S4中模型参数聚合的具体内容包括：

虚拟电厂云平台在接收到所有训练节点的信息后通过FedAvg算法进行模型参数聚合：

其中，P^t表示第t轮更新时全局模型M^t的模型参数；λ为学习率；为第k个节点在第t轮本地更新后的本地模型/>的模型参数，ω_k＝α_kh_k为第k个客户端的本地模型权重。

需要说明的是：

S3是为了确保S4收到的信息安全性与完整性，并且防止恶意网络攻击在计算节点向运中心传输信息的过程中注入攻击或病毒。

在本文所提出的方法中，电网公司搭建的虚拟电厂云平台或省公司技术中台作为联邦学习的中心服务器，参与联合模型训练的虚拟电厂组成客户端。参与联合模型训练的虚拟电厂与云平台中心服务器作为区块链节点组建私有区块链。参与训练的虚拟电厂完成本地模型训练后将模型参数等信息以交易的形式发送到其他节点，经区块链共识机制投票验证后作为一个新区块加入区块链中，虚拟电厂云平台在获取所有本地模型后进行全局模型聚合并将更新后的全局模型以交易形式发送至客户端开始新一轮训练，多次迭代直至模型收敛。

以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (7)

1.一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，包括以下步骤：

S1.初始化；虚拟电厂云平台按需确定负荷预测任务，筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链，虚拟电厂云平台根据本地历史数据进行模型预训练，得到全局模型P^t；

S2.本地训练；将全局模型P^t通过区块链发送给各训练节点，并保存至区块链，训练节点接收到全局模型P^t后，对本地模型进行更新，并使用本地数据对更新后的本地模型进行训练，直至收敛得到新的本地模型；

S3.参数验证；完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息，元组信息包括S2中得到的新的本地模型参数与数字签名，接受到元组信息的虚拟电厂根据本地验证结果进行投票，若通过投票验证，则将更新后的本地模型参数保存进区块链并上传至虚拟电厂云平台，进入S4，若没有通过投票验证，则结束任务并保存当前区块链；

S4.模型聚合；虚拟电厂云平台接收经过验证的虚拟电厂本地模型参数，进行模型参数聚合，并将聚合后的全局模型下发给所有训练节点；

S5.重复S1-S4直至达到预设的全局通信轮数T，将最新的全局模型保存至区块链并下发。

2.根据权利要求1所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，S1的具体内容包括：

虚拟电厂云平台根据虚拟电厂模型需求确定负荷预测任务，虚拟电厂云平台根据虚拟电厂业务范围与虚拟电厂计算环境筛选合适的虚拟电厂作为训练节点，并组建涵盖虚拟电厂云平台与所有训练节点的区块链；

各训练节点交换密钥。

3.根据权利要求1所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，S2的具体内容包括：

S21.训练节点k接收到本轮全局模型P^t后，对本地模型进行更新，其中，t表示当前训练全局轮数；

S22.训练节点k利用本地训练数据X_k＝(x_i,y_i)对更新后的本地模型进行训练得到新的本地模型/>其中，x_i为输入，y_i为输出；直至达到预设的本地训练轮数j。

4.根据权利要求3所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，S22中在训练节点k利用本地训练数据对更新后的本地模型进行训练得到新的本地模型的过程中，统一选用SoftMax函数为激活函数，选用均方差损失函数为损失函数，选用随机梯度下降算法进行目标优化，计算公式为：

其中，n为样本数，y_i为真实值，为预测值；

其中，θ_t表示第t次迭代后的模型参数，η_t表示学习率，f_i(θ_t)表示损失函数的第i个样本的梯度。

5.根据权利要求1所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，S3的具体内容包括：

S31.完成本地模型训练的训练节点依据各训练节点IP地址向其他训练节点发送元组信息；元组信息包括新的本地模型参数与数字签名；

S32.接受到元组信息的虚拟电厂使用数据发送方的公钥解密数字签名并与本地模型参数对比验证，判断其是否满足：

decrypt(S)＝hash(SHA256,IP||m||t)

S33.训练节点对信息验证后向虚拟电厂云平台发送信息验证结果进行投票，投票规则为：

若一个由N个节点组成的网络，每个节点都有一次机会验证信息进行并投票，仅在满足以下标准时，数据才被接受：

其中，K表示一条信息的通过票数；τ为大于50％的阈值；

S34.通过投票验证的信息将被所有训练节点接受并打包进新的区块进行记录，未通过验证的节点将被隔离出系统，以保护其他训练节点的安全。

6.根据权利要求1所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，元组信息具体包括：IP、m、t、test和S，其中IP为数据发送方IP地址，用以识别数据发送方身份信息；m为明文信息，m中包括数据发送方更新后的本地模型参数t为全局轮数；test为本地模型测试结果；S为数据发送方使用SK加密后的数字签名,计算方法为：

S＝SIN(hash(SHA256,IP||m||t))

其中，SIN()为椭圆曲线数字签名算法；hash(SHA256,IP+m+t)为信息摘要由24个字节组成，字节由集合{0,1,2,…,9,A,B,…,E,F}中的元素组成。

7.根据权利要求1所述的一种面向虚拟电厂的分布式多方可信联合学习方法，其特征在于，S4中模型参数聚合的具体内容包括：

虚拟电厂云平台在接收到所有训练节点的信息后通过FedAvg算法进行模型参数聚合：

其中，P^t表示第t轮更新时全局模型M^t的模型参数；λ为学习率；为第k个节点在第t轮本地更新后的本地模型/>的模型参数，ω_k＝α_kh_k为第k个客户端的本地模型权重。