CN116596094A - 基于联邦学习的数据审计系统、方法、计算机设备及介质 - Google Patents

Abstract

本发明公开了一种基于联邦学习的数据审计系统、方法、设备及介质，该系统包括：密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，密钥管理模块生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥；模型买家节点用于发布待训练模型参数与提供测试集；每个计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文；聚合节点用于对本地梯度密文进行解密并同态聚合，得到聚合梯度，并对聚合梯度进行加密，得到聚合梯度密文；代理节点集群用于对本地梯度密文与聚合梯度密文解密，并通过得到的解密明文进行测试，确定参数审计结果。提高数据审计的安全性和效率。

Description

基于联邦学习的数据审计系统、方法、计算机设备及介质

技术领域

本发明涉及数据处理领域，尤其涉及一种基于联邦学习的数据审计系统、方法、计算机设备及介质。

背景技术

联邦学习隐私保护技术能在保证参与方数据安全与隐私的前提下，满足用户机器学习建模、训练与预测。联邦学习无须源数据聚合形成训练数据共享，降低数据泄露的风险。联邦学习使用多方安全计算的方式，由多个参与方共同进行模型训练，解决了数据孤岛情形下的机器学习问题。也是由于这种多方参与、数据加密的特性，在具体的联邦学习过程中，需要实时且并行地进行审核监控，而针对交互数据的审计直接影响到联邦学习的模型结果。

在现有的一些实现方式中，有一些通过构建针对不同参与方的审计系统实现对联邦学习的各参与方之间的数据传输过程进行管理；还有一些通过贡献度对比机制构建了针对联邦学习参与方中的恶意行为的审计系统；还有一些所设计的密钥管理模块能满足各种联邦学习框架和软件产品对规范性和安全性的要求，而且能有效记录和管理密钥的创建和删除等操作，在考虑到不同参与方差异的前提下利于满足后续的安全审计的需求；还有通过控制流审计、算法流审计以及数据流审计中的一种或者多种，通过不同的审计级别和设定各自独立的审计机制保障对联邦学习任务中涉及多个参与方的情况下执行流程的有序进行和安全性。

发明人在实现本发明的过程中，发现上述实现方式至少存在如下问题：

1)恶意参与方可能提交虚假的梯度参数，而由于交互数据经过加密使得其真实性难以考察；

2)数据审计与联邦学习耦合紧，审计过程多为交互过程，通过本地参与方进行数据审计，会消耗过多的本地计算资源，导致效率降低。

发明内容

本发明实施例提供一种基于联邦学习的数据审计系统、方法、计算机设备和存储介质，以提高数据审查的安全和效率。

为了解决上述技术问题，本申请实施例提供一种基于联邦学习的数据审计系统，包括密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，

所述密钥管理模块用于生成、存储和销毁密钥，所述生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥，将所述联合公钥提供给聚合节点，所述分片公钥、所述分片私钥和所述联合私钥被分发给代理节点集群；

所述模型买家节点用于发布待训练模型参数与提供测试集，并针对通过审计的联邦学习任务，向代理节点集群购买联合私钥用于解密聚合梯度密文；

每个所述计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文，将所述本地梯度密文上传至所述聚合节点与所述代理节点集群；

所述聚合节点用于对所述本地梯度密文进行解密并同态聚合，得到聚合梯度，使用所述联合公钥对所述聚合梯度进行加密，得到聚合梯度密文，还用于将所述聚合梯度密文发送至所述代理节点集群；

所述代理节点集群分别使用分片私钥和联合私钥解密每个本地梯度密文与聚合梯度密文，得到解密明文，并通过所述解密明文更新待训练模型，采用测试集对更新后的待训练模型进行测试得到本地分数与聚合分数，通过取若干计算节点的平均分数与聚合分数对比，确定参数审计结果。

可选地，所述密钥管理模块包括：

密钥生成单元，用于生成分片密钥对、联合密钥对，并将其保存至密钥空间内，所述分片密钥对包括分片私钥和分片公钥，所述联合密钥对包括联合公钥和联合私钥；

所述密钥存储单元，用于生成响应代理节点集群或聚合节点请求的密钥空间，所述密钥空间用于存储生成的密钥和密钥的状态信息，所述密钥状态根据与密钥对应的联邦学习任务状态以及与联邦学习任务对应的安全审计需求确定；

密钥服务处理单元，用于根据代理节点的请求，调用密钥生成单元生成分片密钥对与联合密钥对，将各密钥状态保存至各密钥所在的密钥空间中，所述密钥服务处理单元还用于读取密钥存储单元中密钥空间保存的分片密钥对与联合密钥对。

可选地，所述计算节点包括：

认证单元，用于向所述代理节点集群发起训练申请，在身份认证通过后，为每个所述计算节点分配指向自身的标识符；

第一接收单元，用于接收从代理节点集群获取的待训练模型初始参数与分片公钥；

训练单元，用于使用本地数据与待训练模型初始参数对待训练模型进行训练，得到本地梯度；

上传单元，用于通过分片密钥对将本地梯度与标识符加密，得到本地梯度密文，并上传至聚合节点与所述代理节点集群。

可选地，所述聚合节点包括：

第二接收单元，用于在计算节点通过身份认证完成本地训练后，接收由计算节点上传的本地梯度密文与由密钥管理模块所分发的联合公钥；

聚合单元，用于对每个计算节点上传的本地梯度密文进行同态聚合后，解密后得到聚合梯度；

第一发送单元，将聚合梯度利用联合公钥加密，得到聚合梯度密文，并送至代理节点集群。

可选地，所述代理节点集群，包括：

第三接收单元，用于接收密钥管理模块所分发的分片密钥对与联合私钥，接收计算节点的本地梯度密文与聚合节点的聚合梯度密文，还用于接收来自模型买家节点所发布的待训练模型初始参数与若干测试集；

第二发送单元，用于发送模型信息与密钥信息；

审计单元，用于进行恶意参数的审计。

可选地，所述第二发送单元包括：

分配子单元，用于在所述计算节点通过认证后，为所述计算节点分配指向的代理节点，并发送待训练模型参数与分片公钥至所述计算节点；

迭代子单元，用于每轮迭代中，下发通过审计后的聚合梯度密文至每个所述计算节点；

发送子单元，用于发送训练结束后的模型参数密文至模型买家节点。

可选地，所述审计单元包括：

本地分数测试子单元，用于通过分片私钥解密本地梯度密文，根据所获由标识符指向的计算节点提供的本地梯度对待训练模型参数进行更新，并使用测试集对本地梯度进行测试，得到本地分数，并记录下该计算节点的标识符；

聚合分数测试子单元，用于采用联合私钥解密聚合梯度密文，根据解密得到的聚合梯度对待训练模型参数进行更新，并使用测试集对聚合梯度进行测试，得到聚合分数；

审计恶意参数子单元，通过聚合分数与取若干计算节点的平均本地分数对比判断是否存在上传虚假参数行为的存在；

定位异常节点，用于进行不同子集相关的平均分数时，若模型精度出现异常，对该集合不同子集中的若干参与方的本地分数分别进行取平均值操作并使用测试集进行测试，获得若干子集的平均分数，对比子集间节点差异和分数差异，定位异常节点，对异常节点反馈并作惩罚。

为了解决上述技术问题，本申请实施例提供一种基于联邦学习的数据审计方法，应用于上述基于联邦学习的数据审计系统，所述基于联邦学习的数据审计方法包括：

为每个计算节点分配代理节点集群，并采用密钥管理模块分发可多密钥同态聚合的分片密钥对至代理节点集群中的每个代理节点，并将对应的联合私钥发送至代理节点集群，将联合公钥发送至聚合节点；

模型买家节点发布待训练模型参数与若干测试集至代理节点集群；

计算节点在身份签名通过后，向各代理节点进行注册，获得多密钥同态加密的分片密钥对，并请求待训练模型参数与任务需求；

计算节点进行本地训练，得到本地梯度，将本地梯度信息分别按传统联邦学习流程同态加密上传至聚合节点与使用分片公钥加密上传至代理节点集群；

聚合节点对计算节点的梯度密文进行同态聚合后，解密后得到明文，将聚合梯度利用密钥管理模块分发的联合公钥加密送至代理节点集群进行聚合梯度的更新得到聚合分数以用于后续定位恶意节点；

代理节点集群获得梯度密文解密并更新模型，使用测试集对模型进行评分，获得各个计算节点的本地分数；后续使用平均聚合后的梯度更新模型并得到聚合分数；通过本地分数与聚合分数对比判断是否存在恶意参数，取不同代理节点子集的平均分数与聚合分数对比确定恶意节点；

在每轮迭代中，通过审计后的聚合梯度由代理节点集群下发至各计算节点，计算节点使用该梯度更新模型，并开始下一轮迭代；若审计不通过，则终止本次训练；

在联邦学习每轮迭代都通过审计后，本次联邦学习训练完成，代理节点集群将通过审计并训练好的模型参数使用联合公钥加密发送给模型买家；

模型买家节点向代理节点集群购买联合密钥私钥用于解密聚合梯度密文。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述基于联邦学习的数据审计方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述基于联邦学习的数据审计方法的步骤。

本发明实施例提供的基于联邦学习的数据审计系统、方法、计算机设备及存储介质，该系统包括：密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，所述密钥管理模块用于生成、存储和销毁密钥，所述生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥，将所述联合公钥提供给聚合节点，所述分片公钥、所述分片私钥和所述联合私钥被分发给代理节点集群；所述模型买家节点用于发布待训练模型参数与提供测试集，并针对通过审计的联邦学习任务，向代理节点集群购买联合私钥用于解密聚合梯度密文；每个所述计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文，将所述本地梯度密文上传至所述聚合节点与所述代理节点集群；所述聚合节点用于对所述本地梯度密文进行解密并同态聚合，得到聚合梯度，使用所述联合公钥对所述聚合梯度进行加密，得到聚合梯度密文，还用于将所述聚合梯度密文发送至所述代理节点集群；所述代理节点集群分别使用分片私钥和联合私钥解密每个本地梯度密文与聚合梯度密文，得到解密明文，并通过所述解密明文更新待训练模型，采用测试集对更新后的待训练模型进行测试得到本地分数与聚合分数，通过取若干计算节点的平均分数与聚合分数对比，确定参数审计结果。通过密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群的协作处理，无需增加计算节点的额外计算开销，防止敌手的恶意行为，使得联邦学习中的任何参与方如果有恶意行为，都会在审计过程中被发现，尤其在涉及多个参与方协同进行模型的训练和应用的情况下，增强对以破坏联邦学习任务为目的的恶意攻击防御机制。提高数据审计的安全性和效率。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例的描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是本申请的基于联邦学习的数据审计系统的架构图；

图2是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1，图1示出了本实施例的一种基于联邦学习的数据审计系统，包括：密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，外部为圆形的Pu(Pu1、Pu2、Pu3、Pu4...Pun)表示分片公钥，外部为三角形的Pu表示联合公钥，外部为圆形的Pr表示分片私钥，外部为三角形的Pr表示联合私钥，密钥管理模块在生成分片公钥、联合公钥、分片私钥和联合私钥之后，将联合公钥分发给聚合节点，将分片私钥、联合私钥和分片公钥分发给代理节点集群中的代理节点；

所述密钥管理模块用于生成、存储和销毁密钥，所述生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥，将所述联合公钥提供给聚合节点，所述分片公钥、所述分片私钥和所述联合私钥被分发给代理节点集群；

所述模型买家节点用于发布待训练模型参数与提供测试集，并针对通过审计的联邦学习任务，向代理节点集群购买联合私钥用于解密聚合梯度密文；

每个所述计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文，将所述本地梯度密文上传至所述聚合节点与所述代理节点集群；

所述聚合节点用于对所述本地梯度密文进行解密并同态聚合，得到聚合梯度，使用所述联合公钥对所述聚合梯度进行加密，得到聚合梯度密文，还用于将所述聚合梯度密文发送至所述代理节点集群；

所述代理节点集群分别使用分片私钥和联合私钥解密每个本地梯度密文与聚合梯度密文，得到解密明文，并通过所述解密明文更新待训练模型，采用测试集对更新后的待训练模型进行测试得到本地分数与聚合分数，通过取若干计算节点的平均分数与聚合分数对比，确定参数审计结果。

其中，解密明文包括本地梯度明文与聚合梯度明文两种明文，通过解密明文更新待训练模型具体为：用每一个本地梯度明文更新待训练模型得到本地分数，用唯一的聚合梯度更新待训练模型得到聚合分数。

整个系统中任何参数都是以密文形式传递，计算节点在进行本地梯度上传时包括：按照传统联邦学习流程，各参与方将本地梯度同态加密上传至聚合节点进行同态聚合；同时，各计算节点使用分片公钥加密其本地梯度上传至所分配的代理节点。

本实施例中的基于联邦学习的数据审计系统，包括：密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，所述密钥管理模块用于生成、存储和销毁密钥，所述生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥，将所述联合公钥提供给聚合节点，所述分片公钥、所述分片私钥和所述联合私钥被分发给代理节点集群；所述模型买家节点用于发布待训练模型参数与提供测试集，并针对通过审计的联邦学习任务，向代理节点集群购买联合私钥用于解密聚合梯度密文；每个所述计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文，将所述本地梯度密文上传至所述聚合节点与所述代理节点集群；所述聚合节点用于对所述本地梯度密文进行解密并同态聚合，得到聚合梯度，使用所述联合公钥对所述聚合梯度进行加密，得到聚合梯度密文，还用于将所述聚合梯度密文发送至所述代理节点集群；所述代理节点集群分别使用分片私钥和联合私钥解密每个本地梯度密文与聚合梯度密文，得到解密明文，并通过所述解密明文更新待训练模型，采用测试集对更新后的待训练模型进行测试得到本地分数与聚合分数，通过取若干计算节点的平均分数与聚合分数对比，确定参数审计结果。通过密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群的协作处理，无需增加计算节点的额外计算开销，防止敌手的恶意行为，使得联邦学习中的任何参与方如果有恶意行为，都会在审计过程中被发现，尤其在涉及多个参与方协同进行模型的训练和应用的情况下，增强对以破坏联邦学习任务为目的的恶意攻击防御机制。提高数据审计的安全性和效率。

进一步地，所述密钥管理模块包括：

密钥生成单元，用于生成分片密钥对、联合密钥对，并将其保存至密钥空间内，所述分片密钥对包括分片私钥和分片公钥，所述联合密钥对包括联合公钥和联合私钥；

所述密钥存储单元，用于生成响应代理节点集群或聚合节点请求的密钥空间，所述密钥空间用于存储生成的密钥和密钥的状态信息，所述密钥状态根据与密钥对应的联邦学习任务状态以及与联邦学习任务对应的安全审计需求确定；

密钥服务处理单元，用于根据代理节点的请求，调用密钥生成单元生成分片密钥对与联合密钥对，将各密钥状态保存至各密钥所在的密钥空间中，所述密钥服务处理单元还用于读取密钥存储单元中密钥空间保存的分片密钥对与联合密钥对。

具体地，密钥管理模块记录和管理密钥的创建和删除等操作并及时更新密钥的使用状态；针对同一个参与方可能有不同个体在不同时间代表该参与方来创建或者删除密钥，而这些个体彼此之间可能有不同的权限或者有隔离要求，针对该问题实现有效的密钥管理记录。

可选地，对于模型买家节点，具体包括：

初始化模块，用于设置本次联邦学习的待训练模型的初始参数和训练任务需求，并按在线预测数据集设置若干测试集；

发送模块，用于将初始化模块中的初始参数、任务需求、若干测试集发送至代理节点集群；

预测模块，用于向代理节点集群购买联合私钥解密模型密文，得到新的模型参数更新模型，用于实际预测。

进一步地，所述计算节点包括：

认证单元，用于向所述代理节点集群发起训练申请，在身份认证通过后，为每个所述计算节点分配指向自身的标识符；

第一接收单元，用于接收从代理节点集群获取的待训练模型初始参数与分片公钥；

训练单元，用于使用本地数据与待训练模型初始参数对待训练模型进行训练，得到本地梯度；

上传单元，用于通过分片密钥对将本地梯度与标识符加密，得到本地梯度密文，并上传至聚合节点与所述代理节点集群。

具体地，上传单元按照传统联邦学习流程，各计算节点将本地梯度同态加密上传至聚合节点进行同态聚合；同时，各计算节点使用分片公钥加密其本地梯度上传至其对应代理节点。

进一步地，所述聚合节点包括：

第二接收单元，用于在计算节点通过身份认证完成本地训练后，接收由计算节点上传的本地梯度密文与由密钥管理模块所分发的联合公钥；

聚合单元，用于对每个计算节点上传的本地梯度密文进行同态聚合后，解密后得到聚合梯度；

第一发送单元，将聚合梯度利用联合公钥加密，得到聚合梯度密文，并送至代理节点集群。

进一步地，所述代理节点集群包括：

第三接收单元，用于接收密钥管理模块所分发的分片密钥对与联合私钥，接收计算节点的本地梯度密文与聚合节点的聚合梯度密文，还用于接收来自模型买家节点所发布的待训练模型初始参数与若干测试集；

第二发送单元，用于发送模型信息与密钥信息；

审计单元，用于进行恶意参数的审计。

进一步地，所述第二发送单元包括：

分配子单元，用于在所述计算节点通过认证后，为所述计算节点分配指向的代理节点，并发送待训练模型参数与分片公钥至所述计算节点；

迭代子单元，用于每轮迭代中，下发通过审计后的聚合梯度密文至每个所述计算节点；

发送子单元，用于发送训练结束后的模型参数密文至模型买家节点。

进一步的，所述审计单元包括：

本地分数测试子单元，用于通过分片私钥解密本地梯度密文，根据所获由标识符指向的计算节点提供的本地梯度对待训练模型参数进行更新，并使用测试集对本地梯度进行测试，得到本地分数，并记录下该计算节点的标识符；

聚合分数测试子单元，用于采用联合私钥解密聚合梯度密文，根据解密得到的聚合梯度对待训练模型参数进行更新，并使用测试集对聚合梯度进行测试，得到聚合分数；

审计恶意参数子单元，通过聚合分数与取若干计算节点的平均本地分数对比判断是否存在上传虚假参数行为的存在；

定位异常节点，用于进行不同子集相关的平均分数时，若模型精度出现异常，对该集合不同子集中的若干参与方的本地分数分别进行取平均值操作并使用测试集进行测试，获得若干子集的平均分数，对比子集间节点差异和分数差异，定位异常节点，对异常节点反馈并作惩罚。

其中，若干计算节点的数量可根据实际需要进行设定，此处不作具体限制。

本实施例中，在密文交互的审计流程中，无需增加参与方的额外计算开销进行数据审计；同时，在每一轮联合建模的训练过程中，针对各参与方所上传的恶意梯度密文进行实时的审计，提高了异常数据检测的及时性。

在本申请的另一实施例中，还提供一种基于联邦学习的数据审计方法，该方法应用于上述基于联邦学习的数据审计系统，具体包括：

步骤1：为每个计算节点分配代理节点集群，并采用密钥管理模块分发可多密钥同态聚合的分片密钥对至代理节点集群中的每个代理节点，并将对应的联合私钥发送至代理节点集群，将联合公钥发送至聚合节点。

具体地，在步骤1中，构建区块链网络并为各计算节点分配代理节点集群，密钥管理模块分发可多密钥同态聚合的分片密钥对至各代理节点，并将相应的联合密钥发送至代理节点集群，将联合公钥发送至聚合节点，具体包括：构建区块链网络并关联代理节点集群；生成分片密钥对与联合密钥对；分发分片密钥对与联合密钥对。

其中，构建区块链网络并关联代理节点集群为采用超级账本构建确权区块链，同时为提高区块链效率，采用权威证明(PoA)共识算法。为联邦学习各计算节点关联代理节点。

其中，生成分片密钥对与联合密钥对为调用密钥生成模块生成响应代理节点的分片密钥对、联合密钥对，响应聚合节点的联合公钥，并将其保存至仅代理节点可见或仅聚合节点可见的密钥空间内。其中，该联合密钥对仅由密钥管理模块按照可多密钥同态聚合的分片密钥对计算而来，代理节点集群无法根据各分片密钥对计算出联合密钥对。上述所生成密钥状态此时为可用状态。需要说明的是，为保证安全性，针对不同的代理节点，设置权限，将该代理节点可以访问的密钥空间作为该代理节点对应的可见的密钥空间。

其中，分发分片密钥对与联合密钥对在通过密钥管理模块在接收代理节点集群的请求后，调用密钥服务模块读取密钥存储模块中的分片密钥对与联合密钥对。将密钥空间中的可多密钥同态聚合的分片密钥对分发至各代理节点，将联合私钥分发至代理节点集群；随后将联合公钥发送至聚合节点用于后续加密聚合梯度。在各密钥分发完成后密钥状态变更为占用状态。

步骤2：模型买家节点发布待训练模型参数与若干测试集至代理节点集群。

具体地，模型买家节点通过初始化模型参数和任务发布的方式，实现发布待训练模型参数与提供测试集。

具体地，通过初始化模块进行初始化，模型买家节点设置待训练模型的初始参数和训练任务需求，如本次联邦建模进行的机器学习模型及该模型的初始参数。模型买家节点根据需要进行在线预测的数据集设置若干测试集，其中，依照在线预测的数据集中的训练集数据仿制测试集；调用发送模块用于将初始参数、任务需求、若干测试集发布至代理节点集群。

步骤3：计算节点在身份签名通过后，向各代理节点进行注册，获得多密钥同态加密的分片密钥对，并请求待训练模型参数与任务需求。

具体地，步骤3包括：

在各计算节点向代理节点提交参与训练申请时，基于密钥验签机制使用数字签名算法中的私钥对申请报文进行签名以用于身份认证；在身份认证通过后，为各计算节点分配仅指向一个代理节点的标识符；

在各计算节点的身份认证通过后，各计算节点接收从代理节点集群处获取的待训练模型参数与分片密钥的公钥。

步骤4：计算节点进行本地训练，得到本地梯度，将本地梯度信息分别按传统联邦学习流程同态加密上传至聚合节点与使用分片公钥加密上传至代理节点集群。

具体地，步骤4中，包括本地梯度测试和本地梯度上传。

其中，本地梯度测试是指在计算节点在身份签名通过后，向各代理节点进行注册，并从代理节点集群获得可多密钥同态加密的分片密钥对，并请求待训练模型参数进行训练，进而根据获得的模型参数及本地数据进行模型训练，得到本地梯度；

其中，本地梯度上传是按照传统联邦学习流程，各计算节点将本地梯度、标识符同态加密上传至聚合节点进行同态聚合；再各计算节点使用分片公钥将梯度、标识符进行同态加密后，得到本地梯度密文，并上传至其对应代理节点。

步骤5：聚合节点对计算节点的梯度密文进行同态聚合后，解密后得到明文，将聚合梯度利用密钥管理模块分发的联合公钥加密送至代理节点集群进行聚合梯度的更新得到聚合分数以用于后续定位恶意节点。

步骤6：代理节点集群获得梯度密文解密并更新模型，使用测试集对模型进行评分，获得各个计算节点的本地分数；后续使用平均聚合后的梯度更新模型并得到聚合分数；通过本地分数与聚合分数对比判断是否存在恶意参数，取不同代理节点子集的平均分数与聚合分数对比确定恶意节点。

具体地，在步骤6中，包括本地分数测试、聚合分数测试、审计是否存在恶意节点和对恶意节点进行定位等。

其中，本地分数测试是通过本地的分片私钥解密本地梯度密文，根据所获由标识符指向的计算节点提供的本地梯度对待训练模型参数进行更新，并使用测试集对更新的模型进行测试，得到本地分数，并记录下该计算节点的标识符。

其中，聚合分数测试是联合私钥解密聚合梯度密文，根据所获聚合梯度对待训练模型参数进行更新，并使用测试集对所更新模型进行测试，得到聚合分数。

其中，审计是否存在恶意节点是通过聚合分数与取若干计算节点的平均本地分数对比判断是否存在上传虚假参数行为的存在。进行聚合分数与平均本地分数(即取所有代理节点所得的本地分数平均值)的对比，再判断聚合分数是否明显小于某子集的最低本地分数，通过以上两点实现对是否存在恶意节点的审计。举例说明，ABC三个参与方，其中A的代理节点所得的本地分数表明其梯度使得模型准确率可以达到0.8，类似的，B有0.9，C有0.85，则聚合节点将ABC的梯度进行聚合(如最简单的平均聚合)，再使用聚合后的梯度对待训练模型进行更新，得到一个新的聚合分数(例如0.7，即聚合梯度密文的分数)，由于0.7比ABC三者发送来的值(0.8，0.9，0.85)都要低，因此则认为可能ABC之中某一参与方的分数并没有那么高(即某参与方上传的是错误的梯度)，存在恶意节点。比如A的精度为0.6，却发送一个0.8的结果进行联邦建模，这显然是A的一种恶意行为。使得最终的模型效果很差，本发明的审计的即为对敌手参与方上传恶意参数的审计。

其中，定位恶意节点是指在代理节点集群进行不同子集相关的平均分数时，如果模型精度出现异常，对该集合不同子集中的若干参与方的本地分数分别进行取平均值操作并使用测试集进行测试，获得若干子集的平均分数，对比子集间节点差异和分数差异，定位异常节点，对异常节点反馈并作惩罚。

当代理节点审计每个集合时，对比聚合梯度密文的分数与参与聚合的梯度密文的本地分数，若聚合梯度分数相比于所有本地梯度分数下降超过确定阈值，则说明本次联合建模出现异常，应立即停止本次联合建模。聚合节点对比不同子集间的节点差异和分数差异，若某节点所在的多个子集分数都小于某一阈值，则定位该节点为异常节点。

步骤7：在每轮迭代中，通过审计后的聚合梯度由代理节点集群下发至各计算节点，计算节点使用该梯度更新模型，并开始下一轮迭代；若审计不通过，则终止本次训练。

需要说明的是，训练中的每一轮迭代进行一次步骤四、步骤五、步骤六和步骤七。

步骤8：在联邦学习每轮迭代都通过审计后，本次联邦学习训练完成，代理节点集群将通过审计并训练好的模型参数使用联合公钥加密发送给模型买家。

具体地，在联邦学习训练过程中，若每轮迭代都在通过审计的情况下进行，则表示本次联邦学习训练完成。由本地分数最高的代理节点尝试将计算节点集合及其所有梯度密文、本地分数及指向各计算节点的标识符写入代理节点集群内的新区块中；调用迭代子单元进行模型发布，代理节点集群将通过审计并训练好的模型参数使用联合公钥加密，得到最终的模型密文，将模型密文发送至模型买家。

步骤9：模型买家节点向代理节点集群购买联合密钥私钥用于解密聚合梯度密文。

具体地，当模型买家从代理节点集群获取新的模型密文，向代理节点集群购买联合私钥用于解密模型参数密文，得到新的模型参数更新模型，以供后续进行在线预测。

本实施例中，在密文交互的审计流程中，无需增加参与方的额外计算开销进行数据审计，提高数据审计的效率；同时，在每一轮联合建模的训练过程中，针对各参与方所上传的恶意梯度密文进行实时的审计，提高数据审计的及时性。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图2，图2为本实施例计算机设备基本结构框图。

所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43。需要指出的是，图中仅示出了具有组件连接存储器41、处理器42、网络接口43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或D界面显示存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如基于联邦学习的数据审计的程序代码等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的程序代码或者处理数据，例如运行基于联邦学习的数据审计的程序代码。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有界面显示程序，所述界面显示程序可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于联邦学习的数据审计方法的步骤。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (10)

1.一种基于联邦学习的数据审计系统，其特征在于，包括：密钥管理模块、模型买家节点、计算节点、聚合节点和代理节点集群；其中，

所述密钥管理模块用于生成、存储和销毁密钥，所述生成的密钥包括分片公钥、分片私钥、联合私钥、联合公钥，将所述联合公钥提供给聚合节点，所述分片公钥、所述分片私钥和所述联合私钥被分发给代理节点集群；

所述模型买家节点用于发布待训练模型参数与提供测试集，并针对通过审计的联邦学习任务，向代理节点集群购买联合私钥用于解密聚合梯度密文；

每个所述计算节点进行本地模型训练，得到本地梯度，并使用注册后代理节点分发的分片公钥进行梯度加密，得到本地梯度密文，将所述本地梯度密文上传至所述聚合节点与所述代理节点集群；

所述聚合节点用于对所述本地梯度密文进行解密并同态聚合，得到聚合梯度，使用所述联合公钥对所述聚合梯度进行加密，得到聚合梯度密文，还用于将所述聚合梯度密文发送至所述代理节点集群；

所述代理节点集群分别使用分片私钥和联合私钥解密每个本地梯度密文与聚合梯度密文，得到解密明文，并通过所述解密明文更新待训练模型，采用测试集对更新后的待训练模型进行测试得到本地分数与聚合分数，通过取若干计算节点的平均分数与聚合分数对比，确定参数审计结果。

2.如权利要求1所述的基于联邦学习的数据审计系统，其特征在于，所述密钥管理模块包括：

密钥生成单元，用于生成分片密钥对、联合密钥对，并将其保存至密钥空间内，所述分片密钥对包括分片私钥和分片公钥，所述联合密钥对包括联合公钥和联合私钥；

所述密钥存储单元，用于生成响应代理节点集群或聚合节点请求的密钥空间，所述密钥空间用于存储生成的密钥和密钥的状态信息，所述密钥状态根据与密钥对应的联邦学习任务状态以及与联邦学习任务对应的安全审计需求确定；

密钥服务处理单元，用于根据代理节点的请求，调用密钥生成单元生成分片密钥对与联合密钥对，将各密钥状态保存至各密钥所在的密钥空间中，所述密钥服务处理单元还用于读取密钥存储单元中密钥空间保存的分片密钥对与联合密钥对。

3.如权利要求1所述的基于联邦学习的数据审计系统，其特征在于，所述计算节点包括：

认证单元，用于向所述代理节点集群发起训练申请，在身份认证通过后，为每个所述计算节点分配指向自身的标识符；

第一接收单元，用于接收从代理节点集群获取的待训练模型初始参数与分片公钥；

训练单元，用于使用本地数据与待训练模型初始参数对待训练模型进行训练，得到本地梯度；

上传单元，用于通过分片密钥对将本地梯度与标识符加密，得到本地梯度密文，并上传至聚合节点与所述代理节点集群。

4.如权利要求1所述的基于联邦学习的数据审计系统，其特征在于，所述聚合节点包括：

第二接收单元，用于在计算节点通过身份认证完成本地训练后，接收由计算节点上传的本地梯度密文与由密钥管理模块所分发的联合公钥；

聚合单元，用于对每个计算节点上传的本地梯度密文进行同态聚合后，解密后得到聚合梯度；

第一发送单元，将聚合梯度利用联合公钥加密，得到聚合梯度密文，并送至代理节点集群。

5.如权利要求1至4任一项所述的基于联邦学习的数据审计系统，其特征在于，所述代理节点集群，包括：

第三接收单元，用于接收密钥管理模块所分发的分片密钥对与联合私钥，接收计算节点的本地梯度密文与聚合节点的聚合梯度密文，还用于接收来自模型买家节点所发布的待训练模型初始参数与若干测试集；

第二发送单元，用于发送模型信息与密钥信息；

审计单元，用于进行恶意参数的审计。

6.如权利要求5所述的基于联邦学习的数据审计系统，其特征在于，所述第二发送单元包括：

分配子单元，用于在所述计算节点通过认证后，为所述计算节点分配指向的代理节点，并发送待训练模型参数与分片公钥至所述计算节点；

迭代子单元，用于每轮迭代中，下发通过审计后的聚合梯度密文至每个所述计算节点；

发送子单元，用于发送训练结束后的模型参数密文至模型买家节点。

7.如权利要求5所述的基于联邦学习的数据审计系统，其特征在于，所述审计单元包括：

本地分数测试子单元，用于通过分片私钥解密本地梯度密文，根据所获由标识符指向的计算节点提供的本地梯度对待训练模型参数进行更新，并使用测试集对本地梯度进行测试，得到本地分数，并记录下该计算节点的标识符；

聚合分数测试子单元，用于采用联合私钥解密聚合梯度密文，根据解密得到的聚合梯度对待训练模型参数进行更新，并使用测试集对聚合梯度进行测试，得到聚合分数；

审计恶意参数子单元，通过聚合分数与取若干计算节点的平均本地分数对比判断是否存在上传虚假参数行为的存在；

定位异常节点，用于进行不同子集相关的平均分数时，若模型精度出现异常，对该集合不同子集中的若干参与方的本地分数分别进行取平均值操作并使用测试集进行测试，获得若干子集的平均分数，对比子集间节点差异和分数差异，定位异常节点，对异常节点反馈并作惩罚。

8.一种基于联邦学习的数据审计方法，其特征在于，应用于权利要求1至于7任一项所述的基于联邦学习的数据审计系统，所述方法包括：

为每个计算节点分配代理节点集群，并采用密钥管理模块分发可多密钥同态聚合的分片密钥对至代理节点集群中的每个代理节点，并将对应的联合私钥发送至代理节点集群，将联合公钥发送至聚合节点；

模型买家节点发布待训练模型参数与若干测试集至代理节点集群；

计算节点在身份签名通过后，向各代理节点进行注册，获得多密钥同态加密的分片密钥对，并请求待训练模型参数与任务需求；

计算节点进行本地训练，得到本地梯度，将本地梯度信息分别按传统联邦学习流程同态加密上传至聚合节点与使用分片公钥加密上传至代理节点集群；

聚合节点对计算节点的梯度密文进行同态聚合后，解密后得到明文，将聚合梯度利用密钥管理模块分发的联合公钥加密送至代理节点集群进行聚合梯度的更新得到聚合分数以用于后续定位恶意节点；

代理节点集群获得梯度密文解密并更新模型，使用测试集对模型进行评分，获得各个计算节点的本地分数；后续使用平均聚合后的梯度更新模型并得到聚合分数；通过本地分数与聚合分数对比判断是否存在恶意参数，取不同代理节点子集的平均分数与聚合分数对比确定恶意节点；

在每轮迭代中，通过审计后的聚合梯度由代理节点集群下发至各计算节点，计算节点使用该梯度更新模型，并开始下一轮迭代；若审计不通过，则终止本次训练；

在联邦学习每轮迭代都通过审计后，本次联邦学习训练完成，代理节点集群将通过审计并训练好的模型参数使用联合公钥加密发送给模型买家；

模型买家节点向代理节点集群购买联合密钥私钥用于解密聚合梯度密文。

9.一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求8所述的基于联邦学习的数据审计方法。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如8所述的基于联邦学习的数据审计方法。