CN115994384A - 基于决策联邦的设备隐私保护方法、系统和装置 - Google Patents

Abstract

本申请实施例提供了基于决策联邦的设备隐私保护方法、系统和装置。在本实施例中，第一应用场景的服务中心端、以及第一应用场景下参与联邦决策的各参与方设备在相互配合决策联邦模型时不需要各参与方设备上报隐私数据，而是由服务中心端下发当前联邦模型的当前模型结构、当前模型参数和当前模型状态，各参与方设备基于当前模型结构、当前模型参数和已有的训练数据确定当前参考模型参数，由服务中心端基于各参与方设备上报的当前参考模型参数确定最优的联邦模型进行目标检测或异常检测，实现了在保护应用场景内各个物联网设备的隐私的前提下对该应用场景内的目标检测或异常检测。

Description

基于决策联邦的设备隐私保护方法、系统和装置

技术领域

本申请涉及物联网安全技术，特别涉及基于决策联邦的设备隐私保护方法、系统和装置。

背景技术

物联网中，物联网设备数量庞大且设备类型众多，不同设备类型的物联网设备采集的数据类型不一致。这里的数据类型比如图像、视频、声音、红外线、震动、光信号、GPS信息、工业数据等。比如，应用于交通场景，在一交通路口部署多个不同设备类型的物联网设备，以通过部署的各物联网设备分别采集诸如图像、视频、音频、GPS信息等不同数据类型的数据。

任一应用场景下任一事件的发生会关联该应用场景下多个物联网设备保存的数据，各个物联网设备采集的数据在事件分析应用上不相同，但表达的含义相同。基于此，为了实现某一应用场景内的目标检测或异常检测，需要依赖该应用场景下多个物联网设备中的数据，这可能会涉及到很多物联网设备中的隐私数据或者不想共享的数据，而这些数据不被共享，会影响该应用场景内的目标检测或异常检测。

发明内容

本申请实施例提供了基于决策联邦的设备隐私保护方法、系统和装置，以在保护应用场景内各个物联网设备的隐私的前提下实现该应用场景内的目标检测或异常检测。

本申请实施例提供了一种基于决策联邦的设备隐私保护方法，该方法应用于第一应用场景的服务中心端，所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；该方法包括：

将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；当前模型状态为第一状态或第二状态，第一状态表示模型收敛，用于指示各参与方设备至少基于当前模型结构和当前模型参数生成目标联邦模型进行目标检测或异常检测；第二状态表示模型未收敛，用于指示各参与方设备继续参与模型训练；

接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证；任一参与方设备上报的参考模型参数是在基于接收的当前模型结构、当前模型参数和已有的训练数据完成模型训练时得到的；

依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为第一应用场景的当前联邦模型并确定当前联邦模型的当前模型状态，之后返回所述将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备的步骤。

本申请实施例提供了一种基于决策联邦的设备隐私保护方法，该方法应用于第一应用场景下参与联邦决策的任一参与方设备，所述参与方设备与所述第一应用场景的服务中心端相互通信；该方法包括：

接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；

若当前模型状态为表示模型收敛的第一状态，则至少基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测；

若当前模型状态为表示模型未收敛的第二状态，则基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至所述服务中心端，以使所述服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

一种基于决策联邦的设备隐私保护系统，该系统包括：第一应用场景的服务中心端和所述第一应用场景下参与联邦决策的各参与方设备；所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；

其中，所述服务中心端执行如上第一种方法中的步骤；

所述参与方设备执行如上第二种方法中的步骤。

一种基于决策联邦的设备隐私保护装置，该装置应用于第一应用场景的服务中心端，所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；该装置包括：

信息发送单元，用于将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；当前模型状态为第一状态或第二状态，第一状态表示模型收敛，用于指示各参与方设备至少基于当前模型结构和当前模型参数生成目标联邦模型进行目标检测或异常检测；第二状态表示模型未收敛，用于指示各参与方设备继续参与模型训练；

参数接收单元，用于接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证；任一参与方设备上报的参考模型参数是在基于接收的当前模型结构、当前模型参数和已有的训练数据完成模型训练时得到的；

处理单元，用于依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为第一应用场景的当前联邦模型并确定当前联邦模型的当前模型状态，之后返回所述将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备的步骤。

一种基于决策联邦的设备隐私保护装置，该装置应用于第一应用场景下参与联邦决策的任一参与方设备，所述参与方设备与所述第一应用场景的服务中心端相互通信；该装置包括：

信息接收单元，用于接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；

检测单元，用于在当前模型状态为表示模型收敛的第一状态时，至少基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测；在当前模型状态为表示模型未收敛的第二状态时，基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至所述服务中心端，以使所述服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

一种电子设备，该电子设备包括：处理器和机器可读存储介质；

所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令；

所述处理器用于执行机器可执行指令，以实现如上任一方法中的步骤。

由以上技术方案可以看出，本申请中，第一应用场景的服务中心端、以及第一应用场景下参与联邦决策的各参与方设备在相互配合决策联邦模型时不需要各参与方设备上报隐私数据，而是由服务中心端下发当前联邦模型的当前模型结构、当前模型参数和当前模型状态，各参与方设备基于当前模型结构、当前模型参数和已有的训练数据确定当前参考模型参数，由服务中心端基于各参与方设备上报的当前参考模型参数确定最优的联邦模型进行目标检测或异常检测，实现了在保护应用场景内各个物联网设备的隐私的前提下对该应用场景内的目标检测或异常检测；

进一步地，在本实施例中，服务中心端基于各参与方设备上报的当前参考模型参数确定最优的联邦模型的过程中，借助于各参与方设备被分配的凭证来设定各参与方设备在确定最优联邦模型的贡献权重，最终实现了模型更新过程的权重有效分配和有效控制，提高了联邦学习的抗风险能力，进而提高了应用场景内目标检测或异常检测的准确率。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。

图1为本申请实施例提供的方法流程图；

图2为本申请实施例提供的场景结构图；

图3为本申请实施例提供的下发凭证示意图；

图4为本申请实施例提供的另一方法流程图；

图5为本申请实施例提供的装置结构图；

图6为本申请实施例提供的另一装置结构图；

图7为本申请实施例提供的电子设备结构图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。

在本申请使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。

为了使本领域技术人员更好地理解本申请实施例提供的技术方案，并使本申请实施例的上述目的、特征和优点能够更加明显易懂，下面结合附图对本申请实施例中技术方案作进一步详细的说明。

参见图1，图1为本申请实施例提供的方法流程图。该方法涉及的应用场景记为第一应用场景。如图2所示，第一应用场景主要涉及服务中心端和第一应用场景下参与联邦决策的各参与方设备。

作为一个实施例，服务中心端可为一个虚拟角色，其可承载在第一应用场景下任一设备比如摄像头、GPS设备等中，也可承载在第一应用场景之外其它设备中，本实施例并不具体限定。

作为另一个实施例，服务中心端也可为第一应用场景下任一设备比如摄像头、GPS设备等，或者第一应用场景之外其它设备，本实施例并不具体限定。

作为一个实施例，上述参与方设备可为第一应用场景下被指定参与联邦决策的物联网设备，比如摄像头、声音接收器等。在本实施例中，上述各参与方设备可为采集的数据的数据类型相同的物联网设备，数据类型比如图像、视频、声音、红外线、震动、光信号、GPS信息、工业数据等。比如，上述各参与方设备均为部署在第一应用场景下不同位置的摄像头。

基于图2所示的第一应用场景的描述，下面先站在服务中心端描述本申请实施例提供的基于决策联邦的设备隐私保护方法：

如图1所示，该流程可包括以下步骤：

步骤101，将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

需要说明的是，联邦学习是一种隐私保护方法，主要分为横向联邦和纵向联邦，分别用于处理相同数据类型不同数据体和相同数据体不同数据类型的隐私保护前提下的数据共享方法，本实施例主要涉及横向联邦学习，对应地，本实施例涉及的联邦模型都是指横向联邦模型。

在初始，服务中心端初始化联邦模型。比如，初始化联邦模型的模型结构为基于权重的逻辑回归结构，其通过如下逻辑回归方程式表示：Y= W1 * a + W2 * b + W3 * c +… + WN * X + bias；其中N表示特征数量，W1、W2、WN表示特征权重， a、b、c表示特征值，bias表示回归方程的偏置。

在初始，服务中心端还对上述模型结构涉及的模型参数进行初始化赋值，比如对上述W1、W2、…WN、bias进行初始化赋值。此时，可将具有上述结构且模型参数被初始化赋值的初始化联邦模型记为当前联邦模型。对应地，这里当前联邦模型的状态可为表示模型未收敛的第二状态。当模型的状态为表示模型未收敛的第二状态，则表示各参与方设备需要继续参与模型训练，以训练出最优联邦模型。

当然，作为另一个实施例，在初始，服务中心端还可不对初始化联邦模型的结构模型参数进行初始化赋值，而是由各参与方设备初始化赋值。此时可将具有上述结构但模型参数未被初始化赋值的初始化联邦模型记为当前联邦模型。此时的当前模型参数未被初始化赋值，其可为默认值或者无效值，本实施例并不具体限定。对应地，这里当前联邦模型的状态可为上述第二状态。

在非初始时，当前联邦模型为非初始化联邦模型，其是基于各参与方设备相配合确定，下文步骤103会有描述，这里暂不赘述。

基于如上描述，作为一个实施例，当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态。

步骤102，接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证。

作为一个实施例，在本步骤102之前，可进一步将各参与方设备被分配的凭证分别发送给各参与方设备。图3举例示出了发送凭证的组网图。

在初始，可先为各参与方设备分配凭证，本实施例并不具体限定分配方式，比如可根据参与方设备当前存储的数据量大小，或者参与方设备的性能等级为参与方设备分配凭证。

以当前存储的数据量大小为例，则每个参与方设备被分配的凭证的数量VoucherNum_x为：

VoucherNum_x = MAX（1，当前存储的数据量/数据总量*AllNum）。

其中，数据总量为所有参与方设备的当前存储的数据量大小之和。AllNum为被要求生成的凭证总量。

作为一个实施例，AllNum可通过下式表示：f（v1）=Voucher1； f（v2）=Voucher2；……；f（vAllNum）=VoucherAllNum；其中，f(x) = a1 + a2*+ a3 *+… +aUsefulNum *。UsefulNum表示预设阈值。

本实施例通过为参与方设备分配凭证并发送至参与方设备，后续可依赖各参与方设备上报的凭证进行模型更新和参与方设备在模型更新中的权重分配，具体见步骤103。

如下文图4所示流程描述的，任一参与方设备在接收到服务中心端发送的当前模型信息后，若发现当前模型信息中的当前模型状态为第二状态，则会基于当前模型信息中的当前模型结构、当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报参考模型参数和被分配的凭证至服务中心端。最终服务中心端会接收到至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证。这里，模型训练、参考模型参数具体见图4所示流程，这里暂不赘述。

步骤103，依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型并确定当前联邦模型的当前模型状态，之后返回步骤101。

在步骤103中，依据各参与方设备上报的凭证确定各参与方设备的权重有很多，比如，检测各参与方设备上报的凭证的总数量T是否大于或等于预设阈值，如果是，针对上报凭证的每一参与方设备，依据该参与方设备上报的凭证的数量和上述T，确定该参与方设备的权重；其中，参与方设备上报的凭证的数量越多，权重越大。

本领域技术人员知道，常规的联邦学习过程至少存在以下问题：（1）需要等待全部数据持有端（比如上述参与方设备）或部分数据持有端（比如上述参与方设备）完成训练且上报数据之后才可以更新模型，模型更新时间不可知；（2）不同数据持有端（比如上述参与方设备）持有的数据量不同，而模型更新时无法有效处理不同数据持有端在模型更新过程中的贡献权重。

而为了解决上述问题，本实施例提供了基于联邦学习和私密分享的决策联邦设备隐私保护方法，具体是：先借助于私密分享方案为每个参与方设备分配一个或多个参与凭证，之后在模型更新过程中，服务中心端不需要等待所有参与方设备完成模型训练再进行模型更新，而是持续监控各参与方设备上报的参考模型参数和凭证，一旦监控到各参与方设备上报的凭证总数量T大于或等于上述预设阈值（UsefulNum），则立即开始当前联邦模型的更新，并停止接收后续参与方设备上报的参考模型参数和凭证。这提高了当前联邦模型的更新效率，解决了因为参与方设备故障或网络故障导致的当前联邦模型不更新问题。同时，本实施例还优化了模型更新过程中各参与方设备的权重分配，具体是根据参与方设备上报的凭证的数量进行权重分配，这可实现不同参与方设备的贡献基于权重进行层次划分，高权重的参与方设备对模型更新的贡献更大。

作为一个实施例，根据参与方设备上报的凭证的数量进行权重分配有很多方式，比如，对于任一参与方设备，其权重可通过下式表示：上报的凭证数量/T。

基于参与方设备的权重，则在本实施例中，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数有很多方式，比如，聚合模型参数=f(s1)*f1+f(s2)*f2+…；其中，f(s1)表示一参与方设备上报的参考模型参数，f1表示该参与方设备的权重，本实施例不再一一具体限定。

作为一个实施例，本实施例在依据各参与方设备上报的凭证的数量确定各参与方设备的权重之前，还需要确认参与方设备身份的真实性，具体地，在上述依据各参与方设备上报的凭证的数量确定各参与方设备的权重之前，可进一步包括：针对上报凭证的每一参与方设备，检查该参与方设备是否满足以下条件：该参与方设备上报的凭证与本服务中心端发送给该参与方设备的凭证一致。对应地，上述依据各参与方设备上报的凭证的数量确定各参与方设备的权重是指：依据满足上述条件的各参与方设备上报的凭证的数量确定该各参与方设备的权重。也即，本实施例最终是依据有效的参与方设备（满足上述条件的参与方设备）进行模型更新，其通过凭证解决了各参与方设备的有效身份，避免模型优化过程被攻击者传输脏数据。

如步骤103描述，在基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数后，可将聚合模型参数作为当前模型参数并将具有聚合模型参数的联邦模型（其结构可为上述的模型结构）作为第一应用场景下当前最新的当前联邦模型。这里，当前联邦模型可为上述模型结构，当前模型参数为各参与方设备反馈的参考模型参数进行聚合得到的聚合模型参数。

在本实施例中，还可进一步确定当前联邦模型的当前模型状态。比如，当前模型状态基于当前联邦模型的当前模型参数确定；作为一个实施例，则可检查当前联邦模型的当前模型参数是否与之前已得到的联邦模型的模型参数满足近似条件（比如相同等），如果是，则确定当前联邦模型的当前模型状态为第一状态，否则，确定当前联邦模型的当前模型状态为上述第二状态。再比如，当前模型状态基于最新接收到的各参与方设备上报的参考模型参数确定；作为一个实施例，则可检查最新接收到的各参与方设备上报的参考模型参数是否与之前已接收的该参与方设备上报的参考模型参数满足近似条件（比如相同等），如果是，则确定当前联邦模型的当前模型状态为第一状态，否则，确定当前联邦模型的当前模型状态为上述第二状态。

这里，第一状态表示模型收敛，一旦确定当前联邦模型的当前模型状态为第一状态，则表示此时的当前联邦模型为最优模型。在此前提下，在将第一应用场景的当前联邦模型的当前模型信息（至少包括：当前模型结构、当前模型参数、当前模型状态）发送给各参与方设备时，各参与方设备若发现当前模型状态为第一状态，则至少基于当前模型结构和当前模型参数生成目标联邦模型，目标联邦模型用于目标检测或异常检测，下文图4所示流程有具体描述，这里暂不赘述。

至此，完成图1所示流程。

通过图1所示流程可以看出，由以上技术方案可以看出，本申请中，第一应用场景的服务中心端、以及第一应用场景下参与联邦决策的各参与方设备在相互配合决策联邦模型时不需要各参与方设备上报隐私数据，而是由服务中心端下发当前联邦模型的当前模型结构、当前模型参数和当前模型状态，各参与方设备基于当前模型结构、当前模型参数和已有的训练数据确定当前参考模型参数，由服务中心端基于各参与方设备上报的当前参考模型参数确定最优的联邦模型进行目标检测或异常检测，实现了在保护应用场景内各个物联网设备的隐私的前提下对该应用场景内的目标检测或异常检测；

进一步地，在本实施例中，服务中心端基于各参与方设备上报的当前参考模型参数确定最优的联邦模型的过程中，借助于各参与方设备被分配的凭证来设定各参与方设备在确定最优联邦模型的贡献权重，最终实现了模型更新过程的权重有效分配和有效控制，提高了联邦学习的抗风险能力，进而提高了应用场景内目标检测或异常检测的准确率。

进一步地，本实施例在模型参数更新过程中基于凭证确定模型更新开始条件，最终实现了模型更新过程中有效控制，提高了模型更新效率。

下面通过图4站在参与方设备的角度描述本申请实施例提供的方法：

参见图4，图4为本申请实施例提供的另一方法流程图。该方法应用于第一应用场景下参与联邦决策的任一参与方设备，参与方设备与第一应用场景的服务中心端相互通信。如图4所示，该方法包括：

步骤401，接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；若当前模型状态为表示模型收敛的第一状态，则执行步骤402，若当前模型状态为表示模型未收敛的第二状态，则执行步骤403。

步骤402，基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测。

本实施例是在当前模型状态为表示模型收敛的第一状态的前提下执行的。在此前提下，参与方设备可保存{当前模型结构、当前模型参数}；此时的当前模型参数是由全部参与方设备贡献自身数据训练得到的最优参数，相比于仅依赖自身数据完成训练的参数效果更优。因此，参与方设备后续可直接基于{当前模型结构、当前模型参数}生成目标联邦模型，后续即可基于目标联邦模型进行目标检测或异常检测，这能提高检测准确率。

作为一个实施例，本步骤402在基于当前模型结构和当前模型参数生成目标联邦模型之前，可进一步验证服务中心端的身份真实性，比如，在当前不为首次接收凭证时，检查当前接收的凭证和之前接收的凭证是否一致，如果是，相当于验证服务中心端的身份有效，则继续执行基于当前模型结构和当前模型参数生成目标联邦模型。

作为另一个实施例，在本实施例中，参与方设备在被部署至第二应用场景时，第二应用场景与所述第一应用场景满足预设场景相似条件（比如都是交通路口等），则该参与方设备可将上述目标联邦模型共享至第二应用场景下的其它物联网设备，其它物联网设备与所述参与方设备满足预设设备相似条件比如采集的数据的数据类型相同。通过该共享，可以节省模型训练资源，大大提高模型利用率。

步骤403，基于当前模型结构、当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至服务中心端，以使服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

本实施例是在当前模型状态为表示模型未收敛的第二状态的前提下执行的。在此前提下，假若当前模型参数为上述未被初始化赋值的参数，则上述基于当前模型信息中的当前模型结构、当前模型参数和已有的训练数据进行模型训练至少包括：先对当前模型参数进行初始化赋值，之后基于当前模型信息中的当前模型结构、赋值后的模型参数和已有的训练数据进行模型训练。

在本实施例中，参考模型参数为本参与方设备训练出的模型的模型参数。比如，参与方设备从自身已有的训练数据中提取满足当前模型结构的数据特征，将数据特征输入当前联邦模型（具有当前模型参数或赋值后模型参数的当前模型结构）得到模型预测值，基于模型预测值和该数据特征的数据标签值进行模型loss计算和梯度优化，一旦loss满足收敛条件，可将此时的模型参数作为参考模型参数。

在本实施例中，上述凭证被用于确定本参与方设备的权重，具体见图1中的步骤102和步骤103。该凭证可在本步骤403之前从服务中心端获得，具体见步骤102。

作为一个实施例，本步骤403中，上报训练出的参考模型参数和本设备已被分配的凭证至服务中心端可包括：基于同态加密方案对训练出的参考模型参数进行加密，上传加密后的参考模型参数、以及本设备已被分配的凭证至服务中心端。

作为一个实施例，本步骤403在基于当前模型结构、当前模型参数和已有的训练数据进行模型训练之前，可进一步验证服务中心端的身份真实性，比如，在当前不为首次接收凭证时，检查当前接收的凭证和之前接收的凭证是否一致，如果是，相当于验证服务中心端的身份有效，可继续执行基于当前模型结构、当前模型参数和已有的训练数据进行模型训练。

另外，需要说明的是，在本实施例中，鉴于如上描述的服务中心端不需要等待所有参与方设备完成模型训练再进行模型更新，则应用于本步骤403，则任一参与方设备在接收到服务中心端的当前模型信息时，会存在两种情况：

1），还处于前一轮模型训练，此时则可停止训练，基于当前接收到的当前模型信息中的当前模型结构、当前模型参数和已有的训练数据重新开始进行模型训练；

2），已完成前一轮模型训练正等待新的模型信息，则直接基于当前接收到的当前模型信息中的当前模型结构、当前模型参数和已有的训练数据开始进行模型训练。

至此，完成图4所示的流程。

通过图4所示流程可以看出，本实施例在联邦学习基础上为参与方设备分配对应数量的有效凭证，并在模型参数更新过程中基于凭证设定贡献权重进行模型更新，最终实现了模型更新过程的权重有效分配，提升了联邦学习的抗风险能力，进而提高了应用场景内目标检测或异常检测的准确率。

进一步地，本实施例在模型参数更新过程中基于凭证确定模型更新开始条件，最终实现了模型更新过程中有效控制，提高了模型更新效率。

以上对本申请实施例提供的方法进行了描述，下面对本申请实施例提供的系统和装置进行描述：

本申请实施例提供了一种基于决策联邦的设备隐私保护系统。该系统可包括：第一应用场景的服务中心端和第一应用场景下参与联邦决策的各参与方设备；服务中心端与第一应用场景下参与联邦决策的各参与方设备相互通信；其中，服务中心端执行如图1所示流程中的步骤；参与方设备执行如图4所示流程中的步骤。

本实施例还提供了一种基于决策联邦的设备隐私保护装置，如图5所示，该装置应用于第一应用场景的服务中心端，服务中心端与第一应用场景下参与联邦决策的各参与方设备相互通信；该装置包括：

信息发送单元，用于将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；当前模型状态为第一状态或第二状态，第一状态表示模型收敛，用于指示各参与方设备至少基于当前模型结构和当前模型参数生成目标联邦模型进行目标检测或异常检测；第二状态表示模型未收敛，用于指示各参与方设备继续参与模型训练；

参数接收单元，用于接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证；任一参与方设备上报的参考模型参数是在基于接收的当前模型结构、当前模型参数和已有的训练数据完成模型训练时得到的；

处理单元，用于依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为第一应用场景的当前联邦模型并确定当前联邦模型的当前模型状态，之后返回所述将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备的步骤。

作为一个实施例，所述依据各参与方设备上报的凭证确定各参与方设备的权重包括：检测各参与方设备上报的凭证的总数量T是否大于或等于预设阈值，如果是，针对上报凭证的每一参与方设备，依据该参与方设备上报的凭证的数量和所述T，确定该参与方设备的权重；其中，参与方设备上报的凭证的数量越多，权重越大。

作为一个实施例，在接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证之前，进一步包括：将各参与方设备被分配的凭证分别发送给各参与方设备；

作为一个实施例，所述依据各参与方设备上报的凭证的数量确定各参与方设备的权重是指：依据满足条件的各参与方设备上报的凭证的数量确定该各参与方设备的权重；参与方设备满足条件是指参与方设备上报的凭证与本服务中心端发送给该参与方设备的凭证一致；

作为一个实施例，所述确定当前联邦模型的当前模型状态包括：检查当前联邦模型的当前模型参数是否与之前已得到的联邦模型的模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态；或者，检查接收到的各参与方设备上报的参考模型参数是否与之前已接收的该参与方设备上报的参考模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态。

至此，完成图5所示装置的结构描述。

参见图6，图6为本申请实施例提供的另一装置结构图。该装置应用于第一应用场景下参与联邦决策的任一参与方设备，所述参与方设备与所述第一应用场景的服务中心端相互通信；该装置包括：

信息接收单元，用于接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；

检测单元，用于在当前模型状态为表示模型收敛的第一状态时，至少基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测；在当前模型状态为表示模型未收敛的第二状态时，基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至所述服务中心端，以使所述服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

作为一个实施例，接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息进一步包括：接收本参与方设备被分配的凭证；

在基于当前模型结构和当前模型参数生成目标联邦模型之前或者在基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练之前，进一步包括：在当前不为首次接收凭证时，检查当前接收的凭证和之前接收的凭证是否一致，如果是，则继续执行所述至少基于当前模型结构和当前模型参数生成目标联邦模型或者基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练；

所述参与方设备在被部署至第二应用场景时，所述第二应用场景与所述第一应用场景满足预设场景相似条件，检测单元进一步将目标联邦模型共享至所述第二应用场景下的其它物联网设备，所述其它物联网设备与所述参与方设备满足预设设备相似条件。

至此，完成图6所示装置的结构描述。

基于与上述方法同样的申请构思，本申请实施例还提供一种电子设备，如图7所示，该电子设备包括：处理器和机器可读存储介质；所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令；所述处理器用于执行机器可执行指令，以实现如上图1或图4所示方法中的步骤。

基于与上述方法同样的申请构思，本申请实施例还提供一种机器可读存储介质，所述机器可读存储介质上存储有若干计算机指令，所述计算机指令被处理器执行时，能够实现本申请上述示例公开的方法。

示例性的，上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置，可以包含或存储信息，如可执行指令、数据，等等。例如，机器可读存储介质可以是：RAM（Radom Access Memory，随机存取存储器）、易失存储器、非易失性存储器、闪存、存储驱动器（如硬盘驱动器）、固态硬盘、任何类型的存储盘（如光盘、dvd等），或者类似的存储介质，或者它们的组合。

上述实施例阐明的系统、装置、模块或单元，具体可以由处理器或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机，计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质（包括但不限于磁盘存储器、CD-ROM、光学存储器等）上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备（系统）、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

而且，这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上，使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (13)

1.一种基于决策联邦的设备隐私保护方法，其特征在于，该方法应用于第一应用场景的服务中心端，所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；该方法包括：

将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；当前模型状态为第一状态或第二状态，第一状态表示模型收敛，用于指示各参与方设备至少基于当前模型结构和当前模型参数生成目标联邦模型进行目标检测或异常检测；第二状态表示模型未收敛，用于指示各参与方设备继续参与模型训练；

接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证；任一参与方设备上报的参考模型参数是在基于接收的当前模型结构、当前模型参数和已有的训练数据完成模型训练时得到的；

依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为第一应用场景的当前联邦模型并确定当前联邦模型的当前模型状态，之后返回所述将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备的步骤。

2.根据权利要求1所述的方法，其特征在于，所述依据各参与方设备上报的凭证确定各参与方设备的权重包括：

检测各参与方设备上报的凭证的总数量T是否大于或等于预设阈值，如果是，针对上报凭证的每一参与方设备，依据该参与方设备上报的凭证的数量和所述T，确定该参与方设备的权重；其中，参与方设备上报的凭证的数量越多，权重越大。

3.根据权利要求1所述的方法，其特征在于，在接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证之前，进一步包括：将各参与方设备被分配的凭证分别发送给各参与方设备；

所述依据各参与方设备上报的凭证的数量确定各参与方设备的权重是指：依据满足条件的各参与方设备上报的凭证的数量确定该各参与方设备的权重；参与方设备满足条件是指参与方设备上报的凭证与本服务中心端发送给该参与方设备的凭证一致。

4.根据权利要求1所述的方法，其特征在于，所述确定当前联邦模型的当前模型状态包括：

检查当前联邦模型的当前模型参数是否与之前已得到的联邦模型的模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态；或者，

检查接收到的各参与方设备上报的参考模型参数是否与之前已接收的该参与方设备上报的参考模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态。

5.一种基于决策联邦的设备隐私保护方法，其特征在于，该方法应用于第一应用场景下参与联邦决策的任一参与方设备，所述参与方设备与所述第一应用场景的服务中心端相互通信；该方法包括：

接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；

若当前模型状态为表示模型收敛的第一状态，则至少基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测；

若当前模型状态为表示模型未收敛的第二状态，则基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至所述服务中心端，以使所述服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

6.根据权利要求5所述的方法，其特征在于，接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息进一步包括：接收本参与方设备被分配的凭证；

在基于当前模型结构和当前模型参数生成目标联邦模型之前或者在基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练之前，该方法进一步包括：在当前不为首次接收凭证时，检查当前接收的凭证和之前接收的凭证是否一致，如果是，则继续执行所述至少基于当前模型结构和当前模型参数生成目标联邦模型或者基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练。

7.根据权利要求5所述的方法，其特征在于，所述参与方设备在被部署至第二应用场景时，所述第二应用场景与所述第一应用场景满足预设场景相似条件，则该方法进一步包括：

将所述目标联邦模型共享至所述第二应用场景下的其它物联网设备，所述其它物联网设备与所述参与方设备满足预设设备相似条件。

8.一种基于决策联邦的设备隐私保护系统，其特征在于，该系统包括：第一应用场景的服务中心端和所述第一应用场景下参与联邦决策的各参与方设备；所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；

其中，所述服务中心端执行如权利要求1至4任一方法中的步骤；

所述参与方设备执行如权利要求5至7任一方法中的步骤。

9.一种基于决策联邦的设备隐私保护装置，其特征在于，该装置应用于第一应用场景的服务中心端，所述服务中心端与所述第一应用场景下参与联邦决策的各参与方设备相互通信；该装置包括：

信息发送单元，用于将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；当前模型状态为第一状态或第二状态，第一状态表示模型收敛，用于指示各参与方设备至少基于当前模型结构和当前模型参数生成目标联邦模型进行目标检测或异常检测；第二状态表示模型未收敛，用于指示各参与方设备继续参与模型训练；

参数接收单元，用于接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证；任一参与方设备上报的参考模型参数是在基于接收的当前模型结构、当前模型参数和已有的训练数据完成模型训练时得到的；

处理单元，用于依据各参与方设备上报的凭证确定各参与方设备的权重，基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为第一应用场景的当前联邦模型并确定当前联邦模型的当前模型状态，之后返回所述将第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备的步骤。

10.根据权利要求9所述的装置，其特征在于，所述依据各参与方设备上报的凭证确定各参与方设备的权重包括：检测各参与方设备上报的凭证的总数量T是否大于或等于预设阈值，如果是，针对上报凭证的每一参与方设备，依据该参与方设备上报的凭证的数量和所述T，确定该参与方设备的权重；其中，参与方设备上报的凭证的数量越多，权重越大；

在接收至少一个参与方设备在当前模型状态为第二状态时上报的参考模型参数和被分配的凭证之前，进一步包括：将各参与方设备被分配的凭证分别发送给各参与方设备；

所述依据各参与方设备上报的凭证的数量确定各参与方设备的权重是指：依据满足条件的各参与方设备上报的凭证的数量确定该各参与方设备的权重；参与方设备满足条件是指参与方设备上报的凭证与本服务中心端发送给该参与方设备的凭证一致；

所述确定当前联邦模型的当前模型状态包括：检查当前联邦模型的当前模型参数是否与之前已得到的联邦模型的模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态；或者，检查接收到的各参与方设备上报的参考模型参数是否与之前已接收的该参与方设备上报的参考模型参数满足近似条件，如果是，则确定当前联邦模型的当前模型状态为所述第一状态，否则，确定当前联邦模型的当前模型状态为所述第二状态。

11.一种基于决策联邦的设备隐私保护装置，其特征在于，该装置应用于第一应用场景下参与联邦决策的任一参与方设备，所述参与方设备与所述第一应用场景的服务中心端相互通信；该装置包括：

信息接收单元，用于接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息；当前模型信息至少包括：当前模型结构、当前模型参数、当前模型状态；

检测单元，用于在当前模型状态为表示模型收敛的第一状态时，至少基于当前模型结构和当前模型参数生成目标联邦模型；目标联邦模型用于目标检测或异常检测；在当前模型状态为表示模型未收敛的第二状态时，基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练并在完成模型训练时上报训练出的参考模型参数和本设备已被分配的凭证至所述服务中心端，以使所述服务中心端依据各参与方设备上报的凭证的数量确定各参与方设备的权重并基于各参与方设备的权重对各参与方设备上报的参考模型参数进行聚合得到聚合模型参数，以及将聚合模型参数作为当前模型参数并将具有所述聚合模型参数的联邦模型作为当前联邦模型，确定当前联邦模型的当前模型状态并继续将当前生成的第一应用场景的当前联邦模型的当前模型信息发送给各参与方设备。

12.根据权利要求11所述的装置，其特征在于，接收服务中心端下发的第一应用场景的当前联邦模型的当前模型信息进一步包括：接收本参与方设备被分配的凭证；

在基于当前模型结构和当前模型参数生成目标联邦模型之前或者在基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练之前，进一步包括：在当前不为首次接收凭证时，检查当前接收的凭证和之前接收的凭证是否一致，如果是，则继续执行所述至少基于当前模型结构和当前模型参数生成目标联邦模型或者基于所述当前模型结构、所述当前模型参数和已有的训练数据进行模型训练；

所述参与方设备在被部署至第二应用场景时，所述第二应用场景与所述第一应用场景满足预设场景相似条件，检测单元进一步将目标联邦模型共享至所述第二应用场景下的其它物联网设备，所述其它物联网设备与所述参与方设备满足预设设备相似条件。

13.一种电子设备，其特征在于，该电子设备包括：处理器和机器可读存储介质；

所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令；

所述处理器用于执行机器可执行指令，以实现权利要求1-4或5-7任一项中的方法步骤。

Images