CN113255932A - 一种基于终端设备的联邦学习训练平台及方法 - Google Patents
一种基于终端设备的联邦学习训练平台及方法 Download PDFInfo
- Publication number
- CN113255932A CN113255932A CN202110609359.9A CN202110609359A CN113255932A CN 113255932 A CN113255932 A CN 113255932A CN 202110609359 A CN202110609359 A CN 202110609359A CN 113255932 A CN113255932 A CN 113255932A
- Authority
- CN
- China
- Prior art keywords
- model
- module
- terminal device
- terminal
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 75
- 238000000034 method Methods 0.000 title claims abstract description 25
- 230000002776 aggregation Effects 0.000 claims abstract description 46
- 238000004220 aggregation Methods 0.000 claims abstract description 46
- 230000001133 acceleration Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims abstract description 11
- 230000004931 aggregating effect Effects 0.000 claims abstract description 4
- 238000012360 testing method Methods 0.000 claims description 20
- 230000008859 change Effects 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 16
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 5
- 231100000279 safety data Toxicity 0.000 description 5
- 238000002372 labelling Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000002054 transplantation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/04—Inference or reasoning models
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Bioethics (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于终端设备的联邦学习训练平台及方法，属于人工智能领域，包括：至少一个终端设备，用于接收一初始模型，每一终端设备分别包括数据采集模块、数据处理模块、训练模块；云平台连接至少一个终端设备，云平台包括下发模块、接收模块、模型聚合模块，模型聚合模块用于对各终端设备的模型参数进行聚合得到共享模型；终端设备还包括：模型推理加速模块，连接模型聚合模块，用于基于AI端侧推理框架对共享模型进行推理加速。本发明的有益效果在于：基于联邦学习策略，各终端设备不用给己方数据也可协作进行模型训练，避免数据隐私泄露的问题，同时基于AI端侧推理框架对模型推理加速，识别速度和精度提高，识别范围更广。
Description
技术领域
本发明涉及人工智能领域，尤其涉及一种基于终端设备的联邦学习训练平台及方法。
背景技术
人工智能是包括十分广泛的科学，它由不同的领域组成，如机器学习，计算机视觉等等，一般情况下，人工智能所需要的数据会涉及多个领域，然而，数据源之间存在着难以打破的壁垒，在大多数行业中，数据是以孤岛的形式存在的，由于行业竞争、隐私安全、行政手续复杂等问题，即使是在同一个公司的不同部门之间要实现数据整合也面临着重重阻力，在现实中想要将分散在各地、各个机构的数据进行整合几乎是不可能的，即使可以，整合过程中也需要花费巨大的成本。
随着人工智能的进一步发展，重视数据隐私和安全已经成为了世界性的趋势，为了解决数据孤岛的问题，提出了“联邦学习”的概念，使得处于联邦状态下的参与设备在不用给出己方数据的情况下，也可协作进行联邦学习模型的训练，并且可以避免数据隐私泄露的问题。
现有技术中，传统的机器学习一般是在单机或者集群上集中处理数据、训练模型，然后由云端下发模型，需要依赖于海量数据，才能使得训练分析得到的模型的准确率得以提高，虽然大规模的手机数据极大的提高了机器学习算法性能，但也给个人隐私数据保护带来更大的挑战，尤其是在移动终端，个人隐私数据安全问题进一步凸显，因此针对以上问题，迫切需要设计出一种基于终端设备的联邦学习训练平台及方法，以满足实际使用的需要。
发明内容
为了解决以上技术问题，本发明提供了一种基于终端设备的联邦学习训练平台及方法。
本发明所解决的技术问题可以采用以下技术方案实现：
一种基于终端设备的联邦学习训练平台，包括：
至少一个终端设备，用于接收一初始模型，每一所述终端设备分别包括：
一数据采集模块，用于接收所述初始模型后，采集终端设备的安全信息数据；
一数据处理模块，连接所述数据采集模块，用于对采集的所述安全信息数据进行预处理；
一训练模块，连接所述数据处理模块，用于加载接收到的所述初始模型，将预处理后的所述安全信息数据输入至所述初始模型中，对所述初始模型进行训练，以得到训练好的个性化模型以及模型参数；
一云平台，连接至少一个所述终端设备，所述云平台包括：
一下发模块，用于向至少一个所述终端设备下发所述初始模型；
一接收模块，用于接收各所述终端设备上传的训练好的所述个性化模型以及所述模型参数；
一模型聚合模块，连接所述接收模块，用于对各所述终端设备对应的所述个性化模型进行汇总，聚合得到一共享模型；
每一所述终端设备还包括：一模型推理加速模块，连接所述模型聚合模块，用于基于一AI端侧推理框架对所述共享模型进行推理加速。
优选地，所述模型聚合模块还包括：
一重复迭代子模块，连接所述下发模块，用于将聚合得到的所述共享模型作为初始模型，并重新调用所述下发模块，进而对所述共享模型进行重复迭代训练，直至所述共享模型收敛。
优选地，所述云平台还包括：
一测试模块，连接所述模型聚合模块，用于根据预先存储的标准测试数据对联邦学习得到的所述共享模型进行测试，得到一测试结果；
所述重复迭代子模块连接所述测试模块，所述重复迭代子模块还用于根据所述测试结果判断所述共享模型是否收敛。
优选地，所述模型聚合模块还包括：
一聚合子模块，连接所述重复迭代子模块，用于获取各所述终端设备的训练样本数、当前迭代轮次中各所述终端设备对应的模型参数，以及所有所述终端设备的总训练样本数，并根据所述训练样本数、各模型参数以及所述总训练样本数对各所述个性化模型中的每一所述模型参数分别进行汇总聚合，得到所述共享模型聚合后的模型参数。
优选地，所述模型聚合模块采用下述公式对所述共享模型的每一所述模型参数进行汇总聚合：
其中，
t表示联邦学习训练的迭代轮数；
k表示所述终端设备的标号；
C表示所有所述终端设备的总数；
n表示总训练样本数；
nk表示第k台所述终端设备对应的训练样本数；
wk，t表示当前迭代轮次中，第k台所述终端设备训练得到的所述模型参数；
wt表示当前迭代轮次中，所述共享模型聚合后的模型参数。
优选地，每一所述终端设备还包括：
一本地存储模块，用于存储所述安全信息数据；
其中，所述安全信息数据包括位置变化速率，和/或WIFI持续时间，和/或内存使用情况，和/或CPU使用情况，和/或CPU睡眠属性，和/或CPU温度属性，和/或电源信息，和/或亮屏信息，和/或电量属性，和/或耗电量。
优选地，所述数据处理模块包括：
一标注子模块，用于将所述安全信息数据中的每一项数据分别与对应的预设阈值进行比较，并将超过对应的所述预设阈值的安全信息数据进行标注；
一打分子模块，连接所述标注子模块，用于根据标注的数据进行打分，得到对应每一所述终端设备的安全威胁分数。
优选地，每一所述终端设备还包括：
一警示模块，连接所述打分子模块，用于供每一所述终端设备根据所述安全威胁分数输出相应的警示信息，以提醒用户。
本发明还提供一种基于终端设备的联邦学习方法，用于如上述的一种基于终端设备的联邦学习训练平台，包括云平台，以及和所述云平台连接的至少一个终端设备，还包括以下步骤：
步骤S1，所述云平台下发一初始模型至各所述终端设备；
步骤S2，采集各所述终端设备的安全信息数据；
步骤S3，各所述终端设备分别对自身的所述安全信息数据进行预处理；
步骤S4，各所述终端设备分别根据预处理后的所述安全信息数据对所述初始模型进行训练，得到对应每个所述终端设备的个性化模型，并将所述个性化模型上传至所述云平台；
步骤S5，所述云平台将各所述终端设备对应的所述个性化模型汇总聚合得到一共享模型；
步骤S6，基于一AI端侧推理框架对所述共享模型进行推理加速。
优选地，于所述步骤S5之后，所述步骤S6之前，还包括：
将所述步骤S5中汇总聚合得到的所述共享模型作为所述初始模型，并重复迭代所述步骤S1至所述步骤S5，直至所述共享模型收敛。
本发明的有益效果在于：
本发明基于联邦学习策略，通过云平台下发初始模型至各个终端设备，终端设备根据各自用户提供的本地数据进行模型的训练，在保护个人隐私数据不泄露的前提下，训练产生各自的个性化模型，并将训练好的个性化模型进行聚合得到共享模型，同时基于AI端侧推理框架对共享模型进行推理加速，使得识别速度更快、识别范围更广、识别精度更精准。
附图说明
图1为本发明中，云平台具体实施例的结构框图；
图2为本发明中，每一终端设备具体实施例的结构框图；
图3为本发明中，一种基于终端设备的联邦学习训练方法具体实施例的流程示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
下面结合附图和具体实施例对本发明作进一步说明，但不作为本发明的限定。
本发明提供一种基于终端设备的联邦学习训练平台，属于人工智能领域，如图1-图2所示，包括如下步骤：
至少一个终端设备1，用于接收一初始模型，每一终端设备1分别包括：
一数据采集模块11，用于接收初始模型后，采集终端设备1的安全信息数据；
一数据处理模块12，连接数据采集模块11，用于对采集的安全信息数据进行预处理；
一训练模块13，连接数据处理模块12，用于加载接收到的初始模型，将预处理后的安全信息数据输入至初始模型中，对初始模型进行训练，以得到训练好的个性化模型以及模型参数；
一云平台2，连接至少一个终端设备1，云平台2包括：
一下发模块21，用于向至少一个终端设备1下发初始模型；
一接收模块22，用于接收各终端设备1上传的训练好的个性化模型以及模型参数；
一模型聚合模块23，连接接收模块22，用于对各终端设备1对应的个性化模型进行汇总，聚合得到一共享模型；
每一终端设备1还包括：一模型推理加速模块14，连接模型聚合模块23，用于基于一AI端侧推理框架对共享模型进行推理加速。
具体的，联邦学习训练平台包括云平台2，以及至少一个终端设备1连接云平台2，其中，云平台2包括下发模块21、接收模块22、模型聚合模块23；每一终端设备1分别包括数据采集模块11、数据处理模块12、训练模块13以及模型推理加速模块14；
进一步的，下发模块21用于供云平台2向至少一个终端设备1下发初始模型，其中，初始模型为未训练的模型，初始模型无法识别任何特征；每一终端设备1在接收后云平台2下发的初始模型后，通过数据采集模块11采集各终端设备1自身的安全信息数据，安全信息数据从各终端设备1的本地存储中获取；进而终端设备1通过对各自的安全信息数据进行预处理，随后根据预处理后的安全信息数据对初始模型进行训练，得到训练好的个性化模型，以及个性化模型对应的模型参数，其中个性化模型为仅识别特定特征的模型，将得到个性化模型的模型参数上传至云平台2中；云平台2接收到各终端设备1的模型参数后，将各终端设备1对应的模型参数进行汇总聚合，得到聚合后的模型参数，进而得到共享模型，其中共享模型为能够识别所有特征的模型。
进一步的，每一终端设备1还包括：在聚合得到共享模型后，基于AI端侧推理Tengine-Lite框架将共享模型转化为对Tengine模型，对共享模型进行推理加速，使用Tengine-Lite框架加速模型推理，应用于人工智能物联网(Artificial Intelligence&Internet of Things，AIoT)场景设计，同时具有跨芯片平台、异构调度、芯片底层加速、超轻量无依赖、完整开发移植部署工具链等特点，能够简化和加速面向场景的AI算法在嵌入式边缘设备上快速迁移，终端设备1利用Tengine-Lite框架的加速能力，使得识别速度更快、识别范围更广、识别精度更准。
作为优选的实施方式，模型聚合模块23还包括：
一重复迭代子模块232，连接下发模块21，用于将聚合得到的共享模型作为初始模型，并重新调用下发模块21，进而对共享模型进行重复迭代训练，直至共享模型收敛。
具体的，在本实施例中，考虑到由于每一终端设备1每一天的安全信息数据是有限的，导致训练样本数量不足，进而使得训练得到共享模型的收敛性不佳，其有效性、准确度较低的问题，本实施例中在云平台2聚合得到共享模型后，重复迭代子模块232重新调用下发模块21，并将得到的共享模型作为初始模型重新下发至终端设备1，由终端设备1重复迭代训练，直至聚合后的共享模型收敛性较好，即可终止重复迭代训练，在重复迭代训练的过程，训练样本数量逐步增加，通过该重复迭代训练机制能够不断的对共享模型进一步优化，提高模型的性能。
作为优选的实施方式，云平台2还包括：
一测试模块24，连接模型聚合模块23，用于根据预先存储的标准测试数据对联邦学习得到的共享模型进行测试，得到一测试结果；
重复迭代子模块232连接测试模块，重复迭代子模块232还用于根据测试结果判断共享模型是否收敛。
具体的，在本实施例中，预先存储有标准测试数据，每一次模型聚合模块23根据各终端设备1对应的个性化模型聚合得到共享模型后，将标准测试数据输入至共享模型中，对共享模型进行测试，以确定其收敛性是否达到要求，具体的收敛性要求根据实际的应用场景的需要而变化，若模型收敛性已达到要求，则停止迭代；若模型收敛性未达到要求，则重复迭代子模块继续重新调用下发模块21。
作为优选的实施方式，模型聚合模块23还包括：
一聚合子模块231，连接重复迭代子模块232，用于获取各终端设备1的训练样本数、当前迭代轮次中各终端设备1对应的模型参数，以及所有终端设备1的总训练样本数，并根据训练样本数、各模型参数以及总训练样本数对各个性化模型中的每一模型参数分别进行汇总聚合，得到共享模型聚合后的模型参数。
具体的，在本实施例中，共享模型的具体聚合过程包括如下步骤：
获取各终端设备1的训练样本数，以及每一终端设备1各自训练得到的个性化模型的模型参数；
针对共享模型的任一项模型参数，根据各终端设备1的训练样本数和所有终端设备1总训练样本数的比值，确定各终端设备1的模型参数在共享模型中的权重；
根据各终端设备1的模型参数以及其在共享模型中的权重，得到共享模型对应的每一项模型参数的数值。
作为优选的实施方式，模型聚合模块23采用下述公式对共享模型的每一模型参数进行汇总聚合：
其中，
t表示联邦学习训练的迭代轮数；
k表示终端设备1的标号；
C表示所有终端设备1的总数；
n表示总训练样本数；
nk表示第k台终端设备1对应的训练样本数；
wk，t表示当前迭代轮次中，第k台终端设备1训练得到的模型参数；
wt表示当前迭代轮次中，共享模型聚合后的模型参数。
作为优选的实施方式，每一终端设备1还包括：
一本地存储模块，用于存储安全信息数据；
其中，安全信息数据包括位置变化速率，和/或WIFI持续时间，和/或内存使用情况，和/或CPU使用情况，和/或CPU睡眠属性，和/或CPU温度属性，和/或电源信息，和/或亮屏信息，和/或电量属性，和/或耗电量。
具体的，在本实施例中，每一终端设备1的安全信息数据从各自的本地存储中获取，安全信息数据包括但不限于位置变化速率、WIFI持续时间、内存使用情况、CPU使用情况、CPU睡眠属性、CPU温度属性、电源信息、亮屏信息、电量属性、耗电量中的一种或多组组合。
作为优选的实施方式，数据处理模块12包括：
一标注子模块(图中未示出)，用于将安全信息数据中的每一项数据分别与对应的预设阈值进行比较，并将超过对应的预设阈值的安全信息数据进行标注；
一打分子模块(图中未示出)，连接标注子模块，用于根据标注的数据进行打分，得到对应每一终端设备1的安全威胁分数。
具体的，在本实施例中，针对安全信息数据中的每一项数据分别对应有一预设阈值，将安全信息数据中的所有项数据与对应的预设阈值进行比较，将超过对应的预设阈值的安全信息数据作为危害安全数据，并标注出来；进而根据标注出来的危害安全数据进行打分，得到对应每一终端设备1的安全威胁分数。例如，假设目前安全信息数据包括位置变化速率、WIFI持续时间、内存使用情况、CPU使用情况、CPU睡眠属性、CPU温度属性、电源信息、亮屏信息、电量属性、耗电量等十项数据，每一项对应一分，当其中一项安全信息数据标注为危害安全数据，即安全威胁分数加一分，例如安全信息数据中共有三项数据被标注为危害安全数据，则安全威胁分数为3分。
上述过程中将超过阈值标记为危害安全数据，进一步的，还可将安全信息数据中接近于对应的预设阈值但未超过预设阈值也进行标记，例如标记为轻危害，根据危害的等级执行不同的打分，例如对于被标记为轻危害的数据加0.5分，或者也可以仅标注而不加入最终的安全威胁分数统计结果中。
作为优选的实施方式，每一终端设备1还包括：
一警示模块15，连接打分子模块，用于供每一终端设备1根据安全威胁分数输出相应的警示信息，以提醒用户。
具体的，在本实施例中，终端设备1还包括警示模块15，警示模块15用于根据安全威胁分数的具体分值，以执行相应操作，用以提醒用户，例如，当内存使用情况表示内存不足时，输出相应的内存警示信息来提醒用户。
需要说明的是，即使某终端设备1对应的安全威胁分数较高，其并不会影响该终端设备1对应的个性化模型训练的过程。
本发明还提供一种基于终端设备1的联邦学习方法，用于如上述的一种基于终端设备1的联邦学习训练平台，包括云平台2，以及和云平台2连接的至少一个终端设备1，如图3所示，还包括以下步骤：
步骤S1，云平台2下发一初始模型至各终端设备1；
步骤S2，采集各终端设备1的安全信息数据；
步骤S3，各终端设备1分别对自身的安全信息数据进行预处理；
步骤S4，各终端设备1分别根据预处理后的安全信息数据对初始模型进行训练，得到对应每个终端设备1的个性化模型，并将个性化模型上传至云平台2；
步骤S5，云平台2将各终端设备1对应的个性化模型汇总聚合得到一共享模型；
步骤S6，基于一AI端侧推理框架对共享模型进行推理加速
作为优选的实施方式，于步骤S5之后，步骤S6之前，还包括：
将步骤S5中汇总聚合得到的共享模型作为初始模型，并重复迭代步骤S1至步骤S5，直至共享模型收敛。
本发明的有益效果在于：
本发明基于联邦学习策略，通过云平台下发初始模型至各个终端设备，终端设备根据各自用户提供的本地数据进行模型的训练，在保护个人隐私数据不泄露的前提下，训练产生各自的个性化模型，并将训练好的个性化模型进行聚合得到共享模型，同时基于AI端侧推理框架对共享模型进行推理加速，使得识别速度更快、识别范围更广、识别精度更精准。
以上所述仅为本发明较佳的实施例，并非因此限制本发明的实施方式及保护范围，对于本领域技术人员而言，应当能够意识到凡运用本发明说明书及图示内容所作出的等同替换和显而易见的变化所得到的方案，均应当包含在本发明的保护范围内。
Claims (10)
1.一种基于终端设备的联邦学习训练平台，其特征在于，包括：
至少一个终端设备，用于接收一初始模型，每一所述终端设备分别包括：
一数据采集模块，用于接收所述初始模型后，采集终端设备的安全信息数据；
一数据处理模块，连接所述数据采集模块，用于对采集的所述安全信息数据进行预处理；
一训练模块，连接所述数据处理模块，用于加载接收到的所述初始模型，将预处理后的所述安全信息数据输入至所述初始模型中，对所述初始模型进行训练，以得到训练好的个性化模型以及模型参数；
一云平台，连接至少一个所述终端设备，所述云平台包括：
一下发模块，用于向至少一个所述终端设备下发所述初始模型；
一接收模块，用于接收各所述终端设备上传的训练好的所述个性化模型以及所述模型参数；
一模型聚合模块，连接所述接收模块，用于对各所述终端设备对应的所述个性化模型进行汇总，聚合得到一共享模型；
每一所述终端设备还包括：一模型推理加速模块，连接所述模型聚合模块，用于基于一AI端侧推理框架对所述共享模型进行推理加速。
2.根据权利要求1所述的一种基于终端设备的联邦学习训练平台，其特征在于，所述模型聚合模块还包括：
一重复迭代子模块，连接所述下发模块，用于将聚合得到的所述共享模型作为初始模型，并重新调用所述下发模块，进而对所述共享模型进行重复迭代训练，直至所述共享模型收敛。
3.根据权利要求2所述的一种基于终端设备的联邦学习训练平台，其特征在于，所述云平台还包括：
一测试模块，连接所述模型聚合模块，用于根据预先存储的标准测试数据对联邦学习得到的所述共享模型进行测试，得到一测试结果；
所述重复迭代子模块连接所述测试模块，所述重复迭代子模块还用于根据所述测试结果判断所述共享模型是否收敛。
4.根据权利要求2所述的一种基于终端设备的联邦学习训练平台，其特征在于，所述模型聚合模块还包括：
一聚合子模块，连接所述重复迭代子模块，用于获取各所述终端设备的训练样本数、当前迭代轮次中各所述终端设备对应的模型参数，以及所有所述终端设备的总训练样本数，并根据所述训练样本数、各模型参数以及所述总训练样本数对各所述个性化模型中的每一所述模型参数分别进行汇总聚合，得到所述共享模型聚合后的模型参数。
5.根据权利要求4所述的一种基于终端设备的联邦学习训练平台，其特征在于，所述模型聚合模块采用下述公式对所述共享模型的每一所述模型参数进行汇总聚合：
其中，
t表示联邦学习训练的迭代轮数；
k表示所述终端设备的标号；
C表示所有所述终端设备的总数；
n表示总训练样本数；
nk表示第k台所述终端设备对应的训练样本数；
wk，t表示当前迭代轮次中，第k台所述终端设备训练得到的所述模型参数；
wt表示当前迭代轮次中，所述共享模型聚合后的模型参数。
6.根据权利要求1所述的一种基于终端设备的联邦学习训练平台，其特征在于，每一所述终端设备还包括：
一本地存储模块，用于存储所述安全信息数据；
其中，所述安全信息数据包括位置变化速率，和/或WIFI持续时间，和/或内存使用情况，和/或CPU使用情况，和/或CPU睡眠属性，和/或CPU温度属性，和/或电源信息，和/或亮屏信息，和/或电量属性，和/或耗电量。
7.根据权利要求1所述的一种基于终端设备的联邦学习训练平台，其特征在于，所述数据处理模块包括：
一标注子模块，用于将所述安全信息数据中的每一项数据分别与对应的预设阈值进行比较，并将超过对应的所述预设阈值的安全信息数据进行标注；
一打分子模块，连接所述标注子模块，用于根据标注的数据进行打分，得到对应每一所述终端设备的安全威胁分数。
8.根据权利要求7所述的一种基于终端设备的联邦学习训练平台，其特征在于，每一所述终端设备还包括：
一警示模块，连接所述打分子模块，用于供每一所述终端设备根据所述安全威胁分数输出相应的警示信息，以提醒用户。
9.一种基于终端设备的联邦学习方法，其特征在于，用于如权利要求1-8任意一项所述的一种基于终端设备的联邦学习训练平台，包括云平台，以及和所述云平台连接的至少一个终端设备，还包括以下步骤：
步骤S1，所述云平台下发一初始模型至各所述终端设备；
步骤S2，采集各所述终端设备的安全信息数据；
步骤S3，各所述终端设备分别对自身的所述安全信息数据进行预处理；
步骤S4，各所述终端设备分别根据预处理后的所述安全信息数据对所述初始模型进行训练，得到对应每个所述终端设备的个性化模型，并将所述个性化模型上传至所述云平台；
步骤S5，所述云平台将各所述终端设备对应的所述个性化模型汇总聚合得到一共享模型；
步骤S6，基于一AI端侧推理框架对所述共享模型进行推理加速。
10.根据权利要求9所述的一种基于终端设备的联邦学习方法，其特征在于，于所述步骤S5之后，所述步骤S6之前，还包括：
将所述步骤S5中汇总聚合得到的所述共享模型作为所述初始模型，并重复迭代所述步骤S1至所述步骤S5，直至所述共享模型收敛。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110609359.9A CN113255932A (zh) | 2021-06-01 | 2021-06-01 | 一种基于终端设备的联邦学习训练平台及方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110609359.9A CN113255932A (zh) | 2021-06-01 | 2021-06-01 | 一种基于终端设备的联邦学习训练平台及方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113255932A true CN113255932A (zh) | 2021-08-13 |
Family
ID=77185808
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110609359.9A Pending CN113255932A (zh) | 2021-06-01 | 2021-06-01 | 一种基于终端设备的联邦学习训练平台及方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113255932A (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109086912A (zh) * | 2018-07-11 | 2018-12-25 | 东北大学 | 一种基于lstm的智能家电用户行为预测方法和装置 |
| CN110297848A (zh) * | 2019-07-09 | 2019-10-01 | 深圳前海微众银行股份有限公司 | 基于联邦学习的推荐模型训练方法、终端及存储介质 |
| CN110956132A (zh) * | 2019-11-29 | 2020-04-03 | 苏州经贸职业技术学院 | 一种基于无人机协同智能构建草害防治模型的方法 |
| WO2020126558A1 (en) * | 2018-12-21 | 2020-06-25 | Siemens Aktiengesellschaft | Method and system for secure data sharing |
| CN111444848A (zh) * | 2020-03-27 | 2020-07-24 | 广州英码信息科技有限公司 | 一种基于联邦学习的特定场景模型升级方法和系统 |
| CN111898769A (zh) * | 2020-08-17 | 2020-11-06 | 中国银行股份有限公司 | 基于横向联邦学习的建立用户行为周期模型的方法及系统 |
| CN112203282A (zh) * | 2020-08-28 | 2021-01-08 | 中国科学院信息工程研究所 | 一种基于联邦迁移学习的5g物联网入侵检测方法及系统 |
| CN112232437A (zh) * | 2020-11-04 | 2021-01-15 | 深圳技术大学 | 物联网终端数据分析方法及系统 |
| CN112611080A (zh) * | 2020-12-10 | 2021-04-06 | 浙江大学 | 一种基于联邦学习的智能空调控制系统和方法 |
| CN112835583A (zh) * | 2021-01-12 | 2021-05-25 | 京东方科技集团股份有限公司 | 深度学习模型打包方法、装置、设备和介质 |
-
2021
- 2021-06-01 CN CN202110609359.9A patent/CN113255932A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109086912A (zh) * | 2018-07-11 | 2018-12-25 | 东北大学 | 一种基于lstm的智能家电用户行为预测方法和装置 |
| WO2020126558A1 (en) * | 2018-12-21 | 2020-06-25 | Siemens Aktiengesellschaft | Method and system for secure data sharing |
| CN110297848A (zh) * | 2019-07-09 | 2019-10-01 | 深圳前海微众银行股份有限公司 | 基于联邦学习的推荐模型训练方法、终端及存储介质 |
| CN110956132A (zh) * | 2019-11-29 | 2020-04-03 | 苏州经贸职业技术学院 | 一种基于无人机协同智能构建草害防治模型的方法 |
| CN111444848A (zh) * | 2020-03-27 | 2020-07-24 | 广州英码信息科技有限公司 | 一种基于联邦学习的特定场景模型升级方法和系统 |
| CN111898769A (zh) * | 2020-08-17 | 2020-11-06 | 中国银行股份有限公司 | 基于横向联邦学习的建立用户行为周期模型的方法及系统 |
| CN112203282A (zh) * | 2020-08-28 | 2021-01-08 | 中国科学院信息工程研究所 | 一种基于联邦迁移学习的5g物联网入侵检测方法及系统 |
| CN112232437A (zh) * | 2020-11-04 | 2021-01-15 | 深圳技术大学 | 物联网终端数据分析方法及系统 |
| CN112611080A (zh) * | 2020-12-10 | 2021-04-06 | 浙江大学 | 一种基于联邦学习的智能空调控制系统和方法 |
| CN112835583A (zh) * | 2021-01-12 | 2021-05-25 | 京东方科技集团股份有限公司 | 深度学习模型打包方法、装置、设备和介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109934473B (zh) | 充电健康指数评分方法、装置、终端设备及存储介质 | |
| CN110245213A (zh) | 调查问卷生成方法、装置、设备和存储介质 | |
| CN109948664A (zh) | 充电模式识别方法、装置、终端设备及存储介质 | |
| CN110377804A (zh) | 培训课程数据的推送方法、装置、系统及存储介质 | |
| CN104899579A (zh) | 人脸识别方法和装置 | |
| CN112100383A (zh) | 一种面向多任务语言模型的元-知识微调方法及平台 | |
| CN109446812A (zh) | 一种嵌入式系统固件安全分析方法及系统 | |
| CN108984369A (zh) | 卡顿预测方法、装置及移动终端 | |
| CN113626607B (zh) | 异常工单识别方法、装置、电子设备及可读存储介质 | |
| CN116186594B (zh) | 基于决策网络结合大数据实现环境变化趋势智能检测方法 | |
| CN108491866A (zh) | 色情图片鉴定方法、电子装置及可读存储介质 | |
| CN108241867A (zh) | 一种分类方法及装置 | |
| CN112749280A (zh) | 网络舆情的分类方法、装置、电子装置和存储介质 | |
| CN111970400A (zh) | 骚扰电话识别方法及装置 | |
| CN109948401A (zh) | 用于文本的数据处理方法及其系统 | |
| CN107944363A (zh) | 人脸图像处理方法、系统及服务器 | |
| CN113255932A (zh) | 一种基于终端设备的联邦学习训练平台及方法 | |
| CN108519915A (zh) | 流量任务调度方法和装置 | |
| CN105469116B (zh) | 一种基于人机交互的幼儿识图及数据扩充方法 | |
| CN114548114B (zh) | 文本情绪识别方法、装置、设备及存储介质 | |
| CN115392361A (zh) | 一种智能排序方法、装置、计算机设备及存储介质 | |
| CN111143688B (zh) | 一种基于移动新闻客户端的评估方法及其系统 | |
| CN115328786A (zh) | 一种基于区块链的自动化测试方法、装置和存储介质 | |
| CN107742220A (zh) | 行业白皮书的生成方法、大数据系统和存储介质 | |
| CN113449966A (zh) | 一种石膏板设备巡检方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |