CN112884163B - 基于联邦机器学习算法与云端反馈的组合服务评估方法与系统 - Google Patents

Abstract

本发明公开了一种基于联邦机器学习算法与云端反馈的组合服务评估方法与系统，包括分布在不同地址的多个设备(1)、云端联邦机器学习服务器(2)、联邦数据训练模块(5)和全局数据存储模块(9)；将所述设备(1)分成数个分组(13)，每个所述分组(13)包括一定数量的所述设备(1)，每个所述设备(1)包括数据预处理模块(3)、数据传感模块(6)、单机存储模块(7)和数据读取模块(11)；所述云端联邦机器学习服务器(2)分别和联邦数据训练模块(5)和全局数据存储模块(9)数据通信连接。本发明通过采用分组联邦学习的模式，采用分组，利用小分组的计算能力小，对数据运行能力小的部分，放在小分组中，而数据运算能源需求高的计算部分，放在云端，从而可以利用运算能力更强的本地数据运输模块去进行最后大型运算需求的部分，提供更加优质和高效的模型构建方法和系统。

Description

基于联邦机器学习算法与云端反馈的组合服务评估方法与 系统

技术领域

本发明涉及在联邦机器学习技术领域，具体为一种基于联邦机器学习算法与云端反馈的组合服务评估方法与系统。

背景技术

目前，随着科学技术的进步，科学技术制造和自动化控制，已经从从前的自动化进入到智能化的时代。而在智能化的时代，为了实现人工智能化的控制，通常需要获得相应的参数，根据相应的参数产生相应的操作的参数输入和对应参数输出之间的映射关系，并基于该参数输入和对应的参数输出，通过数据训练方法和神经网络学习方法，从而得到更广泛的参数输入和输出映射关系，进而提供给控制设备，以便实现智能化控制。而为了获得这种映射关系，需要对大量的数据进行训练和学习，而该过程通常是一个多维度的大型计算过程，因此，该智能化的操作通常需要计算机或者微型计算机去处理和厘清众多的逻辑关系和运算关系，从而其需要进行大量的数学计算和逻辑计算，这必然会提高对处理器的逻辑计算能力需求，而大规模集成电路或超大规模集成电路的运算处理能力，也直接影响到了其生产成本。而对有智能化的计算和人工智能的发展，其对处理器的运算处理能力需求进一步加强。

但是大型计算能力的设备，通常体积大，或者固定式安装，这需要针对每个联合学习的系统专门设置联合计算系统或提供计算设备，因此这种专门设置导致建造或改造成本高，而在其中的设备特别是处于核心或重要地位的设备出现故障时会导致系统瘫痪，这显然不利于联邦机器学习的进行。而目前也存在对分布在各地的数据进行联合访问和处理的技术，其能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模，如：

如专利CN 112364913A公开了一种基于核心数据集的联邦学习通信量优化方法及系统，该发明中，首先，每个终端用户并行地从本地训练数据中筛选出核心数据，云中心根据设置的稀疏化比例构建稀疏化的全局模型，每个终端用户根据其筛选出的本地核心数据进行本地模型训练，得到本地模型更新；然后，为了全局模型更加适应本地核心数据，云中心根据聚集本地模型更新得到的全局模型更新，对全局模型的网络结构进行调整，其中包括移除不重要的连接和添加重要连接两个步骤；最后，云中心分发调整之后的全局模型给每个终端用户，迭代以上步骤，直至全局模型收敛。因此，该发明通过从终端用户筛选核心数据，部署适配的稀疏化网络模型，减少了终端用户与云中心模型参数的上传，从本质上解决了联邦学习技术中，终端用户与云中心频繁传递高维更新参数所导致的高通信代价问题。

专利CN112232528A公开了一种联邦学习模型训练方法、装置及联邦学习系统，边缘计算服务器和端设备接收云端联邦学习子系统形成的全局机器学习模型信息；一个边缘计算服务器与一个以上的端设备利用网络局部性的优势形成区域，端设备依靠本地数据并采用截断的方式完成模型本地训练，边缘计算服务器负责所辖区域内端设备的多轮更新并向云端联邦学习子系统发送更新后的模型信息；边缘计算服务器也采用截断的方式完成模型本地训练，云端联邦学习子系统负责多个边缘计算服务器的梯度更新；在训练到达收敛期，分别对边缘计算服务器所辖区域内端设备和云端联邦学习子系统负责的多个边缘计算服务器实施截断节点的补偿，形成全局机器学习模型信息。

专利CN11114308A公开了一种基于联邦学习的高低压电机数据处理方法、系统和装置。方法包括：获取训练样本；训练模型类型确定后，启动内置于联邦计算节点装置的训练算法，提取特征独立训练；训练结果加密上传到云服务器上进行汇总计算，云服务器同态加密计算出平均梯度和各自的损失，并仍然以加密方式返回给各计算节点装置，解密后更新各装置模型，多次重复直至模型稳定。预测电机运行状态时根据最优模型，对传输到装置的实时波形数据进行预测对应的电机故障状态。该发明采用联邦学习的框架，能够较好地保护各个企业的隐私数据，同时提升模型训练的准确性。

专利CN111241580A公开了一种基于可信执行环境的联邦学习方法，包括：基于可信执行环境生成安全区；本地用户从云端下载初始化的模型参数，将训练算法、训练数据集、训练数据例子数和云端传回的初始化的模型参数加载到安全区内，得到训练后的模型参数梯度并生成数字签名，通过群签名算法进行本地用户身份认证，将训练后的模型参数梯度、模型集成算法及本地用户身份认证上传到云端；云端对本地用户身份认证进行验证，验证成功后获取所上传的模型参数梯度及模型集成算法，置于云端安全区内，对模型进行集成，更新模型参数梯度。该发明利用可信执行环境生成安全区，用户无法绕过训练过程而直接给出训练结果，实现了训练完整性和用户隐私保护。

专利CN112181666A公开了本发明公开了一种基于边缘智能的设备评估和联邦学习重要性聚合方法，包括如下步骤：云服务器初始化：云服务器生成初始模型，设备评估与选择：边缘服务器接收终端设备的资源信息，生成资源特征向量，并将所述资源特征向量输入评估模型，本地训练：边缘服务器选择智能设备后，将转存的初始模型发送所述智能设备，智能设备对初始模型在联邦学习中进行本地训练，得到本地模型；本地模型筛选：将本地模型发送到边缘服务器，通过比较本地模型与前一轮全局模型的损失值来判断是否为异常的模型；全局聚合：利用经典的联邦平均算法进行全局聚合。该发明提供的方法一方面解决了带有资源约束设备的训练瓶颈问题，另一方面提高模型聚合的效果以减少冗余的训练与通信消耗。

专利CN111782543A公开了一种在云端进行的评测方法、相关设备及系统，其中方法包括以下步骤：云端服务器存储参考文件，向第一用户终端提供参考文件数据，接收第二用户终端发送的待评估文件数据，执行评价程序中的指令，向第三用户终端发送评价结果信息；第一用户终端运行数据文件处理模块，以便根据从所述云端服务器获取的参考文件数据，生成该参考文件数据中参考文件的待评估文件；第二用户终端向所述云端服务器上传所述待评估文件数据；第三用户终端从所述云端服务器接收并展示评价结果信息。其中系统包括上述的云端服务器及用户终端。该发明能够为数据文件处理模块的不同开发者和用户提供了一个公平公开的测试比对平台，提供便捷的测试途径。

可见，目前，市面上的基于联邦机器学习算法或云端反馈的服务评估技术方面还存在以下缺陷：

1.在现有技术中，强化学习训练模型通常利用自身收集的数据进行学习、优化和控制，强化学习训练模型的知识也是可迁移的，但是，这些进行知识迁移学习的系统通常都是指定其中一个设备为控制设备，利用其他工作的设备作为训练模块提供者，但这些唯一确定的控制器，如果在其中起控制作用的设备出现故障时，则会导致强化学习训练模型的知识的迁移出现失败。而目前，云服务器主要起到数据中转或进行通信的作用，或者起到数据读取的调控作用，或设备的调控作用。

2.现有技术中，对数据学习和训练，主要是采用集中式计算，即对联合多个设备的数据进行联邦机器学习和训练时，采用其中的一个运算设备进行运算，那在数据量比较大，或者数据维度比较大时，完成数据训练所耗费的时间很长，或者对处理器要求很高，这会导致处理成本增加，而将运算处理设备设置于某一个设备上时，则又会对设备的各种需求加强，不利于对系统的改进和整合。

3.现有技术中，在进行数据记录的各训练时，对设备的数据获取模块和数据训练运算模块的对接接口各样，数据格式不统一标准化，即不存在标准化接口，因此系统的可移植性差。

面对上述技术问题，人们希望提供一种能够快速进行数据训练，同时降低对数据处理系统的能力的需求的联邦机器学习方法的技术手段，同时将大数据分析交给专门的数据处理设备去专门处理的模式，同时包括模块化的方式，实现快速和方便组成训练系统，以便快速处理数据的得到数据模型的技术方案。但到目前为止，现有技术中并无有效办法解决上述技术难题。

面对上述技术问题，希望提供一种基于联邦机器学习算法与云端反馈的组合服务评估方法与系统，以解决上述技术问题。

发明内容

针对上述技术问题，本发明的目的在于提供一种基于联邦机器学习算法与云端反馈的组合服务评估方法与系统，以解决上述背景技术中提出的问题。

为实现上述目的，本发明提供如下技术方案：

一种基于联邦机器学习算法与云端反馈的组合服务评估系统，包括分布在不同地址的多个设备、云端联邦机器学习服务器、联邦数据训练模块和全局数据存储模块；将所述设备分成数个分组，每个所述分组包括一定数量的所述设备，每个所述设备包括数据预处理模块、数据传感模块、单机存储模块和数据读取模块；所述云端联邦机器学习服务器分别和联邦数据训练模块和全局数据存储模块数据通信连接；

数据训练融合子模块，所述数据训练融合子模块设置于部分所述设备上，设置有所述数据训练融合子模块的所述设备上设置局域数据存储模块；

所述联邦数据训练模块和所述全局数据存储模块设置于专门提供运算和存储的场所；

云端联邦机器学习服务器，用于对所有参与联邦机器学习的所述设备进行数据训练调度操作；所述云端联邦机器学习服务器数据通信连接所述数据读取模块、所述数据训练融合子模块和所述局域数据存储模块；所述单机存储模块还分别和所述数据预处理模块和数据读取模块数据通信连接；

其特征在于：所述设备在运行时，安装在所述设备上的所述数据获取模块获取该设备上的运行数据和结果数据，形成数据记录，并将所述数据记录存储于所述设备的所述单机存储模块，所述数据预处理模块读取存储于所述单机存储模块中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

所述云端联邦机器学习服务器对所有的设备进行分组，将所有的所述设备按照一定的规则分成数个分组，并保证每个所述分组中的所述设备中存在至少一个所述数据训练融合子模块，并指定其中的一个所述数据训练融合子模块为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块用于存储该分组的数据和数据联邦子模型；

所述云端联邦机器学习服务器还将所述分组的信息发送给所述数据读取模块、所述数据训练融合子模块和所述联邦数据训练模块，并且修改所述数据读取模块、所述数据训练融合子模块和所述联邦数据训练模块的所述数据记录的读取权限，以保证相应的数据能够实现数据记录的存取；

所述数据训练融合子模块依据所述云端联邦机器学习服务器分配的读取权限，和其对应的分组的所述数据读取模块建立数据通信连接，从而所述数据训练融合子模块通过所述数据读取模块读取存储于所述单机存储模块中存储的数据记录进行数据学习训练，得出该分组的数据联邦子模型，并将该分组的数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给对应的所述局域数据存储模块；

所述联邦数据训练模块通过所述云端联邦机器学习服务器读取存储于所述局域数据存储模块中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的所述数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的所述数据联邦模型，并发送给所述全局数据存储模块进行存储；

所述云端联邦机器学习服务器从所有设备上的所述单机存储模块任意抽取一定数量的数据记录，用于对所述总的所述数据联邦模型进行校验，在所述数据记录利用该总的所述数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的所述数据联邦模型建立完成，否则，在所述局域数据存储模块中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块进行建立总的所述数据联邦模型的过程。

优选的，所述云端联邦机器学习服务器和所述数据读取模块、所述数据训练融合子模块、所述联邦数据训练模块和全局数据存储模块进行数据通信时采用标准化数据接口，可以实现其中的设备标准化替换。

优选的，在利用所述云端联邦机器学习服务器对所有的设备进行分组时，预先获取各所述设备的数据记录量的大小，并且分组时，将数据记录量大的在同一分组，而数据记录量小的为一个分组，以便防止数据记录量大的数据记录在进行数据训练时淹没了数量记录量小的数据，以便构建总的所述数据联邦模型准确性。

优选的，在利用所述云端联邦机器学习服务器对所有的设备进行分组时，预先获取各所述设备的数据记录量的大小，并且分组时，对数据记录量大的分组的所述设备的数量少，而数据记录量小的分组，所述设备的数量多，以便保证每个分组的所述数据记录的数量适中，以便使得所有的所述数据训练融合子模块的计算量合适。

优选的，在再次利用所述联邦数据训练模块进行建立总的所述数据联邦模型依然不符合模型精度要求时，所述云端联邦机器学习服务器重新对所述设备进行分组。

优选的，还包括数据异常处理模块，在进行数据记录清理时，将剔除的不合理的数据记录发送给所述数据异常处理模块，从而通过数据异常处理模块对这些数据记录进行处理，并分析出现数据记录异常其中的原因。

优选的，所述云端联邦机器学习服务器对从所述局域数据存储模块中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

优选的，所述云端联邦机器学习服务器、联邦数据训练模块的数据通信的接口采用模块化标准结构，通过所述云端联邦机器学习服务器能够自由交接多个联邦数据训练模块或所述数据训练融合子模块，以便更换数据训练采用的模块。

另外一方面，本申请还提供一种基于联邦机器学习算法与云端反馈的组合服务评估方法，包括基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于，包括如下步骤：

步骤S1，所述云端联邦机器学习服务器预先获取各所述设备的数据记录量的大小，所述云端联邦机器学习服务器在对所有的设备进行分组时，将数据记录量大的在同一分组，而数据记录量小的为一个分组；并保证每个所述分组中存在至少一个所述数据训练融合子模块，并指定其中的一个所述数据训练融合子模块为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块用于存储该分组的数据和数据联邦子模型；并将所述分组的信息发送给所述数据读取模块、所述数据训练融合子模块和所述联邦数据训练模块，并且修改所述数据读取模块、所述数据训练融合子模块和所述联邦数据训练模块的所述数据记录的读取权限；

步骤S2，所述云端联邦机器学习服务器分别和联邦数据训练模块和全局数据存储模块数据通信连接；所述设备在运行时，所述数据获取模块获取安装在该设备上的运行数据和状态数据，形成数据记录，并将所述数据记录存储于所述设备的所述单机存储模块；

步骤S3，所述数据预处理模块读取存储于所述单机存储模块中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

步骤S4，所述数据训练融合子模块依据所述云端联邦机器学习服务器分配的读取权限，和其对应的分组的所述数据读取模块建立数据通信连接，从而所述数据训练融合子模块通过所述数据读取模块读取存储于所述单机存储模块中存储的数据记录进行数据学习训练，得出数据联邦子模型；

步骤S5，将该数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给所述局域数据存储模块；

步骤S6，所述联邦数据训练模块读取存储于所述局域数据存储模块中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的所述数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的所述数据联邦模型；

步骤S7，所述云端联邦机器学习服务器从所有设备上的所述单机存储模块任意抽取一定数量的数据记录，用于对所述总的所述数据联邦模型进行校验，在所述数据记录利用该总的所述数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的所述数据联邦模型建立完成；

步骤S8，否则，在所述局域数据存储模块中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块进行建立总的所述数据联邦模型的过程。

优选的，所述云端联邦机器学习服务器对从所述局域数据存储模块中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

与现有技术相比，本发明的有益效果是：

1、本发明的面向智能移动终端实现的联邦机器学习迁移方法与系统，打破传统的全局整体的数据训练以便形成数据联邦模型，采用分布式的数据联邦训练方式，从而一方面可以提高数据样本规模，使得训练更加准确，另外一个可以减小数据整体成本。

2、本发明的基于联邦机器学习算法与云端反馈的组合服务评估系统，通过采用分组联邦学习的模式，采用分组，利用小分组的计算能力小，对数据运行能力小的部分，放在小分组中，而数据运算能源需求高的计算部分，放在云端，从而可以利用运算能力更强的本地数据运输模块去进行最后大型运算需求的部分，提供更加优质和高效的模型构建方法和系统。

3、本发明的基于联邦机器学习算法与云端反馈的组合服务评估系统，利用云端，实现联邦模型训练模块和数据提供模块实现隔离，没有直接的数据获取过程，实现数据保密。

4、本发明的基于联邦机器学习算法与云端反馈的组合服务评估系统，对各设备之间的数据通信连接采用标准化接口模式，从而使得运算模块可以同时对接多个需要进行联邦机器学习的系统，使得数据训练成本更低，增加了系统的可移植性。

附图说明

图1为本发明的整体结构示意图；

图2为本发明的数据处理中数据传递流程结构示意图。

图中：1、设备；2、云端联邦机器学习服务器；3、数据预处理模块；4、数据训练融合子模块；5、联邦数据训练模块；6、数据获取模块；7、单机存储模块；8、局域数据存储设备；9、全局数据存储模块；10、分组；11、数据读取模块；12、数据异常处理模块。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

具体实施例一：

一种基于联邦机器学习算法与云端反馈的组合服务评估系统，包括分布在不同地址的多个设备1、云端联邦机器学习服务器2、联邦数据训练模块5和全局数据存储模块9；将所述设备1分成数个分组10，每个所述分组10包括一定数量的所述设备1，每个所述设备1包括数据预处理模块3、数据传感模块6、单机存储模块7和数据读取模块11；所述云端联邦机器学习服务器2分别和联邦数据训练模块5和全局数据存储模块9数据通信连接；

数据训练融合子模块4，所述数据训练融合子模块4设置于部分所述设备1上，设置有所述数据训练融合子模块4的所述设备1上设置局域数据存储模块8；

所述联邦数据训练模块5和所述全局数据存储模块9设置于专门提供运算和存储的场所；

云端联邦机器学习服务器2，用于对所有参与联邦机器学习的所述设备1进行数据训练调度操作；所述云端联邦机器学习服务器2数据通信连接所述数据读取模块11、所述数据训练融合子模块4和所述局域数据存储模块8；所述单机存储模块7还分别和所述数据预处理模块3和数据读取模块11数据通信连接；

其特征在于：所述设备1在运行时，安装在所述设备1上的所述数据获取模块6获取该设备1上的运行数据和结果数据，形成数据记录，并将所述数据记录存储于所述设备1的所述单机存储模块7，所述数据预处理模块3读取存储于所述单机存储模块7中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

所述云端联邦机器学习服务器2对所有的设备1进行分组，将所有的所述设备1按照一定的规则分成数个分组10，并保证每个所述分组10中的所述设备1中存在至少一个所述数据训练融合子模块4，并指定其中的一个所述数据训练融合子模块4为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块8用于存储该分组的数据和数据联邦子模型；

所述云端联邦机器学习服务器2还将所述分组10的信息发送给所述数据读取模块11、所述数据训练融合子模块4和所述联邦数据训练模块5，并且修改所述数据读取模块11、所述数据训练融合子模块4和所述联邦数据训练模块5的所述数据记录的读取权限，以保证相应的数据能够实现数据记录的存取；

所述数据训练融合子模块4依据所述云端联邦机器学习服务器2分配的读取权限，和其对应的分组的所述数据读取模块11建立数据通信连接，从而所述数据训练融合子模块4通过所述数据读取模块11读取存储于所述单机存储模块7中存储的数据记录进行数据学习训练，得出该分组的数据联邦子模型，并将该分组的数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给对应的所述局域数据存储模块8；

所述联邦数据训练模块5通过所述云端联邦机器学习服务器2读取存储于所述局域数据存储模块8中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的所述数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的所述数据联邦模型，并发送给所述全局数据存储模块9进行存储；

所述云端联邦机器学习服务器2从所有设备1上的所述单机存储模块7任意抽取一定数量的数据记录，用于对所述总的所述数据联邦模型进行校验，在所述数据记录利用该总的所述数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的所述数据联邦模型建立完成，否则，在所述局域数据存储模块8中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块5进行建立总的所述数据联邦模型的过程。

优选的，所述云端联邦机器学习服务器2和所述数据读取模块11、所述数据训练融合子模块4、所述联邦数据训练模块5和全局数据存储模块9进行数据通信时采用标准化数据接口，可以实现其中的设备标准化替换。

优选的，在利用所述云端联邦机器学习服务器2对所有的设备1进行分组时，预先获取各所述设备1的数据记录量的大小，并且分组时，将数据记录量大的在同一分组，而数据记录量小的为一个分组，以便防止数据记录量大的数据记录在进行数据训练时淹没了数量记录量小的数据，以便构建总的所述数据联邦模型准确性。

优选的，在利用所述云端联邦机器学习服务器2对所有的设备1进行分组时，预先获取各所述设备1的数据记录量的大小，并且分组时，对数据记录量大的分组10的所述设备1的数量少，而数据记录量小的分组，所述设备1的数量多，以便保证每个分组的所述数据记录的数量适中，以便使得所有的所述数据训练融合子模块4的计算量合适。

优选的，在再次利用所述联邦数据训练模块5进行建立总的所述数据联邦模型依然不符合模型精度要求时，所述云端联邦机器学习服务器2重新对所述设备进行分组。

优选的，还包括数据异常处理模块12，在进行数据记录清理时，将剔除的不合理的数据记录发送给所述数据异常处理模块12，从而通过数据异常处理模块12对这些数据记录进行处理，并分析出现数据记录异常其中的原因。

优选的，所述云端联邦机器学习服务器2对从所述局域数据存储模块8中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

优选的，所述云端联邦机器学习服务器2、联邦数据训练模块5的数据通信的接口采用模块化标准结构，通过所述云端联邦机器学习服务器2能够自由交接多个联邦数据训练模块5或所述数据训练融合子模块4，以便更换数据训练采用的模块。

具体实施例二：

一种基于联邦机器学习算法与云端反馈的组合服务评估方法，包括基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于，包括如下步骤：

步骤S1，所述云端联邦机器学习服务器2预先获取各所述设备1的数据记录量的大小，所述云端联邦机器学习服务器2在对所有的设备1进行分组时，将数据记录量大的在同一分组10，而数据记录量小的为一个分组10；并保证每个所述分组10中存在至少一个所述数据训练融合子模块4，并指定其中的一个所述数据训练融合子模块4为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块8用于存储该分组的数据和数据联邦子模型；并将所述分组的信息发送给所述数据读取模块11、所述数据训练融合子模块4和所述联邦数据训练模块5，并且修改所述数据读取模块11、所述数据训练融合子模块4和所述联邦数据训练模块5的所述数据记录的读取权限；

步骤S2，所述云端联邦机器学习服务器2分别和联邦数据训练模块5和全局数据存储模块9数据通信连接；所述设备1在运行时，所述数据获取模块6获取安装在该设备1上的运行数据和状态数据，形成数据记录，并将所述数据记录存储于所述设备1的所述单机存储模块7；

步骤S3，所述数据预处理模块3读取存储于所述单机存储模块7中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

步骤S4，所述数据训练融合子模块4依据所述云端联邦机器学习服务器2分配的读取权限，和其对应的分组的所述数据读取模块11建立数据通信连接，从而所述数据训练融合子模块4通过所述数据读取模块11读取存储于所述单机存储模块7中存储的数据记录进行数据学习训练，得出数据联邦子模型；

步骤S5，将该数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给所述局域数据存储模块8；

步骤S6，所述联邦数据训练模块5读取存储于所述局域数据存储模块8中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的所述数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的所述数据联邦模型；

步骤S7，所述云端联邦机器学习服务器2从所有设备上的所述单机存储模块7任意抽取一定数量的数据记录，用于对所述总的所述数据联邦模型进行校验，在所述数据记录利用该总的所述数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的所述数据联邦模型建立完成；

步骤S8，否则，在所述局域数据存储模块8中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块5进行建立总的所述数据联邦模型的过程。

优选的，所述云端联邦机器学习服务器2对从所述局域数据存储模块8中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。

尽管已经示出和描述了本发明的实施例，对于本领域的普通技术人员而言，可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由所附权利要求及其等同物限定。

Claims (8)

1.一种基于联邦机器学习算法与云端反馈的组合服务评估系统，包括分布在不同地址的多个设备(1)、云端联邦机器学习服务器(2)、联邦数据训练模块(5)和全局数据存储模块(9)；将所述设备(1)分成数个分组(10)，每个所述分组(10)包括一定数量的所述设备(1)，每个所述设备(1)包括数据预处理模块(3)、数据传感模块(6)、单机存储模块(7)和数据读取模块(11)；所述云端联邦机器学习服务器(2)分别和联邦数据训练模块(5)和全局数据存储模块(9)数据通信连接；

数据训练融合子模块(4)，所述数据训练融合子模块(4)设置于部分所述设备(1)上，设置有所述数据训练融合子模块(4)的所述设备(1)上设置局域数据存储模块(8)；

所述联邦数据训练模块(5)和所述全局数据存储模块(9)设置于专门提供运算和存储的场所；

云端联邦机器学习服务器(2)，用于对所有参与联邦机器学习的所述设备(1)进行数据训练调度操作；所述云端联邦机器学习服务器(2)数据通信连接所述数据读取模块(11)、所述数据训练融合子模块(4)和所述局域数据存储模块(8)；所述单机存储模块(7)还分别和所述数据预处理模块(3)和数据读取模块(11)数据通信连接；

其特征在于：所述设备(1)在运行时，安装在所述设备(1)上的所述数据传感模块(6)获取该设备(1)上的运行数据和结果数据，形成数据记录，并将所述数据记录存储于所述设备(1)的所述单机存储模块(7)，所述数据预处理模块(3)读取存储于所述单机存储模块(7)中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

所述云端联邦机器学习服务器(2)对所有的设备(1)进行分组，将所有的所述设备(1)按照一定的规则分成数个分组(10)，并保证每个所述分组(10)中的所述设备(1)中存在至少一个所述数据训练融合子模块(4)，并指定其中的一个所述数据训练融合子模块(4)为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块(8)用于存储该分组的数据和数据联邦子模型；

所述云端联邦机器学习服务器(2)还将所述分组(10)的信息发送给所述数据读取模块(11)、所述数据训练融合子模块(4)和所述联邦数据训练模块(5)，并且修改所述数据读取模块(11)、所述数据训练融合子模块(4)和所述联邦数据训练模块(5)的所述数据记录的读取权限，以保证相应的数据能够实现数据记录的存取；

所述数据训练融合子模块(4)依据所述云端联邦机器学习服务器(2)分配的读取权限，和其对应的分组的所述数据读取模块(11)建立数据通信连接，从而所述数据训练融合子模块(4)通过所述数据读取模块(11)读取存储于所述单机存储模块(7)中存储的数据记录进行数据学习训练，得出该分组的数据联邦子模型，并将该分组的数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给对应的所述局域数据存储模块(8)；

所述联邦数据训练模块(5)通过所述云端联邦机器学习服务器(2)读取存储于所述局域数据存储模块(8)中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的数据联邦模型，并发送给所述全局数据存储模块(9)进行存储；

所述云端联邦机器学习服务器(2)从所有设备(1)上的所述单机存储模块(7)任意抽取一定数量的数据记录，用于对所述总的数据联邦模型进行校验，在所述数据记录利用该总的数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的数据联邦模型建立完成，否则，在所述局域数据存储模块(8)中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块(5)进行建立总的数据联邦模型的过程；

其中，将所有的所述设备(1)按照一定的规则分成数个分组(10)为：在利用所述云端联邦机器学习服务器(2)对所有的设备(1)进行分组时，预先获取各所述设备(1)的数据记录量的大小，并且分组时，将数据记录量大的在同一分组，而数据记录量小的为一个分组，以便防止数据记录量大的数据记录在进行数据训练时淹没了数量记录量小的数据；在利用所述云端联邦机器学习服务器(2)对所有的设备(1)进行分组时，预先获取各所述设备(1)的数据记录量的大小，并且分组时，对数据记录量大的分组(10)的所述设备(1)的数量少，而数据记录量小的分组，所述设备(1)的数量多。

2.根据权利要求1所述的一种基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于：所述云端联邦机器学习服务器(2)和所述数据读取模块(11)、所述数据训练融合子模块(4)、所述联邦数据训练模块(5)和全局数据存储模块(9)进行数据通信时采用标准化数据接口，可以实现其中的设备标准化替换。

3.根据权利要求2所述的一种基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于：在再次利用所述联邦数据训练模块(5)进行建立总的数据联邦模型依然不符合模型精度要求时，所述云端联邦机器学习服务器(2)重新对所述设备进行分组。

4.根据权利要求1所述的一种基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于：还包括数据异常处理模块(12)，在进行数据记录清理时，将剔除的不合理的数据记录发送给所述数据异常处理模块(12)，从而通过数据异常处理模块(12)对这些数据记录进行处理，并分析出现数据记录异常其中的原因。

5.根据权利要求4所述的一种基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于：所述云端联邦机器学习服务器(2)对从所述局域数据存储模块(8)中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

6.根据权利要求1所述的一种基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于：所述云端联邦机器学习服务器(2)、联邦数据训练模块(5)的数据通信的接口采用模块化标准结构，通过所述云端联邦机器学习服务器(2)能够自由交接多个联邦数据训练模块(5)或所述数据训练融合子模块(4)，以便更换数据训练采用的模块。

7.一种基于联邦机器学习算法与云端反馈的组合服务评估方法，包括如权利要求1-6中任意一项基于联邦机器学习算法与云端反馈的组合服务评估系统，其特征在于，包括如下步骤：

步骤S1，所述云端联邦机器学习服务器(2)预先获取各所述设备(1)的数据记录量的大小，所述云端联邦机器学习服务器(2)在对所有的设备(1)进行分组时，将数据记录量大的在同一分组(10)，而数据记录量小的为一个分组(10)；并保证每个所述分组(10)中存在至少一个所述数据训练融合子模块(4)，并指定其中的一个所述数据训练融合子模块(4)为该所述分组的数据训练融合子模块和对应于的所述局域数据存储模块(8)用于存储该分组的数据和数据联邦子模型；并将所述分组的信息发送给所述数据读取模块(11)、所述数据训练融合子模块(4)和所述联邦数据训练模块(5)，并且修改所述数据读取模块(11)、所述数据训练融合子模块(4)和所述联邦数据训练模块(5)的所述数据记录的读取权限；

步骤S2，所述云端联邦机器学习服务器(2)分别和联邦数据训练模块(5)和全局数据存储模块(9)数据通信连接；所述设备(1)在运行时，所述数据传感模块(6)获取安装在该设备(1)上的运行数据和状态数据，形成数据记录，并将所述数据记录存储于所述设备(1)的所述单机存储模块(7)；

步骤S3，所述数据预处理模块(3)读取存储于所述单机存储模块(7)中的所述数据记录，并利用数理统计方法和设定的要求去分析每条所述数据记录，在发现某条数据记录出现明显不合理时，将该条数据记录删除；

步骤S4，所述数据训练融合子模块(4)依据所述云端联邦机器学习服务器(2)分配的读取权限，和其对应的分组的所述数据读取模块(11)建立数据通信连接，从而所述数据训练融合子模块(4)通过所述数据读取模块(11)读取存储于所述单机存储模块(7)中存储的数据记录进行数据学习训练，得出数据联邦子模型；

步骤S5，将该数据联邦子模型和随机从获得该数据联邦子模型中应用的数据记录中抽取一定量的数据记录发送给所述局域数据存储模块(8)；

步骤S6，所述联邦数据训练模块(5)读取存储于所述局域数据存储模块(8)中的所述数据联邦子模型和所述数据记录，对所有所述联邦子模型采取参数加权的模式得出总的数据联邦模型，并利用读取的抽取的数据记录进行数据训练，从而得出总的数据联邦模型；

步骤S7，所述云端联邦机器学习服务器(2)从所有设备上的所述单机存储模块(7)任意抽取一定数量的数据记录，用于对所述总的数据联邦模型进行校验，在所述数据记录利用该总的数据联邦模型进行校验中，数据输出和数据记录中的数据符合模型精度要求时，则该总的数据联邦模型建立完成；

步骤S8，否则，在所述局域数据存储模块(8)中储存的随机抽取的数据记录重新随机抽取，并再次利用所述联邦数据训练模块(5)进行建立总的数据联邦模型的过程。

8.根据权利要求7所述的一种基于联邦机器学习算法与云端反馈的组合服务评估方法，其特征在于：所述云端联邦机器学习服务器(2)对从所述局域数据存储模块(8)中流出的数据进行筛选和屏蔽，以保证数据的安全和开放满足要求的数据。

Images