CN111401621A - 基于联邦学习的预测方法、装置、设备及存储介质 - Google Patents

基于联邦学习的预测方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN111401621A
CN111401621A CN202010163973.2A CN202010163973A CN111401621A CN 111401621 A CN111401621 A CN 111401621A CN 202010163973 A CN202010163973 A CN 202010163973A CN 111401621 A CN111401621 A CN 111401621A
Authority
CN
China
Prior art keywords
data
encrypted
remote sensing
prediction
federal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010163973.2A
Other languages
English (en)
Other versions
CN111401621B (zh
Inventor
黄安埠
刘洋
殷磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WeBank Co Ltd
Original Assignee
WeBank Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WeBank Co Ltd filed Critical WeBank Co Ltd
Priority to CN202010163973.2A priority Critical patent/CN111401621B/zh
Publication of CN111401621A publication Critical patent/CN111401621A/zh
Application granted granted Critical
Publication of CN111401621B publication Critical patent/CN111401621B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/251—Fusion techniques of input or preprocessed data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/602—Providing cryptographic facilities or services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Strategic Management (AREA)
  • Evolutionary Computation (AREA)
  • Human Resources & Organizations (AREA)
  • Artificial Intelligence (AREA)
  • Economics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Game Theory and Decision Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Bioethics (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Image Analysis (AREA)
  • Arrangements For Transmission Of Measured Signals (AREA)

Abstract

本发明提供一种基于联邦学习的预测方法、装置、设备及存储介质，该方法包括：根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。由此，第一遥感设备和第二遥感设备通过联邦学习进行联合建模，实现了利用各遥感设备之间的数据进行高空联合建模，提升了利用高空数据建模的模型性能。

Description

基于联邦学习的预测方法、装置、设备及存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种基于联邦学习的预测方法、装置、设备及存储介质。
背景技术
当前越来越多的遥感设备，例如卫星在高空中运行，并执行各自的任务，获得对应的数据。众所周知，遥感技术难度高、耗资大，遥感设备获得的数据都很珍贵，若要综合利用各个遥感设备的数据，则需要将这些数据汇总到地面信息中心，由地面信息中心进行数据分析和处理。但是遥感设备与地面信息中心存在网络延时的问题，且遥感设备获得的高空数据的数据量巨大，因此遥感设备和地面信息中心的数据传输成为了技术瓶颈。
发明内容
本发明提供一种基于联邦学习的预测方法、装置、设备及存储介质，旨在实现各个遥感设备的高空联合建模，提升利用高空数据建模的模型性能。
为实现上述目的，本发明提供一种基于联邦学习的预测方法，所述方法包括：
根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；
接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。
优选地，所述根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型的步骤包括：
接收所述第二遥感设备传输的加密训练数据，所述加密训练数据由所述第二遥感设备对初始训练数据加密后获得；
利用本地特征训练数据和所述加密训练数据对初始联邦预测模型进行训练；
根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型。
优选地，所述将所述加密特征数据和本地特征数据输入所述联邦预测模型的步骤之前还包括：
判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据；
若所述加密特征数据与所述本地特征数据包括多个不同维度的特征数据，则执行步骤：将所述加密特征数据和本地特征数据输入所述联邦预测模型。
优选地，所述根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型的步骤包括：
根据预设标签数据和所述初始联邦预测模型输出的初始预测标签计算所述损失值，并分别计算所述第一遥感设备的第一加密梯度和所述第二遥感设备的第二加密梯度；
根据所述第一加密梯度进行梯度下降运算，获得更新后的第一联邦模型参数；
将所述第二加密梯度返回至所述第二遥感设备，由所述第二遥感设备进行梯度下降运算获得更新后的第二联邦模型参数；
不断更新所述第一联邦模型参数和所述第二联邦模型参数，直至收敛，获得所述联邦预测模型。
优选地，所述接收第二遥感设备传输的加密特征数据的步骤之前，还包括：
所述第二遥感设备基于加密算法对初始特征数据进行加密，获得所述加密特征数据；
将所述加密特征数据发送至所述第一遥感设备。
优选地，所述将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签的步骤之前还包括：
通过控制系统接收所述地面信息中心发送的指令，根据所述指令执行预设任务，获得本地数据；
对所述本地数据进行预处理，获得所述本地特征数据。
优选地，所述判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据的步骤包括：
获取所述加密特征数据的加密特征数据维度，并获取所述本地特征数据的本地特征数据维度；
将所述加密特征数据维度与所述本地特征数据维度进行比较，基于比较结果判断所述加密特征数据维度与所述本地特征数据维度是否包括若干个不同维度的特征数据。
此外，为实现上述目的，本发明还提供一种基于联邦学习的预测装置，所述基于联邦学习的预测装置包括：
训练模块，用于根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；
接收模块，用于接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
预测模块，用于将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。
此外，为实现上述目的本发明还提供一种基于联邦学习的预测设备，所述基于联邦学习的预测设备包括处理器，存储器以及存储在所述存储器中的基于联邦学习的预测程序，所述基于联邦学习的预测程序被所述处理器运行时，实现上所述的基于联邦学习的预测方法的步骤。
此外，为实现上述目的本发明还提供一种计算机存储介质，所述计算机存储介质上存储有基于联邦学习的预测程序，所述基于联邦学习的预测程序被处理器运行时实现如上所述基于联邦学习的预测方法的步骤。
相比现有技术，本发明提供一种基于联邦学习的预测方法、装置、设备及存储介质，根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。由此，第一遥感设备和第二遥感设备通过联邦学习进行联合建模，实现了利用各遥感设备之间的数据进行高空联合建模，提升了利用高空数据建模的模型性能。
附图说明
图1是本发明各实施例涉及的基于联邦学习的预测设备的硬件结构示意图；
图2是本发明基于联邦学习的预测方法第一实施例的流程示意图；
图3是本发明基于联邦学习的预测方法第二实施例的流程示意图；
图4是本发明基于联邦学习的预测装置第一实施例的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明实施例主要涉及的基于联邦学习的预测设备是指能够实现网络连接的网络连接设备，所述基于联邦学习的预测设备可以是服务器、云平台等。
参照图1，图1是本发明各实施例涉及的基于联邦学习的预测设备的硬件结构示意图。本发明实施例中，基于联邦学习的预测设备可以包括处理器1001(例如中央处理器Central Processing Unit、CPU)，通信总线1002，输入端口1003，输出端口1004，存储器1005。其中，通信总线1002用于实现这些组件之间的连接通信；输入端口1003用于数据输入；输出端口1004用于数据输出，存储器1005可以是高速RAM存储器，也可以是稳定的存储器(non-volatile memory)，例如磁盘存储器，存储器1005可选的还可以是独立于前述处理器1001的存储装置。本领域技术人员可以理解，图1中示出的硬件结构并不构成对本发明的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
继续参照图1，图1中作为一种可读存储介质的存储器1005可以包括操作系统、网络通信模块、应用程序模块以及基于联邦学习的预测程序。在图1中，网络通信模块主要用于连接服务器，与服务器进行数据通信；而处理器1001可以调用存储器1005中存储的基于联邦学习的预测程序，并执行本发明实施例提供的基于联邦学习的预测方法。
本发明实施例提供了一种基于联邦学习的预测方法。所述方法应用于第一遥感设备，所述遥感设备包括如高塔、气球、飞机、火箭、人造地球卫星、宇宙飞船和航天飞机等。遥感技术是指从远离地面的遥感设备，通过传感器对地球表面的电磁波辐射信息进行探测，然后经信息的传输、处理和判读分析，对地球的资源与环境进行探测与监测的综合性技术。从远距离采用高空鸟瞰的形式进行探测，包括多点位、多谱段、多时段和多高度的遥感影像以及多次增强的遥感信息，能提供综合系统性、瞬时或同步性的连续区域性同步信息，在环境科学领域的应用具有很大优越性。遥感设备具有很多用途，如地形探测，石油探测，大气环境，以及地形探测等等。
不同的探测任务可以由不同的遥感设备来执行。对于不同的遥感设备，由于监测的任务不一样，获取的数据维度也不相同，比如对地形的勘察和对石油的勘察，二者需要不同维度的信息，但是如果综合利用不同维度的信息也会对勘察结果有很大的帮助，例如，在对石油的勘察中，如果能够利用地形勘察的维度信息，那么对石油勘察的任务将大有帮助，可以提高石油勘察结果的准确性和可靠性。
参照图2，图2是本发明基于联邦学习的预测方法第一实施例的流程示意图。本实施例中，所述联邦学习是指纵向联邦学习。纵向联邦学习是指在两个数据集的用户重叠较多而用户特征重叠较少的情况下，把数据集按纵向(即数据的特征维度)切分，并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。
本实施例中，所述基于联邦学习的预测方法应用于基于联邦学习的预测设备，所述基于联邦学习的预测设备主要指第一遥感设备，所述方法包括：
步骤S101：根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型。
一般地，所述遥感设备需要与地面信息中心建立通讯连接，以供所述遥感设备可以与所述地面信息中心进行数据传输。
所述遥感设备预先搭载了控制系统，可以接收所述地面信息中心发送的控制指令，并根据所述预设指令和/或所述控制指令执行相应的任务。所述任务可以是地图绘制、地形勘测等。
本实施例中，所述遥感设备包括第一遥感设备和第二遥感设备，所述第一遥感设备利用本地数据和所述第二遥感设备提供的加密数据建立模型，由此，所述第一遥感设备利用所述第二遥感设备的加密数据进行建模，提升了所建模型的性能，同时也不会破坏所述第二遥感设备的数据的隐私性。
本实施例中，所述第二遥感设备可以是一个或多个。所述一个或多个第二遥感设备可以是执行不同任务的遥感设备，还可以是不同类型的遥感设备。确定需要的第二遥感设备后，所述第一遥感设备与一个或多个不同功能的所述第二遥感设备建立通讯连接。由此，所述第一遥感设备可以与一个或多个所述第二遥感设备进行数据传输。
所述第二遥感设备通过预先建立的通讯连接，向所述第一遥感设备发送加密训练数据。所述加密训练数据是由所述第二遥感设备通过加密算法对训练数据加密后获得。
当所述遥感设备通过所述控制系统接收到所述地面信息中心发送的指令后，则根据所述指令执行任务，获得相对应的本地训练数据。一般地，所述本地训练数据可以是图像数据。将所述本地训练数据进行预处理后，获得对应的本地训练特征数据。
获得所述加密训练数据和所述本地训练特征数据后，则可以对预先构建的初始联邦预测模型进行训练，获得联邦预测模型。所述联邦预测模型可以是回归预测模型，卡尔曼滤波预测模型，神经网络预测模型等。
步骤S102，接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
接收所述第二遥感设备传输的加密特征数据。所述第二遥感设备对第二遥感设备的初始特征数据进行加密，加密后获得加密特征数据，将所述加密特征数据传输给所述第一遥感设备。由此，所述第二遥感设备的初始特征数据并不会暴露，保护了所述第二遥感设备数据的隐私性。本实施例中，可以通过对称加密算法或非对称加密算法对所述初始特征数据进行加密，并将加密结果保存为加密特征数据。
所述接收第二遥感设备传输的加密特征数据的步骤之前的步骤之前，还包括：
步骤S1021a：所述第二遥感设备基于加密算法对初始特征数据进行加密，获得所述加密特征数据；
所述第二遥感设备需要向所述第一遥感设备传输数据，为了保护所述第二遥感设备的初始特征数据的隐私性，需要对所述初始特征数据进行加密，获得对应的加密特征数据。本实施例中，可以通过对称加密算法或非对称加密算法对所述初始特征数据进行加密，并将加密结果保存为加密特征数据。
步骤S1021b：将所述加密特征数据发送至所述第一遥感设备。
获得所述加密特征数据后，将所述加密特征数据发送至所述第一遥感设备，以供所述第一遥感设备利用所述加密特征数据进行预测。
步骤S103，将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签；
将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型根据模型参数对所述加密特征数据和本地特征数据进行预测，并输出预测标签。所述预测标签可以是0或1。所述预测标签还可以包括预测结果和概率。所述联邦预测模型对所述待预测本地数据进行预测，输出预测标签，所述预测标签与具体任务相关。例如对于地形勘测，则所述预测标签可以是所述待预测本地数据的地形类型，以及属于该类型的概率。再例如，对于石油勘测，则所述预测标签可以为是或否，此时可以用对应的数字1、0表示。
所述步骤S103：所述将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签的步骤之前还包括：
步骤S103a:通过控制系统接收所述地面信息中心发送的指令，根据所述指令执行预设任务，获得本地数据；
可以理解地，还需要与地面信息中心建立通讯连接。由此，所述第一遥感设备可以向所述地面信息中心传输数据，并且接收所述地面信息中心发送的指令。进一步地，根据指令执行预设任务，获得所述本地数据。所述第一遥感设备与所述第二遥感设备执行不同的任务，获得不同维度的数据。例如，所述第一遥感设备的任务是石油探测，所述第二遥感设备的任务是地形探测或环境探测。则所述第一遥感设备需要获得地质、地层剖面、生油性等维度的数据；所述第二遥感设备需要获得地形、植被、云层等维度的数据。可以理解地，由于遥感设备执行的任务不同，因此需要根据自身任务按指令获取数据。
所述第一遥感设备的控制系统接收所述地面信息中心发送的指令，所述指令用于触发相关程序，所述第一遥感设备执行与所述指令对应的预设任务。所述第一遥感设备执行任务的过程中，会获得相关的数据，将在执行任务过程中获得的数据保存为本地数据。
步骤S103b:对所述本地数据进行预处理，获得所述本地特征数据。
一般地，所述预处理包括降噪、几何校正、图像增强和图像裁剪等，将预处理后的所述本地数据保存为所述本地训练数据。所述本地初始数据可以是图像数据。一般地，可以通过滤波器对所述本地训练数据进行降噪处理。在遥感成像过程中，受多种因素的综合影响，原始图像上地物的几何位置、形状、大小、尺寸、方位等特征与其对应的地面地物的特征往往是不一致的，这种不一致就是几何变形，也称几何畸变，因而需要进行校正处理。预处理的顺序，一般根据经验设置，例如按如下流程进行：降噪，几何校正、图像裁剪。
本实施例中，所述本地特征数据是对本地数据进行预处理后获得的。
进一步地，所述将所述加密特征数据和本地特征数据输入所述联邦预测模型的步骤之前还包括：
步骤S1030：判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据；
获取所述加密特征数据的加密特征数据维度，并获取所述本地特征数据的本地特征数据维度；将所述加密特征数据维度与所述本地特征数据维度进行比较，判断所述加密特征数据维度与所述本地特征数据维度是否包含若干个不同的维度。
具体地，所述步骤S1030包括：
步骤S1030a：获取所述加密特征数据的加密特征数据维度，并获取所述本地特征数据的本地特征数据维度；
可以理解的，所述本地特征数据包括多个维度的数据。基于不同的任务，不同的遥感设备获得的数据中一般包括多个不同维度的数据，所述第一遥感设备和所述第二遥感设备获得的数据中也可以包括若干个不同维度的数据。所述若干个不同维度可以根据任务具体设置，例如若所述基于联邦学习的预测方法需要对海洋地形进行预测，则需要测高数据、海平面数据等，对于地形勘测，则需要地高数据，因此，可以将所述测高数据、所述海平面数据、所述地高数据确定为所述若干个不同维度。
具体地，对所述本地特征数据进行解析，获取所述本地特征数据维度；对所述加密特征数据进行解析，获取所述加密特征数据维度。
步骤S1030b：将所述加密特征数据维度与所述本地特征数据维度进行比较，基于比较结果判断所述加密特征数据维度与所述本地特征数据维度是否包括若干个不同维度的特征数据；
将所述本地特征数据的本地特征数据维度与所述加密特征数据的加密特征数据进行比较，获得比较结果。
若所述比较结果包括若干个不同维度，则将所述比较结果与设置的若干个不同维度进行比较，比较所述比较结果是否包括所述设置的若干个不同维度；若所述比较结果包括所述设置的若干个不同维度，则判定所述加密特征数据维度与所述本地特征数据维度包括若干个不同维度的特征数据。
若所述比较结果不包括所述设置的若干个不同维度，则判定所述加密特征数据维度与所述本地特征数据维度不包括若干个不同维度的特征数据。
若所述加密特征数据与所述本地特征数据包括多个不同维度的特征数据，则执行步骤：将所述加密特征数据和本地特征数据输入所述联邦预测模型。
反之，若所述加密特征数据与所述本地特征数据不包括多个不同维度的特征数据，则输出数据维度不符的提示信息或者停止输入所述加密特征数据与所述本地特征数据。
本发明实施例通过上述方案，根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。由此，第一遥感设备和第二遥感设备通过联邦学习进行联合建模，实现了利用各遥感设备之间的数据进行高空联合建模，提升了利用高空数据建模的模型性能。
如图4所示，本发明第二实施例提出一种基于联邦学习的预测方法，基于上述图2所示的第一实施例，所述根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型的步骤之前还包括：
步骤S201，接收所述第二遥感设备传输的加密训练数据，所述加密训练数据由所述第二遥感设备对初始训练数据加密后获得；
所述第二遥感设备对初始训练数据进行加密，并将加密后的加密训练数据传输给所述第一遥感设备。由此，所述第二遥感设备的所述初始训练数据不出本地即可用于协助第一遥感设备建模，提升了所述第一遥感设备建立的模型的性能，既保护了数据隐私又达到了综合利用数据的目的。
步骤S202，利用本地特征训练数据和所述加密训练数据对初始联邦预测模型进行训练；
具体地，将所述第一遥感设备的初始化模型参数表示为θA，将所述第二遥感设备的初始化模型参数表示为θB。将所述第一遥感设备的本地特征训练数据表示为XA，将所述第二遥感设备的所述初始训练数据表示为XB。
进一步地，所述第二遥感设备根据所述初始训练数据XB计算得到f(XA；θA)，并将加密后的加密训练数据表示为[[f(XA；θA)]]；
所述第一遥感设备根据所述本地特征训练数据表示为XA和所述加密训练数据[[f(XA；θA)]]，计算得到初始联邦预测模型。
将所述初始联邦预测模型表示为：
[[f(XA,XB,θA,θB)]]＝[[f(XA；θA)]]+[[f(XB；θB)]]。
步骤S203，根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型。
初始联邦模型参数为随机获得，或者根据经验设置，故需要对所述初始联邦模型参数进行更新，以获得准确率高的联邦预测模型。
具体地，所述步骤S203包括：
步骤S203a:根据预设标签数据和所述初始联邦预测模型计算所述损失值，并分别计算第一遥感设备的第一加密梯度和第二遥感设备的第二加密梯度；
本实施例中，将所述第一遥感设备为执行对应任务检测到的标签数据表示为Y，计算所述初始联邦预测模型的损失值L：
[[L)]]＝[[Y]]-[[f(XA,XB,θA,θB)]]；
计算第一遥感设备的加密梯度
Figure BDA0002406690270000111
计算第二遥感设备的加密梯度
Figure BDA0002406690270000112
并将所述第二遥感设备的加密梯度返回至所述第二遥感设备；
步骤S203b:根据所述第一加密梯度进行梯度下降运算，获得更新后的第一联邦模型参数
所述第一遥感设备进行梯度下降运算获得更新后的第一联邦模型参数θ'A：
Figure BDA0002406690270000113
步骤S203c:将所述第二加密梯度返回至所述第二遥感设备，由所述第二遥感设备进行梯度下降运算获得更新后的第二联邦模型参数；
在所述第一遥感设备进行梯度下降运算获得更新后的第二联邦模型参数θ'B：
Figure BDA0002406690270000114
步骤S203d:不断更新所述第一联邦模型参数和所述第二联邦模型参数直至收敛，获得所述联邦预测模型。
重复执行步骤S203a至步骤S203c，对所述第一联邦模型参数和所述第二联邦模型参数进行更新，直到所述第一联邦模型参数和所述第二联邦模型参数收敛，将最终的模型参数保存为所述联邦预测模型的模型参数，以此获得所述联邦预测模型。
可以理解地，所述第二遥感设备可以包括一个或多个遥感设备。若所述第二遥感设备包括多个遥感设备，则这多个遥感设备还可以是执行不同任务具有不同功能的遥感设备。
本实施例通过上述方案，接收所述第二遥感设备传输的加密训练数据，所述加密训练数据由所述第二遥感设备对初始训练数据加密后获得；利用本地特征训练数据和所述加密训练数据对初始联邦预测模型进行训练；根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型。由此，第一遥感设备和第二遥感设备通过联邦学习进行联合建模，实现了利用各遥感设备之间的数据进行高空联合建模，提升了利用高空数据建模的模型性能。
此外，本实施例还提供一种基于联邦学习的预测装置。参照图4，图4为本发明基于联邦学习的预测装置第一实施例的功能模块示意图。
本实施例中，所述基于联邦学习的预测装置为虚拟装置，存储于图1所示的基于联邦学习的预测设备的存储器1005中，以实现基于联邦学习的预测程序的所有功能：用于根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；用于接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；用于将所述加密特征数据和本地特征数据所述联邦预测模型，由所述联邦预测模型输出预测标签。
具体地，所述基于联邦学习的预测装置包括：
训练模块10，用于根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；
接收模块20，用于接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
预测模块30，用于将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。
进一步地，所述训练模块包括：
第一接收单元，用于接收所述第二遥感设备传输的加密训练数据，所述加密训练数据由所述第二遥感设备对初始训练数据加密后获得；
训练单元，用于基于初始联邦模型参数和本地特征训练数据，结合所述加密训练数据，获得初始联邦预测模型；
更新单元，用于根据损失值和加密梯度对所述初始联邦模型参数进行更新，直到收敛，获得所述联邦预测模型。
进一步地，所述预测模块还包括：
判断单元，用于判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据；
第一执行单元，用于若所述加密特征数据与所述本地特征数据包括多个不同维度的特征数据，则执行步骤：将所述加密特征数据和本地特征数据输入所述联邦预测模型。
进一步地，所述更新单元还包括：
第一计算子单元，用于根据预设标签数据和所述初始联邦预测模型计算所述损失值，并分别计算第一遥感设备的第一加密梯度和第二遥感设备的第二加密梯度；
第二计算子单元，用于根据所述第一加密梯度进行梯度下降运算，获得更新后的第一联邦模型参数；
第三计算子单元，用于将所述第二加密梯度返回至所述第二遥感设备，由所述第二遥感设备进行梯度下降运算获得更新后的第二联邦模型参数；
更新子单元，用于不断更新所述第一联邦模型参数和所述第二联邦模型参数，直至收敛，获得所述联邦预测模型。
进一步地，所述接收模块还包括：
加密单元，用于所述第二遥感设备基于加密算法对初始特征数据进行加密，获得所述加密特征数据；
发送单元，用于将所述加密特征数据发送至所述第一遥感设备。
进一步地，所述预测模块还包括：
第二接收单元，用于通过控制系统接收所述地面信息中心发送的指令，根据所述指令执行预设任务，获得本地数据；
获得单元，用于对所述本地数据进行预处理，获得所述本地特征数据。
进一步地，所述判断单元还包括：
获取子单元，用于获取所述加密特征数据的加密特征数据维度，并获取所述本地特征数据的本地特征数据维度；
比较子单元，用于将所述加密特征数据维度与所述本地特征数据维度进行比较，基于比较结果判断所述加密特征数据维度与所述本地特征数据维度是否包括若干个不同维度的特征数据。
此外，本发明实施例还提供一种计算机存储介质，所述计算机存储介质上存储有基于联邦学习的预测程序，所述基于联邦学习的预测程序被处理器运行时实现如上所述基于联邦学习的预测方法的步骤，此处不再赘述。
相比现有技术，本发明提出的一种基于联邦学习的预测方法、装置、设备及存储介质，该方法包括：根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。由此，第一遥感设备和第二遥感设备通过联邦学习进行联合建模，实现了利用各遥感设备之间的数据进行高空联合建模，提升了利用高空数据建模的模型性能。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备执行本发明各个实施例所述的方法。
以上所述仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或流程变换，或直接或间接运用在其它相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于联邦学习的预测方法，其特征在于，所述方法包括：
根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；
接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。
2.根据权利要求1所述的方法，其特征在于，所述根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型的步骤包括：
接收所述第二遥感设备传输的加密训练数据，所述加密训练数据由所述第二遥感设备对初始训练数据加密后获得；
利用本地特征训练数据和所述加密训练数据对初始联邦预测模型进行训练；
根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型。
3.根据权利要求1所述的方法，其特征在于，所述将所述加密特征数据和本地特征数据输入所述联邦预测模型的步骤之前还包括：
判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据；
若所述加密特征数据与所述本地特征数据包括多个不同维度的特征数据，则执行步骤：将所述加密特征数据和本地特征数据输入所述联邦预测模型。
4.根据权利要求2所述的方法，其特征在于，所述根据损失值和加密梯度对所述初始联邦模型的初始模型参数进行更新，直到收敛，保存最终的联邦预测模型参数，获得所述联邦预测模型的步骤包括：
根据预设标签数据和所述初始联邦预测模型输出的初始预测标签计算所述损失值，并分别计算所述第一遥感设备的第一加密梯度和所述第二遥感设备的第二加密梯度；
根据所述第一加密梯度进行梯度下降运算，获得更新后的第一联邦模型参数；
将所述第二加密梯度返回至所述第二遥感设备，由所述第二遥感设备进行梯度下降运算获得更新后的第二联邦模型参数；
不断更新所述第一联邦模型参数和所述第二联邦模型参数，直至收敛，获得所述联邦预测模型。
5.根据权利要求1所述的方法，其特征在于，所述接收第二遥感设备传输的加密特征数据的步骤之前，还包括：
所述第二遥感设备基于加密算法对初始特征数据进行加密，获得所述加密特征数据；
将所述加密特征数据发送至所述第一遥感设备。
6.根据权利要求1所述的方法，其特征在于，所述将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签的步骤之前还包括：
通过控制系统接收所述地面信息中心发送的指令，根据所述指令执行预设任务，获得本地数据；
对所述本地数据进行预处理，获得所述本地特征数据。
7.根据权利要求3所述的方法，其特征在于，所述判断所述加密特征数据与所述本地特征数据是否包括多个不同维度的特征数据的步骤包括：
获取所述加密特征数据的加密特征数据维度，并获取所述本地特征数据的本地特征数据维度；
将所述加密特征数据维度与所述本地特征数据维度进行比较，基于比较结果判断所述加密特征数据维度与所述本地特征数据维度是否包括若干个不同维度的特征数据。
8.一种基于联邦学习的预测装置，其特征在于，所述基于联邦学习的预测装置包括：
训练模块，用于根据加密训练数据和本地特征训练数据对初始联邦预测模型进行训练，获得联邦预测模型；
接收模块，用于接收第二遥感设备传输的加密特征数据，所述加密特征数据由所述第二遥感设备对初始特征数据加密后获得；
预测模块，用于将所述加密特征数据和本地特征数据输入所述联邦预测模型，由所述联邦预测模型输出预测标签。
9.一种基于联邦学习的预测设备，其特征在于，所述基于联邦学习的预测设备包括处理器，存储器以及存储在所述存储器中的基于联邦学习的预测程序，所述基于联邦学习的预测程序被所述处理器运行时，实现如权利要求1-7中任一项所述的基于联邦学习的预测方法的步骤。
10.一种计算机存储介质，其特征在于，所述计算机存储介质上存储有基于联邦学习的预测程序，所述基于联邦学习的预测程序被处理器运行时实现如权利要求1-7中任一项所述基于联邦学习的预测方法的步骤。
CN202010163973.2A 2020-03-10 2020-03-10 基于联邦学习的预测方法、装置、设备及存储介质 Active CN111401621B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010163973.2A CN111401621B (zh) 2020-03-10 2020-03-10 基于联邦学习的预测方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010163973.2A CN111401621B (zh) 2020-03-10 2020-03-10 基于联邦学习的预测方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111401621A true CN111401621A (zh) 2020-07-10
CN111401621B CN111401621B (zh) 2023-06-23

Family

ID=71434158

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010163973.2A Active CN111401621B (zh) 2020-03-10 2020-03-10 基于联邦学习的预测方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111401621B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112001502A (zh) * 2020-08-24 2020-11-27 平安科技（深圳）有限公司 高延时网络环境鲁棒的联邦学习训练方法及装置
CN112486180A (zh) * 2020-12-10 2021-03-12 深圳前海微众银行股份有限公司 车辆控制方法、装置、设备、存储介质及程序产品
CN113112032A (zh) * 2021-04-16 2021-07-13 中国民航大学 基于联邦学习的航班延误预测系统及方法
CN115719116A (zh) * 2022-11-21 2023-02-28 重庆大学 一种电力负荷预测方法、装置及终端设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886417A (zh) * 2019-03-01 2019-06-14 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法、装置、设备及介质
KR20190087351A (ko) * 2019-07-05 2019-07-24 엘지전자 주식회사 머신 러닝 시스템, 방법 및 장치
CN110276210A (zh) * 2019-06-12 2019-09-24 深圳前海微众银行股份有限公司 基于联邦学习的模型参数的确定方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109886417A (zh) * 2019-03-01 2019-06-14 深圳前海微众银行股份有限公司 基于联邦学习的模型参数训练方法、装置、设备及介质
CN110276210A (zh) * 2019-06-12 2019-09-24 深圳前海微众银行股份有限公司 基于联邦学习的模型参数的确定方法及装置
KR20190087351A (ko) * 2019-07-05 2019-07-24 엘지전자 주식회사 머신 러닝 시스템, 방법 및 장치

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
世界人工智能大会组委会: "《智联世界》", 31 October 2019, 上海科学技术出版社 *
王亚坤: ""面向数据共享交换的联邦学习技术发展综述"", 《无人系统技术》 *
窦佐超等: ""生物医疗大数据隐私与安全保护的应对策略与技术"", 《中华医学图书情报杂志》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112001502A (zh) * 2020-08-24 2020-11-27 平安科技（深圳）有限公司 高延时网络环境鲁棒的联邦学习训练方法及装置
WO2021155671A1 (zh) * 2020-08-24 2021-08-12 平安科技（深圳）有限公司 高延时网络环境鲁棒的联邦学习训练方法、装置、计算机设备及存储介质
CN112486180A (zh) * 2020-12-10 2021-03-12 深圳前海微众银行股份有限公司 车辆控制方法、装置、设备、存储介质及程序产品
CN113112032A (zh) * 2021-04-16 2021-07-13 中国民航大学 基于联邦学习的航班延误预测系统及方法
CN115719116A (zh) * 2022-11-21 2023-02-28 重庆大学 一种电力负荷预测方法、装置及终端设备

Also Published As

Publication number Publication date
CN111401621B (zh) 2023-06-23

Similar Documents

Publication Publication Date Title
CN111401621A (zh) 基于联邦学习的预测方法、装置、设备及存储介质
Jahanbakht et al. Internet of underwater things and big marine data analytics—a comprehensive survey
CN111382706A (zh) 基于联邦学习的预测方法、装置、存储介质及遥感设备
US20210342669A1 (en) Method, system, and medium for processing satellite orbital information using a generative adversarial network
US10460252B2 (en) System and method of chaining algorithms for global object recognition to improve probability of correctness and reduce processing load
CN110211046B (zh) 一种基于生成对抗网络的遥感图像融合方法、系统和终端
US11225337B2 (en) Parallel calculation of satellite access windows and native program implementation framework
CN112927234A (zh) 点云语义分割方法、装置、电子设备和可读存储介质
US20200265321A1 (en) Embedding constrained and unconstrained optimization programs as neural network layers
AU2021200832A1 (en) Collaborative 3d mapping and surface registration
CN111797851A (zh) 特征提取方法、装置、存储介质及电子设备
Ruiz et al. MGRAPH: A multigraph homography method to generate incremental mosaics in real-time from UAV swarms
Blasch et al. Big data for space situation awareness
WO2019198634A1 (ja) 学習データ生成装置、変化領域検出方法及びコンピュータプログラム
US11228523B2 (en) Infrastructure link path arrangement determination method and system
US20160335771A1 (en) Incremental global non-rigid alignment of three-dimensional scans
US11656365B2 (en) Geolocation with aerial and satellite photography
CN113421190B (zh) 一种超分辨率方法、装置、计算机设备及存储介质
CN115393826A (zh) 三维车道线生成方法、装置、电子设备和计算机可读介质
CN113762053B (zh) 一种图像处理方法、装置、计算机及可读存储介质
Longbotham et al. Harmonization and fusion of global scale data
Salmon et al. Applying model parameters as a driving force to a deterministic nonlinear system to detect land cover change
Bohacik Phishing detection for secure operations of uavs
Wei et al. RODAD: Resilience Oriented Decentralized Anomaly Detection for Urban Air Mobility Networks
US20230222667A1 (en) Mask for satellite image data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant