CN116863309A - 一种图像识别方法、装置、系统、电子设备及存储介质 - Google Patents
一种图像识别方法、装置、系统、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116863309A CN116863309A CN202311127997.2A CN202311127997A CN116863309A CN 116863309 A CN116863309 A CN 116863309A CN 202311127997 A CN202311127997 A CN 202311127997A CN 116863309 A CN116863309 A CN 116863309A
- Authority
- CN
- China
- Prior art keywords
- image recognition
- model
- local
- differential privacy
- privacy data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000003860 storage Methods 0.000 title claims abstract description 10
- 230000002776 aggregation Effects 0.000 claims abstract description 71
- 238000004220 aggregation Methods 0.000 claims abstract description 71
- 238000012549 training Methods 0.000 claims abstract description 64
- 238000012545 processing Methods 0.000 claims description 54
- 238000004364 calculation method Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 abstract description 17
- 238000010801 machine learning Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000006978 adaptation Effects 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/95—Hardware or software architectures specially adapted for image or video understanding structured as a network, e.g. client-server architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/098—Distributed learning, e.g. federated learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Bioethics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种图像识别方法、装置、系统、电子设备及存储介质,所属的技术领域为机器学习技术。所述图像识别方法包括:接收终端设备上传的第一差分隐私数据和第二差分隐私数据;利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算本地图像识别模型的模型损失;将本地图像识别模型的本地模型参数和模型损失发送至聚合服务器;若接收到聚合服务器发送的全局模型参数,则利用全局模型参数更新本地图像识别模型的本地模型参数;若接收到图像识别任务,则将图像识别任务对应的图像输入本地图像识别模型,得到图像识别结果。本申请能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。
Description
技术领域
本申请涉及机器学习技术领域,特别涉及一种图像识别方法、装置、系统、电子设备及存储介质。
背景技术
数据作为一种新型生产要素,需要在保证数据安全的前提下发挥作用。近年来在线上交易、车联网、手机等场景中,运营商都希望能收集用户的图像数据以供分析使用。为了保护用户隐私,目前通常使用联邦学习的方式训练图像识别模型,联邦学习可以使多方参与者能够在不交换本地数据的情况下协作训练机器学习模型,联邦学习超越了传统的并行优化,避免了系统性隐私风险。如果只用明文数据进行联邦学习的本地训练,依然会遭受差分攻击。使用差分隐私数据进行训练可以免遭差分攻击,但是当在联邦学习场景中处理差分隐私数据时,差分隐私噪声会导致训练模型的精度损失,影响图像识别精度。
因此,如何降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度是本领域技术人员目前需要解决的技术问题。
发明内容
本申请的目的是提供一种图像识别方法、装置、系统、电子设备及存储介质,能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。
为解决上述技术问题,本申请提供一种图像识别方法,该图像识别方法包括:
接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;
将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数;
若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作;
若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
可选的,利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失,包括:
将所述第一差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第一处理结果;
将所述第二差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第二处理结果;
将所述第一差分隐私数据输入所述全局图像识别模型的全局编码器和全局投影模块,得到第三处理结果;其中,所述全局图像识别模型为所述聚合服务器中训练的模型;
根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,以便利用所述模型损失对所述本地图像识别模型的本地模型参数进行更新。
可选的,根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,包括:
将所述第一处理结果输入所述本地图像识别模型的本地预测模块得到预测结果,根据所述预测结果计算监督交叉熵损失;
将所述第一处理结果和所述第二处理结果进行特征对比,得到差分隐私数据特征对比损失;
将所述第一处理结果和所述第三处理结果进行特征对比,得到全局特征相似损失;
根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失。
可选的,在接收到所述聚合服务器发送的所述全局模型参数之后,还包括:
根据所述全局模型参数更新所述全局编码器和所述全局投影模块的参数。
可选的,根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失,包括:
对所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失进行加权计算,得到所述本地图像识别模型的模型损失。
可选的,利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,包括:
对所述全局模型参数进行解密得到新的本地模型参数;
根据所述新的本地模型参数对所述本地图像识别模型的本地模型参数进行更新。
本申请还提供了一种图像识别装置,包括:
数据接收模块,用于接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
训练模块,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;
联邦学习模块,用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数;
参数更新模块,用于若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作;
图像识别模块,用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
本申请还提供了一种图像识别系统,包括:
终端设备,用于将第一差分隐私数据和第二差分隐私数据发送至本地服务器;其中,所述第一差分隐私数据基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
本地服务器,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;还用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器;还用于若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作;还用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果;
聚合服务器,用于根据多个所述本地服务器的本地模型参数和模型损失进行联邦学习聚合得到所述全局模型参数,并将所述全局模型参数发送至所述本地服务器。
本申请还提供了一种存储介质,其上存储有计算机程序,所述计算机程序执行时实现上述图像识别方法执行的步骤。
本申请还提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器调用所述存储器中的计算机程序时实现上述图像识别方法执行的步骤。
本申请提供了一种图像识别方法,包括:接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数;若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作;若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
本申请接收的第一差分隐私数据由终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,接收的第二差分隐私数据由终端设备基于第二隐私预算对第一差分隐私数据执行隐私加密操作得到,因此在利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练时能够通过预测相同数据的不同视角来学习特征,来自同一类别的归一化嵌入比来自不同类别的归一化嵌入更接近,保证了本地图像识别模型学到的特征的判别性。本申请利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算本地图像识别模型的模型损失,并将本地模型参数和模型损失发送至聚合服务器进行联邦学习,以便进行本地图像识别模型的参数更新,进而利用本地图像识别模型处理收到的图像识别任务。本申请能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。本申请同时还提供了一种图像识别装置、一种图像识别系统、一种存储介质和一种电子设备,具有上述有益效果,在此不再赘述。
附图说明
为了更清楚地说明本申请实施例,下面将对实施例中所需要使用的附图做简单的介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例所提供的一种图像识别方法的流程图;
图2为本申请实施例所提供的一种基于差分隐私数据的联邦学习系统的机构示意图;
图3为本申请实施例所提供的一种本地图像识别模型的训练原理示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
下面请参见图1,图1为本申请实施例所提供的一种图像识别方法的流程图。
具体步骤可以包括:
S101:接收终端设备上传的第一差分隐私数据和第二差分隐私数据。
其中,本实施例可以应用于分别与终端设备和聚合服务器连接的本地服务器,上述终端设备可以为智能手机、监控设备、平板电脑等。终端设备中可以存储原始图像数据,如行人图像、人脸认证图像、车辆图像等,终端设备可以采集上述原始图像数据并利用差分隐私中间件执行隐私加密操作得到差分隐私数据,进而将差分隐私数据发送至执行本实施例操作的电子设备。
具体的,本步骤中接收到的第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,上述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到。
S102:利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失。
其中,本步骤可以将第一差分隐私数据和第二差分隐私数据输入本地图像识别模型进行训练,并计算本地图像识别模型的模型损失,以便利用模型损失进行前向传播计算和反向传播计算,上述过程可以重复执行E次以便实现本地图像识别模型的参数更新。本地图像识别模型包括本地编码器、本地投影模块和本地预测模块。E为预设数量。
S103:将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数。
其中,在执行E次S102的相关操作后,可以将最终得到的本地模型参数和模型损失发送至聚合服务器。聚合服务器可以接收到多个电子设备上传的本地模型参数和模型损失,进而进行联邦学习聚合得到全局模型参数。
作为一种可行的实施方式,在聚合服务器收到本地模型参数和模型损失后,可以判断训练是否结束;若训练未结束,则进行联邦学习聚合得到全局模型参数,将得到的全局模型参数返回至各个本地图像识别模型所在的电子设备;若训练结束,则向本地图像识别模型所在的电子设备发送训练结束信息,训练结束后,若接收到图像识别任务则可以进入S105的步骤。
S104:若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数。
其中,本实施例可以利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,进而进入S102利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作。
具体的,本实施例可以对所述全局模型参数进行解密得到新的本地模型参数;还可以根据所述新的本地模型参数对所述本地图像识别模型的本地模型参数进行更新。
S105:若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
具体的,若本地图像识别模型为人脸识别模型,则图像识别任务对应的图像为当前采集的人脸图像;若本地图像识别模型为车辆逆行检测模型,则图像识别任务对应的图像为当前采集的道路图像。
本实施例接收的第一差分隐私数据由终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,接收的第二差分隐私数据由终端设备基于第二隐私预算对第一差分隐私数据执行隐私加密操作得到,因此在利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练时能够通过预测相同数据的不同视角来学习特征,来自同一类别的归一化嵌入比来自不同类别的归一化嵌入更接近,保证了本地图像识别模型学到的特征的判别性。本实施例利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算本地图像识别模型的模型损失,并将本地模型参数和模型损失发送至聚合服务器进行联邦学习,以便进行本地图像识别模型的参数更新,进而利用本地图像识别模型处理收到的图像识别任务。本实施例能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。
作为对于图1对应实施例的进一步介绍,本地图像识别模型包括本地编码器、本地投影模块和本地预测模块,本地图像识别模型所在的电子设备还包括全局图像识别模型的全局编码器和全局投影模块,因此本申请可以通过以下方式训练本地图像识别模型:
将所述第一差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第一处理结果;
将所述第二差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第二处理结果。
将所述第一差分隐私数据输入所述全局图像识别模型的全局编码器和全局投影模块,得到第三处理结果;其中,所述全局图像识别模型为所述聚合服务器中训练的模型。
根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,以便利用所述模型损失对所述本地图像识别模型的本地模型参数进行更新。
相应的,本实施例还可以通过以下方式计算所述本地图像识别模型的模型损失:将所述第一处理结果输入所述本地图像识别模型的本地预测模块得到预测结果,根据所述预测结果计算监督交叉熵损失;将所述第一处理结果和所述第二处理结果进行特征对比,得到差分隐私数据特征对比损失;将所述第一处理结果和所述第三处理结果进行特征对比,得到全局特征相似损失;根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失。
进一步的,在接收到所述聚合服务器发送的所述全局模型参数之后,还可以根据所述全局模型参数更新所述全局编码器和所述全局投影模块的参数。
作为一种可行的实施方式,本实施例可以对所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失进行加权计算,得到所述本地图像识别模型的模型损失。
下面通过在实际应用中的实施例说明上述实施例描述的流程。
随着机器学习取得了巨大进步,然而由于数据隐私问题,“数据孤岛”正在形成。如何在不交换本地数据的情况下从分布式数据集中进行机器学习已成为一个新兴话题。联邦学习成为一种解决数据隐私问题的方案,在联邦学习场景中,不同参与方的数据为差分隐私数据时,联邦学习将面对巨大挑战。因为深度学习的有效性高度依赖于大量高质量训练数据,数据的轻微扰动,都可能对深度学习的结果产生巨大影响。
相关技术中通常通过在若干个可信中间节点上先对部分用户发送的数据进行聚合并实施隐私保护,然后传输加密或扰动后的数据到服务器端,确保服务器端只能得到聚合结果而无法得到数据。上述方式需要客户端首先完成计算并进行简单的扰动(例如较高隐私预算的本地化差分隐私)或加密,将结果发送至一个可信任的中间节点,然后借助可信执行环境(TEE)、安全多方计算、安全聚合(Secure Aggregation)等方法,在中间节点实现进一步的隐私保护,最终将结果发送至服务器端。但是上述方法并未解决在联邦学习场景下如何高效利用差分隐私数据的问题。
相关技术中主要通过对梯度信息添加噪音,来保护模型免遭差分攻击,然而在部分实际场景中,由于终端采集设备的计算能力限制,无法直接进行机器学习,而需要将数据采集后先提交到服务器。为保护用户隐私,需对数据进行差分隐私处理后,再提交到服务器。在进行联邦学习时,不同参与方为差分隐私数据,联邦学习的效果将面对巨大挑战。因为深度学习的有效性高度依赖于大量高质量训练数据,数据的轻微扰动,都可能对深度学习的结果产生巨大影响。
请参见图2,图2为本申请实施例所提供的一种基于差分隐私数据的联邦学习系统的机构示意图,该系统包括聚合服务器和参与方,各参与方中包括终端设备和本地服务器。终端设备中包括多个终端数据采集装置和差分隐私中间件。终端设备向本地服务器上传的数据为差分隐私数据,以便执行本地模型训练操作。
假设有N个参与方,定义为1,…,t,…,N,每方t的终端数据采集装置(包括摄像头、手机等)j采集原始图像数据。
差分隐私中间件在边缘设备内负责对数据进行扰动,形成差分隐私数据,以保证数据的差分隐私性。在严格数学基础之上,差分隐私数据保留极大可用性,并能够抵御攻击方的最大背景知识攻击。
经过差分隐私中间件处理后的数据为差分隐私数据,将差分隐私后的数据提交到对应的本地服务器,多终端提交的差分隐私数据在服务器汇集后,记为本地数据集Dt(即全部的差分隐私数据)。
本地服务器可以利用差分隐私数据进行本地图像识别模型的训练。
聚合服务器可以基于各参与方提交的本地训练模型,进行模型参数聚合,并将聚合后的模型下发给各个参与方。
由于数据经过差分隐私后,将会导致基于深度神经网络的识别系统出现错误结果。面对联邦学习的本地训练过程中,差分隐私数据误差叠加导致模型效果差的问题,本实施例能够在完整差分隐私数据集D上学习一个高效的机器学习模型,请参见图3,图3为本申请实施例所提供的一种本地图像识别模型的训练原理示意图。图中示出了本地编码器ft(.)、本地投影模块zt(.),本地预测模块qt(.)、全局编码器fg(.)、全局投影模块zg(.),全局投影模块输出的结果不更新参数,本地图像识别模型的模型损失Loss包括监督交叉熵损失、全局特征相似损失以及差分隐私数据特征对比损失。
在本实施例中,相当于对原始数据集中的每个数据,执行两种增强组合:(1)本地服务器收集到的第一差分隐私数据,(2)对第一差分隐私数据采用不同的隐私预算ε值再进行一次差分隐私所得的第二差分隐私数据。在训练过程中希望模型知道这两个数据是“相似的”,因为它们本质上是同一数据的不同版本。基于此可以通过预测相同数据的不同视角来学习特征,通过对比学习的做法引入负样本,让同类别样本的数据经过不同数据增强后的特征距离尽可能近,和不同类别负样本对的特征距离尽可能远,来自同一类别的归一化嵌入比来自不同类别的嵌入更接近,这样就保证了学到的特征的判别性。
为了更好描述本实施例的实现方式,下面详细介绍本地图像识别模型的训练步骤:
步骤一:参与方1、参与方t、…、参与方N,进行本地训练。
本地模型参数为Wt,全局模型参数Wg。在联邦模型训练过程中引入三个模块:编码器、投影模块、预测模块,从而用于捕获该任务最重要的特征。编码器用于从输入中提取表示向量,投影模块表示映射到具有固定维度的空间,预测模块输出层用于生成每个类的预测值。全局图像识别模型包括全局编码器fg(.)、全局投影模块zg(.);本地图像识别模型包括本地编码器ft(.)、本地投影模块zt(.)、本地预测模块qt(.)。
本地模型损失由三部分组成,第一部分是监督学习中的监督交叉熵损失Lsup;第二部分是全局特征相似损失Lsim,希望学习到的本地特征和全局特征尽量相似,采用欧拉距离进行度量,使本地特征尽量靠近全局,在本分支fg(.)和zg(.)不参与更新;第三部分是差分隐私数据特征对比损失:/>,其中/>表示样本i的特征zi与所有正例的相似度,/>表示样本i的特征zi与所有负例的相似度,|P(i)|表示样本i对应的正例数量。通过最小化对比损失函数来最大化两个向量表示的相似性,从而可以使相同样本的不同差分隐私数据,通过本地模型获得相似的特征表示。上述样本即差分隐私数据。
总损失为,其中α、β、γ为可调参数,可以调整不同部分的权重。其中全局参数Wg在本地训练过程中,不进参数更新。利用总损失L,每个参与方进行本地前向计算及反向传播计算E次。
步骤二:在步骤一执行E次后,每个参与方将本地图像识别模型的本地模型参数Wt和模型损失Lt通过同态加密技术,对信息进行掩饰,并将掩饰后的Wt和Lt发送到聚合服务器。聚合服务器依据预设结束条件判断是否训练结束。如果未结束则执行步骤三,如果结束则通知各个参与方训练结束。
步骤三:聚合服务器进行安全聚合,公式如下:
;
T为进行安全聚合的参与方的数量,snt为参与方t的本地样本数(差分隐私数据的数量),sna为总体样本数,为加密算法,聚合后的参数为Wg。并将聚合后的全局参数Wg返回给所有参与方。各个参与方接收聚合的全局参数Wg,解密并更新本地的模型参数Wt,同时用Wg更新本地的fg(.)和zg(.),然后准备开始本地的下一轮迭代。
步骤四:参与方接收聚合服务器的训练结论,如果未结束,则继续重复步骤一到步骤三。
本实施例在联邦学习中训练差分隐私数据,解决针对联邦学习中差分隐私数据导致误差叠加从而缺乏收敛保证的问题。本实施例在本地图像识别模型的训练过程中引入三个损失的协作训练,监督交叉熵损失依据真实标签保留本地模型最有价值的特征;全局特征相似损失可以让本地特征和全局特征尽量相似,从而可以使本地特征尽量靠近全局,学习更泛化的特征表示;差分隐私数据特征对比损失使相同数据的不同差分隐私的数据通过本地模型,获得相似的特征表示,从而使模型学习数据最真实的特征。
本申请实施例所提供的一种图像识别装置,该装置可以包括:
数据接收模块,用于接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到。
训练模块,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失。
联邦学习模块,用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数。
参数更新模块,用于若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作。
图像识别模块,用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
本实施例接收的第一差分隐私数据由终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,接收的第二差分隐私数据由终端设备基于第二隐私预算对第一差分隐私数据执行隐私加密操作得到,因此在利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练时能够通过预测相同数据的不同视角来学习特征,来自同一类别的归一化嵌入比来自不同类别的归一化嵌入更接近,保证了本地图像识别模型学到的特征的判别性。本实施例利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算本地图像识别模型的模型损失,并将本地模型参数和模型损失发送至聚合服务器进行联邦学习,以便进行本地图像识别模型的参数更新,进而利用本地图像识别模型处理收到的图像识别任务。本实施例能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。
进一步的,训练模块利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失的过程,包括:将所述第一差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第一处理结果;将所述第二差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第二处理结果;将所述第一差分隐私数据输入所述全局图像识别模型的全局编码器和全局投影模块,得到第三处理结果;其中,所述全局图像识别模型为所述聚合服务器中训练的模型;根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,以便利用所述模型损失对所述本地图像识别模型的本地模型参数进行更新。
进一步的,训练模块根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失的过程,包括:将所述第一处理结果输入所述本地图像识别模型的本地预测模块得到预测结果,根据所述预测结果计算监督交叉熵损失;将所述第一处理结果和所述第二处理结果进行特征对比,得到差分隐私数据特征对比损失;将所述第一处理结果和所述第三处理结果进行特征对比,得到全局特征相似损失;根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失。
进一步的,参数更新模块,还用于在接收到所述聚合服务器发送的所述全局模型参数之后,根据所述全局模型参数更新所述全局编码器和所述全局投影模块的参数。
进一步的,训练模块根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失的过程包括:对所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失进行加权计算,得到所述本地图像识别模型的模型损失。
进一步的,参数更新模块利用所述全局模型参数更新所述本地图像识别模型的本地模型参数的过程包括:对所述全局模型参数进行解密得到新的本地模型参数;根据所述新的本地模型参数对所述本地图像识别模型的本地模型参数进行更新。
本申请实施例还提供的一种图像识别系统,包括:
终端设备,用于将第一差分隐私数据和第二差分隐私数据发送至本地服务器;其中,所述第一差分隐私数据基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到。
本地服务器,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失。还用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器;还用于若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练的操作;还用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
聚合服务器,用于根据多个所述本地服务器的本地模型参数和模型损失进行联邦学习聚合得到所述全局模型参数,并将所述全局模型参数发送至所述本地服务器。
本实施例接收的第一差分隐私数据由终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,接收的第二差分隐私数据由终端设备基于第二隐私预算对第一差分隐私数据执行隐私加密操作得到,因此在利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练时能够通过预测相同数据的不同视角来学习特征,来自同一类别的归一化嵌入比来自不同类别的归一化嵌入更接近,保证了本地图像识别模型学到的特征的判别性。本实施例利用第一差分隐私数据和第二差分隐私数据对本地图像识别模型进行训练,并计算本地图像识别模型的模型损失,并将本地模型参数和模型损失发送至聚合服务器进行联邦学习,以便进行本地图像识别模型的参数更新,进而利用本地图像识别模型处理收到的图像识别任务。本实施例能够降低差分隐私噪声对模型训练过程的干扰,提高模型识别精度。
由于装置和系统部分的实施例与方法部分的实施例相互对应,因此装置和系统部分的实施例请参见方法部分的实施例的描述,这里暂不赘述。
本申请还提供了一种存储介质,其上存有计算机程序,该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括:U盘、移动硬盘、只读存储器(Read-Only Memory ,ROM)、随机存取存储器(Random Access Memory ,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本申请还提供了一种电子设备,可以包括存储器和处理器,所述存储器中存有计算机程序,所述处理器调用所述存储器中的计算机程序时,可以实现上述实施例所提供的步骤。当然所述电子设备还可以包括各种网络接口,电源等组件。
说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的状况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种图像识别方法,其特征在于,包括:
接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;
将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数;
若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练的操作;
若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
2.根据权利要求1所述图像识别方法,其特征在于,利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失,包括:
将所述第一差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第一处理结果;
将所述第二差分隐私数据输入所述本地图像识别模型的本地编码器和本地投影模块,得到第二处理结果;
将所述第一差分隐私数据输入全局图像识别模型的全局编码器和全局投影模块,得到第三处理结果;其中,所述全局图像识别模型为所述聚合服务器中训练的模型;
根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,以便利用所述模型损失对所述本地图像识别模型的本地模型参数进行更新。
3.根据权利要求2所述图像识别方法,其特征在于,根据所述第一处理结果、所述第二处理结果和所述第三处理结果计算所述本地图像识别模型的模型损失,包括:
将所述第一处理结果输入所述本地图像识别模型的本地预测模块得到预测结果,根据所述预测结果计算监督交叉熵损失;
将所述第一处理结果和所述第二处理结果进行特征对比,得到差分隐私数据特征对比损失;
将所述第一处理结果和所述第三处理结果进行特征对比,得到全局特征相似损失;
根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失。
4.根据权利要求2所述图像识别方法,其特征在于,在接收到所述聚合服务器发送的所述全局模型参数之后,还包括:
根据所述全局模型参数更新所述全局编码器和所述全局投影模块的参数。
5.根据权利要求3所述图像识别方法,其特征在于,根据所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失确定所述本地图像识别模型的模型损失,包括:
对所述监督交叉熵损失、所述差分隐私数据特征对比损失和所述全局特征相似损失进行加权计算,得到所述本地图像识别模型的模型损失。
6.根据权利要求1至5任一项所述图像识别方法,其特征在于,利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,包括:
对所述全局模型参数进行解密得到新的本地模型参数;
根据所述新的本地模型参数对所述本地图像识别模型的本地模型参数进行更新。
7.一种图像识别装置,其特征在于,包括:
数据接收模块,用于接收终端设备上传的第一差分隐私数据和第二差分隐私数据;其中,所述第一差分隐私数据由所述终端设备基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据由所述终端设备基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
训练模块,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;
联邦学习模块,用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器,以便所述聚合服务器进行联邦学习聚合得到全局模型参数;
参数更新模块,用于若接收到所述聚合服务器发送的所述全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练的操作;
图像识别模块,用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果。
8.一种图像识别系统,其特征在于,包括:
终端设备,用于将第一差分隐私数据和第二差分隐私数据发送至本地服务器;其中,所述第一差分隐私数据基于第一隐私预算对原始图像数据执行隐私加密操作得到,所述第二差分隐私数据基于第二隐私预算对所述第一差分隐私数据执行隐私加密操作得到;
本地服务器,用于利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练,并计算所述本地图像识别模型的模型损失;还用于将所述本地图像识别模型的本地模型参数和模型损失发送至聚合服务器;还用于若接收到所述聚合服务器发送的全局模型参数,则利用所述全局模型参数更新所述本地图像识别模型的本地模型参数,并进入利用所述第一差分隐私数据和所述第二差分隐私数据对本地图像识别模型进行训练的操作;还用于若接收到图像识别任务,则将所述图像识别任务对应的图像输入所述本地图像识别模型,得到图像识别结果;
聚合服务器,用于根据多个所述本地服务器的本地模型参数和模型损失进行联邦学习聚合得到所述全局模型参数,并将所述全局模型参数发送至所述本地服务器。
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如权利要求1至6任一项所述图像识别方法的步骤。
10.一种存储介质,其特征在于,所述存储介质中存储有计算机可执行指令,所述计算机可执行指令被处理器加载并执行时,实现如权利要求1至6任一项所述图像识别方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311127997.2A CN116863309B (zh) | 2023-09-04 | 2023-09-04 | 一种图像识别方法、装置、系统、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311127997.2A CN116863309B (zh) | 2023-09-04 | 2023-09-04 | 一种图像识别方法、装置、系统、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116863309A true CN116863309A (zh) | 2023-10-10 |
CN116863309B CN116863309B (zh) | 2024-01-09 |
Family
ID=88223723
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311127997.2A Active CN116863309B (zh) | 2023-09-04 | 2023-09-04 | 一种图像识别方法、装置、系统、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116863309B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113850272A (zh) * | 2021-09-10 | 2021-12-28 | 西安电子科技大学 | 基于本地差分隐私的联邦学习图像分类方法 |
US20220108226A1 (en) * | 2020-10-01 | 2022-04-07 | Nec Laboratories America, Inc. | Voting-based approach for differentially private federated learning |
CN114547658A (zh) * | 2022-03-02 | 2022-05-27 | 深圳前海微众银行股份有限公司 | 数据处理方法、装置、设备及计算机可读存储介质 |
CN114612715A (zh) * | 2022-03-08 | 2022-06-10 | 西安电子科技大学 | 基于本地差分隐私的边缘联邦图像分类方法 |
CN115841133A (zh) * | 2022-12-13 | 2023-03-24 | 成都卫士通信息产业股份有限公司 | 一种联邦学习方法、装置、设备及存储介质 |
CN115952533A (zh) * | 2022-11-18 | 2023-04-11 | 湖南科技大学 | 一种基于差分隐私的个性化联邦学习、识别方法及系统 |
WO2023092792A1 (zh) * | 2021-11-29 | 2023-06-01 | 深圳前海微众银行股份有限公司 | 联邦学习建模优化方法、电子设备、存储介质及程序产品 |
CN116341636A (zh) * | 2023-01-10 | 2023-06-27 | 浙江大学 | 联邦学习方法、设备、系统和存储介质 |
-
2023
- 2023-09-04 CN CN202311127997.2A patent/CN116863309B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20220108226A1 (en) * | 2020-10-01 | 2022-04-07 | Nec Laboratories America, Inc. | Voting-based approach for differentially private federated learning |
CN113850272A (zh) * | 2021-09-10 | 2021-12-28 | 西安电子科技大学 | 基于本地差分隐私的联邦学习图像分类方法 |
WO2023092792A1 (zh) * | 2021-11-29 | 2023-06-01 | 深圳前海微众银行股份有限公司 | 联邦学习建模优化方法、电子设备、存储介质及程序产品 |
CN114547658A (zh) * | 2022-03-02 | 2022-05-27 | 深圳前海微众银行股份有限公司 | 数据处理方法、装置、设备及计算机可读存储介质 |
CN114612715A (zh) * | 2022-03-08 | 2022-06-10 | 西安电子科技大学 | 基于本地差分隐私的边缘联邦图像分类方法 |
CN115952533A (zh) * | 2022-11-18 | 2023-04-11 | 湖南科技大学 | 一种基于差分隐私的个性化联邦学习、识别方法及系统 |
CN115841133A (zh) * | 2022-12-13 | 2023-03-24 | 成都卫士通信息产业股份有限公司 | 一种联邦学习方法、装置、设备及存储介质 |
CN116341636A (zh) * | 2023-01-10 | 2023-06-27 | 浙江大学 | 联邦学习方法、设备、系统和存储介质 |
Non-Patent Citations (4)
Title |
---|
YANG, JJ 等: "Transferable face image privacy protection based on federated learning and ensemble models", 《COMPLEX & INTELLIGENT SYSTEMS》, vol. 07, no. 05, pages 2299 - 2315 * |
张舒黎 等: "安全多方计算体系架构及应用思考", 《通信技术》, vol. 54, no. 09, pages 2182 - 2189 * |
茆启凡 等: "基于隐私保护联邦学习与区块链的图像分类方案", 《计算机应用研究》, vol. 41, no. 02, pages 1 - 6 * |
赵宇豪 等: "抗推理攻击的隐私增强联邦学习算法", 《计算机科学》, vol. 50, no. 09, pages 62 - 67 * |
Also Published As
Publication number | Publication date |
---|---|
CN116863309B (zh) | 2024-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110399742B (zh) | 一种联邦迁移学习模型的训练、预测方法及装置 | |
CN110189192B (zh) | 一种信息推荐模型的生成方法及装置 | |
WO2021114931A1 (zh) | 防止隐私数据泄漏的编码模型训练方法及装置 | |
CN105337928B (zh) | 用户身份识别方法、安全保护问题生成方法及装置 | |
CN113435583B (zh) | 基于联邦学习的对抗生成网络模型训练方法及其相关设备 | |
CN112185395B (zh) | 一种基于差分隐私的联邦声纹识别方法 | |
CN112906859B (zh) | 一种用于轴承故障诊断的联邦学习方法 | |
CN113240505B (zh) | 图数据的处理方法、装置、设备、存储介质及程序产品 | |
Xiao et al. | Addressing Overfitting Problem in Deep Learning‐Based Solutions for Next Generation Data‐Driven Networks | |
CN116823428A (zh) | 一种反欺诈检测方法、装置、设备及存储介质 | |
Osia et al. | Privacy-preserving deep inference for rich user data on the cloud | |
CN113033652A (zh) | 一种基于区块链与联邦学习的图像识别系统及方法 | |
CN116957112A (zh) | 联合模型的训练方法、装置、设备及存储介质 | |
CN113792890A (zh) | 一种基于联邦学习的模型训练方法及相关设备 | |
CN116863309B (zh) | 一种图像识别方法、装置、系统、电子设备及存储介质 | |
CN112818868A (zh) | 基于行为序列特征数据的违规用户识别方法和装置 | |
CN116432039A (zh) | 协同训练方法及装置、业务预测方法及装置 | |
CN115174237B (zh) | 一种物联网系统恶意流量的检测方法、装置和电子设备 | |
He | [Retracted] Ideological and Political Teaching Resource Sharing Method Based on Edge Computing | |
CN113010772A (zh) | 一种数据处理方法、相关设备及计算机可读存储介质 | |
CN113259369A (zh) | 一种基于机器学习成员推断攻击的数据集认证方法及系统 | |
CN108830103B (zh) | 一种自动化生成用户隐私策略的方法及其装置、手持设备 | |
CN114004265A (zh) | 一种模型训练方法及节点设备 | |
CN113946758B (zh) | 一种数据识别方法、装置、设备及可读存储介质 | |
CN117555905B (zh) | 一种业务处理方法、装置、设备、存储介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |